人工智慧 AI AI監管 資料隱私 安全

平衡創新與安全挑戰 世界首部AI管理法案引領新標準

全球呼籲合理監管AI 歐盟人工智慧法率先上路

2024-10-24
人工智慧(AI)具備預測和自動化功能,可實現運作最佳化、資源分配和個人化應用。然而,AI帶來的效益亦伴隨著人們對潛在濫用的擔憂。這個潛在風險必須加以解決,以保障公眾安全,同時提升大眾對這項革命性技術的信任。

人工智慧(AI)的飛速發展令人咋舌,在許多方面均取得重大突破,並為各行各業帶來巨大的經濟和社會效益。AI具備預測和自動化功能,可實現運作最佳化、資源分配和個人化應用。然而,AI帶來的效益亦伴隨著人們對潛在濫用的擔憂。這個潛在風險必須加以解決,以保障公眾安全,同時提升大眾對這項革命性技術的信任。為確保AI的開發與部署符合社會價值觀、安全準則及道德標準,相關法規的制定和完善顯得至關重要。

AI監管的考量

對於政府是否應涉入AI法規制定,一直存在著爭議。支持嚴格監管的人士指出,這是讓消費者能安心使用AI工具的關鍵。反對者則擔心,這些法規將對缺乏跨國科技巨頭資源的小公司造成不利影響。隨著技術快速創新,AI演算法不僅越來越複雜,也被嵌入到形形色色的產品中,這場爭論也愈演愈烈。在此情況下,監管機構很難找到一個可兼顧各方利益的框架,在不阻礙創新的情況下敦促負責任AI的發展。

社會考量

AI對就業、教育和社會平等具有重大影響。有鑑於此,相關法規應確保AI演算法能夠控制並減輕負面影響,例如因自動化導致的工作流失、推動技能再培訓計畫、確保AI技術的公平存取,最終在社會價值觀和人類決策方面促成公平性。

法規可在AI開發過程中強制落實道德標準,確保AI系統的設計具有公平性、可問責性和透明度,包括消除AI演算法的偏差、防止濫用,進一步確保AI尊重人權和價值觀。此外,我們還需要可監督或限制AI系統開發和部署的法規,因為這些系統可能造成危害,例如入侵式監控技術,或是可能破壞民主進程的工具。

資料隱私和安全考量

由於AI系統通常依賴內含個人資訊的大型資料集來維持運作,因此相關法規有助於保護個人資料和隱私。它們可強制落實資料保護標準、同意要求和資料使用限制,確保AI不會侵犯個人隱私權。

法規是確保AI系統安全性的一道重要防線,可針對AI穩健性和可靠性制定準則,以便將發生故障或意外後果的風險降到最低。在醫療保健、交通運輸(如自動駕駛汽車)以及金融等關鍵領域,這一點尤為重要,因為AI失靈可能導致嚴重後果。

創新與協作考量

AI是跨國界技術,而法規在促進國際合作和標準發展方面,發揮著關鍵作用。全球創新協作可克服AI安全性等全球性挑戰、確保AI系統的互通性,並且控管AI對全球勞動市場的影響。

法規還可實現公平的競爭環境,以鼓勵良性競爭和創新,同時增進公眾對AI技術的信任。藉由訂定明確的標準,法規可減少阻礙AI投資與發展的不確定性。信任是AI技術被廣泛採用的關鍵,而法規則是向使用者確保AI系統安全性和可靠性的基石。

新的全球AI監管標準蓄勢待發

2024年2月,歐盟(EU)27個成員國一致通過了《人工智慧法案》(AI Act),這是全球第一個完整的AI法案。《人工智慧法案》針對AI制定的廣泛定義,適用於各種實體,包括AI系統的供應商、部署者、進口商和經銷商。這項法案將採用基於風險的分類系統,讓法律能夠隨著AI技術的發展而不斷演進。大多數系統都歸類於低風險類別,但所有系統都須在使用過程中承擔重大的程序和透明度義務。

這項新法案還禁用被視為具有「不可接受風險」的AI系統,這些風險會對人類造成威脅,包括使用潛意識技術來影響行為,或針對特定群體的弱點進行攻擊。「高風險」類別適用於5%至15%的AI系統,其承擔《人工智慧法案》中大部分的義務,包括受歐盟安全法規監管的安全元件和產品,以及支援公共和民營機構應用的獨立AI系統,例如教育和招聘、生物識別、決定基本服務的存取,以及管理關鍵基礎設施和邊境安全。

《人工智慧法案》已於8月正式上路,將逐步在不同風險層級生效。某些特殊案例會在法案通過的早期階段開始執法,例如禁用風險最高的系統會在法案通過6個月後開始實施。通用型AI(GPAI)法規則將於12個月後開始實施。法案生效24個月後,該法案完全適用,但一些高風險AI系統的規則將在生效後36個月適用。

及早做好準備

歐盟希望《人工智慧法案》能夠成為人工智慧全球監管標準。對於準備實施其他不同法規的國家而言,它是個重要的試金石。科技公司應檢視其監管框架,確保它們符合歐盟制定的法規。這些法規將提高公眾對AI的信任度,確保社會和產業能夠持續享受AI技術創新帶來的革命性效益。

<本文作者:Jenn Mullen現為是德科技新興技術解決方案經理>


追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!