陳奕璇／歐盟敲響AI法規第一鐘　人工智慧風險不可不察

▲ 去年12月9日，歐洲議會通過歷時三年的《人工智慧法案》，該法案是全球第一部規範AI的重要法規。（圖／路透）

● 陳奕璇／銘傳大學犯罪防治學系助理教授

去年12月9日歐洲議會及歐盟部長理事會針對《人工智慧法案》（Artificial Intelligence Act, AI Act）達成暫時政治協議。日前歐洲議會針對《人工智慧法案》以523票贊成、46票反對、49票棄權，通過歷時三年的《人工智慧法案》。歐盟《人工智慧法案》作為全球第一部規範AI的重要法規，將會是各國未來對於人工智慧制定法規與治理建置的重要參考方向。

事實上，這部《人工智慧法》是2021年9月提出，該項法案內容主要將人工智慧所造成的安全性風險，分為最小風險（minimal risk）、高風險（high-risk）、無法接受的風險（unacceptable risk）及特定透明度風險（transparency obligations），顯示以AI對人類安全所造成的風險作為制定法規與裁罰之重要評估模式。

人工智慧的威脅

就歐盟《人工智慧法》對風險規範來看，是以危害人類生活由淺至深方向來規劃。其中包含無法接受的風險（unacceptable risk），顯示若透過操縱AI系統影響社會，甚至影響社會公平性等就必須嚴格禁止。《人工智慧法》當中AI系統造成的高風險危害（high-risk），強調因AI造成「扭曲性資訊、生物辨識系統追蹤、或是侵入社會組織」等危害人類基本權益，就必須嚴格管控與限制。但法案內容中，針對造成最小風險（minimal risk）則是可以不受監管，如遊戲市場「生成式AI」以及垃圾信件自動過濾等機制不會有太多限制。

▲ 歐盟設立法規的目的，並非「全面禁止AI」的使用，而是要降低人類在面臨全面自動化時，受到AI自動化操作所帶來的風險災害。（圖／視覺中國）

這是因為歐盟設立法規的目的，是要降低人類在面臨全面自動化時，受到AI自動化操作所帶來的風險災害，其用意並非是「全面禁止AI」的使用。在資訊科技發達的時代，自動化生成或是智慧性工具使用，的確可節省人類時間成本與提升效益。然而，當科技漸進威脅到人類生存空間，人工智慧是否會取代人類就反演變為「不得不思考的問題」。

►►►思想可以無限大－－喜歡這篇文章？　歡迎加入「雲論粉絲團」看更多！

建制與規範角度

因此，國家或組織透過制定法律規範，將有效降低風險性外，亦可強化對公民基本權益的保障。同時，就國家角度而言，保護關鍵基礎設施等同維護國家利益。近年來，大型與零星的網攻不斷，不只竊取他國重要情資外，並透過入侵網路系統癱瘓關鍵基礎設施，如大眾運輸工具、電廠等，都會降低被侵略國的福祉，並危害到民眾生命安全。過去美國德州醫院就曾發生大型網攻其病人個資外洩，而個資外洩即會成為犯罪集團「詐騙」的重要資訊來源。

▲ 個資外洩將會成為犯罪集團「詐騙」的重要資訊來源。（圖／周刊王）

但若能將AI運用在監督、探測與評估風險，並達成公、私部門的合作，等同是「無時無刻」的自動化偵測網路攻擊。去年美國總統拜登在推動AI法規之前，簽署行政命令，就是希望透過將AI自動化評估模式，引入民眾生活當中，並透過自動化監測機制，加強保障人民隱私權。而此種作法，暫時可增強民眾的安全性，但長遠來看，美國勢必會因AI快速發展而更進一步強化治理組織，以應變未來AI所帶來的潛在風險。

世界潮流以及未來趨勢

人工智慧存在的風險性是人類未來必須應對的重要課題。但要如何降低風險，還是必須透過國家角度，採取「由上而下」的法律規範來加強管理，更需要藉由全球治理的角度，建立明確的範疇。歐盟敲響制定AI法規的第一聲鳴響，至於未來如何推進將區域案例推向全球建制，這則必須端看國家行為者對風險認定與評估是否有共識來決斷。

▲ 未來如何推進將區域案例推向全球建制，端看國家行為者對風險認定與評估是否有共識。（圖／視覺中國CFP）

● 以上言論不代表本網立場。歡迎投書《雲論》讓優質好文被更多人看見，請寄editor88@ettoday.net或點此投稿，本網保有文字刪修權。