● 徐子涵／開放知識基金會台灣代表
人工智慧（AI）和演算法誤用，導致大規模侵害個人權利之事，在很多國家並非罕見。人工智慧為新興科技，卻又必須結合既有的市場才能發揮科技樂觀者認為之最大綜效。然而台灣過去討論人工智慧一向以產業發展和促成製造業流程自動化為主要標的，人工智慧遭致濫用的場景，本可藉了解國外其他侵害事件來學習。不過這次換臉A片本質讓公眾人物瞬間警覺 AI 的威力，卻是促成正視誤用、濫用和目的外利用（re-purpose）的最糟案例。
「換臉」謎片傳播容易
藉由 AI 置換公眾人物的臉為情色片主角，有其技術上之難度，但在使用者端的傳播卻是簡單的。首先公眾人物的人臉素材取得方便，而且影像品質通常很高。社群媒體時代，台灣的公眾人物樂於自拍影片上傳網路平台，而這些高畫質影片，就成了技術團隊和業者訓練人工智慧模型的最佳「內容農場」。
▲公眾人物所拍攝的高畫質社群影片，便成為技術團隊和業者訓練人工智慧模型的最佳「內容農場」。（圖／達志／示意圖）
這些內容的搜集是第一個要注意的，因為只有畫質很差的大頭像，也很難拿來置換作為「入目」的影片。因此，公眾人物的人臉影像和影片是否在平台上能被無差別的搜集和利用？這就回到了個人資料和人格權的保障範疇。人臉影片是否應該視為個人資料？其是否為本國「人格權」應為保障之標的？這是討論的第一個切入點。
▲如何保護未來潛在的公眾人物？這在立法技術與資訊技術上都是窒礙難行。（示意圖／達志影像）
第二個是，如果目前尚未成為公眾人物，但未來是，那麼他／她的人臉影片是否應該有某種程度的保障？合理的推論應該是有的，例如未成年的少女這個族群的人臉影片，理應事先關注。此外，我們很難預測十年後你我誰會成為公眾人物，只保護現在的公眾人物，這在立法技術上和資訊技術上同樣是窒礙難行。
再來是，「目的外利用」這個極難解決的課題。試想，因為科技防疫的緣故，很多企業導入了可以扣連人事資料的影像識別技術，除了測量體溫之外，也可以直接串連人事資料。這在「安防」產業尤其盛行。但在勒索病毒和網路攻擊普遍的年頭，台灣一般產業的資訊安全整備，是否能保護這些牽涉到人臉的資料不被外流甚至遭致離職員工攜出？從過去詐騙集團犯罪的歷史來看，這是很難樂觀的。當一個高畫質影片的資料庫外流時，圖謀不軌的團隊，自然可以先將這些數據儲存，以供未來的目的外使用，甚至是待價而沽，打包賣出。
AI只會做好事？
此次因為是涉及名譽和敏感的情色影片，讓這個難以啟齒的議題「一砲而紅」。能接合人臉到特定情色工作者的技術，是有難度，而且大規模部署這個技術，有諸多的門檻。但和網路技術過去普及的歷史一樣，這技術的普及會有境外或境內的平台提供「解決方案」，而這些獲利極高的平臺，不必然是你我平常會用的社群平台。在「產製端」，或許只要你有一段高畫質段片其影像品質能滿足這個平台演算法置換人臉的運算條件，那麼這些平台就會有人使用，而且會有後續的「商機」。
▲網紅小玉疑涉賣變臉不雅片，引發輿論譁然。（圖／記者黃彥傑攝）
對台灣社會來說，在急於立法之前要做的應該是了解上述環節，包含人臉數據無差別的搜集、儲存、製作、再應用、目的外利用，結合娛樂傳播等。在尊重人權的國度，目前已經嘗試直接禁止大規模自動化的人臉和辨識之搜集行為和服務。人工智慧猶如這個網路時代的原子能，在我們的社會遭致第一波的影響之際，不妨想想其本質和界線如何用法律和人權保障的觀點看待之。
▲英國電視台以「深偽」（deepfake）電腦合成技術製播搞笑版女王耶誕文告影片。（圖／翻攝自YouTube／Channel 4、The Royal Family）
人工智慧只會做好事的年代，早就已經過去了。未來人臉接合的影片，搞不好會出現在選舉。當人們急於消費社群媒體的同時，如果看到30秒的政治人物發言影片做出反應，但事後才被發現，原來是 AI 換臉得來的，那麼這件事對於民主和人權的威脅，我們現在就設想得到。立法態度和技術面要處理的問題，必須嚴肅謹慎。
熱門點閱》
► 朱楚文／釐清個人投資「技能樹」 是投資小白關鍵「第一課」
► 孫維德／新加坡、英國政府主動出擊 推動國家金融科技能力發展
● 以上言論不代表本網立場，歡迎投書《雲論》讓優質好文被更多人看見，請寄editor88@ettoday.net，本網保有文字刪修權。
我們想讓你知道…人工智慧只會做好事的年代，早就已經過去了。