Deepfake最大的危險　是沒有人再相信真影片

●羅宇恒／企業資深法律顧問

近期政壇因AI深偽（Deepfake）技術再度掀起法律爭議。從韋淳祐以AI合成總統賴清德聲音的宣傳影片，到黃偉哲於記者會中播放AI合成蔣萬安聲音的音檔，雙方陣營相繼赴台北地檢署提出告發，也讓社會開始思考，AI生成政治人物的聲音或影像，究竟是否合法？

AI深偽已不只是科技問題　更涉及資訊安全、民主安全及國家安全

許多人認為，只要影片註明「AI生成」、「內容純屬創作」，應該就不會構成違法。然而，從法律角度而言，事情遠比想像複雜。

首先，台灣目前並沒有一部專門規範所有AI深偽內容的法律，因此AI本身不是犯罪，真正受到法律規範的是利用AI侵害他人權益的行為。也就是說，法院不會因為使用AI而認定違法，而是會回到既有法律體系，依個案判斷是否涉及刑法、民法、個資法或選罷法等規定。

例如，若AI深偽內容足以使一般人誤認某政治人物確實說過某段言論，而該內容又足以貶損其社會評價，可能涉及刑法妨害名譽相關規定；若未經同意利用可辨識個人的臉部特徵或聲音，亦可能涉及個人資料保護法；若發生於選舉或罷免期間，並具有影響投票結果的意圖，則可能進一步涉及《公職人員選舉罷免法》散布不實事項等規範。

因此，「影片有標示AI生成」並不是法律上的免責條款。它最多只能作為法院判斷行為人是否具有欺騙意圖、一般閱聽人是否容易受誤導，以及損害程度大小的參考因素，而非當然排除法律責任。

法律真正關心的是另一個問題：這段內容是否足以讓一般理性閱聽人誤認為，當事人真的曾經說過這些話？這也是Deepfake與傳統政治諷刺最大的差異。

過去漫畫、卡通、模仿秀或政治諷刺節目，大多透過誇張表演讓觀眾知道內容屬於創作。然而，AI深偽技術可以高度模擬一個人的聲音、嘴型、語調及表情，使虛構內容具有極高真實感。法律上，這涉及人格權保護中的人格同一性問題，也就是任何人都不應在未經同意下，被他人利用科技技術「說出從未說過的話」。

從民法人格權角度來看，人的姓名、肖像、聲音及人格特徵，都受到法律保障。即使政治人物因公共職務而必須承受較高程度的公共評論，也不代表任何人都可以任意利用AI替其創造不存在的言論。民主社會保障言論自由，但言論自由並不包括虛構他人發言內容的自由。憲法保障言論自由，同時也保障人格權與名譽權，兩者之間必須透過比例原則取得平衡。

此外，Deepfake所衍生的法律問題，已不再只是個人權利侵害，更涉及民主制度的正常運作。近年最高檢察署已兩度將生成式AI及Deepfake列為選舉查察重點，並要求各地檢署建立重大假訊息處理機制，正是因為AI生成內容已可能影響人民對公共資訊的判斷。民主制度建立在人民能夠依據真實資訊形成政治意志的前提下，若大量AI深偽內容混入公共討論，使民眾無法辨別真偽，即可能侵害民主程序的完整性（integrity of democratic process）。

從比較法來看，歐盟《人工智慧法》（AI Act）已要求部分AI生成內容應符合透明性義務，美國各州亦陸續制定選舉期間Deepfake規範，目的都不是禁止AI，而是降低AI對民主程序及資訊信賴的危害。

值得注意的是，Deepfake未來甚至可能超越名譽權及選舉法的範圍，而進一步演變為國家安全議題。試想，若有人利用AI深偽技術偽造總統宣布戒嚴、行政院發布重大政策、中央銀行宣布金融措施、國防部發布軍事命令，甚至假冒外交官宣布國際衝突，即使相關機關在短時間內完成澄清，也可能已造成股市劇烈波動、金融市場恐慌、社會秩序混亂，甚至影響國際社會對台灣的判斷。

因此，AI深偽已不只是科技問題，更涉及資訊安全、民主安全及國家安全。未來台灣除了持續完善Deepfake相關法律外，也應建立更完整的數位證據鑑識機制、AI內容標示制度、跨平台快速下架程序，以及跨機關即時查證與澄清機制。同時，也應提升全民媒體識讀能力，使民眾具備辨識AI內容、交叉查證資訊來源的能力。

AI可以創造從未存在的聲音與影像，但法治社會不能因此失去對真實的信任。真正需要守護的是，人民相信公共資訊、相信民主程序、相信國家制度的能力。

▼《萊爾校長製作團隊》、《風向株式會社》發布725上凱道反毒油前導影片。（圖／翻攝自Facebook／凌濤）

►思想可以無限大－喜歡這篇文章？　歡迎加入「雲論粉絲團」看更多！

●以上言論不代表本網立場。歡迎投書《雲論》讓優質好文被更多人看見，請寄editor88@ettoday.net或點此投稿，本網保有文字刪修權。