【小玉換臉謎片】盜臉色情謎片網路流傳 專家爆下架方式

新聞節目中心/綜合報導

我的臉被盜用製作成Deepfake色情片該怎辦?26日在ETtoday新聞雲《行動法庭》節目上,台科大資管系主任查士朝教授指出,國際間已發展出PhotoDNA機制,當人們發現自己被偷拍或有猥褻畫面流竄,可以請警方找國際單位協助處理,讓不當資訊從網路下架。數位女力聯盟理事律師張琬平則建議,NCC在《數位通訊傳播法》草案和《網際網路視聽服務管理法》草案(簡稱OTT專法)可將數位性暴力納入規範,參考歐盟作法,課予平台業者快速下架、證據保存等法律責任。

Deepfake影片幾可亂真 細看仍有瑕疵

知名百萬網紅Youtuber小玉(本名朱玉宸)涉嫌經營「台灣網紅挖面」Telegram群組,濫用AI技術Deepfake技術,製作成名人換臉色情片牟利,受害人數高達上百人!

台科大資管系主任查士朝教授指出,現在要製作Deepfake影片相當容易,人們可以在網路上找到Deepfake lab釋出的開源程式,不用付費就能下載。將檔案解壓縮後,將想轉換的原始檔案跟想換臉的目標檔案,放到下載檔案,按照教學包的步驟走,就能生成Deepfake影片。

台科大資管系主任查士朝教授指出,現在要製作Deepfake影片相當容易,人們可以在網路上找到Deepfake lab釋出的開源程式,不用付費就能下載。

查士朝教授在節目上,當場示範用Deepfake技術,將自己的臉換到特斯拉執行長馬斯克的演講影片。查士朝說明,即便Deepfake影片看起來很逼真,但若仔細看,仍能看到細微瑕疵。因為Deepfake的特性是抓住人的臉部特徵,對應到要換臉的影片上,因此若是臉部有戴眼鏡,在人臉轉頭時,會看到眼鏡架沒接到耳朵上而產生「空隙」。

盜臉製作色情片罰太輕 牟利應加重刑度

小玉被爆出換臉群組的幕後主謀後,身為受害人的民進黨籍立委高嘉瑜、高雄市議員黃捷25日開聯合記者會,宣布已和其他受害網紅和實況主已組成35人群組,研議共同對小玉提告、求償。

數位女力聯盟理事張琬平律師表示,小玉盜用公眾人物的臉製作成色情片,已觸犯《刑法》第310條第2項加重誹謗罪和第235條散布猥褻物品罪。

在散布猥褻物品罪部分,張琬平指出,過去大法官曾做出第617號解釋,明定「猥褻」的定義,若屬於暴力、性虐待、人獸交等無藝術、醫學、教育性的資訊,且在散布時沒有採取適當隔絕措施,就會構成散布猥褻物品罪。

張琬平律師解釋,將他人的臉合成為色情影片有貶損他人名譽,符合誹謗罪的構成要件,最重可判2年有期徒刑。但如果換臉影片的製作者是將影片「一次性」傳給「特定人」,會因為不符合「意圖散布於眾」的要件,而無法適用誹謗罪。

在散布猥褻物品罪部分,張琬平指出,過去大法官曾做出第617號解釋,明定「猥褻」的定義,若屬於暴力、性虐待、人獸交等無藝術、醫學、教育性的資訊,且在散布時沒有採取適當隔絕措施,就會構成散布猥褻物品罪。但如果網站有跳出警示語,告知平台有暴力、色情內容等內容作為分級標示,可能就無法以散布猥褻物品罪處置。

然而,即便小玉的行為構成加重誹謗罪和散布猥褻物品罪,但兩者刑度最重僅2年有期徒刑,張琬平律師建議立法院未來能針對牟利的部分,加重刑度,讓罪責相當。

至於盜臉製成色情片的行為,是否「妨害性自主」?張琬平律師表示,移花接木給女性虛擬被強暴的感覺,這部分也需要靠修法解決。

下架不當影片 有賴國際司法互助

隨科技日新月異,新興網路犯罪層出不窮,若有Deepfake影片出現在網路上,臉書、推特等社群平台業者有無管理責任?

張琬平律師指出,NCC日前推出《數位通訊傳播法》草案和OTT專法草案,規範網路平台業者。未來立法院也可把將數位性暴力納入規範。例如歐盟去年就公布《數位服務法》和《數位市場法》,針對網際網路提供服務者課予平台業者快速下架、證據保存等法律責任。

張琬平律師指出,NCC日前推出《數位通訊傳播法》草案和OTT專法草案,規範網路平台業者。

查士朝教授解釋,臉書等社群平台傾向不去管制Deepfake影片,是因為在網路世界上,Deepfake技術大多是應用在娛樂層面,不論是美圖APP或Face App變老功能,背後都是Deepfake的應用。但Deepfake也被少數不肖人士,拿來作為曲解、造謠、攻擊政敵,或男女朋友報復性分手的工具。

國際間為保障兒少權益,已發展PhotoDNA機制。當兒童被拍攝成色情影片或照片,內容在網路上流竄,可提報該資訊屬「兒少色情」。然後PhotoDNA針對該影片或照片的特徵,讓那些不當資訊不能在網路上架或把它下架。

在台灣,民眾報案後,刑事局會透過司法互動,請國際組織協助,不只是針對兒少性剝削的不當內容,若是成人被偷拍或猥褻畫面流竄,也可以請警方找國際單位協助處理。

國際間為保障兒少權益,已發展PhotoDNA機制。當兒童被拍攝成色情影片或照片,內容在網路上流竄,可提報該資訊屬「兒少色情」。然後PhotoDNA針對該影片或照片的特徵,讓那些不當資訊不能在網路上架或把它下架。

熱門推薦》

► 【司法官養成】考上司法官平均26歲 幾乎無產業工作經驗

► 【杜絕冤案】日本冤案袴田巌被關46年 起訴狀一本主義應配合證據開示制度

► 【屏東挖眼】為何精神病患趴趴走?社區強制治療人力、經費不足

► 【司法官評鑑1】前法評會委員:法官評鑑背後 代表人民對司法「不滿」

歡迎投書《雲論》讓優質好文被更多人看見,請寄editor88@ettoday.net或點此投稿,本網保有文字刪修權。

分享給朋友:

讀者迴響

關注我們

回到最上面