孫維德／AI讓社交詐騙如虎添翼　如何反制？

▲ 詐騙手法不僅限於電信詐欺，更包括複雜的網路攻擊。（圖／Gogolook提供）

● David Stinson（孫維德）／台灣金融研訓院特聘外籍研究員
● 廖珮杏／譯者

生成式AI的流行，連詐騙集團也拿來利用，不用再聘人海量撒餌，透過系統就能以詐騙的話術到處釣魚，那如何利用AI的技術來反制，也值得思考。

過去的「我是奈及利亞親王……」電子郵件大都只是網路上的笑話，很少真正造成威脅。這些詐騙信件都說只要你預付一定的金額，就能得到一大筆金錢。但信件英文寫得實在太蹩腳，有時甚至根本看不懂。「奈及利亞親王」詐騙如字面上所示，大都源自非洲，西方人在巨大的文化差異下很難追出兇手。

騙取信任的社交詐騙最近越來越猖狂，戀愛詐騙也是類似模式，歹徒以更複雜的網路社交行為，引誘受害者交出小錢賺取大錢。這些歹徒大部分位於南亞，卻偽裝成中國人欺騙世界各地，用自己的蹩腳英文也有效果。

社交工程是一種非常複雜的心理操弄過程，而大型語言模型（LLM）似乎讓歹徒的伎倆越加爐火純青。2023年11月在台北舉行的亞洲防詐高峰會（The Global Anti-Scam Asia Summit）重點之一，就是人工智慧在詐騙生態系中的角色。與會者認為未來會先進入一段詐騙猖獗時期，之後才會好轉，詐騙手法不僅限於電信詐欺，更包括複雜的網路攻擊。但高峰會也提出一些新科技的防禦方法，其中一種策略就是以其人之道還治其人之身，用社交工程來攻擊歹徒。

▲ 人工智慧在詐騙生態系中的角色，是去年11月在台北舉行的亞洲防詐高峰會的一大研討重點。（圖／Gogolook提供）

►►►思想可以無限大－－喜歡這篇文章？　歡迎加入「雲論粉絲團」看更多！

詐騙潮到來

大型語言模型不僅能夠幫歹徒隱藏自己的所在地，更能自動打電話或寫信，處理大量的回絕和重複性工作。這個產業更加成熟之後，大型語言模型可能會取代詐騙過程中的邊緣打工仔，不用再聘人海量撒餌，只需要讓精明的騙徒處理上鉤的肥羊。最近的報告顯示，除了那些精通心理陷阱的騙徒以外，詐騙團隊通常還會設立一整個部門去導入人工智慧，就像是一般公司在做的數位升級部門。

去年12月，一種功能介於ChatGPT 3.5和4.0之間的開源模型Mistral發布之後，世界已經確定人工智慧無法強制監控，之前一度萌生的理想已經徹底破滅。從現在開始，所有應對人工智慧威脅的方式，都是築好防線。

目前的大型語言模型無法真正掌握心理操控能力，或讓詐騙集團操作的「殺豬盤」系統完全自動化。這些AI模型確實有情緒智慧，可以根據對方的談話語氣做出反應。這種強性的對話互動對心理治療很有用，但對詐騙幫助卻不大，畢竟詐騙除了需要同理，更需要之後的誘導設套。幸好正派的人工智慧開發者，至今都還沒有特別花時間訓練語言模型如何騙人。

▲ 目前的大型語言模型無法真正掌握心理操控能力，或讓詐騙集團操作的「殺豬盤」系統完全自動化。（圖／取自Pixabay）

但這對歹徒而言不是多大的障礙，只要把自己的要求輸入AI程式中，語言模型就會以歹徒想要的方式接觸受害者。社交工程的策略之一，就是傳統資安領域經常處理的偽裝身分。進行網路釣魚的歹徒，一開始會研究Linked In這類網站上的公開資料，假扮成某人跟公司的真人接洽。接著再用勒索軟體做下一步，以精細的社交工程來加強說服力。當歹徒知道你公司的真實財務狀況，要讓你支付贖金就更容易。你公司的內部資訊，都可以從各種駭客管道獲得，更重要的是，詐騙的每一個步驟都可以自動化。

用機器人耗光歹徒的時間？

參與高峰會的執法機構表示，如今釣魚郵件的品質已經顯著提升，那些語法錯誤、背景牽強的郵件早已消失。可想而知，不久之後就會出現一堆詐騙機器人，能夠一直待在線上，用語音和影像聯絡受害者。詐騙歹徒正在挖掘這種經濟模式的潛力，相關詐騙也持續在全球化；國際刑警組織2023年12月8日宣布破獲的一起案子，就是亞洲、南美洲、非洲等地區的跨境人口販賣。

資安通常是一種不對稱戰爭，歹徒只需得手一次就算成功，守軍永遠無法放鬆警戒。尤其生成式人工智慧的誕生，例如2022年開始風靡全球的大型語言模型，顯然有助於詐騙集團攻擊，機器學習中的分類（Classification）則較適合防禦。然而最近的人工智慧發展，絕大多數都集中在生成式人工智慧，詐騙行為的複雜度和影響範圍也迅速擴大。在這種情況下，防守方該如何爭取喘息時間？

▲ 資安通常是一種不對稱戰爭，歹徒只需得手一次就算成功，守軍永遠無法放鬆警戒。（圖／NCC提供）

與會者提出好幾種利用生成式人工智慧來防禦的好點子，包括所謂的逆向社交工程。紐西蘭Netsafe網路安全長Sean Lyons介紹了該公司打造的一個專門攻擊詐騙者的機器人「Re:scam」，當民眾檢舉詐騙郵件，機器人就會接手幫忙寄信，寫一堆垃圾話去浪費歹徒的時間。其實這種策略早在過往的「詐騙陷阱」（Scambaiting）出現，例如「奈及利亞親王」詐騙時代就有很多人刻意假扮成受害者，引誘歹徒上當之後發狠惡整。

Netsafe公司的Re:scam機器人可以長時間與歹徒對話，甚至指責對方是機器人。根據該公司的統計結果，機器人浪費了詐騙者5年的時間，並幫助紐西蘭警方收集詐騙集團的策略、工具、步驟。

這種防禦性社交工程的優勢，就是不需要強大的心理操弄能力，機器人只要忠實回應歹徒設定的基調，就可以一直浪費歹徒的時間。人工智慧一定可以把這種科技發展得更加精密，它本質上是一種陷阱（Honey Pot），專門用來吸引惡意攻擊，只是加上了社交工程的技術而已。生成式人工智慧也許可以製造越來越逼真的誘餌，讓歹徒煩不勝煩，畢竟再強大的歹徒也是人，不可能浪費大筆時間與胡鬧者周旋。

▲ 機器人可以幫助警方收集詐騙集團的策略、工具、步驟。

AI變身私人秘書幫忙阻詐

人工智慧也可以直接整合到各種平台中，帶來更穩固的防詐能力。「Gogolook走著瞧」執行長郭建甫認為AI可以成為私人秘書，該公司共同舉辦本次高峰會，也開發了反詐騙軟體Whoscall，凝聚社群力量檢舉陌生來電號碼及封鎖騷擾詐騙，同時在聽到電話中發現可疑模式時提醒使用者。

人工智慧和雲端運算結合之後，也能發展出許多新功能，例如幫忙個人與企業的雲端化。此外，在企業使用的第三方服務越來越多時，人工智慧也可以幫忙指出哪些環節容易被歹徒侵入存取（Attack Surfaces），進而有效守護資安。

共同舉辦本次高峰會的全球防詐聯盟（Global Anti-Scam Alliance, GASA）總經理Jorij Abraham則提醒，在客戶認證過程（KYC）逐漸強化的過程中，需要一些「適當的摩擦」，拖慢金融科技等領域的連通與涵容速度，甚至破壞目前的成果；但隨著各種威脅不斷增長，人們將了解這是必要的犧牲。

人工智慧的軍備競賽勢必到來。歐盟最近通過了《人工智慧法案》（AI Act），是全球第一個訂立人工智慧法的地方。目前各種受到監理的活動，顯然都會受到人工智慧的衝擊。但在詐騙方面，與其試圖阻止機器具有詐騙能力，不如直接製造能夠騷擾歹徒的應用程式。雖然人們目前還在討論應該主動攻擊詐騙過程的哪些環節，但只要不斷實驗，成果應該都相當可期。當然，詐騙與反制永遠是競速遊戲，歹徒不可能坐以待斃。

▲ Gogolook執行長郭建甫認為AI可以成為私人秘書防堵詐騙。（圖／Gogolook提供）

● 本文獲授權，轉載自「台灣銀行家」。以上言論不代表本網立場。歡迎投書《雲論》讓優質好文被更多人看見，請寄editor88@ettoday.net或點此投稿，本網保有文字刪修權。