▲ 隨著AI技術的進步，人工智慧能夠生成高度逼真的文本、圖像和音訊內容，這引發了一系列關於其在選舉中可能被濫用的擔憂。（示意圖／CFP）
● 蔡鎤銘／淡江大學財務金融學系兼任教授
生成式AI技術的不斷發展對政治和選舉過程產生了潛在的重大影響。隨著AI技術的進步，人工智慧能夠生成高度逼真的文本、圖像和音訊內容，這引發了一系列關於其在選舉中可能被濫用的擔憂。本文將探討生成式AI可能對美國大選產生的影響，並討論監管此技術的必要性。此外，即將在2024年舉行的台灣總統選舉中是否會出現類似情況的疑慮也一併提出，以利讓大家關注保護選舉過程的議題。
生成式AI的威脅
生成式AI，尤其是基於深度學習的模型，已經在多個領域展現出了驚人的創造力。然而，這一技術的廣泛應用也帶來了一些不容忽視的潛在問題。在政治和選舉領域，生成式AI可能會被濫用，對選舉過程和政治環境產生負面影響。
1. 假新聞和謠言的傳播
生成式AI可以輕鬆生成逼真的新聞文章、社交媒體發文和網路文章。這意味著惡意行為者可以使用AI來創造假新聞、虛假謠言和誤導性資訊，然後將其傳播到公眾。這種虛假資訊的廣泛傳播可能會混淆選民，影響他們的投票決策，從而干擾選舉的公正性。
▲ 生成式AI可以輕鬆生成逼真的新聞文章、社交媒體發文和網路文章。（圖／路透）
2. 偽造候選人演講和視頻
生成式AI還可以用來偽造候選人的演講和影片。它可以模仿候選人的聲音和外貌，製作看似真實的演講和廣告。這可能導致選民誤以為候選人發表了他們從未說過的言論，破壞了選民對候選人的信任。
3.針對選民的定向宣傳
生成式AI還可用於創建高度個性化的政治廣告，以針對特定選民。通過分析個人資料，AI可以生成具體針對性的廣告，以滿足不同選民的需求和偏好。這可能導致選民陷入資訊「過濾泡沫」，只看到與他們現有觀點一致的資訊，而忽視了其他資訊。
►►►思想可以無限大－－喜歡這篇文章？ 歡迎加入「雲論粉絲團」看更多！
美國大選的情景
雖然2020年的選舉時尚未出現大規模的生成式AI濫用例子，但在社交媒體和線上環境中仍然存在虛假資訊和操縱性內容的傳播，這些問題引起了廣泛的關注。在數字時代，保護選舉的公正性和透明度變得尤為重要，因此未來對於生成式AI濫用的擔憂仍然存在。
▲ 美國聯邦選舉委員會已經著手監管生成式AI在政治廣告中的使用。（圖／翻攝美國聯邦選舉委員會）
美國聯邦選舉委員會（FEC）已經著手監管生成式AI在政治廣告中的使用，這是一個積極的跡象。此舉旨在防止使用欺騙性AI生成內容來影響選民的決策。這表明政府和監管機構認識到了生成式AI可能對選舉過程的透明度和公正性構成的威脅。
然而，生成式AI技術的應用不僅侷限於政治廣告，它還可以用於製作虛假視頻、音訊和文本。這些虛假內容可能會在社交媒體上廣泛傳播，導致選民受到誤導。雖然一些社交媒體平台已經採取了措施來打擊虛假資訊，但生成式AI技術的不斷發展使虛假內容更加難以辨別。
對於未來，我們必須密切關注生成式AI技術的發展，並思考如何在選舉過程中有效監管和防範潛在的濫用。這個問題不僅關乎美國大選，也涉及到全球範圍內的選舉，包括即將舉行的台灣大選。台灣作為一個民主國家，同樣須關注生成式AI可能對選舉過程造成的影響。雖然尚無大規模濫用的跡象，但我們必須保持警惕，確保選舉的公平和透明，以確保民主制度的穩定和健康發展。
● 以上言論不代表本網立場。歡迎投書《雲論》讓優質好文被更多人看見，請寄editor88@ettoday.net或點此投稿，本網保有文字刪修權。
我們想讓你知道…在數字時代，保護選舉的公正性和透明度變得尤為重要，因此未來對於生成式AI濫用的擔憂仍然存在。