人工智能正在改變這個世界，但是我們將被帶往哪個方向令人不安。2024年2月16日，科技界再次被這一技術的新進展攪動。繼推出開啟人工智能技術新浪潮的聊天機器人ChatGPT之后，OpenAI又發布首個文字生成視頻模型Sora，目前可以基于文本直接輸出60秒的視頻，足以模糊真實和虛構的界限，再次激起全球熱議。
同一天，在德國舉行的慕尼黑安全會議（MSC）上，20家人工智能相關行業公司簽署自愿協議，承諾打擊這一新技術生成欺騙性信息擾亂全球選舉。
據聯合聲明，簽署方包括了這一領域的主要玩家，比如人工智能模型公司OpenAI、Anthropic和谷歌等，以及可能幫助其傳播的社交媒體平臺，比如TikTok 、X，以及Facebook和Instagram的母公司Meta等。
值得注意的是，另一個流行的人工智能圖像生成器公司Midjourney缺席。截至發稿，這家總部位于舊金山的初創公司沒有立即回應媒體置評請求。

迄今簽署協議的相關公司名單。
2024年是前所未有的選舉年，40多個國家的40多億人將參加投票。據咨詢公司Anchor Change的數據，今年全球預計將舉行至少83場大選，這是至少未來24年內最大規模的選舉年。

最近幾周，孟加拉國、巴基斯坦和印度尼西亞等地民眾都參加了投票，美國、俄羅斯、烏克蘭、歐洲議會、印度等地也將陸續舉行大選。
為了防止人工智能新技術生成的虛假信息被用于政治目的，上述20家公司做出8項具體承諾，這包括：合作開發相關開源工具，以減少涉及選舉的欺騙性人工智能生成內容；設法檢測此類內容的在線傳播情況；推動教育活動，提高公眾防范意識和媒體素養等，以培養跨行業抵御此類內容的能力等。
不過，協議承諾的模糊性和缺乏強制約束力被批評者詬病。
美國“兩黨政策中心”選舉項目高級副主任奧雷 (Rachel Orey) 認為協議措辭“并不像人們想象中那么強烈”。
非政府組織“公共公民”執行副總裁吉爾伯特（Lisa Gilbert）表示協議力度“還不夠”。她認為為了避免潛在問題，人工智能公司應該在實質性和充分的保障措施到位前，“抑制技術”發展速度，最新發布的文生視頻模型令她尤其擔憂。
然而，OpenAI的合作伙伴微軟則認為在技術進步這一議題上，我們面臨的“最基本挑戰不在技術本身，而是人性”。微軟公司總裁布拉德·史密斯在一份聲明中稱，總體上來看，最新協議的承諾提高了行業的檢測和響應能力，將使不良行為者更難使用合法工具制造誤導性內容。
前Facebook數據科學家艾倫（Jeff Allen）對美聯社表示協議是“積極的一步”，但他仍然希望社交媒體公司采取其他行動來打擊錯誤信息，比如建立不把用戶參與度放在首位的內容推薦系統。
歐盟委員會副主席朱羅娃（(Vera Jourová）在慕尼黑安全會議上指出，雖然這個協議并不全面，但它包含了“非常有影響力和積極的元素?！彼€敦促政界人士承擔起責任，不要以欺騙性方式使用人工智能工具。
人工智能干預選舉的現象已經出現。
在美國，上個月新罕布什爾州初選中投票期間，有選民稱接收到了模仿美國總統拜登聲音的人工智能機器人電話，勸阻他們不要投票。這引發了監管和法律的抵制，美國一些州立法者正在起草法案來規范人工智能生成的政治內容。
在歐洲，2023年11月斯洛伐克大選前幾天，人工智能生成的錄音冒充一名候選人，討論提高啤酒價格和操縱選舉的計劃。錄音在社交媒體上傳播后，引起當局核查。
政客也開始嘗試用這項技術與選民溝通。上周巴基斯坦舉行國民議會選舉，該國兩個前總理伊姆蘭·汗以及納瓦茲·謝里夫雙雙宣布勝選。正在監獄中的伊姆蘭·汗還使用人工智能制作的“真人講話”視頻宣布勝利消息，引發外界關注。自入獄以來，伊姆蘭·汗一直用人工智能合成信息與選民溝通。
對于不斷推陳出新的這一新技術進展，OpenAI的最大競爭對手Anthrophic表示，人工智能新技術的應用充滿了驚喜和意想不到的影響，“我們預計2024年人工智能系統將會出現令人驚訝的用途，這些用途將是開發人員沒有預料到的?！?