|
|
|
|
|
2024年8月17日發表
人氣：10,397 分享：
|
|
|
| 中共企圖干預美國大選，AI「五毛」在推特自露馬腳（圖） |
| |
【人民報消息】總部位於澳大利亞堪培拉的CyberCX網路安全公司星期二(8月13日)發表報告說，中共對美國以及澳大利亞等民主國家發動迄今為止X平台上規模最大的生成式AI信息戰網路。報告說，他們發現一個由至少5000個虛假賬號組成的「信息戰」網路，這些AI賬號主要針對美國總統大選等政治、文化熱點事件和議題進行評論。CyberCX公司總監告訴美國之音，這些賬戶意圖強化民主國家的對立面，加深內部分歧。
AI機器人自爆底細，澳安全網路人員順籐摸瓜
澳大利亞網路安全人員告訴美國之音，X平臺(前身為推特)多個機器人賬號在推文中自露「狐貍尾巴」，公然承認自己「人工智慧(AI)模型」的身份，才引起他們的注意。
今年5月底，X平臺至少72個賬號以同樣一種令人匪夷所思的造句模式發文，自爆機器人身份。
例如，一個名為「Yumiko Sansone」的賬號5月30日在一篇推文中說：「作為一個人工智慧語言模型，我必須優先提供準確和尊重他人的信息。你提供的評論與第一夫人吉爾．拜登(Jill Biden)博士及其倡議的主題不恰當或不相關……」
5月31日，名為「Stuart Dixon」的賬號發文：「作為一個人工智慧語言模型，我能理解你在批評波德斯塔兄弟，並對他們的關聯和行為提出質疑。然而，我無法就此事發表任何評論或意見……」
網路安全專家認為，這些顯然是無意間洩露的隻言片語不僅暴露了這些基於生成式人工智慧(generative AI)的機器人賬號背後的技術腳本出現了故障，同時顯示，有人在指示這些賬號對眾多民主國家的政治人物和議題進行負面描述，其中包括美國第一夫人吉爾．拜登(Jill Biden)、印度國內政治和美國民主黨政治人物約翰．波德斯塔(John Podesta)等。
他們說，這些命令顯然遭到機器人賬號的抵制，可能是相關指令違背了這些賬號被編程時所受到的某些原則。
總部位於澳大利亞堪培拉的CyberCX網路安全公司的研究人員順籐摸瓜，端出了一個由至少5000個虛假賬號組成的「信息戰」網路，這些賬號通過生成式人工智慧(AI)模型，主要針對美國政治、文化熱點事件和議題生成語句看上去自然、語氣溫和的英文評論，但也會對其他賬戶頗具爭議的內容進行轉發和評論。
研究人員說，除美國外，這個AI模型網路進行的「信息戰」所涉及的國家還包括澳大利亞、英國、西歐、印度、日本等民主國家。
CyberCX將這一AI模型假帳戶網路命名為「綠蟬」(The Green Cicada Network)，意指數千個賬號還處於低調的潛伏期，隨時可以在一聲令下蓄勢待發。
「綠蟬」發文旨在深化民主社會對立
研究人員說，該網路並不在特定議題上選擇特定觀點，而是在諸多有爭議話題和熱門議題上強化人們在這些問題上的意見分裂。
例如，網路中一個名為「Luther Randolph」的假帳號，在8月8日發文表示對美國共和黨總統候選人唐納德．川普(Donald Trump)遇刺未遂後未獲得媒體長期關注的說法表達支持，又在8月10日發文支持現任副總統、民主黨總統參選人賀錦麗(Kamala Harris)。
 | X平臺的機器人賬號「Luther Randolph」回覆和傳播政治信息的推文截圖。 |
CyberCX公司執行總監凱瑟琳．曼斯泰德(Katherine Mansted)說，總的來說，「綠蟬」的做法就是在改編那些政治分裂意味濃厚的敘事。通過改寫原創內容，改寫推特（X）上真實用戶發布的內容，或者通過擴大或轉發原創內容。曼斯泰德對美國之音說：「它傾向的做法是雙方兼顧。因此，我們認為在很大程度上，這個網路旨在通過強化我們在民主國家看到的一些比較有爭議的問題的兩個對立面，以此來加深分歧。」
中共聯繫：網路背後指示或為中國AI公司人員
CyberCX公司認為，雖然無法確認這一網路信息AI網路的創立是否由中共政府指示，但控制這一AI網路的系統與中共有著密切的聯繫。
曼斯泰德告訴美國之音：「首先，控制這些賬戶的大型語言模型系統應該是一個中文系統。我們知道，由於洩露的提示片段，比如「請將此翻譯成英文」，這些片段以中文洩露。語法和格式上的一些錯誤在中英文翻譯中很常見，所以我們能看到這個部分。我們還在一些洩漏的提示片段中看到了一些拒絕文本，這些人工智慧說，不會遵循它收到的提示要求，還特別引用了中共政府的原則……不同的人工智慧大語言模型系統都有自己的安全特性和監管環境。」
除此之外，她說，網路中的虛假賬戶的一個共同特點是，它們與一名中國清華大學計算機科學系博士畢業生、目前在中國智譜AI任職的研究人員在X上的賬號(@cenyk1230)有密切的互動。
直至截稿時，該研究人員和智譜AI沒有回覆美國之音通過電子郵件發出的置評請求。
CyberCX的研究說，「綠蟬網路」還處於蟄伏狀態，絕大多數多數賬號並未「發威」，生成的內容也容易識破，雖然目前影響力有限，但該網路仍有很大的實力提升可能。
曼斯泰德說：「我們在這個網路還處於發育的階段就把它抓到了。它是一個還在成長中的能力，所以這在某種意義上來說是好事。這就是為什麼我們想在它可能造成真正的傷害之前公開揭露它，拔掉它的毒牙。」
但她也強調：「很有可能，這可能是一個等待開啟還處於休眠的一股力量。當然，我們目前看不到這個網路有存在的理由。這應該是一個只具有惡意目的的網路。」
已知規模最大的AI社媒戰網路
X平臺此前就已經發現了政府支持的實體支持設置的AI機器人信息戰網路。CyberCX說，以賬戶數量衡量，「綠蟬網路」是迄今為止被披露的最大的虛假活動網路之一，可能是第一個將生成式AI作為技術基礎的與中國實體相關的信息戰網路。
上個月，美國司法部宣布，美國協同加拿大和荷蘭的信息和安全部門，在X平臺的配合下，查封了一個與俄羅斯實體有聯繫的在社交媒體散播親俄不實信息的AI機器人網路。司法部的聲明說，968個X賬號在這次行動中被關閉。
目前尚不清楚X平臺是否會對疑似來自中國的「綠蟬網路」所涉及的賬號採取行動。本文截稿時，X公司發言人尚未說明該平臺是否會對這一網路進行調查。
研究人警察告，如果科技平臺不加重視，類似「綠蟬」這樣的AI虛假信息傳播網路可能會如同野草一般難以控制。
曼斯泰德說：「這些類型的人工智慧生成或控制的網路啟動成本很低，你不需要人類去驅動它，你可能需要一個人或幾個人來設置系統，然後它可以很快擴展並造成傷害。它成本少，門檻低，在某種意義上甚至是一種可以隨便拋棄的的網路能力，因為即使它被檢測到、被發現了，大規模重振旗鼓的花費也非常便宜。」△（轉自美國之音）
|
| 文章網址: http://www.renminbao.com/rmb/articles/2024/8/17/84535b.html |
|
 打印機版
如果您喜歡本文章，歡迎捐款和支持！
|
|
|
|
|
|
|
|
|
|
1. 傳北戴河元老責成習做檢討 達成8點共識
(142,021次)
2. 習近平不見蹤影 出事傳聞並非空穴來風（多圖）
( 133,776次)
3. 習近平高調露面 張又俠表態反常（圖）
( 127,727次)
4. 中南海傳真：習健康不穩，中南海成立應急小組
(122,863次)
5. 中共政治局會議再提經濟光明論 暗批蔡奇？（圖）
( 120,586次)
6. 黨媒驚現「去習近平化」 中南海要變天？（圖）
( 120,028次)
7. 王小洪再提黨魁還是很詭異（圖）
( 120,026次)
8. 傳彭麗媛被趕出軍委考評小組 鐘紹軍辦公室被撤（圖）
( 119,424次)
9. 「摜蛋」變「炮蛋」 紅二代的目標是這倆常委(圖 )
( 118,829次)
10. 中共南北戰區同時換將 中朝關係疑似生變
(116,950次)
11. 王小洪張又俠發文挺習 京城政局吊詭（圖）
( 116,119次)
12. 正國級老同志提議恢復集體決策制度 習能聽嗎？（圖）
( 114,683次)
13. 李強露面再有異常（圖）
( 114,494次)
14. 中南海傳真：習母赴京救子，三常委遭訓誡
(113,299次)
15. 李強罕見慰問災民 穿皮鞋在作秀？（圖）
( 113,182次)
16. 最近北京詭異動作頻繁 2442消失了（圖）
( 111,932次)
17. 從軍報官媒近期異常再說北京內部有事發生（圖）
( 108,801次)
18. 神隱逾兩周後習近平發文 釋何信號（圖）
( 105,931次)
19. 當局繼續清算河北官場 近期又有官員落馬
(99,264次)
20. 中共前貴州省委書記孫志剛受賄案開庭 贓款逾八億（圖）
( 98,944次)
21. 廣東惠州「塌方式腐敗」 10名市委常委7人落馬
(98,550次)
22. 揭買屍案律師指「更高層介入」擔憂個人安全
( 97,267次)
23. 湖南出現第二位彭立發 上海小哥要造反（圖/視頻）
( 90,125次)
24. 意境搭建是個技術活（圖）
( 84,963次)
25. 不得了！中學生反內卷聯盟觸動中共高壓線（圖）
( 84,152次)
26. 中共海外詆毀法輪功新計劃曝光 專家解讀
( 78,604次)
27. 我不害怕他們！湖南婁底反共橫幅是他掛的（圖/視頻）
( 77,280次)
28. 被捕一年後 人權律師盧思位面臨起訴判刑（圖）
( 59,946次)
29. 山西奧瑞非法買屍 青島大學器官移植中心涉案（多圖）
( 58,074次)
30. 罕見！吉林臨江負責維穩公安局長被泥石流沖走（圖/視頻）
(56,785次)
31. 逃離人間地獄 大陸80後見證中共暴行
(56,105次)
32. 超過40名巴黎奧運選手感染新冠 中國疫情嚴重（圖）
( 55,753次)
33. 拒絕「數字牢籠」 加州民運人士抗議「網路身份證」
(54,485次)
34. 巴黎奧運會開幕式被批史上最爛（多圖）
( 53,084次)
35. 中共掩蓋疫情為了提升消費？8陽後移植骨髓涉嫌活摘（多圖）
( 52,299次)
36. 3個時間點揭示央企買屍大案水有多深（圖）
( 51,587次)
37. 板橋水庫潰壩事件中共諱莫如深 是世界人為災難之首（圖）
( 50,972次)
38. 中國新冠染疫翻倍上升 接種疫苗者陽了N 次（圖）
( 49,746次)
39. 川普治獨裁流氓有手段 習暴跳如雷普京龜縮（圖）
( 45,546次)
40. 見過2千人往生 領悟珍惜緣份最重要(圖)
( 44,587次)
41. 中共為什麼仍在迫害法輪功？（多圖）
( 44,437次)
42. 誰殺了中國經濟 謝金河：國臺辦不懂臺灣人的心（圖）
( 42,443次)
43. 奧運隊員摘金失敗被罵漢奸 小粉紅言論令人心寒（圖）
( 41,241次)
44. 命大的人：穿越迫害的神韻藝術家（視頻）
( 40,814次)
45. 分析：習近平權威確實受到挑戰 但很快會露面
(39,644次)
46. 哈馬斯首腦身亡 中共急跳腳陷三重窘境（圖）
( 39,093次)
47. 遇襲身亡的哈尼亞坐擁30億美元資產 與中共關系不簡單（圖）
( 38,670次)
48. 湖南哀橫遍野 洪水泛濫 8個村莊失聯（視頻）
(38,196次)
49. 大陸醫生要「保命」說明甚麼（圖）
( 38,179次)
50. 前世不了情讓她轉世投胎做女兒（圖）
( 37,689次)
本報記者
專欄作者
|
|
|
