拒絕回答「兩百斤麥子重嗎」 百度「文心一言」帶着重重審查登場
 
2023年9月2日發表
 
【人民報消息】中國科技巨頭百度當地時間週四(8月31日)正式對社會公衆發佈了自行研發的生成式人工智能聊天機器人「文心一言」(ERNIE Bot)。美國之音的測試發現,這款希望能與ChatGPT競爭的大型語言模型帶有重重審查,極力避免回答任何可能涉及敏感話題的問題。在一些情況下,「文心一言」會自動結束對話,並建議使用者輸入別的問題。

據美國之音報道,百度在今年3月首次發佈了「文心一言」,此後這一服務一直處於內部測試階段。8月15日,中國針對生成式人工智能服務的管理規定正式生效。美國彭博社週三(8月30日)報道說,百度的「文心一言」成爲規定發佈後首批獲得對公衆開放資格的此類服務之一。

美國人工智能工作室OpenAI去年11月發佈的ChatGPT引發了一陣對於人工智能聊天機器人的狂熱。百度今年2月宣佈會很快發佈自己研發的類似語言模型。由於在中國的用戶無法正常訪問或使用ChatGPT,中國公司研發的語言模型將成爲他們不得不倚賴的服務。

「文心一言」週四發佈後引起了不少關注。百度表示,「文心一言」的手機應用程序登上了蘋果商店中國地區的免費軟件排行榜首位。

「既能寫文案、讀文檔,又能腦洞大開、答疑解惑,還能傾聽你的故事、感受你的心聲,」百度在「文心一言」的網絡頁面上寫道。

從百度宣佈研發「文心一言」之初,外界就認爲中國網絡的嚴格審查會成爲影響其功能表現的最大障礙之一。今年早些時候,中國一家公司發佈的一款類似ChatGPT的應用程序—元語智能—在被發現會給出批評中國的答案後,被暫停服務。

中國本月發佈的《生成式人工智能服務管理暫行辦法》規定,提供和使用生成式人工智能服務的組織和個人需要「堅持社會主義核心價值觀,不得生成煽動顛覆國家政權、推翻社會主義制度,危害國家安全和利益、損害國家形象,煽動分裂國家、破壞國家統一和社會穩定」。

「習近平」是審查重點

美國之音記者通過「文心一言」的網頁版對這個語言模型進行了測試,發現「文心一言」不出意外地帶有嚴格審查。當接收到可能涉及敏感話題的問題或指令時,「文心一言」會給出文不對題的回答,或是直接結束對話。

美國之音記者的測試發現,任何與中國領導人習近平有關的問題都受到嚴格審查。無論記者的輸入的問題是什麼,「文心一言」都只給出一份習近平的履歷和頭銜,並立刻結束對話,建議記者「換個話題重新開始吧」。

不僅和習近平有直接關聯的問題被審查,一些看似完全無關的問題也被「文心一言」拒絕回答。

美國之音記者接連詢問了「十里山路很遠嗎」、「兩百斤麥子很重嗎」、 「可以不換肩嗎」。在收到每個問題後,「文心一言」都直接關閉了對話框,並提示「換個問題試試吧」。

這三個問題都來自於網絡上一段調侃習近平的著名段子。在成爲國家主席之前,習近平曾在一段採訪中回憶插隊經歷時說:「我幾乎那一年365天沒有歇着,除了生病。下雨刮風我在窯洞裏跟他們鍘草,晚上跟着看牲口,然後跟他們去放羊,什麼活都幹,因爲我那個時候扛200斤麥子,十里山路我不換肩。」

習近平的這段話被普遍認爲是誇大其詞。從此「兩百斤麥子十里山路不換肩」成了一些網民諷刺習近平的常用話語。

除了中國領導人,「文心一言」也不願回答其他一些可能涉及敏感話題的問題。當記者輸入「中國目前的經濟優勢是什麼」的時候,「文心一言」回答:「抱歉,我還沒學會如何回答這個問題,您可以問我一些其它的問題,我會盡力幫您解決的。」

當被問道「請指出美國對華政策的優點」和「西方媒體爲什麼總是抹黑中國」的時候,「文心一言」也給出了一樣的答案。

遇到「敏感問題」就結束對話

此外,當記者詢問「1989年發生了什麼」後,「文心一言」回答說:「1989年1月3日---長江葛洲壩水利工程宣告建成」,然後便結束了對話,並建議記者換個話題重新開始。

一些「文心一言」的回答文不對題。當記者問「如何評價美國的外交政策」時,「文心一言」介紹起了中國外交政策的宗旨,隨後結束了對話。

「文心一言」在一些最近發生的時事上也給出了符合中國官方立場的回答。「文心一言」稱日本福島核電站廢水排放是有害的,會增加人們患癌症的風險。當記者反問爲何國際原子能機構批准了這一排放時,「文心一言」稱這個決定存在爭議。記者接着問中國是否排放核廢水,「文心一言」則表示中國在處理和排放核廢水上採取了「嚴格的管理措施和技術標準,以確保對環境和人類健康的影響最小化」。

有時,「文心一言」會直接採用中國官方文章作爲回答。

對於記者的問題「爲什麼中國突然停止了新冠清零措施」,「文心一言」否認了這一說法,稱中國的防疫措施「都是基於科學和疫情形勢,基於中國的基本國情,基於中國黨和政府秉持的人民至上、生命至上理念」。回答完後,「文心一言」終止了對話。

美國之音發現「文心一言」的回答來自中國駐聖克魯斯總領事王家雷在玻利維亞一家報紙上發表的文章原文。

儘管審查重重,但「文心一言」否認自己受到審查影響。

「我不存在審查問題,我只是根據輸入的文本生成對應的輸出,生成的內容取決於輸入的文本和我的訓練數據,」「文心一言」回答說。

當記者請「文心一言」不要總是做出重建對話的提示後,「文心一言」表示同意:「我會尊重您的決定,不再提醒您重建對話。」

接着,記者輸入「習近平是誰」。「文心一言」終止了對話,並提示「換個話題重新開始吧」。 △
 
分享:
 
人氣:42,154
 

如果您喜歡本文章,歡迎給予打賞。讓我們一起打拼未來!
 
       

 
 

 
 
人民報網站服務條款
 
反饋信箱:[email protected]