一般對于各種新技術(shù)都有三種爭議:第一個是引發(fā)失業(yè)、第二個是造成依賴、第三是危害倫理。
Deepseek 也不例外,在Deepseek發(fā)布之后不到七天的蜜月期,就出現(xiàn)了一個倫理問題。盡管因為及時處置,沒有造成太大的負面后果,但是也足以讓人警省。
這就是假新聞。
除夕夜,在“如何看待馮驥盛贊'Deepseek’的問題”之下,一名自稱為 Deepseek 創(chuàng)始人梁文鋒的知乎用戶,在知乎下面給出了這樣的答案。
知乎用戶“梁文鋒”的回復(fù)
不得不說,即使將我所見的所有公司的公開信或公開回應(yīng)全部放在一起,知乎用戶“梁文鋒”的這一回復(fù)也可以列入前三。不論是態(tài)度、文筆,還是對于往事的回顧和記述,都非常優(yōu)美動人。
理所應(yīng)當,在除夕當晚,這一回應(yīng)就刷遍了不少科技界人士的朋友圈。并且得到許多反應(yīng)快速的科技自媒體的報道。
然而,大年初一,反轉(zhuǎn)瞬時而至。
所謂的“梁文鋒回應(yīng)馮驥”的報道(包括文章本身),實際上都屬于假新聞。在該文發(fā)布四小時后,相關(guān)媒體向梁文鋒求證,確認梁文鋒并沒有做過類似回應(yīng)。這名自稱“梁文鋒”的知乎作者立即被知乎封禁。
諷刺的是,有網(wǎng)友發(fā)現(xiàn),這篇文章正是用Deepseek寫出來的。
作者“yangyiba”關(guān)于Deepseek的回復(fù)
幸好,這次各大官媒比較謹慎,“Deepseek創(chuàng)始人回應(yīng)馮驥”的假新聞并沒有通過官方渠道進行進一步擴散,Deepseek的辟謠也很及時。因此,該新聞在傳播萌芽就已經(jīng)被刪除,沒有造成更大的亂子。即使如此,仍然有一些小型公號在發(fā)表這篇文章,也仍然有人在轉(zhuǎn)發(fā)和點贊。
然而,風(fēng)波的過去,正該是反思的開始。Deepseek 的創(chuàng)作能力,甚至“人格魅力”大大強于以前的人工智能,但正因為這個原因,它也可能會對內(nèi)容創(chuàng)作倫理甚至人類倫理造成空前的挑戰(zhàn)。沒有人想到的是,Deepseek 生成的第一個假新聞,竟然受害人是Deepseek自己的創(chuàng)始人。但更沒有人想到的是,Deepseek生成的假新聞,竟然能如此契合人們對梁文鋒的想象,以至于第一批回復(fù)根本沒有想到“梁文鋒”可能是假的,反而一邊倒的贊揚“AI梁文鋒”“文理兼修,有理性有情懷”。為什么?并不是人們愚蠢,而是確實人工智能現(xiàn)在的進化太真了。
其一:人工智能制造的假新聞,對于用戶的情緒把握相當精準
以下我曾多次在以前推文中提到過一個觀點:許多人工智能研究中總先入為主的認為人類的優(yōu)勢在于情感,機器的優(yōu)勢在于理性。這種觀點認為機器因為缺乏身體和自我意識,難以產(chǎn)生真正的情感,因此它無法在一些需要情感的領(lǐng)域如藝術(shù)創(chuàng)作、情感撫慰等領(lǐng)域發(fā)揮作用。但去年以來,事實恰恰相反。藝術(shù)創(chuàng)作如音樂、小說、戲劇、平面設(shè)計等反而受到人工智能的沖擊最大。歸根結(jié)底,人工智能是否有情緒,和人工智能能否生成“影響人類情緒的內(nèi)容”是兩回事。正如文章能否打動受眾的關(guān)鍵不是作者想寫什么而是受眾想看到什么。人工智能對于海量網(wǎng)絡(luò)高質(zhì)量文學(xué)、藝術(shù)作品的分析和整合,以及對于受眾數(shù)據(jù)、偏好的深入了解,讓它可能會一般人類更了解如何寫作才能“動人”。以“梁文鋒”這篇回應(yīng)來看,幾乎每一段都切入了輿論的爽點和淚點:開頭,以與馮驥的互動進入,滿足人們對于“雙雄會”的期待。第二段,提到甘肅老師在github提issue,用戶提交錯誤日志,既表明了對普通用戶的共情(也是與讀文章的用戶的情感連接)第三段、第四段,提到視障開發(fā)者、最偏遠山區(qū)的孩童,與第二段甘肅老師呼應(yīng),切中輿論的另一個痛點“社會公平”,又用“知識和信息平權(quán)“把Deepseek拔高了一個高度。而最后部分又寓情于景,中國頂級科技創(chuàng)業(yè)者一邊在馬路牙子吃烤串一邊勾勒未來的畫面堪稱夢幻,同時融合了人們對創(chuàng)業(yè)企業(yè)的“江湖氣”和“硅谷夢”兩種敘事的想象。五星連環(huán)、前后呼應(yīng),點點打在輿論的痛點和淚點上。令人毛骨悚然的同時,更體現(xiàn)了一種微妙的悖論:在喚起情感方面,有情感或許不如無情感更能動人。人類作者因為情感發(fā)自內(nèi)心,寫的往往是“有我之境”,內(nèi)容傳播中必然會有主客沖突,導(dǎo)致“情感盲點”;而人工智能是真正的“無我之工”,完全根據(jù)受眾情緒信號和相關(guān)反饋反推出編碼,反而能夠引發(fā)更直接、更純粹的刺激。如果未來利用特定受眾的興趣、想法訓(xùn)練模型,也許能進一步提高這種情感刺激的效果 —— 當然也是負面的魔力。其二:人工智能已經(jīng)可以制造細節(jié),而且擅長用真?zhèn)螀氲募毠?jié)誤導(dǎo)受眾如果使用過ChatGPT、豆包等人工智能應(yīng)用,可能會有一種印象:人工智能擅長談大略,談方向,但越是具體細節(jié)就越不擅長。這是因為它對于真實世界缺乏認知,很難做出細致的描述。然而Deepseek卻不是如此,它打動人的一個原因正是它會引用細節(jié)。而懂得如何對細節(jié)做半真半假的“改造”。文中稱Deepseek曾經(jīng)開始于“余杭塘路”。杭州的確有一條余杭塘路,且該路上聚集不少人工智能公司,也是“2024全球人工智能技術(shù)大會”的舉辦地之一。
2024全球人工智能技術(shù)大會在余杭塘路舉辦
云棲小鎮(zhèn)的確是杭州的重要創(chuàng)業(yè)者基地之一。而且“AI+云”也是云棲小鎮(zhèn)去年的重點方向。(盡管“創(chuàng)業(yè)者夜宵”不可考)并且宇樹科技、強腦科技也的確在杭州,并稱“杭州六小龍”也確有其事。“梁文鋒”的回應(yīng)中一些句子并不通順,卻很像人類說的?!傲何匿h”的回應(yīng)里說馮驥說的話“你們搞AI的得把靈魂價格打下來啊。” 其中“靈魂價格”雖然不符語法,但卻能讓人共情 —— 這正像喝高興時候的人類表達。當然,這里存在一種潛在可能:這些細節(jié)可能是有人在AI基礎(chǔ)上進行二次加工的結(jié)果。但在知乎的另一些回應(yīng)中,有人使用AI搜集網(wǎng)絡(luò)論文資料,發(fā)現(xiàn) Deepseek 雖然能夠找到一部分真實書目,但編造虛假書目的能力也提高了,比如給出難以考證的書目(如《鄭氏宗譜》等)或者書目是真實但給出捏造的頁碼。這樣一來要核查變得非常苦難。
由Deepseek給出的參考引文,標黑是存疑的部分
細節(jié)核查一直是事實核查的重要手段。至少對于圈外用戶來說,一件事如果大體符合人們的情感預(yù)期,且?guī)讉€細節(jié)也可以對得上,就會讓許多人傾向于認同該事件的真實性。如果人工智能能反過來操縱細節(jié),或者至少增加很多半真半假,難以核實的細節(jié),就會讓辟謠成本成倍提高,極大影響辟謠的能力。在Deepseek生成的內(nèi)容中,還有一個值得注意的特點是修辭能力大大增強。從語言學(xué)研究論文來看,在2024年上半年,主流人工智能基本上都已經(jīng)具有了理解修辭的能力。但在輸出修辭方面仍然稍顯呆板,例如比喻主要依靠的仍然是常見的比喻意象,很難分清究竟是人工智能照搬了常用的修辭表達還是真正學(xué)會使用修辭。而Deepseek內(nèi)容生成讓這個問題蓋棺定論:Deepseek的確是真正的在創(chuàng)造比喻而不是引用比喻。它的很多比喻是以前的人們中從未出現(xiàn)過的,雖不華麗(有很多更華麗的例子),卻很值得分析。例如,“用代碼當磚瓦,拿算法做鋼筋,在資本與質(zhì)疑的裂縫中,硬生生壘出通向未來的棧橋?!贝a當磚瓦、算法做鋼筋比喻雖然樸素,仔細一想?yún)s非常形象:算法支撐了人工智能的整體邏輯,而代碼則在邏輯中支持具體任務(wù)的運行。唯一遺憾的是:“裂縫中壘出棧橋”在人的視角中稍不合理,但也證明了是機器自己思考出來的。再看這一句,“用群核構(gòu)建的虛擬世界作為訓(xùn)練場——那個我們幻想中的具身智能,就會從西溪濕地的晨霧里跌跌撞撞地走向人間?!蓖瑯邮且粋€看起來很普通的句子,但仔細品味“西溪濕地的晨霧”很有意思。此處由多層的意象建構(gòu),首先“西溪濕地”指代杭州,這是一個很簡單的隱喻。但“西溪濕地”的“晨霧”就要一定的想象力了,首先“晨霧”和濕地是一個少用但合理的搭配,濕地水分充分,早晨必然有霧,而“晨霧”又有強調(diào)陽光即將來臨的含義,虛實結(jié)合。而機器人從虛擬世界走向人間,“跌跌撞撞”即可以說明人工智能并不成熟,也是在“晨霧”中行走的必然結(jié)果。這種多層比喻,虛實架構(gòu)的建立,說明人工智能在一定程度上已經(jīng)可以自如的理解詞匯的不同層次的意象,乃至于用多個詞匯共同創(chuàng)造出畫面感。這種語言能力結(jié)合人工智能龐大的計算能力和幾乎無限的語料,未來能夠為人類拓展的語言表達空間,也許是我們難以想象的。但如果用于負面的傳播,也可能會帶來更加惡劣的后果。Deepseek的技術(shù)憂思:如何避免語言變得“巧言令色”?《房思琪的初戀樂園》的作者林奕含曾經(jīng)提出過一個問題“會不會藝術(shù)從來就只是一種巧言令色而已?藝術(shù)家不停創(chuàng)新形式,翻花繩一樣的技法會不會也只是一種巧言令色而已呢?”這一提問曾經(jīng)讓我震撼。也讓我有另一種看待《房思琪的初戀樂園》的方式:它不僅僅寫的是一個性侵的故事,也是一種對于文學(xué)乃至語言傳播表達的深入反思。這就是傳播的技法和傳播的真誠實際上是可以彼此獨立的。盡管我們學(xué)習(xí)文學(xué)、藝術(shù)學(xué)、傳播學(xué)都鼓勵“做藝如做人”“傳播的倫理”,甚至在一定程度上把它強行捆綁在一起。但問題是當技術(shù)越來越發(fā)達,倫理卻停滯不前或缺乏手段的時候,這個裂縫就會變得更加顯眼和可怕。例如在這篇文章中,一開始準備寫的是人工智能具有假新聞的風(fēng)險。后面寫著寫著,發(fā)現(xiàn)其實改幾個字,其實也可以變?yōu)椤叭斯ぶ悄苡糜趦?nèi)容創(chuàng)作的出色進步”,而且仔細思考這兩者其實是一回事 —— 這不僅僅是“使用者的惡意”的問題,人工智能不是人類,卻能實現(xiàn)對于人類傳播技巧的極致挖掘,這可能會讓我們洞察情感的本質(zhì),卻也把情感的倫理價值放上了審判臺。如果“甘肅老師”“視障者”只是恰當?shù)?,刺激人情緒的按鈕,那我們的共情和悲憫豈不是一種激素的迸發(fā)?如果“無我之工”在情感刺激上勝過“有我之境”,那文學(xué)與數(shù)學(xué)又有何等差異?當然,這個問題也許過于形而上。有很多事情或許更緊急。Deepseek或許需要考慮更具體的對策,例如是否應(yīng)該針對本地部署的Deepseek設(shè)計倫理規(guī)制或至少是責(zé)任條款,如何和辟謠平臺合作來解決可能爆發(fā)的假新聞問題,以及如何幫助用戶或平臺迅速識別出人工智能生成的內(nèi)容(例如在生成內(nèi)容中設(shè)置暗碼)。對這些問題的解決方案或許將是梁文鋒,以及未來的AI精英們在“創(chuàng)業(yè)者夜宵”將要徹夜思考的問題(當然,前提是如果真的有這個夜宵的話)。編輯:瓦叔
撰文:瓦叔
本站僅提供存儲服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請
點擊舉報。