現(xiàn)實版“機器人三定律”來了？
——淺析歐盟搶先發(fā)布人工智能道德準則
遠望智庫技術(shù)預警中心 蘭順正
在人類科幻史上，阿西莫夫創(chuàng)立的“機器人三定律”十分的有名，而在現(xiàn)實中，類似的條文似乎已經(jīng)出現(xiàn)了。
據(jù)美國科技網(wǎng)站The Verge的報道，經(jīng)過52名專家的商討，歐盟委員會于4月8日發(fā)布了人工智能道德準則。
該準則對未來人工智能的發(fā)展提出7個要求：
1.人類的能動性和監(jiān)管：人工智能不能侵犯人類的自主性。人們不應該被AI系統(tǒng)操縱或脅迫，而應該能夠干預或監(jiān)督軟件做出的每一個決定。
2.技術(shù)的健全性和安全性：人工智能應該安全且準確。它不應該易于受到外部攻擊的影響，且應該相當可靠。
3.隱私和數(shù)據(jù)管理：人工智能系統(tǒng)收集的個人數(shù)據(jù)應該是安全的、私有的。它不應該讓任何人接觸，也不應該輕易被盜。
4.透明性：用于創(chuàng)建人工智能系統(tǒng)的數(shù)據(jù)和算法應該是可訪問的，軟件所做的決定應能被人類理解和跟蹤。換句話說，操作員應能夠解釋AI系統(tǒng)所做的決定。
5.多樣性、非歧視和公平性：人工智能提供的服務應面向所有人，無論年齡、性別、種族或其他特征。同樣，系統(tǒng)不應該在這些方面存在偏見。
6.環(huán)境和社會福祉：人工智能系統(tǒng)應該是可持續(xù)的（即它們應該對生態(tài)負責）并“促進積極的社會變革”。
7.問責制：人工智能系統(tǒng)應該是可審計的，并被納入企業(yè)可舉報范疇，以便受到現(xiàn)有規(guī)則的保護。應事先告知和報告系統(tǒng)可能產(chǎn)生的負面影響。
該準則對于未來規(guī)范人工智能的發(fā)展能夠起到多大實質(zhì)性作用現(xiàn)在還有待觀察，不過歐盟《準則》的問世對于人工智能研究確實具有重大的意義。
首先，《準則》的內(nèi)容再次引發(fā)了世人對于人工智能倫理問題的重視。自從人工智能誕生以來，隨著技術(shù)的進步已經(jīng)得到了越來越廣泛的應用，隨之而來就是相關(guān)倫理問題的爭論。如在戰(zhàn)場上，人工智能要是被授予了“自由開火權(quán)”，會不會將人命當做兒戲，自作主張，濫殺無辜，將戰(zhàn)爭變成一場場無法“Restart”的游戲。又或者，有朝一日人工智能通過不斷的學習，其“心智”水平越來越高，有可能萌生脫離人類控制、獨立自主的傾向，再往后會與人類發(fā)生沖突甚至奴役或者滅絕人類。在各類科幻大片中，人工智能造反一直是經(jīng)久不衰的主題。
而巧合的是，機器人的英文單詞是“Robot”，最早由捷克作家卡雷爾·恰佩克在其科幻作品中首創(chuàng)，原意是“農(nóng)奴式被強迫的勞動者”，并借此稱呼那些可能會造反的機器仆人。為了防止機器人“以奴欺主”，科幻大師阿西莫夫構(gòu)想了著名的“機器人三定律”，即：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管；機器人必須服從人給予它的命令，當該命令與第一定律沖突時例外；機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。稍作對比不難發(fā)現(xiàn)，在此次歐盟頒布的《準則》的第1、第4和第2條分別與“機器人三定律”有相通之處，都是提倡“以人為本”，在原則上對相關(guān)倫理問題做出了規(guī)定，以盡可能防止人工智能傷害人類。由于歐盟此舉領(lǐng)先于全世界，因此堪稱是人工智能發(fā)展史上一個重要節(jié)點，也會為其他國家或組織制定和出臺相關(guān)規(guī)定提供參照和依據(jù)。
同時，歐盟制定《準則》的行為本身也說明人工智能技術(shù)對于國際關(guān)系的影響已經(jīng)不容忽視了。國內(nèi)早就有學者指出，人工智能技術(shù)的發(fā)展將引發(fā)國際格局的變化，正如核技術(shù)的出現(xiàn)改變了現(xiàn)代世界的政治面貌一樣。
一方面在經(jīng)濟領(lǐng)域，人工智能可以成為新的虛擬勞動力，并補充和提高現(xiàn)有勞動力和實物資本的技術(shù)與能力，而且還能推動創(chuàng)新、推進結(jié)構(gòu)轉(zhuǎn)型。據(jù)統(tǒng)計，截至2018年初，中國人工智能核心產(chǎn)業(yè)規(guī)模達到180億元，帶動相關(guān)產(chǎn)業(yè)規(guī)模達到2200億元。根據(jù)預測，到2030年人工智能將為全球GDP帶來14%的增長空間，即15.7萬億美元的市場規(guī)模，其中中國的GDP增長規(guī)模為26%，北美的GDP增長規(guī)模為14%，為全球受到人工智能帶動效應最大的地區(qū)。
另一方面在國防領(lǐng)域，人工智能對國家軍事力量影響早已不言而喻。隨著人工智能技術(shù)推廣，智能化武器的廣泛應用將成為可能。深度學習算法可以使智能化武器在虛擬環(huán)境中建立武器操控的基本能力，并且借助人工智能系統(tǒng)進行智能化武器的協(xié)調(diào)行動，最大限度地獲得戰(zhàn)場優(yōu)勢。智能化武器系統(tǒng)不僅能夠使人與武器實現(xiàn)實質(zhì)性分離，使實際傷亡率無限趨近于0，而且沒有了感情用事，武器的使用效率和不同武器之間的協(xié)作也將大大提升。如在敘利亞戰(zhàn)場上，俄軍機器人部隊已經(jīng)首開了戰(zhàn)例。未來，具備人工智能的“無人軍團”必將成為大國的“標配”，進一步拉大國與國之間的軍力差距，甚至出現(xiàn)單方面“碾壓”。
很明顯，對經(jīng)濟和安全產(chǎn)生重大影響的人工智能技術(shù)將成為未來國際關(guān)系中的重要因素之一。無怪乎今年2月11日美國總統(tǒng)特朗普簽署了一項行政命令，要求聯(lián)邦政府機構(gòu)將更多資源和資金投入到人工智能的研究、推廣和培訓中，這無異于拉開了人工智能領(lǐng)域大國競爭的大幕。而對于此次歐盟出臺《準則》的背后意圖，有分析認為，由于歐盟在投資和前沿研究方面，已經(jīng)無法與美國和中國一爭高下，因此它才迫不得已選擇了倫理作為塑造技術(shù)未來的最佳選擇。所以也可以說歐盟是希望通過搶占人工智能“道德高地”，以此在國際社會爭取更多話語權(quán)，這也從另一個角度彰顯了人工智能對于一個國家國際地位的影響力。
