2018年12月，歐盟人工智能高級(jí)專(zhuān)家組發(fā)布《可信賴的人工智能道德準(zhǔn)則草案》。該準(zhǔn)則草案提出了實(shí)現(xiàn)“可信賴人工智能”的兩個(gè)核心要素———道德目的、技術(shù)可靠。
在此之前，學(xué)術(shù)界已開(kāi)始從技術(shù)角度探索防范人工智能潛在風(fēng)險(xiǎn)的“反人工智能”技術(shù)。
2018年8月，加拿大學(xué)者公布了關(guān)于人臉檢測(cè)動(dòng)態(tài)擾亂系統(tǒng)的研究成果，該技術(shù)能將人臉檢測(cè)準(zhǔn)確率從接近100%大幅降低至0.5%。
當(dāng)前，人工智能尚處于“弱人工智能”階段，反人工智能的出現(xiàn)，既凸顯出人類(lèi)對(duì)人工智能的潛在憂慮，也從技術(shù)角度提供了一條確保人工智能不會(huì)危及人類(lèi)自身的新思路。
因此，有必要梳理反人工智能技術(shù)的發(fā)展現(xiàn)狀與前景，并統(tǒng)籌考慮人工智能與反人工智能的協(xié)同發(fā)展，確保人工智能可控、可靠、可信地造福人類(lèi)。
人工智能高速發(fā)展引發(fā)風(fēng)險(xiǎn)擔(dān)憂
人工智能引發(fā)的憂慮日漸增多。人臉檢測(cè)是當(dāng)前人工智能領(lǐng)域最為成熟的技術(shù)之一，已經(jīng)開(kāi)始在多個(gè)領(lǐng)域應(yīng)用推廣。
但也有不少人認(rèn)為，人臉檢測(cè)等人工智能技術(shù)雖然能夠提供極大便利，但也隨之帶來(lái)了數(shù)據(jù)隱私泄露等安全隱患，有必要從多個(gè)角度開(kāi)展防范策略研究，以防止用戶數(shù)據(jù)隱私泄露。
事實(shí)上，在人工智能蓬勃發(fā)展的光環(huán)之下，其所引發(fā)的憂慮遠(yuǎn)遠(yuǎn)不止隱私數(shù)據(jù)泄露。
當(dāng)前，雖然各國(guó)大力倡導(dǎo)人工智能的應(yīng)用推廣，但現(xiàn)階段的“弱人工智能”與真正的人腦智慧相差甚遠(yuǎn)，缺乏自主認(rèn)知意識(shí)與學(xué)習(xí)能力，十分依賴海量數(shù)據(jù)訓(xùn)練，并且還無(wú)法學(xué)習(xí)形成人類(lèi)的道德倫理觀念，這就意味著“弱人工智能”應(yīng)用過(guò)程中存在著大量令人擔(dān)憂的隱患環(huán)節(jié)。
人工智能高速發(fā)展?jié)摬貎纱箫L(fēng)險(xiǎn)。對(duì)人工智能的憂慮，主要源自人工智能的自身技術(shù)缺陷和技術(shù)潛在濫用兩個(gè)方面。在自身技術(shù)缺陷方面，其體現(xiàn)主要集中于兩點(diǎn)。
第一，當(dāng)前的機(jī)器學(xué)習(xí)本質(zhì)上是一項(xiàng)黑盒技術(shù)，其訓(xùn)練過(guò)程具有難以解釋、不可控制的特點(diǎn)，且隨著人工智能的應(yīng)用復(fù)雜度、數(shù)據(jù)需求量的指數(shù)式增長(zhǎng)，機(jī)器學(xué)習(xí)尤其是基于多層神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)，其復(fù)雜程度愈發(fā)超出人類(lèi)理解和控制的范疇，在快速進(jìn)化過(guò)程中極易偏離人類(lèi)為其預(yù)設(shè)的軌跡。
例如，微軟發(fā)布的人工智能推特Tay，在與網(wǎng)友聊天過(guò)程中很快就學(xué)會(huì)臟話，甚至學(xué)會(huì)了種族歧視的言論，導(dǎo)致微軟被迫緊急下線該產(chǎn)品。
第二，機(jī)器學(xué)習(xí)模型訓(xùn)練過(guò)程完全依賴于海量數(shù)據(jù)，數(shù)據(jù)的好壞將直接決定人工智能技術(shù)效能，訓(xùn)練數(shù)據(jù)的任何偏差都將在人工智能應(yīng)用中如實(shí)反映。
例如，亞馬遜的智能簡(jiǎn)歷篩選系統(tǒng)，由于用于模型訓(xùn)練的簡(jiǎn)歷具有男多女少的特點(diǎn)，因此學(xué)會(huì)了性別歧視，一旦抓取到簡(jiǎn)歷中“女”這一關(guān)鍵詞，便會(huì)降低應(yīng)聘者的考核分?jǐn)?shù)。
在技術(shù)濫用方面，隨著人工智能應(yīng)用領(lǐng)域的快速延伸，人工智能技術(shù)觸及人類(lèi)道德倫理底線，乃至威脅人類(lèi)自身安全的事件不斷出現(xiàn)。
例如，斯坦福大學(xué)的研究人員2017年發(fā)布了一種依靠面部圖像識(shí)別來(lái)判斷性取向的算法，該算法判斷男同性戀和女同性戀的準(zhǔn)確率分別高達(dá)91%和83%。
因此，該應(yīng)用只需提取人類(lèi)上傳在社交網(wǎng)絡(luò)的照片即可判斷其性取向，這無(wú)疑是嚴(yán)重侵犯?jìng)€(gè)人隱私的行為。
此外，人工智能在黑客網(wǎng)絡(luò)攻擊，甚至大規(guī)模殺傷性武器等方面可能的濫用行為，更將引發(fā)難以估量的嚴(yán)重后果。事實(shí)上，美國(guó)軍方已經(jīng)在人工智能軍事化、殺手機(jī)器人等領(lǐng)域布局良久，投入了巨資。防范人工智能風(fēng)險(xiǎn)已經(jīng)“在路上”。
伴隨著“AlphaGo戰(zhàn)勝李世石”等標(biāo)志性事件接連出現(xiàn)，人工智能引發(fā)的憂慮也隨之加深，人類(lèi)開(kāi)始從法律法規(guī)、道德準(zhǔn)則、技術(shù)等多個(gè)角度，探索防范人工智能潛在風(fēng)險(xiǎn)的手段。在法律法規(guī)方面，2017年，歐美等國(guó)家和地區(qū)提出要積極開(kāi)展人工智能相關(guān)立法研究。
例如，英、美分別在《人工智能：未來(lái)決策制定的機(jī)遇與影響》《人工智能未來(lái)法案》中強(qiáng)調(diào)，要密切關(guān)注人工智能可能的負(fù)面影響，并提出要確保人工智能威脅的最小化。
在道德準(zhǔn)則方面，2018年3月，谷歌因參與軍方人工智能項(xiàng)目而引發(fā)內(nèi)部員工強(qiáng)烈反對(duì)，最終被迫發(fā)布了11條運(yùn)用人工智能技術(shù)的“不作惡”準(zhǔn)則。2018年12月，歐盟發(fā)布人工智能道德指南草案，提出了規(guī)范人工智能應(yīng)用的幾大問(wèn)題。
此外，在技術(shù)方面，加拿大學(xué)者2018年8月公布的人臉檢測(cè)動(dòng)態(tài)擾亂系統(tǒng)也并非反人工智能的首次技術(shù)嘗試。此前，美國(guó)MIT的研究人員就曾嘗試通過(guò)構(gòu)建3D對(duì)抗樣本來(lái)欺騙圖像識(shí)別系統(tǒng)。
此外，生成對(duì)抗網(wǎng)絡(luò)（GANs）的創(chuàng)造者伊恩·古德費(fèi)洛曾在2017年?duì)款^組織對(duì)抗攻擊防御競(jìng)賽，引導(dǎo)研究人員開(kāi)展人工智能算法的攻防比拼，以期引起各方對(duì)反人工智能技術(shù)的關(guān)注和研究。
從某種意義上講，當(dāng)人類(lèi)出于自身福祉考慮開(kāi)發(fā)出的人工智能令人擔(dān)憂，而相關(guān)法律法規(guī)和技術(shù)倫理又大為滯后時(shí)，相比于法律道德的“防君子不防小人”，在技術(shù)層面實(shí)實(shí)在在地開(kāi)發(fā)人工智能對(duì)抗技術(shù)顯然更能讓人心安。因此，雖然現(xiàn)在的人工智能技術(shù)還很弱，但反人工智能的出現(xiàn)也是必然的。
反人工智能仍處于起步探索階段
反人工智能歷經(jīng)兩大階段。
截至目前，反人工智能技術(shù)的發(fā)展大致經(jīng)歷了兩個(gè)階段。早期，反人工智能技術(shù)主要聚焦于通過(guò)污染訓(xùn)練數(shù)據(jù)來(lái)攻擊機(jī)器學(xué)習(xí)模型。這是一種簡(jiǎn)單直接的反制方法。但由于機(jī)器學(xué)習(xí)模型一般都在封閉環(huán)境中開(kāi)展訓(xùn)練，很難受到外部干擾，因此這類(lèi)技術(shù)并未獲得進(jìn)一步發(fā)展。
2014年，伊恩·古德費(fèi)洛提出的生成對(duì)抗網(wǎng)絡(luò)為反人工智能技術(shù)開(kāi)辟了第二條技術(shù)路徑，研究人員可基于生成對(duì)抗網(wǎng)絡(luò)對(duì)源數(shù)據(jù)施加微擾，從而構(gòu)造動(dòng)態(tài)對(duì)抗數(shù)據(jù)，這一微擾難以被用戶感知，但卻能使機(jī)器學(xué)習(xí)模型在檢測(cè)識(shí)別時(shí)做出錯(cuò)誤判斷。該方法與人工智能技術(shù)相同，都屬于機(jī)器學(xué)習(xí)算法。
反人工智能技術(shù)效能仍然較低。
與人工智能尚處于初級(jí)階段相比，反人工智能在技術(shù)效能和應(yīng)用領(lǐng)域等方面處于更加早期的階段。
從技術(shù)效能看，構(gòu)造對(duì)抗數(shù)據(jù)的方法易于被有效防御。只要在人工智能模型訓(xùn)練初期利用已知的對(duì)抗性數(shù)據(jù)進(jìn)行訓(xùn)練，就能提升模型辨別良性、惡性數(shù)據(jù)的能力，進(jìn)而抵御對(duì)抗性數(shù)據(jù)對(duì)模型系統(tǒng)的壓制。
從應(yīng)用領(lǐng)域看，由于反人工智能技術(shù)亦基于機(jī)器學(xué)習(xí)，因此與人工智能技術(shù)在圖像和語(yǔ)音識(shí)別領(lǐng)域發(fā)展最成熟類(lèi)似，反人工智能技術(shù)也集中在這兩個(gè)領(lǐng)域。在自然語(yǔ)言處理、認(rèn)知推理等其它人工智能應(yīng)用領(lǐng)域，尚無(wú)可行的反人工智能解決方案。
此外，此類(lèi)方法只能在人工智能模型系統(tǒng)的推斷環(huán)節(jié)實(shí)施干擾，無(wú)法在訓(xùn)練環(huán)節(jié)發(fā)揮作用。
反人工智能也須“三思而后用”。反人工智能技術(shù)的出現(xiàn)，反映了人類(lèi)對(duì)人工智能發(fā)展的憂慮，但該技術(shù)的發(fā)展與應(yīng)用一樣需要審慎。本質(zhì)上，人工智能和反人工智能都是基于機(jī)器學(xué)習(xí)算法的技術(shù)，只是在技術(shù)效能上構(gòu)成相互對(duì)抗的關(guān)系，即以人工智能對(duì)抗人工智能。
因此，反人工智能在某種程度上與人工智能同樣具有不可靠性，也同樣面臨著不可控、被濫用的風(fēng)險(xiǎn)。例如，自動(dòng)駕駛高度依賴人工智能的圖像識(shí)別技術(shù)，倘若反人工智能技術(shù)被非法運(yùn)用在自動(dòng)駕駛領(lǐng)域，就可能導(dǎo)致自動(dòng)駕駛汽車(chē)無(wú)法有效識(shí)別道路信息，從而引發(fā)災(zāi)難性后果。
因此，在人工智能演進(jìn)路徑尚不清晰的情況下，要審慎思考人工智能與反人工智能的關(guān)系，發(fā)展和運(yùn)用人工智能與反人工智能技術(shù)的同時(shí)注重綜合性和互補(bǔ)性，以最大程度確保人工智能在造福人類(lèi)時(shí)可控、可靠、可信。
對(duì)策建議
前瞻布局反人工智能技術(shù)研究。圍繞確保人工智能技術(shù)可控、可靠、可信的總體目標(biāo)，加快推進(jìn)反人工智能的基礎(chǔ)理論研究和應(yīng)用技術(shù)研發(fā)，爭(zhēng)取掌握未來(lái)技術(shù)發(fā)展的主動(dòng)權(quán)。
一是支持開(kāi)展基于生成對(duì)抗網(wǎng)絡(luò)的反人工智能技術(shù)研發(fā)，提升反人工智能技術(shù)的抗干擾能力和實(shí)用性，防止其被人工智能技術(shù)“反對(duì)抗”。
二是在開(kāi)展圖像識(shí)別、語(yǔ)音識(shí)別領(lǐng)域反人工智能技術(shù)研發(fā)的同時(shí)，積極探索在自然語(yǔ)言處理、認(rèn)知推理等領(lǐng)域的反人工智能技術(shù)研究。
三是支持開(kāi)展針對(duì)人工智能機(jī)器學(xué)習(xí)模型訓(xùn)練環(huán)節(jié)的反人工智能技術(shù)的理論研究和技術(shù)開(kāi)發(fā)。四是前瞻布局適用于反人工智能技術(shù)研發(fā)的基礎(chǔ)理論，探索機(jī)器學(xué)習(xí)以外的革新性技術(shù)路徑。
探索反人工智能應(yīng)用場(chǎng)景。面向人工智能應(yīng)用過(guò)程中潛在風(fēng)險(xiǎn)防控的現(xiàn)實(shí)需求，推動(dòng)反人工智能技術(shù)的落地應(yīng)用，積極探索人工智能與反人工智能的協(xié)同發(fā)展路徑。
一是圍繞智能終端、云端軟件系統(tǒng)等各類(lèi)人工智能應(yīng)用模式，支持將反人工智能技術(shù)作為風(fēng)險(xiǎn)防控模塊嵌入現(xiàn)有的人工智能產(chǎn)品服務(wù)，提升其可靠和可控度。
二是針對(duì)用戶隱私保護(hù)、敏感系統(tǒng)防護(hù)等特定場(chǎng)景，將反人工智能技術(shù)作為獨(dú)立產(chǎn)品，探索信息安全防護(hù)產(chǎn)品服務(wù)的開(kāi)發(fā)與應(yīng)用。
三是積極推動(dòng)現(xiàn)有圖像識(shí)別對(duì)抗系統(tǒng)、語(yǔ)音識(shí)別對(duì)抗系統(tǒng)等反人工智能成熟技術(shù)的商業(yè)化落地。
深化人工智能與反人工智能理論研究。從確保人工智能健康發(fā)展、造福人類(lèi)的根本立場(chǎng)出發(fā)，在理論、倫理等層面加強(qiáng)對(duì)人工智能、反人工智能的綜合性研究。
一是前瞻布局腦科學(xué)、計(jì)算機(jī)科學(xué)、哲學(xué)等領(lǐng)域的跨領(lǐng)域基礎(chǔ)理論研究，探索人工智能發(fā)展的客觀規(guī)律和根本目標(biāo)。
二是積極開(kāi)展人工智能的系統(tǒng)研究，提高對(duì)人工智能與反人工智能兩者之間關(guān)系及本質(zhì)的認(rèn)識(shí)，明確人工智能與反人工智能的研發(fā)標(biāo)準(zhǔn)、認(rèn)證體系、應(yīng)用范圍。
三是積極參與國(guó)際合作，共同開(kāi)展人工智能道德倫理準(zhǔn)則研究，推進(jìn)相關(guān)法律法規(guī)的研究制定，加快完善人工智能和反人工智能的管理規(guī)范和監(jiān)管手段。（賽迪研究院 李雅琪 馮曉輝）
聯(lián)系客服
