5.機(jī)器的自我意識
有可能
電影《機(jī)械公敵》海報(bào)
機(jī)器人掌管世界會怎樣？
撰文 拉里 格林邁耶(Larry Greenemeier)
翻譯 崔琳琳
能夠自我復(fù)制、自我學(xué)習(xí)、適應(yīng)不同環(huán)境的高智能計(jì)算機(jī)和機(jī)器人，一旦出現(xiàn)必將改變世界，對于這一點(diǎn)，人工智能研究者深信不疑。引起爭議的原因是這樣一些問題：這一切會在何時(shí)發(fā)生，影響會有多深遠(yuǎn)，人類應(yīng)該如何應(yīng)對。
今天的智能機(jī)器大都是設(shè)計(jì)用來在已知條件下完成特定任務(wù)的。不過，未來的智能機(jī)器將擁有更多自主性。美國康奈爾大學(xué)機(jī)械電腦工程師霍德 利普森(HodLipson)說：“我們想讓機(jī)器去完成的任務(wù)越復(fù)雜，就越是需要它們能夠自己照顧自己。”利普森指出，我們越是無法預(yù)見問題，就越需要機(jī)器能夠自己適應(yīng)環(huán)境變化并自行作出決定。利普森說，隨著機(jī)器越來越懂得如何學(xué)習(xí)，“我覺得它們終將走上意識和自我覺醒之路”。
雖然神經(jīng)科學(xué)家對意識的生物學(xué)基礎(chǔ)一直爭論不休，但系統(tǒng)復(fù)雜度似乎是關(guān)鍵因素之一，這就暗示，擁有高級軟硬件配置的自適應(yīng)計(jì)算機(jī)有朝一日或許會自我覺醒。如果《終結(jié)者》之類的電影預(yù)言正確的話，有一種方法會讓我們意識到機(jī)器已經(jīng)獲得了意識，那就是它們突然向人類發(fā)動戰(zhàn)爭。專家認(rèn)為，我們很有可能會看到這一幕的發(fā)生。
電影中的這一構(gòu)想，來源于對人類自身的觀察。美國倫塞勒理工學(xué)院(Rensselaer Polytechnic Institute)的邏輯學(xué)家和哲學(xué)家塞爾默 布林斯約爾德(Selmer Bringsjord)說，只有我們?nèi)祟愡_(dá)到了這樣一種智力水平，讓我們能夠一次又一次跳出條條框框，達(dá)到越來越高的水平。用他的話來說，人類有能力把他們從自身的認(rèn)知局限中解放出來，而動物似乎被鎖進(jìn)了一個(gè)“一成不變的認(rèn)知囚籠”。一旦機(jī)器意識到自己的存在，并了解到自身的結(jié)構(gòu)，它們就能設(shè)計(jì)一個(gè)自我改進(jìn)方案。“這將帶來一系列很棘手的連鎖變化，”威爾 賴特(Will Wright)說。他是《模擬人生》(Sims)游戲的開創(chuàng)者，也是美國加利福尼亞大學(xué)伯克利分校機(jī)器人工作室蠢趣俱樂部(Stupid Fun Club)的聯(lián)合創(chuàng)始人。機(jī)器在自我意識首次覺醒之后就會進(jìn)行自我完善，用賴特的話來說，這是“使事情變得有趣的關(guān)鍵一步”。這樣的自我完善可能會連續(xù)發(fā)生好幾“代”，對機(jī)器來說，更新一代只需要短短幾個(gè)小時(shí)。
換句話說，賴特指出，自我意識導(dǎo)致自我復(fù)制，導(dǎo)致更好的機(jī)器可以在無人類參與的情況下制造出來。就人類命運(yùn)而言，“我個(gè)人總是覺得，這個(gè)場景要比許多其他情景可怕得多，”他說，“或許我們在有生之年就會看到這一幕。一旦出現(xiàn)了某種形式的超級智慧要同我們分享地球，一切就都完了。”
并不是所有人都如此悲觀。畢竟，機(jī)器是依照它們程序的邏輯工作的，布林斯約爾德說，如果正確地給機(jī)器編寫程序，“機(jī)器是不會獲得某種超自然能力的”。他指出，值得擔(dān)心的應(yīng)該是先進(jìn)的機(jī)器智能在武器或戰(zhàn)斗機(jī)器中的秘密應(yīng)用，這些領(lǐng)域沒有人能夠密切監(jiān)控。除此之外，布林斯約爾德說，只要負(fù)責(zé)任地使用人工智能，“我敢說我們能夠控制未來”。
未來派杰出作家雷 庫日韋爾(RayKurzweil)也認(rèn)為，更高智慧的人工智能不會以“取代人類的機(jī)器異形侵略者”的形象登場。他說，機(jī)器的發(fā)展將會遵循一條與人類進(jìn)化相似的道路。不過他也認(rèn)為，最終，擁有自我意識、能夠自我改良的機(jī)器將進(jìn)化到超出人類控制能力、甚至理解能力的地步。
不受人類控制的機(jī)器會帶來何種法律問題，現(xiàn)在尚不明了，所以“花些心思來考慮這一問題，或許是個(gè)好主意”，利普森說。已故的艾薩克 阿西莫夫(isaacasimov)提出過“機(jī)器人三定律”，本質(zhì)上是要求機(jī)器人不能傷害人類或者坐視人類受到傷害。利普森指出，阿西莫夫的三定律有一個(gè)前提，那就是“假設(shè)給機(jī)器人編程的是人類”。一旦機(jī)器人開始給自己編程，
甚至刪除人類指令，此類倫理法則就會變成一紙空文，很難得到遵守。
不過，還有一些人認(rèn)為，人類或許壓根就不應(yīng)該去控制新一代的人工智能。賴特問道：“誰敢說這不是進(jìn)化的必經(jīng)之路？難道當(dāng)初恐龍就應(yīng)該規(guī)定，哺乳動物不能長得更大，不能更多地主宰這個(gè)星球嗎？”如果最終證明我們不可能控制這些硅基伙伴，我們最好還是祈禱能夠和它們和平共享這個(gè)星球吧。
