雷鋒網(wǎng) AI 科技評論按:曾經(jīng),人工神經(jīng)網(wǎng)絡(luò)在AI領(lǐng)域內(nèi)可謂是飽受爭議,很多學(xué)者并不看好該技術(shù)方面的研究。而就在不久前, 有“深度學(xué)習(xí)三巨頭”之稱的Yoshua Bengio、Yann LeCun、Geoffrey Hinton 共同獲得了 2018 年的圖靈獎;同時他們在該領(lǐng)域的研究成果也成為了當(dāng)今從搜索到內(nèi)容過濾等各個方面不可或缺的組成部分。
那么現(xiàn)在炙手可熱的深度學(xué)習(xí)和人工智能(AI)領(lǐng)域發(fā)展究竟如何?在這里,ACM對三位先驅(qū)者進(jìn)行了相關(guān)問題的專訪,以下內(nèi)容將向大家分享三位學(xué)者激動人心的發(fā)現(xiàn),以及他們眼中當(dāng)下仍存在的挑戰(zhàn)。
Q:現(xiàn)在關(guān)于人工智能的異議已經(jīng)遠(yuǎn)比你們剛開始研究時要多,其中一些是廣為人知的,有些則不是。所以,你們不希望再被問到關(guān)于 AI 的什么問題呢?
GEOFFREY HINTON:比如這個問題,「神經(jīng)網(wǎng)絡(luò)只是泡沫嗎?」因為在過去,人工智能領(lǐng)域的研究者們提出了許多宏偉的想法,但通常難以實現(xiàn)。而神經(jīng)網(wǎng)絡(luò)并不是,它的確行之有效,并且還可以擴展。在無需更多代碼的情況下,通過向其提供更多數(shù)據(jù)和更高速的計算機時,它的性能還會變得更好。
YANN LECUN:的確如此,深度學(xué)習(xí)的基本思想并沒有消失,但當(dāng)人們問道是否只需簡單地擴展當(dāng)前的方法,就能使機器更加智能化時,它的表現(xiàn)仍舊不夠理想,我們還需要創(chuàng)新。
YOSHUA BENGIO:目前的技術(shù)在工業(yè)和科學(xué)方面,已經(jīng)有多年的應(yīng)用經(jīng)驗。但對于我們?nèi)齻€人而言,作為研究者,在獲取更詳細(xì)的信息方面還不夠有耐心,因為我們遠(yuǎn)離了人類級人工智能,并且對于理解自然或人工智能法則方面還有所欠缺。
Q:有哪些問題還沒能得到充分的討論呢?
HINTON:對于大腦是如何工作的,人工智能給了我們哪些啟發(fā)?這個問題有人問過,但問的人還不夠多。
BENGIO:而且更糟糕的是,盡管深度學(xué)習(xí)的靈感來源于大腦和認(rèn)知,但如今參與其中的大部分工程師們并不關(guān)心這些問題。如果將其運用在工業(yè)中,倒是可以被理解;但就研究而言,如果我們不與那些試圖理解大腦運作方式的人多溝通,我認(rèn)為這是一個巨大的損失。
HINTON:換句話說,神經(jīng)科學(xué)家現(xiàn)在正在認(rèn)真對待 AI。過去幾年來,神經(jīng)科學(xué)家認(rèn)為,「人工神經(jīng)網(wǎng)絡(luò)與真正大腦的不同之處,在于它不會告訴我們關(guān)于大腦如何工作的任何信息?!沟F(xiàn)在,神經(jīng)科學(xué)家非常認(rèn)真的專研大腦中正在進(jìn)行反向傳播的可能性,這確實是非常令人興奮的。
LECUN:現(xiàn)在幾乎所有關(guān)于人類和動物視覺的研究都使用卷積網(wǎng)絡(luò)作為標(biāo)準(zhǔn)概念模型,這在以前是幾乎不可能發(fā)生的情況。
HINTON:我認(rèn)為這對社會科學(xué)也會漸漸的產(chǎn)生巨大影響,因為它會改變我們對人的看法。曾經(jīng)我們認(rèn)為人是理性的存在,人的特殊之處在于他們使用推理來得出結(jié)論;而現(xiàn)在我們可以更好的去理解「把人比為大規(guī)模的類比制造機」的概念。它們很慢地形成這些象征性事物,然后這些事物決定了得到的類比。當(dāng)然,我們也可以做推理,沒有它我們就不會有數(shù)學(xué),但這并不是我們思考的根本方式。
Q:作為先驅(qū)研究者,你們怎么看待過去的所取得的成績呢?
HINTON:我覺得那些發(fā)明現(xiàn)在被定為標(biāo)準(zhǔn)技術(shù)的人有他的特別之處。上帝沒有給他們?nèi)魏螙|西,也可能存在其他更好的技術(shù)。然而對于一個已經(jīng)進(jìn)入領(lǐng)域并按標(biāo)準(zhǔn)方式做事的人來說,他不會理解這種標(biāo)準(zhǔn)方式是多么的獨斷。
BENGIO:學(xué)生們有時也會談?wù)撋窠?jīng)網(wǎng)絡(luò),仿佛像在描述圣經(jīng)一般。
LECUN:它打造了一代人的獨斷主義。然而,一些最具創(chuàng)新性的想法很可能來自比我們更年輕的人。
Q:該領(lǐng)域的進(jìn)展著實令人驚嘆,那么在 20 或 30 年前,你們可能會對什么感到驚訝?
LECUN:我對很多事情都感到驚訝。比如:深度學(xué)習(xí)改革竟然來得如此之晚;而它一旦開始后的發(fā)展速度竟然如此之快。我本以為事情能夠逐步發(fā)生,但人們在 20 世紀(jì) 90 年代中期到 21 世紀(jì)初中期之間放棄了神經(jīng)網(wǎng)絡(luò)的整體觀念。有證據(jù)表明在那之前它們依舊在被使用,而一旦大家接受了新的觀念,深度學(xué)習(xí)改革發(fā)生得非???。首先是語音識別,然后是圖像識別,現(xiàn)在是自然語言理解。
HINTON:20 年前,如果有人說你可以以某種語言寫入一個句子;然后把它分段,送進(jìn)一個隨機連接的神經(jīng)網(wǎng)絡(luò);在完全不懂語法或語義即沒有任何語言知識的情況下,訓(xùn)練神經(jīng)網(wǎng)絡(luò)將該句子翻譯成另一種語言;最后得到比其他任何都翻譯得更完美的情況,是令我感到震驚的。而現(xiàn)在盡管這樣的翻譯機還不夠完美,也不如人工翻譯更準(zhǔn)確,但它已經(jīng)和這個設(shè)想很接近了。
LECUN:這些技術(shù)在短時間內(nèi)對很多行業(yè)變得不可或缺,這樣的結(jié)果也是出乎意料的。如果現(xiàn)在把深度學(xué)習(xí)從 Google 或 Facebook 中去掉,兩家公司都會崩潰,因為所有開發(fā)都圍繞它進(jìn)行。當(dāng)我加入 Facebook 時,有一件事讓我感到驚訝,那就是有一個小組在使用卷積網(wǎng)絡(luò)進(jìn)行人臉識別。我對卷積網(wǎng)絡(luò)的第一印象是它可能對類別或級別的識別會很有用,比如:汽車、狗、貓、飛機、桌子;而不是面部等細(xì)粒度的東西。但事實證明它也可以很好的運用在面部識別上,并且現(xiàn)在它已經(jīng)完全形成了標(biāo)準(zhǔn)。同時,令我感到驚訝的另一件事是 Yoshua 的生成對抗網(wǎng)絡(luò)實驗室,基本上可以使用神經(jīng)網(wǎng)絡(luò)作為生成模型來產(chǎn)生圖像和聲音。
BENGIO:當(dāng)我在攻讀博士學(xué)位時,我正在努力擴展神經(jīng)網(wǎng)絡(luò)不僅可以做模式識別,即將固定大小的向量作為輸入并生成類別。但是直到最近,我們的翻譯工作才擺脫了這個模式。正如 Yann 所說,產(chǎn)生新事物的能力確實具有變革性,而能夠操縱任何類型的數(shù)據(jù)結(jié)構(gòu)(不只是像素和矢量)同理。傳統(tǒng)意義上,神經(jīng)網(wǎng)絡(luò)僅限于人類可以非??焖偾覠o意識地執(zhí)行任務(wù),例如識別物體和圖像。而現(xiàn)代神經(jīng)網(wǎng)絡(luò)在本質(zhì)上,與我們在 20 世紀(jì) 80 年代所考慮的不同,它們可以做的事情更接近我們在推理時所做的事情,以及我們在編程計算機時所做的事情。
Q:除了技術(shù)本身的進(jìn)展之外,Yoshua 還談到了讓發(fā)展中國家更易于獲得這項技術(shù)的緊迫性,對此你們有什么看法呢?
BENGIO:我認(rèn)為這非常重要。我過去一直不太關(guān)心政治問題,但機器學(xué)習(xí)和人工智能已經(jīng)走出校園了,我認(rèn)為我們有責(zé)任思考這個問題,并參與有關(guān)如何使用它們的社會和政治討論。其中一個問題是知識、財富和技術(shù)將集中在哪里?它們是集中在幾個國家,一些公司和一小群人手中,還是找到方法使它們更易于獲取,尤其是對于那些可以為更多人做出更大改變的國家?
HINTON:Google 對其用于開發(fā)神經(jīng)網(wǎng)絡(luò)的主要軟件進(jìn)行了開源,稱為 TensorFlow,您還可以在 Cloud 上將 Google 特殊的硬件用于神經(jīng)網(wǎng)絡(luò)。因此,Google 也正試圖讓更多的人能夠使用這項技術(shù)。
LECUN:我認(rèn)為這是非常重要的一點。深度學(xué)習(xí)社區(qū)在推廣開放式研究的理念上做得非常好,不僅僅在學(xué)術(shù)界內(nèi),通過公開場合舉行相關(guān)會議來發(fā)布論文、報告和解讀;而且在企業(yè)界,Google 和 Facebook 等公司開源他們編寫的絕大多數(shù)軟件代碼,為其他人提供工具,所以任何人都可以在短時間內(nèi)復(fù)制其他人的研究。在任何特定研究課題上,沒有一個頂級研究小組會比任何其他研究小組提前幾個月完成。我認(rèn)為重要的是整個領(lǐng)域的進(jìn)展速度有多快,因為我們真正想要建立的東西——虛擬助手,它可以回答我們提出的任何問題,并且可以在日常生活中幫助我們。我們不僅缺乏技術(shù),也缺乏基本的科學(xué)原理,所以整個研究團(tuán)體的工作進(jìn)展越迅速,對我們所有人就會產(chǎn)生越好的結(jié)果。
原文鏈接:
https://cacm.acm.org/magazines/2019/6/236987-reaching-new-heights-with-artificial-neural-networks/fulltext
雷鋒網(wǎng)(公眾號:雷鋒網(wǎng))AI 科技評論 雷鋒網(wǎng)