在業(yè)內(nèi)有“人工智能教父”之稱的計(jì)算機(jī)科學(xué)家杰弗里·辛頓（Geoffrey Hinton）周一在社交媒體上證實(shí)，他上周已經(jīng)離開谷歌。辛頓在過去的十多年里幫助谷歌開發(fā)AI技術(shù)，但他現(xiàn)在成為了人工智能最新的“末日預(yù)言者”。

辛頓在Twitter上澄清，離開谷歌并不是為了批評(píng)谷歌。“實(shí)際上，我離開是為了談?wù)撊斯ぶ悄艿奈ｋU(xiǎn)，而不用去考慮這對(duì)谷歌有何影響。”他寫道，“谷歌的行為非常負(fù)責(zé)任。”

(相關(guān)資料圖)

無法防止壞人利用AI做壞事

辛頓坦言他對(duì)人工智能的擔(dān)憂，并說道：“現(xiàn)在似乎還很難看到如何能夠防止壞人利用人工智能來做壞事。”

辛頓在神經(jīng)網(wǎng)絡(luò)方面的開創(chuàng)性工作塑造了為當(dāng)今許多產(chǎn)品提供動(dòng)力的人工智能系統(tǒng)。由于對(duì)神經(jīng)網(wǎng)路研究的貢獻(xiàn)，辛頓與法國計(jì)算機(jī)科學(xué)家楊立昆（Yann LeCun）、加拿大計(jì)算機(jī)科學(xué)家約書亞·本希奧（Yoshua Bengio）共同獲得了2018年的圖靈獎(jiǎng)。

去年年底，以微軟、谷歌為代表的科技巨頭公司圍繞AI大模型展開了新一輪的“軍備競(jìng)賽”，IBM、亞馬遜、百度和騰訊等企業(yè)也在研究類似的技術(shù)。

隨著辛頓的離職，他以更明確的態(tài)度加入了AI批評(píng)者的行列。批評(píng)人士認(rèn)為，這些科技公司積極開展基于生成式人工智能（AIGC）的產(chǎn)品開發(fā)活動(dòng)，“這是在與危險(xiǎn)賽跑”。

辛頓表示，他現(xiàn)在甚至有些后悔一生從事AI的開發(fā)工作。“我經(jīng)常這樣安慰自己，就算我沒有從事這些工作，也會(huì)有別人去做。”他說道。

現(xiàn)年75歲的辛頓終身從事學(xué)術(shù)研究，他對(duì)人工智能的信仰推動(dòng)了他的職業(yè)生涯。辛頓曾是卡內(nèi)基梅隆大學(xué)的計(jì)算機(jī)科學(xué)教授，但因?yàn)椴辉附邮芪褰谴髽堑馁Y助而離開大學(xué)前往加拿大。美國大多數(shù)AI項(xiàng)目都由國防部資助，而辛頓強(qiáng)烈反對(duì)在戰(zhàn)場(chǎng)上使用人工智能。

2012年，辛頓與他在多倫多的兩名學(xué)生建立了一個(gè)神經(jīng)網(wǎng)絡(luò)公司，可以分析數(shù)千張照片并自學(xué)識(shí)別常見物體，例如花、狗和汽車。谷歌后來斥資4400萬美元收購了該公司，其中一名學(xué)生Ilya Sutskever后來成為了OpenAI的首席科學(xué)家。

辛頓長(zhǎng)期堅(jiān)信，神經(jīng)網(wǎng)絡(luò)是機(jī)器理解和生成語言的一種強(qiáng)大方式，但它不如人類處理語言的方式。然而，隨著去年谷歌和OpenAI使用大量數(shù)據(jù)構(gòu)建系統(tǒng)，誕生了Bard和ChatGPT這樣的AI聊天系統(tǒng)，辛頓的觀點(diǎn)發(fā)生了變化。盡管他仍然認(rèn)為這些系統(tǒng)在某些方面不如人腦，但它們?cè)谄渌矫婵梢允谷祟愔悄荀鋈皇?/p>

巨頭的AI“危險(xiǎn)游戲”可能無法停止

從AI的開創(chuàng)者到“末日預(yù)言者”，辛頓的離職標(biāo)志著科技行業(yè)在幾十年來最重要的轉(zhuǎn)折點(diǎn)。人工智能行業(yè)領(lǐng)導(dǎo)者相信新的AI系統(tǒng)可能與上世紀(jì)90年代初引入的網(wǎng)絡(luò)瀏覽器一樣重要，并可以引發(fā)從藥物研究到教育等領(lǐng)域的顛覆式突破。

但困擾許多業(yè)內(nèi)人士的是，他們擔(dān)心人工智能正在向“惡的一面”釋放“危險(xiǎn)信號(hào)”，生成式人工智能已經(jīng)可以成為散播錯(cuò)誤信息的工具，并對(duì)一些工作構(gòu)成威脅。而科技界最大的反對(duì)聲音則認(rèn)為，AI可能在未來的某個(gè)時(shí)間點(diǎn)對(duì)人類構(gòu)成威脅。

隨著科技巨頭公司不斷改進(jìn)他們的AI系統(tǒng)，辛頓認(rèn)為，這些系統(tǒng)正在變得越來越危險(xiǎn)。“直到去年，谷歌一直被視為是人工智能技術(shù)的’管家’，小心翼翼地不發(fā)布可能造成傷害的東西。”辛頓表示，“但現(xiàn)在微軟已經(jīng)通過聊天機(jī)器人增強(qiáng)了Bing搜索引擎，并挑戰(zhàn)谷歌的核心業(yè)務(wù)，科技巨頭陷入了一場(chǎng)可能無法停止的競(jìng)爭(zhēng)。”

今年3月，億萬富豪馬斯克聯(lián)合上千名技術(shù)領(lǐng)袖和研究人員簽署了一封公開信，呼吁暫停GPT模型新系統(tǒng)的開發(fā)，并認(rèn)為AI技術(shù)將給“社會(huì)和人類帶來深遠(yuǎn)的風(fēng)險(xiǎn)”。

辛頓并不在聯(lián)名者之列，他當(dāng)時(shí)仍為谷歌供職。上個(gè)月，辛頓通知公司他要辭職，并在周四與谷歌CEO桑達(dá)爾·皮查伊（Sundar Pichai）通了電話，不過他拒絕公開討論他與皮查伊談話的細(xì)節(jié)。

皮查伊近期也在美國哥倫比亞廣播公司“60分鐘”的采訪中公開談?wù)撊斯ぶ悄艿膫惱韱栴}。他說道：“社會(huì)尚未為人工智能的快速發(fā)展做好準(zhǔn)備。”他還警告稱，人工智能的后果將影響“每家公司的每一種產(chǎn)品”。

“所有公司的產(chǎn)品都將受到人工智能快速發(fā)展的影響，社會(huì)需要為已經(jīng)推出的技術(shù)做好準(zhǔn)備。”皮查伊說道，“我們的適應(yīng)速度與技術(shù)發(fā)展的速度相比，似乎還不太匹配。”

他強(qiáng)調(diào)虛假信息、假新聞和圖像帶來的問題遠(yuǎn)比人們想象的要大得多，它可能造成傷害。他還稱，聊天機(jī)器人有一個(gè)“黑匣子”，“在那里，你不完全理解它為什么或如何做出某些回應(yīng)。”皮查伊說道。

但谷歌負(fù)責(zé)技術(shù)和社會(huì)業(yè)務(wù)的高級(jí)副總裁James Manyika回應(yīng)稱：“Bard沒有知覺，也沒有自我意識(shí)，但它可以表現(xiàn)得很像有意識(shí)的人。”

對(duì)于辛頓的離職，谷歌首席科學(xué)家杰夫·迪恩在一份聲明中表示：“我們?nèi)匀恢铝τ趯?duì)人工智能采取負(fù)責(zé)任的態(tài)度。我們不斷學(xué)習(xí)并了解AI新出現(xiàn)的風(fēng)險(xiǎn)，同時(shí)也大膽創(chuàng)新。”

AI超過人類已不再遙遠(yuǎn)

辛頓最擔(dān)心的是，互聯(lián)網(wǎng)上將充斥著虛假的照片、視頻和文字，普通人將“無法再辨別真假”。此外，辛頓還擔(dān)心人工智能技術(shù)的“未來版本”會(huì)對(duì)人類構(gòu)成威脅，因?yàn)?ldquo;它們經(jīng)常從分析的大量數(shù)據(jù)中學(xué)習(xí)到意想不到的行為”。

“這會(huì)成為一個(gè)問題，因?yàn)槿绻鸄I系統(tǒng)被允許不僅可以生成自己的計(jì)算機(jī)代碼，而且實(shí)際上可以自己運(yùn)行該代碼，這就會(huì)變得非常可怕。”辛頓表示。他甚至擔(dān)心有一天真正的“自主武器”會(huì)成為現(xiàn)實(shí)，這些“武器”就好像是戰(zhàn)場(chǎng)上的“機(jī)器人士兵”。

“這種東西實(shí)際上可以擁有比人類更聰明的想法。”他說道，“但大多數(shù)人認(rèn)為這還很遙遠(yuǎn)，我也曾認(rèn)為這是30年到50年甚至更長(zhǎng)的時(shí)間才會(huì)發(fā)生的，但顯然，我不再這么想了。”

谷歌與微軟和其他公司之間的競(jìng)爭(zhēng)將升級(jí)為一場(chǎng)全球競(jìng)爭(zhēng)，如果沒有全球的監(jiān)管，這種競(jìng)爭(zhēng)將不會(huì)停止。“最好的情況是世界領(lǐng)先的科學(xué)家在控制技術(shù)的方法上進(jìn)行合作。我認(rèn)為他們?cè)诹私馊祟愂欠衲軌蚩刂艫I之前，不應(yīng)該繼續(xù)擴(kuò)大規(guī)模。”辛頓表示。

美國參議院多數(shù)黨領(lǐng)袖舒默近期發(fā)起一項(xiàng)針對(duì)人工智能的治理框架，并聘請(qǐng)了頂尖的人工智能專家進(jìn)行咨詢。該計(jì)劃將側(cè)重于建立人工智能系統(tǒng)的透明度，并要求獨(dú)立專家在公開發(fā)布之前測(cè)試人工智能技術(shù)，并要求披露參與技術(shù)開發(fā)的人員、地點(diǎn)和方式。

谷歌也已經(jīng)發(fā)布了一份概述“監(jiān)管人工智能建議”的文件，并提出“社會(huì)必須迅速適應(yīng)監(jiān)管、建立起懲罰濫用人工智能行為的法律和各國之間的條約，以確保人工智能對(duì)世界安全，并確保與人類價(jià)值觀保持一致的規(guī)則”。

標(biāo)簽：