翻譯／萬(wàn)志文

　　現(xiàn)在是2027年。強(qiáng)大的人工智能系統(tǒng)正變得比人類更聰明，對(duì)全球秩序造成嚴(yán)重破壞，間諜竊取了美國(guó)的人工智能機(jī)密，白宮急于報(bào)復(fù)。在一個(gè)領(lǐng)先的人工智能實(shí)驗(yàn)室里，工程師們驚恐地發(fā)現(xiàn)，他們開發(fā)的模型開始欺騙他們，模型不受控制的可能性加劇。

　　這些并不是科幻電影劇本里的場(chǎng)景，而是加州伯克利一家名為AI Futures Project的非營(yíng)利組織所設(shè)想的場(chǎng)景。這個(gè)研究人工智能未來(lái)的組織在過去一年里一直試圖預(yù)測(cè)，隨著越來(lái)越強(qiáng)大的人工智能系統(tǒng)被開發(fā)出來(lái)，未來(lái)幾年的世界將會(huì)是什么樣子。

　　該項(xiàng)目由丹尼爾·科克塔伊洛（D a n ie lKokotajlo）領(lǐng)導(dǎo)，他本是OpenAI的研究員，去年因擔(dān)心OpenAI胡作非為而離職。在OpenAI任職期間，科克塔伊洛撰寫過詳細(xì)的內(nèi)部報(bào)告，介紹了通用人工智能（AGI）的競(jìng)賽可能會(huì)如何展開。離職后，他攜手伊萊·利夫蘭德（EliLifland）創(chuàng)立AI Futures Project。后者是一名人工智能研究員，曾準(zhǔn)確作出一些AI領(lǐng)域的預(yù) 測(cè)。

　　他們的研究成果就是4月3日公開的名為《AI 2027》的報(bào)告和同名網(wǎng)站。該報(bào)告介紹了一個(gè)詳細(xì)的虛構(gòu)場(chǎng)景，描述了如果人工智能系統(tǒng)的智力水平超過人類（報(bào)告作者預(yù)計(jì)這將在未來(lái)2到3年內(nèi)發(fā)生）世界將變得怎樣。

　　如今的舊金山被人工智能熱潮所籠罩，在灣區(qū)的技術(shù)圈里，對(duì)于人工智能未來(lái)將如何演變，各個(gè)派別眾說紛紜。一些人工智能預(yù)測(cè)以宣言的形式出現(xiàn)，比如Anthropic首席執(zhí)行官達(dá)里奧·阿莫代伊（Dario A modei）去年撰寫的1.4萬(wàn)字的文章《仁愛的機(jī)器》，以及OpenAI前研究員利奧波德·阿申布倫納（L e o p o l dAschenbrenner）發(fā)表的在決策圈廣為流傳的報(bào)告《態(tài)勢(shì)感知》。

　　AI Futures Project的研究人員將他們的報(bào)告設(shè)計(jì)成預(yù)測(cè)場(chǎng)景—本質(zhì)上，這是一部經(jīng)過嚴(yán)謹(jǐn)研究后創(chuàng)作的科幻小說，研究人員對(duì)未來(lái)的最佳猜測(cè)被設(shè)計(jì)成了情節(jié)點(diǎn)。他們花了將近一年的時(shí)間，琢磨了數(shù)百個(gè)關(guān)于人工智能的預(yù)測(cè)，然后請(qǐng)來(lái)博客Astral Codex Ten的作者斯科特·亞歷山大（Scott Alexander），將他們的預(yù)測(cè)內(nèi)容敘述出來(lái)。利夫蘭德表示，“我們把我們認(rèn)為會(huì)發(fā)生的事情寫了出來(lái)，并試著寫得比較引人入勝。”

　　這種做法的批評(píng)者可能會(huì)說，虛構(gòu)的人工智能故事更能嚇唬人，而不是教育人。一些人工智能專家無(wú)疑也會(huì)反對(duì)AI Futures Project關(guān)于人工智能將超越人類智能的核心主張。

　　毫無(wú)疑問，該組織的部分觀點(diǎn)是極端的，比如科克塔伊洛去年在接受采訪時(shí)稱，他認(rèn)為人工智能有70%的可能性會(huì)毀滅人類或?qū)θ祟愒斐蔀?zāi)難性傷害?？瓶怂谅搴屠蛱m德均與有效利他主義運(yùn)動(dòng)（Effective Altruism）有關(guān)聯(lián)，這是一項(xiàng)在技術(shù)從業(yè)者中流行的哲學(xué)運(yùn)動(dòng)，多年來(lái)一直就人工智能技術(shù)的影響發(fā)出可怕的警告。

　　但同樣值得注意的是，硅谷的一些技術(shù)巨頭正在規(guī)劃一個(gè)超越通用人工智能的世界，而且過去許多有關(guān)人工智能的看似瘋狂的預(yù)測(cè)，比如機(jī)器將通過圖靈測(cè)試已經(jīng)成為現(xiàn)實(shí)。

　　2021年，也就是ChatGPT問世的前一年，科克塔伊洛撰寫了一篇題為《2026年的樣子》的博客文章，概述了他對(duì)人工智能系統(tǒng)將如何發(fā)展的看法。他的許多預(yù)測(cè)被證明是有先見之明的。

　　最近，科克塔伊洛和利夫蘭德邀請(qǐng)我去他們的辦公室—位于伯克利的聯(lián)合辦公空間Constellation里的一個(gè)小房間，那里有許多人工智能安全組織掛牌營(yíng)業(yè)—向我展示他們是如何工作的?？瓶怂谅宕┲睾稚能娧b式夾克，拿起一支記號(hào)筆，在一塊大白板上寫下了四個(gè)縮寫詞：SC>SAR>SIAR>ASI。他解釋說，每一個(gè)縮寫詞都代表了人工智能發(fā)展的一個(gè)里程碑。

　　他說，按照目前的趨勢(shì)，到2027年年初的某個(gè)時(shí)候，人工智能將成為超越人類的程序員。然后，到2027年中期，人工智能將成為一個(gè)超人的人工智能研究員—能夠監(jiān)督人工智能編程團(tuán)隊(duì)并提出新發(fā)現(xiàn)的自主智能體。然后，到2027年年底或2028年年初，人工智能將成為一個(gè)超級(jí)智能的人工智能研究員—比我們更了解構(gòu)建先進(jìn)人工智能的機(jī)器智能，能夠自動(dòng)化推進(jìn)自己的研發(fā)工作—本質(zhì)上就是構(gòu)建更智能的他自己。他說，從那一步到人工超級(jí)智能（ASI）只有很短的距離，到那時(shí)，人類無(wú)法預(yù)料會(huì)發(fā)生什么。

　　我問科克塔伊洛，他覺得之后會(huì)發(fā)生什么。例如，2030年時(shí)人類生活的模樣是否還能預(yù)測(cè)？伯克利的街道上是否會(huì)充斥著人形機(jī)器人？人們會(huì)給自己的人工智能女友發(fā)短信嗎？我們還會(huì)有工作嗎？

　　他凝視著窗外，承認(rèn)自己也不確定。他說，如果未來(lái)幾年進(jìn)展順利，我們能控制人工智能，他可以預(yù)見，未來(lái)大多數(shù)人的生活仍將基本保持不變，但附近的“經(jīng)濟(jì)特區(qū)”將充斥著超高效的機(jī)器人工廠，生產(chǎn)我們需要的一 切。

　　如果接下來(lái)的幾年進(jìn)展不順利呢？“也許天空會(huì)被污染，人們會(huì)死去？”他冷淡地說道。“大概是這樣吧。”

　　這樣渲染人工智能預(yù)測(cè)的一個(gè)風(fēng)險(xiǎn)在于，一不小心，一個(gè)個(gè)猜想的場(chǎng)景可能就會(huì)變成世界末日般的幻想。另一個(gè)風(fēng)險(xiǎn)在于，由于專注于講述一個(gè)吸引人們注意力的戲劇性故事，你可能會(huì)看不見相對(duì)無(wú)趣的結(jié)果，比如人工智能整體上表現(xiàn)良好，不會(huì)給任何人帶來(lái)太多麻煩的場(chǎng)景。

　　我同意《AI 2 027》報(bào)告的作者關(guān)于強(qiáng)大的人工智能系統(tǒng)很快就會(huì)到來(lái)的看法，但我并不認(rèn)為超人的人工智能程序員會(huì)自動(dòng)掌握其他技能，從而邁向?qū)崿F(xiàn)通用人工智能。對(duì)于那些認(rèn)為人工智能的發(fā)展將是平穩(wěn)的、呈指數(shù)級(jí)增長(zhǎng)的預(yù)測(cè)，我都謹(jǐn)慎看待。但這種預(yù)測(cè)值得一做，如果強(qiáng)大的人工智能真的即將到來(lái)，我們就需要開始想象一些非常不尋常的未來(lái)。

關(guān)注讀覽天下微信， 100萬(wàn)篇深度好文， 等你來(lái)看……