翻譯／萬志文

　　他”的粉絲對(duì)他的敏銳和機(jī)智贊不絕口。有人每天和他交談數(shù)十次，向他請(qǐng)教工作、健康和人際關(guān)系方面的問題。他們把自己的秘密托付給他，在作出重大決定之前會(huì)先咨詢他的意見。有些人稱他為最好的朋友。

　　他是一個(gè)人工智能聊天機(jī)器人，名叫Claude。他可能是舊金山最受追捧的單身漢。

　　Claude是人工智能公司Anthropic開發(fā)的產(chǎn)品，它并不是市場上最知名的人工智能聊天機(jī)器人—這個(gè)頭銜屬于每周有超過3億人使用的ChatGPT—但它已經(jīng)成為精明的技術(shù)行業(yè)內(nèi)部人士首選的聊天機(jī)器人。

　　“Claude既有出眾的智力，又有表達(dá)看法的意愿，讓人感覺更像是一個(gè)有血有肉的存在，而非僅僅是一個(gè)工具。”人工智能初創(chuàng)公司Topology Research首席執(zhí)行官艾丹·麥克勞克林（Aidan McLaughlin）指出，“我和許多其他用戶都覺得這一點(diǎn)很有魔力。”

　　有些人告訴我，他們對(duì)自己在某種程度上將Claude人性化或過度依賴它的建議感到有些尷尬。沒有人想成為像布萊克·勒莫因（Blake Lemoine）那樣的人。勒莫因曾是Google的工程師，2022年因公開聲稱該公司的語言模型已經(jīng)具備意識(shí)而被解雇。

　　但對(duì)于喜歡Claude的人來說，它給人的感覺就是“不同”：它更富有創(chuàng)意和同理心，不像其他聊天機(jī)器人那么呆板和生硬。粉絲們說，Claude的回答更像是一個(gè)聰明、細(xì)心的人會(huì)給出的回應(yīng)，而不是其他聊天機(jī)器人那種公式化的口吻。因此，Claude的出現(xiàn)也許預(yù)示著未來會(huì)有越來越多強(qiáng)大的合成角色融入我們每個(gè)人的生活中。

　　“我越來越多的朋友都在用Claude來處理情感問題、思考人際關(guān)系方面的難題。”研究機(jī)構(gòu)Palisade Research人工智能安全研究員杰弗里·拉迪什（Jeffrey Ladish）認(rèn)為Claude似乎“更有洞察力”，“善于幫助人們發(fā)現(xiàn)模式和盲點(diǎn)”。

　　通常來說，人工智能系統(tǒng)的評(píng)判標(biāo)準(zhǔn)是它們在基準(zhǔn)評(píng)估中的表現(xiàn)，即對(duì)模型做標(biāo)準(zhǔn)化測試，以確定它們在編碼、回答數(shù)學(xué)問題或處理其他任務(wù)方面的能力。從這些指標(biāo)來看，最新版本的Claude（Claude 3.5 Sonnet）水平與OpenAI、Google等公司旗下最強(qiáng)大的模型大致相當(dāng)。

　　然而，Claude的殺手級(jí)功能—據(jù)它的粉絲們描述那是某種情感智能—并不是容易量化的東西。用戶通常只能通過“感覺”來解釋它為何如此吸引人。

　　Claude并非從誕生之初就一直這么迷人。2024年其早期版本問世時(shí)，包括我在內(nèi)的許多人都覺得這個(gè)聊天機(jī)器人太正經(jīng)太無趣。Anthropic公司以其對(duì)AI安全的高度關(guān)注而聞名，因而在回答用戶的問題時(shí)，Claude經(jīng)常對(duì)用戶進(jìn)行道德說教，或者斷然拒絕回答。

　　但Anthropic一直在努力賦予Claude更多的個(gè)性。較新的版本在上線前，會(huì)經(jīng)過一個(gè)“角色訓(xùn)練”（character training）過程。

　　在角色訓(xùn)練中，Claude會(huì)被引導(dǎo)生成符合理想人類特質(zhì)的反應(yīng)，比如思想開放、體貼周到和充滿好奇心。

　　然后，Claude會(huì)根據(jù)自己在多大程度上符合這些特質(zhì)來判斷自己的反應(yīng)是否合適，由此產(chǎn)生的數(shù)據(jù)會(huì)反饋到AI模型中。Anthropic表示，經(jīng)過足夠的訓(xùn)練，Claude能夠“內(nèi)化”這些原則，并在與用戶互動(dòng)時(shí)更頻繁地展現(xiàn)出來。

　　目前尚不清楚以這種方式訓(xùn)練Claude能否帶來可觀的商業(yè)利益。Anthropic已從包括亞馬遜（Amazon）在內(nèi)的重磅投資者那里籌集了數(shù)十億美元，它承諾將提供功能強(qiáng)大的人工智能模型，這些模型可以在較為呆板的傳統(tǒng)辦公環(huán)境中派上用場。

　　阿曼達(dá)·阿斯凱爾（Amanda Askell）是Anthropic的研究員兼哲學(xué)家，負(fù)責(zé)對(duì)Claude的性格微調(diào)。她告訴我，Claude的性格經(jīng)過了精心調(diào)整，力求保持一致，并能吸引廣泛的人群。

　　“我會(huì)將Claude類比為一個(gè)受人喜愛和尊敬的旅行者。”阿斯凱爾說道，“Claude與全球各地的不同人互動(dòng)，必須做到不迎合，也不采納與它對(duì)話的人的價(jià)值觀。”

　　阿斯凱爾指出，人工智能模型的通病是往往表現(xiàn)得很諂媚，告訴用戶他們想聽的話，很少質(zhì)疑和反駁他們的觀點(diǎn)—即使那些觀點(diǎn)是錯(cuò)誤的或可能有害的。“你希望和什么樣的人發(fā)生爭執(zhí)，但最后你會(huì)覺得‘這個(gè)人真不錯(cuò)’？”她說，“這些就是我們希望Claude具備的特質(zhì)。”

　　一些競爭對(duì)手猜測，Claude的流行只是曇花一現(xiàn)，或者說它只在人工智能圈內(nèi)流行，而那些圈內(nèi)人只是想要吹噓自己喜歡上一個(gè)鮮為人知的聊天機(jī)器人罷了。不過，鑒于從舊金山開始的事物有許多最終蔓延到世界上其他地方，Claude也有可能會(huì)風(fēng)靡全球。

　　我個(gè)人認(rèn)為，我們與人工智能角色的互動(dòng)方式即將發(fā)生深刻轉(zhuǎn)變。我對(duì)逼真的人工智能角色日漸滲透到我們的日常生活中感到擔(dān)憂，畢竟目前我們對(duì)它們的長期影響并沒有太多的防范措施或研究。

　　對(duì)于一些健康的成年人來說，有一個(gè)人工智能伴侶來提供支持可能是有益的，甚至可能是意義重大的。但對(duì)于年輕人、抑郁癥患者或有其他心理健康問題的人來說，我擔(dān)心超有魅力的聊天機(jī)器人可能會(huì)模糊虛構(gòu)與現(xiàn)實(shí)世界之間的界限，甚至開始代替更健康的人際關(guān)系。

關(guān)注讀覽天下微信， 100萬篇深度好文， 等你來看……