劃重點(diǎn)
(資料圖片僅供參考)
騰訊科技訊 人工智能研究公司OpenAI正因其語(yǔ)言模型和聊天機(jī)器人爆火而受到關(guān)注，作為該公司的聯(lián)合創(chuàng)始人兼首席執(zhí)行官，薩姆·奧特曼也開始被視為人工智能領(lǐng)域的領(lǐng)跑者。奧特曼或許已經(jīng)贏得了硅谷的支持，但現(xiàn)在他面臨著一項(xiàng)更艱巨的任務(wù)，那就是向全世界推銷他的科技?jí)粝搿?/p>
在這個(gè)過(guò)程中，許多人開始用警惕的眼光審視他，擔(dān)心其暢想的未來(lái)愿景會(huì)變成末日噩夢(mèng)。奧特曼曾與硅谷天使投資人彼得·蒂爾下過(guò)棋，與特斯拉首席執(zhí)行官埃隆·馬斯克吵過(guò)架，據(jù)說(shuō)還曾阻止過(guò)一場(chǎng)飛機(jī)失事空難。在他的世界里，現(xiàn)實(shí)似乎比小說(shuō)顯得更顯得光怪陸離。
在美國(guó)舊金山北面的山上，有一棟被爬滿藤蔓的混凝土墻與街道隔開的房子，它的內(nèi)部有健身中心和個(gè)帶有007風(fēng)格的車庫(kù)。很多時(shí)候，科技大咖們都喜歡聚集在這里，暢想未來(lái)。這里就是OpenAI首席執(zhí)行官薩姆·奧特曼的家，現(xiàn)在很多人將這里視為新技術(shù)、新公司的培養(yǎng)皿。
最近，20多名加密貨幣愛(ài)好者涌入奧特曼的大客廳，后者正在介紹其身份驗(yàn)證初創(chuàng)公司W(wǎng)orldcoin的最新進(jìn)展。這家公司希望通過(guò)用西瓜大小的銀色球體掃描眼球，為世界上的每個(gè)人都創(chuàng)建專有注冊(cè)表。按照奧特曼的設(shè)想，數(shù)十億人最終將使用這些獨(dú)特的數(shù)字身份來(lái)領(lǐng)取全民基本收入。
在一張桌子上，一臺(tái)Worldcoin的鍍鉻設(shè)備被拆開展示，它的機(jī)械內(nèi)臟暴漏在所有人的目光之下。投資者和奧特曼的朋友們凝視著另一個(gè)球體的長(zhǎng)焦鏡頭。只需輕輕點(diǎn)擊，他們的身份就被錄入系統(tǒng)中。
兩年前，當(dāng)Worldcoin問(wèn)世時(shí)，批評(píng)人士將其視為反烏托邦式的噩夢(mèng)。美國(guó)泄密者愛(ài)德華·斯諾登在推特上寫道：“人體不是打孔機(jī)。”那天晚上，當(dāng)Worldcoin向投資者和朋友介紹該公司即將發(fā)布的產(chǎn)品時(shí)，奧特曼承認(rèn)未來(lái)充滿了不確定性。但他肯定地說(shuō)：“在某些時(shí)候，你確實(shí)需要開始與現(xiàn)實(shí)接觸。”
然而，對(duì)奧特曼來(lái)說(shuō)的現(xiàn)實(shí)，在其他人眼中卻可能是噩夢(mèng)。在過(guò)去的幾年里，奧特曼已經(jīng)成為開發(fā)人工智能技術(shù)的領(lǐng)跑者。2015年，奧特曼和埃隆·馬斯克聯(lián)合創(chuàng)辦了非營(yíng)利性研究機(jī)構(gòu)OpenAI，其使命是“以最有可能造福全人類的方式推進(jìn)數(shù)字智能的發(fā)展，而不受產(chǎn)生經(jīng)濟(jì)回報(bào)需求的限制”。但為了將人類從人工智能手中拯救出來(lái)，他們首先必須建造人工智能。
奧特曼曾是初創(chuàng)企業(yè)孵化器Y Combinator的總裁，他似乎是個(gè)特別值得信賴的守護(hù)者。他將自己的個(gè)人財(cái)富投入到致力于開發(fā)無(wú)限清潔能源和旨在延緩衰老最嚴(yán)重影響療法的公司中。今年3月，當(dāng)硅谷銀行倒閉讓許多初創(chuàng)公司擔(dān)心無(wú)法支付工資時(shí)，奧特曼向許多急需資金的公司提供了無(wú)息貸款。
從奧特曼那里籌集資金的初創(chuàng)公司Rewind AI首席執(zhí)行官丹·西羅克說(shuō)：“在這個(gè)充滿了殘酷、交易和唯利是圖的人的世界里，奧特曼是真正的傳教士之一。”如果說(shuō)馬斯克是硅谷的領(lǐng)軍人物，那么奧特曼就是硅谷的理想主義者。
01 “這是奧特曼的世界，我們都生活在其中”
在過(guò)去的幾年里，奧特曼的影響力和權(quán)力不斷擴(kuò)大。他是七家公司的董事會(huì)成員，其中包括一家迷幻藥初創(chuàng)公司和兩家核能實(shí)驗(yàn)室。OpenAI聊天機(jī)器人ChatGPT的成功引發(fā)了媒體熱議，奧特曼也被《時(shí)代》雜志評(píng)為100位最具影響力人物之一。
然而，有些人已經(jīng)開始用警惕的眼光審視這位科技?jí)粝爰摇?019年，OpenAI轉(zhuǎn)型成為“有上限利潤(rùn)限制”的營(yíng)利性實(shí)體，該公司認(rèn)為它需要吸引更多資本來(lái)推進(jìn)其使命。OpenAI開始向其他企業(yè)出售語(yǔ)言模型，馬斯克現(xiàn)在稱此舉背叛了公司的創(chuàng)始原則。馬斯克已經(jīng)于2018年辭職，并宣布將創(chuàng)辦自己的競(jìng)爭(zhēng)公司。
人們譴責(zé)OpenAI拒絕與研究界分享其訓(xùn)練數(shù)據(jù)，認(rèn)為外部審計(jì)將確保其模型按預(yù)期工作，不會(huì)出現(xiàn)偏見。其他人，包括許多已經(jīng)離職的員工，懷疑將其技術(shù)推向市場(chǎng)以賺取利潤(rùn)是否合乎道德，因?yàn)檫@可能會(huì)導(dǎo)致嚴(yán)重的潛在技術(shù)濫用。就連奧特曼本人也承認(rèn)，發(fā)生災(zāi)難的可能性很大。他在接受采訪時(shí)稱：“我認(rèn)為，如果一點(diǎn)都不感到害怕，那是瘋狂的，我同情那些知道畏懼的人。”
盡管全世界都在瘋狂地爭(zhēng)論OpenAI是會(huì)引領(lǐng)下一次工業(yè)革命，還是會(huì)帶來(lái)世界末日時(shí)，奧特曼似乎依然保持著冷靜。他說(shuō)：“我認(rèn)為我們可以擁有一個(gè)更加美好的世界，但有幾件事需要去做。我喜歡這種有所作為的感覺(jué)。”
有些批評(píng)者認(rèn)為奧特曼的鎮(zhèn)定、自信是狂妄自大的表現(xiàn)。在最近接受采訪時(shí)，科技專欄作家卡拉·斯威舍將奧特曼比作伊卡洛斯(Icarus，希臘神話中的蠟翼人，因飛得離太陽(yáng)過(guò)近導(dǎo)致羽翼融化跌落而死)，奧特曼承認(rèn)自己確實(shí)“在搞些我們不完全理解的東西”。然而，他堅(jiān)決認(rèn)為恐懼不應(yīng)該阻礙人類的進(jìn)步。
知名科技開發(fā)者里克·伯頓說(shuō)：“這是奧特曼的世界，我們都生活在其中。”然而，這引發(fā)了一個(gè)問(wèn)題：這是我們想要的世界嗎？
奧特曼在硅谷的人氣很旺。他和億萬(wàn)富翁彼得·蒂爾下過(guò)棋，主持過(guò)投資家基思·拉博伊斯在圣巴茨舉行的婚禮，與支付平臺(tái)Stripe聯(lián)合創(chuàng)始人約翰·科里森交換過(guò)飛行經(jīng)驗(yàn)，還和著名個(gè)人風(fēng)險(xiǎn)投資家拉奇·格羅姆約會(huì)過(guò)，當(dāng)時(shí)后者正與奧特曼探討高達(dá)九位數(shù)的投資交易。
2017年，當(dāng)熱門電子郵件應(yīng)用程序Superhuman的創(chuàng)始人兼首席執(zhí)行官拉胡爾·沃赫拉得知，谷歌計(jì)劃關(guān)閉可能會(huì)導(dǎo)致其應(yīng)用程序癱瘓的服務(wù)時(shí)，立即陷入驚慌失措中，并給他的投資者發(fā)送電子郵件詢問(wèn)可以做些什么。奧特曼回復(fù)說(shuō)，他碰巧和谷歌首席執(zhí)行官桑達(dá)爾·皮查伊參加了相同的派對(duì)，并承諾“會(huì)做些什么”。第二天，谷歌的一名高管出面解決了這個(gè)問(wèn)題，并為此道歉。
奧特曼的客廳已經(jīng)成為新技術(shù)和新公司的培養(yǎng)皿，這并不令人感到驚訝。WorldCoin聯(lián)合創(chuàng)始人馬克斯·諾文斯特恩表示，奧特曼始終在主持這類活動(dòng)，“試圖將聰明人聚集起來(lái)”。每到周末，奧特曼都會(huì)帶著一群朋友和同事飛往納帕和圖勒姆，或者在他舊金山的家中吃披薩晚餐，談?wù)摰脑掝}從癌癥研究到核戰(zhàn)等無(wú)所不包。奧特曼說(shuō)，即使OpenAI也是從這類活動(dòng)中誕生的。
奧特曼精心建立和維護(hù)的關(guān)系網(wǎng)似乎最終為他提供了豐厚回報(bào)。根據(jù)PitchBook的數(shù)據(jù)顯示，奧特曼在過(guò)去九年進(jìn)行了400多筆投資，并經(jīng)常與自己推薦的創(chuàng)始人交流。奧特曼說(shuō)：“在競(jìng)技場(chǎng)上為每個(gè)細(xì)節(jié)付出汗水的人，和一個(gè)每周接幾個(gè)電話并盡其所能提供幫助的人，工作性質(zhì)完全不同。”
02 對(duì)登月項(xiàng)目情有獨(dú)鐘，但絕不會(huì)隨便下注
長(zhǎng)期以來(lái)，奧特曼始終對(duì)“登月”項(xiàng)目（即目標(biāo)遠(yuǎn)大卻不容易實(shí)現(xiàn)）情有獨(dú)門。2016年，他呼吁創(chuàng)始人挑戰(zhàn)那些“人們懷疑完全無(wú)法構(gòu)建的技術(shù)”。他支持的公司范圍很廣，種類繁多，從建造世界上最快的商用客機(jī)到開發(fā)大腦植入物等無(wú)所不包。
不過(guò)，奧特曼迄今為止最昂貴的科技投資是可控核聚變能源。幾十年來(lái)，研究人員始終在研究這門科學(xué)，他向核聚變公司Helion投入了3.75億美元，試圖盡快將該技術(shù)推向市場(chǎng)。Helion聯(lián)合創(chuàng)始人兼首席執(zhí)行官大衛(wèi)·科特利說(shuō)：“奧特曼的首要問(wèn)題是，‘我們?cè)鯓硬拍茏龅酶?’”
2019年，杰森·喬杜里醫(yī)生尋求創(chuàng)建新公司，希望在康復(fù)中心使用迷幻藥來(lái)幫助治療成癮。他知道，很少有投資者愿意支持這樣的項(xiàng)目，他幾乎放棄了這個(gè)想法。然后，他和奧特曼談了談。
喬杜里說(shuō)：“奧特曼鼓勵(lì)我創(chuàng)辦公司，但我們涉及研究的是一級(jí)毒品，而且我是有色人種移民。”奧特曼承諾為喬杜里創(chuàng)業(yè)提供資金支持，后者最終成立了Journey Colab公司，今年晚些時(shí)候其技術(shù)將進(jìn)入臨床試驗(yàn)階段。
Worldcoin本身將三個(gè)大膽的壯舉結(jié)合在一起：分配基本收入、普及數(shù)字貨幣以及在數(shù)據(jù)庫(kù)中記錄數(shù)十億次眼球掃描。2019年，當(dāng)時(shí)25歲的加州理工學(xué)院物理研究員亞歷克斯·布拉尼亞在奧特曼的家中向他提出了這個(gè)想法。
布拉尼亞回憶稱，這個(gè)計(jì)劃還只是個(gè)粗略的草圖，但這對(duì)奧特曼來(lái)說(shuō)似乎并不重要。他說(shuō)：“奧特曼讓一切看起來(lái)都那么容易，你可以向他談?wù)摬惶赡軐?shí)現(xiàn)的事情，然后問(wèn)他這樣做如何？他的回答很簡(jiǎn)單：我們就這么做吧！為什么不呢?” 布拉尼亞隨后輟學(xué)加入Worldcoin，成為聯(lián)合創(chuàng)始人，并于2021年接任首席執(zhí)行官。
WorldCoin另一位聯(lián)合創(chuàng)始人諾文斯特恩認(rèn)為，奧特曼支持的項(xiàng)目有幾個(gè)關(guān)鍵特征：“它們要么具有深刻的道德意義，要么可被列入人類大規(guī)模實(shí)現(xiàn)的最重要事情。這很奇怪，聽起來(lái)有點(diǎn)科幻，幾乎像是惡作劇。第三，它們非常簡(jiǎn)單，你甚至可以把它寫在幸運(yùn)餅干上。但到最后，如果它們能成功，將產(chǎn)生上萬(wàn)億美元的回報(bào)。”
即使縮減雄心，奧特曼也希望創(chuàng)造一個(gè)和諧的生態(tài)系統(tǒng)。當(dāng)一個(gè)實(shí)體出現(xiàn)問(wèn)題時(shí)，他可以引入另一個(gè)實(shí)體來(lái)幫助解決問(wèn)題。當(dāng)意識(shí)到自動(dòng)化將使數(shù)百萬(wàn)人失去工作時(shí)，奧特曼在Y Combinator成立了非營(yíng)利部門，研究全民基本收入制度。當(dāng)他看到這些資金分配過(guò)程中可能遇到詐騙時(shí)，他又發(fā)明了可以識(shí)別人身份的球體設(shè)備。
智能機(jī)器顯然需要大量的計(jì)算能力和電力支持。因此，奧特曼資助了一家尋求提供幾乎無(wú)限清潔、廉價(jià)能源的公司。為了應(yīng)對(duì)超級(jí)智能將超越人類能力的威脅，奧特曼選擇支持人類增強(qiáng)型創(chuàng)業(yè)公司，這些公司承諾幫助普通人增強(qiáng)能力。在懷疑論者看來(lái)，這似乎是在把人類的未來(lái)押在一個(gè)相互依存的脆弱系統(tǒng)上。
但奧特曼堅(jiān)持認(rèn)為，這個(gè)網(wǎng)絡(luò)與其說(shuō)是一個(gè)宏偉的計(jì)劃，不如說(shuō)是一個(gè)巧合。他解釋稱：“我的意思是，我不想勸阻你，因?yàn)檫@聽起來(lái)很有說(shuō)服力，但本著準(zhǔn)確的精神，我必須試著勸阻你。作為一名投資者，我的哲學(xué)一直是，我認(rèn)為這些東西對(duì)世界很重要，我個(gè)人也很感興趣。這就是我想要投資的東西。”
不過(guò)了解奧特曼的人都說(shuō)，他不會(huì)隨便押注。風(fēng)險(xiǎn)投資家維諾德·科斯拉將奧特曼比作一個(gè)學(xué)習(xí)模型，該模型需要大量數(shù)據(jù)來(lái)做出決策。支持Worldcoin的風(fēng)險(xiǎn)投資家瑪莎·布赫也說(shuō)：“幻想是一回事，知道會(huì)發(fā)生什么事則是另一回事。”
03 OpenAI成為皇冠上的明珠，最終目標(biāo)是打造AGI
早在十幾歲的時(shí)候，奧特曼就夢(mèng)想著將來(lái)能進(jìn)入谷歌工作，所以他像谷歌的創(chuàng)始人那樣去讀斯坦福大學(xué)。一天晚上，他的同學(xué)、打造火狐網(wǎng)絡(luò)瀏覽器的神童布萊克·羅斯敲開了奧特曼宿舍的門，想看看他的計(jì)算機(jī)科學(xué)作業(yè)做得怎樣了。軟件程序給了奧特曼一個(gè)錯(cuò)誤信息，讓他感到困惑。羅斯回憶道：“30分鐘后，當(dāng)我再去他的房間，發(fā)現(xiàn)那里成了犯罪現(xiàn)場(chǎng)，他肢解了編譯器。最終，奧特曼在任務(wù)中發(fā)現(xiàn)了一個(gè)漏洞。”
奧特曼很聰明，但給人留下更深刻印象的是他“無(wú)比強(qiáng)大的好奇心”。在斯坦福大學(xué)人工智能實(shí)驗(yàn)室工作時(shí)，谷歌登月計(jì)劃工廠的創(chuàng)始人塞巴斯蒂安·特倫就認(rèn)識(shí)了奧特曼。他回憶稱：“奧特曼總是想從深層次上理解一切。”
大二之后，奧特曼選擇輟學(xué)，開始開發(fā)名為L(zhǎng)oopt的應(yīng)用。也是在那個(gè)時(shí)候，保羅·格雷厄姆宣布他將創(chuàng)辦Y Combinator。奧特曼提交了申請(qǐng)并被錄取。
身邊的人都說(shuō)，奧特曼從此找到了他的絕地大師。他們都是極少數(shù)能夠駕馭整個(gè)技術(shù)堆棧的程序員，從核能跳到量子計(jì)算，然后再跳回來(lái)。被有些人稱為硅谷教父的天使投資人羅恩·康威說(shuō)，他認(rèn)識(shí)這兩個(gè)人已經(jīng)有幾十年了，“當(dāng)他們說(shuō)話的時(shí)候，通常會(huì)引起地震”。
Loopt后來(lái)搬進(jìn)了名為YouTube的初創(chuàng)公司辦公室。奧特曼對(duì)他的童年好友、Loopt的聯(lián)合創(chuàng)始人里克·佩尼科夫說(shuō)：“是的，我認(rèn)為這行不通。”佩尼科夫稱，這可能是奧特曼唯一一次犯錯(cuò)。
最終，Loopt未能實(shí)現(xiàn)人們的期望，它被以4300萬(wàn)美元的價(jià)格出售。以某些標(biāo)準(zhǔn)來(lái)看，這次創(chuàng)業(yè)算不上成功，因?yàn)槠鋬r(jià)值只是投資者投入的兩倍。不過(guò)，雖然Loopt失敗了，但奧特曼的知名度卻一路飆升。2014年，格雷厄姆選擇了當(dāng)時(shí)年僅28歲的奧特曼接管創(chuàng)業(yè)加速器。
市值39億美元的云軟件供應(yīng)商Box的聯(lián)合創(chuàng)始人兼首席執(zhí)行官亞倫·列維說(shuō)：“對(duì)我來(lái)說(shuō)，顯而易見的是，奧特曼幾乎就像是企業(yè)家時(shí)代精神的道德權(quán)威。”
在奧特曼的帶領(lǐng)下，Y Combinator經(jīng)歷了一段高速增長(zhǎng)時(shí)期，從每批投資十幾家初創(chuàng)公司發(fā)展到數(shù)百家。他的個(gè)人雄心也在擴(kuò)大，包括帶領(lǐng)加速器籌建了風(fēng)險(xiǎn)基金，在斯坦福大學(xué)教學(xué)，并成立了研究實(shí)驗(yàn)室，專門研究全民基本收入的實(shí)踐和道德方面的問(wèn)題，并自掏腰包投入了1000萬(wàn)美元。
2015年，該研究實(shí)驗(yàn)室成立了非營(yíng)利組織OpenAI。在奧特曼的創(chuàng)新帝國(guó)中，OpenAI是皇冠上的明珠，這是一家能夠幫助人們更智能化、更快速地工作的公司。
OpenAI的旗艦產(chǎn)品是大型語(yǔ)言模型，用最簡(jiǎn)單的話來(lái)說(shuō)，就是能夠通過(guò)大量數(shù)據(jù)訓(xùn)練學(xué)習(xí)并對(duì)基本提示做出反應(yīng)的系統(tǒng)。OpenAI的最新模型是GPT-4，人們可以通過(guò)聊天機(jī)器人與之互動(dòng)，可以“看到”圖像輸入，以驚人的準(zhǔn)確度進(jìn)行推理，并在大多數(shù)專業(yè)考試中取得好成績(jī)。奧特曼表示，該公司的最終目標(biāo)是創(chuàng)造通用人工智能，即“通常比人類更聰明的人工智能系統(tǒng)”。
04 “我不想坐在前排看著世界崩潰”
作為一名首席執(zhí)行官，奧特曼對(duì)自己的追求所面臨的風(fēng)險(xiǎn)異常坦率。他曾寫道，能夠自行變得更聰明的機(jī)器不斷進(jìn)化，“可能是對(duì)人類持續(xù)生存的最大威脅”。直到今天，他還警告說(shuō)，人工智能會(huì)因“意外誤用”而構(gòu)成巨大威脅。他的坦率讓人有種穿越感，就好像是一位石油公司高管提前預(yù)見到了氣候變化的危險(xiǎn)。
商業(yè)伙伴們表示，這種保持完全透明是奧特曼的工作特色。OpenAI首個(gè)機(jī)構(gòu)投資者Khosla Ventures的風(fēng)險(xiǎn)投資家維諾德·科斯拉說(shuō)：“奧特曼在學(xué)術(shù)上保持誠(chéng)實(shí)，這讓人們更容易信任他。”
從一開始，OpenAI構(gòu)建多用途人工智能的方法就與其他公司之前的努力截然不同，這些公司主要開發(fā)用于特定任務(wù)的狹隘算法。有時(shí)，就連OpenAI的研究人員也對(duì)他們的進(jìn)展感到震驚。2019年，該公司決定以有限發(fā)布的方式推出GPT-2，理由是擔(dān)心更大的語(yǔ)言模型可能被用來(lái)“產(chǎn)生欺騙性、有偏見或辱罵性的語(yǔ)言”。2022年，他們改變了做法，允許任何注冊(cè)用戶訪問(wèn)該公司GPT -3.5模型支持的聊天機(jī)器人ChatGPT，該機(jī)器人在1月份的月活躍用戶達(dá)到1億。
如今，奧特曼認(rèn)為，在產(chǎn)品開發(fā)過(guò)程中就推出產(chǎn)品是理解和塑造其功能的關(guān)鍵部分。他說(shuō)：“我們?cè)趯?shí)驗(yàn)室里能學(xué)到的東西畢竟有限。” 十分熟悉奧特曼的科技行業(yè)分析師蒂姆·奧萊利表示，這位首席執(zhí)行官“有一種我們過(guò)去常說(shuō)的‘快速失敗’的強(qiáng)烈傾向。他只管把東西拿出來(lái)，然后讓市場(chǎng)自己去判斷。
支持者表示，開放這些系統(tǒng)很有必要，可以避免權(quán)力過(guò)于集中。曾在OpenAI實(shí)習(xí)的英偉達(dá)研究科學(xué)家吉姆·范說(shuō)：“如果你相信我們正處于下一次工業(yè)革命的風(fēng)口，那么讓更廣泛的人接觸到它，就能確保他們分享到它的好處。”
當(dāng)然，這并不是說(shuō)人工智能技術(shù)是免費(fèi)的。隨著GPT-3的發(fā)布，OpenAI發(fā)布了其第一個(gè)商業(yè)產(chǎn)品，讓開發(fā)者將模型融入自己產(chǎn)品的工具。有些應(yīng)用程序已經(jīng)可以自動(dòng)生成文字、回復(fù)客戶和上網(wǎng)，所有這些都在使用OpenAI的模型。
但許多人懷疑，OpenAI這種做法是否適合具有如此深遠(yuǎn)影響的產(chǎn)品。開放慈善基金會(huì)(Open Philanthropy)首席執(zhí)行官霍爾頓·卡諾夫斯基說(shuō)：“歷史上，人們往往低估了這類產(chǎn)品的破壞性和瘋狂程度。”該基金會(huì)在2017年至2020年期間資助了OpenAI。當(dāng)時(shí)擔(dān)任OpenAI董事會(huì)成員的卡諾夫斯基解釋說(shuō)，這種劇烈的變化“可能對(duì)全人類都是危險(xiǎn)的”。
即使是那些認(rèn)為世界末日風(fēng)險(xiǎn)被夸大了的人也指出，短期風(fēng)險(xiǎn)已經(jīng)開始顯現(xiàn)。一位OpenAI離職員工稱，他們擔(dān)心公司沒(méi)有向ChatGPT用戶充分說(shuō)明，通過(guò)與消費(fèi)者產(chǎn)品互動(dòng)，他們實(shí)際上是在幫這個(gè)模型進(jìn)行免費(fèi)培訓(xùn)。他警告稱：“你是在幫助這個(gè)模式取代自己的工作，你實(shí)際上是在喂養(yǎng)野獸。”本周二，OpenAI在其博客上發(fā)布消息稱，它將允許用戶將聊天記錄設(shè)置為隱私。
與此同時(shí)，人文技術(shù)中心（Center for Humane Technology）也警告稱，人工智能可以幫助音頻和視頻深度造假、發(fā)現(xiàn)新型毒素和網(wǎng)絡(luò)武器、擴(kuò)散錯(cuò)誤信息等，這些都可能導(dǎo)致信任崩潰。他們?cè)谧罱囊环輦渫浿袑懙溃诠姕?zhǔn)備好之前部署這些系統(tǒng)，“對(duì)美國(guó)和其他國(guó)家構(gòu)成了嚴(yán)重而直接的威脅”。
今年3月，超過(guò)1000名科技行業(yè)高管、學(xué)者和人工智能專家簽署了一封公開信，呼吁暫時(shí)暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)六個(gè)月，理由是這可能存在短期和長(zhǎng)期的危害。
主要關(guān)注人工智能風(fēng)險(xiǎn)的牛津大學(xué)人類未來(lái)研究所高級(jí)研究員安德斯·桑德伯格表示：“我認(rèn)為，如果你（奧特曼）可以讓事情慢下來(lái)，那實(shí)際上可能是個(gè)好主意。但人們不會(huì)放慢腳步，潘多拉盒子已被打開。”
奧特曼承認(rèn)目前的技術(shù)存在缺陷，他說(shuō)：“我毫不懷疑會(huì)有其他人開發(fā)這些技術(shù)，并以我不喜歡的方式使用它們。當(dāng)然，我確實(shí)對(duì)此感到擔(dān)憂。”
但有人說(shuō)，奧特曼沒(méi)能創(chuàng)造出讓員工感到足夠安全的環(huán)境，以便他們表達(dá)對(duì)產(chǎn)品危險(xiǎn)的擔(dān)憂。OpenAI離職員工說(shuō)，當(dāng)有人在內(nèi)部發(fā)表意見時(shí)，公司管理層的普遍心態(tài)是：“如果我們都聽你的，可能永遠(yuǎn)無(wú)法推出產(chǎn)品。”
人工智能領(lǐng)域的首席末日預(yù)言者埃利澤·尤德科夫斯基在最近的播客上回應(yīng)了這些說(shuō)法：“我有很多朋友都說(shuō)，如果你私下和OpenAI的研究人員交談，會(huì)發(fā)現(xiàn)他們有很多擔(dān)憂，但他們?cè)诠_場(chǎng)合不能將這些擔(dān)憂表達(dá)出來(lái)。”奧特曼對(duì)此駁斥稱：“我們經(jīng)常仔細(xì)地討論我們的方法。”
然而，對(duì)于部分人來(lái)說(shuō)，他們不相信OpenAI將人類的最高利益放在優(yōu)先地位。11名員工于2021年離職，創(chuàng)辦了自己的人工智能公司Anthropic，其中許多人都與關(guān)注人工智能風(fēng)險(xiǎn)的有效利他主義運(yùn)動(dòng)有關(guān)。盡管今年3月推出了自己的競(jìng)爭(zhēng)對(duì)手聊天機(jī)器人，但Anthropic聲稱，通過(guò)創(chuàng)造“更安全、可操控、更可靠的模型”，將自己與OpenAI等競(jìng)爭(zhēng)對(duì)手區(qū)分開來(lái)。這家公司的目標(biāo)是在未來(lái)四年里籌集50億美元資金，但它能否抵擋住同樣的市場(chǎng)壓力，還有待觀察。
不過(guò)，正如OpenAI離職員工所說(shuō)：“我不想坐在前排，眼睜睜地看著世界崩潰。”
05 執(zhí)著于延遲死亡，愿將大腦上傳云端等待復(fù)活
在奧特曼最喜歡的人工智能短篇小說(shuō)《溫柔的誘惑》(the Gentle Seduction)中，一個(gè)名叫杰克的男人和一個(gè)不知名的女人墜入愛(ài)河。杰克是個(gè)患有心臟病的技術(shù)專家，他向這位女士講述了自己對(duì)未來(lái)的展望。將來(lái)，技術(shù)將消除人類所有的問(wèn)題，包括死亡。小說(shuō)中的女主角是一位生態(tài)學(xué)家，她最初對(duì)這種非自然前景感到厭惡。
但在伴侶死后，女主角的身體也隨著年齡的增長(zhǎng)而日漸衰弱，她不情愿地接受了一項(xiàng)項(xiàng)技術(shù)進(jìn)步，包括能治愈疾病的納米機(jī)器，將大腦與機(jī)器智能融合起來(lái)的耳機(jī)，讓人能夠穿越星系的機(jī)器人身體。最終，女主角成了不朽的存在，并與宇宙融為一體。她回顧了幾千年前死去的愛(ài)人，意識(shí)到他是這一切的幕后主使。杰克預(yù)見到她天生抗拒技術(shù)進(jìn)步，并希望確保她有時(shí)間以適應(yīng)每一次微小的進(jìn)步。
在奧特曼身上不難找到杰克的蹤跡。就像小說(shuō)中的角色一樣，奧特曼相信人類很快就會(huì)達(dá)到這樣一個(gè)拐點(diǎn)：在未來(lái)100里，人類所取得的技術(shù)進(jìn)步將超過(guò)我們?cè)谌祟悮v史上取得的所有成就。在他的想象中，未來(lái)我們可能會(huì)探索宇宙最遙遠(yuǎn)的地方，并戰(zhàn)勝氣候變化和小行星襲擊地球等挑戰(zhàn)。奧特曼甚至申請(qǐng)了Nectome公司的等待名單：如果技術(shù)成功的話，他愿意將大腦上傳到云端，將來(lái)可能會(huì)在模擬中復(fù)活。
和許多硅谷科技大咖一樣，奧特曼似乎執(zhí)著于延遲死亡。一位朋友透露，奧特曼的父親于2018年去世后，他的緊迫感隨即增加了。奧特曼表示：“我認(rèn)為，任何小時(shí)候失去父親的人，都希望父親能有更多的時(shí)間陪伴自己。我的目標(biāo)不是獲得永生，而是讓人們?cè)俳】怠⒊錆M活力地多活10年。”
奧特曼在自己的生活中似乎已經(jīng)掌握了生物黑客的藝術(shù)，他遵循嚴(yán)格的飲食和鍛煉計(jì)劃，以最大限度地提高他的工作效率。在2016年接受《紐約客》采訪時(shí)，奧特曼稱自己顯然患有他母親所說(shuō)的“網(wǎng)絡(luò)疑病癥”，即癡迷于在網(wǎng)上搜索自己患有哪些疾病。但奧特曼與其他人的不同之處在于，他的健康實(shí)驗(yàn)可能會(huì)影響人類的進(jìn)化。
奧特曼說(shuō)他很高興能有“很多孩子”，他支持一家試圖讓兩個(gè)男人懷上孩子的公司和另一家提供多基因胚胎篩查的公司。2020年，奧特曼讀到一項(xiàng)實(shí)驗(yàn)，科學(xué)家們用鹽水和白蛋白(由肝臟產(chǎn)生的蛋白質(zhì))的混合物取代了老年小鼠的血漿，這似乎可以逆轉(zhuǎn)某些衰老的跡象。他敦促曾在Y Combinator擔(dān)任兼職合伙人的喬·貝茨-拉克魯瓦基于這種方法創(chuàng)辦名為Retro Biosciences的公司。奧特曼投入了1.8億美元，這是該公司最新一輪融資獲得的全部資金。
對(duì)奧特曼來(lái)說(shuō)，靈性和科學(xué)似乎是齊頭并進(jìn)的。作為一名經(jīng)驗(yàn)豐富的冥想者，他在推特上發(fā)布了“婆羅門和奧特曼的絕對(duì)等價(jià)性”，這是指印度教的非二元論概念，即宇宙和自我是一體的。他在2020年表示，如果“沒(méi)有自我，你對(duì)死亡或不死意味著什么會(huì)有不同的看法。”
據(jù)一位投資者朋友說(shuō)，幾年前，奧特曼開始談?wù)摗耙庾R(shí)之光”。這個(gè)短語(yǔ)在硅谷所謂的“長(zhǎng)期主義者”圈子里越來(lái)越流行，包括馬斯克和推特創(chuàng)始人杰克·多西都是其信徒。它植根于這樣一種觀點(diǎn)，即人類可能會(huì)被數(shù)量眾多的生存威脅所扼殺。為了保持文明傳承，長(zhǎng)期主義者認(rèn)為，迫切需要推進(jìn)太空旅行、生物技術(shù)和對(duì)人類友好的人工智能。
奧特曼承認(rèn)，牛津大學(xué)人類未來(lái)研究所的創(chuàng)始人、長(zhǎng)期主義思想之父尼克·博斯特羅姆曾對(duì)他及其工作產(chǎn)生了巨大影響。在他的博客上，奧特曼稱博斯特羅姆的書《超級(jí)智能》是“我所見過(guò)的、關(guān)于人工智能風(fēng)險(xiǎn)的最好描述”。據(jù)人類未來(lái)研究所高級(jí)研究員安德斯·桑德伯格說(shuō)，OpenAI甚至從該研究所挖走了多位員工。
06 擔(dān)心合成病毒與核戰(zhàn)引發(fā)世界末日
雖然奧特曼說(shuō)，他不認(rèn)同長(zhǎng)期主義運(yùn)動(dòng)，但他也擔(dān)心許多因素引發(fā)世界末日。奧特曼在2016年告訴《紐約客》：“我的問(wèn)題是，當(dāng)我的朋友喝醉時(shí)，他們會(huì)談?wù)搶?dǎo)致世界末日的各種方式。”
接著，奧特曼描述了自己應(yīng)對(duì)末日（比如合成病毒或核戰(zhàn)爆發(fā)）的方式，比如儲(chǔ)存“槍支、黃金、碘化鉀、抗生素、電池、水、以色列國(guó)防軍的防毒面具”。新冠肺炎疫情讓奧特曼最擔(dān)心的一些事情成為現(xiàn)實(shí)。在封鎖的頭幾周，他稱自己躲在家里，給食品雜貨消毒，直到有一天晚上伴侶抱怨他們的食物聞起來(lái)像游泳池的味道。
奧特曼對(duì)所謂的奇點(diǎn)持懷疑態(tài)度，但并不過(guò)分害怕。奇點(diǎn)是指技術(shù)發(fā)展到脫離人類監(jiān)督的階段。在2017年的一篇博客文章中，奧特曼寫道，人類和機(jī)器的融合可能有助于我們徹底避免權(quán)力斗爭(zhēng)。最近在萊克斯·弗里德曼的播客上露面時(shí)，他稱我們所知道的生命可能已經(jīng)包含在計(jì)算機(jī)系統(tǒng)中了。他解釋說(shuō)：“我當(dāng)然愿意相信，意識(shí)在某種程度上是本質(zhì)，我們都只是活在夢(mèng)中或在模擬中，亦或者其他東西中。”
不過(guò)奧特曼稱，自從那些帖子發(fā)布之后，他的想法發(fā)生了變化。他說(shuō)：“在很大程度上，我現(xiàn)在屬于‘人工智能將成為工具’的陣營(yíng)，盡管我確實(shí)認(rèn)為未來(lái)的人類和人類社會(huì)將截然不同，我們有機(jī)會(huì)思考如何設(shè)計(jì)那樣的未來(lái)。”
計(jì)算機(jī)科學(xué)家蒂姆尼特·格布魯和哲學(xué)家埃米爾·托雷斯在他們的論文《通過(guò)人工通用智能實(shí)現(xiàn)優(yōu)生學(xué)和烏托邦的承諾》中寫道，奧特曼和其他人試圖實(shí)現(xiàn)通用人工智能，“并建立類似于上帝的東西”，這“在本質(zhì)上是不安全的”。
他們寫道，奧特曼相信所謂的Tescreal意識(shí)形態(tài)，它囊括了超人類主義、外向主義、奇點(diǎn)主義、宇宙主義、理性主義、有效利他主義以及長(zhǎng)期主義。格布魯和托雷斯敦促奧特曼等人“放棄這個(gè)目標(biāo)，優(yōu)先建立定義和范圍明確的系統(tǒng)，把人們的安全放在首位”。
奧特曼似乎對(duì)這些批評(píng)并不在意。他在推特上寫道：“只有那些知道謹(jǐn)慎而不害怕的人才能度過(guò)難關(guān)。”
07 曾想競(jìng)選加州州長(zhǎng)，利用科技實(shí)現(xiàn)繁榮
奧特曼或許已經(jīng)贏得了硅谷的支持，但現(xiàn)在他面臨著一項(xiàng)更艱巨的任務(wù)，那就是向世界其他地方推銷他的科技?jí)粝搿W特曼的母親最近告訴《華爾街日?qǐng)?bào)》，他已經(jīng)有四五年沒(méi)去過(guò)雜貨店了。奧特曼是第一個(gè)承認(rèn)自己在與公眾交往方面存在缺陷的人。
當(dāng)被詢問(wèn)試著準(zhǔn)確地描述普通美國(guó)人的生活將如何因他正在開發(fā)的技術(shù)而改變時(shí)，奧特曼只給出了幾個(gè)概括性的說(shuō)法：教育將會(huì)改變、工作效率將會(huì)提高，科學(xué)將比以往任何時(shí)候都發(fā)展得更快。在被追問(wèn)細(xì)節(jié)時(shí)，奧特曼閃爍其詞地說(shuō)：“低估將要發(fā)生的事情是一個(gè)巨大的錯(cuò)誤，但我認(rèn)為夸大我們知道會(huì)發(fā)生的事情也是一個(gè)錯(cuò)誤。”
奧特曼將有很多機(jī)會(huì)改進(jìn)他要傳達(dá)的信息。多年來(lái)，他支持的項(xiàng)目基本上都是在人們的視線之外進(jìn)行的，現(xiàn)在他開始展示自己的觀點(diǎn)。今年1月份，他前往華盛頓幫助緩解美國(guó)議員們對(duì)人工智能的擔(dān)憂。今年春天，他出人意料地在電視和雜志采訪中露面。今年夏天，他將開始全球聆聽之旅，聽取OpenAI產(chǎn)品開發(fā)者和用戶的意見。
如果這一切聽起來(lái)有點(diǎn)像一場(chǎng)政治競(jìng)選，那可能不是巧合。2017年，奧特曼偶然萌生了競(jìng)選加州州長(zhǎng)的想法。同年，他發(fā)表了一份名為《The United Slate》的政治宣言，強(qiáng)調(diào)“通過(guò)技術(shù)實(shí)現(xiàn)繁榮”、“經(jīng)濟(jì)公平”和“個(gè)人自由”。奧特曼認(rèn)為，在政府缺乏遠(yuǎn)見和效率的地方，比如在發(fā)展住房、全民基本收入或基礎(chǔ)設(shè)施方面，科技可以幫助填補(bǔ)這些空白。
雖然競(jìng)選公職的野心似乎已經(jīng)消退，但奧特曼似乎找到了其他施加政治影響的方法。他是科技界在華盛頓最引人注目的使者之一，經(jīng)常與內(nèi)閣成員和立法者會(huì)面。在比爾德伯格(Bilderberg)俱樂(lè)部會(huì)議上，他與政府機(jī)構(gòu)的首腦同處一室。這是一個(gè)不公開的和平建設(shè)峰會(huì)，以至于批評(píng)者將其比作“影子世界政府”。奧特曼希望科技將成為選舉的中心議題。
然而，這并不意味著奧特曼贊同某些同行所推動(dòng)的那種技術(shù)官僚主義，比如馬斯克斥資440億美元接管“數(shù)字城市廣場(chǎng)”，蒂爾倡導(dǎo)“網(wǎng)絡(luò)國(guó)家”運(yùn)動(dòng)，提出自治城市作為中央集權(quán)民主的替代方案。
奧特曼解釋稱：“我認(rèn)為OpenAI或任何其他科技公司都不應(yīng)該做出我們目前正在做的某些決定，這樣的事情應(yīng)該屬于政府職能范疇。如果在美國(guó)歷史上的其他時(shí)期，它應(yīng)該是一個(gè)政府項(xiàng)目。” OpenAI早期曾試圖獲得政府資助，但沒(méi)有成功。奧特曼表示，他希望全球政策制定者能夠“立即”引入一個(gè)類似于國(guó)際原子能機(jī)構(gòu)的機(jī)構(gòu)，以監(jiān)督訓(xùn)練強(qiáng)大人工智能的努力。國(guó)際原子能機(jī)構(gòu)是核領(lǐng)域的監(jiān)督機(jī)構(gòu)。
奧特曼慷慨地向民主黨候選人和政治行動(dòng)委員會(huì)捐款，他甚至參加了在舊金山國(guó)際機(jī)場(chǎng)舉行的抗議活動(dòng)，反對(duì)唐納德·特朗普對(duì)幾個(gè)穆斯林占多數(shù)的國(guó)家實(shí)施旅行禁令。然而，奧特曼也擁有槍支，對(duì)教育機(jī)構(gòu)持懷疑態(tài)度，并經(jīng)常談到個(gè)人責(zé)任的重要性。
08 “把地板掀起來(lái)，不要擔(dān)心天花板”
在2021年《紐約時(shí)報(bào)》的采訪中，奧特曼稱自己是Slate Star Codex的粉絲。Slate Star Codex是“理性主義者”社區(qū)的博客和在線中心，他們認(rèn)為在評(píng)估決策時(shí)不應(yīng)考慮公正性或情感因素。在采訪中，奧特曼贊同這樣一種觀點(diǎn)，即“互聯(lián)網(wǎng)暴徒”對(duì)種族主義和性別歧視語(yǔ)言的管控使企業(yè)家更難創(chuàng)新。
這位OpenAI首席執(zhí)行官最近告訴萊克斯·弗里德曼，他堅(jiān)信這樣一句話：“把地板掀起來(lái)，不要擔(dān)心天花板”。他對(duì)此詳細(xì)解釋說(shuō)，我們未來(lái)的富足應(yīng)該讓每個(gè)人至少過(guò)上中產(chǎn)階級(jí)的生活，那些天花板之上的人自然會(huì)得到照顧。
不管怎樣，奧特曼在硅谷的名聲仍然是個(gè)面慈心善的自由主義者。今年4月，馬斯克再次成為奧特曼的陪襯，他介紹了一款名為TruthGPT的聊天機(jī)器人，這是ChatGPT的競(jìng)爭(zhēng)版本。在宣布他的人工智能計(jì)劃前不久，馬斯克也是呼吁暫停人工智能開發(fā)公開信的上千名簽名者之一。這封信寫道：“這樣的決定不能委托給非民選的科技領(lǐng)袖。”
當(dāng)被問(wèn)及對(duì)這句話的感想時(shí)，奧特曼笑著回應(yīng)稱：“我想，這是他們引用了我說(shuō)的話。我是真的這么認(rèn)為，并認(rèn)為這非常重要。我也不認(rèn)為以公開信的方式治理國(guó)家特別好。”
在硅谷除了快遞應(yīng)用、狗狗過(guò)濾器和電動(dòng)滑板車之外似乎找不到靈感的時(shí)候，奧特曼作為一個(gè)充滿幻想的先知來(lái)到了硅谷，預(yù)示著一個(gè)新的進(jìn)步時(shí)代的到來(lái)。他相信，人工智能就像火的發(fā)現(xiàn)或輪子的發(fā)明那樣重要。天使投資人羅恩·康威將ChatGPT描述為“我們這個(gè)時(shí)代最重要的發(fā)明”。他說(shuō)：“我們已經(jīng)經(jīng)歷了個(gè)人電腦時(shí)代，谷歌搜索時(shí)代，社交媒體時(shí)代，亞馬遜時(shí)代，但人工智能是最重要的。”
奧特曼是一名狂熱的撲克玩家(而且玩得很好)，但并不是每個(gè)人都想把自己的日常生活和賭博聯(lián)系起來(lái)。如此多的顛覆已經(jīng)開始使社會(huì)陷入生存危機(jī)，人們想知道這些變化將真正使誰(shuí)受益，誰(shuí)將承受附帶損害。辨別真假，以及決定我們生活中哪些部分不愿意讓給機(jī)器控制，已經(jīng)像天氣那樣成為人們普遍討論的話題。
盡管如此，對(duì)奧特曼的偶像崇拜正處于巔峰：引人注目的新聞報(bào)道，比爾·蓋茨等名人的支持，以及160萬(wàn)推特粉絲對(duì)他的時(shí)刻關(guān)注。奧特曼不再只是硅谷的代言人，而是家喻戶曉的名字。他的崛起猶如希臘神話一般。這是夸大其詞嗎？是阿諛?lè)畛姓邽橼A得硅谷最有權(quán)勢(shì)的人的青睞而出現(xiàn)的附屬物嗎？風(fēng)險(xiǎn)投資家科斯拉警告稱，好時(shí)光終將結(jié)束。他說(shuō)：“當(dāng)所有人都喜歡你，記者都給你打電話時(shí)，你就該小心了。”
多年來(lái)，一個(gè)關(guān)于奧特曼的故事廣為流傳，曾有一架私人飛機(jī)的飛行員喪失了駕駛能力，是這位OpenAI首席執(zhí)行官接管了飛機(jī)，并將所有人安全帶回地面。當(dāng)被問(wèn)及這件事時(shí)，奧特曼解釋稱：“我能猜到這是怎么回事。這些故事經(jīng)過(guò)多年的反復(fù)講述，變得越來(lái)越夸張！”
但正如奧特曼可能意識(shí)到的那樣，一旦他的故事和技術(shù)離開了他的視線，它們?cè)谀撤N程度上變得面目全非似乎只是時(shí)間問(wèn)題。（金鹿）