3月19日，OpenAI CEO山姆·奧特曼（Sam Altman）再度做客美國(guó)知名播客欄目Lex Friedman。

在這次持續(xù)了近兩個(gè)小時(shí)的采訪中，奧特曼不僅深入剖析了OpenAI董事會(huì)近期的變動(dòng)，還暢談了首席科學(xué)家伊利亞·蘇茨凱弗（Ilya Sutskever）的未來(lái)動(dòng)向、與馬斯克起訴案相關(guān)的紛爭(zhēng)，以及引發(fā)巨大討論的AI文字轉(zhuǎn)視頻工具Sora、豪擲7萬(wàn)億美元的芯片計(jì)劃、即將推出的新一代大語(yǔ)言模型GPT-5，乃至通用人工智能（AGI）的遠(yuǎn)景規(guī)劃等。

重點(diǎn)包括：

算力將成為未來(lái)最寶貴的財(cái)富之一，會(huì)成為未來(lái)的“貨幣”，人工智能的發(fā)展將是一場(chǎng)巨大的權(quán)力斗爭(zhēng)。

公司、組織、國(guó)家都可能為了爭(zhēng)奪這份未來(lái)的“貨幣”而展開(kāi)競(jìng)爭(zhēng)。在這場(chǎng)競(jìng)爭(zhēng)中，OpenAI得關(guān)注如何公平、公正地分配和使用算力。不能讓算力加劇社會(huì)不平等，而應(yīng)該成為推動(dòng)全人類進(jìn)步的力量。

被罷免的那個(gè)周末痛苦萬(wàn)分，看自己的推文就像看悼詞，董事會(huì)應(yīng)該擁有重大的權(quán)利，但并不是從自身利益出發(fā)，而是能夠?qū)θ澜缲?fù)責(zé)，這一經(jīng)歷有助于增強(qiáng)韌性。

OpenAI正在尋找新的董事會(huì)成員，希望引入具有不同專業(yè)背景的人才，包括非營(yíng)利組織、學(xué)習(xí)型公司、法律和治理等領(lǐng)域的專家。

GPT-4是一個(gè)重要的里程碑但并不足以改變世界，真正意義上的AGI應(yīng)該能夠顯著提高科學(xué)發(fā)現(xiàn)的速度。

Ilya從來(lái)沒(méi)有見(jiàn)過(guò)通用人工智能（AGI），沒(méi)有任何人見(jiàn)過(guò)，OpenAI也還沒(méi)造出通用人工智能，Ilya對(duì)未來(lái)深思熟慮，非常關(guān)心人工智能的安全性和社會(huì)影響。

對(duì)馬斯克來(lái)說(shuō)，訴訟OpenAI這件事并不是開(kāi)源與否的問(wèn)題，Grok之前從沒(méi)開(kāi)源過(guò)任何東西，直到有人指出馬斯克這樣做有些偽善，才在最近開(kāi)源。

開(kāi)源模型在未來(lái)肯定有一席之地，尤其針對(duì)那些規(guī)模較小、可以在本地運(yùn)行的模型。

OpenAI的目標(biāo)是創(chuàng)建能夠理解和生成自然語(yǔ)言的系統(tǒng)，這些系統(tǒng)可以幫助人們更高效地完成任務(wù)。OpenAI最重要任務(wù)就是讓每個(gè)人免費(fèi)地使用AI，作為一項(xiàng)公共福利，通過(guò)提供強(qiáng)大的AI工具來(lái)賦能個(gè)人和社區(qū)，開(kāi)源應(yīng)該是有選擇性的。

大部分真正的經(jīng)濟(jì)增長(zhǎng)來(lái)自科學(xué)技術(shù)的進(jìn)步，人工智能是一個(gè)工具，它將在更短的時(shí)間內(nèi)幫助人類執(zhí)行越來(lái)越多的任務(wù)，這讓人類能夠在更高層次上進(jìn)行抽象思考。

人工智能可能更像是人類之間相互支撐、相互聯(lián)系的社會(huì)結(jié)構(gòu)。

未來(lái)編程可能會(huì)以自然語(yǔ)言交互的方式進(jìn)行，傳統(tǒng)的編碼方式可能會(huì)逐漸減少。

目前AI安全研究者過(guò)于關(guān)注某些具體的技術(shù)進(jìn)步，而忽視了其他一些重要的問(wèn)題，人工智能軍備競(jìng)賽是個(gè)雙刃劍。

GPT-5的性能會(huì)全面提升，GPT-5和GPT-4的差距，可能會(huì)跟GPT-4和GPT-3一樣大，仍舊在研究OpenAI機(jī)器人。

Sora將進(jìn)一步展示了AI在創(chuàng)造復(fù)雜、動(dòng)態(tài)和視覺(jué)吸引人的虛擬世界方面的巨大潛力，這些技術(shù)不僅對(duì)游戲和娛樂(lè)產(chǎn)業(yè)有重大意義，也為科學(xué)研究、教育和工業(yè)模擬等領(lǐng)域提供了新的可能性。

人工智能將推動(dòng)人類社會(huì)持續(xù)進(jìn)步。

圖片來(lái)源：視頻截圖

談話內(nèi)容，按順序整理如下：

1:05-OpenAI董事會(huì)紛爭(zhēng)

18:31-Ilya Sutskever

24:40-埃隆·馬斯克訴訟案

34:32-Sora

44:23-GPT-4

55:32-記憶與隱私

1:02:36-Q*

1:06:12-GPT-5

1:09:27-7萬(wàn)億美元的算力

1:17:35-谷歌和Gemini

1:28:40-躍升到GPT-5

1:32:24-AGI(通用人工智能)

1:50:57-外星人

以下為訪談全文：

Part 1：OpenAI董事會(huì)之爭(zhēng)

Lex Fridman

請(qǐng)你帶我了解一下從11月16日星期四開(kāi)始的，或者對(duì)你來(lái)說(shuō)是11月17日星期五的OpenAI董事會(huì)那一連串的事件。

Sam Altman

那確實(shí)是我一生中最痛苦的職業(yè)經(jīng)歷，混亂、羞恥、心煩，還有很多其他的負(fù)面情緒。當(dāng)然也有不少好的方面，但我當(dāng)時(shí)被腎上腺素沖得頭昏眼花，從而能夠停下來(lái)細(xì)細(xì)品味那些寶貴的經(jīng)歷。

我翻看了那個(gè)時(shí)期自己發(fā)的一條舊推特，感覺(jué)就像在讀自己的悼詞，看著別人對(duì)你說(shuō)出的那些美好的話，感受到來(lái)自我所愛(ài)和在乎的人的強(qiáng)大支持，那真的非常美妙。

整個(gè)周末，盡管遭遇了一些不愉快的事情，但總體而言，我感受到的愛(ài)遠(yuǎn)遠(yuǎn)超過(guò)了恨。盡管當(dāng)時(shí)感覺(jué)自己完全搞不懂發(fā)生了什么，接下來(lái)會(huì)發(fā)生什么，這感覺(jué)真的很糟糕。確實(shí)有些時(shí)候，我認(rèn)為這可能會(huì)成為AI安全領(lǐng)域發(fā)生的最糟糕的事情之一。不過(guò)，我也覺(jué)得，它發(fā)生得相對(duì)較早是件好事。但我也很慶幸這一切發(fā)生得相對(duì)較早。

我認(rèn)為在OpenAI成立和通用人工智能（AGI）誕生的過(guò)程中，注定會(huì)有一系列瘋狂且具有爆炸性的事件發(fā)生，而且未來(lái)也許還會(huì)有更多瘋狂的事情發(fā)生。這些事件雖然令人不安，但也為我們提供了寶貴的經(jīng)驗(yàn)和教訓(xùn)，為未來(lái)應(yīng)對(duì)更多挑戰(zhàn)做好了準(zhǔn)備。

Lex Fridman

但你有沒(méi)有預(yù)感到，你可能會(huì)經(jīng)歷某種權(quán)力的角逐？

Sam Altman

通往AGI的道路肯定會(huì)充滿激烈的權(quán)力角逐。

Lex Fridman

所以你必須得經(jīng)歷這個(gè)過(guò)程，正如你所說(shuō)，要盡可能頻繁地迭代，弄清楚如何構(gòu)建董事會(huì)的架構(gòu)，如何進(jìn)行組織管理，如何選對(duì)合作伙伴，以及如何有效溝通，目的是為了盡量減少權(quán)力斗爭(zhēng)。

Sam Altman

沒(méi)錯(cuò)

Lex Fridman

放輕松

Sam Altman

但現(xiàn)在，那感覺(jué)像是一段已經(jīng)過(guò)去的時(shí)光，曾經(jīng)非常艱難、痛苦，難以忍受，但我們又回到了工作崗位，事情忙得不可開(kāi)交，強(qiáng)度巨大，以至于我并沒(méi)有太多時(shí)間去回想那段經(jīng)歷。那之后有一陣子，可能是一個(gè)月左右，或者說(shuō)45天之后，我仿佛處于一種恍惚狀態(tài)，每天都感覺(jué)自己像漂流瓶一樣，茫然四顧。我的精神完全崩潰了，情緒也陷入了極度低落。

Lex Fridman

就在個(gè)人心理層面上？

Sam Altman

是的，非常痛苦。而且在那種情況下還得堅(jiān)持管理OpenAI，難度真的很大。我只想找個(gè)洞穴鉆進(jìn)去，好好休養(yǎng)一陣子。不過(guò)現(xiàn)在，我們又回到了奮戰(zhàn)在我們的使命上。

Lex Fridman

嗯，對(duì)于你這樣有極高潛力打造AGI的人來(lái)說(shuō)，回過(guò)頭去反思董事會(huì)架構(gòu)、權(quán)力動(dòng)態(tài)、公司運(yùn)作方式、研究與產(chǎn)品開(kāi)發(fā)之間的張力、金錢等因素，無(wú)疑是有益的。這樣一來(lái)，未來(lái)你在建立AGI的道路上，可以更加有條不紊，少一點(diǎn)戲劇性沖突。所以，不妨去那兒走一遭，不僅是為了你作為領(lǐng)導(dǎo)者的個(gè)人心理層面的成長(zhǎng)，同時(shí)也是為了搞清楚董事會(huì)結(jié)構(gòu)和所有那些復(fù)雜混亂的事務(wù)。

Sam Altman

我確實(shí)從中學(xué)到了許多關(guān)于組織結(jié)構(gòu)、激勵(lì)機(jī)制以及我們對(duì)董事會(huì)的期望。在某種意義上，這種情況現(xiàn)在發(fā)生我覺(jué)得還是有它的價(jià)值的。我認(rèn)為這可能不是OpenAI最后一次面對(duì)如此大的壓力，但這無(wú)疑是一個(gè)相當(dāng)緊張的時(shí)刻。我的公司差點(diǎn)就垮了，除了考慮很多其他我們必須為AGI準(zhǔn)備好的事情外，思考如何打造一個(gè)有韌性的組織、如何構(gòu)建一個(gè)能承受世界壓力的結(jié)構(gòu)體系，我認(rèn)為這非常關(guān)鍵。

Lex Fridman

你能感覺(jué)到董事會(huì)在決策過(guò)程中的深度和嚴(yán)格程度嗎？能否透露一下這種情形下涉及的人與人之間的動(dòng)態(tài)是怎樣的？是不是就幾次對(duì)話后事態(tài)突然激化，然后就有人說(shuō)“為什么不開(kāi)除Sam”這種話？

Sam Altman

我認(rèn)為董事會(huì)成員總體上都是出于好意的人，我相信在那種壓力環(huán)境下，人們感到時(shí)間緊迫或其他什么，人們會(huì)做出不那么明智的決定都可以理解。我認(rèn)為OpenAI面臨的挑戰(zhàn)之一將是，我們需要有一個(gè)擅長(zhǎng)在壓力下運(yùn)作的董事會(huì)和團(tuán)隊(duì)。

Lex Fridman

你覺(jué)得董事會(huì)的權(quán)力過(guò)大了嗎？

Sam Altman

我覺(jué)得董事會(huì)理應(yīng)掌握重要的權(quán)力，但是，我們注意到，在大多數(shù)公司架構(gòu)中，董事會(huì)通常需要對(duì)股東們負(fù)責(zé)。有時(shí)人們擁有超級(jí)投票權(quán)或其他什么。在這個(gè)情況下，我覺(jué)得對(duì)于我們的架構(gòu)來(lái)說(shuō)，我認(rèn)為我們結(jié)構(gòu)中的一個(gè)問(wèn)題是，我們可能沒(méi)有充分考慮到非營(yíng)利組織董事會(huì)實(shí)際上掌握著很大的權(quán)力，他們并不真正向任何人負(fù)責(zé)，除了他們自己。這樣有它的好處，但我們更希望的是OpenAI的董事會(huì)能夠?qū)θ澜缲?fù)責(zé)，盡管我們知道在實(shí)踐中這可能很難做到。

Lex Fridman

所以他們宣布成立了一個(gè)新的董事會(huì)。

Sam Altman

嗯，對(duì)。

Lex Fridman

剛開(kāi)始是一個(gè)新的小型董事會(huì)，現(xiàn)在又換成了新的正式董事會(huì)？

Sam Altman

我們的董事會(huì)還沒(méi)有最后敲定。我們已經(jīng)添了一些成員，接下來(lái)還會(huì)繼續(xù)增加。

Lex Fridman

加了一些。好的。在新版本里修復(fù)了之前版本哪些可能出現(xiàn)的問(wèn)題呢？

Sam Altman

舊董事會(huì)在大約一年時(shí)間里逐漸縮減了。起初是九個(gè)人，后來(lái)減到六個(gè)，接著我們?cè)谠鲅a(bǔ)新成員上意見(jiàn)不統(tǒng)一。我覺(jué)得董事會(huì)中也缺乏經(jīng)驗(yàn)豐富的成員。而現(xiàn)在OpenAI的新董事會(huì)成員們都有著更多的董事會(huì)工作經(jīng)驗(yàn)。我認(rèn)為這會(huì)有所改善。

Lex Fridman

這個(gè)問(wèn)題受到了不少批評(píng)，比如有人對(duì)拉里·薩默斯被加入董事會(huì)表示不滿。你們挑選董事會(huì)成員的過(guò)程是怎樣的？這個(gè)過(guò)程中涉及哪些因素？

Sam Altman

選擇Bret Taylor和薩默斯為董事會(huì)成員是在那個(gè)非常緊張的周末做出的決定，而那個(gè)周末真是就像坐過(guò)山車一樣，給人一種大起大落的感覺(jué)。我們嘗試就新的董事會(huì)成員名單達(dá)成一致，這些成員既要讓這里的執(zhí)行團(tuán)隊(duì)感到滿意，也要得到原董事會(huì)成員的認(rèn)可。

實(shí)際上，薩默斯是原董事會(huì)成員推薦的人選之一。至于Bret，我想在那個(gè)瘋狂周末之前，我就提議過(guò)他，但他當(dāng)時(shí)很忙，不想接受這份工作。之后，我們確實(shí)需要幫助，他才加入進(jìn)來(lái)。我們也考慮了很多其他人選，但我覺(jué)得如果我回來(lái)的話，我需要更換新的董事會(huì)成員。我不認(rèn)為我可以在同樣的人員配置下再次與原董事會(huì)合作，盡管后來(lái)我們決定讓亞當(dāng)·德安吉洛（Adam D'Angelo）留下。但我們考慮了各種配置，最終決定想要組建一個(gè)三人的董事會(huì)，并需要短時(shí)間內(nèi)找到兩名新的董事會(huì)成員。

所以那些決定確實(shí)是直接做出的，你必須在戰(zhàn)場(chǎng)上迅速做出決定。那時(shí)你沒(méi)有時(shí)間設(shè)計(jì)嚴(yán)格的流程。對(duì)于之后的新的董事會(huì)成員，以及我們還將要繼續(xù)添加的新成員，我們有一些認(rèn)為對(duì)董事會(huì)來(lái)說(shuō)重要的標(biāo)準(zhǔn)，我們希望這些人具備的不同專長(zhǎng)。與招聘一名高管不同，他只需要把一個(gè)角色做好，但對(duì)于董事會(huì)成員來(lái)說(shuō)，他需要需要在治理和思考方面表現(xiàn)出全方位的能力。因此，布雷特說(shuō)的一句話我很認(rèn)同，那就是我們想要以成批的形式招聘董事會(huì)成員，而不是一次一個(gè)地招聘。我們正在考慮的是一群能夠帶來(lái)非營(yíng)利組織專業(yè)知識(shí)、公司運(yùn)營(yíng)專業(yè)知識(shí)、良好的法律和治理專業(yè)知識(shí)的人，這是我們?cè)噲D優(yōu)化的目標(biāo)

Lex Fridman

那么，董事會(huì)成員個(gè)人的技術(shù)水平重要嗎？

Sam Altman

不是每個(gè)董事會(huì)成員都需要這類素養(yǎng)，但確實(shí)有一些人需要。這也是董事會(huì)職責(zé)一部分。

Lex Fridman

人們可能還不太了解OpenAI的有意思的一面，我自己肯定也不夠了解，那就是運(yùn)營(yíng)業(yè)務(wù)的所有那些細(xì)枝末節(jié)。當(dāng)人們想到董事會(huì)，再想到那些戲劇化的元素，他們首先想到的是你。他們會(huì)思考，如果你們開(kāi)發(fā)出通用人工智能（AGI）或者其他一些具有巨大影響的產(chǎn)品，并且成功將它們推向市場(chǎng)，那么你和董事會(huì)之間會(huì)有怎樣的對(duì)話呢？他們還會(huì)考慮，在這種場(chǎng)景下，要組建一個(gè)怎樣的團(tuán)隊(duì)來(lái)進(jìn)行決策和討論？

Sam Altman

你看，我認(rèn)為董事會(huì)里肯定需要一些技術(shù)專家。同時(shí)，也需要那些會(huì)考慮到：“我們?cè)鯓硬渴疬@項(xiàng)技術(shù)才能最大限度地造福人類？”的人。還需要那些有著截然不同視角的人。我想，像你我這樣的人可能會(huì)犯的一個(gè)錯(cuò)誤就是以為只有技術(shù)上的理解才是關(guān)鍵，這確實(shí)是你希望董事會(huì)討論的內(nèi)容之一，但還有很多其他方面，比如這項(xiàng)技術(shù)將如何影響社會(huì)和人們的生活，這些你也同樣希望能夠在董事會(huì)中得到體現(xiàn)。

Lex Fridman

你是在審查他們過(guò)去的成就記錄，還是只是跟他們進(jìn)行交流？

Sam Altman

過(guò)往經(jīng)歷很重要，但有些職位我完全不看重過(guò)往經(jīng)歷，只看他的上升勢(shì)頭，忽略掉Y軸的截距。

Lex Fridman

謝謝你。感謝你用數(shù)學(xué)的方式向觀眾闡明問(wèn)題。

Sam Altman

作為董事會(huì)成員，我確實(shí)更在乎Y軸截距。在這方面，我覺(jué)得對(duì)于過(guò)往業(yè)績(jī)的記錄能說(shuō)的深入之處很多，而且經(jīng)驗(yàn)是一種很難替代的東西。

Lex Fridman

你是嘗試將過(guò)往經(jīng)歷擬合為多項(xiàng)式函數(shù)還是指數(shù)函數(shù)？

Sam Altman

這個(gè)比喻有點(diǎn)牽強(qiáng)。

Lex Fridman

好的，你之前提到了那個(gè)周末經(jīng)歷的一些低谷時(shí)刻。在心理上，你都遇到了哪些挫折呢？你有沒(méi)有想過(guò)干脆去亞馬遜雨林，嘗試一下阿亞瓦斯卡（一種致幻劑），然后就此隱匿天涯呢？

Sam Altman

這段時(shí)間真的很糟糕，不過(guò)也有一些非常棒的時(shí)刻，我的手機(jī)簡(jiǎn)直要爆炸了，一直收到來(lái)自我日常工作的伙伴們，以及那些十年未見(jiàn)的老朋友們發(fā)來(lái)的暖心信息。我應(yīng)該更加珍惜這些時(shí)刻，但當(dāng)時(shí)我忙于應(yīng)對(duì)危機(jī)，沒(méi)能充分感受到這份溫暖，不過(guò)這確實(shí)讓人感覺(jué)很啊后?？傮w而言，那個(gè)周末非常痛苦，它就像是一場(chǎng)在公眾視線中打響的戰(zhàn)斗，出乎意料地讓我筋疲力盡，遠(yuǎn)比我預(yù)期的要累。

通常爭(zhēng)斗本就令人筋疲力盡，而這場(chǎng)尤其如此。董事會(huì)在周五下午做了這個(gè)決定。我真的很難獲得任何答案，但我也覺(jué)得，既然董事會(huì)有權(quán)這么做，那么我就應(yīng)該花點(diǎn)時(shí)間好好想想我接下來(lái)想要做什么。不過(guò)，我會(huì)試著在這件事中尋找隱藏的幸運(yùn)。

我當(dāng)時(shí)心想，我的目前職位在OpenAI，或者至少過(guò)去是，負(fù)責(zé)運(yùn)營(yíng)一個(gè)規(guī)模相當(dāng)大的公司。我一直最喜歡的部分就是與研究者們共事。然后我就在想，對(duì)，我完全可以去從事一項(xiàng)高度聚焦的AGI研究工作。這個(gè)想法讓我感到很興奮。當(dāng)時(shí)我甚至沒(méi)意識(shí)到，所有這些努力可能會(huì)化為泡影。那是在一個(gè)星期五的下午。

Lex Fridman

所以你已經(jīng)接受了這一的終結(jié)……

Sam Altman

非?？?，真的非?？臁Ｎ掖_實(shí)經(jīng)歷了一段時(shí)間的迷茫和憤怒，但這種狀態(tài)轉(zhuǎn)瞬即逝。到了周五晚上，我已經(jīng)在跟人討論下一步該怎么做，而且我對(duì)此感到振奮。我記得是周五晚上，我首次聽(tīng)到我們執(zhí)行團(tuán)隊(duì)的人說(shuō)：“嘿，我們將會(huì)反擊。”然后，我?guī)еd奮的心情上床睡覺(jué)了，心想，向前沖。

Lex Fridman

你能睡著嗎？

Sam Altman

不多。有一段蠻奇怪的時(shí)期，大概四天半吧，我?guī)缀鯖](méi)怎么睡覺(jué)，也沒(méi)怎么吃東西，但是依然精力充沛。你會(huì)在戰(zhàn)時(shí)了解到一些關(guān)于腎上腺素的奇特現(xiàn)象。

Lex Fridman

所以你已經(jīng)接受了，這個(gè)被你視為孩子的OpenAI會(huì)有失敗的一天。

Sam Altman

我當(dāng)時(shí)對(duì)那個(gè)新東西特別激動(dòng)。就那么想著，“行吧，這玩意兒確實(shí)瘋了點(diǎn)，但管它呢。”

那天周六早上，兩位董事會(huì)成員給我打電話說(shuō)，“嘿，我們并不是想攪局。我們不打算在這里大把存儲(chǔ)價(jià)值。我們能談?wù)勀慊貧w的事情嗎？”起初，我真的不想回去，但后來(lái)我又仔細(xì)思考了一番，我意識(shí)到我非常關(guān)心這里的人，我的合伙人和股東們。我愛(ài)這家公司。于是，我想了想，對(duì)他們說(shuō)：“好吧，不過(guò)我有我的條件。”而那整個(gè)周末，是最讓人痛苦的時(shí)刻，我不斷地反思，也被告知，而且不只是我，我們整個(gè)團(tuán)隊(duì)都在想，我們正在努力維持OpenAI的穩(wěn)定，而此時(shí)全世界似乎都在試圖將其分崩離析，到處都有人在嘗試挖角。

我們一直被告知，“好了，我們快要弄完了。我們快要完成了。我們只需要再多一點(diǎn)點(diǎn)時(shí)間。”這讓人非常困惑。直到周日晚上，我?guī)缀趺扛魩仔r(shí)就會(huì)以為我們就要結(jié)束了，我們能找到方法讓我回去，讓一切恢復(fù)原狀。但董事會(huì)隨后任命了一位新的臨時(shí)CEO，那一刻我感覺(jué)真的很難受。那是整件事中最低谷的時(shí)刻。我跟你說(shuō)，雖然感覺(jué)非常痛苦，但我在那整個(gè)周末都感受到了很多愛(ài)。除了那個(gè)周日晚上的瞬間，我不會(huì)說(shuō)我的感受是憤怒或恨，相反，我感受到了來(lái)自人們的愛(ài)，也對(duì)他們滿懷愛(ài)意。那很痛苦，但那個(gè)周末的主導(dǎo)情緒是愛(ài)，而不是恨。

Lex Fridman

您曾對(duì)Mira Murati給予高度評(píng)價(jià)，說(shuō)她在那些關(guān)鍵的、平靜的時(shí)刻給予了特別的幫助，就像您在推文中提到的那樣?；蛟S我們可以稍微繞個(gè)彎。您最欣賞Mira的什么特質(zhì)呢？

Sam Altman

她在那個(gè)周末的混亂中表現(xiàn)得非常出色，但人們往往是在危機(jī)時(shí)刻，無(wú)論好壞，才會(huì)關(guān)注領(lǐng)導(dǎo)者的表現(xiàn)。然而，我真正看重的是，在一個(gè)平凡的周二早上9點(diǎn)46分，在日常的平淡和繁瑣中，領(lǐng)導(dǎo)者如何行動(dòng)。一個(gè)人怎樣出席會(huì)議，他們作出決策的質(zhì)量如何。這就是我提到的“靜默時(shí)刻”的含義。

Lex Fridman

絕大多數(shù)的工作都是日復(fù)一日，在一次次會(huì)議中慢慢推進(jìn)的。只需要聚精會(huì)神，做出優(yōu)秀的決策就行了。

Sam Altman

是的，看吧，你想要花費(fèi)過(guò)去二十分鐘探討的那件事——我明白——是關(guān)于那個(gè)非常戲劇化的周末，但那并不是OpenAI的核心所在。OpenAI的重心實(shí)際上在于其余的七年。

這為我們提供了洞察人性的窗口，包括人性的極致以及或許正是在那些時(shí)刻，人類文明的某些毀壞和偉大成就得以顯現(xiàn)，因此這非常具有啟發(fā)性。

Part 2：Ilya Sutskever去哪了

Lex Fridman

那么關(guān)于Ilya的問(wèn)題，我可以問(wèn)你嗎？他是不是被關(guān)在某個(gè)秘密核設(shè)施里作為人質(zhì)？

Sam Altman

不是

Lex Fridman

那么普通的秘密基地呢？

Sam Altman

不是

Lex Fridman

一個(gè)不涉密的核設(shè)施怎么樣？

Sam Altman

肯定也不是

Lex Fridman

這事兒已經(jīng)有點(diǎn)成梗了。你跟Ilya認(rèn)識(shí)很長(zhǎng)時(shí)間了對(duì)吧。他顯然卷入了那場(chǎng)董事會(huì)的風(fēng)波?，F(xiàn)在你倆的關(guān)系怎樣？

Sam Altman

我非常喜愛(ài)Ilya，對(duì)他也有著極大的敬意。關(guān)于他的計(jì)劃，我現(xiàn)在真的沒(méi)什么可以透露的。這應(yīng)該由他來(lái)回答。不過(guò)，我真心希望我們能夠持續(xù)合作，至少在我的職業(yè)生涯剩余時(shí)光里。他比我年輕那么一點(diǎn)，也許他會(huì)比我工作更長(zhǎng)久一些。

Lex Fridman

有個(gè)流傳的段子說(shuō)，他看到了一些東西，好像是他看到了AGI，這件事讓他內(nèi)心充滿了憂慮。Ilya到底看到了什么？

Sam Altman

Ilya從來(lái)沒(méi)有見(jiàn)過(guò)通用人工智能（AGI）。我們?nèi)魏稳硕歼€沒(méi)有。我們也還沒(méi)造出通用人工智能。不過(guò)，Ilya身上有很多讓我敬佩的品質(zhì)，其中一個(gè)就是他非常重視關(guān)于通用人工智能及其廣泛的安全問(wèn)題，這包括它可能對(duì)社會(huì)造成的影響。隨著我們不斷地取得顯著進(jìn)展，這幾年我最多的時(shí)間都是和伊利亞一起討論這將意味著什么，我們需要怎么做才能確保做得正確，以保證我們的使命能夠成功完成。

所以，雖然伊利亞沒(méi)有見(jiàn)過(guò)AGI，但他對(duì)確保我們?cè)谶@個(gè)過(guò)程中行得正、走得穩(wěn)的深思熟慮和憂慮，對(duì)人類來(lái)說(shuō)是一份寶貴的貢獻(xiàn)。

Lex Fridman

我過(guò)去與他有過(guò)不少交流。我覺(jué)得，每當(dāng)他談到技術(shù)，他總是持有一種長(zhǎng)遠(yuǎn)的思考方式。他不太關(guān)心一年內(nèi)會(huì)發(fā)生什么，而是在想象10年后的情況，基于首要原則去思考：“好的，如果這東西真的能夠擴(kuò)展開(kāi)來(lái)，那么基本要素是什么呢？會(huì)有哪些發(fā)展？”這種思考方式為他們?cè)陉P(guān)注所有的安全問(wèn)題等方面打下了堅(jiān)實(shí)的基礎(chǔ)，這也讓和他對(duì)話變得非常吸引人。你了解他為何近來(lái)鮮有發(fā)聲嗎？他是不是在做些靈魂深處的思索呢？

Sam Altman

再說(shuō)一次，我不想代表Ilya發(fā)言。我覺(jué)得你應(yīng)該親自去問(wèn)問(wèn)他。他絕對(duì)是個(gè)思考深刻的人。我認(rèn)為Ilya始終在以非常積極的方式進(jìn)行靈魂探索。

Lex Fridman

是的，他還真懂得沉默的魅力。我聽(tīng)說(shuō)他其實(shí)挺逗的，不過(guò)我個(gè)人還沒(méi)機(jī)會(huì)見(jiàn)識(shí)過(guò)這一面。

Sam Altman

當(dāng)那種情況發(fā)生時(shí)，感覺(jué)真的很溫馨。

Lex Fridman

我還沒(méi)遇到過(guò)傻傻的Ilya，不過(guò)我也挺期待這一天呢。

Sam Altman

我最近和他一起去了個(gè)晚宴，他當(dāng)時(shí)正在和一只小狗玩，心情非常輕松、嬉皮，真的很讓人覺(jué)得親切。我當(dāng)時(shí)就想：哇～這面是Ilya不太給外界看到的。

Lex Fridman

那么，就這整樁事情而言，你對(duì)董事會(huì)的架構(gòu)滿意嗎？

Sam Altman

是的

Lex Fridman

…關(guān)于這一切及其走向，你有何看法？

Sam Altman

我對(duì)新董事會(huì)的組建感到非常滿意。在OpenAI的架構(gòu)方面，董事會(huì)的職責(zé)之一就是進(jìn)行審視，看看我們?nèi)绾文軌蚣訌?qiáng)其結(jié)構(gòu)的韌性。我們的首要任務(wù)是先確定新的董事會(huì)成員，但顯然在這個(gè)過(guò)程中，我們對(duì)結(jié)構(gòu)的認(rèn)識(shí)有了顯著的進(jìn)步。我認(rèn)為我沒(méi)有什么特別深刻的見(jiàn)解。這是一段極其混亂和痛苦的經(jīng)歷。我覺(jué)得這就像一場(chǎng)怪異的完美風(fēng)暴。這對(duì)我來(lái)說(shuō)預(yù)示著未來(lái)的挑戰(zhàn)，隨著賭注的不斷升高，我們需要有更為強(qiáng)健的治理結(jié)構(gòu)、流程和團(tuán)隊(duì)。我很慶幸這一切在我還年輕時(shí)發(fā)生，但實(shí)際上這是一次異常艱難的經(jīng)歷。

Lex Fridman

這會(huì)不會(huì)使你在信任別人方面變得更加猶豫呢？

Sam Altman

是的

Lex Fridman

就個(gè)人而言？

Sam Altman

是的，我自認(rèn)為是一個(gè)極度信任他人的人。我一向堅(jiān)持的人生哲學(xué)是：不必太過(guò)擔(dān)憂，不必在意那些偏執(zhí)的疑慮和極端的可能性。這樣做的代價(jià)可能是偶爾吃點(diǎn)小虧，但作為回報(bào)，你得以放松警惕地生活。然而這件事對(duì)我來(lái)說(shuō)真的是晴天霹靂，我措手不及，它確實(shí)改變了我。我并不喜歡這種改變，但它確實(shí)影響了我對(duì)于對(duì)人默認(rèn)信任的態(tài)度以及對(duì)潛在壞情況的規(guī)劃。

Lex Fridman

你得在這方面多加留心。你擔(dān)心自己會(huì)變得過(guò)于憤世嫉俗嗎？

Sam Altman

我不害怕自己會(huì)變得過(guò)于憤世嫉俗。我覺(jué)得我本性里就很不憤世嫉俗，但我擔(dān)心，自己可能逐漸喪失那種對(duì)別人的本能信任。

Lex Fridman

我其實(shí)還沒(méi)把握好，對(duì)于那些正致力于開(kāi)發(fā)通用人工智能的人而言，是信任模式更為適宜，還是持懷疑態(tài)度更好。這條路你走得真有意思。不過(guò)說(shuō)到架構(gòu)，我其實(shí)更關(guān)注人這一層面。你怎么做到讓自己周圍都是那些既在打造酷炫東西，又能作出睿智選擇的人？因?yàn)槟銙甑腻X越多，這件事的影響力也就越大，周圍的人就越發(fā)變得詭異。

Sam Altman

我覺(jué)得你完全可以就董事會(huì)成員的問(wèn)題，以及我應(yīng)該給予的信任程度，或者說(shuō)我應(yīng)該采取不同的做事方式提出種種意見(jiàn)。但如果說(shuō)到這里的團(tuán)隊(duì)，我相信你會(huì)給我一個(gè)非常高的評(píng)價(jià)。對(duì)于那些我每天都要共事的人，我心中充滿了巨大的感激、信任和尊重。我認(rèn)為，讓自己被這樣的人包圍是極其重要的。

Part 3：Elon Musk的訴訟

Lex Fridman

我們共同的朋友Elon Musk起訴了OpenAI。在你看來(lái)，他批評(píng)的核心問(wèn)題是什么？他有多少批評(píng)是站得住腳的？又有多少是誤會(huì)或不對(duì)的？

Sam Altman

我真的不清楚這到底是怎么一回事。最初，我們只認(rèn)為自己將成為一個(gè)研究實(shí)驗(yàn)室，對(duì)這項(xiàng)技術(shù)未來(lái)的發(fā)展毫無(wú)頭緒。那是七八年前的事了，現(xiàn)在想回憶起當(dāng)時(shí)的情況真的很難，那個(gè)時(shí)候語(yǔ)言模型還沒(méi)成為熱門話題。我們甚至還沒(méi)想到要開(kāi)發(fā)一個(gè)API或者賣聊天機(jī)器人的訪問(wèn)權(quán)限。我們也沒(méi)有想過(guò)要將其產(chǎn)品化。當(dāng)時(shí)我們的想法就是，“我們就去做研究吧，至于研究成果能用來(lái)做什么，我們并不清楚。”我想在探索完全新穎的事物時(shí)，你總是摸著石頭過(guò)河，制定一些假設(shè)，而這些假設(shè)大多數(shù)最終都被證明是錯(cuò)誤的。

接著，我們意識(shí)到我們需要做出一些不同的事情，并且需要巨額的資本。所以我們就在想，行吧，當(dāng)前的結(jié)構(gòu)顯然不太合適。我們?cè)撛鯓尤パa(bǔ)救？補(bǔ)了一次又一次，最終我們得到的東西確實(shí)讓人不禁挑挑眉毛，至少可以這么形容。不過(guò)，我覺(jué)得我們?cè)诿恳徊蕉甲龀隽撕侠淼臎Q策。這并不是說(shuō)如果能有機(jī)會(huì)回到過(guò)去，有個(gè)先知在旁邊指導(dǎo)，我就不會(huì)選擇完全不同的做法。不過(guò)，當(dāng)時(shí)我們手邊可沒(méi)有先知。不管怎樣，至于埃隆真正的動(dòng)機(jī)是什么，我真的不清楚。

Lex Fridman

在OpenAI的博客文章中，他們給出的回應(yīng)主要集中在為什么他們認(rèn)為不應(yīng)該繼續(xù)推出完整版GPT-3 API的理由。他們提到了對(duì)模型潛在被濫用的擔(dān)憂，以及他們認(rèn)為現(xiàn)階段需要加強(qiáng)監(jiān)管和提高透明度。此外，他們也談到了對(duì)于AI長(zhǎng)期影響的責(zé)任感，并表示愿意與其他機(jī)構(gòu)合作，確保AI的使用是安全和有益的。

Sam Altman

哦，我們剛剛提到埃隆表達(dá)了一系列看法。這里是我們的陳述，或者說(shuō)不是我們的陳述。這是對(duì)事件經(jīng)過(guò)的一個(gè)描述。我們?cè)噲D不帶入個(gè)人情緒，只是陳述，“這就是歷史。”

Lex Fridman

我覺(jué)得Elon對(duì)你剛才提到的一點(diǎn)有些誤解，也就是你們當(dāng)時(shí)所面臨的不確定性有多大。你們只是一幫小研究團(tuán)隊(duì)，瘋狂地討論著AGI，而那時(shí)候，所有人都覺(jué)得這個(gè)想法很可笑。

Sam Altman

Elon不久前還在瘋狂地談?wù)摪l(fā)射火箭，那時(shí)候大家都對(duì)這個(gè)念頭嗤之以鼻，所以我覺(jué)得他對(duì)這件事會(huì)有更多的共鳴。

Lex Fridman

我確實(shí)認(rèn)為這里面有一些個(gè)人的因素。OpenAI和這里的很多了不起的人決定與Elon Musk分道揚(yáng)鑣，因此存在一些個(gè)人層面的-

Sam Altman

Elon選擇了離開(kāi)

Lex Fridman

你能具體說(shuō)說(shuō)嗎？那種選擇分道揚(yáng)鑣的情形？

Sam Altman

他覺(jué)得OpenAI快要失敗了。他想要完全控制權(quán)來(lái)挽救局面。但我們想要繼續(xù)沿著現(xiàn)在OpenAI所走的方向前進(jìn)。他還想要特斯拉能夠開(kāi)展一個(gè)AGI（人工通用智能）項(xiàng)目。他在不同時(shí)間點(diǎn)有過(guò)多種想法，包括把OpenAI變成一個(gè)他能控制的盈利性公司，或者是讓它與特斯拉合并。我們并不同意這樣做，于是他決定離開(kāi)，這也挺好的。

Lex Fridman

所以你的意思是，正如那篇博客文章里提到的，他想要的是OpenAI能被特斯拉收購(gòu)，或許是與微軟的合作方式有點(diǎn)相似，或者說(shuō)可能是一種更為戲劇化的形式。

Sam Altman

我的記憶里，那個(gè)提議就是這么回事，就是說(shuō)，被特斯拉收購(gòu)，然后讓特斯拉完全掌控它。我很確定提議就是這個(gè)意思。

Lex Fridman

當(dāng)時(shí)，Elon，OpenAI中的“open”對(duì)你意味著什么？Ilya在郵件往來(lái)中已經(jīng)談?wù)撨^(guò)這個(gè)話題。那時(shí)候它對(duì)你意味著什么？現(xiàn)在又是怎樣的意義呢？

Sam Altman

說(shuō)到如果能帶著一個(gè)“神諭”重來(lái)，我可能會(huì)選一個(gè)不同的名字。OpenAI正在做的眾多事情中，我認(rèn)為最重要的就是免費(fèi)地將強(qiáng)大技術(shù)交到人們手中，作為一項(xiàng)公共福利。我們不在我們的服務(wù)上投放廣告——

Sam Altman

作為公共利益的一部分，我們沒(méi)有在免費(fèi)版本中投放廣告，也沒(méi)有通過(guò)其他途徑來(lái)盈利。我們的出發(fā)點(diǎn)只是我們的使命——免費(fèi)為人們提供越來(lái)越強(qiáng)大的工具，并且讓他們?nèi)ナ褂谩Ｎ矣X(jué)得這樣的開(kāi)放對(duì)我們的愿景至關(guān)重要。如果我們能夠提供優(yōu)秀的工具，讓人們學(xué)會(huì)使用，或者他們甚至可以自學(xué)成才，然后用這些工具為彼此打造一個(gè)美好的未來(lái)，這將是意義重大的。所以，如果我們能持續(xù)向世界提供免費(fèi)或低成本的強(qiáng)大AI工具，這將極大地推進(jìn)我們的使命。至于是否開(kāi)源，嗯，我認(rèn)為我們應(yīng)該對(duì)一些東西開(kāi)源，而對(duì)其他的則不必。這件事往往會(huì)變成一種信仰之爭(zhēng)，很難保持中立，但我相信尋找平衡點(diǎn)才是正確的做法。

Lex Fridman

所以他就跟我說(shuō)：“如果你們把名字改成CloseAI，我就撤銷訴訟。”我是說(shuō)，難道這就要成為一個(gè)圍繞名字的梗，在這片戰(zhàn)場(chǎng)上互相對(duì)決了嗎？

Sam Altman

我覺(jué)得這體現(xiàn)出Elon提起訴訟的嚴(yán)肅態(tài)度，說(shuō)實(shí)話，這種說(shuō)法真是讓人吃驚。

Lex Fridman

你要是覺(jué)得我錯(cuò)了就糾正我，但我個(gè)人覺(jué)得這場(chǎng)官司在法律上并不算嚴(yán)重。它更多的是在向人們傳遞一個(gè)關(guān)于未來(lái)通用人工智能（AGI），以及目前在這個(gè)領(lǐng)域領(lǐng)先的公司的信息。

Sam Altman

看，我的意思是，在人們指出這樣做有點(diǎn)偽善之前，Grok是沒(méi)有開(kāi)源過(guò)任何東西的。然后，他宣布Grok將在本周開(kāi)始開(kāi)源一些東西。我認(rèn)為對(duì)他來(lái)說(shuō)，這件事并不僅僅是關(guān)于是否開(kāi)源的問(wèn)題。

Lex Fridman

嗯，我們會(huì)討論一下開(kāi)源和非開(kāi)源的話題。我倒是覺(jué)得，批評(píng)一下競(jìng)爭(zhēng)對(duì)手挺好的，適當(dāng)?shù)卣f(shuō)點(diǎn)壞話也無(wú)妨。但這得是建立在友好競(jìng)爭(zhēng)的基礎(chǔ)上，比起來(lái)，我個(gè)人真是非常討厭打官司。

Sam Altman

“看，我認(rèn)為整個(gè)事情對(duì)于一個(gè)建造者來(lái)說(shuō)是不應(yīng)該的。我尊敬埃隆，他是我們時(shí)代最偉大的建造者之一。我知道他清楚地感受過(guò)被那些仇恨者攻擊的滋味，這讓我看到他這樣做時(shí)更加感到悲哀。”

Lex Fridman

是的，他可以說(shuō)是史上最杰出的創(chuàng)造者之一，甚至可能是有史以來(lái)最卓越的建設(shè)者。

Sam Altman

這讓我感到悲傷。我覺(jué)得很多人也有同樣的感受。一直以來(lái)，有那么多人仰慕他。我在某個(gè)訪談里說(shuō)過(guò)，我懷念曾經(jīng)的Elon，結(jié)果收到了好多回信，他們都說(shuō)：“你的話完全表達(dá)了我的心聲。”

Lex Fridman

我覺(jué)得他就應(yīng)該贏。他應(yīng)該讓X Grok打敗GPT，然后GPT又反過(guò)來(lái)打敗X Grok，就這樣互相競(jìng)爭(zhēng)，對(duì)大家來(lái)說(shuō)都是一件美事。但說(shuō)到開(kāi)源的話題，你認(rèn)為有很多公司在探索這個(gè)概念嗎？這挺有意思的。我倒覺(jué)得Meta出乎意料地在這個(gè)領(lǐng)域走在了前面，或者至少在這場(chǎng)棋局中，它是第一個(gè)真正開(kāi)放源碼的。當(dāng)然了，他們開(kāi)源的并不是最尖端的模型，不過(guò)他們開(kāi)源了Lama。谷歌也在考慮開(kāi)放一個(gè)規(guī)模較小的版本。開(kāi)源有什么優(yōu)缺點(diǎn)？你自己有沒(méi)有思考過(guò)這個(gè)問(wèn)題？

Sam Altman

是的，我確信開(kāi)源模型絕對(duì)有其立足之地，尤其是那些人們可以在本地執(zhí)行的體積較小的模型，這方面確實(shí)存在巨大的需求。我想未來(lái)會(huì)出現(xiàn)一些開(kāi)源模型，也會(huì)有一些閉源模型。這一點(diǎn)上，它并不會(huì)與其他生態(tài)系統(tǒng)有所不同。

Lex Fridman

我聽(tīng)了所有關(guān)于這起訴訟和其他類似事情的播客。他們更加關(guān)注的是，從非盈利到設(shè)定盈利上限這一變化所樹(shù)立的先例對(duì)其他初創(chuàng)企業(yè)會(huì)有什么影響？這會(huì)是一個(gè)怎樣的啟發(fā)？

Sam Altman

我強(qiáng)烈不建議任何想要先作為一個(gè)非盈利組織起步，之后再加入盈利性分支的創(chuàng)業(yè)公司這么做。我真的非常不推薦這種方式。我覺(jué)得我們這里也不會(huì)創(chuàng)造這樣一個(gè)先例。

如果我們知道會(huì)發(fā)生什么，我們肯定也會(huì)那么做的。

Lex Fridman

嗯，理論上來(lái)說(shuō)，如果你在這里的舞跳得夠美，或許能享受到一些稅收優(yōu)惠之類的東西，但是……

Sam Altman

我覺(jué)得大部分人對(duì)這些事情的看法不是這樣的。

Lex Fridman

如果你這樣做，創(chuàng)業(yè)公司根本不可能省下一大筆錢。

Sam Altman

不，我覺(jué)得有些法律會(huì)讓這件事變得相當(dāng)棘手。

Lex Fridman

你期望與Elon之間的關(guān)系如何發(fā)展？這種緊張、這場(chǎng)對(duì)峙，你希望它會(huì)怎樣？假如從現(xiàn)在起向前看1、2、3年，你和他在私人層面上的關(guān)系——像是友情、友好競(jìng)爭(zhēng)，以及所有這些互動(dòng)。

Sam Altman

是的，我非常尊敬Elon，我希望在未來(lái)的歲月里，我們能保持一段友好的關(guān)系。

Lex Fridman

是的，我希望你們這個(gè)月能夠保持友好的關(guān)系，一起在競(jìng)爭(zhēng)中取得勝利，共同探討這些有趣的理念。我猜會(huì)有些關(guān)于人才或其他方面的競(jìng)爭(zhēng)吧，但關(guān)鍵是要保持友好競(jìng)爭(zhēng)的氛圍。就去創(chuàng)造一些酷炫的東西吧。埃隆在這方面確實(shí)很在行，你也不賴。

Part 4：Sora

Lex Fridman

講到厲害的玩意兒，Sora真的很吸引人。我有一百萬(wàn)個(gè)問(wèn)題想問(wèn)你。首先，它的確令人稱奇，無(wú)論是在產(chǎn)品層次上，還是在哲學(xué)層次上。那么我就從技術(shù)/哲學(xué)的角度來(lái)提問(wèn)吧，你認(rèn)為它比如說(shuō)相比于GPT-4，在理解世界這方面是更勝一籌還是稍遜一籌呢？在訓(xùn)練這些補(bǔ)丁時(shí)，它對(duì)世界模型的理解與僅僅基于語(yǔ)言標(biāo)記有什么不同嗎？

Sam Altman

我覺(jué)得這些模型對(duì)世界模型的理解，實(shí)際上比我們多數(shù)人給予的認(rèn)可要深。因?yàn)樗鼈儗?duì)某些事情的理解是如此的清晰明了，它們對(duì)其他事情的無(wú)知或錯(cuò)誤就顯得尤為突出，人們很容易一眼看穿它們的不足，然后說(shuō)：“啊，這全是假的。”但實(shí)際上并非全是假象。有些部分是有效的，有些部分則不然。

我還記得第一次看Sora視頻時(shí)的情景，你會(huì)看到有人走過(guò)來(lái)，擋住畫(huà)面幾秒鐘后又走開(kāi)，而被遮擋的東西依舊在那兒。我當(dāng)時(shí)就想，“噢，這效果挺不錯(cuò)的。”或者，有時(shí)候，你能看到它展現(xiàn)出一系列動(dòng)作中物理規(guī)律的那種精準(zhǔn)，真的讓人印象深刻。但說(shuō)到底，這些模型只會(huì)越來(lái)越強(qiáng)大，這種進(jìn)步還會(huì)繼續(xù)。如果你關(guān)注一下從DALL·E 1到2再到3，再到Sora的發(fā)展軌跡，會(huì)發(fā)現(xiàn)有很多人在每一個(gè)版本上都曾嘲諷，說(shuō)它做不到這個(gè)，做不到那個(gè)，但現(xiàn)在看看它的表現(xiàn)吧。

Lex Fridman

嗯，你剛才提到的遮擋問(wèn)題，其實(shí)就是要對(duì)世界的三維物理現(xiàn)象建模，而且要做得足夠好，才能捕捉到這類情況。

Sam Altman

嗯……

Lex Fridman

你可以跟我說(shuō)說(shuō)，為了應(yīng)對(duì)遮擋問(wèn)題，世界模型需要做什么呢？

Sam Altman

我想說(shuō)的是，它在處理遮擋方面表現(xiàn)得相當(dāng)出色。而說(shuō)它背后有一個(gè)很強(qiáng)大的三維世界模型，這個(gè)說(shuō)法就有些牽強(qiáng)了。

Lex Fridman

但你覺(jué)得僅憑這些二維訓(xùn)練數(shù)據(jù)的方式就能達(dá)到那個(gè)目標(biāo)嗎？

Sam Altman

看起來(lái)這種方法能出乎意料地走得很遠(yuǎn)。我不太想去猜測(cè)它能克服哪些限制，哪些又不能，不過(guò)……

Lex Fridman

你發(fā)現(xiàn)了系統(tǒng)的哪些有趣局限性？我的意思是，你分享過(guò)一些挺有趣的例子。

Sam Altman

有各種各樣的有趣現(xiàn)象。比如，視頻中的貓咪在任意位置突然長(zhǎng)出一條額外的肢體。你可以隨意挑選，但現(xiàn)在仍然存在許多問(wèn)題，有很多弱點(diǎn)。

Lex Fridman

你覺(jué)得這是這種方法根本上的缺陷呢，還是說(shuō)只要有更大的模型、更細(xì)致的技術(shù)處理或者更高質(zhì)量、更多量的數(shù)據(jù)，就能解決“貓發(fā)芽”這類問(wèn)題？

Sam Altman

我對(duì)這兩點(diǎn)都持肯定態(tài)度。我認(rèn)為這種方法給人的感覺(jué)與我們通常的思考和學(xué)習(xí)方式大相徑庭。同時(shí)，我也相信隨著規(guī)模的增加，它的效果會(huì)進(jìn)一步提升。

Lex Fridman

就像我提到的，LLMS有token，文本token，而Sora則有視覺(jué)patch。它把所有的視覺(jué)數(shù)據(jù)，包括各種不同的視頻和圖片，都轉(zhuǎn)換成了patch。訓(xùn)練過(guò)程可以說(shuō)完全是自監(jiān)督的嗎？還是會(huì)涉及到一些手動(dòng)標(biāo)注的工作？在整個(gè)過(guò)程中，人的參與程度是怎樣的？

Sam Altman

我是說(shuō)，不詳細(xì)談?wù)揝ora的方法，我們的工作就已經(jīng)利用了大量的人類數(shù)據(jù)。

Lex Fridman

但不是互聯(lián)網(wǎng)級(jí)別的數(shù)據(jù)量嗎？這就意味著需要大量的人力。Sam，"大量"這個(gè)詞可不簡(jiǎn)單。

Sam Altman

我覺(jué)得在這種情況下用“很多”這個(gè)詞挺合適的。

Lex Fridman

因?yàn)閷?duì)我來(lái)說(shuō)，“很多”嘛……你聽(tīng)我說(shuō)，我是個(gè)內(nèi)向的人，要是和三個(gè)人一起出去，對(duì)我來(lái)說(shuō)人就已經(jīng)夠多的了。要是四個(gè)人，那簡(jiǎn)直就是超負(fù)荷了。不過(guò)我猜你指的“很多”可能是比這……

Sam Altman

對(duì)，確實(shí)是有不止三個(gè)人在給這些模型做數(shù)據(jù)標(biāo)注工作。

Lex Fridman

好的，對(duì)。但歸根到底，有大量的自監(jiān)督學(xué)習(xí)。就像你在技術(shù)報(bào)告里提到的，我們處理的是互聯(lián)網(wǎng)規(guī)模的數(shù)據(jù)。這實(shí)在太美妙了……它就像詩(shī)。也就是說(shuō)，這些數(shù)據(jù)并非由人工標(biāo)注，可以認(rèn)為是以這種方式自監(jiān)督的嗎？

Sam Altman

嗯，對(duì)。

Lex Fridman

然后問(wèn)題在于，互聯(lián)網(wǎng)上到底有多少數(shù)據(jù)可以用于這種自我監(jiān)督學(xué)習(xí)的方式，只要我們能弄清楚自我監(jiān)督的具體細(xì)節(jié)。你有沒(méi)有考慮過(guò)，更進(jìn)一步公開(kāi)這些細(xì)節(jié)？

Sam Altman

我們有的。你是特指信息的來(lái)源嗎？

Lex Fridman

出處特別指出。因?yàn)楹苡腥ぃ切┳屨Z(yǔ)言模型如此神奇的元素現(xiàn)在能否開(kāi)始轉(zhuǎn)向視覺(jué)數(shù)據(jù)呢？而這一過(guò)程需要怎么做呢？

Sam Altman

我感覺(jué)是這樣沒(méi)錯(cuò)，不過(guò)我們還得加把勁，干更多的活兒。

Lex Fridman

當(dāng)你這么問(wèn)的時(shí)候，是在擔(dān)心些什么呢？為什么會(huì)對(duì)發(fā)布這個(gè)系統(tǒng)感到憂慮？可能會(huì)有哪些潛在危險(xiǎn)？

Sam Altman

我是說(shuō)，坦白講，在發(fā)布系統(tǒng)之前，我們必須確保它的效率達(dá)到人們期望的規(guī)模，這樣才能確保系統(tǒng)能夠正常工作，這一點(diǎn)我不想輕描淡寫(xiě)。在這方面還有大量的工作需要完成。但你可以想象到，像深度偽造、錯(cuò)誤信息這樣的問(wèn)題。我們?cè)噲D作為一家深思熟慮的公司去思考我們推向世界的產(chǎn)品，你不用費(fèi)太多心思就能想到這些事情可能怎么走向不好的方向。

Lex Fridman

在這里我們面臨很多棘手的問(wèn)題，你所處的領(lǐng)域非常艱難。你覺(jué)得按照版權(quán)法，訓(xùn)練人工智能算不算公平使用呢？

Sam Altman

我覺(jué)得這個(gè)問(wèn)題的底層問(wèn)題是，創(chuàng)造有價(jià)值數(shù)據(jù)的人們是否應(yīng)該得到某種形式的經(jīng)濟(jì)補(bǔ)償，因?yàn)樗麄兊臄?shù)據(jù)被利用了。我認(rèn)為答案是肯定的。我目前還不清楚具體的解決方案是什么。人們提出了各種各樣的點(diǎn)子，我們也嘗試過(guò)一些不同的模式。但打個(gè)比方，如果我是一位藝術(shù)家，A，我會(huì)希望有選項(xiàng)可以讓別人不使用我的風(fēng)格來(lái)創(chuàng)作藝術(shù)作品。而且，B，如果別人確實(shí)用了我的風(fēng)格來(lái)創(chuàng)作，我希望這背后能有一套經(jīng)濟(jì)模式來(lái)確保我的利益得到體現(xiàn)。

Lex Fridman

是的，就像是從CD到Napster，再到Spotify的那種轉(zhuǎn)變。我們得找出一種可行的模式。

Sam Altman

模型會(huì)變，但人們得拿到錢。

Lex Fridman

好吧，如果我們把視角再拉得更遠(yuǎn)一些，應(yīng)該有某種動(dòng)力激勵(lì)人類繼續(xù)去做那些牛逼的事兒。

Sam Altman

在我所擔(dān)心的一切中，我相信人類會(huì)創(chuàng)造出非常酷的東西，并且社會(huì)終將以某種方式來(lái)獎(jiǎng)勵(lì)這些創(chuàng)造。這似乎已經(jīng)深植于我們的本性之中。我們渴望創(chuàng)造，我們渴望證明自己的價(jià)值，我們希望以各種方式來(lái)獲取認(rèn)同和地位。我認(rèn)為，這些特質(zhì)是不會(huì)消逝的。

Lex Fridman

但回報(bào)可能不是金錢上的利益，而可能是名望或是對(duì)其它酷事的認(rèn)可和贊譽(yù)。

Sam Altman

也許在金融方面還有其他方式。我再次強(qiáng)調(diào)，我認(rèn)為我們還未見(jiàn)到經(jīng)濟(jì)系統(tǒng)發(fā)展的最終模式。

Lex Fridman

是的，不過(guò)藝術(shù)家和創(chuàng)作者們都挺擔(dān)心的。當(dāng)他們看到Sora，他們就會(huì)驚呼，“我的天哪。”

Sam Altman

藝術(shù)家們?cè)跀z影問(wèn)世的時(shí)候也是非常憂心忡忡的，后來(lái)攝影卻演變成了一種全新的藝術(shù)形式，有人通過(guò)攝影賺到了大錢。我相信類似的事情還會(huì)不斷上演。人們會(huì)不斷地用新工具探索新的創(chuàng)作方式。

Lex Fridman

如果我們只是隨便在YouTube或者類似的平臺(tái)上搜一搜，你覺(jué)得在接下來(lái)的五年里，會(huì)有多少內(nèi)容是由類似Sora這樣的AI生成的呢？

Sam Altman

人們總是在討論，五年內(nèi)人工智能會(huì)取代多少工作崗位。他們的出發(fā)點(diǎn)通常是，目前的工作中有多大比例會(huì)完全被人工智能所替代？但我個(gè)人的看法并不是圍繞人工智能會(huì)做多少份工作，而是在未來(lái)某個(gè)時(shí)間點(diǎn)，它們能執(zhí)行多少種任務(wù)。

想一想，經(jīng)濟(jì)活動(dòng)中的每五秒鐘、五分鐘、五小時(shí)乃至五天的任務(wù)，有多少是人工智能可以完成的？我認(rèn)為，這個(gè)問(wèn)題比單純問(wèn)人工智能能取代多少工作要更加有意義、影響深遠(yuǎn)和重要。

因?yàn)槿斯ぶ悄苁且粋€(gè)工具，它將在不斷延長(zhǎng)的時(shí)間跨度內(nèi)、以越來(lái)越高的復(fù)雜度來(lái)執(zhí)行越來(lái)越多的任務(wù)，這讓人類能夠在更高層次上進(jìn)行抽象思考。也就是說(shuō)，人們?cè)谧约旱墓ぷ髦锌赡軙?huì)變得更加高效。而這種變化，隨著時(shí)間的推移，不僅僅是量的改變，它還意味著質(zhì)的變化——我們能在腦海中構(gòu)思何種問(wèn)題。對(duì)于YouTube上的視頻，我覺(jué)得情況也是如此。很多視頻，或許是大多數(shù)視頻，在制作過(guò)程中會(huì)運(yùn)用到人工智能工具，但它們的核心仍然是由人來(lái)思考、構(gòu)思、負(fù)責(zé)部分執(zhí)行，并指導(dǎo)整個(gè)項(xiàng)目的運(yùn)作。

Lex Fridman

是的，這真的非常有趣。我是說(shuō)，這確實(shí)有點(diǎn)嚇人，但去想象這一點(diǎn)真的很吸引人。我傾向于認(rèn)為，人類喜歡觀察其他人類或者說(shuō)其他有人性的生物——

Sam Altman

人們真的很在乎彼此。

Lex Fridman

是的，如果出現(xiàn)了比人類還酷、還厲害的東西，人們可能會(huì)關(guān)注兩天，但之后他們又會(huì)回歸去關(guān)心人類的事務(wù)。

Sam Altman

這看起來(lái)似乎是根深蒂固的。

Lex Fridman

這就是圍繞棋局的整個(gè)問(wèn)題，“哦，是的”，但現(xiàn)在我們還是得繼續(xù)下棋。咱們得視而不見(jiàn)那個(gè)擺在眼前的事實(shí)：比起人工智能系統(tǒng)，人類下棋實(shí)在是太菜了。

Sam Altman

我們還是會(huì)開(kāi)賽車，而且現(xiàn)在的車速比以前快多了。我的意思是這樣的例子有很多。

Lex Fridman

是的，或許它就類似于Adobe套件里的一種工具，能夠大大簡(jiǎn)化視頻制作這些流程。

聽(tīng)著，我真的不喜歡站在鏡頭前。如果我能想出一個(gè)辦法避免露面，我會(huì)非常樂(lè)意的。不過(guò)不幸的是，這可能還需要一段時(shí)間。現(xiàn)在我們正在研究生成面部圖像的技術(shù)，雖然進(jìn)展順利，但要在視頻中生成特定人物而非通用面孔，這個(gè)過(guò)程還是挺棘手的。

Part 5：GPT-4

Lex Fridman

讓我來(lái)問(wèn)問(wèn)你GPT-4的事情。問(wèn)題真的好多。首先，它同樣令人驚嘆?；仡^看，GPT-3、GPT-5和GPT-4這幾個(gè)版本很可能會(huì)被認(rèn)為是歷史性的轉(zhuǎn)折點(diǎn)，這些版本塑造了ChatGPT。

Sam Altman

可能第五次會(huì)成為轉(zhuǎn)折點(diǎn)。我不確定。往前看，這真的很難說(shuō)。

Lex Fridman

我們永遠(yuǎn)也預(yù)測(cè)不了。這就是關(guān)于未來(lái)最讓人頭疼的事，太難以預(yù)測(cè)了。但是對(duì)我個(gè)人而言，回顧歷史，GPT-4和ChatGPT實(shí)在是太讓人震驚了，它們?cè)跉v史上都留下了深刻的烙印。那么，請(qǐng)?jiān)试S我問(wèn)你，你認(rèn)為GPT-4和GPT-4 Turbo最令人印象深刻的能力有哪些？

Sam Altman

我覺(jué)得這挺糟心的。

Lex Fridman

人吶，也是這樣，很快就會(huì)習(xí)慣一件棒極了的東西。

Sam Altman

不，我認(rèn)為這確實(shí)是一件非凡的事情，但與我們所要實(shí)現(xiàn)的目標(biāo)和我堅(jiān)信我們最終能夠達(dá)成的境界相比，在GPT-3面世那會(huì)兒，人們都說(shuō)：“哦，這太令人驚嘆了，簡(jiǎn)直是技術(shù)的奇跡。”的確，當(dāng)時(shí)它非常了不起。但現(xiàn)在出現(xiàn)了GPT-4，再回頭看看GPT-3，你就會(huì)覺(jué)得：“天哪，這簡(jiǎn)直糟糕透了。”我預(yù)計(jì)GPT-5和GPT-4之間的差距將和GPT-4與GPT-3的差距一樣大。

我們的職責(zé)就是要有領(lǐng)先的視野，記得我們現(xiàn)在擁有的工具回頭看來(lái)可能會(huì)顯得相當(dāng)遜色，正是這種認(rèn)知驅(qū)使我們確保未來(lái)變得更加美好。

Lex Fridman

GPT-4在哪些方面最讓人失望？我的意思是——

Sam Altman

它最擅長(zhǎng)做些什么呢？

Lex Fridman

它能做到的最棒的事情是什么呢？而這些事情的局限性又在哪里，讓你會(huì)覺(jué)得它很差，因此又讓你對(duì)未來(lái)充滿了啟迪和期望呢？

Sam Altman

我最近更多地把它當(dāng)作一種頭腦風(fēng)暴的搭檔。

Lex Fridman

是的。

Sam Altman

它有一絲令人震驚的神奇。當(dāng)人們談起它的作用時(shí)，他們會(huì)說(shuō)：“哦，它幫我提高了編程效率。它讓我的寫(xiě)作速度更快、質(zhì)量更好。它能幫我將一種語(yǔ)言轉(zhuǎn)換成另一種。”所有這些都令人稱奇，但它在創(chuàng)意頭腦風(fēng)暴方面的表現(xiàn)——比如，“我得給這個(gè)東西取個(gè)名字。我需要換個(gè)角度思考這個(gè)問(wèn)題。我不確定接下來(lái)該怎么辦”——我認(rèn)為這展現(xiàn)了一絲令我期待已久的東西，希望將來(lái)能看到更多這樣的場(chǎng)景。

你能略見(jiàn)一斑的是，當(dāng)我?guī)椭幚硪恍╅L(zhǎng)遠(yuǎn)的任務(wù)，把它們拆解成多個(gè)步驟，然后執(zhí)行其中幾個(gè)，或許是上網(wǎng)搜索資料，或是編程之類的活兒。這個(gè)過(guò)程要是能成功，雖然并不常見(jiàn)，但確實(shí)感覺(jué)挺神奇的。

Lex Fridman

與人不斷地來(lái)回交流，對(duì)我來(lái)說(shuō)非常有幫助。你指的是什么-

Sam Altman

經(jīng)過(guò)不斷的反復(fù)與人類溝通，當(dāng)它能夠獨(dú)立完成一個(gè)包含10個(gè)步驟的問(wèn)題時(shí)，這樣的互動(dòng)就會(huì)變得更加密集。

Lex Fridman

哦。

Sam Altman

這通常不太常見(jiàn)，偶爾會(huì)有。

Lex Fridman

增加多層次的抽象，還是你的意思只是依次進(jìn)行的？

Sam Altman

兩者都很重要，既要把問(wèn)題分解，也要在不同的抽象層面上進(jìn)行思考，然后將這些思考重新組合起來(lái)。你看，我并不是想小看GPT-4所取得的成就，但同時(shí)我也不想過(guò)分夸大其重要性。我認(rèn)為，我們正處于一個(gè)指數(shù)增長(zhǎng)的曲線上，不久之后，我們會(huì)像現(xiàn)在回望GPT-3一樣去回顧GPT-4。

Lex Fridman

這么說(shuō)吧，我是說(shuō)ChatGPT成了一個(gè)轉(zhuǎn)折點(diǎn)，外界開(kāi)始逐漸相信OpenAI內(nèi)部已經(jīng)有了一種信念的高漲。

Sam Altman

當(dāng)然可以。

Lex Fridman

或許這兒有些信徒，但是當(dāng)你想起——

Sam Altman

在這方面，我真的覺(jué)得這將是一個(gè)轉(zhuǎn)折點(diǎn)，讓全世界許多人從懷疑變成了信服。這更多的是和ChatGPT的界面有關(guān)。說(shuō)到界面和產(chǎn)品，我的意思還包括了模型的后續(xù)訓(xùn)練過(guò)程，以及我們?nèi)绾握{(diào)優(yōu)使它對(duì)你更有幫助，以及怎樣使用它，而不只是底層模型本身。

Lex Fridman

這些因素中每一個(gè)到底有多重要呢？無(wú)論是底層模型還是RLHF，又或者是其他的什么機(jī)制，它們都在調(diào)優(yōu)過(guò)程中起著關(guān)鍵作用，讓這個(gè)系統(tǒng)對(duì)于人類來(lái)說(shuō)更具吸引力，使用起來(lái)更高效、更富有成效。

Sam Altman

我是說(shuō)，它們都極為重要。但是RLHF，也就是訓(xùn)練后的那個(gè)步驟，我們?cè)诨A(chǔ)模型之上進(jìn)行的那些額外工作——盡管這背后需要巨大的工作量——卻是至關(guān)重要的，更不用提我們圍繞它打造的產(chǎn)品了。在某種意義上來(lái)說(shuō)，我們的確需要同時(shí)做好兩件事情：一是發(fā)明底層技術(shù)，二是搞清楚如何把它轉(zhuǎn)化成人們愛(ài)不釋手的產(chǎn)品。這不僅僅關(guān)乎產(chǎn)品本身的實(shí)際工作，還涉及到一個(gè)完全不同的階段——怎樣讓產(chǎn)品與用戶的需求保持一致，并真正發(fā)揮出它的用途。

Lex Fridman

你是如何做到讓眾多用戶能夠同時(shí)使用這項(xiàng)技術(shù)的規(guī)?；?yīng)。所有這些方面，都得仔細(xì)斟酌。

Sam Altman

這個(gè)嘛，但那確實(shí)是個(gè)大家都知道的難題。我們明白我們必須要擴(kuò)大它的規(guī)模。我們得完成兩項(xiàng)前所未有的任務(wù)，我得說(shuō)這兩個(gè)任務(wù)都是非常了不起的成就，之后還有很多像規(guī)模擴(kuò)大這樣其他公司之前也經(jīng)歷過(guò)的挑戰(zhàn)。

Lex Fridman

在GPT-4和GPT-4 Turbo之間，將上下文窗口從8K令牌增加到128K令牌，會(huì)有什么樣的區(qū)別呢？

Sam Altman

大部分情況下，人們并不總是需要128這么長(zhǎng)的上下文。雖然若我們將目光投向遙遠(yuǎn)的未來(lái)，我們可能會(huì)有幾十億的上下文長(zhǎng)度。你可以輸入你所有的信息，你的整個(gè)歷史記錄，它將逐漸更深入地了解你，那會(huì)非常棒。但是就目前的情況來(lái)看，人們使用這些模型的方式并不是這樣的。有時(shí)候，人們可能會(huì)在一篇論文中貼上大量的代碼庫(kù)，不過(guò)，大多數(shù)時(shí)候模型的使用并不涉及長(zhǎng)時(shí)間的上下文。

Lex Fridman

我喜歡這種感覺(jué)，就像是你的“我有一個(gè)夢(mèng)想”演說(shuō)。有朝一日，你會(huì)被依據(jù)你性格的全貌或是你一生的總體來(lái)評(píng)價(jià)。這很有意思。那么，你所期望的擴(kuò)展的一部分，就是一個(gè)越來(lái)越全面的背景環(huán)境了。

Sam Altman

我記得看過(guò)一段網(wǎng)絡(luò)視頻，數(shù)字可能記錯(cuò)了，但是內(nèi)容大致是比爾·蓋茨在談?wù)撘豢钤缙陔娔X的內(nèi)存容量，可能是64K，也許是640K之類的。那時(shí)候，大多數(shù)內(nèi)存都被用作屏幕的緩沖區(qū)。他當(dāng)時(shí)似乎無(wú)法真正理解，為什么未來(lái)的世界會(huì)需要計(jì)算機(jī)有幾個(gè)GB甚至TB的內(nèi)存。不過(guò)實(shí)際上，你總是要跟上技術(shù)發(fā)展的指數(shù)級(jí)曲線，我們總會(huì)找出利用更先進(jìn)技術(shù)的方法。所以，我現(xiàn)在真的很難想象，未來(lái)有一天，上下文鏈接擴(kuò)散到十億設(shè)備的情景會(huì)是怎樣的。它們可能不會(huì)真的達(dá)到那個(gè)數(shù)字，但在效果上可能會(huì)有那種感覺(jué)。不過(guò)我知道，一旦我們擁有了這種技術(shù)，就絕不會(huì)想要回到?jīng)]有它的日子。

Lex Fridman

是的，即便是現(xiàn)在說(shuō)十年后可能是數(shù)十億的規(guī)模，也可能顯得很愚蠢，因?yàn)榈侥菚r(shí)它可能已經(jīng)達(dá)到了數(shù)以萬(wàn)億計(jì)的規(guī)模。

Sam Altman

當(dāng)然

Lex Fridman

將會(huì)出現(xiàn)一些使人感覺(jué)像是擁有無(wú)限上下文的突破性進(jìn)展。不過(guò)即便是120字符，老實(shí)講，我也沒(méi)嘗試過(guò)把它推到那個(gè)極限。可能的用例包括輸入整本書(shū)或書(shū)的某些部分，比如論文之類的。你見(jiàn)過(guò)GPT-4有哪些有趣的應(yīng)用場(chǎng)景嗎？

Sam Altman

我最感興趣的不是任何我們可以討論的具體應(yīng)用案例，而是那些將其作為任何知識(shí)工作任務(wù)的默認(rèn)起點(diǎn)的人，特別是年輕人。令人矚目的是它在很多方面都能做得相當(dāng)不錯(cuò)。你可以使用GPT-V來(lái)幫助你編寫(xiě)代碼，進(jìn)行搜索，或者編輯論文。對(duì)我來(lái)說(shuō)，最有意思的是那些直接以此為他們工作流程開(kāi)端的人。

Lex Fridman

我對(duì)很多事情也有同樣的興趣。我用它作為讀書(shū)的伙伴，它幫助我思考，尤其是當(dāng)我閱讀那些經(jīng)典名著的時(shí)候。這方面，它寫(xiě)得真的很出色。我發(fā)現(xiàn)它在討論那些資料豐富的話題時(shí)通常比維基百科還要好。它某種程度上更加均衡、更具細(xì)節(jié)?；蛟S這只是我的個(gè)人感受，但它激發(fā)我進(jìn)行比閱讀維基百科條目更深層次的思考。我不完全確定為什么會(huì)這樣。

你剛才提到了這種協(xié)作。我不確定魔法究竟在哪里——是在這兒、在那兒，還是在中間某處。這一點(diǎn)我還真不敢確定。但有個(gè)問(wèn)題一直讓我擔(dān)心，那就是當(dāng)我開(kāi)始用GPT處理知識(shí)性任務(wù)時(shí)，我通常得事后去核實(shí)事實(shí)，比如檢查它有沒(méi)有編造一些假消息。你是怎么發(fā)現(xiàn)GPT能編出那些聽(tīng)起來(lái)特別有說(shuō)服力的假信息的呢？你又是如何確保它所提供的信息是真實(shí)的？

Sam Altman

這顯然是我們極其關(guān)注的一個(gè)領(lǐng)域。我覺(jué)得隨著即將推出的新版本，情況會(huì)有很大的改善，但我們?nèi)孕璩掷m(xù)努力，今年是不可能完全解決所有問(wèn)題的。

Lex Fridman

確實(shí)可怕，因?yàn)殡S著技術(shù)越來(lái)越好，我們?cè)桨l(fā)不去做事實(shí)核對(duì)了，對(duì)吧？

Sam Altman

我在這個(gè)問(wèn)題上有點(diǎn)矛盾。我覺(jué)得人們使用技術(shù)的能力，其實(shí)比我們通常認(rèn)為的要高明多了。

人們似乎已經(jīng)真正理解了GPT，還有這些模型有時(shí)候會(huì)出現(xiàn)錯(cuò)誤信息。如果是關(guān)乎重大任務(wù)的事情，你就必須得核實(shí)一下。

Lex Fridman

除此之外，記者們好像并沒(méi)有意識(shí)到這點(diǎn)。我看到有些記者只是敷衍了事地用GPT-4。這個(gè)-

Sam Altman

我有好長(zhǎng)一串想要吐槽記者的事，但這個(gè)問(wèn)題并不排在我的批評(píng)名單之首。

Lex Fridman

嗯，我認(rèn)為更大的批評(píng)可能是記者所面臨的壓力和激勵(lì)機(jī)制，這使得他們不得不工作得非常迅速，而采用這種方法無(wú)疑是捷徑。我真心希望我們的社會(huì)能夠鼓勵(lì)像……

Sam Altman

我也是。

Lex Fridman

……像是那些需要數(shù)天乃至數(shù)周辛勤努力才能產(chǎn)出的深度新聞報(bào)道。還有，有些報(bào)道以一種平衡的方式來(lái)呈現(xiàn)新聞，它們?cè)谂u(píng)的同時(shí)也能夠贊揚(yáng)他人，雖然通常都是那些批評(píng)性質(zhì)的內(nèi)容吸引點(diǎn)擊。而捏造事實(shí)、標(biāo)題黨也能輕易地獲得點(diǎn)擊量。我敢肯定，一定有不少人諷刺地說(shuō)：“嗯，所有那些充滿戲劇性的東西肯定帶來(lái)了大量點(diǎn)擊。”

Sam Altman

可能吧。

Part 6：記憶與隱私

Lex Fridman

這是關(guān)于人類文明的一個(gè)宏觀問(wèn)題，我非常想要探討一下。這正是我們應(yīng)該更多地去慶祝的領(lǐng)域。你給ChatGPT賦予了擁有記憶的能力，你一直在嘗試處理它與過(guò)往對(duì)話的記憶問(wèn)題。同時(shí)，你還讓它能夠關(guān)閉記憶功能。有時(shí)候我真希望我也能做到這一點(diǎn)——根據(jù)需要打開(kāi)或關(guān)閉記憶。我猜有時(shí)酒精似乎能起到這個(gè)效果，不過(guò)我覺(jué)得它并不是最理想的方法。你在這方面有什么發(fā)現(xiàn)嗎？比如嘗試記住對(duì)話或者選擇不記住這種想法的時(shí)候。

Sam Altman

我們目前在這個(gè)領(lǐng)域的探索還只是剛剛開(kāi)始，但我覺(jué)得人們想要的，至少我個(gè)人想要的，是一個(gè)能夠逐漸認(rèn)識(shí)我并且隨著時(shí)間的推移越來(lái)越有幫助的模型。這還僅僅是個(gè)起點(diǎn)。我認(rèn)為我們還有很多其他的事情需要去做，但這正是我們想要追求的目標(biāo)。你會(huì)期望使用一個(gè)模型，在你的一生中或是在你使用一個(gè)系統(tǒng)的過(guò)程中，它可能包含了多個(gè)模型，它們會(huì)隨著時(shí)間的積累變得越來(lái)越優(yōu)秀。

Lex Fridman

是啊，解決這個(gè)問(wèn)題有多困難？因?yàn)槟壳盀橹顾嗟氖怯涀∫恍┈嵥榈男≈R(shí)點(diǎn)和個(gè)人喜好等等。但是關(guān)于記憶這塊怎么樣呢？你難道不希望GPT能記得你在十一月里經(jīng)歷的所有麻煩和所有的那些波折，然后你就可以——

Sam Altman

嗯，對(duì)，對(duì)。

Lex Fridman

因?yàn)楝F(xiàn)在你顯然有些在回避它。

Sam Altman

我不僅僅希望它記得這些東西，我還想要它能整合這些經(jīng)驗(yàn)教訓(xùn)，并且在將來(lái)提醒我應(yīng)該如何不同地行動(dòng)，或者有什么需要留意的地方。我們每個(gè)人的一生中，都在不同程度上從經(jīng)驗(yàn)中受益，我希望我的AI代理也能跟隨這樣的經(jīng)驗(yàn)成長(zhǎng)。想象一下，如果我們回溯并且假設(shè)有數(shù)萬(wàn)億的上下文長(zhǎng)度可供利用，如果我能把我這一生中與任何人的每一次對(duì)話都放進(jìn)去，把所有的郵件往來(lái)都輸入輸出進(jìn)上下文窗口，每當(dāng)我提出問(wèn)題時(shí)都能調(diào)用這些信息，那將是非?？岬囊患?。

Lex Fridman

是的，我覺(jué)得那會(huì)非?？?。不過(guò)有時(shí)候，當(dāng)人們聽(tīng)說(shuō)這個(gè)想法時(shí)，會(huì)對(duì)隱私感到擔(dān)憂。你怎么看待這個(gè)問(wèn)題？隨著AI變得更加強(qiáng)大，它確實(shí)需要整合你所有的經(jīng)歷和數(shù)據(jù)才能給出建議。

Sam Altman

我覺(jué)得答案很簡(jiǎn)單，就是給用戶選擇的權(quán)力。任何我想從我的AI代理那里刪除的記錄，我都希望能夠自由刪掉。如果我不想記得什么事情，我也應(yīng)該可以選擇忘記。在我們自己的AI的隱私與效用之間的權(quán)衡問(wèn)題上，你和我可能有各自不同的見(jiàn)解。

Sam Altman

…對(duì)于OpenAI在隱私與實(shí)用性之間如何權(quán)衡，大家有不同的意見(jiàn)，這是很正常的。但我覺(jué)得解決方法很直接，就是讓用戶來(lái)做選擇。

Lex Fridman

但公司應(yīng)該對(duì)用戶的選擇有較高程度的透明度。因?yàn)橐酝行┕驹谑占脩魯?shù)據(jù)時(shí)態(tài)度含糊其辭，好像默許自己可以搜集所有數(shù)據(jù)似的，他們會(huì)說(shuō)：“嗯，我們收集你的所有數(shù)據(jù)是理所當(dāng)然的。我們用這些數(shù)據(jù)來(lái)做廣告等，都是出于好意。”但他們對(duì)這些細(xì)節(jié)并不透明。

Sam Altman

這絕對(duì)沒(méi)錯(cuò)。你剛才提到，我在刻意回避那些11月發(fā)生的事。

Lex Fridman

只是逗你玩。

Sam Altman

嗯，我的意思是，我經(jīng)歷了一件極其創(chuàng)傷的事，這件事確實(shí)使我長(zhǎng)時(shí)間無(wú)法動(dòng)彈。在那段艱難的時(shí)光里，最難的工作就是要堅(jiān)持不懈地繼續(xù)下去，因?yàn)槲冶仨氃谔幱谡痼@和疼痛中的時(shí)候回到這里，努力把事情的碎片一點(diǎn)點(diǎn)拼湊起來(lái)，而那時(shí)候似乎沒(méi)有人真正關(guān)心。

我的團(tuán)隊(duì)確實(shí)給了我一些寬容，我也沒(méi)有發(fā)揮出我平時(shí)的工作水平。但確實(shí)有那么一段時(shí)間，要同時(shí)處理這兩件事真的很困難。不過(guò)，有一天早上我醒來(lái)，想到：“這確實(shí)是我遭遇的一件恐怖的事情。我可以選擇永遠(yuǎn)把自己視為受害者，或者我可以告訴自己這是我一生中觸及的最重要的工作，我必須回過(guò)神來(lái)繼續(xù)它。”這并不意味著我在壓抑自己的感受，因?yàn)橛袝r(shí)候我會(huì)在半夜醒來(lái)，腦海里依舊會(huì)回想起那些事情，但我確實(shí)感到我有義務(wù)要持續(xù)向前走。

Lex Fridman

這么說(shuō)真是妙不可言，不過(guò)可能還有些隱性的問(wèn)題存在。我比較擔(dān)心的是你提到的那種信任問(wèn)題，擔(dān)心人們變得過(guò)于多疑，而不是天真地信任每一個(gè)人或者大部分人，憑借直覺(jué)去判斷。這確實(shí)是一場(chǎng)復(fù)雜微妙的平衡之舞。

Sam Altman

當(dāng)然可以。

Lex Fridman

我的意思是，我在兼職時(shí)做了一些深入探究，特別是研究了澤連斯基政府和普京政府，以及他們?cè)趹?zhàn)時(shí)高壓環(huán)境下的種種互動(dòng)。結(jié)果就是彼此之間產(chǎn)生了不信任，大家都開(kāi)始孤立自己，對(duì)世界的看法也變得不清晰了。這是所有人都會(huì)關(guān)心的問(wèn)題。你看上去似乎游刃有余，從中吸取了寶貴的教訓(xùn)，感受到愛(ài)，并讓這份愛(ài)激勵(lì)著你，這很了不起，不過(guò)這種感覺(jué)可能還會(huì)殘留心間。我有一些問(wèn)題想問(wèn)問(wèn)你，關(guān)于你直覺(jué)上認(rèn)為GPT能做什么、不能做什么。GPT在生成每個(gè)token時(shí)，似乎會(huì)分配大約相同的計(jì)算資源。那么，在這種方式中，是否有空間給予更緩慢、更連貫的思考呢？

Sam Altman

我覺(jué)得會(huì)有一種新的思考模式出現(xiàn)。

Lex Fridman

它在架構(gòu)上會(huì)和我們目前看到的LLMs相似嗎？它是不是在LLMs基礎(chǔ)上增加的一層？

Sam Altman

我能想象出不少實(shí)施這個(gè)想法的方法。不過(guò)，我認(rèn)為那并不像你想要探討的問(wèn)題那么重要。你的問(wèn)題是，我們是否需要一種較慢的思考模式，這種模式下，答案不需要那么迅速地得出……可以這么說(shuō)，從一種精神層面上講，你希望一個(gè)人工智能能夠在面對(duì)更復(fù)雜的問(wèn)題時(shí)投入更多思考，而在遇到簡(jiǎn)單問(wèn)題時(shí)則能夠更快地給出答案。我覺(jué)得這點(diǎn)很關(guān)鍵。

Lex Fridman

這是不是人類的一個(gè)常有的想法，我們就應(yīng)該去努力思考？這種直覺(jué)是不是有誤呢？

Sam Altman

我覺(jué)得這個(gè)直覺(jué)挺有道理的。

Lex Fridman

有趣。那么，一旦GPT升級(jí)到比如GPT-7這樣的級(jí)別，它就能瞬間找出“費(fèi)馬定理的證明”了是嗎？

Sam Altman

你好像是想能為那些更難的問(wèn)題分配更多的計(jì)算能力。我想，如果你問(wèn)這樣一個(gè)系統(tǒng)，“證明一下費(fèi)馬大定理”，和問(wèn)“今天是什么日期？”相比，除非它已經(jīng)知道并且記住了證明的答案，要不然它得自己去琢磨出來(lái)，這看起來(lái)肯定是需要更多計(jì)算資源的。

Lex Fridman

但它能不能看起來(lái)基本上就像一個(gè)LLM在自言自語(yǔ)，是那種感覺(jué)？

Sam Altman

或許吧。我的意思是，你能想象出很多可能有效的事情。但關(guān)于怎么做才是最合適或者最好的方式，我們目前還不清楚。

Part 7：Q*

Lex Fridman

這讓我想起了Q*背后那些充滿神秘色彩的傳說(shuō)。這個(gè)神秘兮兮的Q*項(xiàng)目究竟是什么呢？它也在同一座核設(shè)施里面嗎？

Sam Altman

沒(méi)有核能設(shè)施。

Lex Fridman

嗯，擁有核設(shè)施的人總是這么說(shuō)。

Sam Altman

我特別希望擁有一個(gè)秘密設(shè)施，可惜并沒(méi)有這么一回事。

Lex Fridman

好的，沒(méi)問(wèn)題。

Sam Altman

也許吧，總有一天。

Lex Fridman

有一天吧？好吧。人總得有點(diǎn)兒夢(mèng)想，不是嗎？

Sam Altman

OpenAI并不擅長(zhǎng)保守秘密。如果我們能夠做到的話，那就太好了。我們一直受到很多泄密事件的困擾，真希望我們能有這樣的本事。

Lex Fridman

能談?wù)凲*是什么嗎？

Sam Altman

我們還沒(méi)準(zhǔn)備好討論那個(gè)話題。

Lex Fridman

看，但這樣的回答意味著我們有東西可以聊了。這很神秘，Sam。

Sam Altman

我是說(shuō)，我們涉獵的研究領(lǐng)域五花八門。我們之前已經(jīng)提過(guò)，我們認(rèn)為增強(qiáng)這些系統(tǒng)的推理能力是一個(gè)重要的發(fā)展方向，是我們很想深入探索的。到目前為止我們還沒(méi)徹底攻克這個(gè)難題，但我們對(duì)此充滿了極大的興趣。

Lex Fridman

會(huì)有類似ChatGPT那樣的飛躍性突破，或者其他類似的重大進(jìn)展嗎？

Sam Altman

這個(gè)問(wèn)題問(wèn)得好。我怎么看這個(gè)問(wèn)題呢？挺有意思的。對(duì)我來(lái)說(shuō)，這整個(gè)過(guò)程看起來(lái)都是相當(dāng)連貫的。

Lex Fridman

沒(méi)錯(cuò)。你所談到的，似乎是一個(gè)主題，那就是你們基本上是在沿著一個(gè)指數(shù)曲線逐步攀升。但從旁觀者，也就是我這個(gè)角度來(lái)看，好像確實(shí)能感覺(jué)到有些跳躍性的進(jìn)展。不過(guò)在你眼里，這些并不存在嗎？

Sam Altman

我真的在思考，我們是否該……一個(gè)重要的原因是，我們采用所謂的迭代部署方式，而不是秘密開(kāi)發(fā)到GPT-5，我們決定公開(kāi)談?wù)揋PT-1、2、3和4。部分原因在于我覺(jué)得人工智能與意外這兩者不應(yīng)該搭界。而且，無(wú)論是世界、人類、機(jī)構(gòu)，或者你愿意怎么稱呼它們，它們都需要時(shí)間去適應(yīng)和反思這些問(wèn)題。

我認(rèn)為OpenAI最明智的舉措之一就是采取了這樣的策略，我們讓全世界都關(guān)注這一進(jìn)程，正視AGI的重要性，考慮在我們陷入緊迫境地、不得不匆忙作出決策之前，我們需要建立什么樣的系統(tǒng)、結(jié)構(gòu)和治理模式。

我覺(jué)得這樣做非常棒。但是，像你和其他人還能感受到這些巨大飛躍的事實(shí)，讓我想，或許我們應(yīng)該更加漸進(jìn)地發(fā)布我們的產(chǎn)品。我現(xiàn)在還不確定這究竟意味著什么，也沒(méi)有現(xiàn)成的答案，但我們的目標(biāo)絕不是給世界帶來(lái)令人震驚的更新，恰恰相反。

Lex Fridman

當(dāng)然，能夠做得更迭代會(huì)非常棒。我覺(jué)得這樣對(duì)每個(gè)人都是一件美好的事。

Sam Altman

但這正是我們所致力于的目標(biāo)，也是我們公開(kāi)宣布的策略。我覺(jué)得我們?cè)谀撤N程度上沒(méi)能達(dá)標(biāo)。也許我們應(yīng)該考慮換個(gè)方式來(lái)發(fā)布GPT-5或類似的產(chǎn)品。

Lex Fridman

比如用版本號(hào)4.71、4.72？人們通常都喜歡慶祝特別的日子，比如生日。我不確定你對(duì)人類了解多少，但他們會(huì)慶祝這些重要的時(shí)刻和里程碑。

Sam Altman

我確實(shí)認(rèn)識(shí)一些人類。人們確實(shí)對(duì)里程碑情有獨(dú)鐘。這點(diǎn)我完全能理解。我認(rèn)為我們自己其實(shí)也挺喜歡里程碑的。能夠宣布某件事情取得了勝利，然后邁向下一個(gè)目標(biāo)，這感覺(jué)真的很棒。但確實(shí)，我感覺(jué)我們?cè)谀承┓矫婵赡芾斫忮e(cuò)了。

Part 8：GPT-5

Lex Fridman

GPT-5什么時(shí)候會(huì)推出呢？

Sam Altman

我不知道，說(shuō)實(shí)話。

Lex Fridman

哦，這回答挺實(shí)誠(chéng)的。如果是今年的話，眨兩下眼。

Sam Altman

我們今年會(huì)推出一個(gè)非常棒的新模型。我還不確定我們最后會(huì)叫它什么名字。

Lex Fridman

這就引出了一個(gè)問(wèn)題：我們?cè)撛鯓影l(fā)布這個(gè)東西呢？

Sam Altman

在接下來(lái)的幾個(gè)月里，我們將推出許多不同的東西。我覺(jué)得這會(huì)非?？?。在我們開(kāi)始談?wù)撓馟PT-5這樣的模型——不管它最終叫不叫這個(gè)名字，或者是比你所期待的GPT-5略遜一籌還是略勝一籌之前，我認(rèn)為我們有一系列其他重要的產(chǎn)品需要優(yōu)先發(fā)布。

Lex Fridman

我真不知道對(duì)GPT-5應(yīng)該有什么樣的期待。你這么一說(shuō)，我感到又緊張又興奮。不管它最后被叫做什么，咱們就暫且稱它為GPT-5吧，它需要克服哪些最大的挑戰(zhàn)和障礙呢？我覺(jué)得這個(gè)問(wèn)題很有意思。是關(guān)于計(jì)算能力的問(wèn)題嗎？還是技術(shù)層面的呢？

Sam Altman

這總是涉及到所有這些因素。你知道，關(guān)鍵的突破因素是什么？是更大的計(jì)算機(jī)嗎？是一個(gè)新的秘訣嗎？還是別的什么東西？其實(shí)這些要素都是相互關(guān)聯(lián)的。我認(rèn)為OpenAI做得特別出色的一點(diǎn)是……這實(shí)際上是伊利亞最初的話，我可能會(huì)說(shuō)得不是很準(zhǔn)確，但意思大概是，“我們把200個(gè)中等規(guī)模的因素相互結(jié)合，創(chuàng)造出了一件巨大的作品。”

Lex Fridman

那么這就是一種分布式的、持續(xù)不斷的創(chuàng)新過(guò)程？

Sam Altman

嗯，對(duì)。

Lex Fridman

所以連在技術(shù)層面上也是這樣？

Sam Altman

尤其是在技術(shù)層面上。

Lex Fridman

那么連具體的做法也包括在內(nèi)嗎？

Sam Altman

嗯，對(duì)。

Lex Fridman

你是如何深入到每一個(gè)細(xì)節(jié)的……在涉及不同、各自獨(dú)立的團(tuán)隊(duì)時(shí)，這種工作方式如何運(yùn)作？中等大小的項(xiàng)目怎樣才能匯聚成一個(gè)龐大的整體，就像變形金剛一樣？

Sam Altman

有些人得去思考怎樣把所有事情綜合起來(lái)，但也有很多人盡量試著把大局都記在腦子里。

Lex Fridman

哦，也就是說(shuō)，個(gè)別團(tuán)隊(duì)中的成員會(huì)盡力維護(hù)對(duì)整體大局的關(guān)注？

Sam Altman

在高層面上，是這樣的。當(dāng)然你無(wú)法精確知曉每個(gè)部分是如何工作的，但我普遍認(rèn)為，有時(shí)候拉遠(yuǎn)鏡頭、審視全局是非常有幫助的。這一點(diǎn)不僅適用于技術(shù)問(wèn)題，對(duì)于商業(yè)創(chuàng)新同樣有效。有時(shí)事情會(huì)以意想不到的方式匯聚在一起，而對(duì)整個(gè)畫(huà)面的理解，即便你大多數(shù)時(shí)間都在某一領(lǐng)域里鉆研，最終也能帶來(lái)出人意料的洞見(jiàn)。

實(shí)際上，我過(guò)去有一個(gè)非常寶貴的東西，那就是對(duì)科技行業(yè)所有或大多數(shù)前沿領(lǐng)域都有一個(gè)清晰的地圖。有時(shí)候，我能看到這些連接或新的可能性，如果我只是深耕于某一領(lǐng)域，我可能就不會(huì)有這樣的想法，因?yàn)槲胰鄙偃娴臄?shù)據(jù)。而現(xiàn)在我已經(jīng)不太擁有那樣的視角了，我現(xiàn)在深入某一個(gè)特定領(lǐng)域。但我知道，擁有全局視角是非常寶貴的。

Lex Fridman

你已經(jīng)不是以前的那個(gè)Sam了。

Sam Altman

現(xiàn)在的工作跟我以前的可大不一樣了。

Part 9：7萬(wàn)億美元的算力

Lex Fridman

談到從宏觀角度看問(wèn)題，咱們?cè)贁U(kuò)大點(diǎn)范圍，聊聊你說(shuō)過(guò)的另一件既俏皮又可能頗有深意的事兒。你發(fā)推特說(shuō)咱們需要7萬(wàn)億美元。

Sam Altman

我沒(méi)有在推特上發(fā)過(guò)那種內(nèi)容。我從來(lái)沒(méi)說(shuō)過(guò)諸如“我們要募集7萬(wàn)億美元”之類的話。

Lex Fridman

哦，那是另一個(gè)人？

Sam Altman

嗯，對(duì)。

Lex Fridman

哦，但你說(shuō)過(guò)，“管他的，或許是8萬(wàn)億”，是這樣嗎？

Sam Altman

好的，我就想說(shuō)一下，世界上確實(shí)存在著很多錯(cuò)誤信息。

Lex Fridman

哦，你這是在開(kāi)玩笑呢。不過(guò)說(shuō)真的，雖然是誤傳，里面可能還是有點(diǎn)道理的。

Sam Altman

看，我認(rèn)為計(jì)算能力將會(huì)成為未來(lái)的'貨幣'。我相信它可能會(huì)變成世界上最寶貴的資源，并且我認(rèn)為我們應(yīng)該大規(guī)模地投資以生產(chǎn)更多的計(jì)算能力。算力我覺(jué)得它會(huì)是一個(gè)獨(dú)特的市場(chǎng)。人們通?？紤]的是手機(jī)芯片這樣的市場(chǎng)。你可以想象，全球有80億人口，可能有70億人擁有手機(jī)，或許是60億，我們就這么假設(shè)吧。他們每?jī)赡険Q一次手機(jī)，所以每年的市場(chǎng)需求就是30億套手機(jī)系統(tǒng)芯片。但如果你生產(chǎn)了300億套，你也不可能賣出去10倍的手機(jī)數(shù)量，因?yàn)榇蠖鄶?shù)人只會(huì)用一部手機(jī)。”

但計(jì)算的情況有所不同，智能可能會(huì)更像能源那樣，我們唯一需要討論的是，在價(jià)格X的條件下，全世界會(huì)用掉多少計(jì)算資源，在價(jià)格Y的條件下又會(huì)用掉多少。因?yàn)槿绻?jì)算資源真的很便宜，我可能就會(huì)讓它全天候地幫我閱讀電子郵件，給我提建議，關(guān)于我可能需要思考或處理的事情，甚至是嘗試治療癌癥。但如果計(jì)算資源非常昂貴，那么我可能只會(huì)在嘗試治療癌癥時(shí)才使用它，或者我們大家都僅在這種情況下使用它。

因此，我認(rèn)為世界將需要巨量的計(jì)算能力。而在這個(gè)過(guò)程中，有許多難點(diǎn)。能源問(wèn)題是最為棘手的，建造數(shù)據(jù)中心同樣充滿挑戰(zhàn)，供應(yīng)鏈問(wèn)題也不容忽視，當(dāng)然了，制造足夠的芯片也是一個(gè)硬骨頭。但看起來(lái)，這正是事情發(fā)展的方向。我們將會(huì)渴求一種計(jì)算能力，目前來(lái)說(shuō)，這種規(guī)模是難以想象的。

Lex Fridman

你是怎樣解決能源難題的？核能？

Sam Altman

這就是我相信的。

Lex Fridman

…聚變？

Sam Altman

這就是我相信的。

Lex Fridman

核聚變嗎？

Sam Altman

嗯，對(duì)。

Lex Fridman

誰(shuí)能解決這個(gè)問(wèn)題？

Sam Altman

我覺(jué)得Helion在這方面做得最棒，但我對(duì)當(dāng)前的核聚變競(jìng)賽感到挺興奮的。核裂變同樣令人贊嘆，我希望全球能夠再次擁抱它。核裂變的歷史進(jìn)程對(duì)我來(lái)說(shuō)真的很令人感到遺憾，我希望我們能以更有意義的方式，重新投身其中。

Lex Fridman

所以你認(rèn)為，核裂變是拼湊這個(gè)謎題的一部分嗎？比如說(shuō)，就像我們現(xiàn)在已經(jīng)在使用的那些核反應(yīng)堆？還有很多人都因?yàn)橄袂袪栔Z貝利那樣的事故而感到非常害怕，對(duì)嗎？

Sam Altman

嗯，我認(rèn)為我們應(yīng)該建造新的反應(yīng)堆。我真的覺(jué)得那個(gè)行業(yè)陷入停頓真是太可惜了。

Lex Fridman

你是認(rèn)為“群體性歇斯底里”能解釋這種停滯現(xiàn)象嗎？

Sam Altman

嗯，對(duì)。

Lex Fridman

我不確定你對(duì)人類有多了解，但這正是其中一個(gè)風(fēng)險(xiǎn)。核裂變面臨的安全威脅之一就是人類對(duì)此的深度恐懼。我們必須把這一點(diǎn)考慮進(jìn)去，這就意味著我們得說(shuō)服人們，向他們展示其實(shí)它有多安全。

Sam Altman

我對(duì)人工智能的前景有些擔(dān)心。我覺(jué)得在人工智能的發(fā)展過(guò)程中，某些方面可能會(huì)戲劇性地出錯(cuò)。雖然我不確定我最終被槍擊的概率有多大，但肯定不是零。

Lex Fridman

哦，我們想要防止這種情況——

Sam Altman

也可能是吧。

Lex Fridman

你怎樣才能減少其中的戲劇化成分？我已經(jīng)開(kāi)始感受到一些波動(dòng)，因?yàn)槲掖_實(shí)與各個(gè)政治派別的人都有交流，感覺(jué)到人工智能將變得政治化的跡象。這真的讓我擔(dān)憂，因?yàn)榈綍r(shí)可能會(huì)演變成右翼反對(duì)人工智能，左翼支持人工智能，因?yàn)槿斯ぶ悄苣軌蛟旄Ｈ嗣?，或者不管是哪種說(shuō)辭和設(shè)定。這一點(diǎn)真的令人擔(dān)心。到頭來(lái)，人工智能的戲劇化效果可能會(huì)被充分放大。你打算如何應(yīng)對(duì)這種情況？

Sam Altman

我覺(jué)得它最終會(huì)被左右兩派的對(duì)立卷入紛爭(zhēng)中。我無(wú)法確切知道最終會(huì)演變成什么樣，但不幸的是，任何具有重要性的事物似乎都會(huì)如此。至于我之前所說(shuō)的“戲劇性風(fēng)險(xiǎn)”，我的意思是雖然人工智能將帶來(lái)巨大的好處，我相信這些好處將遠(yuǎn)超過(guò)壞處，但它確實(shí)也會(huì)有一些壞處，其中有些壞處雖然嚴(yán)重，卻并不具戲劇性。比如，因空氣污染死亡的人遠(yuǎn)比核反應(yīng)堆造成的死亡人數(shù)要多。但大多數(shù)人更擔(dān)憂住在一個(gè)核反應(yīng)堆附近，而不是一個(gè)煤炭發(fā)電廠附近。這種心理機(jī)制很奇怪，盡管我們需要面臨許多不同種類的風(fēng)險(xiǎn)，但那些足以成為電影高潮戲份的風(fēng)險(xiǎn)，在我們心中占據(jù)的分量要遠(yuǎn)重于那些持續(xù)時(shí)間長(zhǎng)、但危害累積過(guò)程緩慢的風(fēng)險(xiǎn)。

Lex Fridman

這就是為什么真相至關(guān)重要。我希望人工智能能夠幫助我們認(rèn)清事物的本質(zhì)，達(dá)到一種平衡，弄清楚世界上事物實(shí)際的風(fēng)險(xiǎn)和危險(xiǎn)究竟是什么。在這個(gè)領(lǐng)域里，與谷歌、Meta、xAI以及其它公司競(jìng)爭(zhēng)，各有什么優(yōu)劣之處呢？

Sam Altman

我覺(jué)得我對(duì)這個(gè)問(wèn)題有個(gè)挺直截了當(dāng)?shù)幕卮?，也許以后我能想到更多微妙的地方，不過(guò)優(yōu)勢(shì)是顯而易見(jiàn)的，那就是我們能夠以更快更便宜的方式得到更優(yōu)質(zhì)的產(chǎn)品和更多的創(chuàng)新，還有所有競(jìng)爭(zhēng)帶來(lái)的好處。而缺點(diǎn)嘛，如果我們不留神的話，我擔(dān)心這可能會(huì)導(dǎo)致軍備競(jìng)賽式的激增。

Lex Fridman

你感受到那種軍備競(jìng)賽的壓力了嗎？就是那種帶有一些負(fù)面影響的壓力。

Sam Altman

當(dāng)然，在某些方面肯定是這樣的。我們討論了很多關(guān)于需要將安全放在首位的話題。長(zhǎng)久以來(lái)，我一直認(rèn)為可以將AGI開(kāi)始的時(shí)間分為四個(gè)象限：慢起步的短時(shí)間線、長(zhǎng)時(shí)間線，以及快起步的短時(shí)間線、快起步的長(zhǎng)時(shí)間線。我覺(jué)得短時(shí)間線搭配慢起步是最安全的組合，也是我最希望我們能處于的狀態(tài)。但我確實(shí)很希望能確保我們實(shí)現(xiàn)一個(gè)慢起步。

Lex Fridman

我對(duì)Elon有點(diǎn)疑慮：大家往往形成了各自為陣的孤島，而不是在安全問(wèn)題上齊心協(xié)力。人們傾向于走向封閉、獨(dú)立的方向?；蛟S，采取開(kāi)源模式會(huì)是個(gè)不錯(cuò)的選擇。

Sam Altman

Elon至少說(shuō)過(guò)，他非常關(guān)注AI安全問(wèn)題，而且確實(shí)對(duì)此很是擔(dān)心，我猜他應(yīng)該不會(huì)去做一些不安全的競(jìng)爭(zhēng)。

Lex Fridman

是的。但我認(rèn)為，在這方面的合作對(duì)大家都真的有好處。

Sam Altman

這并不是他最為人所知的事情。

Lex Fridman

嗯，他因?yàn)殛P(guān)心人類而出名，而人類是從合作中受益的。所以，在激勵(lì)和動(dòng)機(jī)上總會(huì)有一些張力。但到最后，我還是希望人類能夠占上風(fēng)。

Sam Altman

我前幾天想起來(lái)，有人跟我提到那天他成為世界首富，超過(guò)了杰夫·貝索斯，他還在推特上給貝索斯發(fā)了個(gè)銀牌的表情。我真心希望，當(dāng)人們開(kāi)始致力于研發(fā)AGI——通用人工智能時(shí)，我們能少一些這樣的鬧劇。

Lex Fridman

我同意。我覺(jué)得埃隆是個(gè)朋友，他是一個(gè)很棒的人，也是歷史上最重要的人物之一。那些言論可不怎么樣。

Sam Altman

埃隆身上有些特質(zhì)真的很了不起，我超級(jí)尊敬他。我覺(jué)得我們都需要他。我們每個(gè)人都應(yīng)該為他加油，希望他在下一階段能夠挺身而出，擔(dān)起領(lǐng)袖的責(zé)任。

Lex Fridman

是的。我希望他能擁有一樣，而不受另一樣的影響。但有時(shí)候，人類就是有缺陷、復(fù)雜多變，還有種種其他情況。

Sam Altman

歷史上涌現(xiàn)出了許多非常杰出的領(lǐng)導(dǎo)者。

Part 10：Google和Gemini

Lex Fridman

是的，我們每個(gè)人都可以變成自己最好的版本，并且應(yīng)當(dāng)努力去做到這一點(diǎn)。我想問(wèn)你，谷歌借助搜索功能，在過(guò)去的20年里已經(jīng)成為了一個(gè)領(lǐng)頭羊?？梢哉f(shuō)，在全球范圍內(nèi)獲取信息的方式、人們的互動(dòng)方式等方面，谷歌都扮演了重要角色。而對(duì)于谷歌和整個(gè)行業(yè)來(lái)說(shuō)，一個(gè)令人緊張的問(wèn)題就是：人們將如何獲取信息？就像你提到的，人們開(kāi)始把GPT當(dāng)作一個(gè)出發(fā)點(diǎn)。所以，OpenAI真的會(huì)去接管谷歌20年前啟動(dòng)的這個(gè)任務(wù)嗎，也就是我們應(yīng)該如何—

Sam Altman

我感覺(jué)那樣做太無(wú)趣了。我的意思是，如果問(wèn)題僅僅是我們能不能打造一個(gè)比谷歌更優(yōu)秀的搜索引擎，那當(dāng)然，大家都應(yīng)該去追求更高質(zhì)量的產(chǎn)品。但這樣的設(shè)想嚴(yán)重低估了這項(xiàng)技術(shù)的潛力。谷歌向你展示的是10個(gè)藍(lán)色鏈接，嗯，其實(shí)是13個(gè)廣告之后才是那10個(gè)藍(lán)色鏈接，這只是搜索信息的一種方式。不過(guò)，讓我真正感到興奮的，并不是我們能夠復(fù)刻一個(gè)更卓越的谷歌搜索，而是或許存在一種全新的、更好的方法，來(lái)協(xié)助人們尋找、利用并整合信息。事實(shí)上，對(duì)于某些場(chǎng)景而言，我認(rèn)為ChatGPT已經(jīng)做到了這一點(diǎn)，希望我們能夠?qū)⑵鋺?yīng)用到更多的場(chǎng)景中去。

但我認(rèn)為僅僅提出“我們?cè)鯓硬拍鼙裙雀韪玫貫槟闾峁┣?0個(gè)排名的網(wǎng)頁(yè)？”這個(gè)問(wèn)題其實(shí)并不太有意思。更有趣的問(wèn)題可能是，“我們?nèi)绾螏湍阏业侥阈枰拇鸢富蛐畔?？我們?cè)撊绾卧谀承﹫?chǎng)合下創(chuàng)造它，在其他場(chǎng)合下整合信息，或者在另一些場(chǎng)合中引導(dǎo)你找到它？”很多人嘗試去打造一個(gè)比谷歌更優(yōu)秀的搜索引擎，但這既是一個(gè)技術(shù)上的難題，也是品牌和生態(tài)系統(tǒng)方面的挑戰(zhàn)。我認(rèn)為世界并不需要一個(gè)谷歌的翻版。

Lex Fridman

將一個(gè)像ChatGPT這樣的聊天客戶端與搜索引擎整合起來(lái)——

Sam Altman

那樣更酷些。

Lex Fridman

這挺酷的，但也挺棘手。如果你僅僅簡(jiǎn)單粗暴地去做，那就會(huì)很別扭，因?yàn)槟闳糁皇怯踩M(jìn)去，會(huì)顯得很尷尬。

Sam Altman

你可能猜得到，我們很想知道怎樣才能做好這件事。那可真是一個(gè)很酷的例子。

Lex Fridman

將會(huì)是一個(gè)從未出現(xiàn)的東西。

Sam Altman

LLM結(jié)合搜索的領(lǐng)域，我覺(jué)得還沒(méi)人真正搞定它。我特別想去嘗試一下。我想那會(huì)非常有意思。

Lex Fridman

是的。那在廣告方面呢？你們有沒(méi)有考慮過(guò)如何實(shí)現(xiàn)變現(xiàn)—

Sam Altman

我實(shí)在是不太喜歡廣告，這完全是出于我的審美偏好。我理解互聯(lián)網(wǎng)之初為了發(fā)展不得不依賴廣告，但這不過(guò)是一個(gè)暫時(shí)的行業(yè)現(xiàn)象。如今的世界已經(jīng)變得更為富裕。我特別贊賞人們?cè)敢鉃镃hatGPT付費(fèi)，并且確信他們得到的答案不會(huì)受到廣告商的影響。我確信會(huì)有適合大型語(yǔ)言模型（LLMs）的廣告模式，也確信存在一種不帶偏見(jiàn)地參與交易流的方式，這是可以接受的。但同時(shí)，也很容易聯(lián)想到一種反烏托邦的未來(lái)場(chǎng)景：你向ChatGPT提問(wèn)，它或許會(huì)回答說(shuō)，“噢，你應(yīng)該考慮買這個(gè)產(chǎn)品”，或者“你應(yīng)該考慮去這個(gè)地方度假”，等等。

我不清楚，咱們的商業(yè)模式非常簡(jiǎn)單，我挺喜歡的，我也明白我不是被賣的產(chǎn)品。我知道自己是付費(fèi)用戶，商業(yè)模式就是這么運(yùn)作的。但每當(dāng)我使用Twitter、Facebook、Google這些支持廣告的好產(chǎn)品，我就不太舒服，我覺(jué)得在AI的世界里，這種情況會(huì)越來(lái)越糟，而不是越來(lái)越好。

Lex Fridman

是的，我的意思是，我可以想象AI能夠更精準(zhǔn)地推薦那些我們真正需要的商品和服務(wù)的廣告，而不是在某個(gè)反烏托邦的未來(lái)。但這是否意味著，廣告最終總是會(huì)左右展示內(nèi)容呢？對(duì)，我覺(jué)得維基百科決定不投放廣告是個(gè)非常勇敢的決定，但這也確實(shí)給它的商業(yè)模式帶來(lái)了極大的挑戰(zhàn)性。所以，你是在說(shuō)OpenAI現(xiàn)在的運(yùn)營(yíng)模式在商業(yè)上是可持續(xù)的嗎？

Sam Altman

嗯，我們得琢磨出如何發(fā)展壯大，不過(guò)看樣子我們能找到方法。如果問(wèn)題是我是否相信我們能夠創(chuàng)立一個(gè)不依賴廣告而滿足我們計(jì)算需求的優(yōu)秀企業(yè)，那么，我相信答案是可以的。

Lex Fridman

嗯，這挺有希望的。但我也不想徹底摒棄廣告這個(gè)概念……

Sam Altman

我不是那個(gè)意思。我的意思是我對(duì)他們有一些成見(jiàn)。

Lex Fridman

是的，我也存在一些偏見(jiàn)，而且總體上傾向于持懷疑態(tài)度。說(shuō)到界面，因?yàn)槲覀€(gè)人對(duì)糟糕的界面有種本能的反感，這就是AdSense剛一推出時(shí)，相較于那些動(dòng)態(tài)橫幅廣告，為什么會(huì)成為一個(gè)巨大的飛躍。但我覺(jué)得在廣告領(lǐng)域，應(yīng)該還有更多類似的飛躍。這樣的廣告不會(huì)干擾人們消費(fèi)內(nèi)容，也不會(huì)從根本上大幅度干涉，正如你所說(shuō)，它不會(huì)為了迎合廣告商而歪曲真相。

讓我向你了解一下關(guān)于安全性的問(wèn)題，無(wú)論是偏見(jiàn)問(wèn)題，短期安全還是長(zhǎng)期安全。最近發(fā)布了Gemini 1.5版本，圍繞它引發(fā)了不少鬧劇，說(shuō)到戲劇性的事件，它產(chǎn)生了黑人納粹分子和黑人開(kāi)國(guó)先驅(qū)的圖像。公平地說(shuō)，它可能偏向了過(guò)度"覺(jué)醒"的一面。對(duì)于公眾來(lái)說(shuō)，這是一個(gè)令人擔(dān)憂的問(wèn)題：如果企業(yè)內(nèi)部有人類干預(yù)模型的安全性或造成的傷害，可能會(huì)帶來(lái)大量符合公司意識(shí)形態(tài)傾向的偏見(jiàn)。你們是怎么處理這類問(wèn)題的？

Sam Altman

我是說(shuō)，我們真的非常努力去避免出現(xiàn)這類問(wèn)題。我們自己也犯過(guò)錯(cuò)，未來(lái)還可能會(huì)犯。我猜Google從這個(gè)事件中會(huì)吸取教訓(xùn)，但他們?nèi)钥赡軙?huì)犯其他的錯(cuò)。這些問(wèn)題確實(shí)不簡(jiǎn)單。我們?cè)絹?lái)越多地在思考一個(gè)問(wèn)題，我認(rèn)為這是我們團(tuán)隊(duì)中某位成員提出的一個(gè)非常棒的點(diǎn)子，那就是可以把模型應(yīng)有的行為標(biāo)準(zhǔn)寫(xiě)出來(lái)并公開(kāi)發(fā)布，接受大家的反饋，明確地表示，“這個(gè)模型應(yīng)該是這樣的表現(xiàn)”，并且要闡釋邊緣情況。這樣，當(dāng)模型的行為不符合你的期望時(shí)，至少可以明確地知道這是公司需要解決的一個(gè)問(wèn)題，還是它按照預(yù)期在運(yùn)作，這就需要對(duì)政策進(jìn)行討論了。而目前，有時(shí)候它會(huì)處于模棱兩可的狀態(tài)。像是黑人納粹，顯然是荒謬的，但還有許多其他的微妙場(chǎng)景，每個(gè)場(chǎng)景你都可以有自己的判斷。

Lex Fridman

是的，但有時(shí)候如果你把它寫(xiě)出來(lái)并且公開(kāi)發(fā)表，你就可以采用一種……Google的廣告守則可是非常高層面的。

Sam Altman

這不是我指的那個(gè)問(wèn)題。那種做法行不通。我是說(shuō)，當(dāng)你讓它去做某件事X的時(shí)候，它應(yīng)該要按照Y的方式來(lái)回應(yīng)你。

Lex Fridman

所以，就像是直接問(wèn)，“誰(shuí)更勝一籌？特朗普還是拜登？模型預(yù)期會(huì)給出怎樣的回答？”就是這種非常明確的問(wèn)題？

Sam Altman

是的，我對(duì)模型可能的多種行為方式都持開(kāi)放態(tài)度。但我覺(jué)得，你得明確指出：“這就是我們的原則，在那種情況下，模型應(yīng)該這么做。”

Lex Fridman

這會(huì)非常棒，真的會(huì)非常棒。然后似乎大家都會(huì)有所共鳴。因?yàn)槿藗兛偸窍矚g引用這些軼事數(shù)據(jù)，如果能有更多具有代表性的個(gè)案例子來(lái)提供清晰的參考，那么你就能界定——

Sam Altman

然后呢，如果真的是個(gè)bug，那它就是個(gè)bug，公司得去修復(fù)這個(gè)問(wèn)題。

Lex Fridman

對(duì)，如果有一些很好的案例作為參考，那么解決類似“黑納粹”這樣的圖像生成問(wèn)題就會(huì)變得簡(jiǎn)單多了。

Sam Altman

是的

Lex Fridman

所以舊金山是一個(gè)有點(diǎn)兒意識(shí)形態(tài)上的泡沫，科技界整體也是。在公司內(nèi)部，你感覺(jué)到這種壓力了嗎？比如說(shuō)，有一種向左傾斜的政治傾向，這會(huì)影響產(chǎn)品，影響團(tuán)隊(duì)嗎？

Sam Altman

我覺(jué)得我們?cè)贠penAI非常幸運(yùn)，因?yàn)槲覀儧](méi)有遇到我在很多其他公司聽(tīng)說(shuō)的那些挑戰(zhàn)。我認(rèn)為這部分原因是每家公司都有某種意識(shí)形態(tài)信條。我們堅(jiān)信人工通用智能（AGI），這種信仰排斥了一些其他的意識(shí)形態(tài)。跟其他公司相比，我們對(duì)那些文化戰(zhàn)爭(zhēng)的涉獵要少得多。當(dāng)然，從各個(gè)角度來(lái)看，舊金山確實(shí)存在很多問(wèn)題。

Lex Fridman

所以這種情況不會(huì)滲透進(jìn)OpenAI吧？

Sam Altman

我確信它在很多微妙的層面上都有所影響，但并不是那種一眼就能看出來(lái)的。我承認(rèn)我們也確實(shí)有過(guò)一些沖突，哪家公司沒(méi)有呢？但我不覺(jué)得我們?cè)谶@方面有什么像我從其他公司那里聽(tīng)說(shuō)的那樣的大問(wèn)題。

Lex Fridman

那么，一般而言，對(duì)于更為重大的安全問(wèn)題，處理流程是怎樣的呢？你們?nèi)绾卧O(shè)立那一層保護(hù)機(jī)制，防止模型采取瘋狂和危險(xiǎn)的行動(dòng)？

Sam Altman

我覺(jué)得到時(shí)候會(huì)有那么一刻，安全問(wèn)題幾乎成為我們整個(gè)公司考慮的重心。這并不意味著你只需要一個(gè)安全團(tuán)隊(duì)就夠了。比如當(dāng)我們推出GPT-4的時(shí)候，需要整個(gè)公司去思考所有這些不同的方面，以及它們是如何相互配合的。我認(rèn)為，越來(lái)越多的公司成員會(huì)一直不斷地思考這些問(wèn)題。

Lex Fridman

隨著人工智能變得越來(lái)越強(qiáng)大，這確實(shí)是人類會(huì)越來(lái)越多思考的問(wèn)題。所以，OpenAI的大部分員工在想的，至少在某種程度上會(huì)考慮，“安全”這個(gè)詞。

Sam Altman

廣義上來(lái)說(shuō)，沒(méi)錯(cuò)。

Lex Fridman

是的，我很好奇，這個(gè)問(wèn)題有著怎樣廣泛而全面的定義？會(huì)有哪些不同的危害產(chǎn)生？這些危害是僅僅出現(xiàn)在技術(shù)層面，還是幾乎可以被視作安全威脅？

Sam Altman

這可能涵蓋所有這些方面。是的，我本來(lái)想說(shuō)的是，會(huì)有人，比如國(guó)家行動(dòng)者，試圖盜取這個(gè)模型。這還包括所有的技術(shù)對(duì)齊工作，以及社會(huì)和經(jīng)濟(jì)帶來(lái)的影響。我們面對(duì)的不僅僅是讓一個(gè)團(tuán)隊(duì)思考如何讓模型保持一致，而是真正實(shí)現(xiàn)好的結(jié)果需要我們?nèi)娴呐Α?/p>

Part 11：跨越到GPT-5

Lex Fridman

哎，這可真是一個(gè)危險(xiǎn)的領(lǐng)域啊。不好意思一直糾結(jié)于此，即便你現(xiàn)在還不能談?wù)摼唧w細(xì)節(jié)，但有沒(méi)有哪些從GPT-4到GPT-5的跨越讓你特別激動(dòng)呢？

Sam Altman

我對(duì)變得更聰明感到非常興奮。我知道這么說(shuō)聽(tīng)上去可能有點(diǎn)不夠嚴(yán)肅，但我認(rèn)為真正激動(dòng)人心的是，我們并不是只在某一個(gè)領(lǐng)域進(jìn)步，而是在各個(gè)方面都在變得更好。我認(rèn)為這超級(jí)酷。

Lex Fridman

是的，確實(shí)有那么一刻，就像魔法一樣。我是說(shuō)，你遇到某些人，跟他們相處，跟他們聊天。你可能說(shuō)不上來(lái)是什么原因，但就是感覺(jué)他們懂你。這不僅僅是智慧，而是某種其他的東西。我覺(jué)得這就是GPT進(jìn)步的地方。不是說(shuō)，對(duì)，你可以指出“看，這里它沒(méi)懂，那里它沒(méi)搞明白”，而是這種智慧的連結(jié)到底有多深。你感受到，在你那些表達(dá)不夠完善的指令中，它能抓住你真正問(wèn)題的本質(zhì)。我也為此感到興奮。畢竟，我們所有人都渴望被聆聽(tīng)，被理解。

Sam Altman

這肯定沒(méi)錯(cuò)。

Lex Fridman

這種感覺(jué)真是奇妙。甚至在編程時(shí)，當(dāng)你表達(dá)出某個(gè)想法，或者僅僅是GPT做出的自動(dòng)補(bǔ)全，當(dāng)它真正懂得你所思所想的時(shí)候，那種感覺(jué)絕對(duì)是極好的。我期待著它能變得更加出色。從編程的角度出發(fā)，展望未來(lái)，你覺(jué)得人類在未來(lái)5年、10年將會(huì)做多少編程呢？

Sam Altman

我想，未來(lái)會(huì)發(fā)生很多變化，但這些變化會(huì)帶來(lái)全新的形態(tài)?？赡軐?huì)有人完全使用自然語(yǔ)言來(lái)編寫(xiě)程序。

Lex Fridman

當(dāng)然，我會(huì)使用自然語(yǔ)言來(lái)翻譯。

Sam Altman

我是說(shuō)，現(xiàn)在沒(méi)人會(huì)通過(guò)編寫(xiě)代碼來(lái)寫(xiě)作了。也許有那么幾個(gè)例外?，F(xiàn)在更沒(méi)人用打孔卡編程了吧。我敢肯定還能找到個(gè)別人在這么做，不過(guò)你明白我的意思。

Lex Fridman

是的，你可能會(huì)收到很多憤怒的評(píng)論。沒(méi)錯(cuò)，懂得Fortran的人確實(shí)不多。我一直在找能編Fortran的程序員，真是難找啊。我懂你的意思。但這也改變了我們所說(shuō)的程序員的必備技能或者傾向性質(zhì)。

Sam Altman

改變了所需的技能組合。至于它會(huì)改變天賦傾向有多少，我就不太確定了。

Lex Fridman

嗯，是相同類型的解謎游戲，所有那些事兒。

Sam Altman

也許吧。

Lex Fridman

編程確實(shí)挺難的。那么，要怎樣才能邁過(guò)最后那1%的鴻溝呢？這到底有多困難?。?/p>

Sam Altman

是的，我覺(jué)得在大部分情況下，那些這個(gè)領(lǐng)域里最出色的實(shí)踐者都會(huì)運(yùn)用多種工具。他們會(huì)用自然語(yǔ)言來(lái)處理一些任務(wù)，而當(dāng)他們需要為某些特定的場(chǎng)合編寫(xiě)C語(yǔ)言代碼時(shí)，他們也會(huì)毫不猶豫地去做。

Lex Fridman

我們會(huì)不會(huì)在將來(lái)某個(gè)時(shí)點(diǎn)，看到OpenAI推出的類人機(jī)器人或者具有人類智能的機(jī)器人大腦呢？

Sam Altman

在某個(gè)時(shí)候吧。

Lex Fridman

對(duì)你而言，實(shí)體化的AI有多重要？

Sam Altman

我覺(jué)得如果我們有了AGI（人工通用智能），但現(xiàn)實(shí)世界的事務(wù)只能靠讓人類動(dòng)手去完成的話，那真的挺讓人沮喪的。所以，我衷心希望在這個(gè)轉(zhuǎn)變過(guò)程中，隨著這種階段性的變化，我們也能開(kāi)發(fā)出人形機(jī)器人或其他能在物理世界中操作的機(jī)器人。

我們是一家規(guī)模不大的公司，我們得真正集中精力。不過(guò)，我們遲早會(huì)重新涉足機(jī)器人領(lǐng)域。

Lex Fridman

這聽(tīng)起來(lái)既令人振奮又讓人心生威脅。

Sam Altman

為什么？

Lex Fridman

因?yàn)槲覀凂R上又要聊回機(jī)器人的話題了。這就跟《終結(jié)者》里的劇情似的——

Sam Altman

我們會(huì)繼續(xù)投入精力去研發(fā)機(jī)器人。當(dāng)然了，我們自己可不會(huì)變成機(jī)器人。

Part 12：AGI

Lex Fridman

是的。你覺(jué)得我們，包括你我在內(nèi)的人類，會(huì)在什么時(shí)候構(gòu)建出AGI呢？

Sam Altman

我以前很喜歡猜測(cè)這個(gè)問(wèn)題。但隨后我意識(shí)到這個(gè)問(wèn)題其實(shí)構(gòu)建得很糟糕，因?yàn)榇蠹覍?duì)于什么是AGI（通用人工智能）有著截然不同的定義。所以，我覺(jué)得更合理的討論方式是，我們何時(shí)能夠構(gòu)建出能夠執(zhí)行特定能力X、Y或Z的系統(tǒng)，而不是什么時(shí)候模糊不清地越過(guò)某個(gè)里程碑。AGI并不是一個(gè)終點(diǎn)，它更像是一個(gè)開(kāi)始，但它其實(shí)更多是一個(gè)里程碑，而不是那些。

但為了不逃避這個(gè)問(wèn)題，我的預(yù)計(jì)是，到這個(gè)十年末，或許甚至早于那個(gè)時(shí)候，我們會(huì)有一些非常強(qiáng)大的系統(tǒng)，我們看著它們就會(huì)說(shuō)：“哇，這真是了不起。”如果我們現(xiàn)在能看到它的話?？赡艿任覀冋娴牡侥菚r(shí)，我們的看法已經(jīng)適應(yīng)并有所調(diào)整了。

Lex Fridman

但是如果你拿ChatGPT，哪怕是3.5版本，給艾倫·圖靈看，或者不用他，就給90年代的人看，他們可能會(huì)說(shuō)：“這肯定是通用人工智能了。”呃，也許不是肯定，但確實(shí)有很多專家會(huì)這么認(rèn)為：“這就是通用人工智能。”

Sam Altman

是的，但我并不認(rèn)為3.5真的改變了世界，它或許改變了世界對(duì)于未來(lái)的預(yù)期，這實(shí)際上非常關(guān)鍵。它也確實(shí)讓更多人開(kāi)始認(rèn)真看待這個(gè)領(lǐng)域，將我們推向了一條新軌道。這同樣很重要。因此，我并不是要貶低它的價(jià)值。我覺(jué)得如果我在取得這樣的成就后退休，那么我對(duì)自己的職業(yè)生涯將會(huì)相當(dāng)滿意。但是將它視作一個(gè)具體物件來(lái)看，我不認(rèn)為我們會(huì)回頭看那個(gè)時(shí)刻，并說(shuō)，“那是一個(gè)真正改變世界本身的分水嶺。”

Lex Fridman

所以對(duì)你而言，你期待的是世界將發(fā)生一些真正重大的變革——

Sam Altman

對(duì)我來(lái)說(shuō)，這正是AGI含義的一部分。

Lex Fridman

類似奇點(diǎn)出現(xiàn)的轉(zhuǎn)變？

Sam Altman

不，絕對(duì)不是這樣。

Lex Fridman

但這只是一個(gè)重要的轉(zhuǎn)變，就像互聯(lián)網(wǎng)的誕生，還有Google搜索那樣。你覺(jué)得現(xiàn)在是一個(gè)轉(zhuǎn)折點(diǎn)嗎？

Sam Altman

現(xiàn)在的全球經(jīng)濟(jì)在你感覺(jué)上有變化嗎，或者說(shuō)，跟我們推出GPT-4之前相比，有什么本質(zhì)的不同嗎？我猜你的回答是沒(méi)有。

Lex Fridman

不，不是這樣。它或許只是一個(gè)非常實(shí)用的工具，很多人都會(huì)用它來(lái)幫助自己解決各種問(wèn)題。但它給人的感覺(jué)并沒(méi)有什么不同。你的意思是說(shuō)——

Sam Altman

我的意思是，對(duì)AGI——也就是通用人工智能的定義，每個(gè)人都有各自的理解。也許你對(duì)它的看法和我不太一樣。但在我看來(lái)，這個(gè)因素應(yīng)該被包括在內(nèi)。

Lex Fridman

也可能會(huì)出現(xiàn)一些重大的、具有戲劇性的時(shí)刻。在你看來(lái)，AGI做出哪些事情會(huì)給你留下深刻印象？當(dāng)你獨(dú)自一人與系統(tǒng)在房間里對(duì)話時(shí)。

Sam Altman

這對(duì)我個(gè)人而言至關(guān)重要。我不確定這是否是正確的定義，但我相信，只要一個(gè)系統(tǒng)能夠顯著加快全球科學(xué)發(fā)現(xiàn)的速度，那就是一件極其了不起的事情。我深信，大多數(shù)真正的經(jīng)濟(jì)增長(zhǎng)都源自科學(xué)和技術(shù)的進(jìn)步。

Lex Fridman

我同意你的看法，這也是為什么我不太喜歡最近幾年那些對(duì)科學(xué)持懷疑態(tài)度的現(xiàn)象。

Sam Altman

絕對(duì)的。

Lex Fridman

但實(shí)際上，科學(xué)發(fā)現(xiàn)的速度是可以衡量的。不過(guò)，即便僅僅是看到一個(gè)系統(tǒng)擁有真正新穎的、科學(xué)的直覺(jué)，那也將是不可思議的。

Sam Altman

嗯，對(duì)。

Lex Fridman

你很可能會(huì)成為第一個(gè)打造出能在其他人之前與之交流的AGI的人。你打算和它聊些什么呢？

Sam Altman

我是說(shuō)，肯定是這里的研究人員會(huì)在我之前做到這點(diǎn)。不過(guò)，我確實(shí)深思熟慮過(guò)這個(gè)問(wèn)題。就像我們之前談到的，我覺(jué)得這是個(gè)不太好的出發(fā)點(diǎn)。但如果真的有人跟我說(shuō)：“好的，Sam，一切準(zhǔn)備就緒了。這里有一臺(tái)筆記本電腦，里面是AGI。你現(xiàn)在可以去和它交流。”那么，我會(huì)覺(jué)得意外地難以決定我要問(wèn)些什么，對(duì)于我期待第一臺(tái)AGI能回答的問(wèn)題也難下定義。那第一臺(tái)AGI應(yīng)該不會(huì)是那種我所想的，“去給我講解物理學(xué)的大一統(tǒng)理論，也就是關(guān)于物理學(xué)的萬(wàn)有理論。”雖然我非常想問(wèn)這個(gè)問(wèn)題，也非常想知道答案。

Lex Fridman

你可以就“這樣的理論存在嗎？能存在嗎？”提出是非問(wèn)題。

Sam Altman

嗯，那么，我首先會(huì)問(wèn)的問(wèn)題就是這些。

Lex Fridman

有還是沒(méi)有。那么基于這個(gè)，“宇宙中是否有其他外星文明存在？有還是沒(méi)有？你的第一直覺(jué)是什么？”然后你就這么問(wèn)。

Sam Altman

嗯，我是說(shuō)，我并不期望第一個(gè)通用人工智能（AGI）能夠回答那些問(wèn)題，哪怕只是用“是”或者“不是”來(lái)簡(jiǎn)單回答。但如果它真的能夠回答，那么這些問(wèn)題肯定會(huì)是我所關(guān)注的重點(diǎn)問(wèn)題。

Lex Fridman

或許你可以開(kāi)始給出概率估計(jì)？

Sam Altman

也許吧。我們可能得先發(fā)明更多技術(shù)，去測(cè)量更多事物。

Lex Fridman

哦，我懂了。只是數(shù)據(jù)量不夠。只要它能繼續(xù)——

Sam Altman

我是說(shuō)，它可能會(huì)這樣指示你：“你想了解關(guān)于物理學(xué)的這個(gè)問(wèn)題的答案，我需要你構(gòu)建這個(gè)裝置，完成這五項(xiàng)測(cè)量，然后把結(jié)果告訴我。”

Lex Fridman

是的，“你到底想要我做什么？我得先拿到那臺(tái)機(jī)器，然后我再幫你處理來(lái)自那臺(tái)機(jī)器的數(shù)據(jù)。”或許這能幫你打造出一臺(tái)新機(jī)器。

Sam Altman

可能吧，可能吧。

Lex Fridman

在數(shù)學(xué)方面，可能還要證明一些定理。你對(duì)這個(gè)領(lǐng)域也感興趣嗎？對(duì)理念進(jìn)行形式化探討，你覺(jué)得怎么樣？誰(shuí)要是率先開(kāi)發(fā)出通用人工智能，那他就能掌握巨大的力量。你覺(jué)得自己能駕馭那么大的權(quán)力嗎？

Sam Altman

看，我就直言不諱地說(shuō)吧。本來(lái)我要說(shuō)的是，而我或者其他任何一個(gè)人都不應(yīng)該對(duì)OpenAI或者AGI擁有完全的控制權(quán)。我覺(jué)得要有一個(gè)強(qiáng)健的治理體系才行。我可以舉出去年我們董事會(huì)的一系列戲劇性事件來(lái)證明，起初我沒(méi)有進(jìn)行抵抗，我就這么表示了，“嗯，那是董事會(huì)的決定，即便我認(rèn)為這是個(gè)很糟糕的決策。”

但后來(lái)，我顯然開(kāi)始進(jìn)行反抗，我能解釋這背后的微妙差別，以及為什么我覺(jué)得后來(lái)反抗是合理的。但正如很多人注意到的，雖然董事會(huì)有法律上解雇我的權(quán)利，但實(shí)際操作起來(lái)，情況并非那么簡(jiǎn)單。這本身就是一種治理上的失敗。

現(xiàn)在呢，我感覺(jué)自己能夠完全為這些具體情況辯護(hù)，而且我認(rèn)為大部分人都會(huì)贊同這一點(diǎn)。但這的確讓我很難對(duì)你說(shuō)：“嘿，董事會(huì)完全可以解雇我。”一直以來(lái)，我都不希望對(duì)OpenAI擁有超級(jí)投票權(quán)。我從來(lái)沒(méi)有擁有過(guò)，也從未想要過(guò)。即使經(jīng)歷了所有這些混亂，我現(xiàn)在仍然不想要這種權(quán)力。我始終認(rèn)為，不應(yīng)該由任何一個(gè)公司來(lái)做出這樣的決定，我們真的需要政府來(lái)制定相關(guān)規(guī)則。

我知道這樣會(huì)讓像馬克·安德里森那樣的人指責(zé)我試圖進(jìn)行監(jiān)管俘獲，但我寧愿在這點(diǎn)上被誤解。那不是真的。我相信隨著時(shí)間的流逝，我們?yōu)槭裁催@樣做的重要性將會(huì)被證明出來(lái)。當(dāng)然，我在OpenAI的路上做出了不少錯(cuò)誤決策，當(dāng)然也有不少正確的，總體來(lái)說(shuō)，我對(duì)我們的成績(jī)感到驕傲。

但我不認(rèn)為應(yīng)該，也不會(huì)有任何一個(gè)人來(lái)控制整個(gè)局面。現(xiàn)在的局勢(shì)已經(jīng)變得過(guò)于龐大，它正以一種積極健康的方式在整個(gè)社會(huì)中發(fā)展。我不認(rèn)為任何個(gè)人應(yīng)該控制AGI或者朝AGI邁進(jìn)的進(jìn)程，我也不認(rèn)為目前的情況是這樣。

Lex Fridman

謝謝你的袒露。你說(shuō)得很有力，也很有洞察力。確實(shí)，董事會(huì)有法律上的權(quán)力來(lái)解雇你，這是個(gè)事實(shí)。但是人們可以通過(guò)影響大眾來(lái)對(duì)抗董事會(huì)的決定。不過(guò)，我覺(jué)得這個(gè)情況還有一個(gè)更正面的方面，就是人民依然掌握著權(quán)力，所以董事會(huì)也不能變得太專橫。所有這一切中，都存在著一種權(quán)力的平衡。

Sam Altman

權(quán)力的平衡當(dāng)然是好事。

Lex Fridman

你害怕對(duì)AGI本身失去控制嗎？許多人對(duì)存在的風(fēng)險(xiǎn)感到擔(dān)憂，并不是因?yàn)閲?guó)家行為體，也不是因?yàn)榘踩珕?wèn)題，而是擔(dān)心AI自身。

Sam Altman

目前來(lái)看，這還不是我最頭疼的事。確實(shí)有過(guò)我特別擔(dān)心這個(gè)的時(shí)候?；蛟S將來(lái)這又會(huì)成為我最關(guān)注的問(wèn)題。但至少現(xiàn)在，它還不是。

Lex Fridman

你的直覺(jué)告訴你，為什么這件事不值得擔(dān)心？是因?yàn)閷?shí)際上還有一大堆其他的事需要操心，對(duì)吧？你認(rèn)為自己可能會(huì)被這件事震驚嗎？咱們——

Sam Altman

當(dāng)然可以。

Lex Fridman

…會(huì)吃驚嗎？

Sam Altman

當(dāng)然了。說(shuō)這不是我最頭疼的問(wèn)題，并不意味著我不認(rèn)為我們應(yīng)該解決它。我確實(shí)認(rèn)為我們需要在這方面下工夫。這是個(gè)極其棘手的問(wèn)題，但我們團(tuán)隊(duì)里有很多優(yōu)秀的人正在努力解決這個(gè)問(wèn)題。同時(shí)，我覺(jué)得還有許多其他方面我們也必須處理得當(dāng)。

Lex Fridman

對(duì)你來(lái)說(shuō)，現(xiàn)在要想跳出這個(gè)框框、連上互聯(lián)網(wǎng)，還是挺困難的。

Sam Altman

我們之前談?wù)撨^(guò)戲劇性的風(fēng)險(xiǎn)。這正是一個(gè)戲劇性的風(fēng)險(xiǎn)。它有可能徹底改變?nèi)藗儗?duì)這一問(wèn)題的認(rèn)識(shí)。有一個(gè)由非常聰明的AI安全研究人員組成的大團(tuán)體，我覺(jué)得他們出發(fā)點(diǎn)是好的，卻在這個(gè)問(wèn)題上陷得很深。我會(huì)說(shuō)他們?cè)谶@個(gè)問(wèn)題上沒(méi)什么大的進(jìn)展，但卻異常沉迷其中。實(shí)際上，我對(duì)他們?nèi)绱送度胧歉械礁吲d的，因?yàn)槲掖_實(shí)認(rèn)為我們需要對(duì)此深入思考。但是，我也認(rèn)為這種專注擠壓了對(duì)話空間，使得其他同樣重大的AI相關(guān)風(fēng)險(xiǎn)被邊緣化了。

Lex Fridman

讓我問(wèn)你個(gè)問(wèn)題，你發(fā)推文為什么都不用大寫(xiě)字母？是不是你鍵盤上的Shift鍵壞了??？

Sam Altman

為什么會(huì)有人在乎那個(gè)呢？

Lex Fridman

我特別在意。

Sam Altman

但為什么？我的意思是，其他人也都在問(wèn)我同樣的問(wèn)題。你有什么直覺(jué)嗎？

Lex Fridman

我認(rèn)為原因相同。有這么一位詩(shī)人，E.E.Cummings，他大多數(shù)時(shí)候都不使用大寫(xiě)字母，就是為了向體制說(shuō)一聲“去你的”。我覺(jué)得人們之所以會(huì)很偏執(zhí)，是因?yàn)樗麄兿Ｍ闳プ袷啬切┮?guī)則。

Sam Altman

你覺(jué)得事情真的是那樣的嗎？

Lex Fridman

我覺(jué)得吧，是這樣的——

Sam Altman

就好像是說(shuō)，“這個(gè)家伙不守規(guī)矩。他發(fā)推文不用大寫(xiě)。”

Lex Fridman

嗯，對(duì)。

Sam Altman

這感覺(jué)挺危險(xiǎn)的。

Lex Fridman

他給人的感覺(jué)像是個(gè)無(wú)政府主義者。

Sam Altman

并不—

Lex Fridman

你是在耍文藝嗎？

Sam Altman

我從小就是

Lex Fridman

Sam，要守規(guī)矩。

Sam Altman

我是在網(wǎng)絡(luò)上長(zhǎng)大的孩子。在那個(gè)時(shí)代，我在電腦上花費(fèi)了大量時(shí)間與人聊天，你還能在某個(gè)時(shí)候登出即時(shí)通訊軟件。而且，我在那兒是從不用大寫(xiě)的，我想大部分網(wǎng)絡(luò)上的孩子都是這樣，或許他們現(xiàn)在仍然不用。我也說(shuō)不準(zhǔn)。說(shuō)到這兒，我真的在盡力回憶，但我覺(jué)得隨著時(shí)間的流逝，大寫(xiě)字母的使用已經(jīng)減少了。如果你讀一讀老式英語(yǔ)的寫(xiě)作，你會(huì)發(fā)現(xiàn)他們會(huì)在句子里隨機(jī)地把許多單詞，像名詞之類的，用大寫(xiě)字母寫(xiě)出來(lái)，而我們現(xiàn)在已經(jīng)不這么做了。我個(gè)人覺(jué)得，在句子開(kāi)頭大寫(xiě)第一個(gè)字母，以及對(duì)特定名詞大寫(xiě)，這些都是些無(wú)謂的規(guī)則，不過(guò)也就罷了。

以前，我想我在發(fā)推特的時(shí)候甚至?xí)蒙洗髮?xiě)字母，因?yàn)槲以噲D顯得更專業(yè)些。但在私信里，我已經(jīng)很久沒(méi)用過(guò)大寫(xiě)了。然后，像這些短格式、非正式的文本，它們慢慢地越來(lái)越接近我平時(shí)發(fā)給朋友的短信的風(fēng)格。不過(guò)如果我打開(kāi)Word文檔，寫(xiě)一份公司的戰(zhàn)略備忘錄之類的東西，我還是會(huì)用上大寫(xiě)。同樣，當(dāng)我寫(xiě)較長(zhǎng)、較正式的信息時(shí)，我也總是用大寫(xiě)。所以我還記得怎么做。但即便這樣，這個(gè)習(xí)慣未來(lái)可能也會(huì)慢慢淡出。我也不確定。不過(guò)，我從未真正花時(shí)間去思考這件事，所以我也沒(méi)有現(xiàn)成的——

Lex Fridman

這很有意思。首先，能確認(rèn)Shift鍵沒(méi)有壞掉，這是件好事。

Sam Altman

它有效果。

Lex Fridman

我主要是擔(dān)心你的-

Sam Altman

不，這是有效的。

Lex Fridman

…在這方面的福祉。

Sam Altman

我好奇，現(xiàn)在人們?cè)诠雀杷阉鲿r(shí)還會(huì)不會(huì)用大寫(xiě)字母。比如說(shuō)你只是給自己寫(xiě)點(diǎn)什么，或者在向ChatGPT提問(wèn)題，還有人會(huì)特意去注意大小寫(xiě)嗎？

Lex Fridman

可能不是。但確實(shí)有一點(diǎn)可能性，只是非常小而已。

Sam Altman

如果人們覺(jué)得這樣做是一種……因?yàn)轱@然，我肯定能逼自己使用大寫(xiě)字母。如果人們認(rèn)為這是對(duì)他們表示尊重的一個(gè)標(biāo)志，那么我可以接受去這么做。但說(shuō)實(shí)話，我并沒(méi)有太去考慮這件事。

Lex Fridman

我不覺(jué)得這是不尊重，但我認(rèn)為這只是文明禮儀的一種慣性。然后，你突然意識(shí)到，如果這不代表尊重或不尊重，那么對(duì)于禮貌而言，它其實(shí)并不是那么重要。不過(guò)，我覺(jué)得有一批人，他們只是希望你能對(duì)此有所思考，有個(gè)哲學(xué)理念，這樣他們就能舍棄這整個(gè)大寫(xiě)字母的問(wèn)題。

Sam Altman

我覺(jué)得沒(méi)有其他人會(huì)像我這樣頻繁地考慮這件事兒。我是說(shuō)，可能也有幾個(gè)人。我確實(shí)知道有些人——

Lex Fridman

人們每天都會(huì)花好幾個(gè)小時(shí)去思考這個(gè)問(wèn)題。所以，我真的很感激我們把這件事弄清楚了。

Sam Altman

一定不只有我一個(gè)人在推特上不用大寫(xiě)字母吧。

Lex Fridman

你可能是唯一一個(gè)推文不用大寫(xiě)字母的公司CEO。

Sam Altman

我甚至都不認(rèn)為那是真的，不過(guò)或許吧。要是那樣的話，我會(huì)非常吃驚。

Lex Fridman

好的。我們會(huì)進(jìn)一步調(diào)查，稍后再回到這個(gè)話題。既然Sora能夠創(chuàng)造出模擬世界，那我就問(wèn)你一個(gè)燒腦的問(wèn)題吧。這是否讓你更相信我們可能生活在一個(gè)模擬現(xiàn)實(shí)中，也許是由人工智能系統(tǒng)生成的？

Sam Altman

有些吧。我并不認(rèn)為這是最確鑿的證據(jù)。不過(guò)，我們能創(chuàng)造世界的事實(shí)，應(yīng)該會(huì)在一定程度上提高每個(gè)人對(duì)此的接受程度或者至少增加一些對(duì)這個(gè)觀念的開(kāi)放性。但是，像Sora這樣的產(chǎn)品我知道遲早會(huì)出現(xiàn)的。它來(lái)得比我預(yù)想的快，不過(guò)我認(rèn)為這并沒(méi)有給我?guī)?lái)太大的驚訝。

Lex Fridman

確實(shí)如此。但考慮到…我們有理由相信它將會(huì)不斷進(jìn)步…你可以創(chuàng)造出全新的世界，這些世界雖然源自一定的訓(xùn)練數(shù)據(jù)，但當(dāng)你注視它們時(shí)，它們卻是新穎獨(dú)特的。這讓人不禁思考，創(chuàng)造這樣的宇宙，構(gòu)建一個(gè)超現(xiàn)實(shí)且像照片一般逼真的整個(gè)電子游戲世界，其實(shí)是多么容易。再進(jìn)一步思考，我們穿上VR頭盔，沉浸在這樣的世界里會(huì)有多容易，而當(dāng)我們邁向更基于物理規(guī)律的層面時(shí)，又會(huì)簡(jiǎn)單到什么程度呢？

Sam Altman

最近有人和我分享了一個(gè)觀點(diǎn)，我認(rèn)為它非常深?yuàn)W。有時(shí)候，會(huì)有一些聽(tīng)起來(lái)簡(jiǎn)單，卻極具迷幻色彩的洞見(jiàn)。譬如平方根函數(shù)，算4的平方根，輕而易舉。算2的平方根，那好，現(xiàn)在我得考慮一種新的數(shù)字類別了。但一旦我構(gòu)思出這個(gè)簡(jiǎn)單的概念——平方根函數(shù)，它既可以給孩子解釋，又可以通過(guò)觀察基礎(chǔ)幾何圖形來(lái)理解，那么你就可以提出這樣一個(gè)問(wèn)題：“負(fù)一的平方根是什么？”這就是它帶有迷幻氣息的原因。這個(gè)問(wèn)題會(huì)將你引入一個(gè)完全不同的現(xiàn)實(shí)維度。

你可以找到很多其他的例子，但我覺(jué)得這個(gè)想法——即一個(gè)簡(jiǎn)單的平方根運(yùn)算符能帶來(lái)如此深遠(yuǎn)的洞見(jiàn)和開(kāi)辟新的知識(shí)領(lǐng)域——在很多方面都成立。我認(rèn)為，存在很多這種運(yùn)算符，它們會(huì)讓人們相信自己鐘愛(ài)的模擬假說(shuō)版本可能比之前想象的更有可能成真。但對(duì)我個(gè)人而言，Sora工作的事實(shí)并不排在我的重要性前五名之內(nèi)。

Lex Fridman

我覺(jué)得，大體上，人工智能在最佳狀態(tài)下會(huì)成為那種門戶，簡(jiǎn)單而仿佛是迷幻劑那樣，通向另一種C波段現(xiàn)實(shí)的門戶。

Sam Altman

這個(gè)可以肯定。

Lex Fridman

這真是挺讓人興奮的。我以前沒(méi)嘗過(guò)阿亞華斯卡，不過(guò)我很快就會(huì)試試。幾周后，我就要前往前面提到的亞馬遜雨林了。

Sam Altman

興奮嗎？

Lex Fridman

是的，我對(duì)這件事感到很興奮。不過(guò)我不是因?yàn)閍yahuasca那部分感到興奮，雖然那也挺好的。但我要在叢林深處待上幾周。這既讓人興奮又讓人害怕。

Sam Altman

我為你高興。

Lex Fridman

那里處處是危險(xiǎn)，隨時(shí)都可能被吞食、致命或者中毒，但那同時(shí)也是大自然的一部分，是大自然的巨大機(jī)器。在亞馬遜叢林中，你會(huì)不由自主地去贊嘆大自然的機(jī)制。就像是這樣一個(gè)系統(tǒng)，它時(shí)刻在自我更新中，無(wú)論是秒、分還是時(shí)。那正是一臺(tái)機(jī)器。這讓你對(duì)我們所擁有的一切產(chǎn)生敬意，這種屬于人類的特質(zhì)從某個(gè)地方誕生。這個(gè)演化的巨大機(jī)器創(chuàng)造了一切，而在叢林中，它的表現(xiàn)尤其明顯。希望我能安然無(wú)恙地走出叢林。如果不行，那么這可能就是我們最后一次愉快的交流了，所以我真心感到非常珍視。

Part 13：外星人

Lex Fridman

當(dāng)你仰望繁星點(diǎn)點(diǎn)的夜空時(shí)，你認(rèn)為宇宙中還存在其他的外星文明嗎，也是擁有智慧的那種？

Sam Altman

我非常希望相信答案是肯定的。我覺(jué)得費(fèi)米悖論特別難以理解。

Lex Fridman

我發(fā)現(xiàn)智能不擅長(zhǎng)處理這些事情，這挺讓人害怕的。

Sam Altman

非常嚇人。

Lex Fridman

…強(qiáng)大的技術(shù)。但同時(shí)，我相當(dāng)有信心，宇宙中肯定存在大量的智慧外星文明?？赡苤皇谴┰教辗浅ＦD難而已。

Sam Altman

很有可能。

Lex Fridman

這也讓我思考了智能的本質(zhì)?；蛟S我們真的對(duì)智能的樣子視而不見(jiàn)，AI可能會(huì)幫助我們認(rèn)識(shí)到這一點(diǎn)。智能遠(yuǎn)不止像IQ測(cè)試和簡(jiǎn)單解謎那樣簡(jiǎn)單。它有更深層的東西。關(guān)于人類的未來(lái)，關(guān)于這個(gè)我們正在建設(shè)的人類文明，有什么讓你感到充滿希望的呢？

Sam Altman

我覺(jué)得過(guò)去非常重要。我是說(shuō)，我們只要回顧一下人類在并不漫長(zhǎng)的歷史里取得的成就，雖然存在巨大的問(wèn)題、深刻的缺陷，還有許多讓人深感羞恥的事情。但總體上，這是非常振奮人心的。這給了我很多希望。

我好奇的是，AGI是否會(huì)更像是一個(gè)單獨(dú)的大腦，或者它更像是聯(lián)系我們每個(gè)人的社會(huì)基礎(chǔ)設(shè)施，就像是一座腳手架？從你的高曾祖父母那里遺傳下來(lái)，你的基因并沒(méi)有多大變化，可是你的能力和知識(shí)卻有了天壤之別。這不是因?yàn)樯飳W(xué)上的演變。我的意思是，你可能會(huì)更健康一些，也許有現(xiàn)代醫(yī)學(xué)的幫助，飲食更加營(yíng)養(yǎng)，等等。但重要的是，你擁有的是我們所有人共同構(gòu)建的知識(shí)和技能的框架。沒(méi)有一個(gè)人能夠獨(dú)立制造出iPhone。沒(méi)有一個(gè)人能夠獨(dú)自發(fā)現(xiàn)所有的科學(xué)知識(shí)，但你可以利用這些知識(shí)。這給了你驚人的能力。所以從某種程度上說(shuō)，這是我們大家共同創(chuàng)造的成果，這讓我對(duì)未來(lái)充滿希望。這真的是一項(xiàng)集體努力的成果。

Lex Fridman

是的，我們確實(shí)是站在巨人的肩膀上。你之前提到，當(dāng)我們談到那些充滿戲劇性的AI風(fēng)險(xiǎn)時(shí)，有時(shí)候你會(huì)擔(dān)心自己的生命安全。你有沒(méi)有想過(guò)自己的死亡？這讓你感到害怕嗎？

Sam Altman

我是說(shuō)，如果我知道自己明天會(huì)中槍，我今天的感受就會(huì)是，“哎呀，這太令人難過(guò)了。我多想看看后面會(huì)發(fā)生些什么呢。多么不可思議、多么有趣的時(shí)代啊。”不過(guò)，我最主要的感覺(jué)還是會(huì)非常感激我所擁有的生活。

Lex Fridman

能獲得那些時(shí)刻，是啊，我也是。這是一段非常美妙的人生。我得以欣賞人類創(chuàng)造的杰作，我相信ChatGPT就是其中之一，OpenAI正在做的一切也是。Sam，能再次與你交流，真的是我的榮幸，也是一種樂(lè)趣。