來源：騰訊科技
劃重點
① 沒有必要害怕超級智能的人工智能，因爲與未來的模型相比，每個新模型都被認爲能力不足，進而推動了持續的改進。
② 僅僅專注於解決當前的人工智能限制可能是徒勞的，因爲像GPT-5和GPT-6這樣的未來模型可能會使這種努力過時。
③ 太空不適合生物生存，人類派出機器人探索和殖民太空將更容易。
④ 奧特曼在再生能源領域最看好核聚變，未來有望把一度電成本降至1美分。
據國外媒體報道，OpenAI首席執行官山姆·奧特曼（Sam Altman）4月24日參加了斯坦福大學企業思想領袖講壇ETL（Entrepreneurial Thought Leaders Lecture）的活動，超過1000名學生排隊參加了此次活動。5月2日，斯坦福大學放出了活動的全程視頻。
在當天的活動中，奧特曼在斯坦福大學的英偉達禮堂參加了一場對話活動，分享了他對人工智能未來的見解。奧特曼發人深省的講話爲人工智能的未來提供了一個變革性的願景，強調了人工智能產業的快速發展、對通用人工智能的追求，以及在應對社會挑戰的同時利用創新方法的必要性等等。
奧特曼相信社會應該爲技術進步做好準備，即使模型並不完美，這依賴於負責任的迭代部署。“如果我們在地下室開發通用人工智能，然後不向外界公佈，我不認爲這讓我們能夠成爲很好的鄰居，”奧特曼說。“讓社會與技術共同發展。讓社會告訴我們，無論是集體還是個人，他們希望從這項技術中獲得什麼。”
儘管通用人工智能的前景可能令人恐懼，但奧特曼相信它將成爲社會實現更高目標的基礎。“我實際上一點也不擔心人類創新的窒息，”奧特曼說。“人們會用更好的工具給我們帶來驚喜。我認爲所有的歷史都表明，當你給人們更多的影響力時，他們會做出更多令人驚歎的事情。”
奧特曼於2005年從斯坦福大學退學，後因領導開發了ChatGPT和DALL-E的人工智能初創公司OpenAI而聞名於世。成立於2015年的OpenAI最初是一家非營利性研究實驗室，其使命是“確保通用人工智能造福全人類。”
丨以下爲奧特曼在斯坦福大學的對話實錄：
主持人貝拉尼：歡迎來到斯坦福大學企業思想領袖講壇。這是斯坦福大學爲有抱負的企業家舉辦的研討會。企業思想領袖講壇由斯坦福創業工程中心（STVP）和斯坦福創業學生商業協會（BASES）聯合主辦。我是管理科學與工程系講師、初創企業“鍊金術師”與加速器主管人（Alchemist and Accelerator for Enterprise Startups）拉維·貝拉尼（Ravi Belani）。今天，我很榮幸地邀請到山姆·奧特曼參加企業思想領袖講壇的活動。奧特曼是OpenAI的聯合創始人、首席執行官。今天參加活動的多數人可能都了解OpenAI，我無需進行更多的介紹。對於那些不知道的人來說，OpenAI是ChatGPT、DALL-E和Sora背後的研究和部署公司。
奧特曼的一生不斷在打破界限、超越自己和世界。他曾在斯坦福大學讀了兩年書，學習計算機科學。大二後，他加入了社交移動應用公司Loopt，該公司也是創業孵化器Y Combinator投資的首批公司之一。在Loopt從紅杉資本和其他風投公司處募集到資金後，奧特曼選擇從斯坦福大學退學。在Loopt被Y Combinator收購之後，他又加盟Y Combinator擔任運營職位。2014年至2019年，奧特曼曾擔任Y Combinator總裁。
2015年，他聯合他人共同創辦了非營利性研究實驗室OpenAI，使命是構建造福全人類的通用人工智能。OpenAI推出ChatGPT之後，這款應用在兩個月時間就增長到1億活躍用戶，成爲史上增長速度最快的應用。
奧特曼曾被《時代週刊》評爲全球100位最具影響力的人物之一，還被《時代週刊》評爲2023年年度首席執行官。他最近還入選《福布斯》全球億萬富翁榜單。奧特曼和他的丈夫住在舊金山，他在舊金山和納帕（OpenAI總部所在地）之間來回奔波。他也是一個素食者。現在，請我們共同邀請奧特曼上臺。
一、大學生涯：興奮、樂觀、好奇，遇到科技史上最佳的創業時機
貝拉尼：坦白說，剛才的介紹有點太長了，你可能並不喜歡。簡潔是智慧的靈魂，所以我們會盡量讓問題更簡潔。本週（騰訊科技注：本次對話發生在4月24日）也是你的出生周，這是一個吉祥的時刻。週一（4月22日）是你的生日，我提到這一點只是因爲我認爲無論是否從時間上來說，你剛剛度過39歲生日；從地點上來說，你又在斯坦福大學參加企業思想領袖講壇活動。我很好奇，在你19歲在斯坦福大學讀書的時候，如果用三個詞來描述你作爲斯坦福大學本科生的感受，那三個詞會是什麼？
奧特曼：這是個非常難回答的問題。我認爲是興奮、樂觀和好奇。
貝拉尼：如果現在讓你用三個詞描述作爲斯坦福大學本科生的感受，會是什麼？
奧特曼：我想也是同樣的答案。儘管世界已經發生了變化，但仍有一條不變的主線。在過去的19年裏發生了很多變化，但與未來19年將要發生的事情相比，這些都是微不足道的。
貝拉尼：如果明天你突然穿越了，醒來時發現自己是斯坦福大學的19歲本科生，知道你所知道的一切，你會怎麼做？你會退學嗎？
奧特曼：我會很高興。我會認爲自己是在過去幾個世紀最幸運的時刻成年了。我清晰的了解世界將要改變的程度以及影響它的機會。創業，做人工智能研究，任何事情都是非常了不起的。我想這可能是創業的最佳時機。我想我會這麼說，我認爲這可能是互聯網時代，或者是科技史上最佳的創業時機。我認爲你可以用人工智能做比一年前更了不起的事情。最偉大的公司就是在這樣的時刻誕生的。最具影響力的新產品就是在這樣的時候誕生的。我會感到無比的幸運，我會決心充分利用它，我會明白自己想在哪裏做貢獻，並放手去做。
貝拉尼：你想繼續做學生嗎？如果是的話，你會選擇某個專業來跟上變化的步伐嗎？
奧特曼：也許我不會繼續當學生。我認爲有理由假設人們會再次做出同樣的決定。我認爲做學生是一件非常好的事情。但這可能不是我的選擇。人們會做他們要做的事情。如果穿越了，我想我還是會去從事人工智能研究。
貝拉尼：如果穿越，你會選擇在學術界還是產業界工作?
奧特曼：我很難過地說，我想我會現實地選擇產業界。之所以這麼選擇，我認爲需要身處一個有許多計算機技術的地方。
二、選擇創業還是選擇職場？要相信自己，做非共識的事情
貝拉尼：上週我們請來了汽車軟件供應商Applied Intuition的聯合創始人卡薩爾·尤尼斯（Qasar Younis），他大力倡導不要成爲創始人，而是加入一家現有的公司，學習一些技能。學生們正在糾結，我是應該選擇在19歲還是20歲就開始創業；還是應當加入另一個創業者的團隊，無論是研究實驗室還是風險企業。你會給他們什麼建議？
奧特曼：我會給出另一個選擇方案，因爲我認爲創辦一家公司你會學到很多東西。保羅·格拉厄姆（Paul Graham）說：“沒有像醫學預科那樣的預創業。”我認爲這非常正確。你們可以通過創業來學習如何創業。如果這是你非常確定想要做的事情，你也可以放手去做。
貝拉尼：如果有人創業想進入人工智能領域，你認爲在該領域剛起步的公司面臨着什麼樣的短期調整。讓我們在擴展一下範圍，你認爲未來三年OpenAI需要首先解決，但又未能解決的問題會是什麼？
奧特曼：我認爲從某種意義上來說，這是一個非常合理的問題，但我不會回答這個問題，因爲我認爲你永遠不應該接受任何人關於創業的這種建議。我認爲，當有一件事情足夠明顯，我或其他人會坐在這裏說出來時，這可能不是一個好的創業構想。我完全理解這種衝動，我記得我曾問過別人我應該創辦什麼樣的公司。
關於如何擁有一份有影響力的職業，我認爲最重要的事情之一是你必須規劃自己的人生道路。如果你正在考慮的事情是別人無論如何都會做的，或者更有可能是很多人無論如何都會做的，你應該對此持懷疑態度。我認爲應當學會相信自己，提出自己的想法，做非共識的事情，就像我們創辦OpenAI之初一樣。OpenAI起初就是非共識的事情，但現在已經得到世人的認可。現在我只有顯而易見的構想，因爲我就像被困在一個框架中一樣，但我相信你們在座的人會有其他不同的構想。
三、在思考如何建造真正的大型計算機，複雜大系統改變人類科技軌跡
貝拉尼：你在糾結什麼問題，而其他人卻沒有談論這個問題？
奧特曼：如何建造真正的大型計算機。我認爲其他人也在談論這一點，但我們可能就像通過一個別人還沒有完全想象到的鏡頭來看待它。當我們能夠開發出小學、中學或博士級別的智能時，我們肯定會糾結於如何將其融入產品的最佳方式，以及對社會和人們生活產生積極影響的最佳方式。我們還不知道答案。所以我認爲這是一個非常重要的問題。
貝拉尼：如果這真的是你的想法的話，我們能不能繼續討論如何建造真正的大型計算機？你能分享一下嗎？我知道有很多猜測，可能也有很多關於你着手開展半導體代工業務的傳聞。你能分享一下會做什麼嗎？你的願景是什麼？
奧特曼：能源、數據中心、芯片、芯片設計和新型網絡。這就是我們如何看待整個生態系統，以及我們如何更好地利用它。我不認爲只看一件或另一件是可行的，我們必須做整個事情。
貝拉尼：這有多個重要的問題。
奧特曼：我認爲這就是人類科技史的發展軌跡，因爲我們建造了更大更復雜的系統。
貝拉尼：它是如何發展起來的？就像計算成本一樣，如果我說錯了請糾正我，聽說GPT-3模型耗費1億美元，用1750億個參數進行訓練；GPT-4模型耗資4億美元，參數是GPT-3的10倍。GPT-4的成本幾乎是GPT-3的4倍，而是參數的10倍。如果方向正確，你認爲成本會隨着後續迭代不斷增長嗎？
奧特曼：是的。
貝拉尼：它還在成倍增長嗎？你如何利用這一點？
奧特曼：我認爲給人們真正有用的工具，讓他們知道該如何利用這些工具來構建未來是一件非常好的事情，非常有價值。我非常願意打賭你們所有人和世界上所有其他人的聰明才智，來弄清楚該怎麼做。所以可能有一些比我更有商業頭腦的人在擔心OpenAI花了多少錢，但我一點也不擔心。
四、ChatGPT目前的表現仍不出彩，相信迭代部署，燒多少錢都不在乎
貝拉尼：OpenAI是非凡的，ChatGPT是非凡的，所有其他的模型都是非凡的。OpenAI去年燒掉了5.2億美元的現金，而這並不影響你對公司經濟模式的思考。OpenAI將如何實現創收？
奧特曼：首先，感謝你的誇獎，但ChatGPT還談不上非凡。在通往通用人工智能的道路上，ChatGPT目前的表現仍不出彩，GPT-4將來或許會是你們中任何人都不得不再次使用的最愚蠢的模型。但是，儘早和經常性的推出新模型非常重要，我們相信迭代部署。但如果我們在地下室開發通用人工智能，然後不向外界公佈，我不認爲這讓我們能夠成爲很好的鄰居，我認爲重要的是向外界告知我們認爲將要發生的事情，或者對我們認爲將要發生的事情發表看法。不僅如此，我們還要把產品交付到人們手中，讓社會與技術取得共同發展。
模型到底好不好？給我們的領頭人和機構時間來做出反應，給人們時間來弄清楚如何將它融入生活，學習如何使用這款工具。你們有些人喜歡用它在作業上作弊。但是也有一些人可能也喜歡非常令人驚奇的東西。
隨着每個迭代的發展，我認爲這種情況會擴大，這意味着我們會推出不完美的產品，但我們有一個非常緊密的反饋循環，我們會學習並變得更好。推出一款讓你感到尷尬的產品確實有點糟糕，但這比其他選擇好得多。在這種情況下，特別是在我認爲我們確實應該對社會進行迭代部署的情況下，我們學到的一件事是人工智能和驚喜不能很好地結合在一起。人們不想感到驚訝，他們希望逐步推出並有能力影響這些系統。這就是我們要做的。將來可能發生的事情，可能會改變我們目前的想法，認爲迭代部署不是一個好策略，但它目前確實是我們所擁有的最佳方法。
我認爲我們從這樣做中獲得了很多東西，希望更大的世界也獲得了一些東西。不管我們一年燒5億美元還是50億美元或500億美元，我都不在乎。只要我們堅持下去，只要我們能夠找到資金，最終爲社會創造更多價值，雖然代價高昂，但是完全值得的。
五、已經放棄給出AGI時間表，每年都會推出更強大的系統
貝拉尼：你對2030年有什麼看法？你眼中的2030年是什麼樣的？
奧特曼：也許在一些非常重要的方面沒什麼不同。就像我們會回到斯坦福校園，這裏會有一批新學生。我們將討論創業是多麼重要。科技真的很酷。我們將在世界上擁有這個新的偉大的工具，它會感覺很神奇。一方面就像我們可以編寫複雜的程序，完成研究，或者開展業務，但另一方面就像太陽繼續升起，人們繼續上演他們的人生戲劇一樣，生活仍在繼續。
貝拉尼：你剛才提到了通用人工智能。在之前的一次採訪中，你把它定義爲能夠模仿中等能力的人，或以這種人的能力完成任務的軟件。
奧特曼：我現在還是這麼認爲。
貝拉尼：我們會在何時實現通用人工智能？
奧特曼：就這個問題而言，我認爲我們需要對通用人工智能有一個更準確的定義。關於時間問題，這裏有太多的誤解，我認爲這不是真正有用的，也不是人們真正想要的。我覺得人們想知道的是，當他們說通用人工智能的時間線是什麼時候時，世界會變得非常不同？變化率什麼時候會變得超高？經濟運行的方式何時會真正不同？比如我的生活什麼時候會改變？出於一系列原因，這可能與我們想象的大不相同。
就像我完全可以想象一個世界，我們能夠在任何領域建立起博士級別的智能。我們可以使研究人員更有效率，也許甚至可以做一些自主研究。從某種意義上說，這聽起來應該會大幅的改變世界。我可以想象，即便是我們這樣做了，然後我們會在幾年後發現全球GDP增長並沒有發生變化，諸如此類。想想就很奇怪。我最初並不知道這一切會如何發展，所以我不知道如何給出一個準確的時間表，說明我們何時達到人們關心的里程碑。但我認爲重要的是，我們將會擁有比現在更強大的系統，而且一代會比一代強。
我已經放棄給出實現通用人工智能的時間表，但我認爲在接下來的許多年裏，我們每年都會推出更強大的系統。
六、更關心細微的、容易忽視的危險，GPT-5將會比GPT-4聰明得多
貝拉尼：關於通用人工智能的風險問題，目前斯坦福大學內部討論的焦點是這項技術帶來的倫理問題。你如何看待通用人工智能可能給我們帶來的風險？你認爲通用人工智能的最大風險就像是災難性的事件，還是會更加微妙和有害？你更關心微妙的危險還是災難性的危險，還是兩者都不關心？
奧特曼：我更關心細微的危險，因爲我認爲我們更容易忽視這些危險。許多人都在談論災難性的風險，很多人都在思考。我不想低估這些風險，我認爲它們真的很嚴重，是真實存在的。但我認爲我們至少知道要注意這一點，併爲此付出大量努力。我不認爲我們應當知道要注意什麼，這真的很難。雖然我對兩種風險都感到擔憂，但未知真的很難，所以我更擔心這些。
貝拉尼：你特別擔心的是什麼？
奧特曼：我會說，它們是已知的未知，我很擔心。儘管我認爲短期內其他主要技術的變化比我們想象的要小，但從長期來看，我認爲它們的變化比我們想象的要大。我擔心社會能以什麼樣的速度適應此類新鮮事物，以及我們需要多長時間才能找到新的社會契約，以及我們需要多長時間才能做到。
貝拉尼：我想知道，當你開始這段旅程時，你是否覺得自己有足夠的自我意識？
奧特曼：首先，我認爲韌性是可以被傳授的，我相信它一直是最重要的生活技能之一。我認爲在未來的幾十年裏，韌性和適應性將比過去很長一段時間以來更重要。我認爲這真的很棒。關於自我意識的問題，我認爲我有自我意識，我相信每個人都認爲他們有自我意識。但我是否真有自我意識從內心來說很難說。
貝拉尼：我能問你一些我們學校在自我意識介紹課上提到的問題嗎？
奧特曼：當然可以。
貝拉尼：你可以通過它們尋找聯繫。我認爲你可以提出與衆不同的想法，或者是某個領域的專家提出的想法。你最危險的弱點是什麼？
奧特曼：最危險的弱點，這確實是一個有趣的問題。我想我有一種過於支持科技的一般偏差。這只是因爲我很好奇，我想知道科技會走向何方。我相信技術總體來說是一件好事。但我認爲這是一種對我和其他人都有好處的世界觀，得到了很多積極的強化，但它並不總是正確的。當它不正確時，對很多人來說都很糟糕。
貝拉尼：哈佛大學心理學家戴維·麥克利蘭（David McClelland）指出，所有的領導者都受三種原始需求之一的驅動：被人喜歡的歸屬感需求、成就需求和權力需求。你認爲你受什麼需求的驅動？
奧特曼：我認爲在我職業生涯的不同時期，所有這些驅動力都存在。我認爲它們就像人們經歷過的不同層次。目前，推動我的是我想要做一些有意義、有趣的事情。
貝拉尼：你最後一次感覺最像自己的時候在哪裏？最後一個問題，你對GPT-5最感興趣、而人們不會感興趣的是什麼？GPT-5發佈時，什麼是讓你最感興趣的？
奧特曼：我還不知道。這聽起來像是逃避問題的回答，但我認爲GPT-5最重要的是它會比現在的模型更智能。我們能夠高度確定，GPT-5將會比GPT-4聰明得多，GPT-6將比GPT-5聰明得多，我們還沒有接近這條曲線的頂端，我們知道該怎麼做。一般來說新一代產品會更聰明，但我認爲這句話的重要性仍然被低估了。
七、觀衆問答環節，關於人類未來、核聚變發電、OpenAI
一點也不擔心人類創新會遭到扼殺
問：我想和你談談負責任地部署通用人工智能的問題。隨着你們不斷接近這一目標，你們打算如何在OpenAI中負責任地部署通用人工智能，以防止扼殺人類創新並繼續刺激創新？
奧特曼：我實際上一點也不擔心人類創新會遭到扼殺。我真的深深相信，人們會用更好的工具給我們帶來驚喜。我認爲所有的歷史都表明，如果你給人們更多的影響力，他們會做更多令人驚訝的事情，這就像我們都從中受益一樣。
我越來越擔心我們如何負責任地做這件事。我認爲隨着模型變得越來越有能力，我們的標準也越來越高。我們做了很多事情，如紅隊和外部審計，我認爲這些都很好。但我認爲隨着模型變得越來越強大，我們將不得不進行更多的迭代部署，在查看它們如何使用、在哪裏可以使用、在哪裏不可以使用方面有更緊密的反饋循環。過去，我們每隔幾年就會發布一次主要的模型更新，現在我們可能必須想辦法增加迭代頻率，部署比過去更具迭代性的產品。我們還不太清楚如何做到這一點。我認爲這將是負責任的部署的關鍵，也是我們讓所有利益相關者協商人工智能規則的方式。隨着時間的推移，這也會變得越來越複雜。
問：你之前提到對更大、更快的計算機的需求越來越大。然而，世界上許多國家還建立數據中心或大型計算機的基礎設施。你如何看待這些對全球創新的影響？
奧特曼：我從兩個方面回答這個問題。首先，無論計算機在哪裏製造，我認爲全球和公平地使用計算機進行訓練和推理是非常重要的。我們使命的核心內容之一，是我們讓所有想使用ChatGPT的人都可以免費使用它，但一些國家除外。在這些國家，我們有充分的理由不能或不想運營ChatGPT。我們如何考慮讓世界更多地使用訓練計算將變得越來越重要。我確實認爲，我們進入了一個世界，在這個世界中，我們可以把使用一定數量的計算視爲一種人權，我們必須弄清楚如何將其分發給世界各地的人們。
其次，我認爲各國將越來越意識到擁有自己的人工智能基礎設施的重要性。我們希望找到一種方法，我們現在花了很多時間在世界各地旅行，在許多想要建立這些基礎設施的國家建立這些基礎設施。我希望我們能在幫助實現這一目標方面發揮一些小作用。
問：我的問題是，你認爲人工智能在未來的太空探索或殖民中扮演什麼角色？
奧特曼：我認爲太空顯然不適合生物生存。因此，如果我們能派出機器人，這似乎更容易。
讓自己置身於正確的同齡人群體中非常重要
問：我的問題是你如何知道一個想法是非共識的，我認爲它複雜的原因是因爲它很容易過度思考。我想今天連你自己都說人工智能是創業的熱土。我認爲這是相當一致的意見，也許是理所應當的。這是一個轉折點。我認爲很難根據你所談論的群體來判斷一個想法是否爲非共識。普通大衆對技術的看法與技術社區不同，甚至技術精英和技術社區的看法也不同。所以我想知道你是如何驗證你的想法是否足夠非共識。
奧特曼：首先，你真正想要的是對的。逆向思維和犯錯仍然是錯誤的。如果你在過去的兩輪衰退中預測了17次，你可能對正確的兩次進行了逆向投資，甚至也可能一次也不會。但是你又錯了15次。因此，我認爲人們很容易對逆向思維過於興奮，並再次認爲正確是最重要的事情。群體通常是正確的，但最有價值的地方是當你逆向思維且正確時。這並不總是以0或1的方式發生。就像房間裏的每個人都同意人工智能是創業的正確領域，如果房間裏的一個人找到了創業的正確領域，然後成功地執行，其他人都會認爲，這是不是你能做的最好的事情。這才是最重要的。
所以，當傳統智慧是正確的時候，你可以選擇傳統智慧，然後找到你有獨特見解的領域。就如何做到這一點而言，我確實認爲讓自己置身於正確的同齡人群體中非常重要，而且找到有獨創性的思考者也很重要。但這其中有一部分是你不得不獨自完成的，或者至少有一部分是你獨自完成的，或者是和其他一些人一起完成的。他們可能會成爲你的聯合創始人或者其他什麼人。我想，當你在這個圈子裏走得太遠的時候，我怎麼才能找到合適的同齡人呢？不知何故，你已經進入了錯誤的框架。所以，要學會相信自己，相信自己的直覺，相信自己的思維過程，隨着時間的推移，這會變得容易得多。無論他們說什麼，我認爲沒有人在他們剛剛起步時真正擅長這個。就像你還沒有鍛煉出肌肉，你所面臨的社會壓力都與此相反。隨着時間的推移，你會越來越好，不要過早地把自己的標準定得太高。
核聚變最終會主導地球上的發電，1度電成本僅幾分錢
問：我很想知道你對未來幾十年能源需求將如何變化的預測，以及我們如何實現可再生能源一度電成本僅爲1美分的未來。
奧特曼：這一天也許會到來，但不確定。我希望我們能保持足夠高的標準。我忘了現在世界上的發電量到底是多少，讓我們假設它是3000或4000千兆瓦。即使我們爲人工智能再增加100千兆瓦電力，它不會實質性地得到改變，但會改變一些；如果我們爲人工智能增加1000千兆瓦電力，這是一個實質性的變化。但我們還想做很多其他的事情。
能源似乎確實與我們能爲人們提供的生活質量有很大關係。我的猜測是核聚變最終會主導地球上的發電。我覺得應該是最便宜、最豐富、最可靠、最密集的來源。我可能是錯誤的，也許會是太陽能加存儲。無論如何，會有一些情況下，其中一個比另一個更好。但是這些都是押注未來全球範圍內一度電成本僅爲1美分。
關於OpenAI：將在未來進行更多的架構調整
問：關於OpenAI去年發生的事情。你從中學到了什麼？你談到了韌性，所以你從離開那家公司和隨後回歸的經歷中學到了什麼？微軟當時也向你發出了邀請函，是什麼讓你重新回到OpenAI？
奧特曼：沒有我，OpenAI完全可以運轉幾天。OpenAI團隊非常有彈性。就像我們知道從現在到實現通用人工智能，可能會發生更多瘋狂的事情，因爲世界不同地區的情緒反應越來越強烈，賭注也在不斷增加。我認爲團隊在很大的壓力下會做得很好，但在開始試驗前絕不會知道這一點。這段經歷讓我明白，OpenAI團隊有超強的適應能力，並準備好運營公司。
關於我爲什麼回來的問題。就像第二天早上董事會打電話給我，問我你對回來有什麼想法？我當時回答說：“不！我瘋了！”然後我想了想，我意識到我有多愛OpenAI，多愛團隊成員，多愛我們建立的文化和使命。我有點想徹底實現它。
問：我們能不能談談OpenAI的架構問題？OpenAI採用了俄羅斯套娃的架構模式，讓非營利公司持有營利公司的股權。
奧特曼：我們逐步的採用了這種架構模式。如果我們能重來一次，我不會選擇這麼做。在OpenAI創辦之初，我們並不認爲自己會有一款產品。我們就像是一個人工智能研究實驗室。當時我們也不了解語言模型、API或者ChatGPT。所以如果你們要創業，必須明白終有一天你會出售一款產品。我們當時並沒有想到這些。我們也沒有意識到我們需要在算力上投入巨額資金。我們沒意識到我們會有這麼好的業務。
問：你聯合創辦OpenAI之初的打算是什麼？
奧特曼：我們只是想向前推進人工智能研究。
問：我們在學校裏向學生傳授驅動企業家精神的原則。美國成立時，治理的架構是憲法，權利通過三權分立進行制衡。有人對權力集中持懷疑態度，它會讓事情進展緩慢。很難讓事情發生變化，但它會非常穩定。OpenAI的估值接近1000億美元，而董事會的作用卻非常有限。它是一個非營利董事會，只是負責履行受託人職責。OpenAI的這種架構是否合理？
奧特曼：如果我們當時能夠知道當前的狀況，我們就不會這麼做。但如果無法徹底改變，就必須適應。我們有一個真正關心的使命。我們認爲，人工智能會非常重要。我們認爲我們有一個可以學習的算法，我們知道它會隨着規模的擴大而變得更好。我們不知道隨着規模的擴大，它會如何變得更好，我們希望推進這一點。我們認爲這將是人類歷史上一件非常重要的事情，我們沒有把所有事情都做好，但我們在大問題上是正確的，我們的使命沒有改變。
我們已經調整了結構，我們將在未來進行更多的調整。但是，就像生活不是一個問題集一樣，你不可能一下子很好地解決所有問題。企業運營和教學完全不同。我的建議是相信自己去適應。雖然會有點亂，但你可以做到。
問：我這麼問是因爲OpenAI的重要性。OpenAI董事會與公司財務相獨立，這樣就能夠以非營利組織的身份做出決定。董事會將考慮利益相關者的利益，因爲他們是利益相關者的受託人。這些利益相關者並不是OpenAI的股東，而是全人類。所有的OpenAI股東都是獨董，不會接受來自你和OpenAI的財務獎勵。
奧特曼：我覺得賺錢是好事。我認爲資本主義是個好東西。OpenAI的聯合創始人們都持有公司股權，但我從未見過他們不認真對待公司使命。我們創建了一個架構，我們認爲這是一種讓激勵措施保持一致的方式。
問：你認爲通用人工智能會如何改變地緣政治？
奧特曼：我想了這麼多，我很難說出它實際上會做什麼。或者更準確地說，我很難說出它不會做什麼。我們之前討論過它也許不會太多改變日常生活。不過我感覺它確實對全球的權力平衡改變了很多。但是我沒有一個確切的答案。
問：在部署通用智能和負責任的人工智能時，你認爲人工智能系統有多大必要以某種方式識別自己的不安全性或不確定性，並將其傳達給外部世界？
奧特曼：總是對過度擬人化人工智能感到緊張，因爲我認爲這可能會導致一些奇怪的疏忽。但如果我們說像人工智能在多大程度上認識到自己的缺陷？我認爲建立這種能力非常重要。現在，這種能力能夠識別推理中的錯誤，並具有某種自省能力，這對我來說是非常重要的追求。
編輯/lambor