【TechWeb】2025年剛剛開始,這也是OpenAI創立的第十年,OpenAI CEO阿爾特曼發佈了一篇名爲「反思」(Reflections)的博客文章,回顧了ChatGPT的發展歷程,公司遇到的困難,並再次提到了他被解僱的事件。
阿爾特曼表示,整個事件是善良的人治理公司時的一個重大失敗(a big failure of governance by well-meaning people),包括他自己在內,「我希望我能相信我今天比一年前是一個更好、更周到的領導者。」
反思
ChatGPT的兩歲生日才過去一個多月,我們現在進入了能夠進行復雜推理的模型的新範式。新年讓人們陷入反思,我想分享一些關於到目前爲止的進展以及在此過程中學到的一些東西的個人想法。
當我們越來越接近通用人工智能(AGI)時,現在似乎是審視我們公司進展的重要時刻。我們仍然有很多需要理解的,仍然有很多我們不知道的,現在還爲時尚早。但我們比開始時知道得多得多。
我們大約在九年多前創立了OpenAI,因爲我們相信AGI是可能的,並且它可能是人類歷史上最具影響力的科技。我們想弄清楚如何構建它,並使其廣泛受益;我們很興奮能夠嘗試在歷史上留下印記。我們的雄心壯志異常高遠,我們同樣相信這項工作可能會以同樣非凡的方式造福社會.
當時,幾乎沒有人關心,如果他們關心,大多是因爲他們認爲我們沒有成功的可能。
2022年,OpenAI是一個安靜的研究實驗室,正在研究一個暫時稱爲「與GPT-3.5聊天」的東西。(我們在研究方面比在命名方面更擅長。)我們一直在觀察人們使用我們API的遊樂場功能,並知道開發者真的很享受與模型對話。我們認爲圍繞這種體驗構建一個演示將向人們展示一些關於未來的重要內容,並幫助我們使模型變得更好、更安全。
我們最終仁慈地將其稱爲ChatGPT,並於2022年11月30日推出。
我們一直抽象地知道,總有一天我們會達到一個臨界點,人工智能革命將被啓動。但我們不知道那一刻會是什麼時候。令我們驚訝的是,結果是這個。
ChatGPT的推出引發了一個我們從未見過的增長曲線——在我們公司、我們的行業以及更廣泛的世界中。我們終於看到了我們一直希望從人工智能中獲得的巨大好處,並且我們可以看到很快會有更多好處到來。
這並不容易。道路並不平坦,正確的選擇並不明顯。
在過去的兩年中,我們不得不從頭開始圍繞這項新技術構建整個公司。除了通過實踐來培訓人們之外,沒有其他方法,當技術類別是全新的時候,根本沒有人可以告訴你應該怎麼做。
在如此高速度下從頭開始構建公司是一個混亂的過程。通常是兩步向前,一步後退(有時是一步向前,兩步後退)。在進行過程中不斷糾正錯誤,但在進行原創工作時,沒有真正的手冊或路標。在未知水域中快速移動是一種難以置信的體驗,但對所有參與者來說也是極其壓力巨大的。衝突和誤解比比皆是。
這些年是我迄今爲止最令人滿意、最有趣、最好、最有趣、最疲憊、最壓力巨大且——尤其是最後兩年——最不愉快的年份。壓倒性的情感是感激;我知道有一天我會退休在我們的農場上看着植物生長,有點無聊,並會回想起我小時候夢想的工作是多麼酷。我嘗試在任何給定的週五,當在下午1點之前有七件事出錯時,記住這一點。
一年多前的一個週五,那天出錯的主要事情是我在一個視頻通話中意外被解僱,然後我們掛斷電話後,董事會發表了一篇關於此事的博客文章。我當時在拉斯維加斯的一家酒店房間裏。在某種程度上,這幾乎不可能解釋,就像一個出錯的夢一樣。
在沒有預警的情況下公開被解僱引發了一些非常瘋狂的幾個小時,以及一些非常瘋狂的幾天。「戰爭迷霧」是最奇怪的部分。我們沒有人能夠得到關於發生了什麼或爲什麼的滿意答案。
在我看來,整個事件是善良的人治理公司的一個重大失敗,包括我自己在內。回顧過去,我當然希望我當初能做得不同,我希望我能相信我今天比一年前是一個更好、更周到的領導者。
我還學到了擁有一個具有多樣化觀點和廣泛經驗的董事會在管理一系列複雜挑戰時的重要性。良好的治理需要大量的信任和信譽。我很欣賞許多人共同努力爲OpenAI構建了一個更強的治理體系,使我們能夠繼續追求我們的使命,確保AGI造福全人類。
我最大的收穫是我要感激的東西有多少,以及我要感謝的人有多少:感謝在OpenAI工作的每個人,他們選擇花費時間和精力去追求這個夢想,感謝在危機時刻幫助我們的朋友,感謝支持我們並信任我們幫助他們取得成功的合作伙伴和客戶,以及感謝在我生活中向我展示他們有多在乎的人. [1]
我們都以更團結和積極的方式回到了工作中,我爲我們自那以後的專注感到非常自豪。我們做出了我們迄今爲止一些最好的研究。我們的每週活躍用戶從大約1億增長到超過3億。最重要的是,我們繼續將技術推向世界,人們似乎真的喜歡它,並且解決了真正的問題。
九年前,我們真的不知道我們最終會變成什麼;即使現在,我們也只是有點知道。人工智能的發展經歷了許多曲折,我們預計未來還會有更多。
一些曲折是令人愉快的;有些是艱難的。看着一連串的研究奇蹟發生是有趣的,許多懷疑者變成了真正的信徒。我們還看到一些同事分道揚鑣,成爲了競爭對手。隨着團隊規模的擴大,團隊往往會更替,而OpenAI的規模增長非常快。我認爲這是不可避免的——初創公司通常在每個新的主要規模水平上都會看到大量的人員流動,而在OpenAI,數字每幾個月就會增加幾個數量級。過去兩年就像一家正常公司的十年。當任何公司以如此快速的速度增長和演變時,利益自然會分歧。當任何一家在重要行業處於領先地位的公司試圖與之競爭時,許多人會出於各種原因攻擊它,尤其是當他們試圖與之競爭時。
我們的願景不會改變;我們的策略將繼續演變。例如,當我們開始時,我們沒有想到我們會不得不構建一家產品公司;我們認爲我們只是要做出色的研究。我們也沒有想到我們會需要如此瘋狂的資金。現在有一些我們需要構建的新事物是我們幾年前不理解的,未來還會有我們現在幾乎無法想象的新事物。
我們對我們迄今爲止的研究和部署記錄感到自豪,並致力於繼續推進我們對安全和利益共享的思考。我們繼續相信,使人工智能系統安全的最佳方式是通過迭代和逐步將其推向世界,讓社會有時間適應並與技術共同演變,從經驗中學習,並繼續使技術更安全。我們相信成爲安全和對齊研究的世界領導者的重要性,並用來自現實世界應用的反饋來指導這項研究。
我們現在有信心,我們知道如何構建我們傳統理解中的AGI。我們相信,在2025年,我們可能會看到第一批人工智能代理「加入勞動力隊伍」,並實質性地改變公司的產出。我們繼續相信,將出色的工具逐步交給人們,會導致廣泛分佈的出色結果。
我們現在開始將目標轉向超越這一點,轉向真正意義上的超級智能。我們喜歡我們目前的產品,但我們在這裏是爲了輝煌的未來。有了超級智能,我們可以做任何其他事情。超級智能工具可以極大地加速科學發現和創新,遠遠超出我們自己所能做的,並進而極大地增加豐富和繁榮。
這聽起來像是科幻小說,現在甚至談論起來有些瘋狂。沒關係——我們以前去過那裏,我們再次去那裏也沒關係。我們相當有信心,在未來幾年,每個人都會看到我們所看到的,並且認識到在行動時要非常謹慎,同時最大化廣泛的利益和賦權是多麼重要。鑑於我們工作的可能性,OpenAI不能是一家普通的公司。
能夠在這個工作中扮演一個角色,是多麼幸運和和令人感到謙卑啊。
註釋:
[1]在那幾天中,有很多人做了難以置信的大量工作來幫助OpenAI和我個人,但有兩個人從所有人中脫穎而出。
Ron Conway(注:硅谷著名天使投資人)和Brian Chesky(注:Airbnb聯合創始人)遠遠超出了職責範圍,以至於我甚至不確定該如何描述。我當然多年來一直聽說Ron的能力和堅韌不拔,並且在過去幾年中與Brian共度了很多時間,得到了大量的幫助和建議。
但沒有什麼比與人們在戰壕中並肩作戰更能看到他們真正能做什麼了。我相當有信心,如果沒有他們的幫助,OpenAI會分崩離析;他們連續幾天晝夜不停地工作,直到事情完成。
儘管他們工作得難以置信地努力,但他們保持冷靜,並在整個過程中保持清晰的戰略思考和良好的建議。他們阻止了我犯幾個錯誤,並且自己沒有犯任何錯誤。他們利用他們龐大的網絡來滿足一切所需,並能夠應對許多複雜的情況。而且我確信他們還做了一些我不知道的事情。
但我最會記住的是他們的關心、同情和支持。
我以爲我知道支持創始人和公司的樣子,在某種小程度上我確實知道。但我以前從未見過,甚至從未聽說過像這些人所做的那樣,現在我更充分地理解了他們爲什麼擁有傳奇的地位。他們是不同的,都完全值得他們真正獨特的聲譽,但他們相似之處在於他們卓越的能力,能夠移山幫助他人,並在需要時堅定不移地承諾。有了他們,科技行業會更好。
還有其他人像他們一樣;這是我們行業的一個非常特別的事情,並且比人們意識到的更多地使一切順利運作。我期待着將這種幫助傳遞下去。
在更個人的層面上,特別感謝Ollie在那個週末和一直以來的支持;他在各方面都是不可思議的,沒有人能要求一個更好的夥伴。