來源：財聯社
①在過去幾年裏，被稱爲“有效利他主義”的社會思潮運動，在硅谷各人工智能公司的員工和高管產生了激烈的分歧； ②這股思潮的信奉者與非信奉者間的針鋒相對，似乎也正成爲OpenAI“宮鬥事件”背後，真正的“無形之手”。
在過去幾年裏，被稱爲“有效利他主義”的社會思潮運動，在硅谷各人工智能公司的員工和高管產生了激烈的分歧。
而這股思潮的信奉者與非信奉者間的針鋒相對，似乎也正成爲OpenAI過去一週震驚世界的“宮鬥事件”背後，真正的“無形之手”。
有效利他主義是如何影響AI領域的？
有效利他主義(Effective Altruism)於21世紀初萌芽，這套哲學理念希望用證據和推理來選擇最有效的方式以造福他人，即最大或更好地行善。對有效利他主義者而言，一個很重要的目標就是改善這個世界，而且做到愈有效率愈好。這意味着：他們會透過理性分析、衡量狀況，確保手中的資源能夠發揮最大的作用，以最終達到改善世界的目的！
這個理念被那些致力於動物權利和氣候變化的人所接受，他們從哲學家、數學家和未來預測家那裏汲取思想，影響着硅谷和其他地方的人工智能研究界。
按照這一理念推演，在互聯網科技領域，“開源”“免費”“去中心化”等均有利於最大程度地行善，而以營利爲基本目標的公司組織形態則與之背道而馳。而在AI領域，有效利他主義者相信，精心打造的人工智能系統在注入正確的人類價值觀後，將帶來一個黃金時代，但如果做不到這一點，可能會帶來世界末日般的後果。
OpenAI於一年前發佈了ChatGPT，它的問世其實就部分基於有效利他主義的原則。
奧特曼和馬斯克於2015年開始組建OpenAI，兩人當時的願景便旨在實現通用人工智能(AGI)，這是一種推理能力達到或超過人類水平的系統。他們當時表示，希望以一種造福人類的方式實現這一目標，而不僅僅是爲企業牟利。
而在某種程度上，OpenAI過去一週的動盪，本身也是一場由此產生的理念之爭：一方是相信市場規律的群體，而另一方是相信賦予道德、理性、數學和精確調整的機器，才能更爲安全地指引人類未來的有效利他主義者。
四位董事中有三位有效利他主義者？
有效利他主義者認爲，一味追求人工智能可能會毀滅人類。對於人工智能的發展，他們更傾向於安全而非速度。而不少這場運動的參與者，本身便是過往一年幫助形成人工智能熱潮的引領者。
據熟悉OpenAI內部爭議的人士表示，上週五被OpenAI董事會解僱的奧特曼，與公司首席科學家兼董事會成員Ilya Sutskever在人工智能安全問題上，就曾發生過激烈衝突。而Sutskever過往的一系列立場，其實就反映了有效利他主義者對當前AI高速發展的擔憂。
如同許多人在這場OpenAI“宮斗大戲”後了解到的那樣，Ilya Sutskever是“深度學習之父”Geoffrey Hinton的學生。Geoffrey Hinton今年早些時候從谷歌辭職，就是爲了能更好地對人工智能安全提出警告，而作爲Hinton的學生，Sutskever對AI的擔心很早就存在。
在今年7月，OpenAI正式宣佈成立一個新的研究團隊“超級對齊”(Superalignment)團隊，這恰恰便是由Sutskever領導的一項工作——計劃未來4年投入20%算力，用AI監督AI的方式，解決超智能“AI對齊”問題。“AI對齊”的意思是，要求AI系統的目標要和人類的價值觀與利益相一致。
而與Sutskever存有類似觀點的，還有最初投票驅逐奧特曼的另兩位董事——Tasha McCauley和Helen Toner。
Tasha McCauley是一位技術高管，也是有效利他主義慈善機構——有效風險投資公司(Effective Ventures)的董事會成員，而Helen Toner則是喬治城大學安全與新興技術中心的高管，該中心得到了一個致力於有效利他主義事業的慈善機構的支持。熟悉內情的人士說，他們在董事會中佔到了推翻奧特曼所需四票中的三票。
OpenAI週三宣佈，奧特曼將重新擔任該公司首席執行官，而上述三人——Ilya Sutskever、Tasha McCauley和Helen Toner，則均已不在最新的董事會成員名單之上。
可以說，有效利他主義陣營雖然在這場“宮斗大戲”的前半段，閃電般地驅逐了奧特曼，但最終仍在這場博弈中“一敗塗地”。然而，眼下發生在OpenAI身上的一切，就真的已經是這場故事的最終大結局了嗎？
顯然，未必！
理念之爭料將伴隨AI發展
事實上，從2014年左右開始，有效利他主義者就已經開始意識到先進人工智能系統存在導致人類滅絕的風險——這被他們視作一種與氣候危機程度相當的危險。這一啓示恰逢瑞典哲學家尼克·博斯特羅姆出版了《超級智能》一書，該書將“回形針”作爲人工智能危險的象徵。
這個設想的概念很簡單，但卻又很可怕——如果一臺機器的唯一目標就是最大化的量產回形針，那它有可能會發明些匪夷所思的技術，只爲了把宇宙中能用的資源都轉化成回形針，最終毀滅人類。
去年秋天的一天，數千個OpenAI徽標形狀的回形針，被寄到了該公司位於舊金山的辦公室。似乎沒有人知道他們來自哪裏，但每個人都知道他們的含義……
這個惡作劇據說是由OpenAI同城競爭對手Anthropic的一名員工乾的，該公司本身就是由一群OpenAI出走的前員工創建，單飛的原因據說也是基於人工智能安全問題的分歧。
而很有意思的是，在Ilya Sutskever等人上週末最初逼走奧特曼後，第一時間爆出的消息——居然便是想要讓OpenAI和Anthropic合併。
在許多並非有效利他主義的信奉者眼中，他們的思想似乎很難被認同。風險投資家、OpenAI投資人Vinod Khosla在《The Information》的一篇評論文章中就寫道：“OpenAI董事會成員對'有效利他主義'的信仰及其錯誤應用，可能會阻礙世界通往人工智能的巨大利益之路。”
奧特曼今年春天在全球巡迴演講時，雖然警告人工智能可能造成嚴重危害，但他同樣認爲有效利他主義是一種“漏洞百出的運動”，表現出“非常奇怪的突發行爲”。
風險投資公司Andreessen Horowitz的聯合創始人Marc Andreessen和初創企業孵化器Y Combinator的首席執行官Garry Tan也對這一運動提出了批評。Tan稱這是一種沒有實質意義的“美德信號哲學”，應予以摒棄，以解決真正的問題，創造人類的富足。
普林斯頓大學一個研究該運動的團隊研究員Shazeda Ahmed則指出，有效利他主義者對人工智能將毀滅人類的迫切恐懼，“遮蔽了他們接受對該文化外部批評的能力。這對任何試圖解決任何棘手問題的群體來說都不是好事。”
不過，人們如今顯然將無法忽視有效利他主義在硅谷乃至AI領域的影響力。這場運動的支持者包括Facebook的聯合創始人Dustin Moskovitz和Skype聯合創始人Jann Tallinn，他們已承諾爲有效利他主義研究提供數十億美元。在去年FTX爆雷之前，FTX創人Sam Bankman-Fried也曾認捐了數十億美元。
最後，還有一個舉足輕重的名字顯然更爲不容人們忽視——特斯拉CEO馬斯克。
馬斯克曾表示，有效利他主義運動的創始人、英國哲學教授威廉·麥克阿斯基爾（William MacAskill)“與我的哲學非常吻合”。而在過去一年，馬斯克已多次表達了對AI可能毀滅人類的擔憂。
編輯/Corrine