在一個可預見的時間內，AI還是可控的
近日，“AI大神”、第四範式公司創始人、CEO戴文淵做客格隆匯高端訪談《格隆博士會客廳》。
在與格隆的對話中，戴文淵在談到AI的進化隱憂時指出，在一個可預見的時間內，還是可控的。
碳基生命利用 AI 去毀滅碳基生命離我們更近。
他擔心大家花過多時間擔憂短期不會發生的事，反而不太關注更近可能會發生的事情。
隨着AI的進化，AI會否產生自主意識控制或奴役人類的擔憂愈來愈多。
不過戴文淵認爲，在一個可預見的時間內，還是可控的。
首先，這樣的能力不是很多人能做的到，現在極少人能做到這樣，並且要做到這樣的效果需要消耗大量的資源。
如果我們發現，當 AI 有了這方面能力以後，我們可以及時的切斷這些資源。
第二個，以這一代的AI基本理論基礎，它需要人類去設置目標，而後面 AI 做的所有的事情都是基於人類設置的目標產生的結果。
如果發現 AI 發生了一些意想不到的事情，那我們可以召集一些最頂尖的科學家去研究是不是目標設置的有問題。
如何去修正目標、如何通過修正目標讓 AI 不要去做這些事情，這些在他看來，至少可預見的時間內，都還是可控的。 戴文淵表示，作爲 AI 從業者，他更擔心的不是AI 有了自主的意識去替代人類或者去奴役人類，而是大家花了過多的時間去擔憂一些短期不會發生的事情，而更近可能會發生的事情反倒不太關注。 在他看來，這一代的 AI 取決於人類設置的目標。設置一個好的目標， AI 就在做好的事情；設置不好的目標， AI 就會幹不好的事情。
另外一個方面， AI 所獲取的成本其實在降低。當這個成本降低到一定的程度後，最需要擔心的不是 AI 本身，而是我們人類當中不好的那部分人。 因爲每個人的想法都會有不一樣且又很難控制，這裏面就會產生很多不可控因素。
這個不可控因素如果沒有 AI 疊加，在過去每一個人的破壞力是有限的，社會總體是可控的。
但如果由於 AI 門檻不斷下降，人破壞力得到提升，這個時候 AI 對社會的影響就是我們不可忽視的地方。
戴文淵也提出了自己的的擔心和焦慮。他希望讓公衆更多的關注到這個點上，不過戴文淵也表示，現在整個社會形態下，沒有一個特別好的解法。所以在 AI 成本進一步下降之前，可能需要一種新的社會組織形態，才能控制住這些不可控因素的影響。