本文作者：张逸凡
编辑：申思琦
来源：硬AI
2024年7月4日-7月6日，为期三天的世界人工智能大会（WAIC）在上海举行。连续的高温天气，并未阻挡大家的热情。尽管气温不断攀升，会场上依旧人头攒动。
来自学术界、产业界的精英们就AI的发展前景、挑战及治理等关键问题展开了深入探讨。从清华大学的薛澜、周伯文，到新思科技CEO盖思新，再到黑石集团创始人苏世民，以及三位图灵奖得主罗杰·瑞迪、曼纽尔·布卢姆和姚期智，与会专家们从不同角度审视了AI的重要性。
盖思新 —— 新思科技总裁兼首席执行官
未来8-9年，AI推动半导体行业翻倍增长
从半导体行业的角度分享了见解。他指出，AI正推动半导体行业快速增长，预计8-9年内销售额将从5000亿美元翻倍至1万亿美元。盖思新还强调了在芯片设计过程中考虑安全性、合规性和能效的重要性。
苏世民 —— 黑石集团董事长、首席执行官兼联合创始人
AI改变企业估值方式，应从5-10年的周期评估AI对投资标的的影响
黑石集团创始人苏世民分享了AI对投资领域的影响。他认为AI正在改变企业估值方式，一些公司因AI融合而受益，而另一些则面临挑战。
苏世民强调了在投资决策中考虑AI长期影响的重要性，建议从5-10年的周期来评估AI对投资标的的潜在影响。他指出，投资者需要对AI可能带来的颠覆性变化保持警惕，同时也要认识到AI创造的新机会。苏世民建议投资者关注那些能够有效整合AI的企业，同时警惕可能因AI发展而被淘汰的行业。
但在增长之外，与会者也提示了AI背后的风险。
三位图灵奖得主 —— 罗杰·瑞迪、曼纽尔·布卢姆和姚期智
罗杰·瑞迪：AI可能带来生产效率和GDP的数倍增长
罗杰·瑞迪则呼吁要平衡看待AI的发展。他指出，每项新技术都会带来机遇和挑战，不应因为潜在风险就放弃发展。他预测AI可能带来生产效率和GDP的数倍增长。强调了AI作为工具的重要性，呼吁更多关注如何利用AI提升人类能力。瑞迪强调需要投资研究， 探索如何更好地利用AI技术，使AI成为增强人类智能的工具，帮助人们的工作效率提高10-100倍。
曼纽尔·布卢姆：CTM模型为AI开发提供了启发
曼纽尔·布卢姆分享了他在意识研究领域20多年的心得。他介绍了他与同事共同开发的"有意识的图灵机"(CTM)模型。这一模型将大脑比作一个剧场，其中有观众(神经元)在聆听舞台上发生的事情(有意识的想法)。台上有人在讲话、提问题、回答，这就是向所有观众进行广播。发生意识的时候，所有的听众听到了所传播的有意识的想法。布卢姆强调，CTM模型的独特之处在于它没有中央决策者，而是让每个"参与者"都能贡献重要信息。这一模型为理解人类意识提供了新视角，也为开发通用人工智能提供了启发。
姚期智：关注AI带来的风险，研究如何与之共存
姚期智着重讨论了AI带来的潜在风险及其治理问题。他将AI风险分为三类:
1）网络安全风险的扩大
2）社会结构快速变革带来的未知风险
3）生存或存在风险
姚期智指出，作为计算机科学家，他特别关注第一类和第三类风险。他强调，AI的出现使得网络安全面临的挑战与40-50年前的情况相似，需要专家关注。同时，他也对AI可能带来的存在风险表示担忧，认为人类创造了一个可能比自己强大得多的新物种，如何与之共存是一个重大挑战。
薛 澜 —— 清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长
积极与不利，人工智能的双重性质
薛澜以联合国可持续发展目标(SDG)的169个具体指标为例，指出人工智能可能对其中134个（79%）带来积极促进作用，但也可能对59个(约35%)产生不利影响，这些不利影响包括技术内在问题、数据安全、算法歧视等，这些都需要通过有效的治理来管控。
周伯文 ——上海人工智能实验室主任、清华大学惠妍讲席教授
做好AI安全和性能的平衡
提出了"AI 45度平衡率"的概念。他强调需要在AI的安全性与性能之间找到平衡，并提出了"可信AGI的因果之梯"的技术路径，包括泛对齐、可干预和能反思三个阶段。
本文作者：張逸凡
編輯：申思琦
來源：硬AI
2024年7月4日-7月6日，爲期三天的世界人工智能大會（WAIC）在上海舉行。連續的高溫天氣，並未阻擋大家的熱情。儘管氣溫不斷攀升，會場上依舊人頭攢動。
來自學術界、產業界的精英們就AI的發展前景、挑戰及治理等關鍵問題展開了深入探討。從清華大學的薛瀾、周伯文，到新思科技CEO蓋思新，再到黑石集團創始人蘇世民，以及三位圖靈獎得主羅傑·瑞迪、曼紐爾·布盧姆和姚期智，與會專家們從不同角度審視了AI的重要性。
蓋思新 —— 新思科技總裁兼首席執行官
未來8-9年，AI推動半導體行業翻倍增長
從半導體行業的角度分享了見解。他指出，AI正推動半導體行業快速增長，預計8-9年內銷售額將從5000億美元翻倍至1萬億美元。蓋思新還強調了在芯片設計過程中考慮安全性、合規性和能效的重要性。
蘇世民 —— 黑石集團董事長、首席執行官兼聯合創始人
AI改變企業估值方式，應從5-10年的週期評估AI對投資標的的影響
黑石集團創始人蘇世民分享了AI對投資領域的影響。他認爲AI正在改變企業估值方式，一些公司因AI融合而受益，而另一些則面臨挑戰。
蘇世民強調了在投資決策中考慮AI長期影響的重要性，建議從5-10年的週期來評估AI對投資標的的潛在影響。他指出，投資者需要對AI可能帶來的顛覆性變化保持警惕，同時也要認識到AI創造的新機會。蘇世民建議投資者關注那些能夠有效整合AI的企業，同時警惕可能因AI發展而被淘汰的行業。
但在增長之外，與會者也提示了AI背後的風險。
三位圖靈獎得主 —— 羅傑·瑞迪、曼紐爾·布盧姆和姚期智
羅傑·瑞迪：AI可能帶來生產效率和GDP的數倍增長
羅傑·瑞迪則呼籲要平衡看待AI的發展。他指出，每項新技術都會帶來機遇和挑戰，不應因爲潛在風險就放棄發展。他預測AI可能帶來生產效率和GDP的數倍增長。強調了AI作爲工具的重要性，呼籲更多關注如何利用AI提升人類能力。瑞迪強調需要投資研究， 探索如何更好地利用AI技術，使AI成爲增強人類智能的工具，幫助人們的工作效率提高10-100倍。
曼紐爾·布盧姆：CTM模型爲AI開發提供了啓發
曼紐爾·布盧姆分享了他在意識研究領域20多年的心得。他介紹了他與同事共同開發的"有意識的圖靈機"(CTM)模型。這一模型將大腦比作一個劇場，其中有觀衆(神經元)在聆聽舞臺上發生的事情(有意識的想法)。臺上有人在講話、提問題、回答，這就是向所有觀衆進行廣播。發生意識的時候，所有的聽衆聽到了所傳播的有意識的想法。布盧姆強調，CTM模型的獨特之處在於它沒有中央決策者，而是讓每個"參與者"都能貢獻重要信息。這一模型爲理解人類意識提供了新視角，也爲開發通用人工智能提供了啓發。
姚期智：關注AI帶來的風險，研究如何與之共存
姚期智着重討論了AI帶來的潛在風險及其治理問題。他將AI風險分爲三類:
1）網絡安全風險的擴大
2）社會結構快速變革帶來的未知風險
3）生存或存在風險
姚期智指出，作爲計算機科學家，他特別關注第一類和第三類風險。他強調，AI的出現使得網絡安全面臨的挑戰與40-50年前的情況相似，需要專家關注。同時，他也對AI可能帶來的存在風險表示擔憂，認爲人類創造了一個可能比自己強大得多的新物種，如何與之共存是一個重大挑戰。
薛 瀾 —— 清華大學蘇世民書院院長、清華大學人工智能國際治理研究院院長
積極與不利，人工智能的雙重性質
薛瀾以聯合國可持續發展目標(SDG)的169個具體指標爲例，指出人工智能可能對其中134個（79%）帶來積極促進作用，但也可能對59個(約35%)產生不利影響，這些不利影響包括技術內在問題、數據安全、算法歧視等，這些都需要通過有效的治理來管控。
周伯文 ——上海人工智能實驗室主任、清華大學惠妍講席教授
做好AI安全和性能的平衡
提出了"AI 45度平衡率"的概念。他強調需要在AI的安全性與性能之間找到平衡，並提出了"可信AGI的因果之梯"的技術路徑，包括泛對齊、可干預和能反思三個階段。
