“未來兩三年，大模型的商業化將繼續在成本和token質量上相互妥協。”
作者：蘇打
編輯：tuya
公司情報專家《財經塗鴉》獲悉，4月14日，第二場“知乎AI先行者沙龍”在上海舉行。本場沙龍主題爲“問津”，知乎攜衆多AI行業專家、學者、從業者共同探索AI發展之路。知乎COO張寧出席活動，和衆嘉賓一同分享了AI領域的最新動態和未來展望。
現場，上海交通大學副教授劉鵬飛、上海人工智能實驗室司南大模型評測產品負責人葛佳燁、商湯科技Copilot應用技術負責人張濤、行雲集成電路創始人季宇，分別圍繞人工智能發展的關鍵因素、面臨的創新與挑戰等議題進行主題演講。
劉鵬飛在“當我們身處碳基智能與硅基智能的一場賽跑”主題演講中深入剖析了AI技術發展中人類面臨的思考和挑戰。隨着大模型在不同應用場景裏千變萬化的需求，如何評價大模型的能力，成爲具有挑戰性的話題。在主題爲“如何通過能力評測促進大模型發展”的演講中，葛佳燁談到上海人工智能實驗室發佈的OpenCompass2.0司南大模型評測體系，並介紹了該體系三位一體的搭建方式。
“新時代的新開發者，需要從勞動者轉變爲思考者，從執行者轉變爲決策者”。張濤圍繞AI時代的語言、新工具、新開發者三個方面進行了主題演講，他認爲開發者不再僅僅是編程者，也應該成爲創新者，成爲解決方案的探索者。
談及大模型的商業探索，季宇提出，在大模型時代AI芯片將迎來真正商業化的機會。在他看來，如今大模型把芯片產品的競爭力拉到了內存和互聯維度，這些維度相比算力都標準化得多，對解決產品定義問題提供了新的可能性。
此前， OpenAI創始人奧特曼曾提到過7萬億美元的計劃，大模型商業化過程中遇到的最大的難題之一是巨大的成本，每增加一個新用戶，背後的硬件資源都會相應增加。儘管目前大模型開始提供訂閱服務，但大部分還是在用愛發電，靠投資人的錢或者其他的業務掙過來的錢來支撐。今天日過千萬的通用大模型，一年需要一百億以上的收入才能實現收支平衡。
“但如果對於芯片行業的時間尺度適當拉長，這些都不是問題，因爲芯片本身也會持續演進，來不斷降低大模型Scaling所需要的資源。所以將來七萬億可能會逐漸變成七百億這樣一個不是那麼誇張的數字”。
季宇坦言，芯片行業的Scaling不只依靠半導體包括晶體的微縮來實現，英偉達也是通過架構上的持續推動，在已經放緩的摩爾定律包括半導體行業的演進上保持了非常高的性能增速，算力成本在過去十年降低了大概一千倍左右。
“今天大模型給我們打開了進一步的演進空間，其對芯片的需求從算力轉向了對於內存和互聯的需求，這裏的Scaling空間會更大。對於芯片行業而言，如今售賣token對硬件系統的要求就是售賣的訪存帶寬，已經跟今天大家最關心的工藝的規格已經沒有太強的關係了。”
由此，他認爲“這也是中國AI芯片行業一次真正實現商業化的巨大的機會”。“內存和互聯相比算力更加標準化，也在一定程度上降低了對先進製程的依賴，所以當前的競爭更接近於指標的競爭。我們今天可以做一個顯存規格包括容量規格都非常誇張的產品，來給大家帶來更好的大模型的商業落地的可能性”。
未來兩三年，大模型的商業化將繼續在成本和token質量上相互妥協。其中分爲兩派，一派是質量優先，更多希望去尋找超級應用，以此來覆蓋高昂的成本；另外一派是成本優先，用足夠便宜的硬件，一定程度上犧牲模型的質量，找一些垂直領域，比如寫代碼或者其他的一些垂直領域，來適應成本的訴求。
同時，伴隨芯片行業的發展，可能將來不再需要小的模型，因爲屆時大模型、超長上下文都會變相當便宜，隨處可得。“我們相信大模型隨着芯片行業的Scale和成本降低，逐漸走向千行百業，走進大家的生活。在大模型時代，AI芯片也迎來了商業化的機會，把產品定義、供應鏈的問題都解決好，也在更多的維度去創造出更有競爭力、更低成本的一些產品”。季宇指出。
在衆嘉賓主旨演講結束後，“知乎AI先行者沙龍”還舉行了一場主題爲“成本高昂，巨頭環伺，生成式 AI 下一步該怎麼走？”的圓桌對談，由津津樂道播客網絡創始人朱峯主持，對話RWKV元始智能COO羅璇、浙江大學百人計劃研究員趙俊博、阿里雲飛天實驗室趙中州等各AI專家，進行了一場精彩的思想碰撞與交流。
隨着大量相關行業從業者、專家、研究者在知乎圍繞AI大模型進行專業討論，知乎已經成爲全網最重要的AI趨勢發佈平台，也是AI從業者和創業者密度最高的社區。今年1月6日知乎在北京舉辦首屆“知乎AI先行者沙龍”，清華大學電子系教授汪玉、上海交通大學副教授張拳石、硅星人/品玩CEO駱軼航等行業人士悉數到場，共同探討AI新時代下的技術創新與產業應用。