來源：財聯社
作者：牛佔林
①谷歌搜索業務主管利茲·裏德承認，一些奇怪的、不準確的或無益的AI搜索結果確實出現了；
②專家警告稱，這種信息檢索應該是谷歌的核心業務，不能急於把它交給AI模型。
當地時間週五，科技巨頭谷歌宣佈，在發現“AI概覽”(AI Overviews)功能出現了一系列錯誤信息後，已經對其AI系統進行了“十多項技術改進和更新”。
在5月中旬的年度I/O開發者大會上，這家科技巨頭髮布了衆多有關AI的產品和服務，其中一項內容是將AI融進其主導全球的搜索引擎之中，即AI概覽功能，首先在美國市場推出。簡而言之，當用戶進行搜索時，首先出現在眼前的不再是網頁鏈接，而是一塊由AI整理的摘要。
然而，不久之後，社交媒體用戶開始分享AI概覽給出的一系列離譜答案的截圖。谷歌對此辯護稱，AI概覽功能通常是準確的，並且事先經過了廣泛的測試。
不過到了週五，谷歌搜索業務主管利茲·裏德承認，一些奇怪的、不準確的或無益的AI搜索結果確實出現了。
雖然其中許多搜索結果很愚蠢，但也有一些是危險或有害的謊言。比如，在披薩上塗膠水以幫助奶酪粘住，每天應該至少吃一塊小石頭等。再加上一些網友推波助瀾，一些虛假的截圖也在社交媒體上被廣泛分享，導致事件熱度越來越高。
裏德表示，已經對AI概覽增加了更多的“觸發限制”，以提高對某些查詢問題(如健康相關問題)答案的準確性和可靠性。
但在谷歌宣佈更新，並經過測試後，發現仍然存在不少問題。谷歌AI概覽旨在爲人們提供他們正在尋找的信息的權威答案，而不必點擊網站鏈接的排名列表，但目前看來，該功能仍然存在很大缺陷。
一些AI專家長期以來也一直警告谷歌，不要將其搜索結果拱手讓給AI生成的答案，這可能會延續偏見和錯誤信息，並危及在緊急情況下尋求幫助的人。大語言模型的工作原理是，根據它們接受過訓練的數據，預測哪些詞語最能回答人們提出的問題，這就導致它們經常胡編亂造，即AI幻覺。
裏德對此表示，AI概覽通常不會 “產生幻覺”，也不會像其他大語言模型產品那樣胡編胡造，因爲它們與谷歌的傳統搜索引擎更緊密地結合在一起，只顯示最權威或相關性最高的網頁支持的內容。
她寫道：“當AI概覽出錯時，通常是由於其他原因：比如誤解了查詢，誤解了網絡上語言的細微差別，或者沒有很多有用的信息。”
但華盛頓大學教授、計算機科學家Chirag Shah指出，這種信息檢索應該是谷歌的核心業務，不能急於把它交給AI模型。“因爲即使AI不胡編亂造，也會把錯誤信息傳遞給用戶，谷歌這樣搞的話，可能會帶來相當糟糕的結果。”
編輯/Jeffy