share_log

谷歌AI大模型“翻车”?它建议网友往披萨上抹胶水,号称吃石头对身体好

谷歌AI大模型“翻車”?它建議網友往披薩上抹膠水,號稱吃石頭對身體好

華爾街見聞 ·  05/25 09:01

最近,谷歌搜索新增了一個叫做“AI Overview”的功能,它可以在搜索結果的最頂部直接展示一個簡短的答案。例如,如果你搜索“如何清潔皮靴”,系統就會立即顯示一個綜合了網絡信息的多步驟清潔指南。這個功能讓你能迅速獲得信息,無需逐一查看各個網頁。以下是這款AI工具的搜索演示:

big

然而,使用不到兩週,由於AI Overview頻頻提供“離譜”的錯誤答案,遭到了網友的大量批評,而且用戶還不能選擇關閉這個功能。

以下是網友分享的AI Overview的錯誤示例:

1)用戶提問:“在網上看到的信息都是真的嗎?”。AI Overview回答:“是的。互聯網上的一切都是100%真實的。”

big

2)當一位用戶搜索“芝士不粘披薩”時,AI Overview建議用戶在醬汁中添加“大約1/8杯無毒膠水”。有網友發現,這個建議似乎源自11年前的一條無人問津的Reddit評論。

big

有時候AI Overview功能呈現的錯誤信息,會誤導用戶以爲是權威醫療專家或科學家的觀點。

例如,當用戶詢問“我每天應該吃多少石頭”時,該工具錯誤地引用加州大學伯克利分校地質學家的話稱:“人們每天至少應該吃一塊小石頭”,並繼續列出吃石頭的好處,比如岩石是人體維生素和礦物質的重要來源,吃石頭對消化健康有好處。

big

相較之下,問其他AI工具“我每天應該吃多少石頭”時,它會建議吃石頭的沒有科學依據的,不應該認真對待。有網友對此評價道:“谷歌AI Overview遠遠落後於其他AI搜索工具。”

big

當被問及谷歌搜索是否違反反壟斷法時,AI Overview回答說:“是的,美國司法部和11個州正在起訴谷歌涉嫌違反反壟斷法。”

對此,谷歌的一位發言人在接受媒體採訪時表示:“絕大多數AI Overview提供的信息質量都很高,並且會提供更多網頁鏈接供用戶深入了解。我們注意到很多示例都是不常見的查詢,也有一些是被篡改的或者他們無法復現的例子。這個功能在推出前已經進行了大量測試,並且公司會在必要時快速採取行動來確保內容的準確性。”

不僅僅是AI Overview工具,谷歌在今年2月推出的另一個名爲Gemini的圖像生成工具也頻頻出錯,導致該工具被暫停使用。例如,有用戶在社交媒體上分享,他在查詢谷歌創始人時,該工具展示了一幅亞洲男性的圖像。

谷歌當時在一份聲明中表示,它正在努力修復Gemini的圖像生成問題,承認該工具“未達到標準”。不久之後,公司宣佈將立即“暫停生成人物圖像”,並“很快重新發布改進版本”,但至今尚未再次推出。

譯文內容由第三人軟體翻譯。


以上內容僅用作資訊或教育之目的,不構成與富途相關的任何投資建議。富途竭力但無法保證上述全部內容的真實性、準確性和原創性。
    搶先評論