share_log

防堵AI深伪诈骗!谷歌搜索结果将标注由AI生成的图像

防堵AI深僞詐騙!谷歌搜索結果將標註由AI生成的圖像

華爾街見聞 ·  09/18 01:42

谷歌將在搜索、Google Lens和Android上的Circle to Search功能的「關於此圖像」窗口中標記AI生成和編輯的圖像,類似的提示可能會出現在YouTube等其他谷歌的其他平台上。谷歌表示,將在今年晚些時候分享更多相關信息。

谷歌週二表示,計劃對谷歌搜索進行調整,使用戶更清楚地知道搜索結果中,哪些圖像是由AI生成或由AI工具編輯的。

該公司表示,在接下來的幾個月中,谷歌將在搜索、Google Lens和Android上的Circle to Search功能的「關於此圖像」窗口中標記AI生成和編輯的圖像,類似的提示可能會出現在YouTube等其他谷歌的其他平台上。谷歌表示,將在今年晚些時候分享更多相關信息。

值得注意的是,只有包含「C2PA元數據」的圖像才會在搜索中被標記爲AI處理過的。C2PA(內容來源與真實性聯盟)是一群致力於制定技術標準的組織,旨在追蹤圖像的歷史,包括捕獲和/或創建圖像的設備和軟件。

目前,包括谷歌、亞馬遜、微軟、OpenAI和Adobe在內的公司都支持C2PA。然而,該聯盟的標準尚未得到廣泛採用。此前有媒體報道,C2PA在推廣和互操作性方面面臨諸多挑戰,目前只有少數生成式AI工具和徠卡、索尼的相機支持該組織的規範。

此外,與任何元數據一樣,C2PA元數據可以被刪除、擦除或損壞到無法讀取的程度。而一些流行的生成式AI工具(如xAI的Grok聊天機器人用於圖像生成的Flux)生成的圖像不含C2PA元數據,部分原因是它們的開發者尚未同意支持該標準。

但分析認爲,儘管如此,有措施總比沒有好,尤其是在AI深度僞造(deepfakes)迅速傳播的情況下。調查顯示,大多數人都擔心被深度僞造欺騙,以及AI可能會助長虛假宣傳的傳播。根據一項估計,涉及AI生成內容的騙局在2023年到2024年之間增長了245%。德勤預計,與深度僞造相關的損失將從2023年的123億美元飆升至2027年的400億美元。

譯文內容由第三人軟體翻譯。


以上內容僅用作資訊或教育之目的,不構成與富途相關的任何投資建議。富途竭力但無法保證上述全部內容的真實性、準確性和原創性。
    搶先評論