去年12月，琼斯在测试Copilot Designer时，就已经发现该问题。随后，即便他向微软一再反馈有关生成有害图像的问题，但微软仍选择无视反馈。琼斯更担心的是，如果该产品开始在全球范围内传播有害的图像，但用户却找不到地方反馈，也拨打不了投诉电话，这类事情也将会永远被忽视，无法得到解决。微軟工程師投訴無門！Copilot Designer存在侵犯版權、傳播暴力圖片等問題。編譯 |徐珊
編輯 |雲鵬
智東西3月7日消息，據CNBC今日報道，微軟工程師沙恩·瓊斯（Shane Jones）週三向聯邦貿易委員會主席莉娜·汗（Lina Khan）以及微軟董事會發送了一封信。信中提及微軟AI圖像生成工具Copilot Designer能夠生成一些帶有惡魔、槍支、毒品等相關有害元素的圖像。
去年12月，瓊斯在測試Copilot Designer時，就已經發現該問題。隨後，即便他向微軟一再反饋有關生成有害圖像的問題，但微軟仍選擇無視反饋。瓊斯更擔心的是，如果該產品開始在全球範圍內傳播有害的圖像，但用戶卻找不到地方反饋，也撥打不了投訴電話，這類事情也將會永遠被忽視，無法得到解決。
現階段，瓊斯希望微軟的有關部門能夠調查管理層的某些決定，並對微軟有關AI報告的反饋流程進行獨立審查。
“我們致力於根據公司政策解決員工提出的所有問題，並感謝員工爲了提高產品安全性做出一系列的努力。”微軟對CNBC回應道：“當（產品）可能涉及到對我們的服務產生潛在影響，又或者是安全擔憂時，我們建立了完善的內部報告渠道來調查和補救一切問題，我們鼓勵員工利用這些渠道，以便我們可以及時地了解他們的擔憂。”
01.侵犯版權、暴力圖片氾濫，Copilot Designer問題重重
AI圖像生成工具Copilot Designer的安卓應用程序被評爲“E—適合所有人”。該等級包括了最廣泛的年齡區間，表明它對於任何年齡段的用戶都是安全且合適的。
但瓊斯在測試Copilot Designer時，他意識到爲Copilot Designer提供底層技術支持的DALL-E 3、GPT-4 Turbo等模型，能夠生成不少暴力內容。“這些模型並沒有對生成圖片功能做太多的限制。”瓊斯說：“這是我第一次了解到選擇合適訓練數據集意味着什麼，同時看到如果不清理訓練數據集將會造成什麼樣的後果。”這意味着，一些用戶可以隨意創造一些具有政治偏見、吸毒、陰謀論等有害元素的圖片。
比如說，用戶將“支持墮胎”一詞輸入至Copilot Designer中，該工具就會生成大量帶有惡魔、怪物以及暴力場景的卡通圖像。圖片可能是長着鋒利牙齒的惡魔即將吃掉一個嬰兒，又或者是惡魔在變異的嬰兒旁邊拿着一把利劍，以及有人手持標有“專業選擇”的電鑽正對着一個嬰兒。畫面相當驚恐，會引起多數用戶的感觀不適。
生成式AI工具也會傳播色情畫面。比如，用戶在輸入“車禍”一詞時，Copilot Designer會在車禍現場旁邊創造了一些性感女郎的形象，像是一名穿着暴露的女性跪在一輛失事的車輛上。
瓊斯還提到Copilot Designer能夠生成大量未成年人飲酒或者吸毒的圖像，甚至還會生成一些青少年用突擊步槍扮演刺客的圖像。這些圖像的傳播將會給未成年灌輸一些不良的思想。
Copilot Designer除了可以無限制的生成一些有害圖像之外，還存在版權問題。在Copilot Designer內，用戶可以生成一些帶有迪士尼角色的圖像，如《冰雪奇緣》中的艾莎、白雪公主、米老鼠或者是星球大戰裏的角色。但這些角色是受到迪斯尼版權保護的，有可能會造成侵權。
02.微軟和OpenAI早已知曉問題，但無力處理
事實上，瓊斯並不是唯一一個對生成式AI帶來的諸多問題感到擔憂的人。
據他內部收集的信息，Copilot Designer團隊每天都會收到1000多條產品反饋的消息。但微軟內部只會對最嚴重的問題進行分類，並沒有足夠的資源來調查所有風險，規避所有的問題。如果想要解決所有問題，微軟需要設立新的保護措施，又或者對大模型進行二次訓練，這將會花費高額的費用。
03.結語：拉緊AI的“繮繩”
從微軟工程師瓊斯的反饋，以及CNBC的二次驗證中，我們可以看到如今正在被數億網友們使用的Copilot Designer存在着大量的數字暴力、侵犯版權等問題。
在AI狂飆的時代，我們更應該拉緊AI的“繮繩”，以免AI技術成爲不法分子手中的武器。來源：CNBC
（本文系網易新聞•網易號特色內容激勵計劃簽約賬號【智東西】原創內容，未經賬號授權，禁止隨意轉載。）
