隨著人們對人工智能生成的虛假圖片充斥互聯網的擔憂升溫,世界領先的圖片庫網站之一正在公開出售以色列-哈馬斯戰爭的人工智能圖片。在AdobeStock上快速搜索"以色列-巴勒斯坦沖突",會出現數十張人工智能生成的、聲稱展示中東沖突的圖片;事實上,絕大多數結果都是人工智能生成的。
有些圖片看起來比其他圖片更真實,但乍一看,有幾張圖片可能被認為是真實的。媒體《未來主義》指出,一些小型出版物刊登這些圖片,但沒有標明它們是人工智能。
其中一些圖片令人浮想聯翩:例如,一對穆斯林母子站在戰火紛飛的廢墟中。還有一些圖片顯示耶路撒冷阿克薩清真寺後面升起的濃煙。
阿克薩清真寺的 AI 圖像
煙霧從耶路撒冷西岸升起
今年早些時候拍攝的耶路撒冷老城聖殿山附近西岸升起濃煙的真實照片。| 馬特-格羅庫特
報道此事的澳大利亞網站 Crikey 采訪墨爾本皇傢墨爾本理工大學(RMIT University)的一位高級講師。
T.J. Thomson 博士告訴 Crikey:"這些圖片有可能誤導人們,扭曲現實,擾亂我們對真相和準確性的認知。"
湯姆森博士說,在他的研究過程中,他發現新聞編輯室尤其關註錯誤信息,但也有人擔心人工智能圖像可能會取代冒著生命危險捕捉沖突真實圖像的實地攝影師。更具諷刺意味的是,這些人工智能圖像很可能是在沖突地區的真實照片上訓練出來的,而這些照片是由身處火線的攝影師拍攝的,他們不可能得到有意義的補償。
在 Adobe Stock 上搜索"以色列-巴勒斯坦沖突",返回的大多是 AI 圖像。
其中有些圖片的人工智能生成效果更為明顯。
Adobe 為此聯系 PetaPixel,並發表以下聲明:
"Adobe Stock 是一個市場,要求所有生成的 AI 內容在提交許可時都必須標註為生成的 AI 內容。根據這些要求,這些特定圖片在提交和授權時都被標註為生成式人工智能。我們認為,讓客戶知道哪些 Adobe Stock 圖像是使用生成式人工智能工具創建的非常重要。
Adobe致力於打擊虛假信息,並通過內容真實性倡議(Content Authenticity Initiative)與出版商、相機制造商和其他利益相關者合作,推動內容憑證的采用,包括在我們自己的產品中。內容憑證讓人們能夠看到有關數字內容如何拍攝、創建或編輯的重要背景信息,包括在創建或編輯數字內容時是否使用人工智能工具"。
Adobe 去年宣佈接受來自 Midjourney、DALL-E 和 Stable Diffusion 等生成器的人工智能生成的作品,並且是唯一一傢制定此類政策的大型圖片庫網站。
今年 6 月,Stock Performer 的一份報告顯示,人工智能圖片的表現優於 Adobe Stock 上的真實照片。該圖片庫攝影師分析網站發現,人工智能圖片每月每張圖片的平均收入比照片或其他格式的圖片高出四倍半之多。