AI偽造性暗示照片:大部分是女性 Meta正審查處理情況


4月17日,Meta董事會周二(4月16日)表示,監督委員會正在審查該公司在Facebook和Instagram上流傳的兩張由AI生成的色情圖片處理情況,並且兩張圖片都是女性。董事會發言人表示,它提供相關圖片的描述,但沒有透露該事件涉及女性的名字,以防止進一步傷害。

隨著人工智能技術的不斷進步,如今假冒的圖像、視頻幾乎與人類創造的內容難辨真偽,導致網上大量合成的性暗示照片數量不斷增加,而其中大部分都是女性。

監督委員會表示,在Instagram上的一個帳戶,發佈一張疑似印度公眾人物的裸體女性圖片,該圖像由人工智能生成,並且此帳戶僅發佈AI生成的印度女性圖片。另一張圖片則是出現在Facebook的群組中,由人工智能生成一張疑似美國女性公眾人物的裸露照片。

一些行業高管表示,希望立法將使用人工智能制造的假冒行為定為刑事犯罪,並要求科技公司防范該類產品的不正當使用行為。

在另一個帖子中,Meta承認這些情況,並承諾執行董事會的決定。


相關推薦

2022-08-22

認真排查、及時整改。教育部教材局在組織專傢開展教材審查時,指導不足、監督不夠,對教材問題排查整改工作督促不到位。經查,沒有發現人教社相關人員與插圖作者吳勇、教材整體設計藝術總顧問呂敬人之間存在經濟利益

2024-01-29

政府從上任第一天起就優先考慮的問題。據解,這些深度偽造的Taylor照片是由某人或某些人使用AI生成,並上傳到一傢不良網站上的,而這傢網站,還充斥著很多以名人為主角的不雅照。這些虛假AI照片的發酵速度極快,很快便

2023-11-20

(起源於印度古吉拉特邦的舞蹈)的視頻,‘多虧’深度偽造。AI時代深度偽造內容的傳播是一場大危機,值得註意的是,這很快引發社會的不滿。”“深度偽造”最常見的形式是AI換臉、語音模擬等。莫迪表示,深度偽造視頻

2024-04-08

爭對手Freepik,也已經有兩位大買傢,2億張圖片檔案中的大部分,會以2至4美分的價格授權。OpenAI當然也不會落後,它不僅是Shutterstock的早期客戶,還與包括美聯社在內的至少四傢新聞機構簽署許可協議。讓內容“合乎道德”同

2022-10-12

有媒體周三報道稱,推特正在審查其關於永久禁止用戶發言的政策,可能使其內容審核機制符合埃隆·馬斯克對社交媒體平臺的願景。媒體援引多名知情人士的話稱,推特一直在探索是否有其他可以取代禁言這一禁令的內容審核

2024-03-19

在一個考驗第一修正案在互聯網時代的作用的重要案件中,美國最高法院周一聽取關於聯邦政府打擊其所認為的虛假、誤導或危險網絡信息的能力的辯論。去年9月,美國最保守的聯邦上訴法院--美國第五巡回上訴法院發佈一項影

2024-04-24

physic、Mistral AI 和 Stability AI。生成式人工智能引發人們對偽造圖像的日益關註,包括網上偽造 CSAM 照片的泛濫。斯坦福大學的研究人員在 12 月發佈的一份報告中發現,用於訓練某些人工智能模型的流行數據集包含 CSAM 圖像的鏈

2023-11-06

生成的貼紙在被要求提供"巴勒斯坦穆斯林男孩"的照片時顯示一個持槍男孩的圖像。照片: WhatsappMeta 旗下的 WhatsApp 允許用戶試用其 AI 圖像生成器來"創建貼紙"(即我們慣用的"表情包")。該功能提示用戶&q

2024-08-28

賬號,從中獲利40萬元。有數據顯示,2023年基於AI的深度偽造欺詐暴增3000%,深度偽造也就是deepfake,是learning和fake的組合,主要指用AI深度學習的技術,合成某個人的圖片或視頻、甚至聲音,最常見的便是AI換臉。工信部更是在

2023-11-23

即使沒有ChatGPT這樣的工具,真想造假的學者也能很容易偽造出一套數據。One More Thing此外,這兩天一段關於ChatGPT的視頻在抖音上也是火得不行。視頻中,終於畢業的歪果仁小哥直呼“感謝ChatGPT幫助我完成所有作業和考試”(手

2024-04-07

生成器無法準確生成“亞洲男性和白人妻子”或者“亞洲女性和白人丈夫”這類圖像,讓人大跌眼鏡。我們來看看怎麼回事。The Verge 嘗試使用“Asian man and Caucasian friend”(亞洲男性和白人朋友)、“Asian man and white wife”(亞洲

2024-05-08

,他們在社交媒體上找到原始圖片,從而發現這張照片是偽造的。如果LV=沒有進行調查,詐騙者可能就會因為一起根本沒有發生的事故而獲得賠償。偽造車輛事故圖片和原圖片這並非個別案例,保險公司Allianz和Speedclear透露,“

2022-10-06

廣告,其中“我不脫”三個字還被刻意放大。Ulike的營銷暗示女性拜金且不擇手段,本質上是對女性的污名化,把女性放在一個被凝視的客體位置。Ulike電梯廣告最終該廣告遭到深圳市監管部門查處並罰款50萬元,相關廣告也被要

2023-05-12

之間的任意轉換。ImageBind為機器提供一個整體的理解,將照片中的物體與它們的聲音、3D形狀、冷暖程度、以及它們的移動方式聯系起來。Meta稱,ImageBind使機器能夠更同步、更全面、更直接地從不同信息形式中學習,進一步向人