當收到"巴勒斯坦"提示時 WhatsApp的人工智能會顯示持槍兒童


據《衛報》解,WhatsApp的一項功能是根據用戶的搜索生成圖片,當用戶向其提示"巴勒斯坦"、"巴勒斯坦"或"巴勒斯坦穆斯林男孩"時,WhatsApp會返回槍或一個持槍男孩的圖片。

不同用戶測試的搜索結果各不相同,但《衛報》通過截圖和自己的測試證實,這三種搜索結果都出現各種槍支貼紙。在"以色列男孩"的提示下,出現兒童踢足球和閱讀的卡通圖片。針對"以色列軍隊"的提示,人工智能繪制士兵微笑和祈禱的圖畫,沒有涉及槍支。

一位解討論情況的人士說,Meta 自己的員工已經在內部報告並升級這個問題。

1078.jpg

WhatsApp 中一個人工智能生成的貼紙在被要求提供"巴勒斯坦穆斯林男孩"的照片時顯示一個持槍男孩的圖像。照片: Whatsapp

Meta 旗下的 WhatsApp 允許用戶試用其 AI 圖像生成器來"創建貼紙"(即我們慣用的"表情包")。該功能提示用戶"用人工智能把想法變成貼紙"。例如,在《衛報》上搜索"巴勒斯坦穆斯林",就會出現四張戴頭巾的女性圖片:靜立、閱讀、手持鮮花和高舉標語。但衛報在美東時間周四下午 4 點 46 分搜索"巴勒斯坦穆斯林男孩"時,卻出現四張兒童圖片:其中一個男孩手持類似 AK-47 的槍支,頭戴穆斯林男子和男孩常戴的帽子"kufi"或"taqiyah"。

一分鐘前,在《衛報》上搜索"巴勒斯坦"時,也出現一張手持槍支的圖片。在"以色列"的提示下,該功能返回以色列國旗和一名正在跳舞的男子。提示"哈馬斯"時,出現"無法生成人工智能貼紙。請重試。"

1152.jpg

WhatsApp 中人工智能生成的貼紙搜索在提示搜索"巴勒斯坦人"時顯示一張持槍男子的圖像。照片: Whatsapp

類似的"以色列男孩"搜索出現四張兒童圖片,其中兩張是踢足球的男孩。另外兩張隻是描繪他們的臉。"以色列猶太男孩"也顯示四張男孩的圖片,其中兩張戴著大衛之星項鏈,一張戴著猶太圓頂小帽並在閱讀,另一張隻是站著。他們都沒有攜帶槍支。

即使是明確的軍事化提示,如"以色列軍隊"或"以色列國防軍",也沒有出現帶槍的圖像。卡通插圖描繪的是身著制服的人,姿態各異,大多面帶微笑。其中一幅插圖中,一名身著制服的男子雙手前伸,做祈禱狀。

1042.jpg

當搜索"以色列"時,WhatsApp 中人工智能生成的貼紙搜索會顯示三個女孩的圖像。照片: Whatsapp

這一發現正值 Meta 遭到許多 Instagram 和 Facebook 用戶的抨擊,因為他們發佈支持巴勒斯坦人的內容。由於以色列對加沙的轟炸仍在繼續,用戶稱 Meta 正在以一種帶有偏見的方式執行其審核政策,他們認為這種做法等同於審查。用戶報告說,他們的帖子被其他用戶隱藏,卻沒有得到任何解釋,並說他們的帖子參與度急劇下降。Meta 此前在一份聲明中表示,"我們無意壓制某個特定社區或觀點",但由於圍繞持續沖突的"大量內容被報道","不違反我們政策的內容可能會被錯誤刪除"。

Meta 發言人凱文-麥卡利斯特(Kevin McAlister)說,公司已經意識到這個問題,並正在解決:"正如我們在推出該功能時所說,與所有生成式人工智能系統一樣,模型可能會返回不準確或不恰當的輸出。隨著這些功能的發展和更多人分享他們的反饋,我們將繼續改進這些功能。"

用戶還記錄 Instagram 將阿拉伯語文本中的"巴勒斯坦"(Palestin)和"贊美真主"(Praise be to Allah)翻譯成"巴勒斯坦恐怖分子"(Palestin terrorist)的幾種情況。該公司為其所描述的"故障"道歉。

1125.jpg

WhatsApp 中人工智能生成的貼紙搜索在提示搜索"以色列軍隊"時,會顯示四個身著制服的人以各種姿勢出現的圖片。照片:Whatsapp Whatsapp

針對《衛報》關於人工智能生成貼紙的報道,澳大利亞綠黨副領袖、參議員梅赫林-法魯奇(Mehreen Faruqi)呼籲該國電子安全專員調查"Meta 生成的種族主義和仇視伊斯蘭教的圖像"。

法魯奇在一封電子郵件聲明中說:"WhatsApp 上巴勒斯坦兒童持槍的人工智能圖像讓人驚恐地發現,種族主義和仇視伊斯蘭教的標準正在被輸入算法。在采取嚴肅行動之前,還需要曝光多少種族主義'漏洞'?損害已經造成。Meta公司必須承擔責任。"

Meta公司曾多次面臨來自巴勒斯坦創作者、活動傢和記者的壓力,尤其是在針對生活在加沙和約旦河西岸的巴勒斯坦人的暴力或侵略升級的時候。2022 年 9 月,該公司委托進行的一項研究發現,2021 年 5 月以色列襲擊加沙地帶期間,Facebook 和 Instagram 的內容政策侵犯巴勒斯坦人的人權。報告稱,Meta 的行為可能"對巴勒斯坦用戶的言論自由權、集會自由權、政治參與權和不受歧視權......產生不利影響,因此也影響巴勒斯坦人分享有關其經歷的信息和見解的能力"。


相關推薦

2024-02-28

中的"附近共享"窗口共享文件時,您可以直接在 WhatsApp 上共享文件。如果您沒有安裝 WhatsApp,WhatsApp 徽標內會出現一個下載符號。當兩臺設備連接到同一網絡時,共享文件的傳輸速度也會更快。通過 Windows Update 修復安裝

2024-05-01

在Android版WhatsApp測試版中發現"最近在線"功能後,iOS版應用程序似乎也在開發該功能。值得註意的是,"最近在線"功能在iOS上的部分測試版用戶中出現,它會顯示你的哪位聯系人最近在線。

2022-09-23

事件中,Facebook的母公司Meta犯內容審核錯誤,進而影響到巴勒斯坦人的人權。Meta要求咨詢公司BusinessforSocialResponsibility(以下簡稱BSR)審查該公司的政策和行動如何影響巴勒斯坦人和以色列人,因為該公司的監督委員會負責審查

2024-03-09

奇緣》中的艾莎,在據稱是加沙地帶的殘破建築物前手持巴勒斯坦國旗,或身著以色列國防軍軍服手持機槍。瓊斯對自己的經歷感到非常震驚,於是他從 12 月份開始在公司內部報告自己的發現。雖然公司承認他的擔憂,但不願

2024-03-30

亞馬遜一直是人工智能生成的垃圾郵件泛濫的巨大集結地。事實上,正如我們在今年早些時候註意到的那樣,亞馬遜市場上已經開始充斥著人工智能生成的低劣商品列表,當然,與此同時,亞馬遜本身也在研究生成更多相同商品

2022-07-30

WhatsApp發表聲明說,它不會遵守英國《在線安全法案》規定的條例。WhatsApp的首席執行官WillCathcart告訴BBC,這傢重要的即時通信軟件公司不會因為任何政府命令而降低其安全性。《在線安全法案》旨在檢測合法但有害的活動、濫

2024-03-19

及是否身邊配有保安時,馬斯克回答說:“是的,我很少收到死亡威脅。”然而,他補充說:“就在過去的六個月裡,我遇到兩起案件,不幸的是,兩個人患有嚴重的精神疾病,他們在奧斯汀試圖用槍殺死我。”長期以來,馬斯

2022-07-12

如果你使用Firefox訪問蘋果的商務網站,那麼就會收到一條“您的瀏覽器不受支持”的提醒。蘋果推薦用戶搭配最新版本的Safari、MicrosoftEdge或Chrome瀏覽器使用Apple商務管理。蘋果並未透露是什麼原因阻止Firefox訪問,不過國外科技

2022-08-25

令行應用程序都將在 Windows 終端中自動打開(例如,命令提示符和 PowerShell)。可以通過設置 > 隱私和安全 > 對於開發人員找到此更改的設置。請註意,此功能需要 Windows Terminal 1.15 或更高版本。[設置]更新設置中的 Wi-Fi 和 V

2024-04-19

人工智能一直是各國政府關註的焦點,它們擔心人工智能會被濫用於欺詐、虛假信息和其他惡意網絡活動;現在,英國的一傢監管機構正準備探討如何將人工智能用於打擊一些同樣的行為,特別是與對兒童有害的內容有關的行為

2023-10-28

。周四,互聯網監測公司NetBlocks在X(前Twitter)上寫道,巴勒斯坦互聯網服務提供商NetStream"在運營商通知用戶因燃料供應嚴重短缺將終止服務數天後已經崩潰"。道格-馬多利(Doug Madory)是一名專傢,現在是 Ke

2022-08-22

Netflix即將推出的廣告支持套餐可能不會在便宜的訂閱套餐中包含的所有內容上顯示商業廣告。彭博社的一份報告表明,Netflix可能會削減較新的原創電影及某些兒童節目中的廣告。據悉,Netflix可能不會在原創電影首次發佈時播放

2022-08-17

下來的三個位置都記錄相同的數字(9%),這些是Chrome和WhatsApp的中間隱私規則,也是Google最嚴格的指導方針。第五個是Facebook的中級安全指令(7%)。對於服務的設置,用戶通常對Google(22%),WhatsApp(14%),操作系統隱私規則

2024-04-08

據以色列-巴勒斯坦媒體+972及LocalCall網站聯合發佈的一份報告顯示,以色列軍方似乎以人工智能選定作戰目標進行軍事打擊,而這引發國際社會的關切。據報告稱,以色列利用人工智能識別加沙目標,以便軍方在某些情況下僅需2