PimEyes竟盜用死人照片來訓練面部識別算法


PimEyes面部識別搜索網站,搜索一張照片就能暴露你的信息,如果想要刪除照片,必須訂閱會員,而且該平臺在未獲得知情權情況下公佈他人照片,拿死人的照片來訓練算法。當你在PimEyes上搜索自己的照片時,你會看到很多自己的照片,還有跟你長得很像的人。

不過,這個工具在進行算法訓練的時候,使用的並不是用戶授權的照片,而是基於整個網絡各個平臺的照片,來進行面部識別。

所以在你的照片被識別後,搜索結果往往會出現很多色情網站的視頻的截圖。

不僅如此,該網站還被爆料,他們一直在盜用死人照片來訓練算法。


死人都不放過

有些人死,但是還在網絡上活著。

Cher Scarlett是一名軟件工程師、作傢。

最近,她在突然發現,她母親的照片,早已去世的曾曾曾祖母,18年去世的妹妹的照片都出現在PimEyes上。


所有這些照片都是她和她的傢人自己上傳到Ancestry上的圖片,但是該網站在其條款和條件中公開禁止“從Ancestry的網站和服務中搜刮數據,包括照片,以及轉售、復制或發佈在Ancestry上發現的任何內容或信息。”

因此Scarlett感到很震驚,這不僅僅違反Ancestry的政策,而且她已故的傢人,根本不可能允許PimEyes用這些照片訓練他們的算法。

這聽起來和Henrietta Lacks的故事有異曲同工之妙:“不死的海拉細胞”幾十年來一直被用於醫學研究和藥物開發,是幾百年來最重要的醫學成就之一。但這些研究其實是在她死後,未經她允許所開展的。在她不知情的情況下,她的細胞被研究、繁殖,甚至她的基因序列也被公開。


雖然這兩件事不是同一個量級的。但是,你的隱私在你死後應該得到尊重,這一點是成立的。

數字權利組織Access Now的高級政策分析師Daniel Leufer稱:“雖然PimEyes說不會直接通過他們的網站給你這個人的身份,但你點擊一下就可以看到圖片網站,網站上面確實就會出現你的名字。”

“一想到大傢的照片,會在不知情或不同意的情況下,被錄入面部識別軟件的生物識別器中,我相信應該不會有人再輕易往社交媒體上發照片。”Scarlett感到很失望。

“我妹妹已經死,她也不能起死回生,去讓這個網站撤下自己的照片。”

Scarlett這麼說是有典故的,因為她之前就跟這個網站掰扯過撤照片的事情。

想要刪掉自己的裸照,每個月充29.9刀

當Scarlett剛聽說這個軟件的時候,她想測試一下和自己長得像的名人有誰。

她發現自己和Britney Spears和Kate Hudson有些相似。


結果翻著翻著,她突然翻到自己十幾年前被性虐待的照片。

這段經歷曾經讓Scarlett一度想要輕生,以至於身體的自我保護機制讓她選擇性忘記這段經歷。

突然在網站上看到這些照片,她簡直崩潰,但是她強撐著去調查這些照片的來源,發現竟然需要支付會員費用才可以查看。

支付以後,她發現這些照片竟然分散在各個色情網站上,甚至還專門帶著有“虐待”、“窒息”、“折磨”等關鍵詞。

更要命的是,要想清除這些照片,不僅要提交申請驗明正身,還要每個月充值29.9美元,訂閱他們的服務,這樣才可以管理搜索結果,隱藏一些不想被看到的照片。


Scarlett一直嘗試清除照片,但是根本沒辦法永久消除。甚至她還買PimEyes最貴的服務,都無濟於事。網站表示,隻要照片後續出現在其它網站的鏈接上,還是會被顯示出來。

也就是說,每個月訂閱還不夠,還得成為尊貴的年會員,定期申請清理,而且每次審批的時間也很久。

直至去年4月,她在社交網絡上分享自己的經歷,PimEyes才真正批準她的刪除請求。

調查你,跟蹤你


PimEyes可以從一個人的照片,找到他們在網上發表的其他照片,包括發在網站、博客、新聞、文章上各處的圖片。

通過拼湊與這些圖片相關的信息,博客、文章的文字,工作網站上的照片,想要調查你的人就可以找出你的工作地點,跟蹤到你的住所。

“任何人的圖像,包括兒童,都可以在互聯網上被搜索和追蹤。”

被傢暴、虐待的人會喪失安全感;跟蹤者也會悄無聲息地做你甩不掉的尾巴,像恐怖電影一樣;在求職、升學時,該工具也可以調出你所有的背景信息,讓你毫無秘密可言。

人們指責PimEyes非法處理數百萬英國公民的生物識別數據,認為它沒有獲得圖像被分析者的許可。

然而,面對違反數據保護法的指控,PimEyes卻狡辯說,從技術上講,不可能知道他們分析多少英國公民的臉,相當於間接承認沒有獲得授權這一點。

盡管平臺稱,PimEyes不是為監視別人而設計的,但是該平臺並沒有相關的措施來進行監管,因此人們也對於該平臺的數據安全部門表示很不信任。


不過PimEyes在努力扭轉風評。他們說這個工具可以幫助記者調查,而且表示他們正在與德國、意大利、英國和美國的執法部門和人道主義組織進行合作,協助打擊兒童犯罪、人口販運和恐怖主義。

而且,就像上文提到的,在事情被揪出水面之後,PimEyes終於開始幫助女性,開始審批、刪除未經同意的裸露色情照片,也算是積點德。


相關推薦

2022-08-10

對齊模型為例。通過從面部識別特征點,以此為學習數據來訓練模型。從圖中可以看出,正面對齊時識別到68個特征點數量,而在側面對齊時,僅僅識別到39個特征點數量。側面輪廓視圖隱藏50%特征點,這不僅會妨礙識別,還會

2023-01-19

語言而受到抨擊,這些語言似乎表明它可以使用攝影師的照片來訓練用於AI圖像生成系統。該公司已重申情況並非如此。據悉,Adobe隱私和個人數據設置中“內容分析”部分的語言表示,默認情況下,用戶允許 Adobe“使用機器學

2022-12-19

礙者設計的。智能手機制造商和社交媒體公司也在相機和照片應用程序中加入人工智能功能,例如,自動對照片進行分類。亞馬遜表示,該系統主要希望消除的問題是給客戶發錯件,這並不經常發生。但是,考慮到一個倉庫一天

2024-05-24

AI技術方面再次實現重大突破,帶來全新的智能修復閉眼照片功能。這一功能的推出,標志著OPPO在AI圖像處理技術上的又一次飛躍,進一步提升用戶的拍攝體驗和照片質量。智能修復閉眼照片功能,利用Reno12系列強大的AI算法,

2022-07-20

皮膚移動、拉伸和皺起的方式而發生輕微改變。經過專門訓練的算法可以識別這些回聲配置文件,並迅速重建用戶臉上的表情,將其顯示在數字頭像上。“通過人工智能的力量,該算法發現肌肉運動和面部表情之間的復雜聯系,

2023-01-23

系統,能夠對實時視頻中的物體進行快速分類,並在使用照片數據庫進行訓練時識別人臉。不過人工智能識別人臉的運營方想要破解這種衣服帶來的困擾也並不難,右鍵點擊Capable網站上的圖片,並將其添加到他們的識別系統中

2024-04-10

圖像托管網站Photobucket協商,希望得到這傢公司近130億張照片、視頻組成的龐大圖像庫,並以此來訓練AI模型。蘋果不是這傢網站的唯一買傢,其他矽谷大廠們都在尋求與之達成協議。而這些巨頭們也毫不吝嗇,甚至願意掏出數

2023-01-09

法第一次出現在攝像頭前時,99%以上都能識別系統中帶有照片的乘客。不過研究也發現,不同種族和性別之間仍然存在偏見。對於這件事兒,你怎麼看呢?

2023-11-11

ot;的內容創建能力。論文稱,該模型能夠從包括真實世界照片在內的各種測試圖像中生成"高質量"的三維重建。此外,LRM 還能將"正常"圖像和由 DALL-E 和 Stable Diffusion 等人工智能服務生成的視覺拼湊圖像作為其輸入

2024-03-28

庫。該計劃是在10月7日的襲擊事件後建立的,它使用Google照片技術以及特拉維夫公司Corsight開發的定制工具來識別與哈馬斯有關聯的人員。據《泰晤士報》報道,面部識別程序是在以色列對加沙發動軍事進攻的同時建立的。10 月

2022-08-05

些必須佩戴設備的人將需要通過在智能手表上拍攝自己的照片來完成全天的定期監測檢查,包括他們的姓名、出生日期、國籍和照片在內的信息將被儲存長達六年。地點將被24/7跟蹤,並且允許記錄跟蹤監測數據。使用智能手表

2024-04-07

an)在接受彭博社采訪時表示,OpenAI 據稱使用 YouTube 視頻來訓練其新的文本到視頻生成器 Sora 將違反該平臺的政策。據《紐約時報》報道,OpenAI 使用其 Whisper 語音識別工具轉錄超過 100 萬小時的 YouTube 視頻,然後用於訓練 GPT-4。

2024-02-28

tic目前正在計劃將用戶的內容包括用戶在湯不熱上發佈的照片出售給OpenAI以及MidJourney等人工智能公司用來訓練數據。這一決定哪怕是在 Automattic 內部都引起軒然大波,以至於其產品經理都從自己的湯不熱上刪除照片避免照片被

2022-10-02

數恢復、幾何模型網格生成、深度神經網絡 2D 或 3D 模型訓練、紋理合成等等。無論是有破損的長城,還是大火後的巴黎聖母院,恢復前百年之前的風貌,是 AI 的觸角伸入文化領域的一大征兆。英特爾也與武漢大學進行合作,用