法國國民議會已經批準使用人工智能來幫助2024年巴黎奧運會的視頻監控。此舉遭到權利團體的反對,他們說使用人工智能可能會侵犯公民自由,同時為未來在整個歐洲使用侵入性算法驅動的視頻監控鋪平道路。
法國政府通過2024年奧運會和殘奧會未決法律的第7條,授權使用來自固定和無人機攝像機的監控視頻的自動分析。據稱,該系統可以檢測公共場所的特定可疑事件,如異常行為、預設事件和人群湧動。
雖然這項由人工智能驅動的監控計劃可能在最高憲法法院受到質疑,但法國看起來有望成為歐盟第一個使用這種系統的國傢。
法國似乎忽視38個民間社會組織的警告,這些組織在一封公開信中表達他們對這項技術的擔憂。他們說,擬議的監控措施違反國際法,因為它們違反必要性和相稱性原則,並對基本權利構成不可接受的風險,如隱私權、集會和結社自由,以及不受歧視的權利。
信中警告說,如果人工智能系統被采用,它將開創在公共場所進行不合理和不相稱的監控的先例。
"如果算法驅動的攝像機的目的是檢測公共場所的特定可疑事件,它們必然會捕捉和分析存在於這些空間的個人的生理特征和行為,如他們的身體位置、步態、動作、手勢或外觀,"公開信中寫道。"將個人從背景中隔離出來,否則就不可能實現系統的目標,這將相當於'獨特的識別'。"
與人工智能監控的情況一樣,也有歧視方面的擔心。"使用算法系統來打擊犯罪,導致過度治安,刑事司法系統中的結構性歧視,以及對種族、民族和宗教少數群體的過度定罪,"這些團體補充說。
大赦國際的人工智能監管宣傳顧問Mher Hakobyan說,這一決定使法國面臨著永久轉變為一個二元監控國傢的風險。
法國國傢信息與自由委員會(CNIL)監管委員會在不處理生物識別數據的條件下支持該法案,但隱私倡導者認為這種事情是不可能的。
數字權利組織Access Now的政策顧問Daniel Leufer說:"你可以做兩件事:對象檢測或人類行為分析--後者是對生物識別數據的處理"。