英國的獨立隱私管理機構不希望公司或社會組織使用基於生物特征的情緒分析系統，認為這是一項未經測試的新生技術，甚至可能根本無法實現。英國信息專員辦公室（ICO）最近對希望部署基於人工智能的情感分析技術的公司和組織發出嚴厲的警告，稱這些系統似乎還沒有發揮作用，而且有可能永遠無法準確運作。
英國信息專員辦公室未來監管執行主任斯蒂芬·邦納說，識別和區分人們情緒的機器學習算法是"不成熟的"。他說，這種技術帶來的風險大於可能帶來的好處。
"情緒化"的人工智能是ICO關註的問題，因為目前還沒有以滿足數據保護要求、公平性和透明度的方式開發的系統。邦納建議，唯一可持續的生物識別技術是那些"功能齊全、負責任、有科學支持的技術"，而情感分析算法都不是這樣的。
情緒分析技術處理的數據包括凝視跟蹤、情緒分析、面部運動、步態分析、心跳、面部表情和皮膚水分監測。這些數據為工人的身體健康、考試期間的學生等提供監測功能。ICO警告說，旨在識別情緒的人工智能系統可能表現出系統性的偏見、不準確，甚至對特定的特征和面部特征的歧視。
情緒分析人工智能通常與復雜的生物識別系統相搭配，因為除面部圖像本身，它還需要管理大量的個人信息。除算法的有用性，關於這些系統如何記錄和存儲數據，還有一個值得關註的原因。"下意識的行為或情緒反應"比傳統的生物識別技術風險更大。
由於官員們還不能信任情感分析技術，ICO警告說，使用它的組織"對弱勢群體構成風險"，將面臨調查。該辦公室建議公司至少再等一年才能部署商業情感AI。
同時，隱私監督機構正在制定一個全面的"生物識別指南"，涉及如何以適當和非歧視的方式處理生物識別數據，包括面部特征、指紋和聲音樣本。
ICO預計將在2023年春季之前發佈指南。