人工智能一直是各國政府關註的焦點，它們擔心人工智能會被濫用於欺詐、虛假信息和其他惡意網絡活動；現在，英國的一傢監管機構正準備探討如何將人工智能用於打擊一些同樣的行為，特別是與對兒童有害的內容有關的行為。
負責執行英國《網絡安全法案》的監管機構--英國通信管理局宣佈，它計劃就目前和未來如何使用人工智能和其他自動化工具主動檢測和刪除網上非法內容，特別是保護兒童免受有害內容侵害，以及識別以前難以發現的兒童性虐待材料等問題展開咨詢。
這些工具將是通信管理局正在制定的一系列以在線兒童安全為重點的更廣泛建議的一部分。通信管理局表示，有關綜合建議的咨詢將在未來幾周內開始，人工智能咨詢將在今年晚些時候進行。
英國通信管理局網絡安全組主任馬克-邦廷（Mark Bunting）說，該局對人工智能的興趣始於研究人工智能作為篩選工具在當今的應用情況。
他在接受采訪時說："有些服務確實已經使用這些工具來識別和保護兒童免受這些內容的影響。但關於這些工具的準確性和有效性的信息並不多。我們希望研究如何確保業界在使用這些工具時進行評估，確保言論自由和隱私的風險得到控制，與許多網絡安全法規一樣，企業有責任確保采取適當措施和使用適當工具來保護用戶。"
一個可能的結果是，通信管理局將就平臺應如何評估以及評估哪些內容提出建議，這不僅有可能導致平臺采用更先進的工具，而且如果平臺未能在屏蔽內容或創造更好的方法阻止年輕用戶看到內容方面做出改進，還可能被處以罰款。
這些舉措既有批評者，也有支持者。人工智能研究人員正在找到越來越復雜的方法，利用人工智能來檢測深度偽造等行為，以及驗證在線用戶。然而，同樣也有很多懷疑論者指出，人工智能檢測遠非萬無一失。
英國通信管理局在宣佈就人工智能工具進行咨詢的同時，還公佈其對英國兒童上網方式的最新研究，研究發現，總體而言，上網的低齡兒童比以往任何時候都要多，以至於英國通信管理局目前正在細分更低年齡段的活動。
一項針對美國傢長的調查顯示，在所有 5 至 7 歲的兒童中，有近四分之一（24%）的兒童現在擁有自己的智能手機，如果算上平板電腦，這一數字將上升到 76%。同一年齡段的孩子在這些設備上也更多地使用媒體：65%的孩子打過語音和視頻電話（一年前這一比例為 59%），一半的孩子（一年前這一比例為 39%）正在觀看流媒體。
一些主流社交媒體應用程序的年齡限制越來越低，但在英國，無論限制是什麼，這些限制似乎都沒有得到重視。英國通信管理局發現，約有 38% 的 5 至 7 歲兒童正在使用社交媒體。其中，Meta 的 WhatsApp 以 37% 的比例成為最受歡迎的應用程序。TikTok有30%的5至7歲兒童使用，Instagram"僅"有22%，這可能是Meta公司的旗艦圖像應用程序首次被認為不如ByteDance的病毒式傳播流行。Discord 名列榜首，但受歡迎程度明顯較低，僅占 4%。
約有三分之一（32%）的這個年齡段的孩子會自己上網，30% 的傢長表示，他們對未成年孩子擁有社交媒體個人資料沒有意見。YouTube 兒童仍然是最受年輕用戶歡迎的網絡，占 48%。
遊戲是兒童的長期最愛，5-7 歲兒童中使用遊戲的比例已增長到 41%，這個年齡段的兒童中有 15%在玩射擊遊戲。
雖然 76% 的受訪傢長表示，他們會與年幼的孩子談論安全上網的問題，但通信管理局指出，在孩子看到的內容與孩子可能報告的內容之間還存在問號。在調查 8-17 歲的大孩子時，通信管理局直接采訪他們。調查發現，32% 的孩子報告說他們在網上看到過令人擔憂的內容，但隻有 20% 的傢長說他們報告過什麼。
即使考慮到一些報告的不一致性，"研究表明，年齡較大的兒童在網上接觸到的潛在有害內容與他們與父母分享的網上經歷之間存在脫節"，Ofcom 寫道。令人擔憂的內容隻是一個挑戰：深度偽造也是一個問題。通信管理局稱，在 16-17 歲的兒童中，25% 的人表示他們沒有信心辨別網上的真假。