站長之傢(ChinaZ.com) 7月23日消息:線上評論戰場上，人工智能與人工智能正在對抗。能夠生成類似人類評論的生成式人工智能受到專門用於檢測虛假評論的人工智能的對抗。這種對抗不僅影響著消費者，還關系著網絡內容的未來。
Fakespot 的創始人兼 CEO Saoud Khalifah 表示，該公司已經看到大量生成式虛假評論。Fakespot 正在努力找到一種方法來檢測類似 ChatGPT 的人工智能平臺生成的內容。
他說：「今天非常不同的是，這些模型可以寫任何東西。」
虛假在線評論與真實在線評論一樣已經存在很長時間，但由於人們對互聯網上廣泛使用的先進人工智能技術產生更廣泛的擔憂，這一問題變得更加緊迫。
經過多年的案件逐案件執法，上個月，聯邦貿易委員會提出一項新規定來打擊虛假評論。如果獲得批準，該規定將禁止撰寫虛假評論、支付評論、隱瞞誠實評論和其他欺騙性行為，並對違反規定者處以巨額罰款。
但是，到底什麼是虛假評論或真實評論變得不那麼明確，檢測虛假評論的技術仍然在不斷改進中。
聯邦貿易委員會廣告實踐部門的律師 Michael Atleson 表示：「我們不知道，也無法知道惡意行為者實際上是否在使用任何這些工具，以及其中有多少是由機器人生成的，而不是由人生成的。」「這真的更多是一個嚴重的問題，它隻是我們擔憂的一個縮影，這些聊天機器人將被用來創造各種虛假內容。」
有一些跡象表明，生成式人工智能評論已經非常普遍。CNBC 在 4 月份報道稱，亞馬遜上的一些評論明顯涉及到人工智能，其中許多評論從短語「作為一個 AI 語言模型...」開始。
亞馬遜是許多在線賣傢中長期以來一直在與虛假評論作鬥爭的公司之一。一位發言人表示，該公司每周收到數百萬條評論，主動阻止 2 億條疑似虛假評論。該公司使用人工調查員和人工智能的組合來發現虛假評論，運用機器學習模型分析用戶的評論歷史、登錄活動和與其他賬戶的關系等因素。
更復雜的是，生成式評論並不完全違反亞馬遜的規定。一位亞馬遜發言人表示，該公司允許用戶發佈由人工智能生成的評論，前提是這些評論是真實的，並且不違反政策準則。
這傢電商巨頭還表示，它可能需要一些幫助。今年 6 月，亞馬遜的全球銷售合作夥伴服務副總裁 Dharmesh Mehta 在一篇公司博客中呼籲「私營部門、消費者團體和政府」加強合作，解決虛假評論問題。
關鍵問題是，人工智能檢測是否能夠勝過生成虛假評論的人工智能。Fakespot 檢測到的第一批生成式虛假評論來自印度，幾個月前，Khalifah 稱這是由「虛假評論農場」生成的，即批量出售虛假評論的企業。生成式人工智能有可能讓他們的工作變得更容易。
杜克大學計算機科學助理教授 Bhuwan Dhingra 表示：「這對檢測工具來說，的確是一個很難通過的考驗。因為如果模型與人類的寫作方式完全匹配，你很難區分兩者。我不認為有哪個檢測器能夠很快地通過這個測試。
幾項研究發現，人類並不擅長檢測由人工智能撰寫的評論。許多技術專傢和公司正在研究檢測人工智能生成內容的系統，其中一些公司，如 ChatGPT 背後的 OpenAI，甚至正在研發用於檢測自己人工智能的人工智能。
芝加哥大學計算機科學教授 Ben Zhao 表示，對於 AI 來說，要解決檢測人工智能生成的評論的難題「幾乎是不可能的」，因為機器人生成的評論往往與人類寫的評論無法區分。
他說：「這是一個持續的貓鼠遊戲，但從根本上講，沒有什麼能夠區分人工智能創造的內容。」「你會發現一些系統聲稱它們可以區分人類寫的文本和 ChatGPT 的文本。但與他們試圖追趕的東西相比，這些技術都相當簡單。」
有 90% 的消費者表示會在網上購物時閱讀評論，這讓一些消費者維權者擔心。
美國公共利益研究組織的消費者監督辦公室主任 Teresa Murray 表示：「這對消費者來說是可怕的。」「AI 已經幫助不誠實的企業以與人類相似的語調在幾秒鐘內產生數千條真實的評論。」