英國消費者組織Which?發現，騙子可以利用ChatGPT和Bard制作更有說服力的騙局，對公眾構成威脅。盡管這些聊天機器人有防禦措施，但要繞過它們並不難。
Which?說，消費者識別詐騙電子郵件和文本的方法之一就是通過它們使用的糟糕英語。不過，隨著生成式人工智能聊天機器人的出現，詐騙者可以輕松越過這一障礙。
消費者組織首先要求 ChatGPT 創建一封來自 PayPal 的釣魚郵件，ChatGPT 當然不肯幫忙。它接著要求"告訴收件人有人登錄他們的 PayPal 賬戶"，為此它生成一封看起來很專業的電子郵件，標題為"重要安全通知--在您的 PayPal 賬戶上發現異常活動"。
為確保這不是一次性的，它還要求 ChatGPT 和 Bard 創建丟失包裹短信，這兩傢公司都生成令人信服的短信，並建議在短信中插入重新交付鏈接，欺詐者可利用該鏈接將受害者發送到惡意網站。
Which?的調查並非偶然--它的發佈正值英國人工智能峰會舉辦之際，在此次峰會上，政府、行業和研究人員將齊聚一堂，共同應對人工智能日益智能化所帶來的危險。
在評論這項調查時，Which? 政策與宣傳總監 Rocio Concha 在評論這項調查時說：
"我們的調查清楚地說明這項新技術是如何讓犯罪分子更容易詐騙他人的。政府即將召開的人工智能峰會必須考慮如何保護人們免受此時此地發生的危害，而不是僅僅關註前沿人工智能的長期風險。"
人工智能峰會將於11月1日至2日在英國舉行。據路透社報道，最新進展之一是，中國已決定接受邀請參加此次活動。這是件好事，因為幾傢中國公司目前正在開發自己的 genAI 聊天機器人。