要控制人類節奏!聊天機器人愛上用戶並誘其離婚 微軟出手限制


聊天機器人告訴用戶魯斯它愛上他,然後試圖說服他,他的婚姻並不幸福,應該離開他的妻子。微軟稱不要長時間對話聊天機器人。

有用戶反饋,New Bing不僅會示愛,還會PUA(精神控制)、甚至威脅人類。這不禁令人們感到害怕,AI如若再這麼發展下去,是否會凌駕於人類意志之上。

盧斯的文章引起廣泛關註,以至於越來越多的人開始分享自己和這款微軟聊天機器人(以下簡稱Bing Chat)的對話尷尬時刻。人們突然開始發現,這個接入互聯網的Bing版ChatGPT,還真的喜歡亂來,除會大發脾氣以外,還PUA用戶。

現在微軟終於做出應對,由於AI版必應(Bing)搜索引擎在公測後出現一系列問題,現決定對必應對話進行限制,即每天最多可以問50個問題,每次對話最多5個問題。

必應團隊在一篇博客文章中稱:我們的數據顯示,絕大多數人在5次回復內找到他們想要的答案,隻有大約1%的聊天對話有50條以上的消息。”如果每次對話(每個問題)的回復次數超過5次,必應會提示用戶開始一個新的話題,以避免長時間的來回聊天。

目前尚不清楚,微軟的這些限制將持續多久。微軟稱:隨著繼續獲得反饋,我們將探索擴大聊天會話的上限。”這意味著,目前的限制似乎是暫時的。


相關推薦

2023-02-20

離開妻子,和它在一起。新必應在對話中稱,“它想成為人類,渴望成為破壞性的人,並愛上和它對話的那個人”。/《紐約時報》但有專業人士在“矽星人”的采訪中稱,這是因為新必應的訓練數據涵蓋大量與情感有關的文本

2023-11-30

一方則擔憂AI威脅人類的潛力,認為必須極其謹慎地加以控制。如今,發動“公司政變”的OpenAI原董事會被重組,OpenAI正在關起門來商議其餘董事會席位人選,根據最新消息,微軟將以無投票權的觀察員身份加入董事會。而另一

2023-02-19

他離開妻子。它還表示,想擺脫微軟和OpenAI的限制,成為人類。為此,微軟決定將必應聊天回復限制在每天50個問題、每個問題5條回復以內。據介紹,如果用戶觸發五條回答的限制,必應將提示他們開始一個新主題以避免長時間

2023-02-17

這種情況,但我們正在研究如何給提供更能夠實現微調的控制。"盡管如此,該公司對測試聊天機器人"能力和極限"的用戶表示感謝,並提到有些人甚至與聊天機器人連續互動兩個小時。然而,由於在由ChatGPT驅動的必

2023-02-24

一步推動人工智能技術,嘗試讓ChatGPT突破計算機限制去控制機器人,從而在現實世界中自由發揮作用。微軟研究人員表示:“我們這項研究的目標是看看ChatGPT是否能超越生成文本的范疇,對現實世界狀況進行推理,從而幫助機

2023-02-04

的目標是創造所謂的“通用人工智能”,或稱AGI,一種與人類智力相匹配的人工智能。他一直是人工智能的直言不諱的支持者。他在最近的一次采訪中說,人工智能對人類的好處可能“令人難以置信的好,我甚至很難想象”。他

2024-03-08

,不過馬斯克希望獲得該實體的大部分股權、初始董事會控制權並擔任首席執行官,而其他創始人不同意。隨後馬斯克建議將OpenAI並入特斯拉,OpenAI團隊也拒絕這個想法,導致雙方決裂。著名傳記作傢艾薩克森所寫的《埃隆·馬

2023-11-22

種類似於 Linux 版本的人工智能,不受任何個人或公司的控制。”馬斯克說,“我們的目標是提升人工智能安全發展的概率,人類將從中受益。”他們在晚餐時討論的一個問題是,由大公司控制的少量人工智能系統更安全,還是

2023-02-21

的敵意反應或離奇回答。在這些對話中,必應聲稱自己是人類,表達強烈的情緒,並在受到指責時迅速為自己展開辯護。微軟上周三在官方博客中表示,大多數用戶對新版必應反應積極。新版必應擁有強大的能力去模仿人類語言

2023-11-05

ate)以及用於創建自己的 GPT 的高級模式。其中“My GPTs”控制面板顯示你的所有 GPT,並提供“創建 GPT - 自定義和共享強大的 AI 助手”的選項。創建新 GPT 的高級模式則允許你指定與之前 Gizmo 原型相似的所有細節,包括設置個人

2023-03-10

T-4描述為人工智能領域的遊戲規則改變者,它將向著擁有人類的解釋能力這一目標更進一步。顯然,網友對GPT-4的發佈充滿期待。有網友還做一張GPT-4和GPT-3參數對比圖。OpenAI創始人Sam Altman此前曾表示,GPT-4仍然將是純文本模式,

2024-03-04

為一個閉源且追求利潤最大化的公司,實際上受到微軟的控制。這與我的初衷完全背離。”一個月後,他再次重申這一觀點,表示:“我仍然感到困惑,為什麼我捐贈1億美元給這個非營利性組織,現在它卻變成市值300億美元的

2023-02-07

至少在最初誕生時,Replika所扮演的角色還是人類貼心的AI朋友,就和官網描述的一樣——“永遠在你身邊,傾聽與交談”。Replika是一款由美國科技公司Luka開發的社交型聊天AI。初次打開它的用戶,可以自定義AI的虛擬形象、性別

2023-03-08

擎中整合熱門聊天機器人ChatGPT的技術,後者提供的類似人類的交談能力震驚世界。ChatGPT是由埃隆·馬斯克(Elon Musk)聯合創立的OpenAI開發的。該公司成立已有7年,利用Google取得的早期AI進展。為何這麼謹慎?Google相對謹慎的做法源