Meta公司人工智能研究實驗室創造一個最先進的聊天機器人,並讓公眾與該系統交談,以收集對其能力的反饋。該機器人被稱為BlenderBot3,可以在網上訪問。
BlenderBot 3能夠進行一般的閑聊,Meta說,但也能回答你可能會問數字助理的那種問題,從談論健康食品的食譜到尋找城市中適合兒童的設施。該機器人是一個原型,建立在Meta以前的工作上,即所謂的大型語言模型或LLMS,它是從強大但有缺陷的文本生成軟件,其中OpenAI的GPT-3是最廣為人知的例子。
像所有的LLMs一樣,BlenderBot最初是在龐大的文本數據集上進行訓練的,它在這些數據集上挖掘統計模式以生成語言。這類系統已被證明是非常靈活的,並已被用於一系列用途,從為程序員生成代碼到幫助作者寫下一本暢銷書。然而,這些模型也有嚴重的缺陷:它們在訓練數據中反芻偏見,並經常對用戶的問題編造答。
後面這個問題是Meta特別想用BlenderBot來測試的。該聊天機器人的一大特點是它能夠在互聯網上搜索,以便談論特定的話題。更重要的是,用戶可以點擊它的回答,看看它的信息是從哪裡來的。換句話說,BlenderBot 3可以引用其來源。通過向公眾發佈聊天機器人,Meta希望收集關於大型語言模型面臨的各種問題的反饋。
與BlenderBot聊天的用戶將能夠從系統中標記出任何可疑的回應,Meta公司說它已經努力 盡量減少機器人使用粗俗語言、污言穢語和文化上不敏感的評論。用戶必須選擇加入以收集他們的數據,如果是這樣,他們的對話和反饋將被儲存起來,以後由Meta公司公佈,供一般人工智能研究界使用。