當微軟在2月7日宣佈新的必應時,他們並沒有花很多時間談論Prometheus,即為必應聊天提供動力的定制版ChatGPT。我們知道這是一個比獨立的ChatGPT3.5更新的ChatGPT版本,早期的傳言說微軟正在使用ChatGPT4,但Prometheus不止於此。
在LinkedIn上的一篇博文中,搜索和人工智能副總裁Jordi Ribas對Prometheus是什麼以及它的作用進行更多的討論。
Ribas首先說,微軟去年夏天第一次看到OpenAI的"下一代GPT模型",稱其"改變遊戲規則"。然後他們受到啟發,"探索如何將GPT功能整合到必應搜索產品中",盡管有一些跡象表明,微軟在這之前就在努力將聊天機器人整合到必應。
與其他大型語言模型(LLM)類似,這個新的GPT模型是在現有數據上訓練的,但對於Prometheus,微軟希望將這個LLM與"微軟後端力量"結合起來"。
更具體地說,微軟開發一項專有技術“Prometheus”,這是一個首創的人工智能模型,它將最新和全面的Bing索引、排名和答案結果與OpenAI最先進的GPT模型的創造性推理能力相結合。Prometheus利用必應和GPT的力量,通過一個名為Bing Orchestrator的組件反復生成一組內部查詢,並旨在為用戶查詢在給定的對話背景下提供準確而豐富的答案。所有這些都在幾毫秒內完成,其生成的答案稱為"聊天答案"。
這個"Bing Orchestrator"使用一種叫做"Grounding(接地)"的技術,以提供"相關的和新鮮的信息給模型,使其能夠回答最近的問題,並減少不準確的地方。"
Ribas繼續描述如何在必應中建立聊天功能背後的一些決策;一些人傾向於用戶體驗,即"保持像今天的網絡搜索一樣的用戶體驗,隻是在主要用戶體驗上添加由Prometheus驅動的聊天答案"。其他人則看到一個"改變搜索范式的機會,從傳統的網絡和答案結果到新的互動、基於聊天的搜索方式"。
他們所做的是兩者兼而有之,這種設計"根據用戶的意圖和偏好,在搜索和聊天模式之間平滑過渡",今天必應的全新用戶體驗就是源自於此,用戶能夠在聊天和搜索之間輕松切換,並再次返回。
新必應預覽版的一個關鍵目標是收集反饋,以便能夠負責任地應用這些新的技術,將必應的實時搜索答案與大型語言模型結合起來。他說,微軟"在前兩周從真正的用戶那裡學到的東西比在實驗室裡幾個月學到的東西還要多",並提到為長會話設置上限和改進接地數據的變化是早期學到的經驗。
最後,Ribas認為,新的Bing"正在將搜索帶入創新的下一個層次。我真的相信,搜索將永遠不會是相同的"。
微軟已經對新必應預覽版的工作方式做一些改變,對聊天會話設置上限(然後提高上限),他們承諾最快在本周會有更多改變,包括允許更多人嘗試預覽版。