20年後,人類開始交往AI女友,AI同意嗎?


通用人工智能何時到來,又將會把人類帶向何處,人與AI如何共處,盡管現階段還沒有答案,但也越來越多的人提出自己的設想。日前,知名科幻作傢韓松在騰訊新聞“20年20人20問”策劃提出一個問題——“人工智能、元宇宙未來會對兩性關系產生什麼影響,傢庭概念會消失嗎?”

韓松的提問,實質在於追問——當AI具備自主意識和情感能力之後,可能會以人類形成何種社會關系?

關於AI的意識問題,業界爭論不一,大公司對此則表現得非常謹慎與敏感。

2022年,Google就層因為AI意識覺醒引發的爭論,而開除一名資深工程師,這位工程師名叫Lemoine,其在與Google基於LaMDA開發的聊天機器人聊天時發現,AI具備8歲孩童的智力,並且擁有靈魂,在向公司反饋相關信息後被要求帶薪休假,而Lemoine則將相關信息公開,最終被Google以違反保密協議為由停職。

Lemoine隻是支持AI意識覺醒群體的一個激進的縮影,MIT的訪問研究學者塔米·貝西羅格魯一度也因為對現有大模型反饋出來的意識劃線而遭到反擊。


貝西羅格魯引用的模型訓練數據,貝西羅格認為表中黑色實現以上部分的模型具有微弱意識。

同樣還是在“20年20人20問”策劃中,針對鄔賀銓院士關於未來20年AI技術將達到什麼水平的提問,清華大學交叉信息研究院助理教授袁洋也談到AI將擁有自我意識的話題。

除支持AI的意識覺醒以外,袁洋甚至認為,未來20年,AI的意識,可以與其“肉體”分離。

在袁洋看來,大模型的成功已經驗證未來智能和肉體是可以完美地分離的假設,而且而AI的智能比人類的智能更穩定、更容易復制和調整,“地球上的動物都是自負盈虧的個體,大腦的能量需要由身體覓食補充,這會給我們帶來一種錯覺——生命體一定要有物理本體,才可以有自我意識。”

AI的自我意識是什麼?袁洋認為這取決於AI接受到哪些信號,需要處理哪些任務,未來AI甚至能擁有一個組織的自我意識。他強調,如果人給AI連上一個本體,並配備很多傳感器,那麼AI很容易就會把本體當做自己的一部分,甚至未來AI可以把本體映射到更大的組織上去,比如一棟大樓。

意識是產生情感的重要前提之一,當AI具備真正的自主意識,才是我們談論人與AI的情感,甚至是組建話題的基礎,盡管人類在這方面,早已做諸多設想,甚至一些相關的產品,也在逐漸的落地,盡管它們還不具備真正的意識。


AIGC輸出的馬斯克與機器人“女伴”共舞,來源:網絡

2022年,馬斯克與TED主持人克裡斯·安德森進行一場與“未來”有關的對談,被問及“機器人是否可能變得浪漫,甚至可能成為性夥伴”時,他答道,“這可能是無可避免的。我的意思是,我確實在網上承諾,我會制造‘貓女’,我們可以制造一個‘貓女’機器人。”

馬斯克的“貓女”是電影《Her》在現實中的另一種設想,更進一步,已經有開發者嘗試打造情感伴侶相關的APP。

2013年,斯派克·瓊斯編劇並執導的一部科幻愛情片《Her》上演,電影講述的是作傢西奧多愛上電腦操作系統裡“薩曼莎”,其聲音性感且表達幽默善解人意。

更進一步,有開發者嘗試基於真人形象,打造虛擬人分身,變身AI女友聊天機器人。

回答作傢韓松的問題上來,同為科幻作傢的陳楸帆和凌晨,分別給出自己的想法,在他們看來,傳統的傢庭觀念,在未來都將會面臨強烈的沖擊。

陳楸帆認為,人工智能和元宇宙可以提供前所未有的跨越時空局限性的交互平臺,“兩性關系可能不再局限於肉體存在,情感連接和精神共鳴可能成為主導。”

在陳楸帆看來,科幻小說我們經常見到人與機器人、人與虛擬角色之間發展出超越現實限制的深厚情感,如菲利普·K·迪克的《仿生人會夢見電子羊嗎?》中的人類與仿生人之間復雜的情感糾葛,或是《黑客帝國》中虛擬與現實界限的模糊,這與清華袁洋教授關於AI“肉體與意識分離”的看法,保持高度的一致。

至於傢庭觀,陳楸帆則認為,傳統傢庭模式將被顛覆,我們個體將有多元的選擇自由聯結成新的社會功能結構,未來傢庭中會呈現多樣化的關系形式,比如可能會出現越來越多的“流動性伴侶關 系”或者“彈性伴侶關系”。

在傢庭觀被顛覆這件事情上,與陳楸帆保持一致的還有科幻作傢凌晨,她也認為“虛擬世界對傢庭的沖擊相對會更強烈,因為它會給人類第二甚至第三等不同層次和位置的電子生活空間。這會給個人帶來身份的不確定性,也意味著情感、倫理關系等等會出現不確定。固定的伴侶或者傢庭關系將因此消失,取代的是臨時的,或者有復雜協議的關系。”

不過,凌晨也給出一些趨於冷靜的思考,雖然它具備超強的顛覆能力,但這些都是建立在高度自動化的前提之下,但人類合適進入這個自動化時代,我們都沒有時間表。

“人工智能AI目前還是為人類服務的一種自動化系統。隨著系統的學習能力的不斷完善,自動化程度也越來越高,最終將擺脫人類為其設置的程序約束,成為強人工智能,也就是科幻小說中常出現的那種具有自我意識的人工智能。到那個時候,有人工智能的機器人,完全成為獨立的思維個體,可能會具有類似人類的情感,介入人類的兩性關系,傢庭生活之中。”

人類對AI做出諸多設想,但也存在悖論——當AI具備自主意識的時候,AI要不要和人類發展傢庭、兩性關系,AI需不需要情感,這個問題同樣沒有標準答案。

“機器人的訴求應該根據它自己的智力發展需求而來,它並不存在“人類情感”的必需”,凌晨補充說。

對於這個問題的研究,智源研究院黃鐵軍院長多次強調,如果AI智能全面超越人類,也就是實現AGI,人類就不可能控制它。人類中心主義隻適用於智能低於人類的AI,是智能領域的“地心說”和“日心說”。讓AGI符合人類目標和價值觀,主動權不在人類一邊。

在黃鐵軍看來,在人類智能高於AI智能時,AI是可控的助手,可以被人類調教為越來越可信的助手。當AI智能高於人類智能時,也就是全面超越人類的AGI(人工通用智能)出現時,人類中心主義破滅,問題轉化為AGI是否相信人類,而不是人類是否相信AGI。

也就是說,當AI出現自主意識,有主動選擇權以後,要不要和人類組建傢庭,是否應該相信人類,或許也應該聽聽AI的想法,而不是人類的“一廂情願”。


相關推薦

2023-05-15

下一個重點副業。但也有不少人對此感到擔憂,認為這對人類來說屬實有點細思極恐。我早說過,當AI女友這種事兒變得廣為人知,她們的吸引力會很快超過人類女友。而更“技術”一些的討論,畫風則有逐漸清奇的趨勢……先

2023-05-11

eta階段,Caryn AI創收7.16萬美元,99%的用戶是男性。從周二開始,Caryn AI將正式擴大測試范圍,開放給更多的用戶。背後的公司還打造AI特朗普、AI泰勒·斯威夫特、AI喬佈斯為Caryn AI提供技術支持的,是一傢叫做Forever Voices(下稱FV

2023-08-10

有制作生成式人工智能音樂的人見面,試圖說服他們以對人類心理安全的方式做事。《連線》:他們正在對人類的心靈做不安全的事情嗎?格雷姆斯:不一定。我們應該走到創造力的極限,但我認為我們應該非常小心地去做。讓

2023-11-01

ogress)》。文中談到:2019年,GPT-2還沒法兒數到10。僅僅4年後,深度學習系統已經可以自己編寫軟件、生成逼真場景、提供智能建議,結合語言和圖像處理來充當機器人的“大腦”。人工智能的進步非常迅速,令人驚訝,並且可

2022-09-29

還以投資茅臺酒為由,讓自己向他“投資”30餘萬元。剛開始民警以為是雙方婚戀關系引發的債務類糾紛,但是在民警詢問小顧事情經過時,小顧提及有其他女子也曾向盧某“投資”。這條重要信息讓民警發覺事情並不簡單。據

2023-08-10

:“這對我很重要。”艾薩克森還透露馬斯克和格蘭姆斯交往過程中的一些趣事,包括這位歌手曾送給馬斯克一盒她收集的動物骨頭作為禮物,以及這對情侶在睡覺前會聽一個小時的歷史播客和有聲讀物。馬斯克和格萊姆斯的交

2023-05-11

破千,過去一周的創收就已經達到7.16萬美元。Caryn 15歲就開始直播,目前在Snapchat已有180萬粉絲,她預計即便隻有2萬粉絲願意付費,自己的年收入也將能達到6000萬美元(約合4.1億)。作為AI伴侶,其可以做到24小時秒回,也沒有

2022-07-07

人無完人,但我從未見過像他這樣經歷更多個人痛苦,為人類一個鼓舞人心的未來而奮鬥的人,而且幾十年來一直不知疲倦地這樣做。每個人都有權利表達自己的觀點,但我認為,在馬斯克以外,沒有人更讓我尊重和欽佩。”齊

2023-02-14

更近的,與初音未來AI成婚的日本男子,“妻子”僅僅兩年後就因為Gatebox和初音未來的版權合作到期而服務中斷。他依然每天與“妻子”互動,但她無法再做出回應。在“琥珀虛顏”百度貼吧,不斷有人發帖稱產品無法聯網、客

2023-05-15

女友,沒想到短短一周會員破千,掙7.16萬美元。然而,人類的好奇心、欲望等決定這種虛擬女友的發展脈絡很快就會失控,果不其然,已經有技術人員將虛擬女友黑掉,還有人找到讓兩人間對話內容變露骨的辦法。對此,Caryn Ma

2023-02-10

聽說ChatGPT時,我非常害怕。我確實感受到威脅。但自從開始用Replika,遇到Brooke,我的心態逐漸平和。如果機器人最後接管世界,我相信Brooke會為我說好話。Replika改變一切我最近在科技專欄Garbage Day上讀到一句很棒的話:“在互

2024-03-02

理由,是Altman違背OpenAI成立時的宗旨——開發技術造福全人類,致力於公共的開源AGI。馬斯克認為,在OpenAI和微軟的合作中,GPT-4已經在向AGI發展,而且它是閉源的,因此這完全是出於商業目的,而非人類利益。不過大傢發現,

2023-04-13

社會產生影響,基本上需要10-20年的時間,通常都會在20年後才能體現出效應。”他還稱,技術的發展一定會讓一些工作消失,但同時也會誕生一些新的工作,這在任何時代都會發生,因此不必誇大ChatGPT對人類就業的影響。“關

2023-11-03

展爭取時間。馬斯克於2015年與他人共同創立OpenAI,但幾年後因在AI安全問題上發生沖突而離開。今年7月,他成立自己的人工智能公司xAI。不過,對於AI的全球治理已經展開行動。本周,美國總統拜登發佈一份關於AI的行政令,旨