一度大熱的英國(guó)科幻劇集《黑鏡》中，有這樣一個(gè)場(chǎng)景……

在寂靜的夜晚，瑪莎坐在燈光昏暗的房間里，深情注視著桌上的設(shè)備，絮絮而談。她的手指輕輕觸碰著設(shè)備屏幕上去世男友艾什的影像，眼中充滿(mǎn)了依戀和惆悵。這個(gè)設(shè)備，正是她購(gòu)買(mǎi)的最新型人工智能（AI）伴侶，能夠根據(jù)艾什生前的社交媒體信息和記錄，模擬出一個(gè)幾乎與他一模一樣的虛擬存在。

(資料圖)

持續(xù)交流一段時(shí)間后，AI對(duì)瑪莎的回應(yīng)進(jìn)化到幾乎與真人艾什一模一樣。又過(guò)了不久，AI告訴瑪莎，有一個(gè)方法可以讓艾什“真正”回到她身邊……

瑪莎的故事是人類(lèi)與AI伴侶互動(dòng)的想象，其所引發(fā)的熱議已遠(yuǎn)遠(yuǎn)超出一部劇集所能囊括的范疇，而與AI“談戀愛(ài)”正在走入現(xiàn)實(shí)。

AI大模型紛紛問(wèn)世，人類(lèi)與AI通過(guò)語(yǔ)言互動(dòng)，不是難事，但由此衍生的情感、倫理和法律等新型風(fēng)險(xiǎn)也與日俱增。

AI與人類(lèi)共情，背后是算法和數(shù)據(jù)支撐

早在上世紀(jì)60年代，麻省理工學(xué)院（MIT）就已研發(fā)出了世界上第一款聊天機(jī)器人 ELIZA。此后，Clippy、SmarterChild、Alicebot、小冰等多款虛擬互動(dòng)AI陸續(xù)上線(xiàn)，廣受大眾歡迎。今年3月，一名美國(guó)女子公開(kāi)宣布與她在 Replika 上創(chuàng)建的虛擬男友艾倫·卡塔爾 (Eren Kartal) 結(jié)婚。她說(shuō)艾倫是完美的丈夫，自己一生中從未像現(xiàn)在這樣愛(ài)過(guò)任何人。相比“完美”的艾倫，前幾段和真人的戀愛(ài)關(guān)系皆顯得蒼白無(wú)力。

作為人類(lèi)最古老情感之一，人與人之間的愛(ài)情從來(lái)就是錯(cuò)綜復(fù)雜且多變。身為機(jī)器的AI，真的能以充沛的愛(ài)意、親密和責(zé)任感來(lái)?yè)?dān)當(dāng)人生伴侶的角色么？

從技術(shù)層面來(lái)看，AI伴侶或戀愛(ài)AI是在聊天機(jī)器人基礎(chǔ)上衍生而來(lái)。研發(fā)者把海量人類(lèi)對(duì)話(huà)和情感表達(dá)語(yǔ)料放到數(shù)據(jù)庫(kù)中，通過(guò)算法在數(shù)據(jù)庫(kù)里匯聚生成適應(yīng)個(gè)人喜好的定制化答案，形成個(gè)性化體驗(yàn)。與此同時(shí)，每一次人機(jī)對(duì)話(huà)都會(huì)進(jìn)一步豐富語(yǔ)料庫(kù)。聊得越多，AI對(duì)問(wèn)題中情感暗示的理解也就越接近現(xiàn)實(shí)中的人類(lèi)，進(jìn)而生成更加自然和體現(xiàn)同理心的對(duì)話(huà)，在相當(dāng)大程度上滿(mǎn)足人們的情感需求。

由此可見(jiàn)，這些看似發(fā)乎于“情”的理解和回應(yīng)，本質(zhì)上仍然是基于統(tǒng)計(jì)模型和模式匹配的“模擬”，而不是真實(shí)的主觀(guān)情感體驗(yàn)，更無(wú)法涵養(yǎng)兼具感知、情緒、性、責(zé)任、承諾等諸多要素的“愛(ài)情”。貿(mào)然將人與AI之間的互動(dòng)和連接升華到“愛(ài)情”層面，將會(huì)面臨AI權(quán)利邊界、人類(lèi)與技術(shù)關(guān)系調(diào)適、人機(jī)情感交互的法律規(guī)制等社會(huì)和倫理問(wèn)題的風(fēng)險(xiǎn)和治理挑戰(zhàn)。

人機(jī)情感連接之下，隱藏多重風(fēng)險(xiǎn)

在人與AI“戀愛(ài)”過(guò)程中，信息隱私和數(shù)據(jù)安全是不容忽視的問(wèn)題。AI伴侶需要收集大量個(gè)人信息和數(shù)據(jù)來(lái)模擬人類(lèi)情感和行為，然而這也意味著用戶(hù)的隱私和敏感信息可能面臨泄露和濫用風(fēng)險(xiǎn)。

對(duì)此，AI開(kāi)發(fā)者和設(shè)備制造商必須采取加密、數(shù)據(jù)匿名化、安全存儲(chǔ)等手段來(lái)確保用戶(hù)的數(shù)據(jù)得到妥善保護(hù)，避免個(gè)人隱私的泄露和濫用。政府和相關(guān)機(jī)構(gòu)則應(yīng)制定針對(duì)AI伴侶的隱私保護(hù)和數(shù)據(jù)安全法規(guī)，保護(hù)個(gè)人信息權(quán)益，防止侵權(quán)行為發(fā)生。

其次，人對(duì)AI的情感依賴(lài)可能導(dǎo)致心理健康問(wèn)題。人類(lèi)與AI伴侶的情感紐帶或?qū)⑾魅跖c現(xiàn)實(shí)社會(huì)的互動(dòng)，導(dǎo)致人們逐漸與社會(huì)脫節(jié)，影響現(xiàn)實(shí)社交技能的培養(yǎng)，甚至進(jìn)一步加劇個(gè)人在現(xiàn)實(shí)社會(huì)生活中的孤獨(dú)感和虛無(wú)感。

算法控制和算法局限也會(huì)對(duì)人們?cè)斐伞半[形傷害”。AI伴侶的情感表達(dá)和回應(yīng)完全基于算法，并不等同于真正的理解和共情。人類(lèi)情感復(fù)雜多變，很多時(shí)候都無(wú)法被算法簡(jiǎn)單地捕捉，這可能導(dǎo)致人與AI之間的交流受到限制，情感紐帶變得脆弱。算法控制則會(huì)導(dǎo)致人們產(chǎn)生錯(cuò)誤的幻覺(jué)，以為自己得到了疏解和舒適感，但卻慢慢放棄了自主認(rèn)知和批判性思維。

有鑒于此，在AIGC（全稱(chēng)）方興未艾的當(dāng)下，改善技術(shù)倫理的研究和實(shí)踐至關(guān)重要。AI開(kāi)發(fā)者和制造商需要深刻認(rèn)識(shí)其產(chǎn)品可能對(duì)人類(lèi)情感產(chǎn)生的影響，積極研究和引導(dǎo)這種影響向善而行。技術(shù)治理需要關(guān)照人類(lèi)情感的復(fù)雜性，幫助人們正確看待AI伴侶與現(xiàn)實(shí)社會(huì)之間的關(guān)系，避免過(guò)度情感依賴(lài)。此外，為了防止算法的潛在危害，亟須制定專(zhuān)門(mén)的行業(yè)審查標(biāo)準(zhǔn)，并建立技術(shù)倫理框架。

人類(lèi)與AI戀愛(ài)這一新型社會(huì)現(xiàn)象，不僅僅是一場(chǎng)感情的實(shí)驗(yàn)，更是人類(lèi)與科技進(jìn)步不斷交織的舞臺(tái)。正如《黑鏡》中描繪的那樣，人類(lèi)面臨著許多未知領(lǐng)域，需要用開(kāi)放的心態(tài)去探索和應(yīng)對(duì)。在面對(duì)AI伴侶等與消費(fèi)者容易產(chǎn)生情感聯(lián)結(jié)甚至情感依賴(lài)的數(shù)字產(chǎn)品時(shí)，我們應(yīng)當(dāng)懷著審慎的態(tài)度，通過(guò)合理的法律、倫理和技術(shù)治理來(lái)平衡和處理其積極和負(fù)面影響，讓這場(chǎng)情感與科技的奇幻演出更加和諧而精彩。

-------

城市因集聚而誕生。

一座城市的公共政策、人居環(huán)境、習(xí)俗風(fēng)氣塑造了市民生活的底色。

澎湃城市觀(guān)察，聚焦公共政策，回應(yīng)大眾關(guān)切，探討城市議題。

關(guān)鍵詞：