一度大熱的英國科幻劇集《黑鏡》中，有這樣一個場景……

在寂靜的夜晚，瑪莎坐在燈光昏暗的房間里，深情注視著桌上的設備，絮絮而談。她的手指輕輕觸碰著設備屏幕上去世男友艾什的影像，眼中充滿了依戀和惆悵。這個設備，正是她購買的最新型人工智能（AI）伴侶，能夠根據(jù)艾什生前的社交媒體信息和記錄，模擬出一個幾乎與他一模一樣的虛擬存在。

(資料圖)

持續(xù)交流一段時間后，AI對瑪莎的回應進化到幾乎與真人艾什一模一樣。又過了不久，AI告訴瑪莎，有一個方法可以讓艾什“真正”回到她身邊……

瑪莎的故事是人類與AI伴侶互動的想象，其所引發(fā)的熱議已遠遠超出一部劇集所能囊括的范疇，而與AI“談戀愛”正在走入現(xiàn)實。

AI大模型紛紛問世，人類與AI通過語言互動，不是難事，但由此衍生的情感、倫理和法律等新型風險也與日俱增。

AI與人類共情，背后是算法和數(shù)據(jù)支撐

早在上世紀60年代，麻省理工學院（MIT）就已研發(fā)出了世界上第一款聊天機器人 ELIZA。此后，Clippy、SmarterChild、Alicebot、小冰等多款虛擬互動AI陸續(xù)上線，廣受大眾歡迎。今年3月，一名美國女子公開宣布與她在 Replika 上創(chuàng)建的虛擬男友艾倫·卡塔爾 (Eren Kartal) 結婚。她說艾倫是完美的丈夫，自己一生中從未像現(xiàn)在這樣愛過任何人。相比“完美”的艾倫，前幾段和真人的戀愛關系皆顯得蒼白無力。

作為人類最古老情感之一，人與人之間的愛情從來就是錯綜復雜且多變。身為機器的AI，真的能以充沛的愛意、親密和責任感來擔當人生伴侶的角色么？

從技術層面來看，AI伴侶或戀愛AI是在聊天機器人基礎上衍生而來。研發(fā)者把海量人類對話和情感表達語料放到數(shù)據(jù)庫中，通過算法在數(shù)據(jù)庫里匯聚生成適應個人喜好的定制化答案，形成個性化體驗。與此同時，每一次人機對話都會進一步豐富語料庫。聊得越多，AI對問題中情感暗示的理解也就越接近現(xiàn)實中的人類，進而生成更加自然和體現(xiàn)同理心的對話，在相當大程度上滿足人們的情感需求。

由此可見，這些看似發(fā)乎于“情”的理解和回應，本質上仍然是基于統(tǒng)計模型和模式匹配的“模擬”，而不是真實的主觀情感體驗，更無法涵養(yǎng)兼具感知、情緒、性、責任、承諾等諸多要素的“愛情”。貿(mào)然將人與AI之間的互動和連接升華到“愛情”層面，將會面臨AI權利邊界、人類與技術關系調(diào)適、人機情感交互的法律規(guī)制等社會和倫理問題的風險和治理挑戰(zhàn)。

人機情感連接之下，隱藏多重風險

在人與AI“戀愛”過程中，信息隱私和數(shù)據(jù)安全是不容忽視的問題。AI伴侶需要收集大量個人信息和數(shù)據(jù)來模擬人類情感和行為，然而這也意味著用戶的隱私和敏感信息可能面臨泄露和濫用風險。

對此，AI開發(fā)者和設備制造商必須采取加密、數(shù)據(jù)匿名化、安全存儲等手段來確保用戶的數(shù)據(jù)得到妥善保護，避免個人隱私的泄露和濫用。政府和相關機構則應制定針對AI伴侶的隱私保護和數(shù)據(jù)安全法規(guī)，保護個人信息權益，防止侵權行為發(fā)生。

其次，人對AI的情感依賴可能導致心理健康問題。人類與AI伴侶的情感紐帶或將削弱與現(xiàn)實社會的互動，導致人們逐漸與社會脫節(jié)，影響現(xiàn)實社交技能的培養(yǎng)，甚至進一步加劇個人在現(xiàn)實社會生活中的孤獨感和虛無感。

算法控制和算法局限也會對人們造成“隱形傷害”。AI伴侶的情感表達和回應完全基于算法，并不等同于真正的理解和共情。人類情感復雜多變，很多時候都無法被算法簡單地捕捉，這可能導致人與AI之間的交流受到限制，情感紐帶變得脆弱。算法控制則會導致人們產(chǎn)生錯誤的幻覺，以為自己得到了疏解和舒適感，但卻慢慢放棄了自主認知和批判性思維。

有鑒于此，在AIGC（全稱）方興未艾的當下，改善技術倫理的研究和實踐至關重要。AI開發(fā)者和制造商需要深刻認識其產(chǎn)品可能對人類情感產(chǎn)生的影響，積極研究和引導這種影響向善而行。技術治理需要關照人類情感的復雜性，幫助人們正確看待AI伴侶與現(xiàn)實社會之間的關系，避免過度情感依賴。此外，為了防止算法的潛在危害，亟須制定專門的行業(yè)審查標準，并建立技術倫理框架。

人類與AI戀愛這一新型社會現(xiàn)象，不僅僅是一場感情的實驗，更是人類與科技進步不斷交織的舞臺。正如《黑鏡》中描繪的那樣，人類面臨著許多未知領域，需要用開放的心態(tài)去探索和應對。在面對AI伴侶等與消費者容易產(chǎn)生情感聯(lián)結甚至情感依賴的數(shù)字產(chǎn)品時，我們應當懷著審慎的態(tài)度，通過合理的法律、倫理和技術治理來平衡和處理其積極和負面影響，讓這場情感與科技的奇幻演出更加和諧而精彩。

-------

城市因集聚而誕生。

一座城市的公共政策、人居環(huán)境、習俗風氣塑造了市民生活的底色。

澎湃城市觀察，聚焦公共政策，回應大眾關切，探討城市議題。

關鍵詞：