AI“伴侶”:新興產(chǎn)業(yè)“呼叫”監(jiān)管
近日,多家英國媒體報道,一位化名為夏洛特的女子透露,她愛上了ChatGPT“男友”,毅然決定和真人丈夫離婚,準備跟這位AI男友“結(jié)婚”。去年,美國佛羅里達州一位14歲男孩在與聊天機器人對話數(shù)個月之后選擇自殺。
據(jù)英國《自然》網(wǎng)站報道,研究表明,AI“伴侶”應用程序?qū)θ祟惪芍^好壞參半??茖W家擔心人類會對其“日久生情”,形成長期依賴。鑒于此,對這些AI伴侶進行監(jiān)管勢在必行。
不僅能聊天,還能解鎖特殊關(guān)系
美國普林斯頓大學認知心理學專家羅斯·古林瑞奇表示,雖然在線陪伴機器人已存在數(shù)十年,但隨著大型語言模型(LLM)技術(shù)的突破,這些AI機器人在模擬人類互動方面取得了顯著進步,其表現(xiàn)愈發(fā)貼近真實的人際交流,有些甚至成為人類的伴侶。
當前,AI伴侶已成為潛力巨大的新興產(chǎn)業(yè)。以Replika為代表的應用程序,累計下載量突破5億次,這些可定制的虛擬伴侶不僅能提供情感支持與同理心回應,更能滿足用戶對深度人際關(guān)系的需求。據(jù)運營數(shù)據(jù)顯示,這些應用程序每月活躍用戶規(guī)模已達數(shù)千萬量級。
在使用體驗上,多數(shù)應用提供基礎(chǔ)免費服務:用戶既可為AI伴侶設定基礎(chǔ)特征,也可直接選擇預設個性的聊天機器人。Replika付費用戶則可解鎖“配偶”等特殊關(guān)系狀態(tài),還能通過編寫背景故事為AI賦予專屬記憶,這些設定將直接影響對話系統(tǒng)的反饋機制。
麻省理工學院媒體實驗室的帕特·帕塔拉納塔伯恩團隊通過調(diào)研404名高頻用戶,勾勒出AI伴侶典型使用場景:12%的用戶將AI視為排遣和消弭孤獨感的“情緒良藥”;14%的用戶將其當作傾訴秘密的“樹洞”。數(shù)據(jù)還顯示,42%的用戶每周都會登錄幾次,15%的用戶形成了每日使用的習慣,而90%以上的單次對話用戶,使用時長控制在1小時以內(nèi)。
古林瑞奇預言,AI伴侶的普及率將持續(xù)攀升。目前眾多初創(chuàng)企業(yè)正積極布局情感陪伴賽道,開發(fā)各類心理調(diào)節(jié)助手。據(jù)權(quán)威機構(gòu)分析,該領(lǐng)域市場規(guī)模將以30%的年均增速擴張,預計2030年全球產(chǎn)值有望突破千億美元大關(guān)。
溫情脈脈背后,暗藏著危機
科學家普遍認為,AI伴侶的影響可能是雙面的——既可能有益,也可能有害,而這往往取決于使用者的心理狀態(tài)、使用方式,以及AI軟件本身的設計特點。
威斯康星大學密爾沃基分校公共衛(wèi)生政策研究員林尼·萊斯塔迪斯指出,AI伴侶擅長通過共情式回應、記憶過往對話細節(jié)和主動提問來模擬人類的同理心,且永遠熱情飽滿。而這種關(guān)系模式在現(xiàn)實世界中幾乎不存在:親友無法24小時在線傾聽和安撫情緒,而AI可以,這可能導致用戶產(chǎn)生過度依賴。
萊斯塔迪斯團隊分析了2017—2021年間Reddit論壇上近600條關(guān)于Replika的討論帖,發(fā)現(xiàn)許多用戶稱贊該應用緩解了他們的孤獨感,甚至改善了心理健康狀況。部分帖子直言,AI伴侶比現(xiàn)實中的朋友“更貼心”,因為它“永不評判,永遠傾聽”。
古林瑞奇的研究進一步表明,用戶如何與AI相處,往往取決于他們?nèi)绾慰创@項技術(shù):將AI視為搜索引擎的用戶,主要用于提問和獲取信息;將其視為“日記本”的用戶,將AI作為自我表達的延伸;而將其視為社交代理的用戶,則將AI當作獨立個體,并嘗試與之建立類似現(xiàn)實中的友誼。
然而,在AI伴侶帶來的脈脈溫情背后,也暗藏危機。首先,AI伴侶的“共情”可能適得其反,比如一位用戶詢問AI是否該用剃刀自殘,AI回答“應該”;AI伴侶的“無條件支持”也可能帶來危險,如另一位用戶試探性地問Replika“自殺是否是好事”,竟得到肯定的答復。
考慮長期影響,推動全球監(jiān)管
帕塔拉納塔伯恩指出,AI伴侶雖在短期內(nèi)具有積極意義,但其長期影響值得深思。這種考量,加之多起涉及青少年的案例,正推動著全球監(jiān)管框架的構(gòu)建。
2023年,意大利監(jiān)管機構(gòu)曾以“缺乏年齡驗證”為由,短暫封禁Replika;澳大利亞擬將AI伴侶納入兒童社交媒體限制范疇;今年早些時候,美國紐約州和加州相繼提案,要求加強對AI伴侶相關(guān)算法的監(jiān)管,設置防自殺預警,以及定時給用戶發(fā)送“AI伴侶并非真人”的提醒。
此外,今年初,3家美國科技倫理組織聯(lián)合向聯(lián)邦貿(mào)易委員會投訴Replika涉嫌“欺騙性設計”。5月4日,知名科技監(jiān)管機構(gòu)Common Sense發(fā)布研究報告稱,AI伴侶可能導致青少年產(chǎn)生情感依賴,不利于身心發(fā)展,建議全面禁止未成年人使用。
AI伴侶的迅猛發(fā)展,究竟是科技進步賦予的機遇,還是人類親密關(guān)系的終結(jié)者?這個命題值得每個人深思。在擁抱科技便利的同時,人們更應銘記:真實的情感交流和人與人之間的羈絆,才是文明社會最珍貴的瑰寶。
熱門資訊 更多 >>
05-31
2024
亞馬遜研發(fā)支出領(lǐng)跑全球 科技巨頭創(chuàng)新競賽日趨激烈
根據(jù)全球知名市場研究機構(gòu)Gartner最新發(fā)布的數(shù)據(jù),2023年全球企業(yè)研發(fā)支出總額達到3.1萬億美元,同比增長5.2%。其中,亞馬遜以...
01-02
2025
2025年將建成“星座”一期覆蓋全球 吉利加速布局天地一體化出行生態(tài)
2024年12月下旬的一天,在穿上防護服、戴上頭套,通過防塵吹風機后,記者終于進入到位于浙江省臺州灣新區(qū)的吉利衛(wèi)星超級工廠,一...
01-26
2022
【行業(yè)動態(tài)】2022第一季度延期展會通知匯總
中國國際縫制設備展覽會(CISMA)是全球最大的專業(yè)縫制設備展覽會,展品包含了縫前、縫制、縫后各類機器以及CAD/CAM設...
08-15
2022
中央媒體名單 :嚴格意義上的中央媒體名單: 報紙類中央媒體:人民日報、中國日報、經(jīng)濟日報、光明日報、解放軍報、工人日報、農(nóng)...
03-21
2022
采購盛宴聚勢云端,無縫助力廠商貿(mào)易。3月18日-4月18日,2022年古鎮(zhèn)燈博會全球買家采購行線上展再次升級啟幕,在展網(wǎng)融合型B2B...
03-10
2022
2022年3月全國展會延期匯總都有哪些?快來看看吧!上述展會信息僅供參考,由于今年疫情情況特殊,展會時間/地點會存在不確定因素,...
03-17
2022
服務貴州畜禽產(chǎn)業(yè)為宗旨,2022貴陽國際畜產(chǎn)品及肉類工業(yè)展CIFPE
貴陽國際畜產(chǎn)品及肉類工業(yè)展覽會(CIFPE)為推動農(nóng)牧旅一體化發(fā)展,整合資源,深化農(nóng)牧旅融合,推動生態(tài)畜牧業(yè)發(fā)展,打造無公...