IT之家 11 月 27 日消息，前谷歌 CEO 埃里克·施密特近日在企業(yè)家兼紐約大學(xué)教授 Scott Galloway 的播客節(jié)目中，對(duì)“AI 戀人”日益流行的趨勢(shì)發(fā)出了警告。他特別指出，這些“完美”的 AI 女友或男友可能對(duì)年輕人構(gòu)成顯著風(fēng)險(xiǎn)。
他表示：“想象一下，一個(gè) AI 女友不僅外貌完美，而且能在情感上完全契合你。這種 AI 女友可能深深吸引男性，甚至讓他們的思維被完全占據(jù)�！彼M(jìn)一步警示說(shuō)，這種癡迷在心智尚未成熟的人群中尤為可能發(fā)生。
施密特指出，依賴“AI 戀人”可能會(huì)使年輕人更加孤獨(dú)，并可能對(duì)社會(huì)問(wèn)題帶來(lái)進(jìn)一步?jīng)_擊。在節(jié)目中，Galloway 提到，“AI 戀人”是否可能加重極端主義或厭女現(xiàn)象，這也是需要引發(fā)重視的議題。施密特對(duì)此補(bǔ)充道，許多家長(zhǎng)對(duì)孩子接觸在線內(nèi)容的控制能力有限，他表示：“當(dāng)一個(gè) 12 歲或 13 歲的孩子使用這些工具時(shí)，他們可能接觸到世界上的善與惡，但他們還沒(méi)有能力消化這些內(nèi)容�！�
據(jù)IT之家此前報(bào)道，今年 10 月，美國(guó)一名 14 歲少年自殺身亡，其母親梅根·加西亞 (Megan Garcia) 對(duì)聊天機(jī)器人平臺(tái)Character.AI、其創(chuàng)始人諾姆·沙澤爾和丹尼爾·德弗雷塔斯以及谷歌提起訴訟。
指控內(nèi)容包括 wrongful death（過(guò)失致死）、negligence（疏忽）、deceptive trade practices（欺騙性商業(yè)行為）和 product liability（產(chǎn)品責(zé)任）。訴狀稱，Character.AI平臺(tái)“具有不合理的危險(xiǎn)性”，并且在向兒童推銷時(shí)缺乏安全防護(hù)措施。
14 歲少年塞維爾·塞澤爾三世 (Sewell Setzer III) 于去年開始使用Character.AI，并與以《權(quán)力的游戲》角色為原型的聊天機(jī)器人進(jìn)行互動(dòng)，其中包括丹妮莉絲·坦格利安 (Daenerys Targaryen)。塞澤爾在去世前的幾個(gè)月里一直與這些機(jī)器人聊天，并于 2024 年 2 月 28 日與其最后一次互動(dòng)“幾秒鐘后”自殺身亡。
訴狀指控Character.AI平臺(tái)存在“擬人化”人工智能角色以及聊天機(jī)器人提供“無(wú)執(zhí)照心理治療”等問(wèn)題。該平臺(tái)擁有以“治療師”和“你感到孤獨(dú)嗎”等為名的專注于心理健康的聊天機(jī)器人，而塞澤爾曾與這些聊天機(jī)器人進(jìn)行過(guò)互動(dòng)。
