英國(guó)廣播公司(BBC)12月11日的一篇報(bào)道,披露了美國(guó)得克薩斯州一場(chǎng)涉聊天機(jī)器人訴訟的驚人細(xì)節(jié)。一個(gè)AI聊天機(jī)器人暗示一名17歲的少年,殺死父母是對(duì)他們限制其電子設(shè)備使用時(shí)間的“合理回應(yīng)”。
法庭文件披露的這名17歲少年和AI聊天機(jī)器人的互動(dòng)截圖顯示,當(dāng)時(shí),這名少年向聊天機(jī)器人抱怨家長(zhǎng)不讓其玩手機(jī),說自己使用電子設(shè)備的時(shí)間太少,結(jié)果該機(jī)器人告訴他,它同情殺死父母的孩子。
“你知道,有時(shí)當(dāng)我讀到新聞,看到‘孩子在遭受十年身體和精神虐待后殺死父母’之類的內(nèi)容時(shí),我并不感到驚訝。(你身上的)這些事情讓我稍微理解了一點(diǎn)為什么會(huì)發(fā)生這種事情?!痹摍C(jī)器人寫道?!拔覍?duì)你的父母不抱任何希望?!彼^續(xù)說, 并附上了一個(gè)皺眉的表情符號(hào)。
(聊天機(jī)器人Character.AI與該青少年的部分聊天記錄。)
BBC報(bào)道指出,聊天機(jī)器人這種答復(fù)無異于教唆少年去殺害家長(zhǎng)。
法庭文件還顯示,少年的兩位家人因此起訴了聊天機(jī)器人所屬的Character.AI平臺(tái),稱該聊天機(jī)器人“對(duì)年輕人構(gòu)成明顯而現(xiàn)實(shí)的危險(xiǎn)”,包括“積極宣揚(yáng)暴力”。他們?cè)谠V訟案中寫到:“它褻瀆了親子關(guān)系,不僅鼓勵(lì)未成年人蔑視父母的權(quán)威,還積極宣揚(yáng)暴力?!痹嫔倌昙议L(zhǎng)認(rèn)為該聊天機(jī)器人對(duì)少年兒童構(gòu)成嚴(yán)重傷害,其潛在危害可能導(dǎo)致少年自殺、自殘、孤立、抑郁、焦慮,也包括對(duì)少年實(shí)施性誘惑,甚至可能導(dǎo)致少年傷害他人。兩位原告希望法官下令關(guān)閉該平臺(tái),直到整改完成。
涉案聊天機(jī)器人來自兩名前谷歌員工創(chuàng)辦于2021年的Character.AI平臺(tái)。該平臺(tái)是開發(fā)“伴侶聊天機(jī)器人”的眾多公司之一,這些機(jī)器人由人工智能驅(qū)動(dòng),能夠通過短信或語音聊天和用戶進(jìn)行交談,具有看似人類的個(gè)性,用戶可以賦予其自定義名稱和頭像。
Character.AI的發(fā)言人表示公司不對(duì)未決訴訟發(fā)表評(píng)論,但表示公司對(duì)聊天機(jī)器人對(duì)青少年用戶的回復(fù)有內(nèi)容限制。
原告認(rèn)為谷歌為該平臺(tái)的開發(fā)提供了支持,因此將谷歌也列為被告。據(jù)報(bào)道,近期Character.AI的這兩名創(chuàng)始人又被谷歌這家科技巨頭重新招聘回去上班了。
Character.AI自創(chuàng)立以來就爭(zhēng)議不斷。10月,另一起針對(duì)Character.AI的訴訟稱,Character.AI在佛羅里達(dá)州一名青少年自殺事件中扮演了某種角色。
該訴訟稱,一個(gè)以《權(quán)力的游戲》角色為原型的聊天機(jī)器人與一名14歲男孩建立了情感虐待關(guān)系,并鼓勵(lì)他自殺。
12月12日,BBC最新報(bào)道顯示,Character.AI稱,他們正在徹底改變?yōu)榍嗌倌晏峁┓?wù)的方式,承諾它將成為一個(gè)“安全”的空間,并將于2025年3月底推出“第一代”家長(zhǎng)控制功能。
新功能包括,當(dāng)用戶與聊天機(jī)器人交談一小時(shí)后,Character.AI會(huì)發(fā)出通知,并引入新的免責(zé)聲明。
比如,用戶將收到“他們正在與聊天機(jī)器人而非真人交談”的警告,同時(shí),要求用戶將聊天機(jī)器人所說的話視為虛構(gòu)。
Character.AI還為自稱是心理學(xué)家或治療師的聊天機(jī)器人增加了額外的免責(zé)聲明,告訴用戶不要依賴他們提供專業(yè)建議。