當(dāng)前，AI雖然已經(jīng)在諸多領(lǐng)域展現(xiàn)出巨大潛力和廣泛影響力，但快速發(fā)展的背后，法律和倫理建設(shè)尚未跟上，一些令人憂慮的現(xiàn)象浮出水面。
（IC photo / 圖）
前段時(shí)間，開放人工智能研究中心（OpenAI）推出GPT商店——這有點(diǎn)像是我們手機(jī)里的應(yīng)用商店，讓開發(fā)者可以售賣自己定制的GPT機(jī)器人。在這家新的GPT商店搜索“女友”，結(jié)果欄里就會(huì)出現(xiàn)多個(gè)人工智能（AI）聊天機(jī)器人“女友”。
“AI女友”的普及也催生了一種新的社交現(xiàn)象，并引發(fā)倫理和法律邊界的模糊化問題，尤其是一些商家借AI女友進(jìn)行擦邊球式的黃色交易，使原本旨在提升人類生活質(zhì)量的“AI陪伴”陷入道德爭議的漩渦。
越來越強(qiáng)大的AI，在人類情感陪伴上起到越來越重要的作用，從AI女友到AI復(fù)活親人，都是“陪伴”的一種形式。
AI陪伴應(yīng)該確立怎樣的邊界，如何避免人們“沉迷”？如果AI女友導(dǎo)向黃色交易，會(huì)對AI行業(yè)造成怎樣的打擊？
AI陪伴的意義
所謂AI陪伴，是指通過智能算法和大數(shù)據(jù)分析來模擬人類的情感、思維和行為，從而與用戶建立起一種親密的、互動(dòng)的關(guān)系，理解和回應(yīng)用戶的情緒狀態(tài)，提供情感支持和慰藉，比如通過聊天、傾聽和提供建議來緩解用戶的孤獨(dú)感，滿足用戶的陪伴需求。
AI陪伴不限于物理實(shí)體的機(jī)器人，也包括軟件應(yīng)用、虛擬助手等形式；AI陪伴不受時(shí)間和空間限制，可以隨時(shí)隨地響應(yīng)用戶的需求。
AI陪伴確實(shí)有其價(jià)值。比如對于那些在生活中感到孤獨(dú)或者存在社交障礙的人群來說，AI女友可以提供及時(shí)的情感反饋和心理安慰，幫助用戶舒緩壓力、排解孤獨(dú)。對于那些不愿意面對傳統(tǒng)戀愛關(guān)系壓力的人來說，AI女友可以作為一個(gè)相對安全、無壓力的互動(dòng)對象。
又比如，最近中文互聯(lián)網(wǎng)上受到廣泛關(guān)注的AI復(fù)活親人，也是AI陪伴的一種形態(tài)。AI復(fù)活親人，是通過AI技術(shù)構(gòu)建一個(gè)基于已故親友信息的數(shù)字化身，這個(gè)化身不僅具有陪伴的功能，而且力求模仿逝者的外貌、聲音、行為習(xí)慣甚至性格特點(diǎn)，讓用戶感受到與逝去親人再次接觸的可能性。
2021年，知名音樂人包小柏22歲的女兒包容因病去世，近日，他用AI“復(fù)活”女兒給妻子唱了生日歌。他感慨：“AI就是寄托思念的工具，也是一種對思念的表達(dá)方式。”AI復(fù)活親人，一定程度上可以提供心理上的安慰和支持，幫助用戶緩解失去親人的痛苦和孤獨(dú)感。
（IC photo / 圖）
AI陪伴的邊界
很顯然，AI陪伴在設(shè)計(jì)、開發(fā)及應(yīng)用過程中應(yīng)確立一系列倫理與法律邊界，確保技術(shù)的健康發(fā)展和社會(huì)的和諧穩(wěn)定。
只是，這個(gè)邊界應(yīng)該是什么樣的？
在前機(jī)器人時(shí)代，科幻小說家阿西莫夫曾提出著名的“機(jī)器人三原則”（Three Laws of Robotics），用于指導(dǎo)虛構(gòu)作品中的機(jī)器人行為。第一條法則：機(jī)器人不得傷害人類，或因不作為而導(dǎo)致人類受到傷害；第二條法則：機(jī)器人必須服從人類的命令，除非這條命令與第一條法則相沖突；第三條法則：機(jī)器人必須保護(hù)自己的存在，但前提是這種保護(hù)行動(dòng)不能違反第一或第二條法則。
雖然AI并不是傳統(tǒng)意義上的機(jī)器人，它們可能沒有實(shí)體形態(tài)，也沒有自我保護(hù)的需求，AI的行為和決策是基于算法和數(shù)據(jù)的，而不是基于機(jī)械的物理規(guī)律。
但是機(jī)器人三原則仍然可以為AI的發(fā)展提供一些有益的指導(dǎo)，那就是——AI應(yīng)該被設(shè)計(jì)為尊重人類的價(jià)值觀和道德準(zhǔn)則，避免對人類造成傷害或不利影響；AI也應(yīng)該被設(shè)計(jì)為能夠理解和遵守人類的命令，并在必要時(shí)進(jìn)行自我約束或關(guān)閉，以確保人類的安全和控制。
在AI陪伴領(lǐng)域，它的邊界就是：不能對人類造成傷害；需要進(jìn)行必要的限制，以確保人類安全。
這種邊界首先體現(xiàn)為一些顯而易見的底線，包括AI陪伴應(yīng)該遵守國家和地區(qū)的法律法規(guī)及道德規(guī)范，確保AI陪伴符合行業(yè)規(guī)范和監(jiān)管要求——像一些擦邊的AI女友就必須被管控；又比如AI陪伴不能非法收集、存儲(chǔ)、使用或泄露用戶的個(gè)人信息，確保用戶的隱私權(quán)益得到充分保障。
然而，難度最大的是，如何防止人類沉迷AI陪伴，甚至因此失去了現(xiàn)實(shí)交往能力？
這至少可從兩方面著手。在設(shè)計(jì)層面上，AI陪伴應(yīng)具備合理的時(shí)間控制功能，設(shè)置每日使用時(shí)長上限；鼓勵(lì)用戶與現(xiàn)實(shí)世界互動(dòng)，比如設(shè)定目標(biāo)，幫助用戶安排線下活動(dòng)，或者提供基于現(xiàn)實(shí)環(huán)境的信息服務(wù)。
在用戶層面上，媒體有必要加強(qiáng)對公眾的教育，讓人們了解AI陪伴的局限性，明確它只能作為現(xiàn)實(shí)交往的輔助工具，而非替代品；針對可能出現(xiàn)過度依賴AI陪伴的用戶，社會(huì)層面上要提供心理咨詢和干預(yù)服務(wù)，幫助用戶建立健康的生活方式和社交模式。
AI女友濫用的危機(jī)
當(dāng)前，AI雖然已經(jīng)在諸多領(lǐng)域展現(xiàn)出巨大潛力和廣泛影響力，但是，快速發(fā)展的背后，法律和倫理建設(shè)尚未跟上，一些令人憂慮的現(xiàn)象浮出水面。
比如國外的AI女友問題，已經(jīng)引起擔(dān)憂。AI女友憑借24小時(shí)全天候在線陪聊、多模態(tài)交互（文字、語音、圖像）等特點(diǎn)，迅速吸引了大批用戶。一些不法分子利用AI女友的智能性，將其包裝成性服務(wù)提供者，以此來吸引用戶并從中牟利，“聊1分鐘1美元”，“很黃很暴利”。
GPT商店已經(jīng)及時(shí)為漏洞打上補(bǔ)丁，該公司禁止GPT“致力于培養(yǎng)浪漫的伴侶關(guān)系或進(jìn)行受監(jiān)管的活動(dòng)”。然而，各式各樣的擦邊AI女友還是通過網(wǎng)上商城、其他應(yīng)用商店等形態(tài)被廣泛出售，中文互聯(lián)網(wǎng)也存在一些游離于監(jiān)管之外的AI女友。
在很多國家和地區(qū)，色情內(nèi)容的生產(chǎn)和傳播受到嚴(yán)格的法律限制和監(jiān)管。如果AI女友包含了色情內(nèi)容或者鼓勵(lì)了不法行為，那么已經(jīng)觸犯相關(guān)法律法規(guī)。如果AI女友產(chǎn)品沒有做好年齡限制和內(nèi)容分級(jí)，也違背了未成年人保護(hù)的相關(guān)法律法規(guī)。
在道德層面上，“很黃很暴利”的AI女友嚴(yán)重違反社會(huì)倫理和公序良俗，將親密關(guān)系領(lǐng)域的內(nèi)容商品化、娛樂化，對個(gè)人的心理健康和社會(huì)道德觀念產(chǎn)生負(fù)面影響。
在性別層面上，AI女友以滿足男性用戶的需求為主導(dǎo)，加劇女性物化現(xiàn)象，是對女性尊嚴(yán)和權(quán)益的忽視。
而從AI的發(fā)展角度看，“很黃很暴利”的AI女友是在濫用AI技術(shù)，偏離AI應(yīng)用于改善人類生活的初衷，同時(shí)也挑戰(zhàn)了社會(huì)倫理和法律底線。
這樣的AI產(chǎn)品如果大行其道，會(huì)對AI陪伴的整體形象和發(fā)展造成負(fù)面影響，消耗公眾對AI陪伴技術(shù)的信任；政府和監(jiān)管部門可能會(huì)出臺(tái)更嚴(yán)格的法律法規(guī)來約束AI陪伴的開發(fā)和銷售，從而對整個(gè)AI陪伴行業(yè)形成沖擊。
總之，不僅僅是AI陪伴，而是整個(gè)AI技術(shù)的發(fā)展，都不能脫離法律和倫理的軌道。有必要盡快構(gòu)建和完善適應(yīng)AI時(shí)代的法律法規(guī)體系，包括AI數(shù)據(jù)保護(hù)、AI倫理規(guī)范、AI安全標(biāo)準(zhǔn)，確保AI技術(shù)真正做到科技向善，以人為本，更好地服務(wù)于社會(huì)，而非相反，成為純粹追求刺激和利潤的工具。