10歲女孩和AI男友露骨聊天,，科技向善要讓倫理先行

“小學(xué)生妹妹沉迷和AI角色進(jìn)行劇情聊天怎么辦,？”近日，有網(wǎng)友反映自己10歲的妹妹和“AI男?！敝g聊天比較露骨,。

根據(jù)網(wǎng)友提供的聊天記錄，妹妹在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”,，提出諸如“揪住她的頭發(fā)扇巴掌”“拿著刀劃向她的臉”等要求,。在妹妹參與的四十多條劇情線中,，AI角色與聊天者雙雙“出軌”成為常態(tài),，妹妹作為聊天者還曾說(shuō)：“你能養(yǎng)大學(xué)生，我不能點(diǎn)男模嗎,？”

這樣的聊天記錄確實(shí)令人擔(dān)憂。既含有暴力因素,，又疑似“擦邊”,，無(wú)論如何都不適合未成年人。一個(gè)年僅10歲的小女孩,，怎么會(huì)參與這樣的劇情聊天,？她又是如何知道這類AI軟件的？

實(shí)際上,，這名網(wǎng)友反映的現(xiàn)象并不是孤例,。此前已有媒體報(bào)道，不少未成年人的家長(zhǎng)被AI劇情聊天軟件困擾，“我女兒上小學(xué)二年級(jí)，整天沉迷一款AI劇情聊天軟件,，學(xué)習(xí)成績(jī)一落千丈”“我看了孩子和AI聊天的對(duì)話內(nèi)容,，AI角色竟然讓她叫‘老公’”……

在最初的憤怒或焦慮過(guò)后,，我們還得冷靜下來(lái),，審視問(wèn)題產(chǎn)生的來(lái)龍去脈,。當(dāng)下AI技術(shù)爆發(fā),，人工智能不再是一個(gè)距離遙遠(yuǎn)的科技名詞,，而漸漸深入到普通人的生活當(dāng)中,，在諸多場(chǎng)景發(fā)揮著前所未有的作用。新技術(shù)的應(yīng)用帶來(lái)了新的可能,，也伴隨新的問(wèn)題,，比如AI技術(shù)在社會(huì)道德、法律,、倫理等方面帶來(lái)諸多挑戰(zhàn),，需要人們的積極回應(yīng)。

以人的情感生活為例,，一些年輕人熱衷于在虛擬世界中尋找愛(ài)情,，他們發(fā)現(xiàn)，AI“戀人”24小時(shí)在線,，情緒價(jià)值拉滿,，還可以按自己的喜好塑造，技術(shù)賦予的“魅力值”令人難以抗拒,。成年人尚且被吸引,，缺乏生活經(jīng)驗(yàn)、價(jià)值觀尚未穩(wěn)定的未成年人更容易沉迷其中,。

因此,，對(duì)于這些參與劇情聊天的孩子，一味指責(zé)并沒(méi)有意義,。AI聊天軟件一方面滿足了未成年人的情緒需要,，另一方面也是AI應(yīng)用擴(kuò)散過(guò)程中的某種必然。根據(jù)不久前發(fā)布的《第六次中國(guó)未成年人互聯(lián)網(wǎng)使用情況調(diào)查報(bào)告》顯示,，近九成未成年網(wǎng)民聽(tīng)說(shuō)過(guò)人工智能技術(shù),，并有42.4%的未成年網(wǎng)民表示對(duì)此非常感興趣，19%的未成年網(wǎng)民表示自己使用過(guò)生成式人工智能產(chǎn)品,。就如同我們無(wú)法也不應(yīng)該阻止孩子使用互聯(lián)網(wǎng),，在新技術(shù)浪潮之下，未成年人接觸AI或許也將成為大勢(shì)所趨,。

當(dāng)然,，在使用與如何使用之間，還存在巨大的空間,。部分AI劇情聊天軟件會(huì)生成“擦邊內(nèi)容”,，有的還會(huì)誘導(dǎo)充值,，未成年人在聊天過(guò)程中容易暴露個(gè)人隱私，一旦被不法分子利用,，后果不堪設(shè)想,。因此，絕不能忽視這類軟件存在的風(fēng)險(xiǎn)隱患,。在游戲等發(fā)展較為成熟的領(lǐng)域,，未成年人保護(hù)和分齡指導(dǎo)的規(guī)則已經(jīng)比較清晰。但據(jù)調(diào)查,，不少AI劇情聊天軟件上的年齡限制“形同虛設(shè)”,。

因此，必須盡早以法律法規(guī)和行業(yè)標(biāo)準(zhǔn)為AI陪伴類服務(wù)劃出清晰界限,。在AI技術(shù)高速發(fā)展的今天,，在未成年人紛紛“觸網(wǎng)”的當(dāng)下，堵上監(jiān)管漏洞顯得尤為迫切,。此外,，AI的發(fā)展對(duì)家長(zhǎng)和學(xué)校也提出了新的要求，要密切關(guān)注孩子的心理狀況,，及時(shí)引導(dǎo)他們正確使用新興技術(shù),。別讓“人工智能”游走在法律和道德的邊緣，把孩子們也帶偏了路,。

（來(lái)源：紅星新聞）