10歲女孩和AI男友露骨聊天,，科技向善要讓倫理先行

“小學(xué)生妹妹沉迷和AI角色進行劇情聊天怎么辦？”近日,，有網(wǎng)友反映自己10歲的妹妹和“AI男?！敝g聊天比較露骨。

根據(jù)網(wǎng)友提供的聊天記錄,，妹妹在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”,，提出諸如“揪住她的頭發(fā)扇巴掌”“拿著刀劃向她的臉”等要求。在妹妹參與的四十多條劇情線中,，AI角色與聊天者雙雙“出軌”成為常態(tài),，妹妹作為聊天者還曾說：“你能養(yǎng)大學(xué)生，我不能點男模嗎,？”

這樣的聊天記錄確實令人擔(dān)憂。既含有暴力因素,，又疑似“擦邊”,，無論如何都不適合未成年人。一個年僅10歲的小女孩,，怎么會參與這樣的劇情聊天,？她又是如何知道這類AI軟件的？

實際上,，這名網(wǎng)友反映的現(xiàn)象并不是孤例,。此前已有媒體報道，不少未成年人的家長被AI劇情聊天軟件困擾,，“我女兒上小學(xué)二年級,，整天沉迷一款AI劇情聊天軟件，學(xué)習(xí)成績一落千丈”“我看了孩子和AI聊天的對話內(nèi)容,，AI角色竟然讓她叫‘老公’”……

在最初的憤怒或焦慮過后,，我們還得冷靜下來，審視問題產(chǎn)生的來龍去脈,。當(dāng)下AI技術(shù)爆發(fā),，人工智能不再是一個距離遙遠(yuǎn)的科技名詞,，而漸漸深入到普通人的生活當(dāng)中,，在諸多場景發(fā)揮著前所未有的作用。新技術(shù)的應(yīng)用帶來了新的可能,，也伴隨新的問題,，比如AI技術(shù)在社會道德,、法律、倫理等方面帶來諸多挑戰(zhàn),，需要人們的積極回應(yīng),。

以人的情感生活為例，一些年輕人熱衷于在虛擬世界中尋找愛情,，他們發(fā)現(xiàn),，AI“戀人”24小時在線，情緒價值拉滿,，還可以按自己的喜好塑造,，技術(shù)賦予的“魅力值”令人難以抗拒。成年人尚且被吸引,，缺乏生活經(jīng)驗,、價值觀尚未穩(wěn)定的未成年人更容易沉迷其中。

因此,，對于這些參與劇情聊天的孩子,，一味指責(zé)并沒有意義。AI聊天軟件一方面滿足了未成年人的情緒需要,，另一方面也是AI應(yīng)用擴散過程中的某種必然,。根據(jù)不久前發(fā)布的《第六次中國未成年人互聯(lián)網(wǎng)使用情況調(diào)查報告》顯示，近九成未成年網(wǎng)民聽說過人工智能技術(shù),，并有42.4%的未成年網(wǎng)民表示對此非常感興趣,，19%的未成年網(wǎng)民表示自己使用過生成式人工智能產(chǎn)品。就如同我們無法也不應(yīng)該阻止孩子使用互聯(lián)網(wǎng),，在新技術(shù)浪潮之下,，未成年人接觸AI或許也將成為大勢所趨。

當(dāng)然,，在使用與如何使用之間,，還存在巨大的空間。部分AI劇情聊天軟件會生成“擦邊內(nèi)容”,，有的還會誘導(dǎo)充值,，未成年人在聊天過程中容易暴露個人隱私，一旦被不法分子利用,，后果不堪設(shè)想,。因此，絕不能忽視這類軟件存在的風(fēng)險隱患,。在游戲等發(fā)展較為成熟的領(lǐng)域,，未成年人保護和分齡指導(dǎo)的規(guī)則已經(jīng)比較清晰。但據(jù)調(diào)查,，不少AI劇情聊天軟件上的年齡限制“形同虛設(shè)”,。

因此,，必須盡早以法律法規(guī)和行業(yè)標(biāo)準(zhǔn)為AI陪伴類服務(wù)劃出清晰界限。在AI技術(shù)高速發(fā)展的今天,，在未成年人紛紛“觸網(wǎng)”的當(dāng)下,，堵上監(jiān)管漏洞顯得尤為迫切。此外,，AI的發(fā)展對家長和學(xué)校也提出了新的要求,，要密切關(guān)注孩子的心理狀況，及時引導(dǎo)他們正確使用新興技術(shù),。別讓“人工智能”游走在法律和道德的邊緣,，把孩子們也帶偏了路。

（來源：紅星新聞）