“小學(xué)生妹妹沉迷和AI角色進行劇情聊天怎么辦？”記者聯(lián)系到黃秋月時，她正因10歲妹妹和“AI男模”之間較為露骨的聊天記錄苦惱?！昂退綍r在家里比較單純的形象完全不一樣?！秉S秋月向記者出示了妹妹的一些聊天截圖，她在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”，提出諸如“揪住她的頭發(fā)扇巴掌”“拿著刀劃向她的臉”等要求。

未成年人與AI談戀愛等類似現(xiàn)象，反映出當(dāng)前AI產(chǎn)業(yè)領(lǐng)域發(fā)展迅速，但監(jiān)管滯后的問題。AI聊天軟件的定制化服務(wù)，能夠高度匹配用戶的興趣和需求，從而令人產(chǎn)生一種強烈的吸引力和依賴性，特別容易讓涉世未深的未成年人深陷其中，嚴(yán)重影響孩子學(xué)習(xí)、生活和社交等。更令人擔(dān)憂的是，因未受有效約束，其中常常出現(xiàn)色情、暴力以及價值觀扭曲的聊天內(nèi)容，嚴(yán)重損害未成年人的身心健康，對此必須引起高度重視。

雖然AI聊天軟件給人帶來了個性化的體驗，但也存在一定的負面風(fēng)險，需要及時介入采取措施干預(yù)和約束，讓AI聊天軟件如同未成年人一樣在正確的軌道上健康成長。2023年，我國出臺《生成式人工智能服務(wù)管理暫行辦法》，專門針對AI可能產(chǎn)生的一系列違法違規(guī)問題作出立法回應(yīng)。加快落實這一系列要求，需要多方共同努力。

相關(guān)部門要加快制定和完善法律法規(guī)，加強對AI聊天軟件的監(jiān)管，進一步規(guī)定其在未成年人保護方面的責(zé)任和義務(wù)，同時建立健全內(nèi)容審核機制，確保AI聊天軟件不含有色情、暴力、低俗等違規(guī)內(nèi)容。AI聊天軟件的開發(fā)運營商要結(jié)合形勢、按照要求加強技術(shù)創(chuàng)新，提高內(nèi)容審核的準(zhǔn)確性和安全性，設(shè)置“青少年模式”，限制未成年人訪問“成人區(qū)域”，提供更加健康、有益的未成年人服務(wù)。

現(xiàn)實中，未成年人因為受到AI聊天軟件不良信息的影響，也存在想方設(shè)法突破“青少年模式”的情況。對此，作為第一責(zé)任人的家長要加強對孩子使用AI應(yīng)用的監(jiān)督，引導(dǎo)孩子合理安排時間，平衡虛擬與現(xiàn)實生活。學(xué)校和社會也應(yīng)加強對未成年人的教育引導(dǎo)，提高他們的自我保護意識，別讓AI鉆了空子。