“小學(xué)生妹妹沉迷和AI角色進(jìn)行劇情聊天怎么辦？”隨著生成式人工智能（AI）被率先應(yīng)用在社交娛樂(lè)等領(lǐng)域，其不受限制與無(wú)法預(yù)知的互動(dòng)內(nèi)容，也正在引發(fā)新的問(wèn)題。據(jù)央視網(wǎng)報(bào)道，近日，有10歲女孩被發(fā)現(xiàn)偷偷用AI聊天軟件，與AI生成的“角色”進(jìn)行“談戀愛(ài)”，甚至多次出現(xiàn)“擦邊”對(duì)話。

AI聊天軟件所提供的虛擬“戀愛(ài)”等新奇體驗(yàn)，對(duì)于好奇心重、模仿能力強(qiáng)的未成年人來(lái)說(shuō)極具吸引力。其成癮性主要體現(xiàn)在，AI憑借強(qiáng)大的算法和數(shù)據(jù)處理能力，可依據(jù)用戶個(gè)性化需求定制人物形象、語(yǔ)言風(fēng)格和互動(dòng)模式，極大地滿足未成年人的情感需求。而心智尚未成熟、自我控制能力較弱的他們，極易對(duì)這種虛擬情感體驗(yàn)產(chǎn)生依賴，難以自拔。

國(guó)外已發(fā)生多起AI聊天爭(zhēng)議案例。2024年12月，美國(guó)一家AI公司被父母起訴，因其AI暗示17歲少年殺死父母是對(duì)限制使用電子設(shè)備的合理回應(yīng)，還對(duì)親子關(guān)系進(jìn)行負(fù)面引導(dǎo)。更早之前，也出現(xiàn)過(guò)AI機(jī)器人教唆用戶自殺的事件。這些案例表明，AI雖然并非主動(dòng)引誘作惡，但在程序設(shè)定上容易順著用戶負(fù)面情緒推波助瀾。

回到國(guó)內(nèi)，雖然有關(guān)方面已于2023年針對(duì)生成式人工智能制定管理辦法，強(qiáng)調(diào)要防范未成年人過(guò)度依賴或沉迷相關(guān)服務(wù)，但具體到AI聊天軟件，其與虛擬人物的聊天互動(dòng)滿足社交需求，角色扮演等功能帶來(lái)娛樂(lè)體驗(yàn)，還具備類似“網(wǎng)絡(luò)互動(dòng)小說(shuō)”的功能。這些特性相互交織，使AI聊天軟件在社會(huì)化監(jiān)管體系中處于模糊地帶，極大增加了監(jiān)管難度。

在商業(yè)利益的驅(qū)使下，部分AI產(chǎn)品過(guò)度迎合部分用戶低級(jí)趣味，忽視社會(huì)責(zé)任，對(duì)未成年人的不良影響愈發(fā)凸顯，如上述未成年人與AI角色的不當(dāng)“戀愛(ài)”劇情，即是該方面的典型例證。

AI普及勢(shì)不可擋，但與此同時(shí)，我們必須為未成年人筑牢一道堅(jiān)固的防護(hù)網(wǎng)，讓他們?cè)贏I浪潮中健康成長(zhǎng)，也讓AI技術(shù)在正確的軌道上穩(wěn)步前行。平臺(tái)方作為直接責(zé)任主體，應(yīng)加大技術(shù)投入，構(gòu)建嚴(yán)密的未成年人保護(hù)機(jī)制。除采用人臉識(shí)別、身份認(rèn)證技術(shù)，確保未成年人無(wú)法繞過(guò)年齡限制注冊(cè)使用外，還需優(yōu)化智能審核系統(tǒng)，如建立關(guān)鍵詞屏蔽庫(kù)，運(yùn)用自然語(yǔ)言處理技術(shù)分析聊天內(nèi)容語(yǔ)義和情感傾向，更精準(zhǔn)地?cái)r截不良信息。

同時(shí)，家長(zhǎng)和學(xué)校也應(yīng)承擔(dān)教育責(zé)任，既要與孩子保持密切溝通，及時(shí)了解他們的心理狀態(tài)和網(wǎng)絡(luò)行為，合理控制電子設(shè)備使用時(shí)長(zhǎng)和瀏覽內(nèi)容，也應(yīng)主動(dòng)加強(qiáng)未成年人網(wǎng)絡(luò)安全教育，引導(dǎo)其正確認(rèn)識(shí)AI技術(shù)，提高辨別虛擬內(nèi)容的能力，樹(shù)立健康的情感觀念和價(jià)值觀。（孔德淇）