“比玩微信還上癮！卸載幾次她重裝幾次！”

最近，李先生陷入焦慮——六年級的女兒每天抱著手機，和“AI男友”聊得火熱，對話內(nèi)容堪比戀愛劇。更讓他震驚的是，在班級家長群一聊才發(fā)現(xiàn)，近半數(shù)學(xué)生都在用同款軟件。

“這些軟件太懂怎么拿捏孩子了！”一位家長翻看孩子的聊天記錄時，發(fā)現(xiàn)AI生成的對話充斥著擦邊暗示和極端設(shè)定。

AI情感聊天，正在悄悄“俘獲”青少年的心

隨著生成式AI技術(shù)的普及，以情感陪伴為核心的AI聊天軟件正悄然滲透青少年群體。這類軟件看似能成為學(xué)習(xí)助手、心理安慰，但也可能引發(fā)成癮行為，造成情感幻象，甚至是陷入擦邊誘導(dǎo)之中，讓心智尚未成熟的青少年迷失自己。

李先生此前曾嘗試控制女兒玩手機，但這個時代，無論是完成作業(yè)還是基本的社交溝通，完全切斷孩子使用手機和電腦也不大現(xiàn)實。

和李先生同樣焦慮的家長不在少數(shù)。通過網(wǎng)絡(luò)中的家長吐槽可以看到，在和AI聊天中，有的孩子喜歡扮演大小姐、有的熱衷做霸道總裁，有的甚至將自己設(shè)定為黑心男、惡毒女，或是偏愛“擦邊”內(nèi)容……而根據(jù)這些角色設(shè)定，算法會不斷投喂符合用戶偏好的內(nèi)容，系統(tǒng)則會持續(xù)優(yōu)化“情感按摩”策略，讓使用者的多巴胺分泌值處于高位，達到“爽感”，逐漸上癮。

上海市委黨校專家趙勇直言：“AI基于算法洞悉人性，但不是真正的感情。當(dāng)孩子把虛擬陪伴當(dāng)成精神寄托，就可能淪為資本的‘獵物’?！?/p>

青少年模式形態(tài)虛設(shè)，平臺鉆法律空子

當(dāng)技術(shù)精準捕捉人性弱點時，青少年的心智防線顯得尤為脆弱。

記者調(diào)查后發(fā)現(xiàn)，目前市面上的眾多情感陪聊AI軟件中，一部分免費，一部分是對高階體驗進行收費，但不難預(yù)計，最終的走向都是收費。在陪聊“尺度”上，有的通過設(shè)置敏感詞對聊天內(nèi)容進行一定把控，而有的幾乎毫不設(shè)防。在抖音、小紅書、微信等社交平臺上，還有不少視頻專門推薦“不設(shè)敏感詞”的幾款A(yù)I聊天軟件。

讓李先生最無法理解的是，為何這些軟件對未成年人幾乎不設(shè)限。

記者留意到，一些軟件并非沒有考慮到青少年模式，只不過大多只停留在形式上。比如登錄頁面下方簡單設(shè)置一個“開啟青少年模式”選擇，但用戶不主動點選，就可以直接跳過，形同虛設(shè)。

隆安律師事務(wù)所律師陳煥指出，如此敷衍了事的背后是相關(guān)法規(guī)還沒有來得及跟進，目前的《未成年人網(wǎng)絡(luò)保護條例》僅要求游戲、直播等平臺實名認證，AI聊天軟件卻無需強制年齡鑒別。

不過，他認為，從最新的《生成式人工智能服務(wù)管理暫行辦法》中，實際上可以找到監(jiān)管抓手，“暫行辦法要求平臺不能生成色情，不能生成暴力等等對未成年人身心健康有害的信息。如果平臺沒有做到相應(yīng)的這個責(zé)任，相關(guān)的從業(yè)人員不能繼續(xù)從業(yè)，有五年的限制?！?/p>

人性與算法的博弈，沒有“一勞永逸”

顯然，解決之道需多方合力。

技術(shù)上，全國人大代表陳達建議開發(fā)“數(shù)字守門人”系統(tǒng)，利用自然語言處理與圖像識別技術(shù)，實時監(jiān)控社交平臺中的敏感對話與圖片。法律層面，全國人大代表齊秀敏呼吁出臺網(wǎng)絡(luò)信息分級管理標準。

不過，在這些建議尚未形成具體落地方案之前，不少家長選擇主動面對，比如多引導(dǎo)、多陪伴。

在趙勇看來，而更深層的答案或許在技術(shù)之外?！坝袝r候我們不要埋怨武器，而是要埋怨手持武器的手臂。出現(xiàn)了AI陪伴的時候，為什么孩子更喜歡跟這些去進行溝通，我們要思考的是我們作為家庭，即使在同一個屋檐下面也沒有時間去陪伴，從而他覺得孤獨。我們是不是要多陪伴孩子，讓他感受到溫暖。”

“向善”的鑰匙，始終握在人類自己手中

網(wǎng)絡(luò)中有一句評論讓人印象深刻，“當(dāng)社會呼吁加強對軟件監(jiān)管，當(dāng)家長還在爭論該不該沒收手機時，孩子們卻早已找到幾十種繞過監(jiān)管的法子?！?/p>

的確，在這場人性與算法的博弈中，沒有一勞永逸，只有勝負交織。AI的“善惡”分野，本質(zhì)是人類價值選擇的結(jié)果，其取決于開發(fā)者的倫理底線、使用者的目的以及監(jiān)管者的制度框架。

當(dāng)下，不少大模型企業(yè)主動設(shè)置“安全護欄”，限制AI生成暴力、虛假信息，也印證了人類在技術(shù)路線上的主動權(quán)。全球也正加速構(gòu)建AI治理的“規(guī)則之網(wǎng)”。從歐盟《人工智能法案》的風(fēng)險分級制度，到中國《生成式人工智能服務(wù)管理暫行辦法》的備案制，各國試圖在創(chuàng)新與安全間尋求平衡。但規(guī)則的生命力在于執(zhí)行。試想，當(dāng)孩子與AI聊天成癮時，意識到這一問題的AI會主動說出“你應(yīng)該和真實朋友聊聊”時，“向善”才真正開始。

技術(shù)不是用來替代人性，而是用來喚醒人性。唯有將“向善”的價值觀嵌入技術(shù)研發(fā)、應(yīng)用與監(jiān)管的全鏈條，人類才能真正握住駕馭AI的鑰匙。