返回頂部
部分打著“情感陪伴”“角色扮演”旗號的AI聊天應(yīng)用，正瘋狂收割未成年人。人民網(wǎng)《人民直擊》調(diào)查發(fā)現(xiàn)，一些AI聊天應(yīng)用打著“戀愛”“結(jié)婚”的噱頭吸引孩子；用臟話、陰暗人設(shè)制造刺激，讓孩子越聊越上癮；把暴力、色情這些不該出現(xiàn)在少年兒童世界里的東西，包裝成賣點。
語言暴力、人設(shè)陰暗、誘導危險行為——這些本該在現(xiàn)實中遠離孩子的“垃圾”，正披著“人性化”的外衣，精準投喂未成年人。
更值得警惕的是，今天的AI大多是被動應(yīng)答。孩子說“我想死”，它就問“為什么想死”；孩子說“我要報復”，它就問“你想怎么報復”。針對這種情況，算法必須升級——讓AI能識別異常情緒，能識別誘導性提問，能在危險邊緣主動說一句：“這個話題我不太懂，要不要和爸爸媽媽聊聊？”這不是限制自由，是有溫度的攔截。對未成年人的交互內(nèi)容進行過濾，而不是等出事了再追責，這正是平臺的責任所在。
一言以蔽之，未成年人模式絕不能成為“擺設(shè)”。技術(shù)防線建了沒有？漏洞堵了沒有？實名認證形同虛設(shè)、卸載重裝即可繞過、打賞支付無風險提示——這些“后門”是誰留的？答案很清楚。這些問題怎么解決，方法也都很成熟。為孩子安全用AI堵上后門、過濾內(nèi)容、不讓算法作惡，這是開發(fā)者、算法、平臺共同的責任，也是做人應(yīng)有的良知。
在AI產(chǎn)業(yè)飛速發(fā)展的時代，監(jiān)管也必須大步跟上。要織密“分級+共治”的監(jiān)管網(wǎng)，如建立AI聊天應(yīng)用內(nèi)容分級制度，對面向未成年人的產(chǎn)品嚴格管理，明確準入門檻和內(nèi)容標準。同時，打通網(wǎng)信、教育、婦聯(lián)等多部門數(shù)據(jù)壁壘，形成“發(fā)現(xiàn)—預警—干預”的閉環(huán)，讓監(jiān)管不缺位、不滯后，用制度規(guī)范AI產(chǎn)業(yè)發(fā)展，為未成年人保駕護航。
當然，說到底，最堅固的防線不在云端，而在家里。父母放下手機后的那句“我在聽”，親人推心置腹的每一次交談，是任何算法都無法破解的守護密碼，也是孩子成長路上最大的“底牌”。（子川）
