面向儿童的 AI 技术日益发展,但数字通信部副部长 Nezar Patria 于 2026 年 10 月 16 日提醒人们关注依赖风险。约 7000 万印尼儿童将在复杂的数字生态系统中成长,AI 的影响力也将日益增强。AI 技术的发展给家长保护年轻一代免受各种数字风险侵害带来了严峻挑战。
人工智能如今已成为儿童日常生活的一部分。通过聊天机器人和各种应用,孩子可以寻求帮助完成学校作业、创作故事、查找课程内容的解释,甚至咨询日常问题。这种便利为教育带来了新的机遇,但在其益处背后,也出现了一些值得家长关注的风险。
儿童面临失去批判性思维能力的风险
使用 AI 的一项风险是孩子过度依赖即时答案。面对家庭作业或课程问题时,孩子可能会直接让 AI 给出答案,而不努力理解解题过程。
如果这种习惯持续下去,使用技术可能会减少孩子锻炼分析、解决问题和自主思考能力的机会。然而,学习过程的目的不仅是获得正确答案,也是训练理解问题和寻找解决方案的能力。因此,AI 应当作为学习辅助工具,而不是思考过程的替代品。
AI 提供的信息未必准确
另一项风险是 AI 生成的信息并不总是准确的。这项技术可能给出听起来令人信服的答案,却包含事实错误、信息不完整,甚至不实的参考资料。
对于数字素养尚不充分的儿童来说,辨别信息真伪可能是一项挑战。联合国儿童基金会(UNICEF)解释说,生成式 AI 可能生成错误信息,并有可能影响儿童对某个问题的理解。因此,应让孩子养成习惯,在相信 AI 的答案之前,先通过课本、教师或官方来源重新核实信息。
隐私和个人数据面临威胁
使用 AI 聊天机器人时,孩子有时会讲述许多有关个人生活的事情。他们可能会输入全名、家庭住址、学校名称、照片、电话号码,甚至家庭问题。分享此类信息的习惯,可能会在信息技术领域带来隐私和个人数据安全风险。
UNICEF 在《人工智能与儿童指南 3.0 版》中强调,在人工智能技术的开发和使用过程中保护儿童数据十分重要。家长需要向孩子说明,并非所有信息都可以分享给数字应用。孩子也需要了解阅读隐私政策的重要性,并按照规定的年龄限制使用服务。
对聊天机器人产生情感依赖的风险
如今,生成式 AI 的功能已不只是搜索信息。一些应用还被设计成通过类似人与人交流的对话进行互动。
对于孩子来说,总能给予回应的聊天机器人可能像一个随时愿意倾听的朋友。但这种互动需要引起关注。孩子可能会过度依赖聊天机器人来获得情感支持,包括在遇到个人问题时。UNICEF 提醒,设计得像人类朋友一样的聊天机器人可能带来情感依赖、操纵以及个人信息泄露等风险。孩子需要明白,AI 不是人,不能取代社会关系、家人的关爱或专业人员的陪伴。
滥用 AI 制作有害内容
另一项同样严重的风险,是滥用 AI 技术制作虚假图片和视频,包括涉及儿童的色情内容。2026 年 2 月,UNICEF 警告称,利用 AI 将儿童照片篡改成带有性意味图片的情况正在增加。
在 UNICEF、ECPAT 和 INTERPOL 对 11 个国家开展的一项研究中,据报告,在一年内至少有 120 万名儿童曾遭遇照片被篡改成色情深度伪造内容。此类威胁表明,上传到互联网的照片可能被滥用,以制作伤害受害者的虚假内容。家长需要让孩子了解个人照片安全、向陌生人分享图片的危险,以及举报剥削儿童内容的方式。
家长保护儿童免受 AI 风险影响的指南
面对 AI 的发展,禁止使用所有技术并非唯一途径。孩子也需要具备理解人工智能的益处、局限和风险的能力。信息技术素养和批判性思维能力,是帮助年轻一代迎接数字时代的关键。
家长可以采取以下几项措施:
第一,在孩子使用 AI 应用时陪伴他们,尤其是在他们刚开始接触聊天机器人和生成式服务时。
第二,设定数字设备的使用时限,让孩子仍有机会玩耍、阅读、运动和进行面对面交流。
第三,教导孩子不要在 AI 服务中输入个人数据、敏感照片、家庭住址或家庭信息。
第四,让孩子养成核实 AI 答案的习惯,通过课本、教师和可信的信息来源进行比对。
第五,建立开放的沟通,让孩子在发现令人不安的内容或使用技术时遭遇不良经历后,不会害怕讲出来。
数字通信部也强调,家长加强数字育儿陪伴十分重要。这项工作与通过 2025 年第 17 号政府条例(PP TUNAS)实施的数字空间儿童保护政策相一致。
归根结底,人工智能可以成为帮助儿童学习和发展创造力的工具。但要发挥这些益处,还需要具备批判性思维、数字素养、隐私保护意识以及家长的参与。挑战不仅是让孩子能够使用 AI,更是要确保他们仍能独立思考、识别风险,并负责任地使用技术。