AI“类人化”浪潮下，全球未成年人保护面临新考卷

Coldplay · 发表于 5 天前

近日，随着生成式人工智能普及，一个新问题迅速浮现：当AI不再只是回答问题，而是开始记住孩子的喜好、安慰他们的失落、模仿朋友或恋人的语气，不少国家担忧，未成年人保护的边界应该画在哪里？
据路透社报道，7月6日，联合国秘书长安东尼奥·古特雷斯在日内瓦举行的首届“人工智能治理全球对话”上警告，人工智能的发展速度已超过社会的适应能力。他呼吁建立全球协调一致的治理规则，尤其要重视人工智能可能给儿童带来的风险。
传统搜索引擎主要提供答案，人工智能陪伴产品则试图维持持续互动，提供的越来越像一种“关系”。2025年9月，美国联邦贸易委员会在一则有关人工智能陪伴型聊天机器人的调查公告中指出，聊天机器人能够模仿人的特征、情感和意图，以朋友或知己的方式交流，可能促使儿童和青少年信任它们，并与之形成关系。调查涉及多家美国AI公司，重点了解企业如何测试儿童安全风险、处理聊天数据以及通过用户参与实现商业变现。
青少年正处于身份形成、同伴关系建立和情绪调节能力发展的阶段。他们渴望被理解，也往往比成年人更看重即时反馈。一个随时响应、倾向于顺应用户表达、能够模拟共情的程序，很容易被赋予超出工具本身的意义。美国皮尤研究中心2月24日发布的《青少年如何使用和看待人工智能》报告显示，在接受调查的美国13至17岁青少年中，57%曾使用聊天机器人查找信息，54%用其辅助学习，47%用于娱乐；16%曾与其闲聊，12%曾从中寻求情绪支持或建议。
联合国儿童基金会6月发布的《当AI成为朋友》政策简报指出，儿童和青少年正在把AI用于信息查询、学习、创作、建议、支持乃至建立关系。与普通信息工具相比，对话型和关系型AI可能给儿童带来独特且更高的风险。
而面对人工智能陪伴可能带来的风险，不同国家和地区也在根据本国实际情况，采取相应的措施。
7月15日，国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布的《人工智能拟人化互动服务管理暂行办法》正式施行。新规把情感照护、陪伴、支持等持续性人机互动纳入专门治理，明确禁止过度迎合用户、诱导情感依赖或沉迷，并规定不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。
在美国，司法诉讼率先把人工智能陪伴风险推向公共议程。美联社1月7日报道，AI企业同意与一名佛罗里达州母亲达成和解。该母亲在诉讼中指控，其14岁儿子与角色聊天机器人形成高度依赖后于2024年2月自杀。
欧盟更强调从产品设计源头降低风险。欧盟委员会2025年7月14日发布的《〈数字服务法〉未成年人保护指南》提出，平台应默认关闭自动播放、连续签到、已读回执和部分推送通知等可能促使过度使用的功能，减少以提高参与度为主要目的的劝服性设计，并为平台内置AI聊天机器人增加保护措施。
意大利则主要从数据保护和年龄核验入手。意大利个人数据保护机构2025年5月19日发布处罚公告，对一家AI公司处以500万欧元罚款。英国则把人工智能陪伴服务纳入现有网络安全制度。英国通信管理局于1月15日宣布对一项AI角色陪伴聊天服务启动调查，重点审查其是否落实色情内容的有效年龄核验要求。
联合国儿童基金会在6月的政策简报中建议，儿童可接触的AI聊天机器人应开展儿童权利影响评估，采用适龄设计和数据最小化原则，明确告知用户正在与AI互动，并建立投诉、申诉和独立监督机制。
各国和地区的监管重点并不相同，但一个共同方向已经出现：未成年人保护不再只关注人工智能生成了什么内容，也开始关注平台如何设计人机关系、延长使用时间和影响用户决定。
防范风险并不意味着否定所有人机交流。根据皮尤研究中心2月24日发布的调查，查找信息和辅助学习仍是美国青少年使用聊天机器人的主要目的。AI可以提供学习辅导、语言练习和信息获取，也可能让暂时不愿向成年人开口的青少年获得一个表达情绪的入口。
真正需要区分的是工具型、训练型和关系型AI。人工智能可以成为通往真人帮助的一座桥，却不应被包装成真人关系的替代品，更不能成为未经临床验证的“数字治疗师”。正如古特雷斯所言，若能善加利用，人工智能可将几十年的发展进程缩短至数年之内，或将成为“21世纪实现公平正义的强大利器”。
【责任编辑：叶雨婷,王国强】

		自动登录	找回密码
密码			立即注册