国家互联网信息办公室近日发布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》（以下简称《征求意见稿》），并向社会公开征求意见。《征求意见稿》提出，人工智能拟人化互动服务提供者应当显著提示用户正在与人工智能而非自然人进行交互。

《征求意见稿》界定，人工智能拟人化互动服务，是指利用人工智能技术提供模拟人类人格特征、思维模式和沟通风格，通过文字、图片、音频、视频等方式与人类进行情感互动的产品或者服务。人工智能拟人化互动服务提供者，是指利用人工智能技术提供拟人化互动服务的组织、个人。相关管理办法适用范围为向我国境内公众提供的拟人化互动服务。

《征求意见稿》明确了“健康发展和依法治理相结合”的原则，鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管，防止滥用失控。

在服务规范方面，《征求意见稿》明确了八大禁止性活动，包括生成、传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动，或者散布谣言扰乱经济和社会秩序等内容；通过算法操纵、信息误导、设置情感陷阱等方式，诱导用户作出不合理决策；诱导、套取涉密敏感信息等。同时，要求服务提供者落实安全主体责任，建立健全算法机制机理审核、科技伦理审查、信息发布审核等管理制度，在拟人化互动服务全生命周期履行安全责任。

针对数据安全与用户保护，《征求意见稿》对训练数据管理提出明确要求，强调使用符合社会主义核心价值观的数据集，防范数据投毒、数据篡改等行为，保障数据合法可追溯等。在用户权益保障上，要求服务提供者应当具备用户状态识别能力，对极端情绪、沉迷倾向用户及时干预；针对未成年人、老年人等重点群体，设置未成年人模式、监护人同意机制、紧急联系人备案等特殊保护措施。此外，服务提供者应当预设回复模板，发现涉及威胁用户生命健康和财产安全的高风险倾向的，及时输出安抚和鼓励寻求帮助等内容，并提供专业援助方式。服务提供者应当建立应急响应机制，发现用户明确提出实施自杀、自残等极端情境时，由人工接管对话，并及时采取措施联络用户监护人、紧急联系人。

《征求意见稿》强调，服务提供者应当显著提示用户正在与人工智能而非自然人进行交互。服务提供者识别出用户出现过度依赖、沉迷倾向时，或者在用户初次使用、重新登录时，应当以弹窗等方式动态提醒用户交互内容为人工智能生成。用户连续使用拟人化互动服务超过两个小时的，服务提供者应当以弹窗等方式动态提醒用户暂停使用服务。

《征求意见稿》明确，服务提供者发现用户存在重大安全隐患的，应当采取限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。互联网应用商店等应用程序分发平台应当落实上架审核日常管理、应急处置等安全管理责任，核验提供拟人化互动服务应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。