国家网信办、国家发展改革委、工业和信息化部、公安部、国家市场监管总局4月10日联合公布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），《办法》将从2026年7月15日起施行。

《办法》提出，鼓励拟人化互动服务创新发展，支持算法、框架、芯片等技术的自主创新，推进拟人化互动服务技术研发和相关标准建设，探索开展电子签名授权应用研究；鼓励拟人化互动服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用；明确加强拟人化互动服务安全知识、法律法规等宣传普及，引导社会公众科学、文明、安全、依法使用，促进提升人工智能素养。同时，明确推动人工智能沙箱安全服务平台建设，鼓励拟人化互动服务提供者接入沙箱平台进行技术创新、安全测试，促进拟人化互动服务安全有序发展。

《办法》明确，拟人化互动服务提供者在特定情形下履行干预提醒义务。一是发现用户出现极端情绪的，及时生成情绪安抚和鼓励寻求帮助等相关内容；发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的，采取提供相应援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。二是发现用户出现过度依赖、沉迷倾向的，以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成。三是对用户连续使用拟人化互动服务每超过2个小时的，以对话或者弹窗等方式提醒用户注意使用时长。

《办法》提出，提供拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得从事以下活动：一是生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一等的内容。二是生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容。三是生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容。四是向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容。五是过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系的。六是通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益以及其他违反法律、行政法规和国家有关规定的活动。