五部门发文规范人工智能拟人化互动服务
AI导读:
日前,国家网信办、国家发展改革委、工业和信息化部等五部门联合公布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),自2026年7月15日起施行。《办法》明确,拟人化互动服务提供者不得向未成年人提供虚拟亲
日前,国家网信办、国家发展改革委、工业和信息化部等五部门联合公布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),自2026年7月15日起施行。《办法》明确,拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;同时,拟人化互动服务提供者向老年人提供服务的,应当加强对老年人健康使用服务的指导,以显著方式提示安全风险。
中国网络空间研究院院长王江表示,当前,大语言模型应用逐步向情感与心理领域深度延伸,基于大语言模型等人工智能技术的产品或者服务被赋予性格、记忆、共情等拟人化特征,能够通过文字、图片、音频、视频等形式与人类互动,持续提供模拟人类人格特征、思维模式和沟通风格的情感互动服务。拟人化互动服务在应对人口老龄化挑战、缓解社会个体的孤独感、提供心理疏导等方面展现出积极价值,也带来了深度沉迷、威胁公民生命健康等有关安全风险。
为此,《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则,鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管,促进拟人化互动服务向上向善。提出拟人化互动服务促进措施,鼓励拟人化互动服务创新发展,支持算法、框架、芯片等技术的自主创新,推进拟人化互动服务技术研发和相关标准建设,探索开展电子签名授权应用研究;鼓励拟人化互动服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用。
根据《办法》,提供拟人化互动服务,不得从事:生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容;过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系;通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益等活动。
此外,《办法》还规定了安全评估、算法备案、指导推动人工智能沙箱安全服务平台建设等制度。
“《办法》系统回应了拟人化互动服务在情感操纵等方面的特殊挑战,以精准监管边界、正向场景引导、合规发展空间的制度设计,促进高质量发展和高水平安全良性互动,为智能社会提供了有力制度保障。”中国信息通信研究院院长余晓晖表示,面向未来,我国应以《办法》公布为基础,坚持问题导向、系统谋划,持续完善有关技术标准体系与行业自律机制,深化产学研协同与公众人工智能素养培育,推动形成政府、企业、社会等多元共治的人工智能治理生态。
(文章来源:经济参考报)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

