AI智能体引发隐私关注,中国软件行业协会发布安全标准
AI导读:
荣耀前CEO利用手机智能体成功下单2000杯咖啡引发热议,同时AI智能体可能侵犯用户隐私的问题受到关注。中国软件行业协会及时制定《移动互联网服务可访问性安全要求》团体标准,规范AI技术使用,加强用户隐私保护和数据安全。
2024年10月30日,荣耀前CEO在其Magic7系列发布会上,利用手机智能体成功下单2000杯咖啡,此举不仅展现了AI技术的便捷性,同时也引发了公众对用户隐私保护的关注。AI智能体在让手机实现“一句话点2000杯咖啡”的同时,可能也侵犯了用户的隐私权。针对这一问题,中国软件行业协会及时制定了《移动互联网服务可访问性安全要求》团体标准。
该标准于4月8日正式发布,旨在规范当前利用智能体等AI技术访问移动互联网服务引发的安全风险及用户权益保护等问题。记者调查发现,尽管部分手机厂商已开始按照新标准要求填补安全漏洞,但仍有不少手机智能体在用户不知情的情况下收集个人信息,这引发了业内对用户权益保护的迫切需求。

在移动互联网领域,AI智能体如“智能助手”正快速普及,用户只需通过自然语言指令即可操作第三方App、访问互联网服务。然而,智能体在接管用户手机的过程中,需要调用手机的特殊敏感权限,如识屏和模拟点击,这为实现AI“接管”用户手机提供了可能。但这些权限原本是为残障人士打造的贴心服务,如今却成为了AI技术可能滥用的工具。
业内人士指出,手机厂商通过底层系统权限的预设设计,实质上绕过了用户对手机的控制权。即使关闭相关权限,智能体仍能操控手机执行操作,暴露出权限管理的严重问题。这一问题不仅可能导致用户隐私泄露,还可能引发系统安全等多方面的风险。
本次发布的团体标准对智能体等AI技术的使用作出了明确规范,包括禁止滥用无障碍服务、保障用户权益、实行双重授权以及禁止利用系统权限优势干扰第三方App运行等。这些措施旨在加强用户隐私保护和数据安全,促进行业健康发展。
然而,团体标准的执行仍需多方协同。尽管部分手机厂商已开始按照新标准要求填补安全漏洞,但仍有许多品牌的手机智能体在用户未开启无障碍功能的情况下,仍能自动打开第三方App并完成大部分操作。因此,业内认为监管部门在制定下一步政策时,需要充分听取各方意见,通盘考虑,以伴随式地补足完善相关规范。

总体而言,AI智能体在为用户带来便捷体验的同时,也带来了诸多风险问题。通过制定和执行相关标准,加强用户隐私保护和数据安全,将是促进行业健康发展的关键所在。
(文章来源:上海证券报)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

