AI导读:

荣耀前CEO利用手机智能体成功下单2000杯咖啡引发热议,同时AI智能体可能侵犯用户隐私的问题受到关注。中国软件行业协会及时制定《移动互联网服务可访问性安全要求》团体标准,规范AI技术使用,加强用户隐私保护和数据安全。

2024年10月30日,荣耀前CEO在其Magic7系列发布会上,利用手机智能体成功下单2000杯咖啡,此举不仅展现了AI技术的便捷性,同时也引发了公众对用户隐私保护的关注。AI智能体在让手机实现“一句话点2000杯咖啡”的同时,可能也侵犯了用户的隐私权。针对这一问题,中国软件行业协会及时制定了《移动互联网服务可访问性安全要求》团体标准。

该标准于4月8日正式发布,旨在规范当前利用智能体等AI技术访问移动互联网服务引发的安全风险及用户权益保护等问题。记者调查发现,尽管部分手机厂商已开始按照新标准要求填补安全漏洞,但仍有不少手机智能体在用户不知情的情况下收集个人信息,这引发了业内对用户权益保护的迫切需求。

在移动互联网领域,AI智能体如“智能助手”正快速普及,用户只需通过自然语言指令即可操作第三方App、访问互联网服务。然而,智能体在接管用户手机的过程中,需要调用手机的特殊敏感权限,如识屏和模拟点击,这为实现AI“接管”用户手机提供了可能。但这些权限原本是为残障人士打造的贴心服务,如今却成为了AI技术可能滥用的工具。

业内人士指出,手机厂商通过底层系统权限的预设设计,实质上绕过了用户对手机的控制权。即使关闭相关权限,智能体仍能操控手机执行操作,暴露出权限管理的严重问题。这一问题不仅可能导致用户隐私泄露,还可能引发系统安全等多方面的风险。

本次发布的团体标准对智能体等AI技术的使用作出了明确规范,包括禁止滥用无障碍服务、保障用户权益、实行双重授权以及禁止利用系统权限优势干扰第三方App运行等。这些措施旨在加强用户隐私保护和数据安全,促进行业健康发展。

然而,团体标准的执行仍需多方协同。尽管部分手机厂商已开始按照新标准要求填补安全漏洞,但仍有许多品牌的手机智能体在用户未开启无障碍功能的情况下,仍能自动打开第三方App并完成大部分操作。因此,业内认为监管部门在制定下一步政策时,需要充分听取各方意见,通盘考虑,以伴随式地补足完善相关规范。

总体而言,AI智能体在为用户带来便捷体验的同时,也带来了诸多风险问题。通过制定和执行相关标准,加强用户隐私保护和数据安全,将是促进行业健康发展的关键所在。

(文章来源:上海证券报)