AI导读:

AI智能体赛道发展迅猛,但数据安全和隐私保护问题凸显。近期发布的团体标准为智能体开发和运营提供了行为规范,强调不得滥用敏感权限,确保用户数据安全。

  AI智能体赛道正蓬勃发展,但近期发布的多份团体标准警告称,部分智能体存在滥用手机系统底层敏感权限的问题,智能体开发运营商需直面数据安全和隐私保护的重大挑战。

AI接管屏幕引发广泛担忧

  据南都此前报道,智能体在手机终端上常通过调用API接口或视觉识别技术来模拟用户操作,以打开第三方App并执行指令。

  业内分析指出,基于API接口的智能体操作更流畅,但许多第三方App因数据安全顾虑而不愿开放API接口。视觉识别方案则依赖手机底层的无障碍和录屏权限,模拟用户操作。然而,这种方案存在延迟和出错概率,且引发更大隐私争议。

  视觉识别方案的争议焦点在于其调用的无障碍权限,这是安卓系统中的一项高度敏感权限。开启后,智能体可读取屏幕文本,监视并记录用户操作,包括敏感信息输入。因此,安卓官网规定,无障碍权限需用户明确授权后才能启动。

  有监管人士透露,工信部门将严格管控手机无障碍权限的使用。

团体标准为智能体划定安全红线

  6月13日,广东省标准化协会发布了团体标准《智能体任务执行安全要求》,为智能体开发和运营提供了明确的行为规范。该标准虽不具强制性,但由团体成员约定采用或自愿采用。

  《智能体任务执行安全要求》封面页。

  该标准要求智能体不得利用无障碍权限或操作系统技术优势操作第三方App,必须通过API接口协作,并需获得第三方App和用户双重授权。

  此外,智能体的任务决策算法应公平、公正、透明,不得干扰用户选择第三方App。

  该标准由北京邮电大学、中国联合通信集团、天翼安全科技等多家公司及机构起草。

  此前,中国软件行业协会也发布了《移动互联网服务可访问性安全要求》,内容与《智能体安全要求》相近,但在无障碍权限使用上采取了有条件允许的态度,但需用户明确授权,并严格限制使用范围。

(文章来源:南方都市报)