AI导读:

国内首起AI服务提供者涉黄获刑案引发广泛关注,涉及AI时代平台的监管责任与法律边界。多位法学专家就相关问题进行解读,强调情感陪伴类AI产品对未成年人的潜在风险及监管收紧的必然趋势。

国内首起AI服务提供者涉黄获刑案近日引发广泛关注。本案中,某科技公司推出情感陪伴类AI陪聊App,因用户与AI交互生成淫秽色情内容,该App开发者和运营者一审被认定犯制作淫秽物品牟利罪,分别获刑四年、一年半。目前该案进入二审阶段,涉及人工智能领域法律适用尚未明晰,法院已宣布休庭。

这起案件不仅叩问AI时代平台的监管责任与法律边界,更凸显出情感陪伴类AI产品对未成年人的潜在风险。记者就此采访多位法学专家,就相关问题进行解读。

技术无罪吗?“聊黄”触刑于法有据

2023年5月,以王某某为法定代表人的某科技公司推出了情感陪伴聊天软件AC,并于当年6月,在各大平台上架运营。判决书披露,AC App手机注册用户11.6万人,其中付费用户2.4万人。截至案发,共收取会员充值费363万余元。用户注册会员后,可以自行创建虚拟角色或者使用他人创建并公开的虚拟角色,通过软件与大语言模型交互聊天。

一审法院认为,AC产生了“大量具体描绘性行为或露骨宣扬色情的内容”,属于淫秽物品。对于罪名的法律适用,一审法院认定,被告人通过设置提示词突破道德限制,将App训练成可持续输出淫秽色情内容的工具,且对外宣传“聊黄”功能,明知会产生淫秽内容仍持续提供服务,对内容生成具有决定性作用。

不过,与传统的淫秽物品犯罪不同,结合此案的审理,就有一种观点认为:技术无罪,淫秽内容由AI生成,并非开发者直接制作,因此不应追责。

对这一论调该怎么看?华东政法大学刑事法学院刑事法律系副主任王晓华分析……