财联社6月12日讯，据网信上海消息，为贯彻落实中央网信办“清朗·整治AI技术滥用”工作部署，4月下旬以来，上海市委网信办聚焦6类突出问题深入开展第一阶段专项行动。现向社会公布阶段性工作成果，进一步凝聚共识，共同营造清朗网络生态。

　　强化合规，全面清理整治违规AI产品和信息

　　上海市委网信办指导小红书、哔哩哔哩、拼多多等15家重点网站平台，集中清理“一键脱衣”、未经授权的人脸或人声克隆编辑、未备案等违规AI产品、商品及相关营销、炒作、推广、教程信息。小红书、哔哩哔哩主动发布专项行动治理公告，开通了有害AI内容的举报受理处置渠道；星野开展智能体全面排查清理。各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。经整治，网络违规AI信息显著减少，网络生态得到净化。

　　上海市委网信办深化大模型合规指导服务中心作用，指导各类提供生成式人工智能服务的主体落实合规义务，强化安全评估，迄今已完成82款大模型备案，87款应用登记。对3款未履行备案或登记程序提供服务且存在风险的应用，依法约谈并给予行政处罚，确保AI技术应用的合规性和安全性。

　　督导联动，提升AI平台安全风控能力

　　上海市委网信办指导重点AI平台加强技术源头治理，深化自查自纠，加强训练语料管理机制，加强新版本新应用上线、API接入应用的安全管理，用好大模型能力持续提升安全水平，建立健全与业务规模相适应的风控机制。通过组织专业机构巡查测试、现场检查和上门指导，发现并督导整改优化内容审核、意图识别等安全措施的薄弱环节，提升AI平台的安全风控能力。

　　以人为本，强化重点领域AI安全管理

　　针对关乎人民群众“生命线”“钱袋子”和“未成年人保护”等社会高度关注的AI应用，上海市委网信办会同市卫健委、金融监管等主管部门，加强审核和业务指导，对33款已完成备案、登记提供医疗健康、金融、教育、情感陪伴服务的AI应用开展督导检查，要求完善行业领域安全审核和控制机制，提升输出准确性，防范虚假、误导、诱导沉迷等不良影响，保护人民群众合法权益。

　　联合市卫健委，指导上海人工智能实验室举办医疗大模型开源评测社区上线发布会和网络安全博览会论坛，开展AI安全宣贯和合规指导，强化行业规范和伦理审查，引导规范应用。

　　多策并举，强化AIGC标识示范和全链条治理

　　上海市委网信办将高标准落实《人工智能生成合成内容标识办法》及配套强制性国家标准作为专项治理的关键抓手，切实保障公众知情权。通过法规宣贯、专题交流、指导成立AIGC标识生态联盟等措施，推动企业落实标识要求和技术路径。

　　围绕“制作-传播”环节，指导重点网站平台加快配备显式与隐式标识功能，提升AIGC内容和高风险行为的检测识别和治理能力。通过政策指导、生态协同与技术落地，取得阶段性成效。

　　上海市委网信办将持续深化专项行动，强化对重点问题、平台、环节的常态化监管，推动智能向善。第二阶段将聚焦AI造谣、低俗内容等7类突出问题加大整治力度，维护良好网络生态。

（文章来源：财联社）