第一阶段重点整治6类突出问题，包括违规AI产品，传授、售卖违规AI产品教程和商品，训练语料管理不严，安全管理措施薄弱，未落实内容标识要求，重点领域安全风险。记者了解到，当前人工智能相关产品和服务存在一些乱象，比如，利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序；提供“一键脱衣”等违背法律、伦理的功能；在未经授权同意情况下，克隆、编辑他人声音、人脸等生物特征信息，侵犯他人隐私，等等。一些已备案提供医疗、金融、未成年人等重点领域问答服务的AI产品，未针对性设置行业领域安全审核和控制措施，出现“AI开处方”“诱导投资”“AI幻觉”等问题，误导学生、患者，扰乱金融市场秩序。“清朗·整治AI技术滥用”专项行动第一阶段，将围绕上述问题开展重点整治。

第二阶段重点整治7类突出问题，包括利用AI制作发布谣言、利用AI制作发布不实信息、利用AI制作发布色情低俗内容、利用AI假冒他人实施侵权违法行为、利用AI从事网络水军活动、AI产品服务和应用程序违规、侵害未成年人权益。当前，利用AI无中生有、凭空捏造涉时事政治、公共政策、社会民生、国际关系、突发事件等各类谣言信息，或擅自妄测、恶意解读重大方针政策等问题时有发生，AI应用程序诱导未成年人沉迷、损害未成年人身心健康的情况不时出现，专项行动第二阶段将重点打击、治理这些乱象。

中央网信办有关负责人强调，各地网信部门要充分认识专项行动对于防范AI技术滥用风险、维护网民合法权益的重要意义，切实履行属地管理责任，健全AI生成合成内容审核机制，提升技术检测能力，做好整改落实。

标签：