人工智能如今广泛融入生产生活与网络传播，有力支撑了数字经济和社会智能化升级。但行业高速扩张的同时，各类不合规AI产品和不规范应用滋生诸多网络乱象。为此网信部门开展AI专项整治，通过排查与规范管控，推动行业良性提质发展。
一、本次专项整治的核心重点
本次专项整治结合行业发展现状，全面覆盖AI应用程序、智能工具、开源数据资源等全产业链产品，重点整治行业四类突出问题，针对性补齐行业发展短板。整治内容主要包括：部分AI模型与应用未完成合规备案便私自上线，脱离常态化监管；多数中小型AI平台内控与审核机制不完善，无法有效拦截不良违规内容；个别主体违规篡改、干预AI训练数据，造成内容输出偏差、产生误导性信息；大量AI合成内容未按规范标注，导致虚假伪造内容肆意传播，暗藏侵权、诈骗等各类安全隐患。
AI行业专项整治核心重点展示图
二、专项整治阶段性治理成效
经过系统性集中整治，AI行业乱象得到有效遏制，网络空间AI生态得到明显改善。截至目前，网信部门累计处置一万四千款违规 AI 相关产品，同时联动各地属地管理力量，开展全方位排查清理工作，多维度斩断AI乱象传播与衍生链条。
在具体的治理工作开展之后，各个地区都开展了全面的清理整治工作，删掉了很多AI生成的不良违规内容，同时对一批存在违规运营问题的网络账号进行了处理，下架了不少存在安全隐患、不符合行业规范的AI相关产品和有问题的开源数据资源。除此之外，很多地区也开始摸索适合本地的监管方式，结合平台自我检查、日常人工巡查以及智能技术筛查等多种手段，不断提高AI行业风险排查和问题处理的效率，慢慢搭建起多方联动、全域治理的工作模式。
三、行业乱象产生的深层原因
目前AI行业出现的各类乱象问题，并不是单一原因造成的，而是行业快速发展过程中，多种问题叠加在一起产生的结果。首先，现在AI行业的入行门槛不算高，很多开发和运营从业者缺乏足够的合规意识，大多只看重流量和经济收益，不太重视产品使用安全和用户合法权益的保护，在内容审核和风险防控方面做得比较不到位，降低了行业运营的安全标准。其次，人工智能技术更新速度非常快，各种各样的全新应用场景不断出现，对应的监管制度和行业治理体系还在持续完善当中，部分细分领域还存在监管跟不上、有空白的情况，这就让很多不合规的AI产品肆意发展。最后，普通网民对AI合成内容的分辨能力普遍比较薄弱，很难区分真实内容和AI伪造内容，这也在一定程度上让虚假、违规的内容得到了进一步传播。
四、常态化规范发展的治理方向
本次AI专项整治不止清理违规产品，更重在规范行业风气、助力长期发展。目前行业合规标准愈发清晰，各大平台也主动落实备案、内容标注等合规要求。后续将建立常态化监管机制，平衡技术创新与安全底线，推动AI行业稳定规范发展。
本文内容整理自中央网信办公开AI专项整治通报，具体政策细则请以网信部门官方原文为准。