中央网信办整治AI应用乱象：累计清理违法违规信息561万余条

近期，中央网信办针对网络AI应用乱象，启动“清朗·整治AI应用乱象”专项行动第二阶段工作，重点整治利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等严重问题，部署各地网信部门深入推进重点整治任务，要求各网站平台集中清理AI生成违法不良信息。截至目前，专项行动累计清理违法违规信息超561万条，查处违规账号超4.9万个，处置违规网站、应用程序等2400余个。

中央网信办发布通报，揭示多起典型案例，涉及利用AI技术进行违法行为：对经典作品“魔改”制造“数字泔水”;生成发布虚假不实信息造成恶劣影响;假冒仿冒他人侵犯知识产权;制作传播暴力低俗有害信息;侵害未成年人权益;通过AI“托管”进行网络水军活动扰乱秩序;AI产品、服务和应用程序违规操作等。这些案例警示必须加强AI技术监管，防止滥用，维护网络空间清朗。

据悉，在总结专项行动治理成果基础上，网信部门将深入研究把握人工智能发展趋势与内在规律，密切关注AI生成合成内容领域新情况新风险，及时识别应对，采取有效措施防范AI技术滥用恶用，为人工智能持续创新发展提供良好生态环境。