网信上海官方公众号公布了上海市委网信办“清朗・整治AI技术滥用”专项行动第一阶段的工作成果

启辰源码网6月13日消息，网信上海官方公众号公布了上海市委网信办“清朗・整治AI技术滥用”专项行动第一阶段的工作成果。此次行动成效显著，为营造健康有序的网络环境迈出了坚实的一步。

在专项行动中，上海市委网信办积极指导小红书、哔哩哔哩、拼多多等15家重点网站平台，对各类违规AI相关信息进行集中清理。这些违规信息包括“一键脱衣”、未经授权的人脸或人声克隆编辑，以及未备案的违规AI产品、商品，还有与之相关的营销、炒作、推广和教程等内容。在各重点网站和AI平台的共同努力下，共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。

除了信息清理和账号处置，上海市委网信办还针对特定领域的AI应用展开了督导检查。已对33款完成备案、登记，且提供医疗健康、金融、教育、情感陪伴服务的AI应用进行了细致审查。要求这些应用进一步完善行业领域的安全审核和控制机制，加强专业知识库和检索增强能力建设，以提升输出内容的准确性。这一系列举措旨在防范虚假、误导信息以及诱导沉迷等问题，避免给患者、投资者和未成年人带来不良影响。

后续，上海市委网信办将开启“清朗・整治AI技术滥用”专项行动的第二阶段。此阶段将聚焦AI造谣、低俗内容等7类突出问题，进一步加大整治力度，全力维护网络生态的健康与稳定。

▲ 图源：网信上海公众号