国际 AI 资讯

小红书披露AI内容治理数据:已处置18万篇AI造假笔记、治理超120万个AI托管账号

在2026上海网络视听创作者大会上,小红书方面披露,截至2026年5月,平台累计处置涉嫌AI造假的笔记18万篇,并对超过120万个AI托管矩阵账号开展了系统性治理,同时通过模型识别升级、分级治理和社区巡查等机制提升对AI内容的甄别能力。

海宇数科 · 事件日期 · 更新于 · 约 2 分钟 · 1 次阅读

小红书披露AI内容治理数据:已处置18万篇AI造假笔记、治理超120万个AI托管账号 配图
小红书披露AI内容治理数据:已处置18万篇AI造假笔记、治理超120万个AI托管账号 配图

生成式AI快速普及,社交平台在虚假内容治理上面临的压力持续上升。在5月28日至29日举行的2026上海网络视听创作者大会上,小红书介绍了平台在AIGC创作、社区治理以及新生代创作者生态维护方面的最新实践与观察。

大会期间,小红书相关AI治理团队负责人披露了最新专项治理数据:截至2026年5月,平台累计处置涉嫌AI造假的笔记18万篇,并对超过120万个由AI托管的矩阵账号进行了系统性治理。平台方面称,此举针对的是部分利用自动化工具批量制造低质、虚假内容的黑产行为。

AIGC仿真度不断提高,如何精准识别并拦截黑产的“机器流水线”成为行业共同难题。小红书表示,目前正通过升级模型识别能力、实施分级治理以及引入社区巡查等多重常态化机制,提升对AI内容的捕捉与甄别能力。

有业内分析人士认为,大模型时代下,内容分发平台和社区面临双重考验:既要利用新技术带来的内容生产力,也须对泛滥的AI注水内容进行精准拦截。小红书方面表示,此次对AI造假笔记和托管账号的集中清理,意在维护社区“真实分享”和“可信互动”的底层生态,避免算法编造的虚假内容消磨用户的核心信任。

← 返回AI 资讯