北京互联网法院披露AI内容标识误判案:平台被判违约
北京互联网法院披露一起案件:用户发布自认原创的文字内容后被平台认定为未标识的AI生成内容,平台隐藏内容并禁言一天,用户申诉未果后诉至法院,法院认定平台违约,判决解除隐藏并删除后台违规记录,同时指出平台在算法判定中应承担解释说明义务。
海宇数科 · 事件日期 · 约 2 分钟 · 1 次阅读

北京互联网法院披露了一起与AI生成内容标识相关的诉讼审理情况。用户小唐发布文字内容并自认原创,平台随后认定该内容为未标识的AI生成内容,对内容作出隐藏处理,并对账号禁言一天。小唐申诉未果后诉至法院。法院认定平台构成违约,判决解除对相关内容的隐藏,并删除后台违规记录。
平台要求创作者对AI生成内容进行标识。法官高雅介绍,平台采用机器识别加人工复核的方式,认定原告的回答为AI生成。被告主张相关技术属于技术秘密,拒绝解释认定机制。法院认为,涉案回答属于即时创作,难以要求原告提供底稿,而算法过程由被告掌控,平台应就此举证或作出解释;被告未进行适度解释,应承担违约责任。
该案明确了平台的解释说明义务以及误判救济问题。法院指出,算法识别应说明机制,并以用户可理解的方式说明误判救济措施,不能仅以商业秘密为由拒绝说明。法院建议建立阶梯式处置,坚持过罚相当原则,按违规程度采取差异化措施,包括警示、限制功能、暂停服务等,并健全内容审核机制。
随着《人工智能生成合成内容标识办法》推进,平台不断加强AI标识审查。该案为平衡算法判定与用户权益提供了司法参照,提示平台在履行标识管理责任的同时,完善判定依据说明和误判纠错通道。
