《人工智能生成合成内容标识办法》执行了,但落地的时候还是出了岔子

给个准话,2025年9月1日,国家互联网信息办公室等部委联合出的《人工智能生成合成内容标识办法》正式开始执行了。虽然这本新规把AI内容的商业使用规则给定下来了,规定了要同时用显式和隐式两种方式去标识,但从最近发生的事情看,很多规定在落地的时候还是出了岔子。就说上海大邦律师事务所的律师游云庭吧,他就觉得光在版本馆登记是不够的,你得在给消费者看的页面上把话说清楚,要不然就容易构成欺诈。 陕西恒达律师事务所的赵良善也说了,仅在提交资料的时候标注了AI辅助创作是不行的,那属于没履行完义务。因为如果你只是把标识放在消费者看不到的地方,大家就会以为这就是纯人工做的,产生误会。这风险可不仅仅是罚钱那么简单。 华东师范大学2025年发的那个调研报告显示,AIGC技术已经把中国出版业的好多环节都给渗透了。这虽然能帮企业降本增效、服务增值,但也带来了不少麻烦,比如质量参差不齐、版权界定不清还有应用情况不透明。这些问题里头,“应用透明度不足”最直接地伤到了消费者的体验。 上海大邦律师事务所的律师游云庭讲得挺实在,“这次国家新规”就是要防止大家搞混了。如果商家不在显眼的地方标注清楚,那不仅可能违反上面那个办法,在《消费者权益保护法》里也算是侵犯了知情权。 赵良善进一步解释说,只在版本馆登记是远远不够的。你要是不在面向消费者的销售页面上做明显的显式标识,那就是没完整履行合规标注义务。这可是不符合法规要求的。 华东师范大学2025年的报告里提到,很多消费者买书的时候发现里面图片模糊、光影生硬或者结构不对头。他们怀疑这是AI生成的,但书本身和买的平台都没说清楚。后来出版社承认是作者没标好、审稿也没审仔细才出的问题。 有个叫《蜉蝣解语》的绘本也是一样的情况,电商平台卖的时候没在页面上提示用过AI绘画工具。虽然他们在给国家版本馆提交的资料里提过这事。这就是典型的“告知缺位”,导致消费者的预期和实际情况有落差。 所以说清楚了是对消费者的基本尊重。出版机构和平台企业必须严格落实规定,实现从生产源头到市场终端的全流程披露。监管部门也得加强督导检查。只有把环境搞得公开透明、能追溯才行。 这种事情不是孤例。现在人工智能正以惊人的深度和广度融入出版业,改变了创作、编辑甚至发行的模式。但随之而来的还有很多新问题。 最近消费者反映买到的书里有很多AI生成的内容却没被标识出来。这本《人像摄影口袋书》里的照片就存在很多问题:面部细节模糊、光影生硬、手部结构失真。大家质疑这是AI生成的但都没说明白。 事情发生后出版社回应说因为作者没标好加上编审疏忽才导致问题发生并给顾客办理了退款。 同样的事情在另一本绘本《蜉蝣解语》身上也发生了。这本书在电商平台销售时没有明确提示使用了AI绘画工具辅助创作。 这些“告知缺位”直接造成了消费者预期和实际状况之间的落差进而产生纠纷。