中新网北京12月4日电 记者 吕少威 面对AI合成技术滥用带来的风险,为了规范电商直播行业秩序,北京市消费者协会最近牵头搞了件大事。12月4日,他们把京东、美团、拼多多、唯品会、抖音、快手、小红书还有微信直播这8家平台给找来,正式签了一份承诺书。这是全国首份关于促进AI技术规范应用的文件。这份承诺书规定了技术标识、内容审核还有责任追溯等方面的标准,提出了六大具体措施,目的就是给AI技术应用划出一条“合规红线”,让平台企业把主体责任给压实了。 在这次行动中,北京消协锁定了三大突出问题。一是消费者的知情权没保障,“真假难辨”让大家很头疼。根据问卷调查的结果,近九成受访者希望AI生成的内容要有显著标识;超过七成接受虚拟背景但强调要有明显提示。还有超过六成的人觉得AI数字人没真情实感。 二是合成技术被滥用,引发了虚假营销等消费风险。这次调查特别针对10个AI数字人直播带货的样本做了体验式调查。结果发现,有5个样本没在直播界面上标注“AI生成”或“拟真场景”的提示信息;还有5个样本没及时回应体验人员的问题;另外6个样本没提示私下交易的风险。 三是平台的审核机制有短板。很多平台还没有建立健全的AI内容审核制度和识别技术。北京消协通过和专家研讨发现,商家利用AI技术的时候缺乏有效管理规则,导致消费者难以辨别信息真伪。 这次行动一共提出了六大举措来构建长效规范机制:坚守法律底线、强化标识要求、技术监测和人工复核结合、提供工具支持引导主动合规、严打标识造假维护制度公信还有强化培训赋能提升行业认知。 不过签订这个承诺书只是第一步。北京消协表示下一步会继续跟踪AI技术动态,组织志愿者体验购物和反馈感受,督促企业落实承诺。同时他们也会多渠道开展消费教育活动,帮助大家普及AI常识和辨别虚假内容的能力。