问题——“眼见为实”被动摇，合成视频从侵权走向诈骗链条 霍启刚近日公开表示，网上出现多条以其形象和声线为“素材”的合成视频，有的传播所谓“内部信息”，有的为不明品牌背书，甚至借其名义暗示高收益投资项目。其强调担忧重点不个人名誉受损，而在于普通网民可能因此误信上当。多位网民反映，有关视频在口型、语气、表情等细节上较为逼真，已超出传统“拼接剪辑”的识别难度，表现为深度合成内容被用于引流、营销乃至诈骗的典型特征。 类似风险并非孤例。此前，部分公众人物亦曾遭遇“被带货”“被发言”等情形。随着合成技术的普及，冒用对象从明星、运动员延伸至企业家、专家学者乃至普通人群体，叠加“亲友求助”“领导指令”“投资荐股”等话术，容易形成跨平台传播与转化的灰色链条，对社会信任基础构成冲击。 原因——技术门槛下移与流量变现驱动叠加，治理难点在于跨平台与低成本复制 业内分析指出，深度合成内容扩散主要受三上因素推动：一是生成工具更加易得、操作更简化，模型训练与素材采集成本持续降低；二是部分账号以流量为导向，通过“名人效应”快速获取关注，再导流至电商、社群或外部链接完成变现；三是违法成本与取证难度不匹配，侵权内容可在多个平台同步投放并快速复制，删除一处、转移多处，追溯链条复杂。 同时，公众人物因公开影像素材丰富，更易成为被合成的对象；而普通人一旦被定向“合成”，往往缺少维权渠道与证据保全能力，风险更隐蔽、危害更直接。现实中，不少受害者是在转账或购买后才意识到“被骗的并非人，而是影像”。 影响——从个体权益受损扩展为公共风险，信任成本上升、社会治理承压 深度合成冒用首先侵害肖像权、名誉权等人格权益，扰乱正常舆论秩序；更深层的风险在于，当合成内容进入诈骗环节，受害群体可能面临资金损失、隐私泄露与心理冲击。对于老年人、未成年人等辨识能力相对薄弱人群，合成视频“拟真”特征会显著放大被骗概率。 此外，合成内容的泛滥也将推高社会信任成本：公众对视频、音频证据的天然信赖被削弱，权威信息传播受到干扰，谣言澄清难度上升。若任由“逼真造假”持续扩散，可能更诱发“真信息不被相信、假信息更易传播”的逆向选择，影响公共讨论与社会稳定。 对策——完善标识与审核机制，强化依法打击与公众防护 受访人士建议，治理应坚持“技术治理、平台责任、法治保障、公众防护”共同推进。 一是压实平台主体责任。对疑似深度合成内容加大审核力度，提升对名人肖像、声纹等被冒用的识别能力，建立更快速的投诉受理与处置通道；对多次违规账号、黑产团伙采取封禁、限流、断链等综合措施，遏制其通过矩阵号“打游击”。 二是健全显著标识与溯源机制。推动合成内容显著提示、来源可追溯，鼓励应用水印、指纹、可信时间戳等技术手段，降低“二次搬运”“跨平台重传”造成的追踪难度，让合成内容在传播链条中“可识别、可追责”。 三是加大对诈骗与侵权的依法打击力度。对以深度合成实施诈骗、敲诈勒索、非法经营等行为，依法从严惩处；对提供合成服务、出售模型素材、协助引流变现的“上下游”主体，形成全链条治理。主管部门亦可加强典型案例发布与风险提示，以案释法，增强震慑。 四是提升公众识别与自我保护能力。专家建议，涉及转账、投资、索要验证码等敏感事项，应坚持“二次核验”：通过电话回拨、线下确认、约定暗号等方式核实；对“高收益、低门槛、限时机会”等话术保持警惕；家庭层面可加强对老年人的反诈提醒与设备安全设置。 前景——在规范与创新之间寻求平衡，让技术更好服务社会 多位业内人士指出，深度合成技术本身具备正当应用场景，在助残服务、教育传播、文化创意等领域具有积极价值。关键在于以规则划定边界、以治理抬高作恶成本，使技术创新与社会安全相互促进。随着相关法规制度、行业标准与平台治理工具优化，叠加司法实践对典型案件的裁判示范效应，有望逐步遏制合成内容被滥用的势头，推动形成“可用、可管、可信”的数字内容生态。
当技术进步的速度快于治理能力的跟进，我们每个人都可能成为下一个“霍启刚”。这场关于技术与伦理的较量，不仅需要立法者与科技企业合力应对，也需要每位公民保持理性与警惕。在享受数字便利的同时，如何守住真实的边界，将是信息时代绕不开的课题。