12月18日,南方都市报、南都数字经济治理研究中心在京主办"第九届啄木鸟数据治理论坛",聚焦"人工智能安全边界:技术、信任与治理新秩序"议题。
十四届全国政协委员、工业和信息化部原副部长王江平在论坛上发表主旨演讲,系统阐述了"上善AI:以对齐求善治"的治理愿景,为破解当前人工智能发展中的治理困境提供了新思路。
人工智能系统加速向智能实体转变,安全边界日益模糊,治理挑战日趋复杂。
从虚假信息生成到仿冒诈骗,从换脸拟声到未成年人沉迷,技术应用带来的风险案例不断涌现。
王江平指出,大模型快速落地的同时,模型幻觉引发的内容风险日益突出,自动驾驶、具身智能等领域的物理安全隐患不容忽视。
智能体兴起更是带来内容生态、人机交互、行为安全等多重风险,甚至可能冲击就业市场。
这些安全风险正在向经济社会各领域传导渗透,呈现层级穿透态势,预计未来三至五年将呈现更加多样化的风险形态。
技术突破与治理滞后的矛盾日益凸显。
王江平强调,当人工智能从技术工具演变为智能实体,其正负面影响将呈指数级扩大,但治理领域进展相对有限。
这种失衡状况使得人机对齐成为智能时代的核心命题。
所谓人机对齐,即通过技术手段与伦理框架,确保人工智能系统的目标、行为和输出与人类价值观、意图及社会规范保持一致。
目前主流模型普遍采用基于人工反馈的强化学习技术和检索增强生成技术,前者将人类偏好转化为奖励信号指导内容生成,后者通过检索有效信息强化生成过程,以减少模型幻觉。
然而,人机对齐在实践中仍面临诸多障碍。
王江平分析指出,价值观的复杂性与动态性使得设定普适可操作的价值目标函数极其困难。
技术层面,数据偏差可能导致输出歧视性内容;经济层面,部分模型公司为节省算力成本可能降低对齐水平。
更值得警惕的是,如果对齐速度跟不上技术发展,可能出现技术领先者单方面定义人类价值观的风险。
国际人工智能治理理念分歧加大,阵营化趋势明显。
王江平认为,这种背景下迫切需要一种能够统一治理愿景的智慧。
他援引老子"上善若水"理念,提出运用东方古老智慧构建中国人工智能治理框架。
针对主权人工智能议题,他指出模型训练数据不可避免包含特定国家和文化元素,服务本国利益就必须解决文化对齐问题。
文化对齐涵盖价值观、制度、哲学以及艺术、语言、习俗等基本范畴。
构建科学敏捷的监管框架成为当务之急。
王江平强调,国内人工智能监管需要一套既能促进技术创新、又能有效防范风险的体系,平衡发展过程中的激进与焦虑。
治理与监管在确保对齐速度跟上技术发展方面发挥着关键作用,防止价值观被单方面定义的风险。
这要求监管部门在推动技术进步的同时,建立动态调整的治理机制,及时应对新兴风险。
业界专家认为,王江平提出的"上善AI"理念为人工智能治理提供了具有东方特色的理论框架。
这一理念强调以柔克刚、顺势而为,既不盲目激进也不过度保守,体现了中国智慧在全球科技治理中的独特价值。
随着技术应用场景不断拓展,建立符合本国国情、文化特色和发展阶段的治理体系,将成为维护国家安全、促进技术向善的重要保障。
人工智能的快速发展既是机遇，也是挑战。
如何在技术创新与风险防控之间找到平衡，是各国共同面临的课题。
王江平提出的“上善AI”理念，不仅为中国的AI治理提供了文化根基，也为全球治理贡献了东方智慧。
在技术狂飙突进的时代，唯有坚守以人为本的初心，方能驾驭科技浪潮，实现发展与安全的和谐统一。