人工智能领域里,现在AI基础设施已经进入了一个全新的阶段,这叫“智能路由”。大家现在特别看重把AI大模型提供的服务做到快速、稳定,满足不同需求。现在的AI技术已经和实体经济深度融合,我们用的大模型应用不再只是初步测试阶段了,而是真正走向长期、稳定、规模化运行的过程了。这个阶段呢,应用程序接口(API)服务的表现就显得特别重要,也是制约技术价值释放的关键。最近在北京中关村科学城管理委员会主办的活动中,政府部门、学术机构、云服务商还有应用方代表都来了,一起讨论这个话题。北京中关村科学城管理委员会的人说海淀区正在构建人工智能为核心的现代化产业体系。汤雄超是清程极智公司的首席执行官,他认为现在行业的关注点从训练模型、部署模型转到了应用阶段对服务稳定性和效率要求很高的这个阶段。清华大学教授郑纬民也分析说,以前基础设施主要是用来训练和推理模型的,解决生产智能问题。现在呢,是关注如何把这些智能能力放到复杂真实场景中去应用,还要效率高、成本低。他还强调了“智能路由”的重要性,这其实包括了模型路由和服务路由两部分。清程极智推出了“AIPing”平台,专门给AI评测和API服务智能路由用的。这个平台主要解决服务使用环节的问题,从评测到接入再到优化,形成一个完整的闭环。它会对市场上主要大模型API服务商进行持续监测分析,现在已经接入了三十多家服务商呢。这个公司还发起了一个计划叫“智能、可持续大模型API服务生态计划”,联合了二十多家伙伴一起推动发展。这个报告还提到API服务市场竞争重点从价格转向交付质量了。大家觉得现在要把第三方评测体系做好、智能路由技术完善好、服务管理能力提升好才行。 大家都觉得大模型服务要精细化运营,这个不仅是技术问题更是产业生态成熟度问题啊。 咱们这个新生态要是能形成一个注重稳定性、效率和成本平衡的环境的话,那对数字经济发展肯定是个大助力!