“守住安全底线是头等大事”

北京市第十六届人大四次会议前夕,教育一线的寿延代表针对人工智能技术在基础教育中的应用,给市人大提了个具体建议。她指出,现在技术发展太快,跟教育结合也越来越深,得想办法管好它、防住风险。随着学校数字化转型浪潮的到来,必须要有一套规矩来护航。寿延认为,虽然人工智能能帮老师因材施教、帮学生个性化学习,还能优化管理,但机遇也伴随着挑战,“守住安全底线是头等大事”。 首先要解决数据安全问题。这东西依赖大量的师生行为数据和个人偏好数据,一旦被泄露或者乱用,不光侵犯隐私,还可能出乱子。所以得把数据采集、存储、传输、使用和销毁这全生命周期都给保护起来,谁来管数据得一清二楚。这就得给产品提供商戴上紧箍咒,让他们技术过硬、合规意识强;教育行政部门也得立个规矩。 针对现在市场上产品多、准入标准乱的现状,寿延建议建个全市统一的“白名单”。现在学校买东西都是自己决定,缺个统一的评估标准。“哪个产品进课堂、哪个进企业,得有个科学的目录来管。”这个名单得严格评估教育适用性、技术安全性、数据合规性和伦理正当性。 建立“白名单”不是行政指定,而是要大家一起来评。要让学校管理者、一线教师、家长还有学生都参与进来。他们的实际感受是关键依据,这能让标准更科学、公信力更强。 另外,人工智能生成内容离不开海量互联网信息。为了保证内容准确、价值观对路,寿延建议北京市教育委员会牵头搞个“基础教育智能体”平台。这个平台就是个经过严格安检和过滤的生态系统。里面可以按不同需求设几个专项智能体。这样既能集中把关防有害信息,又能让数据安全利用。 这些建议其实是在回应一个大问题:怎么在安全和创新之间找平衡。这体现了从被动防御到主动规划、从局部试点到全市统筹、从技术驱动到治理引领的转变。 寿延代表聚焦数据安全和产品规范两大关键环节,倡导建“白名单”和“智能体”平台。这就是想给北京市基础教育的人工智能应用画个框框、搭个屏障。这不仅是为了保障师生权益、维护公平,更是为了推动首都教育数字化转型升级。 期待这些建议能得到深入讨论和积极回应。通过凝聚共识和创新制度,让人工智能真正变成助力教育高质量发展的强大工具。