企业谈负责任AI,真正有分量的不是口号,而是能否写进合同。微软与美国教师组织发布校园AI安全与隐私标准,试图把学生数据保护变成可执行约束。
美国教师联合会、教师联合会地方组织UFT与微软9月9日宣布“全国AI安全与隐私标准”。美国学区可把相关保护直接纳入与微软签订的客户协议,使部分要求具有合同约束力。该标准是企业和教师组织达成的安排,并不是美国联邦法律。
协议提出,学生和教育工作者数据不得被用于训练AI模型、出售或转作其他用途;学校应保留对数据使用、保存和删除的控制权。AI不能在缺少人工监督的情况下作出决定,企业还需以清楚语言向家长和教师说明工具如何运行、收集哪些数据以及产品发生了哪些变化。
对微软而言,这既是风险治理,也是品牌竞争。教育市场看重功能,也更在意未成年人隐私和学校控制权。承诺进入合同后,企业需要持续证明产品、销售和技术团队执行的是同一套规则。对其他科技公司来说,校园AI的门槛也会从“能不能用”逐渐转向“出了问题谁负责”。



