多力多滋包装触发AI枪支警报,受创青少年起诉校警

多力多滋包装触发AI枪支警报,受创青少年起诉校警
美国一学区部署的AI枪支检测系统因一袋多力多滋薯片误报,招致警方持枪介入,数名青少年受到严重心理创伤后起诉学校与警方。诉讼披露,该系统超过99%的枪支警报均为误报,再次引发对校园AI监控技术可靠性与伦理边界的质疑。

一袋零食,一次误判,一场持枪对峙——当人工智能被赋予“校园安全守门人”的角色,技术失误的代价却由无辜的学生承担。据Ars Technica报道,美国某学区因AI枪支检测系统将一袋多力多滋薯片误认为枪支,导致警方大规模介入,数名青少年在事件中受到心理创伤,现已对学校和警方提起诉讼。

事件回顾:从零食袋到“枪支警报”

根据诉讼文件,事发时该学区的AI枪支检测系统在监控画面中识别出“疑似枪支”物体,随即触发警报。校方与警方按照既定应急程序迅速响应,多名执法人员持枪进入校园区域,对相关学生进行控制与搜查。最终发现,所谓“枪支”不过是一袋多力多滋薯片——其包装的形状、颜色与反光在摄像头视角下被算法误读。

对于正处于青春期的学生而言,被持枪警员包围、按倒在地或强制搜身的经历,构成了严重的心理冲击。诉讼指出,涉事青少年在事件后出现焦虑、恐惧上学、睡眠障碍等创伤反应,部分学生甚至需要长期心理干预。原告方认为,学校与警方在部署和依赖AI系统时未尽到合理审查义务,应对误报造成的伤害承担责任。

99%误报率:技术神话的破灭

这起诉讼最引人注目的,是原告方披露的一组数据:该学区AI枪支检测系统发出的枪支警报中,超过99%被证实为误报。换言之,系统每发出100次“枪支威胁”警报,真正涉及枪支的可能不到1次。

“诉讼称,该学校系统超过99%的AI枪支警报均为误报。”——Ars Technica

如此高的误报率意味着,校园管理者与警方长期处于“狼来了”的应激状态:大量警力被浪费在排查零食袋、雨伞、手机支架甚至学生衣物图案上,而真正的风险信号反而可能被淹没在噪音之中。更关键的是,每一次误报都可能演变为一次真实的暴力执法场景,对师生安全与信任造成二次伤害。

AI枪支检测为何频频“看走眼”

目前市面上多数校园AI枪支检测系统,依赖监控摄像头画面与计算机视觉模型,通过形状、轮廓、颜色等特征判断物体是否为枪支。然而,真实校园环境远比实验室复杂:光线变化、拍摄角度、物体遮挡、学生携带的日常物品,都可能干扰识别结果。

多力多滋包装袋之所以成为“经典误报案例”,正是因为其长条形轮廓、鲜艳配色与金属质感反光,在低分辨率监控画面中与手枪轮廓存在相似性。类似误报还包括雨伞柄、电钻、玩具枪、三脚架等。技术专家指出,若训练数据不足、场景适配不够、缺乏人工复核机制,AI系统很容易将“疑似”当作“确认”,而应急流程一旦被触发,后果便难以挽回。

创伤之后:谁为算法失误负责

这起诉讼将一个尖锐问题摆上台面:当AI系统参与执法与校园安全决策,算法失误造成的伤害应由谁承担?是采购系统的学区、执行响应的警方,还是开发算法的技术供应商?

从法律角度看,学校有义务提供安全的学习环境,警方有义务在执法中遵循比例原则。若二者过度依赖未经充分验证的AI工具,并在警报触发后采取高压手段,却缺乏人工核实与降级处置机制,便可能构成过失。诉讼的推进,或将为未来AI监控技术的校园部署划定责任边界。

编者按:安全不能只靠“算法哨兵”

校园枪支暴力是真实而沉重的威胁,学校寻求技术手段可以理解。但技术的价值不在于“发出多少警报”,而在于“警报是否准确、响应是否恰当”。当一套系统99%的警报都是误报,它带来的不是安全,而是恐慌、资源浪费与对师生的系统性伤害。

更值得警惕的是,AI监控正在将校园变成持续被扫描的空间,学生的一举一动都被算法审视。误报的代价不应由孩子承担,技术的部署也不能以牺牲尊严与心理安全为代价。监管机构、学区与供应商需要共同建立透明度标准:公开误报率、强制人工复核、限制警方响应级别、为受影响学生提供心理支持。否则,下一个被“识别为枪支”的,可能只是另一个孩子的午餐袋。

本文编译自Ars Technica。