ZKX's LAB

1000万英镑打水漂,监控预测犯罪距我们还有多远?

2020-09-04新闻8

2018年,英国宣布要打造一套像电影《少数派报告》中一样通过人工智能和视频监控来分析对象犯罪几率的系统,而近日,英国正式宣布这套系统研发失败,而随之而去的还有超过1000万英镑的巨额开支。

西米德兰兹郡警局关于该项目的公开文档封面

除了金钱上的损失,在声望方面英国也是受尽羞辱。有媒体指出,英国这套系统拉低了整个行业的智商水平。

而这个据称是世界上首例汇集多家警察局数据集进行犯罪预测工具研发的项目,就这样划上了句号。

准确率狂跌超60%,英国败在哪?

在研发初期,英国研究人员就宣称这款名为“最严重暴力”(MSV)系统的犯罪预测准确率能达到75%以上,然而从目前来看,其效果远远不尽如人意。

据了解,MSV的设计思路并不复杂。通过调集英国的警务数据库,来实现与警局有接触的人的记录与识别。通过内部特殊的人工智能系统,这些人员会得到一个内部评分,评分越高,越会得到系统的额外“照顾”。

据了解,“最严重暴力”系统使用多种指标用于确定个人未来行为的风险程度,例如年龄、初次犯罪距今时间、数据显示的社会关系、犯罪严重程度以及个人的情报报告中提到“刀”的次数(不包括地点和种族数据)。通过综合考量这些数据,监控系统得以捕捉并分析这些人的行为,并进行风险评估,及时报告给警方防患于未然。

听起来是一个可行性很强的方案,然而在执行过程中,算法远远没有达到他们的期待。用通俗的话来讲,就是准确性太差。

比如,在西米德兰兹郡,在100个可能使用枪支或刀进行严重暴力犯罪的中,系统预测,有54人会犯下罪行。在西约克郡,100人中有74人可能使用枪支或刀进行严重暴力犯罪。然而这在现实里是不可能的。

就连该系统的研发方NDAS(英国国家数据分析解决方案) 自己也承认,由该系统推算而出的准确率太低。

据了解,即便得到最佳发挥,其预测西米德兰兹的暴力犯罪准确率也就徘徊在25%到38%。而针对西约克郡,这个数字可以达到36%到51%。无论是哪个数字,都低于之前宣称的75%。

更糟糕的是,在最近一次对后台大数据的扩容后,该系统的准确率猛跌至9%,比早前宣称的75%足足低了66%。耗时两年花费千万的系统准确率如此惨不忍睹,也让该项目被紧急叫停。

据权威人士分析称,该项目的失败不仅源于数据库本身的漏洞,还有算法思路上的错误。事实上,这种经过多重加权得来的结果是具有偏见性的。罗格斯大学法学院学者理查德森发表言论称:“许多指标已被证明在刑事司法系统的其他数据分析领域会导致不平等的结果”。

也就是说,通过这种算法得来的结果很可能是不靠谱的。

此外,针对这种还未实施犯罪行动就被干预的活动也引起了人权学者的广泛关注和担忧。他们认为这种人工智能系统经过长期的深度学习很可能会存在偏见和潜在的种族主义问题。比如在MSV中,被审核者是否为移民就是一项重要的考核指标。

上月,在全球“黑人的命也是命”(Black Lives Matter)抗议活动爆发后,1400多名数学家签署了一封公开信,称该领域应停止开发预测性警务算法。理查德森说:“你看看大多数刑事司法部门使用预测分析的司法管辖区,我们没有证据表明这些类型的系统起作用,但它们的使用正在激增。”

不可否认,英国这次是彻彻底底的败了。然而,随着大数据的兴起,这种以大数据为基础的预测性警务正越来越受到人们的关注。

预测性警务或者成为未来智慧警务标配

随着大数据的兴起,越来越多的监控及人工智能技术被应用于智慧警务,而预测性警务则是其中最重要的项目之一。

据了解,除了英国以外,目前德国、瑞士等、荷兰国家都开始使用预测性警务工具。比如,丹麦从美国大数据独角兽 Palantir 购买了POLINTEL平台。后者可以结合不同来源信息进行识别和分析。为了顺利使用预测性警务技术,丹麦甚至修改了个人数据保护的国内立法。

不过不同于英国将大数据针对到人,这些国家的预测性警务系统通常是分析城市中案件的高发地,从而预测和推断下一次袭击可能发生的地点,帮助警察提高相关地区的警惕性。

在我国,云从科技也曾与2018年安博会推出类似的产品。据了解,云从这款预测性警务系统主要是通过人脸大数据平台对重点管控人员的犯罪行为进行评估,统计其出没的轨迹,并引导警务人员进行精准的蹲点打击。

通过大数据预测,预测性警务系统可以精确定位犯罪将要发生的地点

据云从安防业务负责人披露,通过人脸识别+行人再识别+车辆识别等计算机视觉技术,可以有效抑制犯罪行为的发生,形成威慑力。从目前实际应用来看,如果单是全城封锁的数据采集及管控率,成功率可以达到90%以上。

截至目前,该平台已经在全国22个省市上线或试运营,且多次帮助警方预测地点抓获罪犯。可以说云从的案例成为了预测性警务的范例之一。

而随着大数据的不断发展,未来会有更多企业深入到预测性警务的建设当中,帮助人们更好的识别罪犯,预防可能发生的危险。

精确到人的预测警务,其实离我们还很远

通过上面的总结我们不难发现,如今的预测性警务,仍然停留在有限的空间内,比如对反复作案嫌疑人的轨迹判断、对案件发生地点的预测等,多应用于社区、银行等相对狭小的空间内,一旦遇到流窜犯等极端条件,往往结果就不如人意。

排除人权等主观因素,我们最希望看到的还是电影里那种在罪犯将要实行犯罪的一瞬间将其抓获的场面。然而这不仅需要人工智能系统优异的算法和前端监控摄像机的智能程度,更需要设计出一种能够精确分析人情感的人工智能,而在当下来说显然还有些遥远。

同时,这种方案的精确度仍然需要大幅提升,以北京奥运会为例,奥运会对于人脸识别的精确度要求达到98%以上,然而当年人脸识别的精度最高做到96%,大量漏报、错报案例让这项技术没能成功应用于奥运会。

预测警务系统也是同理,75%的精确度将会产生数以万计的错误情报,让警方疲于奔命,这与该系统设计的初衷是相悖的,从这点来看,我们显然还需要在等待些时日。

不过也有人在追求人工智能更温和的应用方法,温彻斯特大学(University of Winchester)信息权利中心(Centre for Information Rights)的联合主任里尼克表示,“某些事情可以通过计算来完成,并不一定意味着这样就是最好的做法,或者应该这样做。”

随机阅读

qrcode
访问手机版