*(*本文有删改,仅供批判用,不代表译者立场。新的世界真美丽。)*

新的面部识别搜索引擎会找回你可能不记得曾经拍过的照片。

今年年初,随着面部识别技术的应用越来越广泛,警钟开始响起。据披露,Clearview公司已经建立了一个包含30亿张从互联网上收集的图像的可搜索数据库,并向执法机构出售访问权限。

在我进行的一次测试中,它发现了不记得曾经拍过的照片,包括一张我和一些我甚至不记得见过面的人的照片。

很少有人看到过它的实际应用,因为它只有愿意支付费用的组织才能使用。它对现实世界的影响,以及它的缺陷带来的危险,只是隐私活动人士强调的一种可能性。

上周,情况发生了变化。一个新的面部识别搜索引擎,PimEyes,现在可以让任何可以上网的人免费使用。上传一张某人的照片,它会向你展示数据库中这个人的所有其他照片。支付10美元,你就可以访问到这些照片的页面链接。把一个人的名字和一张脸联系起来从来没有这么容易过。

与此同时,在人脸识别领域处于领先地位的两家公司——亚马逊和IBM——公开表示了他们对该技术滥用的担忧。亚马逊被执法部门禁止使用其软件达一年之久,而IBM则完全退出了该领域。

乍一看,PimEyes似乎无伤大雅。上传一张自己的照片会从数据库中找到你的其他照片。(与Clearview不同的是,它不会显示主流社交媒体网站的照片,尤其是FB。)结果页面看起来有点像谷歌图像搜索您自己的名字。但重要的是,即使没有名字,它也能准确地找到你,令人不安。在我进行的一次测试中,它发现了我以前从未见过的照片,包括一张我和一些我甚至不记得见过面的人的照片。人工智能对我的记忆比我自己的要好——而且任何人只要有一张我的脸的照片就可以找到我。

显然,PimEyes是Clearview或亚马逊运营的综合性服务的小兄弟。但它不仅清楚地说明了这项技术会如何被滥用,也清楚地说明了这项技术的发展缺乏透明度。数据库中的照片可以在网上公开,但有人担心,他们秘密收集的照片已经变成了武器。

当Clearview受到ACLU的质疑时,Clearview公司律师Tor Ekeland回答说:“Clearview AI是一个只使用公开图片的搜索引擎……ACLU想要审查人们可以使用哪些搜索引擎是荒谬的。”第一修正案禁止这样做。”

随着这项技术的日益强大,实时面部识别——摄像头标记人脸并将其与身份匹配的能力——已经成为现实,几乎不为人所知。亚马逊和IBM早已家喻户晓,但在这一领域争夺优势地位的其他公司却不太为人知。

拥有大量持续■■合同的公司包括Idemia(法国)、Tech5(瑞士)和AllGoVision(印度)。在最近的一次采访中,ACLU的律师Matt Cagle 对此表示担忧。他说:“公众对■■供应商市场的状况基本上一无所知。”“企业实体在没有透明度的情况下做出决定。”

一方面,人们越来越担心这项可怕的新技术对我们的隐私造成的威胁。另一方面,执法部门可能对它过于信任,以至于它的不准确和偏见——尤其是对有色人种的偏见——会导致司法不公。

毕竟,面部识别系统主要是训练白人男性的面孔。去年的一项研究发现,亚马逊Rekognition在识别有色女性面孔时的准确率只有68.6%。亚马逊和IBM在美国和世界各地BLM活动占据主导地位的同一个月退出市场,这或许并非巧合。

至少从2018年起,亚马逊就一直在向执法部门出售Rekognition,但现在它提倡“加强监管,规范面部识别技术的道德使用”。

IBM首席执行官Arvind Krishna也断然拒绝了他自己的公司花费数年时间开发的这项技术。“IBM不再提供通用的面部识别或分析软件,”他说。

“(本公司)坚决反对并不会宽恕任何技术的滥用,包括其他供应商提供的面部识别技术,用于■■”

批评人士指出,IBM正落后于竞争对手,而且可能一直在寻求机遇退出这一领域,但无论如何,这仍是一个强有力的警告。

目前尚不清楚面部识别的大势能否停止。目前还不知道Facebook等网站发布的禁止收集图片的禁令是否有任何效果。某些组织继续提出法律挑战。但现在公众对这项技术的含义越来越清楚,它的使用也给企业和政府带来了越来越多的道德问题。

[ 广告 ]
赞一个 (7)

PREV :
NEXT :