监控即服务 亚马逊如何“入侵”我们的隐私

当说到亚马逊,你会想到什么?是国外版的淘宝?是准时的快递?是优质的售后?又或是Alexa播放的一首歌、一个电视节目,或者让它控制家中的电器?

amazon2019040404

亚马逊以低价和高效著称,这也是其在各种调查中占据美国最有价值或最受欢迎品牌榜首的原因。最近一项研究发现,亚马逊是美国第二大最受信任的机构,领先谷歌、警察和高等教育系统,仅次于美国军队。Facebook因一连串隐私和选举丑闻而名声扫地,谷歌则受累于YouTube的激进化与内容审核机制,亚马逊却在此时不断壮大自己。

但亚马逊“万物商店”的可靠公众形象却掩饰了它已经变成神秘巨兽的真相,也掩盖了它从线上到线下不断侵蚀我们隐私的事实。

即便其竞争对手都已纷纷重新评估自身,反思责任,并呼吁出台新的监管规定,亚马逊仍在对监控设备投下重注,否认应当承担的责任,并对学术界、媒体、政界人士及其员工提出的担忧不予理会。

乔治城大学公共利益律所(Georgetown Law’s Institute for Public Representation,IPR)的律师Lindsey Barrett 说:“我们不希望亚马逊建造圆形监狱。”该律所是19家监督组织组成的团体的法律顾问。

上个月,该律所向FTC(美国联邦贸易委员会)控诉亚马逊涉嫌违反保护儿童在线隐私。他们还发现即使父母试图删除数据,亚马逊的Echo Dot儿童版智能音箱还是私自保存了儿童的录音和个人数据。亚马逊将问题的一部分归咎于软件缺陷,并表示已经修复。

虽然该案的结果仍有待探究,但这个投诉只是冰山一角。

如今,亚马逊在公共互联网中占据着举足轻重的地位——它利用AI处理许多大公司和机构的数据,包括中央情报局;它跟踪用户的购物习惯,为目标广告建立详细的档案;它将基于云端,且由AI支持的音箱和屏幕带入千家万户;它收购的一家公司生产的Wi-Fi路由器可以组成网状网访问我们的私有互联网流量。

此外,通过子公司Ring,亚马逊将摄像头安放在数百万人的门铃上,还邀请他们跟邻居、警察通过一个预防犯罪的社区共享视频。亚马逊还向警方和私企出售人脸识别系统

未来,亚马逊可能会更加无处不在。甚至,亚马逊早在2015年就申请到了所谓“监控即服务”的专利。

而亚马逊的领导常给公众灌迷魂汤,让他们相信——隐私问题被夸大了。不仅如此,他们更是忽视内部异议,将亚马逊滥用技术对可能性归结为别人的问题。

亚马逊云服务的负责人Andy Jassy称:“技术或许存在滥用的可能性,但这并不意味着我们就应该禁止并谴责它。”他认为,禁用人脸识别(它或许是有效的监管工具,但却存在歧视有色人种的可能性)就好比禁用电子邮件或刀,其影响也是有好有坏的。

确实,亚马逊的所有产品都存在益处,但当你将这些都拼凑在一起,在云端装上无数“眼睛”和“耳朵”,那就足以产生奥威尔式的影响,相比之下,Facebook和谷歌(这两家公司因隐私问题饱受诟病)似乎也相形见绌了。

客厅里的耳朵

先说说Alexa系列的设备,如Amazon Echo、Echo Dot以及Echo Show等,这些已经成为智能家居的主要产品。

超过1亿的用户大开“方便之门”,亲手将亚马逊的摄像头和麦克风请进了自家厨房、客厅或卧室,相信亚马逊会在此过程中保护好他们的隐私。

亚马逊辩称,Echo只有在听到唤醒词时才会开始录音,但这一系统离万无一失还差得远——几乎每位用户都曾因设备“听”错唤醒词忽然启动,而受到惊吓。Alexa也因此会错误收集对话片段,并意外将这些记录发给陌生人。但亚马逊对此并不那么在意。

此外,从Echo上删除录音文件要比在Google Home或Apple HomePod上更难,对于给Echo Show等设备的摄像头上配置物理快门以防止意外录制的计划,亚马逊也是一拖再拖。

对于一家引领人机关系革命的公司,亚马逊对隐私的态度甚至显得不屑一顾。去年,Alexa Engine Software的副总裁Al Lindsay在接受媒体采访时,被要求指出一项他认为是有效的,且跟亚马逊相关的数据隐私问题,或者说出一项他的团队正在进行的与隐私有关的挑战。他说他一个都想不出来。

反倒是,亚马逊以外的监管者发现了问题。今年四月,彭博社报道称亚马逊在全球雇佣数以千计的承包商来审核Alexa用户的录音。

亚马逊辩称其目的不是监听用户,而是帮助改进软件。这是人工智能培训公司的常见做法,但亚马逊并没有向用户明确披露其系统的机制。苹果的Siri和谷歌助手也有人工审核员,但他们采取了措施对用户的录音匿名化,而Alexa的录音则与每个用户的帐号、设备序列号和名字相关联。

还有指控称亚马逊的儿童版Echo Dot违反了联邦儿童在线隐私保护法,并在签署同意书方面耍了小手段。IPR的Barrett说,她很难相信这么大的一家公司会在一款明确面向儿童并向儿童销售的设备上犯下如此直接的侵犯隐私行为。

对于上述事件,该公司声明称,它有严格的协议来保护客户的隐私和安全,并指出客户可以随时在Alexa应用程序中或通过访问在线Alexa隐私中心来查看和删除录音。

亚马逊希望将Alexa设备部署到汽车酒店房间、教室,甚至儿童医院,却并未强调其隐私和安全性,简直是细思极恐。

不过,亚马逊在上月推出了一系列新的Alexa隐私功能,你可以要求“Alexa,删除我今天说的一切。”但事实证明,这一功能着实鸡肋,Alexa不会在听到指令时删除录音,而是引导用户打开Alexa App,然后经过一长串菜单选项导航。并且你只能删除一天的记录,要想删除所有记录则需要经过8个步骤。

至今,亚马逊都没有像谷歌那样提供自动删除录音的选项。

迄今为止,亚马逊还没有在Alexa上推出语音广告,这可能有助于强化该公司的电商形象,而不是让你成为商品。但这并不意味着你的Echo不会收集数据并从中获利。事实上,它正在跟踪你的购买记录和音乐选择以用于产品推荐了。

虽然它没有像谷歌或Facebook那样受到审查,但亚马逊的数字广告业务正在悄然蓬勃发展:它现在是仅次于双头垄断的第三大经济体。根据最近预计,亚马逊2019年预计将拿下美国1300亿美元市场近10%的份额。

街上的眼睛

ring201807192

亚马逊在2018年初以10亿美元收购的“智能门铃”创企Ring。其他互联网巨头大多只窥探用户的在线行为,而Ring让亚马逊和你一起,监控现实世界中其他人的行为。它的无线连接设备安装在家庭和企业的门外,可以持续监视30英尺半径范围的动态,并在检测到运动时捕捉视频。用户可以实时观看实时动态,付费后还可以存储和观看录制的内容。

亚马逊现在是门铃摄像头市场的主导者,一位分析师预测该市场到2023年的规模将达到100亿美元。

不满足于让用户监视他们自己的前院,Ring还通过一个叫做Neighbors的应用程序把摄像头变成了半公共的搜索网络。Neighbors允许Ring的用户上传、分享和评论彼此的监控录像,用户还可以向警方授权观看视频。亚马逊在一份声明中表示:“通过鼓励社区直接与当地警方合作处理活跃案件,有助于保护社区安全。”

这一功能可让部分执法机构乐坏了。CNET的一份报告指出,从休斯敦到印第安纳州哈蒙德的警察部门都在跟亚马逊合作,向市民提供打折的Ring设备,同时鼓励他们在Neighbors上分享监控视频。有些州的“整个镇区已获摄像头的全覆盖”,警方几乎免费实现了全市安全摄像头的全覆盖。

虽然,亚马逊没有规定用户必须与警方分享视频,但它的执法门户网站让执法人员很容易向任何特定用户索要视频——许多人可能会觉得难以拒绝。即便用户在应用程序中保持匿名,但他们的大概位置还是显而易见。

对此,Ring试图撇清关系,指出要求客户与警方分享视频以换取设备折扣的计划自己是不支持的。

你可能会认为,在网络隐私担忧加剧之际,科技巨头对涉足线下监视的想法应该给更加谨慎才是。就亚马逊而言,你错了。

Ring创始人Jamie Siminoff曾向员工发表过激言论,并向“人渣犯罪分子(declared war on “dirtbag criminals)”宣战。并且,至少在亚马逊收购之前,该公司自身的安全性有时显得松懈:人们多次发现Ring以明文形式存储客户的家庭无线密码,并向海外服务器发送20毫秒的音频数据包。

根据2018年的一份报告,从2016年开始,Ring还允许乌克兰的研发人员访问用户的个人视频记录进行分析。亚马逊表示,这种做法仅限于在Neighbors应用程序上公开分享的视频,但拒绝透露该政策何时生效。

Macomb Community College的教授Chris Gilliard说:“亚马逊实际上是在出售恐惧。他们试图让人们为这样的想法买单——一个更受监管的社会是更安全的社会。但这取决于你是不是被监视的人。Ring和Neighbors实际上会让社会对有色人种更具偏见,他们在具有邻里监督要素的社交网络中被认定为 ‘可疑’的可能性更高。在过去,如果居民看到自认为可疑的人时可能会告诉邻居或报警,但他们可能不会广而告之到整个社区。但现在是了。”

云端的大脑

尽管大多数人仍然认为亚马逊就是一家在线零售商,但其大部分利润现在来自亚马逊网络服务,据估计,其云服务器为近一半的互联网提供支持。对于较小的网站,AWS主要充当基础设施提供商。但是对于那些庞大的机构和公司来说,AWS也挖掘和分析数据,解码文本和图像,做出预测和建议。

这些客户包括主要的执法和情报机构,如国土安全部、国防部和中央情报局。亚马逊在2017年成立了AWS的一个特别部门来处理政府机密情报。AWS的客户还包括Palantir,这是一家由彼得·泰尔共同创立的硅谷大数据公司,为美国移民和海关执法局提供服务。

在谷歌迫于员工压力退出百亿美元云服务合同后,AWS正与微软Azure展开激烈角逐,试图将五角大楼带入云端。

AWS最有争议的服务是Rekognition,这是一个使用机器学习来分析图像和视频片段的平台。Rekognition还具备将视频记录中的人脸与数据库中的人脸集合进行匹配的能力,以及能够识别人脸特征和表情的人脸分析技术。

美国公民自由联盟(ACLU)2018年的一份报告聚焦了亚马逊向执法机构推广其面部识别功能,并与佛罗里达州奥兰多和俄勒冈州华盛顿县的警方建立了合作关系。

在韩国首尔举行的一次开发者大会上,亚马逊的Ranju Das解释说奥兰多的警察拥有“遍布整个城市的摄像头 ”,这些摄像头将视频流传输给亚马逊进行实时分析。它可以将监控视频中的人脸与数据库中的照片进行比较,以确定某些人的下落。

人脸识别应用的一个致命问题就是不准确,特别是在识别有色人种时。在2018年ACLU的一项测试中,Rekognition错误地将28名国会议员的匹配到犯罪嫌疑人的照片上,在错误匹配中,有色人种的国会议员占比较高。亚马逊认为这项研究在几个方面具有误导性,因为它对匹配使用了低于AWS推荐的置信度阈值,并且使用了旧版的Rekognition软件。

一些员工和股东认为亚马逊为Palantir和ICE等开发人工智能工具和面部识别的想法并不合适。一位匿名的亚马逊员工表示,约有450名员工联名签署了一封致CEO贝佐斯的信,呼吁该公司放弃跟Palantir合作并停止向警方提供Rekognition的服务。

该员工写道:“像我们这样的公司不应该从事便利独裁监控的业务”。在随后的一次采访中,该员工表示亚马逊领导层对此的回应是“无限地沉默”。

这并不奇怪,因为AWS副总裁Teresa Carlson在被问到亚马逊是否会给自己所承担的防务工作划任何的红线或制订指导方针时,她的答案很明确:“我们不划任何的红线。”

在2019年2月的一篇博客文章里,亚马逊表示,它将对人脸识别进行某种形式的立法以促进透明性和尊重公民权利等目标持开放态度。此前,微软在2018年更直接地呼吁监管这项技术。但是,当微软提出严格的道德理由来控制它时,亚马逊却一直在为其辩护,“在我们提供Amazon Rekognition两年多的时间里,我们尚未收到一份关于执法滥用的报告,”该公司在博客文章中说。

监控即服务

专利申请不能告诉你一家公司实际上会做什么。通常,他们只是尽可能多地申请专利,以防有朝一日能将其商业化。但尽管如此,我们从专利中还是能看出公司对未来几年的竞争环境的看法。如果说亚马逊的专利文件会透露某些信息的话,那就是公司将监控能力的扩展视为其未来的重要组成部分。亚马逊将这一想法叫做“监控即服务”。

智能音箱、AI语音助手、门铃摄像头以及人脸识别都有其优点,它们为我们提供了便利,让我们安心,并有可能解决可能一些否则无法解决的犯罪问题。但是如果把这些凑到一起,由一家科技巨兽控制所有的数据,并与警方和情报机构密切合作,你可能就会生活在一个空前强大的监控之下。

假设没有人阻止亚马逊建立这个网络,问题就变成了我们是否能信任该公司在设计其产品和保护他们收集的大量数据时能够负起责任、深思熟虑、小心谨慎——以及我们是否能信任所有使用亚马逊技术的实体对我们的数据负责。

穹顶之下

与道歉成瘾的Facebook,和以保护隐私为卖点的苹果相比,亚马逊迄今在监控方面并没有引起巨大的关注。

但你要知道,在微软拒绝向警方出售人脸识别技术,而谷歌根本没有这一销售业务的情况下,亚马逊却在向全国各地的警察部门进行兜售。

亚马逊CTO Werner Vogels在接受BBC采访时解释说,确保负责任地使用其人脸识别系统并不是亚马逊要承担的角色。“这不是我要做的决定,这项技术在很多地方都得到了很好的应用。哪一项技术在什么情况下可以用得由社会来决定。”

在2018年10月,贝佐斯将公司的军事合同视为爱国义务的一部分。他把公司开发高科技监控工具与书的发明进行比较,说书曾被用于行善,也曾被用于作恶。他说:“新技术裹足不前是我们最不想做的事情。”

人们可能希望亚马逊最不想做的是开发会造成伤害的新技术,但显然它的高管更加关注的是不要妨碍创新。

几十年来,科技公司的战略一直秉承着这样的观点:创新的步伐是不可阻挡的,自己创造的新技术不该由公司来引导怎么去用。

不过似乎亚马逊对这种看法不敢苟同。

一直在研究Ring和Neighbors如何影响少数族裔的研究员Gilliard表示,他怀疑亚马逊对其产品影响这种无所谓(不管是有意还是无意)的态度可能难以为继。他表示:“亚马逊只是还没有遭遇他们的剑桥分析时刻。”

在没有出现亚马逊员工和管理层良心发现,或是爆出惊天丑闻的转折点之前,对亚马逊脖子伸得太长最好的防御手段也许是监管。

5月,旧金山成为美国第一个禁止人脸识别的大城市。该技术的捍卫者发现这一行动不成熟且过于激进。但亚马逊的一位匿名员工警告说,如果我们不尽快采取行动的话,“所造成的伤害将很难恢复”。警察部门一旦对Neighbors形成依赖让他们放弃使用简直是难以想象。虽然人们可能会希望亚马逊决定不给门铃、汽车或无人机提供人脸识别能力,但没有任何迹象表明它的领导人认为这里面有问题。

亚马逊之前曾克服了社会信任的障碍。1995年它就推出了在线书店,那时候距离互联网历史上首次实现在线购物仅仅一年。亚马逊和eBay一起说服了公众在网上使用信用卡并不像怀疑者所想的那样疯狂。

尽管该公司在看似不协调的方向上扩张,但它仍严格专注于简化过去繁琐的流程,从快速廉价的交付到通过语音控制智能设备。

Rekognition可以自动将一个犯罪嫌疑人的脸与数据库中数十万张照片进行比较,或者当你的街道上发生可疑事件时,Ring可以第一时间提醒邻居和警察。 但值得一问的是,在我们让监控变得像一键式亚马逊购物一样简单和无处不在之前,让社会上的某些事情保持繁琐会不会是更好的选择。

未经允许不得转载:数智网 » 监控即服务 亚马逊如何“入侵”我们的隐私

分享到: