智能家居 死亡时家里发生了什么？亚马逊Echo的谋杀指控

我们面临的复杂问题往往不是来自技术层面，而是规则本身和用户对规则的接受程度

《财经》特约撰稿人李军|

没有人想到亚马逊会被卷入一起谋杀案，成为案件的焦点。

那是 2015 年 11 月的一天，一名 47 岁的堪萨斯州前警官在参加他的朋友詹姆斯·贝茨 (James Bates) 组织的家庭聚会时死在贝茨家中的按摩浴缸中。 到底是意外还是谋杀，这成了警方首先要寻找的答案。 我怎么知道我去世时家里发生了什么？ 警察的目光停在了贝茨家中的一台 Echo 上。

Echo——亚马逊新一代智能家居控制中心，后台连接亚马逊人工智能平台，支持人机对话语音控制。 人类只要呼叫“Alexa”，就可以唤醒Echo并发出控制指令，比如打开空调、叫出租车、查询电影院放映时间，甚至可以根据关键词查找和播报新闻。

也就是说，Echo会24小时处于聆听状态，随时捕捉主人发出的“Alexa”语音，并执行后续指令。 那么，贝茨家中的Echo应该也能听到死亡时屋内所有的声音。 而这些声音都是通过Echo上传到亚马逊的云计算平台上的。

堪萨斯州警方立即向亚马逊发出搜查令，要求亚马逊提供从贝茨的Echo上传的语音数据，这些数据存储在云端。

该案与警方就是否应公布数据发生争执。 它以嫌疑人詹姆斯贝茨自愿向警方授权语音数据而告终。 警方最终撤销了对詹姆斯​​·贝茨的谋杀指控。

这起案件之后，公众才意识到，亚马逊的Echo是不折不扣的家庭隐私信息收集者。 无论是夫妻俩关于政治、经济、社会甚至饮食的讨论，教育孩子打屁股的声音，甚至夫妻闺房的声音，都被 Echo忠实地上传到云端，成为重要的大数据时代个人特征拼图的一部分。 最重要的是，亚马逊从未向用户提及这些声音数据将被存储多长时间以及将用于何种商业用途。

（图／视觉中国）

语音隐私收集已开始

我们知道，智能语音设备的标准工作方式是：保持开启状态，平时保持静音。 当用户调用命令关键字时，智能语音设备将被唤醒并执行命令关键字后面的特定命令。 根据亚马逊此前提供的信息，智能语音设备在工作时，只会保存紧跟在命令关键词之后的语音信息。 未被唤醒时，语音信息不会被保存并上传至云端。

但堪萨斯州的案例表明，亚马逊并没有完全按照它声称的那样处理客户心声信息。 事发过程中，亚马逊的智能语音设备并没有被唤醒，但最终亚马逊的云端还是保留了詹姆斯贝茨家当晚的部分语音信息。

为什么亚马逊要让这些语音消息保持在非唤醒状态？ 虽然亚马逊并未对此做出任何解释，但我们还是可以通过一些蛛丝马迹猜测它未来的数字拼图会是什么样子。

2014年，亚马逊申请了一项关于语音交互分析和相关个性化推荐的专利（专利号US14/）：“我”在与劳拉交谈时提到了城市、葡萄酒、县城、海滩和圣地亚哥动物园。 在后续的个性化电商平台上，亚马逊会分别为“我”和劳拉推荐城市地图和旅游指南、沙滩巾和圣地亚哥动物园门票。 这种通过语音识别进而获取倾向信息的方法被称为“语音嗅探算法”（Voice）。 客户的喜好、厌恶、兴趣等信息会在语音嗅探中被一一提取、标记、存档。

事实上，除了个人喜好信息，智能家居设备还可以通过声音获得很多客户意想不到的隐藏信息。 首先是情绪。 每个人的语音语调在不同的情绪状态下是不同的。 通过提取声音、语速、呼吸甚至哭声等信息，系统可以判断一个人的当前状态。 如果加上咳嗽、打喷嚏等信息，系统可以进一步判断顾客的健康状况。

除了语音信息，还可以通过冲马桶、跑步机活动的声音来判断顾客的健康状况。 至于电视、游戏机等日常活动的声音，也有助于系统分析判断客户的日常作息习惯。

看到这里，你是不是觉得亚马逊和谷歌的这些智能语音设备采集了丰富的语音信息，能够做出准确的客户画像和分析？ 事实上，这只是这个巨大谜团的一部分。

在谷歌2015年获得的“隐私分析个性化内容智能家居”专利（专利号US14/）中，展示了这样一个应用场景：智能家居摄像头提取床头书的封面，并识别为小说“The教父”，然后建议客户当晚在第五频道观看同名电影。

你觉得这些个性化推荐可以吗？ 事实上，由于视频能够获取的信息远远多于声音，因此通过视频内容获取隐私信息会更加容易和全面。

首先，家庭结构、性别、年龄、时尚品味、风格、心情、语言、喜欢的活动，所有这些显然都非常容易收集。 此外，床边的书、卧室里的吉他或篮球，甚至墙上的明星头像或你穿的T恤，都会被识别并记录下来。

此外，家庭成员之间的分工和互动，以及各种大宗采购和旅行计划的约定决策过程，都会被各种智能设备一一记录下来。 或许你和老婆只是在聊家里的车子有什么小毛病，希望明年发年终奖的时候考虑买一辆。 其背后的智能付费广告系统，针对您和您的妻子在各种网页、手机应用、电视上的广告位，已经向所有车企明码标价。

可能有读者会说，虽然亚马逊和谷歌申请了这些隐私信息收集专利，但这并不能证明他们在智能设备未启动时就开始在后台收集和存储信息。 不幸的是，有一些迹象表明这些制造商可能已经开始悄悄行动。

“巧合”背后的隐私问题

美国波特兰一对夫妇晚上聊天，部分对话被家里的 Echo 保存下来，以语音文件的形式转发给通讯录中的朋友。 此事经媒体披露后，给出的解释如下：

Echo 被对话中的一个词唤醒，这个词听起来非常像唤醒词“Alexa”，然后“好像”听到了“发送消息”的命令。 Echo 问“给谁”？ 这时，某个词听起来与通讯录中A先生的名字非常相似。 Alexa 然后再次询问“发送给 A 先生”？ 然后 Alexa 似乎又听到了“是”这个词。 然后，语音对话被发送给 A 先生。

这一切都太巧合了，太巧合了，让人难以置信。 而即使所有这些巧合都发生了，当 Echo两次确认输入命令时（一次确认发送者，一次确认最终发送），客户并没有全部听到，这真的很难解释。

除此之外，今年有媒体报道亚马逊智能音箱在多个客户家中发出莫名其妙的笑声，有时甚至是在半夜，这引发了人们对智能音箱如何在后台工作的深刻质疑。

如果说公共场所的摄像头+人脸识别是公共安全的需要，那么一些个人隐私权就必须让位于公共利益。 但你带入家中的智能设备以及后台相应的影音采集识别分析系统，是你自愿将家庭隐私交给第三方家庭智能设备公司。

我们能得到什么来换取我们暴露的隐私。 个性化服务？ 客户折扣？ 特别奖励？ 就这样。 与个人隐私和安全相比，这些好处和便利实在是不值一提。

面对智能家居设备逐渐进入普通居民家庭的现实，法律法规和政府监管能否有效保护个人隐私？ 答案可能是否定的。 因为在现阶段，政府缺乏对隐私数据进行监管和保护的有效手段。 据新华社2018年2月援引消息称，“目前，黑市交易可能是中国数据交易的主流。 据不完全统计，我国个人信息泄露人数已达约55.3亿人次，平均每人4条相关个人信息。 它被泄露了，这些信息在黑市上被反复交出。” 我们身边的每个人每天都会收到垃圾短信，这也反映了当前政府监管的薄弱。

在相对恶劣的个人隐私保护环境下，即使是已经破获的案件，政府的处罚也普遍较轻。 2017年，浙江省一起侵犯公民个人信息案件中，泄露公民信息7亿余条，贩卖公民信息8000万余条。 涉案人员最高罚款仅为40万元。

5月1日起施行的我国第一部快递行业行政法规《快递暂行条例》规定，在提供服务过程中出售、泄露或者非法提供用户信息，情节严重的最高罚款仅为10万元。快递服务。 无论是从法律法规还是从现行司法实践来看，政府对个人隐私的保护都远远不够。 因此，我们在对智能家居设备企业敞开大门时，一定要慎之又慎。

当然，相信亚马逊、谷歌等大公司会按照政府监管的原则，遵守保护客户隐私的义务。 但在今天的智能设备市场，玩家不仅仅是像亚马逊和谷歌这样的大公司。

根据全球智能语音设备市场数据，2016年第四季度，亚马逊和谷歌占据了96.7%的市场份额，其他厂商只有区区3.3%。 到2018年第一季度，亚马逊和谷歌加起来的市场份额只有70%，阿里、苹果、小米等厂商异军突起。 此外，还有其他厂商占据了近14%的市场份额。

目前，中国客户面临的智能语音设备选择包括以腾讯、百度、阿里巴巴、京东、猎豹为代表的软件厂商； 以小米为代表的硬件厂商； 以海尔、苏宁为代表的家电厂商/经销商； 出门问问，以喜马拉雅等为代表的初创企业，在激烈的竞争下，智能语音设备甚至有百元以下的产品。 怀疑这样价位的产品能否完全满足个人隐私保护的需求。

并且，把保护个人隐私放在这些大大小小的互联网公司自愿的事情上？ 在中国互联网行业的现状下，这还不够。 从百度在医疗信息服务上的表现，到滴滴在管理客户标签上的不慎，都表明中国互联网行业在隐私保护上无法让用户放心。

除了厂商的主动作为，网络黑产对个人隐私的威胁也不容小觑。 最近，一位以安全软件起家的大亨公开宣布，他的公司有能力劫持任何新版特斯拉汽车的遥控器。 但在黑市上广为流传的是带有制造商标识的家用摄像头视频。 一旦技术缺陷导致黑客批量劫持智能家居设备，利用AI系统提取隐私信息，使用这些设备的家庭的隐私信息将全部暴露在光天化日之下。

遗憾的是，目前中国用户在购买智能语音设备时，主要看重的是功能和价格，往往忽视了其背后的个人隐私风险。 即使是目前媒体上关于智能家居设备隐私风险的暗示也很少。

对信任和透明度机制的理性评估

作为理性消费者，如何从隐私保护的角度选择智能家居厂商？ 核心是两点：信任和透明。

所谓信任，是基于以往良好的业务记录，让客户对公司承担隐私数据保护的态度和能力有充分的信任感。 这完全取决于企业建立自己品牌的能力。

所谓透明，是指企业充分公开隐私数据的使用和保护的原则和目的。 简单来说，就是企业明确提取什么样的客户数据，为什么提取，如何使用这些数据，与哪些第三方共享这些数据，如何共享等，甚至进一步明确了如何制作隐私数据泄露时的赔偿。

对于智能家居设备企业，可以参考美国非营利组织EPIC()向美国联邦贸易委员会(FTC)提交的物联网设备隐私保护原则：

* 使用公平的信息管理实践

* 使用增强的隐私保护技术

*要求公司尊重客户选择不被跟踪、描述和监控的权利

*要求商家只收集必要的数据

*确保企业在设计和运营物联网设备时遵循透明原则

智能家居设备对人类社会本身来说是一种新奇事物。 在制定尽可能详细的隐私保护和监管规则时，仍然存在非常复杂的问题。

我们面临的这些复杂问题往往不是来自技术层面，而是规则本身和用户对规则的接受程度。 我们想象这样一个场景：一个愤怒的丈夫用凶器威胁他的妻子要杀了她。 房间里的智能音箱/摄像头是否应该自动报警？

对于丈夫来说，他当然不愿意让智能音箱/摄像头自动报警。 妻子们呢？ 答案可能是或否。 这取决于妻子对丈夫威胁真实性的看法。 但无论如何，这是一个非常困难的判断，尤其是对当事人而言，尤其是对后台AI系统而言。

我们暂时可以松口气，因为目前市面上所有的智能音箱/摄像头和后台AI系统都没有提供这样的功能，无论是亚马逊、谷歌还是国产品牌。 但是如果有一天政府因为犯罪监管的需要，要求智能家居设备提供类似的功能，你觉得可以接受吗？

或许在2016年的春天，出现了死亡的一幕，人类无论愿不愿意，都已经落入了数字时代的大网中无法脱身。