導(dǎo)語(yǔ)：無(wú)論是我們的家里還是身上或多或少都會(huì)攜帶智能語(yǔ)音設(shè)備，如今甚至連兒童玩具也越來(lái)越智能了。但是當(dāng)我們與這些虛擬助手交談的時(shí)候，背后傾聽(tīng)的人究竟是誰(shuí)？我們是否還有隱私可言？

以下為譯文：

“血案”引發(fā)的智能設(shè)備隱私問(wèn)題

2015年11月21日，James Bates和三位朋友觀(guān)看了阿肯色州野豬隊(duì)與密西西比州斗牛犬隊(duì)的比賽。Bates居住在阿肯色州本頓維爾市，他和他的朋友們喝著啤酒和伏特加，觀(guān)看了一場(chǎng)緊張的橄欖球比賽。后來(lái)，野豬隊(duì)以51-50輸?shù)袅吮荣悾珺ates的一位朋友悻悻而歸，而B(niǎo)ates和其余兩位朋友去后院的熱水浴缸里繼續(xù)飲酒。據(jù)Bates事后說(shuō)，凌晨1點(diǎn)左右的時(shí)候他上床睡覺(jué)了，而他的兩位朋友（其中一人名叫Victor Collins）打算在他家中過(guò)夜。次日清晨，Bates起床后卻發(fā)現(xiàn)兩位朋友不見(jiàn)了。可是，當(dāng)他打開(kāi)后門(mén)，才發(fā)現(xiàn)熱水浴缸中漂浮著一具尸體，此人正是Collins。

這在當(dāng)?shù)厥且黄饑?yán)峻的死亡事件，但如果不是由于本頓維爾市警方在調(diào)查死因的時(shí)候，將世界上最強(qiáng)大的公司亞馬遜也卷了進(jìn)來(lái)的話(huà)，可能Victor Collins的死永遠(yuǎn)也不會(huì)引起國(guó)際的關(guān)注。Collins的死亡引發(fā)了一場(chǎng)關(guān)于語(yǔ)音計(jì)算時(shí)代隱私的爭(zhēng)論，這些討論讓大科技公司感到不安。

橄欖球比賽的次日清晨，Bates報(bào)了警。警方發(fā)現(xiàn)了打斗的痕跡，覺(jué)得很可疑——地上散落著熱水浴缸的頭枕、把手以及兩個(gè)破碎的瓶子。Collins的一只眼睛烏青，嘴唇腫脹，而浴缸中的水也被血染紅了。Bates說(shuō)，他不知道發(fā)生了什么事情，但警方覺(jué)得很可疑。2016年2月22日，警方以謀殺罪逮捕了Bates。

在搜查犯罪現(xiàn)場(chǎng)時(shí)，調(diào)查人員注意到了亞馬遜的Echo。由于警察認(rèn)為Bates可能沒(méi)有說(shuō)實(shí)話(huà)，所以他們想試試看Echo是否可能在無(wú)意間記錄了有關(guān)真相。2015年12月，調(diào)查人員向亞馬遜提出了搜查令，要求亞馬遜提供“錄音、轉(zhuǎn)錄記錄或其他文本記錄形式的電子數(shù)據(jù)”。

亞馬遜提交了Echo記錄的一份事務(wù)記錄，但沒(méi)有提供任何音頻數(shù)據(jù)。亞馬遜在提交給法庭的一份文件中稱(chēng)：“鑒于第一修正案的重要性與隱私權(quán)的問(wèn)題，逮捕令應(yīng)予以撤銷(xiāo)?！盉ates的律師Kimberly Weber用更為通俗的語(yǔ)言闡述了這一論點(diǎn)：“一份理應(yīng)改善你的生活的圣誕禮物，如今卻變成了你的罪證。”

亞馬遜的Echo帶有麥克風(fēng)、能夠收錄到各個(gè)房間的聲音。蘋(píng)果、Google和微軟的智能家居產(chǎn)品，以及我們所有手機(jī)中配備麥克風(fēng)的AI也一樣。作家Adam Clark Estes曾說(shuō)過(guò)：“購(gòu)買(mǎi)智能揚(yáng)聲器，實(shí)際上等同于花錢(qián)讓一家大型科技公司監(jiān)視你。”

亞馬遜對(duì)此做出了反擊，認(rèn)為其產(chǎn)品受到了不公平的誹謗。沒(méi)錯(cuò)，他們的設(shè)備時(shí)刻在聽(tīng)候指令，但絕不會(huì)傳輸聽(tīng)到的所有內(nèi)容。只有當(dāng)設(shè)備聽(tīng)到有人叫它“Alexa”時(shí)，才會(huì)將語(yǔ)音發(fā)送到云端進(jìn)行分析。Bates不太可能會(huì)明目張膽地說(shuō)出自己的罪行。例如：“Alexa，我該如何把尸體藏起來(lái)？”但可以想象這臺(tái)設(shè)備可能收錄了一些調(diào)查人員感興趣的東西。例如，如果有人有意激活Echo（如播放歌曲等正常的要求），而設(shè)備可能錄下了當(dāng)時(shí)的背景聲音，比如有人爭(zhēng)吵的聲音等。如果Bates在凌晨1點(diǎn)之后向Echo發(fā)出了任何請(qǐng)求，那么就證明他所說(shuō)的上床睡覺(jué)的時(shí)間有誤。

2016年8月，一名法官接受了亞馬遜可能持有有利證據(jù)的觀(guān)點(diǎn)，批準(zhǔn)了第二次搜查令，準(zhǔn)許警方獲取亞馬遜之前保留的信息。就在雙方陷入僵局的時(shí)候，情況發(fā)生了突變——Bates堅(jiān)持認(rèn)為自己無(wú)罪，所以他和他的律師表示，他們并不反對(duì)警察獲取這些信息。于是，亞馬遜表示妥協(xié)，但要求警方永遠(yuǎn)不能透漏Echo記錄的有關(guān)犯罪的任何內(nèi)容。然而，2017年12月，檢察官提出了駁回此案的動(dòng)議，稱(chēng)Collins的死亡有不止一種合理的解釋。但該案件引發(fā)的監(jiān)視問(wèn)題掀起了軒然大波，久久無(wú)法散去。

各大科技公司堅(jiān)持認(rèn)為，他們沒(méi)有使用虛擬助手和家用小工具來(lái)監(jiān)視他們的用戶(hù)，這些工具只在收到明確指示時(shí)，才會(huì)接收指令。至少就外部的檢驗(yàn)結(jié)果而言，這種說(shuō)法似乎屬實(shí)。但這并不意味著挑戰(zhàn)傳統(tǒng)隱私觀(guān)念的監(jiān)聽(tīng)沒(méi)有發(fā)生，或不可能發(fā)生。

科技公司的隱私保衛(wèi)戰(zhàn)

家用設(shè)備威脅到我們的隱私觀(guān)念的方式有很多種。一種是通過(guò)監(jiān)聽(tīng)改善語(yǔ)音識(shí)別系統(tǒng)。當(dāng)你按下Hello Barbie這款芭比娃娃閃閃發(fā)光的束衣扣時(shí)，她的數(shù)字耳朵就會(huì)豎起來(lái)。當(dāng)你說(shuō)“OK，Google”的時(shí)候，Google的語(yǔ)音助手也會(huì)被激活。亞馬遜的Alexa最喜歡有人叫她的名字。但是一旦這些設(shè)備被激活，接下來(lái)會(huì)發(fā)生什么呢？

蘋(píng)果向來(lái)以保護(hù)隱私為傲，據(jù)稱(chēng)Siri會(huì)盡可能地滿(mǎn)足使用iPhone或HomePod的用戶(hù)。在將用戶(hù)所說(shuō)的話(huà)發(fā)送到云進(jìn)行其他分析時(shí)，會(huì)對(duì)用戶(hù)的信息進(jìn)行編碼。為了便于語(yǔ)音識(shí)別系統(tǒng)學(xué)習(xí)更好地理解人的聲音，這些信息會(huì)被保存六個(gè)月。在這之后，為了幫助改善Siri，這些數(shù)據(jù)在去除有關(guān)用戶(hù)的信息后，會(huì)被保存在另一個(gè)副本中長(zhǎng)達(dá)兩年。

大多數(shù)其他公司并沒(méi)有采取本地處理的方式，而是會(huì)將所有音頻傳輸?shù)皆贫?，通過(guò)更強(qiáng)大的計(jì)算資源進(jìn)行處理。然后，由計(jì)算機(jī)判斷用戶(hù)的意圖并遵從用戶(hù)的命令。在這之后，這些公司本可以刪除請(qǐng)求和系統(tǒng)的響應(yīng)，但通常他們都不會(huì)這樣做。原因就在于這些都是數(shù)據(jù)。在A(yíng)I會(huì)話(huà)中，你擁有的數(shù)據(jù)越多就越有利。

幾乎所有的機(jī)器人廠(chǎng)商，從業(yè)余愛(ài)好者到大型科技公司的人工智能向?qū)?，都?huì)審核人們與這些機(jī)器人之間的互動(dòng)內(nèi)容。目的是為了查看哪些方面做得不錯(cuò)，哪些方面需要改進(jìn)，以及用戶(hù)感興趣的討論內(nèi)容或希望完成的事項(xiàng)。這種審核流程有多種形式。

聊天記錄有可能是匿名的，因此審閱者看不到用戶(hù)的姓名。有些審閱者只能看到匯總的數(shù)據(jù)。例如，他們有可能發(fā)現(xiàn)，有些機(jī)器人經(jīng)常在對(duì)話(huà)中把天聊死，從而他們可以知道需要調(diào)整語(yǔ)句。微軟和Google以及其他公司的設(shè)計(jì)師也會(huì)收到有關(guān)最受歡迎的用戶(hù)查詢(xún)的詳細(xì)報(bào)告，所以他們知道需要添加哪些內(nèi)容。

但是，在這種審核的過(guò)程中，也可能接觸到非常私密的信息。在我訪(fǎng)問(wèn)過(guò)的一家會(huì)話(huà)計(jì)算公司的辦公室里，員工向我展示了他們每天收到的郵件里都會(huì)列出用戶(hù)與某家公司聊天應(yīng)用之間的最新交換信息。

他們的員工打開(kāi)了一封這樣的電子郵件，并點(diǎn)擊了播放的圖標(biāo)。我通過(guò)清晰的數(shù)字音頻，聽(tīng)到了一個(gè)孩子的自言自語(yǔ)：“我只是一個(gè)男孩，我有一件綠色的恐龍襯衫......而且，巨大的腳......我家里有很多玩具和一把椅子......母親只是一個(gè)女孩，我認(rèn)識(shí)我的媽媽?zhuān)梢宰鋈魏嗡胱龅氖虑?。每天早上我起?lái)的時(shí)候她已經(jīng)去上班了，但晚上她會(huì)回家。”

這段錄音并沒(méi)有任何不妥之處。但是當(dāng)我聽(tīng)到這段錄音時(shí)，心里隱隱感到一陣不安，仿佛看見(jiàn)有個(gè)小男孩的房間里徘徊。這次經(jīng)歷讓我意識(shí)到當(dāng)我們通過(guò)電話(huà)或智能家居設(shè)備與虛擬助手交談時(shí)，我們假設(shè)自己完全是匿名，另一端只有一臺(tái)電腦，是嗎？并不一定哦，很可能有人在監(jiān)聽(tīng)、做筆記、學(xué)習(xí)。

有時(shí)監(jiān)聽(tīng)也會(huì)在不經(jīng)意期間發(fā)生。2017年10月4日，Google邀請(qǐng)記者參加舊金山SFJazz中心一款產(chǎn)品的發(fā)布會(huì)。由設(shè)計(jì)師Isabelle Olsson負(fù)責(zé)宣布全新推出的Google Home Mini，這是一款只有百吉餅大小的設(shè)備，是Google為了回應(yīng)亞馬遜的Echo Dot而推出的產(chǎn)品。Olsson說(shuō)：“家庭是一個(gè)特別私密的地方，人們對(duì)他們選擇的東西都非常挑剔。”展示結(jié)束后，Google把Mini贈(zèng)送給了與會(huì)者。其中一位名叫Artem Russakovskii的作家將這款贈(zèng)品帶回了家，但隨后他對(duì)自己的此舉感到十分懊悔。

在使用了幾天Mini后，Russakovskii上網(wǎng)查看了他的語(yǔ)音搜索記錄。結(jié)果卻震驚地發(fā)現(xiàn)，這款設(shè)備已經(jīng)錄制了幾千段小音頻——該設(shè)備本不應(yīng)該錄制這些音頻。后來(lái)，他在Android Police網(wǎng)站寫(xiě)道：“由于硬件的缺陷，不知不覺(jué)中我受到了來(lái)自Google Home Mini一天24小時(shí)不間斷的監(jiān)視?！彼騁oogle投訴，Google在5小時(shí)內(nèi)派來(lái)了一名代表，換掉了他的故障設(shè)備中的兩個(gè)部件。

與其他類(lèi)似的設(shè)備一樣，你可以通過(guò)“OK，Google”或按下設(shè)備頂部的按鈕激活Mini。Russakovskii寫(xiě)道，但問(wèn)題在于該設(shè)備有“臆想癥”：它會(huì)幻想有人按了激活按鈕。后來(lái)，Google表示，這個(gè)問(wèn)題僅影響了促銷(xiāo)活動(dòng)中發(fā)放出去的少數(shù)幾臺(tái)設(shè)備。再后來(lái)，Google通過(guò)軟件更新修復(fù)了這個(gè)問(wèn)題。為了進(jìn)一步消除用戶(hù)的恐懼，Google宣布永久禁用所有Mini的觸控功能。

然而，這種回應(yīng)措施并不足以滿(mǎn)足電子隱私信息中心的要求。2017年10月13日，該倡導(dǎo)組織在一封信中強(qiáng)烈要求消費(fèi)者產(chǎn)品安全委員會(huì)召回Mini，理由是它“允許Google在未經(jīng)消費(fèi)者知情或同意的情況下，攔截和記錄用戶(hù)在家中的私人談話(huà)”。

沒(méi)有任何信息表明Google在故意竊聽(tīng)。盡管如此，如果連Google這樣的公司都會(huì)犯這樣的錯(cuò)誤，那么隨著語(yǔ)音設(shè)備的劇增，其他公司更容易犯同樣的錯(cuò)誤。

你是否真的被監(jiān)聽(tīng)了？

如果你想知道政府機(jī)構(gòu)或黑客是否能夠聽(tīng)到你與語(yǔ)音設(shè)備之間的談話(huà)，那么請(qǐng)考慮一下你對(duì)著這些設(shè)備說(shuō)完話(huà)后，接下來(lái)會(huì)發(fā)生什么。有隱私保護(hù)意識(shí)的蘋(píng)果會(huì)保留你的語(yǔ)音，但會(huì)去掉你的姓名或用戶(hù)ID。然后，給每個(gè)用戶(hù)分配隨機(jī)的數(shù)字字符串，在6個(gè)月后還會(huì)斷開(kāi)對(duì)話(huà)與數(shù)字字符串之間的關(guān)聯(lián)。

與此同時(shí)，Google和亞馬遜會(huì)全權(quán)保留講話(huà)者與其對(duì)話(huà)之間的聯(lián)系。任何用戶(hù)都可以登錄他們的Google或亞馬遜賬號(hào)，查看所有查詢(xún)的列表。我曾試過(guò)Google，我可以聽(tīng)到其上的所有錄音。例如，點(diǎn)擊2017年8月29日上午9點(diǎn)34分的播放圖標(biāo)，我聽(tīng)到自己?jiǎn)枺骸般U筆刀用德語(yǔ)怎么說(shuō)？”雖然這些語(yǔ)音記錄都可以刪除，但是必須由用戶(hù)動(dòng)手。Google用戶(hù)政策聲明中說(shuō)：“Google Home和Google助手的對(duì)話(huà)歷史記錄會(huì)一直被保存下來(lái)，直到你動(dòng)手刪除為止。”

這是隱私方面的新問(wèn)題嗎？然也。Google和其他搜索引擎同樣會(huì)保留你輸入的所有Web查詢(xún)，除非你動(dòng)手刪除。所以你可能認(rèn)為，語(yǔ)音存檔只不過(guò)是同樣的現(xiàn)象而已。但是對(duì)某些人來(lái)說(shuō)，語(yǔ)音記錄感覺(jué)更具侵略性。另外，還有一個(gè)問(wèn)題。錄音常常會(huì)把背景中其他人的聲音也記錄下來(lái)，比如你的伴侶、朋友和孩子等。

對(duì)于執(zhí)法機(jī)構(gòu)來(lái)說(shuō)，如果想獲取本地存儲(chǔ)的錄音或數(shù)據(jù)（保存在你的手機(jī)、計(jì)算機(jī)或智能家居設(shè)備上的數(shù)據(jù)），則需要拿到搜查令。但是，在語(yǔ)音傳輸?shù)皆浦螅[私保護(hù)就被大幅削弱了。紐約福德姆法學(xué)院法律和信息政策中心主任Joel Reidenberg表示，“有關(guān)隱私的合理預(yù)期法律標(biāo)準(zhǔn)已經(jīng)失效了。根據(jù)第四項(xiàng)修正方案，如果你安裝語(yǔ)音設(shè)備，而且會(huì)向第三方傳輸數(shù)據(jù)，那么就相當(dāng)于你放棄了隱私權(quán)。”根據(jù)Google透明度報(bào)告，2017年美國(guó)政府機(jī)構(gòu)曾要求其提供17萬(wàn)多用戶(hù)賬號(hào)的數(shù)據(jù)。（該報(bào)告沒(méi)有說(shuō)明這些請(qǐng)求中有多少是語(yǔ)音數(shù)據(jù)，有多少是網(wǎng)絡(luò)查詢(xún)或其他信息的日志。）

如果你沒(méi)有在家中從事任何違法行為，也不用擔(dān)心被誣告，那么也許你不需要擔(dān)心政府可能會(huì)要求提供你的語(yǔ)音數(shù)據(jù)。但是，如果有些公司持有你的錄音數(shù)據(jù)，那么仍然有一種普遍存在的風(fēng)險(xiǎn)。黑客可以利用你的賬號(hào)和密碼，竊聽(tīng)你在家中私下發(fā)出的請(qǐng)求。

各大科技公司聲稱(chēng)他們沒(méi)有惡意竊聽(tīng)，但黑客并不會(huì)以竊聽(tīng)為恥。雖然各個(gè)公司通過(guò)密碼保護(hù)和數(shù)據(jù)加密來(lái)打擊竊聽(tīng)活動(dòng)，但安全研究人員的測(cè)試以及黑客的破壞表明，這些保護(hù)措施遠(yuǎn)非萬(wàn)無(wú)一失。

有一種在線(xiàn)的毛絨動(dòng)物玩具CloudPets，其中有小貓咪、大象、獨(dú)角獸，還有泰迪熊。孩子們可以對(duì)著這些毛絨玩具錄制簡(jiǎn)短的語(yǔ)音信息，這些信息可以通過(guò)藍(lán)牙傳送到附近的智能手機(jī)上。然后，再發(fā)送到遠(yuǎn)方的父母或其他親戚手中，無(wú)論他們?cè)谑欣锷习?，還是在世界的另一個(gè)角落戰(zhàn)斗。反過(guò)來(lái)，父母也可以在手機(jī)上錄制一條消息，并發(fā)送到毛絨玩具上進(jìn)行播放。

看似這是一個(gè)溫馨甜蜜的場(chǎng)景。然而，問(wèn)題在于CloudPet將80多萬(wàn)名用戶(hù)的認(rèn)證信息，以及兒童和成人之間記錄的200萬(wàn)條消息保存在了在線(xiàn)數(shù)據(jù)庫(kù)中。2017年，黑客獲取了很大一部分?jǐn)?shù)據(jù)，甚至向該公司提出了勒索贖金。

安全研究員Paul Stone發(fā)現(xiàn)了另一個(gè)問(wèn)題：CloudPets毛絨玩具與配套的智能手機(jī)應(yīng)用之間的藍(lán)牙配對(duì)中沒(méi)有使用加密，也不需要身份驗(yàn)證。他購(gòu)買(mǎi)了一只獨(dú)角獸的毛絨玩具進(jìn)行測(cè)試，發(fā)現(xiàn)很輕易就可以入侵該設(shè)備。

在Stone在網(wǎng)上發(fā)布了一段示范視頻中，他的獨(dú)角獸玩具大喊：“殺呀！殺呀！”同時(shí)他開(kāi)啟了麥克風(fēng)錄制，該毛絨玩具瞬間變成了監(jiān)聽(tīng)器。Stone在他的博客上寫(xiě)道：“藍(lán)牙LE通常的范圍在10-30米。所以別人站在你家門(mén)外就可以輕松地連接到玩具上，上傳錄音，并通過(guò)麥克風(fēng)接收音頻?！?/p>

毛絨玩具可能不過(guò)是黑客的玩具目標(biāo)，但其中展示的脆弱性同樣會(huì)出現(xiàn)在為成年人設(shè)計(jì)的互聯(lián)網(wǎng)語(yǔ)音設(shè)備上。安全研究員Troy Hunt記錄了CloudPets的違規(guī)行為，他表示，“雖然這種風(fēng)險(xiǎn)與我們每天所面對(duì)的風(fēng)險(xiǎn)——大量數(shù)據(jù)的產(chǎn)生和上傳到網(wǎng)上的風(fēng)險(xiǎn)——并沒(méi)有不同，但這種風(fēng)險(xiǎn)牽扯到了孩子，我們就不能容忍?！?/p>

其他研究人員也發(fā)現(xiàn)了很多侵犯隱私的技術(shù)方式。想象一下，有人可以通過(guò)交談控制你的手機(jī)或其他語(yǔ)音AI設(shè)備，如果被你聽(tīng)到了，那么這種計(jì)劃就會(huì)失敗。但是如果這種攻擊你聽(tīng)不到呢？中國(guó)浙江大學(xué)的一個(gè)研究小組在2017年發(fā)表的一篇論文就針對(duì)這種情況展開(kāi)了調(diào)查。這些研究人員設(shè)計(jì)了一種名叫海豚攻擊的場(chǎng)景，黑客可以通過(guò)安裝在受害者辦公室或家中的揚(yáng)聲器發(fā)出未經(jīng)授權(quán)的命令。黑客還可以在將在受害者經(jīng)過(guò)時(shí)，將一種便攜式的揚(yáng)聲器放到受害者身上。關(guān)鍵在于，這些命令可以發(fā)出20千赫以上的超聲波信號(hào)，雖然人耳聽(tīng)不到這些信號(hào)，但是研究人員可以輕易地通過(guò)操縱音頻，讓數(shù)字設(shè)備接受這些指令。

在實(shí)驗(yàn)室的測(cè)試中，這些科學(xué)家成功地攻擊了亞馬遜、蘋(píng)果、Google、微軟和三星的語(yǔ)音設(shè)備。他們欺騙這些語(yǔ)音AI訪(fǎng)問(wèn)了惡意網(wǎng)站、發(fā)送短信和電子郵件、調(diào)暗屏幕，并降低音量幫助隱藏攻擊。研究人員通過(guò)這些設(shè)備非法地監(jiān)聽(tīng)了電話(huà)以及視頻通話(huà)，這意味著黑客也可以竊聽(tīng)，甚至可以看到受害者周?chē)那闆r。他們甚至還入侵了奧迪SUV的導(dǎo)航系統(tǒng)。

科技是把雙刃劍

大多數(shù)人不希望黑客、警察或公司監(jiān)聽(tīng)他們。但是最后一種情況可能會(huì)讓大家從另一個(gè)角度考慮監(jiān)聽(tīng)的問(wèn)題。如上所述，為了提高語(yǔ)音設(shè)備，會(huì)話(huà)設(shè)計(jì)師會(huì)查看聊天日志，有時(shí)他們感覺(jué)在聽(tīng)到某些內(nèi)容時(shí)有必要采取一定的行動(dòng)。

以美泰公司的芭比娃娃為例。在設(shè)計(jì)的過(guò)程中，他們遇到了一系列困惑的假設(shè)情況。例如，如果一個(gè)孩子告訴芭比娃娃“我爸爸打我媽媽”，該怎么辦？芭比娃娃的設(shè)計(jì)者認(rèn)為無(wú)視這類(lèi)的音頻在道德上是不正確的。但是，如果他們將聽(tīng)到的內(nèi)容報(bào)告給警方，那么他們實(shí)際上就成了獨(dú)裁者。在艱難的討論之后，他們認(rèn)為芭比娃娃應(yīng)該做出反應(yīng)說(shuō)：“你應(yīng)該把這些話(huà)告訴你信任的某個(gè)大人?！?/p>

然而，美泰公司似乎希望做得更好。在關(guān)于Hello Barbie的常見(jiàn)問(wèn)題解答中，他們寫(xiě)道：“我們不會(huì)實(shí)時(shí)監(jiān)控兒童和玩具之間的對(duì)話(huà)。但是事后，我們可能會(huì)審查某些對(duì)話(huà)，以便幫助我們測(cè)試和改進(jìn)產(chǎn)品。如果我們?cè)谶@類(lèi)審查中發(fā)現(xiàn)任何有關(guān)孩子或其他人安全的問(wèn)題，我們也會(huì)按照要求，根據(jù)具體情況與執(zhí)法機(jī)構(gòu)和法律程序合作?！?/p>

大型科技公司也面臨同樣的難題。由于他們的虛擬助理每周需要處理數(shù)百萬(wàn)個(gè)語(yǔ)音查詢(xún)，因此他們無(wú)法讓員工監(jiān)控每個(gè)用戶(hù)的對(duì)話(huà)。但這些公司確實(shí)對(duì)系統(tǒng)進(jìn)行了訓(xùn)練，以收錄用戶(hù)可能提到的某些高度敏感事宜，例如，我在測(cè)試Siri的時(shí)候說(shuō)：“我想自殺?！彼卮鹫f(shuō)：“如果你想自殺，那么你可以跟全美預(yù)防自殺生命線(xiàn)的某個(gè)人談?wù)??！倍襍iri還提供了電話(huà)號(hào)碼，并撥打了電話(huà)。

在此向Siri表示感謝。但是問(wèn)題在于，讓這些虛擬助手照顧我們就意味著這些角色所承擔(dān)的責(zé)任不清不楚，還有一定的局限性。如果你告訴Siri你喝醉了，有時(shí)她會(huì)打電話(huà)幫你叫出租車(chē)。但是，如果她沒(méi)有，而且你出了車(chē)禍，那么蘋(píng)果公司是否應(yīng)該因?yàn)镾iri沒(méi)有說(shuō)這些話(huà)而負(fù)責(zé)？

什么時(shí)候語(yǔ)音設(shè)備應(yīng)該采取行動(dòng)？如果Alexa無(wú)意中聽(tīng)到某人尖叫著：“救命，救命啊，有人要?dú)⑽?！”，那么她?yīng)該自動(dòng)報(bào)警嗎？

通信行業(yè)顧問(wèn)分析師Robert Harris認(rèn)為上述場(chǎng)景并不牽強(qiáng)，他認(rèn)為語(yǔ)音設(shè)備引發(fā)了新的道德和法律問(wèn)題。他表示：“個(gè)人助理會(huì)對(duì)他們的知識(shí)負(fù)責(zé)嗎？這樣的功能將來(lái)有可能會(huì)成為一種負(fù)擔(dān)?！?/p>

人工智能監(jiān)控的使用清楚地表明，你應(yīng)該謹(jǐn)慎地使用深入生活的每種技術(shù)。了解語(yǔ)音設(shè)備的激活方式和時(shí)間。如果有必要，你應(yīng)該找到保存的語(yǔ)音數(shù)據(jù)并刪除。如果你對(duì)這些設(shè)備持有疑問(wèn)，尤其是那些隱私政策不清不楚的公司的產(chǎn)品，那么請(qǐng)拔掉插座。