DeepMind Health的獨立評估者發(fā)布報告，質(zhì)疑DeepMind的醫(yī)療數(shù)據(jù)壟斷以及其他一系列問題。

DeepMind進(jìn)軍數(shù)字醫(yī)療服務(wù)領(lǐng)域仍令人擔(dān)憂。最新的擔(dān)憂來源于谷歌旗下的這家人工智能公司聘請的一組外部審評人就數(shù)據(jù)共享提出的報告。2016年，由于與英國國民醫(yī)療服務(wù)體系(NHS)合作共享醫(yī)療數(shù)據(jù)，DeepMind遭遇了一場重大的公眾爭議。

在DeepMind Health Independent Reviewers的2018年報告中，存在著一系列的風(fēng)險和擔(dān)憂，包括DeepMind Health能夠“發(fā)揮過度的壟斷力量”。這是由于數(shù)據(jù)訪問與流式傳輸基礎(chǔ)設(shè)施是捆綁在一起提供給Streams應(yīng)用程序。合同規(guī)定，將DeepMind定位為結(jié)構(gòu)化健康數(shù)據(jù)與任何其他第三方之間的訪問控制中介，這些中介可能在未來有希望向Trust提供自己的數(shù)字幫助解決方案。

雖然DeepMind for Streams部署的基礎(chǔ)FHIR（又名快速醫(yī)療互操作性資源）使用開放式API，但該公司與Royal Free Trust之間的合同通過DeepMind自己的服務(wù)器連接，并禁止連接到其他FHIR服務(wù)器。這個商業(yè)結(jié)構(gòu)似乎與DeepMind的共同創(chuàng)始人Mustafa Suleyman聲稱支持的開放性和互操作性的言論相悖。

DeepMind共同創(chuàng)始人Mustafa Suleyman

一個評論員寫到：“IT領(lǐng)域有很多例子是公司將客戶鎖定在難以改變或替換的系統(tǒng)中。這樣的安排不符合公眾的利益。我們不希望看到DeepMind Health將自己置于這樣的地位，即醫(yī)院等客戶發(fā)現(xiàn)自己被迫與DeepMind Health保持聯(lián)系。這已經(jīng)不再是經(jīng)濟(jì)上或臨床上明智的做法。我們希望DeepMind Health能夠在質(zhì)量和價格上進(jìn)行競爭，而不是通過鞏固遺留的立場來進(jìn)行競爭“。

盡管他們指出DeepMind的“對系統(tǒng)互操作性的陳述承諾”以及“他們采用FHIR開放API”是積極的，并寫道：“這意味著其他許多中小企業(yè)有可能參與其中，一起創(chuàng)造一個多元化、創(chuàng)新的市場，并造福于消費者、創(chuàng)新性和經(jīng)濟(jì)?！?/p>

他們還補(bǔ)充道：“我們還注意到DeepMind Health公司打算將Streams的許多功能作為可輕松交換的模塊來實施，這意味著他們將不得不依靠最好的方式來維持業(yè)務(wù)?！?/p>

然而，陳述的意圖和未來潛力顯然與實際情況不一樣。而且，就目前而言，技術(shù)上可互操作的應(yīng)用交付基礎(chǔ)設(shè)施正受到商業(yè)合同中禁止性條款的約束，以及缺乏針對此類行為的監(jiān)管阻力。

質(zhì)疑無明確的商業(yè)模式

評論者還對DeepMind Health無法構(gòu)建明確的商業(yè)模式表示擔(dān)憂，他寫道：“鑒于目前的情況，無法對DeepMind Health的商業(yè)模式做出明確的解釋，人們很可能會懷疑，其中必定存在一個未透露的利潤動機(jī)或是一個隱藏的議程。我們并不相信這是事實，但會敦促DeepMind Health對其商業(yè)模式保持透明，并且堅持這一能力不會被Alphabet忽略。一旦隱藏議程的理念在人們的頭腦中成為固有模式，無論公司的動機(jī)如何，公共利益都很難轉(zhuǎn)變?！?/p>

他們補(bǔ)充道：“我們已經(jīng)就DeepMind Health在這一領(lǐng)域發(fā)展的愿景進(jìn)行了詳細(xì)的對話，并且知道其中一些問題還沒有最終確定。然而，我們敦促DeepMind Health對他們提出的建議進(jìn)行公開。“

DeepMind提出它想要建立能夠按結(jié)果收費的醫(yī)療保健服務(wù)。但Streams不涉及任何AI， 這項服務(wù)也是可以保證前五年免費地提供給NHS Trusts。這就引發(fā)了一個問題，即這家Google旗下的公司打算如何收回投資。

Google當(dāng)然會將一大批免費的消費產(chǎn)品貨幣化，比如Android手機(jī)操作系統(tǒng)，其云電子郵件服務(wù)Gmail以及YouTube視頻共享平臺可以收集用戶的個人數(shù)據(jù)并將該信息提供給其廣告定位平臺。

因此，評論家們建議DeepMind闡述其在商業(yè)模式上的想法，以避免人們對醫(yī)療數(shù)據(jù)的懷疑。

該公司的歷史做法也突顯出，如果DeepMind被允許在數(shù)字醫(yī)療服務(wù)領(lǐng)域中占據(jù)主導(dǎo)地位，那么它存在潛在壟斷的風(fēng)險。例如，它的母公司能夠有效地將一個免費的OEM移動操作系統(tǒng)（Android）轉(zhuǎn)變?yōu)槿?a target="_blank">智能手機(jī)的主導(dǎo)。

因此，盡管DeepMind在這個階段只與NHS信托公司簽訂了幾份合同，但審查人員對該公司獲得“過度壟斷權(quán)力”的風(fēng)險的擔(dān)憂似乎并沒有被夸大。

他們還擔(dān)心，DeepMind一直在含糊地表示，它究竟是如何與母公司Alphabet進(jìn)行合作的，以及哪些數(shù)據(jù)可以被轉(zhuǎn)移到廣告巨頭身上，畢竟將廣告與DeepMind對人們醫(yī)療記錄的處理方法相相疊加是一種不可避免卻令人不安的組合。

他們寫道：“DeepMind Health能在多大程度上使自己免受Alphabet的影響，讓他們在未來做一些違背自己現(xiàn)如今承諾的事情？”或者，如果DeepMind的現(xiàn)任管理層離開了DeepMind Health，一個新的CEO又能多大程度上改變今天達(dá)成的協(xié)議呢？”

“我們贊賞DeepMind Health將繼續(xù)受法律和監(jiān)管框架的約束，我們的大部分注意力都集中在DeepMind Health采取比法律所要求的更高的道德立場之上。這會是一切最終的樣子么？我們鼓勵DeepMind Health以更強(qiáng)硬的方式加強(qiáng)與Alphabet和DeepMind進(jìn)行分離，從而使其能夠更長久地對自身所作出的承諾負(fù)責(zé)。“

DeepMind在其網(wǎng)站上發(fā)表的報告中寫道：“正在制定我們的長期業(yè)務(wù)模式和路線圖“。

報告中還寫到“我們的首要任務(wù)就是證明我們的技術(shù)可以幫助改善患者護(hù)理質(zhì)量并降低成本，而不是為我們工作的早期階段收費。我們相信，我們的業(yè)務(wù)模式應(yīng)該來自我們創(chuàng)造的積極影響，并在我們探索的基于結(jié)果的一些因素中得以延續(xù)，以便成本至少部分與我們提供的收益相關(guān)?！?/p>

因此，除了部署一些選擇公共廣播節(jié)目之外，他們不知道要說些什么來平息評論家們對將健康數(shù)據(jù)貨幣化意圖的擔(dān)憂。

AI在醫(yī)療領(lǐng)域的部署問題需要政府明確的決策

在與Alphabet的聯(lián)系中，DeepMind也很少說些什么，他們只是寫道：“我們將探索進(jìn)一步的方法，以確保在所有我們的NHS合作伙伴關(guān)系中有明確的法律框架?！?/p>

他還補(bǔ)充道：“Trusts始終保持對數(shù)據(jù)的完全控制，我們在法律上和合同上必須遵照我們合作伙伴的指示來使用患者數(shù)據(jù)。我們將繼續(xù)與Trusts公司簽署法律協(xié)議，以便審查這一重要問題?！?/p>

“在我們與合作伙伴達(dá)成的法律協(xié)議中已經(jīng)寫到，如果他們希望尋求另一個提供商的數(shù)據(jù)處理服務(wù)，我們不會進(jìn)行阻止?！?/p>

“我們希望Streams能夠幫助NHS推動下一波創(chuàng)新浪潮。 支持Streams的基礎(chǔ)架構(gòu)建立在最先進(jìn)的開放式互操作標(biāo)準(zhǔn)FHIR之上?，F(xiàn)階段英國NHS Digital，英國NHS和INTEROPen集團(tuán)都支持這一標(biāo)準(zhǔn)。這將使我們的合作伙伴能夠更容易地與其他開發(fā)者合作，幫助他們在臨床前線帶來更多的創(chuàng)新。

“根據(jù)我們與相關(guān)合作伙伴Trusts的合同協(xié)議，我們承諾在協(xié)議的五年內(nèi)制定FHIR API基礎(chǔ)設(shè)施?！?/p>

當(dāng)被問及在去年公布的在用于驗證健康數(shù)據(jù)訪問的技術(shù)審計基礎(chǔ)架構(gòu)方面取得的進(jìn)展時，他們重申了博客上的措辭，稱：“我們將對設(shè)定盡可能高的信息治理標(biāo)準(zhǔn)保持警惕。今年年初，我們?nèi)蚊艘幻毿畔⒐芾斫?jīng)理來監(jiān)督我們在所有工作領(lǐng)域使用的數(shù)據(jù)。我們還在繼續(xù)構(gòu)建我們的可驗證數(shù)據(jù)審計和其他工具，以清楚地展示我們是如何使用數(shù)據(jù)的。”

因此，這方面的進(jìn)展看起來和我們預(yù)期的一樣慢。

這家Google旗下的英國AI公司在2015年開始進(jìn)軍數(shù)字醫(yī)療服務(wù)領(lǐng)域，與總部位于倫敦的NHS Trust公司悄悄簽署了一項信息共享協(xié)議，并為其提供了約160萬人的醫(yī)療記錄，用于開發(fā)一種名為“急性腎臟損傷”的警報APP。

這家AI公司還與該NHS Trust簽署了一份合作備忘錄，雙方在該協(xié)議中提出了將人工智能應(yīng)用于NHS數(shù)據(jù)集的雄心。他們甚至還為AI項目獲得了道德標(biāo)志，但卻一直聲稱沒任何的Royal Free數(shù)據(jù)被送到了任何AI公司。

然而，2016年5月，通過調(diào)查性新聞而非Trust或DeepMind披露：Royal Free with DeepMind共享患者數(shù)據(jù)的范圍出現(xiàn)了問題。

160萬人的非匿名的醫(yī)療記錄在沒有被告知或要求得到他們的同意的情況下被共享給了Google的子公司。這一問題被數(shù)據(jù)共享安排的法律依據(jù)提出了質(zhì)疑。

去年夏天，英國的隱私監(jiān)管機(jī)構(gòu)對該項目進(jìn)行了調(diào)查，發(fā)現(xiàn)Royal Free NHS Trust在應(yīng)用開發(fā)過程中違反了數(shù)據(jù)保護(hù)規(guī)則。

盡管人們在基于道德和法規(guī)層面對數(shù)據(jù)共享的合法性存在不滿，但Streams項目仍在蒸蒸日上。Royal Free Trust繼續(xù)將這一應(yīng)用程序供醫(yī)院臨床醫(yī)生使用，而DeepMind還簽署了幾項額外的合同，將Streams部署到其他NHS Trusts。

最近，作為于ICO結(jié)算的一部分，法律事務(wù)所Linklaters在Trust的委托下完成了對Royal Free Streams項目的審計。 雖然這次審計僅檢查了Streams的當(dāng)前功能，而在項目建設(shè)和測試階段，并沒有對人員病歷的合法性進(jìn)行歷史性審核。

Linklaters確實建議Royal Free通過DeepMind終止其更廣泛的合作備忘錄（MOU），而且Trust已向我們證實它將遵循該公司的建議。

Royal Free發(fā)言人告訴我們：“審計建議我們終止與DeepMind達(dá)成的2016年1月簽署的歷史性合作備忘錄。合作備忘錄不再與合作關(guān)系相關(guān)，我們正在終止我們的合作關(guān)系”。

因此，DeepMind可能成為世界上最著名的人工智能公司，它正處于參與向英國醫(yī)院提供數(shù)字醫(yī)療服務(wù)的異常位置，盡管這些醫(yī)院也有一些與NHS Trusts進(jìn)行的AI研究項目，但他們實際上并不涉及任何人工智能。

2016年年中，正值 Royal Free DeepMind數(shù)據(jù)丑聞的高峰期，為了爭取更多的公眾信任，該公司任命了外部審查小組，他們現(xiàn)在已經(jīng)編寫了第二份報告來研究該部門的運(yùn)作情況。

公平地說，自從專家小組被任命為進(jìn)一步破壞公眾對技術(shù)平臺和算法的信任的任務(wù)以來，科技產(chǎn)業(yè)發(fā)生了很大的變化：包括ICO發(fā)現(xiàn)Royal Free與DeepMind之間最初的數(shù)據(jù)共享安排違背了英國的隱私法。

2018報告小組的八個成員是：Martin Bromiley OBE、Elisabeth Buggins CBE、Eileen Burbidge MBE、Richard Horton、Julian Huppert博士、Donal O’Donoghue教授、Matthew Taylor和John Tooke教授。

在他們最新的報告中，外部評論員警告說，公眾對科技巨頭的看法與一年前相比“大幅轉(zhuǎn)變”，并斷言：“如果數(shù)字時代還存在隱私問題的話，那將更值得關(guān)注”。

與此同時，政界人士也更關(guān)注技術(shù)巨頭的成果和社會影響。

盡管英國政府也熱衷于將自己定位為AI的支持者，為該部門提供公共資金，并在其“工業(yè)戰(zhàn)略”白皮書中將AI和數(shù)據(jù)確定為四大所謂的“重大挑戰(zhàn)”之一，書中相信英國可以“在未來幾年中引領(lǐng)世界”，并在重審時專門將DeepMind稱作該國引以為傲的少數(shù)領(lǐng)先的本土人工智能業(yè)務(wù)之一。

盡管如此，關(guān)于如何管理公共部門數(shù)據(jù)，以及人工智能的部署的問題仍然需要政府進(jìn)行明確解決，特別是在醫(yī)療保健等高度敏感的領(lǐng)域。

與此同時，即使技術(shù)人員不涉及任何人工智能，數(shù)字技術(shù)正在進(jìn)入醫(yī)療保健領(lǐng)域并面臨重大挑戰(zhàn)，對現(xiàn)有的信息治理規(guī)則和結(jié)構(gòu)施加壓力，并增加了壟斷的風(fēng)險。

當(dāng)被問及NHS的數(shù)字服務(wù)提供商：NHS Digital是否為NHS Trust提供任何指導(dǎo)，包括醫(yī)生的數(shù)字幫助，特別是它是否需要由不同的提供者提供的多個選項時，它將我們的問題提交給衛(wèi)生部（DOH），并指出這是衛(wèi)生政策的問題。

衛(wèi)生部又把這個問題提交給NHS英格蘭，一個負(fù)責(zé)合同、并為英國的衛(wèi)生服務(wù)制定優(yōu)先次序和方向的行政非部門機(jī)構(gòu)。

在寫這篇文章的時候，我們?nèi)匀辉诘却?fù)責(zé)人的回應(yīng)。

看來最終結(jié)果將依賴于衛(wèi)生服務(wù)來為AI和數(shù)字決策服務(wù)建立一個清晰和穩(wěn)健的架構(gòu)，通過競爭來滿足Trusts在購買應(yīng)用程序和服務(wù)時支持多個獨立選項的要求。

沒有這種重要的檢測和平衡，正如大型技術(shù)主導(dǎo)消費技術(shù)一樣，就會存在動態(tài)平臺迅速支配和控制新興的數(shù)字健康援助空間的風(fēng)險。

但公費醫(yī)療決策和數(shù)據(jù)集不應(yīng)簡單地交給單一的市場主導(dǎo)機(jī)構(gòu)，因為他們會將大量的資源聚斂到自己的公司。

當(dāng)一個重要領(lǐng)域的數(shù)字創(chuàng)新存在明確風(fēng)險，即一個領(lǐng)域有望成型，卻有可能被一個科技巨人壟斷并在其他人有機(jī)會展示自己想法之前將自己定義為守門人時，政府絕不應(yīng)該袖手旁觀。