DeepMind Health的獨(dú)立評(píng)估者發(fā)布報(bào)告，質(zhì)疑DeepMind的醫(yī)療數(shù)據(jù)壟斷以及其他一系列問(wèn)題。

DeepMind進(jìn)軍數(shù)字醫(yī)療服務(wù)領(lǐng)域仍令人擔(dān)憂。最新的擔(dān)憂來(lái)源于谷歌旗下的這家人工智能公司聘請(qǐng)的一組外部審評(píng)人就數(shù)據(jù)共享提出的報(bào)告。2016年，由于與英國(guó)國(guó)民醫(yī)療服務(wù)體系(NHS)合作共享醫(yī)療數(shù)據(jù)，DeepMind遭遇了一場(chǎng)重大的公眾爭(zhēng)議。

在DeepMind Health Independent Reviewers的2018年報(bào)告中，存在著一系列的風(fēng)險(xiǎn)和擔(dān)憂，包括DeepMind Health能夠“發(fā)揮過(guò)度的壟斷力量”。這是由于數(shù)據(jù)訪問(wèn)與流式傳輸基礎(chǔ)設(shè)施是捆綁在一起提供給Streams應(yīng)用程序。合同規(guī)定，將DeepMind定位為結(jié)構(gòu)化健康數(shù)據(jù)與任何其他第三方之間的訪問(wèn)控制中介，這些中介可能在未來(lái)有希望向Trust提供自己的數(shù)字幫助解決方案。

雖然DeepMind for Streams部署的基礎(chǔ)FHIR（又名快速醫(yī)療互操作性資源）使用開放式API，但該公司與Royal Free Trust之間的合同通過(guò)DeepMind自己的服務(wù)器連接，并禁止連接到其他FHIR服務(wù)器。這個(gè)商業(yè)結(jié)構(gòu)似乎與DeepMind的共同創(chuàng)始人Mustafa Suleyman聲稱支持的開放性和互操作性的言論相悖。

DeepMind共同創(chuàng)始人Mustafa Suleyman

一個(gè)評(píng)論員寫到：“IT領(lǐng)域有很多例子是公司將客戶鎖定在難以改變或替換的系統(tǒng)中。這樣的安排不符合公眾的利益。我們不希望看到DeepMind Health將自己置于這樣的地位，即醫(yī)院等客戶發(fā)現(xiàn)自己被迫與DeepMind Health保持聯(lián)系。這已經(jīng)不再是經(jīng)濟(jì)上或臨床上明智的做法。我們希望DeepMind Health能夠在質(zhì)量和價(jià)格上進(jìn)行競(jìng)爭(zhēng)，而不是通過(guò)鞏固遺留的立場(chǎng)來(lái)進(jìn)行競(jìng)爭(zhēng)“。

盡管他們指出DeepMind的“對(duì)系統(tǒng)互操作性的陳述承諾”以及“他們采用FHIR開放API”是積極的，并寫道：“這意味著其他許多中小企業(yè)有可能參與其中，一起創(chuàng)造一個(gè)多元化、創(chuàng)新的市場(chǎng)，并造福于消費(fèi)者、創(chuàng)新性和經(jīng)濟(jì)。”

他們還補(bǔ)充道：“我們還注意到DeepMind Health公司打算將Streams的許多功能作為可輕松交換的模塊來(lái)實(shí)施，這意味著他們將不得不依靠最好的方式來(lái)維持業(yè)務(wù)?！?/p>

然而，陳述的意圖和未來(lái)潛力顯然與實(shí)際情況不一樣。而且，就目前而言，技術(shù)上可互操作的應(yīng)用交付基礎(chǔ)設(shè)施正受到商業(yè)合同中禁止性條款的約束，以及缺乏針對(duì)此類行為的監(jiān)管阻力。

質(zhì)疑無(wú)明確的商業(yè)模式

評(píng)論者還對(duì)DeepMind Health無(wú)法構(gòu)建明確的商業(yè)模式表示擔(dān)憂，他寫道：“鑒于目前的情況，無(wú)法對(duì)DeepMind Health的商業(yè)模式做出明確的解釋，人們很可能會(huì)懷疑，其中必定存在一個(gè)未透露的利潤(rùn)動(dòng)機(jī)或是一個(gè)隱藏的議程。我們并不相信這是事實(shí)，但會(huì)敦促DeepMind Health對(duì)其商業(yè)模式保持透明，并且堅(jiān)持這一能力不會(huì)被Alphabet忽略。一旦隱藏議程的理念在人們的頭腦中成為固有模式，無(wú)論公司的動(dòng)機(jī)如何，公共利益都很難轉(zhuǎn)變?！?/p>

他們補(bǔ)充道：“我們已經(jīng)就DeepMind Health在這一領(lǐng)域發(fā)展的愿景進(jìn)行了詳細(xì)的對(duì)話，并且知道其中一些問(wèn)題還沒(méi)有最終確定。然而，我們敦促DeepMind Health對(duì)他們提出的建議進(jìn)行公開?！?/p>

DeepMind提出它想要建立能夠按結(jié)果收費(fèi)的醫(yī)療保健服務(wù)。但Streams不涉及任何AI， 這項(xiàng)服務(wù)也是可以保證前五年免費(fèi)地提供給NHS Trusts。這就引發(fā)了一個(gè)問(wèn)題，即這家Google旗下的公司打算如何收回投資。

Google當(dāng)然會(huì)將一大批免費(fèi)的消費(fèi)產(chǎn)品貨幣化，比如Android手機(jī)操作系統(tǒng)，其云電子郵件服務(wù)Gmail以及YouTube視頻共享平臺(tái)可以收集用戶的個(gè)人數(shù)據(jù)并將該信息提供給其廣告定位平臺(tái)。

因此，評(píng)論家們建議DeepMind闡述其在商業(yè)模式上的想法，以避免人們對(duì)醫(yī)療數(shù)據(jù)的懷疑。

該公司的歷史做法也突顯出，如果DeepMind被允許在數(shù)字醫(yī)療服務(wù)領(lǐng)域中占據(jù)主導(dǎo)地位，那么它存在潛在壟斷的風(fēng)險(xiǎn)。例如，它的母公司能夠有效地將一個(gè)免費(fèi)的OEM移動(dòng)操作系統(tǒng)（Android）轉(zhuǎn)變?yōu)槿?a target="_blank">智能手機(jī)的主導(dǎo)。

因此，盡管DeepMind在這個(gè)階段只與NHS信托公司簽訂了幾份合同，但審查人員對(duì)該公司獲得“過(guò)度壟斷權(quán)力”的風(fēng)險(xiǎn)的擔(dān)憂似乎并沒(méi)有被夸大。

他們還擔(dān)心，DeepMind一直在含糊地表示，它究竟是如何與母公司Alphabet進(jìn)行合作的，以及哪些數(shù)據(jù)可以被轉(zhuǎn)移到廣告巨頭身上，畢竟將廣告與DeepMind對(duì)人們醫(yī)療記錄的處理方法相相疊加是一種不可避免卻令人不安的組合。

他們寫道：“DeepMind Health能在多大程度上使自己免受Alphabet的影響，讓他們?cè)谖磥?lái)做一些違背自己現(xiàn)如今承諾的事情？”或者，如果DeepMind的現(xiàn)任管理層離開了DeepMind Health，一個(gè)新的CEO又能多大程度上改變今天達(dá)成的協(xié)議呢？”

“我們贊賞DeepMind Health將繼續(xù)受法律和監(jiān)管框架的約束，我們的大部分注意力都集中在DeepMind Health采取比法律所要求的更高的道德立場(chǎng)之上。這會(huì)是一切最終的樣子么？我們鼓勵(lì)DeepMind Health以更強(qiáng)硬的方式加強(qiáng)與Alphabet和DeepMind進(jìn)行分離，從而使其能夠更長(zhǎng)久地對(duì)自身所作出的承諾負(fù)責(zé)?！?/p>

DeepMind在其網(wǎng)站上發(fā)表的報(bào)告中寫道：“正在制定我們的長(zhǎng)期業(yè)務(wù)模式和路線圖“。

報(bào)告中還寫到“我們的首要任務(wù)就是證明我們的技術(shù)可以幫助改善患者護(hù)理質(zhì)量并降低成本，而不是為我們工作的早期階段收費(fèi)。我們相信，我們的業(yè)務(wù)模式應(yīng)該來(lái)自我們創(chuàng)造的積極影響，并在我們探索的基于結(jié)果的一些因素中得以延續(xù)，以便成本至少部分與我們提供的收益相關(guān)?！?/p>

因此，除了部署一些選擇公共廣播節(jié)目之外，他們不知道要說(shuō)些什么來(lái)平息評(píng)論家們對(duì)將健康數(shù)據(jù)貨幣化意圖的擔(dān)憂。

AI在醫(yī)療領(lǐng)域的部署問(wèn)題需要政府明確的決策

在與Alphabet的聯(lián)系中，DeepMind也很少說(shuō)些什么，他們只是寫道：“我們將探索進(jìn)一步的方法，以確保在所有我們的NHS合作伙伴關(guān)系中有明確的法律框架。”

他還補(bǔ)充道：“Trusts始終保持對(duì)數(shù)據(jù)的完全控制，我們?cè)诜缮虾秃贤媳仨氉裾瘴覀兒献骰锇榈闹甘緛?lái)使用患者數(shù)據(jù)。我們將繼續(xù)與Trusts公司簽署法律協(xié)議，以便審查這一重要問(wèn)題?！?/p>

“在我們與合作伙伴達(dá)成的法律協(xié)議中已經(jīng)寫到，如果他們希望尋求另一個(gè)提供商的數(shù)據(jù)處理服務(wù)，我們不會(huì)進(jìn)行阻止。”

“我們希望Streams能夠幫助NHS推動(dòng)下一波創(chuàng)新浪潮。 支持Streams的基礎(chǔ)架構(gòu)建立在最先進(jìn)的開放式互操作標(biāo)準(zhǔn)FHIR之上。現(xiàn)階段英國(guó)NHS Digital，英國(guó)NHS和INTEROPen集團(tuán)都支持這一標(biāo)準(zhǔn)。這將使我們的合作伙伴能夠更容易地與其他開發(fā)者合作，幫助他們?cè)谂R床前線帶來(lái)更多的創(chuàng)新。

“根據(jù)我們與相關(guān)合作伙伴Trusts的合同協(xié)議，我們承諾在協(xié)議的五年內(nèi)制定FHIR API基礎(chǔ)設(shè)施。”

當(dāng)被問(wèn)及在去年公布的在用于驗(yàn)證健康數(shù)據(jù)訪問(wèn)的技術(shù)審計(jì)基礎(chǔ)架構(gòu)方面取得的進(jìn)展時(shí)，他們重申了博客上的措辭，稱：“我們將對(duì)設(shè)定盡可能高的信息治理標(biāo)準(zhǔn)保持警惕。今年年初，我們?nèi)蚊艘幻毿畔⒐芾斫?jīng)理來(lái)監(jiān)督我們?cè)谒泄ぷ黝I(lǐng)域使用的數(shù)據(jù)。我們還在繼續(xù)構(gòu)建我們的可驗(yàn)證數(shù)據(jù)審計(jì)和其他工具，以清楚地展示我們是如何使用數(shù)據(jù)的。”

因此，這方面的進(jìn)展看起來(lái)和我們預(yù)期的一樣慢。

這家Google旗下的英國(guó)AI公司在2015年開始進(jìn)軍數(shù)字醫(yī)療服務(wù)領(lǐng)域，與總部位于倫敦的NHS Trust公司悄悄簽署了一項(xiàng)信息共享協(xié)議，并為其提供了約160萬(wàn)人的醫(yī)療記錄，用于開發(fā)一種名為“急性腎臟損傷”的警報(bào)APP。

這家AI公司還與該NHS Trust簽署了一份合作備忘錄，雙方在該協(xié)議中提出了將人工智能應(yīng)用于NHS數(shù)據(jù)集的雄心。他們甚至還為AI項(xiàng)目獲得了道德標(biāo)志，但卻一直聲稱沒(méi)任何的Royal Free數(shù)據(jù)被送到了任何AI公司。

然而，2016年5月，通過(guò)調(diào)查性新聞而非Trust或DeepMind披露：Royal Free with DeepMind共享患者數(shù)據(jù)的范圍出現(xiàn)了問(wèn)題。

160萬(wàn)人的非匿名的醫(yī)療記錄在沒(méi)有被告知或要求得到他們的同意的情況下被共享給了Google的子公司。這一問(wèn)題被數(shù)據(jù)共享安排的法律依據(jù)提出了質(zhì)疑。

去年夏天，英國(guó)的隱私監(jiān)管機(jī)構(gòu)對(duì)該項(xiàng)目進(jìn)行了調(diào)查，發(fā)現(xiàn)Royal Free NHS Trust在應(yīng)用開發(fā)過(guò)程中違反了數(shù)據(jù)保護(hù)規(guī)則。

盡管人們?cè)诨诘赖潞头ㄒ?guī)層面對(duì)數(shù)據(jù)共享的合法性存在不滿，但Streams項(xiàng)目仍在蒸蒸日上。Royal Free Trust繼續(xù)將這一應(yīng)用程序供醫(yī)院臨床醫(yī)生使用，而DeepMind還簽署了幾項(xiàng)額外的合同，將Streams部署到其他NHS Trusts。

最近，作為于ICO結(jié)算的一部分，法律事務(wù)所Linklaters在Trust的委托下完成了對(duì)Royal Free Streams項(xiàng)目的審計(jì)。 雖然這次審計(jì)僅檢查了Streams的當(dāng)前功能，而在項(xiàng)目建設(shè)和測(cè)試階段，并沒(méi)有對(duì)人員病歷的合法性進(jìn)行歷史性審核。

Linklaters確實(shí)建議Royal Free通過(guò)DeepMind終止其更廣泛的合作備忘錄（MOU），而且Trust已向我們證實(shí)它將遵循該公司的建議。

Royal Free發(fā)言人告訴我們：“審計(jì)建議我們終止與DeepMind達(dá)成的2016年1月簽署的歷史性合作備忘錄。合作備忘錄不再與合作關(guān)系相關(guān)，我們正在終止我們的合作關(guān)系”。

因此，DeepMind可能成為世界上最著名的人工智能公司，它正處于參與向英國(guó)醫(yī)院提供數(shù)字醫(yī)療服務(wù)的異常位置，盡管這些醫(yī)院也有一些與NHS Trusts進(jìn)行的AI研究項(xiàng)目，但他們實(shí)際上并不涉及任何人工智能。

2016年年中，正值 Royal Free DeepMind數(shù)據(jù)丑聞的高峰期，為了爭(zhēng)取更多的公眾信任，該公司任命了外部審查小組，他們現(xiàn)在已經(jīng)編寫了第二份報(bào)告來(lái)研究該部門的運(yùn)作情況。

公平地說(shuō)，自從專家小組被任命為進(jìn)一步破壞公眾對(duì)技術(shù)平臺(tái)和算法的信任的任務(wù)以來(lái)，科技產(chǎn)業(yè)發(fā)生了很大的變化：包括ICO發(fā)現(xiàn)Royal Free與DeepMind之間最初的數(shù)據(jù)共享安排違背了英國(guó)的隱私法。

2018報(bào)告小組的八個(gè)成員是：Martin Bromiley OBE、Elisabeth Buggins CBE、Eileen Burbidge MBE、Richard Horton、Julian Huppert博士、Donal O’Donoghue教授、Matthew Taylor和John Tooke教授。

在他們最新的報(bào)告中，外部評(píng)論員警告說(shuō)，公眾對(duì)科技巨頭的看法與一年前相比“大幅轉(zhuǎn)變”，并斷言：“如果數(shù)字時(shí)代還存在隱私問(wèn)題的話，那將更值得關(guān)注”。

與此同時(shí)，政界人士也更關(guān)注技術(shù)巨頭的成果和社會(huì)影響。

盡管英國(guó)政府也熱衷于將自己定位為AI的支持者，為該部門提供公共資金，并在其“工業(yè)戰(zhàn)略”白皮書中將AI和數(shù)據(jù)確定為四大所謂的“重大挑戰(zhàn)”之一，書中相信英國(guó)可以“在未來(lái)幾年中引領(lǐng)世界”，并在重審時(shí)專門將DeepMind稱作該國(guó)引以為傲的少數(shù)領(lǐng)先的本土人工智能業(yè)務(wù)之一。

盡管如此，關(guān)于如何管理公共部門數(shù)據(jù)，以及人工智能的部署的問(wèn)題仍然需要政府進(jìn)行明確解決，特別是在醫(yī)療保健等高度敏感的領(lǐng)域。

與此同時(shí)，即使技術(shù)人員不涉及任何人工智能，數(shù)字技術(shù)正在進(jìn)入醫(yī)療保健領(lǐng)域并面臨重大挑戰(zhàn)，對(duì)現(xiàn)有的信息治理規(guī)則和結(jié)構(gòu)施加壓力，并增加了壟斷的風(fēng)險(xiǎn)。

當(dāng)被問(wèn)及NHS的數(shù)字服務(wù)提供商：NHS Digital是否為NHS Trust提供任何指導(dǎo)，包括醫(yī)生的數(shù)字幫助，特別是它是否需要由不同的提供者提供的多個(gè)選項(xiàng)時(shí)，它將我們的問(wèn)題提交給衛(wèi)生部（DOH），并指出這是衛(wèi)生政策的問(wèn)題。

衛(wèi)生部又把這個(gè)問(wèn)題提交給NHS英格蘭，一個(gè)負(fù)責(zé)合同、并為英國(guó)的衛(wèi)生服務(wù)制定優(yōu)先次序和方向的行政非部門機(jī)構(gòu)。

在寫這篇文章的時(shí)候，我們?nèi)匀辉诘却?fù)責(zé)人的回應(yīng)。

看來(lái)最終結(jié)果將依賴于衛(wèi)生服務(wù)來(lái)為AI和數(shù)字決策服務(wù)建立一個(gè)清晰和穩(wěn)健的架構(gòu)，通過(guò)競(jìng)爭(zhēng)來(lái)滿足Trusts在購(gòu)買應(yīng)用程序和服務(wù)時(shí)支持多個(gè)獨(dú)立選項(xiàng)的要求。

沒(méi)有這種重要的檢測(cè)和平衡，正如大型技術(shù)主導(dǎo)消費(fèi)技術(shù)一樣，就會(huì)存在動(dòng)態(tài)平臺(tái)迅速支配和控制新興的數(shù)字健康援助空間的風(fēng)險(xiǎn)。

但公費(fèi)醫(yī)療決策和數(shù)據(jù)集不應(yīng)簡(jiǎn)單地交給單一的市場(chǎng)主導(dǎo)機(jī)構(gòu)，因?yàn)樗麄儠?huì)將大量的資源聚斂到自己的公司。

當(dāng)一個(gè)重要領(lǐng)域的數(shù)字創(chuàng)新存在明確風(fēng)險(xiǎn)，即一個(gè)領(lǐng)域有望成型，卻有可能被一個(gè)科技巨人壟斷并在其他人有機(jī)會(huì)展示自己想法之前將自己定義為守門人時(shí)，政府絕不應(yīng)該袖手旁觀。