Babylon Health的首席用戶研究員Anna Zawilska最近在布拉格的Webexpo 2019上展示了通過結(jié)合技術(shù)和人工智能（AI）提供遠程醫(yī)療服務(wù)的經(jīng)驗教訓。巴比倫健康來調(diào)整支撐產(chǎn)品開發(fā)的三個關(guān)鍵假設(shè)。

Zawilska在演講中提到了世界衛(wèi)生組織的一項研究，根據(jù)該研究，世界上至少50%的人口無法獲得基本的醫(yī)療服務(wù)。在這種情況下，將移動設(shè)備的普及性與人工智能的診斷能力相結(jié)合，有可能擴大醫(yī)療保健服務(wù)的訪問范圍。巴比倫的工程師，醫(yī)生和科學家開發(fā)了一個AI系統(tǒng)，該系統(tǒng)可以接收有關(guān)某人所患癥狀的數(shù)據(jù)，將該信息與已知狀況和疾病的數(shù)據(jù)庫進行比較，以找到可能的匹配項，然后確定行動方案和相關(guān)的風險因素。

在巴比倫移動應(yīng)用程序中，典型的用戶流程將從該應(yīng)用程序開始，要求用戶（患者）描述他或她正在經(jīng)歷的癥狀。在第二階段，根據(jù)所宣布的癥狀，將詢問其他問題以進一步完善影響患者的可能狀況。在第三階段，將提出建議。

巴比倫團隊做出的第一個假設(shè)是，患者對聊天機器人（患者輸入癥狀的信任程度）與對醫(yī)生的信任程度一樣高。但是，從實際經(jīng)驗中得出的主要觀察結(jié)果表明，人類醫(yī)生與基于機器的技術(shù)在用戶行為方面存在重大差異。

患者通常相信醫(yī)生是知識淵博且合格的醫(yī)生。這種信任沒有轉(zhuǎn)化為聊天機器人。此外，盡管患者很少會起床并在結(jié)束之前不去咨詢醫(yī)生，但Chatbot用戶更有可能盡早結(jié)束咨詢。最后，雖然患者通常認為應(yīng)該遵循醫(yī)生的建議，但Chatbot用戶傾向于信任Chatbot的建議并遵循給定的處方。

Babylon Health得出結(jié)論，不能假定用戶信任，因此，他們需要進行設(shè)計以提高信任度。Zawilska提供了一個對用戶界面進行更改的示例：當詢問一個假設(shè)的用戶：“您的脖子動起來有問題嗎？”，該應(yīng)用程序還將提供一個為什么會提出問題的解釋。例如，在這種情況下，應(yīng)用程序?qū)@示如下消息：“我之所以問這個，是因為我試圖消除緊張的頭痛。對于您個人而言，頸部問題和頭痛是緊張性頭痛的有力預(yù)測指標?！?/p>

信任問題在醫(yī)療保健行業(yè)中特別盛行。Zawilska引用了最近的爭議（涉及Theranos或DNA測序），這削弱了人們對醫(yī)療技術(shù)最新創(chuàng)新的信任。

第二個假設(shè)是，臨床安全性是評估巴比倫預(yù)測性AI成功與否的唯一標準。通常會使用大量數(shù)據(jù)來訓練AI，并使用一些評估標準針對測試集對生成的AI模型進行測試。Zawilska解釋說，使用臨床安全性作為驗證AI模型的唯一標準會帶來更高的風險，從而給用戶體驗帶來不利影響。