你为什么要相信一个拥有你最敏感的个人数据的广告巨头：aka你的医疗记录？这是谷歌拥有的DeepMind面临的巨大问题，因为它试图将自己嵌入到英国的医疗保健领域 - 去年2月公开宣布这一巨大推动力。
DeepMind现在更详细地阐述了它如何希望通过一个博客文章，在一个技术审计基础设施的计划的基础上的一点更多的肉的未来的病人信任的商业访问和他们的健康数据的货币化去年11月 - 当DeepMind还确认正在为国家卫生服务（NHS）患者医疗记录建立一个访问基础设施。世界着名的赢咖4公司对于能够建立一个可验证的健康数据审计系统没有足够的信心 - 移动Alpha Go！ DeepMind应用其集体智慧有一个新的挑战。
DeepMind的NHS访问基础设施计划的结束游戏是为公司拥有一个标准接口的所有权，可以推广到其他NHS信任，使DeepMind和第三方开发人员更容易地提供赢咖4平台到英国的医疗保健系统（但是DeepMind定位为能够为其他赢咖4平台制定者访问其构建的访问API）。
根据自己的说法，它说，赢咖4和健康相交其未来的野心是能够通过结果收费。但在此期间，它需要病人数据来训练其赢咖4。这就是为什么DeepMind在去年的早期热水中的数据。
自2015年起，该公司已与英国NHS信托签订了多项协议，以获取各种用途的患者数据，一些但不是全部用于赢咖4研究。 DeepMind最广泛的NHS数据共享安排，与皇家自由NHS信托 - 构建一个赢咖4平台包装为NHS算法识别急性肾损伤 - 引起了重大争议，当政府信息公开的请求揭示可识别的病人的范围数据。 DeepMind和相关的信托没有公开详细说明共享了多少数据。
基于对由数据保护专家质疑并经健康数据批评的所谓“直接病人护理”的NHS保健数据共享准则的解释，假定在该情况下的患者同意（意味着患者不被同意）隐私倡导团体MedConfidential。
原始的DeepMind-Royal自由数据共享安排（它已经重新上墨）也正在由英国国家数据保护机构ICO进行调查。并由国家数据监护人审查，政府任命，负责确保公民的健康数据得到保护和使用正确。
尽管正在进行探测，赢咖4平台DeepMind建立与伦敦的皇家免费NHS信托已部署在后三个医院。所以你可以说，赢咖4公司在考虑健康数据访问审计基础设施的这一点在诉讼中类似于一个教练驾驶员谈论把一个尚未建设的马车已经发布，围绕田地运行 - 同时要求那些被信任的人。 （另见：DeepMind没有时间浪费Streams赢咖4平台创造的明显的好处，它获得了皇家免费病人的医疗记录的自由访问。）
这里的首要问题是信任 - 相信患者的敏感的医疗保健数据在没有适当的授权和/或患者同意的情况下不被共享。并且，患者不会被留在黑暗中谁被允许访问他们的个人信息和为什么目的。
DeepMind对信任问题的回答 - 以及由于如何首先获取NHS患者数据而引起的争议 - 主要是技术问题。虽然在已经获得数据访问权限后构建审计基础架构并不能满足法律或隐私权专家的需求。这样一个颠覆性的信任轨迹可能不太可能打动患者。 （Albeit DeepMind也开始与患者群体接触，即使只是在争议发生后）。
在一篇题为“信任，信心和可验证的数据审计”的博客文章中，DeepMind描绘了一个技术审计基础设施的图片，它使用“数学保证”和开源的尊重来提供“可验证的”数据访问审计 - 它可能希望 - 安乐死信任问题，下路。在一个较短的时间框架内，它的希望看起来正在试图阻止远离“信任我们”的现实，即如何使用病人数据（即没有可证实的技术基础设施来证明其索赔，而仍然由英国数据保护机构审查）。
Google拥有的赢咖4公司写道：
想象一个服务，可以提供数据保证每个个人数据的情况发生，没有伪造或遗漏的可能性。想象一下，该系统的内部工作能够被实时检查，以确保数据只被使用，因为它应该是。想象一下，支持这种功能的基础设施可以作为开源免费提供，因此世界上任何组织都可以实现自己的版本，如果他们想。
当然，这只是介绍情绪音乐。除了对DeepMind构建“可验证的DeepMind运行状况的可验证数据审计”的困难程度，该文章的内容包含了很少具体的保证，因为它描述了计划的审计基础设施。
这是“真的很难，最艰巨的挑战绝不是技术”，它写道 - 可能是倾斜参考的事实，它需要从所有各种医疗保健和监管利益相关者的买入。 Ergo，它需要获得他们的信任的方法。 （这反过来解释情绪音乐，和紧迫的公关游戏。）
技术审计基础设施的时间和可行性仍然模糊。因此，如上所述，DeepMind构建的Streams赢咖4平台再次在三家伦敦医院中使用，其构建的信任建立审核系统尚未开始建设。
而且随着博客文章充满关于构建希望的基础设施的挑战/困难的警告，子文本听起来很像：“NB，这可能是不可能的。
“在今年年中，我们将开始为DeepMind Health建立可验证的数据审核，”它写道。但是到本文结束时，它正在谈论“希望能够在今年晚些时候实现这些的第一部分” - 所以它在同一篇博文中从“开始”转变为“希望”。
我们已经联系了DeepMind，要求澄清其建立审计基础设施的时间表，并将更新这个职位与任何响应。
关于审计基础设施如何工作的更多细节，DeepMind说，目标是在其系统通过附加的“特殊数字分类帐”与健康数据交互时创建的现有数据日志 - 而不是分散的区块链它声称在资源方面是浪费的），但是由具有树状结构的DeepMind控制的分类帐，意味着新条目生成加密散列，其总结最新条目和所有之前的值 - 其想法是以使分类帐增长时，使条目防篡改。它说，一个条目将记录：“一个特定的数据已被使用的事实，以及为什么 - 例如，血液测试数据检查NHS国家算法检测可能的急性肾损伤的原因。
值得注意的是，它没有指定是否分类帐条目将记录患者数据用于训练任何赢咖4模型 - deepmind和皇家自由先前曾说他们的目标是 - 或者是否将创建一个审计跟踪如何患者数据更改赢咖4模型，即，使得数据输入能够与患者结果进行比较，并且允许将来一些算法问责。 （在这个主题上，DeepMind，可能是世界上最着名的赢咖4公司，仍然显然沉默）。
“我们将建立一个专门的在线界面，授权合作医院的工作人员可以使用它来实时检查DeepMind Health的数据使用的审计跟踪。 “它将允许连续验证我们的系统正常工作，并使我们的合作伙伴能够轻松查询分类帐，以检查特定类型的数据使用。我们还希望我们的合作伙伴能够运行自动查询，有效地设置在任何异常情况下触发的警报。而且，及时，我们甚至可以让我们的合作伙伴选择允许他人检查我们的数据处理，例如个人患者或患者群体。
将患者列入审计可能听起来不错，但是DeepMind继续告诉实际提供患者组/个人患者的任何访问的困难，这是构建系统的主要技术挑战之一 - 所以再次这是最好的在这个新生点以“心情音乐”提出。
讨论“大的技术挑战” - 看到它 - 第一个问题DeepMind标志能够确保所有的数据访问都被分类帐记录。因为，显然，如果系统未能捕获任何数据交互，整个审计分裂。所以真的不是一个“挑战”，作为一个巨大的问号，整个努力的可行性。
然而在这个DeepMind只是暂时写（强调我）：
除了设计日志以记录与数据的任何交互的时间，性质和目的之外，我们还希望能够证明没有其他软件在后台秘密地与数据交互。除了在分类帐中记录每个数据交互之外，我们还需要使用正式的方法以及专家的代码和数据中心审计，以证明数据中心中的每个软件的每个数据访问都由这些日志。我们还对确保这些系统运行的硬件的可靠性的努力感兴趣 - 计算机科学研究的积极主题！
坦率地说，我认为“秘密软件”秘密访问人们敏感的医疗记录的机会是零的机会，这将是一个要求，而不是一个可选的额外，为提议的审计系统具有一丝可信度。
值得注意的是，DeepMind也没有指定这里的“专家”是否需要审计其数据中心/基础设施将独立于公司本身。但显然他们需要 - 或者再次任何审计系统提供不值得他们写的文件。
我们已经向DeepMind提出了有关其开放采购技术审计基础架构的意图的问题，并再次以任何响应更新此帖子。
例如，与端到端加密协议一样，很明显，任何技术审计解决方案都是可信的，DeepMind需要完全打开它 - 发布详细的白皮书，全面开放采购所有组件，以及让专家外部人员执行对其运营进行全面审计（可能持续不断，随着基础设施随时间更新/升级）。
不需要完全开源的东西。记住：这是一个数据处理器，它自己建议为数据控制器准许访问的健康数据构建一个审计系统。所以冲突很清楚。
当然，DeepMind没有说明这一点;相反，它总结了它的博客有一个模糊的希望获得帮助从任何普遍感兴趣的其他人实现其愿景。 “我们希望通过分享我们的流程和公开记录我们的陷阱，我们将能够与尽可能多的人合作并获得反馈，并增加这种基础设施在一天内更广泛使用的机会，在医疗保健甚至超越“。
但是，如果公司真的想要灌输对改革医疗服务的愿景的信任，它将需要使自己和它的过程比他们迄今为止更加透明和负责。
例如，它可以从回答问题开始，例如DeepMind处理健康患者的敏感数据的法律依据是什么，这些健康患者将永远不会开发AKI？
为什么它和皇家自由没有追求一个数字集成解决方案的Streams赢咖4平台，只提取一个子集的数据，对于可能是脆弱的患者，而不是传递给DeepMind的更大范围的医疗记录数据共享安排？
当被问及对DeepMind的审计基础设施计划的评论时，MedConfidential协调员Phil Booth提出了关于原始数据共享安排的这些未解决的问题 - 指出正在进行的问题是公司如何以及为什么在第一个地方，而不是在事实之后如何管理数据访问。
Booth表示：“在Google与Royal Free合作的情况下，这将最终向患者证明，当时他们在医院附近没有地方，数据被复制到Google的”直接护理“ 。它应该不可撤销地记录Google获得的数据，他们无权访问，现在拒绝回答问题。
“这就像一个黑匣子记录器为飞行，”他补充说，审计基础设施。 “你总是希望没有必要，但是如果出了问题，我们可以放心地知道有人能知道你飞机飞入山后发生了什么事。
更新：DeepMind已经确认它打算完全开放审计基础设施的所有元素，并且审计与审计基础设施相关的代码和数据中心所需的“专家”将在公司本身外部。
它还确认审计分类帐将记录患者数据用于培训赢咖4模型 - 虽然不太清楚分类帐是否也会记录数据如何改变DeepMind的赢咖4模型，即通过解释如何达成医疗保健决策来支持未来的算法问责制 通过赢咖4供电的赢咖4平台/服务。
在一个“最佳案例”中，它表示它的目标是让审计系统在今年开始运行。
