您现在的位置是:网站首页> 内容页

医疗乌托邦深深卷入人工智能的“迷信”

  • 126直营网
  • 2019-05-25
  • 226人已阅读
简介抓住!抓住!抓住!双12促销项目全年只需4999个招商项目[寻云网(微信号:伊犁云)]1

    抓住!抓住!抓住!双12促销项目全年只需4999个招商项目

    [寻云网(微信号:伊犁云)]12月20日

    编者按:帕米·奥尔森是一名记者,他报道了欧洲人工智能、机器人技术、数字助理和新兴技术。

    2017年12月的一个周五晚上,伦敦医疗应用开发商巴比伦健康公司(Babylon Health)的创始人阿里·帕萨(Ali Parsa)与他的医生坐下来进行交流。这位出生于伊朗的前银行家通过公司的高分申请为巴比伦筹集了8500万美元。这个应用程序允许英国患者和他们的医生进行快速的视频咨询。在英国,国营医疗机构为每个公民提供高质量的医疗服务,但是等待诊所需要很长时间。这个应用程序的出现改变了这种情况。

    现在,Parsa希望通过增加人工智能聊天机器人来进一步提高效率并降低成本。Parsa承诺,聊天机器人可以在没有人类交互的情况下提供常见疾病的诊断建议。巴比伦应用程序的用户将在12月份享受新机器人。将来某个时候,英国国民健康服务中心的病人也会享受相应的服务。但问题是,根据医生的沟通,机器人给出的建议往往是错误的。

    据一位现任和前任工作人员说,医生们花了大约一天的时间自愿进行审计,以证明他们的观点。据一位知情人士透露,他们发现,在聊天机器人给出的100个最常见结果中,有10%到15%没有发现更严重疾病的警告信号,或者完全错了。临床医生周五直接向帕尔萨报告,希望推迟新的释放。他们给出了理由,经过一些谈判,他同意推迟释放。

    但是医生们仍然有麻烦。与现任和前任巴比伦员工和外部医生的访谈显示,人们普遍担心该公司匆忙部署了未经仔细审查并夸大其有效性的软件。

    根据一位外部医生显示的一封电子邮件,在2018年4月,英国广告监管机构要求巴比伦删除其网站上的声明,声称其分流功能可以提供100%的安全建议。该机构还引用了一项关于该声明的“独立研究”。但根据巴比伦自己在2016年发表的研究论文,这项研究来自于一项内部测试,其中聘请专业演员装扮成病人并遵循剧本。

    在星期五的会议六个月后,帕萨在伦敦皇家医学院举行了隆重的现场直播,宣布巴比伦的新软件——人工智能驱动的聊天机器人已经达到“全球健康第一”的水平。巴比伦显示机器人在医学检查中的得分高于人类医生,并声称人工智能已达到人类医生的“等同精度”。当时,许多媒体都报道了这一成就。

    布朗大学的生物医学信息学教授哈米什·弗雷泽说,这个声明是有问题的。在最近的英国医学杂志《柳叶刀》的一篇文章中,他驳斥了巴比伦的声明。他指出,巴比伦的软件只回答了50个核对问题中的15个,并被允许对每个问题给出三个答案。”当医生做检查时,你得到了正确的答案。巴比伦表示,它没有试图证明人工智能优于医生,帕萨退出了本文安排的采访。

    人工智能没有发展到可以代替(或者甚至可靠地协助)人类医生的程度,这并不奇怪。对于傲慢的科技企业家来说,过多地宣传自己的产品并不是什么新现象。这些都无关紧要,但巴比伦与国家卫生局签订了两份合同。NHS是世界上最大的国有医疗系统之一。巴比伦的全科医生在手的应用程序提供视频呼叫支持35000NHS病人,并允许他们访问分流聊天机器人的医疗建议。NHS还鼓励200万公民使用NHS 111:.,这是巴比伦开发的一个应用程序,主要用来取代NHS咨询热线。工作人员说,NHS尚未使用巴比伦的诊断性推荐聊天机器人,但该公司已讨论将此功能引入NHS应用程序。

    NHS的动机是清楚和简单的:它想节省金钱,给病人带来更好的健康结果。到2020年,英国将在国家卫生系统上投入近2000亿美元,相当于国内生产总值的7%。自1950年以来,这一比例已经翻了一番,因此英国迫切需要找到一种控制成本的方法,同时仍然提供被视为英国社会契约核心的福利。

    减少急诊室就诊次数似乎是合乎逻辑的,因为每次就诊平均花费200美元。在过去的一年里,英国国民健康保险制度为此总共花费了40亿美元,等待时间也增加了,因为至少有150万英国人在不需要的时候去急诊室。如果巴比伦的聊天机器人运行良好,它将帮助节省很多钱。

    然而,人们质疑软件的有效性。巴比伦的一名员工说,早期和现在的聊天机器人建议用户在约30%的病例中去急诊室,而拨打国家健康咨询热线111%的病例中只有20%。目前尚不清楚有多少患者接受了聊天机器人的建议,巴比伦说,他没有跟踪这些数据。

    甚至在2018年1月诊断出聊天机器人最终被修复并释放给巴比伦的私人用户之后,一些巴比伦的医生仍然担心他们在开发过程中没有看到更严格的改革。在公司之外,发现越来越多的问题。今年6月,一位英国医生在测试一个在巴比伦应用的新型诊断聊天机器人时发现了一个错误:它漏掉了肺栓塞的症状。他在Twitter上发布了一段视频,并向卫生保健监管机构MHRA投诉。根据医生分享的电子邮件和私人Twitter消息,这已经是他在过去一年半中第三次抱怨聊天机器人软件。根据巴比伦的内部消息来源,MHRA记录为事故的错误一直存在于内置聊天机器人的健康应用中,直到2018年11月。MHRA以保密为由拒绝置评。

    巴比伦说,MHRA要求它调查这些投诉,但是“随后没有基于与安全有关的理由进行正式调查”。当被问及MHRA记录中的错误时,巴比伦坚持认为“没有临床概率分析总是正确的”,并且“即使是经验丰富的医生有时也会误诊”。

    在所有这一切当中,巴比伦成功地将自己作为医疗系统过度扩张的数字药膏推销出去。该公司最大的粉丝之一是英国卫生部长马特·汉考克,他最近在巴比伦赞助的一份报纸增刊中宣布,他“因使用手动全科医生的申请而出名”。

    巴比伦使用的海报经常出现在伦敦的地下。据Parsa称,该公司正在预订数千万美元的收入,包括与NHS签订的“全科医生在手”合同(290万美元)以及NHS 111个合作伙伴的收入。英国国民健康保险制度和汉考克的发言人没有回应置评请求。

    据一位前工作人员说,巴比伦软件的最大缺点之一是缺乏真正的临床评估和跟踪。使用聊天机器人的人真的去过急诊室吗?如果他们去看医生,诊断是什么?一位前雇员说:“目前还没有能够提供答案的系统。”巴比伦说,它在Hand公司的GP应用程序在用户使用聊天机器人24小时后向用户发送信息。根据一个用户的说法,应用程序要求更多的症状。

    软件是迭代开发的。开发人员构建并发布应用程序,在不同的实时用户组上测试它,并在向前移动时重复它。这种硅谷心态曾经被马克·扎克伯格总结为“行动迅速,打破现状”。但是新药或医疗设备的开发需要更加谨慎的方法,因为患者的生命悬而未决。巴比伦还没有在同行评审的医学杂志上发表任何研究,这个过程通常需要时间。

    该公司首席医疗官穆巴舍·巴特(Mobasher Butt)坚称,巴比伦“在被投入市场之前,已经经历了许多轮临床医生的严格测试”。该公司承认自己没有进行医学研究,并表示将来进行医院研究时,会在医学期刊上发表。

    对巴比伦人工智能的关注指出当医疗系统与技术初创公司合作时可能出现的困难。虽然巴比伦把自己定位为一家医疗保健公司,但它似乎更像一家硅谷初创企业。该公司的重点是快速建造和发射。短语“快速构建”出现在至少一个巴比伦工人的电子邮件签名下。公司内部的医生甚至在处理安全问题时也几乎无法让人们听到他们的声音。现任和前任的工作人员说,数据科学家被认为是摇滚明星,但他们说,在过去的12个月里,情况已经开始好转。

    巴比伦称这些指控为“诽谤”,并指出,定期审查报告政策和专用电子邮件地址是其“安全第一文化”的关键。它声称员工“有义务向当局正式提交任何问题”。一位现任和前任雇员说,他们不知道电子邮件报告系统。

    尽管有些医生很谨慎,但帕萨因其坚持不懈和远见卓识而受到伦敦科技界的称赞,相信他将“为地球上的每个人带来方便和负担得起的医疗服务”。对许多人来说,这是一种令人耳目一新的创业精神,这在谦逊的英国并不常见。帕萨的故事令人鼓舞。他出生在伊朗阿里·帕萨杜斯特,父母是中产阶级,17岁时作为难民来到英国躲避革命。他自学英语,然后去了高中和伦敦最负盛名的大学,在那里他发表了工程物理学的博士论文,并积极参与学生政治。尽管他的职业生涯是建立在投资银行之上的,但他的心始终集中在社会公正上。

    把他的社会乌托邦本能和商业结合起来并不总是有效的。2003年,Parsa通过共同创建名为“社区健康”的“社会企业”进入了卫生保健行业。随后,2011年,帕萨通过赢得合同,成为第一家接管国有医院的私营公司,创造了历史。医院是剑桥县兴布鲁克医院。环球集团已经作出了降低成本的崇高承诺,包括在10年的交易中为国民保健系统节省超过4.95亿美元。帕萨在2012年退出,当时该公司仍然负债累累。Circle在2015年保释了合同。审计师说他的提议“太乐观了”。帕萨离开环球银行一年后,她创建了巴比伦,并最终与国家卫生局签署了另一项重要合同。

    PARSA正在聘请软件工程师来巩固这种关系,为扩大更多的患者奠定技术基础。它最近承诺投资1亿美元以进一步开发其人工智能。

    然而,为卫生保健建造人工智能可能需要进一步思考巴比伦技术的设计。简而言之,它的诊断引擎基于一组复杂的规则。这些规则由临床医生确定,并且一系列症状的概率被输入计算机。随着规则数量的增加,软件决策的路径变得更加复杂和难以改变。那么如何让这种聊天机器人更智能呢?一种方法是提高他们的语言能力。另一个是改进支持它的诊断引擎。”如果巴比伦有病历,他们可能更准确。人工智能。行动。AI是伦敦一家帮助建立聊天机器人的初创公司。

    为了更好地诊断,我们需要培训软件来深入理解反馈循环:当一个人描述他的症状,然后去看医生,接受X光检查,并有可能接受进一步的治疗时,会发生什么?巴比伦表示,它可以访问健康改善网络研究数据库,其中包含不可识别的患者数字记录,但尚未要求监管机构访问医疗记录。

    对于巴比伦,使用更智能的技术来提高医疗保健提供者的效率的愿景可能需要对更多患者记录进行训练算法。为此,它需要继续赢得监管机构和医疗界的信任。

文章评论

Top