【令人恐惧的“深度患者”】 @ 如是說999

(2017-07-07 15:45:01)

上个月，在西方所做的一项科学实验中，当两个智能机器人进行对话时，居然发展出一种人类完全听不懂的语言。受到惊吓的科学家立即进行人工干预，中止了两方之间的交谈。那是科学家担心在这两个机器人交谈中，包含着伤害人类的内容……然而，早在 2015 年，纽约西奈山医院的一个研究团已经发现了智能机器的某些令人可怕之处。当时，这个研究团队将深度学习应用于记录患者的全面数据，包括检验结果、诊疗记录等等，并将这套程序命名为“深度患者”，用它记录大约 700000 名患者的病情数据。

然而，不可思议的事情发生了，当“深度患者”用于测试新的病人数据时，它对病情的推断准确到令人难以置信。虽然没有任何专业性设备，但是“深度患者”仍能通过对数据的分析，发现了隐藏在背后的某些规律，并准确地推断出哪些人在什么时候可能患病，其中包括癌症。

西奈山医院研究团队的 Joel Dudley 表示，“深度患者”掌握了各种手段，它能根据记录“完美”的预测病情，当然，完美一词只是相较对于人类而言。同时，“深度患者”也有些让人捉摸不透。试验中，“深度患者”表现出了对于精神疾病预测的高度精准性，令人震惊。例如预测精神分裂相当困难，称的上是医学界“臭名昭著”的难题。但更让 Dudley 疑惑的是，“深度患者”到底是如何做出准确分析的，对此，他到现在也给不出什么结论，毕竟机器人也没给他任何提示。如果在未来，机器人将真正帮助医生进行诊疗，他们一定得在给出预测的同时做出合理阐述，给出理论依据，以证明推断是正确的，或者临时改变病人的是合理的。但 Dudley 显得有点悲伤的表示，虽然“我们的确可以建立这些模型，但我们却弄不懂它们到底是如何运作的。”