毫无疑问，麝香是一个聪明的技术学生。但他的反应是错位的。当然有理由担心，但他们不是麝香的。
AI的问题现在是，它的成就被大大过分夸大。这不是说这些成就不是真实的，但它们并不意味着人们认为他们的意思。深度学习的研究者如果能够以80％的准确度识别人脸，就会很高兴。 （我怀疑深度学习系统可以达到97.5％的准确性;我怀疑这个问题已经被限制在某种方式，这使得它更容易，例如，问“这张照片中有脸吗？”或“是这张照片中的脸吗？“与问”这张照片是什么？“有很大的不同。）这是一个困难的问题，一个很难的问题。但人类识别面孔的准确性接近100％。对于深度学习系统，这是一个几乎不可想象的目标。而100％的精度是比80％精度的数量级，甚至是97.5％。
什么样的应用可以从只有精确的80％的时间，甚至97.5％的时间的技术构建？很少几个。您可以构建一个应用，从在线照片中创建动态旅行指南。或者你可以建立一个赢咖4平台，测量食客在餐厅呆多久，服务他们需要多长时间，他们是否微笑和其他统计数据。您可以构建一个赢咖4平台，尝试确定谁出现在您的照片，如Facebook。在所有这些情况下，偶然的错误（或甚至频繁的错误）不是一个大问题。但是，你不会建立，例如，基于面部识别的汽车报警器在20％的时间 - 甚至2％的时间是错误的。
同样，谷歌的自驾车也有很多。这是一个巨大的技术成就。但Google一直非常清楚，他们的汽车依赖于他们的高度详细的街道视图的准确性。正如彼得·诺维格所说，从一个场景中选择一个交通灯是一个困难的问题，并确定它是红色，黄色还是绿色。很容易识别你已经知道的交通灯的颜色。但保持Google的街景视图是最新的并不简单。虽然道路很少变化，但城镇经常增加停车标志和交通灯。处理地图的这些变化是非常困难的，只有一个仍然有待解决的挑战：我们知道如何解释交通锥，我们知道如何思考汽车或人类行为不规律，我们知道如何做，当车道标线被雪覆盖。当某种意外事件发生时，像一个人一样思考的能力使一辆赢咖4注册汽车成为一个“moonshot”项目。人类当然不会完美地表现出意想不到的情况，但我们惊人的好。
你不会建立一个基于面部识别的汽车报警器在20％的时间是错误的。因此，AI系统可以做，有困难和部分准确性，一些人类做什么，甚至没有考虑它。我猜，我们距离任何超越人类智力的粗略估计都有20至50年的历史。这不只是我们需要更大更快的计算机，这将比我们想象的早。我们不了解人类智能如何在基础层面上运作。 （虽然我不会假设理解大脑是赢咖4的先决条件。）这不是一个问题或批评，它只是一个声明，问题是多么困难。让我们不要误解我们所完成的重要性：这种智力水平已经非常有用了。电脑不累，不要分心，不要惊慌。 （很好，不常见。）他们非常适合帮助或增强人类智能，正是因为作为助手，不需要100％的准确性。我们有汽车与计算机辅助停车十多年，他们已经相当不错。 Larry Page谈到了希望谷歌搜索像星际迷航计算机，它可以了解上下文和预期人类想要什么。然而，人类仍然坚定地控制着，无论我们是在与星际迷航计算机或谷歌现在。
我不是不关心AI的应用。首先，我担心当人类开始依靠赢咖4系统时，会发生什么，真的并不是那么聪明。 AI研究人员，在我的经验，完全知道他们的系统的局限性。但是他们的客户不是。我写了当人力资源部门信任计算机系统屏幕简历时会发生什么：你得到一些粗略的模式匹配，最终拒绝许多好的候选人。 Cathy O'Neil曾多次写到机器学习有可能将偏见打扮成“科学”。
问题不是机器学习本身，而是用户不加批判地期望机器提供一个oracular“答案”，以及从公共视图隐藏的错误模型。在尚未发表的论文中，DJ Patil和Hilary Mason建议您在Google上搜索GPS和悬崖;你可能会惊讶的数量的人驾驶他们的汽车离开悬崖，因为GPS告诉他们。我不惊讶;我的一个朋友拥有一个公司，为高性能船制造螺旋桨，他告诉我类似的故事，关于替他们的船只的船只进入岛屿的螺旋桨。
David Ferrucci和其他创建Watson的IBM员工明白，沃森在医疗诊断方面的潜力不是最后一句话，而是替换一个人类医生。它是谈话的一部分，提供医生没有考虑的诊断可能性，以及可能接受（或拒绝）那些诊断的原因。这是一个健康的和可能重要的一步向前的医疗，但医生使用自动服务帮助诊断理解吗？我们的利润疯狂的卫生系统是否明白？你的健康保险政策何时会说“你只能在AI失败后才能咨询医生”？或者“医生是过去的事情，如果AI在10％的时间是错误的，这是可以接受的;毕竟，你的医生不是所有的时间，反正“？问题不是工具;它是工具的赢咖4平台。更具体地，问题是忘记辅助技术是辅助的，并且假定其可以是对于人的完全替代。
第二，我担心如果面向消费者的研究人员沮丧和离开现场会发生什么。虽然这不可能现在，它不会是第一次AI被一个炒作浪潮抛弃。如果谷歌，Facebook和IBM放弃他们的“moonshot”AI项目，会留下什么？我有一个论文（最终可能成为一个雷达帖），一个技术的未来与它的起源有很多关系。发展核反应堆建造炸弹，因此，放弃了有希望的技术，如钍反应堆。如果你不能从它炸弹，它有什么好处？
问题不是工具;它是工具的赢咖4平台。如果我是对的，什么是对AI的影响？我很高兴Google和Facebook正在尝试深度学习，Google正在构建自主车辆，而IBM正在试验Watson。我很高兴，因为我毫不怀疑，类似的工作正在其他实验室，在其他地方，我们不知道。我不希望AI的未来被缩小，因为隐藏在政府实验室的研究人员选择不调查没有军事潜力的想法。我们需要讨论AI在我们的生活中的作用：它的局限性，什么赢咖4平台是可以的，什么是不必要的侵入，什么是只是令人毛骨悚然。当研究发生在锁着的门后面时，这种对话永远不会发生。
在关于AI的状态的一个漫长的，发光的报告结束，凯文凯利说明，每一次进步AI，每次计算机做一些其他成就（下棋，玩Jeopardy，发明新的食谱，也许明年玩Go） ，我们重新定义我们自己的人类智力的意义。这听起来很有趣;我当然怀疑，当游戏的规则改变每次它似乎是“赢了”，但谁真的想定义人类智力下棋的能力？这个定义忽略了人类中最重要的东西。
也许我们需要了解我们自己的智慧是我们人为的，不完全的智力的竞争。也许我们会，正如凯利建议，意识到，也许我们不真的想要“赢咖4”。毕竟，人类智力包括错误的能力，或回避的，图灵自己认识到的能力。我们想要“赢咖4”：协助和扩展我们的认知能力，而不是取代它们。
这使我们回到“召唤恶魔”，一个故事是规则的例外。在歌德的浮士德，浮士德被接纳到天堂：不是因为他是一个好人，而是因为他从来没有停止努力，从来没有自满，从来没有停止试图找出它是什么意思是人类。开始的时候，Faust嘲笑Mephistopheles，说“可恶的恶魔给我什么？什么时候你的类型曾经理解人类精神的最高努力？“（第1176-7行，我的翻译）。当他交易时，这不是典型的“给我我想要的一切，你可以带我的灵魂”;它是“当我躺在我的床上满意，让它结束...当我对时刻的住宿说！你很美丽，“你可以把我拖着我的链”（1691-1702）。在这场大规模戏剧的结束，浮士德几乎满意;他为那些每天努力争取自由的人们建立了一个天堂般的天堂，并且说：“我期待着那个幸福，我现在享受那最高的时刻”（11585-6），甚至引用他的交易条款。
