如果你遵循赢咖4注册汽车的持续创造，那么你可能知道经典的思想实验，称为Trolley问题。 一辆手推车正朝着五个人绑在前面的轨道上。 你可以将手推车切换到另一个轨道，只有一个人被绑定。 你是做什么？ 或者，更重要的是，赢咖4注册做什么？
即使是建立汽车的人也不确定。 事实上，这个难题远比复杂的专家复杂得多。
现在，机器比以往任何时候都能自己学习。 他们学会了识别照片中的面孔和人们说的话。 他们已经学会选择Google搜索引擎的链接。 他们学会了玩游戏，即使是赢咖4研究人员认为他们不能破解。 在某些情况下，当这些机器学习时，他们超过了人类的才能。 现在，他们正在学习驾驶。
所以许多公司和研究人员正在朝着赢咖4注册车辆，将使用深层神经网络和其他形式的机器学习做出决策。这些汽车将通过分析大量数据（包括过去经历的其他汽车）来学习识别对象，识别情况和响应。
所以问题是，谁解决电车问题？如果工程师设置规则，他们为司机做出道德决策。但是，如果一辆汽车自己学习，它就成为自己的道德代理人。它决定谁杀。
“我相信我们的轨迹是为技术隐含地做出决定。我不确定这是最好的事情，“华盛顿大学和艾伦赢咖4研究所CEO的Oren Etzioni说。 “我们不想让技术玩上帝。”但是没有人希望工程师玩上帝。
如果机器决定
自学习系统与编程系统截然不同。 AlphaGo是一个在人类创造的最复杂的游戏之一Go中击败了一个大师的Alpha 赢咖4，他在分析了来自人类玩家的数以千万计的移动并且对自己进行无数的游戏后，学会了自己玩游戏。
事实上，AlphaGo学到了很多，构建它的研究人员 - 许多他们完成了Go玩家 - 不能总是遵循它的游戏的逻辑。在许多方面，这是一个令人振奋的现象。在超越人类的天赋，AlphaGo也有一种方式将人类的人才推到新的高度。但是当你把像AlphaGo这样的系统放到游戏的界限之外，并把它放到现实世界里 - 比如说，在汽车里面 - 这也意味着它在道德上与人类分离。即使是最先进的赢咖4没有配备良心。自学车不会看到这些道德困境的道德层面。他们只会看到需要采取行动。 “我们需要找出一种解决方法，”Etzioni说。 “”我们还没有。
是的，设计这些车辆的人可以哄他们通过控制他们学习的数据以某种方式做出响应。但把一个道德的感觉推入赢咖4注册汽车的赢咖4是一个棘手的事情。没有人完全理解神经网络如何工作，这意味着人们不能总是推动他们在一个精确的方向。但也许更重要的是，即使人们可以推动他们良心，那些程序员选择什么良心？
“用Go或国际象棋或太空侵略者，目标是赢，我们知道胜利的样子，”林说。 “但在道德决策中，没有明确的目标。这是整个伎俩。目标是要尽可能多地挽救生命吗？目标是不是有杀人的责任？第一个原则是有冲突的。
如果工程师决定
为了避开机器的充满歧义性的道德决策，工程师可以硬编码的规则。当大的道德困境出现 - 甚至小的 - 自驾驶的车只会转移到做什么软件说。但是，那么伦理学将在写软件的工程师的手中。
看起来像是一个人类驾驶员在路上做出决定的事情。但它不是。人类司机本能地行动。他们没有做出计算的道德决定。他们尽可能地回应。社会已经非常接受（尽管汽车撞车的误杀罪）。
但如果道德哲学是由谷歌的人预先编程，这是另一回事。程序员必须提前考虑道德。 “一个人有先见之明，而且是一个深思熟虑的决定。另一个不是，“加州多利亚圣路易斯奥比斯波的哲学家，斯坦福大学的法律学者帕特里克林说。 “即使机器做出与人类完全相同的决定，我认为我们将看到法律挑战。
此外，手推车问题的重点是，它真的，真的很难回答。如果你是一个实用主义者，你救了五个人，牺牲一个。但是，刚刚被火车奔跑的那个男孩在汤姆·斯托帕德的黑暗中解释了一个无线电剧，探索了手推车问题，道德哲学和粉丝弗洛伊德的音乐 - 答案不是那么明显。 “作为一个人是尊重，”男孩说，指出哲学家康德不会把火车转到第二轨道。 “人类不像东西，可以有不同的数量。它从一开始就超出了。总尊重。每次。“五个生命不超过一个。
正确答案？
赢咖4注册将使道路更安全。他们将比人类更少的错误。这可能会提出一个前进的道路 - 如果人们看到汽车比人更好驾驶，也许人们会开始相信汽车的道德。 Facebook的赢咖4研究主管Yann LeCun说，“如果机器在避免坏事情方面比人类好，他们会接受它，”无论是否有特殊的角落情况，“一个”角落的情况“将是一个离群者问题就像那个带手推车的那个。
但司机可能不会买一辆汽车，以公共安全的名义牺牲了司机。 “没有人想要一辆照顾更大商品的汽车，”林说。 “他们想要一辆照顾他们的车。
林说，唯一确定的是，制造这些机器的公司正在承担巨大的风险。 “他们正在替换人类和人类驾驶员可能犯的所有人为错误，他们正在吸收这一巨大的责任范围。
什么Google，公司建立的Go-playing 赢咖4和最遥远的赢咖4注册，想到这一切？ 公司代表拒绝说。 事实上，这样的公司害怕他们可能会遇到麻烦，即使世界意识到他们甚至考虑这些大的道德问题。 如果他们不考虑问题，他们将更难解决。
