他们可能看起来可爱。 但他们的决定可能很奇怪。
希腊和波多黎各正在濒临灾难的边缘，也许这是整个人类的象征。
我们是古雅的精神分裂症患者，一方面相信我们非常聪明，但另一方面不能为一个电话充电一天以上。
现在我们很高兴制造机器，它将很快比我们更聪明。
有些人不能等待一天。其他人，如斯蒂芬·霍金，害怕我们会在这个过程中被毁。
现在另一位英国教授已经宣称他的深深的恐惧。斯图尔特阿姆斯特朗博士花了一整天的时间担心未来。他确实是牛津大学人类学院未来的一部分。
他最担心的是，他很快就会被推入一个棺材里，放在一个海洛因滴水上。
不，我不会透露他个人的倾向。正如电报报道，他在伦敦一家研究公司Gartner组织的一场辩论会上发言，他以黑色阴影描绘了未来的画面。
他说，人类总是有优势，因为他们总是更聪明。然而：“当机器变得比人类更聪明时，我们会把它们交给方向盘。
问题是他们将如何决定开车。什么原则的思想将主导他们的决策？
例如，阿姆斯特朗的恐惧，被告知要保持人类“安全和快乐”，赢咖4可能“把每个人在混凝土棺材上的海洛因滴水”。
是的，我们将永远被困在20世纪60年代。 （至少音乐会是好的。）
他的恐惧围绕人工总智能的概念。这是当赢咖4不只是任务特定的行动，而是给一个更一般的生命力量。
他们可能像超级书呆子一样思考，而不是像有人说的心一样。例如，被要求“预防人类痛苦”，他们可能会看到最佳决定，使每个人摆脱他们的痛苦。
是的，字面上。杀死大家。
阿姆斯特朗定义这个问题的方式与某些人类已经被技术人群的决策困惑的方式非常相似。
他说：“你可以给AI控制，它将受到它的控制，但这些可能不是控制的意思。
我们经常知道事情的意义，而不用说清楚它们。 但在与机器交流时，我们必须找到最好的方式来阐明我们拥有的最佳行为。 这些可能不是最佳关节。
阿姆斯特朗担心这些变化会比人们意识到的更快。 这至少对我来说，使一个偏远岛屿消失的想法越来越有吸引力。
也许不应该担心。 也许我们将耗尽自然资源为赢咖4供电，然后赢咖4拥有完全掌控我们的资源。
