它的困难想到一个单一的技术，将在未来50年形成我们的世界比赢咖4。 随着机器学习使我们的计算机教会自己，丰富的突破出现，从医疗诊断到汽车驾驶自己。 一大堆的忧虑也出现了。 谁控制这项技术？ 它会接管我们的工作吗？ 危险吗？ 奥巴马总统渴望解决这些关切。 他最想谈谈他们的人吗？ 企业家和麻省理工学院媒体实验室主任Joi Ito。 所以我在白宫里和他们坐下来，通过希望，炒作和对AI的恐惧。 这也许只是一个快速的问题关于星际迷航。 -SCOTT DADICH
SCOTT DADICH：谢谢你们来到这里。 主席先生，你的一天是怎么回事？
BARACK OBAMA：忙。 生产。 你知道，这里和那里的几个国际危机。
DADICH：我想把我们的谈话集中在赢咖4，这已经从科幻小说转变为改变我们生活的现实。 什么时候你知道，真正的AI的年龄在我们身上？
奥巴马：我的一般观察是，它已经以各种方式渗入我们的生活，我们只是没有注意到;部分原因是因为我们认为AI是由流行文化着色。有一个区别，这可能是很多你的读者熟悉，在广义的AI和专门的AI之间。在科幻小说中，你听到的是泛化的AI，对吧？电脑开始变得比我们聪明，最终得出结论，我们不是所有有用的，然后他们正在给我们保持我们的胖和快乐，或者我们在矩阵。我的印象，基于与我的顶尖科学顾问的谈话，是我们还有一个相当长的距离。这是值得考虑的，因为它伸展我们的想象力，让我们思考的选择和自由意志的问题，实际上有专门的AI，一些重要的赢咖4平台，这是关于使用算法和计算机来解决越来越复杂的任务。我们在我们生活的各个方面都看到了专业的赢咖4，从医学和运输到电力的分配，它承诺创造一个更加高效和高效的经济。如果得到适当利用，它可以产生巨大的繁荣和机会。但它也有一些缺点，我们必须找出在不消除工作的方面。它可能会增加不平等。它可以压低工资。
JOI ITO：这可能会扰乱我在麻省理工学院的一些学生，但我的一个关注是，它是一个主要是男孩帮派的孩子，大多是白人，他们正在构建围绕AI的核心计算机科学，他们更舒适对话电脑比人类。很多人认为，如果他们能够做出科幻小说，广义的赢咖4，我们就不必担心所有的凌乱的东西，如政治和社会。他们认为机器只会为我们找到一切。
OBAMA：对。
ITO：但他们低估了困难，我觉得这是赢咖4不仅仅是计算机科学问题的一年。每个人都需要理解，AI的行为是重要的。在媒体实验室，我们使用术语扩展智能1。因为问题是，我们如何在AI中建立社会价值观？
OBAMA：当我们一起吃午饭时，Joi用自驾车的例子。技术本质上在这里。我们有机器可以做出一堆快速的决定，可以大大减少交通死亡，大幅提高我们的交通网格的效率，并帮助解决导致地球变暖的碳排放。但Joi提出了一个非常优雅的观点，那就是，我们将要嵌入汽车的价值是什么？有一些选择，你必须做，经典的问题是：如果车开车，你可以转过来避免打一个行人，但然后你可能打墙，杀了自己。这是一个道德的决定，谁在设置这些规则？
ITO：当我们做汽车手推车问题2时，我们发现大多数人喜欢的想法，司机和乘客可以牺牲节省许多人。他们还说他们永远不会买自驾车。 [笑]
DADICH：当我们开始涉及这些伦理问题时，政府的作用是什么？
OBAMA：我一直在思考AI的监管结构的方式是，在技术的早期，一千朵花应该绽放。政府应该增加一个相对轻的触摸，大量投资研究，确保基础研究和应用研究之间的对话。随着技术的出现和成熟，然后弄清楚如何将它们纳入现有的监管结构成为一个更棘手的问题，政府需要更多地参与。不总是强迫新技术进入存在的方程，而是确保规则反映一个广泛的基本价值观。否则，我们可能会发现它对某些人或某些群体处于不利地位。
ITO：我不知道你是否听说过神经多样性运动，但是Temple Grandin3谈论了很多。她说，莫扎特和爱因斯坦和特斯拉都会被认为是自闭症，如果他们今天活着。
OBAMA：他们可能在频谱上。
ITO：对，光谱。如果我们能够消除自闭症，并使大家的神经正常，我敢打赌一个麻烦的孩子不会是他们的方式。问题之一，无论我们谈论自闭症还是广泛的多样性，是我们允许市场决定。即使你可能不想爱因斯坦作为你的孩子，说“好吧，我只想要一个正常的孩子”不会导致最大的社会效益。
OBAMA：这是更大的问题，我们一直在AI周围斗争。一部分是什么使我们人类的扭结。他们是突变，异常值，创造艺术或新发明的缺陷，对吧？我们必须假设，如果一个系统是完美的，那么它是静态的。而使我们成为我们的一部分，是我们活着的一部分，就是我们是动态的，我们感到惊讶。我们必须考虑的挑战之一是，在哪里和什么时候适合我们使事情按照他们想要的方式工作，没有惊喜？
DADICH：当我们谈论扩展智能，因为它适用于政府，私营企业和学术界，那里的研究中心应该在哪里，如果甚至有一个中心？
ITO：我认为麻省理工学院会认为它应该在麻省理工学院。 [笑]历史上，这可能是一群来自政府帮助的学者。 但是现在，大多数十亿美元的实验室都在经营。
OBAMA：我们知道那些资助他们的人，如果你和Larry Page或其他人谈话，他们的一般态度是可以理解的，“我们想要的最后一件事是一群官僚在我们追逐独角兽时放慢我们的速度“。
我们所看到的一部分问题是，我们作为社会对基础研究的一般承诺已经减少。我们对集体行动的信心被削弱了，部分是因为意识形态和修辞。
我们仍然使用的类比，当谈到一个伟大的技术成就，甚至50年后，是一个月亮镜头。有人提醒我，空间计划是GDP的一半。这听起来不是很多，但在今天的美元，将是800亿美元，我们将每年花在AI上。现在我们花费的可能不到十亿。这无疑将加速，但我们必须要理解的一部分是，如果我们想要这些突破性技术所代表的多元化社区的价值观，那么政府资助必须是其中的一部分。如果政府不是融资的一部分，那么Joi提出的关于这些技术中的价值观的所有这些问题最终都可能丢失或至少没有得到适当的辩论。
DADICH：你带来了一个真正有趣的紧张，Joi写的：在边缘发生的创新和在空间计划之类的发生的创新之间的差异。我们如何确保所有这些想法的传播可以发生？
奥巴马：我试图强调，只是因为政府正在资助它，并帮助收集数据并不意味着我们囤积或只有军队有它。给出一个非常具体的例子：我们精确医学项目的一部分是从足够多样化的美国人那里收集一个足够大的人类基因组数据库。但是，不是把钱给斯坦福或哈佛，他们在那里囤积他们的样品，我们现在有这个整个遗传数据库，每个人都可以访问。有一组共同的价值观，一个共同的结构，以确保研究是共享的，而不是一个群体的货币化。
DADICH：但是肯定有一些风险。我们听到了像Elon Musk和Nick Bostrom4这样的人，他们担心AI的潜力超过我们理解它的能力。当我们向前迈进时，我们如何考虑这些问题，因为我们不仅保护自己，而且保护大规模的人性？
OBAMA：让我从我认为是更直接的关注开始 - 这是一个可解决的问题在这类专门的AI，我们必须注意它。如果你有一台可以玩Go的计算机，一个非常复杂的游戏，有很多变化，那么开发一个算法，让你在纽约证券交易所最大限度地利润可能在眼前。如果一个人或组织首先到达那里，他们可能很快下跌股票市场，或者至少他们可以提出有关金融市场的完整性的问题。
然后可能有一个算法，说“穿透核码，并找出如何发射一些导弹”如果这是它的唯一的工作，如果它是自我教学，它只是一个真正有效的算法，那么你有问题。我认为我对我的国家安全团队的指令是，不要担心机器接管世界。担心非国家行为者或敌对行动者渗透系统的能力，在这个意义上，它在概念上不同于我们正在做的许多网络安全工作。它只是意味着我们必须做得更好，因为那些可能部署这些系统的人现在会好多了。
ITO：我一般同意。唯一的警告是，有几个人相信，有一个相当高的百分比的机会，一个广义的AI将在未来10年发生。但我的看法是，为了实现这一点，我们需要一两个不同的突破。所以，你可以监测什么时候你认为这些突破将会发生。
OBAMA：你只需要有一个靠近电源线的人。 [笑]当你看到它发生时，你必须从墙上甩出电，人。
ITO：重要的是找到谁想要使用AI为好社区和领导人，并找出如何帮助他们使用它。
OBAMA：传统上，当我们考虑安全和保护自己时，我们会考虑装甲或墙壁。越来越多地，我发现自己正在寻找医学和思考病毒，抗体。部分原因是为什么网络安全仍然如此艰难是因为威胁不是一堆坦克滚动在你身上，而是一大堆的系统，可能容易受到蠕虫进来。这意味着我们必须以不同的方式思考我们的安全，做出不同的投资，可能不是那么性感，但实际上可能最终与任何事情一样重要。
我花了很多时间担心是像大流行病这样的事情。你不能建造墙壁，以防止下一次空降致命的流感登陆我们的海岸。相反，我们需要做的是设置系统，在世界各地创建公共卫生系统，点击触发器告诉我们什么时候看到新的东西，并确保我们有快速的协议和系统允许我们使疫苗更聪明。所以，如果你采取公共卫生模式，你想想我们如何处理，你知道，网络安全的问题，很多可能最终真的有助于思考的AI威胁。
ITO：我认为有趣的一件事是我们开始看微生物组。有很多证据表明，引入好的细菌来对抗坏细菌 - 不灭菌 - 是一种策略。
奥巴马：当然。我仍然不让Sunny和Bo5舔我，因为当我在侧面的草坪上走他们时，我看到他们拿起和咀嚼的一些东西，我不想要的，人。 [笑]
ITO：我们必须重新思考什么是干净的手段，无论你在谈论网络安全还是国家安全，它都是类似的。我认为，你可以做出严格的命令或者你可以消除一切可能的病原体的概念是困难的。
DADICH：还有一个风险，这会创造一种新的军备竞赛？
