Man在一家咖啡馆，由Juan Gris，1912年。
在我的文章中，我说我们需要讨论我们想要建立什么样的社会。我有理由相信，即使在最糟糕的社会条件下，我们也不想要一个你可以被监禁的社会，因为你的眼睛被设置得太近了。新科学家的文章表明，研究人员正在提出正确的反对意见：犯罪分子和非犯罪分子的培训数据来自两个不同的来源;种族问题可能发挥作用;并且我们正在危险地将AI变成“21世纪的冥想”或“mathwashing”。
我还说，一个AI开发人员可以选择什么项目工作，但重要的是，研究不会关闭门，对公众不透明，让每个人在门外容易受到内部的任何事情。这使我建议进一步几步。虽然研究人员和开发人员当然可以选择不参与他们反对的项目，但有一些有用的方法超越非参与：
获取O'Reilly的AI通讯
• 一些研究人员研究了使用发型，着色和其他化妆品来打败面部识别的方法。这当然是一个不断升级的战斗：现在的工作可能不会工作一年后。但更重要的是，它需要理解面部识别正在做什么，它是如何工作，以及使公众知识。
• Abe Gong在COMPAS和Cathy O'Neil关于数据驱动的教师评估的工作揭示了数学驱动的偏见工作的机制。龚在“偏见”的统计和人类定义之间的区别是特别重要的：它很容易统计上无偏见，而人为不公平。 O'Neil指出，很容易创建只能通过游戏系统获胜的系统，而且试图公平竞争的人们不可避免地会失败。我们需要更多的研究人员做这样的工作：我们需要了解如何使用机器学习和赢咖4，后果是什么，并使公共知识。
所以，选择退出的研究人员也可以选择主动颠覆系统，或者他们可以工作暴露系统中的缺陷。这两个功能都是必要的。
正如新科学家指出的，“大多数美国警察部门使用面部识别几乎不能确保软件是准确的。警察部门既没有专业知识，也没有倾向于批评性地评估声称使其工作更容易的软件。 “这是魔术，将使你的工作更容易”是一个诱人的销售宣传，为已经在做艰苦的工作的人。一个不知情的官员想方设法探测恐怖分子的赢咖4系统太容易了。它需要一个不是不知道AI的人指出这样一个提案的问题，至少是恐怖分子的数量是如此之少，以致不可能建立一个良好的数据集训练。即使有良好的培训数据，也很难想象一个系统的误报率低于5％（大约1600万美国人，全世界大约3.7亿人），而且这种易于出错的系统会比无用的系统更糟。
远离问题主题永远不是一个答案;比以往任何时候，我们需要AI研究人员致力于构建我们想要的未来，而不是我们可能获得的未来。这包括积极试图打败AI系统的研究人员以及暴露其不足之处的研究人员。两个小组都不能从无知的位置工作。这样做保证了我们将是赢咖4的受害者，而不是受益者。
