OpenAI，Elon Musk支持的初创公司想要放弃其赢咖4研究，也希望确保AI不被用于恶意的目的。 这就是为什么它想创造一种新的警察部队：称他们为人工警察。
由于其团队的顶尖研究人员帮助加快传播AI技术，这个相当不寻常的创业公司担心这样的技术可能传播太远 - 别人会做一个秘密突破，并使用它“潜在的恶意结束”。因此，它的 呼吁其他顶尖研究人员加入其不断扩大的业务，并开发新技术，能够以某种方式检测这些突破，因为他们在现实世界中部署。
该公司的创始人认为，AI可以使世界变得更好的地方，但他们也担心它可能会造成严重的损害。大型支付创业公司Stripe的前首席技术官Greg Brockman说：“随着AI系统越来越强大和强大，我们将看到它们以各种方式部署，一些比其他方式更加恶劣。现在监督OpenAI。 “世界越来越意识到发生了什么 - 越多的审查 - 越好。
开放悖论
特斯拉CEO Elon Musk和Y Combinator总裁Sam Altman与该领域的一些最聪明的研究人员一起创立了OpenAI，包括几个从谷歌和Facebook那里偷猎的人。他们的目的是快速加速赢咖4的进步，同时保护世界免受赢咖4快速加速的进步。当Musk和Altman去年12月公开公司时，他们说，他们将自由地与任何想要它的人分享他们的AI，这将有助于阻止恶意软件误用赢咖4。
这不像看起来那么自相矛盾。麝香和阿尔特曼相信，如果你把AI放在每个人的手中，那么更多的人会准备打击坏的演员。不是把所有的信任放在一个或两个大公司构建的AI技术，思维，我们将有所需的力量停止代码流氓。虽然这个想法有限制 - 你不能共享一切，以免它落入错误的手 - 许多人认为OpenAI可以作为一个重要的检查AI超级大国，如谷歌和Facebook，通过减少“超级智能将被垄断的可能性， “在哲学家尼克·博斯特罗姆的话中。公开共享的AI，Bostrom告诉我，这个春天，“可以消除一个可能的原因，为什么一些实体或组将有比根本上更好的AI比其他人。
呼吁AI警察显示这一哲学的开始实践。 OpenAI不只是想建立新的AI，并与世界分享。它想积极追踪坏人。随着上周末在它的网站上呼吁AI警察部队，这个创业公司正试图弄清楚这将如何工作。
“我们还没有一个好主意，”Ian Goodfellow说，他最近加入了来自Google的OpenAI。 “这是为什么我们要求进行特殊研究的一部分。”但公司确实提出了几个出发点。
一个选择是在金融市场，在线游戏和在线新闻服务 - 其中AI已经在使用的领域。跟踪这些用途 - 也许通过更传统的研究方法，也许通过建立AI跟踪其他AIs - 将允许警察看到技术在现实世界中推进了多远，以及这些用途是否似乎不健康。 Goodfellow怀疑，例如，金融公司已经使用微妙的技巧来愚弄竞争对手使用的AI系统，并在这个过程中提高他们的利润。
同时，布罗克曼担心新闻的演变。 “想想通过社交媒体操纵公众舆论。当你得到更强大的自动化系统，它的功能真的增加，“他说。 Brockman指出最近关于Facebook的秘密算法如何影响人们在他们的新闻源中看到的争论。 “研究这样的系统 - 已经存在的系统是一个很好的起点。”他承认，检测恶意行为是困难的，但这就是为什么OpenAI呼吁研究人员开始探索的可能性。 “重要的是要想想你想要在哪里 - 这些问题将是重要的，”他说。
与此同时，Brockman和公司呼吁研究人员以更积极的态度来开发新项目。像许多其他人一样，他们希望构建可以自己处理网络安全的AI。他们希望构建一个可以赢得在线编程大赛的AI，就像Google构建为可以击败古老的Go游戏的系统一样。 “一个可以编写其他程序的程序，由于显而易见的原因，将是非常强大的，”他们说。
确实会的。但它也可能是非常危险的。 OpenAI正在寻求在尽可能多地实现这样的系统的好处之间取得平衡，以确保这种技术不会变坏。
