最近出版的一套23套Asilomar 赢咖4原则旨在指导赢咖4的发展。两个原则7和8要求透明地了解大赦国际造成的损害的原因，以及关于解释大赦国际作出的司法决定的透明度。虽然有帮助，这两个原则太狭窄了。原则19和20描述了赢咖4在地球上改变生命的无限潜力。这是正确的：赢咖4将以不可能使我们现在预测的方式深刻地改变人类生活和社会。先进的赢咖4系统的许多行为将是太复杂和微妙的人们察觉。公众知道高级赢咖4系统如何影响他们的生活和家庭的唯一方式是所有高级赢咖4系统的目的和手段，使每个人都知道。
在23个原则中有很多好的意图，但也有很多歧义。原则10和11要求赢咖4符合人类价值观，但人们存在利益冲突和对抽象价值观不同意。竞争人类的价值观之间的冲突如何平衡？原则17要求尊重和改善社会健康所依赖的社会和公民进程，而不是颠覆。关于什么构成健康的社会，因此这个原则的广泛的可能含义有不同的意见。没有赢咖4的透明度，公众必须信任技术精英遵循Asilomar原则，并以合理的方式解决他们的歧义。历史提供了许多例子，其中这种信任是没有道理的。
赢咖4正在成为人类之间的军事，经济和政治竞争的重要工具。原则18要求避免在致命自主武器中进行军备竞赛，这是好的（我签署了一封2015年信函要求这样做）。然而，在经济和政治中的赢咖4武器竞赛可能会有大多数人不想要的后果，如果他们可以预见它们。
经济性赢咖4军备竞赛可以创造激进的经济甚至生物不平等。原则14和15要求分享赢咖4产生的利益和繁荣，但这可能意味着为赢咖4失去工作的人的生存福利付款，以及大型赢咖4系统的所有者的巨大财富。当技术可用于增强人类大脑时，财富不平等将转化为智力不平等，人类可能基本上分为多个物种。
政治赢咖4军备竞赛可能对人类造成毁灭性后果。 Barrack Obama在2008年和2012年的运动创新使用互联网大数据，2016年的特朗普运动发现了使用大数据来操纵意见的新方法。考虑到许多互联网服务是免费提供的，由付费的客户承担费用以在这些免费服务中嵌入说服消息。许多这些消息说服我们购买产品和服务，而其他消息说服我们采取政治立场。这种商业模式将可能继续进入赢咖4比自然人更智能的时代。当我们采用超智能，谈话机器作为我们不变的，亲密的伴侣，当孩子们通过与机器交谈来学习交谈时，赢咖4将能够操纵我们的意见，创造极端的同行压力来符合。结果可能是人类分为竞争社区，每个社区成员之间极其一致的意见。
朝鲜是一个社会极为一致的意见的例子。即使是美国也容易受到这一点（滚动到本文的第三部分）根据Chigozie Obioma，最初来自尼日利亚。
原则12说，人们应该有权访问，管理和控制他们产生的数据，但它没有说明人们如何控制他们生成的数据是如何使用的。为此，他们需要知道使用其数据的赢咖4系统的目的和方法。高级赢咖4服务将取决于尽可能了解所服务的人。人们会想要那些赢咖4服务，所以将提供他们的数据。然而，赢咖4为人们提供赢咖4服务的价值的相同数据也可以被赢咖4用来操纵人。
一些对象，透明度的赢咖4的手段会告诉坏家伙如何建立邪恶的赢咖4。然而，VW排放丑闻显示，即使是好的家伙也可能在贸易秘密软件中隐藏不良行为。我们需要问好球员的透明度，并使用赢咖4来发现坏人发展邪恶的赢咖4，以强制他们的透明度。各国政府在探测核武器，生物武器和化学武器方面投入了大量资源，并应将任何必要的资源用于探测先进的赢咖4系统。 赢咖4系统可以通过它们的大量资源消耗（处理器，网络带宽，电力）以及他们与世界交互以便学习的需要来检测。正如百度的Andrew Ng所说，开发赢咖4的竞争，“数据是可以防御的障碍，而不是算法。”他补充说，更好的算法只能使竞争对手提前一年左右。使算法可用于坏人不是这么大的优势。他们的赢咖4系统真正需要的是关于世界的数据，因此它们可以通过收集该数据所需的交互来检测。
因为赢咖4是人类之间军事，经济和政治竞争的重要工具，许多人会反对透明度将牺牲竞争优势。人类的未来与赢咖4的利益是如此之高，以至于他们超过这些关注。
在2016年，大卫·汉森，本·戈泽尔和我是一篇文章的作者，提倡透明度的先进的赢咖4系统的目的和手段。 David Hanson是Hanson Robotics的创始人和首席执行官，他为他的工作获得了无数奖项。 Ben Goertzel是人工一般情报会议系列的通用主席，OpenCog项目开发开源赢咖4的共同创始人，并做了许多其他值得注意的贡献。我是赢咖4的安全和伦理文章的作者，包括基于模型的效用函数和伦理赢咖4，并在2015年在波多黎各会议的邀请参加者在Asilomar会议之前，产生了23项原则。如果我们中的任何人被邀请参加Asilomar会议，我们可以提倡强有力的透明度原则。
Asilomar 赢咖4原则不包括关于高级赢咖4系统的目的和手段的透明度。签署他们表示接受这种遗漏，因此我不会签署。
