参与开源软件项目的一个好处是它提供了与大量有趣的人进行交互的机会。通过我们与OpenCog开源AGI项目的互动，我与Linas Vepstas博士的交流就是一个很好的例子。几年前，Linas和我一起工作在OpenCog的自然语言工具包的商业赢咖4平台;从那时起，随着他的职业生涯的发展，Linas一直是OpenCog的代码库和概念框架的主要贡献者，特别是通过他的工作维护和改进链接解析器，这是一个最初在卡内基 - 梅隆开发的开源语法解析系统大学，它包裹在OpenCog的自然语言理解系统内。 Linas的职业生涯开始于物理学，拥有来自SUNY Stony Brook的博士论文“Nucleus的手性模型”，但从那时起，他在软件开发，管理和研究方面有着多元化的职业生涯，包括IBM在各种包括图形和固件开发，以及首席执行官和CTO在创业公司的职位。他还是一个主要的开源项目，GnuCash免费会计软件的主要开发人员，并一直非常活跃在维基百科，创建或主要修改超过400个数学维基百科文章，以及其他领域的数十个维基百科文章。目前，他在Qualcomm担任Linux内核开发人员，并且还参与了其他一些开源项目，包括OpenCog。正如他所说，“我对开源的疯狂！不能生活没有它！“除了他的技术工作，Linas的网站包含一系列主题的各种论文，包括社会政治。他的一个永久的焦点是开源，自由软件和相关概念的更广泛的影响;例如在“自由软件不可避免？”他认为“自由软件不仅是一个（政治）哲学，或社会或人类学运动，而是一个类似于消除贸易壁垒的经济力量，我们终于可以理解为什么它的采用公司承诺在使用软件的方式上是一个海洋变化。“考虑到他对这个话题的深刻思考，根据他的丰富经验，似乎apropos面试Linas关于我的心中的一个话题 - 使用开源模式进行AGI开发的好处和可能的成本...。Ben：根据您对OpenCog的经验和您的一般理解，您看到的AGI项目的开源方法有什么好处，有效地实现AGI在人类层面的目标，最终超越？ Linas：为了正确地讨论AGI，我们必须将“今天的AGI”与“我们希望AGI可能有一天”区分开来。今天，肯定在近期的未来，AGI与许多其他技术项目没有什么不同。这意味着同样的利弊，相同的论点和辩论，相同的观点和动态适用。开源项目往往比商业项目慢;他们往往没有那么专注，但也少了拍打，马虎和冲。另一方面，具有商业价值的项目资金充足，并且通常比一个rag-tag乐队的志愿者可以拉在一起更复杂和强大。开源项目通常比大学项目结构更好，原因很多。一个原因是程序员的经验水平：研究生可能聪明;一个教授可能是辉煌的，但在任何一种情况下，两者几乎肯定是新手程序员。和新手一样，一如既往，相对于经验丰富的专业人士平庸。当开源项目足够大以吸引有经验的程序员时，那么对质量，可维护性和可测性的关注将有利于项目。所有项目，无论是封闭来源，大学还是开放源代码，都受益于强大的领导力，以及来自“alpha编码者”的团队：当这些项目离开时，项目常常停滞。当研究生离开时，无论他们写的是什么源代码，它们几乎立即消失了：它有点乱，它不会运行在最新的硬件和操作系统上，有一天，不再编译。开源项目有广泛的兴趣，以保持事情在领导程序员离开后。这些类型的观点和论点在许多地方，在开源讨论期间已经做了许多次。还可以做更多的，它们一般适用于OpenCog。 Ben：是的，开源AGI和其他OSS项目之间有许多相似之处。但是似乎还有显着的差异。您认为像OpenCog这样的AGI项目与典型的OSS项目有什么不同？ Linas：在许多方面，OpenCog与典型的OSS项目非常不同。它的目标是弥漫和无定形。它从来没有做过。大多数开源项目开始的思想“我会做，就像上次（或只是像项目X），除了这一次，我会使它更好，更强，我会做的正确。”AGI从来没有做过。 “正确的方式”做到是有争议的。这使得它从根本上研究。它也使得平均软件程序员几乎不可能参与项目。有太多的理论和数学和太多的模糊的出血边缘的概念编织到它允许典型的赢咖4平台程序员跳入和帮助。考虑一个专注于音乐，会计或数据库编程，或3D图形或网络服务的开源项目。有成千上万的程序员或更多，在这些领域的领域专业知识。他们“做了之前”。他们可以跳进一个开源项目，并在几小时内（如果不是几分钟）成为生产力贡献者。经验丰富的AGI程序员的数量是微不足道的。没有池可以画;一个必须是自学的，需要学习的概念是令人生畏的，需要多年的学习。 OpenCog或任何其他开源AGI项目都不会因此而产生开放参与的典型好处。也许OpenCog可能与gcc或LLVM编译器相当：编译理论是非常复杂和神秘，并且几乎需要博士水平的经验，以参与最高水平。另一方面，编译器的理论在课堂上教授，并有关于该主题的教科书。这不能说是AGI。如果OpenCog似乎比一些其他开源项目慢，这是为什么：它是根本困难的。更有意思的是，也许，要问一个开源AGI项目应该与其他项目进行比较？显然，除了OpenCog之外，还有一些其他明显的AGI-ish项目，这些项目或多或少是直接可比的。但是，事情不是呢？赢咖4注册汽车不是AGI项目，但肯定能解决AGI项目感兴趣的许多问题。这样一个项目的资金和开发人员肯定比AGI项目要大得多。自动语言翻译怎么样？ AI化身在视频游戏？这样的项目可能“偶然”发展成为一个AGI项目，通过现金流？当一个有成千上万的付费员工，管理层和高管为某个目标工作时，经常有臭鼬工作，研究性，高风险项目，采取一些饼干天空的赌博追求一些狂野的想法。我个人认为，有一个非常真实的可能性，其中一个领域将发芽一些AGI项目，如果不是很快，然后肯定在未来的几年或十年。泛化AI“问题”只是太商业上有价值，不敢冒险。它会发生。而且，介意你，“胜者全胜”米姆是一个强大的。 Ben：嗯...。我看到你在说什么，但我不得不说我有点怀疑一个狭窄的AI OSS项目“变成AGI”。我倾向于认为AGI将需要大量的工作，具体注重AGI，而不是以应用为中心。特别是考虑OpenCog - 我可以看到，一旦有了更进一步，可以看到一些非常有趣的杂交OpenCog和一些赢咖4平台为重点的OSS项目...我可以看到很多承诺！但是，这将利用OpenCog的工作，这是专门与AGI考虑，不完全在追求某些特定的赢咖4平台的支持。 Linas：我的意思是，大型窄型AI项目的公司可能有小型（秘密/专有）臭氧工程AGI项目。 Ben：是的，这似乎是可信的。但我认为这些都是很少的开源项目，然后一般来说，如果他们没有快速产生戏剧性的成果，他们可能会最终在研究人员的业余时间被丢弃或前进非常缓慢。没有命名任何名字，我知道一对夫妇AGI skunkworks项目在大公司，完全符合这个描述。他们是由伟大的研究人员领导的好项目，但他们没有从他们的主办公司那里得到太多的时间或资源分配，因为他们没有表现出足以快速导致实际结果的承诺。因为他们不是开源，他们不能轻易地利用主机公司以外的AI程序员社区。 Linas：事实上，我对臭鼬项目的经验是，他们不太可能是开源的，不可能看到天光作为产品或产品的一部分;即使一个令人印象深刻的演示或两个创建，即使一些执行显示了它的兴趣一段时间，他们往往干枯和枯燥。偶尔有例外;有时野生的想法证明足够强大，成为一个现实生活的产品。所以我想说的是，任何有超过几十个程序员的公司将有一个秘密懒惰的星期五下午项目，在更大的公司，这些甚至可以成为全时资助项目，2,3,5或6人对他们。他们走了一段时间，如果成功，他们变身。我认为相同的动态发生在狭窄的AI公司，并且一个狭窄的AI公司的工程师可能会采取一些随机刺穿一些模糊的AGI的项目。但没有，没有开源。 Ben：我认为AGI是一个比skunk工作更大的问题，这样就能解决。因此，如果一个大公司不愿意通过其臭氧工程AGI项目进入OSS，那么它将需要大量的员工和资金来实现真正的进步。就我所知，还没有发生。虽然，存在的各种AGI臭鼬项目可能仍然以各种方式间接地提高了现有技术水平。 Linas：是的，Ben：现在让我改变方向。有些人表示担心OSS发展对AGI伦理的影响长期。毕竟，如果AGI的代码在那里，那么它在那里的每个人，包括坏人。另一方面，在OSS项目中，通常也会有更多的人注意代码来发现问题。您如何在平衡上看待OSI对AGI的方法 - 比替代方案更安全或更不安全，为什么？你对这方面的看法有多自信？ Linas：在这里，我们必须将我们的焦点从“今天的AGI”转移到“我们相信AGI将来会是什么”。首先，让我们清楚一点：正如历史所显示的，“坏人”总是比罗宾汉和他的乐队更好地资助，更有组织，更强大。当Robinhood创造物质价值的东西，坏人会找到某种方式让他们的手指;这就是世界的工作原理。我们可以谈论犯罪团伙，腐败的警察，贪婪的公司，流氓外国政府，或者也许最可怕的，间谍机构的妄想失去控制。偏执狂是有道理的;苏联使用窃听来保持人口的控制，纳粹使用信息网络，当前的伊朗政府相当有效地使用共和国卫队，J.埃德加·胡佛在美国行使了一些非凡的权力。没有提到麦卡锡和红色威胁。它发生在所有的时间，它可以发生在任何地方，它可能发生在美国或欧洲。有些人认为，这个滑坡边上的台阶已经走了;由于国土安全，晚上睡眠较少。让我清楚一点：我真的不认为“坏人”会是一些恐怖分子，他们使用开源AGI技术来释放对人类的浩劫。如果有一件事我相信国土安全，那就是抓到恐怖分子。他们可能是昂贵，浪费和冷淡的不守护，但他们（可能）抓住恐怖分子。即使在最乐观的情况下，人们可能想象一个“仁慈的”资本主义公司开发一些先进的技术。资本主义是什么，这意味着“赚钱”，即使它对环境，就业或甚至“良性”地对客户满意有不利影响。苹果完全和完全地规定在苹果应用商店可以找到什么：你不能起诉，你不能上诉，你不能以任何方式强迫他们打开它：没有案例法：你没有权利，应用商店。苹果并不孤单：Facebook泄露了任何信息，Hotmail帐户已经消失了，就像他们从来没有存在过，亚马逊已经从Kindles删除了图书，即使客户已经付费，并且“拥有”他们。 AT＆T默默地，随意地与无保证的窃听。你确定要将AGI的未来委托给这样的球员吗？ Ben：显然我不这样做，这是我对OSS作为AGI发展方式的热烈讨论的原因之一。 Linas：AGI与现代经济的交汇可能会有比这些更为严重的后果。关于AGI最恐怖的事情，对我来说，不是“硬起飞”场景，或“坏人”场景，而是经济错位。在真正的AGI之前，我们是否有可能将工业准AGI重塑经济到破裂和断裂的地步？有一个老的，老的担心，一个“赢咖4将带我的工作”。在美国民间传说中，约翰·亨利的Steeldriver在1840年代失去了以蒸汽为动力的钻机，自那时以来一直在发生。然而，AGI的工业化可能比以前更大，大规模的经济混乱和失业是一个真正的可能性。基本上，我相信，在我们有“真正的AGI”之前，我们将有准AGI，聪明但lobotomized，无感觉和精神，执行各种各样的menial，而不是那么简陋，工业任务。如果一个赢咖4能够以不到5美元/小时的速度工作，人类就会失去这份工作。当赢咖4得到好的一切，每个人都会失去他们的工作。他们不必是“经典的AGI”在那里。这是一个悲剧的不是AGI，而是一个对这种可能性完全没有准备的政治制度。目前关于福利，税收和社会保障的修辞以及目前关于私人财产和财富的法律制度，我认为，对于未来，一个工业化的，近乎完全不同的AGI赢咖4可以做任何事情工作更好，更便宜，比人，而唯一的受益者是业主和CEO。如果你没有大学教育，时代已经很艰难。他们会变得艰难，甚至对于那些谁。 10％的失业率是不好的。 50％的失业率将导致流血，内战和政治反抗，使我们目前在美国知道的民主和法治将不复存在。乐观地说，每个人都会失望。实际上，从这里到那里的所有之前绘制的路径都通过共产主义或独裁统治或两者，我恐怕这两条路径。 Ben：当然，在这些实际的经济影响方面，时间意味着很多。如果是从“准AGI”计划的广泛出现的3年，它解除了80％的人从他们的工作，直到真正人类的AGI的到来，这是一回事。如果是10年，这是另一回事。如果是30年，这是另一回事。但我不知道OSS将如何发挥这一切。一个显而易见的问题是，如果第一个非常强大的准AGI是通过OSS项目而不是比如说一个大公司的专有项目开发的话，那么经济混乱的潜在性是否会更大或更小？或者结果会是基本上一样的方式还是另一种？从概念上讲，如果人们更充分地掌握自己逐渐过时的过程，人们可以做出更好的事情。但是，当然，这可能不仅需要一个开源的准AGI框架，它可能需要一个比现在更广泛的开放和民主的社会。这让我想起了RU Sirius的一个开放源代码聚会的有趣的概念，带来了OSS的一些动态和概念，以及维基解密等主流政治的倡议。很多想想，的确！
