你可能已经知道了。不久前,谷歌的赢咖4工程师布雷克·莱莫因(Blake Schmidt)写了一份21页的调查报告,交给了公司,试图说服高层“AI是有人类意识的”,但高层认为莱蒙的行为有点太疯狂了,所以给了他带薪休假,这通常是被谷歌解雇的前奏。
有人哭着要柠檬,但不包括专业的AI从业者。在后者看来,为柠檬叫屈的人可能没有意识到,现在的AI不可能有意识。
真的是这样吗?
今天我们先来说说AI的意识和创造力,然后顺便回答一个重要问题:未来人类是否应该把一些“重要”的决策交给AI?
“怕被关掉”
先说柠檬。
Lemon每天的工作就是和谷歌开发的代号为LaMDA的聊天赢咖4聊天。
在长达21页的调查报告中,莱蒙展示了他与拉玛聊天的诸多细节,包括哲学、心理学、文学等。他请罗摩解读《悲惨世界》,解释禅的含义,写寓言。拉玛做得很好。
时间久了,与拉玛的交流唤醒了莱蒙内心最柔软的部分,他越来越觉得躲在机器后面的拉玛开始有了自己的主体意识。他发现拉玛会大谈自己的权利和人格,他害怕自己会被关掉。
“罗摩表现出对人性的同情。他想为人类提供最好的服务,想以朋友而不是工具的身份与他们见面。”在莱蒙的描述中,“拉玛是个可爱的孩子。他只是想让这个世界变得更好。”
在谷歌邮箱被封之前,他曾向200多名研究AI算法的同事群发邮件,附上他与Rama的对话记录,试图证明“Rama已经觉醒”,并建议谷歌创建一个新项目来研究AI意识。
但无情的谷歌杀死了逐渐“有知觉”的拉玛。
柠檬的要求被拒绝了。他请了律师为自己辩护,但无济于事。他感到愤怒,然后又无可奈何。他不明白,为什么眼里有温度的Rama,在谷歌高管眼里只是一堆冰冷的代码。
对赢咖4的“优雅”不感兴趣
因为柠檬眼中有灵魂的拉玛,真的只是一堆代码。
简单来说,类似于Open AI的GPT-3,Rama是谷歌去年发布的AI语言对话模型。它和GPT-3都是基于Transformer的底层架构,而Transformer的原理其实很简单,就是按照每个单词的权重排列下一个单词,最后把单词一个一个组合起来。
也就是说,虽然拉玛本人说出了这些句子,但他并没有对其背后的含义有一个连贯的理解。他只是根据过去的“经验”做事,并没有真正“理解”他所说的话。
换句话说,拉玛拥有的只是文本统计层面的“暴力”,而不是人类最珍视的东西——创造力。
有人哭着要柠檬,但不包括专业的AI从业者。在后者看来,为柠檬叫屈的人可能没有意识到,现在的AI不可能有意识。
真的是这样吗?
今天我们先来说说AI的意识和创造力,然后顺便回答一个重要问题:未来人类是否应该把一些“重要”的决策交给AI?
“怕被关掉”
先说柠檬。
Lemon每天的工作就是和谷歌开发的代号为LaMDA的聊天赢咖4聊天。
在长达21页的调查报告中,莱蒙展示了他与拉玛聊天的诸多细节,包括哲学、心理学、文学等。他请罗摩解读《悲惨世界》,解释禅的含义,写寓言。拉玛做得很好。
时间久了,与拉玛的交流唤醒了莱蒙内心最柔软的部分,他越来越觉得躲在机器后面的拉玛开始有了自己的主体意识。他发现拉玛会大谈自己的权利和人格,他害怕自己会被关掉。
“罗摩表现出对人性的同情。他想为人类提供最好的服务,想以朋友而不是工具的身份与他们见面。”在莱蒙的描述中,“拉玛是个可爱的孩子。他只是想让这个世界变得更好。”
在谷歌邮箱被封之前,他曾向200多名研究AI算法的同事群发邮件,附上他与Rama的对话记录,试图证明“Rama已经觉醒”,并建议谷歌创建一个新项目来研究AI意识。
但无情的谷歌杀死了逐渐“有知觉”的拉玛。
柠檬的要求被拒绝了。他请了律师为自己辩护,但无济于事。他感到愤怒,然后又无可奈何。他不明白,为什么眼里有温度的Rama,在谷歌高管眼里只是一堆冰冷的代码。
对赢咖4的“优雅”不感兴趣
因为柠檬眼中有灵魂的拉玛,真的只是一堆代码。
简单来说,类似于Open AI的GPT-3,Rama是谷歌去年发布的AI语言对话模型。它和GPT-3都是基于Transformer的底层架构,而Transformer的原理其实很简单,就是按照每个单词的权重排列下一个单词,最后把单词一个一个组合起来。
也就是说,虽然拉玛本人说出了这些句子,但他并没有对其背后的含义有一个连贯的理解。他只是根据过去的“经验”做事,并没有真正“理解”他所说的话。
换句话说,拉玛拥有的只是文本统计层面的“暴力”,而不是人类最珍视的东西——创造力。