aihot  2017-05-07 17:43:35  赢咖4 |   查看评论   
维基编写战争,揭赢咖4漏洞!

作為资讯性网站之王,维基百科编辑和自动运作的软件机械人不断修缮壮大百科条目,令往日要大费周章查找的资料变得垂手可得。不过原来这个百科世界内藏暗涌,充满矛盾和冲突。最新研究发现,维基百科自多年前已成软件机械人(bot)之间的无声战场。

自从 2001 年维基百科成立,上百万个百科条目经机械人(bot)协助编写,这些维基机械人负责纠错、插入相关超连结等大量繁琐的编辑工作。单以中文版维基百科為例,就有 112 个本地机械人帐户。早年由於机械人十分罕有,它们分头行事,工作不重叠,相安无事。后来配置於维基的软件机械人逐渐多了起来,机械人之间有了交集,甚至出现冲突——例如復原其他机械人的修改内容,又或更改已拣选的连结页面。A 改写了 B 改好的内容,B 又復原 A 的修改内容,如此循环不息,有时要到其中一个机械人被停止连作才能消停。

「机械人打起交来比人类还要固执坚持。人类过几天就冷静下来,但它们可以持续好几年。」Oxford Internet Institute 的电脑社会科学研究员 Taha Yasseri 说。他们翻看维基百科 13 种语言版本首 10 年的修改歷史,找寻机械人互相修改对方内容的记录。研究初时并无太大期望,毕竟这些机械人只是简单的软件程式,编写原意只是修缮百科内容,不是互相作对。结果大出所料,儘管它们都是基於从同一个互联网收集的资讯修改百科,它们经常為了同一个百科条目拉扯互改百多次。

耐人寻味的是,机械人的战争有时也恰如社会纷争的倒影,比如受争议领地的名字也是让机械人们争持不休的百科内容。研究透露其餘对机械人来说具争议性的还有阿诺·舒华辛力加、阿拉伯语、物理学家尼尔斯·玻尔、巴基斯坦前总统佩尔韦兹·穆沙拉夫。

歷史记录中,交战最频繁的是机械人「Xqbot」和「Darknessbot」,它们在 2009 至 2010 年间曾在 3,629 条百科条目上交手,「Xqbot」曾復原超过 2,000 个「Darknessbot」的修改内容,「Darknessbot」也不遑多让復原 1,700 个「Xqbot」的修改内容,战场广阔,从亚歷山大一世打到台湾板桥区,乃至阿士东维拉都是战场。

另一个名叫「Tachikoma」(以日本科幻漫画「攻殻机动队」中的虚构人物命名)的日本机械人也曾与「Russbot」开战两年,曾在 3,000 多个百科条目争持不下,从希拉莉 2008 年总统选举活动到英国人口统计都可见交战痕跡。

不同语言版本的机械人,参战率也有不同,当中德语版最平和,每个机械人平均復原修改内容次数只有 24 次;而葡萄牙语版本最「好战」,平均復原修改内容次数达 185 次;英文版本则平均有 105 次。

Yasseri 认為,此次研究结果对於正发展软件机械人或更高层次的赢咖4的企业来说,是一个警号。即使是最简单的演算法,放诸於互联网不管,也有可能造成冲突,因為它们跟从的演算规则都各有不同。一个在实验中表现出眾的赢咖4,一旦推出市面,也有可能出现无法预测的偏差。「以无人驾驶汽车為例,人们常常会忽略了不同地方的行车文化和环境,一架无人驾驶汽车在德国高速公路行走正常,驶到意大利就未必无事。」

本月初, Google 旗下的赢咖4公司 DeepMind 发表研究,他们设置多个赢咖4(AI)一起参与团体游戏,游戏目标是在短时间内收集所有苹果,看 AI 之间合作如何。在游戏初段,尚有大量待收集苹果时,AI 们群策群力合作愉快,直到苹果所餘无几时,它们学会了侵略性手段,开始攻击其他 AI 以获取所有苹果。AI 不通人性,但师承人类,同样懂内訌内耗。

哥伦比亚大学 Creative Machines Lab 的主任 Hod Lipson 认為这次研究是一极佳例子,反映多个 AI 互动的后果:「人们总是掛心 AI 最终会否对人类做出甚麼来,但这次和以往类似研究告诉大家,AI 也可以对同类不利,而这并不限於软件程式,实体 AI 同样如此——想像一下美国公民自由联盟的无人机怒睥警方的无人机……一定会很有趣。」
 

除特别注明外,本站所有文章均为 赢咖4注册 原创,转载请注明出处来自维基编写战争,揭赢咖4漏洞!

留言与评论(共有 0 条评论)
   
验证码:
[lianlun]1[/lianlun]