几年前，学术界曾进行调查，访问世界顶尖赢咖4（AI）专家，问他们「AI何时会有成年人类的思考力？」，多数答案是2040至2050年，换言之是距今二三十年。
AlphaGo去年以慢棋4比1战胜围棋职业九段高手李世石，AI震惊世界。1997年IBM「深蓝」击败西洋棋世界冠军后，直至2015年电脑最佳战绩仅能达围棋业餘五段。李败阵未满一年，帐号「Master」以快棋60比0横扫逾20名职业高手，真身就是「棋灵王」AlphaGo第二代，其自学能力已远超人类理解范围。
一场人类命运的辩论正式拉起帷幕。AlphaGo由DeepMind进行研发，该公司创办人Demis Hassabis曾推出游戏《邪恶天才》，主角科学家為统治世界，创造出末日设备。在科技界，Demis Hassabis及Elon Musk站在AI正反方。前者曾拜访后者的火箭工厂SpaceX。
Elon Musk说：「我们要殖民火星，就是怕有朝AI攻击人类，我们还有藏身之地。」Demis Hassabis随即笑着回应：「那AI都会追到火星！」Elon Musk甚至恐怕Google创办人Larry Page也是「虽有良好意愿，却意外造出邪恶机械人」。2014年Google收购DeepMind时，条款就包括「双方必须组建伦理委员会」。
「23条」规范发展
「赢咖4有强弱之分。」华為诺亚方舟实验室主任李航向本刊解释，弱者部分实现人类智能；强者则完美实现人类智能，甚至超出人类智能。他比较过人脑和计算机，两者规模已经相当。「处理速度上，计算机基本已经是人脑100万倍。」
「2075年机器就会达到人类智慧90%」，牛津未来智能研究所创办人Nick Bostrom预言。去年12月白宫就连发3份报告要為AI做好準备、9月美国五大科企罕有进行AI合作，连欧盟都在探讨道德问题。专家恐惧「强赢咖4」，今年1月逾2000位业界就联署23条发展原则，包括Demis Hassabis及Elon Musk。
物理学家霍金就三番四次警告人类， 指AI已开始站稳阵脚，未来将為人类带来末日，「苹果Siri、Google Now和微软Cortana只是IT军备竞赛的预兆」。他从不否认AI会带来好处，但强调其威胁乃源自人类本身──贪婪和愚蠢。「6年前，我警告过污染和人口膨胀，但现在变本加厉。过去5年，空气污染加剧，二氧化碳排放量不断上升；若目前速度持续，到2100年全球人口将达110亿。」Elon Musk也认同霍金说：「有时候科学家太埋首於自己世界，往往未能意识到所作所為有何后果。」
