们已进入了 AI （赢咖4）世代，至少我们已进入了热烈讨论 AI 的世代。AI 可以做这，可以做那：在游戏上战胜人类、管理家居、编写维基、写剧本、评论小说……正当大家在担心 AI 会否超越人类，在此以前，还要担心多一项事情，勿要让 AI 成為法西斯的工具。
微软研发员 Kate Crawford 早前成立了专门研究 AI 与社会影响的组织 AI Now，她在上週日的美国 SXSW 大会发表演讲，题為「黑暗日子：赢咖4与法西斯主义的崛起」，解释自动化系统以及预先编写的程式如何有可能遭误用，特别是落入别有用心的人手上。
Crawford 称，在 AI 兴起的同时，民族主义、右翼威权主权与法西斯主义也同时崛起。而以上运动都有共同性质，都是希望集中权力、追踪民眾、妖魔化外人、提倡威权以及不受外力约束。AI 则可以成為助长极权的有力工具。
其中一个重大问题是 AI 的程式难以避免人為偏见，她以上海交通大学一项具争议的研究為例，研究员声称开发了一套程式，可以基於面部特徵预测谁人有机会是罪犯。机器以中国政府的身分证相片来分析罪犯与非罪犯的面貌，从而得出所谓的「关键特徵」，据说以貌取人的準确度高达 89.51 %。
上海交大的研究结果显示，罪犯的面部特徵的确是异於常人。不过 Crawford 解释，法官和警察对於奇异长相的人通常信任度也较低，这就是所谓「编码偏见」，她说：「在独裁者手上，这将会是一套可怕的软件。」科技公司 Faception 声称能按人的面相分析性格，在网页上的介绍显示，中东相貌及留鬍鬚的人属於「恐怖分子」，倾向具侵略性、兇恶、心理不平衡。
另一样令 Crawford 担心的是，AI 或让人有机会用来标籤个别族群。就像歷史上 IBM 曾向纳粹德军提供技术支援，如计算「每日应有多少犹太人从隔离所中消失」的打卡机，及南非种族隔离所用的人口註册表。举例说，假如杜林普希望标示出在美国所有的穆斯林公民，或可利用 Facebook 上的痕跡，如剑桥大学 2013 年的一项研究表示，基於用户在社交网络上的「讚好」某程度可猜测他们的宗教信仰。基督教徒与穆斯林教徒有 82% 的个案可分辨，与分辨用户是民主党还是共和党的结果相若（85%）。
还有一样与政治相关的忧虑是，通过分析大数据，掌握选民喜好和习惯，让社交网络与搜寻广告等宣传攻势更有效，左右关键选民选择。例如各国公投议案中屡屡出现比例相若的结果，对议题没有深入认识，很容易因接收到的有限资讯便决定投票意向。Crawford 担心，这利用心理分析数据来左右人民看法的技术，在未来数年或会完全实现，这是法西斯所梦寐以求的，因此她认為我们有必要让这些 AI 系统更透明及对社会负责。
