12月30日，腾讯宣布其赢咖4球队摘得首届谷歌足球Kaggle竞赛冠军。该冠军球队来自腾讯AI Lab研发的绝悟WeKick版本，凭借1785.8的总分在与全球顶级技术团队的竞技中以显著优势胜出。神韵炭雕
今年11月底，腾讯AI Lab与王者荣耀联合研发的策略协作型AI绝悟升级为完全体，首次让AI精通了所有英雄的所有技能。此次绝悟WeKick版本的整体设计正是基于绝悟完全体迁移得到，并针对足球任务进行了一些针对性的调整，展现了绝悟AI背后深度强化学习方法的通用能力。
▲Kaggle 竞赛 Google Football 排行榜前十名
Kaggle创立于2010年，是全球最大的数据科学社区和数据科学竞赛平台。此次足球AI比赛由Google Research与英超曼城俱乐部在Kaggle平台上联合举办。
一直以来，足球运动团队策略以其复杂性、多样性和高难度，成为长期困扰世界顶尖AI研究团队的难题，更加稀疏的游戏激励也使得其成为比MOBA游戏更难攻克的目标。今年Kaggle首次针对足球AI领域发布赛题，为深度强化学习多智能体技术竞技和基准评测提供了一个全新舞台。
比赛使用Google Research Footbal强化学习环境，基于开源足球游戏Gameplay Football开发，采取11vs11的赛制，参赛团队需要控制其中1个智能体与10个内置智能体组成球队，兼具挑战性和趣味性。一经推出，便吸引了来自世界顶级院校和研究机构的1100多支科研强队参与挑战。
“11 个强化学习智能体的合作与对抗”
Google Football(on Kaggle)以流行的足球游戏为模型，就像是一款由AI操作的FIFA游戏，智能体控制足球队中的一个或所有足球运动员，学习如何在他们之间传球，并设法克服对手的防守以进球。其竞赛规则与普通足球比赛类似，比如目标都是将球踢入对方球门以及越位、黄牌和红牌规则。
不同于常见足球视频游戏的统一调控式NPC球队，在本次Kaggle竞赛中，每个球员都各由一个单独的智能体控制，而参赛的AI模型则根据比赛情况控制其中一个智能体，与其他10个内置智能体配合。这要求每个球员不仅需要观察对手的行为，还需要留意己方队员的情况，背后需要非常复杂的团队协作和竞争策略作为支撑。
▲WeKick（黄色球衣） vs SaltyFish（本次竞赛第二名）近期的一局比赛实录（射门）
举个例子，当对方球员控球时，己方智能体不仅要根据球场上双方球员的分布位置预测控球球员的下一步动作，还需要与己方其他球员协同如何合规地夺取足球的控制权。且由于球场动态瞬息万变，因此高速的实时决策能力也是必需的。
此外，从零开始完全采用强化学习方法来训练完整的足球AI实际上也相当困难。与MOBA游戏中不断有经济、血量、经验等实时学习信号不同，足球的游戏激励非常稀疏，基本只能依靠进球，而稀疏激励一直是目前强化学习一大难题。
绝悟AI如何走上冠军之路
得益于深度强化学习在游戏领域突飞猛进的发展，从Atari游戏到围棋再到多种不同的视频游戏，AI智能体在不断的迭代演化中变得越来越强大，而足球运动团队策略的难关也得以被攻克。神韵炭雕
绝悟WeKick版本首先采用了强化学习和自博弈（Self-Play）来从零开始训练模型，并部署了一种异步的分布式强化学习框架。虽然该异步架构牺牲了训练阶段的部分实时性能，但灵活性却得到显著提升，而且还支持在训练过程中按需调整计算资源，使其能适应 11 智能体足球游戏训练环境。
由于MOBA游戏和足球游戏任务目标的差异，绝悟WeKick版本采用了生成对抗模拟学习（GAIL）与人工设计的奖励结合，在特征与奖励设计上进行了扩展和创新。该方案利用了生成对抗训练机制来拟合专家行为的状态和动作分布，使得绝悟WeKick版本可以从其它球队学习。然后，再将 GAIL 训练的模型作为固定对手进行进一步自博弈训练，进一步提升策略的稳健性。
▲GAIL 的优势（WeKick 的奖励设计综合了 Reward Shaping 和 GAIL 两种方案）
但这种通过自博弈强化学习得到的模型有一个天然的缺点：很容易收敛到单一风格。在实际比赛的时候单一风格的模型很容易发生由于没见过某种打法而表现失常，最终导致成绩不佳的情况。因此，为了提升策略的多样性和稳健性，绝悟还采用了针对多智能体学习任务的League（若干策略池）多风格强化学习训练方案。
这种League多风格强化学习训练方案的主要流程可简单总结为先专精后综合。
