Google 所提供的网路服务可能是地球上最大的电脑网路，这套网路拥有15 个仓库大小的资料中心，并分布在4 块大陆上。
你可能觉得这个网路已经够强大，日常使用Google 自家的各种服务完全没有问题，但Google 并不这么认为，Google 的工程师们也不这么想，他们担心这套已经非常庞大的网路有一天会不堪重负。
为了省钱，自己做晶片
大约在6 年前，Google 为其Android 系统加入了新的语音辨识技术，也就是我们熟悉的Google Now 和Google Assistant。
而除了工作就是思考的Google 工程师突然想到，如果世界上每个Android 手机用户每人每天使用Google 的语音搜寻服务3 分钟，那么所需要的资料中心大小至少是现在的两倍之多，如果用户更频繁使用Google 语音服务，那么当前的资料中心将不堪负荷。
此外，Google 当时已经开始研究使用深度神经网路和复杂的数学系统来开发语音辨识服务，这使其语音服务可以透过分析大量数据，来学习一些特定的任务处理能力。而这种机器学习形式，不但重新发明了语音辨识，还促进了图像辨识、机器翻译、网路搜寻等技术的发展，但它对资料处理的能力要求非常严格。
由于使用深度神经网路学习技术，Google 看到机器的辨识错误率下降了25%，但是这种进步需要更强大的资料处理能力，也就是说，需要更多的资料中心。
资料中心不够用，那就多建几座啰？可是建这么多资料中心是要花不少钱的，像Google 这种财大气粗的公司也不是不把钱当钱，精打细算过日子的理智心态也是有的。
因此Google 并没有豪掷千金将资料中心占地面积翻倍，而是专门为执行深度神经网路研制自家的电脑晶片──Tensor Processing Unit，TPU。在TOPS / Watt 测试中，TPU 的性能高于标准处理器30 到80 倍，这个测试结果非常可观。
一颗晶片顶一座资料中心？
Google 在去年5 月首次透露自家这款订制处理器，但并没有透露太多细节。现在，负责TPU 晶片研发的Norm Jouppi 和他的团队发表了一篇文章，详细说明了该计画，并解释了TPU 的执行方式以及对一些特殊问题的解决方案。
Google 的TPU 晶片仅用于执行神经网路服务，只在用户使用Android 手机启用语音指令或搜寻指令时才会运行。由于神经网路拥有自主学习的能力，因此不用特意训练它。但Jouppi 说，TPU 除了能让神经网路自主学习和高速运算外，最重要的是，Google 不需要为担心数据运算能力不足而多建额外15 个资料中心，这样便节省了大量的成本。
外媒Wired认为，TPU将为电脑晶片领域带来重大转变。由于Google、Facebook、微软等网路巨头使用深度神经网路构建其服务的动作越来越多，他们都需要专门的晶片来训练和执行这些AI模型。
但不同的是，Google 在构建自己的晶片，而很多公司还在使用GPU 来解决深度神经网路和人工智慧的问题。
Google 自家晶片的出现，也为电脑晶片市场带来冲击。由于有自己的晶片，Google 不用再购买别家晶片，来适应自己的神经网路和人工智慧架构，而Google 甚至有可能成为TPU 晶片的供应商，因为像Facebook、微软和亚马逊这类公司都是晶片的高级买主。大型的晶片制造商如英特尔等，也正在研发类似的处理器以适应新的市场需求。
适用于多种神经网路模型
此外，Google 这块TPU 晶片可用在当下任何一个深度神经网路中，包括从图像辨识到辨识语音命令的神经网路等。用Jouppi 的话说：
我们并不会因为别人造了新的神经网路架构而把我们这块晶片当垃圾扔掉。
不过Jouppi 也认为，TPU 还有进一步提高性能的空间。如果使用NVIDIA K80 GPU 中存的GDDR5 显存，TPU 便可以提供比Google 当前测试更好的性能。根据Google 当前的测试发现，深度神经网路一些服务性能受内存频宽的限制，而GDDR5 则能解决这些问题。
Google 其实已经在两年前就用到TPU 晶片了，而TPU 晶片除了用于图像辨识和机器翻译，最值得夸耀的事迹，就是去年打败南韩棋手李世乭的人工智慧AlphaGo 了。
TPU 晶片的未来？现在看来，很明朗，而机器学习和人工智慧发展的步伐，或许会因此加快。
