（原标题：谷歌自研芯片的10年）
要是您但愿不错世俗碰头，宽贷标星保藏哦~
开头：本色由半导体行业不雅察（ID：icbank）编译自谷歌，谢谢。
就在十多年前，一群 Google 职工发现，该公司对 AI 计较的需求将高出咱们那时的基础情势。这一发现是在酌量团队运转厚爱议论在 Google 的天下范围内推出语音识别功能时发现的。
谷歌首席科学家 Jeff Dean 在采纳采访时示意：“咱们作念了一些鄙俗的计较，望望每天处理数亿东谈主与谷歌对话三分钟需要若干计较量。”“在今天看来，这似乎不算什么。但在那时，咱们很快结实到，这基本上需要谷歌部署的扫数计较材干。换句话说，咱们需要将谷歌数据中心的计较机数目增多一倍来支执这些新功能。”
“咱们以为详情有更好的标准。”
该团队酌量了市集上存在的不同标准，但最斥逐识到它们以致无法得志咱们居品所运行的那些基本机器学习责任负载的强大需求——更无谓说改日几年可能出现的需求了。
谷歌的辅导结实到咱们需要一种全新的芯片。因此，一个依然在探索定制硅片想象的团队招募了来自其他机器学习团队的谷歌职工，并为最终成为咱们第一个张量处理单位（TPU）的芯片奠定了框架。
单一、明确的方针
中央处理器 (CPU) 被想象为计较机的全能通用“大脑”，而 GPU 那时是特意想象用于与 CPU 协同责任以加快图形、视频渲染和模拟中的复杂任务的专用芯片，而 TPU 则是专为 AI 而想象的。TPU 是一种专用集成电路 (ASIC)，这种芯片专为单一特定方针而想象：运行构建和运行 AI 模子所需的独到矩阵和基于矢量的数学运算。
咱们的第一款此类芯片 TPU v1 于 2015 年在里面部署，独立即在 Google 不同部门引起热议。
“咱们正本筹划建树不到 10,000 个这么的系统，”咱们的机器学习硬件系统首席工程师 Andy Swing 说谈。“但最终咱们建树了高出 100,000 个，以支执各式出色的居品，包括告白、搜索、语音名堂、AlphaGo，以致一些自动驾驶汽车居品。”
在而后的十年中，TPU 的性能和收尾不停高出，并逐渐成为谷歌险些扫数居品的 AI 营救。
图片开头于谷歌
Trillium 是咱们的第六代 TPU，它提供了更刚劲的功能和更高的收尾，不错匡助咱们闇练下一代顶端 AI 模子。
在本年的 I/O 大会上，咱们发布了下一代 TPU - Trillium，它解锁了十年前咱们的第一款 TPU v1 芯片推出时咱们险些无法念念象的新功能。
TPU 还支执着 Google DeepMind 的顶端基础模子，包括新推出的 Gemini 1.5 Flash、Imagen 3 和 Gemma 2，鼓舞了 AI 的发展。Trillium TPU 的每芯片计较性能栽培了 4.7 倍以上（与上一代 TPU v5e 比较），匡助咱们得志更先进的 AI 系统的需求。
紧跟东谈主工智能革命
咱们的 TPU 的发展与咱们在机器学习和 AI 方面的革命笼统联系。TPU v1 专注于推理 — 匡助模子更快地完成任务。但很快，只是领有快速运行 AI 模子的基础情势就不够了；咱们还需要大略更灵验地闇练新模子。
“2014 年末，在制造 TPU v1 时，咱们结实到闇练材干是坐蓐模子的收尾要素，”副总裁兼工程酌量员 Norm Jouppi 示意。“东谈主们以为闇练芯片的制造太复杂了……是以咱们决定制造一台闇练超等计较机。”
这款闇练超等计较机等于 TPU v2，它选拔了咱们原有 TPU 芯片的麇集硬件标准，并将其延长为更大的超等计较系统。“咱们的一大重心不仅是打造一台闇练机器的经济可行性，并且还要达成边界化。因此，咱们打造了一台互联机器——咱们的第一台 TPU pod——256 个 TPU 芯片通过带宽极高的定制互联贯串在沿路，信得过为闇练模子提供了刚劲的马力，”Swing 说谈。
图片开头于谷歌
TPU v2（以及咱们后续的硬件代）的一个关节打算是在特意想象用于闇练的硅片想象与做事于现代模子之间取得均衡，同期仍保执实足的天真性以应酬快速变化。“咱们不知谈 2-8 年后模子会是什么神态，但咱们知谈它们将基于张量数学，”Jouppi 说。“因此，最佳祛除临了 10-20% 的优化，以免加快器过度专科化并在一年后过期。”
从那时起，咱们以越来越快的节律发布了新的 TPU 芯片和系统，扩大了 TPU 舱的尺寸以容纳越来越多的芯片，并在性能、收尾和处理材干方面取得了进一步的飞跃。TPU 所选拔的技能变得愈加复杂：举例，TPU v3 增多了液体冷却以匡助得志收尾需求，而 TPU v4 引入了光路开关，使舱中的芯片大略更快、更可靠地通讯。而这一切也带来了新的挑战。
“举例，在 TPU v2 或 TPU v3 中，咱们不必太挂念贯串每个芯片的电缆的迂曲半径，”Swing 说。“但关于最新一代，要是你莫得正确布线，它们就无法再责任，因为它们处理的数据传输速率太快了。”
共享爱
在早年寻求更好标准来开导和运行东谈主工智能模子的并非唯有谷歌一家。
“我在 2012 年与他东谈主共同创办了一家机器学习初创公司，为了以低老本赢得咱们所需的计较材干，我的集结首创东谈主会在网上购买二手游戏 GPU，然后在咱们的咖啡桌上搭建做事器——咱们运行 GPU，然后掀开微波炉，这时电源就会断掉，”加入谷歌后创立 Cloud TPU 名堂的 Zak Stone 说谈。“因此，当我在 2016 年加入谷歌时，第一款 TPU 刚刚在 I/O 大会上亮相，我就知谈咱们必须找到一种标准，将 TPU 看成 Google Cloud 的基础情势。”
到 2018 年头，一个小团队推出了第一代 Cloud TPU，以匡助 Google Cloud 客户加快我方的闇练和推理责任负载。如今，Anthropic、Midjourney、Salesforce 和其他驰名 AI 团队齐在无数使用 Cloud TPU。总体而言，高出 60% 赢得资助的生成式 AI 初创公司和近 90% 的生成式 AI 独角兽齐使用 Google Cloud 的 AI 基础情势，包括 Cloud TPU。
图片开头于谷歌
扫数这些处理材干仍只是个运转。
“咱们选拔 TPU 和 pod 诞生的处所最稳妥咱们那时数据中心的材干，但现时咱们正在蜕变咱们的数据中心想象，以更好地得志需求。因此，今天准备的贬责决策与未来的贬责决策迥然相异，”Swing 说。“健忘单个芯片或单个 TPU pod 吧——咱们正在构建一个充满 TPU 的天下数据中心辘集。改日是从硅到混凝土的全栈定制。”
https://cloud.google.com/transform/ai-specialized-chips-tpu-history-gen-ai?hl=en
点这里加柔软，锁定更多原创本色
*免责声明：本文由作家原创。著作本色系作家个东谈主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或支执，要是有任何异议，宽贷筹划半导体行业不雅察。
今天是《半导体行业不雅察》为您共享的第3844本色，宽贷柔软。
『半导体第一垂直媒体』
及时 专科 原创 深度
公众号ID：icbank
心爱咱们的本色就点“在看”共享给小伙伴哦j9九游会官方
