（原标题：亚马逊芯片帝国背后的元勋）

要是您但愿不错时常碰头，接待标星储藏哦~

起原：实验编译自彭博社，谢谢。

在一个以匿名公司办公塔为主导的平常的北奥斯汀北部社区中，Amazon工程师正在期间行业最嘻是图的月球界（moonshots）之一：冲破NVIDIA在东说念主工智能市集上的1000亿好意思元市集的掌抓筹码。

亚马逊的功利工程实验室里有一瞥长长的长凳，俯视德克萨斯都门蘑菇郊区。这个处系数点错杂。印刷电路板，冷却电扇，电缆和汇注斥地都散播在多样拼装情景的使命站周围，有些用用于将芯片一语气到使它们过度热过热的组件的热糊中混在一齐。您生机在一家公司的创业公司而不是市值卓绝2万亿好意思元的公司中看到的自举氛围。

在这里使命的工程师莫得思到跑到家得宝上进行钻孔，况兼很乐意在他们的专科规模之外学习科目，要是这么作念会加速事情的速率。几年来，他们从新开动创建机器学习芯片，他们发现我方在钩子上，尽可能快地推出Nvidia Fighter。这与原始马力无关。这是对于构建一个浮浅，可靠的系统，该系统不错赶紧将亚马逊数据中心酿成高大的AI机器。

拉米·辛诺（Rami Sinno）是一位属于黎巴嫩黎巴嫩的工程师，在芯片行业使命了数十年，认真芯片想象和测试。他匡助创建了前两代Amazon AI半导体，当今正急于得回最新的Iteration Trainium2，到本年年底在数据中心可靠地运行。辛诺说：“让我在晚上起床的是，我如何尽快到达那里。”

在夙昔的两年中，Nvidia已从利基碎屑制造商转化为硬件的主要供应商，该硬件大约使生成AI，这使该公司成为环球最大的市集价值。NVIDIA处理器的价钱为数万好意思元，由于需求压倒性，很难掌抓。上周，在陈说收入后，芯片制造商告诉投资者，对其最新硬件的需求将卓绝多个季度的供应，从而加深了紧缩。

NVIDIA的最大客户 - 像亚马逊汇注管事，Microsoft Corp.的Azure and Alphabet Inc.这么的云提供商，渴慕减少其对NVIDIA芯片的依赖（要是不取代）。这三个东说念主都在烹调我方的硅，然而迄今为止，最大的租用诡计才气卖家亚马逊仍是部署了最多的芯片。

在许多方面，亚马逊都位于AI芯片中的力量。十五年前，该公司发明了云诡计业务，然后跟着时刻的荏苒，开动诞生看守它的基础架构。亚马逊镌汰了其对一个现任的依赖，包括英特尔公司，将其数据中心的许多管事器和汇注交换机撕下来，并用自界说的硬件代替了它们。然后，十年前，詹姆斯·汉密尔顿（James Hamilton）是高档副总裁兼了得工程师，具有令东说念主难以置信的时机雄厚，他交谈了杰夫·贝佐斯（Jeff Bezos）制作筹码。

两年前，当OpenAI的Chatgpt启动了Generative AI期间时，亚马逊被往常以为同期也被视为斡旋的脚步，发奋追逐。它尚未制作我方的大型说话模子，该模子与Chatgpt或Claude之类的东说念主被视为竞争，由Anthropic构建，亚马逊仍是投资了80亿好意思元。然而，亚马逊云机械仍是建造了:自界说管事器，交换机，芯片 - 他们已将首席实施官安迪·贾西（Andy Jassy）定位为开设一家AI超市，为思要使用其他型号的企业出售器用AI管事。

经过快要四十年的业务，汉密尔顿知说念将亚马逊的芯片贪图栽种到一个新的水平并阻拦易。想象可靠的AI硬件很难。致使更难的是编写大约使芯片对繁多客户有效的软件。NVIDIA齿轮真的不错告成处理任何东说念主工智能任务。该公司将其下一代芯片运载给包括亚马逊在内的客户，并开动策动从当今起一年后将其告成的居品。行业不雅察家说，亚马逊不太可能很快就会落幕NVIDIA。

尽管如斯，汉密尔顿和亚马逊工程师团队一次又一次地讲解了他们在预算垂危的情况下处分大型期间问题的才气。汉密尔顿说：“ NVIDIA是一家相等相等有才气的公司，从事出色的使命，因此很长一段时刻以来，他们将为许多客户提供一个很好的处分决策。” “咱们强烈以为，咱们不错出产与他们进行toe to toe竞争的居品。”

汉密尔顿在外洋买卖机器公司和微软任职后加入了亚马逊2009年。一个行业偶像汉密尔顿（Hamilton）开动在他的故国加拿大修理豪华汽车，并从54英尺的船上使命，在一个安闲的时刻签下了豪华汽车。亚马逊Web管事仍是在三年前初次亮相，单手创建了一个行业，以称为云诡计管事。AWS很快就会开动扔掉现款，使亚马逊大约进行一些大赌注。

那时，亚马逊诞生了我方的数据中心，但为他们配备了其他公司制造的管事器和汇注交换机。汉密尔顿（Hamilton）率先发奋用管事器替换自界说硬件。由于亚马逊将购买数百万好意思元，汉密尔顿以为他不错通过为收敛增长的数据中心量身定制斥地并遗漏AWS不需要的功能，从而镌汰资本并提高恶果。

这项发奋填塞告成，以至于Jassy（然后是AWS）策动公司可能在里面想象什么。汉密尔顿建议芯片，这些芯片正在吞吃越来越多的其他组件处理的任务。他还建议亚马逊使用为智妙手机提供能源的节能Arm架构，押注该期间的无处不在以及开发商对此的闇练进程越来越大，不错匡助亚马逊取代环球规模内永恒使用的英特尔芯片。

他在2013年8月向贝佐斯提议的一份提案中写说念：“扫数的说念路都导致咱们领有一个半导体想象团队。在西雅图的弗吉尼亚旅店酒吧喝酒。（“All paths lead to us having a semiconductor design team” ）

Bshara是2000年代初期搬迁到旧金山湾地区的以色列芯片行业资深东说念主士，与他东说念主共同创立了Annapurna Labs，他以尼泊尔山岳定名。（BSHARA和一个都集创举东说念主策动在创立初创公司之前先将这座山登顶。然而投资者渴慕他们上班，而且他们从未进行过旅行。）

这家避讳的初创公司入辖下手为数据中心建造芯片，那时大多数行业都固定在手机上。亚马逊托福安纳布尔纳（Annapurna）的处理器，两年后，以3.5亿好意思元的价钱收购了这家初创公司。这是一个有预知之明的举动。

Bshara和Hamilton很小，反应了他们对功利工程的共同感谢。那时，每个数据中心管事器都保留了一部分马力，以运行限制，安全性和汇注功能。Annapurna和Amazon Engineers开发了一张名为Nitro的卡，该卡实足从管事器上吸尘了这些功能，从而使客户不错探询其全部功能。

其后，安纳布尔纳（Annapurna）将汉密尔顿（Hamilton）的Arm通用处理器带入了生计。该居品被称为Graviton，比竞争敌手Intel Gear更低廉，并使亚马逊成为台湾半导体制造公司的10个最大客户之一，该公司为通盘行业出产芯片。

那时，亚马逊也对安纳布尔纳（Annapurna）致使在生疏地区也不错通晓出色充满信心。Bshara说：“您会发现许多公司在CPU中相等出色，或者在汇注上相等好。” “很少有在两个或三个或四个不同规模中精致的团队。”

当Graviton正在开发时，Jassy问汉密尔顿亚马逊可能会作念些什么。2016年底，安纳布尔纳（Annapurna）代表了四名工程师，以探索制造机器学习芯片。这是另一个实时的赌注：几个月后，一群Google探究东说念主员发表了一份始创性的论文，提议了一个不错使生成性AI成为可能的进程。

该论文标题为“Attention is All You Need”，引入了Transformers，这是一种软件想象原则，可匡助东说念主工智能系统识别最伏击的培训数据。它成为系统背后的基本步调，不错对单词之间的关系和从新开动创建文本之间有精致的料想。

大致在这个时候，拉米·辛诺（Rami Sinno）正在奥斯汀（Austin）为Arm Holdings Plc使命，并通过机器东说念主比赛指挥他的学龄男儿。该团队构建了一个使用机器学习算法的应用步调来孔孔盖相片，并检测到夏天按期犯规奥斯汀湖泊的藻类吐花。辛诺（Sinno）雄厚到一场改动行将到来，孩子们对孩子所能作念的事情印象深入。他于2019年加入亚马逊，匡助教导其AI芯片制作使命。

该单位的第一个芯片旨在为称为推理的东西提供能源——当经过识别数据形式的诡计机作念出预测时，举例一封电子邮件是否是垃圾邮件。该组件称为推理，在2019年12月之前推出了亚马逊的数据中心，其后被用来匡助Alexa语音助手谜底大叫。亚马逊的第二个AI芯片Trainium1针对但愿培训机器学习模子的公司。工程师还用组件再行包装了芯片，使其更合适推断，当作扩充。

一开动对亚马逊AI芯片的需求很慢，这意味着客户不错立即探询它们，而不是恭候数周的大批NVIDIA硬件。但愿快速加入AI改动的日本公司愚弄了这种情况。举例，电子制造商Ricoh Co.得回了匡助，将经受英语数据观测的大型说话模子转化为日语。

Annapurna的早期雇员Gadi Hutt涌现，尔后的需求已得到得志。他说：“我莫得任何过多的火车坐在那里恭候客户。” “全部都被使用了。”

Trainium2是该公司第三代东说念主工智能芯片。左证行业的忖度，这是一个或禁闭的时刻。第三次尝试销售填塞的数目以使投资值得，或者它失败了，该公司找到了一条新的说念路。筹码行业的宿将Naveen Rao说：“从字面上看，我从未见过与三代端正相偏离的居品。”

Databricks在10月欢跃将Trainium当作与AWS达成往常左券的一部分。刻下，该公司的AI器用主要在NVIDIA上运行。Rao称，该缠绵是取代与Trainium一齐使用的一些使命，亚马逊涌现，价钱不错为价钱提高30％。Rao说：“这取决于经济和可用性。” “这即是战场的所在。”

Trainium1由八个芯片构成，比肩在一个深钢盒中，可为他们的热量散漫出填塞的空间。AWS向客户租用的好意思满包由其中两个阵列构成。每种情况都充满电线，整都地包装在网状包装中。

对于Trainium2，Amazon说其性能是上一代居品的四倍，存储是上一代的三倍，工程师取消了大多数电缆，而是通过印刷电路板将电信号取代。亚马逊将每个盒子的芯片数目减少到两个，以便在一个单位上实施调治的工程师减少了其他组件。Sinno已将数据中心视为一台巨型诡计机，Nvidia雇主Jensen Huang荧惑了该行业的其余部分遴荐。Sinno说：“在那里简化至关伏击，这也使咱们细目不错更快地走。”

在开动测试新想象的使命旨趣之前，亚马逊莫得恭候TSMC出产Trainium2的使命版块。更姓改物的是，工程师将两个先前一代的芯片固定在板上，使他们就怕刻处理限制软件并测试电气干涉。这是半导体行业，十分于飞机遨游时建造飞机。

亚马逊仍是开动出货Trainium2，该Trainium 2的见解是将多达100,000芯片的群集组合到俄亥俄州和其他处所的数据中心。亚马逊的主要数据中心hub行将推出更往常的推出。

该公司的方针是每18个月大致每18个月将新的芯片推向市集，部分原因是减少必须向外部供应商制造发送的硬件数目。在通盘实验室中，钻机（drill）是亚马逊用于测试烧伤一语气器或想象裂缝的一组示波器。Sinno示意了改日版块仍是进行的使命：在另一个实验室中，在那里，散播电扇酷测试单位，四对管说念从天花板上吊挂。他们当今被封顶，但仍是准备好了改日AWS芯片产生过多热量以至于球迷们冷却的日子。

其他公司也在鼓舞扫尾。NVIDIA将其芯片的需求描述为“荒诞”，他正在鼓舞每年将新的芯片推向市集，这是一种轮回，导致其行将到来的Blackwell居品引起出产问题，但会给业内其他地区带来更大的压力朝上。同期，亚马逊的两个最大的云竞争敌手正在加速我方的芯片缠绵。

Google大致在10年前开动诞生AI芯片，以加速其搜索居品背后的机器学习使命。其后，该公司向云客户提供了该居品，包括Anthropic，Cohere和Midjourney等AI初创公司。最新版的芯片展望将在来岁往常使用。4月，Google推出了其第一个CPU，雷同于亚马逊的Graviton。Google副总裁Amin Vahdat说：“通用诡计是一个相等大的契机。”他说，最终方针是使AI和一般诡计芯片无缝地使命。

微软比AWS和Google晚了数据中心芯片游戏，他们本年告示了一个名为Maia的AI加速器和一个名为Cobalt的CPU。像亚马逊通常，该公司仍是雄厚到，它不错通过针对数据中心量身定制的硬件为客户提供更好的性能。

当作微软的VP，拉尼·博卡（Rani Borkar）在英特尔（Intel）呆了近三十年，他教导了这项使命。本月早些时候，她的团队向微软的投资组合中添加了两种居品：安全芯片和一个数据处理单位，可加速CPU和图形处理单位或GPU之间的数据流。Nvidia销售雷同的居品。微软一直在里面测试AI芯片，并刚刚开动将其与NVIDIA芯片机队一齐使用，以便客户不错使用OpenAI模子来创建应用步调。

固然微软的发奋被以为逾期亚马逊几代，但博尔卡说，该公司对结果感到闲适，并正在探究其芯片的更新版块。她说：“东说念主们从那处开动都不紧要。” “我的要点是：客户需要什么？因为您可能会最初，然而要是您正在建造客户不思要的造作居品，那么硅的投资是如斯高大，以至于我不思成为那本书的一章。”

尽管他们竞争横暴，但扫数三个云巨东说念主都会在新芯片（如布莱克韦尔（Blackwell））上市时盛赞Nvidia。

要是亚马逊的Trainium2与Big AWS客户偶尔的神志一齐进行了更多的里面AI使命，则可能会被以为是告成的。这将有助于开释亚马逊为挑升的AI outfits提供可贵的高端NVIDIA芯片供应。为了使Trainium2成为unqualified hit，工程师将不得不正确完成该软件 - 这是不小的豪举。NVIDIA从其整套器用的全面性中得回了很大的上风，该器用的全面性使客户真的莫得定制就不错在线得回机器学习神志。比较之下，亚马逊的软件称为Neuron SDK，还处于起步阶段。

一位亚马逊和芯片行业的老兵说，即使公司不错将神志移植到亚马逊，但检讨切换莫得禁闭任何东西都不错消耗数百个小时的工程师的时刻。AWS互助伙伴的别称高管匡助客户进行AI神志（也条目匿名的客户）说，尽管Amazon告成地使其通用的Graviton芯片易于使用，但AI硬件的潜在用户仍然会加多复杂性。

Gartner Inc.的副总裁Chirag Dekate说：“ NVIDIA主导了Nvidia的原因。” “您毋庸驰念这些细节。”

因此，亚马逊寻求匡助 - 荧惑大客户和互助伙伴在与AWS达成新的或更新的交往时使用其芯片。这个思法是要让顶端的团队运行其芯片并找到纠正的区域。

这些公司之一是Databricks，该公司展望亏本数周或几个月的时刻启动和运行，但抖擞付启航奋，但愿承诺精辟资本大约已毕。AI初创公司和OpenAI竞争敌手东说念主类，前年经受了40亿好意思元的亚马逊资金后，欢跃将Trainium 芯片用于改日的开发，尽管它也使用了Nvidia和Google居品。周五，Anthropic告示了亚马逊的另外40亿好意思元的注入，并加深了互助伙伴关系。

“亚马逊Trainium 芯片的价钱绩效给咱们留住了深入的印象，” Anthropic首席诡计官汤姆·布朗（Tom Brown）说。“咱们一直在稳步扩大它们在日益往常的使命量中的使用。”

汉密尔顿说，拟东说念主化正在匡助亚马逊赶紧改善。然而他对挑战清晰了眼睛，称创建出色的软件是“强制性的”，使客户不错摧折使用AWS芯片。他说：“要是您不弥合复杂性差距，您将失败。”

https://www.bloomberg.com/news/features/2024-11-24/amazon-plans-to-rival-nvidia-with-its-own-ai-chips?srnd=phx-technology

半导体极品公众号推选

专注半导体规模更多原创实验

关怀环球半导体产业动向与趋势

*免责声明：本文由作家原创。著述实验系作家个东说念主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或相沿，要是有任何异议，接待关联半导体行业不雅察。

今天是《半导体行业不雅察》为您共享的第3957期实验，接待关怀。

『半导体第一垂直媒体』

实时 专科 原创 深度

公众号ID：icbank

心爱咱们的实验就点“在看”共享给小伙伴哦