设计工具
应用程序

推动生态系统内的创新

拉里·哈特| 2024年3月

借助人工智能数据中心解决方案,我们的合作伙伴正在塑造未来


技术领域在不断发展, 我们很荣幸能与业内一些最具创新性和影响力的合作伙伴合作. 它们是生态系统的支柱, 我们正在交付的沙巴体育结算平台,共同工作,做惊人的事情. 你可能已经知道了, 数据中心市场正在经历一场巨大的变革, 受人工智能应用和服务需求不断增长的推动. 这个博客里的信息都是公开的,所以我在脚注了出处.

我们的生态系统合作伙伴正在提供令人惊叹的技术, 也许弹弩, 转发各种AI工作负载, 比如自动医疗诊断, 无人驾驶车辆, 个性化娱乐推荐, 智能家居管理, 天气预报, 我的最后一个作品是人工智能生成的艺术. 现在谁能没有它活下去呢? 因此,让我们在我专注于AI的数据中心处理器和加速器时深入了解. 
 

外面发生什么事了?


英伟达:
如果你没注意的话, 英伟达已迅速成为世界上最有价值的公司之一. 就在过去的一年里, 其股价已上涨超过230%, 其市值略低于2万亿美元(截至2月8日收盘). 26, 2024). NVIDIA是数据中心加速器的先驱,提供多种风格的gpu. 最新的数据中心沙巴体育结算平台是H100. 与上一代的A100相比,H100的人工智能训练速度可提高9倍,人工智能推理速度可提高30倍1 之前很多人认为A100是一款高性能的GPU. 我们用A100做了自己的测试, 在一个工作负载测试中,我们在特征聚合方面展示了超过100倍的改进, 通常是人工智能训练中最长的部分, 使用NVIDIA的大加速器内存技术. 需要证明? 请阅读我们2024年1月沙巴体育安卓版下载美光9400 NVMe固态硬盘的博客.2

H100将改变生成式人工智能的游戏规则, 据报道,英伟达有大量积压的供应, 所以祝你好运. H200已经发布,并承诺会有更大的性能改进.3 这是第一个使用HBM3E的GPU,值得注意的是,美光是供应商之一.4 但别忘了,英伟达也在打造名为DGX的人工智能服务器. 这些服务器提供了巨大的计算能力, DGX H100提供了令人瞠目的每秒32千万亿次浮点运算! 如果你还不知道的话, 英伟达每年举办一次名为“全球技术大会”的会议, 简称GTC. 下次会议是在几周后, 我相信会有一长串下一代的研发成果被公布出来. 请务必在3月18日周一下午1-3点观看Jensen Huang的主题演讲.m. PT. 

英特尔:  英特尔, 该公司首席执行官帕特•盖尔辛格表示, 他的使命是“让人工智能无处不在”,并为此经历了重大转变. 据报道,该公司已与英伟达签署了一项包装协议,5 对外提供代工服务,6 并正在精简业务,专注于最重要的市场. 英特尔在数据中心处理器领域是公认的领导者, 提供一系列支持人工智能工作负载的沙巴体育结算平台, 比如Xeon可扩展处理器. 该公司最近发布了第五代至强Emerald Rapids处理器,距离上一代处理器发布仅一年. 滴答滴答,如果你明白我的意思? 如果你不知道, 我的意思是从一个处理器到下一个处理器的快速转换, 这也是英特尔著名的“滴答”策略的一种体现. 😊英特尔告诉我们的, 翡翠急流, 每个核心都内置了AI加速, 帮助他们将图像分割速度提高42%,图像分类性能提高24%, 人工智能推理的显著改进.7

接下来是什么? 英特尔已经公开谈到了花岗岩急流城,它将有2个.DeepMD+LAMMPS AI推理好9倍.8

虽然它现在在加速器和GPU领域占有很小的份额, 英特尔也参与了这一领域. 该公司计划在2024年推出下一代高迪®3 . AI加速器;8 它是2019年收购哈瓦那实验室(Habana Labs)的产物. 预计它将与NVIDIA的H100和AMD的MI300X竞争. 在这个沙巴体育结算平台之后, 英特尔计划明年整合其加速器和GPU沙巴体育结算平台线, 带着代号为猎鹰海岸的沙巴体育结算平台.8 公开的细节很少, 但明年有望成为加速器/GPU细分市场的有趣一年.

AMD公司: AMD是数据中心处理器领域的另一个领导者——有些人可能会说另一个领导者, 提供高性能的EPYC处理器, 可伸缩性, 以及人工智能应用的安全性. 在AMD测试中, 该公司在一代又一代的模拟人工智能工作负载测试中显示出显著的进步. 在这个博客中,9 拉Nambiar, AMD数据中心生态系统和解决方案公司副总裁, 提供了与EPYC 4相关的一些见解th 创 vs . 3rd 创. ResNet-50结果? 超过三倍的改进. BERT-Large? 提高了四倍多. Yolo v5意思? 好吧,真正的问题是这个缩写是什么意思? 你只看一眼. 在这种情况下,除以1.提高7倍. 该系列针对各种工作负载进行了优化,不仅在通用计算方面表现出色,而且在人工智能推理方面也表现出色. 公众对AMD的人工智能路线图知之甚少, 但首席执行官苏莉萨, 说, “我们对在人工智能领域的机会感到非常兴奋. 这是我们的No. 1战略重点, 我们正在与我们的客户深入合作,为市场带来联合解决方案.”10

用于人工智能训练, 配备AMD Instinct加速器的服务器可以改善这一过程, 确保有效的模型参数优化. 在油门前面, AMD通过将最近发布的AMD Instinct™MI300系列与NVIDIA的H100系列进行直接比较,揭开了与NVIDIA的GPU竞争的面纱. 最佳性能? 1.人工智能的teraflop性能提高了3倍!11 在今天的数据中心,仅仅是快是不够的. 你必须注意能源效率,因为电力是昂贵的. 值得注意的是, AMD EPYC和/或AMD Instinct加速系统目前为全球十大最节能超级计算机中的八个提供动力.12

安: Ampere是数据中心处理器领域的新手, 哪些是第一个为人工智能和云工作负载设计的基于arm技术的云原生处理器. 其主流Ampere Altra处理器具有多达128个arm内核,并提供高性能, 数据中心应用的电源效率和可扩展性. 举个例子, 安培显示,在计算机视觉工作负载方面,其Altra Max的性能比英特尔冰湖和AMD米兰高166%.13 在另一项自然语言处理(NLP)测试中, Altra Max比Ice Lake高73%,比Milan高56%.14

2023年5月, 安培推出了用于云数据中心的AmpereOne处理器,该处理器提供业界领先的192核.15 该公司还声称, “AmpereOne平台非常适合各种系统配置,为大容量存储提供最高性能, 网络, 人工智能推理, 以及最新的生成式人工智能模型和应用.”15 随着人工智能需求的激增, 该公司认为传统的gpu可能会过度使用,特别是在推理方面, 过度消耗权力和金钱.16 因此,它提供了广泛的节能解决方案组合. 安培不是加速器/GPU市场的参与者. 

游戏中还有其他人吗? 那还用说! 许多hyperscalers, 例如, 是否专门为他们的工作负载定制了自己的处理器和加速器. 这种定制可能使他们在云市场上比其他公司更有优势.
 

协作是关键!


我们与这些合作伙伴合作,以生产更好的沙巴体育结算平台,并确保它们共同发挥最佳作用. 如果你想知道为什么一个硅或加速器提供商可以有惊人的结果,而另一个显示不同的令人印象深刻的结果, 你并不孤单. 这是因为针对这些技术做出了不同的设计决策, 这种情况通常会影响在特定设备上运行的特定工作负载所获得的结果. 

所以,就像我爸爸曾经说过的,“你需要合适的工具来完成这项工作.“我们对这些工作负载进行了广泛的测试,以帮助您选择适合工作的工具, 我们在美光的数据中心存储洞察网页上发布了许多结果.

也, 如果你还没看过的话, 我们有一个网页,专门介绍我们与生态系统合作伙伴的工作. 这个页面 通过严格的测试标准显示我们作为存储提供商与他们进行互操作. 我们的合作伙伴正在通过他们在人工智能方面的突破改变技术格局, 我们期待着看到他们的沙巴体育结算平台如何影响这个行业和我们的世界. 这将是一段激动人心的旅程!

当我计划写沙巴体育安卓版下载我们不断发展的生态系统的其他发展时,请尽快回来.

Sr. 解决方案营销总监

拉里·哈特

担任美光存储事业部解决方案营销高级总监, 拉里·哈特致力于创造和营销有影响力的技术解决方案. 具有多方面的定价背景, 沙巴体育结算平台营销, 海外市场营销, 沙巴体育结算平台管理, 生态系统发展, 他领导我们的战略努力,在我们的生态系统中推动更好的技术协调, 用客户的声音传达我们的解决方案, 为我们的客户提供最大的商业价值.