亚马逊云AWS推出新一代自研芯片和AI聊天机器人,加强与英伟达的合作

亚马逊云计算业务AWS在本周二的年度大会re:Invent上发布了一系列新产品和服务,展示了其在云计算和人工智能领域的创新能力和领先地位。AWS推出了新一代的通用芯片Graviton4和AI芯片Trainium2,以及基于生成式AI技术的聊天机器人Q。同时,AWS还宣布了与英伟达的深入合作,将在云上部署英伟达的最新超级芯片Grace Hopper,提供更强大的AI计算能力和服务。

亚马逊云AWS推出新一代自研芯片和AI聊天机器人,加强与英伟达的合作

Graviton4是AWS自研的第四代通用芯片,其计算性能较前代提高多达30%,内核增加50%,内存带宽提升75%。Graviton4还通过对所有高速物理硬件接口进行完全加密提高安全性。Graviton4将应用于内存优化的Amazon EC2 R8g 实例,让客户能改进高性能数据库、内存缓存和大数据分析工作负载的执行。Graviton4的电脑将在未来数月内上市。

Trainium2是AWS自研的第二代AI芯片,其速度比前代快四倍,将能在EC2 UltraCluster中部署多达10万个芯片,让用户能在很短的时间内训练数以万亿参数的基础模型(PM)和大语言模型 (LLM),同时能源利用率较前代提高多达两倍。Trainium2 将用于Amazon EC2 Trn2 实例,单个实例中包含16 个Trainium 芯片。Trn2 实例旨在帮助客户在下一代 EC2 UltraCluster中扩展芯片应用数量至多达10万个Trainium2 芯片,联通AWS Elastic Fabric Adapter (EFA) petabit级网络,提供高达 65 exaflops 的算力。Trainium2将从明年开始用于支持新的服务。

Q是AWS推出的基于生成式AI技术的聊天机器人,可根据企业客户的业务进行工作,帮助企业客户搜索信息、编写代码和审查业务指标。Q接受了AWS内部有关代码和文档的部分培训,可供AWS云的开发者使用。开发者可以用Q在AWS上创建App、研究最佳实践、改正错误、获得为App编写新功能的帮助。用户可以通过对话式的问答功能与Q进行交互,学习新知识、研究最佳实践以及了解如何在AWS上构建App,无需将注意力从 AWS 控制台上移开。Q还将被添加到亚马逊的企业智能软件、呼叫中心工作人员和物流管理的程序。Q 对话式问答功能目前在所有提供企业AWS的地区提供预览版。

除了自研芯片和AI聊天机器人,AWS还与英伟达加强了战略合作,将在云上部署英伟达的最新超级芯片Grace Hopper,提供更强大的AI计算能力和服务。Grace Hopper是英伟达的第三代数据中心GPU,其性能较前代提高了10倍,可支持万亿参数级的AI模型。AWS将成为第一家在云上采用全新多节点NVLink技术英伟达H200 Grace Hopper超级芯片的云服务商。英伟达的H200 NVL32 多节点平台将 32 个 Grace Hopper芯片与 NVLink 和 NVSwitch 技术共同用于一个实例。该平台将用于与亚马逊网络EFA连接的Amazon EC2实例,并由高级虚拟化 (AWS Nitro System) 和超大规模集群 (Amazon EC2 UltraClusters) 提供支持,使亚马逊和英伟达共同的客户能够扩展部署数以千计的H200芯片。

英伟达和AWS还将共同在AWS上托管英伟达的AI 训练即服务DGX Cloud,它将是第一个采用GH200 NVL32 的 DGX 云,能为开发人员提供单个实例中最大的共享内存。AWS 的DGX云将提高尖端生成式AI 和超过1万亿参数的大语言模型的训练。此外,英伟达和AWS 正在共同研发名为Ceiba 的项目,设计世界上速度最快的GPU驱动AI 超级计算机,这是一个采用 GH200 NVL32 和 Amazon EFA 互连的大规模系统。它是搭载1.6384万块GH200超级芯片的超级计算机 ,AI处理能力达65 exaflops。英伟达将用它推动下一波生成式AI 创新。

AWS的副总裁Dave Brown表示,通过将自研芯片的设计重点放在对客户重要的实际工作负载上,AWS能为他们提供最先进的云基础设施。他还表示,AWS和英伟达的合作将为客户提供更多的选择和灵活性,让他们能够利用最新的AI技术来解决最复杂的问题。拼多多的创始人兼CEO黄峥在财报发布后表示:“我们很高兴看到我们的业绩持续强劲增长,反映了我们的平台的吸引力和活力。我们将继续专注于为我们的用户提供更多的价值和更好的体验,同时为我们的商家和品牌提供更多的机会和支持。我们相信,通过不断地创新和改进,我们将能够实现我们的愿景,让农民和消费者直接受益,让电商更加普惠和可持续。”

原创文章,作者:商业头条,如若转载,请注明出处:https://www.kejixun.com/article/599843.html

(0)
商业头条的头像商业头条认证作者

相关推荐

发表回复

登录后才能评论