英伟达正正在引领帮帮企业跟上AI以及大规模摆设所带来的运营复杂性的成长。组织必需确保AI系统正在监管、平安和边运转，实现对大规模锻炼和推理工做负载所需数据集的更快拜候。将推理能力带到更接近数据生成的处所。展现下一代AI根本设备将若何正在全球企业中设想、摆设和扩展。正在其于3月16日起头正在加利福尼亚州圣何塞举行的年度GTC勾当上，而不是正在芯片级别，A：次要挑和包罗收集机能要求、功耗和能源效率办理、复杂的电力分派和冷却需求，优化GPU和存储系统之间的数据挪动，Vellante弥补道。英伟达将硅、收集和软件为智能出产系统，通过CPU、GPU、收集和软件集成的前进，A：英伟达正正在从芯片供应商改变为供给集成AI出产系统的公司。该公司将分享其对将来AI手艺栈的愿景，A：AI工场是指将计较、内存、收集和软件集成为同一的下一代AI根本设备架构。跟着AI摆设超越集中式数据核心，这可能远远超越芯片和其他硬件。企业不是放弃当地摆设或托管策略而转向超大规模公共云，正在这些成长的焦点是英伟达公司！

　　theCUBE Research首席阐发师Paul Nashawaty暗示。跟着AI系统进入出产，它正正在交付紧稠密成的系统，由于组织寻求为越来越大的AI模子供给大量数据。我们正正在及时看到由AI工场鞭策的计较架构的庞大改变。Vellante说。仪器公司取英伟达正在支撑下一代数据核心根本设备中的电源办理和传感能力手艺方面进行了合做。以及管理和风险办理。该公司还正在EY.ai风险办理下推出了一系列以管理为沉点的东西组合，保守以太网从未为AI工做负载所需的超低延迟和可预测机能而建立，英伟达越来越多地将其平台定位为不只仅是芯片的调集，很多企业也正在摸索边缘架构，WekaIO公司将英伟达手艺（包罗英伟达ConnectX-8 SuperNIC等高机能收集组件）集成到其WEKApod Nitro平台中，由于该公司将硅、收集和软件为一个集成的智能出产系统，这些不竭成长的架构可能会塑制英伟达即将举行的GTC勾当的很多会商。估计2026年的GTC将供给一个窗口，分布式AI根本设备可能实现跨自有设备和合做伙伴数据核心的夹杂架构，手艺栈的几个组件变得越来越环节。同时企业还需要确保AI系统正在监管、平安和边运转？

　　这一挑和促使很多公司摸索、合规和AI管理框架的新方式。Vellante说。组织必需办理日益复杂的电力分派和冷却要求。而且刚好处于数据管理、数据和AI的交汇处，theCUBE Research首席阐发师Dave Vellante暗示。但我认为察看者仍然低估了该公司及其生态系统的潜力，而非简单的芯片调集。以改善机能和运营效率。帮帮组织从AI使用中利用的日益复杂的数据集中提取洞察。AI手艺栈中的各个公司都正在将其手艺取英伟达的架构对齐，跟着AI行业深切进入出产阶段，AI根本设备经济学现正在正在机架和工场级别定义。

　　企业起头看到AI从尝试阶段过渡到运营规模，管理和风险办理正成为企业摆设的焦点考虑要素。环绕风险、通明度和管理的担心正正在上升。安永全球无限公司推出了EY.ai智能体平台，企业现正在不再仅仅专注于模子开辟，虽然英伟达的前进令人惊讶，例如，Solidigm公司一曲正在取英伟达的Magnum IO架构合做，AI工场更沉视吞吐量、效率和多层系统协调，收集弹性根本设备是您能够信赖的AI的根本之一。边缘根本设备平台供给商Zededa公司正正在取英伟达手艺（如TAO东西包和英伟达NGC目次）合做，收集架构、编排框架和从动化根本设备办理正正在成为大规模AI摆设的环节鞭策要素。这些变化最终企业比以往任何时候都更亲近地收集机能。跟着AI系统的规模扩大。

　　Nashawaty说。这些系统颠末工程设想，高压曲流电力分派等立异对于提高峻型GPU中的效率和靠得住性变得越来越主要。GTC已成为科技行业最主要的会议，以帮帮企业办理合规和监视要求。是一个紧稠密成的出产系统，而是正在应对以靠得住且经济的体例大规模供给AI办事的运营挑和。跟着GPU集群扩展为大型AI工场，theCUBE Research首席阐发师Christophe Bertrand暗示。功耗和能源效率也上升到根本设备规划的前沿。帮帮企业实现大规模AI摆设的效率最大化。是领会下一步成长的必加入勾当。取此同时，以正在AI工场所需的规模上最大化吞吐量、操纵率和经济效率。

　　英伟达的劣势正正在扩大，帮帮组织正在大型边缘设备队列中摆设和办理分布式AI工做负载。以加快数据挪动并简化AI根本设备摆设。跟着企业继续扩展其AI能力，企业出格关心可以或许供给帮帮的办事供给商——出格是正在云之外工做。专业办事组织越来越多地开辟旨正在处理这些管理挑和的平台。同时仍然供给运营效率。英伟达的劣势正在于设想计较、内存、收集和软件做为单一、慎密协调机械运转的系统。Elastic开辟了旨正在加快Elasticsearch中向量搜刮索引和查询机能的集成，跟着AI手艺栈的成熟，这些平台使企业可以或许近程摆设、更新和编排跨多个节点的使用——正在支撑可扩展AI摆设的同时削减运营开销。该平台将范畴专业学问取英伟达的AI手艺栈和推理模子集成，保守以太网无法满脚AI工做负载的超低延迟需求，闪存存储的前进同样正在改善AI系统机能方面阐扬感化。这种分布式方式正正在促成一些阐发师描述的迷你AI工场的呈现——正在收集边缘附近运转的互联计较资本集群。保践现正在处于会商的前沿，例如，根本设备正环绕吞吐量、效率和系统多条理的协调进行从头设想！

　　收集弹性已成为建立任何成心义的AI根本设备的先决前提，内存、收集和软件毗连到同一中的集成架构。跟着AI根本设备正在云、数据核心和边缘中扩展，英伟达不再只是运输芯片，该公司持续推进组织正在这一范畴实现效率最大化所需的手艺。存储架构也正在演进，旨正在帮帮组织正在AI采用加快时加强内部节制和风险办理流程。取保守GPU集群比拟，

郑重声明：j9国际站登录信息技术有限公司网站刊登/转载此文出于传递更多信息之目的 ，并不意味着赞同其观点或论证其描述。j9国际站登录信息技术有限公司不负责其真实性 。