近日，前Twitter员工、现Google DeepMind开发者蒂姆·扎曼（Tim Zaman）在一次访谈中揭露了一个令人震惊的发现：在Twitter被埃隆·马斯克（Elon Musk）收购的交易完成后不久，公司内部竟存在一个由700个闲置的NVIDIA V100高性能GPU加速器组成的庞大集群。这一发现不仅揭示了Twitter在AI资源利用上的巨大浪费，也引发了业界对于AI基础设施管理和优化问题的深入讨论。
据扎曼透露，这些V100加速器自2017年发布以来便一直处于开启但未被充分利用的状态，直至2022年才被意外发现。当时，Twitter正计划关闭部分数据中心以节省成本，而这一发现无疑为这一决策增添了更多复杂性和遗憾。值得注意的是，这些V100加速器采用的是PCIe接口而非专为AI任务优化的NVLink SXM2版本，进一步凸显了资源配置上的不合理。
Zaman的爆料迅速在科技界引起轩然大波，尤其是与近期关于构建包含10万个NVIDIA H100加速器的xAI AI超级计算机的消息相呼应，更加凸显了Twitter在AI资源管理和战略规划上的缺失。许多业内人士表示，这种级别的资源浪费不仅是对企业资产的巨大消耗，也是对全球AI发展潜力的一种辜负。
在谈及“AI Gigafactory”的概念时，Zaman表达了他的担忧与见解。他认为，在如此庞大的系统中部署和管理数十万个加速器将是一项前所未有的挑战，故障管理和系统稳定性将成为首要问题。他建议将系统划分为多个独立域，以大型集群的形式进行设计和维护，以更好地应对潜在的风险和不确定性。
此外，Zaman还提出了一个值得深思的问题：在构建越来越大的人工智能培训系统时，单个集群内加速器的最大数量将受到哪些因素的限制？他认为，这既包括技术层面的可预测限制，如数据传输瓶颈、能源供应等，也包括不可预见的意外因素，如硬件故障、软件兼容性问题等。因此，如何在保证系统效率的同时，确保系统的稳定性和可扩展性，将是未来AI基础设施建设中的一大挑战。
此次事件不仅为Twitter敲响了警钟，也为整个科技行业提供了一个宝贵的教训：在追求技术创新和规模扩张的同时，必须高度重视资源的合理配置和有效利用，避免类似的资源浪费现象再次发生。
原创文章，作者：小丸子，如若转载，请注明出处：https://www.kejixun.com/article/671504.html
