宁德生活圈

网站首页 科技 > 正文

如果你想最大化企业 AI 不要只关注 GPU

2022-03-18 16:13:45 科技 来源:
导读 但是,在构建自己的 AI 基础设施时只关注 GPU 可能会让您对自己的内容产生误导。这是因为 GPU 的最大影响在于训练 AI 算法。但这只

但是,在构建自己的 AI 基础设施时只关注 GPU 可能会让您对自己的内容产生误导。

这是因为 GPU 的最大影响在于训练 AI 算法。但这只是您的研究人员和数据科学家的项目从构思、实验、培训,再到部署和推理的流程的一部分。事实上,未来几年人工智能的大部分增长预计将来自对推理的投资。

那么如何获得全貌呢?这张来自英特尔的信息图将带您了解弹性 AI 部署的样子。它还准确地展示了英特尔的技术不仅适用于 AI 开发和部署流程,而且还提供了可以促进您的开发的关键优化。

例如,早在您的开发人员甚至可以考虑训练他们的模型之前,他们就会考虑预处理数据,最好在 CPU 上使用 Pandas 完成。但是通过英特尔发布的开源 Modin 框架,这可以加速 90 倍,而使用 Optane PMem 可以加载更大的数据集。

虽然 GPU 是训练数据的首选,但这并不意味着 Nvidia。事实上,据英特尔称,英特尔的 Habana Gaudi AI 训练处理器的性价比比当前的图形处理器高 40%。

同时,英特尔的下一代英特尔至强可扩展处理器可用于非高峰时段的间歇性训练集,例如夜间或周末。它们在关键机器学习工作负载中的性能提高了 1.5 倍。

最终,推理为所有人工智能投资带来​​了现实世界的利益。在这里,与 Nvidia 的 4X DGX A100 相比,具有内置 AI 加速功能的 Intel Xeon Scalable 可以提供 1.7 倍的性价比和 3.3 倍的每瓦性能——所有这些都没有实施 GPU 技术带来的部署挑战。

所有这一切都与英特尔对开源工具的承诺紧密相关,贯穿准备、培训和部署阶段。


免责声明: 本文由用户上传,如有侵权请联系删除!


标签: