像很多事情一样，答案是“它取决于”。如果我们将深度学习作为日益流行的AI工作负载的一个示例，那么构建用于数据集深度学习培训的AI系统在很大程度上取决于您可以轻松访问的资源，专业知识和基础架构数量。例如，您可能作为独立开发人员使用的系统，或者作为较小环境中的研究人员，与支持大型组织“AI启用”与客户的业务交互所需的系统有很大不同，或者提高临床护理质量，或检测大量金融交易数据中的欺诈行为。最终，这将成为您是否设计和构建自己的系统，或为您的问题采用专用解决方案的问题。

对于前者，今天在消费者市场中常见的GPU技术经常进入“自己动手”的AI系统，这些系统非常强大，并且提供比基于CPU的系统更好的性能。随时可用的工具包，可以在当今的GPU上实现通用并行计算，结合支持流行的深度学习框架所需的编程技能，可以产生很好的结果，正如Alex Krizhevsky的“AlexNet”首先证明的那样，它通过赢得ImageNet Big创造了历史使用在GPU和NVIDIA的CUDA上运行的卷积神经网络，在2012年扩展视觉识别挑战。

对于后者（大规模深度学习，对于大型组织而言） - 有两个重要因素会影响您实施AI系统的方法：

1.您需要多久才能开始看到结果？

如果你正在探索之旅，并且你喜欢智力挑战，有时候玩各种硬件和软件配置的“侦探工作”，那么很可能你不是在老板设定的时间线上运行，或者某种商业或研究势在必行。在这种情况下，当你将一个包括GPU，驱动程序，库和深度学习框架在内的系统拼凑在一起时，可能会完全遵循蜿蜒的路径，当你扮演角色时，可能会筛选出数百页的文档。 “系统集成商”。

但是，如果您的努力得到了尽可能快地从数据中获取洞察力的压倒一切的需求，那么您可能需要一条更简单，更快速的路径来实现目标。在这种情况下，您需要利用“解决方案化”的平台或设备，如NVIDIA DGX-1或DGX Station它集成了您需要的所有组件，并通过已发布的基准测试进行验证，为您关注的框架提供可量化的性能。这些设备应根据它们的“即插即用”方式进行评估，以及开通体验是否直观，引导您完成易于导航的简单管理界面，同时管理数据集，分配资源，并安排工作。这种部署模式可以防止您必须佩戴“IT管理员”帽子，并让您尽可能快地进入神经网络训练，并在短短一天内启动并运行。

获得更快的见解的另一个方面是协同工作的硬件和软件的性能。GPU优化的深度学习软件堆栈的优势在于，与仅使用GPU硬件相比，能够在深度学习培训上获得更高的加速因子。与使用相同Tesla V100 GPU构建的其他系统相比，NVIDIA DGX Systems的深度学习性能提高了30％，但缺乏集成的优化深度学习软件。这里最重要的一点是，即使您使用绝对最新的GPU技术自行构建AI系统，相对于经过全面优化和软件设计的集成硬件和软件系统，该系统仍将处于性能劣势为每个深度学习框架的最佳性能。

2.我准备花多少时间来管理和优化基础架构？

与“探索性旅程”路线类似，您的AI系统的持续运行体验可能看起来非常不同，具体取决于您遵循的路线。如果您花时间精细调整软件堆栈，使用不同的框架和支持库组合，并且不介意在社区论坛中寻求故障排除支持，那么构建您自己的系统可能就是您的选择。实际情况是，通常需要相当大的软件工程技能来调整“完美”的深度学习堆栈，从框架到GPU驱动程序，以及介于两者之间的每一层。还要考虑框架本身通常是开源的，并且在不断发展。确保您的堆栈以最佳性能运行因此意味着需要在工时调整和重新调整，并且可能会在持续的基础上重新构建您的堆栈。如果这是你的章程，那么它可能不是一个问题，但如果你资助其他人做这项工作，它可能意味着数十万美元的软件工程OpEx，以确保你最大化你的AI投资的投资回报率。

另外，像NVIDIA的DGX这样的AI设备，包括访问流行的深度学习框架，如TensorFlow，Caffe2，MXNet等，以及支持库，都与硬件集成，可以节省大量的时间和金钱。此类产品具有预先优化的堆栈，由解决方案提供商定期（理想地每月）更新。这使您免受开源软件的流失和不确定性的影响，同时如果您遇到硬件和软件中的任何元素问题，也可以获得企业级支持。

此外，由于数据科学和人工智能的实验性质，开发人员经常发现自己（或他们的团队）需要同时尝试不同的系统资源和软件配置组合，以确定哪种模型可以最快地获得洞察力。基于Docker的容器能够支持多个版本的深度学习堆栈的共存，每个版本都彼此隔离，并具有自己的支持驱动程序和库的实例。这使得系统OS的基本映像保持“干净”，并且如果实验者想要尝试不同的配置排列，则避免了必须重新映像设备的可能性。容器与正确的管理和调度设备相结合，也可以使研究人员团队同时使用该平台，

所有这些都为您提供了更高的生产力，这位数据科学家正试图在您的企业中利用AI的强大功能。因此，您真正有两条构建AI系统的途径，每条路径都适合您可能正在处理的不同时间线，业务目标和操作设置。选择最终归结为您是否有扩展章程的自由度，包括系统集成商和IT管理员的角色，或者您的职责是否使您始终专注于数据科学并为您的组织提供见解。