如何在不分散自己以跟上每一个的同时，最大限度地利用层出不穷的新兴定制硅硬件阵列？

如果我们给这个问题贴上价格标签的话，它将在数十亿美元的范围内。这就是它所涉及的不同市场的综合估值。随着人工智能应用程序的爆炸式增长，支持它们的专用硬件也在爆炸式增长。

对于我们来说，对所谓的确定了AI首席执行官和创始人，它走得更深。我们接着讨论了人工智能中硬件和模型之间的相互作用。

在建立确定性人工智能之前，Sparks是https://amplab.cs.berkeley.edu/“target=”\u blank“rel=”noopener noreferrer nofollow“data component=”externalLink“>加州大学伯克利分校的AmpLab。他专注于用于大规模机器学习的分布式系统，在这里他有机会与OctoML

TVM的目标与ONNX类似：将深度学习模型编译成他们所称的最小可部署模块，并针对不同的目标硬件自动优化这些模型。

Sparks指出，TVM是一个相对较新的项目，但它背后有一个相当强大的开源社区。他接着补充说，许多人希望看到TVM成为一种标准：“在Nvidia中没有被点名的硬件供应商可能希望更开放，希望有一种进入市场的方式。他们正在寻找一种狭义的接口来实现。”

在确定ONNX和TVM之间的差异方面存在细微差别，我们遵从与Sparks的对话。总而言之，TVM的级别比ONNX低一点，Sparks说，并且有一些与之相关的权衡。他认为TVM有可能更具普遍性。

然而，Sparks指出，ONNX和TVM都是早期的，随着时间的推移，他们会互相学习。对于Sparks来说，它们不是直接的竞争对手，只是解决类似问题的两种方法。

AI约束、成本和能效

不管是ONNX还是TVM，处理这个互操作层不应该是数据科学家和机器学习工程师必须做的事情。Sparks提倡在模型开发的各个阶段之间分离关注点——这与来自OpenAI的工作，根据这项工作，过去几年的培训成本比两年前增加了30万倍。作为最近的BERT和ResNet-50，作为这种方法的好例子。然而，他也提出了一个警告：这并不总是有效的。当人们正在训练的数据的形式与可用的完全不同时，就变得棘手了。