亚马逊宣布推出Inferentia，这是由AWS设计的芯片，专门用于使用GPU部署大规模AI模型。该芯片将于明年推出。 InferenTIa将与TensorFlow和PyTorch等主要框架一起使用，并将与EC2实例类型和亚马逊的机器学习服务SageMaker兼容。 ＆quot;您将能够在每个芯片上获得数百个TOPS；如果需要，您可以将它们捆绑在一起以获得数千个TOPS。” AWS首席执行官Andy Jassy在今天的年度re：Invent会议上表示。 InferenTIa还将与ElasTIc Inference合作，ElasTIc Inference是一种使用GPU芯片加速AI部署的方法，该方法也在今天宣布。弹性推理适用于1到32 teraflops的数据范围。 InferenTIa检测何时将主框架与EC2实例一起使用，然后查看神经网络的哪些部分将从加速中受益最大；然后将这些零件移至弹性推理以提高效率。 Jassy说，今天启动AI模型所需的两个主要过程是训练和推理，而推理占了近90％的成本。 “我们认为Elastic Inference可以节省75％的运营成本。如果将Inferentia放在上面，则成本会再增加10倍，因此这是一个主要的游戏改变者。可以推断这两个发射。我们的客户”他说。 Inferentia的发布遵循的是一种芯片，该芯片于周一首次亮相，并且专用于AWS来执行常见的工作流程。 Inferentia和Elastic Inference的首次亮相是今天发布的几个与AI相关的公告之一。今天还宣布：为开发人员推销AWS市场以开发他们的AI模型，以及DeepRacer League和AWS DeepRacer汽车的发布，它们在模拟环境中使用经过强化学习训练的AI模型运行。今天的预览还提供了许多无需预先知道如何构建或训练AI模型的服务，包括用于从文档中提取文本的Textract，用于客户建议的Personalize，以及用于生成私有预测模型的服务Amazon Forecast。 。