了解Sagemaker Neo

Question

我对Sagemaker Neo的提问很少：

1）如果我具有外部训练的tensorflow / mxnet模型，可以使用Sagemaker Neo吗？

2）Sagemaker为'图像分类'提供了容器图像，并发布了名为'image-classification-neo'的新图像供新编译工作使用。两者有什么区别？对于每个预先构建的sagemaker模板（容器），我是否都需要新的Neo兼容映像？

任何帮助将不胜感激

谢谢！

Answer 1

这个问题已经很久了。但是如果有人在搜索相同的问题后出现在这里：

主要是，Amazon NEO是使该程序与多个基础硬件和平台兼容的优化程序。根据文档： “ Neo是Amazon SageMaker的一项新功能，可让机器学习模型进行一次训练并在云中和边缘的任何地方运行。”

是的，那两个docker映像是不同的。由于其中一个具有优化程序代码，而另一个则没有。 区别不在于输入，因此“ image-classification-neo”可以与“ image-classification”可以起作用的图像一起使用。 但是输出是不同的。 'image-classification-neo'的输出可以在多个平台上使用。 您可以在以下链接中查看支持的硬件平台： https://docs.aws.amazon.com/sagemaker/latest/dg/neo.html

Answer 2

1）是。将您的模型作为model.tar.gz文件上传到S3存储桶（类似于训练后SageMaker将保存的文件），然后可以对其进行编译。

2）Neo版本使用Neo运行时来加载和预测，所以是的，容器是不同的。目前，Neo支持XGBoost和“图像分类”内置算法。当然，您可以构建自己的自定义容器并在其中使用Neo。有关更多信息：https://docs.aws.amazon.com/sagemaker/latest/dg/neo.html

朱利安