Los modelos se entrenan en GPU en el ecosistema de SageMaker a través de 2 componentes diferentes:

1. Puede crear instancias de una instancia de SageMaker Notebook con GPU, por ejemplo, p2.xlarge (NVIDIA K80) o p3.2xlarge (NVIDIA V100). Esto es conveniente para el desarrollo interactivo: tiene la GPU justo debajo de su computadora portátil y puede ejecutar código en la GPU de forma interactiva y monitorear la GPU a través nvidia-smi en una pestaña de terminal: una gran experiencia de desarrollo. Sin embargo, cuando desarrolla directamente desde una máquina con GPU, hay momentos en los que es posible que no use la GPU. Por ejemplo, cuando escribe código o navega por alguna documentación. Todo ese tiempo pagas por una GPU que permanece inactiva. En ese sentido, puede que no sea la opción más rentable para su caso de uso.

2. Otra opción es usar un trabajo de capacitación de SageMaker que se ejecute en una instancia de GPU. Esta es una opción preferida para el entrenamiento, porque los metadatos de entrenamiento (ruta de datos y modelo, hiperparámetros, especificación de clúster, etc.) se conservan en el almacén de metadatos de SageMaker, los registros y las métricas se almacenan en Cloudwatch y la instancia se apaga automáticamente al final del entrenamiento. . Desarrollar en una pequeña instancia de CPU e iniciar tareas de capacitación con la API de capacitación de SageMaker lo ayudará a aprovechar al máximo su presupuesto, al tiempo que lo ayuda a conservar los metadatos y los artefactos de todos sus experimentos. Puede ver aquí un ejemplo de TensorFlow bien documentado

Todos los tipos de instancias de GPU y CPU de portátiles: documentación de AWS .