¿Cómo se relaciona la cantidad de instancias de AWS con los trabajadores de Nginx y Gunicorn?
AWS Sagemaker llama al contenedor docker almacenado en ECR con el comando de servicio. La cantidad de instancias y el tipo se configuran en el estimador ( sage.estimator.Estimator ). Sin embargo, cada contenedor docker tiene una configuración de Nginx y Gunicorn.
¿Se lanza una instancia más pequeña para hacer nginx proxy_pass? ¿Se envían las solicitudes dentro de cada contenedor a nivel de subproceso?
https://docs.aws.amazon.com/sagemaker/latest/dg/how-it-works-hosting.html
https://docs.aws.amazon.com/sagemaker/latest/dg/adv-bring-own-examples.html