De los documentos: cuántos trabajadores ,
NO escale la cantidad de trabajadores a la cantidad de clientes que espera tener. Gunicorn solo debería necesitar de 4 a 12 procesos de trabajo para manejar cientos o miles de solicitudes por segundo.
Generalmente recomendamos (2 x $num_cores) + 1 como el número de trabajadores para comenzar.
De hilos ,
El número de subprocesos de trabajo para gestionar solicitudes.
Ejecute cada trabajador con el número especificado de subprocesos.
Un entero positivo generalmente en el rango de 2-4 x $(NUM_CORES). Querrá variar esto un poco para encontrar lo mejor para la carga de trabajo de su aplicación en particular.
Ahora la pregunta es ¿qué cantidad de subprocesos y trabajadores pueden atender cientos o miles de solicitudes por segundo?
Digamos que tengo una máquina de doble núcleo y configuro 5 trabajadores y 8 subprocesos. ¿Y puedo atender 40 solicitudes concurrentes?
Si voy a atender cientos o miles de solicitudes, ¿necesitaré cien núcleos?
esta línea es muy difícil de entender:
Gunicorn solo debería necesitar de 4 a 12 procesos de trabajo para manejar cientos o miles de solicitudes por segundo.
Ahora la pregunta es ¿qué cantidad de subprocesos y trabajadores pueden atender cientos o miles de solicitudes por segundo? Digamos que tengo una máquina de doble núcleo y configuro 5 trabajadores y 8 subprocesos. ¿Y puedo atender 40 solicitudes concurrentes?
Sí, con 5 procesos de trabajo, cada uno con 8 subprocesos, se pueden atender 40 solicitudes simultáneas. La rapidez con que se servirán en una caja de doble núcleo es otra cuestión.
Si voy a atender cientos o miles de solicitudes, ¿necesitaré cien núcleos?
No exactamente. Solicitudes por segundo no es lo mismo que "solicitudes simultáneas".
Si cada solicitud tarda exactamente 1 milisegundo en procesarse, entonces un solo trabajador puede atender 1000 RPS. Si cada solicitud tarda 10 milisegundos, un solo trabajador reparte 100 RPS.
Si algunas solicitudes toman 10 milisegundos, otras toman, digamos, hasta 5 segundos, entonces necesitará más de un trabajador simultáneo, por lo que la solicitud que toma 5 segundos no "acapara" toda su capacidad de servicio.