1. Agregar capas, software, configuraciones, etc. en su Dockerfile es potencialmente propenso a errores. Agregar un solo paquete puede no parecer mucho, pero tan pronto como aumenta la complejidad, se aplican ajustes del sistema operativo, etc., es útil que un proveedor o una comunidad lo haga por usted en la imagen base.
2. Compartir tantas capas como sea posible entre contenedores mejora la eficiencia de los recursos. Las capas de imagen que son iguales entre contenedores se pueden reutilizar. Por lo tanto, si hay muchas instancias de aplicaciones ejecutándose en un host, puede tener un impacto real si todas usan una imagen base compartida de openjdk con pocas capas adicionales, o solo una imagen compartida de ubuntu con openjdk instalado a través de Dockerfile (que puede diferir en versiones, configuraciones, ...)

Descargo de responsabilidad: no encontré un razonamiento oficial para esta mejor práctica, pero esto es lo que se me ocurrió, espero que tenga sentido.