Así que tengo esta pieza de jQuery dentro de uno de mis métodos:
videos: $('iframe[src*="vimeo"], iframe[src*="youtube"]'), Lo que hace actualmente es seleccionar todos los elementos <iframe> con el src que contiene youtube .
Esto es lo que estoy tratando de hacer:
Seleccione todos los elementos <iframe> con el src que contiene youtube y NO contiene la clase modal en el elemento principal.
Así que digamos que tengo esto:

Si tiene la clase modal dentro de la <section> , no seleccione el <iframe> .
Aunque creo que jQuery tiene una forma específica de hacer esto, también puede usar el CSS , no la pseudoclase .
const iframes = $('section:not(.modal) iframe[src*="vimeo"], section:not(.modal) iframe[src*="youtube"]'); Tenga en cuenta que esto funcionará si alguna sección de padre/ancestro no tiene la clase modal .
Si necesita que sea el padre directo, use:
const iframes = $('*:not(.modal) > iframe[src*="vimeo"], *:not(.modal) > iframe[src*="youtube"]'); También he usado el selector universal * por lo que no es específico del elemento de section .