¡He detectado una extraña falla de segmentación en mi código y me gustaría escuchar su opinión si eso podría ser un error de GCC o si es solo mi culpa!
La función se ve así:
void testMMX( ... ) { unsigned long a = ...; unsigned char const* b = ...; unsigned long c = ...; __asm__ volatile ( "pusha;" ); __asm__ volatile ( "mov %0, %%eax;" : : "m"( a ) : "%eax" ); // with "r"( a ) it just works fine! __asm__ volatile ( "add %0, %%eax;" : : "m"( b ) : "%eax" ); __asm__ volatile ( "mov %0, %%esi;" : : "m"( c ) : "%eax", "%esi" ); __asm__ volatile ( "sub %eax, %esi;" "dec %esi;" "movd (%esi), %mm0;" "popa;" ); }Si compilo esto con -O0, simplemente funciona bien. Pero segFaults con -O1 y -O2. Me tomó mucho tiempo darme cuenta de que este error de segmento fue causado por la omisión del puntero de cuadro. La instrucción pusha aumenta el tamaño de la pila en 4*8=32 bytes (x86_32) y, por lo tanto, ESP también debe aumentar. Pero gcc no reconoce esto. Si agrego el arreglo ESP manualmente
__asm__("add $32, %esp")o use el indicador "-fno-omit-frame-pointer" en gcc. ¡Puedo compilarlo y ejecutarlo con -O1 y -O2 sin ningún error!
Entonces, mi pregunta ahora es: ¿por qué gcc no ajusta el ESP con ninguna operación de ensamblador en línea push/pop si la omisión de puntero de cuadro está habilitada? ¿Es esto un error de gcc? ¿Es gcc incluso capaz de detectar esto? ¿Me estoy perdiendo de algo?
Sería muy interesante solucionar esto.
¡Gracias por adelantado!
No, gcc no es capaz de detectar esto. No realiza ningún análisis de las instrucciones que aparecen en el bloque asm . Es su responsabilidad informar al compilador de cualquier efecto secundario. ¿Puedes explicar qué prueba estás realizando?
Además, debería considerar usar un solo bloque asm para este código; volatile puede evitar el reordenamiento de los bloques asm , pero no puede asumir que esto produce instrucciones consecutivas .