$(this).css('background-color', 'red');

De hecho lo tienes. Solo olvidé algunas citas.

 $(this).css({backgroundColor: 'red'});

o

 $(this).css('background-color', 'red');

No necesita pasar sobre un mapa/objeto para establecer solo una propiedad. Puedes simplemente pasarlo como una cadena. Tenga en cuenta que si pasa un objeto, no puede usar un - . Todas las propiedades CSS que tienen dicho carácter se asignan con letras mayúsculas.

Referencia: .css()

Qué tal esto:

 $(this).css('background-color', '#FFFFFF');

Publicación relacionada: agregue color de fondo y borde a la fila de la tabla al pasar el mouse usando jquery