Observa que en la primera transformación se modifica la abscisa pero se mantiene la ordenada.
Luego, puedes llamar:
P(x,y) al punto a transformar,
P'(x',y') al punto transformado,
y puedes plantear:
(x+x')/2 = 5 (el promedio de las abscisas es igual a la abscisa de los puntos del eje de simetría),
y' = y;
luego, despejas x' en la primera ecuación, mantienes la segunda ecuación, y queda:
x' = 10-x (abscisa del punto transformado),
y' = y (ordenada del punto transformado);
por lo que la expresión de la primera transformación queda:
S1(x,y) = ( 10-x , y ) (1),
y observa que los vértices transformados quedan: A'(10,0), B'(7,0), C'(7,3) y D'(10,3).
Luego, planteas la traslación del origen de coordenadas al centro de giros: C(5,-3), y queda:
TC(x,y) = ( x-5 , y+3 ) (2),
y observa que los vértices transformados quedan: A''(5,3), B''(2,3), C''(2,6) y D''(5,6).
Luego, planteas la rotación -90° (90° en sentido horario), y queda:
R-90°(x,y) = ( y , -x ),
y observa que los vértices transformados quedan: A'''(3,-5), B'''(3,-2), C'''(6,-2) y D'''(6,-5).
Observa que hemos presentado a la transformación resultante que te piden en tu enunciado como la composición de la transformación S1 (simetría) con la transformación TC (traslación) y con la transformación R-90° (rotación).
Espero haberte ayudado.