Considera un sistema de referencia cartesiano con ejes OX y OY usuales.
Luego, tienes los valores de las masas y los puntos en los cuáles están ubicadas:
M1 = 3 Kg, en el punto A(3,0),
M2 = 5 Kg, en el punto B(0,1).
i)
Tienes el punto en estudio: O(0,0).
Luego, planteas la expresión del vector posición del punto en estudio con respecto al punto A, y queda:
u = AO = < -3 ; 0 > m, cuyo módulo es: |u| = 3 m, y cuyo vector unitario asociado es: U = u/|u| = < -1 ; 0 >;
luego, planteas la expresión del campo gravitatorio producido por la primera masa en el punto en estudio, y queda:
g1 = -(G*M1/|u|2)*U = -(6,674*10-11*3/32)*< -1 ; 0 > ≅ -2,225*10-11*< -1 ; 0 > ≅ < 2,225*10-11 ; 0 > N/Kg (1).
Luego, planteas la expresión del vector posición del punto en estudio con respecto al punto B, y queda:
V = BO = < 0 ; -1 > m, cuyo módulo es: |V| = 1 m, y observa que este vector es unitario;
luego, planteas la expresión del campo gravitatorio producido por la segunda masa en el punto en estudio, y queda:
g2 = -(G*M2/|V|2)*V = -(6,674*10-11*5/12)*< 0 ; -1 > ≅ -33,370*10-11*< 0 ; -1 > ≅ < 0 ; 33,370*10-11 > N/Kg (2).
Luego, planteas la expresión del campo gravitatorio resultante en el punto en estudio, y queda:
gO = g1 + g2, sustituyes las expresiones vectoriales señaladas (1) (2), y queda:
gO = < 2,225*10-11 ; 0 > + < 0 ; 33,370*10-11 >, resuelves la suma vectorial, y queda:
gO = < 2,225*10-11 ; 33,370*10-11 > N/Kg ≅ < 2,225*10-11 ; 3,337*10-10 > N/Kg.
cuyo módulo queda expresado:
|gO| = √([2,225*10-11]2 + [33,370*10-11]2) ≅ 33,444*10-11 N/Kg ≅ 3,344*10-10 N/Kg.
ii)
Observa que la masa M1 es móvil, y que la masa M2 está fija.
Luego, en la situación inicial, planteas la expresión del vector posición del punto A con respecto al punto B, y queda:
w = BA = < 3-0 ; 0-1 > = < 3 ; -1 >, cuyo módulo es: |w| = √(10) m;
luego, planteas la expresión de la energía potencial inicial, y queda:
EPi = -G*M1*M2/|w| = -6,674*10-11*3*5/√(10) ≅ -31,658*10-11 J ≅ -3,166*10-11 J (3).
Luego, en la situación final, planteas la expresión del vector posición del punto C(-3,0) con respecto al punto B, y queda:
p = BC = < -3-0 ; 0-1 > = < -3 ; -1 >, cuyo módulo es: |p| = √(10) m;
luego, planteas la expresión de la energía potencial final, y queda:
EPf = -G*M1*M2/|p| = -6,674*10-11*3*5/√(10) ≅ -31,658*10-11 J ≅ -3,166*10-11 J (4).
Luego, planteas la ecuación trabajo-variación de energía, y queda:
W = EPf - EPi, reemplazas los valores señalados (3) (4), resuelves, y queda:
W = 0,
y observa que los puntos A y C se encuentran a un mismo potencial con respecto a la segunda masa, y recuerda que la diferencia de energía potencial, que hemos señalado EPf - EPi, es igual al producto de la masa móvil por la diferencia de potencial, y de ahí es que consignan la expresión de tu enunciado.
Espero haberte ayudado.