Puedes llamar x a la edad de la madre, y a la edad del hijo mayor, z a la edad del hijo menor, todas en la actualidad.
Luego, tienes la primera relación de tu enunciado:
"hace 14 años la edad de la madre era igual a 5 veces la suma de las edades de sus hijos",
observa que en esta instancia la edad de la madre era: (x-14), y las edades de los hijos eran: (y-14) y (z-14),
por lo que puedes plantear la ecuación:
x - 14 = 5*( y-14 + z - 14), reduces términos en el agrupamiento, y queda:
x - 14 = 5*(y + z - 28), distribuyes el segundo miembro, y queda:
x - 14 = 5y + 5z - 140, sumas 14 en ambos miembros, y queda:
x = 5y + 5z - 126 (1).
Luego, tienes la segunda relación de tu enunciado:
"dentro de diez años la edad de la madre será igual a la suma de las edades de sus hijos",
observa que en esta instancia la edad de la madre será: (x+10), y las edades de los hijos serán: (y+10) y (z+10),
por lo que puedes plantear la ecuación:
x + 10 = y + 10 + z + 10, restas 10 en ambos miembros, y queda:
x = y + z + 10 (2).
Luego, tienes la tercera relación de tu enunciado:
"cuando el mayor tenga la edad actual de la madre, el menor tendrá 42 años",
observa que si llamas w a la cantidad de años que deben transcurrir para que ocurra esta instancia, tienes que la edad de la madre será: (x+w), y las edades de los hijos serán (y+w) y (z+w),
por lo que puedes plantear las ecuaciones:
y + w = x (3) ("la edad del hijo mayor será igual a la edad actual de la madre"),
z + w = 42 ("la edad del hijo menor será 42 años), aquí restas w en ambos miembros, y queda:
z = 42 - w (4).
Luego, con las ecuaciones señaladas (1) (2) (3) (4) tienes el sistema de cuatro ecuaciones lineales, de primer grado y con cuatro incógnitas:
x = 5y + 5z - 126 (1),
x = y + z + 10 (2),
y + w = x (3),
z = 42 - w (4).
Luego, sustituyes la expresión señalada (3) en las ecuación señalada (1), y queda:
y + w = 5y + 5z - 126, aquí restas y en ambos miembros, y queda:
w = 4y + 5z - 126, aquí sustituyes la expresión señalada (4), y queda:
w = 4y + 5(42 - w) - 126, distribuyes el factor común con su agrupamiento, y queda:
w = 4y + 210 - 5w - 126, sumas 5w en ambos miembros, reduces términos semejantes, y queda:
6w = 4y + 84, restas 4y y restas 6w en ambos miembros, y queda:
-4y = -6w + 84, divides por -4 en todos los términos de la ecuación, y queda:
y = (3/2)w - 21 (5).
Luego, sustituyes la expresión señalada (3) en la ecuación señalada (2), y queda:
y + w = y + z + 10, aquí restas y en ambos miembros, y queda:
w = z + 10, aquí sustituyes la expresión señalada (4), y queda:
w = 42 - w + 10, sumas w en ambos miembros, reduces términos semejantes, y queda:
2w = 52, divides por 2 en ambos miembros, y queda:
w = 26 (6).
Luego, reemplazas el valor remarcado y señalado (6) en la ecuación señalada (5), y queda:
y = (3/2)(26) - 21, resuelves el segundo miembro, y queda:
y = 18 (7).
Luego, reemplazas el valor remarcado y señalado (6) en la ecuación señalada (4), y queda:
z = 42 - 26, resuelves el segundo miembro, y queda:
z = 16 (8).
Luego, reemplazas los valores remarcados y señalados (6) (7) (8) en la ecuación señalada (2), y queda:
x = 18 + 16 + 10, resuelves el segundo miembro, y queda:
x = 44.
Luego, tienes que las edades de las tres personas, ordenadas de mayor a menor son:
44, 18 y 16 (en la actualidad),
30, 4 y 2 (hace catorce años),
54, 28 y 26 (dentro de diez años),
70, 44 y 42 (dentro de 26 años).
Espero haberte ayudado.