Vamos con una orientación.
Puedes designar a los tres números diferentes como: x, y, z, ordenados de menor a mayor, y consideramos que los tres números son distintos de cero.
1°)
Si los números están en progresión aritmética (llamamos d a su diferencia, y suponemos que no es igual a cero), tienes:
y = x + d, aquí restas x en ambos miembros, y queda: y - x = d (1),
z = x + 2d (2);
luego, sustituyes la expresión señalada (1) en la ecuación señalada (2), y queda:
z = x + 2(y - x), distribuyes el último término, y queda:
z = x + 2y - 2x, reduces términos semejantes, y queda:
z = 2y - x (3).
2°)
Si los números están en progresión geométrica (llamamos q a su razón, y suponemos que no es igual a uno), tienes:
y = x*q, aquí divides por x en ambos miembros, y queda: y/x = q (4),
z = x*q2 (5);
luego, sustituyes la expresión señalada (4) en la ecuación señalada (5), y queda:
z = x*(y/x)2, distribuyes la potencia en el último factor, y queda:
z = x*y2/x2, simplificas en el segundo miembro, y queda:
z = y2/x (6).
3°)
Igualas las expresiones señaladas (3) (6), y queda la ecuación
2y - x = y2/x,
multiplicas en todos los términos de la ecuación por x (recuerda que consideramos que no es igual a cero), y queda:
2xy - x2 = y2,
restas y2 en ambos miembros, y queda:
2xy - x2 - y2 = 0,
multiplicas por -1 en todos los términos de la ecuación, y queda:
-2xy + x2 + y2 = 0,
ordenas términos en el primer miembro, y queda:
x2 - 2xy + y2 = 0,
factorizas el primer miembro (observa que es un trinomio cuadrado perfecto), y queda
(x - y)2 = 0,
extraes raíz cuadrada en ambos miembros, y queda:
x - y = 0,
sumas x en ambos miembros, y queda:
x = y (7),
lo cuál es absurdo, porque resulta que los dos primeros números de la progresión son iguales,
luego sustituyes la expresión señalada (7) en las ecuaciones señaladas (3) (6), y en ambas obtienes
z = y,
por lo que tienes que los tres números son iguales, lo cuál también es absurdo.
Espero haberte ayudado.