Observa que tienes un sistema de cuatro ecuaciones con tres incógnitas (x, y, z), en el que debes considerar los diferentes valores de la indeterminada k.
Luego, haces pasajes de términos en la primera ecuación, y queda: z = - x - y (1).
Luego, sustituyes la expresión señalada (1) en las demás ecuaciones, distribuyes, y queda:
x + 2y - 3x - 3y = 0
kx + (k+1)y - (k-1)x - (k-1)y = k-2
3x + (k+3)y - 4x - 4y = k-2.
Luego, reduces términos semejantes en todas las ecuaciones, y queda:
- 2x - y = 0, aquí haces pasaje de término, y queda: - 2x = y (2),
x + 2y = k-2
- x + (k-1)y = k-2.
Luego, sustituyes la expresión señalada (2) en las demás ecuaciones, y queda:
x + 2(-2x) = k-2
- x + (k-1)(-2x) = k-2.
Luego, reduces términos semejantes, reduces expresiones en los términos, y queda:
- 3x = k-2, aquí multiplicas en ambos miembros por -1/3, y queda: x = (-k+2)/3 (3),
(-2k+1)x = k-2.
Luego, sustituyes la expresión señalada (3) en la última ecuación, y queda:
(-2k+1)(-k+2)/3 = k-2, multiplicas por 3 en todos los términos de la ecuación, y queda:
(-2k+1)(-k+2) = 3k-6, distribuyes el primer miembro, y queda:
2k2 - 5k + 2 = 3k - 6, haces pasajes de términos, reduces términos semejantes, y queda:
2k2 - 8k + 8 = 0, divides en todos los términos de la ecuación por 2, y queda:
k2 - 4k + 4 = 0, factorizas el trinomio cuadrado perfecto en el primer miembro, y queda:
(k - 2)2 = 0, haces pasaje de potencia como raíz, y queda:
k - 2 = 0, haces pasaje de término, y queda:
k = 2, que es el valor de la indeterminada para el cuál el sistema es compatible determinado, y tienes solución única;
luego, reemplazas en la ecuación señalada (3), y queda: x = 0;
luego, reemplazas en la ecuación señalada (2), y queda: y = 0;
luego, reemplazas en la ecuación señalada (1), y queda: z = 0,
y tienes remarcados los valores de las incógnitas que corresponden a la solución única.
Luego, el sistema es incompatible si k ≠ 2.
Espero haberte ayudado.