Observa que tienes un sistema cuadrado (o crameriano) homogéneo con tres ecuaciones y tres incógnitas, por lo que seguro es compatible, pero falta precisar si es indeterminado o determinado, según sean los valores del parámetro k.
Has planteado, desarrollado y resuelto correctamente el determinante, que te ha quedado:
D = (k + 1)2 - 1 = k2 + 2k + 1 - 1 = cancelamos términos opuestos = k2 + 2k = k*(k + 2) (observa que el determinante toma el valor 0 para k1 = 0 y para k2 = -2):
Luego tenemos tres casos:
1) Si k ≠ 0 y k ≠ -2, entonces el sistema es compatible determinado con única solución.
2) Si k = 0, planteamos la matriz ampliada del sistema:
1 1 -1 0
1 1 1 0
1 1 1 0
A la fila 2 le restamos la fila 1, a la fila 3 le restamos la fila 2 y queda:
1 1 -1 0
0 0 2 0
0 0 0 0
Luego, observa que el rango de la matriz del sistema es 2, y que el rango de la matriz ampliada es igual a 2,
por lo que tenemos que si k = 0, entonces el sistema es compatible indeterminado y admite infinitas soluciones.
3) Si k = -2, planteamos la matriz ampliada del sistema:
1 1 -1 0
1 -1 1 0
1 1 -1 0
A la fila 2 le restamos la fila 1, a la fila 3 le restamos la fila 1 y queda:
1 1 -1 0
0 -2 2 0
0 0 0 0
Luego, observa que el rango de la matriz del sistema es 2, y que el rango de la matriz ampliada es igual a 2,
por lo que tenemos que si k = -2, entonces el sistema es compatible indeterminado y admite infinitas soluciones.
Espero haberte ayudado.