a)
A la primera fila le restas la segunda fila multiplicada por k, y queda:
1 0 1 -k2
0 1 0 k
0 0 k2-1 k-1.
Luego, observa que si el tercer elemento de la tercera fila es distinto de cero, tienes que el sistema es compatible determinado y admite única solución.
Luego, observa que si el tercer elemento de la tercera fila es igual a cero, tienes dos casos:
1)
k = -1, reemplazas en la matriz, y queda:
1 0 1 -1
0 1 0 -1
0 0 0 -2,
y tienes que el sistema es incompatible y no admite solución;
2)
k = 1, reemplazas en la matriz, y queda:
1 0 1 -1
0 1 0 1
0 0 0 0,
y tienes que el sistema es compatible indeterminado y admite infinitas soluciones,
luego planteas el sistema de ecuaciones equivalente, y queda:
x + z = -1, aquí haces pasaje de término, y queda: z = -1 - x,
y = 1,
y tienes que el conjunto solución queda expresado:
x ∈ R,
y = 1,
z = -1 - x.
b)
Reemplazas el valor del parámetro que tienes en tu enunciado (k = 2), y la primera matriz de nuestro desarrollo (a) queda:
1 0 1 -4
0 1 0 2
0 0 3 1.
Divides a la tercera fila por 3, y queda:
1 0 1 -4
0 1 0 2
0 0 1 1/3.
A la primera fila le restas la tercera fila, y queda:
1 0 0 -13/3
0 1 0 2
0 0 1 1/3.
Luego, tienes que la solución del sistema es:
x = -13/3,
y = 2,
z = 1/3.
Espero haberte ayudado.