me da a mi que la primera k del enunciado no existe, sería un 4 tambien, la de arriba.
Parece una errata. Es una k.
Tienes varias erratas en el desarrollo.
Comienza con la matriz ampliada del sistema:
1 3 k 1
1 7 k 1
k 1 3 2
A la fila 2 le restas la fila 1, a la fila 3 le restas la fila 1 multiplicada por k, y queda:
1 3 k 1
0 4 0 0
0 1-3k 3-k2 2-k
A la fila 2 la divides por 4, y queda:
1 3 k 1
0 1 0 0
0 1-3k 3-k2 2-k
A la fila 1 le restas la fila 2 multiplicada por 3, a la fila 3 le restas la fila 2 multiplicada por 1-3k, y queda:
1 0 k 1
0 1 0 0
0 0 3-k2 2-k.
Luego, observa que tienes una matriz escalonada, por lo que puedes considerar primero los dos casos que corresponden a los valores del parámetro k que anulan al tercer elemento de la tercera fila, y luego a los demás valores:
1)
k = √(3), reemplazas en la matriz escalonada, y queda:
1 0 √(3) 1
0 1 0 0
0 0 0 2-√(3),
y observa que el rango de la matriz del sistema es 2, y que el rango de la matriz ampliada es 3, por lo que el sistema resulta incompatible en este caso;
2)
k = -√(3), reemplazas en la matriz escalonada, y queda:
1 0 -√(3) 1
0 1 0 0
0 0 0 2+√(3),
y observa que el rango de la matriz del sistema es 2, y que el rango de la matriz ampliada es 3, por lo que el sistema resulta incompatible en este caso.
3)
Si k ≠ √(3) y k ≠ -√(3),
divides a la tercera fila por 3-k2, y la matriz escalonada queda:
1 0 k 1
0 1 0 0
0 0 1 (2-k)/(3-k2);
luego, a la fila 1 le restas la fila 3 multiplicada por k, y queda:
1 0 0 1-k*(2-k)/(3-k2)
0 1 0 0
0 0 1 (2-k)/(3-k2);
y tienes que el rango de la matriz del sistema es 3, al igual que el rango de la matriz ampliada y que el número de incógnitas, por lo que en estos casos el sistema es compatible determinado y tiene soluciones únicas, que quedan expresadas:
x = 1-k*(2-k)/(3-k2),
y = 0,
z = (2-k)/(3-k2).
Espero haberte ayudado.