Observa que tienes que los vectores w y u son ortogonales, entonces tienes que su producto escalar es igual a cero, por lo que puedes plantear la ecuación vectorial:
w • u = 0, sustituyes las expresiones vectoriales, y queda:
< m ; 1 ; n > • < 1 ; 0 ; 1 > = 0, desarrollas el producto escalar, y queda:
m*1 + 1*0 + n*1 = 0, resuelves coeficientes, cancelas el término nulo, y queda:
m + n = 0, de aquí despejas: n = -m (1);
luego, sustituyes la expresión señalada (1) en la ecuación que tienes en tu enunciado, y que corresponde al desarrollo del determinante, y queda:
2(-m) - 2*m - 1 = 0, resuelves el primer término, reduces términos semejantes, y queda:
-4*m - 1 = 0, y de aquí despejas:
m = -1/4;
luego, reemplazas este último valor remarcado en la ecuación señalada (1), resuelves, y queda:
n = 1/4.
Espero haberte ayudado.
Ya tienes la ecuación