Tienes el vector A = <3,0,-3>, y el vector w = <-a,b,b>, y como deben ser perpendiculares, plantea que su producto escalar debe ser igual a cero:
A • w = 0, sustituyes y queda:
<3,0,-3> • <-a,b,b> = 0, resuelves y queda:
-3a + 0b - 3b = 0, cancelas el término nulo, divides en todos los términos de la ecuación por -3 y queda:
a + b = 0, de donde puedes despejar: a = -b,
luego sustituyes en la expresión del vector W y queda:
w = <b,b,b> = b*<1,1,1>, luego planteas su módulo y queda.
|w| = √( b2 + b2 + b2 ) =√(3b2) = √(3)*|b|,
luego planteamos las componentes del vector w normalizado (unitario):
W = w/|w| = b*<1,1,1> / √(3)*|b| = ordenamos factores = ( 1/√(3) )*( b/|b| )*<1,1,1>,
luego tenemos dos opciones:
1) si b > 0, entonces: b/|b| = 1, y queda: W1 = ( 1/√(3) )*1*<1,1,1> = <1/√(3) , 1/√(3) , 1/√(3) >,
2) si b < 0, entonces: b/|b| = -1, y queda: W2 = ( 1/√(3) )*(-1)*<1,1,1> = <-1/√(3) , -1/√(3) , -1/√(3) >.
Espero haberte ayudado.