Para el apartado A)
Pones la ecuación de la recta en forma paramétrica, posteriormente hallas el vector PG (donde G es un punto genérico de la recta, tendrá parámetro) y a continuación haces el producto escalar del vector R (de la recta) con el vector PG y los igualas a 0.
De esta manera sacas el parámetro. Sustituyendo el parámetro en la forma paramétrica hallas el punto de intersección. Sabiendo el punto de intersección y sumándole el vector PG, consigues el punto simétrico.
___________________________________________________________________________
Para el apartado B puedes coger el vector normal del plano y con él hallar la recta en forma paramétrica con el vector normal y el punto P. Esa recta será perpendicular al plano y contendrá al punto.
Haces intersección de la recta con el plano (sustituir x, y, z de la recta paramétrica en el plano) y hallas el parámetro de la recta paramétrica.
Cuando tengas el parámetro, lo sustituyes en la recta paramétrica. Te dará un punto (lo llamaré Q). Hallas el vector PQ y posteriormente le sumas al punto Q el vector. Eso te dará el punto simétrico con respecto al plano.