Retira la constante fuera de la integral, y realiza el cociente de polinomios Ulises. 

muchas gracias!

¿Qué es lo que te piden calcular?

El area sombreada

Muchísimas gracias Javi Mirri, te lo agradezco.

Haces un sistema: 

a² = b              (1)

b - 12 = a        (2)    → a² - 12 = a    →  a²  - a - 12 = 0

Y resolviendo la cuadratica te queda: x = 4 y x = -3

y si verificas, es correcto

Solo encuadre la solucion de 4 porq -3 no pertenece a los naturales

La primera que has dicho

Vamos con una orientación.

Observa que la función f es diferenciable en R², por lo que tienes que el valor máximo de las derivadas direccionales evaluadas en un punto P(x,y) de su dominio es igual al módulo de su gradiente evaluado en dicho punto, por lo que tienes:

D = √(f_x² + f_y²) = √( (6x)² + (2y)² ) = √(36x² + 4y²),

luego, como la función D toma valores positivos, planteamos la función:

g(x,y) = D², sustituimos y queda:

g(x,y) = 36x² + 4y² (observa que la función g corresponde a los valores máximos de las derivadas direccionales, elevados al cuadrado);

luego, tienes en el enunciado que los puntos P(x,y) cumplen con la restricción:

x² + y² = 1.

Luego, para continuar puedes aplicar el Método de los Multiplicadores de Lagrange.

Haz el intento, y si te es necesario, no dudes en volver a consultar.

Espero haberte ayudado.

Tenes que hacer un sistema de ecuaciones, los puntos que te de van a ser los puntos de interseccion (x;y)

Te recomiendo mires los vídeos sobre este tema, porque te serán muy útiles.

Has planteado bien los vectores normales a los planos, observa que no son paralelos, por lo que tienes que los planos son secantes y su intersección es una recta.

Para obtener las componentes de un vector director de dicha recta, planteamos el producto vectorial entre los vectores normales:

u = n₁ x n₂ = <-4,5,-2> x <1,7,-5> = <-11,-22,-33>.

Luego, para determinar las coordenadas de un punto de la recta, elegimos un valor para una de las coordenadas, por ejemplo z = 0, reemplazamos en las ecuaciones de los planos y queda el sistema:

-4x + 5y = 0

x + 7y +1 = 0,

luego resuelves el sistema con alguno de los métodos que has visto en clase y queda la solución: x = - 5/33, y = -4/33;

por lo que tenemos que uno de los puntos de la recta tiene coordenadas:

A(-5/33,-4/33,0).

Luego, con el vector director y el punto de la recta, planteamos las ecuaciones cartesianas paramétricas:

x = - 5/33 - 11t

y = - 4/33 - 22t

z = 0 - 33t,

con t ∈ R.

Espero haberte ayudado.

P.D:  Para quien redactó el problema. El pronombre "quién" se reserva a personas.

Espero esto pueda ayudarte, no sé si a eso te refieres. Saludos.