Te muestro cómo lo plantearía yo.
Tienes la expresión de la función, cuyo dominio es R y observa que la función admite derivadas primera y segunda continuas en R:
f(x) = ex*sen(2x) + 10 (1);
luego, plantea la expresión de la función derivada primera:
f ' (x) = ex*sen(2x) + 2*ex*cos(2x) (2);
luego, plantea a expresión de la función derivada segunda:
f ' ' (x) = ex*sen(2x) + 2*ex*cos(2x) + 2*ex*cos(2x) - 4*ex*sen(2x) = -3*ex*sen(2x) + 4*ex*cos(2x) (3).
(a)
Aquí puedes hacer una inferencia, a partir del gráfico de tu enunciado: el punto A es un punto de inflexión, por lo que puedes plantear la condición correspondiente, y tienes la ecuación:
f ' ' (x) = 0, sustituyes la expresión señalada (3) en el primer miembro, extraes factor común y queda:
-3*ex*sen(2x) + 4*ex*cos(2x) = 0, divides en ambos miembros por ex (observa que es una expresión que no toma el valor cero), y queda:
-3*sen(2x) + 4*cos(2x) = 0, restas 4*cos(2x) en ambos miembros, y queda:
-3*sen(2x) = -4*cos(2x), divides por -3*cos(2x) (observa que consideramos que esta expresión es distinta de cero), y queda:
tan(2x) = 4/3, compones en ambos miembros con la función inversa de la tangente, y queda:
2x = arctan(4/3), multiplicas por 1/2 en ambos miembros, y queda:
x = (1/2)*arctan(4/3), que conduce a dos soluciones:
x ≅ 0,464 (con arctan(4/3) en el primer cuadrante, en radianes, que no es de interés según el gráfico de tu enunciado),
a ≅ 2,034 (con arctan(4/3) en el tercer cuadrante, en radianes, que si es de interés según el gráfico de tu enunciado)
(b)
Planteas la condición de valor critico (posible máximo o posible mínimo), y queda:
f ' (x) = 0, sustituyes la expresión señalada (2) en el primer miembro, extraes factor común y queda:
ex*( sen(2x) + 2*cos(2x) ) = 0, divides en ambos miembros por ex (observa que es una expresión que no toma el valor cero), y queda:
sen(2x) + 2*cos(2x) = 0, restas 2*cos(2x) en ambos miembros, y queda:
sen(2x) = -2*cos(2x), divides por cos(2x) en ambos miembros (observa que consideramos que esta expresión es distinta de cero), y queda:
tan(2x) = -2, compones en ambos miembros con la función inversa de la tangente, y queda:
2x = arctan(-2), multiplicass por 1/2 en ambos miembros, y queda:
x = (1/2)*arctan(-2), que conduce a dos soluciones de interés para el problema de tu enunciado:
p ≅ (1/2)*2,034 ≅ 1,017 (con arctan(-2) en el segundo cuadrante, en radianes),
q ≅ (1/2)*5,176 ≅ 2,588 (con arctan(-2) en el cuarto cuadrante, en radianes).
(c)
Observa que tienes un sector sombreado "por encima" del eje OX, y para él la integral entre p y a es igual a su área,
pero observa que tienes otro sector sombreado "por debajo" del eje OX, y para él la integral entre a y q es igual al opuesto de su área,
por lo que tienes que la integral de la función entre p y q es igual a la diferencia entre las áreas de los dos sectores sombreados.
Luego, puedes resolver la integral de la función:
I = p∫q f(x)*dx, sustituyes la expresión señalada (1), y queda:
I = p∫q ( ex*sen(2x) +10) )*dx, separas en términos, y queda:
I = p∫q ex*sen(2x)*dx + p∫q 10*dx, y puedes continuar la tarea,
y observa que la integral del primer término es recursiva (revisa tus apuntes de clase), y la puedes plantear con el Método de Integración por Partes en dos pasos, mientras que la segunda integral es directa.
Espero haberte ayudado.