Tienes la expresión de la función (observa que es continua y también derivable en R-{0}):
f(x) = a*x2 + b/x (1);
luego, planteas la expresión de su función derivada, y queda:
f'(x) = 2*a*x - b/x2 (2).
Luego, tienes que el punto P(2,4) pertenece a la gráfica de la función, por lo que puedes plantear la igualdad:
f(2) = 4, sustituyes la expresión señalada (1) evaluada en el primer miembro, y queda:
4*a + b/2 = 4, multiplicas por 2 en todos los términos, y queda:
8*a + b = 8 (3).
Luego, tienes que el punto P(2,4) es el punto de contacto de la gráfica de la función con su recta tangente, y como ésta es paralela al eje OX, entonces tienes que su pendiente es igual a cero, por lo que puedes plantear la igualdad:
f'(2) = 0, sustituyes la expresión señalada (2) evaluada en el primer miembro, y queda:
4*a - b/4 = 0, multiplicas por 4 en todos los términos, y queda:
16*a - b = 0, restas 16a en ambos miembros, luego multiplicas por -1 en ambos miembros, y queda:
b = 16*a (4).
Luego, sustituyes la expresión señalada (4) en la ecuación señalada (3), resuelves su primer miembro, y queda:
24*a = 8, divides por 24 en ambos miembros, y queda:
a = 1/3;
luego, reemplazas este valor en la ecuación señalada (4), resuelves, y queda:
b = 16/3;
luego, reemplazas los valores de los coeficientes que tienes remarcados en la expresión de la función señalada (1), y queda:
f(x) = (1/3)*x2 + (16/3)/x.
Espero haberte ayudado.