Si tienes que el exponente en el segundo término de la expresión es y, debes considerarlo como una constante, ya que según tienes en tu enunciado, la función tiene variable independiente x.
f(x) = sen(4x) - (1/3)*xy.
Luego, plantea la expresión de la función derivada primera (observa que debes aplicar la regla de la cadena en el primer término de la expresión):
f ' (x) = cos(4x)*4 - (1/3)*y*xy-1= 4*cos(4x) - (1/3)*y*xy-1.
Luego, plantea la expresión de la función derivada segunda (observa que debes aplicar la regla de la cadena en el primer término de la expresión):
f ' ' (x) = 4*(-sen(4x)*4) - (1/3)*y*(y-1)*xy-2 = -16*sen(4x) - (1/3)*y*(y-1)*xy-2.
Luego, plantea la expresión de la función derivada tercera (observa que debes aplicar la regla de la cadena en el primer término de la expresión):
f ' ' ' (x) = -16*(cos(4x)*4) - (1/3)*y*(y-1)*(y-2)*xy-3 = - 64*cos(4x) - (1/3)*y*(y-1)*(y-2)*xy-3.
Espero haberte ayudado.