Debes platear el sistema de ecuaciones:
L'x = 0
L'y = 0
L'λ = 0
luego sustituyes y queda:
(40 - 2x)/2 + 2λx = 0
(80 - 2y)/2 + 2λy = 0
x2 + y2 - 500 = 0,
distribuimos denominadores en los primeros términos de las dos primeras ecuaciones, hacemos pasajes de términos en todas y queda:
-x + 2λx = -20, extraemos factor común y queda: x(-1 + 2λ) = -20, hacemos pasaje de factor como divisor y queda: x = -20/(-1 + 2λ) (1), con λ ≠ 1/2;
-y + 2λy = -40, extraemos factor común y queda: y(-1 + 2λ) = -40, hacemos pasaje de factor como divisor y queda: y = -40/(-1 + 2λ) (2), con λ ≠ 1/2;
x2 + y2 = 500;
observa que si λ toma el valor 1/2 las dos primeras ecuaciones quedan como identidades absurdas,
luego sustituimos las expresiones señaladas (1) (2) en la tercera ecuación y queda:
( -20/(-1 + 2λ) )2 + ( -40/(-1 + 2λ) )2 = 500, distribuimos potencias en las expresiones fraccionarias de los dos primeros términos y queda:
400/(-1 + 2λ) )2 + 1600/(-1 + 2λ) )2 = 500, reducimos términos en el primer miembro y queda:
2000/(-1 + 2λ) )2 = 500, hacemos pasaje de divisor como factor y queda:
2000 = 500(-1 + 2λ) )2, dividimos en ambos miembros por 500 y queda:
4 = (-1 + 2λ) )2, hacemos pasaje de potencia como raíz y tenemos dos opciones:
a) -2 = - 1 + 2λ, despejamos y queda: -1/2 = λ;
b) 2 = - 1 + 2λ, despejamos y queda: 3/2 = λ.
Luego puedes continuar con el valor de λ que corresponda al problema de economía con el que tratas, reemplazas en las ecuaciones señaladas (1) (2) y obtendrás los valores de x e y.
Espero haberte ayudado.