Puedes plantear que el camino es recto, y que pasa por el origen de coordenadas y por un punto A(x,y) perteneciente a la frontera, por lo que su ecuación es:
y = mx (1),
luego, sustituyes la expresión señalada (1) en la ecuación de la frontera, y queda:
5x2 + 6x*mx + 5(mx)2 = 8, resuelves el segundo y el tercer término, y queda:
5x2 + 6mx2 + 5m2x2 = 8, extraes factor común en el primer miembro, y queda:
x2(5 + 6m + 5m2) = 8, haces pasaje de factor como divisor, y queda:
x2 = 8/(5 + 6m + 5m2) (2) .
Luego, plantea la expresión de la función "distancia cadrática" entre el origen y el punto A(x,y) de la frontera:
f(x,y) = d(P,A)2 = ( √( (x-0)2 + (y-0)2 ) )2 = ( √(x2 + y2 ) )2 = x2 + y2,
luego, sustituyes la expresión señalada (1) en la expresión de la función (a fin de reducir la cantidad de variables), y queda:
f(x) = x2 + (mx)2, resuelves el segundo término, extraes factor común, y queda:
f(x) = (1+m2)x2,
luego, sustituyes la expresión señalada (2) en la expresión de la función, y queda:
f(m) = 8(1+m2)/(5 + 6m + 5m2) (3).
Luego, plantea la expresión de la función derivada primera:
f ' (m) = 8( 2m(5 + 6m + 5m2) - (1+m2)(6+10m) ) / (5 + 6m + 5m2)2,
luego, plantea la condición de punto crítico (posible máximo o posible mínimo):
f ' (m) = 0, sustituyes en el primer miembro, y queda:
8( 2m(5 + 6m + 5m2) - (1+m2)(6+10m) ) / (5 + 6m + 5m2)2 = 0,
haces pasaje de factor numérico como divisor, y de divisor como factor, y queda:
2m(5 + 6m + 5m2) - (1+m2)(6+10m) = 0, distribuyes en ambos términos, y queda:
10m + 12m2 + 10m3 - 6 - 10m - 6m2 - 10m3 = 0,
reduces términos semejantes (observa que tienes cancelaciones), ordenas términos, y queda:
6m2 - 6 = 0, divides en todos los términos de la ecuación por 6, haces pasaje de término, y queda:
m2 = 1, haces pasaje de potencia como raíz, y tienes dos opciones:
a)
m = -1, luego reemplazas en la ecuación señalada (2), y queda:
x2 = 2, de donde tienes dos opciones:
a1)
x = -√(2), que al reemplazar los valores remarcados en la ecuación señalada (1) queda: y = √(2),
por lo que tienes el punto A1( -√(2) , √(2) ), que pertenece a la frontera y su distancia al origen es: D1 = 2;
a2)
x = √(2), que al reemplazar los valores remarcados en la ecuación señalada (1) queda: y = -√(2),
por lo que tienes el punto A1( √(2) , -√(2) ), que pertenece a la frontera y su distancia al origen es: D2 = 2.
b)
m = 1, luego reemplazas en la ecuación señalada (2), y queda:
x2 = 1/2, de donde tienes dos opciones:
b1)
x = -1/√(2), que al reemplazar los valores remarcados en la ecuación señalada (1) queda: y = -1/√(2),
por lo que tienes el punto B1( -1/√(2) , -1/√(2) ), que pertenece a la frontera y su distancia al origen es: d1 = 1;
b2)
x = 1/√(2), que al reemplazar los valores remarcados en la ecuación señalada (1) queda: y = 1/√(2),
por lo que tienes el punto B2( 1/√(2) , 1/√(2) ), que pertenece a la frontera y su distancia al origen es: d2 = 1.
Luego, tienes que las trayectorias que minimizan la longitud del camino son las que unen al origen con los puntos B1 y B2.
Espero haberte ayudado.