Con el algoritmo para las raíces debes tantear mucho. Tienes:

Trabajarás con las dos primeras cifras, pensando en un número natural cuyo cuadrado sea 65 o lo más cercano a 65. En este caso:
8x8=64
Así que el 8 es la primera cifra del resultado. Ahora, como no dio exacto, restarás:
65-64=1
Y bajas el resto de números que te quedaban, es decir el 10.
Ahora tienes un 110. Debes multiplicar por 2 tu resultado, que por ahora es 8, así que:
8x2=16
Y pensar qué cifra agregar a ese 16, para que el número resultante multiplicado por la cifra agregada, sea menor a 110.
Observa que si agregaras un 1, te quedaría:
161x1=161, que es mayor a 110, por lo que la única opción es el 0, así que:
160x0=0
Ese será el segundo número del resultado, por ahora 80.
Ahora restamos:
110-0=110
Y pasaremos a buscar los decimales del resultado, así que a ese número le agregamos un par de ceros más, quedando 11000.
Nuevamente, multiplicas tu resultado por 2:
80x2=160
Y buscas qué cifra agregar al 160, para que multiplicando el número resultante por la cifra añadida obtengas un número menor a 11000 (lo más cercano posible):
Prueba y verás que ese número es el 6:
1606x6=9636
Entonces, a tu resultado le agregas el primer decimal, quedando: 80,6
Restas 11000-9636=1364
Seguimos buscando decimales, agregamos otro par de ceros:
136400
Ahora, multiplicarás por 2 el resultado, ignorando la coma, entonces:
806x2=1612
Repites el otro proceso, la cifra será 8, porque
16128x8=129024
Así que el siguiente decimal es 8, por lo que el resultado: 80,68
Y así sigues repitiendo lo mismo, es sencillo, cosa de probar números, tratando de no entreverarte.
Verás que 80,68 al cuadrado queda: 6509,2624
Todavía se puede precisar más el valor, así que trata de encontrar dos o tres cifras más luego de la coma.