Lo que has hecho está correcto. Solo te falta definir con el cálculo del ángulo:

cosα = 6/(5 √13) ≈ 0'332820 

α = arc cos[6/(5 √13)] ≈ arc cos(0'332820) ≈
α ≈ 70,56°  ≈ 1,231504 rad

Creo que tengo una calculadora muy mala. Boy a tener que hacerme con una mas pro. Gracias por tu comentario.

Tienes que tener cuidado con el modo en que la tienes (si degree, radianes o grados)No creo que sea cuestión de la calculadora (con una casio normal de 15 o 20 euros te vale)
Intenta hacer las operaciones anteriores y si no te sale nos cuentas.

Con este vídeo debería valerte para aprender a hacerlo bien: https://www.youtube.com/watch?v=1osBdZiO2uA

Lo tienes bien ;)

Correcto, Julio.

Entiendo pues que la unica forma de hacerlo es utilizando el binomio de newton

Sería más tedioso (y lioso) hacer dos cuadrados, primero de un binomio y luego de un trinomio.

Es irresoluble en términos de funciones elementales (integral de Gauss).

Normalmente se resuelve transformando la función en su equivalente en serie de Taylor, o más específicamente en la serie de McLaurin:

f(x) = e^{x^2-1} = e^-1+ 0 + e^-1x² + 0 + ½ e^-1 x⁴ + 0 + 1/6 e^-1 x⁶ + 0 + 1/24 e^-1 x⁸ + 0 + …

f(x) = e^{x^2-1} = e^-1+ e^-1x² + ½ e^-1 x⁴ + 1/6 e^-1 x⁶ + 1/24 e^-1 x⁸+ …

Luego,

∫f(x) = ∫e^{x^2-1} dx = ∫ (e^-1+ e^-1x² + ½ e^-1 x⁴ + 1/6 e^-1 x⁶ + 1/24 e^-1 x⁸+ …) dx =

                                = e^-1x + ⅓ e^-1x³ + (1/10) e^-1 x⁵ + (1/42) e^-1 x⁷ + (1/216) e^-1 x⁹+ …

También puedes hacer primero esto:

∫e^{x^2-1} dx = ∫e^{x^2}e^-1 dx = e^-1 ∫e^{x^2} dx

Y a partir de aquí, aplicas la serie de McLaurin para e^{x^2} :

∫e^{x^2-1} dx = e^-1 ∫e^{x^2} dx = e^-1∫ (1 + x² + ½ x⁴ + 1/6 x⁶ + 1/24 x⁸+ …) dx =

                                             = e^-1[x + ⅓ x³ + (1/10) x⁵ + (1/42) x⁷ + (1/216) x⁹+ …]

Pon foto del enunciado original, Damià, por favor.

Te he puesto abajo dos enlaces con un montón de ejercicios resueltos parecidos. Un estudio completo con representación gráfica es muy largo. Ve tú haciendo cosas y nos las muestras.

http://personal.us.es/jsmonter/jes1/pdf/reprefun_solu.pdf

http://www.iespugaramon.com/ies-puga-ramon/resources/ejerc_represent_funciones1460372452580.pdf

Limites 0/0 Limites en el infinito Limites infinito - infinito L'Hopital

http://www.vitutor.com/fun/3/a_11.html