La función presenta infinitas discontinuidades, pero está acotada y hay regiones por  arriba y por abajo del eje OX. Tiene toda la pinta de que la integral impropia converge a 0:

Mony, pon foto del enunciado original y lo resolvemos.

El segundo:

Debes obligar a que la matriz de coeficientes tenga rango 2, es decir su determinante debe ser nulo.

Además debes obligar a que la matriz de coeficientes ampliada tenga rango 3.

Por último, no pueden ser paralelos dos a dos.

Con todo esto tendrías que:

La solución sería a=7 y cualquier valor de b

El primero:

Tengo alguno.. Pero si nos dejas el enunciado exacto y literal podremos ayudarte mejor...

Fuerza= presión*Superficie_{util_cilindro}

Presión= Fuerza/Superficie

Presión= Fuerza/[(pi*diámetro²)/4]

El resultado ya lo tengo me falta el procedimiento que no se como se hace

Ese es el procedimiento.

Asi, si muchas gracias

Usa coordenadas cilindricas 

a ver si te ayuda 

Observa que la región de R³ en la que se encuentran los puntos del conjunto Ω en coordenadas cartesianas está determinada: x ≤ 0, y ≤ 0, z ≤ 0.

Luego, para las coordenadas esféricas con eje z, tienes:

z ≤ 0 corresponde a π/2 ≤ φ ≤ π,

x ≤ 0 e y ≤ 0: corresponde al tercer cuadrante del plano OXY (z = 0): corresponde: π ≤ θ ≤ 3π/2,

y observa que la representación gráfica correspondiente a la doble inecuación:

4 ≤ x² + y² + z² ≤ 36 corresponde a una esfera hueca maciza de radio interno 2, radio externo 6, con centro en el origen de coordenadas; corresponde: 2 ≤ ρ ≤ 6.

Luego, el conjunto de puntos Ω, formado por los puntos con abscisa x ≤ 0, ordenada y ≤ 0 y cota z ≤ 0, y que pertenecen a la esfera hueca maciza, queda descrito:

Ω = { (ρ,φ,θ) ∈ R³: 2 ≤ ρ ≤ 6, π/2 ≤ φ ≤ π, π ≤ θ ≤ 3π/2 },

que en notación de doble producto cartesiano queda:

Ω = [2,6]x[π/2,π]x[π,3π/2], que corresponde a la opción 1.

Espero haberte ayudado.

la primera 

la segunda