Vamos con orientaciones.
a) A la primera ecuación le restamos la segunda, mantenemos la segunda ecuación, y el sistema queda:
x2 + y2 = 5
xy = 2, de aquí despejamos: y = 2/x (*), luego sustituimos en la primera ecuación y queda:
x2 + (2/x)2 = 5, distribuimos el exponente en el segundo término y queda:
x2 + 4/x2 = 5, multiplicamos en todos los términos por x2 y queda:
x4 + 4 = 5x2, hacemos hacemos pasaje de término y queda:
x4 - 5x2 + 4 = 0, luego, observa que es una ecuación polinómica bicuadrática, planteamos la sustitución w = x2 (**), sustituimos y queda:
w2 - 5w + 4 = 0, cuyas soluciones son:
1) w = 1,
2) w = 4
Luego queda para que sustituyas en la expresión señalada (**) para determinar los valores de x, y luego en la expresión señalada (*) para determinar los valores de y.
Observa que el sistema tiene cuatro soluciones.
b) Trabajamos la primera ecuación:
log(x + 1) - logy = 1, aplicamos la propiedad del logaritmo de una división:
log( (x + 1)/y ) = 1, luego componemos con la función inversa del logaritmo decimal en ambos miembros:
(x + 1)/y = 10, luego hacemos pasaje de divisor como factor y queda:
x + 1 = 10y, hacemos pasajes de términos y queda:
x - 10y = -1, luego, el sistema de ecuaciones queda:
x - 10y = - 1
x - 2y = 3
Observa que es un sistema de dos ecuaciones lineales con dos incógnitas, que seguramente podrás resolver con facilidad (su solución es: x = 4, y = 1/2).
Espero haberte ayudado.