En el primer sistema, planteamos:
Despejamos y en la primera ecuación y queda: y = 1/2 - (3/2)x.
Luego, sustituimos en la segunda ecuación y queda: bx + (a +1)(1/2 - (3/2)x ) = 3, distribuimos manteniendo el primer agrupamiento en el segundo término de la izquierda y queda:
bx + (a + 1)/2 - (3/2)(a + 1)x = 3, hacemos pasaje de término buscando agrupar términos semejantes y queda:
bx - (3/2)(a + 1)x = 3 - (a + 1)/2, extraemos factor común a la izquierda, denominador común a la derecha, resolvemos y queda:
(b - (3/2)a - 3/2)x = (5 - a)/2.
Luego, para que tengamos incompatibilidad, debemos tener una identidad (igualdad sin incógnita) absurda, por lo tanto planteamos
b - (3/2)a - 3/2 = 0, que al despejar y operar queda: b = (3/2)(a + 1)
(5 - a)/2 distinto de 0, que al despejar nos queda: 5 distinto de a.
En el segundo sistema, planteamos:
Despejamos x en la primera ecuación y queda:
x = 1 - by (*), sustituimos en la segunda ecuación y queda:
3(1 - by) + ay = 3, distribuimos a la izquierda y queda:
3 - 3by + ay = 3, hacemos pasaje de término, buscando agrupar términos semejantes y queda:
-3by + ay = 3 - 3, extraemos factor común a la izquierda, resolvemos a la derecha y queda
(- 3b + a )y = 0.
A continuación observa que tenemos dos opciones:
1)
Si -3b + a = 0, de la que al hacer pasaje de término nos queda: a = 3b, reemplazas y queda:
( -3b + 3b)y = 0, luego:
0y = 0, resolvemos a la izquierda y llegamos a la igualdad:
0 = 0, que es una identidad verdadera, por lo que concluimos que el sistema es compatible indeterminado en este caso.
2)
Si -3b + a es distinto de 0, de la que al hacer pasaje de término nos queda: a distinto de 3b, podemos hacer pasaje de factor como divisor y la ecuación queda:
y = 0/(-3b + a) resolvemos (observa que el denominador no es nulo para esta opción) y queda
y = 0,
luego reemplazamos en la ecuación señalada (*) y queda:
x = 1 - b*0, resolvemos y queda
x = 1, por lo que el sistema resulta compatible determinado para esta opción, y su solución es x = 1, y = 0.
Observa además que este sistema nunca es incompatible.
Espero haberte ayudado.