Considera el problema por etapas.
1°)
Eliges la primera pelota, y la probabilidad que sea blanca es: n/(2n) = 1/2.
2°)
Extraes la segunda pelota, y la probabilidad que sea blanca es: (n-1)/(2n-1).
3°)
Extraes la segunda pelota, y la probabilidad que sea blanca es: (n-2)/(2n-2).
Luego, por el principio de multiplicación, tienes para la probabilidad de que las tres pelotas sean blancas:
(1/2)*( (n-1)/(2n-1) )*( (n-2)/(2n-2) ) = 1/12,
multiplicas en ambos miembros por 12, y queda:
6*( (n-1)/(2n-1) )*( (n-2)/(2n-2) ) = 1,
multiplicas en ambos miembros por (2n-1)*(2n-2), y queda:
6*(n-1)*(n-2) = (2n-1)*(2n-2),
distribuyes en ambos miembros, y queda:
6n2 - 12n - 6n + 12 = 4n2 - 4n - 2n + 2,
reduces términos semejantes en ambos miembros, y queda:
6n2 - 18n + 12 = 4n2 - 6n + 2,
restas 4n2, sumas 6n y restas 2 en ambos miembros, y queda:
2n2 - 12n + 10 = 0,
divides por 2 en todos los términos de la ecuación, y quda:
n2 - 6n + 5 = 0,
que es una ecuación polinómica cuadrática, cuyas soluciones son:
n1 = 1, que no tiene sentido para el problema de tu enunciado;
n2 = 5, que si tiene sentido para el problema de tu enunciado
Espero haberte ayudado.