Llamemos n al tamaño de la población (observa que n debe ser un número natural), por lo tanto planteamos:
C(n,2) = 45, luego desarrollamos el número combinatorio a la izquierda y queda:
n! / ( 2! * (n-2)! ) = 45, desarrollamos el numerador a la izquierda para poder simplificar y queda:
n*(n-1)*(n-2)! / ( 2! * (n-2)! ) = 45, simplificamos a la izquierda y queda:
n*(n-1) / 2! = 45, resolvemos el denominador a la izquierda y queda:
n*(n-1) / 2 = 45, hacemos pasaje de divisor como factor, resolvemos a la derecha y queda:
n*(n-1) = 90, distribuimos a la izquierda, hacemos pasaje de término y queda:
n^2 - n - 90 = 0, resolvemos la ecuación cuadrática con la fórmula de Baskara y obtenemos dos soluciones:
n1 = - 9, que no es solución para este problema porque -9 no pertenece al conjunto de los números naturales;
n2 = 10, si es la solución, ya que pertenece al conjunto de los números naturales, y podemos verificar que: C(10,2) = 45.
Por lo que concluimos que la opción D es la correcta.
Espero haberte ayudado.