Regresión Logística Bayesiana con PyMC

1. Dentro de un bloque with pm.Model(), ¿qué cambia cuando una distribución recibe el argumento observed=?

• Pasa a formar la verosimilitud: sus valores quedan fijos en los datos
• Se convierte en el prior de los coeficientes
• PyMC la excluye del cálculo de la posterior
• Se guarda en el grupo posterior del InferenceData

Con observed= la distribución queda fija a los datos y aporta la verosimilitud. Sin ese argumento sería un parámetro desconocido más y PyMC solo muestrearía de su prior.

2. En pm.Bernoulli("y", logit_p=alpha + X @ beta, observed=y), ¿qué representa la expresión alpha + X @ beta?

• Los log-odds del evento; PyMC aplica la sigmoide internamente
• La probabilidad del evento, ya acotada entre 0 y 1
• La razón de momios de cada predictor
• La varianza de la distribución Bernoulli

logit_p recibe el predictor lineal en escala de log-odds; PyMC aplica internamente la función logística $p = 1/(1+e^{-\eta})$; escribirlo así es más claro y evita aplicar la sigmoide dos veces.

3. En el modelo de créditos, el coeficiente del ingreso en escala original tiene media $-0.0826$ por cada mil pesos. ¿Cómo se interpreta $e^{-0.0826} \approx 0.921$?

• Cada mil pesos más de ingreso multiplica los momios de impago por 0.921
• Cada mil pesos más de ingreso reduce la probabilidad de impago en 0.921 puntos
• La probabilidad de impago de un cliente promedio es 0.921
• Hay 92.1 % de probabilidad de que el ingreso no afecte el impago

$e^{\beta}$ es la razón de momios: cada mil pesos adicionales de ingreso multiplica los momios de impago por 0.921, es decir, los reduce cerca de 8 %. No es un cambio directo en la probabilidad.

4. ¿Por qué el modelo guarda los predictores en pm.Data("X", Xs) y declara la verosimilitud con shape=X.shape[0]?

• Para reemplazar los datos con pm.set_data y predecir casos nuevos con el tamaño correcto
• Porque NUTS solo funciona con datos dentro de pm.Data
• Para que PyMC estandarice los predictores automáticamente
• Para calcular la log-verosimilitud que necesita LOO

pm.Data permite reemplazar los predictores con pm.set_data, y shape=X.shape[0] hace que la verosimilitud cambie de tamaño con ellos. Así se puede predecir un cliente nuevo con sample_posterior_predictive(..., predictions=True).

5. Una predictiva a priori con $\beta_j \sim \mathcal{N}(0, 10)$ produjo 80.2 % de probabilidades simuladas menores que 0.01 o mayores que 0.99. ¿Qué concluyes?

• El prior es demasiado ancho: antes de ver datos, el modelo cree que casi todo es seguro
• El prior es no informativo y por eso es la opción más objetiva
• Hay que aumentar el número de cadenas de NUTS
• Los datos tienen separación perfecta

En escala logit, un prior muy ancho no es neutral: genera predictores lineales enormes y probabilidades pegadas a 0 o 1. Un prior $\mathcal{N}(0, 1)$ sobre predictores estandarizados deja solo 4.5 % de probabilidades extremas.