Machine Learning con scikit-learn y XGBoost

1. Una regresión lineal con una sola columna da popularidad ≈ 31.58 + 29.871 × bailabilidad. ¿Qué popularidad predice para una canción con bailabilidad 0.9?

• Alrededor de 31.6.
• Alrededor de 58.5.
• Alrededor de 61.4.
• Alrededor de 29.9.

31.58 + 29.871 × 0.9 = 58.5. Quien responde 29.9 olvida el intercepto; 61.4 suma la pendiente completa como si la bailabilidad fuera 1; 31.6 es solo el intercepto, la predicción con bailabilidad 0.

2. En esa misma recta, ¿cómo se interpreta la pendiente 29.871?

• La bailabilidad explica el 29.871 % de la popularidad.
• Una canción con bailabilidad 0 tiene popularidad 29.871.
• Subir la bailabilidad causa 29.871 puntos más de popularidad.
• Por cada 0.1 que sube la bailabilidad, la popularidad predicha sube unos 3 puntos.

La pendiente es el cambio en la predicción por unidad de la columna: 0.1 de bailabilidad equivale a 2.99 puntos. No es un porcentaje explicado (eso sería el R²), no es el valor en 0 (eso es el intercepto, 31.58) y una regresión no demuestra causalidad.

3. El DummyRegressor (predice siempre la media) tiene MAE 8.68 en test y la recta con bailabilidad tiene MAE 7.98. ¿Qué concluyes?

• No se pueden comparar porque el Dummy no usa columnas.
• La recta mejora poco: se equivoca 0.7 puntos menos en promedio que no usar ninguna columna.
• La recta acierta el 7.98 % de las canciones.
• La recta es mala porque su MAE es mayor que cero.

El MAE se lee en las unidades del objetivo y siempre contra una línea base: 8.68 − 7.98 = 0.7 puntos de mejora. Ningún modelo real tiene MAE cero; el MAE no es un porcentaje de aciertos; y comparar contra el Dummy es justamente el punto de la línea base.

4. Esa recta tiene R² 0.18 en test. ¿Qué significa?

• Su error promedio es de 0.18 puntos.
• Explica alrededor del 18 % de la variación de la popularidad; el resto depende de otras cosas.
• Es peor que el Dummy, porque el R² del Dummy es 1.
• Acierta la popularidad exacta del 18 % de las canciones.

El R² compara el error del modelo con el de predecir la media: 0 es como el Dummy y 1 sería perfecto. 0.18 no es un porcentaje de aciertos exactos ni un error en puntos, y el Dummy tiene R² cerca de 0, no de 1.

5. Con las 9 numéricas escaladas (y log10 de seguidores), Lasso con alpha 1.0 deja 3 coeficientes en cero y con alpha 10 los deja todos en cero (R² 0). ¿Qué diferencia a Lasso de Ridge?

• Lasso puede llevar coeficientes exactamente a cero y así elige columnas; Ridge los encoge sin anularlos.
• Ridge anula coeficientes y Lasso no.
• Ridge solo sirve para clasificación.
• Lasso no necesita escalar las columnas y Ridge sí.

La penalización L1 de Lasso produce ceros exactos (selección de columnas); la L2 de Ridge encoge todos los coeficientes hacia cero sin anularlos. Las dos penalizan coeficientes, así que las dos necesitan columnas escaladas, y las dos son modelos de regresión.

6. ¿Qué pasa al subir mucho el alpha de Ridge o de Lasso?

• No cambia nada: alpha solo afecta el tiempo de entrenamiento.
• Los coeficientes crecen para compensar la penalización.
• El modelo memoriza mejor el entrenamiento.
• Los coeficientes se encogen cada vez más y el modelo termina por subajustar.

Alpha es la fuerza de la penalización: más alpha, coeficientes más chicos y un modelo más simple. Con Lasso y alpha 10 todos quedan en cero y el R² cae a 0. Memorizar es el problema contrario, los coeficientes no crecen con más penalización y alpha sí cambia el modelo.

7. Un clasificador del Top 50 tiene accuracy 0.725 en test, donde el 27.5 % de las canciones son hits. ¿Qué vale ese resultado?

• Significa que detecta el 72.5 % de los hits.
• Es bueno: acierta casi tres de cada cuatro canciones.
• Nada: es exactamente lo que logra un Dummy que siempre dice «no entra».
• Es excelente para clases desbalanceadas.

Con 72.5 % de canciones que no entran, decir siempre «no» da 0.725 sin detectar un solo hit. Por eso la accuracy engaña con clases desbalanceadas y hay que mirar recall, precision y AUC. Accuracy no es recall.

8. La matriz de confusión de la logística en test es [[252, 20], [51, 52]] (filas = realidad, columnas = predicción, orden de scikit-learn). ¿Cuánto vale la precision?

• 52 / (52 + 20) = 0.722
• (252 + 52) / 375 = 0.811
• 252 / (252 + 20) = 0.926
• 52 / (52 + 51) = 0.505

Precision = TP / (TP + FP): de las canciones que el modelo marcó como hit, cuántas lo fueron. 0.505 es el recall (TP / (TP + FN)), 0.811 es la accuracy y 0.926 es la tasa de acierto en la clase negativa.

9. Con esa misma matriz [[252, 20], [51, 52]], ¿qué problema tiene el modelo?

• Deja pasar 51 de los 103 hits reales: su recall es apenas 0.505.
• Marca demasiadas canciones como hit: 252 falsos positivos.
• No tiene problema: su accuracy de 0.811 es alta.
• Su precision es muy baja: 20 de 72.

Los falsos negativos (51) están en la fila de hits reales y la columna «predijo 0». 252 son verdaderos negativos, no falsos positivos; la accuracy alta esconde el hueco; y la precision es 52 de 72 (0.722), no 20 de 72.

10. Si se baja el umbral de la logística de 0.5 a 0.3, ¿qué ocurre?

• Baja el recall porque el modelo es más exigente.
• El AUC sube porque el modelo detecta más hits.
• Suben precision y recall a la vez.
• El recall sube (de 0.505 a 0.757) y la precision baja (de 0.722 a 0.542).

Con un umbral más bajo se marcan más canciones como hit: se encuentran más hits reales (recall) a cambio de más falsas alarmas (precision). El AUC no depende del umbral, y bajar el umbral hace al modelo menos exigente, no más.

11. ¿Por qué KNN y un SVC con kernel RBF necesitan escalar las columnas?

• Porque deciden por distancias, y sin escalar seguidores_miles (hasta 19863) domina a columnas que van de 0 a 1.
• Porque scikit-learn da error si las columnas no están escaladas.
• Porque escalar elimina los atípicos.
• No lo necesitan; solo los árboles requieren escalado.

Ambos miden distancias entre canciones, así que la columna con mayor escala manda: sin escalar, el SVC cae a AUC 0.688 y KNN a 0.709. scikit-learn no da error, escalar no elimina atípicos y son los árboles los que no necesitan escalado.

12. En un SVC con kernel RBF, ¿qué controlan C y gamma?

• C es el costo de cada error (margen ancho con C chico, estrecho con C grande) y gamma el alcance de cada vector de soporte.
• C y gamma son la tasa de aprendizaje y el número de iteraciones.
• C es el número de clases y gamma el número de vectores de soporte.
• C fija el umbral de decisión y gamma la probabilidad mínima.

Con C chico el SVC tolera errores y el margen es ancho; con C grande lo estrecha para acertar en train: en PyRitmo C=10 baja el AUC a 0.804 contra 0.827 con C=1. Gamma alto hace fronteras más curvas y locales. No son el número de clases, ni una tasa de aprendizaje, ni el umbral.

13. GaussianNB supone que las columnas son independientes dentro de cada clase, y en PyRitmo energía y acústica tienen correlación −0.833. ¿Qué se observa?

• Scikit-learn se niega a entrenarlo si hay columnas correlacionadas.
• Sus probabilidades son exageradas (64.5 % menores que 0.05 o mayores que 0.95), pero aún ordena razonablemente (AUC 0.792).
• El modelo falla por completo y su AUC es 0.5.
• Sus probabilidades son las mejor calibradas de todos los modelos.

Al contar varias veces la misma evidencia, Naive Bayes se vuelve demasiado seguro y su predict_proba no está calibrado. Aun así, el orden de las canciones puede seguir siendo útil, por eso funciona como línea base rápida. No queda en azar, no está bien calibrado y scikit-learn no revisa el supuesto.