Unidad 2 · Aprender una cantidad: regresiónClase 6 de 23
Clase 6 · Función de costo, error y R²

Objetivo. Calcular el error de una recta, explicar por qué se eleva al cuadrado y leer el R² contra la media.

Ficha Bloom · Aplicar
  • Evidencia de aprendizaje: Calcula MSE o MAE a mano con pocos puntos e interpreta el R² como comparación con predecir la media.
  • Actividad final: Encontrar con los controles la recta de menor costo y explicar por qué ese es el mínimo.
  • Criterio de dominio: Calcula sin error un costo con tres o cuatro puntos e interpreta un R² igual a 0 y uno negativo.
Activación. Dos rectas pasan cerca de los mismos puntos. ¿Cómo decides cuál es mejor sin mirarlas? Escribe tu respuesta antes de seguir: la retomas en el cierre.

Regresión, función de costo y R²

Mueve la recta con las barras. Todo se recalcula solo.
Fundamentos de Ciencia de Datos · UdeC · Clase del 31-jul (regresión)

Limpieza de datos → Regresión · función de coste → Sobreajuste → Generalización
Esto es el laboratorio. Aquí solo se experimenta con la función de coste: mover la recta y ver el error. Si lo que buscas es la clase completa —qué es regresión, de dónde sale la notación, qué significa cada símbolo— abre clase6_regresion.html.

El problema, sin matemáticas

Una faena minera quiere saber cuánto combustible gasta un camión según la carga que transporta. Sirve para presupuestar, para detectar camiones que gastan de más, y para planificar.

Registraron ocho viajes. Cada punto del gráfico es un viaje: la carga en toneladas y los litros que consumió.

La pregunta: si mañana sale un camión con 34 toneladas, ¿cuántos litros va a gastar? No tenemos ese dato. Hay que estimarlo.

Respuesta correcta y cómo se resuelve

Respuesta: unos 103 litros (102,8 L con la mejor recta exacta; el botón muestra 102,5 L porque las barras redondean la recta a pendiente 2,50 y partida 17,5).

Cómo se resuelve a mano (mínimos cuadrados, con los ocho viajes):

  1. Promedios: carga = 228 / 8 = 28,5 t; litros = 712 / 8 = 89 L.
  2. Para cada viaje, desvío de la carga (x − 28,5) y del consumo (y − 89). Suma de sus productos = 2.202; suma de los desvíos de carga al cuadrado = 880.
  3. Pendiente = 2.202 / 880 = 2,502 L por tonelada.
  4. Punto de partida = 89 − 2,502 · 28,5 = 17,69 L (la recta pasa por el punto promedio).
  5. Predicción: 17,69 + 2,502 · 34 = 17,69 + 85,07 = 102,76 L.

Con esa recta los ocho viajes quedan a menos de 4 L de ella (el mayor residuo es −3,74 L, el viaje de 26 t), así que «unos 103 L, más o menos 4» es una forma honesta de decirlo [INFERENCIA].

Error típico: responder el promedio, 89 L. Eso es la línea gris: ignora la carga, y justo la carga es lo que distingue a este camión. Otro error: tomar el viaje más parecido (35 t, 104 L) y copiarlo; un solo viaje trae su propio ruido.

Origen: los ocho viajes son datos sintéticos de esta página [DATITO]; el cálculo es aritmética verificable sobre ellos [INFERENCIA]. La solución cerrada (pendiente = covarianza / varianza de x; partida = ȳ − pendiente · x̄) está en [FUENTE · Repo: 05_CLASES/11_PRESENTACIÓN/_markdown/Resumen_Clase6_Regresion.md · §6.4.4, slides 18–19]; ahí mismo consta que derivarla no se pide en certamen: basta entender qué significa.

Antes de tocar nada: si mueves la recta hasta que pase exactamente por un punto, ¿qué le pasa al costo?
Respuesta correcta y cómo se resuelve

Respuesta: «Depende de los otros siete». Acertar un viaje pone en cero una sola línea roja; el costo sigue siendo el promedio de las ocho, y las otras siete no se enteran.

Cómo se resuelve: costo = (1/8) · (0² + suma de los cuadrados de los otros siete residuos). Con números de esta página: la mejor recta (pendiente 2,502, partida 17,69) no pasa exacta por ningún viaje y su costo es 5,50. Si la subes o bajas, sin cambiar la pendiente, hasta que pase justo por el viaje de 26 t y 79 L, ese residuo queda en 0, pero los otros siete se agrandan y el costo sube a 19,5.

Error típico: «baja a cero» confunde un error con el promedio de los errores. Y «llega a su mínimo» supone que la mejor recta toca puntos; en general no toca ninguno, porque equilibra los ocho.

Origen: cálculo sobre los ocho viajes sintéticos de esta página [DATITO]; costo como suma de residuos al cuadrado: [FUENTE · Repo: 05_CLASES/11_PRESENTACIÓN/_markdown/Resumen_Clase6_Regresion.md · §6.4.3, slide 15].

1,20 20,0
–
Costo (MSE)
–
R²
–
Litros si 34 t

Eso es «minimizar el riesgo»

Residuales vs Predichos

1 · Qué es cada cosa en el gráfico

En el gráficoNombre técnicoQué es en la faena
Puntos azulesDatos observadosLos ocho viajes que sí se registraron
Recta negraModelo linealTu regla para estimar viajes futuros
Líneas rojasResiduosCuánto te equivocas en cada viaje
Línea gris punteadaLa mediaLa predicción más tonta: «siempre el promedio»
La recta tiene solo dos números. El punto de partida (dónde arranca) y la pendiente (cuánto sube por cada tonelada). Entrenar un modelo lineal es encontrar esos dos números. Nada más.

2 · La función de costo

Hay infinitas rectas posibles. Para elegir una necesitas un número que diga qué tan mala es.

Ese número se construye así: para cada viaje mides el largo de su línea roja —cuánto te equivocaste—, lo elevas al cuadrado, y promedias los ocho.

¿Por qué al cuadrado? Dos razones prácticas:

Compruébalo. Mueve la pendiente hasta que la recta pase lejos de los puntos. El costo se dispara. Acércala y baja. El costo es literalmente lo que estás viendo: qué tan largas son las líneas rojas.

3 · Minimizar el riesgo

Ahora que tienes un número que mide lo mala que es cada recta, el problema deja de ser vago y se vuelve concreto: busca los dos números que hacen ese costo lo más pequeño posible.

Eso es todo lo que significa «minimizar el riesgo». Pulsa el botón y la computadora lo hace — para una recta hay una fórmula exacta, no hace falta tantear.

El detalle que importa. Minimizas el error sobre los ocho viajes que tienes, no sobre todos los viajes posibles. Por eso se llama riesgo empírico. Y de ahí sale el sobreajuste: una recta puede quedar perfecta para esos ocho y fallar con el noveno.

4 · R²: comparado con no hacer nada

El costo está en «litros al cuadrado», que no significa nada para nadie. R² responde otra pregunta, y esa sí se entiende:

¿Cuánto mejor lo hago que si dijera siempre el promedio?

La línea gris punteada del gráfico es ese «siempre el promedio». Es el rival a batir, y no se mueve: depende solo de los datos, no de tu recta.

R²Qué significa
1,00Error cero. La recta pasa por todos los puntos
0,90Tu error es el 10 % del que tendrías con el promedio
0,00Igual de bueno que decir siempre el promedio
−0,08Peor que el promedio. Es el baseline de tu proyecto Melbourne
R² = 0 no es «no acertó nada». Es «no aportó nada sobre decir el promedio». Y puede ser negativo, porque siempre puedes hacerlo peor que no pensar.
Por eso no se entrena minimizando R². El rival —la línea gris— está fijo. Lo único que tu recta mueve son las líneas rojas. Así que minimizar R² y minimizar el costo son la misma operación. Escribirlo de la otra forma no agrega nada.

4b · La fórmula del coste, desarmada

MSE = (1/n) · Σ (yᵢ − ŷᵢ)²
ParteQué es aquíRol
yᵢLos litros que gastó de verdad el viaje ies un dato
ŷᵢLos litros que predice tu rectasale del modelo
yᵢ − ŷᵢEl largo de la línea roja del viaje ies el residuo
( )²Que no se cancelen, y castigar más lo grandelo decides tú
Σ y 1/nSumar los 8 viajes y promediarlo decides tú

Dos de las cinco partes son decisiones tuyas, no verdades. Cambiar el cuadrado por valor absoluto te da el MAE, y entonces los errores grandes dejan de pesar más. Ninguna de las dos es «la correcta»: responden a preguntas distintas.

4c · Camino inverso: te dan la fórmula

MSE = (1/n) · Σ (yᵢ − ŷᵢ)²
1 · ¿Qué objeto del gráfico es cada término?

Cada (yᵢ − ŷᵢ) es una línea roja. Hay ocho, una por viaje. El cuadrado las convierte en áreas, la suma las junta y el 1/n devuelve un promedio.

Mover la recta cambia las ocho a la vez. Por eso el número salta tanto.

2 · ¿Qué pasaría sin el cuadrado?

Errar +10 y −10 litros sumaría cero, y una recta pésima parecería perfecta. El cuadrado impide que los errores se anulen entre sí.

Compruébalo: pon la recta atravesando la nube por el medio pero muy inclinada. Los residuos son enormes y de signos opuestos.

3 · ¿En qué unidades está el resultado?

En litros al cuadrado, que no significa nada para nadie. Por eso existe el R²: traduce el coste a una escala interpretable comparándolo con el modelo que responde siempre el promedio.

4 · ¿Y cómo se encuentra el mínimo?

Para una recta hay fórmula exacta —mínimos cuadrados ordinarios—, así que no hace falta tantear. El botón Buscar la mejor recta, en el panel de arriba, la aplica.

Eso es minimizar el riesgo empírico: elegir los parámetros que hacen mínimo el coste sobre los datos que tienes. La palabra «empírico» es la que abre la puerta al sobreajuste.

5 · Pruébalo tú

  1. Pon la pendiente en 0. La recta queda horizontal. Ajusta el punto de partida hasta el R² más alto que consigas. ¿A qué valor se acerca? ¿Dónde queda la recta?
    Respuesta correcta y cómo se resuelve

    Respuesta: el R² sube hasta 0 exacto, y nunca pasa de ahí. Lo logras con el punto de partida en 89: la recta queda encima de la línea gris punteada, el promedio.

    Cómo se resuelve: con pendiente 0 la recta dice «siempre el mismo número». El número que hace mínima la suma de errores al cuadrado es el promedio, 712 / 8 = 89 L (costo 694,25). Pero ese es justo el rival con que R² se compara, así que empatas con él: R² = 1 − 694,25 / 694,25 = 0. Cualquier otro valor lo hace peor: en 80, el costo sube a 775,25 y R² = −0,117.

    Error típico: esperar un R² positivo «porque la recta está cerca de los puntos del medio». Una horizontal no usa la carga para nada; como mucho iguala al promedio.

    Origen: cálculo sobre los datos sintéticos de la página [DATITO]; que el promedio minimiza el error cuadrático de una constante es [INFERENCIA] (la misma lógica de la sección 4).

  2. Pulsa Buscar la mejor recta y anota el costo.
    Respuesta correcta y cómo se resuelve

    Respuesta: el marcador muestra un costo de 5,6 (R² 0,992). El mínimo exacto es 5,50.

    Por qué los dos números: la fórmula da pendiente 2,502 y partida 17,69, pero las barras solo aceptan pasos de 0,05 y 0,5, así que se quedan en 2,50 y 17,5. Con esa recta, la suma de los ocho cuadrados es 44,5 y el costo es 44,5 / 8 = 5,56. Con la recta exacta la suma es 44,0 y el costo 5,50.

    Error típico: leer el 5,6 como «me equivoco 5,6 litros». Está en litros al cuadrado: su raíz, unos 2,35 L, es el tamaño típico del error expresado en litros.

    Origen: cálculo sobre los datos sintéticos de la página [DATITO] [INFERENCIA].

  3. Mueve la pendiente 0,2 hacia arriba. Mira cuánto sube el costo con ese cambio mínimo.
    Respuesta correcta y cómo se resuelve

    Respuesta: sube de 5,6 a 39,5, unas siete veces, y el R² cae de 0,992 a 0,943. Un cambio que en el gráfico casi no se ve.

    Cómo se resuelve: subir la pendiente 0,2 cambia el residuo de cada viaje en 0,2 · carga: 2,4 L en el viaje de 12 t y 9 L en el de 45 t. Esos cambios se elevan al cuadrado y se promedian: 0,04 × (promedio de las cargas al cuadrado, 922,25) ≈ 36,9 de costo extra si partes del mínimo exacto (5,50 → 42,4). Desde la recta redondeada del botón el salto es parecido: 5,6 → 39,5.

    Error típico: pensar que un cambio chico en un parámetro da un cambio chico en el costo. Cerca del mínimo el costo crece con el cuadrado del alejamiento, y los viajes de mucha carga pesan más porque la pendiente se multiplica por la carga.

    Origen: cálculo sobre los datos sintéticos de la página [DATITO] [INFERENCIA].

Antes de cerrar: explícaselo a alguien.

Un compañero propone: «usemos la suma de los errores sin elevarlos al cuadrado, así el número queda en litros y se entiende mejor».

¿Tiene razón en algo? ¿En qué se equivoca? Justifícalo con lo que pasa cuando un error es positivo y otro negativo.
Respuesta correcta y cómo se resuelve

Respuesta en una frase: tiene razón en que el costo en litros al cuadrado no se entiende, pero se equivoca en el remedio: la suma de errores con signo se cancela y puede declarar perfecta una recta pésima; para volver a litros hay que usar el valor absoluto (MAE) o sacar raíz al MSE.

Respuesta modelo (como la escribiría un buen alumno):

«Tiene razón en una cosa: el costo al cuadrado queda en litros², y eso no se lo puedo mostrar a nadie. Pero sumar los errores sin elevarlos no sirve, porque los positivos cancelan a los negativos: si en un viaje me paso por 10 litros y en otro me quedo corto por 10, la suma da 0 y parece que no me equivoqué. Peor aún: cualquier recta que pase por el punto promedio (28,5 t; 89 L) tiene suma de errores exactamente 0. La recta horizontal en 89 L, que ni siquiera usa la carga, daría 0, igual que la mejor recta; con esa medida no podría elegir entre ellas. Si lo que quiere es un número en litros, que promedie el valor absoluto de los errores (el MAE, unos 2,0 L para la mejor recta) o que saque la raíz del MSE (unos 2,35 L). Las dos impiden la cancelación; el cuadrado además castiga más los errores grandes.»

Cómo se comprueba: la mejor recta tiene residuos 0,29 · −0,73 · 1,26 · −3,74 · 3,25 · −1,26 · 3,22 · −2,29, que suman 0. La horizontal en 89 L tiene residuos −41, −27, −15, −10, 7, 15, 32, 39, que también suman 0, con un costo de 694 contra 5,5. La suma no distingue entre las dos; el MSE sí.

Criterios de corrección:

Error típico: responder solo «hay que elevar al cuadrado porque sí», o decir que el compañero no tiene razón en nada. La unidad es un problema real; lo errado es el remedio.

Origen: las razones del cuadrado (eliminar los signos, con el ejemplo de −100 y +100 que se cancelan, y castigar más los errores grandes a diferencia del valor absoluto) están en [FUENTE · Repo: 05_CLASES/11_PRESENTACIÓN/_markdown/Resumen_Clase6_Regresion.md · §6.4.3]; que en esa clase un estudiante nombró el MAE, en la misma sección. Las cifras son cálculos sobre los datos sintéticos de esta página [DATITO]. Escríbelo primero y llévaselo a Datito.

Cierre de la Clase 6 · Función de costo, error y R²

Qué aprendiste

  • La función de costo resume en un número qué tan lejos está la recta de los datos.
  • Elevar al cuadrado elimina el signo y castiga más los errores grandes.
  • Entrenar es elegir los θ que minimizan el costo.
  • R² compara con predecir siempre la media: 0 es igual que la media; negativo, peor.

Qué no debes confundir

  • MAE (en unidades de y) ≠ MSE (en unidades al cuadrado).
  • R² alto en entrenamiento ≠ buen modelo fuera de la muestra.
  • «R² está entre 0 y 1» es falso: puede ser negativo.

Procedimiento para el papel

  1. Calcula cada residuo y − ŷ.
  2. Eleva al cuadrado (MSE) o toma el valor absoluto (MAE) y promedia.
  3. R² = 1 − SSres/SStot: compara con la media.

Viene de: Clase 5 · Regresión: predecir una cantidad · Sigue: Clase 7 · Train, validation y test

Vuelve a tu activación: Dos rectas pasan cerca de los mismos puntos. ¿Cómo decides cuál es mejor sin mirarlas? ¿Cambiarías tu respuesta?

Pregunta final. Un modelo tiene R² = −0,08 en test. ¿Qué significa?
Respuesta correcta y cómo se resuelve

Que predice peor que usar siempre la media de y: su suma de errores al cuadrado supera la de la media. [DATITO]

El cierre es una síntesis de la clase [DATITO]: cada afirmación tiene su fuente en el cuerpo de este visual. Fuente del cierre: 07_DATITO/clases.yaml.

Continuar → Clase 7 · Train, validation y test