El Deep Learning Crash Course for Beginners de Jason Dsouza en freeCodeCamp es el mapa del territorio: qué es DL, cómo aprende la red, el vocabulario (loss, Adam, epoch) y las tres familias de arquitectura. Este texto condensa el curso. La cuenta de fondo — MatMul, GPU — está en GPU vs TPU; la neurona en sí, en ¿Qué es una red neuronal? (3Blue1Brown).
IA, ML, Deep Learning
IA
└─ Machine Learning (aprende com dados, não com if/else)
└─ Deep Learning (rede neural com várias camadas ocultas)
El ML clásico pide que tú elijas las features. DL aprende la representación directamente del dato en bruto (end-to-end). Es el motor de AlphaGo, visión vehicular, diagnóstico y LLM — el mismo stack que ejecutas en Linux con el Ollama.
El ciclo: adelante, error, vuelta
- Forward: entrada → capas ocultas (peso
w, sesgob, activación) → predicción en la salida. Al principio los pesos son aleatorios; la predicción es basura. - Loss: un número que mide cuán equivocada estuvo. Cuanto mayor, peor.
- Backprop + gradient descent: el error vuelve. La regla de la cadena indica cuánto contribuyó cada peso. El optimizador camina en la dirección opuesta al gradiente y el error baja en la siguiente ronda.
Vocabulario que aparece en el entrenamiento
Activación — sin no linealidad, N capas lineales = 1 capa. Por eso existe σ.
| Función | Salida | Uso |
|---|---|---|
| Sigmoide | (0, 1) | Salida binaria; satura en el centro de la red |
| Tanh | (−1, 1) | Centrada en cero; mejor que σ en el centro, clásica |
ReLU max(0, x) |
[0, +∞) | Estándar en las capas ocultas |
| Leaky ReLU | ℝ | Evita la neurona muerta (gradiente pequeño en x<0) |
| Softmax | las probabilidades suman 1 | Salida multiclase |
Loss: regresión → MSE (penaliza el error grande) o MAE (más robusto frente a valores atípicos). Clasificación → binary / categorical cross-entropy.
Optimizador: una tasa de aprendizaje demasiado alta oscila; demasiado baja no llega. SGD usa mini-lote; Momentum amortigua; RMSprop/Adagrad se adaptan por parámetro; Adam (momentum + RMSprop) es el estándar de la industria.
Parámetro la red lo ajusta por sí misma (peso, sesgo). Hiperparámetro lo eliges tú: lr, batch, épocas, arquitectura.
1 época = 1 pasada por el dataset. Batch size = cuántos ejemplos antes de actualizar. 1.000 muestras / batch 100 = 10 iteraciones por época.
Tres formas de aprender — y el sobreajuste
- Supervisado: par (x, y). Imagen con etiqueta, precio con valor.
- No supervisado: sin etiqueta. Cluster, autoencoder, PCA.
- Refuerzo: agente, entorno, recompensa. AlphaGo, robot.
Underfit: modelo demasiado simple, falla incluso en el entrenamiento. Overfit: memorizó el entrenamiento, se rompe en la prueba.
Regularización que funciona: Dropout (apaga neuronas durante el entrenamiento), L1/L2 en los pesos, data augmentation (rota, recorta, refleja), early stopping (para cuando la loss de validación sube).
Tres arquitecturas
- MLP / densa: capa a capa, sin memoria. Tabla, regresión clásica.
- RNN / LSTM / GRU: bucle, estado interno. Serie temporal, texto, log de servidor. LSTM/GRU tienen puertas para que el gradiente no desaparezca en secuencias largas.
- CNN: kernel que se desplaza sobre la imagen, mapa de características + pooling. Visión. (Transformer se comió parte del texto; CNN sigue mandando en visión clásica.)
Los 5 pasos de cualquier proyecto
- Datos. Garbage in, garbage out. Una clase desbalanceada engaña a la exactitud.
- Preproceso. Nulos, escala [0,1] o z-score, partición entrenamiento / validación / prueba (~80 / 10 / 10).
- Entrenamiento. Forward, loss, backprop, épocas.
- Evaluación. Además de la exactitud: precisión, recall, F1, matriz de confusión — obligatorio si la clase rara importa.
- Ajuste. Búsqueda en cuadrícula/aleatoria en hiperparámetros, dropout, lr, añadir capa si es necesario.
Referencias
- Curso: Jason Dsouza — Deep Learning Crash Course for Beginners (freeCodeCamp)
- ¿Qué es una red neuronal? (3Blue1Brown, MNIST)
- GPU vs TPU
- Ollama en Linux
Pesos, loss, Adam, ReLU, split. Con esto el crash course encaja en la cabeza: lo demás es entrenar y mirar la gráfica de validación.