Learning Data

Temas › Ingeniería analítica › En las entrañas del oficio de datos

En las entrañas del oficio de datos

Una serie técnica para analytics engineers: cómo un modelo de datos acordado se convierte en tablas, con dbt, en Databricks. Sigue a Jun, analytics engineer de la universidad, desde una pregunta hasta modelos versionados, probados y documentados, en cuatro fases (preguntar, prometer, construir, mantener), con un agente de IA que ayuda en cada paso y una persona que aprueba cada uno.

Las películas están en inglés, con subtítulos en español. Estas páginas, los capítulos, las preguntas, los labs y las situaciones están en español.

Las películas

Míralas en orden. Es técnica: muestra código, YAML y Markdown reales de un proyecto de dbt de ejemplo que corre en dbt Core con DuckDB, en el repositorio de este sitio, así que puedes ejecutarlo tú mismo. Se entiende mejor después de De las palabras a los datos.

Película 1 de 10 · La serie y su método

Decláralo, luego constrúyelo

dbt llama modelo a cada consulta. El modelo de datos es el plano: declarado junto al código, y comprobado por las pruebas.

5½ min · 4 labs · 8 situaciones · En las entrañas del oficio de datos · En inglés

Película 2 de 10 · Alcance y responsables

Empieza por una pregunta

Un modelo no tiene borde hasta que una pregunta se lo da. Modela solo lo que la pregunta toca, y nombra primero al responsable de cada significado.

5 min · 4 labs · 8 situaciones · En las entrañas del oficio de datos · En inglés

Película 3 de 10 · Identidad y claves

Qué lo hace el mismo

Una estudiante, tres claves, y alguien que se le parece. Las reglas unen la mayoría; una persona decide el resto, y la decisión se vuelve datos y una prueba.

4½ min · 4 labs · 8 situaciones · En las entrañas del oficio de datos · En inglés

Película 4 de 10 · Grano y tiempo

Una fila de qué, y cuándo

Doce el día del censo, nueve hoy: las dos correctas. Di qué es una fila y qué día describe, antes de escribir SQL, y prueba las dos cosas.

5 min · 4 labs · 8 situaciones · En las entrañas del oficio de datos · En inglés

Película 5 de 10 · Contratos y pruebas

Promesas y pruebas

Cada brecha recibe una decisión. Prométela en un contrato; demuéstrala con una prueba, escrita antes del código que comprueba.

5½ min · 4 labs · 8 situaciones · En las entrañas del oficio de datos · En inglés

Película 6 de 10 · Capas y CTE

Construido en capas

Cuatro capas ponen las pruebas en verde. Cada capa tiene una tarea; cada CTE, un paso; y la regla se escribe una sola vez.

4½ min · 4 labs · 8 situaciones · En las entrañas del oficio de datos · En inglés

Película 7 de 10 · Dominios y propiedad

Quién es dueño de qué

El significado de cada hecho tiene dueño. Los dueños publican un núcleo público y versionado; los consumidores construyen sobre él, nunca sobre los marts de otros.

5½ min · 4 labs · 8 situaciones · En las entrañas del oficio de datos · En inglés

Película 8 de 10 · Agentes y revisión

Un agente en el equipo

Un agente de IA redacta en minutos. Sigue reglas escritas en el proyecto, muestra la consulta detrás de cada afirmación, nunca debilita una prueba, y las personas aprueban.

5½ min · 4 labs · 8 situaciones · En las entrañas del oficio de datos · En inglés

Película 9 de 10 · Documentación y versiones

Escrito una sola vez

Cada copia de un dato es una ocasión de desviarse. Un hogar para cada dato, todo lo demás generado, y un cambio que rompe llega como una versión nueva con fecha.

5½ min · 4 labs · 8 situaciones · En las entrañas del oficio de datos · En inglés

Película 10 de 10 · Todo el proceso

De principio a fin

Una pregunta, diez pasos, diez commits. Cada archivo en su lugar, mientras haga falta.

8½ min · 4 labs · 8 situaciones · En las entrañas del oficio de datos · En inglés

Un hilo: la credencial, construida

De las palabras a los datos termina con la versión 3 del modelo de credencial aprobada. Esta serie la construye, a partir de una pregunta de planificación: ¿cuántos estudiantes están a 15 créditos o menos de un diploma de posgrado, a la fecha de censo? Necesita credenciales de tres sistemas, un estudiante con tres claves distintas, créditos que cuentan para títulos, e historia.

Cada película empieza en el pasado

PelículaEmpieza conSigue siendo cierto
Decláralo, luego constrúyeloLos cianotipos, década de 1870Un plano dice exactamente cómo será el edificio, y no pone ni un ladrillo.
Empieza por una preguntaEl mapa del cólera de John Snow, Soho, 1854Muestra solo lo que la pregunta necesita.
Qué lo hace el mismoLas medidas de Bertillon, París, década de 1880Parecerse no es ser el mismo.
Una fila de qué, y cuándoEl censo de Estados Unidos del 1 de junio de 1890Una tarjeta por persona, tal como estaba un día.
Promesas y pruebasEl contraste de la plata, desde 1300Se ensaya antes de marcarse; después se confía sin volver a ensayar.
Construido en capasLa brigada de cocina de Escoffier, década de 1890Cada estación tiene una tarea, y cada plato se revisa en el pase.
Quién es dueño de quéEl título Torrens, Australia del Sur, 1858El registro es el título: su dueño lo cambia, y todos confían en él.
Un agente en el equipoEl Almanaque Náutico, 1766Calculado dos veces, y comparado, antes de imprimir nada.
Escrito una sola vezUn diapasón para Francia, 1859Guardado en un solo lugar, y todo lo demás se afina con él.
De principio a finEl piso de trazado de la catedral de York, siglo XIVLos dibujos eran para el trabajo; las ventanas son lo que quedó.

Quién construye, quién decide

Los contornos cian son del lado técnico; los dorados, del lado de negocio.

Construye el modelo

Jun, analytics engineer, guía de la serie

Es dueña del modelo

Noor, arquitecta de datos

Es dueña de las palabras

Mei, registro académico

Hace las preguntas

Planificación, la billetera del estudiante, y Finanzas