2.1 Ejemplo: nacimientos

Consideremos una parte de los datos de nacimientos por día del INEGI de 1999 a 2016. Consideraremos sólo tres meses: enero a marzo de 2016. Estos datos, por su tamaño, pueden representarse de manera razonablemente efectiva en una visualización de serie de tiempo

library(tidyverse)
library(lubridate)
library(kableExtra)

nacimientos <- read_rds("datos/nacimientos/natalidad.rds") %>%
   ungroup() %>% 
   filter(year(fecha) == 2016, month(fecha) <= 3)

Examinamos partes del contenido de la tabla:

tab_1 <- nacimientos %>% 
   select(fecha, n) %>% 
   slice_head(n = 5)
tab_2 <- nacimientos %>% 
   select(fecha, n) %>% 
   slice_tail(n = 5)
kable(list(tab_1, tab_2)) %>% kable_styling()

En un examen rápido de estos números no vemos nada fuera de orden. Los datos tienen forma de serie de tiempo regularmente espaciada (un dato para cada día). Podemos graficar de manera simple como sigue:

ggplot(nacimientos, aes(x = fecha, y = n)) +
   geom_point() +
   geom_line() + 
   scale_x_date(breaks = "1 week", date_labels = "%d-%b") 

Esta es una descripción de los datos, que quizá no es muy compacta pero muestra varios aspectos importantes. En este caso notamos algunos patrones que saltan a la vista. Podemos marcar los domingos de cada semana:

domingos_tbl <- nacimientos %>% 
   filter(weekdays(fecha) == "domingo")
ggplot(nacimientos, aes(x = fecha, y = n)) +
   geom_vline(aes(xintercept = fecha), domingos_tbl, colour = "salmon") +
   geom_point() +
   geom_line() + 
   scale_x_date(breaks = "1 week", date_labels = "%d-%b") 

Observamos que los domingos ocurren menos nacimientos y los sábados también ocurren relativamente menos nacimentos. ¿Por qué crees que sea esto?

Adicionalmente a estos patrones observamos otros aspectos interesantes:

• El primero de enero hay considerablemente menos nacimientos de los que esperaríamos para un viernes. ¿Por qué?
• El primero de marzo hay un exceso de nacimientos considerable. ¿Qué tiene de especial este primero de marzo?
• ¿Cómo describirías lo que sucede en la semana que comienza el 21 de marzo? ¿Por qué crees que pase eso?
• ¿Cuáles son los domingos con más nacimientos? ¿Qué tienen de especial y qué explicación puede tener?

La confirmación de estas hipótesis, dependiendo de su forma, puede ser relativamente simple (por ejemplo ver una serie más larga de domingos comparados con otros días de la semana) hasta muy compleja (investigar preferencias de madres, de doctores o de hospitales, costumbres y actitudes, procesos en el registro civil, etc.)

2.2 Inferencia y predicción

En los ejemplos anteriores, sólo vimos muestras de datos (algunos pacientes, algunas fechas). Nuestras descripciones son, estrictamente hablando, válidas para esa muestra de los datos.

Si quisiéramos generalizar a la población de pacientes con cálculos (quizá en nuestra muestra el tratamiento A parece mejor, pero ¿qué podemos decir para la población de pacientes), o quisiéramos predecir cómo van a ser los nacimientos en 2021, requerimos otro tipo de análisis: inferencial y predictivo. Estos dos tipos de análisis, centrales en la estadística, buscan establecer condiciones para poder generalizar de nuestra muestra a datos no observados (otros pacientes, nacimientos en el futuro), y cuantificar qué tan bien o mal podemos hacerlo.

Para llegar a este tipo de análisis, generalmente tenemos que comenzar con el análisis exploratorio, y con la comprensión de los fundamentos del proceso generador asociado a nuestros datos. En algunos casos, veremos que es posible usar herramientas matemáticas para modelar aspectos de nuestro proceso generador de datos, que cuando válidas, nos permiten generalizar y ampliar apropiadamente el rango de nuestras conclusiones.

La herramienta básica para construir, entender y operar con estos modelos es la teoría de probabilidad, que veremos más adelante.

2.3 Descripciones simples y problemas complejas

Muchas veces se descarta al análisis descriptivo o exploratorio (al menos en sus formas más crudas) como algo que no requiere mucha habilidad técnica o conocimiento de dominio, o cuando se quiere evitar plantear hipótesis claras acerca de los datos que ayuden en su entendimiento.

En realidad el análisis descriptivo y exploratorio es crucial en el análisis de datos en general, y tiene siempre que venir acompañado de conocimiento de dominio, habilidad técnica, una mente crítica y muchas veces ingenio y creatividad.

2.4 ¿Qué preguntas formular?

Existen algunas prácticas generales que utilizamos para hacer validaciones y resúmenes simples de los datos que discutiremos más adelante. Por el momento, discutimos las razones por las que estamos haciendo ese análisis en un principio.

En general, comenzamos con algunas preguntas básicas que quisiéramos contestar con los datos. El análisis exploratorio juega un papel central para comenzar a responder:

• ¿Es razonable la pregunta que queremos contestar?
• ¿Podemos contestar la pregunta con los datos que tenemos?

Aunque estos dos incisos a veces parecen transparentes y simples de contestar, generalmente no lo son: las preguntas que queremos contestar y los problemas que queremos resolver usualmente son no triviales.

2.5 Formulación de preguntas y respuestas

El proceso de la ciencia de datos no va desde las preguntas hasta las respuestas en un camino lineal.

En esta gráfica Roger Peng hay tres caminos: uno es uno ideal que pocas veces sucede, otro produce respuestas poco útiles pero es fácil, y otro es tortuoso pero que caracteriza el mejor trabajo de análisis de datos:

Figure 2.1: Adaptado de R. Peng: Tukey, design thinking and better questions

El proceso típico involucra pasos como los siguientes, y es un proceso no lineal:

• Hacer preguntas de la materia que nos interesa
• Recolectar, consumir y procesar los datos para abordarla
• Explorar estos datos y evaluar su calidad
• Hacer análisis o modelos
• Reportar los resultados de forma adecuada y con esto resolver y replantear las preguntas importantes.

Por ejemplo, evaluar la calidad de los datos puede llevar a replantear la necesidad de obtener más información o de hacer estudios específicos. Así también, los modelos pueden dar luz sobre las preguntas que los originan.

2.6 ¿Cómo saber que vamos en el camino correcto?

Comenzamos por discribir cuáles son los signos de calidad del análisis que piensa usarse como insumo para una decisión. Los principios del diseño analítico de Edward Tufte (Tufte (2006)) son:

Los análisis exitosos:

1. Muestran y explotan comparaciones, diferencias y variación.
2. Tienden a ser multivariados: estudian conjuntamente más de 1 o 2 variables.
3. Muestran y explotan estructura sistemática, sugieren explicaciones. Cuando es posible, aportan evidencia de causalidad.

También muy importantes pero en los que pondremos menos énfasis:

4. Datos y procesos están bien documentados. El análisis es reproducible y transparente.
5. Intentan integrar la evidencia completa: texto, explicaciones, tablas y gráficas.

Y finalmente, el principio general:

6. La calidad, relevancia, e integridad del contenido y los datos son los que al final sostienen al análisis - por sí mismos, el uso de técnicas sofisticadas, algoritmos novedosos, uso o no de grandes datos, estilo de visualizaciones o presentaciones no son marcas o sellos de un análisis de datos exitoso.

2.7 Gráfica de Minard

La ilustración que Tufte usa para mostrar excelencia en diseño analítico es una gráfica de Minard que sirve para entender la campaña de Napoleón (1812) en Rusia. Es un ejemplo atípico, pero representa bien los principios y también muestra la importancia del ingenio en la construcción de un anállsis:

Figure 2.2: Marcha de Napoleón de Charles Minard. Tomado de Wikipedia

2.8 Ejemplo: Estados y calificaciones en SAT

Una pregunta típica y discutida es:

Aunque hay trabajo considerable en definir estos términos, supongamos que tenemos el siguiente conjunto de datos, que son datos oficiales agregados por estado de Estados Unidos. Tenemos las variables sat, por ejemplo, que es la calificación promedio de los alumnos en cada estado (para 1997), y la variable expend, que es el gasto en miles de dólares por estudiante en (1994 - 1995), además de algunas otras variables.

library(skimr)
sat_tbl <- read_csv("datos/sat.csv")
skim(sat_tbl)

Variable type: character

Variable type: numeric

• ¿Cómo se ven las calificaciones para estados por nivel de gasto?

Podemos usar una gráfica de dispersión (más adelante veremos el suavizador que se utiliza como línea de referencia):

library(ggrepel)
ggplot(sat_tbl, aes(x = expend, y = sat, label = state)) + 
  geom_smooth(span = 1, method = "loess", se = FALSE) +
  geom_point(colour = "red", size = 2) + 
  geom_text_repel(colour = "gray50", size = 3) +
  xlab("Gasto por alumno (miles de dólares)") +
  ylab("Calificación promedio en SAT") 
#> `geom_smooth()` using formula 'y ~ x'

Esta gráfica parece sugerir que los estados en donde el gasto es mayor, los resultados promedio del SAT no son tan buenos. Con esto, hemos contestado la pregunta inicial. Este, sin embargo, es un análisis deficiente. Aunque la técnica y la respuesta que arroja no son malas, la pregunta en su forma actual no es una pregunta muy bien planteada, interesante o útil.

Después de examinar los datos, descubrimos una variable que puede ser importante: el porcentaje de alumnos que tomó el SAT en el año dado (frac). Podemos agregar al análisis como sigue (el color más claro representa un mayor porcentaje):

ggplot(sat_tbl, aes(x = expend, y = sat, label=state, colour = frac,
                 group = frac)) + 
  geom_point() + geom_text_repel(size = 3) +
  xlab("Gasto por alumno (miles de dólares)") +
  ylab("Calificación promedio en SAT") +
  scale_color_gradient(low = "orange", high = "black")

Vemos entonces por qué nuestra comparación inicial es relativamente pobre: los estados con mejores resultados promedio en el SAT son aquellos donde una fracción baja de los estudiantes toma el examen. La diferencia es considerable (de menos de 20% de los alumnos hasta 80%), y la relación es fuerte:

ggplot(sat_tbl, aes(x = frac, y = sat, label = state, colour = frac)) + 
  geom_point() +
    geom_smooth(method = "loess", span = 0.5, se = FALSE, 
                method.args = list(degree = 1), col = "blue") +
    annotate("text", x = 40, y = 1050, label = "Desempeño por \n encima del esperado", 
             colour = "gray30") +
    annotate("text", x = 15, y = 900, label = "Desempeño por \n abajo del esperado", 
             colour  = "gray30")  +
  theme(legend.position = "none") +
  scale_color_gradient(low = "coral1", high = "firebrick4")

Este patrón se observaría cuando los mejores alumnos en cada estado son los que toman el SAT, aún cuando los estados fueran muy similares y el gasto no tuviera efecto sobre el desempeño de los alumnos.

Tenemos entonces que replantear nuestra pregunta inicial.

• Pregunta original: ¿será cierto que los estados que gastan más en educación son los que obtienen los mejores resultados en el SAT?

• Nueva pregunta: Para estados donde un porcentaje similar de alumnos toma el SAT, ¿mayor gasto en educación está relacionado con mejores resultados en el SAT?

En este punto podemos hacer varias cosas. Una primera idea es intentar comparar estados más similares en cuanto a la población de alumnos que asiste. Para esto, hacemos conglomerados con respecto a la fracción de alumnos que presentan el SAT.

library(broom)
set.seed(991)
sat_tbl$grupo <- 
  kmeans(sat_tbl %>% select(frac), centers = 4,  nstart = 100, iter.max = 100) %>%
  augment(sat_tbl) %>% 
  pull(.cluster)
sat_tbl <- 
  sat_tbl %>% group_by(grupo) %>% 
  mutate(grupo_mediana_frac = round(median(frac))) %>% 
  ungroup %>% 
  mutate(grupo_mediana_frac = factor(grupo_mediana_frac),
         grupo = as.numeric(grupo_mediana_frac))
sat_tbl %>% 
   group_by(grupo) %>%
   summarise(median_frac = median(frac)) %>%
   arrange(median_frac) %>%
   knitr::kable(format  =  "html",
               digits  =  2,
               format.args  =  list(decimal.mark  =  '.', big.mark  =  ",")) 

Incluyendo en nuestro análisis el porcentaje de participación, empezamos a ver otra historia. Ajustamos rectas de mínimos cuadrados en cada grupo como referencia:

ggplot(sat_tbl, aes(x = expend, y = sat, label=state, 
                colour = grupo_mediana_frac)) + 
  geom_point(size = 2) + 
  geom_smooth(method = "lm", se = F) +
  xlab("Gasto por alumno (miles)") +
  ylab("Calificación promedio en SAT") + 
  geom_text_repel(colour = "gray70", size = 2) 

Este análisis también nos sugiere que la pregunta requiere afinación adicional. Podríamos por ejemplo pensar:

• ¿En qué gastan las escuelas ese dinero? Quizá podemos considerar esos programas particulares para dar una mejor respuesta.
• ¿Cómo serían los resultados individuales si se redujera el gasto del estado? ¿De qué cosas serían privadas en su escuela?

Son preguntas más difíciles, pero vale más la pena hacer un esfuerzo con contestar estas preguntas aunque sea aproximadamente, aún cuando no podamos dar una respuesta precisa y/o simple.