Cómo una máquina aprende y falla – Una gramática del error para la Inteligencia Artificial

Trabajando en la convergencia entre las humanidades y las ciencias de la computación, este texto pretende esbozar una gramática general del aprendizaje automático y proporcionar sistemáticamente una visión general de sus límites, aproximaciones, sesgos, errores, falacias y vulnerabilidades. Se conserva el término convencional de Inteligencia Artificial aunque técnicamente hablando, sería más preciso llamarla aprendizaje automático o estadística computacional, pero estos términos no serían atractivos para las empresas, las universidades y el mercado del arte. Se hace una revisión de las limitaciones que afectan a la IA como técnica matemática y cultural, destacando el papel del error en la definición de la inteligencia en general. Se describe al aprendizaje automático como compuesto por tres partes: conjunto de datos de entrenamiento, algoritmo estadístico y aplicación del modelo (como clasificación o predicción) y se distinguen tres tipos de sesgos: del mundo, de los datos y del algoritmo. Se sostiene que los límites lógicos de los modelos estadísticos producen o amplifican el sesgo (que a menudo ya está presente en los conjuntos de datos de entrenamiento) y provoca errores de clasificación y predicción. Por otro lado, el grado de compresión de la información por parte de los modelos estadísticos utilizados en el aprendizaje automático provoca una pérdida de información que se traduce en una pérdida de diversidad social y cultural. En definitiva, el principal efecto del aprendizaje automático en el conjunto de la sociedad es la normalización cultural y social. Existe un grado de mitificación y sesgo social en torno a sus construcciones matemáticas, donde la Inteligencia Artificial ha inaugurado la era de la ciencia ficción estadística.