La #InteligenciaArtificial, una disciplina a la que he dedicado prácticamente 20 años de investigación, está siendo devorada por las lógicas capitalistas que afectan tantísimas otras cosas que funcionan mal en nuestra vida. El #hype, la burbuja, la moda, el apetito insaciable o como lo llamamos en #IA, el #ColapsoModal.
La IA se basa en la estadística, en identificar patrones en conjuntos de datos que ayudan a predecir unas variables en función de otras. Todo esto se consigue construyendo cálculos basados en combinaciones de los datos de entrada que a su vez resulten en una aproximación al valor que queremos predecir y a su vez definiendo función objetivo: una forma de evaluar lo lejos que está la predicción de la respuesta correcta, de forma que podamos variar ligeramente los cálculos para acercarnos cada vez más. Bien, pues si no tenemos cuidado, podríamos definir esa evaluación de forma que los cálculos acaben haciendo una prediccion trivial: la moda de la distribución, el valor que más se repite. Predecir siempre que en Buenaventura, Colombia está lloviendo garantiza acertar 260 de 365 días al año, pero hace que el modelo no sirva de nada porque en realidad no predice nada sino que repite la #moda. Esto pasa también con las IAs generativas, desde las GANs a los modelos lingüísticos. Y el problema se hace peor si datos generados con IAs se usan para entrenar otras IAs, asegurando el colapso modal. La IA encuentra que puede optimizar desde la #pereza: si lo apuesto todo al valor que más recompensa me da, no tengo que preocuparme de ver más allá.
