Rigor en inteligencia artificial: ¿solo una cuestión matemática?
En DianaTool creemos que el debate sobre la IA no puede quedarse solo en lo técnico. Por eso hoy queremos compartir un estudio relevante de Microsoft sobre cómo se entiende, y se aplica, el rigor en inteligencia artificial. El documento pone el foco en una realidad preocupante: en la investigación y el desarrollo de IA, […]
De personas tóxicas a agentes tóxicos: los nuevos riesgos de la automatización
Durante años hablamos de personas tóxicas: individuos cuyas acciones dañaban a su entorno de forma sutil o evidente. Pero en la era digital, ha emergido una nueva figura igual de preocupante y mucho menos visible: los agentes tóxicos de inteligencia artificial. No hablamos de virus ni de ciencia ficción. Hablamos de sistemas que acceden, filtran, […]
El papel de la diversidad en los equipos que crean IA
Cuando hablamos de inteligencia artificial, solemos pensar en algoritmos, datos y máquinas. Pero detrás de cada modelo hay decisiones humanas: qué problema se quiere resolver, cómo se define el éxito, qué datos se utilizan y qué se deja fuera. Y esas decisiones dependen directamente de las personas que diseñan la tecnología. Por eso, la diversidad […]
(α) & (β): Alfabetizarse en la era de la inteligencia artificial.
La palabra alfabetización tiene un origen antiguo y poderoso: proviene de las dos primeras letras del alfabeto griego, alfa (α) y beta (β). Pero su significado va mucho más allá de aprender letras. Alfabetizar no es solo acumular conocimiento. Es adquirir la capacidad de leer, interpretar y actuar en el mundo. Y ese mundo ha […]
La inteligencia artificial también disemina estereotipos culturales (y no es por accidente)
Aunque a menudo pensamos en la inteligencia artificial como una herramienta neutral y objetiva, lo cierto es que los modelos de lenguaje actuales pueden perpetuar y amplificar estereotipos culturales en múltiples idiomas. Así lo demuestra una reciente investigación liderada por Margaret Mitchell, científica jefa de Ética en la empresa Hugging Face. ¿Cómo se transmiten los […]
Los prejuicios y estereotipos que pueden aparecer en la inteligencia artificial (IA) especialmente cuando se usa en varios idiomas.
¿Cuál es el problema? La IA ya se usa para muchas cosas: contratar personas, decidir si alguien califica para un crédito, diagnosticar enfermedades, etc. Pero muchas veces, la IA puede ser injusta sin que nos demos cuenta. Esto pasa porque estas tecnologías aprenden de datos que reflejan la realidad, y si esa realidad tiene desigualdades […]