Rigor en inteligencia artificial: ¿solo una cuestión matemática?
En DianaTool creemos que el debate sobre la IA no puede quedarse solo en lo técnico. Por eso hoy queremos compartir un estudio relevante de Microsoft sobre cómo se entiende, y se aplica, el rigor en inteligencia artificial. El documento pone el foco en una realidad preocupante: en la investigación y el desarrollo de IA, […]
¿Qué significa que DianaTool utilice tecnología blockchain?
Cuando hablamos de automatización e inteligencia artificial, a menudo nos centramos en los resultados. Pero… ¿qué pasa con todo lo que hay detrás? ¿Quién controla el proceso? ¿Cómo sabemos si lo que se genera es seguro, fiable y verificable? En DianaTool creemos que la confianza no debe ser una promesa. Debe ser un sistema. Por […]
De personas tóxicas a agentes tóxicos: los nuevos riesgos de la automatización
Durante años hablamos de personas tóxicas: individuos cuyas acciones dañaban a su entorno de forma sutil o evidente. Pero en la era digital, ha emergido una nueva figura igual de preocupante y mucho menos visible: los agentes tóxicos de inteligencia artificial. No hablamos de virus ni de ciencia ficción. Hablamos de sistemas que acceden, filtran, […]
El reto de crear datasets representativos y justos
La inteligencia artificial aprende del pasado para tomar decisiones sobre el presente. Pero ¿qué ocurre si lo que aprende está incompleto, distorsionado o es injusto desde el origen? En ese caso, la IA no corrige las desigualdades: las automatiza. Todo modelo de IA necesita un conjunto de datos (dataset) con el que entrenarse. Y ahí […]
Cultura algorítmica: ¿quién decide qué es relevante?
Cada día, millones de personas reciben noticias, recomendaciones, alertas y contenidos filtrados por algoritmos. Pero, ¿alguna vez te has preguntado quién decide qué ves y qué no? ¿Quién define lo que es “relevante”? Vivimos inmersos en una cultura algorítmica, donde las decisiones sobre la visibilidad, la prioridad y el valor de los contenidos ya no […]
El papel de la diversidad en los equipos que crean IA
Cuando hablamos de inteligencia artificial, solemos pensar en algoritmos, datos y máquinas. Pero detrás de cada modelo hay decisiones humanas: qué problema se quiere resolver, cómo se define el éxito, qué datos se utilizan y qué se deja fuera. Y esas decisiones dependen directamente de las personas que diseñan la tecnología. Por eso, la diversidad […]
(α) & (β): Alfabetizarse en la era de la inteligencia artificial.
La palabra alfabetización tiene un origen antiguo y poderoso: proviene de las dos primeras letras del alfabeto griego, alfa (α) y beta (β). Pero su significado va mucho más allá de aprender letras. Alfabetizar no es solo acumular conocimiento. Es adquirir la capacidad de leer, interpretar y actuar en el mundo. Y ese mundo ha […]
Cómo identificar sesgos en los datos y corregirlos
Los modelos de inteligencia artificial aprenden de los datos. Y eso significa que heredan sus virtudes… pero también sus defectos. Uno de los más graves: los sesgos. Los sesgos en los datos son patrones sistemáticos que reflejan estereotipos, desigualdades o errores históricos. Si no los detectamos a tiempo, la IA los amplifica y los convierte […]
La inteligencia artificial también disemina estereotipos culturales (y no es por accidente)
Aunque a menudo pensamos en la inteligencia artificial como una herramienta neutral y objetiva, lo cierto es que los modelos de lenguaje actuales pueden perpetuar y amplificar estereotipos culturales en múltiples idiomas. Así lo demuestra una reciente investigación liderada por Margaret Mitchell, científica jefa de Ética en la empresa Hugging Face. ¿Cómo se transmiten los […]
¿Qué es la IA explicable y por qué DianaTool apuesta por ella?
En el universo de la inteligencia artificial, no todas las tecnologías son iguales. Muchas herramientas generan contenido. Algunas lo hacen muy bien. Pero muy pocas explican cómo lo hacen. En DianaTool, eso no nos basta. Por eso trabajamos con IA explicable, también conocida como XAI (Explainable Artificial Intelligence). IA explicable: claridad en cada paso La […]