El algoritmo NO es neutral
Y por qué esto es fundamental para entender la IA y su impacto en nosotros
Hola,
Aquí Edgar Otero.
Si te parece que la IA ya está en demasiados rincones de nuestra vida… espera a leer esto.
Pero antes, empecemos por el principio.
¿Qué es un algoritmo (de verdad)?
Esta palabreja se antoja técnica e inalcanzable, pero un algoritmo no es más que una secuencia de pasos para lograr un objetivo.
Piensa en lo que haces para preparar tu café por la mañana ☕. Sería algo así:
Calientas agua.
Mides la cantidad de café.
Decides si le echas azúcar, leche o lo tomas solo.
Lo sirves en tu taza favorita.
Fíjate que ya aparecen microdecisiones:
¿Qué cantidad de café? Depende de variables como tu estado de ánimo o cómo hayas descansado.
¿Azúcar o no? Depende de tus gustos y hasta de tu fuerza de voluntad si estás tratando de dejar el azúcar.
¿Café soluble o en cafetera italiana? Depende del tiempo que tengas o del tipo de café que te guste más.
Ese “algoritmo del café” no es neutral. Se adapta a tus gustos, tus costumbres, tus objetivos y hasta tu estado de ánimo. No hay una única forma “correcta” de hacerlo.
Con los algoritmos de IA pasa exactamente lo mismo.
La ministra virtual de Albania
Vale, llevemos esto al terreno real.
Hace poco Albania se convirtió en el primer país en nombrar una ministra virtual, creada con inteligencia artificial. Se llama Diella (“sol” en albanés) y se encargará de gestionar todas las contrataciones públicas. Es algo de lo que hablaba en Geeknetic.
El primer ministro, Edi Rama, lo vendió como un avance hacia la transparencia: según él, Diella hará los procesos “100 % incorruptibles”. Y no solo eso: podrá evaluar licitaciones, traer talento internacional y hacer más ágil la administración.
Diella ya aparecía antes en la plataforma e-Albania, el portal digital de servicios del gobierno, con un avatar de una joven vestida con traje tradicional. Ahora sube de rango para convertirse en ministra.
El contexto no es menor: Albania lleva años con problemas de corrupción en la contratación pública, y la UE les ha pedido cambios serios como requisito para entrar en el bloque europeo en 2030.
Pero aquí está la trampa:
Ningún algoritmo es incorruptible. Como cualquier programa, se puede modificar.
Toda IA refleja sesgos humanos. Está entrenada con nuestros datos, con nuestros aciertos y defectos.
Así que no, ni Diella ni ningún otro sistema es 100 % neutral.
Cuando el algoritmo decide por ti
¿Cómo te ayuda esto a entender mejor a IA? Piensa en los siguientes ejemplos:
Instagram o TikTok. Lo siento, pero si crees que los algoritmos de estas plataformas están para “servirte” y mostrarte contenido que te gusta, eres un iluso. También intercalan impactos que buscan engancharte más tiempo o incluso moldear tu forma de pensar. ¿No te interesa un tema? No importa, el algoritmo insiste. Incluso también censuran ciertos contenidos.
Modelo de lenguaje entrenado en un país totalitario. Incluso cuando los datos proporcionados son los mismos, el algoritmo incluye modificaciones para censurar ciertas respuestas. Pero no pequemos de ilusos otra vez: esto también pasa y pasará en países supuestamente libres.
En otras palabras: cada algoritmo lleva dentro las decisiones (y los intereses) de quienes lo diseñaron.
La lección
Los algoritmos no son neutrales. Ni los de las redes sociales, ni los de los gobiernos, ni los de las empresas tecnológicas. Están creados por personas y corporaciones que siempre tienen un punto de vista y unos intereses.
La próxima vez que alguien diga que “la IA es objetiva”, acuérdate del café de la mañana 😉.
👉 ¿Tú qué piensas? ¿Te preocupa que los algoritmos moldeen más de lo que creemos?
Te leo en los comentarios.
¡Un abrazo!
Edgar