En el mundo de la distopía, no está de más ser utópico. Muchas personas piensan que soy pesimista porque desde 2016 me ha dado por hablar y estudiar sobre reglas, límites y control del uso de la inteligencia artificial (IA) en las organizaciones. Algo paradójico, sin duda, trabajando desde hace 20 años en un centro especializado, justamente, en las tecnologías que la hacen posible. Pero se equivocan: soy tremendamente optimista y apuesto por la inteligencia artificial y su capacidad de mejorar nuestras vidas, e incluso de salvarlas. Creo sinceramente que somos capaces de hacer las cosas bien para que esa promesa tecnológica tenga el impacto que nos merecemos. Pero el optimismo no es sentarse a esperar que suceda, ni subirse al primer tren sin saber cuál es el destino. Optimismo es buscar las fórmulas adecuadas para trazar el camino de baldosas amarillas que nos lleve a Oz y nos permita volver siempre a casa. Y, a poder ser, con la conciencia tranquila.
Mucho se dice del Reglamento de IA de alto riesgo. Detractores, observadores y promotores nos concentramos para debatir sobre su texto y aplicación en el Sandbox Regulatorio que la Secretaría de Estado de la Inteligencia Artificial lanzó para analizar el efecto de la regulación en la aplicación práctica en sectores como salud, industria, administración, etc. Estar a favor es fácil: nadie quiere que la IA haga daño a nadie. Estar en contra también lo es: nadie quiere perderse lo que la IA puede prometer, y en todo avance siempre hay víctimas. Mi optimismo me dice que no tendría por qué haberlas y quizá la propia inteligencia artificial nos ayude a evitarlas.
La norma está ahí y hay que cumplirla. ¿Pero cómo? Fácil: un poco de ISO, un poco de política interna de uso, una regañina a algún trabajador díscolo, una licencia corporativa y un poco de... huevos a Santa Clara y a santiguarse. Ni tan mal.
Sin embargo, el reglamento fija obligaciones estrictas solo para unos pocos usos, los de alto riesgo, y para el resto deja en pie las normas de siempre: protección de datos, confidencialidad, propiedad intelectual y responsabilidad de la organización. ¿Y entonces? Nada: quitamos la licencia corporativa, en la política interna de uso escribimos "no se usa" y a correr. Nos ahorramos la ISO.
Me temo que no. Aunque nos metamos debajo de la manta, la IA sigue ahí, en la sombra y el temor de la responsabilidad sigue siendo de la organización. Sin embargo, todos sabemos que los monstruos desaparecen cuando se encienden las luces y aun así parece que nos cuesta encender el interruptor.
Hoy en día la inteligencia artificial ya es imprescindible: el resultado del buscador, esa foto a la que le mejoras la iluminación, ese correo que reescribes para que suene más amable, ese texto que has pasado por un asistente antes de enviarlo al comité, ese chatbot al que le cuentas que tienes el fregadero atascado. Es un uso que parece clandestino, que no se cuenta, quizá porque el texto no te quedaba tan bien, porque la foto no salió como imaginabas o porque no tenías tiempo para hacer el informe que necesitabas.
Y ahí está el problema: la IA se queda en la sombra no porque sea mala, sino porque no sabemos cómo hablar de ella sin menospreciar nuestra contribución.
Y sin registro, sin evaluación ni corregir cómo lo usamos, convertimos lo que debería ser un uso profesional en un uso en tu entorno profesional, que, amiga mía, no es lo mismo. Si Alberto quiere llegar al plazo, es profesional, pero si pega una hoja de cálculo con datos de clientes en una herramienta gratuita porque necesita terminar antes del viernes, deja de serlo. Si Amelia pide a un chatbot el resumen de un informe confidencial sin saber dónde se almacena, puede que ya esté incumpliendo el contrato de confidencialidad. Nerea, que ha decidido mejorar el código de ese programa sin revisar su propiedad intelectual, quizás esté regalando el código a millones de personas. Y si Joaquín, que ha hecho una infografía de forma automática a partir del informe de registro para optar a una patente, y ¡qué bien que le ha quedado! quizás pierda la patente. Nadie duda que es una apuesta por la eficiencia, pero la potencia sin control no sirve de nada.
Ese mismo impulso de eficiencia lo anhelan también las administraciones públicas, pero aquí no solo está en juego la productividad, sino la confianza de la ciudadanía en decisiones que le afectan. Hoy su uso más visible es la redacción de pliegos y de informes, algo razonable e incluso deseable, siempre que se haya supervisado por una persona experta. Pero ¿se utiliza en un proceso de evaluación? Si Marcos usa un modelo para resumir cuarenta memorias técnicas porque no le da la vida, ¿quién responde de lo que ha quedado fuera del resumen? Si un criterio sujeto a juicio de valor se objetiviza a través de informes generados por una IA, ¿estamos respetando los criterios de evaluación? O si se analizan doscientos expedientes de inclusión social para decidir quién tiene derecho a una prestación, ya no estamos ante una cuestión de eficiencia, sino ante un uso que el propio reglamento considera de alto riesgo. La transparencia del procedimiento no admite sombras y la supervisión humana no es solo estar presente. Pero no nos podemos arriesgar a tirar de freno de mano sin aprovechar el impacto positivo que puede tener en todas las personas. Así que, nuevamente nos encontramos ante un escenario de luces y sombras.
Para aportar luz, quizá la respuesta no esté en más normas. Hace falta aceptar la tecnología como herramienta profesional y no como si fuese una consulta al oráculo o tuviésemos un duende virtual que hace tu trabajo. Contar el uso de la IA, que deje de ser una confesión y pase a ser algo normal, como citar una fuente o mencionar que has usado una hoja de cálculo. Que, de la misma forma que con cualquier otra herramienta y en cualquier contexto laboral, se debe hacer en el marco de la práctica profesional ética y responsable.
Hace falta que las organizaciones, públicas y privadas, entiendan que promover el uso en el marco adecuado es mejor que prohibirlo, y que promover y valorar que se declare abiertamente es la forma más segura de evitar que la IA acabe en el sótano.
¿Alfabetizar y formar? Sin dudarlo. Pero conviene preguntarse de qué formación hablamos. Hablar con un chatbot no requiere formación alguna: cualquiera que sepa escribir puede hacerlo, y muchos lo harán sin que nadie se lo explique. Lo que falta es entender qué ocurre cuando pulsamos enviar, qué tareas pueden delegarse sin perder el control ni la responsabilidad y cómo podemos trazar el proceso sin que nada nos quede en la sombra.
Pero no solo en el uso, sino en qué herramienta me conviene contratar y cómo, quién accede y para qué, qué usos se hacen y para cuales no están permitidos, entre otros. Nadie se pone al volante de un tráiler sin tener carnet de conducir.
Para hacer desaparecer los temores, hace falta encender la luz y comprobar que ya no hay ningún monstruo en la habitación; que solo a lo que se desconoce se teme.
Desde la posición que nos da ser centro tecnológico, en estos más de 20 años, hemos visto emerger tecnologías que prometían cambiarlo todo, algunas se quedaron en el camino y otras, han modelado la sociedad en la que vivimos. Las hemos adoptado internamente, las hemos implementado en entornos controlados y hemos ayudado a organizaciones y personas a adoptarlas: aprovechando sus bondades para ganar competitividad y mitigando sus riesgos. Dar luz a lo que se usa, para qué y con qué garantías es lo que genera confianza y lo que garantiza un uso responsable que diluya sospechas o incertidumbre. Así hemos lanzado el programa ALÍATE, siguiendo un trabajo que venimos haciendo durante décadas. Un programa dirigido a escolares que contribuye a la alfabetización digital en IA, centrándose en las personas y en la dimensión ética, que viene a dar continuidad a programas anteriores de uso seguro y responsable de las tecnologías por parte de los menores. Pero nos hemos dado cuenta que ante la Inteligencia Artificial todos, incluidos nosotros, estamos en pañales, por lo que desde 2022 lanzamos el laboratorio de IA generativa de CTIC donde hemos experimentado lo que la IA generativa puede hacer y hemos apoyado a las organizaciones desde la micropyme asturiana más micro hasta el Barcelona Supercomputing Center.
Las baldosas amarillas solo se recorren caminando sin vendas en los ojos, y el camino se recorre mejor con quien ya lo ha caminado antes. Seguro que nos encontraremos. Mientras tanto… buen camino.