En 1950, Alan Turing planteó una pregunta sencilla: "¿Pueden pensar las máquinas?". En lugar de perderse en una definición abstracta de la inteligencia, propuso su famoso juego de imitación: si, durante una conversación escrita, una máquina conseguía hacerse pasar por un ser humano, ¿no podríamos considerarla inteligente? Veinte años después, el lingüista Noam Chomsky describía el lenguaje como un proceso de creación libre, capaz de producir una infinidad de expresiones a partir de un conjunto limitado de reglas. Tanto la capacidad de una máquina para imitar al ser humano como la del lenguaje para generar una variedad prácticamente infinita de frases resuenan con especial fuerza en la era de los modelos generativos.
La cultura popular se apropió de estas ideas antes de que la tecnología alcanzara a la ficción. Desde Blade Runner hasta Matrix o Terminator, las máquinas inteligentes han adoptado a menudo el rostro de un adversario autónomo e incontrolable. Más recientemente, en "Her", la amenaza dejó paso a la seducción: el protagonista se enamora de una inteligencia artificial instalada en su teléfono. Dos imaginarios opuestos, pero una misma fascinación por unas máquinas a las que atribuimos intenciones, emociones e incluso conciencia.
Hoy, fuera de las salas oscuras, la realidad se ha acercado a la ficción. ChatGPT o Claude producen textos con una fluidez sorprendente. Las imágenes y los vídeos artificiales resultan cada día más creíbles. Es posible imitar una voz, recrear un rostro o simular una conversación. A veces empieza a ser difícil saber si estamos interactuando con una persona, un programa o una combinación de ambos. Sin embargo, no hay ningún espíritu oculto dentro de la máquina.
Un modelo generativo de lenguaje no es una conciencia digital. Durante su entrenamiento analiza grandes cantidades de texto y aprende las regularidades que lo estructuran. Las palabras se transforman en representaciones numéricas y un mecanismo de atención permite al modelo determinar qué partes del contexto resultan más relevantes. A continuación, genera su respuesta progresivamente, estimando en cada paso cuál es la siguiente palabra más probable. El resultado puede producir una impresión de comprensión, pero esa fluidez no garantiza ni la verdad, ni el razonamiento, ni siquiera la coherencia. Un modelo puede ofrecer una respuesta perfectamente redactada, pero falsa. Tampoco persigue objetivos por iniciativa propia: se los asignan las personas y los sistemas que lo utilizan. Incluso cuando una inteligencia artificial ejecuta una sucesión de acciones de forma aparentemente autónoma, su ámbito de actuación, sus herramientas y sus límites han sido definidos por seres humanos.
Por tanto, el principal peligro no es la espectacular rebelión de las máquinas a lo Skynet. Se encuentra en usos más cotidianos: confiar en una respuesta sin comprobarla, difundir un vídeo falso, automatizar una decisión sensible sin supervisión humana, exponer información confidencial o utilizar un modelo muy potente allí donde habría bastado una herramienta más sencilla.
Pero esas mismas tecnologías también pueden contribuir a resolver problemas profundamente humanos. En CTIC trabajamos, por ejemplo, en el proyecto europeo BRAVE-WOW, dedicado a prevenir la violencia y el acoso de género en el mundo laboral. En este contexto estudiamos cómo puede ayudar la inteligencia artificial a analizar conversaciones o mensajes publicados en las redes sociales para identificar posibles manifestaciones de violencia, su naturaleza y las personas contra las que se dirigen. Un sistema de este tipo no debe dictar un veredicto, sustituir a los profesionales ni determinar por sí solo si se ha producido una situación de violencia. Sí puede, en cambio, contribuir a detectar casos que de otro modo permanecerían invisibles, facilitar su análisis y proporcionar a los especialistas información útil para la prevención. En un ámbito tan sensible, el rendimiento técnico no es suficiente: es necesario conocer las limitaciones del modelo, medir sus errores, proteger los datos y mantener siempre una supervisión humana. También en el proyecto nacional, Red de Excelencia Cervera GUARDIANES, centrado en la defensa, trabajamos sobre sistemas de detección de desinformación en la prensa y las redes sociales, así como la detección del engaño en situación real de tensión, por ejemplo, durante una entrevista o en la aduana.
Ahí se encuentra el reto de la inteligencia artificial. La carrera por desarrollar el modelo más grande, más rápido o más potente no debería hacernos olvidar la pregunta esencial: ¿qué herramienta necesitamos de verdad? No todas las tareas requieren un modelo generativo. Su entrenamiento y utilización consumen energía, agua y recursos materiales en proporciones que varían según el tamaño del modelo, la infraestructura empleada y el volumen de consultas. Utilizar un sistema sobredimensionado por el efecto de la moda puede resultar caro, ineficiente e innecesariamente perjudicial para el medioambiente.
Nuestro trabajo en CTIC no consiste solo en entrenar, adaptar y evaluar modelos. También acompañamos a las organizaciones en la elección de la solución adecuada: determinar si la inteligencia artificial es necesaria, qué tipo de sistema conviene utilizar, qué potencia requiere, con qué datos debe trabajar y qué riesgos es preciso anticipar. Dos principios guían esta labor: transparencia y rendimiento. La transparencia supone explicar qué hace un sistema, en qué información se apoya y en qué circunstancias puede fallar. El rendimiento no consiste solo en alcanzar la mejor puntuación posible, sino en ofrecer un resultado útil, fiable y proporcionado a los recursos empleados. Quizá la verdadera inteligencia no consista en construir una máquina capaz de hacernos creer que es humana. Tal vez consista en que nosotros conservemos la lucidez suficiente para decidir qué podemos confiarle, qué debemos seguir decidiendo por nosotros mismos y con qué propósito queremos utilizarla.