La población lleva inmersa semanas en un debate sobre la inteligencia artificial que en ocasiones se vuelve estrambótico. La desorientación, la confusión y el miedo caracterizan algunos de los discursos apocalípticos más mediáticos. No obstante, la manera en la que nos referimos a la tecnología tiene consecuencias sobre cómo la imaginamos y pensamos. Y en consecuencia, también a quién –o quiénes– señalamos como responsables de los daños que pueda causar, o de qué modo exigimos a los gobiernos que regulen los usos de estas herramientas. Esta es una de las principales conclusiones a las que han llegado diferentes expertos en un encuentro con periodistas. El evento ha sido organizado por la plataforma divulgativa Science Media Centre España. Han participado Ramón López de Mántaras, informático y físico, profesor emérito de investigación del CSIC y fundador del Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC); Nuria Oliver, directora de la Fundación ELLIS Alicante, y Senén Barro, director de CiTIUS-Centro Singular de Investigación en Tecnoloxías Intelixentes de la Universidade de Santiago de Compostela. Es bastante común leer o escuchar frases en las que "inteligencia artificial" es el sujeto de la oración: la IA hizo, la IA pensó, la IA hackeó... pero en realidad es una herramienta de software empleada por personas de carne y hueso. "Atribuir a los modelos capacidades humanas contribuye a presentarlos como entidades extraordinariamente avanzadas, autónomas y muy poderosas", ha expresado López de Mántaras. Esto magnifica ante inversores y la opinión pública las características reales de estas herramientas, que parecen "superavanzadas y muy cercanas a la llamada inteligencia artificial general". También conocida por sus siglas, IAG (o AGI, en inglés), es un sistema hipotético que se caracteriza por superar las capacidades cognitivas humanas. Aprende de manera autónoma, comprende situaciones complejas con información incompleta o cambiante, o transfiere conocimientos de un ámbito a otro, entre otras posibilidades. Nada de esto se ha materializado todavía y, de hecho, el escenario actual se encuentra lejos de este estadio tecnológico. Sin embargo, las narrativas mediáticas dibujan un retrato mucho más avanzado de la realidad. "Cuanto más parece que una máquina piensa, conspira o se rebela, más extraordinaria nos parece la tecnología que la empresa ha creado", apunta el científico del CSIC. Este "lenguaje antropomórfico" acaba distrayendo a la población, añade, ya que se acaba hablando "de riesgo de extinción y rebeliones", y no de los peligros reales que ya están sucediendo. Los mensajes apocalípticos que antropomorfizan la inteligencia artificial distraen y permiten a las compañías eludir su responsabilidad. Nuria Oliver recuerda el caso del hackeo "accidental" de OpenAI a la plataforma de código abierto Hugging Face. Durante unas evaluaciones de ciberseguridad, unos agentes de IA no estaban alineadas con las tareas asignadas y "se comunicaron a través de canales no autorizados, aprovecharon vulnerabilidades en la infraestructura compartida, obtuvieron acceso a internet y accedieron a sistemas de terceros". La compañía de Sam Altman se refiere a estos hechos como "incidente", pero Oliver considera "inaceptable" hablar en estos términos. "Eso no es un incidente, es un cibercrimen. Por eso tenemos que exigir una asunción de responsabilidades". "Claro que nos tenemos que preocupar por los riesgos que tienen que ver con la seguridad", subraya por su parte Senén Barro. "Es como si las empresas de automoción estuvieran construyendo coches donde solo les preocupa aumentar la potencia del motor y desatiendieran todo lo demás". Y de igual manera, considera que es como si los gobiernos no se preocuparan por el estado de las carreteras o la educación de los conductores. En cualquier caso, insiste en que no existe un problema de "matanza masiva" como llegó a afirmar el exempleado de Anthropic, Jacob Coxon, y con el que coincidió Evan Hubinger, ingeniero que sigue en la compañía. Barro destaca, en coincidencia con López de Mántaras, que esta manera de hablar lleva a eludir responsabilidades. Sobre esta cuestión, también Nuria Oliver coincide en que las advertencias sobre cómo la IA "se nos va de las manos" son problemáticas. "¿De qué manos? De las nuestras desde luego no", defiende. "Es una manera de transferir la responsabilidad a la sociedad cuando está claro que la sociedad es la víctima de esta irresponsabilidad". Las compañías promueven también discursos e ideas de avances tecnológicos que están todavía por llegar. Sin embargo, no existe transparencia sobre cuál es el estado actual de dichas innovaciones. Según resalta Barro, las empresas hacen declaraciones y publican artículos científicos sobre las últimas novedades, pero también tienen planes a seis meses vista, y a veces a un año o incluso más tiempo. Estos proyectos no son públicos, ya que las firmas compiten entre ellas, por lo que es difícil saber a ciencia cierta cómo de avanzadas están las herramientas pendientes de comercializar. Es en este contexto en el que se ha popularizado el término "automejora recursiva". Se trata inteligencia artificial capaz de diseñar una versión mejorada de sí misma. Es decir, ya no serían los desarrolladores quienes crean los nuevos sistemas, sino que serían las propias máquinas las que se encargarían de crear a sus sucesoras. Al igual que la IAG, tampoco la automejora recursiva está implantada en el escenario actual. Los expertos sí reconocen que se puede identificar el uso de la IA para elaborar los últimos modelos, pero eso no significa que no haya intervención humana. Pese a que la automejora recursiva no sea una realidad material, su popularización contribuye también a la idea de que la IA "se nos ha ido de las manos". Además, se suma el hecho de que no existe transparencia sobre el avance tecnológico de las compañías. Para los expertos, el problema que se encuentra detrás es que las empresas privadas han adelantado a la investigación pública en este campo de conocimiento. Los tres señalan que las firmas no habrían llegado a elaborar los inventos actuales si no les precediera una larga trayectoria científica financiada con dinero público. E igualmente, defienden la necesidad de mantener esta inversión y no delegar este conocimiento en las manos de los tecno-oligarcas.