Es innegable que la Inteligencia Artificial (IA) ya forma parte de nuestras vidas, queramos o no, en mayor o menor medida. Desde el lanzamiento oficial de ChatGPT, desarrollado por OpenAI, el 30 de noviembre de 2022, en menos de cuatro años los avances en esta tecnología han crecido de forma exponencial. Ante el auge en el uso de la IA, el sector GLAM no se ha quedado atrás. A nivel nacional, destacan diversas iniciativas que buscan analizar y estudiar cómo aplicar esta tecnología: por ejemplo, el Grupo de Trabajo Inteligencia Artificial en Bibliotecas del Consejo de Cooperación Bibliotecaria, el Observatorio de Inteligencia Artificial en Archivos del Consejo de Cooperación Archivística o el Observatorio de Inteligencia Artificial de REBIUN.
También en el ámbito internacional se han llevado a cabo propuestas en los últimos años. Quizá algunas de las más notorias sean la Recomendación sobre la ética de la inteligencia artificial (2021) de la UNESCO o la IFLA Entry Point to Libraries and AI (2025) de la IFLA. A ellas habría que añadir la recién publicada Guía práctica para el uso reflexivo y análisis de herramientas de Inteligencia Artificial en bibliotecas públicas y comunitarias, editada como parte del Programa Iberoamericano de Bibliotecas Públicas – Iberbibliotecas. El porqué de este documento, según sus autores, Juan C. Higuera Calderón y Luis E. Higuera Calderón, se debe a que
la implementación masiva de la Inteligencia Artificial (IA) representa un nuevo capítulo en la historia de la gestión de la información y el conocimiento. Desde las bibliotecas, se hace necesario asumir una posición clara, reflexiva, ética y crítica frente a estas herramientas, reconociendo tanto sus potencialidades como sus riesgos, siendo este el punto de partida para orientar prácticas, decisiones y conversaciones informadas, necesarias en un escenario de cambio a alta velocidad. (p. 9)
La Guía
La Guía, que es la quinta publicación de la colección «Guías Prácticas» del programa Iberbibliotecas, es fruto del proyecto ganador de la I Convocatoria Iberoamérica Digital, convocada por la Secretaría General Iberoamericana (SEGIB) con el apoyo de la Agencia Española para la Cooperación Internacional (AECID). El documento está compuesto de una introducción, seguida de seis capítulos principales, un apartado de referencias bibliográficas y, finalmente, un glosario donde se recopilan diferentes términos relacionados con la IA y el ámbito bibliotecario.
Cada uno de los capítulos muestran cómo
las bibliotecas están llamadas a fortalecer su papel como espacios de cuidado, reflexión y acción colectiva frente al uso creciente de la Inteligencia Artificial. Además de facilitar el acceso a la información, pueden ejercer prácticas de curaduría algorítmica y promover la lectura crítica de los sistemas digitales (p. 12).
Para ello, los autores parten de una explicación de qué podemos entender por IA y cómo funciona esta tecnología basada, sobre todo, en patrones estadísticos y algorítmicos. A continuación, exploran diferentes aspectos relacionados con la aplicación de la IA y cómo podemos usar esta tecnología en las bibliotecas, no solo de forma interna sino también enfocando nuestros programas en fortalecer la alfabetización de nuestras personas usuarias. Todo esto sin olvidar un uso ético y responsable de la tecnología. Además, con el compromiso de que la guía sea «un recurso informativo y pedagógico que ofrece conceptos, orientaciones y ejemplos para acompañar el uso crítico y reflexivo de herramientas de Inteligencia Artificial en bibliotecas públicas y comunitarias» (p. 13).
Introducción
En este primer apartado, además de conocer el propósito de la guía y el papel fundamental que tienen las bibliotecas en la era de la IA, los autores definen algunos conceptos de gran importancia: «Aprendizaje de máquina (machine learning)», «Procesamiento de lenguaje natural (PLN)», «Redes neuronales artificiales» e «Inteligencia Artificial generativa». Además, encontramos una declaración sobre el uso que se ha hecho de la IA para la redacción de la propia guía.
Capítulo 1. Fundamentos conceptuales
Este primer capítulo es una introducción teórica al mundo de la IA. Para ello, los autores dejan claro qué es y qué no es la IA: no es una entidad única ni posee conciencia humana, sino que es un conjunto de técnicas estadísticas (como el machine learning y el procesamiento de lenguaje natural) diseñadas para realizar tareas específicas. A partir de esta afirmación, los autores defienden que
estas herramientas resultan especialmente útiles para organizar, resumir y estructurar información. Pueden apoyar la redacción de informes, la síntesis de textos o la propuesta de formatos, ya que en estas tareas lo central no es la experiencia personal o la emoción, sino la repetición de formas y estructuras. (p. 23)
A continuación, realizan un breve repaso histórico [1] de la evolución y el desarrollo de la IA desde mediados del siglo pasado. También explican la dicotomía existente en las diferentes herramientas de IA, ya que podemos encontrar aplicaciones que no aprenden, configuradas con algoritmos fijos con determinadas reglas humanas, de aquellos que son capaces de aprender (machine learning), lo que permite que el sistema pueda generar sus propias reglas.
Por último, los autores analizan la relación entre la IA y los seres humanos. Este aspecto lo sintetizan de una forma muy precisa en el siguiente fragmento:
Pensar la Inteligencia Artificial es, en el fondo, preguntarnos por nuestra propia inteligencia y por la relación que queremos establecer con las máquinas. Durante décadas se buscó que las máquinas imitaran a las personas; hoy comprendemos que el verdadero desafío no es que nos reemplacen, sino que nos acompañen. La IA puede automatizar tareas repetitivas, pero su mayor valor surge cuando amplía las capacidades humanas (véase Brynjolfsson, 2022): cuando nos ayuda a ver lo que antes no veíamos, a comprender patrones complejos o a conectar saberes diversos. En este sentido, el progreso tecnológico solo cobra sentido si fortalece la vida colectiva y el derecho a participar del conocimiento. (p. 26)
Capítulo 2. Género e inclusión en la IA en bibliotecas públicas y comunitarias
Una vez expuesto el marco teórico de la IA, los autores analizan en este segundo capítulo cómo la forma en la que se han entrenado las diferentes herramientas son un fiel reflejo de nuestras sociedades. En este sentido, muestran que no existe neutralidad en los sistemas de IA, sino que los datos con los que se entrenan se reflejan en las propias interacciones que mantenemos con ellos. Esto es así porque «estos datos no aparecen por sí solos sino que provienen de nuestros sistemas sociales, culturales y tecnológicos, por eso reflejan nuestras decisiones, nuestros silencios y también nuestras desigualdades» (p. 29).
Es más, defienden que
los algoritmos no son neutrales, aunque a veces se presentan como herramientas objetivas o matemáticas puras. Detrás de cada uno hay personas que deciden qué datos usar, cómo interpretarlos y qué resultados priorizar. Cada sistema de Inteligencia Artificial refleja una forma de ver el mundo. Si los datos provienen de una sociedad con desigualdades, los resultados pueden repetir esas mismas injusticias, incluso sin que nadie lo note. (p. 32)
Para mostrar esta realidad, los autores proponen un pequeño ejercicio (véase la imagen) que muestra cómo en función de la interacción que se mantenga con la herramienta en cuestión, se obtendrá una respuesta u otra:
Comprobación de sesgos de género en el uso de herramientas de IA. Fuente: Guía
Sin embargo, se puede hacer frente a esta situación sesgada y discriminatoria. Para ello, defienden un papel activo de las bibliotecas, tanto estratégico como político, pues las profesionales de estas instituciones son capaces de comprender sus implicaciones éticas, culturales y sociales y, de esta forma, orientar en su uso a las personas usuarias y al resto de las compañeras. Para ello, exponen una serie de estrategias que permitan evitar los riesgos asociados a los sesgos, pues
Ante los desafíos que plantea la Inteligencia Artificial (IA) en materia de género, representación y equidad, las bibliotecas públicas y comunitarias están llamadas a asumir un papel no solo preventivo, sino también propositivo, crítico y cuidador. Afrontar estos riesgos implica construir estrategias que integren la alfabetización digital crítica, la ética del cuidado y el diálogo con la diversidad social, cultural y territorial de las comunidades a las que las bibliotecas acompañan. (p. 37)
Por el momento, hasta aquí esta primera entrada sobre la Guía práctica para el uso reflexivo y análisis de herramientas de Inteligencia Artificial en bibliotecas públicas y comunitarias, editada por Iberbibliotecas. En una próxima entrada, estará disponible el análisis del resto del contenido del documento.
Notas
[1] Si el lector de este post (y de la Guía) tiene interés en profundizar en los entresijos de la IA, saber cuál ha sido su evolución histórica, así como conocer y comprender cómo se entrena esta tecnología, le recomiendo la obra Inteligencia artificial, de Melanie Mitchell.
