Tema 123: Herramientas de Inteligencia Artificial (IA)

La inteligencia artificial (IA) es un conjunto de tecnologías que permiten a las máquinas realizar tareas que normalmente requerirían inteligencia humana, como comprender lenguaje, reconocer imágenes o generar contenido. La IA generativa es el tipo de IA capaz de crear contenido nuevo (texto, imágenes, audio, código) a partir de las instrucciones que recibe. Las herramientas de IA generativa de texto se basan en grandes modelos de lenguaje (LLM, Large Language Models), que se han entrenado con enormes cantidades de texto y funcionan prediciendo, de forma probabilística, la siguiente palabra o fragmento más adecuado; es decir, no "comprenden" ni "saben" en sentido humano, sino que generan texto plausible. Un "prompt" es la instrucción, pregunta o conjunto de indicaciones que el usuario proporciona a la herramienta de IA para obtener una respuesta. La calidad de la respuesta depende en gran medida de la calidad del prompt. Las herramientas de IA no son fuentes oficiales ni sustituyen a las fuentes normativas: son una ayuda al trabajo, no un sustituto del criterio profesional del empleado público.

El "prompting" es la técnica de redactar instrucciones eficaces para obtener mejores respuestas de una herramienta de IA. Buenas prácticas de prompting básico: 1) Ser claro y específico: indicar con precisión qué se pide, evitando ambigüedades. 2) Aportar contexto: ofrecer la información de fondo necesaria para que la respuesta se ajuste a la situación. 3) Asignar un rol o perfil ("actúa como…") cuando ayude a orientar el tono y el enfoque de la respuesta. 4) Indicar el formato deseado de la salida (por ejemplo, lista, tabla, resumen, número de palabras). 5) Dar ejemplos cuando sea posible, para guiar el estilo o el tipo de respuesta esperada. 6) Iterar y refinar: el prompting es un proceso iterativo; si la primera respuesta no es satisfactoria, conviene reformular o precisar el prompt. Un prompt vago o ambiguo tiende a producir respuestas genéricas o poco útiles; un prompt claro, contextualizado y específico mejora notablemente la utilidad de la respuesta.

Las herramientas de IA generativa NO garantizan la veracidad de sus respuestas. Pueden producir las denominadas "alucinaciones": respuestas que parecen plausibles y están redactadas con seguridad, pero que son incorrectas, imprecisas o inventadas (por ejemplo, datos, citas legales, referencias o cifras que no existen). Esto ocurre porque el modelo genera el texto más probable, no necesariamente el verdadero. Además, el conocimiento del modelo puede estar desactualizado (limitado a la fecha de su entrenamiento) y puede no reflejar la normativa vigente. Por todo ello, la información proporcionada por una herramienta de IA debe verificarse y contrastarse siempre con fuentes oficiales y fiables antes de utilizarla, especialmente en contenidos normativos, jurídicos o de datos. La responsabilidad sobre el resultado final y sobre las decisiones administrativas sigue siendo, en todo caso, de la persona empleada pública: la IA es una herramienta de apoyo, nunca quien decide.

El uso de herramientas de IA en el puesto de trabajo conlleva riesgos que deben gestionarse: 1) Confidencialidad y protección de datos: no deben introducirse en herramientas de IA (especialmente públicas o gratuitas) datos personales, datos sensibles, información confidencial o no publicada, ya que podrían quedar almacenados o usados para entrenar el modelo, vulnerando la normativa de protección de datos y el deber de secreto. 2) Sesgos: los modelos pueden reproducir y amplificar sesgos presentes en los datos con que se entrenaron, generando respuestas discriminatorias o no neutrales. 3) Falta de fiabilidad: posibilidad de alucinaciones e información desactualizada. 4) Dependencia excesiva: delegar el criterio en la IA o aceptar sus respuestas sin revisión puede provocar errores y pérdida de competencias. 5) Transparencia: conviene ser consciente de cuándo se está usando IA y de sus limitaciones. Principios de uso responsable: supervisión humana (la decisión final corresponde siempre a la persona), verificación de las salidas, protección de los datos y la confidencialidad, y respeto a la legalidad vigente. La IA debe emplearse como herramienta de apoyo que mejora la eficiencia, sin sustituir el criterio profesional ni la responsabilidad del empleado público.