Ir al contenido principal

Herramientas de Inteligencia Artificial para el apoyo a la investigación: Uso crítico de la IA

En esta guía conocerás las principales herramientas de Inteligencia Artificial (IA) generativa para el apoyo a la investigación. Además, podrás leer sobre los usos, limitaciones y recomendaciones para el uso de herramientas como ChatGPT en búsquedas bibli

Introducción- Uso crítico y alfabetización en IA

La inteligencia artificial (IA) generativa ofrece oportunidades relevantes para la docencia y la investigación. Permite agilizar tareas, explorar ideas y apoyar la redacción o el análisis de datos. Sin embargo, no está exenta de riesgos. Su uso requiere pensamiento crítico, revisión constante y una comprensión clara de sus limitaciones.

La alfabetización en IA implica conocer:

  • qué es la IA,
  • cómo funciona en términos básicos (modelos entrenados con grandes cantidades de datos, sesgos, límites), y
  • qué impacto tiene en la producción, difusión y evaluación de la información.

No se trata solo de aprender a usar herramientas, sino de desarrollar criterio crítico frente a sus resultados.

La alfabetización en IA no busca prohibir su uso, sino formar investigadores capaces de:

  • Integrar la IA como un instrumento complementario.
  • Evaluar críticamente cada resultado.
  • Usarla con transparencia y responsabilidad (declarando su empleo cuando corresponda).
  • Reconocer sus limitaciones epistemológicas: no sustituye la lectura crítica, la creatividad ni el análisis académico.

Riesgos clave

  • Sesgos: la IA se entrena con datos humanos y puede reproducir prejuicios sociales, culturales o de género.
  • Privacidad: introducir información personal o sensible en estas herramientas puede comprometer la protección de datos.
  • Alucinaciones: los modelos pueden generar respuestas incorrectas o inventadas que parecen verosímiles.
  • Derechos de autor: los textos, imágenes o códigos creados pueden derivar de materiales con copyright, sin reconocer la autoría.
  • Impacto ambiental y laboral: el entrenamiento de modelos consume muchos recursos energéticos y puede transformar ciertos perfiles profesionales.
  • Ética académica: es necesario declarar y documentar el uso de IA en trabajos de investigación y docencia para garantizar la transparencia.

 

Uso crítico de la IA

  • Revisar limitaciones del modelo: cuestionar su entrenamiento, alcance y fiabilidad.
    • Preguntarse de dónde proviene el modelo, cómo fue entrenado y qué limitaciones tiene
  • Citar y declarar la IA: señalar de forma clara qué parte del trabajo procede de la herramienta y qué parte es original del autor.
    • ¿Cómo afecta la reproducibilidad? ¿Qué parte del trabajo fue generada por IA y qué parte es aportación del autor?
  • No sustituir fuentes académicas: la IA puede complementar, pero nunca reemplazar, la consulta de bibliografía científica.
    • La IA es un apoyo, no un sustituto indiscriminado
  • Promover la reproducibilidad: la transparencia sobre el uso de IA favorece la credibilidad de los resultados.

Cuando se emplean chatbots, motores de búsqueda potenciados por IA o sistemas de recomendación, el investigador debe:

  • Verificar la procedencia de la información: la IA puede generar respuestas plausibles pero incorrectas (“alucinaciones”).
  • Distinguir entre generación de texto y recuperación de información: no confundir un resumen generado por IA con un artículo real.
  • Evaluar la transparencia de la fuente: identificar si la herramienta cita bases de datos académicas reconocidas o si los resultados carecen de referencias.
  • Contrastar resultados: corroborar siempre con buscadores académicos (Scopus, WoS, PubMed, Dialnet) y no quedarse en la respuesta inicial de la IA.
  • Considerar sesgos algorítmicos: la IA reproduce los patrones de los datos con los que fue entrenada, lo que puede invisibilizar perspectivas, autores o regiones.
  • Explorar y generar ideas iniciales: brainstorming, identificación de palabras clave, propuestas de enfoques o posibles hipótesis.
  • Asistencia en la formulación de estrategias de búsqueda: creación de ecuaciones de búsqueda complejas, sugerencias de descriptores.
  • Apoyo en la lectura crítica: resúmenes preliminares, mapas conceptuales, comparación rápida de documentos.
  • Procesamiento de grandes volúmenes de información: extracción de patrones, organización temática, clasificación de textos.
  • Traducción y redacción preliminar: apoyo en la escritura multilingüe, detección de errores de estilo o simplificación de borradores.
  • Sustituir la búsqueda bibliográfica en bases de datos académicas: la IA no garantiza exhaustividad ni rigor en la recuperación.
  • Aceptar sin verificación referencias o citas: puede inventar artículos, autores o DOI inexistentes.
  • Delegar el juicio crítico: la IA no evalúa la calidad metodológica ni la relevancia científica de un estudio.
  • Redactar íntegramente artículos científicos: plantea problemas éticos, de originalidad y de propiedad intelectual.
  • Omitir la revisión ética y legal: los investigadores deben cumplir con principios de integridad científica, derechos de autor y políticas editoriales, que la IA no controla.

•    Buscar ideas para iniciar una investigación o nuevos enfoques para mejorar ni idea de investigación: ✅ usa la IA
•    Identificar palabras clave y descriptores para realizar búsquedas: ✅ usa la IA
•    Elaborar una ecuación de búsqueda para utilizar en bases de datos como WoS: ✅ usa la IA
•    Resumir y organizar información: ✅ usa la IA
•    Traducir o simplificar textos: ✅ usa la IA
•    Clasificar y analizar grandes volúmenes de documentos: ✅ usa la IA
•    Realizar búsquedas de literatura científica: ❌ No la uses. En su lugar, realiza las búsquedas en bases de datos académicas reconocidas. Puedes apoyarte en la IA para construir ecuaciones de búsqueda y aplicarlas en las bases de datos. No aceptes referencias localizadas en herramientas IA sin verificarlas en fuentes fiables. Verifica cada dato con fuentes académicas contrastadas.
•    Decidir la calidad metodológica o la relevancia científica de un trabajo: ❌ No la uses. Detecta posibles sesgos en los resultados.
•    Redactar artículos científicos: ❌ No la uses. En su lugar puede usarlas para reescribir algún párrafo o reordenar ideas. Diferencia entre información recuperada y texto generado.
🧐 Siempre recuerda…
•    Declarar el uso de IA en tu investigación si corresponde.
•    Mantener tu propio juicio crítico como investigador.
 

Políticas europeas: AI talent, skills and literacy

Principales ejes de la política

  1. Alfabetización en IA (IA literacy): los proveedores de sistemas de IA deben asegurar que su personal tengan un nivel suficiente de alfabetización en IA.
  2. Iniciativas para talento, habilidades y alfabetización:
  • Incrementar la oferta de grados y másteres, e incluso doctorados, en IA. 
  • Crear una “IA Skills Academy” que ofrecerá formación específica. 
  • Fomentar esquemas de becas y “returnship” para atraer mujeres al campo de la IA. 
  • Desarrollar programas de atracción de talento internacional y retención del talento europeo. 
  • Garantizar que los trabajadores de todos los sectores tengan acceso a formación en IA adecuada a su perfil. 
  • Crear expertos sectoriales de IA en áreas con alta intensidad digital (movilidad, energía, medio ambiente, medios) mediante programas educativos y laboratorios de emprendimiento. 
  • Monitorización del impacto de la IA en el mercado laboral.

Checklist: antes de usar IA, pregúntate...