Ir al contenido principal

Herramientas de Inteligencia Artificial para el apoyo a la investigación: Uso ético de la IA

En esta guía conocerás las principales herramientas de Inteligencia Artificial (IA) generativa para el apoyo a la investigación. Además, podrás leer sobre los usos, limitaciones y recomendaciones para el uso de herramientas como ChatGPT en búsquedas bibli

Usos de la IA en la investigación

Foto de Andy Kelly en Unsplash

Para mantener las normas éticas de transparencia, apertura, honestidad y atribución justa de crédito en la redacción de un trabajo científico, y con el fin de fomentar la integridad, la reproducibilidad y el rigor de la investigación, es necesario hacer una reflexión ética sobre el uso de las herramientas de Inteligencia Artificial Generativa, y, si procede, consultar los usos permitidos y no permitidos con las editoriales o personas responsables de nuestro trabajo académico.

En los casos en los que esté permitido el uso de estas herramientas, es necesario describir de forma honesta y transparente su uso en la sección de metodología.  Además, pueden indicarse las partes del texto afectadas mediante el uso de citas y referencias.

En ningún caso las herramientas de Inteligencia Artificial Generativa pueden ser consideradas como autores o acreditadas en la sección de reconocimientos, ya que no pueden ser considerados responsables moral o legalmente.  

Uso ético de la IA en la investigación

A la hora de preparar un manuscrito para enviar a una revista o a una editorial para ser publicado en forma de artículo, capítulo de libro, o similar, hemos de tener especial cuidado con las políticas editoriales sobre el uso de herramientas de IA generativa. Cada vez más editoriales han publicado instrucciones explícitas sobre los usos permitidos y no permitidos en la elaboración de sus artículos.

En líneas generales, las herramientas de IA generativa no deben considerarse como coautores de nuestro manuscrito, ya que no puede ser considerado responsable del contenido del texto y se espera que las ideas y datos utilizados en la publicación sean originales, aunque sí conviene mencionarlas en la sección de metodología.

Sin embargo, existen diversidad de matices. MDPI, por ejemplo, permite el uso de estas herramientas para la elaboración de textos y especifica que su uso ha de ser mencionado en los reconocimientos y en la sección metodología. Elsevier, por su parte, restringe de manera exclusiva el uso de estas herramientas a fines de mejorar la legibilidad y comprensión del documento.

De manera similar, existe una gran variedad de situaciones para la creación de imágenes, figuras, código, etc., por lo que se recomienda siempre consultar la política específica de la editorial y actuar en toda circunstancia con honestidad, transparencia y rigor.

En la Guía de uso de las herramientas de Inteligencia Artificial Generativa para el estudiantado, desarrollado por el Vicerrectorado de Innovación Educativa de la UNED, se establece que las herramientas de IA generativa como ChatGPT pueden usarse durante los estudios en la UNED, pero no se podrá incluir contenido generado por estas herramientas en las pruebas de evaluación continua ni en los trabajos de fin de título (TFG o TFM), salvo que el profesorado indique lo contrario de manera específica. Además, remarca que un uso indebido y no autorizado de estas herramientas se considerará deshonestidad académica. En caso de duda, se recomienda ponerse en contacto con el equipo docente.

En los casos en los que sí esté permitido, el uso de estas herramientas para la generación o reelaboración de contenidos (texto, imágenes, datos, etc.) debe ser descrito de manera transparente en los apartados de metodología, materiales, agradecimientos o sección similar de los trabajos. Se recomienda además incluir un informe de uso que incluya cuáles han sido las herramientas utilizadas, las instrucciones o prompts utilizadas y los resultados obtenidos.

Por último, la guía recomienda evaluar críticamente los resultados obtenidos y verificar cuidadosamente cualquier cita o referencia generada por estas herramientas. 

En los casos en los que está permitido el uso de herramientas de Inteligencia Artificial Generativa, además de indicarse su uso en la sección de metodología, puede ser conveniente indicar en qué secciones del texto se han usado las herramientas a través de citas y referencias.

Para citar una herramienta de este tipo, será necesario indicar:

  • El nombre del lenguaje o herramienta.
  • La versión que se utiliza.
  • El creador (compañía que creó el lenguaje o herramienta).
  • La petición (prompt) que ha generado la respuesta.
  • La fecha en la que se generó el contenido.

Algunos estilos de citación han elaborado recomendaciones para citar la información procedente de herramientas de IA. En esta entrada de InvestigaUNED puedes ver diferentes ejemplos de citas y referencias.

Ejemplo de cita y referencia con APA

El manual de estilo de la American Psychological Association (APA) incluye indicaciones para elaborar citas y referencias:

Cita textual:

When prompted with “Is the left brain right brain divide real or a metaphor?” the ChatGPT-generated text indicated that although the two brain hemispheres are somewhat specialized, “the notation that people can be characterized as ‘left-brained’ or ‘right-brained’ is considered to be an oversimplification and a popular myth” (OpenAI, 2023).

Referencia:

OpenAI. (2023). ChatGPT (Mar 14 version) [Large language model]. https://chat.openai.com/chat