Lineamientos para el uso de inteligencia artificial generativa en el contexto de Revistas Uniandes

1. Objetivo ↑ Volver arriba

El objetivo de estos lineamientos es establecer directrices claras sobre el uso de inteligencia artificial generativa (IAG) en las Revistas Uniandes. Buscamos definir prácticas aceptables y aquellas no permitidas, teniendo en cuenta el documento de “Lineamientos para el uso de inteligencia artificial generativa (IAG) en la Universidad de los Andes”, así como otros antecedentes.

2. Justificación ↑ Volver arriba

En el contexto actual, se hace necesaria la creación de pautas editoriales que regulen el uso de la IAG, como una herramienta de apoyo. La Universidad de los Andes ha dado un paso fundamental al definir unos lineamientos de uso para la comunidad universitaria. Sin embargo, es necesario definir aspectos específicos vinculados con los procesos propios de las revistas académicas. Por lo tanto, este documento complementa dichos lineamientos institucionales, en coherencia con los principios de equidad, sostenibilidad, no daño, privacidad, transparencia y responsabilidad.

Con la finalidad de integrar esta herramienta en los procesos propios de las revistas de la Universidad, los equipos editoriales deben formarse en prácticas responsables en comunicación y uso de la IAG. Dicha formación, además, les permitirá reconocer y manejar los dilemas éticos asociados con su uso, en el marco de la edición y publicación de revistas académicas en Uniandes.

Así, será posible garantizar el uso ético, transparente y responsable de la IAG para controlar y mitigar los errores, alucinaciones o sesgos algorítmicos que estas herramientas puedan tener. A través de su uso crítico y preservando la exclusiva responsabilidad humana en los procesos de investigación y creación, las revistas de la Universidad podrán garantizar contenidos de alta calidad académica y editorial.

3. Antecedentes ↑ Volver arriba

Para la elaboración de este documento se tuvieron en cuenta dos referentes principales. Por un lado, los lineamientos de IAG planteados por Uniandes, donde se sugieren usos recomendados para investigadores. En este se incluyen: asistencia en etapas iniciales y conceptuales, redacción académica, análisis y visualización de datos, edición y revisión de textos (Universidad de los Andes, 2024; pp. 23-25).

Por otro lado, el Committee on Publication Ethics (COPE, 2024) —organismo internacional de autorregulación y referencia ética que establece marcos normativos, orientaciones y flujos de actuación para los distintos actores del ecosistema editorial académico— establece el uso de IAG en procesos editoriales de la siguiente manera:

El uso de herramientas de inteligencia artificial (IA) como ChatGPT o Large Language Models en publicaciones de investigación se está expandiendo rápidamente. COPE se une a organizaciones como WAME y la Red JAMA entre otras, para indicar que las herramientas de IA no pueden figurar como autores de un artículo. Las herramientas de IA no cumplen los requisitos de autoría, ya que no pueden responsabilizarse del trabajo presentado. Al no tener personalidad jurídica propia, no pueden afirmar la existencia o ausencia de conflictos de intereses ni gestionar acuerdos de derechos de autor y licencias. Los autores que utilicen herramientas de IA en la redacción de un manuscrito, la producción de imágenes o elementos gráficos del artículo, o en la recopilación y el análisis de datos, deben ser transparentes al indicar en la sección de Materiales y Métodos (o sección similar) del artículo cómo y qué herramienta de IA se utilizó. Los autores son plenamente responsables del contenido de su manuscrito, incluso de las partes producidas con una herramienta de IA, y, por lo tanto, son responsables de cualquier incumplimiento de la ética de publicación (COPE Council, 2024, traducción mediante Copilot).

4. Metodología ↑ Volver arriba

Este documento se consolidó a partir de diversas conversaciones sostenidas en un proceso de cocreación (imagen 1), dirigido por la Vicerrectoría de Investigación y Creación. Se recogieron las posiciones, inquietudes, propuestas de buenas prácticas y retroalimentaciones de los equipos editoriales de Revistas Uniandes.

Imagen 1. Síntesis del proceso de cocreación de los lineamientos de IAG en Revistas Uniandes

5. Sobre la autoría ↑ Volver arriba

5.1. Definición de autoría

La autoría corresponde exclusivamente a las personas o grupos, que poseen la capacidad de crear ideas, tomar decisiones conscientes y asumir la responsabilidad por las obras que producen. En contraste, los modelos de lenguaje, chatbots y otras formas de IAG no pueden ser considerados autores, pues carecen de la facultad para cumplir integralmente con estas tres funciones esenciales (COPE, 2019; Penabad-Camacho et al., 2024).

5.2. Recomendaciones para la declaración de IAG

Las herramientas de IAG pueden apoyar a los investigadores en tareas cotidianas y su uso puede darse en diversas etapas del proceso investigativo. Sin embargo, su implementación no debe comprometer la integridad de la investigación (Universidad de los Andes, 2024).

En el caso de que un autor o grupo de autores utilicen IAG, deberán declararlo en el manuscrito de la siguiente manera:

• En la página inicial del artículo se incluirá una declaración general en pie de página, indicando que se ha utilizado IAG. Debe especificarse la herramienta que se empleó y con qué propósito.
• En los casos que haya sido empleada para la redacción del texto basta con la inclusión en el pie de página inicial. No obstante, cuando se haya utilizado para procesamiento y análisis de datos (por ejemplo: transcripción de entrevistas, generación de modelos estadísticos, códigos fuente, visualizaciones, etc.) se debe detallar su uso en la sección de metodología (o su equivalente).
• Dependiendo de la cobertura disciplinar de las revistas, se solicitarán explicaciones extendidas sobre la forma y el propósito de uso de la IAG, a discreción de cada equipo editorial, como detalles de la instrucción (prompt) o flujo de trabajo.
• Citando y referenciando el modelo de IAG empleado, conforme a la norma establecida por cada revista.

La declaración de uso de IAG en los manuscritos no será causal de rechazo ni aprobación. Sin embargo, si hay indicios de su uso no declarado, se verificará con los autores antes de emitir una determinación definitiva.

5.3. Generación de imágenes

Las herramientas de IAG podrían apoyar la generación de imágenes, ilustraciones, figuras, entre otras, siempre y cuando se declare de manera adecuada en el manuscrito. Queda a juicio de los equipos editoriales considerar casos específicos sobre su uso, de acuerdo con su cobertura disciplinar.

5.4. Usos no aceptados

• Uso de IAG sin verificar la veracidad de la información obtenida, por parte del autor. Por ejemplo: mejoras de redacción, visualización de datos, elaboración de referencias bibliográficas, traducciones.
• En el caso de representaciones visuales, usar imágenes generadas con IAG sin la respectiva declaración.
• Uso de datos personales y/o sensibles para alimentar modelos de IAG sin autorización previa o aval ético.
• Producción total del contenido del artículo con estas herramientas.
• Generación de datos primarios de la investigación.

5.5. Responsabilidades transversales del equipo editorial

La responsabilidad frente al uso de IAG debe ser asumida por el autor o grupo de autores. El equipo editorial garantizará que los artículos cuenten con la declaración de uso tal y como se describió anteriormente, y definirá el nivel de especificidad de estos criterios. En caso de identificar indicios de usos de IAG no declarados o diferentes a lo señalado, el equipo editorial contactará a los autores y analizará el caso para emitir una decisión editorial definitiva.

6. Sobre la revisión por pares ↑ Volver arriba

6.1. Definición de evaluador o par revisor

La revisión por pares desempeña un papel fundamental en la garantía de la integridad del registro académico. En ese sentido, el evaluador debe actuar ética y responsablemente dentro de un proceso que depende de la confianza y la participación voluntaria de la comunidad científica. Los pares revisores asignados tienen la obligación de realizar evaluaciones éticas y transparentes, mientras que los equipos editoriales deben proporcionar políticas claras sobre el proceso. La comunicación efectiva entre la revista y revisores es esencial para asegurar evaluaciones consistentes, justas y oportunas (COPE Council, 2017).

6.2. Usos aceptados y no aceptados de la IAG en la revisión por pares

Los revisores deben respetar la confidencialidad de los manuscritos que evalúan. No se debe divulgar información sobre los artículos, y se espera una crítica imparcial y constructiva, lo que garantiza la integridad del proceso de revisión. Por tal motivo, no se acepta el uso de IAG para la revisión total de un manuscrito. No se debe cargar en plataformas de IAG el documento o secciones completas del mismo, ni solicitar el diligenciamiento del formulario de evaluación en su nombre.

De igual manera, no es aceptable su uso para determinar el cumplimiento de criterios de revisión: originalidad, pertinencia y relevancia de un manuscrito, entre otros.

No obstante, podría utilizarse eventualmente para confirmar datos, citas y referencias bibliográficas, o apoyar en la redacción de la evaluación. Para esto, es necesario utilizar herramientas con licencia que garanticen la protección de datos.

6.3. Recomendaciones de buenas prácticas en la revisión por pares

En caso de utilizar la IAG, el par revisor deberá indicar en el formulario de evaluación qué herramienta se empleó y con qué propósito.

6.4. Responsabilidades transversales del equipo editorial en la revisión por pares

El equipo editorial debe validar, revisar en detalle y tomar decisiones sobre la revisión recibida. Cuando haya indicios de uso de la IAG en casos no aceptados o no declarados, se debe remitir el texto a otro evaluador. De igual manera, debe garantizar que se cumpla con la política editorial/ética sobre el uso de la IAG en la evaluación de artículos y destacar lo que implica ser par evaluador (responsabilidad, experticia, compromiso con la comunidad académica). Los equipos editoriales deberán incorporar en los formularios de evaluación un apartado final en el que se declare el uso de IAG por parte del revisor, indicando la herramienta y el propósito.

7. Sobre el equipo editorial ↑ Volver arriba

Los equipos editoriales incluyen diferentes roles, que varían entre las revistas: director/editor, coordinador, gestor y asistente editorial. Son los responsables directos del funcionamiento del flujo editorial. Por ende, se proponen algunos aspectos a tener en cuenta sobre el posible uso de la IAG en cada una de las etapas del proceso editorial:

A. Envío/recepción: se considera pertinente el uso de la IAG

• Para la redacción de comunicaciones con autores, evaluadores y con otros roles. Por ejemplo, cuando se le debe comunicar al autor dificultades en el proceso editorial (retrasos en la revisión por pares, reporte y control del flujo editorial, entre otras).
• Elaboración de plantillas para la escritura de los esquemas de cartas a los autores (se tiene en cuenta que los detalles de las cartas son particulares).

B. Revisión: si bien la IAG podría utilizarse para apoyar el proceso de evaluación de manuscritos, la selección de revisores idóneos es responsabilidad del equipo editorial. La IAG no se considera como un revisor y no puede asumir la responsabilidad de este. Algunas de las actividades de apoyo podrían ser:

• Revisión preliminar de los contenidos bajo supervisión humana (que los manuscritos cumplan con las normas básicas de la revista) siempre y cuando se realice con herramientas licenciadas por la Universidad de los Andes.
• Identificación de posibles evaluadores/as en centros de investigación, redes temáticas, entre otros.

C. Edición: si bien la IAG podría utilizarse para apoyar la edición de manuscritos, se resalta que esta etapa requiere criterio humano. La IAG no se considera como un editor y no puede asumir su responsabilidad. Algunas de las actividades de apoyo que podría realizar la IAG son:

• Corrección preliminar de estilo: detección de errores de ortografía o formato, claridad textual, sugerencias en la redacción.
• Apoyo en la traducción de contenidos, sujeta a verificación humana.
• Ajustes en el resumen y sugerencia de palabras clave.
• Verificación de referencias, fuentes y citas bibliográficas, ajustadas al formato de la revista.
• Verificación de datos específicos, como fechas, nombres científicos, estadísticas, entre otros.
• Apoyo en la generación de imágenes cuando se requieran para portadas y portadillas. Se debe mencionar la autoría de la siguiente manera: instrucción (prompt), software, versión, persona que realiza la generación y fecha.
• Mejorar la accesibilidad digital (por ejemplo, en la definición de descriptores para imágenes).

D. Producción y publicación: se considera válido el uso de la IAG para la asistencia en la producción de imágenes para divulgación y comunicación del número o bien de alguno de los artículos.

8. Recomendaciones de buenas prácticas ↑ Volver arriba

En el caso de que una revista realice acciones concretas apoyadas con IAG de manera sistemática y continua, deberá declararlo explícitamente en la política editorial (prompts, uso de asistentes, entre otros).

9. Referencias bibliográficas ↑ Volver arriba

COPE Council (2017). Ethical Guidelines for Peer Reviewers. https://doi.org/10.24318/cope.2019.1.9

COPE Council (2024). COPE position - Authorship and AI - English. https://doi.org/10.24318/cCVRZBms

Penabad-Camacho, L.; Penabad-Camacho, M. A.; Mora-Campos, A.; Cerdas-Vega, G.; Morales-López, Y.; Ulate-Segura, M.; Méndez-Solano, A.; Nova-Bustos, N.; Vega-Solano, M. F. y Castro-Solano, M. M. (2024). Declaración de Heredia: Principios sobre el uso de inteligencia artificial en la edición científica. Revista Electrónica Educare, 28(S), 1-10. https://doi.org/10.15359/ree.28-S.19967

Universidad de los Andes (2024). Lineamientos para el uso de inteligencia artificial generativa (IAG) en la Universidad de los Andes. Equipo de Proyecto IA-Uniandes. https://secretariageneral.uniandes.edu.co/images/documents/lineamientos-uso-inteligencia-artificial-generativa-IAG-uniandes.pdf

Aclaraciones sobre estos lineamientos

Estos lineamientos se consideran como una versión inicial frente al uso de inteligencia artificial generativa en el contexto de las revistas de la Universidad de los Andes. Por lo tanto, es un documento vivo, que será objeto de actualizaciones periódicas, conforme evolucionen los usos de estas tecnologías y surjan nuevos desafíos en el marco de la práctica editorial.

Este es el resultado de un trabajo colaborativo entre los equipos editoriales, bajo el liderazgo de Jimena Hurtado, Vicerrectora de Investigación y Creación, Juan Camilo González, Editor General y el equipo de Revistas, conformado por Lorena Morales, Coordinadora de Revistas Uniandes y Cristian Yasser Martínez, Coordinador Editorial.