INTELIGENCIA ARTIFICIAL EN LA INVESTIGACIÓN EN CIENCIAS DE LA SALUD: FINES Y MEDIOS

¿Es ético utilizar las herramientas de inteligencia artificial generativa en la investigación científica? ¿Debemos cerrar la puerta al progreso científico?

En el primer cuarto del siglo XXI la inteligencia artificial (IA) ha irrumpido en muchos niveles de la sociedad. La investigación científica es uno de estos campos, y no poco importante dado el amplio uso que se hace de ella en todo el proceso, desde el diseño del estudio hasta la redacción de artículos científicos, lo que parece que es bien aceptado por los investigadores (Know D, 2025). Sin embargo, cuando se usa sin control, la IA puede dar errores en la metodología, fabricar datos, plagiar información, sesgar los resultados y anular el pensamiento crítico, poniendo en entredicho los valores propios de la ciencia como son la veracidad, la reproducibilidad de los resultados, la transparencia y la honestidad de los investigadores. Luego, ¿podemos confiar en estas nuevas herramientas?

Un valor ético prioritario en la ciencia es la confianza, que puede salir maltrecho cuando se descubre la falta de veracidad en la información. ¿Qué pensarían los ciudadanos si una vacuna como la del Covid19 se hubiera desarrollado exclusivamente por IA sin la intervención humana? Aún hoy, la confianza como valor ético se establece entre seres humanos, aunque esto puede cambiar. Pero, hay algo que desde los orígenes de la ciencia permanece inalterable como es el compromiso de verdad y rigor, base de la confiabilidad en los resultados.
________________________________________

Por otro lado, la IA tiene un valor instrumental importante al impulsar el conocimiento y generar un beneficio social. Luego, desde esta perspectiva ¿no sería injusto limitar su uso en la investigación.

¿Quién responde por los resultados de la investigación?

Otro valor ético a preservar es la responsabilidad por los resultados de la investigación.

La cuestión de la autoría cuando parte del contenido del artículo científico es generado por IA es un tema problemático porque ¿es lo mismo utilizar la IA para editar el idioma de una publicación que para escribir una sección completa de ella? Metin Akgün en su artículo “Author or prompter? Scientific writing, identity, and the Theseus paradox.”, explica a partir de la paradoja del barco de Teseo el problema filosófico de la identidad y la autoría. El barco del mítico héroe ateniense era conservado como un monumento. A medida que sus tablas se deterioraban eran sustituidas por otras, de forma que una vez retiradas todas sus partes originales surgió la cuestión de si se trataba del mismo barco o de uno diferente. Un artículo original que es modificado por la IA, ¿es el mismo artículo o uno diferente creado por otro autor? Explica M. Akgün que la autoría no está en la forma de la redacción, sino en la responsabilidad del pensamiento, por lo que aunque cambie la expresión, tal como las tablas del barco del Teseo, la responsabilidad seguirá siendo del autor. Al menos hasta ahora, la IA puede ser considerada un autor porque no es un agente moral. Es posible que en el futuro estas herramientas lleguen a tener su propia ética, pero actualmente las normas morales les son dadas por sus diseñadores, luego no se pueden responsabilizar de las decisiones.

Otro de los problemas éticos es la falta de transparencia en la declaración del uso de la IA en las publicaciones científicas. La ciencia es un bien social y los ciudadanos deben saber cómo se ha generado el conocimiento, si este procede de una inteligencia no humana y las implicaciones que ello tiene a la hora de dar validez a los resultados. Hacer pública esta declaración es un reto para lo que existen criterios como los propuestos por la Guia AMEE, donde se expone que los responsables de la integridad y la originalidad de las publicaciones son los autores, tal como también ha señalado el comité internacional de editores de revistas científicas (ICMJE), reconociendo que la IA no puede figurar como autor.

La IA no es un fin en sí misma, sino un medio para un fin superior que es el bien de las personas. Si la IA es capaz de generar información valiosa en menos tiempo que los seres humanos y con ello mejoramos sus vidas, ¿sería justo limitar su uso poniendo en riesgo a las personas?
La aplicación de la IA en la investigación en salud tiene que estar al servicio de los fines de la medicina, que son el curar y cuidar de las personas. Esta cuestión señala directamente a la distinción entre lo que son valores intrínsecos, aquellos que valen por sí mismos como es la salud, y los valores instrumentales que valen para otra cosa a la que sirven, como es el caso de estas herramientas.

Luego entre no utilizar la IA en la investigación o hacer un uso incontrolado de ella, podemos optar por una actitud prudente, con una regulación clara, salvaguardando los valores éticos de la confidencialidad, la responsabilidad, la honestidad intelectual, la justicia y la transparencia, acordando con el equipo de investigación cómo y qué uso se va a hacer durante el proceso, y declarando este en la difusión de los resultados. Este es el objetivo, no confundir fines con medios para preservar lo auténticamente humano.