China presenta nuevas reglas de IA para científicos y prohíbe su uso en solicitudes de financiación

Las normas se aplican a investigadores e instituciones individuales, incluidas universidades y centros médicos y de salud.

Las directrices establecen un marco general para el uso de la IA, pero no proporcionan reglas detalladas para situaciones específicas.

Una de las principales preocupaciones es el uso de contenido generado por IA, que no puede figurar como coautor según las nuevas reglas.

Algunos científicos también han incluido herramientas de inteligencia artificial como ChatGPT como coautores, una práctica que muchas revistas ya han detenido.

Sin embargo, esto ha provocado debates sobre si se debe acreditar a la IA si descubre nuevos materiales o medicamentos, e incluso un debate filosófico más amplio sobre si se la debe considerar igual a los humanos en la búsqueda del conocimiento.

El ransomware asistido por ChatGPT en China resulta en cuatro arrestos

Según las directrices, la IA generativa todavía se puede utilizar en la investigación, pero cualquier contenido o hallazgo que utilice esta tecnología debe estar claramente etiquetado como tal.

Wen Shaoqing, profesor asociado de la Universidad Fudan en Shanghai, dijo que el efecto de las regulaciones probablemente sería «limitado», al menos en su campo de arqueología científica, porque la IA generativa «tiende a producir propuestas de aplicación de proyectos de mala calidad» y pocas personas lo usarán.

Una bióloga de la Academia de Ciencias de China, que pidió no ser identificada, también dijo que nunca usa IA para escribir propuestas porque estos modelos de lenguaje producen “palabras hermosas pero esencialmente sin significado”.

Sin embargo, otro investigador de la Academia China de Ciencias Sociales dijo que el uso generalizado de la IA generativa “es una tendencia irreversible” y que no es realista ni razonable prohibirla en todos los ámbitos.

El científico, que también habló bajo condición de anonimato, dijo que los investigadores seguirán usándolo en investigaciones y solicitudes de subvenciones si creen que les ayudará y que es más importante descubrir «cómo permitir que los investigadores lo utilicen de manera adecuada». y para… mantenerse al día con las tendencias internacionales”.

El rápido desarrollo de la tecnología de inteligencia artificial ha “promovido cambios profundos en los paradigmas de la investigación científica”, según un documento del Ministerio de Ciencia que explica las nuevas reglas.

Sin embargo, continuó diciendo que las directrices eran necesarias porque la tecnología ha creado problemas en torno a la autoría, la propiedad intelectual y el procesamiento de datos.

Según el ministerio, las directrices se basan en «experiencias extranjeras útiles y reflejan prácticas internacionales».

Dijo que las directrices se basaron en un «amplio consenso» en los círculos científicos y se actualizarán y ajustarán en función de futuros desarrollos tecnológicos.

La regulación del uso de la IA se convirtió en un tema importante para Beijing el año pasado, tanto a nivel nacional como internacional.

Beijing lanza plataforma de inteligencia artificial para satisfacer la creciente demanda de potencia informática del país

En abril, una reunión del Politburó dijo que concedía “gran importancia” al desarrollo de la IA, pero destacó la importancia de la prevención de riesgos.

Estas medidas no se aplican a los institutos de investigación científica siempre que no proporcionen servicios de IA generativa al público chino, según la Administración del Ciberespacio de China.

Las nuevas directrices científicas de China amplían las medidas provisionales. Además de la prohibición del uso directo de la IA al redactar aplicaciones, las reglas también dicen que el contenido y los resultados generados por la IA deben etiquetarse dentro del texto «especialmente cuando se trata de contenido clave como hechos y opiniones».

03:28

Investigadores de Singapur utilizan IA para leer la mente mediante escáneres cerebrales

Investigadores de Singapur utilizan IA para leer la mente mediante escáneres cerebrales

El contenido generado por IA también debe identificarse en las notas a pie de página, la sección de métodos o los apéndices de los trabajos de investigación, junto con explicaciones de cómo se creó y qué software se utilizó.

Cualquier contenido marcado como generado por IA no debe ser tratado como literatura original, y si otros autores quieren citar este contenido «se debe dar una explicación», dicen las pautas.

También afirman que las referencias generadas por la IA no se pueden utilizar a menos que se verifiquen primero. Una guía de biblioteca del University College de Londres advirtió anteriormente que la IA generativa puede fabricar referencias y citas.

Un científico de la Academia de Ciencias de China que trabaja en química orgánica dijo que las restricciones al contenido generado por IA son necesarias porque muchos estudiantes de posgrado ahora lo utilizan para escribir sus tesis, y teme que «arruine a estos estudiantes».

El científico, que pidió no ser identificado, cree que tales herramientas pueden hacer que los estudiantes sean más perezosos y les dificulta desarrollar habilidades de pensamiento originales.