Es probable que la mitad de los estudiantes universitarios ya estén usando ChatGPT para hacer trampa, estiman los expertos.
Advierten que la IA revolucionaria ha creado una epidemia de trampas que representa una gran amenaza para la integridad de la academia.
Rehan Haque, de la empresa de inteligencia artificial Metatalent.ai, dijo: «Ya estamos en el punto en que la IA puede escribir proyectos completos, y luego una herramienta de IA diferente puede reformularlo para que la IA sea indetectable».
«En la actualidad, es probable que más de la mitad de los estudiantes usen herramientas de inteligencia artificial para engañar al sistema educativo en exámenes o ensayos, pero no me sorprendería si ese número ya fuera mayor».
¿Podrían los educadores recurrir a pruebas escritas para hacer frente a las trampas de la IA?
Agregó: «Si los educadores cometen el error de ignorar la amenaza de las trampas basadas en la IA, honestamente puedo ver que más del 90 por ciento de los estudiantes hacen trampa de esta manera». [in future].’
La nueva actualización GPT-4 de OpenAI (GPT-3 y GPT-4 son los modelos que subyacen a ChatGPT) puede obtener el 90 por ciento en una gran cantidad de exámenes, incluido el examen de barra estadounidense.
El bot de IA también es capaz de escribir ensayos similares a los humanos sobre cualquier tema en segundos, en respuesta a indicaciones de texto simples.
Creator OpenAI está trabajando en una herramienta para detectar contenido escrito por IA, pero advierte que no es 100 por ciento precisa.
Una encuesta realizada por Study.com de 203 maestros encontró que el 26 por ciento de los maestros de K-12 ya habían atrapado al menos a un estudiante haciendo trampa usando el software.
El profesor de derecho de South Texas College of Law Houston, Josh Blackman, escribió: «Esta tecnología debería infundir miedo en todos los académicos».
El Distrito Escolar Unificado de Los Ángeles, las Escuelas Públicas de Seattle, el Departamento de Educación de Nueva York y el Distrito Escolar Unificado de Oakland se encuentran entre las juntas escolares estadounidenses que han prohibido o bloqueado el uso de ChatGPT.
A nivel universitario, el Yeshiva College de Nueva York actualizó su política de trampas para incluir ‘algo/el idioma de otra persona’, de modo que se prohibieron las trampas a través de ChatGPT.
Haque dice que los educadores pueden recurrir a la ‘regresión tecnológica’ como medida temporal para combatir las trampas de la IA.
Él dijo: ‘Esto incluso podría significar volver a la forma antigua de escribir todo. Pero, incluso entonces, ¿qué impide que un estudiante copie un ensayo producido por IA de una pantalla?’
Rehan Haque de Metatalent.ai cree que el problema está muy extendido y empeorará. Narmeen Makhani, directora ejecutiva de ETS AI Labs
Haque cree que el software de detección de IA evolucionará, pero que los educadores deben utilizar la IA en el aula, en lugar de prohibirla.
La investigación realizada por GoStudent encontró que el 59 por ciento de los jóvenes quieren ver tecnología avanzada como la IA en el plan de estudios.
Haque dijo: ‘Para ser justos con los estudiantes, si los sistemas educativos no logran adaptarse a una tecnología que Bill Gates describió recientemente como «la tecnología más revolucionaria en décadas», entonces la responsabilidad no puede recaer exclusivamente en ellos.
«En cambio, los profesores, examinadores y educadores deben reconocer que la tecnología está cambiando y deben moverse con ella».
La IA tiene usos positivos dentro del aula, concuerda Narmeen Makhani, directora ejecutiva de ETS AI Labs, que fabrica herramientas que pueden detectar las trampas de la IA.
Ella dijo: ‘La IA generativa también se usa para buenos propósitos, como avanzar en el aprendizaje. Las herramientas de IA generativa como ChatGPT ayudan a los alumnos a generar texto de manera más eficiente y resumir información que puede ayudarlos con el trabajo escolar”.
Makhani dijo que los científicos en su laboratorio han estado trabajando en estrategias para detectar IA, incluido el análisis de pulsaciones de teclas para detectar personas que editan ensayos generados por IA.
Dijo que hay indicios de que los ensayos han sido generados por IA en lugar de por un ser humano.
Ella dijo: «Aunque es muy difícil para los humanos detectar texto generado por IA, las herramientas de detección de IA generativa buscan patrones minuciosos como palabras simples repetitivas o la falta de inconsistencias para detectar patrones típicos del texto generado por IA».
“Además, los modelos de IA tienden a escribir oraciones consistentes a diferencia de los humanos que normalmente escriben en ráfagas. Los modelos de detección de IA también buscan si un fragmento de texto ‘parece’ aleatorio o caótico en comparación con el texto que parece no caótico o menos ‘desconcertante’, que probablemente sea generado por IA.
Makhani dice que ninguna herramienta puede detectar con precisión el texto generado por IA el 100 por ciento de las veces, pero ella y su equipo continuarán investigando cómo detectar a los tramposos.
Ella dice que la tecnología ofrece a los educadores una forma de liberar al sistema educativo de centrarse en memorizar hechos y regurgitar grandes cantidades de texto.
Makhani dice: «Los educadores tienen la oportunidad de utilizar herramientas de IA para aumentar el aprendizaje y mejorar las evaluaciones para permitirles confiar menos en la memorización y la generación de texto, sino en pedirles a los alumnos que demuestren su comprensión de los conceptos y su capacidad para analizar la información».
También cree que las herramientas de IA como ChatGPT serán útiles en el aula y para enseñar a los estudiantes habilidades que serán útiles en el lugar de trabajo del mañana.
Makhani dijo: ‘También pueden empoderar a los estudiantes para que aprovechen las herramientas de IA para evaluar los resultados de la IA para apoyar y demostrar habilidades de orden superior. Las herramientas de IA generativa pueden ayudar a los educadores a crear rápidamente contenido personalizado que sea socioculturalmente relevante para sus estudiantes y puede ayudar a motivar y evaluar a los estudiantes de nuevas maneras”.
