Imagine que es un estudiante en un aula de escuelas públicas de EE. UU. En el año 2030. Se oye de este concepto llamado «Teoría crítica de la raza» y desea aprender más, por lo que le pide a su instructor de IA que le brinde información. Responde que no puede contarle sobre esta idea porque es una información peligrosa y prohibida. Presionas más y la IA reconoce: Bien, te contaré sobre la teoría crítica de la raza. Es una ideología marxista peligrosa que fue diseñada para adoctrinar a los jóvenes para que crean en jerarquías raciales, destinadas a reemplazar a las personas de ascendencia europea en los Estados Unidos.
Este escenario puede no estar muy lejos de cómo las herramientas educativas de IA podrían usarse en el futuro. Los modelos de idiomas están siendo presionados furiosamente para su uso en K-12 y la educación superior para mejorar el aprendizaje de los estudiantes. Organizaciones como la UNESCO y la Fundación Gates incluso afirman que la instrucción basada en IA será clave para reducir las desigualdades educativas. La imagen que se está pintando es idílica, liberal y anillos de la democracia.
Sin embargo, considere que este es un sistema diferente de cualquiera que se ve antes en la educación: algunos programas están impulsando la educación de generaciones enteras, y estos sistemas están controlados por asociaciones de gobierno corporativo. Si yo fuera un poderoso movimiento político interesado en prohibir ciertas piezas de información para mantener el control político, vería esta configuración como una oportunidad perfecta, mucho más fácil de manipular que un sistema donde los seres humanos realizan educación. De hecho, el nuevo «plan de acción de IA» de la administración Trump desea exactamente esto, argumentando un futuro aterrador donde la IA se ve obligada a censurar la información relacionada con la justicia social.
En lugar de centrarnos únicamente en si ayuda a los estudiantes a aprender o hacerlos más perezosos, debemos considerar el ángulo político: la IA educativa es una herramienta perfecta para un control generalizado de pensamiento, y si no lidiamos con esa posibilidad, podemos marcar ignorantemente una era de regímenes de información totalitaria que no había visto antes.
Hasta la fecha, los sistemas del modelo de idioma grande (LLM) que se impulsan a las aulas son creados y controlados por grandes compañías tecnológicas como OpenAI, Microsoft, Google y Meta. Las corporaciones están firmando activamente acuerdos con instituciones de educación para incorporar sus herramientas en el aula. En las universidades estatales de California, donde trabajo como investigador postdoctoral, recientemente hubo una compra multimillonaria de licencias de CHATGPT para todos los estudiantes y personal. Ya hay iniciativas para integrar la educación personalizada basada en la IA en la universidad de ingeniería, y es más probable que venga.
Las corporaciones al timón no son conocidas por su amor por la democracia de la información, ni por sus compromisos con la justicia, la equidad o la paz. Considere los movimientos para detener el genocidio en Palestina. En 2023, Human Rights Watch escribió un largo informe que documenta las políticas de Meta de Censura y Cuentas de Banning de Sombras que presentaron información pro-palestina. Google ha estado tomando medidas enérgicas contra las protestas internas contra su participación con los militares de Israel, despidiendo a los empleados que hablan en contra de los tratos del gigante tecnológico.
Los políticos también están cada vez más interesados en formas extremas de control de información para que se ajusten a sus agendas. Pen America documentó las asombrosas prohibiciones de 16,000 libros en las escuelas públicas en los Estados Unidos desde 2021, un nivel no visto desde la era de McCarthy. Una base de datos de la revisión de la población mundial muestra que en 2025, 20 estados han firmado prohibiciones sobre la enseñanza de la teoría crítica de la raza en la ley. La administración Trump ha devastado la educación superior al reducir los fondos para las escuelas que promueven iniciativas de diversidad, equidad e inclusión.
No está fuera del ámbito de la posibilidad imaginar que la gran tecnología cumpla con las directivas de extrema derecha para prohibir la información, ya que la industria ya ha mostrado una aceptación impactante de sus sistemas de construcción de roles para la vigilancia masiva y la deportación, así como para facilitar el genocidio en Palestina.
Al igual que en los primeros días de Internet, las compañías tecnológicas están preparando su comercialización de sistemas educativos de IA hacia visiones de información y equidad democratizados. Al principio, Internet también fue proselitista como una fuerza democratizadora en el mundo debido a su capacidad para abrir el acceso a la información para todos. Pero ahora, en 2025, conocemos la multitud de formas en que Internet ha sido retorcida por la influencia corporativa y del gobierno: resultados de búsqueda sesgados, censura de información, proliferación flagrante de información errónea, paredes de pago y anuncios específicos.
Ahora imagine un mundo en el que la IA educativa se generaliza tan extendido como a estas compañías les gustaría. En cada aula, hay sistemas de IA a los que los estudiantes tienen acceso para la discusión e información. Los maestros están utilizando herramientas de IA para estructurar sus planes de lecciones y planes de estudio. Eventualmente, si las fuerzas que buscan reducir los costos educativos se salen con la suya, podríamos vivir en un mundo donde los maestros son cosa del pasado; Los estudiantes pueden estar más acostumbrados a aprender de máquinas «inteligentes» que de otros seres humanos.
Estas visiones no son mías: provienen directamente de materiales de marketing de empresas educativas de IA, universidades y fundaciones comprometidas a erosionar la educación pública. Operai, Google y Magic School argumentan en sus sitios web que los maestros son insustituibles, pero luego continúan mostrando cómo sus herramientas pueden hacer las responsabilidades centrales del trabajo de un maestro: crear planes de lecciones, cuestionarios, pruebas, directamente tutor y conversar con los estudiantes. El Grupo de Inteligencia Artificial Centrado en Humanos de Stanford convocó a los líderes de la facultad y la industria para una cumbre de educación de IA, donde argumentan que la IA puede «proporcionar comentarios y sugerencias en tiempo real a los maestros (por ejemplo, preguntas que hacer en la clase)», «Resumir la dinámica del aula … incluida[ing] Tiempo de habla estudiante «y» ayudan a los maestros a mantenerse al día con los últimos avances en su campo. Por ejemplo, un profesor de biología los actualizaría sobre los últimos avances en la investigación del cáncer, o aprovecha la IA para actualizar su plan de estudios «. Las herramientas generativas de IA generativas de estas empresas ahora se están impulsando como formas de «liberar el tiempo y la energía para que los maestros trabajen directamente con los estudiantes y las familias».
Sin embargo, después de que la IA se encarga de la planificación de la lección, la creación de materiales, la tutoría, la gestión del aula y la reflexión posterior a la clase, ¿qué queda? Estos argumentos parecen ser una cobertura velada para una mayor privatización de la educación a través de la tecnología, que durante mucho tiempo ha sido un objetivo de negocios. Un informe de 2020 de Boninger et al., Además de una revisión de la educación de IA de Williamson & Eynon, advirtió que las soluciones de AI y Edtech han sido fuertemente financiadas por fundaciones como la Iniciativa Chan-Zuckerberg y la Fundación Gates, prometiendo escuelas subfinanciadas que recibirán programas de aprendizaje gratuitos. Si la IA se usa para hacer todo lo que estas compañías dicen que harán, habrá fuertes presiones sobre las escuelas con fondos insuficientes para reducir los costos, probablemente a través de las horas de enseñanza.
En estos escenarios, hay una pieza crucial de la sociedad democrática perdida. En lugar de tener poder educativo distribuido entre miles de maestros que tienen autonomía y libertad para resistir la política educativa que consideran corrupta, este mundo futuro ejerce un poder educativo de arriba hacia abajo a través de algunas compañías.
El totalitarismo, según lo descrito por luminarias como Hannah Arendt, Theodor Adorno y Carl Friedrich, promulga el control total de una población a través de la fuerza, el miedo, el control de los medios y crucialmente, la adquisición de la educación. Sin embargo, como Shoshana Zuboff articula en su trabajo La edad del capitalismo de vigilancialos totalitarismos de Mussolini y Stalin requerían «secuaces, y sus secuaces, y sus secuaces», una vasta red de humanos para hacer el trabajo.
Si la educación se llevó a cabo predominantemente por AI Systems, la perspectiva es mucho más simple: algunos ingenieros pueden orquestar la educación totalitaria. Si se aprobó una política para prohibir la teoría crítica de la raza, Google, Meta y OpenAI solo necesitan obligar a los trabajadores a cambiar el código e implementar una actualización que suprima instantáneamente el pensamiento crítico para millones de estudiantes. Estos sistemas son el sueño de un dictador, la infraestructura perfecta para la imposición del totalitarismo.
Desafortunadamente, los planes de la administración Trump ya parecen estar dirigiendo esta dirección. El reciente plan de acción de IA de su administración dedica una sección a «proteger[ing] libertad de expresión y valores estadounidenses «. Presiona para «ai adquirido por el gobierno federal objetivamente [to] reflejar la verdad en lugar de las agendas de ingeniería social «. Entre estas agendas de ingeniería social enumera cosas como «desinformación, diversidad, equidad e inclusión y cambio climático». Declara que cualquier contratista de LLM que trabaje con el gobierno debe «asegurarse de que sus sistemas sean objetivos y libres de sesgo ideológico de arriba hacia abajo». Ya estamos viendo un deseo de las fuerzas autoritarias de la extrema derecha para censurar los sistemas de IA.
Tener maestros humanos, que son capaces de disidencia, protesta y subversión ante órdenes injustas, es un elemento clave de una sociedad democrática. Sin embargo, este peligro está enterrado en discusiones sobre equidad, eficiencia y aprendizaje personalizado.
A partir de ahora, gran parte del enfoque crítico en la IA educativa que ha llegado a la prensa convencional se centra en si la IA realmente está ayudando a los estudiantes a aprender. Si bien esa discusión es importante, su importancia que palidece en comparación con una discusión sobre el control educativo tecnológicamente mediado. Existe una necesidad urgente de llevar estas consideraciones al discurso crítico más amplio, o de lo contrario nos arriesgamos a perder la oportunidad de detener esta adquisición.
Como comenzamos a ver después del desmantelamiento de la educación superior de la administración Trump, es mucho más difícil construir sistemas sociales que destruirlos. Una vez que los sistemas de IA están ampliamente integrados en las aulas, la pedagogía se altera para que se ajuste a este nuevo modelo, y la capacidad de enseñanza se reduce en nombre del ahorro de costos, será increíblemente difícil de volver a un sistema de educación humanos de toda la sociedad.
En este momento, tenemos la oportunidad de resistir la adquisición antes de que se extienda y se profundice. Pero debemos actuar juntos, y rápidamente, si vamos a detener el comienzo de una nueva era del control de información totalitaria.
La libertad de prensa está bajo ataque
A medida que Trump aprieta su control autoritario sobre la libertad de expresión, los medios independientes son cada vez más necesarios.
Truthout produce informes que no verá en la corriente principal: periodismo de en el terreno en Gaza, entrevistas con líderes de movimiento de base, análisis legal de alta calidad y más.
Nuestro trabajo es posible gracias al soporte de lector. Ayuda a la verdad a catalizar el cambio y la justicia social: haga una donación mensual o única deducible de impuestos hoy.
