El CEO de OpenAI, Sam Altman, está hablando frente al Congreso sobre los peligros de la IA después de que el ChatGPT de su compañía explotó en popularidad en los últimos meses.
Los legisladores están interrogando al CEO, enfatizando que ChatGPT y otros modelos podrían dar forma a la ‘historia humana’ como la imprenta o la bomba atómica.
La imprenta, según los funcionarios, trajo libertad al pueblo estadounidense, mientras que la bomba atómica dejó secuelas inquietantes.
Altman les dijo a los senadores que la IA generativa podría ser un «momento de imprenta», pero no está ciego ante su culpa, y señaló que los legisladores y los líderes de la industria deben trabajar juntos para «hacer que así sea».
La audiencia del martes es la primera de una serie destinada a redactar reglas para la IA, que los legisladores dijeron que debería haberse hecho con el nacimiento de las redes sociales.
El senador Richard Blumenthal, quien presidió la audiencia, dijo que el Congreso no aprovechó el momento con las redes sociales y permitió que los depredadores dañaran a los niños, pero ese momento no ha pasado con la IA.
El CEO de OpenAI, Sam Altman, está hablando frente al Congreso sobre los peligros de la IA después de que ChatGPT de su compañía explotó en popularidad en solo unos meses.
OpenAI, con sede en San Francisco, llamó la atención del público después de que lanzó ChatGPT a fines del año pasado.
ChatGPT es una herramienta de chatbot gratuita que responde preguntas con respuestas convincentemente similares a las de los humanos.
El senador Josh Hawley dijo: «Hace un año no podríamos haber tenido esta discusión porque esta tecnología aún no se había hecho pública». Pero [this hearing] muestra cuán rápido [AI] está cambiando y transformando nuestro mundo.’
La audiencia del martes no tuvo como objetivo controlar la IA, sino iniciar una discusión sobre cómo hacer que ChatGPT y otros modelos sean transparentes, garantizar que se divulguen los riesgos y establecer cuadros de mando.
Blumenthal, el demócrata de Connecticut que preside el subcomité de privacidad, tecnología y leyes del Comité Judicial del Senado, abrió la audiencia con un discurso grabado que sonaba como el del senador pero que en realidad era un clon de voz entrenado en los discursos de piso de Blumenthal y recitando un discurso escrito por ChatGPT. después de que le preguntó al chatbot: ‘¿Cómo abriría esta audiencia?’
El resultado fue impresionante, dijo Blumenthal, pero agregó: ‘¿Qué pasaría si yo lo hubiera pedido y si hubiera respaldado la rendición de Ucrania o el liderazgo de (el presidente ruso) Vladimir Putin?’
Blumenthal dijo que se debería exigir a las empresas de inteligencia artificial que prueben sus sistemas y divulguen los riesgos conocidos antes de lanzarlos.
OpenAI, con sede en San Francisco, llamó la atención del público después de que lanzó ChatGPT a fines del año pasado. ChatGPT es una herramienta de chatbot gratuita que responde preguntas con respuestas convincentemente similares a las de los humanos.
Altman les dijo a los senadores que la IA generativa podría ser un «momento de imprenta», pero no está ciego ante su culpa, y señaló que los legisladores y los líderes de la industria deben trabajar juntos para «hacer que así sea».
Altman, que parecía sonrojado y con los ojos muy abiertos durante el interrogatorio sobre el futuro que la IA podría crear, admitió su Los «peores temores» están causando «un daño significativo al mundo» usando su tecnología.
‘Si esta tecnología sale mal, podría salir bastante mal, y queremos hablar al respecto. Queremos trabajar con el gobierno para evitar que eso suceda”, continuó.
Un tema planteado durante la audiencia ha sido discutido entre el público: cómo la IA afectará los trabajos.
‘La mayor pesadilla es la inminente revolución industrial del desplazamiento de los trabajadores.’ Blumenthal dijo en su declaración de apertura.
Altman abordó esta preocupación más adelante en la audiencia y afirmó que cree que la tecnología ‘automatizará por completo algunos trabajos’.
Si bien ChatGPT podría eliminar puestos de trabajo, predijo Altman, también creará otros nuevos «que creemos que serán mucho mejores».
«Creo que habrá muchos más trabajos al otro lado de esto, y los trabajos de hoy mejorarán», dijo.
«Creo que automatizará por completo algunos trabajos y creará otros nuevos que creemos que serán mucho mejores».
‘Habrá un impacto en los puestos de trabajo. Tratamos de ser muy claros al respecto’, dijo.
También se sentó en la corte Christina Montgomery, directora de privacidad de IBM, quien también admitió que AI cambiará los trabajos cotidianos pero también creará otros nuevos.
‘Soy un ejemplo personal de un trabajo que no existió [before AI],’ ella dijo.
El público usa ChatGPT para escribir trabajos de investigación, libros, artículos de noticias, correos electrónicos y otros trabajos basados en texto, mientras que muchos lo ven como un asistente virtual.
En su forma más simple, la IA es un campo que combina la informática y conjuntos de datos sólidos para permitir la resolución de problemas.
La tecnología permite que las máquinas aprendan de la experiencia, se ajusten a nuevos insumos y realicen tareas similares a las humanas.
Los sistemas, que incluyen subcampos de aprendizaje automático y aprendizaje profundo, están compuestos por algoritmos de IA que buscan crear sistemas expertos que hagan predicciones o clasificaciones basadas en datos de entrada.
De 1957 a 1974, la IA floreció. Las computadoras podían almacenar más información y se volvieron más rápidas, baratas y accesibles.
Los algoritmos de aprendizaje automático también mejoraron y las personas mejoraron en saber qué algoritmo aplicar a su problema.
En 1970, el científico informático del MIT, Marvin Minsky, dijo a la revista Life: «De tres a ocho años, tendremos una máquina con la inteligencia general de un ser humano promedio».
Y si bien el momento de la predicción no fue correcto, la idea de que la IA tenga inteligencia humana no lo es.
ChatGPT es una prueba de lo rápido que crece la tecnología.
En solo unos meses, aprobó el examen de la barra con una puntuación más alta que el 90 por ciento de los humanos que lo tomaron, y logró una precisión del 60 por ciento en el Examen de licencia médica de EE. UU.
La audiencia del martes parece compensar las fallas de los legisladores con las redes sociales: controlar el progreso de la IA antes de que sea demasiado grande para contenerlo.
Los senadores dejaron en claro que no quieren que los líderes de la industria detengan el desarrollo, algo que Elon Musk y otros magnates tecnológicos han estado presionando, sino que continúen su trabajo de manera responsable.
Musk y más de 1,000 expertos líderes firmaron una carta abierta en The Future of Life Institute, pidiendo una pausa en la ‘carrera peligrosa’ para desarrollar IA similar a ChatGPT.
Kevin Baragona, cuyo nombre está escrito en la carta, le dijo a DailyMail.com en marzo que «la superinteligencia de IA es como las armas nucleares del software».
«Mucha gente ha debatido si deberíamos o no seguir desarrollándolos», continuó.
Los estadounidenses luchaban con una idea similar, mientras desarrollaban el arma de destrucción masiva, que en ese momento se denominó «ansiedad nuclear».
«Es casi similar a una guerra entre chimpancés y humanos», dijo Baragona, quien firmó la carta, a DailyMail.com.
“Obviamente, los humanos ganan, ya que somos mucho más inteligentes y podemos aprovechar una tecnología más avanzada para derrotarlos.
‘Si somos como los chimpancés, entonces la IA nos destruirá, o seremos esclavizados por ella’.
