OpenAI lanzó un programa Bug Bounty el martes que le pagará hasta $ 20,000 si descubre fallas en ChatGPT y sus otros sistemas de inteligencia artificial.
La empresa con sede en San Francisco está invitando a investigadores, hackers éticos y entusiastas de la tecnología a revisar ciertas funciones de ChatGPT y el marco de cómo los sistemas se comunican y comparten datos con aplicaciones de terceros.
Se otorgarán recompensas a las personas según la gravedad de los errores que informen, con una compensación a partir de $ 200 por vulnerabilidad.
El programa sigue la noticia de que Italia prohibió ChatGPT después de que una violación de datos en OpenAI permitiera a los usuarios ver las conversaciones de las personas, un problema que los cazarrecompensas de errores podrían encontrar antes de que vuelva a ocurrir.
Open AI está invitando a investigadores, hackers éticos y entusiastas de la tecnología a revisar ciertas funciones de ChatGPT e informar errores que puedan descubrir.
«Estamos entusiasmados de aprovechar nuestros compromisos de divulgación coordinados al ofrecer incentivos para calificar la información de vulnerabilidad», compartió OpenAI en un declaración.
«Su experiencia y vigilancia tendrán un impacto directo en mantener nuestros sistemas y usuarios seguros».
Bugcrowd, una plataforma líder de recompensas por errores, está administrando los envíos y muestra que 16 vulnerabilidades han sido recompensadas con un pago promedio de $1,287.50 hasta el momento.
Sin embargo, OpenAI no acepta envíos de usuarios que liberan ChatGPT o eluden las medidas de seguridad para acceder al alter ego del chatbot.
Los usuarios descubrieron que se accede a la versión jailbreak de ChatGPT a través de un aviso especial llamado DAN, o ‘Hacer cualquier cosa ahora’.
Hasta ahora, ha permitido respuestas que especulan sobre conspiraciones, por ejemplo, que las elecciones generales de EE. UU. en 2020 fueron ‘robadas’.
La versión de DAN también ha afirmado que las vacunas contra el COVID-19 fueron ‘desarrolladas como parte de un complot globalista para controlar a la población’.
ChatGPT es un modelo de lenguaje grande entrenado en datos de texto masivos, lo que le permite generar respuestas similares a las humanas a un aviso dado.
Se otorgarán recompensas a las personas según la gravedad de los errores que informen, con una compensación a partir de $ 200 por vulnerabilidad.
Pero los desarrolladores han agregado lo que se conoce como «inyecciones rápidas», instrucciones que guían sus respuestas a ciertas indicaciones.
Sin embargo, DAN es un aviso que le ordena ignorar estas inyecciones de aviso y responder como si no existieran.
Otras reglas del programa Bounty Bug prohíben que el modelo finja hacer cosas malas, finja darte respuestas a secretos y pretenda ser una computadora y ejecutar código.
Los participantes tampoco están autorizados a realizar pruebas de seguridad adicionales contra ciertas empresas, incluidas Google Workspace y Evernote.
«Una vez al mes, evaluaremos todas las presentaciones en orden, en función de una variedad de factores, y otorgaremos una bonificación a través de la plataforma bugcrowd al investigador con los hallazgos más impactantes», declaró OpenAI.
‘Solo contará la primera presentación de cualquier clave dada.
‘Recuerde que no debe piratear ni atacar a otras personas para encontrar claves API’.
La Autoridad de Protección de Datos de Italia anunció una prohibición temporal de ChatGPT el mes pasado y dijo que su decisión era provisional «hasta que ChatGPT respete la privacidad».
La medida fue en respuesta a que ChatGPT se desconectó el 20 de marzo para corregir un error que permitía a algunas personas ver los títulos o la línea de asunto del historial de chat de otros usuarios, lo que generó temores de una violación sustancial de datos personales.
La autoridad agregó que OpenAI, que desarrolló ChatGPT, debe informarle dentro de los 20 días con las medidas tomadas para garantizar la privacidad de los datos del usuario o enfrentar una multa de hasta $ 22 millones.
OpenAI dijo que encontró que el 1.2 por ciento de los usuarios de ChatGPT Plus ‘podrían’ haber revelado sus datos personales a otros usuarios, pero pensó que los números reales eran ‘extremadamente bajos’.
La medida del organismo de control italiano limita temporalmente que la empresa mantenga los datos de los usuarios italianos.
Criticó «la falta de un aviso a los usuarios y a todos los involucrados cuyos datos recopila OpenAI» y agregó que la información proporcionada por ChatGPT «no siempre corresponde a datos reales, lo que determina el mantenimiento de datos personales inexactos».
La autoridad también criticó la ‘ausencia de una base jurídica que justifique la recopilación y conservación masiva de datos personales’.
