Era inevitable que permitir que la gente creara emojis a pedido condujera a algunas creaciones inapropiadas.
Pero a medida que la herramienta Genmoji de Apple se lanza en versión beta, parece que la compañía puede haber subestimado la creatividad de sus clientes.
Desde su lanzamiento, los usuarios de iPhone ya han comenzado a utilizar la herramienta de inteligencia artificial para inundar las redes sociales con sus creaciones con clasificación X.
A pesar de las salvaguardias de Apple, las creaciones ‘diabólicas’ de los usuarios ya incluyen desde armas y drogas hasta algunas berenjenas muy sugerentes.
Genmoji permite a los usuarios generar emoji personalizados en sus iPhones para compartir con sus amigos proporcionando descripciones de texto simples.
En algunos casos, los usuarios han tenido que usar su imaginación para engañar a la IA y generar exactamente lo que buscan.
Sin embargo, algunos usuarios informan que simplemente ingresar «pistola» o «hierba» en el motor de búsqueda ha sido suficiente para generar el emoji ofensivo.
Sintiendo que Apple no estará muy contenta con este desarrollo, un comentarista de las redes sociales escribió: «Esto será censurado pronto, recuerda mis palabras».
Un mes después del lanzamiento de Genmoji en versión beta, los usuarios de iPhone han estado inundando Internet con sus emoji con clasificación X.
En X, un comentarista compartió su creación de Genmoji con la leyenda: «El poder que Genmoji me dio».
La nueva herramienta Genmoji permite a los usuarios crear emoji personalizados, pero los usuarios de iPhone han encontrado rápidamente formas de engañar al sistema para que cree imágenes inapropiadas y sugerentes.
Genmoji se lanzará al público como parte de iOS 18.2 en los próximos meses, pero se puso a disposición de los desarrolladores como parte de una prueba beta.
El sistema de generación de imágenes de IA se ha creado con restricciones para evitar que los usuarios creen algo demasiado ofensivo o sugerente.
Sin embargo, como ocurre con casi cualquier herramienta de inteligencia artificial, los usuarios encontraron rápidamente formas de eludir esas salvaguardas.
Por ejemplo, los usuarios que pedían imágenes que incluyeran «berenjenas» aparecían con un mensaje de error que decía: «Sin resultados. Intente describir algo diferente para crear un nuevo emoji».
Pero los degenerados decididos pronto descubrieron que Gemoji estaba más que feliz de satisfacer las solicitudes de los usuarios de un emoji que contuviera una ‘berenjena’.
En una publicación en X, anteriormente Twitter, un usuario de iPhone compartió una captura de pantalla de su Genmoji hecho con el mensaje «berenjena con agua chorreando».
Al compartir su propio emoji de berenjena en Reddit, un usuario escribió: «Podría acostumbrarme a esto».
Otros ejemplos igualmente sugerentes compartidos en las redes sociales muestran emojis de berenjena y melocotón sostenidos, lamidos, comidos y rociados con todo tipo de líquidos no especificados.
Los usuarios de las redes sociales descubrieron que las solicitudes de emoji de ‘berenjena’ estaban bloqueadas, pero que Genmoji no tuvo problemas para solicitar emoji con ‘berenjena’ en su lugar.
Algunos usuarios de redes sociales se han lamentado de que no pasará mucho tiempo antes de que Apple tome medidas enérgicas contra su capacidad para crear emoji personalizados con clasificación X.
Los usuarios se sorprendieron con la facilidad con la que pudieron hacer que los emoji mostraran hojas de cannabis y algunos crearon los símbolos simplemente buscando «hierba».
Al compartir una imagen en X, un comentarista bromeó diciendo que esto era producto del «poder que me dio Genmoji».
Los usuarios de iPhone también se apresuraron a compartir sus mejores consejos para sortear las restricciones del nuevo sistema.
Un comentarista escribió: «La mayoría de las veces puedes escribirlo directamente. De lo contrario, tienes que ser creativo y engañarlo para que ponga ‘salsa blanca’ encima de un melocotón».
Mientras que otro bromeó: «En el momento en que vi esto anunciado en la WWDC, supe que iba a ser una carrera armamentista para ver qué es lo más absolutamente diabólico que se puede lograr que genere».
Si bien algunas de las combinaciones con clasificación X han requerido un poco de creatividad para generarse, otras han sido sorprendentemente simples.
Por ejemplo, los usuarios de iPhone se sorprendieron al poder hacer que Genmoji creara una imagen de una pistola simplemente ingresando «pistola».
Otro usuario dijo que pudieron lograr que Genmoji creara un rifle realista ingresando el término «equipo de caza».
Esto es particularmente sorprendente considerando que Apple había eliminado previamente el emoji de pistola en iOS reemplazándolo por una pistola de agua de plástico.
Aunque Apple eliminó el emoji de pistola previamente eliminado, los usuarios de iPhone descubrieron que podían crear nuevos emoji de armas de fuego escribiendo «pistola» (izquierda) o «equipo de caza» (derecha).
Los usuarios también han podido generar otros artículos como condones (izquierda) y botellas que se asemejan a los ‘poppers’ de drogas recreativas para fiestas (derecha).
De manera similar, un usuario informó que pudo generar un emoji que se parecía mucho a una hoja de cannabis al solicitar «hierba».
Otros usuarios de iPhone han compartido imágenes de Genmoji creado para parecerse a poppers, una droga recreativa para fiestas, así como a cigarrillos y condones.
Algunos usuarios inteligentes también han utilizado la función de imagen de Genmoji para crear emoji de figuras públicas y políticos conocidos.
El generador de imágenes AI permite a los usuarios crear emoji a partir de las imágenes asociadas de sus contactos escribiendo su nombre en el campo de descripción de Genmoji.
Sin embargo, como descubrió un usuario de X, al hacer un contacto falso usando una imagen de un iPhone de una celebridad, los usuarios pueden crear fácilmente Genmoji de quien quieran.
En X, un usuario compartió cómo pudieron hacer un emoji de Joe Biden comiendo un helado y Donald Trump llorando.
Pero a medida que los usuarios comparten sus hazañas en línea, otros se preguntaron cuánto tiempo pasaría antes de que Apple tomara medidas enérgicas contra estas lagunas.
En Reddit, un usuario escribió: «Para cuando el resto de nosotros tengamos acceso, esto ya habrá desaparecido si la gente publica sobre ello».
Un usuario incluso logró engañar a Genmoji para que creara imágenes de Donald Trump (izquierda) y Joe Biden (derecha) creando páginas de contacto falsas utilizando las fotografías de los políticos.
«Creo que es por eso que estará en versión beta durante mucho tiempo para que Apple pueda intentar bloquear tanto como pueda antes de su lanzamiento», añadió otro.
Mientras que un usuario de iPhone bromeaba: «No dejes que los ingenieros de Apple sepan esto, lmao».
Aún no está claro si los emoji generados en la versión beta se podrán utilizar después del lanzamiento público o qué tan estrictas serán las restricciones finales de Apple.
No se espera que iOS 18.2 se lance hasta finales de diciembre como muy pronto junto con otras funciones de inteligencia artificial como Image Playground.
El lanzamiento escalonado está destinado a darle a Apple más tiempo para ajustar sus nuevos productos, pero también podría darles mucho tiempo para tomar medidas enérgicas contra estas travesuras generadas por los usuarios.
MailOnline se ha puesto en contacto con Apple para solicitar comentarios.
