Inicio Europa Cómo detectar ‘AI Slop’: su guía para identificar imágenes generadas por IA

Cómo detectar ‘AI Slop’: su guía para identificar imágenes generadas por IA

0

Desde dedos impares hasta texto extraño, las imágenes generadas por IA siempre dejan rastros reveladores. Y a medida que el contenido falso inunda las redes sociales, verlo es más importante que nunca.

ANUNCIO

Las imágenes falsas generadas con inteligencia artificial (AI) son las redes sociales que se alzan rápidamente, las inundaciones se alimentan con un nuevo tipo de spam: inútil «AI Slop» diseñado para cultivar clics en forma de interacciones.

Aunque los primeros programas generativos de IA (Genai) se publicaron en 2022, los informes sugieren que más de 15 mil millones de imágenes generadas por IA ya están circulando en línea.

Los últimos datos de Openai muestran que los usuarios crean más de 2 millones de imágenes diariamente con Dall-E 2, su modelo de generación de imágenes asciende a aproximadamente 916 millones de imágenes en solo 15 meses desde un solo programa.

Gran parte de este contenido es absurdo y poco realista, con usuarios que generan imágenes imposibles: una figura de Jesús hecha de camarones, animales antropomórficos y titanes gigantes que destruyen puntos de referencia famosos, por nombrar solo algunos.

Pero las imágenes están mejorando en calidad, cada vez más realistas a medida que la tecnología de IA continúa desarrollándose a velocidad vertiginosa.

En 2024, la activista política republicana, Amy Kramer, reshotó una imagen hiperrealista de IA de una niña que sostiene a un cachorro después del huracán Helene, utilizándola como «evidencia» para criticar al entonces presidente Joe Biden.

Y más recientemente, una mujer francesa fue estafada de 830,000 € por un estafador usando fotos mejoradas con AI de Brad Pitt.

Aunque realistas, estas imágenes no son infalibles, y hay más de una forma de saber qué contenido se genera artificialmente.

El diablo está en los detalles, especialmente con humanos

Uno de los regalos más comunes se encuentra en los detalles de la forma humana.

Por ejemplo, la IA lucha notoriamente con las manos, a menudo produciendo dedos que son demasiado largos, demasiado cortos, deformados o extrañamente numerados, ya que muchos dibujos terminan con cuatro, seis y siete dedos.

También puede crear proporciones antinaturales en las extremidades o asimetrías faciales que parecen ligeramente apagadas. Los ojos (otra área problemática frecuente) pueden parecer desalineadas, presentan reflexiones inconsistentes o parecen sin vida a pesar del realismo general de la imagen.

Cuidado con el texto distorsionado

Otro signo revelador es un texto distorsionado o ilegible. Los modelos de IA tienen dificultades para replicar palabras coherentes y a menudo producen galimatías.

Los letreros, vallas publicitarias y etiquetas de productos en imágenes generadas por IA con frecuencia contienen letras no sensibles o revueltas. Tal fue el caso con La infame experiencia Willy Wonka en Glasgowcuyos carteles generados por IA presentaban texto como «Encherining» y «Cartchy Tuns» (presumiblemente «encantador» y «melodías pegadizas»).

Sombras y reflexiones desalineadas

La iluminación y las sombras también ayudan a identificar la artificialidad. Las fotografías naturales siempre siguen el comportamiento predecible de la luz, pero las imágenes generadas por IA pueden mostrar reflexiones y sombras que no se alinean con la fuente de luz, lo que les da una calidad misteriosa y extraña.

Muchas imágenes presentan iluminación que es demasiado uniforme, haciéndolas parecer casi plásticas o demasiado pulidas en comparación con la fotografía del mundo real y darles una apariencia de «Disney».

ANUNCIO

Más allá de las inconsistencias visuales, las imágenes generadas por IA a menudo carecen de las imperfecciones naturales que se encuentran en fotografías reales.

Antinaturalmente perfecto

El ruido digital, un elemento común en la fotografía real de poca luz, está completamente ausente o aparece de manera extrañamente uniforme y artificial.

AI le gusta suavizar demasiado las texturas, haciendo que la piel, las superficies y la tela parezcan antinaturalmente perfectas. Y en algunos casos, los retratos generados por IA parecen aerógrafos en un grado extremo, eliminando los poros naturales y las imperfecciones de las caras humanas reales.

Otro signo típico de contenido creado artificialmente son los patrones de repetición. Esto a menudo se debe a que la IA lucha por generar elementos verdaderamente distintos, lo que lleva a objetos clonados o repetición de detalles que aparecen sutilmente alterados.

ANUNCIO

Es importante prestar mucha atención a elementos como las multitudes, que pueden presentar a personas con caras casi idénticas, o los patrones de fondo pueden con repeticiones descaradas.

Buscar contexto

E incluso cuando una imagen generada por IA parece convincente en la superficie, su contexto puede revelar la rareza y las discrepancias.

Algunos signos clásicos de la generación de IA son objetos que parecen fuera de lugar, referencias culturales no coincidentes o históricos. Por ejemplo, las señales de tráfico con colores incorrectos, reflexiones que contradicen la realidad o los elementos arquitectónicos que no se ajustan al estilo esperado de una ubicación determinada pueden ser banderas rojas.

Finalmente, si visualmente, la imagen se ve bien, pero algo todavía es sospechoso, algunos Las herramientas de detección ayudan a verificar la autenticidad – Aunque, nuevamente, estos no son infalibles.

ANUNCIO

Sin embargo, realizar una búsqueda de imagen inversa puede ayudar a determinar si la imagen ha aparecido en otro lugar en línea antes, lo que permite a los usuarios rastrear su origen.

Fuente

Salir de la versión móvil