in

TU guía definitiva para detectar personas falsas creada por IA

Esta imagen se generó en Midjourney en segundos en respuesta a un simple mensaje

Los estafadores están generando perfiles de citas falsos y cuentas de redes sociales en un intento de extorsionar a las personas.

Modelos OnlyFans generado por creadores de imágenes de IA han brotado en el servicio con calificación X, mientras que los ‘entrenadores’ de Tinder están usando ChatGPT para ayudar a los clientes a conseguir fechas. Las aplicaciones que usan chatbots de IA para proporcionar a los usuarios un «compañero» también están aumentando.

Estas cuentas falsas se utilizan para «estafas románticas», en las que una persona engaña a otra persona para que se convierta en su pareja y usa la relación para extraerle dinero.

La Comisión Federal de Comercio dijo que estas estafas costaron a los estadounidenses 1300 millones de dólares en 2022. Otros actores también han utilizado imágenes generadas por IA para dirigirse a las empresas.

DailyMail.com habló con expertos en seguridad cibernética para obtener consejos sobre cómo reconocer un perfil de IA. Estos incluyen mirar las manos, los dientes y las sombras.

Esta imagen se generó en Midjourney en segundos en respuesta a un simple mensaje

Martin Cheek, experto en fraude y seguridad cibernética de SmartSearch, dijo a DailyMail.com: «ChatGPT hace que sea muy fácil para los ciberdelincuentes hacerse pasar por diferentes personas sin tener grandes habilidades literarias».

‘[They can] aproveche el modelo de lenguaje para generar mensajes más personalizados y engañar a las personas para que sean víctimas de ataques cibernéticos.’

Las caras generadas por IA no son perfectas. Todavía hay algunas fallas en la tecnología y reconocerlas puede ayudarlo a saber si su coincidencia de Tinder es real.

Las estafas románticas funcionan mediante el uso de las redes sociales o aplicaciones de citas para atraer a una persona a una relación en línea. Por lo general, usarán imágenes de una persona muy atractiva, como un modelo o actor, que se encuentran en línea.

Luego, comienzan a pedir dinero a su objetivo utilizando cuestiones cotidianas como la avería del automóvil, las facturas médicas u otros gastos.

«Si un interés amoroso en línea le pide dinero, aléjese, sin importar cuán convincente sea la historia», dice la FTC.

mira las manos

¿Puedes detectar qué está mal con esta foto generada por IA?

¿Puedes detectar lo que está mal?

Al igual que muchos artistas, la tecnología de IA tiene problemas para manejarse correctamente

«Con la IA, hay bastantes cosas en las que la IA es bastante mala para replicar, especialmente las manos», dice Cyril Noel-Tagoe, investigador principal de seguridad de la firma de ciberseguridad Netacea, en el Reino Unido, dijo,

«A veces se pueden ver distorsiones en ellos y, a veces, pueden ser demasiado grandes o tener un dedo extra».

Este fenómeno ocurre porque la IA utiliza la búsqueda de patrones para generar imágenes.

Puede detectar el patrón de personas que tienen manos y que las manos tienen dedos, pero no sabe que debe haber una cantidad particular de dedos.

Las manos dibujadas por IA a menudo también tendrán dedos de aspecto extraño. A menudo son demasiado largos o inconexos.

Esto se debe a que la plataforma no entiende qué son las manos y su función, ni cómo se verían.

Busque signos reveladores en el fondo

Las sombras pueden ser un indicio de que una imagen es generada por IA (esta es)

Las sombras pueden ser un indicio de que una imagen es generada por IA (esta es)

Las imágenes creadas por IA también estarán plagadas de luces y texturas extrañas.

Vonny Gamot, líder sénior de McAfee, le dijo a DailyMail.com: “Las imágenes generadas por IA a menudo tienen algunos signos reveladores de que son realmente falsas, por lo que es importante prestar mucha atención.

«Si el contorno de la persona es borroso, por ejemplo, o si los pequeños detalles como las sombras parecen apagados, sabrá que la imagen no es real».

Debido a que las imágenes generadas por IA no tienen iluminación real, las sombras en ellas ahora serán precisas.

En cambio, la IA solo usa una combinación de diferentes imágenes para crear sombras falsas, que a menudo serán inconsistentes con la forma en que actúa la iluminación natural.

A veces, el contorno de las personas en una imagen generada por IA también parecerá borroso, ya que el tema de la pieza se mezcla con el fondo.

Mirar tono, cabello, ojos, cara y dientes (ROBO)

Gamot dice que McAfee, una firma de software de seguridad de San José, California, le dijo a DailyMail.com que su compañía tiene una lista de verificación para verificar si las imágenes son falsas.

Llamado ROBO, los asociados de McAfee verifican el tono, el cabello, los ojos, la cara y los dientes de los sujetos para ver si hay signos de generación de IA.

La tecnología de IA tiene problemas para mostrar correctamente todas estas características.

Tono

Los parches con manchas en la piel, los tonos de piel irregulares o el parpadeo en los bordes de la cara son signos de imágenes y videos profundamente falsos.

Esto se debe a que las imágenes de las que extrae el generador están formadas por personas con pequeñas imperfecciones y diferentes colores de piel.

Estos generadores crean un «promedio» de todos ellos al crear una imagen, y estas pequeñas diferencias se convertirán en colores extraños.

Cabello

¿Es el pelo un poco DEMASIADO perfecto?

¿Es el pelo un poco DEMASIADO perfecto?

Nadie tiene el cabello perfecto, excepto las personas falsas en las imágenes generadas por IA.

La gente real casi siempre tiene algunos mechones de cabello irregulares, rutas de vuelo que se niegan a sujetarse.

Pero, en las imágenes de IA, muchas de estas pequeñas imperfecciones no estarán allí, creando un aspecto casi demasiado bueno para ser verdad para los modelos.

Ojos

Otros fallos pueden venir a través de los ojos.

Los anteojos a veces se verán asimétricos o no funcionales.

Los ojos pueden parecer inexpresivos o pueden mirar en dos direcciones diferentes.

Del mismo modo, la luz reflejada en sus iris puede verse extrañamente iluminada de una manera que no coincida con la configuración.

Rostro

Los generadores de imágenes a menudo crean rostros irregulares que tienen todas las características de un ser humano pero que están ligeramente desalineados de una manera que los hace parecer espeluznantes.

Al igual que con las manos, la IA puede comprender cuáles son las características de una cara después de escanear miles de imágenes de ellas.

Pero la máquina solo está generando imágenes y no entiende del todo por qué las cosas se ven de cierta manera.

Esto significa que, si bien la IA sabe que un humano tiene dos ojos, una nariz y una boca, no puede determinar la relación entre ellos.

Por ejemplo, cuando una persona mira hacia un lado, es posible que el programa no gire correctamente la nariz hacia un lado, ya que no los detecta como si estuvieran en el mismo plano.

Esto puede dar lugar a caras de aspecto extraño que tienen la característica correcta pero en ángulos ligeramente desviados.

Dientes

Los dientes no siempre se ven bien en las falsificaciones profundas, a veces se ven más como barras blancas en lugar de mostrar las irregularidades habituales que vemos en las sonrisas de las personas.

Los blancos nacarados a menudo serán demasiado perfectos, anormalmente blancos y rectos, o tendrán irregularidades anormales.

Estos pueden incluir dientes demasiado largos, cortos o una persona que tiene demasiados dientes en la boca.

Discurso obsoleto

Muchos estafadores usan ChatGPT para enviar mensajes a alguien, usando el chatbot de IA para escribir respuestas.

Este es uno de los favoritos entre los estafadores extranjeros que pueden no tener un buen inglés, pero pueden usar la plataforma para escribirles texto similar a los humanos.

Pero, debido a que ChatGPT es una combinación de texto de varias décadas, algunas palabras y frases que usa pueden sentirse como una explosión del pasado.

«Si le preocupa que pueda estar siendo atacado por un delincuente que usa ChatGPT, debe tener en cuenta las limitaciones de la IA», dice Thomas Platt, especialista en bots de Netacea.

‘Pregunte sobre cosas realmente actuales y actualizadas como lo que se vio en la televisión anoche.

«Estas IA están entrenadas con datos históricos, por lo que si preguntas sobre el episodio de ayer de Love Island, será muy difícil».

Frases cortas y palabras repetidas

Si bien la IA puede producir frases muy convincentes, a menudo todavía hay obsequios, dice Vonny Gamot, director de EMEA en la empresa de protección en línea McAfee.

Gamot dice: ‘Hay algunos signos reveladores de un mensaje escrito por IA. AI a menudo usa oraciones cortas y reutiliza las mismas palabras.

‘Manténgase alerta y escudriñe cualquier mensaje de texto, correo electrónico o mensaje directo que reciba de extraños. ‘

Pídeles que demuestren quiénes son.

Una señal clásica de un estafador es que no revelará su rostro en la cámara ni verificará su identidad, dice Cheek.

Cheek dice: ‘Verificar la identidad de la persona con la que interactúas en línea debería ser el primer paso. Si son reacios a dar la cara, pregúntate por qué.

Comprobar cuándo activaron su cuenta

Una señal de advertencia de que puede estar tratando con un estafador habilitado para IA es la fecha en sus redes sociales o cuenta de citas.

Piense en cuánto tiempo ha tenido el suyo y por qué alguien podría haberse unido recién la semana pasada.

David Emm, de la empresa de seguridad cibernética Kaspersky, dice: «Si detecta una cuenta que acaba de activarse, podría ser una cuenta falsa que intenta mezclarse con la multitud». Si puede, verifique cuándo se unieron a la plataforma, es bastante fácil de hacer; a menudo, esto es un claro indicativo de que la cuenta se creó con el único propósito de estafarlo.

Fuente

Written by notimundo

Por qué la ronda de 155 mm es tan crítica para la guerra en Ucrania

Nuevo proyecto de ley bipartidista permitiría a la Casa de la Moneda de EE. UU. alterar el contenido de metal de las monedas para ahorrar dinero