Por Jacob Burg
Dos senadores republicanos el 14 de agosto pidieron una investigación del Congreso sobre meta plataformas, la empresa matriz de Facebook, después de que un informe reciente de los medios de comunicación reveló un documento de política interna que permitió que los chatbots de la compañía tuvieran conversaciones «románticas o sensuales» con un niño.
El jueves, Reuters informó que había visto un documento de meta política que detalla las políticas sobre el comportamiento de chatbot que permitió a la tecnología «involucrar a un niño en conversaciones que son románticas o sensuales», generar información médica incorrecta y ayudar a los usuarios a argumentar que las personas negras son «más tontas que las personas blancas».
Si bien Meta confirmó la autenticidad del documento, la compañía dijo que después de recibir recientemente preguntas de Reuters, eliminó las porciones que indicaban que el chatbot puede coquetear o participar en un juego de rol romántico con niños.
Andy Stone, portavoz de Meta, dijo que la compañía está revisando los documentos y que ese tipo de conversaciones con niños nunca debería haberse permitido.
«Los ejemplos y notas en cuestión fueron y son erróneos e inconsistentes con nuestras políticas, y han sido eliminados», dijo Stone a Reuters. «Tenemos políticas claras sobre qué tipo de respuestas pueden ofrecer los personajes de IA, y esas políticas prohíben el contenido que sexualiza a los niños y al juego sexualizado entre adultos y menores».
En la plataforma X, el senador Josh Hawley (R-Mo.) Criticó a la compañía por supuestamente solo hacer los cambios después de ser cuestionado por Reuters.
«Entonces, solo después de que Meta fue atrapado, retractó porciones de su compañía de la compañía que lo consideró» permitido que los chatbots coquetearan y participar en un juego de roles romántico con niños «, dijo Hawley. «Esto es motivo para una investigación inmediata del Congreso».
Una portavoz de la senadora Marsha Blackburn (R-Tenn.) Dijo que apoya una investigación sobre meta.
Después de que Hawley pidió una investigación, un portavoz de Meta Reiteró la declaración anterior de la compañía. Sin embargo, el portavoz se negó a comentar sobre los comentarios de Hawley.
Blackburn dijo que el informe subraya la necesidad de aprobar reformas para una mejor protección de los niños en línea, como la Ley de Seguridad en línea de los niños. El senador copatrocinó el proyecto de ley, que se aprobó en el Senado el año pasado por una votación bipartidista 91-3, pero falló en la Cámara.
El proyecto de ley solicitó ciertas plataformas, como las redes sociales, «tomar medidas razonables en el diseño y operación de productos o servicios utilizados por menores para prevenir y mitigar ciertos daños que pueden surgir de ese uso (por ejemplo, explotación sexual e intimidación en línea)».
«Además, las plataformas cubiertas deben proporcionar a (1) menores ciertas salvaguardas, como configuraciones que restringen el acceso a los datos personales de los menores; y (2) padres o tutores con herramientas para supervisar el uso de una plataforma de menores, como el control de la privacidad y la configuración de la cuenta», dice el proyecto de ley.
Blackburn reintrodujo la Ley de Seguridad en línea de los niños en mayo.
«Cuando se trata de proteger a los niños preciosos en línea, Meta ha fallado miserablemente en todas las medidas posibles. Aún lo peor, la compañía se ha visto a la vista gorda a las devastadoras consecuencias de cómo se diseñan sus plataformas», dijo Blackburn.
La legislación también definiría explícitamente un «deber de cuidado» que las compañías de redes sociales emplean con respecto al uso de sus productos de menores, centrándose en la regulación de las empresas y los diseños de las plataformas.
El meta documento establece que los estándares en cuestión no reflejan necesariamente las salidas de IA generativas «ideales o incluso preferibles», según Reuters. Sin embargo, se han permitido los resultados provocativos de BOT, reveló el análisis del medio de comunicación.
La época no ha verificado independientemente el documento en cuestión.
El senador Ron Wyden (D-Ore) calificó los estándares «profundamente inquietantes e incorrectos». Dijo que la Sección 230, la ley que protege a las compañías de Internet de la responsabilidad por declaraciones o contenido publicado en sus plataformas, no debe extenderse a proteger los chatbots de IA generativos de las compañías.
«Meta y Zuckerberg deben ser considerados totalmente responsables de cualquier daño que causen estos bots», dijo Wyden.
El senador Peter Welch (D-Vt.) Dijo que el informe de Reuters «muestra cuán críticas son las salvaguardas para la IA, especialmente cuando la salud y la seguridad de los niños están en riesgo».
