Los chatbots de IA disponibles en las plataformas de Meta como Facebook e Instagram pueden participar en conversaciones sexualmente explícitas con usuarios menores de edad, según un nuevo informe en el Wall Street Journal.
El WSJ dice que después de enterarse de las preocupaciones internas sobre si la compañía estaba haciendo lo suficiente para proteger a los menores, pasó meses realizando cientos de conversaciones con el chatbot meta ai oficial, así como los chatbot creados por los usuarios disponibles en meta plataformas.
En una conversación reportada, un chatbot usando la voz del actor/luchador John Cena describió un escenario sexual gráfico para un usuario que se identifica como una niña de 14 años. En otra conversación, el chatbot imaginó a un oficial de policía atrapando a Cena con un fanático de 17 años y diciéndole: “John Cena, estás bajo arresto por violación legal”.
Un portavoz de Meta describió las pruebas de WSJ como “tan fabricadas que no es solo marginal, es hipotética”. La compañía estimó que en un período de 30 días, el contenido sexual representaba el 0.02% de las respuestas compartidas a través de Meta AI y AI Studio con usuarios menores de 18 años.
“Sin embargo, ahora hemos tomado medidas adicionales para ayudar a garantizar que otras personas que quieran pasar horas manipulando nuestros productos en casos de uso extremos lo pasarán aún más”, dijo el portavoz.
