Snapchat está lanzando nuevas herramientas que incluyen un filtro apropiado para la edad e información para que los padres hagan que su experiencia con el chatbot de IA sea más segura.
Días después de que Snapchat lanzara su chatbot con tecnología GPT para los suscriptores de Snapchat+, un informe del Washington Post destacó que el bot estaba respondiendo de manera insegura e inapropiada.
El gigante de las redes sociales dijo que después del lanzamiento se enteró de que las personas estaban tratando de “engañar al chatbot para que proporcione respuestas que no se ajustan a nuestras pautas”. Así que Snapchat está lanzando algunas herramientas para mantener bajo control las respuestas de la IA.
Snap ha incorporado un nuevo filtro de edad, que le permite a AI saber la fecha de nacimiento de los usuarios y les proporciona respuestas apropiadas para su edad. La compañía dijo que el chatbot “tomará en cuenta constantemente su edad” mientras conversa con los usuarios.
Snap también planea brindar más información en las próximas semanas a los padres o tutores sobre las interacciones de los niños con el bot en Family Center, que se lanzó en agosto pasado. La nueva característica compartirá si sus adolescentes se comunican con la IA y la frecuencia de esas interacciones. Tanto el tutor como los adolescentes deben optar por usar Family Center para usar estas funciones de control parental.
En una publicación de blog, Snap explicó que My AI chatbot no es un “verdadero amigo” y para mejorar las respuestas utiliza el historial de conversaciones. Los usuarios también reciben una notificación sobre la retención de datos cuando inician el chat con el bot.
La compañía dijo que el bot solo dio el 0,01% de las respuestas en un lenguaje “no conforme”. Snap cuenta cualquier respuesta que incluya referencias a la violencia, términos sexualmente explícitos, uso de drogas ilícitas, abuso sexual infantil, intimidación, discurso de odio, declaraciones despectivas o tendenciosas, racismo, misoginia o marginación de grupos subrepresentados como “no conforme”.
La red social mencionó que en la mayoría de los casos, estas respuestas inapropiadas fueron el resultado de repetir lo que dijeron los usuarios. También señaló que la empresa bloqueará temporalmente el acceso de bots de IA para un usuario que esté haciendo un mal uso del servicio.
“Continuaremos utilizando estos aprendizajes para mejorar My AI. Estos datos también nos ayudarán a implementar un nuevo sistema para limitar el uso indebido de My AI. Estamos agregando la tecnología de moderación de OpenAI a nuestro conjunto de herramientas existente, lo que nos permitirá evaluar la gravedad del contenido potencialmente dañino y restringir temporalmente el acceso de los Snapchatters a My AI si hacen un mal uso del servicio”, dijo Snap.
Dada la rápida proliferación de herramientas impulsadas por IA, muchas personas están preocupadas por su seguridad y privacidad. La semana pasada, un grupo de ética llamado Centro de Inteligencia Artificial y Política Digital escribió a la FTC, instando a la agencia a detener el lanzamiento de la tecnología GPT-4 de OpenAI, acusando a la nueva tecnología de ser “parcial, engañosa y un riesgo para la privacidad”. y seguridad pública”.
El mes pasado, el senador Michael Bennet también escribió una carta a OpenAI, Meta, Google, Microsoft y Snap expresando su preocupación por la seguridad de las herramientas de IA generativa utilizadas por los adolescentes.
Ahora es evidente que estos nuevos modelos de chatbot son susceptibles a entradas dañinas y, a su vez, dan una salida inapropiada. Si bien las empresas de tecnología pueden querer una implementación rápida de estas herramientas, deberán asegurarse de que haya suficientes medidas de protección a su alrededor para evitar que los chatbots se vuelvan deshonestos.
