Este mes, ChatGPT presentó un nuevo generador de imágenes como parte de su modelo 4O que es mucho mejor para generar texto dentro de las imágenes.
La gente ya lo está utilizando para generar recibos de restaurantes falsos, lo que puede agregar otra herramienta al kit de herramientas ya extensivo de AI Deepfakes utilizados por los estafadores.
El prolífico póster de las redes sociales y VC Deedy Das publicaron en X una foto de un recibo falso para un (real) San Francisco Steakhouse que, según él, fue creado con 4O.
Otros pudieron replicar resultados similares, incluido uno con manchas de alimentos o bebidas para que parezca aún más auténtico:
El ejemplo más de aspecto real que TechCrunch encontrado fue en realidad de Francia, donde un usuario de LinkedIn publicó un recibo generado por IA arrugado para una cadena de restaurantes local:
TechCrunch probó 4O y también pudo generar un recibo falso para un Applebee’s en San Francisco:
Pero nuestro intento tuvo un par de regalos muertos de que fue falsificado. Por un lado, el total usa una coma en lugar de un período. Para otro, las matemáticas no se suman. Los LLM aún luchan por hacer matemáticas básicas, por lo que esto no es particularmente sorprendente.
Pero no sería difícil para un estafador arreglar rápidamente algunos de los números con software de edición de fotos o, posiblemente, indicaciones más precisas.
Está claro que hacer que sea realmente fácil generar recibos falsos presenta grandes oportunidades de fraude. No sería difícil imaginar que este tipo de tecnología sea utilizada por los malos actores para obtener “reembolsos” por gastos completamente falsos.
La portavoz de Operai, Taya Christianson, le dijo a TechCrunch que todas sus imágenes incluyen metadatos que indican que ChatGPT las hicieron. Christianson agregó que Operai “toma medidas” cuando los usuarios violan sus políticas de uso y que está “siempre aprendiendo” del uso y comentarios del mundo real.
TechCrunch preguntó por qué ChatGPT permite a las personas generar recibos falsos en primer lugar, y si esto está en línea con las políticas de uso de OpenAI (que prohíbe el fraude).
Christianson respondió que el “objetivo de OpenAI es dar a los usuarios la mayor cantidad de libertad creativa posible” y que los recibos falsos de IA podrían usarse en situaciones sin fraude como “enseñar a las personas sobre la educación financiera” junto con la creación de anuncios originales de arte y productos.
