La proliferación de profundos de profundidad aterradoras es uno de los subproductos más perniciosos del surgimiento de la IA, y ser víctima de estafas basadas en estos profundos ya está costando a las empresas millones de dólares, sin mencionar las implicaciones que podrían tener en la seguridad nacional. Una startup que ha creado un conjunto de herramientas dirigido a gobiernos y empresas para ayudar a detectar y detener los defectos y suplantaciones en audio, video e imágenes fijas está anunciando algunos fondos el miércoles con algunos clientes e inversores impresionantes en TOW.
GetReal, cofundado por el Dr. Hany Farid, uno de los pioneros en la detección de Deepfake Media, ha recaudado $ 17.5 millones en capital, financiamiento que utilizará para I + D, contratación y desarrollo comercial.
Junto con la financiación, la compañía está lanzando su plataforma forense como un servicio, que incluye una interfaz web, una API e integraciones para ejecutar el análisis de medios como servicio. Las características incluyen un tablero de exposición de amenazas; una herramienta de “inspeccionar” específicamente dirigida a salvaguardar a los ejecutivos de alto perfil de ser falsificados; una herramienta de “proteger” para detectar medios; y “responder”, que involucra a equipos humanos en GetReal realizando un análisis más profundo.
Forgepoint Capital, un especialista en ciberseguridad y IA, lidera esta Serie A con Ventures Ballísticas, Evolution Equity y K2 Access Fund Participating.
Ballistic es una empresa clave en esa lista. GetReal se incubó en el VC desde 2022 hasta que surgió del sigilo en junio de 2024. Ballistic también llevó a la semilla de $ 7 millones de Getreal, una ronda que, según Pitchbook, también incluyó Venrock, Artisanal, Qudit y Silver Buckshot.
Ballistic es importante por otra razón: el fundador de la firma, Ted Schlein, es el presidente y el otro cofundador de GetReal. Antes de Ballistic, Schlein encabezó Kleiner Perkins.
Hany como servicio
GetReal se encuentra en el mundo más amplio de la ciberseguridad, específicamente en el área de rápido evolución de los ciber-forenses. La brecha en el mercado que aborda la startup con sede en San Mateo es la escasez de talento y conocimiento en ese espacio.
“Si crees que la ciberseguridad tiene escasez de personas, prepárate para los forenses”, dijo Matt Moynahan, CEO de Getreal.
Moynahan no es un fundador de la startup; Llegó a GetReal mientras todavía estaba en sigilo después de una carrera de tres décadas, liderando una serie de grandes compañías de ciberseguridad como Symantec, Arbor Networks, Veracode y Forcepoint.
“Para ser sincero, no creo que haya visto una amenaza tan omnipresente”, dijo sobre la capacidad de crear y luego aplicar profundos maliciosos.
Describió los virus como una “amenaza novedosa” en comparación. “Lo que hemos visto en los últimos 20 años es la amenaza que se mueve al usuario final”, dijo. Las aplicaciones “divertidas” que permiten a las personas crear defectos profundos son parte del problema, pero también lo es el entorno en el que trabajamos hoy. “La gente ha pasado de ladrillos y mortero a empresas que ahora son casi completamente digitales y en la nube”.
Phishing, continuó, demostró que incluso las personas muy inteligentes pueden ser engañadas fácilmente, y tomar por completo, es una señal complicada y muy mala sobre dónde podrían ir las cosas.
GetReal es una creación de Farid, un académico muy conocido y conocido (actualmente en UC Berkeley) que se considera un pionero en las técnicas para identificar cuándo se han manipulado imágenes digitales. Podría decirse que Farid estaba entendiendo los riesgos de los defensores antes de que el término incluso surgiera.
Como Farid lo explicó a TechCrunch, mientras trabajaba principalmente como académico e investigador, ha estado aplicando sus aprendizajes de manera más o menos informal durante años como un servicio a las organizaciones de medios, equipos legales (después de que las imágenes digitales se volvieron admisibles en la corte) y otros. En 2022, se unió con Schlein para considerar cómo traducirlo en un negocio real, convirtiendo ese proceso de investigación en código.
“Nadie está mirando hacia esto como lo hace Hany”, dijo Moynahan. “Pero Hany no puede escalar. Así que básicamente tomamos a Hany e intentamos crear un ‘servicio de Hany’ en la nube”.
Curiosamente, Farid señala que si bien la tecnología que está desarrollando depende de cómo funcionen las nuevas aplicaciones, hay mucha ingeniería inversa que tiene lugar en GetReal, se combina con décadas de conocimiento que ha cambiado muy poco.
“Hay técnicas que desarrollamos hace 20 años que todavía funcionan hoy”, dijo. Se negó a explicar cuáles son. “No tienes que decirle a la gente todo lo que hacemos, pero es complicado acertar”.
El efecto de la señal: texto aún por venir
La Serie A anunciada hoy también incluye algunos patrocinadores estratégicos clave que incluyen Cisco Investments, Capital One Ventures y In-Q-Tel, la firma de inversión estrechamente vinculada con la CIA.
Esa lista de estrategias refleja los tipos de empresas que están interesadas o ya han comenzado a adoptar el producto de Getreal, dijo Alberto Yépez, cofundador de ForgePoint que dirigió la inversión.
Lo que Yépez dijo que encontró durante la debida diligencia era que las industrias fuertemente reguladas, como las instituciones financieras, ya estaban pidiendo un producto como este y CISOS estaba llegando a un mandato de los Juntas de Directores.
“Subieron el problema [of deep faked impersonations] Después de que sus CEOs fueron puestos en entrevistas de voz ”, explicó: se hicieron pasar por sí mismos y engañado por suplantaciones. Los clientes nombrados incluyen John Deere y Visa.
En cuanto al trabajo del gobierno, Yépez dijo: “También tienen algunas prioridades en el espacio”.
Estas “prioridades” incluyen agencias de inteligencia y funcionarios gubernamentales que se engañan para que la actuación, o no actúe, basada en la información falsa de los malos actores.
Sin embargo, todavía han extendido a las suplantaciones basadas en texto.
Eso es algo que surgió solo esta semana, cuando el editor del Atlántico, agregado por error a un grupo de señales que planea un ataque militar en Yemen, inicialmente asumió que era un engaño de suplantación. Sorprendentemente, ese chat resultó ser muy real y en violación de los procedimientos de seguridad nacional.
Farid dijo que el texto no está actualmente en el alcance de GetReal. “Es una bestia diferente”, dijo. Pero a largo plazo, el plan será ampliar el alcance con el tiempo para incluir todo tipo de amenazas de profunda y suplantación.
