El presidente de Signal, Meredith Whittaker, advirtió el viernes que la IA Agente podría venir con un riesgo para la privacidad del usuario.
Hablando en el escenario en la Conferencia SXSW en Austin, Texas, el defensor de las comunicaciones seguras se refería al uso de agentes de IA como “poner su cerebro en un frasco”, y advirtió que este nuevo paradigma de la informática, donde la IA realiza tareas en nombre de los usuarios, tiene un “problema profundo” con la privacidad y la seguridad.
Whittaker explicó cómo los agentes de IA están siendo comercializados como una forma de agregar valor a su vida al manejar varias tareas en línea para el usuario. Por ejemplo, los agentes de IA podrían asumir tareas como buscar conciertos, reservar entradas, programar el evento en su calendario y enviar mensajes a sus amigos que se reserva.
“Entonces podemos poner nuestro cerebro en un frasco porque la cosa está haciendo eso y no tenemos que tocarlo, ¿verdad?”, Reflexionó Whittaker.
Luego explicó el tipo de acceso que el agente de IA necesitaría realizar estas tareas, incluido el acceso a nuestro navegador web y una forma de impulsarlo, así como el acceso a la información de nuestra tarjeta de crédito para pagar boletos, nuestro calendario y la aplicación de mensajería para enviar el texto a sus amigos.
“Tendría que poder conducir eso [process] En todo nuestro sistema con algo que parece un permiso de raíz, accediendo a cada una de esas bases de datos, probablemente en claro, porque no hay un modelo para hacer eso encriptado “, advirtió Whittaker.
“Y si estamos hablando de un modelo suficientemente poderoso … AI que está impulsando eso, no hay forma de que sucede en el dispositivo”, continuó. “Es casi seguro que se envía a un servidor en la nube donde se está procesando y enviando de regreso. Por lo tanto, existe un profundo problema con la seguridad y la privacidad que inquietan esta exageración en torno a los agentes, y que finalmente amenaza con romper la barrera hematoencefálica entre la capa de aplicación y la capa del sistema operativo al unir todos estos servicios separados [and] Mudding sus datos ”, concluyó Whittaker.
Si una aplicación como una aplicación de mensajería se integrara con los agentes de IA, socavaría la privacidad de sus mensajes, dijo. El agente tiene que acceder a la aplicación para enviar mensajes de texto a sus amigos y también retirar los datos para resumir esos textos.
Sus comentarios siguieron los comentarios que hizo anteriormente durante el panel sobre cómo la industria de la IA se había construido en un modelo de vigilancia con recopilación de datos masivos. Ella dijo que “más grande es mejor paradigma de IA”, lo que significa que cuanto más datos, mejor tenían consecuencias potenciales que no creía que fueran buenas.
Con Agentic AI, Whittaker advirtió que socavaríamos aún más la privacidad y la seguridad en nombre de un “bot genio mágico que se encargará de las exigencias de la vida”, concluyó.
