AI nos está obligando a nosotros en casi todas las facetas de la vida, desde teléfonos y aplicaciones hasta motores de búsqueda e incluso drive-throughs, por alguna razón. El hecho de que ahora recibamos navegadores web con asistentes de IA horneados y chatbots muestra que la forma en que algunas personas usan Internet para buscar y consumir información hoy es muy diferente de hace unos años.
Pero las herramientas de IA son cada vez más pidiendo niveles brutos de acceso a sus datos personales bajo la apariencia de necesitar que funcione. Este tipo de acceso no es normal, ni debe normalizarse.
No hace mucho tiempo, tendría razón al cuestionar por qué una aplicación gratuita de “linterna” o “calculadora” de aspecto inocuo en la tienda de aplicaciones intentaría solicitar acceso a sus contactos, fotos e incluso sus datos de ubicación en tiempo real. Es posible que estas aplicaciones no necesiten esos datos para funcionar, pero lo solicitarán si creen que pueden ganar un dinero o dos al monetizar sus datos.
En estos días, la IA no es tan diferente.
Tome el último navegador web con AI de Perplexity, Comet, como ejemplo. Comet permite a los usuarios encontrar respuestas con su motor de búsqueda de IA incorporado y automatizar tareas de rutina, como resumir correos electrónicos y eventos calendario.
En una práctica reciente con el navegador, TechCrunch descubrió que cuando la perplejidad solicita acceso al calendario de Google de un usuario, el navegador solicita una amplia franja de permisos a la cuenta de Google del usuario, incluida la capacidad de administrar borradores y enviar correos electrónicos, descargar sus contactos, ver y editar eventos en todos sus calendarios, e incluso la capacidad de tomar una copia de su compañía en todo el directorio de empleados de su compañía.
Perplexity dice que gran parte de estos datos se almacenan localmente en su dispositivo, pero aún está otorgando los derechos de la empresa para acceder y usar su información personal, incluso para mejorar sus modelos de IA para todos los demás.
La perplejidad no está sola para pedir acceso a sus datos. Hay una tendencia de aplicaciones de IA que prometen ahorrarle tiempo transcribiendo sus llamadas o reuniones de trabajo, por ejemplo, pero que requieren un asistente de IA para acceder a sus conversaciones privadas en tiempo real, sus calendarios, contactos y más. Meta, también ha estado probando los límites de lo que sus aplicaciones AI pueden pedir acceso, incluidas las fotos almacenadas en el rollo de cámara de un usuario que aún no se ha subido.
El presidente de Signal, Meredith Whittaker, comparó recientemente el uso de agentes y asistentes de IA para “poner su cerebro en un frasco”. Whittaker explicó cómo algunos productos de IA pueden prometer hacer todo tipo de tareas mundanas, como reservar una mesa en un restaurante o reservar un boleto para un concierto. Pero para hacer eso, AI dirá que necesita su permiso para abrir su navegador para cargar el sitio web (lo que puede permitir que el acceso de IA a sus contraseñas almacenadas, marcadores y su historial de navegación), una tarjeta de crédito para hacer la reserva, su calendario marque la fecha, y también puede pedir abrir sus contactos para que pueda compartir la reserva con un amigo.
Existen graves riesgos de seguridad y privacidad asociados con el uso de asistentes de IA que dependen de sus datos. Al permitir el acceso, está entregando instantáneamente e irreversiblemente los derechos a una instantánea completa de su información más personal a partir de ese momento, desde su bandeja de entrada, mensajes y entradas de calendario que datan de años atrás, y más. Todo esto en aras de realizar una tarea que aparentemente le ahorra tiempo, o, al punto de Whittaker, le ahorra tener que pensar activamente.
También está otorgando al agente de IA permiso para actuar de manera autónoma en su nombre, lo que requiere que confíe en una enorme cantidad de confianza en una tecnología que ya es propensa a equivocar las cosas o inventar las cosas. El uso de AI además requiere que confíe en las empresas que buscan ganancias que desarrollen estos productos de IA, que dependen de sus datos para tratar de mejorar sus modelos de IA. Cuando las cosas salen mal (y lo hacen, mucho), es una práctica común para los humanos de las compañías de IA revisar sus indicaciones privadas para descubrir por qué las cosas no funcionaban.
Desde un punto de vista de seguridad y privacidad, un análisis simple de costo-beneficio de conectar la IA con sus datos más personales no vale la pena renunciar al acceso a su información más privada. Cualquier aplicación de IA que solicite estos niveles de permisos debe enviar sus campanas de alarma, al igual que la aplicación de linterna que desea conocer su ubicación en cualquier momento.
Dadas las resmas de datos que entrega a las compañías de IA, pregúntese si lo que obtiene realmente vale la pena.
