Funcionarios gubernamentales y ejecutivos de la industria de la inteligencia artificial acordaron el martes aplicar medidas de seguridad elementales en este campo en rápida evolución y establecer una red internacional de investigación de seguridad.
Casi seis meses después de la cumbre mundial inaugural sobre seguridad de la IA en Bletchley Park en Inglaterra, Gran Bretaña y Corea del Sur serán los anfitriones de la cumbre de seguridad de la IA esta semana en Seúl. La reunión subraya los nuevos desafíos y oportunidades que enfrenta el mundo con la llegada de la tecnología de inteligencia artificial.
El gobierno británico anunció el martes un nuevo acuerdo entre 10 países y la Unión Europea para establecer una red internacional similar al Instituto de Seguridad de IA del Reino Unido, que es la primera organización del mundo con respaldo público, para acelerar el avance de la ciencia de seguridad de la IA. La red promoverá una comprensión común de la seguridad de la IA y alineará su trabajo con la investigación, los estándares y las pruebas. Australia, Canadá, la UE, Francia, Alemania, Italia, Japón, Singapur, Corea del Sur, el Reino Unido y Estados Unidos han firmado el acuerdo.
En el primer día de la Cumbre de IA en Seúl, los líderes mundiales y las principales empresas de IA se reunieron en una reunión virtual presidida por el primer ministro del Reino Unido, Rishi Sunak, y el presidente de Corea del Sur, Yoon Suk Yeol, para discutir la seguridad, la innovación y la inclusión de la IA.
Durante las discusiones, los líderes acordaron la Declaración de Seúl más amplia, enfatizando una mayor colaboración internacional en la construcción de IA para abordar los principales problemas globales, defender los derechos humanos y cerrar las brechas digitales en todo el mundo, al mismo tiempo que priorizan estar “centrados en lo humano, ser confiables y responsables”. “
“La IA es una tecnología tremendamente interesante, y el Reino Unido ha liderado los esfuerzos globales para aprovechar su potencial, organizando la primera Cumbre de Seguridad de la IA el año pasado”, dijo Sunak en una declaración del gobierno del Reino Unido. “Pero para obtener beneficios, debemos garantizar que sea seguro. Por eso estoy encantado de que hoy hayamos llegado a un acuerdo para una red de institutos de seguridad de IA”.
El mes pasado, el Reino Unido y los EE. UU. sellaron un memorando de entendimiento para colaborar en la investigación, la evaluación de la seguridad y la orientación sobre la seguridad de la IA.
El acuerdo anunciado hoy sigue a los primeros compromisos de seguridad de IA del mundo de 16 empresas involucradas en IA, incluidas Amazon, Anthropic, Cohere, Google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, Open AI, Samsung Electronics, Technology Innovation Institute, xAi. y Zhipu.ai. (Zhipu.ai es una empresa china respaldada por Alibaba, Ant y Tencent).
Las empresas de IA, incluidas las de EE. UU., China y los Emiratos Árabes Unidos (EAU), han aceptado los compromisos de seguridad de “no desarrollar ni implementar ningún modelo o sistema si las mitigaciones no pueden mantener los riesgos por debajo de los umbrales”, según a la declaración del gobierno del Reino Unido.
“Es una primicia mundial que tantas empresas líderes en IA de tantas partes diferentes del mundo acuerden los mismos compromisos en materia de seguridad de la IA”, dijo Sunak. “Estos compromisos garantizan que las principales empresas de IA del mundo proporcionen transparencia y responsabilidad en sus planes para desarrollar una IA segura”.
