Escondido en la presentación de la oferta pública inicial de Rubrik esta semana, entre las partes sobre el recuento de empleados y las declaraciones de costos, había una pepita que revela cómo la empresa de gestión de datos está pensando en la IA generativa y los riesgos que acompañan a la nueva tecnología: Rubrik ha creado silenciosamente un comité de gobernanza. para supervisar cómo se implementa la inteligencia artificial en su negocio.
Según el Formulario S-1, el nuevo comité de gobierno de IA incluye gerentes de los equipos de ingeniería, productos, legal y seguridad de la información de Rubrik. Juntos, los equipos evaluarán los posibles riesgos legales, de seguridad y comerciales del uso de herramientas de inteligencia artificial generativa y reflexionarán sobre “las medidas que se pueden tomar para mitigar dichos riesgos”, se lee en el documento.
Para ser claros, Rubrik no es esencialmente un negocio de inteligencia artificial: su único producto de inteligencia artificial, un chatbot llamado Ruby que lanzó en noviembre de 2023, se basa en las API de Microsoft y OpenAI. Pero como muchos otros, Rubrik (y sus inversores actuales y futuros) están considerando un futuro en el que la IA desempeñará un papel cada vez mayor en su negocio. He aquí por qué tener gobernanza de IA podría convertirse en la nueva normalidad.
Creciente escrutinio regulatorio
Algunas empresas están adoptando las mejores prácticas de IA para tomar la iniciativa, pero otras se verán obligadas a hacerlo por regulaciones como la Ley de IA de la UE.
Apodada “la primera ley integral de IA del mundo”, la legislación histórica (que se espera se convierta en ley en todo el bloque a finales de este año) prohíbe algunos casos de uso de IA que se considera que conllevan un “riesgo inaceptable” y define otras aplicaciones de “alto riesgo”. El proyecto de ley también establece reglas de gobernanza destinadas a reducir los riesgos que podrían provocar daños como el prejuicio y la discriminación. Es probable que este enfoque de calificación de riesgos sea ampliamente adoptado por empresas que buscan una manera razonada de adoptar la IA.
El abogado de privacidad y protección de datos Eduardo Ustaran, socio de Hogan Lovells International LLP, espera que la Ley de IA de la UE y sus innumerables obligaciones amplifiquen la necesidad de una gobernanza de la IA, que a su vez requerirá comités. “Aparte de su función estratégica de diseñar y supervisar un programa de gobernanza de la IA, desde una perspectiva operativa, los comités de gobernanza de la IA son una herramienta clave para abordar y minimizar los riesgos”, dijo. “Esto se debe a que, en conjunto, un comité debidamente establecido y con los recursos necesarios debería poder anticipar todas las áreas de riesgo y trabajar con la empresa para abordarlas antes de que se materialicen. En cierto sentido, un comité de gobernanza de IA servirá como base para todos los demás esfuerzos de gobernanza y brindará la tranquilidad que tanto se necesita para evitar brechas de cumplimiento”.
En un documento de política reciente sobre las implicaciones de la Ley de IA de la UE para el gobierno corporativo, la consultora de ESG y cumplimiento Katharina Miller estuvo de acuerdo y recomendó que las empresas establezcan comités de gobierno de IA como medida de cumplimiento.
Escrutinio legal
El cumplimiento no sólo pretende complacer a los reguladores. La Ley de IA de la UE tiene fuerza y “las sanciones por incumplimiento de la Ley de IA son significativas”, señaló el bufete de abogados británico-estadounidense Norton Rose Fulbright.
Su alcance también va más allá de Europa. “Las empresas que operan fuera del territorio de la UE pueden estar sujetas a las disposiciones de la Ley de IA si llevan a cabo actividades relacionadas con la IA que impliquen a usuarios o datos de la UE”, advirtió el despacho de abogados. Si se parece en algo al GDPR, la legislación tendrá un impacto internacional, especialmente en medio de una mayor cooperación entre la UE y los EE. UU. en IA.
Las herramientas de IA pueden causar a una empresa problemas más allá de la legislación sobre IA. Rubrik se negó a compartir comentarios con TechCrunch, probablemente debido a su período de silencio en la oferta pública inicial, pero la presentación de la compañía menciona que su comité de gobernanza de IA evalúa una amplia gama de riesgos.
Los criterios de selección y el análisis incluyen la consideración de cómo el uso de herramientas de IA generativa podría plantear problemas relacionados con la información confidencial, los datos personales y la privacidad, los datos del cliente y las obligaciones contractuales, el software de código abierto, los derechos de autor y otros derechos de propiedad intelectual, la transparencia, la precisión y confiabilidad de los resultados. , y seguridad.
Tenga en cuenta que el deseo de Rubrik de cubrir las bases legales podría deberse a otras razones. Por ejemplo, también podría estar allí para demostrar que está anticipando problemas de manera responsable, lo cual es fundamental ya que Rubrik se ha ocupado anteriormente no solo de una filtración y piratería de datos, sino también de litigios de propiedad intelectual.
Una cuestión de óptica
No hace falta decir que las empresas no mirarán la IA únicamente a través del lente de la prevención de riesgos. Habrá oportunidades que no querrán perder, y sus clientes tampoco. Ésa es una de las razones por las que se están implementando herramientas de IA generativa a pesar de tener defectos obvios como la “alucinación” (es decir, una tendencia a fabricar información).
Será un delicado equilibrio para las empresas. Por un lado, alardear de su uso de la IA podría aumentar sus valoraciones, sin importar cuán real sea dicho uso o qué diferencia suponga para sus resultados. Por otro lado, tendrán que tranquilizarse respecto de los riesgos potenciales.
“Estamos en este punto clave de la evolución de la IA en el que el futuro de la IA depende en gran medida de si el público confiará en los sistemas de IA y en las empresas que los utilizan”, escribió en un comunicado el asesor de privacidad del proveedor de software de privacidad y seguridad OneTrust, Adomas Siudika. publicación de blog sobre el tema.
Establecer comités de gobernanza de la IA probablemente sea al menos una forma de intentar ayudar en el frente de la confianza.
