La Declaración de Bletchley: un compromiso global por la seguridad de la IA

El pasado 1 y 2 de noviembre de 2023, en el histórico enclave de Bletchley Park, conocido por ser el sitio donde se descifraron los códigos de la máquina Enigma durante la Segunda Guerra Mundial, se reunieron representantes de naciones de todo el mundo para abordar un desafío moderno de proporciones igualmente críticas: la seguridad en la inteligencia artificial (IA). El resultado fue la Declaración de Bletchley, un documento político que establece un marco internacional para el desarrollo seguro y responsable de la IA.

En una era donde la IA se entreteje cada vez más en los aspectos fundamentales de la vida cotidiana, los países asistentes al Cumbre de Seguridad de la IA reconocieron tanto el inmenso potencial de estas tecnologías como los riesgos significativos que conllevan. La declaración refleja un compromiso unánime para promover una IA centrada en el ser humano, confiable y responsable. Asimismo, se enfatiza la necesidad de que la IA sea diseñada, desarrollada y utilizada de manera segura para el bienestar, la paz y la prosperidad humana.

Los países firmantes se han mostrado agradecidos por los esfuerzos internacionales realizados hasta el momento para fomentar un crecimiento económico inclusivo, la innovación y la protección de los derechos humanos mediante la cooperación en materia de IA. La declaración pone de manifiesto que la IA ya desempeña un papel crucial en sectores como la vivienda, el empleo, el transporte, la educación, la salud, la accesibilidad y la justicia, y su influencia sólo se espera que crezca.

Los líderes reunidos han subrayado que este es un momento único para actuar y afirmar la necesidad de un desarrollo seguro de la IA. Se destacó el poder de la IA para ser una fuerza del bien, promoviendo la inclusividad a nivel nacional y global, y su potencial para mejorar servicios públicos, la seguridad alimentaria, la ciencia, la energía limpia, la biodiversidad, el clima y para la realización de los derechos humanos y el fortalecimiento de los esfuerzos hacia el logro de los Objetivos de Desarrollo Sostenible de las Naciones Unidas.

No obstante, los riesgos que presenta la IA en estos mismos ámbitos no pueden ser ignorados. Los países participantes en la cumbre han acogido con beneplácito los esfuerzos internacionales relevantes para examinar y abordar el impacto potencial de los sistemas de IA, reconociendo la necesidad de proteger los derechos humanos, la transparencia, la explicabilidad, la equidad, la responsabilidad, la regulación, la seguridad, la supervisión humana adecuada, la ética, la mitigación de sesgos, la privacidad y la protección de datos.

Los riesgos de seguridad particularmente preocupantes se presentan en la frontera de la IA, es decir, aquellos modelos de IA generales altamente capaces que podrían realizar una amplia variedad de tareas y que podrían igualar o superar las capacidades de los modelos más avanzados de hoy. Los representantes han expresado su preocupación por los riesgos sustanciales que podrían surgir tanto del mal uso intencionado como de los problemas de control no intencionados relacionados con la alineación con la intención humana. Estos desafíos surgen en parte porque dichas capacidades no se comprenden completamente y, por lo tanto, son difíciles de predecir. Los dominios como la ciberseguridad y la biotecnología, así como donde los sistemas de IA fronterizos pueden amplificar riesgos como la desinformación, fueron particularmente señalados.

El carácter inherentemente internacional de muchos riesgos asociados con la IA significa que deben ser abordados a través de la cooperación internacional. Los países se comprometen a trabajar juntos para garantizar una IA centrada en el humano, confiable y responsable que sea segura y apoye el bien de todos. Esto incluye la consideración de un enfoque de gobernanza y regulación proporcional y favorable a la innovación que maximice los beneficios de la IA teniendo en cuenta los riesgos asociados.

Todos los actores tienen un papel que desempeñar en asegurar la seguridad de la IA: naciones, foros internacionales y otras iniciativas, empresas, la sociedad civil y la academia deberán trabajar en conjunto. En la búsqueda de una IA inclusiva y el cierre de la brecha digital, se reafirma que la colaboración internacional debe esforzarse por involucrar a una amplia gama de socios y acoger enfoques y políticas orientados al desarrollo que podrían ayudar a los países en desarrollo a fortalecer la capacidad de construcción de IA y aprovechar el papel habilitador de la IA para apoyar el crecimiento sostenible y abordar la brecha de desarrollo.

Finalmente, la Declaración de Bletchley subraya que la seguridad debe considerarse en todo el ciclo de vida de la IA y que los actores que desarrollan capacidades de IA fronterizas, en particular aquellos sistemas de IA que son inusualmente poderosos y potencialmente dañinos, tienen una responsabilidad particularmente fuerte para garantizar la seguridad de estos sistemas de IA.

Los países asistentes, que abarcan desde Australia hasta Estados Unidos, han acordado reunirse nuevamente en 2024 para seguir construyendo sobre los fundamentos establecidos en esta primera cumbre histórica. La Declaración de Bletchley es un hito en el camino hacia un futuro donde la IA pueda alcanzar su potencial transformador positivo de manera segura y responsable.

Últimos artículos

Scroll al inicio