En un movimiento significativo dentro del ámbito tecnológico y legal, Microsoft ha actualizado los términos de servicio de Azure OpenAI Service para prohibir explícitamente el uso de esta tecnología para el reconocimiento facial por parte de los departamentos de policía en los Estados Unidos. Esta decisión responde a crecientes preocupaciones sobre la ética y la privacidad en el uso de la inteligencia artificial en aplicaciones de seguridad y aplicación de la ley.
Una Política de Privacidad Reforzada
La actualización de los términos de servicio especifica que está prohibido el uso de la inteligencia artificial generativa de Microsoft para el reconocimiento facial en entornos incontrolados o «en la naturaleza», como lo son las cámaras corporales y dashcams usadas comúnmente por la policía. Esta prohibición busca prevenir el uso de la tecnología para identificar rostros en tiempo real, una práctica que ha generado amplias preocupaciones sobre la privacidad y el sesgo potencial en la aplicación de la ley.
Contexto de la Decisión
Esta nueva política llega tras controversias recientes, como la revelación de un producto de Axon que integraba el modelo generativo GPT-4 para resumir audios de cámaras corporales, lo cual fue criticado por los riesgos de generar datos incorrectos o sesgados. Especialmente, estos sesgos podrían amplificar las desigualdades raciales, dado que estadísticas indican una mayor frecuencia de detenciones a personas de color.
Limitaciones y Alcance
La prohibición de Microsoft se circunscribe exclusivamente a los Estados Unidos y no afecta el uso de la tecnología de reconocimiento facial con cámaras fijas en entornos controlados, ni se extiende a las fuerzas del orden fuera de los EE. UU. Esto sugiere que la compañía aún permite el uso de esta tecnología bajo condiciones más reguladas y supervisadas.
Colaboraciones en Seguridad Nacional
Paralelamente, Microsoft continúa integrando los servicios de Azure OpenAI en programas que colaboran con agencias del gobierno de EE. UU., como el Pentágono, para mejorar las capacidades en ciberseguridad y desarrollar aplicaciones que soporten misiones del Departamento de Defensa. Estos esfuerzos reflejan una relación simbiótica entre el desarrollo tecnológico y las necesidades de seguridad nacional.
Clarificaciones Posterior al Anuncio
Después de la publicación inicial de los términos actualizados, Microsoft aclaró que había un error en la redacción original y que la prohibición aplicaba únicamente al reconocimiento facial dentro de los Estados Unidos. Esta aclaración subraya la importancia de entender el alcance exacto y las limitaciones de las políticas en cuanto al uso de tecnologías emergentes.
La decisión de Microsoft de restringir el uso de sus tecnologías de IA en prácticas de reconocimiento facial por parte de la policía marca un precedente importante en la industria tecnológica, poniendo de manifiesto el equilibrio necesario entre innovación y ética en el uso de nuevas tecnologías.
fuente: Blog Azure Gov
