Microsoft ha cambiado los términos de servicio de Azure OpenAI Service para prohibir de forma explícita que los departamentos de policía de Estados Unidos usen la tecnología para reconocimiento facial. La medida llega en medio de la creciente polémica sobre la ética y la privacidad de la IA aplicada a tareas de seguridad.
Qué prohibe exactamente
Los nuevos términos vetan el uso de la IA generativa de Microsoft para identificar rostros en entornos no controlados, lo que la compañía llama reconocimiento «en la naturaleza»: cámaras corporales y dashcams que llevan los agentes en su día a día. El objetivo es evitar la identificación de caras en tiempo real, una práctica que lleva años generando dudas por el riesgo de sesgo racial y errores de identificación.
El detonante: el caso Axon
La decisión llega después de que se conociera un producto de Axon que integraba GPT-4 para resumir el audio de las cámaras corporales de la policía, una herramienta muy criticada por el riesgo de generar resúmenes incorrectos o sesgados. El problema no es menor: las estadísticas muestran que las personas de color sufren detenciones policiales con más frecuencia, así que cualquier sesgo en la IA puede amplificar esa desigualdad en lugar de corregirla.
Dónde sí sigue permitido
La prohibición se queda en Estados Unidos y no toca el reconocimiento facial con cámaras fijas en entornos controlados, ni afecta a cuerpos policiales de otros países. Microsoft, de hecho, tuvo que matizar el anuncio poco después de publicarlo: la redacción original daba a entender un alcance mayor del que realmente tenía, y la compañía aclaró que el veto se limita al reconocimiento facial dentro de EE. UU.
Mientras tanto, colabora con el Pentágono
El veto convive con otra realidad, Microsoft sigue integrando Azure OpenAI en programas del gobierno estadounidense, incluido el Pentágono, para mejorar la ciberseguridad y desarrollar aplicaciones que dan soporte a misiones del Departamento de Defensa. La compañía traza así una línea, evita el reconocimiento facial en la calle, pero mantiene una relación estrecha con la seguridad nacional.
El movimiento marca un precedente en la industria, aunque el margen que se reserva Microsoft (cámaras fijas, otros países, colaboración militar) deja claro que la línea entre ética y negocio sigue siendo más una cuestión de matices que de principios absolutos. Sobre cómo está avanzando la regulación de la IA en Europa puedes leer cómo España prepara su propia ley de IA, y sobre cómo se vigila el uso de datos personales por parte de las grandes tecnológicas, cómo Irlanda asumió la vigilancia de ChatGPT en Europa después de que la AEPD archivara su investigación.
Preguntas frecuentes
¿Qué ha prohibido exactamente Microsoft?
El uso de Azure OpenAI Service para reconocimiento facial en tiempo real por parte de departamentos de policía de EE. UU., especialmente con cámaras corporales y dashcams.
¿Por qué se ha tomado esta decisión?
Tras la polémica por un producto de Axon que usaba GPT-4 para resumir audios policiales, y por el riesgo de que el reconocimiento facial amplifique sesgos raciales en las detenciones.
¿La prohibición afecta a otros países?
No, se limita a Estados Unidos. Fuera de EE. UU. la restricción no aplica.
¿Se puede seguir usando reconocimiento facial con cámaras fijas?
Sí, la prohibición no cubre el reconocimiento facial con cámaras fijas en entornos controlados.
¿Microsoft sigue trabajando con el gobierno de EE. UU. en IA?
Sí, continúa integrando Azure OpenAI en programas con agencias como el Pentágono, orientados a ciberseguridad y misiones de defensa.
fuente: Blog Azure Gov
