En un esfuerzo por clarificar y actualizar las normas que rigen el uso de sus productos y servicios, la empresa de inteligencia artificial Anthropic ha anunciado una serie de cambios significativos en su política de uso, que entrarán en vigor el 6 de junio de 2024. Estos cambios buscan proteger a los usuarios y garantizar un uso responsable de las tecnologías de la compañía.
La política, anteriormente conocida como Política de Uso Aceptable, ahora se denomina Política de Uso. La revisión responde a la necesidad de adaptarse a un entorno legal y regulatorio en constante evolución, así como a las capacidades avanzadas de los modelos de Anthropic para detectar y prevenir el mal uso potencial.
Entre las actualizaciones más notables se encuentra la simplificación de las directrices. La política antigua se dividía en «Usos Prohibidos» y «Casos de Negocio Prohibidos»; ahora, estas secciones se han consolidado en un único conjunto de normas denominado «Estándares de Uso Universales».
En cuanto a la integridad electoral y la desinformación, Anthropic ha reforzado sus políticas para prohibir explícitamente el uso de sus productos en campañas políticas, incluyendo la promoción o defensa de candidatos o partidos específicos, así como la solicitación de votos o contribuciones financieras. Además, se ha prohibido el uso de sus productos para interferir en el proceso electoral, como manipular máquinas de votación o obstruir el conteo y certificación de votos. Se ha añadido un lenguaje más preciso para prohibir las campañas que difunden información falsa o engañosa sobre las leyes electorales, los candidatos y otros temas relacionados.
Con respecto a los casos de uso de alto riesgo, como las decisiones que afectan la salud y la orientación legal que requieren experiencia especializada, Anthropic ha introducido medidas de seguridad adicionales que las organizaciones deben seguir al usar sus productos en estas áreas.
Además, la empresa ha hecho cambios para permitir que las organizaciones integren su API en productos destinados a menores de edad, como soporte de tutoría o preparación de exámenes, siempre que implementen características de seguridad específicas y divulguen el uso de sistemas de IA.
Otro cambio significativo es la expansión de los países cuyas autoridades de aplicación de la ley pueden utilizar los productos de Anthropic para un conjunto específico de casos de uso, como soporte en centros de llamadas y resumen de documentos.
En términos de protecciones de privacidad, Anthropic ha clarificado que sus productos no pueden ser utilizados para recopilar información biográfica para inferir características como la raza o las creencias religiosas. También se ha añadido una prohibición explícita contra el uso de sus modelos para desarrollar sistemas de reconocimiento o técnicas que infieran las emociones de las personas para casos como interrogatorios.
Estas actualizaciones reflejan el compromiso de Anthropic por mantener un equilibrio entre la innovación en IA y la responsabilidad ética y social, asegurando que sus herramientas potencien los beneficios sin comprometer los derechos y la seguridad de los individuos y la sociedad en general.
vía: Política de USO
