Incidente de Seguridad en OpenAI Un ciberataque comprometió los sistemas de mensajería interna de OpenAI a principios del año pasado, exponiendo detalles sobre sus tecnologías. Aunque los sistemas clave de IA no fueron afectados, el incidente levantó importantes preocupaciones de seguridad dentro de la empresa. El New York Times informó que, aunque los datos de clientes y socios no fueron
El phishing, una técnica de ingeniería social utilizada por ciberdelincuentes para engañar a las personas y obtener información confidencial, está evolucionando gracias a la Inteligencia Artificial (IA). Tradicionalmente, el phishing se realiza a través de correos electrónicos que aparentan ser enviados por entidades confiables como bancos o empresas. Sin embargo, con el creciente uso de servicios online y la sofisticación
Un insider de OpenAI ha advertido sobre un alarmante 70% de probabilidad de que la inteligencia artificial (IA) cause daños catastróficos a la humanidad, criticando la obsesión de la compañía con la inteligencia artificial general (AGI). Preocupaciones internas sobre los riesgos de la IA Daniel Kokotajlo, ex investigador de gobernanza en OpenAI, junto con otros empleados actuales y anteriores, ha
Microsoft ha anunciado modificaciones en su nueva función de inteligencia artificial Recall tras preocupaciones de seguridad, la cual ahora estará desactivada por defecto y contará con nuevas protecciones de cifrado antes de su lanzamiento previsto para el 18 de junio. La función Copilot + Recall fue presentada en el evento Microsoft Build en mayo, donde se destacó que operará localmente
Hugging Face, la reconocida startup de inteligencia artificial con un vasto repositorio de aplicaciones de IA creadas y compartidas por su comunidad, ha detectado un acceso sospechoso y no autorizado a Spaces, su plataforma destinada a la creación, compartición y alojamiento de modelos y recursos de IA. Acceso a datos sensibles Los hackers lograron acceder a los ‘secretos’ de autenticación
A partir del próximo 26 de junio, Meta, la empresa matriz de Facebook, WhatsApp e Instagram, comenzará a utilizar todos los datos de los usuarios presentes en sus plataformas para entrenar su inteligencia artificial. Esta decisión ha desatado un aluvión de críticas y preocupaciones entre los usuarios, quienes ven en esta medida una invasión a su privacidad. La Controversia: ¿Qué
El Instituto de Seguridad en Inteligencia Artificial del Reino Unido (AISI) ha revelado que cinco de los modelos de lenguaje más populares, utilizados para impulsar chatbots de IA como ChatGPT de OpenAI, Gemini de Google y Claude de Anthropic, son altamente vulnerables a técnicas básicas de evasión de salvaguardias, conocidas como «jailbreaking». Importancia de la Seguridad en IA: Estos hallazgos
Un estudio reciente ha puesto sobre la mesa algo incómodo para la medicina: GPT-4, el modelo de OpenAI, iguala o incluso supera a oftalmólogos especialistas a la hora de evaluar problemas oculares y proponer tratamiento. No es un experimento de laboratorio aislado, sino una comparación directa contra profesionales con años de práctica clínica. El modelo no solo identificó patologías oculares
Amazon, Google, Meta, Microsoft y OpenAI se han comprometido con un conjunto de principios llamado «Seguridad por Diseño», una iniciativa impulsada por Thorn (organización especializada en protección infantil) y All Tech is Human (entidad centrada en la ética de la IA). El objetivo es frenar la explotación infantil generada o amplificada con herramientas de inteligencia artificial. Qué incluyen los principios
TikTok está probando en su versión de Android una función que clona la voz de cualquier usuario con solo 10 segundos de grabación. La descubrió el analista AssembleDebug rastreando el código de las últimas actualizaciones de la app, y de momento sigue en fase beta dentro de una sección llamada Biblioteca de voz de TikTok. El funcionamiento es sencillo: TikTok
