Seguridad

Insider de OpenAI estima un 70% de probabilidad de que la IA destruya o perjudique catastróficamente a la humanidad

Un insider de OpenAI ha advertido sobre un alarmante 70% de probabilidad de que la inteligencia artificial (IA) cause daños catastróficos a la humanidad, criticando la obsesión de la compañía con la inteligencia artificial general (AGI). Preocupaciones internas sobre los riesgos de la IA Daniel Kokotajlo, ex investigador de gobernanza en OpenAI, junto con otros empleados actuales y anteriores, ha

Microsoft realiza cambios de seguridad en la función de IA Recall

Microsoft ha anunciado modificaciones en su nueva función de inteligencia artificial Recall tras preocupaciones de seguridad, la cual ahora estará desactivada por defecto y contará con nuevas protecciones de cifrado antes de su lanzamiento previsto para el 18 de junio. La función Copilot + Recall fue presentada en el evento Microsoft Build en mayo, donde se destacó que operará localmente

Hackers vulneran la seguridad de Hugging Face, accediendo a datos sensibles

Hugging Face, la reconocida startup de inteligencia artificial con un vasto repositorio de aplicaciones de IA creadas y compartidas por su comunidad, ha detectado un acceso sospechoso y no autorizado a Spaces, su plataforma destinada a la creación, compartición y alojamiento de modelos y recursos de IA. Acceso a datos sensibles Los hackers lograron acceder a los ‘secretos’ de autenticación

Meta «robará» los datos de sus usuarios para entrenar su IA, la polémica está servida

A partir del próximo 26 de junio, Meta, la empresa matriz de Facebook, WhatsApp e Instagram, comenzará a utilizar todos los datos de los usuarios presentes en sus plataformas para entrenar su inteligencia artificial. Esta decisión ha desatado un aluvión de críticas y preocupaciones entre los usuarios, quienes ven en esta medida una invasión a su privacidad. La Controversia: ¿Qué

Modelos IA expuestos: Vulnerabilidad en chatbots populares

El Instituto de Seguridad en Inteligencia Artificial del Reino Unido (AISI) ha revelado que cinco de los modelos de lenguaje más populares, utilizados para impulsar chatbots de IA como ChatGPT de OpenAI, Gemini de Google y Claude de Anthropic, son altamente vulnerables a técnicas básicas de evasión de salvaguardias, conocidas como «jailbreaking». Importancia de la Seguridad en IA: Estos hallazgos

Inteligencia artificial en medicina: ¿Diagnósticos automáticos sin supervisión humana?

La controversia sobre el uso de la inteligencia artificial en la medicina ha cobrado nuevo impulso. Un reciente estudio ha puesto sobre la mesa la capacidad del modelo GPT-4 de OpenAI para igualar o incluso superar a médicos especialistas en la evaluación de problemas oculares y la propuesta de tratamientos adecuados. Este hallazgo representa un avance significativo en el campo

Líderes tecnológicos se unen por la seguridad infantil

Los Gigantes de la tecnología como Amazon, Google, Meta, Microsoft, y OpenAI han dado un paso adelante en la lucha contra la explotación infantil. Comprometiéndose con un conjunto de principios denominados «Seguridad por Diseño», estos titanes de la inteligencia artificial (IA) se están posicionando en la vanguardia de un esfuerzo global para proteger a los más vulnerables. A continuación, analizamos

TikTok desarrolla una herramienta para clonar tu voz con Inteligencia Artificial

En un nuevo avance tecnológico que mezcla innovación con preocupación, TikTok ha introducido una herramienta que permite a los usuarios clonar su propia voz utilizando inteligencia artificial. Esta función, aún en fase beta para la versión de Android, fue descubierta por el analista AssembleDebug, quien exploró las recientes actualizaciones de código de la popular red social. La función, denominada ‘Clonar

La importancia de la Inteligencia Artificial en la ciberseguridad

En un mundo cada vez más interconectado y digitalizado, la ciberseguridad se ha convertido en una preocupación primordial para individuos, organizaciones y gobiernos por igual. A medida que las amenazas cibernéticas evolucionan y se vuelven más sofisticadas, se hace evidente la necesidad de soluciones innovadoras y efectivas para proteger nuestros activos digitales. Es aquí donde la Inteligencia Artificial (IA) emerge

OpenAI despide a dos investigadores por una filtración de información

OpenAI, la reconocida organización de investigación en inteligencia artificial, ha despedido a dos de sus investigadores, Leopold Aschenbrenner y Pavel Izmailov, tras ser acusados de filtrar información confidencial fuera de la compañía, según un informe reciente de The Information. Detalles del Incidente Leopold Aschenbrenner, quien formaba parte del equipo de «superalineamiento» de OpenAI y era considerado un aliado del científico

Últimos artículos

Comienza a escribir y presiona Intro para buscar

Scroll al inicio