El Instituto de Seguridad en Inteligencia Artificial del Reino Unido (AISI) ha revelado que cinco de los modelos de lenguaje más populares, utilizados para impulsar chatbots de IA como ChatGPT de OpenAI, Gemini de Google y Claude de Anthropic, son altamente vulnerables a técnicas básicas de evasión de salvaguardias, conocidas como «jailbreaking». Importancia de la Seguridad en IA: Estos hallazgos
La controversia sobre el uso de la inteligencia artificial en la medicina ha cobrado nuevo impulso. Un reciente estudio ha puesto sobre la mesa la capacidad del modelo GPT-4 de OpenAI para igualar o incluso superar a médicos especialistas en la evaluación de problemas oculares y la propuesta de tratamientos adecuados. Este hallazgo representa un avance significativo en el campo
Los Gigantes de la tecnología como Amazon, Google, Meta, Microsoft, y OpenAI han dado un paso adelante en la lucha contra la explotación infantil. Comprometiéndose con un conjunto de principios denominados «Seguridad por Diseño», estos titanes de la inteligencia artificial (IA) se están posicionando en la vanguardia de un esfuerzo global para proteger a los más vulnerables. A continuación, analizamos
En un nuevo avance tecnológico que mezcla innovación con preocupación, TikTok ha introducido una herramienta que permite a los usuarios clonar su propia voz utilizando inteligencia artificial. Esta función, aún en fase beta para la versión de Android, fue descubierta por el analista AssembleDebug, quien exploró las recientes actualizaciones de código de la popular red social. La función, denominada ‘Clonar
En un mundo cada vez más interconectado y digitalizado, la ciberseguridad se ha convertido en una preocupación primordial para individuos, organizaciones y gobiernos por igual. A medida que las amenazas cibernéticas evolucionan y se vuelven más sofisticadas, se hace evidente la necesidad de soluciones innovadoras y efectivas para proteger nuestros activos digitales. Es aquí donde la Inteligencia Artificial (IA) emerge
OpenAI, la reconocida organización de investigación en inteligencia artificial, ha despedido a dos de sus investigadores, Leopold Aschenbrenner y Pavel Izmailov, tras ser acusados de filtrar información confidencial fuera de la compañía, según un informe reciente de The Information. Detalles del Incidente Leopold Aschenbrenner, quien formaba parte del equipo de «superalineamiento» de OpenAI y era considerado un aliado del científico
En la era de la información digital, la inteligencia artificial (IA) ha traído consigo avances significativos y, con ellos, nuevos desafíos éticos y de seguridad, especialmente para los más jóvenes. Según el último informe de Qustodio, «Nacer en la era digital: La generación de la IA», cerca del 20% de los menores accedieron a OpenAI en 2023, evidenciando la creciente
En el epicentro de la vanguardia tecnológica, la inteligencia artificial (IA) se erige como el foco de un debate que polariza a gigantes del pensamiento computacional. Figuras de la talla de Yoshua Bengio y Geoffrey Hinton, laureados con el Premio Turing, han alzado su voz junto a otros expertos, abogando por una inversión responsable en la seguridad de la IA.
OpenAI, la empresa líder en el campo de la inteligencia artificial, ha revelado al mundo su nuevo bot de rastreo: GPTBot. Diseñado para escudriñar la web y recolectar datos frescos, este bot alimentará modelos ya conocidos como GPT-3.5 y GPT-4, bases del famoso ChatGPT, así como futuros modelos. Aunque GPTBot está diseñado para evitar conscientemente las páginas con muros de
ChatGPT ha demostrado ser una herramienta increíblemente útil en el ámbito de la inteligencia artificial. Sin embargo, los usuarios han descubierto recientemente un problema preocupante: la generación de información falsa, inventada y desinformadora. Este problema se ha convertido en una preocupación real, ya que incluso ChatGPT parece incapaz de distinguir la verdad de la ficción de manera confiable. El problema
