Los equipos de seguridad ya no dependen solo de firmas y reglas fijas para detectar un ataque. Cada vez más SOC (centros de operaciones de seguridad) usan modelos de aprendizaje automático que analizan el tráfico de red, los registros de acceso y el comportamiento de los usuarios en tiempo real, y marcan como sospechoso cualquier patrón que se salga de
OpenAI ha despedido a dos investigadores, Leopold Aschenbrenner y Pavel Izmailov, acusados de filtrar información confidencial fuera de la compañía, según adelantó The Information. Ninguno de los dos ha hecho declaraciones públicas sobre los motivos exactos del despido. Quiénes son los investigadores despedidos Aschenbrenner formaba parte del equipo de superalineamiento de OpenAI, el grupo encargado de investigar cómo controlar sistemas
Cerca del 20% de los menores españoles accedió a herramientas de OpenAI en 2023, según el informe «Nacer en la era digital: La generación de la IA» de Qustodio. La cifra pone números a un problema que crece al mismo ritmo que la IA generativa, y es que cada vez cuesta más distinguir un vídeo real de un deepfake bien
El debate sobre si la IA debe ser de código abierto o cerrado tiene en 2023 algunos de los nombres más importantes del sector en bandos opuestos. Yoshua Bengio y Geoffrey Hinton, ambos ganadores del Premio Turing, han pedido más regulación y cautela en el desarrollo de los sistemas más avanzados. Frente a ellos, Andrew Ng, Yann LeCun y Jeremy
OpenAI publicó en agosto de 2023 la documentación oficial de GPTBot, su rastreador web. El bot recopila texto de páginas públicas para alimentar el entrenamiento de modelos como GPT-3.5 y GPT-4. Los administradores de sitios que no quieran que su contenido entre en ese ciclo tienen una vía sencilla: el archivo robots.txt. Qué es GPTBot y qué recopila GPTBot se
ChatGPT, el asistente de texto de OpenAI basado en el modelo GPT-3.5 (y GPT-4 para usuarios de pago), tiene un problema conocido y documentado: genera información que suena verosímil pero que es falsa. Los expertos llaman a este fenómeno «alucinaciones» o «confabulación», y afecta a cualquier modelo de lenguaje grande (LLM, del inglés Large Language Model). El problema cobró más
Los modelos de lenguaje grandes (LLM) de OpenAI, Google, Anthropic, Meta y otras compañías se entrenan, en parte, con contenido extraído de la web pública. Desde 2023, cada una ha desplegado rastreadores propios con agentes de usuario específicos. Si no quieres que tu contenido acabe en el próximo ciclo de entrenamiento, puedes bloquearlo: la mecánica es la misma de siempre,
El caso Samsung: cómo tres empleados filtraron código propietario En abril de 2023, Samsung descubrió por las malas lo que ocurre cuando una empresa deja usar ChatGPT libremente entre su plantilla. Tres empleados introdujeron código fuente propietario en el chat de OpenAI: uno para depurar errores de software, otro para resumir notas de una reunión interna y un tercero para
Sophos publicó en marzo de 2023 un estudio que demuestra cómo GPT-3, el modelo de lenguaje grande (LLM) detrás de ChatGPT, puede ayudar a los equipos de seguridad a filtrar actividad maliciosa, clasificar spam y analizar comandos ejecutados por binarios LOLBin (binarios del sistema usados para fines maliciosos, del inglés living off the land binaries). El trabajo, titulado «La aplicación
El lanzamiento de GPT-4 en marzo de 2023 reactivó un viejo debate en los equipos de seguridad: ¿pasa a ser ChatGPT una herramienta seria para los atacantes? El modelo de OpenAI, más rápido y con respuestas mucho más cuidadas que la versión anterior, despertó tanto entusiasmo como recelo. La industria del cibercrimen se subió enseguida al carro y empezó a
