En la era de la información digital, la inteligencia artificial (IA) ha traído consigo avances significativos y, con ellos, nuevos desafíos éticos y de seguridad, especialmente para los más jóvenes. Según el último informe de Qustodio, «Nacer en la era digital: La generación de la IA», cerca del 20% de los menores accedieron a OpenAI en 2023, evidenciando la creciente
El debate sobre si la IA debe ser de código abierto o cerrado tiene en 2023 algunos de los nombres más importantes del sector en bandos opuestos. Yoshua Bengio y Geoffrey Hinton, ambos ganadores del Premio Turing, han pedido más regulación y cautela en el desarrollo de los sistemas más avanzados. Frente a ellos, Andrew Ng, Yann LeCun y Jeremy
OpenAI publicó en agosto de 2023 la documentación oficial de GPTBot, su rastreador web. El bot recopila texto de páginas públicas para alimentar el entrenamiento de modelos como GPT-3.5 y GPT-4. Los administradores de sitios que no quieran que su contenido entre en ese ciclo tienen una vía sencilla: el archivo robots.txt. Qué es GPTBot y qué recopila GPTBot se
ChatGPT, el asistente de texto de OpenAI basado en el modelo GPT-3.5 (y GPT-4 para usuarios de pago), tiene un problema conocido y documentado: genera información que suena verosímil pero que es falsa. Los expertos llaman a este fenómeno «alucinaciones» o «confabulación», y afecta a cualquier modelo de lenguaje grande (LLM, del inglés Large Language Model). El problema cobró más
Los modelos de lenguaje grandes (LLM) de OpenAI, Google, Anthropic, Meta y otras compañías se entrenan, en parte, con contenido extraído de la web pública. Desde 2023, cada una ha desplegado rastreadores propios con agentes de usuario específicos. Si no quieres que tu contenido acabe en el próximo ciclo de entrenamiento, puedes bloquearlo: la mecánica es la misma de siempre,
El caso Samsung: cómo tres empleados filtraron código propietario En abril de 2023, Samsung descubrió por las malas lo que ocurre cuando una empresa deja usar ChatGPT libremente entre su plantilla. Tres empleados introdujeron código fuente propietario en el chat de OpenAI: uno para depurar errores de software, otro para resumir notas de una reunión interna y un tercero para
Sophos publicó en marzo de 2023 un estudio que demuestra cómo GPT-3, el modelo de lenguaje grande (LLM) detrás de ChatGPT, puede ayudar a los equipos de seguridad a filtrar actividad maliciosa, clasificar spam y analizar comandos ejecutados por binarios LOLBin (binarios del sistema usados para fines maliciosos, del inglés living off the land binaries). El trabajo, titulado «La aplicación
El lanzamiento de GPT-4 en marzo de 2023 reactivó un viejo debate en los equipos de seguridad: ¿pasa a ser ChatGPT una herramienta seria para los atacantes? El modelo de OpenAI, más rápido y con respuestas mucho más cuidadas que la versión anterior, despertó tanto entusiasmo como recelo. La industria del cibercrimen se subió enseguida al carro y empezó a
Kaspersky ha detectado una campaña de malware que se aprovecha del tirón de ChatGPT para colar un troyano roba-credenciales en los equipos de quien busca el chatbot fuera de la web oficial. Los atacantes montan grupos en redes sociales que imitan a las cuentas de OpenAI, comparten supuestas novedades del producto y enlazan a un cliente de escritorio que, en
El OSINT (Open Source Intelligence o inteligencia de fuentes abiertas) consiste en buscar, cruzar y analizar información pública para construir un perfil de una persona, empresa o evento. ChatGPT, como modelo de lenguaje grande, no descubre datos secretos por arte de magia, pero sí acelera la parte aburrida del trabajo: leer cantidades enormes de texto, ordenar resultados y generar variaciones
