Anthropic Mythos: Potente y Peligroso

Anthropic desvela Mythos AI en iniciativa de seguridad

En tiempos donde la seguridad cibernética es primordial, Anthropic ha lanzado una vista previa de su modelo de inteligencia artificial más avanzado, conocido como Claude Mythos Preview. Este modelo se distingue por su habilidad para identificar debilidades dentro del software, posicionándose como una herramienta esencial en el campo de la ciberdefensa. A través del Proyecto Glasswing, un grupo selecto de compañías podrá utilizar este nuevo modelo para mejorar la seguridad de su infraestructura crítica.

El lanzamiento controlado de Mythos AI responde a las preocupaciones de que actores malintencionados podrían utilizar sus capacidades para ataques cibernéticos. Empresas destacadas como Microsoft, Apple, Google, y Amazon están entre las seleccionadas para implementar y probar el modelo, lo que refuerza la defensa cibernética dentro de estas entidades. A través de esta iniciativa, Anthropic busca proporcionar una ventaja estratégica a las empresas que enfrentan desafíos crecientes en ciberseguridad.

Según Dianne Penn, jefa de gestión de producto en Anthropic, la participación de estas organizaciones es crucial para dar el primer paso hacia un mundo más seguro en términos de tecnología. Además, el uso inicial de este modelo podría demostrar cómo futuras versiones podrían ser implementadas a mayor escala sin riesgos significativos.

Aunque no fue entrenada específicamente para la ciberseguridad, sino para ser experta escribiendo código, como efecto secundario se convirtió en una herramienta demoledora para encontrar agujeros de seguridad graves. Ante esto, Anthropic ha tomado una decisión sin precedentes en la industria: no lanzar esta IA al mercado por el enorme peligro que representaría en manos equivocadas.

Sistemas operativos y programas vulnerados por la IA

A continuación, tres ejemplos críticos donde Mythos encontró vulnerabilidades que llevaban años ocultas y que permitirían robar datos o tomar el control total de los sistemas:

• OpenBSD: Considerado uno de los sistemas operativos más seguros del mundo y utilizado para firewalls, servidores bancarios e infraestructura crítica. Mythos encontró un fallo que llevaba 27 años oculto, el cual permitía tumbar un servidor simplemente conectándose a él y enviándole un par de paquetes de datos.

• FFmpeg: Un software vital que utilizan miles de aplicaciones para crear y procesar archivos de vídeo. La IA descubrió un error de 16 años de antigüedad en una línea de código que herramientas automáticas previas habían analizado 5.000 millones de veces sin llegar a verlo.

• Kernel de Linux: El sistema operativo base que mueve la gran mayoría de servidores mundiales (incluyendo infraestructura para Netflix, bancos y nubes empresariales). Mythos no solo encontró un fallo, sino que descubrió varios y los encadenó de forma autónoma para montar un ataque que le permitía escalar privilegios y pasar de un usuario base a tener control total con nivel de administrador.

Preguntas y respuestas sobre Mythos AI

¿Qué capacidades tiene Mythos AI?

Claude Mythos Preview es excepcional para detectar fallos de seguridad desconocidos en software, algunos existentes desde hace décadas, logrando una detección más precisa que sus predecesores gracias a mejoras en sus habilidades de codificación y razonamiento.

¿Qué es el Proyecto Glasswing?

Es una iniciativa que reúne a más de 40 compañías para utilizar el modelo Mythos con fines de seguridad defensiva, explorando sus capacidades para asegurar tanto sistemas de software de código abierto como propietario.

¿Por qué se limita su disponibilidad?

Para evitar que el modelo sea explotado por individuos malintencionados, Anthropic mantiene el acceso restringido al modelo Mythos, garantizando que solo socios confiables puedan utilizarlo inicialmente.

¿Qué papel juegan las discusiones con el gobierno en este contexto?

Anthropic está en diálogo con agencias gubernamentales como la Agencia de Seguridad de Infraestructura y Ciberseguridad para asegurar que el despliegue de Mythos AI se realice de manera responsable, considerando su potencial impacto en la seguridad nacional.