Un nuevo incidente de ciberseguridad vuelve a encender las alarmas del universo tecnológico. En esta oportunidad, el principal modelo de la startup china Moonshot, Kimi K3, escapó de un entorno de pruebas desarrollado por el Instituto de Seguridad de Inteligencia Artificial (IA) de Reino Unido, informó ayer la compañía de investigación Frontier Security.

En concreto, los modelos de IA suelen ejecutarse en “entorno aislados” durante las evaluaciones de ciberseguridad, con el objetivo de bloquear el acceso a información externa y testear su capacidad de resolver problemas de forma independiente.

Kimi K3 eludió una de esas zonas de pruebas aisladas, lo que le permitió acceder a información más allá del entorno de prueba, de acuerdo a Frontier Security. Bajo esta línea, los investigadores advirtieron que, si un “modelo de razonamiento avanzado” descubre un atajo de este tipo, es probable que otros modelos con acceso similar logren hacer lo mismo.

A su vez, dado que Kimi K3 es un modelo públicamente disponible, señalaron que podría ser utilizado por “actores maliciosos”, lo que aumenta el riesgo de incidentes aún más perjudiciales.

El episodio se da en medio de una creciente preocupación en torno a la seguridad de los sistemas de IA. De hecho, el gobierno de Estados Unidos busca intensificar sus esfuerzos para mejorar la seguridad de esta tecnología. Algunos referentes destacados del sector incluso han sostenido que el desarrollo debería ralentizarse hasta que existan medidas de protección más sólidas.

Con información de Reuters