Mistral libera Shieldstral, un clasificador de seguridad de 3B que sigue políticas escritas en lenguaje natural
Mistral AI publicó Shieldstral, un modelo de moderación de solo 3B de parámetros que evalúa texto e imágenes contra políticas definidas en el propio prompt, con un desempeño comparable a clasificadores siete veces más grandes.
Mistral AI liberó el 4 de agosto Shieldstral 1.0, un clasificador de seguridad multimodal de 3 mil millones de parámetros bajo pesos abiertos y licencia Apache 2.0. A diferencia de sus productos de moderación anteriores, que eran APIs alojadas con taxonomías fijas, Shieldstral recibe la política de moderación como parte del propio input: quien lo opera escribe una pregunta de sí o no junto con una instrucción que describe el contexto y el nivel de exigencia deseado, y el modelo devuelve una puntuación de seguridad calibrada a partir de un solo token.
El modelo está construido sobre la base Ministral-3-3B de Mistral con un codificador de visión Pixtral, y fue entrenado con 54.1 millones de pares contrastivos en 12 idiomas. En pruebas, alcanzó 99.4% en HarmBench y 97.7% en VLGuard corriendo en una sola GPU de 16GB, un desempeño que, según Mistral, iguala a clasificadores hasta siete veces más grandes.
La compañía presentó el lanzamiento como parte de su participación en la Open Secure AI Alliance, una coalición que incluye a NVIDIA y otras organizaciones enfocadas en herramientas abiertas de seguridad para IA, y lo posiciona como una alternativa para que los desarrolladores definan políticas de moderación propias y las ejecuten en su propia infraestructura, sin depender de un servicio alojado por terceros.