Microsoft lanzo una herramienta de código abierto, dirigida para ayudar a que los desarrolladores puedan evaluar la seguridad de los sistemas de Inteligencia Artificial que estén desarrollando.
Esta herramienta ya disponible en GitHub y su nombre es Proyecto Counterfit. La firma Redmond ya ha hecho uso de la aplicación para sus modelos de IA en la empresa.
El proyecto Counterfit incluye una herramienta de línea de comandos y con una capa de automatización genérica para poner a prueba la seguridad de los sistemas de aprendizaje automático. Esto con el fin de que los desarrolladores simulen ciberataques contra los sistemas de la IA.
Counterfit también cuenta con ejemplos de algoritmos de ataque, y con la opción de que los profesionales en seguridad puedan utilizar el motor de scripting cmd2 incorporado, para acoplar Counterfit a otras herramientas ofensivas con el fin de realizar pruebas.
Cualquiera puede adquirir la herramienta y echarla a andar por medio de Azure Shell para ejecutarse en el navegador o en un marco Anaconda Python.
Microsoft explico ¨Nuestra herramienta hace que los algoritmos de ataque publicados sean accesibles para la comunidad de seguridad y ayuda a proporcionar una interfaz extensible para la construcción, gestión y lanzamiento de ataques a los modelos de IA¨
Microsoft desarrolló esta herramienta con la necesidad de poner a prueba sus propios sistemas en busca de vulnerabilidades. El proyecto al principio consistía de scripts de ataque para atacar modelos individuales de IA, y fue desarrollándose hasta convertirse en una herramienta de automatización para poner a prueba múltiples sistemas.
Microsoft afirmó que ha estado colaborando con varios de sus socios, clientes y entidades gubernamentales para poner a prueba Counterfit con modelos de Inteligencia Artificial en sus entornos.
Esta herramienta de Microsoft es sumamente buena para poner a prueba la seguridad en los distintos modelos de IA y así poder detectar las fallas en la seguridad de los modelos que se estén poniendo a prueba y fortalecer la seguridad del sistema.
Aquí te dejamos el enlace para que puedas adquirir Counterfit.
