De fato, estou muito impressionado com as transformações que a Microsoft passou por estes últimos anos! De uma empresa monopolista, encabeçada por CEOs agressivos (Bill Gates) e truculentos (Steve Ballmer), que não mediram forças para combater a todo custo, o Linux e o Software Livre, ela agora se tornou uma inovadora instituição, liderada por um CEO de conduta mais discreta e aberta (Satya Nadella), além de não esconder o seu desejo de colaborar com Software Livre (embora sob os termos do Open Source)…
“Today (3/mai), we are releasing Counterfit, an automation tool for security testing AI systems as an open-source project. Counterfit helps organizations conduct AI security risk assessments to ensure that the algorithms used in their businesses are robust, reliable, and trustworthy.”
— by Microsoft blog.
Desde então, ela tem patrocinado importantes projetos de código-aberto e até mesmo um portal foi criado para divulgá-los: o Microsoft OpenSource! Dentre as ferramentas de disponíveis, mais uma estará presente (embora ainda não esteja listada no portal em questão): o Counterfit! O principal objetivo desta ferramenta será o de auxiliar aos desenvolvedores a testar a segurança dos sistemas de Inteligência Artificial (IA). Disponível no GitHub, a iniciativa foi feita com base em um estudo o qual descobriu-se que a maioria das organizações não possuem ferramentas para lidar com os ataques de adversários, que tem como base o uso de tecnologias de aprendizado de máquina.
Segundo a empresa, a ferramenta em questão nasceu da própria necessidade de realizar auditorias e inspeções, com o objetivo de buscar vulnerabilidades em seus sistemas de Inteligência Artificial e assim, garantir uma maior proteção proativa, de acordo com os princípios designados pela RAISE (Responsible AI Strategy in Engineering). Ela foi projetada para ser flexível, sendo independente do ambiente em uso (núvem, local ou borda), além de oferecer um modelo agnóstico, abstraindo aspectos de seu funcionamento interno, para que os seus desenvolvedores possam se concentrar nas avaliações de segurança e aplicá-la em textos, imagens e outras entradas genéricas.
O mais interessante é fato de que o Counterfit é uma ferramenta de linha de comando, o que torna possível vê-la integrada não só ao PowerShell (Windows), como também oferecer suporte a outros sistemas operacionais, com destaque para o Linux. Caso não saibam, a própria Microsoft mantém uma camada de compatibilidade no Windows para binários compilados para o Linux (WSL) e vê-la rodar nesta plataforma seria perfeitamente viável. Ou ainda, dispor da ferramenta atuando de forma independente em uma distribuição GNU/Linux, voltada para testes de penetração como o Kali Linux ou Parrot OS!
A questão será se a licença do projeto vai permitir… &;-D