Framework OpenAI é usado para criar malware que não é detectado por softwares

[puto 22]

Framework OpenAI é usado para criar malware que não é detectado por softwares antivírus






Framework OpenAI usado na criação de malware

De acordo com Anderson, o framework OpenAI foi adaptado pela Endgame para trabalhar na criação de um malware que as soluções de segurança disponíveis hoje não conseguem detectar.

O OpenAI foi criado pela fundação com o mesmo nome. Esta fundação, que é focada em inteligência artificial e aprendizado de máquina, tem Elon Musk como um de seus fundadores. Musk é conhecido também por seu trabalho com a Tesla e com a SpaceX.

Hyrum Anderson disse que a chave para conseguir criar o malware indetectável utilizado seu sistema baseado no framework OpenAI é utilizar código legítimo e alterar o mínimo possível para que o código possa ser usado em ataques. Em alguns casos, a alteração de certos detalhes já é suficiente para enganar alguns softwares, como o Google e outros demonstraram com a alteração de alguns pixels em uma imagem que fez com que um ônibus fosse confundido com um avestruz.

Segundo Anderson, “todos os modelos de aprendizado de máquina possuem pontos cegos”. Dependendo do conhecimento do hacker, explorar estes pontos cegos não é uma tarefa impossível.

Por causa disso, a equipe da Endgame criou um mecanismo relativamente simples que realiza pequenas alterações em softwares legítimos que são então verificados por soluções de segurança. Com base nas verificações, a equipe fez os ajustes necessários que possibilitaram a criação de malwares indetectáveis.

Com 15 horas de treinamento, a solução criada com base no framework OpenAI executou mais de 100.000 amostras de código que foram analisadas por uma solução de segurança não divulgada. Deste total de amostras, boa parte (60%) foi capaz de enganar a solução de segurança.

A solução desenvolvida pela Endgame será disponibilizada no GitHub.




Créditos: baboo