UFERSA Cyber - Investigando a segurança da informação na era da Inteligência Artificial: ameaças, vulnerabilidades, ferramentas e agentes de IA.

Descrição

O projeto UFERSA Cyber investiga a interseção entre cibersegurança e inteligência artificial. Há duas vertentes a serem analisadas. Na primeira, o desenvolvimento de agentes de Inteligência Artificial (IA) para otimizar operações de Red Team (ataque) e Blue Team (defesa), bem como , bem como vulnerabilidades já conhecidas na literatura da área de cibersegurança como SQLi, XSS, malwares, ransomware, CSRF, etc. Na segunda linha de análise, realiza a investigação de novas vulnerabilidades surgidas com o uso de assistentes de IA e Large Language Models (LLMs), como por exemplo, injeção de prompt e vazamento de dados.