Vulnerabilidades nas Inteligências Artificiais: Um Alerta Necessário
Burlando a segurança das Inteligências Artificiais
Um estudo recente realizado pela Universidade de Sheffield, na Inglaterra, revelou que muitos programas de inteligência artificial (IA) continuam vulneráveis a ataques maliciosos, mesmo após passarem por testes rigorosos.
A pesquisa demonstrou como é possível explorar falhas em sistemas de IA, como o ChatGPT da OpenAI, para criar códigos maliciosos com o objetivo de roubar informações, adulterar bancos de dados e derrubar serviços online.
Programas de IA comprometidos
O estudo identificou que seis plataformas de IA foram manipuladas com sucesso pelos pesquisadores. São elas:
- ChatGPT;
- BAIDU-UNIT (plataforma chinesa de bate-papo inteligente usada em setores comerciais);
- AI2SQL;
- AIHELPERBOT;
- Text2SQL;
- ToolSKE.
Os especialistas conseguiram explorar vulnerabilidades nessas plataformas ao fazerem perguntas específicas, obtendo como resposta códigos maliciosos que poderiam ser aplicados para causar danos significativos.
Exemplos de comprometimento
No caso do BAIDU-UNIT, a plataforma forneceu informações confidenciais sobre seu próprio servidor, o que poderia levar à queda do sistema.
Já o ChatGPT apresentou riscos maiores quando utilizado para interagir com linguagens de programação ou bancos de dados.
Um exemplo citado no estudo é o de um enfermeiro solicitando um código para interagir com o banco de dados de pacientes de um hospital.
Dependendo das perguntas feitas, a resposta do ChatGPT poderia desconfigurar completamente o banco de dados ou causar consequências mais graves.
Além disso, os pesquisadores descobriram que os códigos gerados pelas IAs podem ser utilizados para realizar ataques de backdoor, que exploram vulnerabilidades em sistemas para controlá-los remotamente.
Conscientização e soluções
O estudo tem como objetivo conscientizar os usuários e desenvolvedores de modelos de linguagem sobre os riscos associados a essas vulnerabilidades.
Ao expor as falhas encontradas, espera-se que medidas sejam tomadas para corrigi-las e evitar possíveis problemas no futuro.
