A inteligência artificial, embora avançada, não está imune a falhas. A tecnologia, incluindo a IA, pode ser explorada por cibercriminosos, levando grandes empresas como o Google a tomar medidas preventivas. Em uma tentativa de fortalecer sua segurança, o Google anunciou a expansão do Programa de Recompensas de Vulnerabilidade para incluir a IA.
O programa, que já pagou mais de US$ 12 milhões em recompensas em 2022, agora oferece incentivos financeiros para ‘hackers éticos’ que identificam e relatam falhas na IA. Essas vulnerabilidades, se exploradas de maneira maliciosa, podem resultar em ataques prejudiciais, incluindo a modificação do comportamento do modelo de linguagem para produzir conteúdos ofensivos ou vazar informações pessoais.
A extensão do programa foi uma resposta direta à descoberta de pontos de baixa segurança na tecnologia pela equipe interna de hackers do Google. Esses pontos poderiam permitir a inserção de comandos maliciosos, comprometendo a integridade da IA. Além disso, existe o risco de replicação do treinamento da IA para extrair dados sensíveis, como senhas e informações bancárias.
Para incentivar a comunidade de segurança cibernética, o Google está oferecendo recompensas generosas, variando de US$ 5 mil a US$ 31 mil, dependendo da gravidade da falha descoberta. Essa iniciativa visa criar um ambiente mais seguro para o desenvolvimento e uso da inteligência artificial, protegendo-a contra exploração indevida e garantindo a integridade das plataformas tecnológicas.”
