Na Áustria, a OpenAI foi recentemente alvo de uma reclamação formal relativa a questões de privacidade. O grupo de advocacia NOYB acusa a empresa de tecnologia de não corrigir informações incorretas divulgadas pelo seu chatbot de inteligência artigicial generativa, o ChatGPT, contrariando as normas de privacidade da União Europeia.
Como o ChatGPT errou as informações
Segundo o NOYB, o caso da reclamação contra a OpenAI envolve uma figura pública que, ao questionar o ChatGPT sobre seu próprio aniversário, recebeu dados equivocados repetidamente. A OpenAI, ao ser solicitada a corrigir ou eliminar os dados, alegou que não era possível fazer as correções e também não forneceu detalhes sobre o processamento desses dados.
Demandas e preocupações legais
“Está claro que as empresas atualmente não conseguem fazer com que chatbots como o ChatGPT cumpram a legislação da União Europeia, ao processar dados sobre indivíduos”, disse Maartje de Graaf, advogado de proteção de dados da NOYB, segundo a Reuters. A queixa submetida às autoridades de proteção de dados austríacas solicita uma investigação sobre o processamento de dados pela OpenAI e as medidas adotadas para assegurar a precisão dos dados processados. “Se um sistema não consegue produzir resultados precisos e transparentes, não pode ser usado para gerar dados sobre indivíduos. A tecnologia tem que seguir os requisitos legais, e não o contrário”, acrescentou de Graaf.
Desafios tecnológicos e repercussões legais
A OpenAI reconheceu anteriormente que o ChatGPT pode gerar “respostas plausíveis, porém incorretas ou sem sentido”, destacando a dificuldade em corrigir esse problema.
Processos sobre a OpenAI
OpenAI e Microsoft foram processadas em março por violação de direitos autorais. Desta vez, três sites de notícias, The Intercept, Raw Story e AlterNet, alegam que o ChatGPT reproduz conteúdos protegidos, omitindo informações críticas, como o nome do autor. Este incidente destaca uma questão recorrente com as gigantes da tecnologia e seu uso de material protegido.
