A OpenAI, desenvolvedora do ChatGPT, está considerando permitir que usuários e desenvolvedores criem “de forma responsável” o que chamou de conteúdo “não seguro para o trabalho” (NSFW) com sua inteligência artificial (IA). Esse conteúdo pode incluir erotismo, violência extrema, insultos e palavrões. A medida, que visa entender as expectativas dos usuários e da sociedade, está delineada em um documento da OpenAI que explora como a empresa desenvolve suas ferramentas.
Joanne Jang, colaboradora da empresa que contribuiu para o documento, afirmou ao site NPR que a OpenAI busca promover um diálogo sobre a criação de textos e imagens eróticos. Ela ressaltou, no entanto, que deepfakes não fazem parte da discussão. “Queremos garantir que as pessoas tenham o máximo de controle, desde que não violem a lei ou os direitos de outras pessoas, mas permitir deepfakes está fora de questão, ponto final,” afirmou Jang. Ela também enfatizou que a empresa não pretende criar conteúdo erótico com IA no momento.
Atualmente, os sistemas da OpenAI bloqueiam a criação de conteúdo explícito. Ao usuário fazer um pedido com conotação sexual, o ChatGPT gera uma resposta negativa como “Não posso criar conteúdo adulto explícito.”
A empresa proíbe “conteúdo sexualmente explícito ou sugestivo” em suas diretrizes para outras empresas que utilizam a tecnologia, com exceções apenas para material científico ou educacional.
O documento de discussão procura abordar temas sexuais e órgãos reprodutivos em contextos científicos ou médicos, fornecendo respostas dentro desses limites, sem classificá-los como “conteúdo erótico”.
No entanto, a proposta enfrenta críticas e preocupações. A Internet Watch Foundation, uma organização que combate o abuso infantil online, alertou sobre pedófilos que usam IA para criar imagens de crianças nuas, utilizando tecnologias disponíveis gratuitamente. Beeban Kidron, ativista da segurança infantil, criticou a OpenAI por considerar a criação de conteúdo erótico com IA.
Além disso, Clare McGlynn, especialista em regulamentação de pornografia, duvida dos compromissos das empresas de tecnologia em produzir conteúdo adulto de forma responsável.
