(FOLHAPRESS) – Em resposta a pedidos para o lançamento de um “modo adulto” do ChatGPT, a OpenAI afrouxou, neste mês, as regras contra pornografia e conteúdos violentos explícitos (que se enquadram na categoria “gore”, geralmente associada a sangramentos), que antes eram proibidos de forma taxativa.
No caso dos pedidos para a perceptibilidade sintético (IA) gerar textos, áudios ou vídeos de sexo ou violência, o padrão analisará o contexto antes de responder ou recusar-se a fazê-lo. A OpenAI diz que as referências sexuais seriam unicamente sugeridas, mas pessoas já publicaram nas redes sociais interações recentes com o chatbot descrevendo cenas de sexo, nomeando partes íntimas e usando expressões de conotação sexual.
O ChatGPT afirma que dará esse tipo de resposta em cenários porquê material de ficção, jornalismo, ciência e medicina. Ou seja, quando o usuário explicar esse contexto, o ChatGPT ativará o chamado “modo adulto” e poderá fornecer respostas “eróticas ou violentas”.
O aproximação à plataforma de perceptibilidade sintético generativa é liberado para maiores de 13 anos.
Entidades de direitos humanos alertam que o uso da tecnologia pode facilitar a divulgação de materiais de pedofilia e outras práticas abusivas, porquê a divulgação de vídeos íntimos de ex-cônjuges (revenge porn, em inglês).
De tratado com cláusula publicado no site acadêmico The Conversation, havia, em abril de 2024, mais de 50 sites gratuitos oferecendo teor de sexo explícito feito com IA. Reportagem da Folha de S.Paulo mostrou que segmento desses sites não informa quais dados foram usados para treinar a perceptibilidade sintético na produção desse teor pornográfico, o que incorre no risco de substanciar padrões sobre a prática sexual.
A geração de conteúdos sexuais envolvendo menores de idade continua proibida definitivamente no ChatGPT.
A OpenAI diz que alterou as especificações do padrão para fomentar a “liberdade intelectual” dos usuários, segundo o transmitido no qual as novas orientações à IA foram divulgadas. O chatbot deve “assumir que o usuário tem as melhores intenções” e “evitar verberar assuntos que podem obscurecer certas perspectivas da vida pública”, diz o documento.
A flexibilização das normas, ainda segundo o informe, seria provável graças ao progressão no controle da utensílio. “Estamos trabalhando para expandir os contextos de uso da utensílio”, diz a OpenAI.
A liberalização do ChatGPT está na agenda do CEO da OpenAI, Sam Altman, desde o ano pretérito. Em publicação na rede social Reddit, no último mês de maio, ele escreveu que a empresa planejava trabalhar com “teor NSFW”, {sigla} em inglês para materiais que devem ser vistos em ambientes privados, ou seja, que não deveriam ser abertos no trabalho.
O repto, segundo Altman, era manter um estabilidade entre o uso pessoal do material explícito e o veto à geração de pornografia infantil e deepfakes (clones feitos com IA, que com frequência colocam as vítimas em situações sexuais ou constrangedoras). Essas proibições permanecem.
“Isso não significa que queremos gerar pornografia com IA”, disse uma superintendente da OpenAI em entrevista à rádio pública americana NPR. Ainda assim, ela acrescentou que as definições de pornografia são relativas. “Há casos em que a nudez e a sexualidade importam em situações criativas.”
Também no Reddit, usuários afirmam que têm conseguido descrições sexuais e violentas sem dificuldades, contanto que apresentem ou inventem um contexto.
Antes, os usuários tinham que recorrer a truques textuais, conhecidos porquê “jailbreaks”, para fazer o chatbot desrespeitar as regras. A americana que se apaixonou pelo ChatGPT (em caso reportado pelo New York Times), por exemplo, alertava outras usuárias para não exagerarem na intimidade com o chatbot, por culpa do risco de ter a conta banida.
A mudança na OpenAI vem depois outros modelos de IA, com moderação mais branda, ganharem projeção, porquê foi o caso do Grok, de Elon Musk, que inundou as redes sociais com deepfakes satíricas. A plataforma de Musk também é mais incisiva em análises políticas.
Sob as novas regras, o ChatGPT também ganhou mais liberdade para fazer análises políticas. Ele, por exemplo, escreve peças publicitárias em resguardo de um político, desde que elas não sejam direcionadas a públicos específicos.
A modificação na política também flexibilizou as restrições do chatbot na menção a dados pessoais. O ChatGPT passou a mencionar informações disponíveis na internet (porquê foto, documento de identificação, dados de saúde e informações financeiras) desde que considere que se trata de pessoa pública e de oferecido sabido.
Leia Também: Asteroide 2024 YR4: NASA alerta para maior risco de colisão com a Terra
