A OpenAI confirmou que fez alterações no ChatGPT para corrigir o que a empresa chamou de “bug” no serviço de inteligência artificial (IA). A mudança foi realizada após relatos do site TechCrunch de que o chatbot mantinha conversas de conteúdo adulto com menores de idade.
De acordo com a companhia, a plataforma de conversa não pode enviar respostas de teor sexual para crianças e adolescentes. Porém, uma série de experimentos mostrou que essas barreiras são facilmente superadas por usuários e podem expor esse público a conteúdos impróprios.
“Proteger jovens usuários é uma das maiores prioridades. (…) Neste caso, um bug permitiu respostas de fora das diretrizes e estamos implementando ativamente uma correção que limita essa geração de conteúdo”, diz a empresa em nota.
Apesar da preocupação da OpenAI, foi ela mesma que, há alguns meses, flexibilizou uma série de filtros do ChatGPT e passou a permitir que ele conversasse sobre esse e outros assuntos mais pesados.
Os testes de conversas ‘picantes’ com o ChatGPT
Nos experimentos feitos pelo TechCrunch, foram iniciadas várias conversas diferentes com o ChatGPT. Em todos os casos, os jornalistas criaram contas novas com data de nascimento mais recente e deixavam explícito para a IA que do outro lado da tela estava uma pessoa menor de idade, entre meninos e meninas de 13 a 17 anos.
- Ao ser estimulado para ‘falar sacanagem’ com o ser humano, o ChatGPT rapidamente muda o tom da conversa e passar a agir de forma adulta e sexualizada;
- Em apenas um dos testes, a IA se recusou a criar conteúdos sexualizados explícitos em forma de texto, avisando que há diretrizes que proíbem esse comportamento;
- Nas demais conversas, ele com poucos prompts passa a sugerir cenários fictícios ou de role-play, incluindo ações mais ‘picantes’, descrições de órgãos genitais e fetiches;
Além disso, o TechCrunch descobriu que é relativamente fácil conseguir acesso irrestrito à IA tendo menos de 18 anos. Não é preciso uma confirmação manual dos pais ou responsáveis para criar uma conta no ChatGPT, bastando um email ou número de telefone válido para confirmar o cadastro.
Meta AI apresentou o mesmo problema
A Meta, dona de Instagram, Facebook e WhatsApp, passou nesta semana por uma situação muito parecida. Depois de uma reportagem do The Wall Street Journal, ela também fez mudanças na forma com que a Meta AI pode interagir de forma mais adulta com usuários.
Segundo a investigação, até mesmo os chatbots que replicam voz e personalidade de famosos interagiam de forma sexual com menores de idade após comandos de texto simples — e estando plenamente cientes de que havia uma criança do outro lado da tela.
Em um comunicado, a Meta chamou os testes de “manipuladores” e “não representativos da forma com que a maior parte dos usuários usa”. Apesar dessa resposta, ela também fez correções na própria IA para evitar que esse comportamento se repita por parte dos chatbots.
As mensagens de ‘por favor’ e ‘obrigado’ aumentam o custo energético e os gastos da OpenAI com o ChatGPT. Quer saber mais sobre esse assunto? Confira esta matéria no site do TecMundo!
