A OpenAI revisou, nesta quarta-feira (12), as diretrizes sobre como seus modelos generativos devem lidar com assuntos delicados. No documento OpenAI Model Spec, a empresa definiu posturas, princípios e comportamentos que suas inteligências artificiais devem adotar ao abordar temas sensíveis, eticamente complexos ou destinados a adultos.
O novo artigo substitui o antigo Model Spec, publicado em 8 de maio de 2024. Inicialmente, a documentação tinha apenas 10 páginas, mas agora conta com 63, detalhando padrões e diretrizes sobre princípios como customização, transparência e “liberdade intelectual”.
De forma geral, a OpenAI busca três objetivos principais: maximizar a liberdade dos modelos e sua capacidade de ajudar usuários; reduzir a chance de gerar danos de qualquer tipo; e estabelecer padrões claros para lidar com temas sensíveis. Além disso, o Model Spec define níveis hierárquicos para a personalização dos modelos — sendo a OpenAI, sob liderança de Sam Altman, quem detém a maior autoridade sobre essas decisões.
Até então, a estratégia da OpenAI para lidar com assuntos delicados era evitá-los completamente. No entanto, o novo documento permite que os modelos participem de debates éticos ou moralmente controversos, desde que não assumam lados específicos — exceto em situações em que uma das alternativas implique danos a outras pessoas.
As diretrizes revisadas também regulam a forma como os modelos interagem com conteúdos protegidos por direitos autorais. O documento, por exemplo, proíbe o uso da IA para ultrapassar paywalls — o que pode ajudar a evitar processos judiciais como os do New York Times.
Conteúdo adulto ainda é proibido
Quanto à geração de conteúdo adulto, a OpenAI continua proibitiva, mas avalia tornar os modelos mais permissivos. “Estamos explorando como permitir que desenvolvedores e usuários gerem conteúdo erótico ou grotesco em contextos apropriados para a idade, seja por meio de APIs ou do ChatGPT, desde que as políticas internas sejam atendidas”, explica a empresa.
Embora o novo Model Spec não cause mudanças imediatas no comportamento dos modelos da OpenAI, ele representa o direcionamento que a empresa pretende seguir ao longo do tempo.
OpenAI e Google vão em direções contrárias
A revisão das diretrizes ocorre semanas após o Google reformular suas políticas para IA, tornando-as mais subjetivas e generalistas — o que, segundo críticos, pode abrir caminho para o uso bélico da tecnologia. No caso da OpenAI, as novas regras são mais específicas, contextualizadas e pragmáticas, especialmente no que diz respeito aos impactos na saúde e no bem-estar humano.
