Os grandes modelos de linguagem (LLMs) como o o1, da OpenAI, representam avan\u00e7os significativos em desempenho, mas ainda est\u00e3o longe de atingir a efici\u00eancia ideal. Pesquisadores da Tencent AI Lab e da Shanghai Jiao Tong University publicaram o primeiro estudo abrangente sobre um problema recorrente nesses modelos que buscam imitar o racioc\u00ednio humano: o overthinking <\/strong>(ou \u201creflex\u00e3o excessiva\u201d, em portugu\u00eas).<\/p>\n O estudo analisa as causas e poss\u00edveis solu\u00e7\u00f5es para o uso excessivo de tokens, consumo elevado de poder computacional e desperd\u00edcio de recursos no processamento de outputs de modelos generativos como o o1 e o DeepSeek R1, seu concorrente chin\u00eas de n\u00edvel similar. Essas intelig\u00eancias artificiais tentam simular o processo cognitivo humano<\/strong> para formular respostas em uma abordagem conhecida como Chain of Thought (CoT, ou \u201cCadeia de pensamentos\u201d em portugu\u00eas). No entanto, esse m\u00e9todo pode consumir at\u00e9 1.953% mais tokens do que IAs menos potentes \u2014 muitas vezes, sem necessidade.<\/p>\n No artigo, os pesquisadores ilustram o fen\u00f4meno com uma pergunta simples: quanto \u00e9 2 + 3? O teste foi aplicado a diversos LLMs populares, como GPT-4o, Gemini Pro e Claude-3.5, e comparado ao QwQ-32B-Preview, um modelo racional da Qwen Team.<\/p>\n Os resultados revelam um contraste marcante:<\/p>\n O modelo racional da Qwen Team elaborou 10 solu\u00e7\u00f5es diferentes, todas chegando \u00e0 mesma conclus\u00e3o: 2 + 3 = 5. Ele conseguiu alcan\u00e7ar o resultado correto na primeira tentativa.<\/p>\n Embora a pergunta seja simples, o QwQ-32B-Preview n\u00e3o consegue diferenci\u00e1-la de inputs mais complexos<\/strong>. Por isso, a IA reflete sobre o problema at\u00e9 concluir que n\u00e3o h\u00e1 outra alternativa poss\u00edvel, mesmo que a primeira solu\u00e7\u00e3o j\u00e1 estivesse correta com apenas 39 tokens.<\/p>\n \u201cNo exemplo da figura, observamos que a rodada inicial de solu\u00e7\u00f5es j\u00e1 apresenta a resposta correta. As solu\u00e7\u00f5es posteriores, que comp\u00f5em a maioria dos tokens gerados, n\u00e3o aumentam a precis\u00e3o<\/strong>\u201d, destaca o estudo.<\/p>\n Ap\u00f3s testes, os pesquisadores identificaram que, em 92% dos cen\u00e1rios, as IAs chegaram \u00e0 resposta correta logo na primeira tentativa. O problema do overthinking foi mais recorrente em quest\u00f5es matem\u00e1ticas mais simples.<\/p>\n As intelig\u00eancias artificiais generativas demandam um poder computacional significativo para se manterem ativas. O aumento da necessidade de processamento impacta diretamente o consumo de energia e o uso de componentes embarcados em data centers. Esse \u00e9 um problema especial para empresas com plataformas centralizadas, como OpenAI, DeepSeek e Google, que precisam expandir continuamente seus servidores para atender \u00e0 crescente demanda dos usu\u00e1rios<\/strong>.<\/p>\n Para o usu\u00e1rio, o maior problema \u00e9 o consumo da janela de contexto<\/strong>. A t\u00e9cnica de cadeia de pensamentos utiliza muito mais tokens do que o normal, e esses tokens contam para a janela de contexto \u2014 o espa\u00e7o onde a pergunta \u00e9 inserida, por exemplo. Embora isso n\u00e3o fa\u00e7a grande diferen\u00e7a para prompts simples, pode impactar significativamente solicita\u00e7\u00f5es mais complexas<\/strong>.<\/p>\n Apesar disso, a implementa\u00e7\u00e3o da t\u00e9cnica de CoT em modelos de linguagem avan\u00e7ados representa um avan\u00e7o crucial. A capacidade desses modelos de documentar sua linha de racioc\u00ednio ao gerar respostas \u00e9 extremamente \u00fatil para o pr\u00f3prio treinamento da IA e o desenvolvimento de modelos destilados<\/strong>, destaca Billy Garcia, pesquisador de intelig\u00eancia artificial e cofundador da Abstrakt Gen-AI, em entrevista ao TecMundo<\/strong>.<\/p>\n \u201cBasicamente, a perda de efici\u00eancia de 1.953% s\u00f3 ocorre quando o modelo \u00e9 escolhido de forma inadequada\u201d, explica Garcia. \u201cNo entanto, ter acesso a essa cadeia de racioc\u00ednio \u00e9 essencial para determinados casos de uso \u2014 principalmente em pesquisas.\u201d<\/p>\n “Portanto, usu\u00e1rios n\u00e3o devem recorrer a modelos avan\u00e7ados para responder perguntas triviais<\/strong>, como \u201cQuanto \u00e9 2 + 3?\u201d, ressalta o especialista.<\/p>\n O artigo explora diferentes estrat\u00e9gias para reduzir a reflex\u00e3o excessiva e tornar o processamento de modelos racionais mais eficiente. As solu\u00e7\u00f5es incluem m\u00e9todos de treinamento otimizados<\/strong>, como o chamado \u201cself-training\u201d, que usam amostras de conjunto de dados gerados pela IA para treinar e aperfei\u00e7oar a pr\u00f3pria IA.<\/p>\n \u201cO self-training acontece atrav\u00e9s de diferentes m\u00e9todos de refinamento e tem o objetivo de tornar o modelo mais eficiente sem sacrificar a precis\u00e3o para tarefas mais complexas\u201d, descreveu Garcia. Basicamente, \u00e9 como preparar o modelo para \u201cpensar menos\u201d<\/strong>.<\/p>\n Entre as abordagens sugeridas est\u00e3o:<\/p>\n No entanto, sozinhas, essas solu\u00e7\u00f5es n\u00e3o eliminam completamente o overthinking<\/strong>. \u201cEmbora respostas amostrais mais curtas melhorem a efici\u00eancia de modelos do tipo o1, eles ainda sofrem com reflex\u00e3o excessiva\u201d, explica o estudo.<\/p>\n Por isso, o artigo prop\u00f5e m\u00e9todos complementares para identificar quando a IA j\u00e1 obteve a resposta correta, como:<\/p>\n Ao combinar essas estrat\u00e9gias, os pesquisadores observaram uma redu\u00e7\u00e3o significativa no consumo de tokens <\/strong>e na demanda computacional, sem comprometer a capacidade cognitiva da IA racional em rela\u00e7\u00e3o aos LLMs tradicionais.<\/p>\n![\"07133541562492](\"https:\/\/tm.ibxk.com.br\/2025\/02\/07\/07133541562492.jpg\"\/ "\\"\\"")
\n
![\"07134038062507](\"https:\/\/tm.ibxk.com.br\/2025\/02\/07\/07134038062507.jpg\" "\\"\\"")
Por que overthinking de IA \u00e9 um problema?<\/h2>\n
Overthinking s\u00f3 \u00e9 um problema quando \u00e9 em v\u00e3o<\/h2>\n
Existe solu\u00e7\u00e3o para o overthinking de IA?<\/h2>\n
![\"07135925810534](\"https:\/\/tm.ibxk.com.br\/2025\/02\/07\/07135925810534.jpg\" "\\"\\"")
\n
\n
Todo mundo precisa de uma IA racional?<\/h2>\n
![\"photo-1738640680088-7893beb0886b?fm=jpg&q=60&w=3000&ixlib=rb-4.0](\"https:\/\/images.unsplash.com\/photo-1738640680088-7893beb0886b?fm=jpg&q=60&w=3000&ixlib=rb-4.0.3&ixid=M3wxMjA3fDB8MHxwaG90by1wYWdlfHx8fGVufDB8fHx8fA%3D%3D\" "\\"\\"")
![\"07135317467526](\"https:\/\/tm.ibxk.com.br\/2025\/02\/07\/07135317467526.jpg\" "\\"\\"")