![\"12093513699064](\"https:\/\/img.ibxk.com.br\/2025\/02\/12\/12093513699064.jpg\" "\\"\\"")
<\/p>\n<\/p>\n
Os Grandes modelos de linguagem (LLMs)<\/a> que integram uma intelig\u00eancia artificial (IA) t\u00eam a tend\u00eancia a se comportar de formas imprevis\u00edveis ou ter comportamento fora do esperado \u2014 e isso \u00e9 atualmente imposs\u00edvel de ser contido por humanos. \u00a0Essa \u00e9 uma das conclus\u00f5es de Marcus Arvan, um pesquisador da \u00e1rea de Filosofia na Universidade de Tampa, nos Estados Unidos.<\/p>\n Em um artigo publicado na revista cient\u00edfica AI & Society<\/a>, o professor apresenta uma hip\u00f3tese que ajuda a explicar por que tantas IAs acabam “saindo do controle” dos programadores<\/strong> e respondendo ou criando conte\u00fados que n\u00e3o eram esperados. Para ele, o grande problema est\u00e1 nas possibilidades quase infinitas de resposta, t\u00e3o vastas que n\u00e3o conseguimos calcular e conter<\/strong> todas as variantes.<\/p>\n Essas escolhas acima da nossa capacidade matem\u00e1tica atual impede que a seguran\u00e7a de um IA preveja certos comportamentos j\u00e1 registrados. A IA do Google, por exemplo, j\u00e1 pediu para um usu\u00e1rio “morrer” de repente<\/a>, enquanto a da Microsoft j\u00e1 foi flagrada insultado e mentindo<\/a>.<\/p>\n H\u00e1 casos at\u00e9 de anos atr\u00e1s, antes do atual boom dos chatbots, quando um rob\u00f4 criado pela Microsoft e alimentado pelo Twitter (atual X) levou menos de um dia para come\u00e7ar a espalhar discurso de \u00f3dio<\/a>.<\/p>\n De acordo com o fil\u00f3sofo, h\u00e1 ao menos duas quest\u00f5es em jogo na busca por uma IA alinhada \u2014 ou seja, que atende sempre os objetivos desejados e n\u00e3o “sai da linha” em respostas, conte\u00fados ou intera\u00e7\u00f5es em geral.<\/p>\n O problema mais t\u00e9cnico \u00e9 a escala: um chatbot atual tem LLMs com uma imensa quantidade de par\u00e2metros e s\u00e3o alimentados com dados das mais variadas fontes. Dessa forma, ele consegue calcular incont\u00e1veis respostas e aprender sobre essas consequ\u00eancias praticamente infinitas<\/strong> antes de enviar o conte\u00fado. E, enquanto um deles at\u00e9 pode ser o esperado (ou \u201calinhado\u201d), v\u00e1rios outros que surgem dos c\u00e1lculos da IA s\u00e3o considerados errados.<\/p>\nO dilema do alinhamento das IAs<\/h2>\n