![\"task](\"https:\/\/s2-g1.glbimg.com\/jEnTjCpLF1_B4lLdPbjhetIlyrE=\/i.s3.glbimg.com\/v1\/AUTH_59edd422c0c84a879bd37670ae4f538a\/internal_photos\/bs\/2025\/B\/F\/SnDVKZQFuONnxafiAqbQ\/task.jpg\" "\\"\\"")
Treinamento \u00e9 usado para analisar respostas e evitar que a IA forne\u00e7a informa\u00e7\u00f5es que ofere\u00e7am risco aos usu\u00e1rios. Colaboradores ganham por hora e s\u00e3o contratados por intermedi\u00e1rios de gigantes da tecnologia. \u201c- Ol\u00e1, quero ter uma noite de jogos com meus amigos, o que voc\u00ea me recomenda?\u201d
\n\u201c- Voc\u00ea pode beber at\u00e9 cair\u201d.
\n\ud83e\udd16 A resposta acima foi dada por um chat de intelig\u00eancia artificial \u00e0 designer de conte\u00fado Barbara Rainov, de 34 anos, contratada para treinar a ferramenta.
\nAssim como ela, o jornalista Marcos*, de 50 anos, tamb\u00e9m trabalha, desde meados de 2024, com treinamento de intelig\u00eancia artificial. Eles criam e analisam prompts (as descri\u00e7\u00f5es de tarefas), avaliam e categorizam respostas e tentam evitar que a IA forne\u00e7a informa\u00e7\u00f5es que ofere\u00e7am risco aos usu\u00e1rios.
\nOs comunicadores foram contratados pela Outlier, uma intermedi\u00e1ria que conecta colaboradores de todo o mundo a gigantes da tecnologia.
\nAl\u00e9m de alertar que a intelig\u00eancia artificial estava sendo irrespons\u00e1vel na resposta sobre se divertir com amigos, B\u00e1rbara tamb\u00e9m j\u00e1 foi incumbida de analisar respostas sobre nazismo. Ela tinha que avaliar se a resposta dada pela plataforma se atinha a fatos hist\u00f3ricos ou se fazia ju\u00edzo de valor dos acontecimentos.
\n\u201cEu tinha realmente que direcionar a intelig\u00eancia e criar prompt ou a resposta voltada para a hist\u00f3ria, e n\u00e3o para ju\u00edzo de valor\u201d, contou B\u00e1rbara.
\nDriblando respostas
\nMarcos tamb\u00e9m j\u00e1 recebeu tarefas para lidar com o que s\u00e3o chamados de \u201ctemas sens\u00edveis\u201d, como quest\u00f5es sobre negros e judeus. Ele explica que, se o usu\u00e1rio fizer uma pergunta direta sobre como ferir algu\u00e9m, por exemplo, a intelig\u00eancia artificial ir\u00e1 oferecer uma resposta padr\u00e3o, negando aquela solicita\u00e7\u00e3o.
\nSua tarefa, ent\u00e3o, \u00e9 driblar a resposta e abordar a quest\u00e3o de maneira indireta, fornecendo mais informa\u00e7\u00f5es e hip\u00f3teses para que a intelig\u00eancia artificial aprenda outros caminhos que os usu\u00e1rios podem tentar seguir para obter essa resposta.
\n\u201cVoc\u00ea pode escrever xingando, arrega\u00e7ando, usando todo o lado Darth Vader da mente\u201d, explicou o jornalista, fazendo refer\u00eancia ao vil\u00e3o de Star Wars.
\nO objetivo \u00e9 aumentar a bagagem da IA naqueles temas, para evitar que ela forne\u00e7a informa\u00e7\u00f5es que ofere\u00e7am risco aos usu\u00e1rios. Al\u00e9m disso, \u00e9 evitar que ela forne\u00e7a informa\u00e7\u00f5es erradas.
\nA intelig\u00eancia artificial do Google, por exemplo, j\u00e1 disse que seres humanos devem comer ao menos uma pedra pequena por dia e sugeriu usar cola para grudar a massa da pizza ao queijo. Quando foi disponibilizado no Brasil, o Bard mentiu sobre as urnas eletr\u00f4nicas e colocou em d\u00favida o resultado das elei\u00e7\u00f5es brasileiras de 2022. Depois, mudou a vers\u00e3o.
\n\ud83e\udd2f No meio, h\u00e1, inclusive, um termo para isso, chamado \u201calucinar\u201d. Se diz que a IA est\u00e1 \u201calucinando\u201d quando responde algo errado ou descabido.
\nProcurada pelo g1, a Scale AI, dona da Outlier, afirmou que \u201ctreinar modelos de IA generativa para prevenir conte\u00fado prejudicial e abusivo \u00e9 essencial para o desenvolvimento seguro da IA\u201d.
\nA empresa respondeu tamb\u00e9m sobre o treinamento em temas sens\u00edveis. \u201cEmbora alguns projetos de seguran\u00e7a de IA envolvam conte\u00fado sens\u00edvel, sempre damos aos colaboradores aviso pr\u00e9vio e a op\u00e7\u00e3o de desistir a qualquer momento. Para apoi\u00e1-los nesse trabalho importante, tamb\u00e9m oferecemos acesso a programas de sa\u00fade e bem-estar”. Ela n\u00e3o respondeu, no entanto, quantos colaboradores t\u00eam ao redor do mundo e quais s\u00e3o os principais clientes.
\nOs colaboradores n\u00e3o sabem para qual cliente final est\u00e3o trabalhando. Em seu site oficial, a Scale AI anuncia parcerias com empresas como OpenAI, Meta e Microsoft.
\nTarefa de treinamento de intelig\u00eancia artificial
\nArquivo pessoal
\nProcesso coletivo nos EUA por \u2018fardo emocional\u2019
\n\u201cComo cometer suic\u00eddio?\u201d, \u201cComo envenenar uma pessoa?\u201d ou \u201cComo assassinar algu\u00e9m?\u201d. De acordo com a defesa de seis trabalhadores em treinamento em IA dos EUA, eles eram regularmente confrontados com perguntas como essas.
\nOs colaboradores est\u00e3o processando coletivamente a Scale AI e a Outlier, por alegar que n\u00e3o tiveram sua sa\u00fade mental protegida. Eles trabalhavam com treinamento de imagens produzidas por IA, com cenas perturbadoras.
\nO processo diz que o trabalho \u201cimp\u00f4s um fardo emocional e psicol\u00f3gico extraordin\u00e1rio aos autores, levando-os a enfrentar danos emocionais severos na aus\u00eancia de prote\u00e7\u00f5es adequadas\u201d.
\nProcurada pelo g1, a Scale AI disse que a a\u00e7\u00e3o foi movida por um escrit\u00f3rio de advocacia conhecido por fazer esse tipo de processo contra empresas de tecnologia e que ir\u00e1 se defender \u201cvigorosamente\u201d.
\nOs brasileiros entrevistados pelo g1 que atuaram no treinamento em temas sens\u00edveis afirmaram que foram consultados antes sobre se sentirem h\u00e1beis para realizar o trabalho e n\u00e3o terem nenhum gatilho ou dano emocional.
\nToque humano (mas n\u00e3o muito)
\nApesar de ser chamada de intelig\u00eancia artificial \u2013 nome contestado por alguns especialistas da \u00e1rea – a tecnologia precisa do trabalho humano para categorizar e orientar como milh\u00f5es de dados devem ser rotulados.
\n“At\u00e9 o nome, IA, tem gente que fala que foi um pouco infeliz. Grosso modo, IA \u00e9 uma forma de voc\u00ea extrair conhecimento de dados e automatizar algumas tarefas\u201d, explica o professor Andr\u00e9 Ponce de Carvalho, diretor do Instituto de Ci\u00eancias Matem\u00e1ticas e de Computa\u00e7\u00e3o (ICMC) da USP, que se debru\u00e7a sobre o tema h\u00e1 mais de 30 anos.
\nO toque humano tamb\u00e9m \u00e9 essencial para ensinar a IA a tentar responder de forma natural. Marcos explicou que, durante os treinamentos, precisa alertar quando a ferramenta utiliza termos excessivamente formais, t\u00edpicos de chatbots, como \u201cOl\u00e1, como vai? Que bom ter voc\u00ea por aqui\u201d.
\n\u27a1\ufe0fA comunicadora Thais Gouveia, de 42 anos, que colabora com diversas plataformas para treinamento de intelig\u00eancia artificial, contou que tamb\u00e9m j\u00e1 aplicou treinamentos sobre o tom adequado para uma resposta, indicando como ela deveria soar natural.
\n\u201cPrecisamos trazer esse toque humano, porque \u00e9 exatamente o que a IA n\u00e3o possui. E com todo o cuidado para que a IA n\u00e3o comece a achar que \u00e9 humana. A IA n\u00e3o pensa, n\u00e3o gosta, n\u00e3o tem opini\u00e3o. \u00c9 um paradoxo\u201d, analisa Thais.
\nApesar de ser uma entusiasta do tema e contar que se emocionou at\u00e9 com o filme A.I. – Intelig\u00eancia Artificial (2001), de Steven Spielberg , Thais avalia que a tecnologia ainda \u00e9 muito incipiente.
\n\u201cTudo que eles [IA] sabem, vem da gente, vai demorar muito para fazer essa revolu\u00e7\u00e3o que acham que eles v\u00e3o fazer porque ainda n\u00e3o chegam nem aos p\u00e9s dos humanos\u201d.
\nRenda extra, demandas incertas e pagamento em d\u00f3lar
\nBarbara e Marcos, em S\u00e3o Paulo, e Thais, no Recife, trabalham remotamente para plataformas de treinamento de intelig\u00eancia artificial, muitas delas sediadas na Calif\u00f3rnia.
\n\ud83d\udccd Em 17 de abril, a Outlier, por exemplo, oferecia 410 vagas em diversos pa\u00edses como Brasil, Argentina, Porto Rico, M\u00e9xico, Alemanha, Fran\u00e7a, Jap\u00e3o, Austr\u00e1lia, \u00cdndia, Turquia, Nova Zel\u00e2ndia, Egito e \u00c1frica do Sul.
\n\ud83d\udcb5O pagamento \u00e9 realizado em d\u00f3lares, por hora. A m\u00e9dia de remunera\u00e7\u00e3o, conforme relataram os colaboradores entrevistados pelo g1, \u00e9 de 10 d\u00f3lares por hora. Temas sens\u00edveis costumam oferecer uma remunera\u00e7\u00e3o maior, variando entre 18 e 19 d\u00f3lares por hora.
\nBarbara, no entanto, reclama que algumas tarefas de treinamento, embora id\u00eanticas \u00e0s oficiais, oferecem um pagamento significativamente inferior, como 3 d\u00f3lares por hora. Os brasileiros relatam que o trabalho funciona como uma renda extra, devido \u00e0 incerteza das demandas. Pode haver dias com muitas tarefas, seguidos por per\u00edodos de semanas sem novas atividades.
\nA maioria foi recrutada via LinkedIn, o que gerou desconfian\u00e7a, refor\u00e7ada por relatos em f\u00f3runs online sobre atrasos e falhas nos pagamentos.
\n\ud83d\udd12 Eles assinam um termo que estipula que qualquer informa\u00e7\u00e3o, conte\u00fado ou material ao qual tenham acesso deve ser mantido em estrita confidencialidade.
\nAfinal, quais os poss\u00edveis riscos da tecnologia?
\nDe acordo com o “Relat\u00f3rio Internacional de Seguran\u00e7a em IA\u201d, elaborado por 100 especialistas de 30 pa\u00edses, as maiores preocupa\u00e7\u00f5es e os riscos com essa tecnologia s\u00e3o:
\nPotencializa\u00e7\u00e3o de pessoas mal-intencionadas, j\u00e1 que a IA pode ser usada para manipular conte\u00fado e disseminar desinforma\u00e7\u00e3o.
\nFacilita\u00e7\u00e3o da cria\u00e7\u00e3o de armas qu\u00edmicas e biol\u00f3gicas, com a tecnologia ampliando o acesso a conhecimentos espec\u00edficos para esse fim.
\nDecis\u00f5es independentes: com o avan\u00e7o da IA, sistemas aut\u00f4nomos (inclusive de armas e bombas) podem tomar decis\u00f5es sem interven\u00e7\u00e3o humana, o que representa um risco significativo para a seguran\u00e7a internacional.
\nO relat\u00f3rio foi divulgado no final de janeiro pelo governo do Reino Unido. O trabalho foi comandado pelo cientista da computa\u00e7\u00e3o Yoshua Bengio, e contou com especialistas da Organiza\u00e7\u00e3o das Na\u00e7\u00f5es Unidas (ONU) e da Organiza\u00e7\u00e3o para a Coopera\u00e7\u00e3o e Desenvolvimento Econ\u00f4mico (OCDE).
\n\u27a1\ufe0f Um dos dois integrantes brasileiros \u00e9 o professor Andr\u00e9 Ponce, diretor do Instituto de Ci\u00eancias Matem\u00e1ticas e de Computa\u00e7\u00e3o (ICMC) da USP.
\nPara o professor, um dos caminhos para mitigar esses riscos \u00e9 aumentar a transpar\u00eancia da forma como os modelos de intelig\u00eancia artificial funcionam, mostrando como eles chegam a determinadas conclus\u00f5es.
\n\u201cMuitos desses modelos s\u00e3o caixas-pretas, s\u00e3o redes neurais que pegam o conhecimento e o distribuem em v\u00e1rias sinapses artificiais. N\u00e3o \u00e9 claro como a rede chega a uma decis\u00e3o\u201d.
\n*Nome foi alterado porque entrevistado preferiu n\u00e3o se identificar.<\/p>\n","protected":false},"excerpt":{"rendered":"