os fen\u00f4menos das deep fakes<\/a>, o enrosco que \u00e9 para detectar conte\u00fados criados por Intelig\u00eancia Artificial (IA) e a dor de cabe\u00e7a que os legisladores e reguladores ter\u00e3o nas elei\u00e7\u00f5es. Eu prometi que voltaria ao assunto ainda neste ano, s\u00f3 n\u00e3o achei que seria t\u00e3o cedo.<\/p>\nNesta ter\u00e7a-feira (6), Meta e OpenAI anunciaram seus planos para identificar as imagens geradas por IA. S\u00e3o iniciativas importantes e que precisam ser valorizadas, mas que est\u00e3o longe de resolver o problema. O desafio t\u00e9cnico ainda continua gigantesco, e vou explicar isso com mais detalhes.<\/p>\n
A empresa controladora do Facebook, Instagram e WhatsApp contou que est\u00e1 pronta para identificar imagens feitas com a sua pr\u00f3pria IA, a Meta AI, a partir de diversas abordagens. Quando uma imagem realista \u00e9 criada pelo seu sistema, existem diferentes maneiras de facilitar a identifica\u00e7\u00e3o, como a adi\u00e7\u00e3o de r\u00f3tulos vis\u00edveis na imagem, marcas d’\u00e1gua invis\u00edveis (que o usu\u00e1rio n\u00e3o v\u00ea, mas que servem para outros modelos de IA identific\u00e1-la) e metadados incorporados no arquivo dos conte\u00fados.<\/p>\n
A empresa de Zuckerberg pretende expandir essa funcionalidade para que suas plataformas tamb\u00e9m identifiquem imagens criadas por ferramentas de outras empresas. Na coluna passada, eu comentei que esse \u00e9 um problema do ecossistema e que as organiza\u00e7\u00f5es precisam combinar os padr\u00f5es para que haja interoperabilidade.<\/p>\n
A Meta vem trabalhando com diferentes f\u00f3runs, como Partnership on AI, e est\u00e1 adotando os padr\u00f5es t\u00e9cnicos da C2PA (The Coalition for Content Provenance and Authenticity) e IPTC para rotular imagens que foram produzidas por IAs de outras empresas, como Google, OpenAI, Microsoft e outros.<\/p>\n
Coincid\u00eancia ou n\u00e3o, no mesmo dia do comunicado da Meta, a OpenAI anunciou que as imagens criadas por sua IA incluiriam os metadados com as especifica\u00e7\u00f5es C2PA, para facilitar que as plataformas de redes sociais possam identificar quais conte\u00fados foram criados por seus produtos.<\/p>\n
Esse \u00e9 um primeiro passo de uma jornada que vai ser bastante longa<\/strong>. As pr\u00f3prias empresas deixam claro em seus comunicados que, embora esse movimento inicial seja importante, as t\u00e9cnicas que entrar\u00e3o em vigor no curto prazo s\u00e3o limitadas.<\/p>\nA OpenAI fala, inclusive, que tentar rotular imagens criadas por IA usando metadados n\u00e3o \u00e9 “bala de prata”. Isso acontece porque os metadados baseados nos padr\u00f5es C2PA podem ser facilmente removidos, seja de maneira acidental ou intencional. Algu\u00e9m pode retirar os metadados manualmente ou de uma maneira ainda mais corriqueira: com um print da imagem. Ou seja, a solu\u00e7\u00e3o atual n\u00e3o \u00e9 efetiva contra pessoas mal-intencionadas e criminosos.<\/p>\n
Sabendo dessa limita\u00e7\u00e3o, a Meta est\u00e1 trabalhando em uma tecnologia chamada Stable Signature, um mecanismo que ir\u00e1 incluir marcas d’\u00e1gua invis\u00edveis durante o processo de cria\u00e7\u00e3o de imagens, que dificultam a sua remo\u00e7\u00e3o. Mas tudo isso ainda est\u00e1 em fase de desenvolvimento.<\/p>\n
Outra limita\u00e7\u00e3o \u00e9 que essas solu\u00e7\u00f5es apresentadas nessa semana funcionam apenas com imagens, mas n\u00e3o com \u00e1udios ou v\u00eddeos. O desafio t\u00e9cnico \u00e9 que cada tipo de conte\u00fado exige estrat\u00e9gias e t\u00e9cnicas diferentes de identifica\u00e7\u00e3o<\/cite><\/p>\nEnquanto as empresas ainda tentam construir um mecanismo autom\u00e1tico de identifica\u00e7\u00e3o e controle para a diversidade de conte\u00fados que ser\u00e1 criado por IA, a Meta informou que vai remediar a situa\u00e7\u00e3o adicionando uma nova funcionalidade para que os pr\u00f3prios usu\u00e1rios sinalizem quando compartilharem v\u00eddeos ou \u00e1udios gerados por IA.<\/p>\n
Essa ser\u00e1 uma exig\u00eancia das plataformas da Meta, e a empresa promete penalidades para quem descumpri-las. Talvez, na pr\u00e1tica, essa seja uma medida que n\u00e3o evitar\u00e1 a circula\u00e7\u00e3o de imagens sint\u00e9ticas produzidas por pessoas mal-intencionadas, mas \u00e9 uma forma de tentar coibir o mau uso e, de certa forma, ajudar no processo de letramento digital.<\/p>\n
Embora tenhamos come\u00e7ado a caminhar, n\u00e3o resolveremos os problemas de deep fakes no curto prazo, seja pelas vias t\u00e9cnicas ou de regula\u00e7\u00e3o. Refor\u00e7o a necessidade de um letramento digital para que a sociedade consiga minimamente passear por esse futuro que ser\u00e1 inevitavelmente h\u00edbrido entre cria\u00e7\u00f5es humanas e artificiais.<\/p>\n
Estou acompanhando o tema de perto e prometo voltar ao assunto assim que tiver novidades. Por enquanto, lembre-se que o “ver para crer” j\u00e1 n\u00e3o \u00e9 mais real.<\/strong><\/p>\n<\/div>\n