Como verificar se uma imagem, vídeo ou som é real ou foi criado por Inteligência Artificial?
Microsoft e Adobe lideram desenvolvimento de uma tecnologia que vai ajudar o usuário a identificar imagens alteradas por IA. Entenda o que é o projeto C2PA.
E se existisse uma ferramenta capaz de verificar se uma imagem é real ou se foi criada por Inteligência Artificial?
Algumas das maiores empresas do mercado tecnológico, incluindo Adobe, Sony, Google, BBC, Intel, Microsoft e Truepic, se uniram para desenvolver o projeto C2PA.
Este esforço coletivo visa criar um padrão aberto para a autenticação de conteúdo digital, marcando uma etapa significativa no reconhecimento da origem de imagens, vídeos e sons.
Imagine que você vai poder entrar num site, fazer upload de uma foto e verificar todo o histórico daquela imagem. Quando a foto foi tirada, por quem, local, se foi editada e até comparar a versão original com a versão editada.
Neste artigo, vamos abordar:
- Entendendo a tecnologia por trás do C2PA
- A importância da adesão global para o sucesso do C2PA
- IA generativa: entre inovações e desafios
- A necessidade de conscientização sobre IA generativa
- Educação e Legislação: as chaves para combater os abusos da IA
Entendendo a tecnologia por trás do C2PAComo Funciona a Tecnologia C2PA: O DNA Digital das Imagens
Digamos que você tem uma câmera Sony e ela é equipada com a tecnologia C2PA.
Toda foto ou vídeo que ela fizer vai ter um código incorporado, criptografado, que carrega as informações de procedência daquele arquivo.
Como um DNA. E a plataforma é onde você faz o “teste de paternidade”.
Agora, vamos supor que essa imagem tenha passado por um processo de edição em algum software da Adobe.
Depois que você exporta essa imagem, é como se ela ganhasse, dentro do seu código, uma nova camada.
E aí vem o passo 3.
Quando essa imagem (ou esse vídeo) chegar nas redes sociais, ele vai ter um selo anexado. Um rótulo que te dá uma série de informações, de todas essas camadas, quando você clica nele.
A Importância da Adesão Global para o Sucesso do C2PA
Por Que a Adesão Global é Crucial para o Futuro da Autenticidade Digital
Para que o projeto C2PA atinja seu potencial máximo, é essencial que um número significativo de marcas adote essa tecnologia.
Não basta que apenas algumas empresas implementem esses padrões em seus equipamentos ou softwares; é necessário um movimento global.
A colaboração entre fabricantes de hardware, desenvolvedores de software e plataformas de redes sociais é fundamental para criar um ecossistema digital onde a verificação da autenticidade do conteúdo seja acessível e confiável.
Portanto, é um trabalho em progresso, e eu até digo que a criação dessa ferramenta é um bom exemplo de Inteligência Artificial usada para o bem.
Mas, ela nasceu para resolver um problema que ela mesma criou: a difusão de imagens falsas e deepfakes.
IA Generativa: Entre Inovações e Desafios
Desafios e Oportunidades da IA Generativa na Criação de Conteúdo
As tecnologias de IA generativa trouxeram avanços incríveis, permitindo a criação de conteúdo digital de maneira rápida e em larga escala. A corrida atual não é apenas por inovação, mas também por soluções que minimizem os problemas causados por essas tecnologias.
Não é de hoje que pessoas manipulam fotos, fazem edições, montagens.
Mas agora ficou muito mais fácil, mais rápido, com reprodução em larga escala.
No entanto, essas mesmas tecnologias também facilitaram a disseminação de imagens falsas e deepfakes, levantando questões éticas e legais significativas.
Por conta de interesses econômicos, as big techs entraram numa corrida para lançar suas IAs generativas, e deu no que deu.
Muitas coisas incríveis são possíveis de fazer hoje em dia. Mas outras bem ruins também.
Então, agora a corrida é outra: para tentar minimizar os problemas gerados.
A Necessidade de Conscientização sobre IA Generativa
Conscientização sobre IA: Protegendo a Sociedade contra Golpes Digitais
A educação do público sobre as capacidades e riscos associados à IA generativa é crucial.
Aumentar a conscientização pode ajudar a prevenir golpes e abusos, especialmente entre os mais vulneráveis.
Iniciativas de educação e campanhas de informação são fundamentais para ensinar as pessoas a questionar e verificar a autenticidade do conteúdo digital que encontram online.
Quem nunca recebeu uma mensagem no WhatsApp, de uma pessoa supostamente conhecida, pedindo dinheiro?
Geralmente, os criminosos procuram os familiares da vítima.
Agora, imagina uma pessoa com mais de 50 anos de idade, que mora numa cidade pequena, tem pouco contato com o universo da IA (se é que já ouviu falar)… E recebe no celular, um vídeo supostamente do filho, da filha, pedindo dinheiro. Mas é falso. Tem o rosto da pessoa, tem a voz dela, mas foi tudo criado artificialmente. E aí, no susto, como vai saber que não é real?
Vai ser cada vez mais importante estar atualizado sobre o que essas novas ferramentas de IA generativa realmente são capazes de fazer.
E é preciso que as pessoas aprendam sobre elas na escola, no trabalho, nos programas de TV.
Veículos jornalísticos e inclusive o próprio Tribunal Superior Eleitoral (TSE) já fizeram diversas campanhas para combater as fake news, levando sempre a mensagem: desconfie! Verifique a informação. Não compartilhe se não for verdade.
Agora, esse mesmo movimento precisa acontecer em torno da IA.
Educação e Legislação: As Chaves para Combater os Abusos da IA
Educação e Legislação: Combatendo os Abusos da Inteligência Artificial
Perceba que, durante todo o artigo, eu não falei sobre nenhum problema necessariamente novo na sociedade.
Golpes digitais já existem faz tempo. Manipulação de imagens também.
Objetificação de corpos – principalmente o da mulher – por meio da pornografia é outro exemplo. E que se torna mais grave com a criação dos deepfakes, sem consentimento.
Velhos problemas, mas com novos meios de perpetuação.
Então, o caminho para sair dessa enrascada é outro velho conhecido: a educação, o senso crítico que precisa ser despertado.
E claro, a efetivação de uma lei que trate especificamente de inteligência artificial.
Na Europa já existe, é muito recente, foi aprovada em março de 2024, e na edição 13 do giro de tendências, eu falei sobre as implicações dessa lei.
Se você ainda não assistiu, vai lá, que você vai descobrir também os impactos da Lei da IA dentro do marketing, uma área que vem passando por mudanças bastante significativas.
Eu fico por aqui e te encontro no próximo Giro.
Escrito por Felipe Figueira, CEO da Vedere Marketing.
