O TikTok anunciou nesta sexta-feira (20) o lançamento de uma ferramenta que permite identificar e denunciar conteúdos falsificados por inteligência artificial (IA) que utilizem imagens de políticos e outras figuras públicas sem consentimento. A iniciativa busca combater a desinformação e proteger a integridade de processos eleitorais, especialmente diante das eleições previstas para 2027 em países europeus, como Itália, França e Grécia.
A funcionalidade, chamada ferramenta de detecção de imagens semelhantes, será disponibilizada gradualmente. O recurso permite que políticos e usuários com grande número de seguidores localizem conteúdos produzidos por IA que reproduzam sua imagem e façam denúncias à plataforma.
Os chamados deepfakes são vídeos, áudios e imagens manipulados ou inteiramente produzidos por inteligência artificial que simulam situações, falas ou aparências reais, podendo dificultar a identificação de conteúdos falsos.
Ferramenta busca proteger eleições contra conteúdos falsos
A iniciativa faz parte das medidas adotadas pelo TikTok, controlado pela chinesa ByteDance, para tentar reduzir a circulação de conteúdos que possam interferir no debate público e na integridade das eleições.
Francesca Scapolo, responsável pelas relações governamentais da plataforma para assuntos eleitorais na Europa, destacou a importância da iniciativa durante um evento sobre segurança e inovação realizado na quinta-feira, em Londres.
Segundo Scapolo, a proteção da integridade eleitoral está entre as responsabilidades da empresa. Ela afirmou que a nova ferramenta permitirá que políticos e governos identifiquem conteúdos potencialmente produzidos por inteligência artificial e publicados sem autorização.
O recurso amplia os mecanismos disponíveis para localizar reproduções artificiais de imagens de figuras públicas, em um cenário de avanço das tecnologias capazes de criar vídeos, fotografias e áudios cada vez mais realistas.
União Europeia amplia regras para conteúdos gerados por IA
A União Europeia começou a implementar, em agosto, regras de transparência para o uso da inteligência artificial. Entre as exigências estão medidas para identificar deepfakes e outros materiais produzidos ou manipulados com a tecnologia.
O TikTok já exige que os criadores sinalizem conteúdos realistas produzidos por inteligência artificial, incluindo imagens, vídeos e áudios. A identificação busca informar aos usuários quando o material que estão consumindo não corresponde a um registro real.
As regras europeias ampliam a exigência de transparência sobre o uso da tecnologia e estabelecem mecanismos para facilitar o reconhecimento de conteúdos artificiais.
Inteligência artificial também é usada na moderação
O avanço da inteligência artificial também tem alterado o funcionamento das plataformas digitais. O TikTok informou anteriormente que a adoção de novas tecnologias poderia reduzir postos de trabalho e escritórios dedicados à moderação de conteúdo em diferentes regiões do mundo.
A IA vem sendo utilizada para auxiliar na identificação e análise de publicações relacionadas a pornografia, desinformação e discurso de ódio, atividades que tradicionalmente dependiam de equipes de revisão humana.
O YouTube também desenvolveu uma ferramenta para identificar vídeos gerados por inteligência artificial que reproduzam pessoas e simulem sua participação em conteúdos.
A AFP, assim como outras organizações de checagem de fatos, mantém parcerias com o TikTok em diferentes países para verificar vídeos que possam conter informações falsas. A agência recebe pagamentos da plataforma por esse trabalho.







Deixe um comentário