A Fox Corp. causou repercussão nos círculos da mídia na terça-feira, quando anunciou que estava lançando o "Verify", uma nova ferramenta baseada em blockchain para verificar a autenticidade da mídia digital na era da IA.

O projeto aborda dois problemas cada vez mais incômodos: a IA está facilitando o surgimento de conteúdo “deepfake” e enganando os leitores, e os editores descobrem frequentemente que seu conteúdo foi usado para treinar modelos de IA sem permissão.

Uma opinião cínica poderia ser a de que tudo isto não passa de uma grande jogada de relações públicas. Misturar “AI” e “Blockchain” em um ensopado de palavras da moda para ajudar a construir “confiança nas notícias” parece um ótimo material para a imprensa, especialmente se você é um conglomerado de mídia envelhecido com problemas de credibilidade . Todos nós já vimos Sucessão , T é?

Mas vamos deixar a ironia de lado por um momento e levar a sério a Fox e sua nova ferramenta. No lado falso, Fox diz que as pessoas podem carregar URLs e imagens no sistema Verify para determinar se são autênticas, o que significa que um editor as adicionou ao banco de dados Verify. No que diz respeito ao licenciamento, as empresas de IA podem usar o banco de dados Verify para acessar (e pagar por) conteúdo de maneira compatível.

Blockchain Creative Labs, braço de tecnologia interno da Fox, fez parceria com Polygon, o blockchain de baixo custo e alto rendimento que funciona no topo da extensa rede Ethereum , para alimentar as coisas nos bastidores. Adicionar novo conteúdo ao Verify significa essencialmente adicionar uma entrada a um banco de dados no blockchain Polygon , onde seus metadados e outras informações são armazenados.

Ao contrário de tantos outros experimentos de criptografia, a ligação do blockchain pode ter um sentido desta vez: o Polygon fornece ao conteúdo do Verify uma trilha de auditoria imutável e garante que editores terceirizados T precisem confiar na Fox para administrar seus dados.

O Verify em seu estado atual BIT um verificador de banco de dados glorificado, um aplicativo da web simples que usa a tecnologia do Polygon para KEEP imagens e URLs. Mas isso T significa que seja inútil – especialmente quando se trata de ajudar editores legados a navegar em acordos de licenciamento no mundo dos grandes modelos de linguagem.

Seguimos em frente e carregamos algum conteúdo no aplicativo da web do Verify para ver como ele funciona bem no uso diário, e T demorou muito para percebermos as limitações do aplicativo para o caso de uso do consumidor.

O aplicativo Verify possui uma caixa de entrada de texto para URLs. Quando colamos um artigo da Fox News de terça-feira sobre ELON Musk e deep fakes (que apareceram com destaque no site) e pressionamos “enter”, um monte de informações apareceu atestando a proveniência do artigo. Junto com um hash de transação e assinatura – dados para a transação blockchain Polygon que representa a parte do conteúdo – o aplicativo Verify também mostrou os metadados associados ao artigo, informações de licenciamento e um conjunto de imagens que aparecem no conteúdo.

Em seguida, baixamos e recarregamos uma dessas imagens na ferramenta para ver se ela poderia ser verificada. Quando o fizemos, foram-nos mostrados dados semelhantes aos que vimos quando inserimos o URL. (Quando tentamos outra imagem, também poderíamos clicar em um LINK para ver outros artigos da Fox nos quais a imagem foi usada. Legal!)

Embora o Verify tenha realizado essas tarefas simples conforme anunciado, é difícil imaginar que muitas pessoas precisarão “verificar” a fonte do conteúdo obtido diretamente do site da Fox News.

Em sua documentação, o Verify sugere que um possível usuário do serviço pode ser uma pessoa que se depara com um artigo nas redes sociais e deseja descobrir se ele vem de uma fonte suposta. Quando executamos o Verify nesse cenário do mundo real, encontramos problemas.

Encontramos uma postagem oficial da Fox News no X (a plataforma anteriormente conhecida como Twitter) apresentando o mesmo artigo que verificamos originalmente e, em seguida, carregamos a versão do X do URL do artigo no Verify. Mesmo que clicar no LINK X leve ONE diretamente para a mesma página da Fox News que verificamos originalmente - e o Verify conseguiu obter uma prévia do artigo - o Verify T foi capaz de nos dizer se o artigo era autêntico desta vez. .

Em seguida, capturamos a imagem em miniatura da postagem da Fox News: uma das mesmas imagens da Fox que carregamos da última vez. Desta vez, fomos informados de que a imagem T poderia ser autenticada. Acontece que se uma imagem for manipulada de alguma forma – o que inclui miniaturas ligeiramente cortadas ou capturas de tela cujas dimensões T são exatamente corretas – o aplicativo Verify ficará confuso.

Algumas dessas deficiências técnicas certamente serão resolvidas, mas há problemas de engenharia ainda mais complicados que a Fox terá de enfrentar se quiser ajudar os consumidores a descobrir o conteúdo gerado pela IA.

Mesmo quando o Verify está funcionando como anunciado, ele T pode dizer se o conteúdo foi gerado por IA – apenas que veio da Fox (ou de qualquer outra fonte que o carregou, presumindo que outros editores usem o Verify no futuro). Se o objetivo é ajudar os consumidores a discernir o conteúdo gerado pela IA do conteúdo Human , isso T ajuda. Até mesmo meios de comunicação confiáveis, como a Sports Illustrated, se envolveram em polêmica por usar conteúdo gerado por IA.

Depois, há o problema da apatia do usuário. As pessoas tendem a não se importar muito se o que estão lendo é verdade, como Fox certamente sabe. Isto é especialmente verdade quando as pessoas querem que algo seja verdade .

Para que algo como o Verify seja útil para os consumidores, imagina ONE que ele precisará ser integrado diretamente nas ferramentas que as pessoas usam para visualizar o conteúdo, como navegadores da web e plataformas de mídia social. Você poderia imaginar uma espécie de selo, como notas da comunidade , que aparece no conteúdo que foi adicionado ao banco de dados do Verify.

Parece injusto criticar esta versão básica do Verify, visto que a Fox foi bastante proativa em rotulá-la como beta. A Fox também T está focada apenas nos consumidores de mídia em geral, como fizemos em nossos testes.

O parceiro da Fox, Polygon, disse em um comunicado de imprensa compartilhado com a CoinDesk que “Verify estabelece uma ponte técnica entre empresas de mídia e plataformas de IA” e tem recursos adicionais para ajudar a criar “novas oportunidades comerciais para proprietários de conteúdo, utilizando contratos inteligentes para definir condições programáticas para acesso ao conteúdo."

Embora os detalhes aqui sejam um tanto vagos, a ideia parece ser que o Verify servirá como uma espécie de banco de dados global para plataformas de IA que vasculham a web em busca de conteúdo de notícias – fornecendo uma maneira para as plataformas de IA obterem autenticidade e para os editores controlarem seu conteúdo. por trás de restrições de licenciamento e acesso pago.

A Verify provavelmente precisaria da adesão de uma massa crítica de editores e empresas de IA para que esse tipo de coisa funcionasse; por enquanto, o banco de dados inclui apenas cerca de 90.000 artigos de editoras de propriedade da Fox, incluindo Fox News e Fox Sports. A empresa também afirma que abriu a porta para outros editores adicionarem conteúdo ao banco de dados Verify, e também abriu seu código para aqueles que desejam criar novas plataformas baseadas em sua tecnologia.

Mesmo em seu estado atual, o caso de uso de licenciamento para Verify parece uma ideia sólida – especialmente à luz das espinhosas questões jurídicas que os editores e as empresas de IA estão enfrentando atualmente.

Em uma ação judicial movida recentemente contra a OpenAI e a Microsoft, o New York Times alegou que seu conteúdo foi usado sem permissão para treinar modelos de IA. O Verify poderia fornecer uma estrutura padrão para as empresas de IA acessarem conteúdo on-line, dando assim aos editores de notícias uma vantagem em suas negociações com empresas de IA.