Estudos consideram ‘impossível’ criar marcas d’água de IA ‘confiáveis’: problema ‘muito sofisticado’ nwnews

As actuais medidas de segurança concebidas para garantir que o material gerado pela inteligência artificial (IA) seja claramente rotulado não cumprem uma norma adequada e podem não ser possíveis com a tecnologia actual, alerta um especialista.

“Não há interesse e é difícil de fazer”, disse Michael Wilkowski, diretor de tecnologia da plataforma de conformidade bancária Silent Eight, baseada em IA, à Fox News Digital, enfatizando que, em sua opinião, é “na verdade quase impossível descobrir” se algo foi gerado por IA ou não.

O método atual de aplicação de uma marca d’água à primeira vista parece mais avançado do que o método tradicional, que aplicaria uma marca física sobre o material para deixar claro e óbvio que a marca d’água existe. Em vez disso, o material gerado por IA possui um código incorporado.

As empresas de IA têm defendido a marca d’água digital como um meio de combater as preocupações de que imagens e vídeos gerados por IA acabem confundindo a linha entre conteúdo autêntico e gerado, com todos, desde OpenAI até Meta, comprometendo-se a trabalhar na tecnologia, informou a revista Wired.

CONSELHO DE DIREITOS AUTORAIS TOMA DECISÃO SOBRE IMAGEM PREMIADA

Mas estudos de várias universidades americanas descobriram que é não apenas possível, mas relativamente acessível, para os usuários remover ou “quebrar” as marcas d’água. Pesquisadores da Universidade da Califórnia, Santa Bárbara e Carnegie Mellon descobriram em agosto que as marcas d’água eram “provavelmente removíveis” – não apenas exemplos específicos, mas qualquer exemplo que encontrassem.

“Nossa análise teórica provou que o ataque de regeneração proposto é capaz de remover qualquer marca d’água invisível das imagens e tornar a marca d’água indetectável por qualquer algoritmo de detecção”, concluiu o estudo.

Nota de cem dólares

Uma simulação de marca d’água é mostrada em uma nota falsa de US$ 100 no Serviço Secreto dos EUA em Washington, DC, em 12 de março de 2014. (Andrew Harrer/Bloomberg via Getty Images)

O “ataque de regeneração”, como indica o nome, funciona introduzindo “ruído” na imagem – destruindo efetivamente parte da imagem com a marca d’água – e depois reconstruindo a imagem. O estudo determinou que esta abordagem era “flexível e pode ser instanciada com muitos algoritmos de remoção de ruído de imagem existentes e modelos generativos pré-treinados”.

A Universidade de Maryland conduziu em setembro seu próprio estudo e no mesmo processo, determinando que “não temos nenhuma marca d’água confiável neste momento” e dizendo que a equipe “quebrou todas elas”.

O QUE É INTELIGÊNCIA ARTIFICIAL (IA)?

A equipe de Maryland não apenas demonstrou a capacidade de remover a marca d’água, mas também mostrou como eles poderiam “falsificar” ou enganar os detectores, mostrando múltiplas falhas em vários aspectos do processo para torná-lo, na melhor das hipóteses, defeituoso.

“Se alguém tem a tecnologia… o problema é que um mau ator pode usar exatamente as mesmas ferramentas ou algoritmo(s)”, disse Wilkowski, observando que muitos dos modelos e ferramentas de IA acabam “amplamente disponíveis” para uso.

IA quântica do Google

No laboratório Quantum AI do Google, as pessoas trabalham entre paredes de escalada e bicicletas elétricas típicas de empresas de tecnologia para moldar a próxima geração de computadores. (Frederic J. Brown/AFP via Getty Images/Arquivo)

“Se alguém puder implementar as ferramentas para verificar (a marca d’água), os malfeitores poderão realmente construir ferramentas para remover as marcas d’água”, acrescentou, dizendo que os modelos baseados em algoritmos de aplicação ou detecção de marcas d’água são especialmente vulneráveis, pois simplesmente precisam de “outro algoritmo” para neutralizá-lo.

Isso serve apenas para observar a dificuldade em discernir se a mídia visual é gerada por IA. Quando se trata de texto ou mesmo de algo tão complexo como transações comerciais, o processo não existe, segundo Wilkowski.

PAPEL REVELA O SEGREDO PARA VIRAR A MESA NAS MENTES DOS AI BOTS

Sua empresa só pode determinar o material de texto gerado por IA por meio de exames para determinar possíveis fontes do material, uma vez que o material gerado por IA não é original, mas baseado em material já existente para treinar os modelos.

Um dos problemas que as empresas de segurança enfrentam é que, à medida que os métodos de detecção melhoram, também melhoram os métodos para evitar a detecção. Se um mecanismo criar um determinado limiar para determinar se deve desencadear uma investigação sobre transacções e actividades comerciais suspeitas, os maus actores simplesmente encontrarão uma forma de conduzir os seus negócios logo abaixo do limiar.

Pregão da Bolsa de Valores de NY

Esta visualização mostra o pregão durante a listagem da TKO Group Holdings na Bolsa de Valores de Nova York em 12 de setembro de 2023, na cidade de Nova York. (Michelle Farsi/Zuffa LLC)

A polícia espanhola e a Interpol desmantelaram no ano passado uma rede de apostas que manipulava as apostas desportivas, sequestrando o sinal de satélite das arenas desportivas para observar o que estava a acontecer antes mesmo que os corretores pudessem ver e ajustar as suas probabilidades. As autoridades só perceberam que algo estava errado depois de perceberem algumas apostas anormalmente grandes em torno de um torneio de pingue-pongue.

CLIQUE AQUI PARA OBTER O APLICATIVO FOX NEWS

“Tornamo-nos cada vez mais inteligentes ao descobrir que é mais sofisticado do que era há 10 anos”, disse Wilkowski.

“Trata-se de descobrir irregularidades; trata-se de descobrir que alguém fez uma transferência bancária no meio da noite ou que alguém fez transferências bancárias de um lugar completamente diferente no mundo quando, na verdade, há poucos minutos eles estavam em uma posição completamente diferente ,” ele adicionou. “É tudo uma questão de processamento de big data… é muito sofisticado.”

Source link

Check Also

Stanley tem uma grande promoção na Amazon – 7 ótimas ofertas que eu compraria agora por apenas US$ 22 nwnews

A Stanley é uma empresa conhecida por suas garrafas e copos de água modernos, coloridos …

Leave a Reply

Your email address will not be published. Required fields are marked *