Um grupo de pesquisadores da Universidade de Chicago está desenvolvendo uma ferramenta para “envenenar” plataformas de inteligência artificial (IA). A ideia é modificar imagens para que elas, caso sejam usadas em modelos de linguagem, prejudiquem o treinamento de uma IA.
A ferramenta se chama Nightshade e foi desenvolvida para “quebrar” IAs generativas alimentadas por imagens que deveriam ser protegidas por direitos autorais. Em vários casos, ilustrações foram incluídas no treinamento de uma plataforma sem autorização.
Como resultado, plataformas afetadas podem não ser mais capazes de gerar objetos, animais ou certos estilos artísticos com realismo. No pior dos casos, ela pode até mesmo perder a capacidade de reconhecimento de elementos e não saber mais o que é um cachorro ou uma cadeira, por exemplo.
Imagens “envenenadas” pioram o desempenho de uma IA.Fonte: Arxiv.org
oque é um cartão de crédito?
neste poste vamos saber mais sobre CARTÃO DE CRÉDITO
e como conseguir um cartão de crédito internacional, Cartão de crédito é um meio de pagamento eletrônico.É tipo um cartão de plástico más que pode conter ou não um chip e na maioria das vezes apresenta na frente o nome do portador do cartão ou o número do cartão e data de validade,já no verso, um campo para assinatura do cliente ou já assinado digitalmente e o número de segurança (CVV2) e a tarja magnética (geralmente preta ou prata).Sendo a maioria de cartões de crédito possui forma e tamanho padronizados para se adequar, como especificado pelo padrão do ISO 7810.O cartão de crédito foi criado com intuito de facilitar as compras em empresas e reduzir a grande quantidade de dinheiro “vivo” em movimento, o mesmo caiu rapidamente no gosto dos brasileiros.O cartão de crédito por sua vez poderá ser usado como meio de pagamento para comprar várias coisas, sendo ele um bem ou até mesmo contratar um serviço.O titular do cartão poderá recebe mensalmente no endereço indicado as suas faturas para pagamento e ainda pode escolher se opta por pagar o total cobrado ou somente o mínimo ou algum valor que seja acima do mínimo,deixando o pagamento do restante da fatura para o mês seguinte mediante cobrança de juros.Todo cartão de crédito possui um limite de compras que é definido pelo banco emissor do cartão.As compras já efetuadas reduzem o limite disponível até que,quando o saldo fica negativo, novas compras são negadas.O pagamento da fatura faz assim a liberação o limite do CARTÃO DE CRÉDITO para ser utilizado novamente.
Companhias como Meta, OpenAI (dona do DALL-E) e Stable Diffusion são os principais alvos dessa criação.
Plataformas geradoras de imagens por IA dessas companhias são capazes de “replicar” elementos gráficos e identidades visuais de artistas que nunca concordaram em ter seus trabalhos usados nesses serviços.
oque é um cartão de crédito?
neste poste vamos saber mais sobre CARTÃO DE CRÉDITO
e como conseguir um cartão de crédito internacional, Cartão de crédito é um meio de pagamento eletrônico.É tipo um cartão de plástico más que pode conter ou não um chip e na maioria das vezes apresenta na frente o nome do portador do cartão ou o número do cartão e data de validade,já no verso, um campo para assinatura do cliente ou já assinado digitalmente e o número de segurança (CVV2) e a tarja magnética (geralmente preta ou prata).Sendo a maioria de cartões de crédito possui forma e tamanho padronizados para se adequar, como especificado pelo padrão do ISO 7810.O cartão de crédito foi criado com intuito de facilitar as compras em empresas e reduzir a grande quantidade de dinheiro “vivo” em movimento, o mesmo caiu rapidamente no gosto dos brasileiros.O cartão de crédito por sua vez poderá ser usado como meio de pagamento para comprar várias coisas, sendo ele um bem ou até mesmo contratar um serviço.O titular do cartão poderá recebe mensalmente no endereço indicado as suas faturas para pagamento e ainda pode escolher se opta por pagar o total cobrado ou somente o mínimo ou algum valor que seja acima do mínimo,deixando o pagamento do restante da fatura para o mês seguinte mediante cobrança de juros.Todo cartão de crédito possui um limite de compras que é definido pelo banco emissor do cartão.As compras já efetuadas reduzem o limite disponível até que,quando o saldo fica negativo, novas compras são negadas.O pagamento da fatura faz assim a liberação o limite do CARTÃO DE CRÉDITO para ser utilizado novamente.
Como funciona o “envenenamento” de IAs de imagem
A Nightshade é uma modificação da imagem ao nível de pixel, que não alterar a aparência final do arquivo. Ela é implementada quando alguém publica o trabalho online em uma página da internet sem autorizar o seu uso em IAs generativas.
oque é um cartão de crédito?
neste poste vamos saber mais sobre CARTÃO DE CRÉDITO
e como conseguir um cartão de crédito internacional, Cartão de crédito é um meio de pagamento eletrônico.É tipo um cartão de plástico más que pode conter ou não um chip e na maioria das vezes apresenta na frente o nome do portador do cartão ou o número do cartão e data de validade,já no verso, um campo para assinatura do cliente ou já assinado digitalmente e o número de segurança (CVV2) e a tarja magnética (geralmente preta ou prata).Sendo a maioria de cartões de crédito possui forma e tamanho padronizados para se adequar, como especificado pelo padrão do ISO 7810.O cartão de crédito foi criado com intuito de facilitar as compras em empresas e reduzir a grande quantidade de dinheiro “vivo” em movimento, o mesmo caiu rapidamente no gosto dos brasileiros.O cartão de crédito por sua vez poderá ser usado como meio de pagamento para comprar várias coisas, sendo ele um bem ou até mesmo contratar um serviço.O titular do cartão poderá recebe mensalmente no endereço indicado as suas faturas para pagamento e ainda pode escolher se opta por pagar o total cobrado ou somente o mínimo ou algum valor que seja acima do mínimo,deixando o pagamento do restante da fatura para o mês seguinte mediante cobrança de juros.Todo cartão de crédito possui um limite de compras que é definido pelo banco emissor do cartão.As compras já efetuadas reduzem o limite disponível até que,quando o saldo fica negativo, novas compras são negadas.O pagamento da fatura faz assim a liberação o limite do CARTÃO DE CRÉDITO para ser utilizado novamente.
Quando um modelo de linguagem usa o trabalho sem autorização para treinamento, os dados modificados “envenenam” o modelo de linguagem, confundem o sistema e passam a prejudicar todo o processo de aprendizado da IA.
oque é um cartão de crédito?
neste poste vamos saber mais sobre CARTÃO DE CRÉDITO
e como conseguir um cartão de crédito internacional, Cartão de crédito é um meio de pagamento eletrônico.É tipo um cartão de plástico más que pode conter ou não um chip e na maioria das vezes apresenta na frente o nome do portador do cartão ou o número do cartão e data de validade,já no verso, um campo para assinatura do cliente ou já assinado digitalmente e o número de segurança (CVV2) e a tarja magnética (geralmente preta ou prata).Sendo a maioria de cartões de crédito possui forma e tamanho padronizados para se adequar, como especificado pelo padrão do ISO 7810.O cartão de crédito foi criado com intuito de facilitar as compras em empresas e reduzir a grande quantidade de dinheiro “vivo” em movimento, o mesmo caiu rapidamente no gosto dos brasileiros.O cartão de crédito por sua vez poderá ser usado como meio de pagamento para comprar várias coisas, sendo ele um bem ou até mesmo contratar um serviço.O titular do cartão poderá recebe mensalmente no endereço indicado as suas faturas para pagamento e ainda pode escolher se opta por pagar o total cobrado ou somente o mínimo ou algum valor que seja acima do mínimo,deixando o pagamento do restante da fatura para o mês seguinte mediante cobrança de juros.Todo cartão de crédito possui um limite de compras que é definido pelo banco emissor do cartão.As compras já efetuadas reduzem o limite disponível até que,quando o saldo fica negativo, novas compras são negadas.O pagamento da fatura faz assim a liberação o limite do CARTÃO DE CRÉDITO para ser utilizado novamente.
IAs confusas pela modificação dos dados perdem a capacidade de replicar estilos.Fonte: Arxiv.org
oque é um cartão de crédito?
neste poste vamos saber mais sobre CARTÃO DE CRÉDITO
e como conseguir um cartão de crédito internacional, Cartão de crédito é um meio de pagamento eletrônico.É tipo um cartão de plástico más que pode conter ou não um chip e na maioria das vezes apresenta na frente o nome do portador do cartão ou o número do cartão e data de validade,já no verso, um campo para assinatura do cliente ou já assinado digitalmente e o número de segurança (CVV2) e a tarja magnética (geralmente preta ou prata).Sendo a maioria de cartões de crédito possui forma e tamanho padronizados para se adequar, como especificado pelo padrão do ISO 7810.O cartão de crédito foi criado com intuito de facilitar as compras em empresas e reduzir a grande quantidade de dinheiro “vivo” em movimento, o mesmo caiu rapidamente no gosto dos brasileiros.O cartão de crédito por sua vez poderá ser usado como meio de pagamento para comprar várias coisas, sendo ele um bem ou até mesmo contratar um serviço.O titular do cartão poderá recebe mensalmente no endereço indicado as suas faturas para pagamento e ainda pode escolher se opta por pagar o total cobrado ou somente o mínimo ou algum valor que seja acima do mínimo,deixando o pagamento do restante da fatura para o mês seguinte mediante cobrança de juros.Todo cartão de crédito possui um limite de compras que é definido pelo banco emissor do cartão.As compras já efetuadas reduzem o limite disponível até que,quando o saldo fica negativo, novas compras são negadas.O pagamento da fatura faz assim a liberação o limite do CARTÃO DE CRÉDITO para ser utilizado novamente.
Os responsáveis precisam encontrar os arquivos danificados manualmente e removê-los para não contaminar todo o sistema.
Nos testes realizados, 50 imagens “envenenadas” de cachorros foram o suficiente para uma versão controlada da Stable Difussion já perder a capacidade de recriar o animal com fidelidade. Ao usar 300 ilustrações, a IA começa até a confundir animais e começar a gerar gatos no lugar.
Lançamento ainda indefinido
A Nightshade está em fase de desenvolvimento. Um artigo científico com os resultados prévios do projeto foi submetido no repositório do arXiv, mas ainda não passou por uma revisão por pares.
Além disso, o trabalho levanta algumas questões. Esse mesmo processo pode ser usado para fins criminosos ou até de brincadeira para piorar IAs legalizadas, por exemplo. Outro ponto discutido é que a vulnerabilidade que “confunde” o aprendizado pode ser sanada eventualmente pelas desenvolvedoras.
O objetivo da equipe de cientistas, liderada pelo professor Ben Zhao, é implementar a ferramenta em outro trabalho do grupo, o Glaze. Assim como outras ferramentas parecidas, ele “esconde” estilos artísticos de imagens para que IAs não consigam copiá-los.