Você tem um sósia gerado por IA vivendo online?

• A IA avançada está produzindo sósias digitais altamente realistas, levantando questões importantes sobre segurança de identidade e privacidade pessoal.
• A criação de sósias de IA levanta preocupações éticas significativas, especialmente em relação à autenticidade e à falta de consentimento na replicação da semelhança de alguém.
• Os quadros legais atuais têm dificuldade em lidar com as questões únicas apresentadas por imagens geradas por IA, revelando uma necessidade premente de regulamentações atualizadas para proteger os direitos individuais.
• A ExpressVPN, conhecida por seu serviço premium de download de VPN, investiga o mundo em evolução dos sósias de IA, enfatizando a necessidade de consentimento do usuário e proteções robustas de privacidade.
• Embora os sósias de IA possam revolucionar a aprendizagem personalizada e o suporte à saúde mental, seu desenvolvimento e uso requerem uma cuidadosa consideração ética e uma forte supervisão regulatória para garantir que beneficiem a sociedade sem comprometer a privacidade individual.

Lembra-se do Lensa AI? Em dezembro de 2022, os feeds das redes sociais foram inundados com imagens estranhamente bonitas de nossos amigos em cenários fantásticos, graças a um aplicativo de fotos alimentado por IA que estava fazendo o maior sucesso na época.

Embora fazer essas imagens fosse divertido, e se o seu rosto fosse usado de maneira semelhante, mas sem a sua permissão? Essa é uma possibilidade real, com muitas pessoas agora tendo usado serviços que escaneiam seus rostos e poucas regulamentações supervisionando o que é e o que não é permitido quando se trata de possuir sua semelhança.

Bem-vindo ao mundo dos sósias gerados por IA, onde seu gêmeo digital pode já existir nas vastas redes da Internet sem você nem perceber. Quais são as implicações dos sósias de IA para a identidade pessoal quando o seu rosto pode ser duplicado sem o seu consentimento? E como lidamos com a linha tênue entre o real e o artificialmente gerado?

Vamos descobrir.

Ir para…

Como os rostos gerados por IA evoluíram

O fenômeno dos sósias

Implicações legais e éticas

Enfrentando os desafios dos sósias de IA

Como você pode proteger sua identidade digital

Ter um sósia de IA pode ser algo bom?

Como os rostos gerados por IA evoluíram

A jornada da IA na criação de rostos hiperrealistas remonta a avanços significativos na aprendizagem de máquina, particularmente com a introdução das Redes Generativas Adversárias (GANs) no meio da década de 2010. Inicialmente desenvolvidas para criar arte digital, as GANs envolvem duas redes neurais competindo entre si: uma gera novas imagens, enquanto a outra avalia seu realismo. Essa tecnologia rapidamente se estendeu além da arte, aprimorando sistemas de visão computacional e fornecendo simulações realistas para o treinamento de IA.

A aplicação das GANs atingiu um novo nível de interação pública com o lançamento do site ThisPersonDoesNotExist pelo desenvolvedor de software Phillip Wang. No site, a cada atualização é gerado um novo rosto, realista, mas completamente fictício, mostrando o poder e a criatividade da tecnologia GAN. Wang, inspirado por uma conversa com o pesquisador de IA, Ian Goodfellow, usou um modelo desenvolvido pelo Nvidia, A.I. Labs para treinar seu algoritmo com mais de 70.000 imagens de alta resolução, resultando em rostos que desafiam nossas noções de originalidade e autenticidade.

Hiper-realismo em ação  

Os rostos gerados por IA de hoje, que em estudos são considerados mais reais do que os rostos humanos reais, são elaborados não apenas para impressionar, mas para serem usados em materiais visuais de publicidade e marketing. Não apenas parecem reais, mas também podem ser criados rapidamente e quase sem custo. Esses seres digitais oferecem uma alternativa eficiente aos modelos humanos.

Um exemplo prático da eficiência da IA no âmbito comercial é Aitana Lopez, uma modelo totalmente gerada por IA com mais de 311.000 seguidores no Instagram. Criada pelo The Clueless, uma agência de design de Barcelona, Lopez atua como uma influenciadora que interage com fãs e promove produtos reais. A agência disse que criou Lopez porque o personagem oferece confiabilidade e eficiência, reduzindo os custos e desafios logísticos de contratar modelos humanos.

O fenômeno dos sósias de IA

Como vimos com a evolução dos rostos gerados por IA, as capacidades da IA alcançaram novos patamares impressionantes, aproveitando algoritmos avançados para produzir figuras digitais hiper-realistas. Essa transição da arte digital tradicional para a criação de modelos interativos e realistas mostra um salto significativo na tecnologia de IA. Mas, ao explorarmos isso mais profundamente, encontramos um fenômeno que mescla o fantástico com o familiar: os sósias de IA.

O conceito de um sósia (doppelgänger) — alguém que espelha sua aparência arrepiantemente, mas não tem relação com você — deriva do termo alemão “duplo”, onde os sósias fantasmas tradicionalmente serviam como prenúncios sombrios acreditados para prever o infortúnio ou a morte de uma pessoa. Hoje, esse conceito antigo passou por uma transformação tecnológica. Usando a IA, semelhanças de pessoas reais estão sendo criadas digitalmente, potencialmente para liderar uma existência online separada.

Por exemplo, na indústria do entretenimento, a IA tem sido usada para criar versões digitais de atores falecidos para filmes, trazendo personagens nostálgicos de volta à tela. Um exemplo notável é Peter Cushing em Star Wars: Rogue One, onde a IA e CGI foram usadas para recriar sua aparência como Grand Moff Tarkin, apesar do ator ter falecido em 1994.

Estamos alimentando a IA com nossos eus digitais

Aplicativos como o Lensa AI popularizaram a transformação de selfies comuns em retratos estilizados reminiscentes de reinos da alta fantasia. Esses aplicativos utilizam algoritmos de IA avançados treinados em vastos conjuntos de dados de estilos artísticos e características humanas, permitindo que repliquem e reimaginem nossos rostos em várias formas criativas.

Essa fascinação inicial desde então se transformou em aplicações mais sérias. A IA agora nos ajuda a selecionar nossas imagens profissionais; ela cria a foto perfeita para o LinkedIn, personaliza currículos e até produz conteúdo de vídeo personalizado para branding. O que começou como um experimento divertido com nossas identidades digitais evoluiu para uma ferramenta de autoapresentação pessoal e profissional.

No atendimento ao cliente, os sósias de IA também estão se tornando uma realidade. Empresas estão empregando agentes digitais impulsionados por IA que podem interagir com os clientes usando as expressões faciais e vozes de representantes de atendimento ao cliente humanos, proporcionando uma experiência personalizada e envolvente para o cliente.

A mesma tecnologia também está nos ajudando a criar deepfakes. Essas imagens, vídeos e clipes de voz gerados por IA altamente realistas e convincentes podem retratar falsamente qualquer pessoa em cenários fabricados.

Com cada selfie enviada, cada clipe de voz compartilhado e cada vídeo postado, estamos contribuindo ativamente para a IA que aprende incessantemente a partir de nossas migalhas digitais. Quando carregamos fotos em redes sociais ou diretamente em sistemas de IA, essas imagens são armazenadas e passam por uma transformação que as torna de instantâneos em dados valiosos para o treinamento de IA. Veja como esse processo funciona:

1. Nossos uploads digitais fornecem o material bruto para o aprendizado de IA.
2. Essas imagens são então etiquetadas e categorizadas, às vezes até mesmo anonimizadas, para prepará-las para as próximas etapas.
3. As imagens etiquetadas alimentam algoritmos como GANs, que aprendem progressivamente a reconhecer e replicar características humanas.
4. A IA usa esse treinamento para criar novos rostos únicos que podem ser estranhamente realistas, familiares ou estilisticamente alterados, mas baseados em pessoas reais.

Isso significa que a IA pode potencialmente criar uma versão de IA sua com apenas pequenas diferenças — ou seja, seu sósia de IA — e você pode nunca saber nada sobre isso. Isso levanta preocupações éticas significativas sobre quem controla e usa nossas semelhanças digitais. Quando a IA pode replicar nossos rostos para anúncios ou campanhas políticas sem nosso consentimento explícito, ela borra as linhas entre autonomia pessoal e exploração tecnológica.

Isso destaca questões urgentes: quem realmente controla essas imagens geradas por IA? Quem possui os direitos sobre essas identidades digitais?

Implicações legais e éticas dos sósias de IA

A ascensão dos sósias de IA traz consigo uma série de desafios legais e éticos, especialmente no que diz respeito à propriedade e controle. Essas entidades digitais, que se assemelham a indivíduos reais, navegam por uma área nebulosa entre criação original e replicação direta, expondo lacunas significativas nos atuais frameworks de direitos autorais e de identidade.

Incertezas legais

Os sistemas legais atuais estão mal equipados para lidar com as questões novas colocadas pela IA. Nos Estados Unidos, por exemplo, a dependência de leis de direitos autorais antiquadas significa que aspectos significativos do conteúdo gerado por IA permanecem largamente não testados nos tribunais. Esse cenário reflete os desafios legais iniciais enfrentados durante o surgimento da arte de IA, sugerindo que a sociedade precisa de novos precedentes legais para esclarecer os direitos autorais na era da IA.

Vejamos o caso de Scarlett Johansson, que moveu um processo contra um aplicativo de IA chamado Lisa AI: 90s Yearbook & Avatar por usar sua semelhança sem permissão em sua publicidade. O aplicativo criou um anúncio que dava a entender que Johansson endossava o produto, causando confusão e potencial dano à sua reputação. A ação legal tomada por Johansson levou à remoção do anúncio das plataformas online, destacando as batalhas legais enfrentadas por celebridades ao navegarem pelo uso não autorizado de suas semelhanças digitais.

Enquanto isso, o AI Act da UE, embora um passo em direção à clareza regulatória, ainda carece de disposições específicas para a propriedade de conteúdo gerado por IA, indicando uma abordagem fragmentada para os desafios emergentes.

Complexidades de direitos autorais

O desafio com o conteúdo gerado por IA é identificar a originalidade e autoria. Dado que a IA remixa frequentemente dados existentes para criar algo novo, ficamos nos perguntando: a saída é original ou apenas um derivado de seus dados de treinamento? A doutrina de “uso justo” dos EUA oferece alguma margem para usar material protegido por direitos autorais para criar obras transformadoras, mas os limites do que é considerado “transformador” continuam sendo um tema quente de debate jurídico.

Reconhecendo essas questões, algumas empresas estão forjando parcerias para garantir que os criadores originais sejam compensados pelo uso de seu trabalho no treinamento de modelos de IA — mas isso é apenas um pequeno punhado de organizações.

Considerações éticas

Além das questões legais, as implicações éticas são profundas. Se uma IA pode criar um sósia que quase perfeitamente imita uma pessoa sem seu consentimento, desafia a própria noção de identidade pessoal. Isso não apenas desencadeia um debate sobre o uso ético desse tipo de tecnologia, mas também apresenta riscos práticos para privacidade, segurança e liberdade.

Por exemplo, um vídeo gerado por IA pode mostrar uma pessoa envolvida em comportamentos que ela nunca fez realmente, como frequentar eventos controversos ou se envolver em atividades ilegais. Esse tipo de uso indevido pode levar a constrangimento público, estigmatização ou consequências pessoais graves sem que a pessoa tenha participado das ações retratadas.

Além disso, em casos graves, um sósia digital pode ser usado para acessar uma instalação segura ou contas digitais, levando ao roubo de identidade ou acesso não autorizado a informações sensíveis. As implicações são especialmente graves em contextos envolvendo segurança nacional ou espionagem corporativa.

Riscos de uso indevido 

O surgimento dos sósias digitais também traz consigo riscos significativos de uso indevido. O uso não autorizado da semelhança digital de alguém para anúncios ou campanhas políticas sem consentimento infringe os direitos pessoais e borra as linhas éticas. Isso não apenas representa riscos de falsificação e fraude, mas também impacta reputações pessoais e profissionais, exigindo proteções legais rigorosas para proteger os indivíduos contra tais abusos.

Por exemplo, houve preocupações generalizadas sobre o uso potencial de deepfakes para fabricar declarações ou ações de figuras políticas. O medo é que esses vídeos possam ser usados para enganar eleitores ou manchar a reputação de oponentes políticos, especialmente à medida que a tecnologia se torna mais acessível e convincente.

Enfrentando os desafios dos sósias digitais de IA

À medida que a IA se torna cada vez mais habilidosa em criar duplicatas digitais que são quase indistinguíveis de humanos reais, a urgência por soluções acionáveis se intensifica. A grande questão que enfrentamos é: nossos sistemas legais e práticas pessoais podem evoluir rapidamente o suficiente para acompanhar esses avanços tecnológicos?

Reformulação dos quadros legais

O surgimento de semelhanças geradas por IA exige uma reavaliação urgente dos quadros legais existentes. Isso inclui reconhecer e categorizar as personas digitais como entidades distintas, o que pode exigir novos direitos e proteções. Por exemplo, legislação poderia ser proposta para reconhecer a criação de um sósia digital como um “nascimento digital”, o que poderia conceder aos indivíduos direitos legais sobre qualquer imagem gerada por IA que se assemelhe muito a eles.

• Ações legislativas: Medidas legislativas imediatas e proativas são necessárias para regular o uso de IA na criação de semelhanças. Nossas leis precisam definir claramente o que conta como uso não autorizado de imagens digitais, garantindo que os indivíduos mantenham o controle sobre suas identidades digitais. Uma abordagem poderia ser estabelecer um registro onde os indivíduos possam reivindicar e gerenciar imagens geradas por IA de si.

• Consentimento e propriedade: Estabelecer diretrizes claras sobre consentimento e propriedade é essencial. Os indivíduos devem ter o direito de serem informados e de consentir antes que suas semelhanças sejam usadas ou replicadas. Isso inclui deixar claro como seus dados estão sendo usados para treinar modelos de IA, garantindo transparência e controle.

Fortalecendo a cooperação global

A natureza global da tecnologia digital e da IA significa que enfrentar esses desafios também não pode ser confinado a nenhum país. A colaboração internacional é vital para o desenvolvimento de regulamentações abrangentes que protejam identidades digitais em todo o mundo.

• Padrões internacionais: Precisamos de um conjunto unificado de padrões e regulamentações internacionais que governem a criação e o uso de semelhanças digitais. Esses padrões devem visar harmonizar abordagens aos direitos digitais e à privacidade, garantindo proteção para indivíduos em todo o mundo.
• Quadros legais transfronteiriços: Os esforços também devem se concentrar em estabelecer quadros legais transfronteiriços que abordem e penalizem o uso não autorizado de semelhanças digitais internacionalmente. Isso ajudaria a evitar que entidades explorem lacunas regulatórias entre diferentes jurisdições.

Como você pode proteger sua identidade digital

Enquanto a sociedade busca melhores reformas legais relacionadas à IA, existem medidas proativas que você pode tomar agora para proteger sua identidade online:

• Seja seletivo com seus dados: Pense duas vezes antes de compartilhar informações pessoais e fotos online. Cada pedaço de dados pode ser usado para treinar sistemas de IA, incluindo a criação de semelhanças digitais. Limite o compartilhamento a instâncias essenciais e prefira plataformas seguras e que respeitem a privacidade sempre que possível.
• Revise e restrinja as permissões de aplicativos: Audite regularmente as permissões concedidas a aplicativos móveis e serviços online. Restrinja o acesso à sua câmera, microfone e biblioteca de fotos, a menos que seja absolutamente necessário — e esteja sempre atento a aplicativos que solicitem mais informações do que precisam para funcionar.
• Use ferramentas de mascaramento de dados: Considere o uso de serviços que mascaram ou alteram levemente suas fotos para evitar que a IA as use com precisão para criar modelos digitais. Essas ferramentas podem mudar sutilmente detalhes da imagem de maneiras invisíveis ao olho humano, mas disruptivas para os algoritmos de IA.
• Participe de limpezas digitais: Revise periodicamente sua presença online. Remova contas antigas e fotos desnecessárias das redes sociais e considere limpar pegadas digitais que não servem mais a um propósito, mas podem ser exploradas.
• Defenda políticas melhores: Mantenha-se informado sobre políticas de privacidade digital e apoie legislações que protejam dados pessoais. Participe de campanhas e assine petições que exijam regulamentações mais rigorosas sobre conteúdo gerado por IA e uma maior transparência sobre como os dados pessoais são usados.
• Eduque-se e eduque sua comunidade: O conhecimento é poder. Aproveite os recursos gratuitos para aprender mais sobre tecnologia de IA e suas implicações de privacidade. Compartilhe esse conhecimento em sua comunidade para aumentar a conscientização e ajudar outros a entender os riscos e defesas contra o uso indevido de IA.
• Monitore o uso indevido: Configure alertas do Google para seu nome e pesquise regularmente suas imagens online para ver se elas aparecem em contextos não autorizados. Diversas ferramentas e plataformas podem ajudá-lo a monitorar onde e como sua semelhança está sendo usada.

Ter um sósia de IA pode ser algo bom?

Como vimos, os sósias gerados por IA levantam preocupações significativas sobre privacidade e controle de dados pessoais. A habilidade da IA de replicar nossas semelhanças de forma tão precisa apresenta uma série de questões éticas que exigem consideração cuidadosa e supervisão rigorosa. Mas, ao lado desses desafios, poderia haver usos positivos para essa tecnologia? Potencialmente, sim.

Os sósias de IA poderiam, por exemplo, revolucionar como aprendemos e interagimos com informações. Assistentes de aprendizado personalizados, adaptados para corresponder aos estilos e ritmos de aprendizagem de cada aluno, poderiam tornar a educação mais acessível e eficaz para todos. Essas entidades de IA poderiam simular diferentes metodologias de ensino para encontrar aquela que funciona melhor para cada aluno, transformando potencialmente os resultados educacionais.

Em termos de saúde mental, os sósias de IA poderiam um dia servir como auxílios terapêuticos. Eles poderiam ser programados para fornecer suporte psicológico, praticar conversas ou ajudar indivíduos a desenvolver habilidades sociais em um ambiente de baixa pressão. Para aqueles lidando com isolamento ou condições específicas de saúde mental, uma IA responsiva que entende e reage com empatia poderia ser uma fonte significativa de apoio.

Além disso, os sósias de IA poderiam ajudar em ambientes profissionais, lidando com tarefas e interações rotineiras que permitem que os funcionários humanos se concentrem em trabalhos mais complexos e criativos. Isso poderia levar a uma maior eficiência no local de trabalho e permitir que os trabalhadores se envolvam mais profundamente com aspectos de seus empregos que requerem insights e criatividade humanos.

No entanto, para que esses benefícios sejam plenamente realizados sem comprometer nossos padrões éticos, regulamentações fortes e diretrizes claras devem primeiro estar firmemente estabelecidas. Este quadro deve garantir transparência na forma como os sósias de IA são desenvolvidos e usados, com medidas rigorosas para proteger os dados individuais e prevenir o uso indevido. Somente nessas condições o potencial positivo dos sósias de IA pode ser aproveitado com segurança e eficácia.

O que você acha sobre os sósias de IA? Os benefícios desse tipo de tecnologia poderiam superar as preocupações éticas e legais que ela levanta? Nos conte nos comentários abaixo.