Astrônomos descobrem uma técnica para desmascarar a inteligência artificial usando instrumentos de medição de galáxias

Em 2024, tornou-se mais fácil criar imagens realistas de pessoas geradas pela inteligência artificial, levantando preocupações sobre como estas fraudes serão detectadas. Pesquisadores da Universidade de Hull Foi revelado recentemente Uma nova forma de detectar imagens falsas criadas por inteligência artificial através da análise de reflexos nos olhos humanos. Esta tecnologia foi introduzida em Encontro Astronômico Nacional da Royal Astronomical Society Na semana passada, as ferramentas que os astrónomos usam para estudar galáxias foram adaptadas para examinar a consistência dos reflexos de luz nos nossos globos oculares.

Adegumoke Owolabi, estudante de mestrado na Universidade de Hull, liderou a pesquisa sob a supervisão do Dr. Dr.Kevin PimblettProfessor de astrofísica.

Sua técnica de detecção é baseada em um princípio simples: um par de olhos iluminados pelo mesmo conjunto de fontes de luz geralmente terá um conjunto de reflexos de luz de formato semelhante em cada olho. Muitas imagens geradas por IA até agora não levam em consideração os reflexos dos olhos, portanto, os reflexos de luz simulados são frequentemente inconsistentes entre cada olho.

De certa forma, o ângulo astronômico nem sempre é necessário para esse tipo de detecção de deepfake porque uma rápida olhada em um par de olhos em uma imagem pode revelar discrepâncias de reflexão, o que é Artistas pintam retratos Mas aplicar ferramentas astronômicas para medir e quantificar automaticamente os reflexos oculares em vídeos falsos é um novo desenvolvimento.

Detecção automatizada

Na Royal Astronomical Society Blogue Em artigo publicado pelo The Verge, Pimblett explicou que Owolabi desenvolveu uma técnica para detectar automaticamente os reflexos do globo ocular e executou as características morfológicas dos reflexos por meio de indicadores para comparar a semelhança entre os globos oculares direito e esquerdo. Suas descobertas revelaram que vídeos falsos geralmente mostram diferenças entre os olhos.

A equipe aplicou métodos da astronomia para medir e comparar os reflexos do globo ocular. E eles foram usados coeficiente de Ginigeralmente usado para Medindo a distribuição de luz em imagens de galáxiasPara avaliar a consistência dos reflexos nos pixels dos olhos. Um valor de Gini mais próximo de 0 indica que a luz está distribuída uniformemente, enquanto um valor mais próximo de 1 indica que a luz está concentrada em um único pixel.

No artigo da Royal Astronomical Society, Pimblett fez comparações entre como a forma do reflexo de um globo ocular é medida e como a forma de uma galáxia é normalmente medida em imagens de telescópio: “Para medir as formas das galáxias, analisamos se elas são centralmente compactas, se são simétricos e quão suaves são. Analisamos a distribuição da luz”.

Os pesquisadores também exploraram o uso de Parâmetros CAS (foco, assimetria, suavidade), outra ferramenta da astronomia para medir a distribuição da luz galáctica. No entanto, este método provou ser menos eficaz na identificação de olhos falsos.

A corrida armamentista na detecção

Embora a tecnologia de reflexão ocular ofereça um caminho potencial para a detecção de imagens geradas por IA, este método pode não funcionar se os modelos de IA evoluírem para incluir reflexos oculares fisicamente precisos, talvez aplicados como uma etapa posterior após a geração da imagem. Essa técnica também requer uma visão clara e aproximada dos globos oculares para funcionar.

Esta abordagem também corre o risco de produzir falsos positivos, uma vez que mesmo as imagens originais podem por vezes mostrar reflexos inconsistentes ao olho devido a condições de iluminação variáveis ​​ou técnicas de pós-processamento. Mas a análise do reflexo ocular ainda pode ser uma ferramenta útil em um kit de ferramentas maior de detecção de deepfake que também leva em consideração outros fatores, como textura do cabelo, anatomia, detalhes da pele e simetria de fundo.

Embora esta tecnologia seja promissora no curto prazo, o Dr. Pimblett alertou que não é perfeita. “Existem falsos positivos e falsos negativos; esta técnica não irá detectar tudo. Mas este método dá-nos uma base e um plano de ataque na corrida armamentista para detectar gravações falsas”, disse ele à Royal Astronomical Society.