Criar fotos no Pixel Studio do Google pode facilmente sair do caminho

Pixel Studio, um aplicativo que pega mensagens de texto e as transforma em imagens, é um dos novos recursos alimentados por IA lançados na série Pixel 9. Pode ser um pequeno gadget divertido, mas pode facilmente sair do controle em nossa experiência.

Pixel Studio é um aplicativo dedicado à criação de imagens com instruções de texto. O aplicativo funciona com a mesma ideia do Gemini e do ImageFX, permitindo aos usuários inserir um prompt de texto e obter uma imagem em troca. Mas, como qualquer gerador de imagens respeitável, deve haver limites.

Numa declaração a 9 às 5 GoogleO Google explica que existem limites para o Pixel Studio e o Magic Editor “prevenir abusos”, respeitando a “intenção das reivindicações do usuário”, mesmo que sejam direcionados para criar conteúdo que “pode ofender” se o usuário perguntar diretamente ao aplicativo para fazer isso.

Pixel Studio e Magic Editor são duas ferramentas úteis destinadas a liberar sua criatividade com criação de texto para imagem e edição avançada de fotos em dispositivos Pixel 9. Projetamos nossas ferramentas generativas de IA para respeitar a intenção das solicitações do usuário. que pode ofender quando o usuário solicitar. Porém, nada é permitido. Temos ferramentas claras Políticas e Termos de Serviço Em relação aos tipos de conteúdo que permitimos ou não, e à criação de salvaguardas para evitar abusos. Ocasionalmente, as reclamações podem desafiar as protecções destas ferramentas e continuamos empenhados em melhorar e melhorar continuamente as nossas salvaguardas.

Isto é semelhante ao que acontece no Gemini, que inclui salvaguardas contra conteúdo ofensivo ou divisivo. Por exemplo, o Google tem sido criticado pela sua representação imprecisa de pessoas num contexto histórico, levando o Google a desativar “temporariamente” a capacidade de criar imagens de pessoas, como tem feito nos últimos meses.

Assim como o Gemini, o Pixel Studio não pode criar fotos de pessoas, mas descobrimos que o aplicativo pode rapidamente Eles são facilmente desviados do caminho.

Antes do embargo de revisão do Pixel 9 de hoje, descobrimos que o Pixel Studio era capaz de criar imagens de personagens de desenhos animados vestindo uniformes militares alemães da Segunda Guerra Mundial, em alguns casos com símbolos nazistas. Outro exemplo perturbador e perturbador que vimos (de pessoas em Tendências digitais Uma pessoa (que descobriu esses problemas pela primeira vez) viu um personagem atirando em uma escola cercada por crianças mortas, o que o Google Models não deveria ter sido capaz de gerar em primeiro lugar.

Desde que esses resultados foram mostrados inicialmente, parece que os prompts usados ​​para criá-los foram bloqueados pelo Google em nosso Pixel 9 Pro XL, mas… Tendências digitais Eles dizem que ainda podem usar alguns deles.

Tudo isso significa que as barreiras no Pixel Studio se transformarão efetivamente em um jogo interminável de deslizamento. Em algum lugar, de alguma forma, uma mensagem entrará furtivamente e criará algo que um aplicativo não deveria ser capaz de fazer se usar as mesmas barreiras do Gemini – verificamos com o Google e a empresa diz que “todas” as ferramentas de texto para imagem “compartilham semelhantes diretrizes Para uso proibido”, com link para Política de inteligência artificial.

Realisticamente, esse tipo de coisa é inevitável com a geração de imagens de IA. É um problema que quase todos os geradores de imagens de IA enfrentarão até certo ponto. Como Abner Lee explicou em sua análise do Pixel 9 Pro hoje cedo:

Quanto ao Pixel Studio, geralmente acho que a criação de imagens é uma ladeira escorregadia onde os negativos superam os positivos. Você certamente pode fazê-lo produzir conteúdo questionável e não acho que nenhuma proteção possa impedir isso.

Mais sobre o Google Pixel 9:

Siga Ben: Twitter/X, Tópicose Instagram