A perda da confiança do usuário é o ponto final sem volta.

O Google (GOOG, GOOGL) apresentou na quarta-feira uma série de novos recursos de IA generativa para seu vasto ecossistema de produtos como parte de sua conferência I/O. ano passado e provar a seus usuários e investidores que é ela, e não a Microsoft (MSFT), a empresa líder na área de inteligência artificial.

Um dos principais anúncios durante o programa incluiu a adição de um recurso de composição de IA chamado Help Me Write, que ajudará você a escrever e-mails. Mas, devido ao uso de IA generativa, o vice-presidente do Google Workspace, Aparna Pappu, diz que a empresa precisa ter cuidado para não enviar respostas inadequadas ou corre o risco de perder a confiança dos usuários.

“A perda da confiança do usuário é o último ponto sem retorno”, disse ela ao Yahoo Finance. “Esta é a nossa Northstar”, a confiança do usuário não pode ser perdida. “”

A IA generativa levantou uma série de questões espinhosas, desde se tornará obsoletos trabalhos como o seu, até se deve ser permitido nas escolas. Quanta confiança os usuários podem ter na tecnologia para produzir respostas precisas aos seus prompts também se tornou um ponto de discórdia.

Babu diz que isso também é parte do motivo pelo qual o Google libera seus recursos generativos de IA para testadores confiáveis ​​antes de se tornarem públicos.

“Antes de entrarmos [general availability] Temos que testá-lo e colocá-lo no espremedor até chegar aos laboratórios [Google’s early user test program] Babu explicou que ele passa por muitos testes rigorosos de usabilidade, testes de responsabilidade e testes de segurança antes de permitirmos que um único usuário terceirizado o experimente.

As ofertas de IA generativa do Google e da Microsoft indicam especificamente que estão em estágios iniciais de teste ou que algumas das respostas podem não ser precisas. Além disso, a IA generativa em geral é propensa a “alucinações”, que é basicamente uma maneira elaborada de dizer que pode formar respostas a certas consultas de usuários aparentemente precisas, mas falsas.

Durante o segmento “60 minutos”, o chatbot do Google, Bard, alucina um livro inexistente. O CEO Sundar Pichai explicou durante o clipe que o problema é aquele que muitos chatbots têm neste momento e que os engenheiros estão tentando entender melhor.

A história continua

Para isso, Babu diz que o Google continua testando seus sistemas como forma de tentar evitar respostas erradas ou inadequadas.

“IA responsável e segura, não nasce da noite para o dia. São anos trabalhando em IA e descobrindo como fazer testes adversários”, explicou Babu. “Portanto, há basicamente uma IA responsável e segura testada na forma como construímos esses produtos.”

Um problema que Pappu diz ser exclusivo do Workspace é que ele é usado por bilhões de usuários, cada um com sua própria compreensão da tecnologia. Trazer um recurso como IA generativa para a equação sem confundir esses usuários é um quebra-cabeça em si.

“Temos 3 bilhões de usuários”, disse ela. “Temos a responsabilidade de tornar essas coisas realmente simples e fáceis de usar.”

por Daniel HollyEditor técnico do Yahoo Finance. Siga-o @funcionário

Clique aqui para as últimas notícias do mercado de ações e análises detalhadas, incluindo os eventos que movimentam as ações

Leia as últimas notícias financeiras e de negócios do Yahoo Finanças