Wikipédia + IA = Verdade? DuckDuckGo espera por isso com seu novo answerbot – Ars Technica

DuckDuckGo anunciou na quarta-feira que não deve ficar de fora da correria para incorporar IA generativa em busca Duck Assist, um serviço de resumo factual alimentado por IA, desenvolvido com tecnologia da Anthropic e da OpenAI. Está disponível gratuitamente hoje como um amplo teste beta para usuários de extensões de navegador DuckDuckGo e aplicativos de navegação. Sendo alimentada por um modelo de IA, a empresa admite que o DuckAssist pode fazer as coisas acontecerem, mas espera que isso aconteça raramente.

Veja como funciona: se um usuário do DuckDuckGo pesquisar uma pergunta que pode ser respondida pela Wikipedia, o DuckAssist pode aparecer e usar a tecnologia AI de linguagem natural para gerar um breve resumo do que encontra na Wikipedia, com links de fontes listados abaixo. O resumo aparece acima dos resultados de pesquisa normais para DuckDuckGo em uma caixa especial.

A empresa posiciona o DuckAssist como uma nova forma de “respostas instantâneas” – um recurso que impede os usuários de vasculhar os resultados da pesquisa na web para encontrar informações rápidas sobre tópicos como notícias, mapas e clima. Em vez disso, o mecanismo de pesquisa fornece resultados de resposta instantânea no topo da lista usual de sites.

O DuckDuckGo não menciona o Large Language Model (LLM) ou os modelos que ele usa para criar o DuckAssist, embora possa haver alguma forma de OpenAI API. A Ars Technica entrou em contato com os representantes da DuckDuckGo para esclarecimentos. Mas Gabriel Weinberg, CEO da DuckDuckGo, explica como usar as fontes no Postagem no blog da empresa:

O DuckAssist responde a perguntas examinando um conjunto selecionado de fontes – no momento, geralmente é a Wikipedia e, às vezes, sites relacionados como Britannica – usando a indexação ativa do DuckDuckGo. Como usamos a tecnologia de linguagem natural da OpenAI e da Anthropic para resumir o que encontramos na Wikipedia, essas respostas devem responder mais diretamente à sua pergunta real do que os resultados de pesquisa tradicionais ou outras respostas instantâneas.

Como o principal ponto de venda do DuckDuckGo é a privacidade, a empresa diz que o DuckAssist é “anônimo” e afirma que não compartilha sua pesquisa ou histórico de navegação com ninguém. “Também mantemos seu histórico de pesquisa e navegação anônimo para nossos parceiros de conteúdo de pesquisa”, escreveu Weinberg, “neste caso, OpenAI e Anthropic, usados ​​para abstrair frases da Wikipedia que identificamos”. “

Se o DuckDuckGo usa a API GPT-3 ou ChatGPT do OpenAI, pode-se temer que o site envie todas as consultas do usuário para o OpenAI toda vez que for chamado. Mas, lendo nas entrelinhas, parece que apenas o artigo da Wikipédia (ou um trecho dele) está sendo enviado ao OpenAI para resumo, não a pesquisa do usuário em si. Entramos em contato com o DuckDuckGo para esclarecer essa questão também.

O DuckDuckGo descreve o DuckAssist como “o primeiro de uma série de recursos baseados em IA que esperamos lançar nos próximos meses”. Se o lançamento for bem – e ninguém o interromper com reivindicações hostis – o DuckDuckGo planeja lançar o recurso para todos os usuários de pesquisa “nas próximas semanas”.

DuckDuckGo: Risco de alucinações ‘diminuiu significativamente’

Como abordamos anteriormente no Ars, os LLMs tendem a produzir resultados falsos disfarçados, que os pesquisadores de IA chamam de “alucinações”. termo de arte no campo da inteligência artificial. As alucinações podem ser difíceis de detectar, a menos que você conheça o material que está sendo referenciado, e elas acontecem em parte porque os LLMs estilo GPT da OpenAI não distinguem entre fato e ficção em seus conjuntos de dados. Além disso, os modelos podem tirar conclusões errôneas com base em dados precisos.

Nesse ponto, o DuckDuckGo espera evitar alucinações confiando fortemente na Wikipedia como fonte: “Ao pedir ao DuckAssist para apenas resumir informações da Wikipedia e fontes relacionadas”, Weinberg Ele escreve“A possibilidade de ele ‘alucinar’ – isto é, inventar algo – é bastante diminuída.”

Embora confiar em uma fonte de informação de alta qualidade possa reduzir erros de desinformação no conjunto de dados de IA, pode não reduzir inferências falsas. E o DuckDuckGo coloca o ônus da verificação dos fatos no usuário, fornecendo um link de origem abaixo da pontuação gerada pela IA que pode ser usada para verificar sua precisão. Mas não será perfeito, e o CEO Weinberg admite: “No entanto, o DuckAssist não dará respostas exatas o tempo todo. Esperamos que ele cometa erros”.

À medida que mais empresas implantam a tecnologia LLM que pode facilmente fornecer desinformação, pode levar algum tempo e seu uso generalizado antes que empresas e clientes decidam qual nível de alucinação é tolerável em um produto com IA projetado para informar as pessoas de forma realista.