ChatGPT recebe ‘olhos e ouvidos’ com plugins que podem interagir entre IA e o mundo – Ars Technica

Na quinta-feira, OpenAI anunciar Um sistema de plug-in para seu próprio assistente ChatGPT AI. Os plug-ins dão ao ChatGPT a capacidade de interagir com o mundo on-line mais amplo, incluindo reserva de voos, pedidos de mantimentos, navegação na web e muito mais. Plug-ins são trechos de código que informam ao ChatGPT como usar um recurso externo na Internet.

Basicamente, se um desenvolvedor quiser dar ao ChatGPT a capacidade de acessar qualquer serviço de rede (por exemplo: “pesquisar os preços atuais das ações”) ou executar qualquer tarefa que o serviço de rede controle (por exemplo: “pedir pizza online”), agora é possível , desde que não contrarie as regras da OpenAI.

Tradicionalmente, a maioria dos Language Large Models (LLMs) como o ChatGPT foram confinados em uma bolha, por assim dizer, apenas capazes de interagir com o mundo por meio de conversas textuais com um usuário. Como OpenAI escreve em sua introdução postagem no blog Nos plug-ins do ChatGPT, “a única coisa que os idiomas de amostra podem fazer imediatamente é enviar texto”.

O Bing Chat levou esse modelo adiante, permitindo pesquisar na Web informações mais atualizadas, mas até agora o ChatGPT ainda está isolado do resto do mundo. Enquanto fechado desta forma, o ChatGPT só pode contar com dados de seu conjunto de treinamento (limitado a 2021 e anteriores) e qualquer informação fornecida pelo usuário durante a conversa. Além disso, o ChatGPT pode ser propenso a criar bugs e bugs em tempo real (o que os pesquisadores de IA chamam de “alucinações”).

Para contornar essas limitações, a OpenAI estourou a bolha e criou o Interface do plug-in ChatGPT (o que a OpenAI chama de “olhos e ouvidos do ChatGPT”) que permite aos desenvolvedores criar novos componentes que se “conectam” ao ChatGPT e permitem que o modelo de IA interaja com outros serviços na Internet. Esses serviços podem Realizar cálculos e referem-se a informações factuais para reduzir alucinações, e também podem interagir com qualquer outro serviço de software na Internet – se os desenvolvedores criarem um plug-in para essa tarefa.

De que tipo de plug-ins estamos falando?

No caso do ChatGPT, o OpenAI permitirá que os usuários escolham em uma lista de plug-ins antes de iniciar uma sessão do ChatGPT. Eles se apresentam quase como aplicativos na App Store, e cada plugin tem seu próprio ícone e descrição.

A OpenAI diz que a primeira rodada de plug-ins foi criada pelas seguintes empresas:

• Expedia (para planejamento de viagem)
• nota financeira (para dados de mercado em tempo real)
• Instacart (para encomendar mantimentos)
• Caiaque (busca de voo e aluguel de carro)
• Clarna (Compre preços de compras)
• Milo (Assistente parental alimentado por IA)
• OpenTable (para recomendações e reservas de restaurantes)
• Shopify (para comprar neste site)
• folga
• falar (Para aprendizado de idiomas com inteligência artificial)
• Volfrâmio (para computação e dados em tempo real)
• Zapier (plataforma de automação)

Em particular, o plug-in Zapier parece particularmente poderoso porque dá ao ChatGPT acesso a um sistema de automação de software existente, ou Zapier Ele coloca: “Você pode pedir ao ChatGPT para executar qualquer uma das 50.000 ações do Zapier (incluindo localizar, atualizar e escrever) usando mais de 5.000 aplicativos com tecnologia Zapier e transformar seu bate-papo em ação. Ele pode redigir um e-mail e enviá-lo para você. Ou encontre contatos no CRM e atualize-os diretamente. Ou adicione linhas a uma planilha e envie como uma mensagem do Slack. As possibilidades são infinitas.”

O OpenAI também hospeda três plug-ins, um navegador da Web (que pode obter informações da Web de maneira semelhante ao Bing Chat), um interpretador de código para executar programas Python (em uma caixa de areia) e uma ferramenta de recuperação que permite o acesso a ” fontes de informações pessoais ou organizacionais” hospedadas em outro lugar (basicamente, buscando informações de documentos).

Embora a OpenAI chame seu processo de seleção de plug-ins de “loja de plug-ins”, a empresa não anunciou planos de vender plug-ins individuais. Mas com o rótulo “loja”, esse resultado parece provável em algum momento.

De fato, os desenvolvedores com acesso antecipado também foram Formulários de plug-ins rapidamente para ChatGPT. Em comparação com outras abordagens para o desenvolvimento de plug-ins, a maneira como as extensões do ChatGPT funcionam é digna de nota. Em vez de um processo obscuro para usar “código de colaPara fazer a interface de uma API com o ChatGPT, o desenvolvedor basicamente “diz” ao ChatGPT como usar seu serviço usando linguagem natural, e o ChatGPT faz isso.

Além disso, os desenvolvedores usam ChatGPT e GPT-4 Para escrever os dados do plug-in ChatGPT (um manifesto é “uma descrição legível por máquina dos recursos do plug-in e como chamá-lo”, de acordo com a OpenAI), simplificando ainda mais o processo de desenvolvimento do plug-in.

Parece que esse tipo de habilidade composta de autodesenvolvimento Uma área não marcada no mapa para alguns programadores. Em um exemplo, um usuário do Twitter chamado Rohit Preocupação alta“,”jovens. crise existencial. A OpenAI acabou de terminar o programa? O que resta a fazer senão limpar e varrer?“

Sam Altman, CEO da OpenAI, respondidas“não.”

É seguro?

Dado que a OpenAI já testou anteriormente seus próprios modelos de IA (como o GPT-4) para ver se tem agência para ajustar, melhorar e se propagar entre os sistemas de computador do mundo, não é de surpreender que a OpenAI gaste quase metade de seu ChatGPT plugins postagem no blog Fale sobre segurança e efeitos. “Plug-ins têm o potencial de ter ramificações sociais generalizadas”, a empresa menciona casualmente em uma seção Sobre Possíveis efeitos nos trabalhos.

Além dos empregos, um medo recorrente entre alguns pesquisadores de IA envolve dar a um modelo avançado de IA acesso a outros sistemas, onde pode causar danos potenciais. O sistema de IA não precisa ser “consciente” ou “consciente”, ele é apenas acionado para concluir uma tarefa específica que considera necessária. Neste caso com plugins, OpenAI parece estar fazendo exatamente isso.

A OpenAI parece estar ciente dos riscos e frequentemente os aponta placa de sistema GPT-4 Ele descreve o tipo de teste de cenário de pior caso que descrevemos em um artigo anterior. Além de cenários apocalípticos hipotéticos, os danos gerados pela IA podem vir na forma de versões aceleradas de perigos online existentes, como anéis de phishing de bots, campanhas de desinformação, marketing astutoou ataques pessoais.

“Existe o risco de que os plug-ins possam aumentar os desafios de segurança por meio de ações maliciosas ou não intencionais e aumentar os recursos de malfeitores que podem fraudar, enganar ou abusar de outras pessoas”, escreve a OpenAI. “Ao aumentar a gama de aplicações possíveis, os plug-ins podem aumentar o risco de consequências negativas de ações errôneas ou incompatíveis que o modelo realiza em novos domínios. Desde o primeiro dia, esses fatores guiaram o desenvolvimento da plataforma de plug-in e nós implementaram várias salvaguardas.”

Uma dessas precauções parece ser a implantação progressiva de acesso a plugins. Além disso, ao usar o plugin ChatGPT é coberto pelo cobertor OpenAI política de uso Que é proibido de ser usado para gerar informações enganosas e formas de conteúdo proibido, conforme especificado Regras de extensãoComo bloquear a automação de conversas com pessoas reais. Além disso, os plug-ins que usam conteúdo gerado pelo ChatGPT (como e-mails) devem negar que o conteúdo é gerado por IA.

Os plug-ins OpenAI individuais têm isenções de responsabilidade de segurança, incluindo a capacidade de desativar o rastreamento da web do ChatGPT com robots.txt e o fato de que o interpretador de código Python é executado em uma caixa de proteção de “firewall”. Mas essas restrições se aplicam a plug-ins de outros serviços que podem executar código? Estas são as questões que a OpenAI e os desenvolvedores precisarão abordar e trabalhar juntos nos próximos dias, semanas e meses.

Atualmente, os plug-ins do ChatGPT estão disponíveis apenas em alfa para selecionar desenvolvedores e certificadores de um arquivo Lista de espera. “Embora inicialmente priorizemos um pequeno número de desenvolvedores e usuários do ChatGPT Plus, planejamos expandir o acesso amplamente ao longo do tempo.”