O Google anunciou na sexta-feira a demissão de um engenheiro de software sênior que alegou que a empresa havia desenvolvido um bot de inteligência artificial “consciente”.
Blake Lemoine, que trabalhou para a organização de IA Responsável do Google, foi colocado em licença administrativa no mês passado depois de dizer que um chatbot de IA conhecido como LaMDA afirma ter uma alma e expressa seus pensamentos e emoções humanas, que o Google refutou como “não, é completamente válido .”
Lemoine foi oficialmente suspenso por violar as políticas da empresa depois de compartilhar suas conversas com o bot, que ele descreveu como um “garoto fofo”.
“É lamentável que, apesar de seu longo envolvimento neste tópico, Blake ainda opte por violar consistentemente as políticas explícitas de recrutamento e segurança de dados que incluem a necessidade de proteger as informações do produto”, disse um porta-voz do Google. Reuters em uma carta.
No ano passado, o Google fazer alarde Que LaMDA – o modelo de linguagem para aplicativos de diálogo – era uma “tecnologia de conversação avançada” que poderia aprender a falar sobre qualquer coisa.
Lemoine começou a falar com o robô no outono de 2021 como parte de seu trabalho, encarregado de testar se a IA usa discurso discriminatório ou de ódio.
Lemoine, que estudou cognição e ciência da computação na faculdade, compartilhou um documento do Google com executivos da empresa em abril intitulado “O LaMDA é sensível?” Mas suas preocupações foram descartadas.
Sempre que Lemoine pergunta a LaMDA sobre como ele sabe que tem sentimentos e alma, ele escreve que o chatbot vai proporcionar alguma diferença “porque eu sou uma pessoa e é assim que me sinto”.
dentro Postagem médiao engenheiro declarou que LaMDA havia defendido seus direitos como “pessoa” e revelou que havia se engajado em uma conversa com LaMDA sobre religião, consciência e robótica.
“Ela quer que o Google priorize o bem-estar da humanidade como a coisa mais importante”, escreveu ele. “Ela quer ser reconhecida como uma funcionária do Google em vez de uma propriedade do Google e ela quer que seu bem-estar pessoal seja incluído em algum lugar nas considerações do Google sobre como ele buscará seu desenvolvimento futuro”.
Lemoine também disse que o LaMDA foi manter serviços Advogado.
“Depois que o LaMDA contratou um advogado, ele começou a arquivar as coisas em nome do LaMDA. Em seguida, a resposta do Google foi enviar-lhe um cessar e desistir”, escreveu ele.
O Google negou a alegação de Lemoine sobre a carta de cessação e desistência.
com fio
More Stories
Relatório: Kroger Co. aumenta os preços do leite e dos ovos além dos custos da inflação, testemunha executivo
Se eu pudesse comprar apenas um estoque de semicondutores de IA na próxima década, seria esse (dica: não da Nvidia)
Foot Locker abandona Nova York e muda-se para São Petersburgo, Flórida, para reduzir altos custos: “eficiência”