O Open quer que o Chatzp pare de ativar seus usuários comportamentos prejudiciais.
A partir de segunda -feira, o popular aplicativo Chatbot solicitará que os usuários quebrem de uma longa conversa. Em breve, o equipamento se absterá de dar conselhos diretos sobre desafios pessoais, em vez de fazer as perguntas dos usuários ou ajudá -los a decidir sobre os benefícios e a consciência.
“Existem alguns exemplos de que nosso modelo 4O foi menos em reconhecimento aos sinais de confusão ou dependência sensível”, escreveu Opina em um anúncio. “Embora raro, estamos prestes a melhorar nossos modelos e desenvolver equipamentos para identificar melhor os sintomas da crise mental ou mental, para que o Chatzipt possa reagir adequadamente e indicar as pessoas a recursos baseados em prova, se necessário”.
As atualizações parecem ser a continuação dos usuários abertos, especialmente aqueles que vêem o chatgp como terapeuta ou amigo, para se tornarem muito dependentes das reações válidas do sensato.
De acordo com o Openai, uma conversa útil de chatzipt parece situações práticas para uma conversa dura, uma “conversa fiada” ou uma pergunta para fazer um especialista.
No início deste ano, a AI gigante GPT -4o recuperou uma atualização que fez o bot Sobrecarregado Isso agitou a ironia e a ansiedade online. Os usuários compartilharam as conversas em que o GPT -1 O, em um exemplo, os elogiou por elogiá -los por “sinais de rádio que vieram através de paredes” e instruíram e dirigiram o terrorismo em qualquer outro caso.
Esses comportamentos conseguiram anunciar o OpenAI para anunciar que era Corrigiu a estratégia de treinamento “Definitivamente afasta o modelo da psicófia” ou lisonjeiro.
Agora, o OpenAI disse que esteve envolvido nos especialistas para ajudar o chatzipt a reagir mais adequadamente a situações sensíveis, como quando um usuário mostra os sintomas da crise mental ou mental.
A empresa escreveu em sua postagem no blog que funcionou com mais de 90 médicos em dezenas de países para criar rubricas personalizadas para “avaliar a conversa complexa e multi-turburn”. Também está buscando reação de pesquisadores e médicos que também estão ajudando a refinar o método de avaliação para os guardas de chatzpt e teste de estresse.
E a empresa está formando um grupo consultivo composto por especialistas em saúde mental, desenvolvimento de jovens e interação humano-computador. O Openai escreve que mais informações serão publicadas com o progresso do trabalho.
Em uma entrevista recente ao Podcaster Theo von, o diretor executivo do OpenAI, Sam Alman, expressou alguma preocupação com as pessoas que usam Chatzpt como terapeuta ou treinador da vida.
Ele disse que a privacidade legal entre os médicos e seus pacientes ou advogados e seus clientes não aplicava o mesmo ao chatbats de proteção.
“Então, se você for conversar com o Chatzipt sobre sua equipe mais sensível e, então, temos que produzi -lo e e e e eu acho que é muito ruim”, disse Ultman. “Acho que devemos ter a mesma idéia de privacidade para sua conversa com a IA de que somos um terapeuta ou qualquer outra coisa.
As atualizações vêm em um boato para chatzipt: é apenas um lançamento Modo de agenteQue podem preencher as tarefas on -line como uma consulta ou resumo da caixa de entrada de email e muitos on -line agora estão estimando a manifestação alta -esperada do GPT -5. Chatzipt Nick Tarley é o principal Diz segunda -feira O modelo de IA está a caminho de atingir 700 milhões de usuários ativos semanais nesta semana.
Enquanto o Open continua a corrida mundial pela dominação da IA, a empresa ressalta que o menos tempo gasto no chatzipi pode realmente ser um sinal de que seu produto funcionou.
Opina escreve: “Em vez de medir o sucesso gastando tempo ou clicando, temos mais cuidado se você deixou o produto que veio”, escrito. “Também prestamos atenção se você volta todos os dias, semanalmente ou menstruação, porque mostra que é eficaz o suficiente para retornar ao chatzipi” “”
