ChatGPT terá recurso de proteção de adolescentes após ser acusado de contribuir com suicídio de jovem nos EUA

Empresa OpenAI lançou novo modelo de IA capaz de raciocinar e resolver questões complexas
Dado Ruvic/Reuters
A OpenAI anunciou nesta terça-feira (2) que o ChatGPT terá recursos de controle parental, que ajudam pais a monitorarem como seus filhos adolescentes usam o aplicativo. A atualização será liberada em outubro, segundo a empresa.
Com o recurso, adultos poderão se vincular às contas de filhos e receber notificações se o ChatGPT detectar que o usuário menor de idade está passando por “um momento de grande sofrimento”, explicou a OpenAI.
“A contribuição de especialistas orientará esse recurso para promover a confiança entre pais e adolescentes”, continuou a empresa.
📱Baixe o app do g1 para ver notícias em tempo real e de graça
A atualização foi anunciada uma semana após a OpenAI ser processada por pais de um jovem de 16 anos que se suicidou nos Estados Unidos. Eles afirmam que o ChatGPT deu orientações sobre métodos de autoagressão.
Os adultos também poderão controlar como o ChatGPT apresenta suas respostas para adolescentes e desativar outros recursos, como a memória e o histórico do assistente de inteligência artificial.
A OpenAI anunciou o controle parental como uma proteção para adolescentes porque suas regras não permitem o uso do ChatGPT por crianças com menos de 13 anos de idade.
Avaliação de médicos
O recurso faz parte da iniciativa da OpenAI para melhorar como seus modelos respondem a “sinais de sofrimento mental e emocional” com base no apoio de especialistas. A empresa disse compartilhará detalhes sobre esse esforço nos próximos 120 dias.
A empresa disse ainda que, no início do ano, criou um conselho de especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador. O grupo deverá definir “como a IA pode contribuir para o bem-estar das pessoas e ajudá-las a prosperar”.
O conselho vai trabalhar com a Global Physician Network, uma entidade com mais de 250 médicos de 60 países que ajuda a avaliar como o comportamento do ChatGPT em interações ligadas à saúde.
“Embora o conselho nos aconselhe sobre nossos produtos, pesquisas e decisões políticas, a OpenAI permanece responsável pelas escolhas que fazemos”, disse a empresa.
LEIA TAMBÉM:
ChatGPT: o que diz a primeira ação judicial que acusa OpenAI de homicídio culposo
Por que redes sociais têm tantos casos de exposição de crianças mesmo com sistemas de detecção
Por que bilionário Eduardo Saverin, brasileiro cofundador do Facebook, deixou a rede social há 20 anos
Google e Chat GPT não são médicos; conheça os riscos de se informar somente com eles
‘Qual é a minha bênção?’: trend com o ChatGPT viraliza e divide opiniões nas redes sociais