O governo do Canadá informou que Sam Altman, presidente-executivo da OpenAI, se comprometeu a reforçar os protocolos de segurança do ChatGPT. O acordo foi formalizado em carta enviada pela empresa às autoridades canadenses e visa facilitar a comunicação entre a OpenAI e a polícia local quando houver sinais de comportamento suspeito de usuários residentes no país.

Resumo dos termos acordados

O pedido de revisão dos procedimentos surgiu após uma investigação da polícia de British Columbia sobre um tiroteio em Tumbler Ridge. As autoridades verificaram que a autora dos disparos havia mantido conversas consideradas suspeitas com o ChatGPT, teve a conta encerrada pela plataforma, mas não houve contato da OpenAI com a polícia naquele momento.

Em resposta, a OpenAI expediu a carta ao governo canadense e, conforme comunicado do Ministro da Inteligência Artificial, Evan Solomon, concordou em adotar medidas adicionais. Solomon informou que, na quarta-feira (04), manteve reunião virtual com Altman e pediu que os novos protocolos fossem aplicados também de forma retroativa, com revisão de históricos de conversas para identificar possíveis casos de risco.

Segundo o ministro, a OpenAI aceitou avaliar a inclusão de especialistas canadenses em privacidade, saúde mental e aplicação da lei no processo de identificação e revisão de situações consideradas de alto risco envolvendo usuários do país. A empresa também se comprometeu a produzir relatórios detalhando como os novos mecanismos serão implementados e como serão detectados infratores reincidentes ou com potencial de causar dano.

A OpenAI afirmou ainda que colaborará com as investigações conduzidas pelas autoridades da Colúmbia Britânica relacionadas ao ataque ocorrido em Tumbler Ridge. No incidente, Jesse Van Rootselaar, de 18 anos, abriu fogo contra familiares, estudantes e funcionários da cidade. As informações oficiais indicam que nove pessoas morreram, incluindo a autora dos disparos, e outras 27 ficaram feridas.

Imagem: Divulgação

O governo canadense solicita que casos semelhantes, ao serem identificados pela plataforma, resultem em comunicação com as autoridades competentes, e a OpenAI assegurou que trabalhará para criar mecanismos que permitam esse tipo de interação quando houver indícios de risco elevado.

Com informações de Olhardigital