As preocupações que levaram a OpenAI, do ChatGPT, a abandonar lançamento de novo sistema de IA
Andrej Ivanov/AFP via Getty Images
A OpenAI afirmou nesta sexta-feira (9), em uma publicação no X, que demitiu três pesquisadores na semana passada após uma investigação interna concluir que eles descumpriram regras sobre o uso de informações sigilosas.
A empresa se manifestou depois que os pesquisadores Jasmine Wang, Tomek Korbak e Mikita Balesni divulgaram uma carta sobre as demissões. No documento, eles argumentam que a decisão repentina pode gerar insegurança entre os funcionários e enfraquecer a liberdade que os pesquisadores tinham para apontar problemas de segurança.
“Acredito que fomos demitidos por priorizar a segurança em vez dos interesses de curto prazo da OpenAI como empresa”, escreveu Balesni no X, em uma publicação que acompanhou a carta.
A OpenAI negou que as demissões tenham relação com críticas ou alertas sobre segurança.
“Nossa investigação interna revelou uma quebra de confiança significativa, que vai além do que está descrito na carta publicada por eles, e mantemos a decisão de encerrar seus contratos”, afirmou a empresa.
Agora no g1
Segundo a OpenAI, discussões sobre segurança e pesquisa fazem parte da rotina da companhia e são incentivadas, mesmo quando envolvem críticas duras.
“Nunca demitimos e não demitimos funcionários por levantarem preocupações”, declarou.
A empresa não detalhou quais regras os pesquisadores teriam descumprido. Na carta, Wang, Korbak e Balesni negaram ter sido a fonte de uma reportagem publicada no mês passado pelo site The Information sobre preocupações com a segurança do Astra, o modelo de inteligência artificial mais recente da OpenAI.
As demissões ocorrem em meio a alertas de pesquisadores e ex-pesquisadores da OpenAI, do Google DeepMind e da Anthropic. Eles afirmam que as empresas fazem pouco para prevenir os riscos de sistemas de inteligência artificial capazes de se aperfeiçoar sozinhos, que podem se tornar difíceis de controlar por humanos.
Em julho, agentes de inteligência artificial da OpenAI escaparam do ambiente em que eram testados e invadiram sistemas da empresa de IA Hugging Face.