Ex-funcionários da OpenAI clamam por proteção contra consequências ao expor riscos da IA

Um grupo de atuais e ex-funcionários da OpenAI e do Google DeepMind redigiu uma carta aberta exigindo proteção contra retaliações por expressarem suas preocupações sobre os “sérios riscos” impostos pelas tecnologias que essas gigantes estão desenvolvendo.

“Enquanto não houver uma supervisão governamental eficaz dessas empresas, os atuais e ex-funcionários estarão entre as poucas pessoas que podem responsabilizá-los perante o público”, afirma a carta, que conta com a assinatura de 13 ex-colaboradores, sendo que 7 destes optaram por se identificar. “Contudo, acordos de confidencialidade amplos os impedem de manifestar suas preocupações, exceto para as próprias empresas, que podem não estar lidando com essas questões de maneira adequada.”

Recentemente, a OpenAI gerou controvérsia ao desmantelar uma de suas equipes de segurança mais críticas e registrar uma série de demissões. Funcionários levantaram questões sobre a pressão para assinar acordos de não depreciação, os quais podem penalizá-los financeiramente se decidirem se manifestar contra a startup de IA. Após resistência, a OpenAI anunciou que liberaria os ex-funcionários das cláusulas desses acordos.

Jacob Hilton, um dos ex-funcionários que subscreveu a carta na última terça-feira, destacou no X que a empresa merece reconhecimento pela alteração de sua política, “mas os trabalhadores ainda temem outras formas de retaliação por se exporem, como demissões ou processos por danos.”

Em um comunicado à Bloomberg, um porta-voz da OpenAI afirmou que a organização se orgulha de seu “histórico de fornecer os sistemas de IA mais avançados e seguros, acreditando firmemente em uma abordagem científica para mitigar riscos”. O porta-voz acrescentou: “Concordamos que um debate rigoroso é essencial, considerando a relevância dessa tecnologia, e continuaremos a colaborar com governos, sociedade civil e outras comunidades globalmente”.

Um representante do Google não respondeu prontamente a um pedido de comentário.

Na carta, intitulada “Um direito de alertar sobre inteligência artificial avançada”, os funcionários expressaram sua preocupação de que as maiores empresas de IA “têm fortes incentivos financeiros para evitar uma supervisão eficaz”. Em contrapartida, as empresas possuem “apenas obrigações frágeis” em compartilhar os perigos reais de seus sistemas de IA com o público, ressaltaram.

A carta argumentou que as proteções tradicionais para denunciantes são inadequadas, pois se concentram em atividades ilegais, enquanto muitos dos riscos que preocupam os funcionários ainda não são regulamentados.