Os ex-trabalhadores do Openai pedem à AGS que bloqueie a conversão com fins lucrativos de ChatGPT Maker

Ex -funcionários do Openai estão pedindo aos principais policiais da Califórnia e Delaware para impedir que a empresa mude o controle de sua tecnologia de inteligência artificial De uma instituição de caridade sem fins lucrativos a um negócio com fins lucrativos.

Eles estão preocupados com o que acontece se o fabricante de chatgpt cumprir sua ambição de construir a IA que supera os seres humanos, mas não for mais responsável à sua missão pública de proteger essa tecnologia de causar danos graves.

“Por fim, estou preocupado com quem possui e controla essa tecnologia depois de criar”, disse Page Hedley, ex -consultor de políticas e ética da Openai, em entrevista à Associated Press.

Apoiado por três vencedores do Prêmio Nobel e outros advogados e especialistas, Hedley e nove outros trabalhadores ex-abertos enviaram uma carta nesta semana aos dois procuradores gerais do estado.

A coalizão está pedindo ao procurador -geral da Califórnia Rob Bonta e a procuradora -geral de Delaware Kathy Jennings, ambos democratas, que usem sua autoridade para proteger o objetivo de caridade da Openai e bloquear sua reestruturação planejada. O Openai é incorporado em Delaware e opera em São Francisco.

O Openai disse em resposta que “qualquer alteração em nossa estrutura existente seria o serviço de garantir que o público mais amplo possa se beneficiar da IA”. Ele disse que sua fins lucrativos será uma corporação de benefícios públicos, semelhante a outros laboratórios de IA, como Xai, bilionário e bilionário de tecnologia, Elon Musk, exceto que o Openai ainda preservará um braço sem fins lucrativos.

“Essa estrutura continuará a garantir que, à medida que a fins lucrativos seja bem-sucedida e cresça, o mesmo acontece com a organização sem fins lucrativos, permitindo-nos alcançar a missão”, afirmou a empresa em comunicado.

A carta é a segunda petição para as autoridades estaduais este mês. O último veio de um grupo de líderes trabalhistas e organizações sem fins lucrativos focadas em proteger os bilhões de dólares da OpenAI de ativos de caridade.

Jennings disse que no outono passado “revisaria qualquer transação para garantir que os interesses do público sejam adequadamente protegidos”. O escritório de Bonta procurou mais informações do OpenAI no final do ano passado, mas disse que não pode comentar, mesmo para confirmar ou negar se está investigando.

Os co-fundadores da Openai, incluindo o atual CEO Sam Altman e Musk, o iniciaram originalmente como um laboratório de pesquisa sem fins lucrativos em uma missão para construir com segurança o que é conhecido como Inteligência Geral Artificial, ou AGIpara benefício da humanidade. Quase uma década depois, o Openai relatou seu valor de mercado como US $ 300 bilhões e conta com 400 milhões de usuários semanais de ChatGPT, seu principal produto.

O Openai já possui uma subsidiária com fins lucrativos, mas enfrenta vários desafios na conversão de sua estrutura de governança central. Um é a Processo de Muskque acusa a empresa e Altman de trair os princípios fundadores que levaram o CEO da Tesla a investir na instituição de caridade.

Enquanto alguns dos signatários da carta desta semana apoiam o processo de Musk, Hedley disse que outros são “compreensivelmente cínicos” porque Musk também administra sua própria empresa rival de AI.

Os signatários incluem dois economistas vencedores do Nobel, Oliver Hart e Joseph Stiglitz, bem como os pioneiros da IA ​​e Cientistas da computação Geoffrey Hintonque venceu o ano passado Prêmio Nobel em Físicae Stuart Russell.

“Gosto da missão do Openai de ‘garantir que a inteligência geral artificial beneficie toda a humanidade’ e gostaria que eles executassem essa missão em vez de enriquecer seus investidores”, disse Hinton em comunicado na quarta -feira. “Estou feliz que há um esforço para manter o OpenAI em sua missão que não envolve Elon Musk”.

Conflitos sobre o objetivo de Openai há muito tempo cozidos no Instituto de São Francisco, contribuindo para Musk, em 2018, Altman’s OUSTER de curta duração em 2023 e outras partidas de alto perfil.

Hedley, advogado de treinamento, trabalhou para o Openai em 2017 e 2018, uma época em que a organização sem fins lucrativos ainda estava navegando nas melhores maneiras de administrar a tecnologia que queria construir. Recentemente, em 2023, Altman disse que a IA avançada era promissora, mas também alertou sobre riscos extraordinários, de acidentes drásticos a interrupções sociais.

Nos últimos anos, no entanto, Hedley disse que assistiu com preocupação como Openai, impulsionada pelo sucesso do ChatGPT, estava cada vez mais cortando os cantos dos testes de segurança e apressando novos produtos para se adiantar aos concorrentes de negócios.

“Os custos dessas decisões continuarão subindo à medida que a tecnologia se torna mais poderosa”, disse ele. “Eu acho que na nova estrutura que o OpenAI deseja, os incentivos para se apressar para tomar essas decisões subirão e não haverá mais alguém que realmente possa dizer a eles, diga a eles que não está bem.”

O engenheiro de software Anish Tondwalkar, ex-membro da equipe técnica da Openai até o ano passado, disse que uma garantia importante na carta sem fins lucrativos da OpenAI é uma “cláusula de parada e assistência” que instrui o OpenAI a se deparar e ajudar se outra organização estiver chegando à conquista da AI melhor do que o humano.

“Se o OpenAI puder se tornar uma fins lucrativos, essas salvaguardas e o dever de Openai para o público podem desaparecer da noite para o dia”, disse Tondwalkar em comunicado na quarta-feira.

Outro ex -trabalhador que assinou a carta coloca de maneira mais franca.

“O OpenAI pode um dia construir tecnologia que possa matar todos nós”, disse Nisan Stiennon, engenheiro de IA que trabalhou na Openai de 2018 a 2020. “É para o Credit of OpenAI que é controlado por uma organização sem fins lucrativos com um dever para a humanidade. Esse dever impede que a renuncia a esse controle”.

___

A Associated Press e o OpenAI têm um contrato de licenciamento e tecnologia Isso permite o acesso do OpenAI a parte dos arquivos de texto da AP.