OpenAI desfaz equipe de cofundador após sua saída
A OpenAI dissolveu sua equipe dedicada à segurança de futuros sistemas de inteligência artificial altamente avançados após a saída de seus dois líderes, incluindo o cofundador e cientista-chefe, Ilya Sutskever. Em vez de manter a chamada equipe de superalinhamento como uma entidade separada, a OpenAI está integrando esse grupo mais profundamente em seus esforços gerais […]
A OpenAI dissolveu sua equipe dedicada à segurança de futuros sistemas de inteligência artificial altamente avançados após a saída de seus dois líderes, incluindo o cofundador e cientista-chefe, Ilya Sutskever.
Em vez de manter a chamada equipe de superalinhamento como uma entidade separada, a OpenAI está integrando esse grupo mais profundamente em seus esforços gerais de pesquisa para alcançar seus objetivos de segurança, informou a empresa à Bloomberg News. A equipe havia sido formada menos de um ano atrás sob a liderança de Sutskever e Jan Leike, outro veterano da OpenAI.
Essa reestruturação ocorre em meio a várias saídas recentes da OpenAI, reavivando preocupações sobre como a empresa equilibra a velocidade versus a segurança no desenvolvimento de suas tecnologias de IA. Sutskever, um pesquisador respeitado, anunciou sua saída na última terça-feira (14) após discordâncias com o CEO, Sam Altman, sobre a rapidez no desenvolvimento da inteligência artificial.
Leike também anunciou sua saída logo depois, mencionando nas redes sociais: “Eu pedi demissão.” Segundo uma fonte, a saída de Sutskever foi decisiva para Leike, após desentendimentos anteriores com a empresa.
Em um comunicado divulgado na última sexta-feira (17), Leike mencionou que sua equipe enfrentava dificuldades de recursos. “Nos últimos meses, minha equipe navegou contra o vento”, escreveu ele no X (antigo Twitter). “Às vezes, estávamos lutando para calcular e estava ficando cada vez mais difícil realizar essa pesquisa crucial”, acrescentou.
Horas depois, Altman respondeu à postagem de Leike, reconhecendo os desafios. “Ele está certo, temos muito mais a fazer”, escreveu Altman no X. “Estamos comprometidos em fazê-lo”, disse.
Outros membros também deixaram a OpenAI
Outros membros da equipe de superalinhamento da OpenAI também deixaram a empresa nos últimos meses. Leopold Aschenbrenner e Pavel Izmailov foram dispensados pela OpenAI, conforme reportado anteriormente pelo The Information. Izmailov havia sido afastado da equipe antes de sua saída, segundo uma fonte familiarizada com o assunto. Aschenbrenner e Izmailov não responderam aos pedidos de comentários.
John Schulman, cofundador da startup cuja pesquisa se concentra em grandes modelos de linguagem, assumirá a liderança científica do trabalho de alinhamento da OpenAI. Separadamente, a OpenAI anunciou em um blog que nomeou o diretor de pesquisa Jakub Pachocki para o cargo de cientista-chefe, anteriormente ocupado por Sutskever.
“Estou muito confiante de que ele nos levará a fazer um progresso rápido e seguro em direção à nossa missão de garantir que a AGI beneficie a todos”, afirmou Altman em comunicado na última terça-feira sobre a nomeação de Pachocki.
Vale destacar que AGI, ou inteligência artificial geral, refere-se à IA que pode ter um desempenho igual ou superior ao dos humanos na maioria das tarefas. Embora a AGI ainda não exista, sua criação faz parte da missão da OpenAI.
A OpenAI também possui funcionários envolvidos no trabalho relacionado à segurança de IA em equipes distribuídas por toda a empresa, além de equipes individuais focadas especificamente na segurança. Uma dessas equipes, criada em outubro passado, foca na análise e na tentativa de mitigar potenciais “riscos catastróficos” associados aos sistemas de IA.
Demissão e conflitos
Em novembro do ano passado, Sutskever foi um dos vários membros do conselho da OpenAI que decidiu demitir Altman, uma decisão que desencadeou um turbilhão de cinco dias na empresa. O presidente da OpenAI, Greg Brockman, renunciou em protesto, investidores se revoltaram e, em poucos dias, quase todos os cerca de 770 funcionários da startup assinaram uma carta ameaçando pedir demissão, a menos que Altman fosse trazido de volta.
Em uma reviravolta notável, Sutskever também assinou a carta e expressou arrependimento por sua participação na demissão de Altman. Logo depois, Altman foi reintegrado.
Nos meses seguintes à saída e retorno de Altman, Sutskever desapareceu em grande parte da vista do público, gerando especulações sobre a continuidade de seu papel na empresa. Sutskever também parou de trabalhar no escritório da OpenAI em São Francisco, segundo uma pessoa familiarizada com o assunto.
Em comunicado, Leike disse que sua saída ocorreu após uma série de divergências com a OpenAI sobre as “prioridades centrais” da empresa, que ele não considerava suficientemente focadas em medidas de segurança relacionadas à criação de IA que pode ser mais capaz do que as pessoas.
Em uma postagem no início desta semana anunciando sua saída, Sutskever afirmou estar “confiante” de que a OpenAI desenvolverá AGI “que seja segura e benéfica” sob a liderança atual, incluindo Altman.
