Jan Leike liderava equipe de treinamento de IA, afirmou falta de alignamento: superalignamento, equipe, OpenAI; cruciais mudanças amplas.
Ao sair da OpenAI — companhia de tecnologia responsável pelo ChatGPT —, o executivo Jan Leike destaca preocupações sobre a empresa e a segurança da tecnologia. Leike, que saiu da liderança da equipe de superalinhamento da OpenAI, expressou em um post no X que discordava das prioridades do conselho da empresa e que havia atingido um ‘ponto de ruptura’. ‘Alinhamento’ ou ‘superalinhamento’ são termos comuns no mercado de inteligência artificial (IA) para descrever o treinamento de programas para atender às necessidades humanas. Jan Leike ingressou na OpenAI em 2021 e no ano passado a empresa anunciou que ele lideraria a equipe de superalinhamento, concentrando-se em impulsionar ‘avanços científicos e técnicos para guiar e controlar sistemas de IA muito mais inteligentes do que nós’. No entanto, o executivo afirmou na sexta-feira (17) que nos últimos meses a operação estava sendo negligenciada e que a equipe estava ‘lutando contra a maré’.
‘Estava se tornando cada vez mais desafiador conduzir essa pesquisa crucial’, declarou ele no X, mencionando que quinta-feira (16) foi seu último dia na startup. ‘Desenvolver máquinas mais inteligentes que os humanos é uma tarefa arriscada’, ressaltou Jan Leike, enfatizando a importância de abordar as preocupações de segurança e ética em torno da inteligência artificial.
Jan, Leike, executivo; reflete sobre mudanças na OpenAI
Nos últimos tempos, a cultura e os processos de segurança têm sido deixados de lado em comparação com os produtos brilhantes. Ontem marcou o último dia de Jan Leike como líder de superalinhamento na OpenAI. Sua saída coincide com uma mudança mais ampla na liderança da empresa, com a saída do cofundador e cientista-chefe, Ilya Sutskever, na terça-feira passada. Sutskever, que também desempenhou um papel crucial na equipe de superalinhamento, revelou que está embarcando em um novo projeto significativo.
none; OpenAI enfrenta desafios internos
A saída de Sutskever abre espaço para reflexões sobre a dinâmica interna da OpenAI. Sutskever estava no centro de um conflito entre o conselho da empresa e seu CEO, Sam Altman. No final do ano passado, Sutskever foi um dos membros que votaram pela destituição de Altman. A situação se desenrolou rapidamente, com Altman sendo reinstaurado após pressão dos funcionários e intervenção da Microsoft. Sutskever expressou preocupações sobre a abordagem de Altman em relação à IA, afirmando que o CEO estava avançando rápido demais.
Artigos Relacionados
Jan Leike destaca desafios futuros para a OpenAI
Em meio às mudanças na empresa, Jan Leike expressou preocupações sobre o futuro da tecnologia de IA. Ele enfatizou a importância de se concentrar em questões como segurança, monitoramento, proteção e superalinhamento. Leike alertou que a empresa pode não estar no caminho certo para lidar com esses desafios de forma eficaz. A OpenAI, por sua vez, reiterou seu compromisso com a segurança e a inovação na área de IA.
none; OpenAI disponibiliza GPT-4o ao público
Recentemente, a OpenAI anunciou que disponibilizará seu modelo de IA mais avançado, o GPT-4o, gratuitamente para o público. Essa iniciativa visa transformar o ChatGPT em um assistente pessoal digital mais sofisticado, capaz de manter conversas em tempo real. A empresa está buscando aprimorar a tecnologia e garantir sua segurança e confiabilidade. A decisão de disponibilizar o GPT-4o reflete o compromisso da OpenAI em impulsionar a inovação e tornar a IA mais acessível.
Jan Leike deixa legado na OpenAI
A saída de Jan Leike da OpenAI marca o fim de uma era em termos de liderança e pesquisa de superalinhamento. Sua contribuição para a cultura de segurança e alinhamento na empresa foi inestimável. Apesar dos desafios enfrentados, Leike deixa um legado de comprometimento com a excelência e a inovação. Sua saída representa uma mudança significativa na dinâmica interna da OpenAI, mas também abre espaço para novas oportunidades e crescimento.
Fonte: © CNN Brasil
Comentários sobre este artigo