Ilya Sutskever falando na Universidade de Tel Aviv em 5 de junho de 2023.Jack Guez/AFP via Getty Images
Ilya Sutskever, um pioneiro em IA. pesquisador e cofundador da OpenAI que recentemente deixou o A.I. empresa após uma tentativa fracassada de destituir o CEO Sam Altman, está lançando um novo A.I. empresa que visa colocar a segurança em primeiro lugar. Conhecida como Safe Superintelligence, Inc. (SSI), a startup se concentrará exclusivamente na criação segura de um I.A. sistema capaz de superar os humanos em intelecto. Nós iremos perseguir superinteligência segura em tiro certeiro, com um foco, um objetivo e um produto, disse Sutskever sobre a nova empresa em uma postagem no X.
Preocupações com a ameaça existencial representada pela I.A. têm sido abundantes entre aqueles que trabalham com a tecnologia e levaram a divisões nas abordagens de segurança em empresas líderes como a OpenAI. Pouco depois de Sutskever deixar a OpenAI em maio, após um mandato de quase dez anos, Jan Leike - com quem co-dirigiu uma equipe de segurança extinta que supervisionava os riscos de longo prazo da IA - também renunciou e disse que a cultura e os processos da empresa mudaram. ficou em segundo plano em relação aos produtos brilhantes.
https://x.com/ilyasut/status/1803472979873128498
Os outros cofundadores da SSI incluem Daniel Gross, que anteriormente liderou a A.I. esforços na Apple (AAPL) e atuou como parceiro do Y Combinator; e Daniel Levy, que anteriormente trabalhou ao lado de Sutskever na OpenAI como membro de sua equipe técnica. Embora o trio não tenha revelado os detalhes de como exatamente eles buscarão uma IA segura, eles descreveram a missão da SSI como algo que faltará distração por sobrecarga de gerenciamento ou ciclos de produto e permanecer isolados das pressões comerciais de curto prazo. A startup, que terá escritórios em Palo Alto, Califórnia, e Tel Aviv, em Israel, também ainda não divulgou seu modelo de negócios ou investidores.
Um A.I. mais procurado. especialista
A primeira grande oportunidade de Sutskever no mundo da IA. ocorreu em 2012, quando ele estudava na Universidade de Toronto com Geoffrey Hinton, um A.I. acadêmico muitas vezes referido como o Padrinho da IA. Uma IA O laboratório criado por Sutskever, Hinton e outro aluno foi adquirido pelo Google, que trouxe Sutskever como cientista pesquisador em 2013.
O cientista da computação acabou ingressando na OpenAI como cofundador e cientista-chefe em 2015. Tanto a OpenAI quanto o Google DeepMind de Demis Hassabis estavam interessados em contratar Sutskever na época, disse o cofundador da OpenAI, Elon Musk, durante um podcast recente. Essa foi uma das batalhas de recrutamento mais difíceis que já tive, disse ele.
Musk, que tem falado abertamente sobre os perigos da IA, aparentemente não está convencido com o mais novo empreendimento de Sutskever. Qualquer dado IA A startup está fadada a se tornar o oposto de seu nome, escreveu o CEO da Tesla e da SpaceX no X.
https://x.com/elonmusk/status/1803783427616821401
Sutskever ganhou as manchetes no ano passado como membro do conselho de quatro pessoas da OpenAI que alegou ter perdido a confiança em Altman e o removeu brevemente da empresa em novembro, antes de reinstalar rapidamente o CEO em meio à resistência de funcionários e investidores. Pouco depois da demissão fracassada, Sutskever pareceu mudar de idéia e disse que lamentava profundamente seu papel na demissão. O próprio Sutskever desceu como cientista-chefe do A.I. empresa seis meses depois. Na época, ele insinuou a SSI ao afirmar que estava avançando para um projeto que era pessoalmente significativo para ele.