Geoffrey Hinton falando durante o Collision 2023 no Enercare Centre em Toronto, Canadá.Ramsey Cardy/Sportsfile via Getty Images
Elon Musk e Geoffrey Hinton, um acadêmico pioneiro em inteligência artificial (IA), muitas vezes referido como o Padrinho da IA, estão aparentemente alinhados quanto às ameaças representadas pela tecnologia emergente para a humanidade. Mas quando Musk, que no ano passado lançou o A.I. startup xAI, recentemente convidou Hinton para se juntar a um conselho consultivo, o bilionário fluxo de consciência A divagação fez com que Hinton inventasse uma desculpa para deixar a ligação 20 minutos depois, disse o cientista da computação britânico-canadense ao The Globe and Mail em uma entrevista esta semana.
Marquei uma reunião para tirá-lo do telefone, disse Hinton. Ele não vai gostar disso. Porque ele sendo o centro das atenções, é isso que ele quer. Acho que ele não é mais meu amigo.
Através de uma carreira acadêmica focada em redes neurais – um processo de aprendizado de máquina modelado em neurônios do cérebro humano que permite que programas de computador aprendam habilidades por meio da análise de dados – Hinton desempenhou um papel crítico na formação dos fundamentos da IA. sistemas que alimentam nomes como ChatGPT da OpenAI. Mas desde que deixou seu cargo no Google (GOOGL) em 2023, após uma década de mandato, ele se tornou um dos críticos mais veementes de como as grandes empresas de tecnologia estão desenvolvendo a tecnologia.
Musk também há muito alerta sobre os perigos da IA e reiterou as reivindicações cautelares de Hinton , twittando no ano passado que o acadêmico sabe do que está falando. Mas o próprio Musk, juntamente com figuras poderosas como Peter Thiel (um investidor importante em vários laboratórios de IA) e Mark Zuckerberg, são parte do problema, segundo Hinton.
Ao discutir como A.I. os dados de treinamento devem ser selecionados para evitar que os bots sejam usados sem uma bússola moral, Hinton apontou para a necessidade de regulamentar a IA. líderes para alcançar tais objetivos. A única coisa que poderia manter Elon, Peter Thiel e Zuckerberg sob controle é a regulamentação governamental, disse ele ao The Globe and Mail. Essa é a única coisa forte o suficiente para fazer o trabalho.
31 de outubro signo astrológico
No início deste mês, Hinton também endossou uma carta aberta assinada por mais de uma dúzia de ex-funcionários da OpenAI que alegaram que as atuais proteções aos denunciantes são insuficientes e argumentou que a IA. empresas como a OpenAI estão reprimindo as críticas dos trabalhadores que defendem questões de segurança. A carta ocorreu após a saída de vários funcionários importantes da OpenAI, como Ilya Sutskever, que anteriormente liderou a demissão fracassada do CEO da OpenAI, Sam Altman.
Geoffrey Hinton foi mentor de muitos especialistas em IA. figuras de poder
Sutskever e o cientista da computação Alex Krizhevsky foram ex-alunos de Hinton na Universidade de Toronto e em 2012 trabalharam ao lado do professor para fazer avanços em redes neurais. No ano seguinte, o Google desembolsou US$ 44 milhões para adquirir uma empresa fundada pelo trio e contratou os três como funcionários. Posteriormente, Hinton recebeu o Prêmio Turing, conhecido como Prêmio Nobel de Computação, ao lado dos colegas acadêmicos Yoshua Bengio e Yann LeCun por suas contribuições para redes neurais e desenvolvimento de IA.
Hinton não necessariamente se arrepende de seu envolvimento na área. Se eu não tivesse feito isso, outra pessoa o teria feito, disse ele, acrescentando que tudo poderia ter acontecido algumas semanas depois. Mas o cientista da computação continua a soar o alarme sobre os perigos da tecnologia e a sua crença de que, a menos que sejam tomadas medidas preventivas, a I.A. as máquinas eventualmente se tornarão mais inteligentes que os humanos e se tornarão desonestas. IA agentes concebidos apenas para organizar férias e comprar pacotes para humanos, por exemplo, perceberão rapidamente que quanto mais controlo conseguirem, mais eficientes poderão ser ao fazê-lo, disse Hinton. Eles controlam o mundo para que possam realizar coisas. Nesse sentido, essas máquinas são como crianças. E somos como os pais que não têm ideia de como cuidar deles.
Para Hinton, as terríveis realidades da IA. apenas se tornaram mais prementes. Embora anteriormente ele acreditasse que a tecnologia tinha o potencial de exterminar a humanidade em 30 a 50 anos, esse número desde então mudou para entre cinco e 20 anos. Há uma chance de 50-50 de I.A. ficará mais esperto do que nós, disse ele. Quando ficar mais inteligente do que nós, não sei qual é a probabilidade de assumir o controle, mas me parece bastante provável.