David Ferrucci, CEO e cientista-chefe da Elemental Cognition.Cortesia de David Ferrucci
A inteligência artificial está ficando inteligente rapidamente. Os recentes avanços da tecnologia, manifestados nas impressionantes capacidades de aplicações como o ChatGPT, despertaram o medo de que a I.A. poderá em breve dominar a humanidade – e não no bom sentido. No ano passado, um engenheiro do Google reivindicou a IA da empresa. chatbot LaMDA era tão inteligente que se tornou senciente. Este ano, alarmados com o perigo potencial da IA, um grupo de mais de 1.000 empreendedores e acadêmicos de tecnologia, incluindo Elon Musk, pediu em março uma pausa de seis meses no treinamento de IA. sistemas mais avançados que o GPT-4 da OpenAI, o mais novo modelo de linguagem que alimenta o ChatGPT.
Embora os aplicativos de modelo de linguagem grande (LLM), como ChatGPT e Bard do Google, tenham mostrado potencial para superar os humanos em muitas tarefas e substituir empregos, eles não são de forma alguma iguais ao cérebro humano porque os mecanismos de aprendizagem subjacentes são diferentes, David Ferrucci, cientista da computação e pioneiro da IA comercial. aplicativo, disse ao Startracker.
Ferrucci é mais conhecido como o criador do IBM Watson. Desenvolvido no final dos anos 2000 para responder perguntas do programa de perguntas e respostas da televisão Perigo! , o sistema de computador acabou vencendo os competidores humanos no jogo em 2011.
21 de fevereiro signo do zodíaco
Quando o Perigo! O desafio foi proposto no início de 2007, eu fui o único na IBM Research, mesmo na comunidade acadêmica, que achou que isso poderia ser feito e basicamente se inscreveu para segui-lo, disse Ferrucci ao Startracker em uma entrevista.
Em sua essência, o IBM Watson é um sistema baseado em aprendizado de máquina que aprendeu como responder Perigo! perguntas digerindo grandes quantidades de dados de programas anteriores. Surgiu numa altura em que a aprendizagem profunda, um subconjunto da inteligência artificial, estava a começar a ganhar força. Antes disso, os sistemas informáticos dependiam fortemente da programação e supervisão humana.
Em 2012, logo após o grande sucesso de Watson, Ferrucci deixou a IBM após 18 anos para liderar a IA. pesquisa para a Bridgewater Associates, o maior fundo de hedge do mundo. Durante a maior parte da última década, o trabalho de Ferrucci concentrou-se no desenvolvimento de IA híbrida, que procura combinar a aprendizagem automática baseada em dados com o raciocínio lógico – por outras palavras, treinar algoritmos para pensarem mais como humanos.
signo astrológico para 23 de fevereiro
Em 2015, a Bridgewater financiou um projeto interno liderado por Ferrucci que acabou se transformando em uma empresa independente chamada Elemental Cognition. A IA híbrida da Elemental Cognition. os aplicativos podem ser usados na gestão de investimentos, planejamento logístico e descoberta de medicamentos, de acordo com seu site. Em fevereiro, a startup contratou a Bridgewater como cliente.
Em uma entrevista ao Startracker no início deste mês, Ferruci discutiu os diferentes processos de aprendizagem do ChatGPT e do cérebro humano, a necessidade de IA híbrida e por que ele acha que a proposta de uma IA de seis meses será útil. a pausa é mais simbólica do que prática.
A transcrição a seguir foi editada para maior clareza.
O que exatamente é IA híbrida?
A IA híbrida combina um processo indutivo orientado por dados com um processo orientado por lógica. O aprendizado de máquina é um processo baseado em dados. Só vai melhorar com mais e mais dados de treinamento disponíveis. Mas para se comunicar com os humanos, você também precisa de lógica e raciocínio.
A cognição humana funciona da mesma maneira, conforme explicado no livro de Daniel Kahneman Pensando, rápido e lento. O cérebro humano funciona pensando rápido e devagar ao mesmo tempo. Para tomar decisões precisas e confiáveis, você precisa do melhor dos dois mundos.
Como o pensamento rápido é diferente do pensamento lento? Por que precisamos de ambos?
O pensamento rápido é quando extrapolamos a partir de nossa experiência, ou dados, e depois generalizamos. Contudo, a generalização pode estar errada porque se baseia em características superficiais que podem estar correlacionadas nos dados, mas que não são realmente causais – esta é a base do pensamento prejudicial.
Pensar lentamente é formular um modelo de como penso que as coisas funcionam: quais são os meus valores? Quais são minhas suposições? Quais são minhas regras de inferência? E qual é a minha lógica para tirar uma conclusão?
Horóscopo 22 de dezembro
Quando falamos sobre IA. hoje, tendemos a pensar automaticamente no aprendizado de máquina, que, como você disse, é um processo baseado em dados. Existem exemplos do mundo real de IA puramente orientada pela lógica?
Sim, IA baseada em lógica. foi assimilado em muitas aplicações do mundo real. Representações formais da lógica de resolução de problemas, como sistemas baseados em regras ou sistemas de resolução e otimização de restrições, estão sendo usados para aplicações de gerenciamento de recursos, agendamento, planejamento, controle e execução.
Mas não pensamos neles como IA. mais, principalmente porque, com a revolução do big data e do aprendizado de máquina, a IA. tornou-se fortemente associado a sistemas de aprendizado de máquina.
Qual é a posição dos LLMs como GPT e LaMDA no espectro do pensamento rápido/lento? Eles estão realmente próximos da inteligência humana, como afirmou um engenheiro do Google no ano passado?
Os LLMs produzem grandes estruturas de dados que capturam as probabilidades estatísticas de certas sequências de palavras seguindo outras sequências de palavras. O que o ChatGPT faz são previsões estatísticas baseadas nas características superficiais da linguagem. Com dados de treinamento suficientes e técnicas de aprendizado de máquina realmente poderosas, esses modelos podem imitar uma linguagem que soa fluente.
15 de maio signo do zodíaco
Isso não é um raciocínio lógico. É difícil argumentar que uma grande mesa de probabilidades seja senciente. Eu diria que não. No entanto, uma coisa interessante sobre a cognição humana é que confundimos textos que parecem coerentes com fatos. Nós pensamos, isso parece muito bom, deve ser verdade. Mas a verdade requer compreensão e análise mais profundas, além das características superficiais da linguagem.
Você está nervoso com a IA? eventualmente superando os humanos?
IA podem executar certas tarefas melhor que os humanos. Isso tem sido verdade há anos. Hoje, à medida que os dados e as técnicas de treinamento melhoram, é cada vez mais fácil treinar IA. sistemas para realizar tarefas mais humanas. Eu acho que isso é muito significativo. Mas não acho que a IA. vai assumir. Não existe nenhuma entidade independente que queira conquistar você. No entanto, A.I. pode ser facilmente abusado. Acho que é uma preocupação real.
A Elemental Cognition contratou recentemente a Bridgewater como cliente, que também é um dos primeiros investidores em sua empresa. Como a IA híbrida pode ajudar os gestores de investimentos a compreender melhor a economia e os mercados?
A compreensão da economia ocorre de duas formas: identificando padrões nos dados e interpretando esses padrões para entender o que está acontecendo.
Na gestão de investimentos, o objetivo final é fazer previsões precisas observando indicadores económicos, como taxas de juros e preços de ações. Os dados têm muito a lhe dizer. Se você pudesse ver padrões nos dados, isso seria realmente poderoso. E se conseguirmos interpretar os padrões e compreender o que se passa na economia, então teremos outra perspectiva. É quase como se você pudesse fazer verificações e equilíbrios: aqui estão as correlações mostradas nos dados e aqui está minha compreensão de como as coisas funcionam. Eles concordam ou não?
O que você acha da proposta de pausar a I.A. treinando por seis meses?
Não acho que isso seja prático para começar, porque grandes modelos de linguagem não são segredo. Sempre haverá empresas trabalhando neles. Continuaremos vendo muitos experimentos. Não acho que faça sentido interromper essa experimentação.
Mas acho que faz sentido dar um passo atrás e pensar muito sobre isso. Os legisladores precisam começar a pensar em como regular a IA. porque pode ser abusado de várias maneiras. É provável que vejamos a regulamentação a ser desenvolvida e aplicada.