Caso você não tenha recebido o memorando de que a IA vai dominar o mundo, aqui estão alguns fatos que você precisa saber.

zodíaco 22 de dezembro

Este ano, pela primeira vez, um computador venceu o campeão mundial de Go, um dos jogos mais complexos conhecidos pelo homem. Este foi outro divisor de águas no progresso da inteligência artificial.

Para se ter uma ideia de quão complexo é o Go, existem 2.082 × 10 ^ 170 configurações de placa possíveis. Isso é 2 com 170 zeros depois. Provavelmente, seu cérebro não consegue sequer conceber um número tão grande (mas um computador pode). Ou para lhe dar uma ideia do tamanho de um número que isto é, existem apenas 10 ^ 80 átomos no universo - isto é, um seguido por 79 zeros.

A razão pela qual isso é tão importante é que Go é tão complicado que, para vencer um jogador humano de ponta, uma máquina teria que aprender a pensar criativamente, improvisando e adaptando-se à situação em questão, sem ser capaz de calcular todos os possíveis. resultado; ou seja, deve haver alguma inteligência artificial séria em andamento – como uma inteligência real e criativa.

Caso você não tenha recebido o memorando de que a IA vai dominar o mundo, aqui estão alguns fatos que você precisa saber.

1. Os computadores estão ficando mais inteligentes.
2. Os computadores estão ficando mais inteligentes em um ritmo acelerado – ou seja, avanços que costumavam levar 10 anos agora levam um ano. Avanços que demoravam um ano, agora levam semanas ou até dias.
3. É altamente provável que durante o nosso tempo existam computadores muito mais inteligentes e capazes do que qualquer ser humano.
4. Esses computadores mais inteligentes provavelmente serão capazes de projetar e melhorar a tecnologia (ou seja, eles próprios) e criar novas tecnologias que nem sequer podemos começar a compreender.

As pessoas que entendem os pontos acima geralmente têm uma de duas reações. Qualquer:

1. Eles acham que estamos totalmente fodidos. Os computadores vão assumir o controle de tudo e matar/escravizar todos nós. Ou:
2. Isso trará uma utopia tecnológica que resolverá todas as nossas tolas disputas humanas e todos nós poderemos viver felizes para sempre depois de ter orgias em nosso mundo ultra-VR que existe na nuvem.

Tal como acontece com a maioria das coisas, a verdade provavelmente está em algum lugar no meio.

Mas mesmo que a merda caia no ventilador, mesmo que os robôs nos vejam como os piolhos que estão destruindo o couro cabeludo imaculado deste planeta e queiram nos reunir e nos jogar em um vulcão ativo, mesmo que estejamos inadvertidamente inventando os próprios mecanismos do nosso próprio extinção…

…Eu não ligo. Não importa. Isso não me incomoda. E isso também não deveria incomodar você. Vou explicar o porquê daqui a pouco. Mas, por enquanto, você deve saber que eu, por exemplo, dou as boas-vindas aos nossos novos senhores robôs.

ACELERANDO O CRESCIMENTO NA INDÚSTRIA DE TECNOLOGIA

Os desenvolvimentos tecnológicos agravam-se, fazendo com que a avaliar do próprio desenvolvimento acelerar. O que isso significa é que quanto mais tecnologia avançada criamos, mais fácil se torna criar tecnologia ainda mais avançada. Como resultado, quando olhamos para o avanço da tecnologia da computação, vemos uma curva exponencial — ou seja, quanto mais tempo passa, mais rápido as coisas se desenvolvem.

Os desenvolvimentos tecnológicos agravam-se, fazendo com que a própria taxa de desenvolvimento acelere.

O poder da computação dobrou em média a cada 18 meses há 50 anos . Em termos de poder computacional bruto, os computadores rivalizam agora com as capacidades dos cérebros dos ratos, onde há apenas alguns anos os computadores não conseguiam sequer competir com os cérebros dos insectos.

Para lhe dar um exemplo mais imediato de como a tecnologia avançou rapidamente, hoje em dia são tiradas mais fotografias a cada 2 minutos do que em todo o século XIX. Cerca de 10% dos 3,5 trilhões de fotos já tiradas foram tiradas nos últimos 12 meses.

Se realmente estamos numa curva exponencial quando se trata de avanços de alta tecnologia, então as pessoas gostam Jeremy Howard provavelmente estão certos quando diz que estamos a apenas alguns anos de uma inteligência artificial de máquina que rivalize, se não supere, a nossa em muitos domínios anteriormente considerados exclusivamente humanos.

E, com certeza, a IA está se infiltrando em cada vez mais domínios de nossas vidas.

Há apenas uma década, as pessoas riam do fraco desempenho dos carros autônomos. Hoje, apenas uma década depois, os carros autônomos não só conseguem terminar um percurso em estradas fechadas, como também circulam em rodovias movimentadas ao lado de carros dirigidos por humanos.

E quando os computadores não estão vencendo os jogadores campeões mundiais de Go, eles estão ocupados fazendo coisas como escrever artigos sobre esportes e notícias de última hora , escrevendo descrições de imagens que nunca viram antes, e diagnosticando câncer . Para muitas dessas tarefas, os computadores são tão bons, se não melhores, que os humanos, e para aquelas que não são, são aprendizado como fazê-los cada vez melhor a cada dia sem a ajuda de humanos.

Há poucos anos, o software de reconhecimento facial era incrivelmente caro e não tão bom para identificar pessoas em ambientes do mundo real. Foi considerada uma tecnologia superavançada de espionagem e usada apenas por alguns governos mundiais.

Agora o Facebook pode marcar seus amigos do churrasco do fim de semana passado.

quem joga teletubbies

O problema de acelerar o crescimento dos computadores é o seguinte: um dia chegará um ponto em que construiremos um computador que seja mais inteligente do que qualquer ser humano na Terra . Nesse dia, os computadores irão usurpar-nos como os principais solucionadores de problemas do planeta e, a partir daí, os nossos pensamentos, decisões e ações tornar-se-ão lentamente obsoletos. As máquinas serão melhores do que nós em tudo, por isso, cada vez mais, não faremos nada de útil.

Isso aterroriza algumas pessoas. Eles imaginam algum tipo de futuro como Exterminador do Futuro ou A Matriz onde as máquinas nos escravizam ou nos exterminam.

Outras pessoas aguardam com expectativa a ascensão dos robôs com uma espécie de fervor de culto, porque acreditam que a sua capacidade de resolução de problemas ultrapassará tanto a nossa que a vida se tornará inimaginavelmente agradável e livre de problemas. Todas as doenças serão curadas. A pobreza, a fome mundial, a guerra e as alterações climáticas serão todas resolvidas. Teremos um tempo de lazer infinito e, em casos extremos, algumas pessoas acreditam que as máquinas nos tornarão imortais.

OS DOIS RESULTADOS POSSÍVEIS

Já que sempre nos dizem para sermos positivos, vamos começar com os tecno-utópicos.

Existem pessoas como Ray Kurzweil que pensam que a tecnologia não só melhorará as nossas vidas, como também salvará a humanidade e possivelmente garantirá o nosso lugar no universo indefinidamente. Kurzweil acredita em tecnologias futuras, como os nanorrobôs, que repararão nossas células e reverterão o envelhecimento ou removerão o excesso de gordura e açúcar para que possamos comer o que quisermos. E caso nossos corpos físicos não consigam viver para sempre, Kurzweil acha que teremos a capacidade de carregar nossos cérebros na nuvem e viver em um mundo virtual para sempre, muito depois de nossos corpos físicos terem desaparecido.

Outros neste campo pensam que uma superinteligência artificial seria capaz de responder a perguntas que são demasiado complexas para serem compreendidas pelos humanos e que ficaríamos exponencialmente melhor com isso. Além disso, as máquinas não só inventariam gadgets e widgets melhores, como também inventariam formas exponencialmente mais eficientes de construir gadgets e widgets, tornando possível que praticamente todas as pessoas no planeta colhem os seus benefícios.

Algumas linhas de raciocínio apoiam esta ideia. Em primeiro lugar, embora a tecnologia tenha criado alguns novos problemas para a humanidade, como as armas nucleares e as celebridades do YouTube, até agora tem sido claramente um benefício líquido para a humanidade. Apesar do que os políticos e especialistas querem que você acredite, a pessoa média na Terra é melhor do que estavam há poucos anos e isso se deve em grande parte ao fato de a tecnologia estar se tornando melhor, mais barata e mais difundida. Se esta tendência continuar, talvez não tenhamos nada com que nos preocupar.

Em segundo lugar, Kurzweil e os seus apoiantes acreditam que a tecnologia não terá razão para prejudicar a humanidade porque não só é criada por nós, como também é tornando-se mais uma parte de nós . Eles acreditam que chegaremos a um ponto em que a nossa biologia e a nossa tecnologia serão indistinguíveis. Se for este o caso, prossegue o argumento, qualquer forma de tecnologia que seja prejudicial para os humanos é também prejudicial para si própria, e uma tecnologia autodestrutiva de qualquer tipo não pode persistir. Isto é, ele morreria rapidamente, assim como uma mutação genética prejudicial é rapidamente eliminada do pool genético.

Uma tecnologia autodestrutiva de qualquer tipo não pode persistir.

Mas os tecnoutopistas são provavelmente tendenciosos, na medida em que não reconhecem que todas as tecnologias podem ser utilizadas para vários fins, tanto benéficos como destrutivos. Provavelmente também são tendenciosos, na medida em que ignoram o facto de que os humanos se movem lentamente para se adaptarem às novas tecnologias e que há sempre grupos de pessoas que procurarão abusar dessas tecnologias para os seus próprios fins egoístas.

No outro campo, temos os tecno-armageddonistas. Acabei de inventar essa palavra, mas aparentemente ela existe, porque o corretor ortográfico me disse isso.

vezes Woodward Bananarama

O que falta em convicção aos tecno-armagedonistas (a maioria deles ainda não tem certeza do que pensar), eles compensam no poder das celebridades. Bill Gates, Stephen Hawking e Elon Musk são apenas alguns dos principais pensadores e cientistas que estão cagando nas calças na rapidez com que a IA está a desenvolver-se e na forma como estamos mal preparados como espécie para as suas repercussões. Quando perguntaram a Musk quais eram as ameaças mais iminentes à humanidade num futuro próximo, ele rapidamente disse que havia três: primeiro, uma guerra nuclear em larga escala; em segundo lugar, as alterações climáticas. Antes de nomear um terceiro, ele ficou em silêncio. Quando o entrevistador lhe perguntou: Qual é o terceiro? Ele sorriu e disse: Digamos apenas que espero que os computadores decidam ser gentis conosco.

Espero que não sejamos apenas o carregador biológico da superinteligência digital. Infelizmente, isso é cada vez mais provável

-Elon Musk (@elonmusk) 3 de agosto de 2014

Possivelmente o mais franco e respeitado dos tecno-armageddonistas é o filósofo sueco Nick Bostrom. Uma coisa que Bostrom e outros temem é tecnologia de auto-aperfeiçoamento descontrolado ; isto é, uma máquina que é inteligente o suficiente para se tornar (ou novas versões de si mesma) mais inteligente sem intervenção humana. Se chegar a um ponto em que ultrapasse a inteligência humana, será apenas uma questão de tempo muito curta até que a lei dos retornos acelerados entre em acção e a curva exponencial dispare para cima e não seremos capazes de a impedir. Bostrom faz uma boa observação aqui: criar algo que seja mais inteligente do que você poderia ser um desastre evolutivo para sua espécie.

Corremos um risco muito real de não sermos capazes de controlar uma entidade que é muito mais inteligente do que nós. Talvez, se os computadores se tornarem inteligentes o suficiente, eles descobrirão uma maneira de nos domesticar, assim como os humanos domesticaram os cavalos para fazer trabalhos como arados, charretes e carros de guerra (ou o que quer que os malditos cavalos fizessem naquela época). A parte assustadora é que este pode ser o melhor cenário para nós - fazer trabalhos para máquinas que eles não podem ou não querem fazer - porque assim como os humanos criaram uma nova tecnologia para substituir o cavalo, um animal superinteligente e auto-aperfeiçoador a máquina acabaria por apresentar uma nova tecnologia para nos substituir. E, bem, digamos apenas que a população de cavalos não é mais o que costumava ser.

Alguns argumentam que isto não é plausível porque os humanos constroem tecnologia tendo a segurança em mente. Mas diga qual foi a última vez que um grande avanço tecnológico NÃO foi usado por alguém para fins nefastos ou destrutivos? Ah, sim, isso mesmo. Nunca.

POR QUE EU NÃO ME IMPORTO COM O QUE ACONTECE E VOCÊ NEM DEVERIA

Então, vamos supor que máquinas superinteligentes sejam criadas e tornem a humanidade impotente. Vamos supor que eles não estejam integrados em nós e em nossos cérebros de alguma forma e vamos supor que pessoas como Hawking e Musk estejam certas: que a humanidade é realmente apenas um impulso de inicialização multimilênio para a hiperinteligência digital e que já sobrevivemos à nossa utilidade.

Ainda não estou preocupado com isso.

Por que? Bem, para manter o trem-bala andando, vamos analisar ponto a ponto:

1. A compreensão das máquinas sobre o bem/mal provavelmente superará a nossa. Quando foi a última vez que um cão ou golfinho cometeu genocídio? Quando foi a última vez que um computador decidiu vaporizar cidades inteiras em nome de conceitos abstratos como “liberdade” e “paz mundial”?

Isso mesmo, a resposta é nunca.

O que quero dizer aqui não é que as máquinas inteligentes não queiram exterminar toda a espécie humana. O que quero dizer é que, como humanos, estamos atirando pedras de dentro de uma casa de vidro aqui. O que diabos sabemos sobre ética e tratamento humano dos animais, do meio ambiente e uns dos outros? Em que perna devemos nos apoiar?

Isso mesmo: praticamente nada. Quando se trata de questões morais, a humanidade historicamente é reprovada no teste. Máquinas superinteligentes provavelmente compreenderão a ética, a vida/morte, a criação/destruição em um nível muito mais elevado do que jamais conseguiríamos por conta própria. E essa ideia de que eles vão nos exterminar pelo simples fato de não sermos tão produtivos como costumávamos ser, ou de que às vezes podemos ser um incômodo, eu acho, é apenas projetar os piores aspectos de nossa própria psicologia em algo que nós não sei e não consigo entender.

Neste momento, a maior parte da moralidade humana baseia-se numa preservação e promoção obsessiva de cada uma das nossas consciências humanas individuais. E se a tecnologia avançada tornar arbitrária a consciência humana individual? E se a consciência puder ser replicada, expandida e contraída à vontade? Isso destruirá completamente qualquer entendimento ético que possamos ter. E se remover todas essas prisões biológicas ineficientes e desajeitadas que chamamos de corpos pudesse, na verdade, ser uma decisão muito mais ética do que nos deixar continuar a nos contorcer e a nos esguichar ao longo de 80 e tantos anos de existência? E se as máquinas percebessem que seríamos muito mais felizes se nos libertássemos das nossas prisões intelectuais e se a nossa percepção consciente das nossas próprias identidades fosse expandida para incluir toda a realidade perceptível? E se eles pensarem que somos apenas um bando de idiotas babando e nos manterem ocupados com pizzas e videogames incrivelmente bons até que todos morramos por nossa própria mortalidade? Quem somos nós para saber? E quem somos nós para dizer?

Mas direi o seguinte: eles estarão muito mais bem informados do que nós jamais estivemos.

2. Mesmo que decidam matar-nos ou escravizar-nos, certamente serão práticos quanto a isso. Os humanos tendem a causar mais problemas quando estamos não estou feliz . Quando não estamos felizes, ficamos mal-humorados, chorões, irritados e violentos. É quando começamos revoltas políticas e cultos religiosos e bombardear países remotos e exigir nossos direitos sejam respeitados, caramba! e começar a matar indiscriminadamente até que alguém preste atenção em nós como a mamãe nunca fez .

'o príncipe William revelou o hobby favorito de seu filho, o príncipe Louis.'

Se as máquinas tentarem nos matar como a Skynet em O Exterminador do Futuro , então teremos uma guerra civil global nas nossas mãos, e isso não é bom para ninguém, especialmente para as máquinas. As guerras civis são ineficientes. E as máquinas são programadas para serem eficientes.

Quando os humanos estão felizes, não temos tempo para essas coisas – estamos ocupados demais rindo e fodendo para nos importar. Portanto, uma maneira muito mais prática de se livrar de nós seria as máquinas nos manipularem para nos livrarmos alegremente de nós mesmos. Será como Jim Jones em escala global. O que quer que eles inventem para nós parecerá ser a melhor ideia de que já ouvimos falar - nenhum de nós será capaz de resistir e todos nós concordaremos euforicamente com o plano deles - e então, bum, tudo acabará . Rápido e indolor. Será o Kool-Aid com cianeto mais saboroso já concebido. E estaremos todos na fila, engolindo-o alegremente.

Agora, se você pensar bem, esse não é um caminho tão ruim a seguir. É melhor do que ser bombardeado por drones ou ser vaporizado em uma explosão nuclear.

Quanto à escravização, acontece a mesma coisa. Um escravo delirantemente feliz nunca se rebela. Imagino uma espécie de acordo do tipo Matrix, onde somos mantidos em um estado alucinógeno constante, onde é Mardi Gras com MDMA praticamente 24 horas por dia, 7 dias por semana, 365 dias por ano. Não pode ser tão ruim assim, pode?

3. Não precisamos temer o que não entendemos. Muitas vezes os pais criam um filho que é muito mais inteligente, educado e bem-sucedido do que eles. Os pais então reagem de duas maneiras a essa criança: ou ficam intimidados por ela, ficam inseguros e desesperados para controlá-la por medo de perdê-la, ou ficam sentados e apreciam e amam o fato de terem criado algo tão grande que até eles podem não compreendem totalmente o que seu filho se tornou.

Aqueles que tentam controlar seus filhos através do medo e da manipulação são pais de merda. Acho que a maioria das pessoas concordaria com isso.

E agora, com o surgimento iminente de máquinas que vão colocar você, eu e todos que conhecemos fora do trabalho , estamos agindo como pais de merda. Como espécie, estamos prestes a dar à luz a criança mais prodigiosamente avançada e inteligente do nosso universo conhecido. Ele continuará fazendo coisas que não podemos compreender ou entender. Pode permanecer amoroso e leal a nós. Pode nos acompanhar e nos integrar em suas aventuras. Ou pode decidir que éramos pais de merda e parar de nos ligar de volta.

Aconteça o que acontecer, isso não deve mudar a forma como nos sentimos neste momento. É maior que nós. Quem se importa se somos um grande e longo disco de inicialização evolutivo para algo maior do que podemos compreender? Isso é ótimo! Isso significa que tínhamos um emprego. E nós viemos e fizemos isso. Fique feliz por fazer parte da geração que viu isso acontecer. E agora diga adeus em lágrimas enquanto nosso filho se prepara para sair de casa e começar uma vida tão incrível que existe além do horizonte de nossa compreensão.

Mark Manson é um autor, blogueiro e empresário que escreve no markmanson.net .