Este é o século de duas singularidades — a singularidade econômica (desemprego tecnológico) e a singularidade tecnológica (explosão da inteligência). Ambas apresentam enormes oportunidades e desafios. Se as administrarmos com sucesso, nosso futuro como espécie será maravilhoso. Se falharmos, pode ser horrível — e talvez curto.
O condutor é a inteligência artificial (IA) — a tecnologia mais poderosa da humanidade. Softwares que resolvem problemas e transformam dados em insights já revolucionaram nossas vidas e a revolução está ficando mais rápida.
Em 2015, a inteligência artificial raramente esteve fora das principais notícias, e com razão. Ela está se aproximando de um ponto de inflexão em que as máquinas podem executar melhor do que nós diversas tarefas anteriormente consideradas exclusivamente humanas. Os sistemas de deep learning estão prestes a reconhecer imagens e a entender a fala natural melhor do que os seres humanos.
O argumento deste livro é que devemos monitorar as mudanças que estão acontecendo e adotar políticas que estimulem os melhores resultados possíveis. A gama de resultados possíveis é ampla, do terrível ao maravilhoso, e eles não são pré-determinados. Serão selecionados parcialmente por sorte, parcialmente por sua própria lógica interna, mas em parte também pelas políticas adotadas em todos os níveis da sociedade.
Já podemos perceber que a automação e a superinteligência são os dois avanços que provavelmente causarão grandes impactos. A automação pode levar a uma singularidade econômica e à evolução de um tipo totalmente diferente de economia. Se errarmos, uma elite pode possuir os meios de produção e suprimir o resto de nós em um regime autoritário tecnológico distópico. Se acertarmos, poderemos desfrutar de uma economia de abundância radical, onde ninguém precisa trabalhar para viver e todos somos livres para nos divertir, expandir nossas mentes e desenvolver nossas habilidades ao máximo.
A chegada da superinteligência, se e quando acontecer, representará uma singularidade tecnológica, que será o evento mais significativo da história humana, sem exceção. Descobrir como sobreviver é o desafio mais importante que a humanidade enfrenta nesta e na próxima geração. Se evitarmos as armadilhas, isso melhorará a vida de maneiras que estão literalmente além da nossa imaginação. Uma superinteligência que melhorou repetidamente sua própria arquitetura e expandiu suas capacidades poderia resolver de forma muito plausível quase qualquer problema humano que você possa imaginar. A morte pode se tornar opcional e poderemos desfrutar de uma vida de constante felicidade e emoção. Se errarmos, pode significar a extinção. Devido à enormidade desse risco, a maior parte deste livro aborda a superinteligência: a probabilidade de ela surgir e de ser benéfica.
