O CEO do Google DeepMind acha que a IA tornará os humanos menos egoístas

Se você chegar a um ponto em que o progresso supera a capacidade de tornar os sistemas seguros, você faria uma pausa?

Eu não acho que os sistemas de hoje estejam representando qualquer tipo de risco existencial, por isso ainda é teórico. As perguntas geopolíticas podem acabar sendo mais complicadas. Mas, com tempo suficiente, cuidado e consideração suficientes, e usando o método científico…

Se o prazo for tão apertado quanto você diz, não temos muito tempo para cuidar e consideração.

Nós não tem muito tempo. Estamos cada vez mais colocando recursos em segurança e coisas como Cyber ​​e também pesquisam, você sabe, controlabilidade e compreensão desses sistemas, às vezes chamados de interpretabilidade mecanicista. E então, ao mesmo tempo, precisamos também ter debates sociais sobre construção institucional. Como queremos que a governança funcione? Como vamos conseguir um acordo internacional, pelo menos em alguns princípios básicos sobre como esses sistemas são usados ​​e implantados e também construídos?

Quanto você acha que a IA vai mudar ou eliminar o trabalho das pessoas?

O que geralmente tende a acontecer é que novos trabalhos são criados que utilizam novas ferramentas ou tecnologias e são realmente melhores. Vamos ver se é diferente desta vez, mas nos próximos anos, teremos essas ferramentas incríveis que sobrecarregam nossa produtividade e quase nos tornam um pouco sobre -humanas.

Se a AGI puder fazer tudo o que os humanos podem fazer, parece que também poderia fazer os novos empregos.

Há muitas coisas que não queremos fazer com uma máquina. Um médico pode ser ajudado por uma ferramenta de IA, ou você pode até ter um tipo de médico de IA. Mas você não gostaria de uma enfermeira de robô – há algo sobre o aspecto da empatia humana desse cuidado que é particularmente humanista.

Diga -me o que você imagina quando olha para o nosso futuro em 20 anos e, de acordo com sua previsão, a AGI está em toda parte?

Se tudo correr bem, devemos estar em uma era de abundância radical, uma espécie de era dourada. A AGI pode resolver o que eu chamo de problemas de nó raiz no mundo-criando doenças terríveis, muito mais saudáveis ​​e mais longas, encontrando novas fontes de energia. Se tudo isso acontecer, deve ser uma era do máximo de florescimento humano, onde viajamos para as estrelas e colonizamos a galáxia. Eu acho que isso começará a acontecer em 2030.

Estou cético. Temos abundância inacreditável no mundo ocidental, mas não a distribuímos de maneira justa. Quanto à solução de grandes problemas, não precisamos de respostas tanto quanto resolver. Não precisamos de um AGI para nos dizer como corrigir a mudança climática – sabemos como. Mas nós não fazemos isso.

Eu concordo com isso. Nós somos, como espécies, uma sociedade, não é bom em colaborar. Nossos habitats naturais estão sendo destruídos, e é em parte porque exigiria que as pessoas fizessem sacrifícios, e as pessoas não querem. Mas essa abundância radical de IA fará com que as coisas pareçam um jogo diferente de zero-

AGI mudaria o comportamento humano?

Sim. Deixe -me dar um exemplo muito simples. O acesso à água será um grande problema, mas temos uma solução – dessalinização. Custa muita energia, mas se houvesse energia renovável, gratuita e limpa (porque a IA inventou) da fusão, de repente você resolve o problema de acesso à água. De repente, não é mais um jogo de soma zero.