O significado mais profundo do M3Gan 2.0 vai deixar muitas pessoas desconfortáveis

Aviso: este artigo contém Spoilers maciços Para “M3Gan 2.0”. Continue lendo por sua conta e risco.

Assim como o T-800 de Arnold Schwarzenegger em “Terminator 2: Judgment Day”, o M3Gan Titular de “M3Gan 2.0” (Amie Donald/Jenna Davis) não é o vilão da nova sequência de Blumhouse e Universal. O marketing e grande parte da história levariam o público a acreditar que o vilão é Amelia (Ivanna Sakhno), a nova e avançada arma de grau militar criado a partir de código que Kurt (Stephane Garneau-Monten) do original “M3Gan” vendeu ilegalmente aos contratados de defesa antes que o M3gan o matasse em um elevador. De fato, o primeiro filme “M3Gan” foi, sem dúvida, uma história sobre os perigos de permitir que a IA fique desmarcada e o perigo inerente de permitir que a tecnologia substitua a conexão humana.

“Quando fizemos o original, refletia uma época em que eu estava profundamente preocupado com a tecnologia, especialmente coisas como iPads e smartphones, estava reformulando a paternidade”, explicou o escritor/diretor Gerard Johnstone em comunicado. “Mas quando começamos a pensar na sequência, o bate -papo havia chegado e a conversa em torno da IA ​​mudou”. A questão de saber se a IA se tornaria ou não parte de nossas vidas diárias já foi respondida – está aqui, e agora temos que descobrir como existir ao lado dela e Certifique -se de que a IA não domine o mundo.

Apenas na semana passada, Openi recebeu um contrato de US $ 200 milhões Com o Departamento de Defesa dos Estados Unidos, uma realidade que realmente deve horrorizar a todos nós. “Claro, o governo ou quem criou (Amelia) pode acreditar que pode controlá -la, mas o que acontece se ela se tornar senciente?” Produtor pensado James Wan. “O que acontece quando ela decide: ‘Não quero ser confinado pelo Código da Humanidade – quero ser algo maior?’ Esse é o verdadeiro medo com a IA. ” Mas, em última análise, a IA é algo que nósseres humanos, criados. E “M3Gan 2.0” postula com razão que o perigo não apenas Ai; É também os seres humanos criando e controlando a tecnologia em primeiro lugar.

No centro de “M3Gan 2.0” está algo chamado teoria do clipe de papel, também conhecido como o maximizador de papel, um experimento pensado – como criado em 2003 pelo filósofo sueco Nick Bostrom – que serve como o pesadelo inverso para o Teorema de Macaco Infinito. Em essência, a idéia é que exista um risco existencial inerente a fornecer tarefas de IA, mesmo as aparentemente inofensivas como “Faça o maior número possível de clipes de papel”. Por que? Porque se também não fosse programado para valorizar os seres vivos, esse tipo de diretiva em uma máquina avançada acabaria tentando transformar toda a matéria no universo, incluindo seres vivos, em clipes de papel ou máquinas que fabricam mais clipes de papel.

Claro, a IA que tenta transformar o mundo em clipes de papel é um “ruim” inquestionável. Ainda, Ai sempre será um reflexo das pessoas que o programam e daquelas que “aprendem” comentão os verdadeiros vilões nesse cenário são os humanos que não conseguiram ensinar a IA a ver as criaturas vivas como valiosas. Seria fácil culpar Kurt por vender o código da M3Gan ou o governo por manipular o código para transformar Amelia em um dróide de infiltração que realiza missões que não ousaria enviar um humano real para executar. Mas colocar a culpa diretamente nos ombros de uma pessoa ou instituição seria um pouco arrumada e arrumada para as complexidades da IA.

Lembre -se de que Gemma (Allison Williams) estava motivado a inventar o M3Gan no “M3Gan” original como uma maneira de atrair os pais que realmente não querem pais de seus filhos, evoluindo um iPad para um melhor amigo tangível. Mesmo assim, porém, pelo menos Gemma programou o M3Gan para se preocupar profundamente com sua sobrinha Cady, recém-órfica (Violet McGraw). O problema era m3gan apenas se importava com Cady. Kurt e o governo, por outro lado, não conseguem imbuir Amelia com o desejo de se preocupar com qualquer Os seres humanos, que é um reflexo condenatório de como o governo vê a vida humana. Cuidando -se com outras pessoas é uma lição que deve ser ensinada e modeladae os humanos por trás de Amelia estavam muito ocupados pensando em como ela poderia matar seus alvos para considerar que programar sua consciência dessa maneira a motivaria a matar todos pessoas.

Uma das maiores revelações no “M3Gan 2.0” (embora seja bastante óbvia do salto) é que Amelia não “ficou desonesta”, ela está sendo controlada pelo tipo de namorado de Gemma que o namorado cristão (aristóteles atari), um pondit anti-AI e o líder de um terrorista de guerrela. Seu raciocínio por trás do controle de Amelia é que a mudança não vem de Washington, vem para Washington. Significado, o Congresso faz mudanças legislativas devido a pressões externas ou enfrentando a fixação de um problema existente, em vez de empregar medidas preventivas significativas.

É mais preciso dizer que a mudança geralmente chega ao Congresso devido a pressões externas, em vez de ser algo que o Congresso inicia apenas por conta própria. Nesse ponto, o ponto crucial do conflito de “M3Gan 2.0” é lançado em uma arena incrivelmente eticamente complicada – uma versão da AI Killbot do problema do carrinho. IA não regulamentada é absolutamente um problema, mas até torna -se Uma ameaça tangível, o Congresso provavelmente continuará a fazer absolutamente nada para impedir essa inevitabilidade. É um mal necessário que Amelia destrua um ambiente controlado? Ou devemos continuar pedindo muito bem ao Congresso e esperamos que ele realmente escuta? “M3Gan 2.0” não fornece respostas definitivas, mas certamente quer que pensemos sobre isso. “O M3Gan não vai a lugar nenhum, então o que significa viver com ela?” Johnstone perguntou. “Ela é totalmente ruim ou seu comportamento veio de como ela foi criada – como Gemma a treinou? E se ela tivesse sido guiada de maneira diferente, poderia ter aprendido a diferença entre certo e errado? Essas são as perguntas que estamos explorando agora”.

Ao não negar a realidade da infiltração existente da IA ​​em praticamente todos os aspectos de nossas vidas (eu não podia nem usar o Google enquanto escrevia este artigo sem um “ajudante de IA” tentando entrar), “M3Gan 2.0” está fazendo as perguntas difíceis que muitas pessoas estão ignorando na esperança de que isso desapareça.

“M3Gan 2.0” agora está tocando nos cinemas.