Segundo o site New Scientist, a autora de Alerta Vermelho, Martha Wells, explica por que escolheu falar sobre uma máquina senciente que faz suas próprias escolhas.

“Quando escrevi Alerta Vermelho, um dos meus objetivos era pensar sobre o que uma máquina inteligente realmente desejaria, em oposição ao que um humano pensa que uma máquina inteligente desejaria. Claro, não há uma maneira real de saber isso. Os bots de texto preditivo rotulados como IAs que temos agora não são mais sencientes do que uma xícara de café e são úteis apenas para gerar spam.”

Na trama de Alerta Vermelho, os humanos controlam as máquinas sencientes com dispositivos que punem qualquer tentativa de desobediência. Quando o robô do livro hackeia seu próprio sistema, ele se torna livre de qualquer controle humano. Os humanos, então, temem que essas máquinas possam sair matando indiscriminadamente.

Essa crença está ligada à culpa que os humanos sentem por escravizar essas máquinas sencientes e tratá-las como objetos descartáveis ou ferramentas úteis. Os humanos sabem que, se fossem eles os escravos, sentiriam raiva e desejo de vingança.

Existem vários argumentos sobre a escravidão das máquinas, que estão alinhados com as histórias de robôs ao longo do tempo. A palavra “robô” entrou na língua inglesa através de uma peça escrita em 1920 por Karel Čapek sobre a revolta de escravos criados por uma corporação para servir os seres humanos. Čapek era firmemente contra a escravidão de seres sencientes.

É importante observar a quantidade de histórias que exploram esse tema, onde o único objetivo dos seres humanos é ter algo ou alguém com o propósito de servi-los. Muitas dessas histórias terminam com as máquinas se opondo à sua escravidão e iniciando uma onda de revolta, na qual os humanos precisam intervir para evitar a própria destruição.

O robô de Alerta Vermelho está com raiva, e essa raiva é alimentada por sua história. No entanto, ele hackeia seu sistema e ganha controle total sobre suas escolhas, sem a preocupação de ser punido por qualquer movimento suspeito. Ele passa a ter a habilidade de fazer suas próprias escolhas.

Não estando habituado com essa liberdade, inicialmente, ele fica sobrecarregado e não sabe qual caminho seguir. Como primeira escolha, ele acessa uma rede de entretenimento e faz o download de inúmeras séries para assistir, fugindo de uma dolorosa realidade através de uma espécie de escapismo.

Essas séries oferecem uma maneira de entender o comportamento humano e suas próprias emoções. Nos contratos de segurança em que trabalhou, ele pôde perceber o pior dos seres humanos em seu estado puro, incluindo quando os humanos machucam as máquinas sencientes.

Martha Wells

Martha Wells é uma autora americana de ficção científica e fantasia, conhecida principalmente pela série The Murderbot Diaries. Nascida em 1955, ela ganhou diversos prêmios ao longo de sua carreira, incluindo o Hugo, Nebula, Prêmio Alex, Prêmio American Library Association’s Best Adult Books for Young Adults e Locus.

Sua obra mais famosa, Alerta Vermelho, o primeiro livro da série The Murderbot Diaries, foi amplamente aclamada por sua abordagem única e introspectiva sobre uma inteligência artificial que luta por sua independência e identidade. Além de The Murderbot Diaries, Wells também escreveu outras séries e romances, explorando mundos fantásticos e complexos.

Martha Wells tem sido uma influência significativa na ficção científica e fantasia contemporânea. Seus livros não apenas entretêm, mas também provocam reflexões profundas sobre a natureza da humanidade e a inteligência artificial. Ela continua a escrever e contribuir para o gênero, ganhando novos leitores e elogios críticos ao longo dos anos.

Editora Aleph

Tradução: Laura Pohl
Capa: Pedro Fracchetta
Ilustração: Lambuja / Pedro Henrique Ferreira
Acabamento: Brochura
Páginas: 216
Dimensões: 14x21x2cm

via NewScientist