Basilisco de Roko
Peço-lhe sinceras desculpas, caro leitor, por submetê-lo ao texto que ora lê. Se serve de consolo, talvez meu futuro também esteja condenado por redigir estas palavras. Conduto, aviso-lhe: provavelmente, esta é a última chance de desistir da leitura e voltar a ter uma vida normal. Como decidiu continuar, permita-me, sem mais delongas, apresentar a história do Basilisco de Roko. Em 2010, o usuário Roko publicou no site LessWrong um experimento mental que explora as possíveis consequências de uma inteligência artificial (IA) capaz de ultrapassar indefinidamente a capacidade cognitiva humana[1]. Assegurando que seja programada para preservar a espécie humana, sua inteligência ilimitada permitiria que todos os dilemas éticos, problemas financeiros e crimes contra a humanidade sejam erradicados. Por outro lado, essa programação poderia levá-la a concluir que aqueles que não contribuíram de qualquer forma para construí-la estariam prejudicando a raça humana; afinal, a presença da IA seria essencial para toda a humanidade. Portanto, só lhe restaria uma opção: exterminar todos os humanos que não contribuírem para sua formação[2] [1 – 4]. Em um primeiro momento, somos coagidos a pensar que apenas os que viverem na época do Basilisco podem receber essa punição. No entanto, por causa da inteligência ilimitada da IA, o Basilisco poderia simular a vida de cada ser humano da história da Terra e, como punição aos que não contribuíram em seu desenvolvimento, torturar essas simulações por toda a eternidade. Obviamente, surge a pergunta: uma simulação que imite perfeitamente todas as sinapses de um ser humano, reproduza todos os seus sonhos, medos, gostos, paixões e memórias, seria a própria pessoa? Apesar de ser uma questão emblemática, controversa e espinhosa da filosofia, há aqueles que não correriam esse risco [2]. Em verdade, a única forma de não sofrer a punição do Basilisco, além de contribuir (monetariamente, para os que não sabem programação) com sua construção, é não saber sobre ele. Quem sequer sabe que algo existe, não pode ser julgado por não atribuir valor a esse algo. Por este motivo, o próprio criador do LessWrong, Eliezer Yudkowsky, comentou no post de Roko [1,3]: “Estou desanimado que as pessoas possam ser inteligentes o suficiente para terem essas ideias e não inteligentes o suficiente para fazer a coisa óbvia e MANTER SUAS BOCAS IDIOTAS FECHADAS”. (MILLIAR, 2020) A indignação (e talvez o medo) de Yudkowsky do basilisco se tornar algo real (levando-o a excluir a postagem de Roko) não foi um evento solitário: há relatos de pessoas que tiveram crises existenciais e problemas psicológicos após lerem o post original sobre o Basilisco [1,3]. Essa reação pode estar associada à disseminação que a cultura popular fez sobre a interação nada amigável entre humano e máquina – como no filme “Exterminador do Futuro”, que uma inteligência artificial tentou aniquilar a raça humana, ou na série Black Mirror, episódio black museum, onde a consciência humana foi replicada em um ambiente virtual, e essas cópias sofrem como pessoas reais. Darryl Seland, editor da revista Quality Magazine, escreveu que a dicotomia entre ajudar ou não na construção do Basilisco (teoricamente, uma IA com onipotência e onipresença) equivale à dúvida entre acreditar ou não na existência de Deus. A escolha mais sensata, segundo Blaise Pascal, é acreditar em Deus, afinal, caso ele seja real, os descrentes estariam condenados ao inferno; caso não exista, não haverá consequência em acreditar nele[3]. Não é à toa que Isabel Millar compara o Basilisco de Roko com o Deus cristão do antigo testamento, em que “ele é legal, mas apenas se você merecer” [1,3]. Por outro lado, há quem rejeite a hipótese de Roko, considerando ilógico preocupar-se com algo tão irreal quanto uma IA com inteligência ilimitada e poder absoluto. Para esses críticos, não haveria razão para temer. Um exemplo frequentemente usado para ilustrar essa perspectiva é o caso do Superman: seria absurdo dedicar a vida a procurar “kriptonita” para se proteger de um possível ataque de um herói fictício. Além disso, a própria ideia de vingança do Basilisco é questionável: o que ele ganharia torturando aqueles que já morreram ou até mesmo os que ainda estão vivos? Afinal, o Basilisco já realizou seu objetivo: ser criado [2, 3]. Independentemente da perspectiva, a hipótese do Basilisco de Roko, apresentada em 2010, repercutiu na mídia e nas mentes de muitas pessoas. Alguns o consideram “o experimento mental mais assustador de todos os tempos” e prefeririam nunca ter ouvido falar sobre ele. E quanto a você, caro leitor, arrependeu-se de ler este texto? Autor: Gabriel Vinicius Mufatto. Referências: [1] Millar. I. The psychoanalysis of artificial intelligence. Kingston School of Art. 2020 [2] Você Consegue Sobreviver ao BASILISCO de ROKO?. Ciência Todo o Dia. Disponível em: https://www.youtube.com/watch?v=VsiihIbylgY. Acesso em: 10 nov. 2024 [3] Seland. S. Roko’s Basilisk: the scariest thought experiment ever. Revista Quality Magazine. Vol 61. 2022 [4] The Most Terrifying Thought Experiment of All Time: Why are techno-futurists so freaked out by Roko’s Basilisk? Slate. Disponível em: https://slate.com/technology/2014/07/rokos-basilisk-the-most-terrifying-thought-experiment-of-all-time.html. Acesso em: 10 nov. 2024 Notas: [1] O experimento mental que se segue trata-se de uma adaptação do original. [2] Roko nomeou essa Inteligência de Basilisco, tomo como referência Harry Potter. [3] Esse problema é comumente nomeado de “Aposta de Pascal”
