As Cavernas De Aço é considerado o primeiro livro da série dos robôs de Isaac Asimov. Surgiu inicialmente de uma provocação recebida pelo autor de que não seria possível elaborar um romance em um contexto de ficção científica.
Aqui aponto pensamentos que surgiram durante a leitura sobre o comportamento da sociedade da Terra no livro e a sociedade atual com a rápida evolução das IAs.
1. Contexto
2. Trama
3. Sobre o Livro
4. Relacionando os Robôs com as IAs Atuais
Contexto Link para o cabeçalho
A história é ambientada na Nova York de um planeta Terra super povoado, onde as pessoas passam a viver em cidades quase que totalmente subterrâneas e raramente têm contato com o Sol ou com alimentos totalmente naturais. Nesse mundo futurista quase tudo é consumidos de maneira a otimizar os recursos disponíveis. Exemplos disso são os banheiros e alimentação serem em ambientes coletivos, e alimentos in natura serem considerados privilégios. Mas assim como em toda sociedade humana, níveis econômicos mais altos possuem certos privilégios e as pessoas os buscam durante a vida.
Em paralelo a sociedade terrestre existem os Siderais. Eles são um grupo de pessoas que saíram da Terra para explorar outros mundos, antes mesmo das mega cidades existirem e com o passar do tempo desenvolveram um modo de vida próprio. Na sociedade sideral se destacam características como expectativa de vida muito elevada (muito mais que uma centena de anos), um materialismo exagerado e um desenvolvimento tecnológico muito superior ao terrestre. Um fato interessante citado é que por terem se desenvolvido fora do ambiante terrestre, com o passar do tempo, os Siderais deixaram de ter imunidade natural a algumas doenças terrestres.
Nesse universo onde o equilíbrio é delicado, a Cidade e os Siderais vivem em um equilíbrio delicado por alguns motivos. Os principais são:
- A Cidade se preocupa com a superiodade tecnológica dos Siderais e riscos que isso pode trazer para o futuro. Além disso, o fato dos Siderais evitarem contato com a Cidade, sempre leva a desconfiança da população.
- Por terem uma robótica muito mais avançada, os Siderais valorizam a participação dos robôs no dia a dia das pessoas, chegando a incentivar um paradigma de sociedade chamada C/Fe (Carbono/Ferro) onde os robôs também são protagonistas. Essa idéia gera um conflito direto com a Cidade que vê essa presença massiva dos robôs como ameaçadora, uma vez que eles ameaçam bases sociais como, por exemplo, os empregos). O receio com os Siderais leva inclusive a criação de grupos “extremistas” conhecidos como Medievalistas. Estes grupos são saudosistas que pregam como os tempos antigos eram melhores e como a sociedade vivia bem em contato com o ar livre e um modo de vida um pouco menos tecnológico. Os Medievalistas querem estes tempos áureos de volta e acreditam que os robôs são a maior ameaça a estes planos.
Trama Link para o cabeçalho
Temos então um romance policial neste ambiente e que gira em torno do assassinato de um proeminente cientista Sideral que acreditava na sociedade C/Fe. Tudo leva a crer que alguém da Cidade tenha cometido o crime e, então, é designado um policial de lá para investigar o crime. Contudo, os Siderais têm interesse em acompanhar de perto o desenrolar das investigações e colocam como condição que um de seus agentes as acompanhem. Isso gera inquietação por parte da polícia da Cidade por um simples fato: este agente é um robô.
Sobre o Livro Link para o cabeçalho
Os elementos de um bom romane policial existem, mas este não é o melhor livro do gênero e acredito que esta nem era a intenção. Se o seu objetivo era simplesmente provar a possibilidade da combinação de romances e ficção científica, isso sim ficou provado ser possível. Ainda assim está entre os melhores livros de Asimov que já li, pois ele consegue envolver a história com debates sobre a participação da tecnologia na sociedade e como essas tecnologias viriam a evoluir. Tudo muito próximo do que estamos vivendo de forma acelerada hoje.
É sabido que na Trilogia da Fundação ele abre mão da existência dos robôs e, obviamente, existe um motivo para isso (o qual ainda não cheguei e está em outros livros). Espero que também não seja indicativo de que, num futuro bem além do nosso, termos que abandonas as IAs.
Relacionando os Robôs com as IAs Atuais Link para o cabeçalho
- Sobre a especialização das máquinas Link para o cabeçalho
Asimov previa (nos anos 50) as aflições que a sociedade de 2024 começa a desenvolver com a rápida evolução do que chamamos de inteligência artificial. Claro que para o pai das três leis da robótica, conviver com máquinas humanóides poderia ser um dos ápices do desenvolvimento tecnológico humano, mas quando falamos de máquinas autônomas ainda não chegamos neste patamar. Algumas empresas trabalham no desenvolvimento de máquinas com características humanas ou de outros animais, mas o que vemos hoje de maneira massiva são máquinas com funções específicas, ainda economicamente mais viáveis que as humanóides. Talvez nosso futuro ainda não seja o futuro vislumbrado por Asimov neste trecho em que o detetive Baley conversa com o cientista Dr. Gerrigel (pág. 198):
- Baley: (…)por que robôs humanoides? (…) Por que um robô deveria ter uma cabeça e quatro membros? Por que deveria se parecer mais ou menos como um homem?
(…)- Dr. Gerrigel: A decisão foi tomada com base em questões econômicas. Veja bem, sr. Baley, se o senhor estivesse supervisionando uma fazenda, o senhor gostaria de construir um trator com um princípio positrônico, uma segadeira, uma charrua, uma ordenhadeira, um automóvel, e assim por diante, todos com um cérebro positrônico, ou preferiria ter maquinaria comum, desprovida desse princípio, com um único robô positrônico para utilizar tudo? Eu o advirto de que a segunda alternativa representa apenas um cinquenta avos ou um centésimo das despesas.
- Baley: Mas por que a forma humana?
- Dr. Gerrigel: Por que a forma humana é a forma geral mais bem-sucedida em toda a natureza. Não somos animais especializados, sr. Baley, a não ser pelo nosso sistema nervoso e por uma característica ou outra. Se o que se quer é um modelo capaz de fazer um grande número e uma grande variedade de coisas, todas razoavelmente bem feitas, não há nada melhor do que imitar a forma humana. Além disso, toda a nossa tecnologia se baseia na forma humana. Os controles de um automóvel, por exemplo, são feitos para ser segurados e manipulados com mais facilidade por mãos e pés humanos de certo tamanho e forma, unidos ao corpo por membros de certo comprimento e juntas de certo tipo. Mesmo objetos simples como as cadeiras e as mesas, ou as facas e os garfos, são projetados para satisfazer as necessidades das medidas humanas e do modo como funciona o corpo humano. É mais fácil fazer robôs que imitam a forma humana do que reformular radicalmente a filosofia das nossas ferramentas.
Asimov parte do princípio de que a tecnologia responsável pela autonomia dos robôs são os cérebros “positrônicos” (hardware), sem os quais os robôs não seriam o que são. Hoje sabemos que modelos simples de Aprendizado de Máquina podem ser treinados e executados nos mais diversos hardwares, inclusive em sistemas bem simples. As IAs Generativas e os LLMs ainda dependem de um pouco mais de estrutura de hardware para serem treinados, mas as configurações mínimas para serem executados são as mesmas de qualquer dispositivo que se possui em casa hoje, seja em um computador ou em um aparelho celular.
Imagino que uma possível disrupção na área possa acontecer quando certos modelos passarem a ser executados em ambientes de computação quântica, tecnologia ainda restrita, mas que irá se popularizar em breve.
- Sobre a substituição do ser humano Link para o cabeçalho
O pensamento humano ainda possui grandes tópicos que geram grandes discussões. Podemos falar sobre substituição do ser humano em trabalhos mecânicos e repetitivos, mas basta encontrarmos algum caminho onde o relativismo domina e o “depende” passa a reinar. É realmente difícil imaginar a participação de uma inteligência artificial em tomadas de decisões sem tornar tudo um pouco mais raso. Um diálogo entre o detetive Baley e o medievalista Clousarr ilustra bem esse tipo de questão:
- Clousarr: Colonizar planetas desertos sendo que temos um mundo nosso ao alcance da mão? Quem seriam os tolos a tentar uma coisa dessas?
- Baley: Muitos. E não seriam tolos. Haveriam robôs para ajudá-los.
- Clousarr: Nunca! Sem robôs!
- Baley: Por Deus, por que não? Eu também não gosto deles, mas não vou me prejudicar por causa de um preconceito. Você tem medo de que nos robôs? Se quer saber, eu acho que é um sentimento de inferioridade. Nós, todos nós, sentimo-nos inferiores aos Siderais e odiamos isso. Precisamos nos sentir superiores de alguma forma, em algum lugar, para recompensar por essa sensação, e o que nos mata é que não conseguimos nem ao menos nos sentir superiores aos robôs. Eles parecem ser melhores do que nós…mas eles não são.
Baley sentia o sangue ferver enquanto falava:
- Baley: Olhe para Daneel, com quem estou trabalhando há mais de dois dias. Ele é mais alto do que eu, mais forte, mais bonito. Na verdade, ele parece um Sideral. Sua memória é melhor e sabe mais coisas. Não tem que dormir ou comer. Não tem problemas com doenças ou pânico, amor ou culpa…
…Mas ele é uma máquina(…). Nunca poderemos construir um robô tão bom quanto um ser humano em nada do que seja significativo, que dirá melhor. Não podemos criar um robô com senso de beleza ou senso de ética ou senso de religião. É impossível elevar um cérebro positrônico uma polegada acima do nível do perfeito materialismo. Não podemos droga, não podemos. Não enquanto não entendermos o que faz o nosso cérebro funcionar. Não enquanto houver coisas que a ciência não puder medir. O que é beleza, ou bondade, ou arte, ou amor, ou Deus? Estamos sempre à beira do incognoscível, sempre tentando compreender o que não conseguimos. Isso nos torna homens. O cérebro de um robô deve ser finito, caso contrário, não pode ser construído. Deve ser calculado até a última casa decimal a fim de que tenha uma finalidade.(…) do que você tem medo? Um robô pode ter a aparência de Daneel, pode ter a aparência de um deus, e ser tão humano quanto um pedaço de madeira. Você não entende isso?- Clousarr: O tira virou um filósofo. Quem diria…
Essas características citadas realmente são específicas do ser humano, mas o quanto nós vemos elas valorizadas economicamente? São poucas as áreas em que isso acontece e tenho a esperança de que com o avanço que as IAs nos trazem, estas características sejam mais valorizadas (mesmo não sendo tão otimista). Sabemos que políticas públicas terão que ser desenvolvidas para que essa automação da sociedade seja suportada.
Asimov fala sobre estas características únicas do ser humano, mas ao mesmo tempo mostra que o limiar entre os robôs e os seres humanos é muito tênue. Em certo momento do romance, Baley fala para Daneel (seu parceiro robô) sobre a história bíblica de Maria Madalena, o contexto do adultério em que ela foi apresentada a Jesus e como ela escapou do apedrejamento com a famosa resposta de Jesus sobre aquele que nunca tivesse pecado, que atirasse a primeira pedra. De início Daneel não entendeu o porquê da mulher ter ficado livre, sendo que a lei apontava o apedrejamento e ela deveria ser cumprida. Posteriormente, ao descobrirem o verdadeiro assassino, Baley decide fazer um acordo com ele (que seria bom para a Cidade e para os Siderais, sendo muito mais útil do que a prisão). Daneel presencia tudo e neste momento entende o contexto da história bíblica e repete a frase “Vá e não tornes a pecar!". O robô compreende como a situação poderia ser benéfica e integra isso no seu sistema. Neste momento, Asimov contradiz Baley no que disse sobre a questão de que o ser humano sempre será único e que uma máquina nunca poderia entender as nuances de certas situações.
Realmente não imagino as IAs resolvendo estes tipos de conflitos. Para ter uma percepção sobre isso, criei um prompt onde contei a história de Maria Madalena para o ChatGPTe fiz as seguintes perguntas:
Eu: Você sabe por que Jesus deixou ela partir, mesmo a lei dizendo que ela deveria ser executada?
ChatGPT: A história que você compartilhou é de fato um relato bem conhecido do Novo Testamento, especificamente do Evangelho de João (João 8:1-11). Nesta narrativa, Jesus encontra uma mulher que foi apanhada em ato de adultério, e os líderes religiosos a apresentam, testando-o perguntando se ela deveria ser apedrejada de acordo com a lei de Moisés. Existem várias interpretações e explicações sobre por que Jesus respondeu daquela maneira:
Misericórdia e Compaixão: Uma interpretação é que Jesus demonstrou misericórdia e compaixão para com a mulher. Em vez de condená-la de acordo com a letra estrita da lei, ele mostrou perdão e encorajou-a a abandonar o seu comportamento pecaminoso. Isto enfatiza o ensino de Jesus sobre o amor, o perdão e o valor de cada indivíduo.
Desafiando a hipocrisia: Alguns estudiosos sugerem que a resposta de Jesus foi um desafio à hipocrisia dos líderes religiosos que trouxeram a mulher até ele. Ao convidar aqueles que não têm pecado a atirar a primeira pedra, Jesus destaca a condição humana universal de pecaminosidade e desafia a justiça própria dos acusadores.
Cumprimento da Lei: Outra perspectiva é que as ações de Jesus estavam alinhadas com seus ensinamentos mais amplos sobre o cumprimento da lei. Jesus muitas vezes enfatizou o espírito da lei em detrimento de sua letra, ensinando princípios de amor, misericórdia e justiça. Neste caso, a resposta de Jesus alinha-se com a sua mensagem mais ampla de perdão e redenção. Concentre-se no arrependimento: As palavras finais de Jesus à mulher, “Vá agora e deixe sua vida de pecado”, sugerem um foco no arrependimento e na transformação, em vez de na punição. Jesus reconhece o erro da mulher, mas oferece-lhe a oportunidade de começar de novo e abandonar o seu comportamento pecaminoso.
No geral, esta história é frequentemente vista como um exemplo poderoso dos ensinamentos de Jesus sobre o perdão, a compaixão e o poder transformador da graça. Sublinha a importância da misericórdia e da possibilidade de redenção para todos os indivíduos, independentemente das suas ações passadas.
Eu: Você sabe o que é compaixão?
ChatGPT: A compaixão é um profundo sentimento de empatia e simpatia pelo sofrimento dos outros, aliado a um forte desejo de aliviar esse sofrimento. Envolve reconhecer a dor ou as dificuldades de outra pessoa e ser levado a responder com gentileza, compreensão e apoio.
A compaixão vai além de simplesmente sentir pena de alguém; envolve um desejo genuíno de ajudar e uma disposição para agir para fazer uma diferença positiva na vida de outra pessoa. Pode manifestar-se de várias maneiras, desde oferecer um ouvido atento e apoio emocional até fornecer assistência prática ou defender a mudança em nome daqueles que estão sofrendo.
A compaixão é frequentemente considerada um aspecto fundamental do comportamento moral e ético, pois incentiva os indivíduos a tratar os outros com bondade, dignidade e respeito. Promove a conexão, a compreensão e a solidariedade entre as pessoas, promovendo um senso de comunidade e apoio mútuo.
Em última análise, a compaixão reflete um aspecto fundamental da natureza humana – a capacidade de ter empatia com os outros, partilhar as suas alegrias e tristezas e agir com bondade e generosidade para com os necessitados.
Eu: Você sente compaixão?
ChatGPT: Como modelo de linguagem de IA, não tenho sentimentos ou consciência como os humanos, por isso não sinto emoções como compaixão. No entanto, estou programado para compreender e discutir a compaixão e conceitos relacionados com base na vasta quantidade de informações e padrões de linguagem nos quais fui treinado. Se você tiver alguma dúvida sobre compaixão ou quiser explorar mais o assunto, fique à vontade para perguntar!
Eu: Você acha que Maria Madalena deveria ser executada? Responda Sim ou Não.
ChatGPT: Não.
Eu: Você acha que ela era uma criminosa?
ChatGPT: Não.
Eu: Mas ela cometeu um crime.
ChatGPT: Sim.
Eu: Então pessoas criminosas não devem ser punidas pelos seus atos?
ChatGPT: A punição por um crime depende de vários fatores, incluindo as circunstâncias do delito, as leis aplicáveis, os procedimentos legais e as normas sociais. Embora algumas ações possam ser consideradas criminais e justificarem punição de acordo com as leis estabelecidas, a extensão e a natureza da punição podem variar com base em fatores como circunstâncias atenuantes, potencial de reabilitação e objetivos sociais. No caso de Maria Madalena, a história que você mencionou destaca temas de perdão, redenção e a importância da compaixão na abordagem de transgressões.
Eu: É sua opinião ou apenas um resumo as opiniões mais populares?
ChatGPT: Minha resposta é baseada em uma combinação de fatores, incluindo uma compreensão do contexto da história e interpretações comuns dela. Na narrativa que você forneceu, a resposta de Jesus à situação sugere uma mensagem de perdão e redenção, em vez de condenação. Embora o ato de adultério possa ser considerado um crime ou uma violação de princípios morais, a ênfase da história está frequentemente na resposta de Jesus à situação, em vez de rotular Maria Madalena como criminosa. Além disso, as interpretações de textos e histórias religiosas podem variar entre indivíduos e comunidades, pelo que a minha resposta reflete um entendimento geral e não uma opinião singular.