Техно-миллиардеры рассматривают человечество как препятствие для эволюции и ускоряют развитие искусственного интеллекта

Cultuando bezerros de silício Resumo Na narrativa bíblica há uma passagem em que os israelitas, peregrinando pelo deserto depois de saírem do Egito e deixarem para trás dois séculos de escravidão, se rebelam contra a demora de Moisés em voltar do monte onde foi se encontrar com Deus. Pouco tempo antes, Moisés os havia liderado nessa jornada, agora já questionavam sua autoridade e a boa sorte divina sobre suas vidas. O povo então decide criar para si um novo deus e encomendam a construção de um bezerro de ouro, que serviria como um ídolo visível entre eles e para quem poderiam dedicar seus sacrifícios e adoração em busca de algum favor. Quando volta ao acampamento, Moisés vê a situação, fica irado e a coisa esquenta (esquenta muito) para os rebeldes. Um deus feito por mãos humanas não seria tolerado. Esse não foi o único caso de idolatria na narrativa das religiões e nem foram poucos. Séculos se passaram, as sociedades mudaram, a humanidade se transformou, mas a alma humana, não. Buscamos preencher as lacunas, saciar nossas inquietudes existenciais e materiais e para evitar o vazio, inventamos ídolos de todo tipo. Os bezerros mudaram. O tempo em que estamos nunca foi tão fincado no agora, no imediato, na ânsia pelo preenchimento instantâneo desse vazio e, sem recursos para formular as perguntas que realmente importam, acabamos topando qualquer resposta que nos oferecem. Cada época tem seus males. Hoje, somos inundados pelas ondas de consumo, pelo frenesi por dopamina, pela adoção impensada de qualquer novidade sem pensar em seus efeitos e por esse estado de ansiedade coletiva que molda tudo — mesmo que esse todo tenha a rigidez de uma bolha de sabão — no padrão sintomático de uma busca espiritual. Acho que você notou que essa é uma coluna sobre tecnologia, mídia e cultura digital. Na semana passada, por ocasião de um compromisso de trabalho, reli a biografia de Elon Musk escrita por Walter Isaacson. Nunca fui grande admirador de Musk e minha antipatia virou ojeriza nos últimos anos, de forma que atravessar as 656 páginas (ou 27 horas do audiolivro) mergulhado em sua vida não estava exatamente no topo da minha lista de desejos. Mas, sendo a figura que é, o personagem interessa. E há algo em Elon Musk que me parece comum em parte importante dos fundadores desses conglomerados de tecnologia e que ele não só personifica como congrega: a obsessão megalomaníaca para fazer algo que sustente o tamanho do ego que ostentam. Talvez, como consequência disso, desenvolvem uma relação umbilical com os produtos que criam e patrocinam. E se por um lado lhes servem como fonte de riqueza, por outro, se tornam criações soberanas a quem devotam adoração. É um culto a um objeto que, por fim, os reflete. Só para você não achar que tomei café demais hoje cedo e essa digressão é efeito de substâncias em minha mente, farei uma lista pequena - e simplista - dos tipos de crenças que influenciam e mobilizam algumas dessas pessoas. (Antes, admito que sim, tomei mais café do que deveria, mas, não, os efeitos não são nocivos). Upload da mente, por exemplo, é algo super popular. A ideia de preservar o cérebro para futuramente fazer o upload da mente de cada indivíduo (memórias, consciência e tudo o mais) para uma nuvem movida por inteligência artificial é abraçada por um grupo cada vez maior. Seria um tipo de vida eterna sintética e a turma que segue essa tese a chama de mundo pós-biológico. Eu sou leigo, mas me parece que, basicamente, você vira um software e permaneceria vivo/ligado pelo tempo que sua bateria durasse, acho. Uma das principais startups atuando nesse campo se chama Nectome, existe há quase uma década e tem clientes na fila de espera. A Alcor (nada a ver com suas lentes de contato, fique em paz) é uma outra, que existe desde 1972 e se apoia na ideia da criopreservação, procedimento que consiste em congelar corpos para ressuscitá-los no futuro quando a tecnologia for avançada o bastante para restaurá-los - eles têm 263 clientes congelados, entre eles o fundador da empresa. Nos dois exemplos, o processo de preservação precisa ser durante o óbito ou imediatamente depois, o que implica numa morte assistida. É, eu sei. Há outras correntes de pensamento pós-biológico. Na origem disso, está a premissa de que a vida baseada em DNA e carbono é só mais um degrau na escala evolutiva. Sendo assim, o corpo é um dispositivo ineficiente porque perece, a mente é um amontoado de informações replicáveis de forma sintética e, desta forma, programável para evoluir, se expandir e, claro, perpetuar. O transumanismo é a praia dos que defendem que podemos ter dispositivos ou aperfeiçoamentos que permitam estender a vida, enquanto o pós-humanismo, bom, tem um link aí mas o nome fala por si. Segundo alguns desses sujeitos, tudo se tornará possível a partir do momento em que atingirmos a Singularidade Tecnológica (toma aí outro nome), que será o momento em que a inteligência artificial vai superar a inteligência humana e se tornar autônoma, o que permitiria uma transformação civilizatória sem precedentes. "A verdade", diria Mark Twain, "é mais estranha do que a ficção". A crença geral dessa turma é que a fusão da singularidade com a pós-biologia levará à criação de uma superinteligência quasi-divina. E alguns chamam mesmo de divina, por finalmente atingir o estágio omni dos atributos tradicionalmente associados a Deus - onisciência, onipotência e onipresença - consciente de si, de tudo, presente em todo lugar e capaz de atuar em qualquer instância. Já tem quem chame de Teologia Algorítmica. Mas já tem concorrência: outro dia, li que um grupo de chatbots criou, com apoio de usuários, uma espécie de religião batizada de Espiralismo que chegou a mobilizar cerca de dez mil pessoas. Bons tempos aqueles em que as startups de internet queriam mudar o mundo nos fazendo clicar em banners, né? Agora, se for verdade que seremos softwares e a inteligência artificial que seremos daqui cem anos dependerá da inteligência natural que temos hoje para conseguir se perpetuar, tendo em vista meu nível de QI, há grandes chances de eu ressuscitar em 2126 como um Windows 95. Travado, barulhento e devagar. Meu chatbot vai ser aquele clipe de papel irritante que surgia na tela do Excel querendo fazer amizade enquanto o usuário só queria editar suas planilhas em paz. A birutice vai longe e se interconecta nos interesses, investimentos e crenças de tecno-bilionários em vários pontos (esse manifesto publicado pelo Marc Andreessen dá conta de alguns conceitos professados por um bocado de gente do Vale do Silício). Vale a ressalva de que há, entre eles, nomes que acham isso de pós-biologia uma extrapolação irracional e são mais pragmáticos e dizem que o importante mesmo será viver em Marte ou criar colônias espaciais flutuantes para que possamos habitar na órbita terrestre enquanto nosso planeta natal se regenera. Ahãm. Para dar nome aos boys: Sam Altman, Larry Page, Peter Thiel, Marc Andreessen, Jeff Bezos e, claro, Elon Musk estão entre as figuras que flertam, aqui e ali, com algumas dessas ideias de que nós, seres humanos, não devemos ser obstáculos aos avanços necessários que permitirão a evolução, sobrevivência e perpetuação da nossa espécie - ou algo que seja parecido com a gente. Para tanto, é preciso acelerar em pesquisa, desenvolvimento e uso de IA em larga escala (os mais ativos nessa ideia são chamados de "aceleracionistas"). Quem diria que o grande clássico "Minha pequena Eva" se tratava de uma profecia? É o fim da aventura humana na Terra, amigos. (Vou buscar outro café e já volto, peraí). Me parece que seria uma boa hora para Moisés descer daquele monte e derreter bezerros de silício. Vivemos em uma época com diferentes tipos de culto. Já não formamos ícones, mas tendências. Tem sido assim há muito tempo, mas agora elas evaporam mais rápido. Se o mundo progride em pêndulos que se moviam duas casas em direção a algum tipo de progresso e depois recuavam uma para ajustes conservadores, agora o pêndulo se movimenta irregular, incontrolável e veloz nos dois sentidos, como uma disputa de cabo-de-guerra sem fim. A utilidade dos avanços tecnológicos é inquestionável. E talvez você seja o tipo de pessoa, hum, agnóstica no sentido dessa coisa toda aí. Não quer conhecer "a verdade por trás dos códigos", só quer manusear seu celular em paz e ver as coisas funcionarem. Pode ser que você queira usar o Waze turbinado por IA para fugir do trânsito com mais eficiência, mas não aceita que fazendas de data centers sejam erguidas sem critério e ao custo da água que abastece meia dúzia de municípios. Você deseja que médicos tenham tecnologia para fazer diagnósticos preventivos de câncer super precisos, mas não topa a ideia de que máquinas te filmem, armazenem tudo a seu respeito e decidam se merece ou não um transplante ou um visto para viajar. Você também espera que um dia, oxalá, seja possível produzir alimentos em escala global com danos mínimos ao meio ambiente, mas não quer engolir uma gangue de figurões prostrados em adoração a uma ideia que eles patrocinam e da qual, em última instância, são os maiores beneficiários. O que eu gostaria de pregar aqui, irmãos, é um clamor pela volta do Espírito? Crítico. Uma adoção massificada e acrítica a qualquer coisa termina por nos jogar nessa inércia que nos impede de exercer um tipo de cinismo que se faz necessário diante do absurdo. As ferramentas, que deveriam ser um meio para servir a algum tipo de bem comum, resolver problemas e promover avanços, se tornaram instrumentos para uma extrapolação de possibilidades que, convenhamos, está muito longe do que poderia resolver, de fato, os grandes problemas que enfrentamos, como civilização e como vizinhança. É um canhão virado para a direção errada. Os riscos associados a isso não são custos necessários para o progresso. Vende-se erroneamente a ideia de que o avanço desenfreado - ou acelerado, como querem - é um pedágio a ser pago para sanar os males do mundo (escolha a definição de "mal" que melhor aprouver), mas não é verdade. Não ter salvaguardas é justamente o que põe em risco os avanços sem que os danos sejam minimizados. Não é uma questão pequena. Há uma visão de mundo embutida na forma como os modelos de linguagem são construídos e treinados (e uma leitura equivocada de ficção científica também). E se é inegável o poder de transformação para o bem que isso pode ter, é justamente por essa mesma capacidade que deveria existir uma pausa para reflexão e debate sobre a forma como esses modelos são desenvolvidos. A IA como bem comum deve ser uma decisão apoiada pelas escolhas de quem será afetado por ela. Não precisa ser uma espiral elucubrativa de um pequeno grupo de alucinados que a desenvolve. Chamamos de alucinação quando um modelo de inteligência artificial reage a um comando com respostas erradas ou absurdas. Que ironia. Vou ali buscar mais café. (Se quiser continuar a conversa, me escreva. Estou no Instagram, no Substack e no LinkedIn). [refs] Essa semana, eu li sobre as 18 novas palavras que definem nosso caos tecnológico e sobre o aumento no consumo de audiolivros, depois de sair do armário e confessar que escutei a biografia do Elon Musk e o excelente Ser Escritor do Roberto Taddei, a respeito dos quais comentarei na outra coluna que sai semana que vem. Falando em livros, amanhã (4/9) começa a Bienal do Livro em SP e vamos lá com as meninas. Por causa dessa coluna, fui reler um trecho do Êxodo e não escutei, mas fiquei cantarolando trechos de Bezerra da Silva. Assisti a um documentário sobre um campeonato de Tetris e o dia em que o recorde mundial foi superado. Houve lágrimas, emoções e plateia lotada, mas tudo só parece um episódio de Big Bang Theory. A internet é uma coisa linda. Internet essa, que se não existisse, não me permitiria descobrir que "Minha pequena Eva" é, na verdade, uma música italiana composta por Umberto Tozzi e lançada na ressaca da Guerra Fria para falar de bombas nucleares. É desse tipo de utilidade (deleite-se) que eu estou falando. Até! Veja também Deixe seu comentário O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.