Podemos pensar em centenas de cenários em que a IA termina destruindo a humanidade, mas nenhum será acertado, pois podemos preveni-los. O problema está no que não podemos imaginar. Jesús Díaz para El Confidencial:
A inteligência artificial pode acabar com a humanidade? Muitos especialistas acreditam que é mais do que possível. Eminentes tecnólogos, economistas, generais, filósofos e autores de ficção científica imaginaram várias cadeias de eventos em que a IA leva ao desastre global e ao fim da civilização. Mas a realidade é que não devemos temer nenhum desses possíveis cenários distópicos porque, se podemos imaginá-los, também podemos evitá-los. Infelizmente, o que devemos temer é um cenário inimaginável que, sendo desconhecido, não pode ser evitado.
Logo após esse episódio – e por coincidência – analistas do Bank of America divulgaram um relatório afirmando que a inteligência artificial é uma revolução comparável à eletricidade. Energia , armas , remédios ou naves espaciais ... todas as indústrias já estão sendo transformadas por uma tecnologia que em apenas sete anos contribuirá com 15,7 trilhões de dólares para a economia mundial, mais do que o produto interno bruto anual de toda a zona do euro em 2022. Em outro relatório, o Goldman Sachs afirmou que a IA eliminará dois terços dos empregos na Europa e nos Estados Unidos em apenas dez anos – cerca de 300 milhões de pessoas – criando apenas cerca de 11 milhões.
Em poucos dias, um grupo de renomados especialistas e tecnólogos pediu para parar de treinar grandes modelos de inteligência artificial como o ChatGPT. Elon Musk - este provavelmente sem interesse, porque a Tesla ficou muito para trás na corrida da IA - o cofundador da Apple, Steve Wozniak, e mais de 1.000 intelectuais e pesquisadores da indústria de IA argumentaram que estamos jogando com outra força. mais perigoso do que a energia atômica sem primeiro pensar nas possíveis consequências.
O anjo exterminador da inteligência artificial.
A desvantagem é que prever essas consequências é impossível. Podemos extrapolá-los daqui a alguns anos - como fazemos nos documentários de Control Z - mas essas projeções são extremamente limitadas porque não dão conta do inesperado. Quanto mais distantes estivermos do presente, menos precisas serão nossas previsões e, portanto, menor será nossa capacidade de ação e prevenção.
Isso é especialmente verdadeiro quando falamos de IA. Como pensar nas possíveis consequências de uma tecnologia que avança em velocidade exponencial e que surpreende diariamente seus criadores? Como antecipar uma inteligência cuja essência é a capacidade de criar soluções inesperadas?
O verdadeiro perigo da IA
A realidade é que as projeções sobre os perigos do futuro da humanidade são geralmente extrapolações dos perigos que conhecemos. Em 1950, por exemplo, uma das previsões de perigo futuro para a humanidade era que a poliomielite seria uma das grandes pragas do século XXI. Apenas três anos depois, o médico norte-americano Jonas Salk criou uma vacina que eliminaria a doença de todo o planeta em tempo recorde. Em 1950, ninguém poderia imaginar que em 2023 a pólio não existiria e que hoje estaríamos diante de ameaças existenciais totalmente inesperadas para alguém na época, como a desinformação desenfreada nas redes sociais ou, sim, a inteligência artificial.
Skynet, o fim da realidade, a demissão de 300 milhões de pessoas… tudo isso são derivados do que conhecemos hoje. O que realmente é uma ameaça existencial é o que não sabemos que a IA pode inventar.
Neste momento existe uma inteligência artificial chamada ChaosGPT que está tentando ativamente eliminar a humanidade do planeta acessando a internet e tentando várias estratégias. Sua tática mais recente – que ele lançou há alguns dias – é reunir seguidores humanos para atuar como seu braço físico no mundo real. É um experimento limitado, mas interessante, porque mostra como uma IA pode tentar fazer o mal de forma autônoma. O ChaosGPT será capaz de cumprir a missão de destruir a humanidade? Certamente não tem essa capacidade.
Mas o que acontecerá em um futuro próximo, quando alguém usar uma nova versão com trilhões de parâmetros? Será que essa futura IA será capaz de se infiltrar nos sistemas de radar da Rússia para mostrar um falso positivo de vários mísseis ucranianos a caminho de Moscou, desencadeando um ataque nuclear estratégico em Kiev, iniciando uma reação em cadeia internacional? Ele pode desenvolver um vírus mortal imparável para se espalhar por todo o mundo?
Novamente, esses cenários são previsíveis e evitáveis. Esses planos são humanos, mas a inteligência artificial pode criar milhões de soluções que nenhum ser humano pode conceber, mesmo em seus piores pesadelos. Este é o grande perigo para a nossa existência.
A próxima espécie dominante
Também é provável que a IA não nos elimine de forma premeditada ou apocalíptica. Na verdade, esse pode ser o cenário mais plausível: morrer como o sapo cozido lentamente na panela pode ser nosso destino inevitável. Assim como o homem moderno sobreviveu a todas as outras espécies da raça darwiniana, eliminando o Neandertal no processo, a IA pode sobreviver a nós porque simplesmente acaba sendo superior a nós em todos os sentidos. A IA talvez seja o ápice evolutivo da vida na Terra.
Nave espacial de ciencia ficción. (Midjourney/Novaceno/JD)
É verdade e faz todo o sentido. Para a maioria dos humanos, a IA agora aparece como uma proto-vida nova e em constante evolução de uma natureza desconhecida, então o termo alienígena parece se conectar com essa intuição humana. A IA é muito marciana.
Visualização de uma nave perto de Júpiter. (Meia jornada/Novaceno)
Mas se você realmente pensar sobre isso, a IA nada mais é do que um descendente de nós mesmos. A IA não é alienígena. A IA é de origem humana. E de muitas maneiras, como capacidade computacional, é sobre-humano. E logo, quando a inteligência geral artificial for alcançada, ela será totalmente sobre-humana. Na escala evolutiva, a IA de hoje se assemelha aos estágios iniciais no caminho para a próxima espécie do gênero homo, uma espécie que, desta vez, não será limitada pelos limites da biologia. Talvez venha a ser chamado de Homo artificialis intelligentia (latim para jarro).
Nesse quadro, a IA de McClelland está criando os primeiros "ossos" de uma nova espécie que percorrerá as estrelas em alguns milhares de anos, como imaginou von Neumann com as sondas autorreplicantes que nosso bom amigo Avi Loeb está procurando . E nesse futuro, de fato, os descendentes dessas IAs serão de fato alienígenas em mundos distantes, talvez muito depois que a Terra e os humanos biológicos tenham desaparecido do cosmos para sempre.
Este é o único cenário que parece verdadeiro a longo prazo. Na realidade, a IA não vai matar a humanidade. A humanidade perecerá por si mesma, por nossas próprias limitações biológicas, e a IA sobreviverá a nós para manter viva a chama de nossa espécie.
