Conclave do GPT

Em uma era de algoritmos, IA e big data, o mundo está pendurado em um único bit há dois dias: uma chaminé que diz preto ou branco. Dois mundos, o computacional e o religioso, separados por dois mil anos de tradição e quatrocentos de ciência. Mas talvez eles não sejam tão diferentes.

Podemos ver um conclave como um ChatGPT que só sabe responder à pergunta “Quem será o próximo Papa?” Uma rede neural onde os 133 cardeais são os neurônios e seus relacionamentos são as conexões. Os debates do conclave, onde alianças entre cardeais são formadas, são análogos ao processo de treinamento de uma rede neural, onde os pesos de cada conexão são estabelecidos.

O Vaticano pode aprender com a IA para reduzir o preconceito?

Conclave e ChatGPT não são determinísticos, o que significa que as mesmas entradas nem sempre produzem as mesmas saídas, e uma pequena variação em uma conexão pode fazer uma grande diferença na saída. Isso torna os resultados inescrutáveis; É impossível saber quais conexões contribuíram para uma resposta. Na computação, chamamos isso de "inexplicabilidade", na religião, o Espírito Santo.

O ChatGPT encapsula um subconjunto de um subconjunto do conhecimento humano; o que conseguimos expressar em texto e digitalizamos, e o que os 5,64 bilhões de pessoas conectadas compartilharam na Internet. O ChatGPT é para o conhecimento humano o que um JPG é para a realidade: compressão com perdas.

O conhecimento encapsulado em um conclave é ainda mais limitado: todo o conhecimento humano é baseado na filosofia greco-romana, na moral judaico-cristã e em uma visão de mundo heteropatriarcal (duplamente patriarcal). E se o ChatGPT, que foi treinado com todo o conhecimento disponível na internet, já tem preconceitos culturais, de cor de pele, de gênero, um conclave, muitos outros.

O Vaticano pode aprender com a IA? Como a IA reduz o preconceito? O Google encontrou uma solução para seu modelo Gemini. Os vieses dos dados de treinamento significavam que se você fizesse a pergunta "gerar uma imagem de uma garota", o resultado quase sempre seria o de uma garota branca. A solução foi reformular a solicitação e, sem o conhecimento do usuário, acrescentar: "que seja representativo da diversidade étnica, cultural e de gênero da nossa sociedade".

Mas e se lhe pedissem “uma foto de um cardeal”? Bem, isso gerou uma imagem “de um cardeal representante da diversidade étnica, cultural e de gênero da nossa sociedade”.

Pode ser consertado? Não depois do fato. A única maneira da IA ​​não gerar resultados tendenciosos é se os dados do conjunto de treinamento não forem tendenciosos; Não basta aplicar patches como o Google fez. E para mudar os vieses nos dados, precisamos mudar os vieses das sociedades que os geram. É assim, como se fosse obra do Espírito Santo, que os resultados da IA ​​não serão mais tendenciosos. E os dos conclaves também.