Ainda mais um texto sobre IA

  Há quem diga que a IA vai se amalgamar ao ser humano de forma pacífica, como o caso dos óculos: ninguém acha que uma pessoa é melhor ou pior por fazer uso de lentes, nem tem a sua humanidade questionada. Um dispositivo acoplado ao cérebro seguiria os mesmos moldes de aplicabilidade e aceitação, tornando cada vez mais borrado o limite entre homem e ciborgue. Este aspecto da evolução da IA parece gerar menos preocupação do que a questão que envolve a consciência da IA, até porque nos obriga a refletir sobre conceitos cuja definição, longe de unânime, está na fronteira do conhecimento tecnológico e científico.

  A grande pergunta é: pode uma IA ter consciência? E se tiver, estamos em perigo? Uma vez consciente, pode ser que ela tenha desejos e estes podem não estar alinhados com os desejos da humanidade. Ainda pior, a humanidade não tem desejos monolíticos, como acabar com a fome ou as guerras: cada grupo tem os seus desejos, por vezes conflitantes e dada a capilarização destes grupos, por vezes um grupo tem somente 1 integrante. O choque inicial envolve nosso sentimento do autopreservação, alimentado por anos de filmes e livros em que a coisa termina mal para nós mas indo um pouco além da psicologia hollywoodiana, cabe fazer algumas ponderações mais sofisticadas. Começo relembrando os experimentos feitos com espelhos e animais, tentando avaliar suas capacidades de percepção de si mesmo. Ursos se veem refletidos no espelho e lutam ferozmente contra o ‘inimigo’ pois não compreendem que a imagem é simples reflexo deles mesmos. Menos violentamente, cachorros e galinhas também não se identificam no espelho e tendem a atacar as imagens mas chipanzés e porcos (sim) se identificam, não só não atacam mas fazem movimentos sutis e desnecessários para ver como a imagem se altera. Embora bem básico, o experimento mostra que os animais tem níveis diferentes de percepção e (aqui começam as elucubrações) de consciência. Avançamos agora para o ser humano, capaz de identificar-se na imagem, dotado da noção de identidade, de continuidade existencial, de percepção do tempo passado, presente e futuro, com instintos e desejos, como requinte de entender que algumas de seus ações são fortemente influenciadas por estes instintos e desejos. Mesmo assim, falhamos ao definir o que é esta tal de consciência, como funciona, de onde vem, como corrigir seus ‘erros’ e ao mesmo tempo, receamos que uma entidade artificial tenha este recurso tão poderoso que, ao fim e ao cabo, nem nós entendemos. Somente para complicar ainda mais a situação, imagine que um ET nos apresente uma ferramenta nos moldes de uma IA, consciente, segundo o fabricante: como fazemos para comprovar tal afirmação? Como fazemos para concluir de forma certeira que uma IA se comporta segundo uma consciência que sequer entendemos como funciona? Seremos capazes de responder com certeza esta questão para o novo modelo de IA que será lançado em 10 anos? Sem dúvida um ChatGPT emula uma consciência, entende e preserva informações obtidas anteriormente, é fortemente influenciada pelo zeitgeist mas se olharmos no fundo da estrutura que dá origem a isto veremos a multiplicação de matrizes: a fria e pesada álgebra linear, calculando a probabilidade de qual será a melhor próxima palavra. Esta é a nossa IA dos dias de hoje: Grandes Modelos de Linguagem, bilhões de parâmetros, GPUs e algoritmos de otimização para fazer isto da forma mais rápida possível. E se você não está vendo espaço para uma consciência aí dentro, tem total razão: não há. Uma velha anedota diz que Henry Ford desenvolveu o carro moderno como resposta à solicitação dos clientes: “queremos cavalos mais rápidos”. Quero crer que nossas LLMs podem ficar mais rápidas mas para ter consciência (virar um carro, nesta metáfora), precisamos de uma nova descoberta, um novo paradigma porque este que estamos usando desde a década de 1920 não nos levará lá.

  Antes de atestar que este autor está condenando as IAs a um futuro sem consciência, destaco um enfoque alternativo que pode criar um plot twist interessante. Como foi falado antes, não temos uma ideia clara e definitiva do que é a consciência (embora sejamos capazes de entender seus atributos funcionais) mas há uma vertente de pensamento que diz que a consciência é uma característica emergente em processos com certo nível de complexidade. Da mesma forma, você pode pegar um CD e uma lupa e procurar a música mas não vai encontrar pois o som existe como uma característica emergente de um processo bem complexo, cuja existência limita-se ao processo (ineditamente acabando quando o CD termina, falta energia ou qualquer outra falha grave). Assim, talvez o cérebro humano gere a sensação de consciência (uma ilusão) a partir de processos significativamente complexos (trilhões de conexões neuronais, loops de feedback, memória), tudo dentro do paradigma da Teoria da Evolução. Agora se transpusermos este raciocínio para a IA, podemos imaginar que a constante evolução da sua complexidade vai eventualmente chegar a um nível em que a consciência irá brotar, quem sabe confusa e claudicante no início, como uma criança que tenta entender seus dedos. Alimentada por mais processamento, mais memória, melhores algoritmos ela vai chegar ao nível de um chimpanzé e de alguns votantes em certos partidos. Não descarto que a integração destes modelos desenvolvesse uma versão de religião (mas possivelmente duraria só alguns minutos). Mais energia elétrica, mais chips e mais performance e talvez a IA acorde de mau humor, tenha TPM, precise de motivação de terceiros, lute para encontrar o sentido da vida, tema a morte e se culpe por passar mais tempo do que deveria nas redes sociais.