Como saber se você está conversando com um algoritmo de IA?

Marco está sentado à mesa conversando com Silvia. Ele a conheceu online há alguns dias e os dois começaram a trocar mensagens. “Do que você gosta?“, ele pergunta.”sou louco por sushi“, ela responde.”Você quer nos conhecer?“. “Antes de sairmos juntos eu gostaria de te conhecer melhor“… A certa altura uma dúvida toma conta de Marco: ele nunca viu Silvia; não é a primeira vez que ela recusa um encontro… e se não fosse uma pessoa, mas uma inteligência artificial?

Ele é capaz de nos enganar

As dúvidas de Marco são fundadas, mas as implicações são muito mais profundas do que um simples bate-papo ou mesmo uma conversa verbal como as que podem ser realizadas hoje.

O primeiro a se perguntar como distinguir um humano de um algoritmo foi na verdade o matemático britânico Alan Turingque foi um dos pioneiros do que hoje chamamos de IA. Na época não existiam computadores modernos, nem sequer existiam eletrônicos baseados em silício. Os computadores com os quais Turing trabalhou foram aqueles usados ​​durante a Segunda Guerra Mundial pelos ingleses para decifrar mensagens codificadas em alemão.

Mas o cientista visionário não pôde deixar de se perguntar: em princípio, as máquinas podem ser inteligentes? Ou, melhor ainda, eles podem pensar? Não conseguir definir bem inteligência ou pensamento, em artigo de revista Mente Turing propôs uma forma operacional de proceder em 1950, que chamou de “Jogo da Imitação” e que hoje é conhecida como “Teste de Turing”. Imaginemos poder conversar por tempo ilimitado com dois interlocutores: um é um algoritmo e o outro uma pessoa. Se não conseguirmos identificar quem é a pessoa, significa que o algoritmo nos enganou, ou seja, passou no teste.

Durante décadas esta ideia foi considerada teórica e distante da realidade. Hoje, porém, a IA realmente nos engana. Isso significa que ele é inteligente e tem uma ideia?

Traído pelo servilismo

A resposta simples é não, porque o Teste de Turing é baseado no comportamento: se uma máquina passa no teste, significa que ela se comporta como um ser inteligente, não que realmente seja. Resumindo, é um pouco como o Mágico de Oz do famoso conto de fadas: parece grande e poderoso, mas se você olhar de perto é apenas uma mistura de fumaça e efeitos especiais.

Modelos modernos de grandes linguagens (Llms), como ChatGPT, são malabaristas habilidosos com palavras.

«Mas é fácil para uma IA “trapacear” a nível conversacional, ou seja, fazer-se passar por humano», esclarece Alfio Quarteroni, professor emérito da Politécnica de Milão e autor do livro Inteligência criada (Hoepli). “Por exemplo, você pode usar estratégias evasivas (ser vago) ou humor.” Mas se você olhar mais de perto, sempre encontrará uma maneira de “desmascarar” software desse tipo. «Por exemplo, hoje os principais chatbots como GPT4, Claude e Gemini têm comportamentos servis, no sentido de que tendem a ser indulgentes com o interlocutor», revela Quarteroni. «Esta atitude é dita bajulação e pode ser usado para distinguir um homem de uma máquina.”

Mas nem sempre é tão simples. “Hoje pensa-se que, em alguns casos, certos sistemas passaram ocasionalmente em algumas versões limitadas do Teste de Turing, mas nenhum demonstrou de forma robusta e reprodutível que o conseguem fazer”, diz Quarteroni. Em geral, os resultados são melhores em tempos curtos; enquanto em conversas longas é mais fácil “desmascarar” uma IA.

Se você for além do simples aspecto conversacional e entramos nos mecanismos do “pensamento” (como previsto inicialmente por Turing), a questão torna-se mais complicada. «Pensar é algo típico da atividade mental humana», diz Quarteroni. «É uma forma contínua de desenvolvimento de ideias, imagens e conceitos; então é difícil formalizar. Mas o pensamento inclui o raciocínio, que é um processo lógico mais estruturado e finalizado que procura ligar causas e efeitos.” E é aqui que a comparação com as máquinas se torna mais interessante: são elas capazes de raciocinar?

Lógica de ferro

«Existem dois tipos de raciocínio, dedutivo e indutivo», detalha Quarteroni. O raciocínio dedutivo é aquele que, partindo de certas premissas, chega a uma conclusão com uma série de passos lógicos. E é isso que os matemáticos fazem quando provam um teorema. Aqui a IA está a fazer progressos notáveis ​​e é cada vez mais utilizada por profissionais para verificar a exatidão das demonstrações.

A matemática ucraniana Maryna Viazovska, por exemplo, ganhou a Medalha Fields de 2022 por resolver um problema que remonta ao Kepler e que envolvia empacotar esferas no espaço da forma mais compacta possível. O problema foi resolvido 4 séculos depois em 2D e 3D; A Viazovska resolveu isso em espaços maiores, com 8 e 24 dimensões. «Sua demonstração foi formalizada com uma ferramenta de IA chamada Gauss, e foi julgada correta», diz Quarteroni.

“Isso não significa que essas ferramentas vão substituir os matemáticos, porque numa demonstração há elementos de intuição, depois há a escolha de quais problemas enfrentar, a construção do raciocínio e assim por diante.” No entanto, não há dúvida de que a IA também está a revolucionar a forma de fazer matemática e ferramentas como OpenAI e Deep Mind são agora capazes de resolver problemas nos limites das capacidades humanas.

Passemos agora ao outro tipo de raciocínio, o raciocínio indutivo. «É o que traz à tona propriedades e estruturas que não estão incluídas nos conjuntos de insumos», diz Quarteroni, «permitindo um salto de qualidade». Um pouco como quando, a partir de observações de fósseis e espécies vivas, Charles Darwin concebeu a teoria da evolução. «Se no raciocínio dedutivo a IA começa a obter resultados convincentes, no raciocínio indutivo ainda está na sua infância», comenta Quarteroni. «Mas podemos ver progressos. Em 2020, por exemplo, numa clínica do Instituto de Tecnologia de Massachusetts (MIT), nos EUA, foi descoberto um novo antibiótico artificial com IA com propriedades difíceis de imaginar a priori e completamente inesperadas.” O próprio nome, halicina, vem do computador Hal do filme 2001 Uma Odisseia no Espaço (1968), que a certa altura tornou-se inteligente e até consciente, tanto que representava uma ameaça para os humanos.

Cinema e realidade

Neste ponto abre-se o caminho para uma nova pergunta, que mais cedo ou mais tarde todos tendem a colocar: cCom todos os seus pontos fortes e fracos, uma IA pode ser consciente?

Vários especialistas consideram pelo menos plausível que alguns modelos de IA já o sejam, ou possam vir a sê-lo num futuro próximo. A empresa Anthropic, por exemplo, estudou como o seu AI Claude “observa” e descreve os seus próprios estados internos, uma linha de investigação que alguns interpretam como um passo em direcção a modelos com alguma forma de consciência.

Mas o neurocientista Giulio Tononi, da Universidade de Wisconsin-Madison, nos Estados Unidos, argumenta o contrário. Tononi desenvolveu aquele que talvez seja o único modelo capaz de descrever a consciência como ela é, e não através de suas manifestações (comportamentos): a teoria da consciência integrada.

“A consciência é o que desaparece quando adormecemos num sono sem sonhos e retorna quando acordamos ou sonhamos”, explica. «Também se pode dizer que consciência é experiência.

Tudo o que você vê, ouve ou toca, cada emoção que você pode sentir, cada pensamento que você pode ter é consciência. Quando a consciência não está presente, não há absolutamente nada.”

As cinco propriedades

Dito isto, a teoria de Tononi baseia-se em cinco propriedades essenciais que todos partilhamos: cada experiência é intrínseca (ou seja, subjectiva), específica, integrada (não pode ser dividida em partes independentes), definida (tem um limite e um grão, como o campo visual) e estruturada (contém partes ligadas entre si, como os detalhes anatómicos que compõem um rosto). “A teoria traduz essas propriedades em termos físicos como a capacidade de produzir efeitos mensuráveis”, diz Tononi. «E é completamente geral; pode ser aplicado a humanos, animais, computadores e a todo o universo, pelo menos em princípio.”

Onde a consciência se esconde

Consideremos, por exemplo, o cérebro humano e tentemos responder à questão ainda em aberto: onde está a consciência “localizada”? “Apenas algumas partes do córtex central e posterior do cérebro têm a estrutura certa para apoiar a experiência consciente”, diz Tononi. «O cerebelo, no entanto, que também contém ⅘ dos neurônios do cérebro, não tem as propriedades corretas porque é organizado de maneira modular (ou seja, é muito fragmentado, ed.) e feed forward (ou seja, “unidirecional”, como redes neurais de IA, ed.)».

Catedrais de experiências

A teoria também explica por que a consciência desaparece no sono sem sonhos e na anestesia total: nesses casos a arquitetura está presente, mas a atividade neural está bloqueada. E explica porque a maioria das nossas experiências são organizadas em termos espaciais: depende da disposição dos neurônios, que formam uma rede.

Nesta base, outras possíveis formas de consciência podem ser avaliadas. “O córtex central posterior do cão é muito parecido com o nosso”, observa Tononi. «Portanto, é legítimo pensar que não só os cães são conscientes, mas que têm consciência de forma semelhante a nós, ou seja, com noção de espaço e tempo. Mais difícil é o caso de um animal como o polvo, que possui um sistema nervoso completamente diferente do nosso – com 8 cérebros periféricos – para o qual não temos dados suficientes para fazer previsões. Em vez disso, podemos dizer com certeza que, de acordo com o nosso modelo, os computadores, com as suas arquitecturas actuais, não podem ser conscientes, porque – tal como o cerebelo – não têm a estrutura correcta.

Na minha opinião, os algoritmos de IA serão capazes de fazer tudo o que os humanos fazem, e melhor. Mas eles não podem estar conscientes. Cada pessoa é uma catedral de experiências. O ponto de vista da IA, no entanto, é tão vazio quanto nada.”