Por que o avanço da IA é desigual? Fundadores da a16z e Replit: a verificabilidade é a diferença chave.

O famoso capitalista de risco a16z, fundador Marc Andreessen, e o fundador da Replit, Amjad Masad, conversaram em 25/10, focando no estado atual do desenvolvimento da IA. Andreessen apontou que a IA fez avanços impressionantes em programação, matemática e simulação de fenômenos físicos, mas está estagnada em áreas como medicina e direito. Masad respondeu que a chave não está na dificuldade, mas na verificabilidade. Ou seja, as tarefas que podem ser julgadas objetivamente como certas ou erradas estão progredindo mais rapidamente, enquanto as áreas mais nebulosas são mais difíceis de superar.

A IA tem duas velocidades: a que pode ser verificada corre mais rápido do que qualquer um.

Masad começou revisando a maneira como os modelos são treinados. Os primeiros modelos de linguagem apenas olhavam para as palavras e tentavam adivinhar a próxima letra. Embora pudessem falar, não conseguiam realmente raciocinar. Foi somente após a introdução do aprendizado por reforço (Reinforcement Learning, RL) que a IA começou a aprender em ambientes verificáveis. Ele explicou:

“Como bugs de programação, testes unitários ou problemas que podem gerar resultados claros, a IA pode saber diretamente se está certa ou errada.”

Este método de treino com feedback instantâneo permite que a IA fortaleça rapidamente a sua capacidade de resolver problemas.

Por que os setores da saúde e do direito não conseguem acompanhar?

Andreessen perguntou: “E quanto aos campos da medicina e do direito? Por que parece que o progresso é tão lento e há fenômenos de estagnação?” Masad respondeu:

“Porque elas, não há uma única resposta.”

Por exemplo, na medicina, um diagnóstico pode ter múltiplas causas e variações no curso da doença; as decisões legais também podem variar devido a diferenças entre juízes e casos, o que significa que são demasiado flexíveis e não têm uma resposta padrão clara. Isso torna difícil para o modelo se autovalidar e impossibilita a construção de um ciclo de reforço.

Embora seja possível auxiliar o modelo através do aprendizado por reforço com feedback humano (RLHF), isso ainda pertence à avaliação subjetiva, não sendo tão direto e claro como a matemática ou a programação.

(Nota: O aprendizado por reforço baseado em feedback humano (RLHF) é uma técnica de aprendizado de máquina (ML) que utiliza feedback humano para aprimorar modelos de ML, a fim de aumentar a eficiência de autoaprendizagem.)

A verdadeira chave não é a “dificuldade”, mas sim a “verificabilidade”.

Andreessen, após organizar suas observações, disse: “Portanto, o ponto não é se o problema é difícil ou não, mas sim se podemos confirmar a resposta correta?” Masad afirmou:

“Sim, a explosão da IA em programação e matemática não se deve ao fato de ser mais simples, mas sim à capacidade de verificar resultados.”

Por exemplo, ao programar, assim que o código consegue compilar e os testes passam, a IA pode imediatamente receber feedback de “resposta correta”, permitindo que o modelo pratique automaticamente milhares de vezes por dia e evolua rapidamente.

Quais outras áreas possuem verificabilidade?

Duas pessoas listaram os campos em que a IA está progredindo mais rapidamente:

Matemática e Física: têm equações claras e resultados de simulação.

Química e Biologia: como a dobragem de proteínas e sequências genéticas, podem ser validadas através de experimentos ou simulações.

Robô: O sucesso ou falha da missão pode ser quantificado diretamente.

Estes pertencem ao domínio da “verificação objetiva”, tornando-se assim a curva de aprendizado mais acentuada da IA atualmente.

A IA que escreve programas vai decolar primeiro, enquanto a medicina e o direito ainda estão a caminho.

Masad resumiu os pontos de vista dizendo:

“A IA que escreve código vai decolar primeiro, seguida de matemática, física e química. Mas áreas mais abstratas como a medicina e o direito ainda levarão tempo para acompanhar.”

Andreessen também concordou:

“Isto é um fenómeno natural. A IA explode primeiro nas áreas que podem ser quantificadas, enquanto fica um passo atrás nos domínios onde o julgamento humano é vago.”

Por que o progresso da IA é desigual? a16z, fundador da Replit: a verificabilidade é a diferença chave. Apareceu pela primeira vez na ABMedia das Notícias da Cadeia.