Inteligência geral artificial não é tão iminente quanto você imagina

Para a pessoa comum, deve parecer que o campo da inteligência artificial está fazendo um progresso imenso. De acordo com os comunicados de imprensa e algumas das contas de mídia mais entusiasmadas, o DALL-E 2 da OpenAI pode aparentemente crie imagens espetaculares a partir de qualquer texto; outro sistema OpenAI chamado GPT-3 pode falar sobre qualquer coisa; e um sistema chamado Gato que foi lançado em maio pela DeepMind, uma divisão da Alphabet, aparentemente funcionou bem em todas as tarefas a empresa poderia jogar nele. Um dos executivos de alto nível da DeepMind chegou ao ponto de gabar-se que na busca pela inteligência geral artificial (AGI), IA que tem a flexibilidade e desenvoltura da inteligência humana, “O jogo acabou!” E Elon Musk disse recentemente que ele ficaria surpreso se não tivéssemos inteligência geral artificial até 2029.

Não se engane. As máquinas podem um dia ser tão inteligentes quanto as pessoas, e talvez ainda mais inteligentes, mas o jogo está longe de terminar. Ainda há um imenso quantidade de trabalho a ser feito na fabricação de máquinas que realmente possam compreender e raciocinar sobre o mundo ao seu redor. O que realmente precisamos agora é menos postura e mais pesquisa básica.

Para ter certeza, existem de fato algumas maneiras pelas quais a IA realmente está progredindo – as imagens sintéticas parecem cada vez mais realistas, e o reconhecimento de fala pode muitas vezes funcionar em ambientes barulhentos – mas ainda estamos a anos-luz de distância do propósito geral, nível humano. IA que pode entender os verdadeiros significados de artigos e vídeos ou lidar com obstáculos e interrupções inesperados. Ainda estamos presos precisamente aos mesmos desafios que cientistas acadêmicos (inclusive eu) vêm apontando para anos: fazer com que a IA seja confiável e fazer com que ela lide com circunstâncias incomuns.

Pegue o recém-celebrado Gato, um suposto pau para toda obra, e como legendava uma imagem de um arremessador arremessando uma bola de beisebol. O sistema retornou três respostas diferentes: “Um jogador de beisebol lançando uma bola em cima de um campo de beisebol”, “Um homem jogando uma bola de beisebol em um arremessador em um campo de beisebol” e “Um jogador de beisebol no bastão e um receptor na terra durante um jogo de beisebol”. A primeira resposta está correta, mas as outras duas incluem alucinações de outros jogadores que não são vistas na imagem. O sistema não tem ideia do que está realmente na imagem, ao contrário do que é típico de imagens aproximadamente semelhantes. Qualquer fã de beisebol reconheceria que este foi o arremessador que acabou de lançar a bola, e não o contrário – e embora esperemos que um receptor e um rebatedor estejam próximos, eles obviamente não aparecem na imagem.

Um jogador de beisebol lançando uma bola
em cima de um campo de beisebol.


Um homem jogando uma bola de beisebol em um
arremessador em um campo de beisebol.


Um jogador de beisebol no bastão e um
apanhador na sujeira durante um
jogo de baseball

Da mesma forma, DALL-E 2 não poderia dizer a diferença entre um cubo vermelho em cima de um cubo azul e um cubo azul em cima de um cubo vermelho. Uma versão mais recente do sistema, lançada em maio, não poderia dizer a diferença entre um astronauta montando um cavalo e um cavalo montando um astronauta.

Quando sistemas como o DALL-E cometem erros, o resultado é divertido, mas outros erros de IA criam sérios problemas. Para dar outro exemplo, um Tesla no piloto automático recentemente dirigiu diretamente em direção a um trabalhador humano carregando uma placa de pare no meio da estrada, apenas desacelerando quando o motorista humano interveio. O sistema pode reconhecer humanos por conta própria (como eles aparecem nos dados de treinamento) e sinais de parada em seus locais habituais (novamente como eles apareceram nas imagens treinadas), mas não conseguiu desacelerar quando confrontado com a combinação incomum dos dois, que colocam o sinal de parada em uma posição nova e incomum.

Infelizmente, o fato de que esses sistemas ainda não são confiáveis ​​e lutam com novas circunstâncias geralmente está escondido nas letras miúdas. Gato funcionou bem em todas as tarefas que o DeepMind relatou, mas raramente tão bem quanto outros sistemas contemporâneos. O GPT-3 geralmente cria prosa fluente, mas ainda luta com aritmética básica e tem tão pouca aderência à realidade é propenso a criar frases como “Alguns especialistas acreditam que o ato de comer uma meia ajuda o cérebro a sair de seu estado alterado como resultado da meditação”, quando nenhum especialista jamais disse tal coisa. Uma olhada superficial nas manchetes recentes não lhe diria sobre nenhum desses problemas.

A subtrama aqui é que as maiores equipes de pesquisadores em IA não são mais encontradas na academia, onde a revisão por pares costumava ser a moeda do reino, mas nas corporações. E as corporações, ao contrário das universidades, não têm incentivo para jogar limpo. Em vez de submeter seus novos trabalhos ao escrutínio acadêmico, eles passaram a publicar por meio de comunicados à imprensa, seduzindo jornalistas e evitando o processo de revisão por pares. Sabemos apenas o que as empresas querem que saibamos.

Na indústria de software, existe uma palavra para esse tipo de estratégia: demo, software projetado para parecer bom para uma demonstração, mas não necessariamente bom o suficiente para o mundo real. Muitas vezes, o demoware torna-se vaporware, anunciado para choque e admiração para desencorajar os concorrentes, mas nunca lançado.

As galinhas tendem a voltar para casa para se empoleirar, eventualmente. A fusão a frio pode ter soado muito bem, mas você ainda não pode obtê-la no shopping. O custo em IA provavelmente será um inverno de expectativas deflacionadas. Muitos produtos, como carros autônomos, radiologistas automatizados e agentes digitais para todos os fins, foram demonstrados, divulgados e nunca entregues. Por enquanto, os dólares de investimento continuam sendo promissores (quem não gostaria de um carro autônomo?), mas se os principais problemas de confiabilidade e lidar com discrepâncias não forem resolvidos, o investimento secará. Ficaremos com deepfakes poderosos, redes enormes que emitem imensas quantidades de carbonoe avanços sólidos em tradução automática, reconhecimento de fala e reconhecimento de objetos, mas muito pouco mais para mostrar para todo o hype prematuro.

O aprendizado profundo avançou a capacidade das máquinas de reconhecer padrões em dados, mas tem três grandes falhas. Os padrões que ele aprende são, ironicamente, superficiais, não conceituais; os resultados que cria são difíceis de interpretar; e os resultados são difíceis de usar no contexto de outros processos, como memória e raciocínio. Como observou o cientista da computação de Harvard, Les Valiant, “O desafio central [going forward] é unificar a formulação de… aprendizagem e raciocínio”. Você não pode lidar com uma pessoa carregando um sinal de pare se você realmente não entende o que é um sinal de pare.

Por enquanto, estamos presos em um “mínimo local” no qual as empresas buscam benchmarks, em vez de ideias fundamentais, realizando pequenas melhorias com as tecnologias que já possuem, em vez de fazer uma pausa para fazer perguntas mais fundamentais. Em vez de buscar demonstrações chamativas direto para a mídia, precisamos de mais pessoas fazendo perguntas básicas sobre como construir sistemas que possam aprender e raciocinar ao mesmo tempo. Em vez disso, a prática atual de engenharia está muito à frente das habilidades científicas, trabalhando mais para usar ferramentas que não são totalmente compreendidas do que para desenvolver novas ferramentas e uma base teórica mais clara. É por isso que a pesquisa básica continua sendo crucial.

Que uma grande parte da comunidade de pesquisa de IA (como aqueles que gritam “Game Over”) nem veja isso é, bem, de partir o coração.

Imagine se algum extraterrestre estudasse toda a interação humana apenas olhando para as sombras no chão, percebendo, para seu crédito, que algumas sombras são maiores que outras, e que todas as sombras desaparecem à noite, e talvez até percebendo que as sombras cresciam e cresciam regularmente. encolheu em certos intervalos periódicos – sem nunca olhar para cima para ver o sol ou reconhecer o mundo tridimensional acima.

É hora dos pesquisadores de inteligência artificial olharem para cima. Não podemos “resolver IA” apenas com relações públicas.

Este é um artigo de opinião e análise, e as opiniões expressas pelo autor ou autores não são necessariamente as de Americano científico.