Pesquisadores de Hong Kong descobriram que a inteligência artificial, na forma de grandes modelos de linguagem (LLMs), possui capacidades de memória semelhantes às dos humanos.
De acordo com um artigo de especialistas em computação da Hong Kong Polytechnic University, há vários fatores-chave na capacidade de raciocínio. Isso inclui o conhecimento aprendido, a entrada específica e a capacidade de produzir resultados alinhados com o conhecimento aprendido.
Eles afirmam: “De acordo com esta definição, as capacidades de memória dos LLMs também podem ser consideradas uma forma de raciocínio.”
A memória da IA funciona da mesma forma que a memória humana?
Usando conjuntos de dados disponíveis do Hugging Face, milhares de poemas chineses foram analisados e memorizados. Vários conjuntos de dados foram capazes de lembrar cerca de 1.900 poemas. Em resposta a isso, eles disseram: “Esses resultados são notáveis. Um humano, sem treinamento especializado de memória, teria dificuldade para memorizar até 100 poemas sob tais condições, enquanto os LLMs foram capazes de memorizar quase 100% dos 2.000 poemas.”
Dito isso, houve algumas limitações quando se tratou de prever a próxima parte do poema, cometendo vários erros, que eles atribuíram à natureza complexa da linguagem. No entanto, mesmo que as previsões nem sempre fossem exatas, as respostas ainda surgiam com convenções linguísticas corretas, o que sugere uma forma de criatividade e raciocínio.
Portanto, a pesquisa descreve o conceito de memória de IA como “memória de Schrodinger”. O termo é inspirado no paradoxo da teoria quântica, em que o estado de um objeto é indeterminado até ser observado.
Para LLMs, eles argumentam que a memória só pode ser avaliada depois que uma pergunta específica é feita, semelhante a como a memória humana é avaliada quando ela responde a uma consulta específica. Por exemplo, os humanos podem não ser capazes de lembrar exatamente quantos poemas eles conhecem, mas geralmente conseguem lembrar de um poema específico quando perguntado.
Os pesquisadores explicam que tanto o cérebro humano quanto os LLMs geram saídas dinamicamente com base em entradas. Enraizada no modelo Transformer, a arquitetura dos LLMs pode ser vista como uma versão simplificada de como o cérebro humano opera.
A OpenAI está entre as que exploram essa ideia. Em fevereiro, a ReadWrite relatou que um recurso de “memória” estava sendo integrado ao ChatGPT, o que permitiria que a IA retivesse informações sobre os usuários ao longo do tempo.
No mesmo mês, pesquisadores do MIT descobriram uma maneira de os chatbots de IA manterem conversas ininterruptas sem travar ou ficar lentos, preservando os pontos de dados iniciais em sua memória.
