A Anthropic anunciou que ampliou significativamente a capacidade de memória do Claude, chatbot de inteligência artificial (IA). O parâmetro de referência é a chamada “janela de contexto”, que saltou de 9 mil para 100 mil tokens – o equivalente a cerca de 75 mil palavras.
Para ler essa mesma quantidade de texto, uma pessoa levaria em média 5 horas, e ainda levaria mais tempo para assimilar e analisar o conteúdo. Em um artigo publicado no seu site oficial, a startup citou como exemplo o romance O Grande Gatsby, do autor norte-americano F. Scott Fitzgerald.
“Por exemplo, carregamos todo o texto de O Grande Gatsby no Claude-Instant (72 mil tokens) e modificamos uma linha para dizer que o Sr. Carraway era ‘um engenheiro de software que trabalha com ferramentas de aprendizado de máquina na Anthropic’. Quando pedimos ao modelo para identificar o que estava diferente, ele respondeu com a resposta correta em 22 segundos”, conta a postagem.
A janela de contexto é a quantidade de tokens que uma IA consegue processar para gerar uma resposta, por exemplo. Na prática, uma maior quantidade de tokens permite consultar uma base de dados mais extensa, como um livro ou outros textos longos.
A Anthropic listou algumas das possibilidades da nova janela de contexto:
- Digerir, resumir e explicar documentos densos, como demonstrações financeiras ou trabalhos de pesquisa;
- Analisar riscos e oportunidades estratégicas para uma empresa com base em seus relatórios anuais;
- Avaliar os prós e os contras de uma lei;
- Identificar riscos, temas e diferentes formas de argumentação em documentos jurídicos;
- Ler centenas de páginas de documentação de desenvolvedor e encontrar respostas para perguntas técnicas
- Criar e modificar protótipos rapidamente, inserindo uma base de código inteira no contexto.