Memorilla : module open source qui résume en 16 tokens les collections pour LLM gelés

1 min de lecture

Memorilla : module open source qui résume en 16 tokens les collections pour LLM gelés

Memorilla, développé à l'Université de Stanford, est un module de mémoire open source conçu pour condenser des collections de données en seulement 16 tokens lorsqu'il est utilisé avec des modèles de langage de grande taille (LLM) gelés.

Performances sur FactKG
Sur le benchmark FactKG, Memorilla atteint un taux de précision de 84,33 % contre 80,43 % lorsqu’on utilise le contexte complet, tout en réduisant le nombre de tokens de 108 fois.

Performances sur PubMedQA
Les résultats sont moins favorables sur le jeu de données PubMedQA, où Memorilla obtient 59,00 % de précision, comparé à 69,00 % pour le modèle LLMLingua‑2.

Disponibilité et exigences
Le code source, les checkpoints et le corpus synthétique associés à Memorilla sont publiés sous licence Apache 2.0. Leur installation nécessite un GPU haut de gamme.

Les scores présentés sont auto‑rapportés par les auteurs du projet.

Source : Brief IA