Contexte
L’ensemble de données AG News, composé de quatre catégories d’articles d’actualité, a servi de banc d’essai pour évaluer la combinaison d’embeddings statiques issus du modèle Qwen2.5-1.5B et d’un classificateur Random Forest.
Méthodologie
Les représentations vectorielles ont été extraites du modèle Qwen2.5-1.5B pré‑entraîné, puis quantifiées en 4 bits afin de réduire la charge mémoire. L’opération d’extraction a duré 96,5 secondes. Ces embeddings figés ont ensuite alimenté un classificateur Random Forest, dont l’entraînement a nécessité 2,866 secondes.
Résultats
Le système a atteint une précision de 82,0 % sur la tâche de classification à quatre classes du jeu de données AG News. Aucun ajustement fin du modèle n’a été réalisé à ce stade.
Perspectives
Un affinement du modèle via la technique LoRA (Low‑Rank Adaptation) est prévu pour comparer les performances obtenues avec celles du réglage fin, bien que les résultats de cette expérimentation ne soient pas encore disponibles.
Source : Brief IA
Service
Développement de boutique en ligne professionnelle (E-commerce)
Création de boutique en ligne professionnelle à partir de 125 000 FCFA. Vendez vos produits partout au Burkina Faso et à l'international.
À partir de 125 000 F CFADécouvrir le service
