Exécuter une IA de 2 800 milliards de paramètres sans GPU : possible mais coûteux

1 min de lecture

Exécuter une IA de 2 800 milliards de paramètres sans GPU : possible mais coûteux

Faire fonctionner un modèle d'intelligence artificielle en local sans recourir à une carte graphique est réalisable, selon l'expérience d'un utilisateur qui s'est lancé ce défi. Toutefois, la solution implique des contraintes importantes, notamment une consommation de mémoire vive qui conduit rapidement à la surchauffe, rendant l'opération peu pratique sans un investissement matériel conséquent.

Source : Clubic