Qui ici a déjà essayé de faire fonctionner un des projets open source de LLM destinés à être exécuté en local (sur un simple ordinateur) ?
C’est quoi le niveau de bagage technique nécessaire pour réussir à faire ça ? Est-ce qu’un profil d’étudiant ingénieur en 2ème année peut y arriver ?
Hello @Maud_Mhk,
Le bagage « étude » ne me semble pas être un paramètre important à prendre en compte (ne te sens pas bridé par cela)
Y’a ce projet que @josselin avait partagé (merci à lui ) qui te permet de l’avoir en une ligne de commande une fois Docker Desktop installé (+ WSL2 si Windows) :
Faut un ordi pas trop mal car le mien était à la ramasse et prenait 20-30sec à répondre sur des questions bidons,
Par contre ça date un peu et je ne sais plus si les modèles sont proposés au téléchargement une fois que c’est installé ou s’il faut les télécharger ailleurs.
PS : N’hésite pas à regarder cet article à partir de l’étape 3 dans le tuto débutant que j’ai fait si tu veux un exemple pour les lignes de commande. ^^