Je ne comprends pas.
Tu fais tourner ChatGPT en local + un script python et ça coute seulement de l’électricité ?
Tu ne payes pas ou tu ne consommes pas de quota ChatGPT ?
Non je ne fais pas tourner ChatGPT en local. Je fais tourner un LLM en local.
Autrement dit, je fais tourner un modèle concurrent (et open source) à ChatGPT.
Ensuite j’utilise un script Python pour automatiser les questions-réponses au modèle
Tu devrais explorer cette voie parce que ça te permettrait de traiter entre 600 et 800 adresses mails par heure, pour quelques centimes
Ok je comprends maintenant merci.
Ben écoute je suis chaud pour apprendre.
Après ça sera jamais fiable à 100%. Mais avec les tests que j’ai fait, il arrive bien à juger entre est-ce qu’il faut utiliser le ndd ou se baser sur les noms/prenoms
Tu peux démarrer mistral ai en local et utiliser l’api avec un peu de dev vLLM | Mistral AI Large Language Models
1 « J'aime »
Le 7B suffit amplement d’ailleurs. Et j’ai obtenu de meilleurs résultats avec Mistral qu’avec LLama 2
2 « J'aime »