API ChatGPT (via N8N) : gérer la persistance des données

IA
1

Hello,

j’ai fait un flux n8n qui prépare des réponses automatiquement aux emails entrants sur [email protected] en se basant sur une FAQ dans Gsheet.

Le système marche pas mal mais je suis frustré par l’API chatGPT qui ne me permet pas d’entrainer l’IA à répondre de mieux en mieux à mes demandes entrantes.

Est-ce que vous avez une solution pour permettre (facilement) de solliciter une IA qu’on aurait préalablement entrainée et qu’on pourrait continuer à entrainer ?

Capture d’écran 2025-03-24 à 11.49.30
Capture d’écran 2025-03-24 à 11.49.302402×654 97.8 KB

Merci

1 « J'aime »
2

Je crois que moustacheai.fr permet de faire ce use case.
Tu peux contacter le fondateur de ma part

2 « J'aime »
3

Hello Cyril,

Petit préambule pour être sûr qu’on parle bien de la même chose :

Le RAG (Retrieval-Augmented Generation), c’est juste une façon de dire :

  1. Tu stockes ta FAQ dans une base (une vraie DB, pas GSheet)
  2. Quand l’IA reçoit une question, elle va chercher les infos pertinentes dans ta base
  3. Elle utilise ces infos pour construire une réponse sur-mesure

C’est différent d’un ChatGPT basique qui répond « de mémoire », et différent d’un fine-tuning où tu ré-entraînes le modèle.

Maintenant, les options :

1. Solution DIY (si t’es courageux)

Techno : Azure OpenAI + LangChain
Stockage :

  • FAQ : DB vectorielle (Pinecone) ou PostgreSQL
  • Logs des réponses : Airtable ou autre DB simple
    Process :
  1. Le système répond aux mails via RAG
  2. Tu logues toutes les interactions
  3. Tu analyses et améliores ta FAQ chaque semaine
    le +: Contrôle total
    le - : Maintenance et coûts à surveiller

2. Solution intermédiaire (moins de code) → Celle que je te reco pour démarrer

Outils :

  • CustomGPT pour le RAG
  • Zapier pour la connexion mail
    + : Rapide à mettre en place
    - : Moins flexible

3. Solution clé en main

  • Ada ou Onyx pour une solution complète
  • Ils gèrent tout : RAG, feedback, amélioration continue

Mon avis perso :

  • Si t’es motivé → Option 1
  • Si tu veux du rapide → Option 2
  • Si ça devient critique → Option 3
1 « J'aime »
4

Elle le permet, cela s’appelle du fine-tuning, mais je te déconseille d’aller la dedans, trop couteux, alors que ton approche est plus efficace : comme l’explique @louisvms13 , tu fais à priori du RAG.

Tu as donc 2 solutions principales pour améliorer la pretience de tes réponses :

  • améliorer ta FAQ (ajouter des réponses/cas particuliers quand elles n’y sont pas, préciser certains points etc…)
  • prendre en compte les emails envoyés. Cela revient un peu au même, mais tu peux le faire plus ou moins automatiquement. Je m’explique : une réponse n’est pas satisfaisante, tu la modifies avant de l’envoyer, elle répond maintenant très bien à la question. Au lieu de l’ajouter dans la FAQ (qui va devenir très grosse au bout d’un moment), tu l’ajoutes simplement à la base vectorielle qui est utilisée pour répondre. Ainsi pour la prochaine fois, ChatGPT pourra utiliser cet exemple (s’il est pertinent)

Je parle de 2 solutions « principales » parce qu’en fonction de tes problématiques, il peut y avoir d’autres améliorations :
Exemple : tu as la réponse dans ta FAQ, mais ChatGPT a généré une réponse « à coté ». Cela peut venir de 2 choses : une mauvaise « recherche » dans la base vectorielle : il y a des choses qui peuvent être améliorées dans ce cas.
Ou un prompt à revoir (ici, pareil, tu aurais plusieurs pistes)
Tu peux aussi avoir des cas avec plusieurs questions dans l’email entrant… Il y a des process pour traiter ces cas plus complexes.

2 « J'aime »
5

Hello Louis, c’est très clair merci. Je confondais effectivement le fine tuning et le RAG !

Super pour les outils/technos proposées, je ne connaissais pas. Je creuserai si on avance sur le sujet et que le POC montre un intérêt.

1 « J'aime »
6

Très clair Morph, merci.
Du coup je vais creuser l’option d’une base vectorielle en complément de la FAQ ou je stockerai les meilleures réponses.

Thx

1 « J'aime »