Hallucinations et limites ⚠️

Qu'est-ce qu'une hallucination ?

Une hallucination, c'est quand l'IA invente une information et la présente comme un fait.

Types d'hallucinations

Pourquoi ça arrive ?

Le modèle calcule le token le plus probable, pas le token correct.

Quand il n'a pas l'information :

1. Il invente something de plausible
2. Il le présente avec confiance
3. Il n'a pas de moyen de savoir qu'il se trompe

Comment détecter les hallucinations

Signes d'alerte 🔴

• L'IA cite des sources que vous ne trouvez pas
• Elle utilise des fonctions ou bibliothèques inconnues
• Les dates ou chiffres semblent approximatifs
• La réponse est trop parfaite ou trop complète

Stratégies de vérification ✅

1. Cherchez les bibliothèques/fonctions sur npm ou la doc officielle
2. Testez le code généré immédiatement
3. Demandez des justifications
4. Vérifiez les faits sur des sources fiables

Réduire les hallucinations

Exemple : Avant/Après

❌ Prompt qui invite aux hallucinations

"Fais une application avec toutes les dernières technologies"

✅ Prompt qui les réduit

"Analyse mon projet React/TypeScript existant. Identifie les dépendances obsolètes. Propose un plan de migration. N'écris aucun code avant validation."

Résumé

• Les hallucinations sont fréquentes, surtout avec des prompts vagues
• Vérifiez toujours les réponses de l'IA
• Un prompt précis réduit les hallucinations
• Demandez des sources et des justifications