Que dois-je faire si un Employé AI produit des résultats incorrects, incomplets ou inattendus ?
Les Employés AI sont conçus pour aider aux opérations commerciales, mais leurs résultats doivent être évalués en fonction de l'importance et du risque de la tâche.
Un résultat inattendu n'indique pas toujours une défaillance de la plateforme technique.
Cela peut provenir d'instructions incomplètes, de contexte insuffisant, d'informations sources inexactes, d'erreurs d'intégration ou de limitations du raisonnement généré par l'IA.
Comment enquêter
1. Examinez la demande originale.
Vérifiez si l'instruction décrit clairement le résultat attendu.
Des demandes ambiguës peuvent produire des résultats qui diffèrent des intentions de l'utilisateur.
2. Vérifiez le contexte commercial disponible.
Déterminez si l'Employé AI avait accès aux informations nécessaires pour accomplir la tâche.
3. Examinez la configuration de l'Employé AI.
Vérifiez ses responsabilités, instructions, capacités disponibles et limites opérationnelles pertinentes.
4. Vérifiez les informations sources.
Si la sortie dépend d'enregistrements externes, confirmez que ces enregistrements sont précis et à jour.
5. Examinez les détails d'exécution.
Lorsque cela est possible, inspectez les étapes enregistrées, les résultats de collaboration ou les résultats d'outils externes.
6. Identifiez le type d'erreur.
Faites la distinction entre une explication incorrecte, une réponse incomplète, une action externe échouée et une opération commerciale non autorisée ou inattendue.
7. Testez avec un exemple contrôlé.
Utilisez une tâche clairement définie avec un résultat attendu connu.
Évitez de tester des modifications directement contre des opérations sensibles des clients lorsque un test plus sûr est possible.
Dois-je faire confiance à chaque réponse générée par l'IA ?
Non.
Les informations générées par l'IA peuvent être inexactes ou incomplètes.
Les décisions importantes financières, juridiques, sensibles à la sécurité ou d'une autre nature à fort impact doivent faire l'objet d'un examen humain approprié.
Que faire si l'Employé AI a effectué une action inattendue ?
Examinez l'historique d'exécution pertinent et le système commercial affecté.
Si nécessaire, mettez en pause l'automatisation pertinente ou restreignez l'exécution supplémentaire pendant que le problème est examiné.
Ne réexécutez pas la même tâche à plusieurs reprises tant que ses effets ne sont pas compris.
Quand contacter le Support
Fournissez le nom de l'Employé AI, le comportement attendu, le comportement réel, la référence d'exécution pertinente et un exemple assaini.
Évitez de soumettre des données confidentielles inutiles des clients.