Comment pouvons-nous vous aider ?

Les Employés AI peuvent aider aux opérations commerciales en utilisant des instructions configurées, des connaissances, des intégrations et des capacités prises en charge. Un comportement inattendu de l'IA peut résulter de problèmes de configuration, de contenu généré inexact, d'instructions inappropriées, de problèmes d'intégration ou de tentatives de manipulation de prompt. Chaque réponse inattendue n'indique pas une violation de sécurité. Cependant, les actions potentiellement non autorisées doivent être examinées. Quels sont des exemples de comportement suspect ? 1. Un Employé AI tente d'effectuer une opération en dehors de ses responsabilités prévues. 2. Il demande l'accès à des informations non liées. 3. Il produit un contenu qui semble contenir des données confidentielles. 4. Il tente d'utiliser une intégration inattendue. 5. Il répond à des instructions non fiables qui entrent en conflit avec son rôle prévu. 6. Il déclenche un flux de travail inattendu. 7. Il semble révéler des informations internes lors d'une interaction avec un client. Que dois-je faire ? Étape 1 : Arrêtez l'interaction ou l'opération concernée si cela peut causer des dommages. Étape 2 : Enregistrez l'Employé AI impliqué. Étape 3 : Notez le contexte de la conversation ou de la tâche pertinente. Étape 4 : Examinez les instructions et les responsabilités configurées de l'Employé AI. Étape 5 : Passez en revue les ressources de connaissances disponibles et l'accès à l'intégration. Étape 6 : Examinez l'historique d'exécution ou de collaboration pertinent lorsque cela est disponible. Étape 7 : Informez un administrateur autorisé. Étape 8 : Contactez le support Polyosync si le comportement suggère un accès non autorisé ou une exposition de données. Qu'est-ce que l'injection de prompt ? L'injection de prompt est une tentative d'influencer un système AI par des instructions non fiables intégrées dans des messages, des documents, du contenu web ou d'autres entrées. Ces instructions peuvent tenter de détourner l'Employé AI de ses responsabilités prévues. Comment l'injection de prompt doit-elle être gérée ? Évitez de traiter le contenu non fiable comme des instructions autorisées. Les opérations sensibles doivent rester soumises à des autorisations techniques appropriées et à des vérifications d'autorisation. Un Employé AI peut-il accéder aux informations d'un autre client simplement parce qu'on lui demande ? Une demande en langage naturel n'établit pas d'autorisation. Les opérations AI doivent rester dans les limites commerciales et de ressources pertinentes. Que se passe-t-il si l'Employé AI produit une affirmation fausse concernant l'accès à des données privées ? Les systèmes AI peuvent générer des déclarations incorrectes. L'affirmation doit être examinée à l'aide des preuves disponibles plutôt que d'être supposée vraie. Pratique recommandée Définissez clairement les responsabilités de l'Employé AI, restreignez les intégrations inutiles, examinez les comportements inattendus et appliquez une supervision humaine aux opérations sensibles.