Comment les approbations humaines et les politiques de gouvernance contrôlent-elles les actions sensibles de l'IA ?
Les approbations humaines et les politiques de gouvernance aident les organisations à maintenir le contrôle sur les opérations alimentées par l'IA qui nécessitent une supervision supplémentaire.
Toutes les actions commerciales ne comportent pas le même niveau de risque.
Les activités de routine peuvent être adaptées à l'automatisation, tandis que d'autres actions nécessitent une révision par une personne autorisée avant de procéder.
Polyosync inclut des capacités de gouvernance d'entreprise et d'approbation humaine.
Les politiques exactes et le comportement d'approbation disponibles dépendent de la fonctionnalité mise en œuvre et de la configuration de l'organisation.
Qu'est-ce qu'une politique de gouvernance ?
Une politique de gouvernance établit des règles ou des conditions régissant la manière dont une opération peut être effectuée.
Ces règles peuvent aborder des questions telles que l'autorisation, les exigences d'approbation, les limites d'exécution ou d'autres mesures de sécurité opérationnelle.
Qu'est-ce que l'approbation humaine ?
L'approbation humaine est un mécanisme par lequel une personne autorisée examine une action avant qu'elle ne soit exécutée, où le flux de travail d'approbation pertinent est soutenu et configuré.
Cela permet aux organisations de conserver l'autorité de décision humaine sur les opérations sélectionnées.
Quand l'approbation doit-elle être envisagée ?
Des exemples d'activités potentiellement sensibles incluent :
1. Modifier des enregistrements financiers importants.
2. Supprimer des informations commerciales significatives.
3. Changer des paramètres opérationnels critiques.
4. Effectuer des actions externes ayant des conséquences.
5. Gérer des demandes exceptionnelles de clients.
6. Exécuter des actions en dehors des règles commerciales normales.
7. Accéder ou divulguer des informations sensibles.
8. Effectuer des opérations ayant des conséquences irréversibles.
Ce sont des exemples d'activités qui peuvent justifier des contrôles d'approbation. Ils ne garantissent pas que chaque action énumérée dispose d'une politique d'approbation intégrée dédiée.
Comment les approbations sont-elles liées aux employés IA ?
Un employé IA peut être capable de préparer ou de demander une opération.
Cependant, lorsque une politique configurée nécessite une approbation, l'opération doit suivre le processus d'autorisation et d'approbation applicable.
On ne doit pas supposer qu'un employé IA a la permission de contourner les exigences de gouvernance.
Comment les approbations sont-elles liées aux flux de travail autonomes ?
Les flux de travail autonomes peuvent impliquer plusieurs étapes et décisions.
Lorsque cela est pris en charge, les contrôles de gouvernance peuvent introduire une supervision pour les étapes sensibles plutôt que de traiter chaque étape comme une exécution sans restriction.
Une approbation peut-elle remplacer une permission manquante ?
Aucune telle hypothèse ne doit être faite.
Les vérifications de permission et les politiques d'approbation sont des contrôles différents.
Une approbation ne doit pas être automatiquement considérée comme une autorisation pour contourner les limites de l'espace de travail ou d'autres exigences de sécurité.
Que doivent considérer les administrateurs lors de l'établissement des procédures d'approbation ?
Étape 1 : Identifier les actions commerciales sensibles.
Étape 2 : Déterminer quels risques nécessitent une supervision supplémentaire.
Étape 3 : Identifier les décideurs humains appropriés.
Étape 4 : Examiner les contrôles de gouvernance disponibles.
Étape 5 : Configurer les exigences d'approbation prises en charge.
Étape 6 : Vérifier les autorisations des utilisateurs pertinentes.
Étape 7 : Tester des scénarios d'approbation représentatifs.
Étape 8 : Examiner les résultats et tout enregistrement associé.
Étape 9 : Mettre à jour les procédures lorsque les exigences opérationnelles changent.
L'approbation humaine garantit-elle le bon résultat ?
Non.
L'approbation ajoute de la responsabilité et de la supervision, mais n'élimine pas la possibilité d'erreur humaine ou technique.
Les approbateurs doivent disposer d'informations suffisantes pour prendre une décision éclairée.
Approche recommandée
Appliquez les exigences d'approbation en fonction du risque commercial et maintenez une responsabilité claire pour les décisions ayant des conséquences.