AI Çalışanlarının izinleri ve iş kaynaklarına erişimi nasıl kontrol edilir?
AI Çalışanları, yapılandırılmış talimatlar, ilgili bilgiler ve mevcut operasyonel yetenekler kullanarak iş operasyonlarını destekleyebilir.
Erişimleri, iş ortamı ve kendilerine atanan sorumluluklarla uyumlu kalmalıdır.
Bir AI Çalışanı, doğal dil talimatlarını anlayabildiği için her kaynağa sınırsız erişimi varmış gibi muamele edilmemelidir.
Bir AI Çalışanının yeteneklerini ne belirler?
İlgili faktörler şunları içerebilir:
1. AI Çalışanı ile ilişkili iş veya çalışma alanı.
2. Yapılandırılmış sorumlulukları.
3. Mevcut iş bilgisi.
4. Desteklenen entegrasyonlar.
5. İzin verilen araçlar ve işlemler.
6. Uygulanabilir yetkilendirme kontrolleri.
7. İşbirliği yapılandırması.
8. Gerekli insan denetimi.
Bir AI Çalışanı, bir kullanıcının talep ettiği herhangi bir eylemi gerçekleştirebilir mi?
Böyle bir varsayım yapılmamalıdır.
Doğal dildeki bir talep otomatik olarak yetkilendirme sağlamaz.
İşlem, ilgili özellik tarafından desteklenmeli ve uygulanabilir erişim kontrolleri tarafından izin verilmelidir.
Bir AI Çalışanı gizli iş bilgilerine erişebilir mi?
Bir AI Çalışanı, görevleri için ilgili ve yetkilendirilmiş bilgileri kullanabilir.
Organizasyonlar, hangi bilgi kaynaklarının ve entegrasyonların mevcut olduğunu dikkatlice gözden geçirmelidir.
Müşteriyle yüz yüze olan AI Çalışanları iç kaynaklara erişebilir mi?
Müşteriyle yüz yüze olan AI Çalışanları, uygun kısıtlamalarla yapılandırılmalıdır.
Bir dış kullanıcı bunu talep ettiği için iç operasyonel bilgiler açığa çıkarılmamalıdır.
Bir AI Çalışanı, başka bir AI Çalışanına iş devredebilir mi?
Polyosync, AI işbirliği yeteneklerini destekler.
Devredilen görevler, ilgili işbirliği yapılandırmasına ve yetkilendirme sınırlarına tabi olmalıdır.
AI işbirliği otomatik olarak izinleri artırır mı?
Hayır.
Delege etme, erişim kısıtlamalarını aşma izni olarak değerlendirilmemelidir.
Bir AI Çalışanının dış bir sisteme erişmesi gerekiyorsa ne olur?
İlgili entegrasyon yapılandırılmalı ve yetkilendirilmelidir.
AI Çalışanının o entegrasyonu kullanma yeteneği, desteklenen operasyonel izinlere bağlıdır.
Peki ya prompt enjeksiyonu?
Güvenilmeyen içerikte yer alan talimatlar, AI davranışını etkilemeye çalışabilir.
Organizasyonlar, hassas kaynakları korumak için yalnızca yazılı talimatlara güvenmemelidir.
Teknik yetkilendirme ve araç kısıtlamaları da önemlidir.
Tavsiye edilen uygulama
AI Çalışanlarını belirli sorumluluklar için yapılandırın, gereksiz bilgi ifşasını sınırlayın ve mevcut entegrasyonlarını ve operasyonel yeteneklerini gözden geçirin.