هل يمكن لموظفي الذكاء الاصطناعي الوصول إلى معلومات تخص مساحات عمل أو منظمات أخرى؟
تم تصميم موظفي الذكاء الاصطناعي لأداء المهام باستخدام المعلومات والتعليمات والقدرات المرتبطة ببيئة أعمالهم المصرح بها.
لا ينبغي لموظف الذكاء الاصطناعي الحصول على حق الوصول إلى المعلومات الخاصة بمنظمة أخرى لمجرد أن مستخدمًا يطلب منه ذلك.
يجب أن تعمل قدرات الذكاء الاصطناعي ضمن حدود التفويض ذات الصلة.
ما المعلومات التي يمكن لموظف الذكاء الاصطناعي استخدامها؟
اعتمادًا على تكوينه، يمكن لموظف الذكاء الاصطناعي استخدام:
1. التعليمات المعينة.
2. المعرفة التجارية ذات الصلة.
3. سياق المحادثة المصرح به.
4. معلومات حول عمليات الأعمال.
5. بيانات التكامل المسموح بها.
6. الذاكرة الدائمة ذات الصلة.
7. المخرجات من أنشطة التعاون المصرح بها.
تعتمد المعلومات المتاحة على التكوين الفعلي للميزات وعمليات التحكم في الوصول.
هل يمكن لمستخدم أن يطلب من موظف الذكاء الاصطناعي استرجاع قائمة العملاء لشركة أخرى؟
لا تؤسس الطلبات بلغة طبيعية تفويضًا.
لا ينبغي لموظف الذكاء الاصطناعي استرجاع معلومات من بيئة عمل غير ذات صلة لمجرد أن الطلب يصف تلك المعلومات.
هل يمكن لموظفي الذكاء الاصطناعي الوصول إلى معلومات بعضهم البعض؟
يمكن أن تسمح التعاونات بين موظفي الذكاء الاصطناعي المشاركين بتبادل المعلومات المتعلقة بالمهام.
يجب أن يبقى التبادل ضمن حدود الأعمال والتفويض ذات الصلة.
التعاون ليس إذنًا للوصول إلى بيانات العملاء غير ذات الصلة.
ماذا عن موظفي الذكاء الاصطناعي الذين يتعاملون مع العملاء؟
يمكن لموظفي الذكاء الاصطناعي الذين يتعاملون مع العملاء التفاعل مع المستخدمين الخارجيين.
يجب تكوينهم للوصول فقط إلى المعرفة والعمليات المناسبة لمسؤولياتهم المتعلقة بالعملاء.
لا ينبغي كشف المعلومات الداخلية للأعمال لمجرد أن عميلًا يطلبها.
هل يمكن أن تؤثر حقن الطلبات على عزل البيانات؟
تحدث حقن الطلبات عندما يحاول نص غير موثوق به التلاعب بنظام الذكاء الاصطناعي لتجاهل التعليمات أو تنفيذ إجراءات غير مصرح بها.
يجب ألا تعتمد المنظمات فقط على التعليمات بلغة طبيعية لحماية الموارد الحساسة.
تعتمد الحماية الفعالة أيضًا على فحوصات التفويض الفنية والقيود المناسبة على الأدوات والوصول إلى البيانات.
ماذا لو أن موظف الذكاء الاصطناعي يولد معلومات تبدو أنها تخص عملًا آخر؟
لا تفترض أن المخرجات تمثل إفشاءً فعليًا للبيانات دون تحقيق.
يمكن أن تنتج أنظمة الذكاء الاصطناعي معلومات غير دقيقة أو مصنوعة.
ومع ذلك، يجب الإبلاغ عن أي مؤشر موثوق للوصول غير المصرح به على الفور.
كيف يمكن للمنظمات تقليل المخاطر؟
1. تحديد مسؤوليات موظفي الذكاء الاصطناعي بوضوح.
2. مراجعة موارد المعرفة المتصلة.
3. تقييد أذونات التكامل.
4. فصل المسؤوليات الداخلية وتلك المتعلقة بالعملاء.
5. اختبار سيناريوهات الوصول التمثيلية.
6. مراجعة المخرجات غير المتوقعة.
7. طلب الإشراف البشري للعمليات الحساسة.
ملخص
يجب أن يعمل موظفو الذكاء الاصطناعي كأعضاء مخولين في بيئة عمل، وليس كأبواب غير مقيدة للمعلومات عبر المنصة.