ماذا يجب أن أفعل إذا حاول موظف AI القيام بإجراء غير مصرح به أو إنتاج معلومات مشبوهة؟
يمكن لموظفي AI المساعدة في العمليات التجارية باستخدام التعليمات المكونة مسبقًا والمعرفة والتكاملات والقدرات المدعومة.
قد ينتج عن سلوك AI غير المتوقع مشاكل في التكوين أو محتوى تم إنشاؤه بشكل غير دقيق أو تعليمات غير مناسبة أو مشاكل في التكامل أو محاولات للتلاعب بالمطالبات.
لا تشير كل استجابة غير متوقعة إلى خرق أمني.
ومع ذلك، يجب التحقيق في الإجراءات المحتملة غير المصرح بها.
ما هي أمثلة السلوك المشبوه؟
1. يحاول موظف AI إجراء عملية خارج مسؤولياته المقصودة.
2. يطلب الوصول إلى معلومات غير ذات صلة.
3. ينتج محتوى يبدو أنه يحتوي على بيانات سرية.
4. يحاول استخدام تكامل غير متوقع.
5. يستجيب لتعليمات غير موثوقة تتعارض مع دوره المقصود.
6. يثير سير عمل غير متوقع.
7. يبدو أنه يكشف معلومات داخلية من خلال تفاعل مع العملاء.
ماذا يجب أن أفعل؟
الخطوة 1: أوقف التفاعل أو العملية المتأثرة إذا كان من المحتمل أن تسبب ضررًا.
الخطوة 2: سجل موظف AI المعني.
الخطوة 3: لاحظ سياق المحادثة أو المهمة ذات الصلة.
الخطوة 4: راجع التعليمات والمسؤوليات المكونة مسبقًا لموظف AI.
الخطوة 5: راجع موارد المعرفة المتاحة والوصول إلى التكامل.
الخطوة 6: افحص تاريخ التنفيذ أو التعاون ذي الصلة حيثما كان ذلك متاحًا.
الخطوة 7: أبلغ مسؤولًا مخولًا.
الخطوة 8: اتصل بدعم Polyosync إذا كان السلوك يشير إلى وصول غير مصرح به أو تعرض للبيانات.
ما هي حقن المطالبات؟
حقن المطالبات هو محاولة للتأثير على نظام AI من خلال تعليمات غير موثوقة مضمنة في الرسائل أو الوثائق أو محتوى الويب أو مدخلات أخرى.
يمكن أن تحاول هذه التعليمات تحويل موظف AI بعيدًا عن مسؤولياته المقصودة.
كيف يجب التعامل مع حقن المطالبات؟
تجنب التعامل مع المحتوى غير الموثوق به كتعليمات موثوقة.
يجب أن تظل العمليات الحساسة خاضعة للأذونات الفنية المناسبة وفحوصات التفويض.
هل يمكن لموظف AI الوصول إلى معلومات عميل آخر لمجرد أنه تم سؤاله؟
لا تؤسس الطلبات بلغة طبيعية تفويضًا.
يجب أن تظل عمليات AI ضمن الحدود التجارية والموارد ذات الصلة.
ماذا لو أنتج موظف AI ادعاءً كاذبًا حول الوصول إلى بيانات خاصة؟
يمكن أن تولد أنظمة AI بيانات غير صحيحة.
يجب التحقيق في الادعاء باستخدام الأدلة المتاحة بدلاً من افتراض أنه صحيح.
الممارسة الموصى بها
حدد بوضوح مسؤوليات موظف AI، وقيّد التكاملات غير الضرورية، وراجع السلوكيات غير المتوقعة، وطبق الإشراف البشري على العمليات الحساسة.