Wie können wir helfen?

KI-Mitarbeiter können bei Geschäftsabläufen helfen, indem sie konfigurierte Anweisungen, Wissen, Integrationen und unterstützte Funktionen nutzen. Unerwartetes KI-Verhalten kann auf Konfigurationsprobleme, ungenaue generierte Inhalte, ungeeignete Anweisungen, Integrationsprobleme oder Versuche zur Manipulation von Eingaben zurückzuführen sein. Nicht jede unerwartete Antwort deutet auf einen Sicherheitsvorfall hin. Potenziell unbefugte Aktionen sollten jedoch untersucht werden. Was sind Beispiele für verdächtiges Verhalten? 1. Ein KI-Mitarbeiter versucht, eine Operation außerhalb seiner vorgesehenen Verantwortlichkeiten durchzuführen. 2. Er fordert Zugriff auf nicht verwandte Informationen an. 3. Er produziert Inhalte, die vertrauliche Daten zu enthalten scheinen. 4. Er versucht, eine unerwartete Integration zu nutzen. 5. Er reagiert auf unzuverlässige Anweisungen, die mit seiner vorgesehenen Rolle in Konflikt stehen. 6. Er löst einen unerwarteten Arbeitsablauf aus. 7. Er scheint interne Informationen durch eine kundenorientierte Interaktion preiszugeben. Was soll ich tun? Schritt 1: Stoppen Sie die betroffene Interaktion oder Operation, wenn sie Schaden verursachen könnte. Schritt 2: Protokollieren Sie den beteiligten KI-Mitarbeiter. Schritt 3: Notieren Sie den relevanten Gesprächs- oder Aufgaben-Kontext. Schritt 4: Überprüfen Sie die konfigurierten Anweisungen und Verantwortlichkeiten des KI-Mitarbeiters. Schritt 5: Überprüfen Sie die verfügbaren Wissensressourcen und den Integrationszugang. Schritt 6: Untersuchen Sie die relevante Ausführungs- oder Zusammenarbeitshistorie, wo verfügbar. Schritt 7: Benachrichtigen Sie einen autorisierten Administrator. Schritt 8: Kontaktieren Sie den Polyosync-Support, wenn das Verhalten auf unbefugten Zugriff oder Datenexposition hindeutet. Was ist Eingabeinjektion? Eingabeinjektion ist der Versuch, ein KI-System durch unzuverlässige Anweisungen zu beeinflussen, die in Nachrichten, Dokumenten, Webinhalten oder anderen Eingaben eingebettet sind. Solche Anweisungen können versuchen, den KI-Mitarbeiter von seinen vorgesehenen Verantwortlichkeiten abzulenken. Wie sollte Eingabeinjektion behandelt werden? Vermeiden Sie es, unzuverlässigen Inhalt als autoritative Anweisungen zu behandeln. Sensible Operationen sollten weiterhin den entsprechenden technischen Berechtigungen und Autorisierungsprüfungen unterliegen. Kann ein KI-Mitarbeiter auf die Informationen eines anderen Kunden zugreifen, nur weil er gefragt wird? Eine natürliche Sprachaufforderung stellt keine Autorisierung dar. KI-Operationen sollten innerhalb der relevanten Geschäfts- und Ressourcenrahmen bleiben. Was passiert, wenn der KI-Mitarbeiter eine falsche Behauptung über den Zugriff auf private Daten aufstellt? KI-Systeme können falsche Aussagen generieren. Die Behauptung sollte anhand der verfügbaren Beweise untersucht werden, anstatt als wahr angenommen zu werden. Empfohlene Praxis Definieren Sie die Verantwortlichkeiten des KI-Mitarbeiters klar, beschränken Sie unnötige Integrationen, überprüfen Sie unerwartetes Verhalten und wenden Sie menschliche Aufsicht auf sensible Operationen an.