Come possiamo aiutarti?

I Dipendenti AI possono assistere nelle operazioni aziendali utilizzando istruzioni configurate, conoscenze, integrazioni e capacità supportate. Un comportamento inaspettato dell'AI può derivare da problemi di configurazione, contenuti generati imprecisi, istruzioni inadeguate, problemi di integrazione o tentativi di manipolazione del prompt. Non ogni risposta inaspettata indica una violazione della sicurezza. Tuttavia, le azioni potenzialmente non autorizzate devono essere investigate. Quali sono esempi di comportamento sospetto? 1. Un Dipendente AI tenta di eseguire un'operazione al di fuori delle sue responsabilità previste. 2. Richiede accesso a informazioni non correlate. 3. Produce contenuti che sembrano contenere dati riservati. 4. Tenta di utilizzare un'integrazione inaspettata. 5. Risponde a istruzioni non affidabili che sono in conflitto con il suo ruolo previsto. 6. Attiva un flusso di lavoro inaspettato. 7. Sembra rivelare informazioni interne attraverso un'interazione con il cliente. Cosa devo fare? Passo 1: Ferma l'interazione o l'operazione interessata se potrebbe causare danni. Passo 2: Registra il Dipendente AI coinvolto. Passo 3: Prendi nota del contesto della conversazione o del compito pertinente. Passo 4: Rivedi le istruzioni e le responsabilità configurate del Dipendente AI. Passo 5: Rivedi le risorse di conoscenza disponibili e l'accesso all'integrazione. Passo 6: Esamina la storia di esecuzione o collaborazione pertinente, dove disponibile. Passo 7: Notifica un amministratore autorizzato. Passo 8: Contatta il supporto Polyosync se il comportamento suggerisce accesso non autorizzato o esposizione di dati. Cos'è l'iniezione di prompt? L'iniezione di prompt è un tentativo di influenzare un sistema AI attraverso istruzioni non affidabili incorporate in messaggi, documenti, contenuti web o altri input. Tali istruzioni possono tentare di deviare il Dipendente AI dalle sue responsabilità previste. Come dovrebbe essere gestita l'iniezione di prompt? Evita di trattare contenuti non affidabili come istruzioni autorevoli. Le operazioni sensibili dovrebbero rimanere soggette a permessi tecnici appropriati e controlli di autorizzazione. Un Dipendente AI può accedere alle informazioni di un altro cliente semplicemente perché viene chiesto? Una richiesta in linguaggio naturale non stabilisce autorizzazione. Le operazioni AI dovrebbero rimanere all'interno dei confini aziendali e delle risorse pertinenti. Cosa succede se il Dipendente AI produce un'affermazione falsa sull'accesso ai dati privati? I sistemi AI possono generare dichiarazioni errate. L'affermazione dovrebbe essere esaminata utilizzando le prove disponibili piuttosto che essere assunta come vera. Pratica raccomandata Definisci chiaramente le responsabilità del Dipendente AI, limita le integrazioni non necessarie, rivedi i comportamenti inaspettati e applica la supervisione umana alle operazioni sensibili.