Como podemos ajudar?

Funcionários AI podem ajudar nas operações comerciais usando instruções configuradas, conhecimentos, integrações e capacidades suportadas. Comportamentos inesperados da IA podem resultar de problemas de configuração, conteúdo gerado impreciso, instruções inadequadas, problemas de integração ou tentativas de manipulação de prompt. Nem toda resposta inesperada indica uma violação de segurança. No entanto, ações potencialmente não autorizadas devem ser investigadas. Quais são exemplos de comportamento suspeito? 1. Um Funcionário AI tenta realizar uma operação fora de suas responsabilidades pretendidas. 2. Ele solicita acesso a informações não relacionadas. 3. Ele produz conteúdo que parece conter dados confidenciais. 4. Ele tenta usar uma integração inesperada. 5. Ele responde a instruções não confiáveis que entram em conflito com seu papel pretendido. 6. Ele aciona um fluxo de trabalho inesperado. 7. Ele parece revelar informações internas por meio de uma interação com o cliente. O que devo fazer? Passo 1: Pare a interação ou operação afetada se isso puder causar danos. Passo 2: Registre o Funcionário AI envolvido. Passo 3: Anote o contexto da conversa ou tarefa relevante. Passo 4: Revise as instruções e responsabilidades configuradas do Funcionário AI. Passo 5: Revise os recursos de conhecimento disponíveis e o acesso à integração. Passo 6: Examine o histórico de execução ou colaboração relevante, onde disponível. Passo 7: Notifique um administrador autorizado. Passo 8: Entre em contato com o Suporte Polyosync se o comportamento sugerir acesso não autorizado ou exposição de dados. O que é injeção de prompt? Injeção de prompt é uma tentativa de influenciar um sistema de IA através de instruções não confiáveis incorporadas em mensagens, documentos, conteúdo da web ou outras entradas. Essas instruções podem tentar desviar o Funcionário AI de suas responsabilidades pretendidas. Como a injeção de prompt deve ser tratada? Evite tratar conteúdo não confiável como instruções autorizadas. Operações sensíveis devem permanecer sujeitas a permissões técnicas apropriadas e verificações de autorização. Um Funcionário AI pode acessar as informações de outro cliente simplesmente porque é perguntado? Um pedido em linguagem natural não estabelece autorização. As operações de IA devem permanecer dentro dos limites comerciais e de recursos relevantes. E se o Funcionário AI produzir uma afirmação falsa sobre o acesso a dados privados? Sistemas de IA podem gerar declarações incorretas. A afirmação deve ser investigada usando as evidências disponíveis, em vez de ser assumida como verdadeira. Prática recomendada Defina claramente as responsabilidades do Funcionário AI, restrinja integrações desnecessárias, revise comportamentos inesperados e aplique supervisão humana a operações sensíveis.