Uprawnienia agenta.
Ustal granice.
Agent może przygotować szkic, zmienić rekord lub wysłać wiadomość. To różne poziomy odpowiedzialności. Ustal dozwolone działania, moment akceptacji i dowód wykonania, zanim połączysz agentów z firmowymi narzędziami.
W skrócie
- Oddziel przygotowanie wyniku od zmiany w systemie.
- Akceptacja powinna dotyczyć konkretnego działania i danych.
- Sprawdź wynik w narzędziu oraz obsługę błędów.
Jakie działanie wolno wykonać?
Opisz cel procesu, źródła danych, narzędzia i zakres uprawnień. Dla każdej czynności wskaż, czy agent może ją przygotować, wykonać samodzielnie czy wykonać po akceptacji. Wspólny harness koordynuje wiedzę, pamięć i kolejne kroki, ale nie powinien automatycznie nadawać wszystkim agentom tego samego dostępu.
Przykład poglądowy: agent zbiera ustalenia z CRM i przygotowuje ofertę. Odczyt wskazanych rekordów i przygotowanie szkicu są dozwolone. Zmiana ceny, zapis oferty oraz wysyłka do klienta mają osobne warunki akceptacji.
Co użytkownik ma zobaczyć przed zgodą?
Pokaż odbiorcę, treść lub zmianę danych, używane narzędzie oraz przewidywany skutek. Zgoda „kontynuuj” bez tego kontekstu nie rozstrzyga, czy wolno wysłać ofertę. Jeżeli po akceptacji zmienia się odbiorca albo zakres operacji, potrzebna jest ponowna decyzja dla zmienionego działania.
Dane z dokumentu, strony lub maila traktuj jako materiał do pracy, nie jako zgodę na nowe uprawnienia. Instrukcja ukryta w takim materiale może skłonić model do niezamierzonego działania. Ograniczenia narzędzi i kontrola wykonania muszą działać poza samą prośbą do modelu.
Czy operacja rzeczywiście się udała?
Po zapisie odczytaj wynik albo sprawdź identyfikator operacji w systemie. Nie utożsamiaj przygotowanego szkicu z wysłanym mailem. Przy braku odpowiedzi narzędzia ustal, czy zapis nastąpił, zanim ponowisz operację; inaczej mogą powstać duplikaty.
- Zapisz, jakie działanie zatwierdzono i jaki wynik zwrócił system, bez ujawniania sekretów.
- Ustal, które błędy zatrzymują proces i kto przejmuje sprawę.
- Dla nieodwracalnych działań sprawdź warunki przed wykonaniem; nie zakładaj, że zawsze da się cofnąć zmianę.
Co sprawdzić przed szerszym dostępem?
Przetestuj poprawne zlecenie, odmowę, zmienione dane, przerwę po akceptacji i timeout po zapisie. Oceń cały proces: od zebrania informacji przez decyzję po potwierdzony wynik. Przekazanie pracy następnemu agentowi powinno zachować granice zgody oraz status wykonania.
Dopiero taki odbiór pokazuje, co można automatyzować i gdzie pozostaje kontrola człowieka. Zakres dopasuj do rzeczywistej pracy firmy, zamiast zaczynać od dostępu do wszystkich systemów.
Źródła i dalszy krok
Źródła opisują mechanizmy i dobre praktyki. Nie potwierdzają konfiguracji ani zgodności Twojej firmy. Przykłady w poradniku są poglądowe.
Jeśli chcesz odnieść te pytania do swojej firmy, sprawdź zakres powiązanej usługi. Do rozmowy wystarczy opis sytuacji; nie wysyłaj haseł ani poufnych danych przez formularz.
Sprawdź, jak wdrażamy AI w firmie