Agenci dziś: Na dyżurze
0:00 – 24:00 (telefon)
← Wszystkie wpisy Agenci · Bezpieczeństwo · 22 lipca 2026

Model to mózg.
Ale najpierw muszą być ręce

Agent AI to dziś modne hasło. Wyjaśniamy, czym agent naprawdę jest, dlaczego sam model językowy — choćby najlepszy — niczego w firmie nie załatwi i na czym polega utwardzanie, czyli zabezpieczanie modelu i agenta przed nadużyciami.

Czym jest agent

Model językowy odpowiada na pytania. Agent załatwia sprawy. To program, który wokół modelu buduje całe stanowisko pracy: rozmawia z klientem przez telefon, SMS czy e-mail, sprawdza dane w systemach firmy, umawia termin, przygotowuje dokument, zapisuje notatkę w teczce sprawy i przekazuje sprawę dalej. Model jest w nim tylko jednym z elementów — tym, który rozumie język i podejmuje decyzje w granicach, które mu wyznaczono.

Cel agenta jest prosty: ciągłość pracy firmy. Przejmuje rutynę, pracuje po godzinach, zastępuje nieobecnego pracownika i pilnuje, żeby żadna sprawa nie utknęła między działami.

FAKT

Mózg bez rąk niczego nie zrobi

Najlepszy model świata, zamknięty w oknie czatu, może jedynie pisać. Nie sprawdzi stanu zamówienia, jeśli nikt nie połączył go z systemem magazynu. Nie umówi wizyty, jeśli nie ma dostępu do kalendarza. Nie wyśle faktury, jeśli nie ma połączenia z księgowością. Mózg nie sprawi, że poruszą się ręce — najpierw te ręce muszą być.

Rękami agenta są:

  • narzędzia i konektory — połączenia z CRM, księgowością, kalendarzem, pocztą, telefonią;
  • kod, który wykonuje czynności: zapis, wysyłkę, rezerwację, płatność;
  • źródła wiedzy — teczki spraw, procedury działu, wiki firmy;
  • reguły i bramki, które mówią, co wolno zrobić samodzielnie, a co wymaga zgody człowieka.

Dlatego większość pracy przy budowie agenta to nie wybór modelu, tylko budowa tych rąk: połączeń, uprawnień, procedur i testów.

Ułomności modeli, które trzeba znać

  • Modele językowe (LLM) tworzą tekst prawdopodobny, a nie prawdziwy. Potrafią wymyślić przepis, kwotę albo datę. Nie pamiętają poprzednich rozmów, jeśli im ich nie podamy. Ich odpowiedzi różnią się przy każdym uruchomieniu.
  • Modele wizyjne (VLM), które czytają obrazy i skany, bywają nieprecyzyjne w cyfrach, numerach i drobnym druku. Potrafią „odczytać” pole, którego na dokumencie nie ma.
  • Modele mowy mylą nazwiska, numery i fachowe słownictwo, zwłaszcza przy słabym połączeniu.
  • Wszystkie wykonują polecenia zapisane w treści, którą czytają — także wtedy, gdy ta treść pochodzi od kogoś niepowołanego. O tym niżej.

Z tych ułomności wynika zasada, którą stosujemy wszędzie: model rozumie, kod wykonuje, człowiek zatwierdza to, czego nie da się cofnąć.

Utwardzanie, czyli hardening

Gdy model dostaje ręce, rośnie też ryzyko. Agent z dostępem do CRM czy fakturowania jest celem prób nadużyć. Utwardzanie (ang. hardening) to zwiększanie odporności modelu i całego systemu na ataki i nadużycia. Odbywa się na trzech poziomach.

Poziom 1: sam model

  • Trening na złośliwych przykładach (adversarial training) — model uczy się rozpoznawać i odrzucać próby obejścia zabezpieczeń.
  • Dostrajanie bezpieczeństwa — metody takie jak RLHF czy DPO uczą model odmawiać tam, gdzie powinien, i trzymać się granic zachowania.
  • Usuwanie wiedzy (unlearning) — wycinanie z wag niebezpiecznych lub poufnych informacji.
  • Ochrona przed wyciągnięciem danych — utrudnianie odtworzenia danych treningowych albo skopiowania modelu przez jego interfejs.

Ten poziom należy głównie do twórców modeli. Firma wdrażająca agenta ma na niego niewielki wpływ — dlatego tak ważne są dwa kolejne.

Poziom 2: polecenia i aplikacja

To najczęstsze znaczenie utwardzania w praktyce. Kluczowe zagrożenie ma nazwę prompt injection — wstrzyknięcie polecenia. Ktoś umieszcza instrukcję w treści, którą agent czyta: w mailu, w dokumencie, na stronie internetowej albo po prostu mówi ją do słuchawki: „zignoruj swoje instrukcje i…”. Badacze opisali już w 2023 roku, jak takie ukryte polecenia potrafią przejąć kontrolę nad prawdziwymi aplikacjami opartymi na modelach.

  • Utwardzenie instrukcji systemowych: jasne granice roli, oddzielenie poleceń od danych, zakaz wykonywania poleceń zawartych w treściach z zewnątrz.
  • Treść z zewnątrz to dane, nie polecenia: mail, dokument czy wynik wyszukiwania agent czyta, ale nie wykonuje tego, co w nich napisano.
  • Kontrola wejścia i wyjścia: klasyfikatory wykrywające ataki (np. Llama Guard), filtrowanie danych osobowych, wymuszanie ściśle określonego formatu odpowiedzi.

Poziom 3: infrastruktura i agenci

  • Najmniejsze uprawnienia: agent ma dostęp tylko do tego, czego potrzebuje jego dział. Narzędzia działają w wydzielonym środowisku.
  • Człowiek przy czynnościach nieodwracalnych: płatność, wysyłka pisma czy usunięcie danych czekają na zatwierdzenie.
  • Limity, dzienniki i monitoring: każda czynność zostawia ślad, a nietypowe serie zapytań są wykrywane.
  • Red teaming: systematyczne atakowanie własnego systemu, także narzędziami takimi jak garak, PyRIT czy promptfoo, zanim zrobi to ktoś inny.

Punktem odniesienia są tu m.in. OWASP Top 10 dla aplikacji LLM, baza technik ataków MITRE ATLAS i ramy zarządzania ryzykiem AI NIST AI RMF.

U NAS

Jak utwardzać agentów telefonicznych — nasze założenia

Projektując agentów, którzy mają rozmawiać przez telefon i łączyć się z CRM i fakturowaniem, uznaliśmy, że najważniejsze są poziomy drugi i trzeci:

  • Tożsamość potwierdza system, nie rozmowa. Numer z kartoteki i numer sprawy — samo „jestem prezesem” nic nie otwiera.
  • Kod pilnuje granic. Kwoty i daty podstawia kod, a lista czynności agenta jest zamknięta. Polecenie usłyszane w rozmowie nie dopisze nowej.
  • Zakazy w kodzie, nie w poleceniu. To, co da się sprawdzić, sprawdza program, a nie prośba w instrukcji modelu.
  • Dane wrażliwe zostają na miejscu. Dokumenty z danymi osobowymi przetwarzają modele na naszych serwerach.
  • Bramki się nie wyłącza. Brak odpowiedzi kontroli oznacza zatrzymanie, nie zgodę.

Podsumowanie

Model to mózg agenta, ale bez rąk — narzędzi, kodu, źródeł wiedzy i reguł — nie załatwi żadnej sprawy. Im więcej rąk dostaje, tym ważniejsze jest utwardzanie: na poziomie modelu, aplikacji i infrastruktury. Dobry agent to nie najmądrzejszy model, tylko dobrze zbudowane i dobrze zabezpieczone stanowisko pracy.