Agenci dziś: Na dyżurze
0:00 – 24:00 (telefon)
← Wszystkie wpisy Modele · Infrastruktura własna · 17 listopada 2026

Duży model w chmurze nie jest automatycznie lepszy

Często słyszymy, że do poważnej pracy potrzebny jest największy model z chmury, bo „wie wszystko”. Budujemy agentów dla firm i kancelarii na własnych serwerach i widzimy, że w codziennej pracy o wyniku decyduje coś innego: jak ułożone są dane, jakie reguły pilnują modelu, które czynności wykonuje kod i jak zbudowany jest łańcuch rozumowania. Rozmiar modelu jest ważny, ale to tylko jeden z czynników. Poniżej przedstawiamy argumenty, badania i wyniki naszego sprawdzianu, także te, które nie wypadły na naszą korzyść.

MIT

„Największy model wie najwięcej, więc zrobi najwięcej”

Duży model językowy, czyli program wyuczony na ogromnej ilości tekstu, ma rzeczywiście szeroką wiedzę ogólną. Zna historię, literaturę, chemię i dziesiątki języków. Tylko że w firmie ta wiedza rzadko jest potrzebna. Pracownik sekretariatu nie musi znać dat bitew. Musi wiedzieć, kiedy jest wolny termin, której sprawy dotyczy telefon, co ustalono w ostatniej rozmowie i czego klientowi nie wolno obiecać.

To jest wiedza organizacyjna: wąska, zmienna i niedostępna w żadnym publicznym zbiorze tekstów. Żaden model, mały czy duży, nie wyniesie jej z treningu. Musi ją dostać w chwili pracy, w uporządkowanej postaci. Kiedy ją dostaje, przewaga płynąca z ogromnej wiedzy ogólnej wyraźnie maleje.

FAKT

Skala ma znaczenie i nie będziemy temu zaprzeczać

Uczciwość wymaga zacząć od kontrargumentu. Badanie Kaplana i współautorów z 2020 roku pokazało, że jakość modeli językowych rośnie przewidywalnie wraz z liczbą parametrów, ilością danych i mocą obliczeniową. Parametry to liczby, w których model przechowuje to, czego się nauczył. Wei i współautorzy opisali w 2022 roku zdolności emergentne, czyli umiejętności, których nie widać w małych modelach, a pojawiają się w dużych.

W trudnych, otwartych zadaniach, takich jak nowy problem bez wzorca, długie wywody czy nietypowe pytania, duże modele nadal zwykle rozumują lepiej. Widzimy to także w naszych pomiarach, o których piszemy niżej. Nasza teza jest więc węższa niż hasło „mały wystarczy”: w codziennej, powtarzalnej pracy firmy różnicę między modelami w dużej mierze niweluje dobrze zbudowany system wokół modelu.

Rozumowanie to proces, a nie tylko rozmiar

Wei i współautorzy pokazali w 2022 roku, że model rozwiązuje zadania wyraźnie lepiej, gdy najpierw zapisze kroki pośrednie, zamiast od razu podawać wynik. Tę technikę nazwano łańcuchem rozumowania (ang. chain of thought). Trzeba dodać, że w tamtym badaniu korzyść pojawiała się dopiero w wystarczająco dużych modelach. To kolejny argument za tym, że skala się liczy.

Dwa lata później Snell i współautorzy sprawdzili, co daje dodatkowa moc obliczeniowa przeznaczona na samo rozumowanie podczas odpowiadania, a nie na powiększanie modelu. Przy tej samej łącznej liczbie obliczeń mniejszy model, który mógł dłużej „myśleć” i sprawdzać swoje próby, wypadł lepiej od modelu 14 razy większego. Autorzy zastrzegają, że dotyczy to zadań, w których mniejszy model ma już przyzwoitą skuteczność. Wniosek jest jednak ważny: sposób prowadzenia rozumowania może zastąpić część przewagi wynikającej z rozmiaru.

Model rozumie, kod wykonuje

Modele językowe słabo liczą i nie powinny same „pamiętać” faktów. Praca PAL (Gao i współautorzy, 2022) pokazała, że gdy model zamiast liczyć pisze krótki program, a obliczenie wykonuje komputer, wynik na zbiorze zadań matematycznych GSM8K jest o 15 punktów procentowych lepszy niż u znacznie większego modelu PaLM-540B rozumującego krok po kroku.

Podobnie działa korzystanie z narzędzi. Autorzy Toolformera (2023) zauważają, że modele mają kłopot z arytmetyką i wyszukiwaniem faktów, a model, który nauczył się wywoływać kalkulator, wyszukiwarkę czy kalendarz, często dorównuje znacznie większym modelom. Metoda ReAct (Yao i współautorzy, 2022) przeplata rozumowanie z działaniem: model myśli, wywołuje narzędzie, czyta wynik i myśli dalej. W zadaniach symulowanych poprawiła skuteczność o 34 i 10 punktów procentowych w stosunku do wcześniejszych metod.

Na tej zasadzie budujemy agentów. Czynności wykonuje kod: zapis terminu, wysłanie wiadomości, odczyt kalendarza. Model rozumie, o co chodzi rozmówcy, i prowadzi rozmowę. Czynności nieodwracalne czekają na potwierdzenie przez model i wyraźne „tak” rozmówcy.

Reguły logiki obok modelu

Prace neurosymboliczne łączą model językowy z klasycznym, ścisłym rozumowaniem. W metodzie Logic-LM (Pan i współautorzy, 2023) model tłumaczy zadanie na zapis formalny, a wnioski wyciąga program rozwiązujący zadania logiczne. Na pięciu zbiorach zadań dało to średnio o 39,2 procent lepszy wynik niż samo zapytanie modelu i o 18,4 procent lepszy niż łańcuch rozumowania.

Mamy podobne doświadczenie. W poleceniu dla modelu był wyraźny zakaz podawania sygnatur orzeczeń spoza przekazanej listy. Model ten zakaz przeczytał i mimo to dopisał prawdziwą, ale niezwiązaną ze sprawą sygnaturę. Od tamtej pory stosujemy zasadę: jeśli coś da się sprawdzić w źródle, sprawdza to kod, a nie prośba w poleceniu. Kod porównuje odpowiedź z bazą i usuwa to, czego w bazie nie ma. Wymagamy też od modelu odpowiedzi w ustalonym układzie pól zamiast wolnego tekstu, bo wtedy jest mniej miejsca na zmyślenia. Ta reguła działa tak samo przy małym i przy dużym modelu.

Uporządkowane dane ważą więcej niż sama ich ilość

Zespół Microsoftu w pracy „Textbooks Are All You Need” (2023) wytrenował model phi-1 o 1,3 miliarda parametrów na starannie dobranych danych „jakości podręcznika”. Osiągnął 50,6 procent w teście programistycznym HumanEval, co jak na tak mały model było wynikiem wyjątkowym. Pokazuje to, że jakość i układ danych potrafią zastąpić część skali.

To samo dotyczy wiedzy podawanej modelowi w trakcie pracy. GraphRAG (Edge i współautorzy, 2024) najpierw buduje z dokumentów graf wiedzy, czyli sieć osób, spraw i pojęć połączonych relacjami, a dopiero potem odpowiada. Przy pytaniach o całość zbioru dokumentów dał pełniejsze odpowiedzi niż zwykłe wyszukiwanie fragmentów.

U nas wiedza ma warstwy o jasnych rolach. Źródła prawdy to kalendarz i fakty w systemie spraw, faktury i płatności w księgowości oraz umowy. Agent odczytuje je narzędziem, a nie przepisuje. Wiki działu daje kontekst pracy działu, wiki firmy opisuje jej misję i charakter, a teczki spraw przechowują historię i ustalenia rozmów. Model nie musi niczego zgadywać, bo wie, gdzie szukać.

Mały i wyspecjalizowany model w wąskiej roli

Badacze NVIDIA w artykule „Small Language Models are the Future of Agentic AI” (2025) twierdzą, że agenci wykonują głównie niewiele powtarzalnych, wyspecjalizowanych zadań, więc małe modele są do nich wystarczająco mocne, lepiej dopasowane i tańsze. Tam, gdzie potrzebna jest swobodna rozmowa, proponują łączenie kilku modeli. Trzeba zaznaczyć, że to artykuł przedstawiający stanowisko autorów, a nie wynik jednego eksperymentu.

Twardsze dane daje raport „LoRA Land” (Predibase, 2024). Autorzy dostroili 310 modeli do 31 wąskich zadań. Dostrajanie to krótkie douczenie gotowego modelu na przykładach z jednej dziedziny. Dostrojone modele wypadły średnio o 10 punktów lepiej od GPT-4, ale tylko w zadaniach, do których je douczono.

Na tej samej zasadzie działa nasz mały polski klasyfikator HerBERT. Klasyfikator to model, który przypisuje wypowiedź do jednej z ustalonych kategorii. Pracujemy na dwóch torach: klasyfikator decyduje od razu, a duży model równolegle, z niewielkim opóźnieniem. Gdy się nie zgadzają, rozmowę przejmuje duży model, a różnica staje się nowym przykładem do nauki. HerBERT uczy się co noc, więc z czasem sam rozpoznaje coraz więcej spraw. Każdy dział ma wąską rolę i ograniczony zakres wiedzy, dlatego model nie musi być ogromny.

FAKT

Nasz sprawdzian: chmura była lepsza, ale różnica jest niewielka

W listopadzie 2026 roku sprawdziliśmy modele na 475 przypadkach wyboru właściwego narzędzia przez agenta. Wyniki podajemy bez upiększeń. Największy model chmurowy jednego z czołowych dostawców poprawnie rozstrzygnął 92 procent przypadków, a szybki model chmurowy innego dostawcy 87 procent. Duży otwarty model Qwen uruchomiony na naszym sprzęcie osiągnął 83 procent. Dwa mniejsze modele chmurowe tego samego czołowego dostawcy uzyskały po 79 procent, czyli mniej niż nasz model lokalny. Mniejsze modele lokalne wypadły słabiej: 70 i 68 procent.

Najlepszy model chmurowy wygrał więc o 9 punktów. Nie udajemy, że tej różnicy nie ma. Sprawdzian mierzył jednak sam model, bez warstw, które w pracy go chronią. W działającym systemie kod sprawdza każdą czynność, reguły odrzucają to, czego nie ma w źródłach, a sprawy nieodwracalne czekają na potwierdzenie. W wąskich zadaniach różnice znikały: przy rozpoznawaniu zamiaru klienta na 33 zdaniach model chmurowy i lokalny uzyskały po 33 trafienia, a w rozmowie głosowej oba rozpoznały poprawnie 15 na 15 próbek.

Dlatego działy wewnętrzne pracują produkcyjnie wyłącznie na modelu lokalnym. Model chmurowy dopuszczamy tam, gdzie rozmowa dotyczy wiedzy publicznej i liczy się szybkość. Wtedy lokalny model pracuje równolegle i przejmuje rozmowę, gdy chmura się spóźnia lub jest niedostępna.

Dlaczego własna infrastruktura

  • Poufność. Dane klientów, dokumentacja i treść spraw nie opuszczają naszej serwerowni. Dla kancelarii i firm przetwarzających dane osobowe ułatwia to spełnienie wymagań RODO i tajemnicy zawodowej. Nie zastępuje to jednak oceny prawnej w konkretnym przypadku.
  • Blokada w kodzie, nie w ustawieniu. Automatyczne przełączanie na zapasowy model to częste źródło ryzyka: jeśli zapasem jest model w chmurze, dane mogą trafić tam, gdzie nie powinny. Dlatego obrazy dokumentów trafiają tylko do modelu lokalnego, a wysyłka do chmury jest zablokowana w kodzie.
  • Przewidywalny koszt. Płacimy za sprzęt i prąd, a nie za każde zapytanie. W chmurze koszt rośnie z każdą decyzją agenta, a przy samych sprawdzianach środki na koncie dostawcy wyczerpały się nam dwa razy.
  • Niezależność i kontrola wersji. Dostawca chmurowy może zmienić lub wycofać model z dnia na dzień. Model na własnym serwerze zachowuje się tak samo, dopóki sami go nie zmienimy.
  • Opóźnienie i dostępność. Odpowiedź nie zależy od łącza ani od obciążenia cudzych serwerów. Gdy chmura nie odpowiada, agent pracuje dalej.

Uczciwie o wadach

Własna infrastruktura nie jest darmowa ani bezobsługowa. Serwery z kartami graficznymi są drogie, a duży model zajmuje większość ich pamięci. Ktoś musi je utrzymywać, aktualizować i naprawiać. Zdarzyło się nam, że próba przyspieszenia modelu skończyła się jego awarią i godziną przestoju, a po każdym uruchomieniu model potrzebuje kilku minut, zanim zacznie odpowiadać. Potrzebne są też kompetencje: dobór modelu do sprzętu, pomiary, testy przed wdrożeniem. Najlepszy model lokalny jest też wolniejszy od chmurowych: w naszym sprawdzianie mediana decyzji wyniosła 2,7 sekundy wobec 1,0–1,9 sekundy u modeli chmurowych. Dla małej firmy bez takiego zaplecza chmura z dobrze ustawioną anonimizacją bywa rozsądniejszym wyborem.

NASZ WNIOSEK

Nasza teza: o rozumowaniu decyduje architektura

Na podstawie naszych badań i codziennej pracy agentów doszliśmy do wniosku, że w zadaniach firmowych o jakości rozumowania decyduje architektura: właściwie poukładane dane, łańcuch rozumowania prowadzony krok po kroku, kod wykonujący czynności i reguły logiki, które pilnują każdego wniosku. Rozmiar modelu ma znaczenie, ale w dobrze zbudowanym systemie przestaje być czynnikiem rozstrzygającym.

Uczciwie zaznaczamy, że to nasz wniosek. Prace naukowe, które cytujemy, pokazują, że architektura potrafi zastąpić część przewagi wynikającej z rozmiaru, ale żadna z nich nie potwierdza wprost tak mocnej tezy. Zamierzamy ją dalej sprawdzać i publikować wyniki.

Podsumowanie

Duży model w chmurze ma ogromną wiedzę ogólną i w trudnych, otwartych zadaniach często rozumuje najlepiej. W codziennej pracy firmy liczy się jednak wiedza organizacyjna, której żaden model nie zna z treningu. Badania pokazują, że wynik w dużej mierze zależy od architektury: uporządkowanych danych, narzędzi, kodu wykonującego obliczenia, reguł logiki i dobrze prowadzonego łańcucha rozumowania. Nasze doświadczenie prowadzi do mocniejszego wniosku: to architektura decyduje, choć tej tezy nie potwierdzają jeszcze inne badania naukowe. Nasz sprawdzian potwierdza obie strony: najlepszy model chmurowy był o kilka punktów lepszy, ale w wąskich zadaniach, przy kodzie pilnującym czynności, różnica znikała. Dlatego stawiamy na własny sprzęt, własne dane i system, w którym model rozumie, a kod decyduje.