Jak dać ChatGPT kontekst Twojej firmy, żeby przestał zmyślać 

ChatGPT zmyśla fakty o Twojej firmie najczęściej dlatego, że po prostu ich nie zna - a modele językowe nie porównują odpowiedzi z rzeczywistością, tylko przewidują najbardziej prawdopodobne kolejne słowa i wypełniają nimi luki w wiedzy, zamiast przyznać się do niewiedzy. Rozwiązanie nie polega na "lepszym pytaniu" za każdym razem, tylko na dostarczeniu modelowi stałego kontekstu - od prostych Custom Instructions po pełny system RAG korzystający z dokumentów firmy.

Dlaczego ChatGPT zmyśla fakty o Twojej firmie?

Każda nowa rozmowa z ChatGPT zaczyna się od zera - model nie wie, które produkty sprzedajesz, jakie masz cenniki, kto jest Twoim klientem ani jakie zasady obowiązują w Twojej firmie. Nie ma też dostępu do Twojej poczty, CRM-u czy systemu księgowego, więc każde pytanie o konkretne dane wymaga albo ręcznego wklejenia kontekstu, albo ryzyka, że model wypełni brakujące informacje własnym zgadywaniem.

To zgadywanie, czyli halucynacja, bierze się z trzech źródeł: ograniczonej wiedzy modelu (nie zna świeżych wydarzeń ani Twoich wewnętrznych danych), mechanizmu przewidywania kolejnych słów zamiast weryfikacji faktów, oraz sugestywnych pytań, które popychają model w stronę konkretnej, niekoniecznie prawdziwej odpowiedzi. W kontekście firmowym najczęściej dotyczy to kwot na fakturach, terminów płatności, numerów NIP czy dat wejścia w życie przepisów - czyli dokładnie tych informacji, których pomylenie kosztuje najwięcej.

Czym są Custom Instructions i jak ustawić kontekst firmy na stałe?

Custom Instructions to stała notatka, która aktywuje się automatycznie na początku każdej rozmowy z ChatGPT, więc nie musisz za każdym razem tłumaczyć od nowa, czym zajmuje się Twoja firma. Ustawiasz je raz, w dwóch polach: pierwsze odpowiada na pytanie "co ChatGPT powinien wiedzieć o Tobie, żeby dawać lepsze odpowiedzi" (tu wpisujesz branżę, ofertę, terminologię firmową, grupę docelową), a drugie określa, jak model ma odpowiadać - jakim tonem, w jakim formacie, z jakim poziomem szczegółowości.

To najprostszy i darmowy sposób na nadanie modelowi podstawowego kontekstu, ale ma swój limit - Custom Instructions dobrze sprawdzają się przy ogólnym tonie i stylu komunikacji, gorzej przy konkretnych, zmieniających się danych, jak aktualny cennik czy lista produktów, które trzeba by ręcznie aktualizować w ustawieniach za każdym razem.

Czym różnią się Projekty ChatGPT od zwykłej rozmowy?

Projekty (dostępne w płatnej wersji ChatGPT) tworzą oddzielną przestrzeń roboczą z własnymi instrukcjami i plikami referencyjnymi, które są dostępne przy każdej nowej rozmowie w danym projekcie - bez potrzeby wklejania tego samego kontekstu od nowa. W praktyce oznacza to, że możesz stworzyć osobny projekt na obsługę klienta z wgranym cennikiem i FAQ, a osobny na treści marketingowe z wytycznymi dotyczącymi tonu marki - każdy z innym, dopasowanym zestawem plików i instrukcji.

To rozwiązanie pośrednie między Custom Instructions a pełnym systemem RAG: wystarczające dla mniejszego zestawu dokumentów, które nie zmieniają się zbyt często, ale wciąż ograniczone rozmiarem plików, jakie można wgrać, i tym, że model przeszukuje je w całości zamiast wyszukiwać tylko istotne fragmenty.

Jak wgrywać dokumenty firmowe, żeby model z nich faktycznie korzystał?

Same wgrane pliki nie gwarantują, że model zawsze z nich skorzysta zamiast zgadywać - warto wprost polecić w prompcie: "odpowiedz wyłącznie na podstawie dostarczonego dokumentu, a jeśli nie znajdziesz odpowiedzi, napisz, że nie wiesz". Taka instrukcja radykalnie ogranicza pole do zmyślania, bo zmusza model do przyznania się do braku informacji zamiast wypełniania luki prawdopodobnym, ale niesprawdzonym faktem.

Dobrą praktyką jest też prośba o wskazanie źródła konkretnego fragmentu odpowiedzi - jeśli model nie potrafi wskazać, z którego miejsca dokumentu wziął dany fakt, to sygnał, że mógł go po prostu wymyślić. Warto również ustawić styl odpowiedzi na bardziej faktograficzny niż kreatywny, kiedy zależy Ci na precyzji, a nie na płynności językowej.

Czym jest RAG i kiedy Custom Instructions już nie wystarczają?

RAG (Retrieval-Augmented Generation, czyli generowanie wspomagane wyszukiwaniem) to technologia, w której model nie odpowiada z pamięci, tylko najpierw wyszukuje najbardziej pasujące fragmenty w bazie dokumentów firmy i dopiero na ich podstawie buduje odpowiedź. W praktyce działa to dwuetapowo: najpierw dokumenty firmy dzielone są na fragmenty i zamieniane na wektory liczbowe (embeddingi) trafiające do bazy wektorowej, a przy każdym pytaniu system wyszukuje najbardziej pasujące fragmenty i przekazuje je modelowi razem z pytaniem, często z linkiem do źródła.

RAG ma sens, gdy Custom Instructions i Projekty przestają wystarczać - czyli gdy baza wiedzy firmy jest zbyt duża, żeby zmieścić ją w jednym pliku, albo gdy z modelu korzysta więcej osób i każda potrzebuje dostępu do aktualnych, precyzyjnych danych. Warto jednak pamiętać, że RAG mocno zmniejsza zmyślanie, ale go nie eliminuje - nawet zaawansowane wdrożenia tej technologii myliły się w 17-34 procentach odpowiedzi w badaniu ze Stanfordu z 2024 roku, a jakość odpowiedzi zawsze zależy od jakości dokumentów wprowadzonych do systemu.

Jakie są granice tego, co ChatGPT może wiedzieć o Twojej firmie?

Nawet najlepiej skonfigurowany kontekst nie rozwiąże wszystkich ograniczeń. ChatGPT bez dodatkowej integracji nie widzi Twojej skrzynki mailowej, systemu CRM, bankowości czy magazynu - dane wciąż trzeba kopiować ręcznie albo połączyć system automatyzacją. Model też nie działa proaktywnie: nie powiadomi Cię, że faktura się przeterminowała albo że umowa z klientem wygasa jutro, dopóki sam o to nie zapytasz.

Trudno w samym ChatGPT wymusić też reguły branżowe czy limity decyzyjne - na przykład że rabat może wynosić maksymalnie 10 procent albo że dana informacja jest dostępna tylko dla określonej roli w firmie. To wymaga już warstwy automatyzacji i kontroli dostępu, a nie tylko lepszego kontekstu w rozmowie z modelem.

Jak wdrożyć kontekst firmowy krok po kroku?

Sprawdzonym punktem startowym jest ustawienie Custom Instructions z podstawowymi informacjami o firmie - branżą, ofertą, tonem komunikacji - co zajmuje kilka minut i od razu eliminuje część najbardziej oczywistych pomyłek. Jeśli w firmie regularnie wraca się do tego samego zestawu dokumentów (cennik, FAQ, wytyczne marki), kolejnym krokiem jest przeniesienie tego do Projektu, żeby nie trzeba było wklejać tych samych plików do każdej nowej rozmowy.

Dopiero gdy baza wiedzy firmy rośnie do rozmiaru, którego nie da się wygodnie wgrać jako kilku plików, albo gdy z asystenta korzysta cały zespół, a nie tylko Ty, warto zainwestować w pełne wdrożenie RAG z bazą wektorową i modelem embeddingów - to już projekt techniczny, ale skalujący się znacznie lepiej niż ręczne aktualizowanie plików w Projekcie za każdym razem, gdy coś się zmienia w ofercie.

Od czego zacząć budowanie asystenta, który zna Twoją firmę?

Nie zaczynaj od razu od pełnego wdrożenia RAG, jeśli wystarczą Ci Custom Instructions i jeden dobrze przygotowany sprawdzony prompt do najczęstszych zadań. Dopiero kiedy ten prosty poziom przestaje wystarczać, ma sens przejście do asystenta AI korzystającego z RAG, gdzie model faktycznie sięga po aktualne dokumenty firmy zamiast polegać na tym, co "pamięta" z rozmowy.

U mnie tego typu wdrożenia zwykle budowane są na połączeniu ChatGPT z n8n: baza wiedzy firmy aktualizuje się automatycznie, gdy pojawia się nowy dokument, a asystent od razu ma dostęp do najświeższej wersji danych, bez ręcznego wgrywania plików za każdym razem. Ten sam mechanizm dobrze sprawdza się przy chatbocie na stronie firmowej, który odpowiada klientom na podstawie rzeczywistej oferty, a nie ogólnej wiedzy modelu o branży.