Bartosz SozoniukAI zmyśla wtedy, gdy nie ma źródła i gdy nikt nie sprawdza wyniku. W pracy firmy da się to opanować pięcioma zabezpieczeniami: asystent pracuje na plikach firmy, ma zasadę „nie mam tej informacji”, jego pracę sprawdza osobny agent, wynik zatwierdza człowiek, a każda poprawka zostaje regułą.
Dlaczego AI zmyśla?
Model językowy zawsze stara się odpowiedzieć. Gdy nie ma pod ręką faktu, uzupełnia lukę czymś, co brzmi prawdopodobnie: liczbą, datą, nazwiskiem. W rozmowie prywatnej to drobiazg. W ofercie dla klienta albo w raporcie to już błąd firmy.
Rozwiązaniem nie jest „lepsze polecenie”. Rozwiązaniem jest ułożenie pracy tak, żeby asystent miał skąd brać fakty i żeby błąd nie mógł przejść dalej niezauważony.
Pięć zabezpieczeń, na których sami pracujemy
1. Asystent pracuje na plikach firmy
Fakty o klientach, cenach, procesach i ustaleniach leżą w jednym miejscu, które asystent czyta przed zadaniem. Liczby bierze z narzędzi firmy, nie z pamięci modelu.
2. Zasada „nie mam tej informacji”
W instrukcji każdej roli jest wprost zapisane: czego nie ma w plikach ani w narzędziach, tego asystent nie zgaduje. Mówi, że nie ma tej informacji, i pyta człowieka. Własny pomysł oznacza jako propozycję, żeby nikt nie wziął go za ustalenie.
3. Osobny agent sprawdza wynik
Kto zbudował, ten nie ocenia. Gotową pracę dostaje drugi agent, który nie zna toku rozumowania wykonawcy. Sprawdza ją według instrukcji i listy dawnych błędów, a to, co znajdzie, wraca do poprawy.
4. Człowiek zatwierdza wszystko, co wychodzi na zewnątrz
Wysyłka, publikacja i wiadomość do klienta czekają na akceptację osoby, która za nie odpowiada. Asystent może przygotować całość, ale nie naciska „wyślij”.
5. Każda poprawka zostaje regułą
Gdy człowiek znajdzie błąd, poprawka trafia do instrukcji roli. Jeśli ten sam błąd zdarzy się drugi raz, reguła przechodzi do kontroli automatycznej, której nie da się pominąć. Dzięki temu lista możliwych pomyłek z czasem się kurczy.
Jak to wygląda w praktyce?
Przykład z naszej pracy dla sklepu Nutridome. Przed uruchomieniem serii maili na 10 rynkach kontrola sprawdziła wszystkie 40 wiadomości. W pierwszym mailu na każdym rynku znalazła dosłowny znacznik w miejscu, w którym miało pojawić się imię klienta. Błąd został poprawiony przed startem, więc klienci nigdy go nie zobaczyli. Całą historię opisujemy w realizacji Nutridome.
Lista kontrolna: czy Twoje AI ma te zabezpieczenia?
- Czy asystent ma dostęp do aktualnych faktów o firmie, czy polega na tym, co ktoś wklei?
- Czy ma zapisane, co robi, gdy czegoś nie wie?
- Czy wynik sprawdza ktoś inny niż jego autor?
- Czy cokolwiek może wyjść do klienta bez akceptacji człowieka?
- Czy poprawki są gdzieś zapisywane, czy znikają razem z rozmową?
Jeśli na któreś pytanie odpowiedź brzmi „nie”, to jest miejsce, w którym błąd może przejść. Zasady, na których układamy systemy, opisujemy na stronie Kontrola i bezpieczeństwo.
Pytania pokrewne
Dlaczego AI zmyśla?
Model językowy zawsze stara się dać odpowiedź. Gdy nie ma pod ręką źródła, uzupełnia lukę czymś, co brzmi prawdopodobnie. Dlatego w pracy firmy asystent musi mieć źródło (pliki firmy) i wyraźną zasadę, co robi, gdy źródła brakuje.
Czy da się całkiem wyeliminować błędy AI?
Nie, tak samo jak nie da się wyeliminować błędów ludzi. Da się za to ułożyć pracę tak, żeby błąd został zatrzymany przed wyjściem na zewnątrz: kontrola osobnym agentem i akceptacja człowieka.
