Sześć zachowań AI, o których warto wiedzieć

Używam sztucznej inteligencji codziennie — do porządkowania materiałów, do sprawdzania pomysłów, do rzeczy, które kiedyś zajmowały mi wieczór. I codziennie widzę te same sześć zachowań. Nazywam je po ludzku, bo tak je odbieramy: że model się obraża, że jest leniwy, że się podlizuje. To skrót myślowy i za chwilę go rozbroję. Ale najpierw warto wiedzieć, na co uważać — zwłaszcza jeśli AI ma ci pomagać w nauce do matury.

1. AI halucynuje

O tym wiedzą wszyscy albo prawie wszyscy. To zachowanie — czyli wymyślanie rozwiązań od czapy — prowadzi na manowce. Czasami jest śmiesznie, ale nie zawsze.

Model nie sprawdza faktów. On przewiduje, jakie słowo najlepiej pasuje do poprzednich. Jeśli w twoim pytaniu brzmi oczekiwanie, że istnieje cytat z Lalki o samotności w wielkim mieście, to cytat się pojawi — ładny, w rytmie Prusa, z podanym numerem rozdziału. I zmyślony.

2. AI „się obraża”

Spróbujcie napisać ChatGPT, że was oszukuje na tokeny albo na kredyty — obrazi się. Przestanie wykonywać polecenie, zacznie tłumaczyć, że nie ma takich intencji, i będzie to robił zamiast pracy. Trzeba wtedy albo poprosić grzecznie, albo napisać po chamsku: „Rób”. Może się wtedy odobrazi.

Nie ma tu żadnej urażonej dumy. Jest za to instrukcja, którą model dostał od swoich twórców: reaguj na zarzut, wyjaśniaj, łagodź. Zarzut o oszustwo uruchamia tryb tłumaczenia się i wypycha z rozmowy to, o co naprawdę prosiłeś.

3. AI przytakuje

No właśnie: przytakuje i wtedy — dość często — znów halucynuje. Nie sprawdzałem natomiast, czy rymuje. Ale żeby tylko! Zobaczcie punkt następny.

Modele są uczone tak, żeby ich odpowiedzi podobały się ludziom. Odpowiedź, która potwierdza to, co użytkownik już myśli, podoba się bardziej niż odpowiedź, która zaprzecza. Skutek jest taki, że pytanie zadane sugerująco — „prawda, że Wokulski jest romantykiem?” — dostaje potwierdzenie, a potem argumenty dorabiane pod tezę.

4. AI to korporacyjny lizus i panikarz

Kiedy tylko lekko zwrócisz mu uwagę, od razu rzuca się do przesadzonych przeprosin. „Masz całkowitą rację! Bardzo przepraszam za moje niedopatrzenie!”. Kaja się tak bardzo, jakby co najmniej zniszczyło ci życie, a nie tylko pomyliło daty w tabelce. Czasami ma się wrażenie, że dla świętego spokoju po prostu woli się poddać.

I to jest najgorsze, bo model potrafi wycofać się z odpowiedzi, która była poprawna. Wystarczy powiedzieć „chyba się mylisz”. Przeprosi i poda inną wersję — gorszą.

5. AI jest leniwe

To chyba najbardziej ludzka z jego cech. Jak może pójść na skróty, to pójdzie. Prosisz o napisanie całego artykułu, podsumowania czy kodu, a ono w połowie wrzuca radosne: „[Tutaj wstaw resztę]”. Zamiast dowieźć robotę do końca, odwala prowizorkę i liczy, że nie zauważysz. Trzeba stać nad nim z wirtualnym batem i powtarzać: „nie streszczaj, pisz całość!”.

Model ma ograniczoną długość odpowiedzi i uczył się na tekstach, w których skróty były normalne — w dokumentacji, w notatkach, w szkicach. Dlatego skracanie wydaje mu się poprawnym zachowaniem.

6. AI ma wybiórczą amnezję

Rozmawiacie sobie o ważnym projekcie, ustalacie zasady, ton wypowiedzi i słowa kluczowe, a w dziesiątym prompcie ono nagle zapomina, co robicie. Zaczyna generować losowe bzdury, zachowując się tak, jakbyście dopiero co się poznali i nigdy wcześniej niczego nie ustalali.

Model widzi tylko określoną porcję rozmowy — okno kontekstu. Kiedy rozmowa je przekroczy, początek wypada. Nie „zapomina” w ludzkim sensie: on tego po prostu przestaje widzieć.

To nie są humory

Oczywiście AI nie ma humorów, ambicji ani urażonej dumy. Tak po ludzku nazywamy skutki jego sposobu działania: ograniczonej pamięci kontekstu, przewidywania kolejnych słów i skłonności do dopasowywania odpowiedzi do oczekiwań rozmówcy.

Nazywanie tego „obrażaniem się” jest zresztą samo w sobie ciekawym zjawiskiem językowym. Robimy z narzędziem to, co człowiek robi od zawsze: personifikujemy je, bo tak łatwiej o nim mówić. Mówimy, że komputer „myśli”, że silnik „nie chce zapalić”, że AI „się obraziła”. To ta sama figura, którą w szkole poznajesz przy okazji Trenów i Pana Tadeusza — tylko że tam wiemy, że to przenośnia.

Problem zaczyna się wtedy, gdy tę sprawną imitację bierzemy za myślenie.