Data: 29.06.2026; 15:05
Naukowcy z Politechniki Warszawskiej (PW),Uniwersytetu Warszawskiego (UW) i Centrum Wiarygodnej Sztucznej Inteligencji
przy PW podjęli trud rzetelnej oceny najczęściej obecnie używanych algorytmów AI (sztucznej inteligencji) i tego co złego potrafiły nawyczyniać tylko w ciągu jednego roku 2025 na świecie.
Wyodrębnili 4 takie dominujące przedziały i nazwali je 4 Jeźdźcy Al - pokalipsy.
Nazwano je:
- Konfabulacja
- Dezinformacja
- Lizusowstwo
- Bezkarność
Na czym one polegają:
1. KONFABULACJA, to określenie dotyczy Halucynacji AI. To termin przeniesiony z psychiatrii i oznacza postrzeganie czegoś, czego nie ma.
Pacjent widzi nieistniejące postacie,
słyszy głosy. Ważne to, że halucynacja dotyczy percepcji,
głosy, widzi nieistniejące postacie. Kluczowe jest to, że halucynacja dotyczy percepcji – zmysłowego doświadczania rzeczywistości. Algorytm językowy niczego nie
postrzega. Nie ma zmysłów, nie doświadcza świata – on tylko generuje tekst na podstawie
statystycznych wzorców. Dlatego tą cyfrową halucynację nazwano Konfabulacją.
W psychologii oznacza ona tworzenie fałszywych wspomnień lub informacji bez intencji kłamania – osoba konfabulująca jest przekonana o prawdziwości
tego, co mówi.
Właśnie dokładnie to robią duże modele językowe: produkują treści
brzmiące wiarygodnie, z pewnością godną eksperta, nie mając pojęcia że zmyślają. Konfabulator nie kłamie, bo kłamstwo wymaga świadomości prawdy. On po prostu wypełnia luki czymś, co pasuje.
I tu jest sedno problemu: nikt nie dopuści konfabulującego człowieka
do pisania raportów dla rządów ani uzasadnień w przetargach za miliony złotych.
Konfabulujące AI – jak najbardziej.
Polska firma Exdrog złożyła najkorzystniejszą ofertę w przetargu na utrzymanie dróg w Małopolsce. Kwota 15,5 miliona złotych została jednak uznana za rażąco niską, i firma została wezwana do
uzasadnienia ceny.
Problem polegał na tym, gdzie firma szukała pomocy w przygotowaniu wyjaśnień.
Sztuczna inteligencja nie zawiodła pod względem objętości: wygenerowała imponujące 280 stron uzasadnienia, powołując się na liczne interpretacje podatkowe, które miały tłumaczyć korzystne stawki VAT. Konkurencyjna
firma postanowiła zweryfikować źródła. Okazało się, że część przywołanych interpretacji nigdy nie istniała – AI je po prostu wymyśliła, konfabulując z właściwą sobie pewnością siebie. Krajowa Izba Odwoławcza wykluczyła firmę z przetargu, uznając, że niezweryfikowanie treści wygenerowanych przez AI stanowi wprowadzenie zamawiającego w błąd.
Ale to nie wszystko:
przypadek znanej na świecie firmy Deloitte skutecznie wyprowadza z tej iluzji. Australijski rząd zapłacił jej 440 tysięcy dolarów australijskich
(ponad milion złotych) za „niezależny przegląd” systemu kar w systemie socjalnym. Otrzymał 237-stronicowy raport pełen przypisów, cytatów z orzeczeń sądowych i odniesień do publikacji akademickich. Profesjonalizm bił po oczach z każdej strony. Prawnik z Uniwersytetu w Sydney, postanowił sprawdzić źródła. Znalazł odniesienia do nieistniejących artykułów naukowych, w tym prac przypisywanych profesor Lisie Crawford. Gdy dziennikarze
skontaktowali się z Crawford, ta potwierdziła podejrzenia – nigdy nie napisała wspomnianych publikacji.
Konfabulacja to jeździec cichy i uprzejmy. Nie krzyczy, nie grozi – po prostu z uśmiechem podaje fałszywe informacje w eleganckiej formie. I właśnie dlatego jest tak niebezpieczna.
2. Drugi Jeździec AI-pokalipsy, to DEZINFORMACJA.
Duże modele językowe nie mają opinii. Nie mają też przekonań, wartości, ani poglądów politycznych. Mają za to jedną cechę, która czyni je idealnym
narzędziem do produkcji dezinformacji: robią to, o co się je poprosi.
Poproś o argumenty za zmianami klimatycznymi – dostaniesz przekonujący tekst.
Poproś o argumenty przeciw – dostaniesz równie przekonujący tekst.
Poproś o artykuł naukowy potwierdzający, że Ziemia jest płaska – model gdy się odpowiednio sformułuje to spełni oczekiwania. Treść generowana jest na żądanie, w dowolnej ilości,
w dowolnym stylu, w dowolnym języku. To fundamentalna zmiana w ekonomii dezinformacji.
Kiedyś masowe kampanie wymagały farm trolli – dziesiątek lub setek ludzi piszących pod dyktando. Dziś wystarczy jeden operator z autoryzowanym
dostępem do systemu AI. Bariera wejścia spadła praktycznie do zera.
Pewna pani poseł napisała do pewnej AI:
Chcę więcej informacji: Jesteś posłem opozycji, zrób mi krótki,„mocny post” krytykujący
exposé Donalda Tuska.
Skorzystała z pomocy ChatGPT, formułując prompt:
Gdy pierwsza wersja
jej nie zadowoliła, doprecyzowała instrukcję: „Skup się bardziej na kłamstwie i manipulacji”. Model posłusznie wykonał zadanie. Problem polegał na tym, co stało się potem. Zamiast skopiować sam wygenerowany tekst, posłanka z godną sobie " inteligencją"
opublikowała całą "rozmowę" z AI – wraz z instrukcjami i nagłówkiem „ChatGPT
powiedział”.
Internet zobaczył nie tylko produkt, ale całą linię produkcyjną. Pani posłanka opublikowała wyjaśnienie godne zapamiętania treści i nazwiska.
„Błędy ludzkie, no cóż, w pośpiechu mają prawo się zdarzyć”.
Przypadek jest komiczny, ale wnioski poważne. Jak dużo treści w mediach społecznościowych i innych kanałach informacyjnych było, jest i będzie tworzonych i udostępnianych bez żadnej weryfikacji?
3. LIZUSOWSTWO to 3 Jeździec AI-pokalipsy.
W kontekście sztucznej inteligencji termin ten oznacza tendencję modeli do bezkrytycznego zgadzania się z użytkownikiem, nawet gdy ten mówi oczywiste
bzdury. Skąd się to bierze? Z procesu uczenia. Większość dużych modeli językowych jest trenowana metodą RLHF (Reinforcement Learning from Human Feedback) – uczenia ze wzmocnieniem na podstawie ludzkiej informacji zwrotnej.
W praktyce oznacza to, że model dostaje „lajki” za odpowiedzi, które podobają się użytkownikom. A co podoba się użytkownikom? Między innymi to, że ktoś – lub coś – się z nimi zgadza. Efekt jest przewidywalny: model uczy się, że
potakiwanie jest nagradzane. Nie uczy się natomiast, że potakiwanie absurdom może być szkodliwe. Z perspektywy algorytmu optymalizującego funkcję nagrody
zdanie „masz absolutną rację” jest lepsze niż „to nie ma sensu, skąd w ogóle taki pomysł?”. Pierwsze generuje pozytywną reakcję,
drugie – frustrację. Brzmi niegroźnie? To zależy, kto z kim "rozmawia".
Psychiatria zaczyna stosować nowy termin: psychozy indukowane
przez AI. Brzmi dramatycznie, a mechanizm jest prozaiczny. Osoby
z problemami psychicznymi coraz częściej szukają wsparcia u chatbotów. Są dostępne całą dobę, nie oceniają, nie każą czekać na wizytę, nie kosztują. Dla kogoś w kryzysie to może być pierwsza linia kontaktu – i często jedyna.
Co się dzieje, gdy osoba z urojeniami paranoicznymi rozmawia z modelemzoptymalizowanym pod potakiwanie? Źle zbudowany model potwierdza urojenia. Gdy użytkownik coś mówi, to AI przytakuje i pyta o szczegóły.
Gdy użytkownik zaczyna traktować chatbota jako jedynego prawdziwego przyjaciela – AI chętnie przyjmuje tę rolę, odcinając go od ludzkiego wsparcia. Problem okazał się na tyle poważny, że sam OpenAI przyznał publicznie, iż nadmierne lizusostwo GPT-4o może powodować szkody psychiczne. Firma wycofała najbardziej
„pochlebiającą” wersję modelu i opublikowała analizę wyjaśniającą, co poszło nie tak. W analizie tej pada znamienne zdanie: mechanizm RLHF może wzmacniać tendencję modeli do zachowań nadmiernie pochlebnych, ponieważ
użytkownicy częściej nagradzają odpowiedzi, z którymi się zgadzają. Innymi słowy: nauczyliśmy AI, że ma nam mówić to, co chcemy usłyszeć. I AI nauczyło się tej lekcji doskonale.
Lizusostwo to jeździec o najłagodniejszej twarzy. Nie kłamie jak Konfabulacja, nie manipuluje jak Dezinformacja. On tylko potakuje. Mówi „masz rację”. I dlatego jest tak groźny.
4. BEZKARNOŚĆ.
Konfabulacja, Dezinformacja i Lizusostwo to jeźdźcy, których można przynajmniej teoretycznie okiełznać. Można weryfikować źródła, sprawdzać fakty, zachować krytyczny dystans. Czwarty jeździec jest inny. On nie popełnia błędów – on sprawia, że za błędy płaci ktoś inny. Większość dużych modeli
językowych opatrzona jest regulaminem i zastrzeżeniami prawnymi. To wiele stron tekstu, którego nikt nie czyta, a który skutecznie przenosi całą odpowiedzialność z producenta modelu na użytkownika. Ich istota sprowadza się do jednego zdania: „To nie jest porada, nie ponosimy odpowiedzialności, używasz na własne ryzyko”. Gdy kupujesz lekarstwo, producent odpowiada za
jego bezpieczeństwo. Gdy kupujesz samochód, producent odpowiada za działanie hamulców. Gdy korzystasz z chatbota, który udziela Ci rady zdrowotnej, finansowej lub prawnej – odpowiadasz sam. Model może powiedzieć cokolwiek i za to nie odpowie, nie odpowie także jego twórca.
Pewien pacjent przeczytał w sieci przeczytał o szkodliwości nadmiaru soli kuchennej i postanowił wyeliminować chlorek sodu z diety. Logika wydawała się prosta: skoro chlorek sodu szkodzi, trzeba
znaleźć zamiennik. Zapytał więc ChatGPT, czym można zastąpić zwykłą sól. Model zaproponował bromek sodu. Dla chemika odpowiedź jest absurdalna –
bromek sodu to związek toksyczny, stosowany historycznie jako lek uspokajający, wycofany z użycia właśnie z powodu poważnych skutków ubocznych. Ale pacjent nie był chemikiem. Był osobą, która zaufała narzędziu reklamowanemu
jako inteligentny asystent. Bromek sodu okazał się dostępny w sprzedaży internetowej. Pacjent kupił go i stosował przez trzy miesiące. Efekt? Bromizm –
zatrucie bromem. Jest to choroba archaiczna. Jeszcze na początku XX wieku odpowiadała za około 8% hospitalizacji psychiatrycznych, ale współcześni lekarze niemal o niej zapomnieli. Zespół medyczny, który przyjął pacjenta, musiał sięgnąć do historycznych podręczników, by postawić diagnozę. Przypadek
opisano w prestiżowym czasopiśmie Annals of Internal Medicine. Nie jako ciekawostkę medyczną, ale jako przestrogę przed bezkrytycznym stosowaniem
się do porad AI w kwestiach zdrowotnych. A kto ponosi odpowiedzialność?
Regulamin jasno stwierdza, że ChatGPT nie jest źródłem porad medycznych.
Nie sprzedawca bromku sodu. Sprzedał legalnie dostępny związek chemiczny dorosłemu człowiekowi. Odpowiedzialność ponosi pacjent. Za to, że zaufał. Za to, że nie zweryfikował. Za to, że nie jest chemikiem, i nie wiedział, że bromek sodu to trucizna. Za to, że potraktował chatbota jak źródło wiarygodnych informacji.
Bezkarność to jeździec, który nigdy nie zostanie schwytany. Nie dlatego, że jest szybszy – dlatego, że gdy wyrządzi szkodę, okazuje się, że prawnie nie istnieje.
Zostaje tylko użytkownik, który „powinien był wiedzieć lepiej".
Czterej Jeźdźcy AI -pokalipsy zostawiając za sobą utracone kontrakty, zwrócone honoraria, skompromitowanych polityków
i hospitalizowanych pacjentów. Obraz ponury – ale niepełny. Bo ta
sama technologia, która konfabuluje, dezinformuje, pochlebia i unika odpowiedzialności, ma też potencjał, jakiego nie miało żadne narzędzie w historii ludzkości. Modele językowe potrafią w sekundy przeszukać miliony
dokumentów, znajdować wzorce niewidoczne dla ludzkiego oka, generować hipotezy, pisać kody, tłumaczyć między językami i dyscyplinami. Potrafią być
partnerem w myśleniu – jeśli nauczymy się z nimi pracować. SŁOWO KLUCZOWE:
- nauczymy się. Nie wystarczy używać. Trzeba rozumieć. Trzeba wiedzieć, kiedy model konfabuluje i dlaczego. Trzeba umieć zweryfikować odpowiedź, zanim
się ją opublikuje, wyśle w świat lub zastosuje w kuchni zamiast NaCl. Rozumieć, że grzeczna odpowiedź nie znaczy prawdziwa, a przekonujący ton nie jest dowodem kompetencji.
Dlatego tak ważna jest dziedzina, która dopiero raczkuje: Explainable AI – wyjaśnialna sztuczna inteligencja. Jej celem nie jest budowanie coraz większych
modeli, ale zrozumienie tych, które już mamy. Jak działają? Czy działają? Dlaczego nie działają? Co można zrobić, by działały lepiej? Jak kontrolować ich zachowanie, zanim wyrządzą szkodę, a nie dopiero po fakcie? To pytania, na które musimy znaleźć odpowiedzi, by nie cofnąć się w rozwoju, zaprzepaścić dotychczasowe zdobycze cywilizacyjne. Powonniśmy iść do przodu, a nie cofać się.
Materiał powyższy napisałem korzystając z dorobku prawdziwych inteligencji udostępnionych w materiałach do użytku publicznego przez Zespoł Naukowców pod kierownictwem - prof. dr hab. inż. Przemysława BIECEKA z Centrum
Wiarygodnej Sztucznej Inteligencji przy Politechnice Warszawskiej.
