Incydenty AI wzrosły o 56% w rok. Dlaczego kontrola to nie biurokracja

Im szerzej firmy używają AI, tym więcej rzeczy może pójść nie tak. To nie jest argument przeciw AI. To argument za tym, żeby wdrażać ją z warstwą kontroli, a nie na oślep.

Stanford HAI, korzystając z bazy incydentów AI, odnotował w 2024 roku 233 udokumentowane incydenty, o 56,4% więcej niż rok wcześniej. To rekord. Baza nie obejmuje wszystkich zdarzeń na świecie, tylko te zgłoszone i udokumentowane, więc realna liczba jest wyższa. Kierunek jest jednak jasny: skala użycia rośnie, a wraz z nią skala problemów.

Problem nie jest w tym, że AI się myli

AI zawsze będzie się czasem mylić, tak jak myli się człowiek. Problem zaczyna się, gdy nikt tego nie sprawdza. Badanie McKinsey pokazało, że 47% firm używających generatywnej AI doświadczyło co najmniej jednej negatywnej konsekwencji, a jednocześnie tylko 27% deklarowało, że pracownicy sprawdzają całą treść generowaną przez AI przed użyciem. Więcej niż połowa wdrożeń wypuszcza wyniki AI dalej bez pełnej kontroli.

Kontrola to nie hamulec

Warstwa weryfikacji bywa traktowana jak biurokracja, która spowalnia. W rzeczywistości jest odwrotnie. Bez niej AI po prostu skaluje błędy szybciej, niż skaluje wartość, bo robi to samo co człowiek, tylko masowo i pewnym tonem. Odrobina kontroli tam, gdzie stawka jest wysoka, jest tańsza niż jeden poważny incydent. To ta sama zasada, którą opisaliśmy przy kodzie generowanym przez AI i przy spadającym zaufaniu do AI.

Jak to ułożyć

Nie chodzi o to, żeby sprawdzać wszystko, bo to zabiłoby sens automatyzacji. Chodzi o to, żeby świadomie zdecydować, gdzie AI może działać samodzielnie, a gdzie jej wynik musi przejść przez człowieka albo test, zanim pójdzie dalej. Ta decyzja powinna być częścią projektu od początku, a nie łatą dokładaną po pierwszym błędzie.

Źródła

1. Stanford HAI, „AI Index 2025", Responsible AI.
2. McKinsey, „The state of AI", 03.2025.