Sztuczna inteligencja też się myli. I to częściej, niż myślimy

Sztuczna Inteligencja (SI) popełnia błędy, bo błędy popełniają algorytmy, które są wskazówkami do działania SI. Algorytm jest zbiorem instrukcji składających się z precyzyjnie zdefiniowanych kroków prowadzących do określonego celu w ograniczonym czasie.

Sztuczna inteligencja wszechobecna

W przypadku SI algorytmy uczenia maszynowego analizują, klasyfikują, znajdują powiązania w danych lub dokonują prognoz. Ich zaawansowane zastosowania są niemal wszechobecne: od platform streamingowych, po wspomaganie pracy rekruterów, lekarzy, a nawet policji i sądów. SI może jednak popełniać kosztowne błędy skutkujące stratami finansowymi firm, utratą zdrowia pacjentów, dyskryminacją na rynku pracy i poza nim, a nawet utrwaleniem nierówności społecznych.

Błędy w działaniu sztucznej inteligencji mogą mieć źródło w nieprawidłowościach o charakterze technicznym, błędach popełnianych przez ludzi, a nawet w uprzedzeniach instytucjonalnych. Do niedawna zakładano, że błędy w działaniu algorytmu SI mogą wynikać jedynie z danych, na których jest trenowany lub z jego konstrukcji. W takim wypadku szczegóły obliczeniowe wpływają na niewłaściwe działanie algorytmu. Jeśli dane treningowe są przestarzałe lub niereprezentatywne (np. ze względu na wiek lub narodowość), to SI, która ma za zadanie wspierać ludzi w procesie podejmowania decyzji, może na przykład zawyżać prawdopodobieństwo popełnienia przestępstwa przez osoby należące do mniejszości, w efekcie je dyskryminując.

Zobacz takżeWielka "czystka" na liście lektur. Nowacka przedstawia swoją wizję szkoły

Algorytmy sztucznej inteligencji z błędami

Algorytmy SI mogą też utrwalać systematyczne błędy poznawcze popełniane przez ludzi. Ludzie mają skłonność do szybkiego podejmowania decyzji, gdy brakuje im czasu, motywacji lub wiedzy. Algorytm szkolony na podstawie danych wygenerowanych w wyniku takich decyzji może powielać błędy poznawcze (propagation error). Przykładem jest algorytm rekrutacyjny dużej firmy IT szkolony na podstawie wcześniejszych decyzji rekrutacyjnych jej pracowników, który powielił uprzedzenia płciowe obecne w decyzjach rekrutacyjnych podejmowanych przez ludzi. Algorytmy często bazują na bieżących preferencjach użytkowników ignorując długoterminowe cele. Użytkownicy aplikacji i usług często wybierają rozwiązania, które przynoszą natychmiastową gratyfikację, mimo że długoterminowo inne decyzje byłyby dla nich bardziej korzystne. Przykładem są platformy streamingowe, na których użytkownicy dodają ambitne filmy do swojej listy, ale ostatecznie wybierają rekomendacje algorytmu. Rekomendacje zmieniają preferencje użytkowników i zmniejszają różnorodność tego, co konsumenci widzą i kupują, tworzą bańki filtrujące, komory echa (echo chambers) zwiększające udział popularnych opcji w rynku.

Na działanie algorytmów wpływa także struktura firm tworzących SI. To od niej zależy, kto decyduje, na jakich danych trenować algorytmy, jak je przygotowywać i analizować i czy w ogóle warto opracowywać algorytm dla określonego problemu. Błędy na poziomie instytucjonalnym wynikające z procesów heurystycznych stojących za decyzjami biznesowymi mogą wpływać na poprawność działania konkretnych algorytmów.

Zobacz takżeOgromne zmiany w największym polskim banku. Cały zarząd odwołany

Uprzedzenia sztucznej inteligencji

Problem błędów SI dostrzega środowisko firm technologicznych. W badaniu firmy DataRobot = przeprowadzonym wśród 350 liderów firm technologicznych z USA i Wielkiej Brytanii - 54 proc. respondentów wyraziło zaniepokojenie występowaniem uprzedzeń w działaniach algorytmów SI. Badanie pokazało ponadto, że 81 proc. jego uczestników widzi potrzebę większej regulacji SI.

Warto pamiętać o tym, że według analiz Międzynarodowego Funduszu Walutowego kraje rozwinięte są lepiej przygotowane na zmierzenie się z wyzwaniami, które niesie rozwój sztucznej inteligencji i być może lepiej poradzą sobie z ewentualnymi błędami, które mogą popełniać „cyfrowe mózgi”.

Z drugiej jednak strony już dzisiaj wiadomo, że wdrażanie SI może prowadzić do wędrówek pracowników w poszukiwaniu pracy oraz wzrostu nierówności. Dodatkowo to właśnie pracownicy z państw rozwiniętych są bardziej wystawieni na efekty wprowadzania SI, może to dotyczyć nawet 60 proc. miejsc pracy w tych krajach, a w krajach rozwijających się to tylko 40 proc. ,a w tych o niższych dochodach tylko 26 proc.