Credit Manager Magazine 4/2024

TECHNOLOGIE CZERWIEC / JUNE 2024 www.creditmanagermagazine.pl 49 Artykuł ukazał się w wersji oryginalnej na platformie VoxEU, tam też dostępne są przypisy i bibliografia. „Branża sztucznej inteligencji zmierza w kierunku oligopolistycznej struktury rynku zdominowanej przez kilku dużych dostawców. Efektem końcowym jest wzmocniona procykliczność oraz więcej okresów ożywienia i recesji.” Ogólnie rzecz biorąc, sztucznej inteligencji łatwo będzie uniknąć nadzoru systemowego, ponieważ bardzo trudno jest kontrolować niemal nieskończenie złożony system finansowy. Władze muszą zmagać się z dwoma przeciwstawnymi siłami. Sztuczna inteligencja będzie bardzo pomocna w utrzymaniu stabilności systemu, ale jednocześnie wzmocni siły, które wpływają na jego niestabilność. Podejrzewamy, że dominuje ten drugi czynnik. Dzieje się tak dlatego, że sztuczna inteligencja próbująca uniknąć kontroli musi znaleźć tylko jedną lukę, aby postępować niewłaściwie, podczas gdy operatorzy muszą nie tylko znaleźć wszystkie słabe punkty, ale także monitorować jej interakcję z każdym z nich, a następnie skutecznie wdrażać środki naprawcze. Jest to bardzo skomplikowane zadanie, które utrudnia fakt, że sektor prywatny ma dostęp do lepszych zasobów obliczeniowych niż organy władzy. Im częściej korzystamy ze sztucznej inteligencji, tym problem obliczeniowy staje się trudniejszy dla władz. Ryzyko monokultury i oligopoli Ostatni kanał pojawia się, ponieważ model biznesowy firm projektujących i obsługujących silniki AI generuje większe korzyści związane z efektem skali; jest to zjawisko podobne do tego, które widzimy w chmurze obliczeniowej. Firmy zajmujące się analityką AI zależą od trzech rzadkich zasobów: komputerów z wydajnymi procesorami graficznymi, kapitału ludzkiego i danych. Nie tylko wszystkie z nich są niewystarczające, ale także nawzajem się wzmacniają. Przedsiębiorstwo, które kontroluje największy udział każdego z nich, prawdopodobnie zajmie dominującą pozycję w branży analityki finansowej AI. Wszystkie te czynniki sprawiają, że branża sztucznej inteligencji zmierza w kierunku oligopolistycznej struktury rynku zdominowanej przez kilku dużych dostawców. Efektem końcowym jest wzmocniona procykliczność oraz więcej okresów ożywienia i recesji, ponieważ wiele instytucji finansowych polegających na tym samym silniku sztucznej inteligencji dochodzi do podobnych wniosków i postępuje w podobny sposób, ujednolicając działalność handlową. Jeśli w swojej analizie władze również polegają na tym samym silniku sztucznej inteligencji, co wydaje się prawdopodobne, mogą nie być w stanie zidentyfikować wynikających z tego niestabilności, dopóki nie będzie za późno, ponieważ są informowane przez silnik z takim samym podejściem do stochastycznego procesu systemu finansowego, jak prywatne firmy, które nieumyślnie spowodowały niestabilność. Innymi słowy oligopolistyczny charakter działalności analitycznej AI zwiększa systemowe ryzyko finansowe. Niepokojące jest to, że wydaje się, że ani organy ochrony konkurencji, ani organy finansowe nie doceniły w pełni potencjału zwiększonego ryzyka systemowego wynikającego z oligopolistycznej technologii sztucznej inteligencji w ostatniej fali fuzji dostawców danych. Podsumowanie Zarówno sektor prywatny, jak i publiczny szybko zwiększają wykorzystanie sztucznej inteligencji ze względu na oferowane przez nią korzyści w zakresie wydajności i kosztów. Niestety jej coraz szersze wykorzystanie pogłębia również istniejące kanały niestabilności finansowej. Poprzez interakcję zagrożeń społecznych zidentyfikowanych przez badaczy sztucznej inteligencji z niestabilnościami udokumentowanymi w literaturze ekonomicznej, wskazujemy cztery kanały niestabilności: złośliwe i dezinformujące wykorzystanie sztucznej inteligencji w połączeniu z niedopasowaniem i unikaniem kontroli, wzmocnione przez monokulturę ryzyka i oligopole. Chociaż obawy o to, w jaki sposób sztuczna inteligencja może zdestabilizować system finansowy mogą sprawić, że będziemy ostrożni w jej wdrażaniu, podejrzewamy jednak, że tak się nie stanie. Technologia często początkowo spotyka się ze sceptycyzmem, ale w miarę jak jest postrzegana jako lepsza niż to, co było wcześniej, cieszy się coraz większym zaufaniem. Sztuczna inteligencja zdobywa zaufanie, z powodzeniem wykonując te zadania, które najlepiej się do tego nadają – te z dużą ilością danych i niezmiennymi regułami. Wynikające z tego oszczędności kosztowe prowadzą do tego, że jest ona wykorzystywana do realizacji coraz ważniejszych lecz słabo dopasowanych do jej specyfiki zadań, opartych na ograniczonych lub nawet nieistotnych danych historycznych. Nie chcemy jednak przeceniać tych zagrożeń. Podejrzewamy, że korzyści płynące ze sztucznej inteligencji będą w przeważającej mierze pozytywne dla systemu finansowego. Jednak władze muszą być świadome zagrożeń i tak dostosowywać przepisy, aby im sprostać. Ostateczne ryzyko polega na tym, że sztuczna inteligencja stanie się zarówno niezastąpiona, jak również będzie źródłem ryzyka systemowego, dopóki władze nie opracują odpowiednich środków zaradczych.