Ryzyko to nierozłączna część każdej innowacji, zwłaszcza tak przełomowej jak sztuczna inteligencja. Ogromny potencjał, jaki niesie AI, wiąże się z równie dużymi zagrożeniami, szczególnie w kontekście instytucji finansowych. Wśród najczęściej wymienianych obaw, z jakimi się spotkałem, są błędy algorytmiczne, ukryte w danych uprzedzenia, niewystarczająca transparentność modeli czy zwiększona podatność systemów na cyberataki. To z pewnością ważne kwestie, ale wydaje mi się, że z perspektywy instytucji finansowych skupiałbym się na czymś innym. Dla mnie kluczowym zagrożeniem jest kwestia mniej techniczna, ale znacznie bardziej fundamentalna. Mianowicie – ryzyko utraty zaufania społecznego do instytucji finansowych. 

Finanse to sektor oparty na zaufaniu. Gdy klient czuje, że nie rozumie decyzji podejmowanych przez AI, albo co gorsza, ma poczucie, że system go dyskryminuje lub traktuje bezosobowo, pojawić może się bardzo duży problem. Jeśli wspomniany problem nie zostanie zaadresowany odpowiednio wcześnie, może się przekształcić w kryzys zaufania, lecz nie tylko do GenAI, a do poszczególnych instytucji lub co gorsza do całego systemu.   

Dlatego niezwykle ważne wydaje mi się, by wdrażanie i rozwój rozwiązań korzystających z generatywnej AI w sektorze finansowym (i każdym, dla którego kluczowym jest społeczne zaufanie, czy to medycznym, czy na przykład energetycznym) szedł w parze z inwestycjami w transparentność modli, edukację klientów i społeczności oraz jasną komunikację decyzji (i ich podstaw) podejmowanych przez systemy. 

Odpowiednio wczesne tworzenie mechanizmów nadzoru, regularne audyty czy testowanie modeli pod kątem uprzedzeń – mogą znacznie zniwelować ryzyko utraty zaufania. Nie bez znaczenia będzie tu też inwestycja w sprawną i klarowną komunikację. Kto wie – może dzięki takim działaniom sztuczna inteligencja przyczyni się do wzmocnienia wiarygodności sektora finansowego?