AI zmienia świat, ale zaufania się nie zautomatyzuje

Punktem wyjścia do rozmowy było pytanie o rolę człowieka w procesie oceny ryzyka w kontekście usług finansowych.

Doktor Przemysław Barbrich ze Związku Banków Polskich wskazywał, że technologia będzie coraz silniej obecna w procesach oceny ryzyka, ale nie oznacza wyeliminowania ludzkiego nadzoru.

W podobnym tonie wypowiadał się dr hab. Lech Kurkliński, prof. SGH, kierownik studiów podyplomowych „FinTech – nowe zjawiska i technologie na rynku finansowym” w Szkole Głównej Handlowej w Warszawie, oceniając sytuację z perspektywy zmian, które już wcześniej zachodziły w sektorze finansowym. Przypomniał, że wraz z rozwojem scoringu rola osób ręcznie analizujących wnioski stopniowo się zmniejszała. AI może ten proces jeszcze przyspieszyć, nie oznacza to jednak, że człowiek przestanie być potrzebny. Jego rola będzie się zmieniała. Profesor Kurkliński podkreślił m.in., że wraz z automatyzacją decyzji rosnąć będzie znaczenie kontroli.

Wątek kontroli powracał podczas całej dyskusji. Warto dodać, że w świetle AI Act systemy scoringowe oceny zdolności kredytowej, podobnie jak modele aktuarialne w świecie ubezpieczeń, zostały zakwalifikowane do kategorii systemów wysokiego ryzyka, co oznacza konieczność spełnienia określonych wymogów. Małgorzata Domagała, wiceprezes i dyrektor ds. produktów i rozwiązań Mastercard na Polskę, Czechy i Słowację, Mastercard Europe, zwracała uwagę, że nie każda usługa wykorzystująca sztuczną inteligencję wymaga takiego samego poziomu kontroli. AI oferuje szerokie możliwości zastosowania w sektorze finansowym, wspierając rozwój usług, optymalizację procesów i lepsze dopasowanie rozwiązań do potrzeb klientów.

Ważne są edukacja i relacja

Transparentność odgrywa kluczową rolę w odpowiedzialnym wykorzystaniu sztucznej inteligencji. Profesor Kurkliński zwrócił uwagę, że dla wielu osób usługi finansowe już dziś są swego rodzaju czarną skrzynką. W tle jest złożoność rozmaitych mechanizmów.

– Na tę czarną skrzynkę nakładamy drugą czarną skrzynkę technologiczną – zauważył.

Dlatego istotne jest rozwijanie rozwiązań, które zwiększają przejrzystość procesów i pomagają klientom lepiej rozumieć oferowane produkty oraz podejmować świadome decyzje. Uczestnicy dyskusji podkreślali w tym kontekście znaczenie edukacji finansowej i technologicznej. Klient przyszłości powinien rozumieć podstawowe zasady funkcjonowania produktów finansowych, a także wiedzieć, kiedy w procesie ich wyboru lub obsługi wykorzystywana jest sztuczna inteligencja. Przy czym edukacja ma wymiar szerszy. Doktor Milena Perka, ekspertka prawa nowych technologii i AI Governance z Kancelarii Prawnej Milena Perka, podkreślała, że prawnicy, zarządy oraz osoby odpowiedzialne za wdrażanie sztucznej inteligencji powinny mieć odpowiednie kompetencje pozwalające nie tylko rozumieć możliwości i ograniczenia systemów AI, lecz także identyfikować związane z nimi ryzyka i zapewniać skuteczny nadzór nad ich wykorzystaniem. Jest to jeden z istotnych elementów odpowiedzialnego wdrażania AI oraz realizacji obowiązków wynikających z AI Act.

Zobacz również

Musimy postawić na polskie rozwiązania

Zapisz na później

Systemy AI mogą analizować ogromne ilości danych i dostosowywać ofertę do konkretnego użytkownika, co otworzyło drogę do hiperpersonalizacji ofert. Przemysław Barbrich zwrócił uwagę, że możliwości w tym zakresie są ogromne. Z perspektywy konsumenta może to oznaczać wygodę i oszczędność czasu. Niemniej, jak mówili uczestnicy dyskusji, właściwą drogą jest budowanie relacji. Klient powinien wiedzieć, kiedy otrzymuje rekomendację przygotowaną przez system i móc świadomie z niej korzystać. Przemysław Barbrich mocno podkreślał potrzebę edukacji i wyrażenia przez klienta dobrowolnej zgody na skorzystanie z ofert generowanych przez agentów AI.

W dyskusji zwrócono również uwagę na cyberbezpieczeństwo oraz na to, że AI może być wykorzystywana zarówno do nowych ataków, jak i do obrony przed nimi.

Regulacje potrzebne jak innowacje

Paneliści nie mieli wątpliwości, jak ważne jest otoczenie regulacyjne. Musi ono sprzyjać bezpieczeństwu, budować zaufanie, ale jednocześnie nie blokować rozwoju. Doktor Milena Perka pozytywnie oceniła przyjęcie AI Act jako istotnego kroku w kierunku stworzenia jednolitych ram prawnych dla rozwoju i wykorzystywania sztucznej inteligencji w UE. Jednocześnie zwróciła uwagę, że dynamiczny rozwój technologii będzie wymagał dalszego doprecyzowywania zasad stosowania regulacji, w szczególności poprzez wytyczne interpretacyjne oraz kształtującą się praktykę organów nadzorczych.

Profesor Kurkliński przestrzegał przede wszystkim przed chaosem regulacyjnym i nadregulacją. W jego ocenie nadmiar przepisów może stać się realnym problemem dla innowacyjności.

Małgorzata Domagała podkreślała natomiast, że sektor finansowy potrzebuje jasnych zasad, a regulacje powinny być tworzone we współpracy z ekspertami i biznesem.

W czasie dyskusji wyraźnie wybrzmiał postulat współpracy i dialogu różnych środowisk: świata biznesu, prawa, nauki oraz decydentów, aby regulacje były odpowiednie i powstawały szybko.

Rewolucja a ewolucja

Czy w przypadku AI w świecie finansów można zatem mówić o rewolucji? Małgorzata Domagała zwróciła uwagę, że wiele zmian będzie miało charakter ewolucyjny. Technologia w wielu przypadkach nie tworzy bowiem nowych potrzeb, lecz pozwala lepiej i szybciej odpowiadać na te, które już istnieją. Chodzi zatem o ewolucję sposobu, w jaki są realizowane. Rewolucyjny może być natomiast efekt, gdy możliwości technologii zmienią model wykonywania określonych zadań.

Przemysław Barbrich przywołał przykład płatności. Plastikowa karta, płatność telefonem czy obrączka płatnicza służą w gruncie rzeczy temu samemu.

– Płatności stały się wygodniejsze, szybsze, bardziej praktyczne, bezpieczniejsze. To rozwiązanie ewolucyjne, a nie rewolucyjne – oceniał, dodając, że prawdziwa rewolucja może nadejść. Wtedy szczególnie ważne będą przygotowanie prawa i kompetencje ludzi.

Z kolei prof. Kurkliński porównał przyszłość AI do rozwoju bankowości internetowej i mobilnej. Początkowo nowe kanały wiązały się z dużymi obawami dotyczącymi bezpieczeństwa. Dziś trudno wyobrazić sobie funkcjonowanie sektora bez nich. Jego zdaniem jednym z warunków szybkiej adopcji będzie zaufanie do instytucji, która dostarcza dane rozwiązanie. Jeżeli klient będzie wiedział, kto odpowiada za technologię i będzie mógł zweryfikować jej wiarygodność, łatwiej zaakceptuje nowe rozwiązania. Profesor Kurkliński porównał też obecne zmiany do rewolucji przemysłowej, która początkowo budziła obawy o miejsca pracy, a przyniosła ogromny wzrost produktywności i rozwój.

Jak pokazała dyskusja, upowszechnienie sztucznej inteligencji oznacza dla instytucji finansowych nowe możliwości oraz potrzebę budowania zaufania i odpowiedzialnych modeli wykorzystania AI. Dla klientów – większy wybór, wygodę, ale również konieczność zdobycia nowych kompetencji. Natomiast dla prawników i decydentów – m.in. potrzebę zrozumienia technologii. Chodzi o to, aby tworzyć takie warunki prawne, biznesowe i społeczne, które pozwolą osiągać maksymalne korzyści z upowszechnienia AI i ograniczać ryzyko. Potrzebne jest połączenie innowacyjności, rozsądnej kontroli i zaufania. Bo o ile część procesów finansowych można zautomatyzować, o tyle zaufania klienta nie da się wygenerować algorytmem.

MK

ROZMOWY I DEBATY MOŻNA OBEJRZEĆ NA CYFROWA-GOSPODARKA.GAZETAPRAWNA.PL