Chronić użytkownika, rozwijać gospodarkę

Motywem przewodnim ostatniego dnia projektu Dziennika Gazety były „Regulacje cyfrowego rynku”. W debacie „Wpływ regulacji na cyfrowy rynek. Ochrona użytkownika a konkurencyjność europejskich firm” wzięli udział: Tomasz Chróstny, prezes Urzędu Ochrony Konkurencji i Konsumentów, Dariusz Standerski, sekretarz stanu w Ministerstwie Cyfryzacji, Grzegorz Latosiński, wiceprezes Poczty Polskiej ds. IT oraz dr hab. Tymoteusz Doligalski, prof. Szkoły Głównej Handlowej w Warszawie, wicedyrektor AI Labu. Dyskusję poprowadziła Zuzanna Staszewska-Jedynasty.

Algorytm jest wszystkim

Tomasz Chróstny zwrócił przede wszystkim uwagę na to, że rola algorytmów w gospodarce zasadniczo się zmieniła.

– Lata temu mówiliśmy, że marketing jest wszystkim – dziś można powiedzieć, że algorytm jest wszystkim – skomentował.

Zauważył, że dyskusja o algorytmach, big techach, efektach sieciowych i przewagach dużych podmiotów z branży AI jest istotna także dlatego, że Europa coraz mocniej w istocie odczuwa swoje spowolnienie. Sztuczna inteligencja jest rozwijana przede wszystkim w Stanach Zjednoczonych i Chinach, czyli tam, gdzie są duże rynki, wielu konsumentów, jeden język i ogromny kapitał niezbędny do budowy infrastruktury oraz inwestowania w rozwój algorytmów. Ich zastosowania obejmują nowe obszary, takie jak sektor obronności czy ochrona zdrowia.

– AI daje niesamowite możliwości. To gwałtowna rewolucja, nie do końca umiemy jako społeczeństwa sprostać kontroli nad nią – ocenił prezes UOKiK.

Przypomniał, że w Stanach Zjednoczonych rozwój AI musiał zwolnić, bo algorytmy zaczęły same łamać zabezpieczenia. Według Tomasza Chróstnego trzeba więc określić, gdzie powinny znaleźć się bariery nadzoru i jaką rolę mają do odegrania poszczególne elementy systemu bezpieczeństwa. Dodał, że Europa musi też stać się świadoma potrzeby rozwinięcia umiejętności pracy z AI oraz rozpoznawania technologii, która może działać na niekorzyść, a także wiedzy, jak się przed nią bronić.

Sztuczna inteligencja w zmowie

Tomasz Chróstny zaznaczył, że nie mówimy już wyłącznie o narzędziach, które przedsiębiorcy mogą, ale nie muszą wdrażać. Konsumenci, jak podkreślił prezes UOKiK, korzystają z modeli AI nawet wtedy, gdy nie są tego świadomi. Sztuczna inteligencja działa w telefonach i tabletach, jest wykorzystywana w procesach wyszukiwania, polecaniu produktów podczas zakupów oraz rekomendowaniu usług, w tym telekomunikacyjnych. Wykorzystuje się ją również w poczcie elektronicznej i usługach finansowych.

– Każdy z nas codziennie ma do czynienia z AI, choć nie zdajemy sobie z tego sprawy – zaznaczył.

Jako pozytywny przykład tworzenia przez sztuczną inteligencję wartości prezes UOKiK podał diagnostykę medyczną, z kolei negatywny – scamy w mediach społecznościowych, w których algorytmy wykorzystują małe próbki głosu czy wizerunku człowieka do tworzenia filmów i fałszywych wypowiedzi. Zwrócił również uwagę na inne ryzyko.

– Algorytm może podsuwać nam rozwiązania, które wcale nie są dla nas korzystne, np. sugerując nam produkty droższe, choć jest tańsza alternatywa – wskazał.

Zauważył także, że systemy IT mogą też dokonywać zmów przetargowych lub zmów dotyczących podziału rynku. Jego zdaniem to tylko kwestia czasu, aż takie rozwiązania staną się znacznie powszechniejsze niż dziś. Podkreślił, że na tego typu wyzwania trzeba być przygotowanym.

Wdrożenia: planowo i z kontrolą kosztów

Do kwestii bezpieczeństwa odniósł się Grzegorz Latosiński. Zwrócił uwagę, że w obszarze cyberbezpieczeństwa powstaje obecnie przestrzeń, w której AI można wykorzystać do obrony, jednak stanowi także narzędzie w rękach cyberprzestępców.

Przypomniał, że cały rynek e-commerce opiera się na dostawach i stanowi ekosystem, w którym technologia lub sztuczna inteligencja pojawia się na wszystkich etapach.

– Na każdym z nich jest teoretyczna luka, którą mogą starać się przełamać napastnicy – powiedział wiceprezes Poczty Polskiej. Zaznaczył jednocześnie, że narzędzia oparte na AI wykorzystywane do poprawy poziomu cyberbezpieczeństwa nie są jeszcze szczególnie rozpowszechnione wśród użytkowników indywidualnych. Zwrócił także uwagę na brak jasnych wytycznych co do charakterystyki użycia AI w cyberbezpieczeństwie w wielu organizacjach.

– Moim zdaniem nie są one tak klarowne jak wytyczne dotyczące wykorzystywania sztucznej inteligencji w codziennej pracy, np. przy tworzeniu dokumentów – ocenił.

Grzegorz Latosiński podkreślił, że wdrożenie sztucznej inteligencji powinno być przygotowane w sposób planowy.

– W dużej organizacji potrzebne jest usprawnienie pracy i uproszczenie procesów, a AI ma w tym pomagać. Wprowadzanie rozwiązań opartych na sztucznej inteligencji nie może być celem samym w sobie – dodawał.

Ważne jest również rozróżnienie pojęć. Wiceprezes Poczty Polskiej przypomniał, że automatyzacja i uczenie maszynowe nie są tożsame ze sztuczną inteligencją, choć w powszechnej świadomości te pojęcia często się nakładają.

Jako kolejne wyzwanie wskazał halucynacje sztucznej inteligencji.

– Użytkownicy nie zawsze mają świadomość, że podsunięte rozwiązanie może nie być do końca tym właściwym lub w pełni poprawnym – zauważył wiceprezes Poczty Polskiej.

Grzegorz Latosiński zwrócił też uwagę, że planując wdrożenia w organizacjach nowych rozwiązań, nie tylko opartych na AI, należy patrzeć zarówno na koszt wejścia, jak i na później powstające wydatki. – W przypadku rozwiązań AI bardzo trudno ocenić ostateczny koszt na etapie analizy przedwdrożeniowej, zwłaszcza jeśli chodzi o tokeny i dostępność – wskazywał.

Jak działać zgodnie z prawem

Dariusz Standerski zwrócił uwagę, że dyskusja o platformach cyfrowych wykracza dziś poza wybór konsumenta czy wpływ interfejsu na jego decyzje.

– Rozmowa dotyczy modeli biznesowych, relacji gospodarczych czy nawet geopolityki – definiował.

Jak podkreślił, wymiana treści w mediach społecznościowych jest rezultatem kształtu algorytmów oraz egzekwowania prawa unijnego. Niestety, prawo to nie jest jeszcze stosowane w tak szerokim zakresie, jak być powinno. Wiceminister wskazał też, że toczy się dyskusja o relacjach z największymi platformami handlowymi.

– Dotyczy ona także tego, jak chińskie platformy wykorzystują swoją pozycję rynkową i otoczenie w swoim kraju do budowania przewagi nad firmami europejskimi. Dlatego rozmowa wyszła poza kwestie techniczne i dotyczy dziś przepisów, które mają wzmocnić pozycję europejskich firm i dać im realne narzędzia – wyjaśnił.

Odnosząc się do obrony przed AI za pomocą AI, Dariusz Standerski ocenił, że jest to szersza dyskusja o zastosowaniach systemów sztucznej inteligencji.

– Rolą państwa powinno być stworzenie możliwości bezpiecznego wdrożenia modeli sztucznej inteligencji w firmach – podkreślił wiceminister cyfryzacji. Zwrócił uwagę na powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie wydawała indywidualne opinie o spełnianiu przez poszczególne modele wymogów prawa polskiego i europejskiego.

– Resort przeprowadził też badania, z których wynika, że główną przyczyną niewdrażania AI w polskich firmach jest najczęściej obawa przed niezgodnością z przepisami – zaznaczył.

Według sekretarza stanu pewną przestrzeń do wdrożeń może dać piaskownica regulacyjna. Przedsiębiorcy mieliby w niej testować rozwiązania, a następnie otrzymywać potwierdzenie ich zgodności z przepisami polskimi i europejskimi.

– Wdrożeń AI w biznesie będzie tyle, ile będziemy mieć pomysłów biznesowych, które okażą się trafne – ocenił Dariusz Standerski.

Według niego niebawem na rynku pojawią się modele sprawdzające, czy polityka bezpieczeństwa informacji w firmach jest przestrzegana i czy wszystkie jej punkty są wyjaśnione. W ograniczonym zakresie mogłyby też badać podatności.

– Uważam, że zachęty, które wchodzą w życie, sprawią, że takie oferty się pojawią. Przedsiębiorstwa, które zechcą je stosować, zyskają natomiast poczucie bezpieczeństwa, że prawo nie będzie działać przeciwko nim – puentował.

Polskie firmy a AI: wdrożenia i suwerenność cyfrowa

Profesor Tymoteusz Doligalski przywołał badania Eurostatu, z których wynika, że pod względem wdrażania technologii internetowych polskie firmy nie odbiegają od średniej europejskiej. W zastosowaniach sztucznej inteligencji Polska plasuje się natomiast poniżej niej. Naukowiec wyjaśnił, że może to wynikać również z tego, iż pracownicy korzystają z rozwiązań dostępnych w przeglądarce, nawet bez wiedzy przełożonych. Takie działania nie są zgłaszane ani sankcjonowane na poziomie firmy (tzw. shadow AI), a tym samym nie są uwzględnione w statystykach.

Profesor Doligalski zachęcał do eksperymentowania obok planowych wdrożeń AI, które mają usprawniać działania organizacji. Wskazał, że łatwiej jest to robić w małych firmach, gdzie testuje się różne działania. Zwrócił również uwagę na wyniki badań jego zespołu. Wynika z nich, że menedżerowie w polskich firmach coraz częściej posługują się pojęciem suwerenności cyfrowej, które w ostatnich latach zyskało na popularności.

– Polska nie ma pełnej suwerenności cyfrowej, bo znaczna część rozwiązań, z których korzystamy, nie jest polska ani nawet europejska, a raczej amerykańska lub azjatycka – zauważył i definiował, że pojęcie to oznacza zdolność państwa do swobodnego kształtowania swoich aktywów cyfrowych.

Profesor Doligalski odniósł się też do wpływu technologii na rynek. Przypomniał, że internet przyczynił się do rozwoju zupełnie nowego biznesu.

– Jeśli jednak spojrzeć na modele biznesu powstałe w wyniku popularyzacji AI, nie jest ich tak wiele. Istnieją m.in. dostawcy GenAI i usług zbudowanych na nich, ale zauważalna jest tendencja, że AI nie tyle tworzy nowy rodzaj firm, ile zmienia funkcjonowanie już istniejących – podsumował.

Tymoteusz Doligalski mówił również o platformach cyfrowych.

– Ich właściwości są wyznaczane przez internet, a sztuczna inteligencja może je wzmocnić – opisywał.

Ocenił, że platformy zdominowały w ostatnich latach działanie rynku. Konsumentom o wiele łatwiej jest kupić produkt za pomocą aplikacji platformy, niż uczyć się interfejsu nowego sklepu. Ułatwiają one życie kupującym, ale jednocześnie oznaczają wyższe wymogi wobec sprzedawców. Muszą oni włożyć więcej wysiłku, ponieważ konsumenci na platformach zyskali większą siłę przetargową. Niedbałe działanie sprzedawcy skutkuje spadkiem jego widoczności na platformie, a to przekłada się na niższą sprzedaż.

Relację z debaty „Algorytm zaufania – kto będzie podejmował decyzje finansowe przyszłości?” publikujemy w grzbiecie głównym DGP.

Michał Perzyński

Powiedzieli podczas AI Days

Premia za wiedzę zupełnie zmienia charakter. Dziś wiedza sprowadza się do formułowania trafnych pytań, poszukiwania odpowiedzi, krytycznej ewaluacji pozyskanych danych, selekcji oraz łączenia faktów w spójną całość. Niezwykle ważną umiejętnością jest również kwestionowanie, które pozwala identyfikować błędy.

___________________________________________________________________________

Adopcja AI jest dużym problemem, szczególnie w Polsce, choć dotyka on całego kontynentu. W Polsce tylko 8 proc. firm wdrożyło sztuczną inteligencję i aktywnie z niej korzysta. W Europie jest to około 20 proc.

___________________________________________________________________________

Widzimy już wyraźną niechęć konsumentów do zalewu syntetycznych treści. Odbiorcy poszukują kontaktu z wytworami prawdziwego człowieka, bo sztuka pozostaje dla nas nośnikiem ludzkich emocji i uniwersalnych wartości.

ROZMOWY I DEBATY MOŻNA OBEJRZEĆ NA CYFROWA-GOSPODARKA.GAZETAPRAWNA.PL