Model AI governance - co wpływa na jego dojrzałość?

Czy do wykorzystywania AI potrzebny jest model governance?

Wdrożenie i wykorzystywanie sztucznej inteligencji (AI) w organizacji jest procesem, który wymaga czasu i zaangażowania wielu obszarów organizacji np. w przypadku systemów AI, które będa wchodziły w interakcję z człowiekiem / klientem warto wziąć pod uwagę kwestie związane z user experience. Z kolei w przypadku gdy AI jest elementem decyzyjnym, należy przewidzieć sytuacje i działania, które należy podjąć w celu niemalże natychmiastowego wyłączenia / zaprzestania wykorzystywania AI jako decydenta. Poza tym, należy właściwie analizować i zarządzać ryzykiem związanym z AI - na wszystkich jego etapach - od pomysłu po zaprzestanie wykorzystywania. Zatem, złożoność i często wielowątkowość przypadków użycia AI w przedsiębiorstwie wskazuje na konieczność posiadania i wykorzystywania odpowiedniego modelu AI governance.

Ponieważ sztuczna inteligencja jest postrzegana jako nowatorska i nie do końca sprawdzona technologia, to często sam system AI jest traktowany jako „ciekawostka”, a kwestie związane z odpowiednim zarządzaniem tego typu systemem są błędnie realizowane i nadzorowane lub całkowicie pomijane. Na przykład brak analizy danych wykorzystywanych do trenowania AI, może wpłynąć na jego stronniczość.

Mateusz Szajdak, Manager, PwC Polska

Jak już to zostało opisane w naszym poprzednim artykule: Model governance wokół AI - stan obecny i wyzwania na najbliższe lata, odpowiedni i dobrze funkcjonujący model AI governance, który wspiera organizację w projektowaniu, przygotowaniu, testowaniu, wdrożeniu i utrzymaniu systemu AI, jest jedną ze składowych Responsible AI, czyli odpowiedzialnego, godnego zaufania, stabilnego i uczciwego systemu AI. Przy czym należy zwrócić uwagę, że sposób implementacji i stosowania modelu AI governance może nie być taki sam w każdej organizacji. Wykorzystywane rozwiązanie powinno być dostosowane, m.in. do skali działalności, charakterystyki i przypadków użycia AI, czy też przyjętego modelu rozwoju AI w organizacji (np. zakup gotowych modeli wymagających wyłącznie treningu i kalibracji vs budowa „szytych na miarę” rozwiązań).

Co wpływa na dojrzałość modelu AI governance?

Niezależnie od zakresu w jakim AI jest wykorzystywane istnieje kilka elementów, które powinny być brane pod uwagę przez każdy podmiot. Analiza czy i w jaki sposób poszczególne czynniki zostały uwzględnione pozwala na ocenę dojrzałości stosowanego modelu AI governance.

Elementy mające wpływ na dojrzałość modelu AI governance:

Tak jak zostało już podkreślone, poziom dojrzałości modelu AI governance zależy m.in. od dojrzałości samej organizacji a także od skali wykorzystywania AI. 

Wprowadzenie i stosowanie ładu korporacyjnego AI sprawia, że grupa hobbystów pracujących nad AI lub wykorzystujących AI dostaje narzędzia do skutecznego działania, m.in. dzięki którym ryzyko związane z niepożądanymi skutkami może zostać na czas zidentyfikowane i zmitygowane. Jednocześnie pozwala to na współpracę w skali całej firmy i uzyskanie wsparcia merytorycznego z tych obszarów biznesu na rzecz których wytwarza inteligentne rozwiązania.

Maciej Majewski, Advisor, PwC Polska

Powyższa lista czynników, wpływająca na dojrzałość modelu AI governance, nie sprowadza się wyłącznie do formalizacji procesów biznesowych w oparciu o istniejące standardy, polityki, procedury i inne dokumenty wewnętrzne. Jest to oczywiście jeden z elementów, ale nie kluczowy w tym kontekście. Analizując wskazane powyżej czynniki, można wyciągnąć wniosek o tym co charakteryzuje model o wysokim poziomie dojrzałości:

• ważna jest współpraca różnych obszarów organizacji we wspólnym celu (od najwyższego szczebla do najniższego; top-down) - praca i zadania są zorganizowane i ustrukturyzowane, a zespoły je realizujące współpracują ze sobą (brak silosowego podejścia),

• należy zwracać uwagę na aspekty związane z etyką, odpowiedzialnością, interpretowalnością AI i ryzykiem jego wykorzystywania (biorąc przy tym pod uwagę aspekty z obszaru privacy) - identyfikacja, pomiar i mitygacja ryzyk, przy uwzględnieniu kluczowych elementów składających się na Responsible AI,

• dokonując dokładnej analizy potencjalnego rozwiązania na różnych etapach jego budowy i wykorzystania, można ograniczyć ryzyko nietrafionej inwestycji, które wynika z nieprawidłowo postawionych założeń i celów projektu lub wybranej ścieżki / metody projektowej bądź złych danych.