Czy do wykorzystywania AI potrzebny jest model governance?
Wdrożenie i wykorzystywanie sztucznej inteligencji (AI) w organizacji jest procesem, który wymaga czasu i zaangażowania wielu obszarów organizacji np. w przypadku systemów AI, które będa wchodziły w interakcję z człowiekiem / klientem warto wziąć pod uwagę kwestie związane z user experience. Z kolei w przypadku gdy AI jest elementem decyzyjnym, należy przewidzieć sytuacje i działania, które należy podjąć w celu niemalże natychmiastowego wyłączenia / zaprzestania wykorzystywania AI jako decydenta. Poza tym, należy właściwie analizować i zarządzać ryzykiem związanym z AI - na wszystkich jego etapach - od pomysłu po zaprzestanie wykorzystywania. Zatem, złożoność i często wielowątkowość przypadków użycia AI w przedsiębiorstwie wskazuje na konieczność posiadania i wykorzystywania odpowiedniego modelu AI governance.
Ponieważ sztuczna inteligencja jest postrzegana jako nowatorska i nie do końca sprawdzona technologia, to często sam system AI jest traktowany jako „ciekawostka”, a kwestie związane z odpowiednim zarządzaniem tego typu systemem są błędnie realizowane i nadzorowane lub całkowicie pomijane. Na przykład brak analizy danych wykorzystywanych do trenowania AI, może wpłynąć na jego stronniczość
Jak już to zostało opisane w naszym poprzednim artykule: Model governance wokół AI - stan obecny i wyzwania na najbliższe lata, odpowiedni i dobrze funkcjonujący model AI governance, który wspiera organizację w projektowaniu, przygotowaniu, testowaniu, wdrożeniu i utrzymaniu systemu AI, jest jedną ze składowych Responsible AI, czyli odpowiedzialnego, godnego zaufania, stabilnego i uczciwego systemu AI. Przy czym należy zwrócić uwagę, że sposób implementacji i stosowania modelu AI governance może nie być taki sam w każdej organizacji. Wykorzystywane rozwiązanie powinno być dostosowane, m.in. do skali działalności, charakterystyki i przypadków użycia AI, czy też przyjętego modelu rozwoju AI w organizacji (np. zakup gotowych modeli wymagających wyłącznie treningu i kalibracji vs budowa „szytych na miarę” rozwiązań).
.jpeg)
Przeczytaj również:
Model governance wokół AI - stan obecny i wyzwania na najbliższe lata
Dynamiczny rozwój technologii oraz dostęp do zasobów danych o coraz lepszej jakości, które są potrzebne w procesie tworzenia narzędzi opartych o sztuczną inteligencję spowodowały, że punkt nacisku dotyczący przeznaczenia tych narzędzi uległ zmianie.
Co wpływa na dojrzałość modelu AI governance?
Niezależnie od zakresu w jakim AI jest wykorzystywane istnieje kilka elementów, które powinny być brane pod uwagę przez każdy podmiot. Analiza czy i w jaki sposób poszczególne czynniki zostały uwzględnione pozwala na ocenę dojrzałości stosowanego modelu AI governance.
Elementy mające wpływ na dojrzałość modelu AI governance:
Strategia
Wysokopoziomowe podejście do realizacji celów strategicznych organizacji zakładających wykorzystanie AI zostało zdefiniowane przy uwzględnieniu aspektów organizacyjnych, prawnych i etycznych związanych z przetwarzaniem danych (w tym privacy by default i privacy by design)
Planowanie
Istnieją procesy i funkcje wspierające proces wdrażania AI przy uwzględnieniu zarządzania ryzykiem
Ecosystem
Organizacja stosuje procesy wspierające ją w zakresie technologii, sourcingu i zarządzania zmianą dla AI
Development
Proces budowania systemu AI uwzględnia aspekty związane z pozyskiwaniem i zarządzaniem danymi wykorzystywanymi w procesie budowy AI
Deployment
Decyzja o wdrożeniu AI poprzedzona jest analizą wpływu, przygotowaniem i przeprowadzeniem wdrożenia w oparciu o plan, a także zakłada ciągły monitoring ryzyka i ocenę wartości dodanej wynikającej z wykorzystania AI
Działanie i monitoring
Istnieją procesy w zakresie monitoringu i raportowania działania AI, pod kątem minimalizacji ryzyk działań niepożądanych, a także weryfikacji zgodności samego systemu oraz procesów wspierających z wymogami i przepisami prawa (w tym privacy by default i privacy by design)
Tak jak zostało już podkreślone, poziom dojrzałości modelu AI governance zależy m.in. od dojrzałości samej organizacji a także od skali wykorzystywania AI.
Wprowadzenie i stosowanie ładu korporacyjnego AI sprawia, że grupa hobbystów pracujących nad AI lub wykorzystujących AI dostaje narzędzia do skutecznego działania, m.in. dzięki którym ryzyko związane z niepożądanymi skutkami może zostać na czas zidentyfikowane i zmitygowane. Jednocześnie pozwala to na współpracę w skali całej firmy i uzyskanie wsparcia merytorycznego z tych obszarów biznesu na rzecz których wytwarza inteligentne rozwiązania
Powyższa lista czynników, wpływająca na dojrzałość modelu AI governance, nie sprowadza się wyłącznie do formalizacji procesów biznesowych w oparciu o istniejące standardy, polityki, procedury i inne dokumenty wewnętrzne. Jest to oczywiście jeden z elementów, ale nie kluczowy w tym kontekście. Analizując wskazane powyżej czynniki, można wyciągnąć wniosek o tym co charakteryzuje model o wysokim poziomie dojrzałości:
ważna jest współpraca różnych obszarów organizacji we wspólnym celu (od najwyższego szczebla do najniższego; top-down) - praca i zadania są zorganizowane i ustrukturyzowane, a zespoły je realizujące współpracują ze sobą (brak silosowego podejścia),
należy zwracać uwagę na aspekty związane z etyką, odpowiedzialnością, interpretowalnością AI i ryzykiem jego wykorzystywania (biorąc przy tym pod uwagę aspekty z obszaru privacy) - identyfikacja, pomiar i mitygacja ryzyk, przy uwzględnieniu kluczowych elementów składających się na Responsible AI,
dokonując dokładnej analizy potencjalnego rozwiązania na różnych etapach jego budowy i wykorzystania, można ograniczyć ryzyko nietrafionej inwestycji, które wynika z nieprawidłowo postawionych założeń i celów projektu lub wybranej ścieżki / metody projektowej bądź złych danych.
Następne kroki
Osiągniecie przez przedsiębiorstwo wysokiego poziomu dojrzałości modelu AI governance wymaga czasu i - jak zostało wskazane - zaangażowania w różnych obszarach i na wszystkich szczeblach. W tym zakresie, istotnym elementem jest podjęcie decyzji strategicznych dotyczących nie tylko samego wykorzystywania AI, ale także związanych z budową modelu AI governance, przy uwzględnieniu docelowego poziomu dojrzałości i perspektywy czasowej w jakiej ten poziom ma zostać osiągnięty.
Bądź na bieżąco
Newsletter: Technologia
Skontaktuj się z nami
Obserwuj nas
