AI Act - Komisja Europejska opublikowała wytyczne dotyczące definiowania systemu sztucznej inteligencji

Systemy AI są tworzone i działają na maszynach, obejmując zarówno komponenty sprzętowe, jak i programowe niezbędne do ich działania. W szczególności wymaga się, aby systemy AI były sterowane obliczeniowo i oparte na operacjach maszynowych.

Systemy AI są projektowane tak, aby działały z różnym stopniem autonomii, co oznacza, że mogą wykonywać zadania przy ograniczonym lub zerowym udziale człowieka. Rodzaj i zakres autonomii zależą od charakteru systemu. Autonomię należy postrzegać w kontekście ryzyka, jakie system może stworzyć bez udziału operatora-człowieka.

Systemy AI mogą wykazywać zdolność adaptacji po wdrożeniu, co pozwala im na zmianę zachowania w oparciu o nowe dane lub interakcje. Zgodnie z wytycznymi użycie słowa "mogą" w odniesieniu do tego elementu definicji wskazuje, że system może, ale nie musi, posiadać zdolności adaptacyjnych lub samouczenia, aby stanowić system AI.

Systemy AI są projektowane tak, aby osiągać cele jawne lub dorozumiane, które mogą różnić się od ich zamierzonego celu w określonych kontekstach, wymaganiach i intencjach.

Kolejną kluczową cechą systemu AI jest wnioskowanie. System AI powinien być w stanie generować dane wyjściowe, takie jak przewidywania, treści, rekomendacje lub decyzje, na podstawie danych wejściowych. Wnioskowanie odnosi się głównie do fazy budowy systemu. Wytyczne obejmują również ocenę kilku modeli wnioskowania odpowiadających wymaganiom.

Dane wyjściowe generowane przez systemy AI mogą wywoływać skutki w środowisku fizycznym lub wirtualnym. Systemy AI, w tym systemy oparte na uczeniu maszynowym oraz systemy oparte na logice lub wiedzy, różnią się od systemów niebędących systemami AI zdolnością do generowania danych wyjściowych, takich jak prognozy, treści, rekomendacje i decyzje, ponieważ potrafią one obsłużyć złożone zależności i wzorce w danych. Systemy AI mogą generalnie generować bardziej zniuansowane dane wyjściowe niż inne systemy, na przykład poprzez wykorzystanie wzorców poznanych podczas uczenia się lub poprzez stosowanie zdefiniowanych przez ekspertów reguł do podejmowania decyzji, oferując bardziej wyrafinowane wnioskowanie w ustrukturyzowanych środowiskach.

Wytyczne podkreślają, że systemy AI nie są bierne, ale aktywnie wpływają na środowiska, w których są wdrażane, i mogą wchodzić w interakcje zarówno ze środowiskami fizycznymi (roboty), jak i cyfrowymi (oprogramowanie).

Systemy, które usprawniają optymalizację matematyczną lub przyspieszają tradycyjne metody, takie jak regresja liniowa lub logistyczna, są wyłączone. Systemy te, mimo że są zdolne do wnioskowania, nie wykraczają poza podstawowe przetwarzanie danych i są wykorzystywane w sposób utrwalony od wielu lat.

Systemy, które postępują zgodnie z predefiniowanymi, wyraźnymi instrukcjami lub operacjami bez uczenia się, wnioskowania lub modelowania na żadnym etapie, nie są uważane za systemy AI. Przykładami są systemy zarządzania bazami danych i standardowe oprogramowanie arkuszy kalkulacyjnych, które nie zawierają funkcji AI.

Systemy te wykorzystują metody oparte na doświadczeniu, aby znaleźć przybliżone rozwiązania w wydajny sposób, opierając się na podejściach opartych na regułach, a nie na uczeniu się opartym na danych. Brakuje im zdolności adaptacyjnych i generalizacji systemów AI.

Systemy oparte na maszynach, które wykorzystują podstawowe reguły uczenia statystycznego, takie jak przewidywanie przyszłych cen akcji przy użyciu średnich historycznych, również nie mieszczą się w definicji systemu AI ze względu na ich ograniczone możliwości.