Komisja Europejska przedstawiła plan działania na rzecz ustrukturyzowanej reakcji w celu przeciwdziałania zagrożeniom i wykorzystania możliwości związanych z zaawansowanymi modelami sztucznej inteligencji (AI) w zakresie cyberbezpieczeństwa.

Nowe zaawansowane modele sztucznej inteligencji na nowo definiują cyberbezpieczeństwo. Sztuczna inteligencja może być niewłaściwie wykorzystywana do identyfikacji luk w zabezpieczeniach, automatyzacji ataków oraz zwiększenia skali i szybkości incydentów cybernetycznych w niespotykanym dotąd tempie.

Opierając się na unikalnych unijnych ramach prawnych dotyczących sztucznej inteligencji i cyberbezpieczeństwa, plan działania połączy państwa członkowskie, przemysł i organizacje na szczeblu UE w celu wzmocnienia cyberbezpieczeństwa naszego krajobrazu cyfrowego w obliczu podatności stwarzanych przez zaawansowaną sztuczną inteligencję.  

Ocena modeli sztucznej inteligencji

Skuteczne bezpieczeństwo wymaga dogłębnego zrozumienia, w jaki sposób nowe technologie mogą być wykorzystywane, nadużywane i wykorzystywane. Zgodnie z aktem w sprawie sztucznej inteligencji przed wprowadzeniem modeli do obrotu w UE należy ocenić zaawansowane modele sztucznej inteligencji i starannie ocenić środki łagodzące.

Aby wspierać rodzimą wiedzę fachową, Komisja opublikuje specjalne zaproszenie do składania wniosków w celu ustanowienia zdolności UE w zakresie oceny, obejmującej cyberbezpieczeństwo, która ma zostać uruchomiona w 2027 r. Ta nowa zdolność przyczyni się do realizacji funkcji regulacyjnej Urzędu ds. Sztucznej Inteligencji poprzez wzmocnienie zewnętrznej oceny zdolności i zagrożeń związanych ze sztuczną inteligencją na całym świecie.

Dostęp do zaawansowanych modeli AI

Europa potrzebuje również jasnych i przejrzystych warunków dostępu do najbardziej zaawansowanych systemów sztucznej inteligencji.

Komisja będzie współpracować z Agencją UE ds. Cyberbezpieczeństwa (ENISA) w celu określenia europejskiegoplanu ustrukturyzowanego dostępu do zaawansowanych zdolności w zakresie sztucznej inteligencji na potrzeby cyberbezpieczeństwa. Wytyczne te będą wspierać odpowiednie europejskie organizacje publiczne i prywatne w uzyskiwaniu dostępu do zaawansowanych modeli sztucznej inteligencji.

Testowanie sztucznej inteligencji na potrzeby cyberbezpieczeństwa

ENISA i Wspólne Centrum Badawcze Komisji utworzą bezpieczną platformę do testowania sztucznej inteligencji pod kątem cyberbezpieczeństwa, w tym z wykorzystaniem symulowanych środowisk. Zapewni to operatorom w sektorach krytycznych, takich jak finanse, energia, zdrowie, transport i administracja publiczna, wiedzę fachową na temat bezpiecznego stosowania sztucznej inteligencji.

Wzmocnienie cyberbezpieczeństwa UE i usuwanie luk w zabezpieczeniach

UE musi chronić swoją infrastrukturę krytyczną przed podatnościami wynikającymi z potencjalnego niewłaściwego wykorzystania tych technologii.

Jak przewidziano w unijnych przepisach dotyczących cyberbezpieczeństwa, organizacje powinny zintensyfikować praktyki w zakresie cyberhigieny, środki zarządzania ryzykiem i zasady uwzględniania bezpieczeństwa na etapie projektowania.  

Organizacje powinny zacząć wykorzystywać już dostępne zdolności w zakresie sztucznej inteligencji, w tym za pośrednictwem modeli otwartego oprogramowania, aby szybciej identyfikować i naprawiać luki w zabezpieczeniach, a także zapobiegać cyberatakom i reagować na nie.

Aby pomóc organizacjom w tej transformacji, ENISA będzie wspierać i ułatwiać partnerstwa między organami publicznymi, przedsiębiorstwami i społecznościami otwartego oprogramowania w ekosystemie cyberbezpieczeństwa. Obejmie to wytyczne, zalecenia i najlepsze praktyki, a także kampanię na rzecz zabezpieczenia krytycznego oprogramowania typu open source.  

Skalowanie europejskich zdolności w zakresie sztucznej inteligencji na potrzeby cyberbezpieczeństwa

Aby pobudzić europejski rynek do ekspansji, Komisja zainicjuje „Wielkie wyzwanie UE w zakresie sztucznej inteligencji na rzecz cyberbezpieczeństwa”. Konkurs ten zgromadzi przedsiębiorstwa, naukowców i organizacje w celu opracowania rozwiązań w zakresie sztucznej inteligencji na potrzeby cyberbezpieczeństwa.

UE musi nadal inwestować w rozwój własnych suwerennych zaawansowanych zdolności w zakresie sztucznej inteligencji, wykorzystując infrastrukturę zapewnianą przez fabryki sztucznej inteligencji i przyszłe gigafabryki. W tym kontekście przyszły europejski potencjał kapitałowy w zakresie technologii, zapowiedziany w pakiecie na rzecz suwerenności technologicznej, mógłby przyciągnąć inwestycje prywatne w celu zwiększenia rodzimych zdolności w zakresie sztucznej inteligencji.

Kontekst

UE dysponuje ramami prawnymi dostosowanymi do kwestii cyberbezpieczeństwa w dobie pojawiających się technologii, takich jak sztuczna inteligencja. Akt w sprawie sztucznej inteligencji wymaga oceny i ograniczenia ryzyka związanego z modelami sztucznej inteligencji, natomiast kodeks postępowania w zakresie sztucznej inteligencji ogólnego przeznaczenia doprecyzowuje te wymogi i ułatwia ich przestrzeganie przez dostawców zaawansowanych modeli. Przepisy te zaczną być egzekwowane 2 sierpnia 2026 r.

Akt w sprawie cyberodporności, który ma mieć zastosowanie do końca 2027 r., przewiduje uwzględnienie bezpieczeństwa już w fazie projektowania w odniesieniu do sprzętu i oprogramowania. Ponadto dyrektywa w sprawie sieci i systemów informatycznych lub dyrektywa NIS 2 ma na celu zwiększenie bezpieczeństwa sektorów krytycznych, takich jak transport i energia, wraz z aktem w sprawie operacyjnej odporności cyfrowej (DORA) dla sektora finansowego. Akt w sprawie cybersolidarności wzmacnia zdolności UE w zakresie wykrywania poważnych i zakrojonych na szeroką skalę zagrożeń i ataków w cyberprzestrzeni, przygotowywania się na nie i reagowania na nie.

Więcej informacji

Plan działania w zakresie cyberbezpieczeństwa i sztucznej inteligencji

Strona informacyjna