WiedzaNews
Sztuczna inteligencja

Konferencja „AI Governance – od regulacji do praktycznego zarządzania sztuczną inteligencją”

Gabriela Bar miała przyjemność wystąpić w pierwszym panelu dyskusyjnym podczas konferencji „AI Governance – od regulacji do praktycznego zarządzania sztuczną inteligencją”, organizowanej przez Stowarzyszenie Prawa Nowych Technologii oraz Wydawnictwo C.H.Beck.

Jednym z tematów, na które zwróciła szczególną uwagę, są zmiany w AI Act wprowadzane w ramach Digital Omnibus AI. Pakiet ten nie ogranicza się do uproszczeń dla przedsiębiorców, lecz rozszerza również katalog praktyk zakazanych w art. 5 rozporządzenia.

Dotychczas AI Act koncentrował się w przypadku deepfake’ów przede wszystkim na transparentności. Tymczasem obowiązek poinformowania, że materiał został wygenerowany przez sztuczną inteligencję, i zakaz jego tworzenia to dwie zasadniczo różne kwestie.

Szczególnie istotne są dwa nowe zakazy.

Pierwszy dotyczy niekonsensualnych, realistycznych treści intymnych. Obejmuje systemy AI generujące lub manipulujące realistycznymi materiałami przedstawiającymi intymne części ciała możliwej do zidentyfikowania osoby albo tę osobę w czynnościach o wyraźnie seksualnym charakterze, bez jej odpowiedniej zgody. Chodzi między innymi o aplikacje typu „nudify” lub „undress”, które na podstawie zwykłego zdjęcia tworzą realistyczne przedstawienie osoby nago lub w sytuacji seksualnej.

Nie można zakładać, że skoro materiał nie przedstawia rzeczywistego zdarzenia, to wyrządzona za jego pomocą szkoda również jest nierealna. Takie treści mogą naruszać godność, prywatność i reputację, a także prowadzić do przemocy seksualnej, szantażu czy nękania.

Z perspektywy AI Governance ważne jest również to, że dostawca systemu nie powinien poprzestawać na oświadczeniu użytkownika, że posiada wszystkie wymagane zgody. Mechanizm uzyskiwania i wykazywania zgody powinien być uwzględniony już na etapie projektowania systemu.

Drugi zakaz dotyczy materiałów przedstawiających seksualne wykorzystywanie dzieci. Obejmuje zarówno manipulowanie rzeczywistymi zdjęciami, jak i materiały syntetyczne, w tym realistyczne obrazy przedstawiające dziecko uczestniczące w zachowaniach seksualnych lub osobę wyglądającą jak dziecko.

W przypadku osób dorosłych regulacja koncentruje się na ochronie autonomii seksualnej i znaczeniu zgody. W przypadku materiałów przedstawiających seksualne wykorzystywanie dzieci nie ma analogicznej możliwości uzasadnienia ich tworzenia zgodą osoby przedstawionej na materiale.

Istotny jest także sygnał skierowany do dostawców systemów AI. Znaczenie mają nie tylko systemy zaprojektowane bezpośrednio do tworzenia zakazanych treści, lecz również to, czy ich generowanie jest racjonalnie przewidywalnym i odtwarzalnym rezultatem działania systemu oraz czy dostawca wdrożył odpowiednie zabezpieczenia.

Oba nowe zakazy zostały przyjęte w rozporządzeniu 2026/1744, a ich stosowanie rozpocznie się 2 grudnia 2026 r.

To właśnie te zmiany są szczególnie istotne. Pokazują one, że między obowiązkiem zapewnienia transparentności a zakazem określonego zastosowania sztucznej inteligencji istnieje zasadnicza różnica.

News
Sztuczna inteligencja