AI Act – co i kiedy należy oznaczać?

Od początku sierpnia pojawił się nowe obowiązki dotyczące przejrzystości korzystania ze sztucznej inteligencji, wynikające z AI Act. Najważniejsze jest to, aby podkreślić, że nie każde użycie AI trzeba oznaczać.

Kluczowe zmiany dotyczą konieczności m.in. przepisy dotyczące informowania o interakcji z AI, oznaczania określonych treści generowanych lub zmienianych przez AI, deepfake’ów oraz niektórych tekstów dotyczących spraw leżących w interesie publicznym. Trzeba przy tym rozróżnić obowiązki dostawcy systemu AI od obowiązków podmiotu stosującego AI.

Dostawca systemu AI ma m.in. zapewnić możliwość wykrycia, że określone treści zostały wygenerowane lub zmodyfikowane przez AI. Chodzi m.in. o oznaczenia w formacie nadającym się do odczytu maszynowego. Nas – jako użytkowników takich narzędzi – zdecydowanie częściej będzie interesował drugi przypadek.

Co muszę zrobić z materiałem, który powstał przy wykorzystaniu AI, zanim go opublikuję, aby nie naruszyć nowych przepisów?

Jeżeli tworzymy realistyczne zdjęcie ludzi uczestniczących w koncercie, który nigdy się nie odbył, albo wykorzystujemy prawdziwe zdjęcie sali, ale AI dodaje do niego publiczność, dekoracje czy występujących artystów – powinna zapalić się nam czerwona lampka. Odbiorca może przecież pomyśleć: „Tak wyglądało to wydarzenie”, chociaż w rzeczywistości nigdy tak nie wyglądało. Obowiązek oznaczenia treści powstaje zawsze wtedy, gdy takie narzędzie generuje nową rzeczywistość, tzn. wygeneruje osobę, zmieni istotnie jej wygląd, stworzy nowe tło, doda elementy, których na zdjęciu wcześniej nie było, wygeneruje głos albo całe nagranie. Może np. na bazie prawdziwego zdjęcia wygenerować nowe, wskazujące osoby znajdujące się na tym zdjęciu w nowych okolicznościach. Nie ma znaczenia, czy na zdjęciu jesteśmy my sami, czy ktoś inny. Nie ma znaczenia, czy okoliczności są negatywne (kompromitująca sytuacja), czy pozytywne (zdjęcie z wakacji, na których nigdy nie byliśmy).

I właśnie przed takim wprowadzaniem odbiorcy w błąd mają chronić przepisy AI Act.

Natomiast jeżeli wykorzystaliśmy AI wyłącznie do poprawienia kolorów, korekcji światła, usunięcia szumów, wyostrzenia zdjęcia, skalowania, kompresji, niewielkiego retuszu technicznego, nie ma konieczności oznaczania materiału. Podobnie nie będzie obowiązku oznaczania nierzeczywistej grafiki, np. plakatu, na którym AI wygenerowała sympatycznego smoka siedzącego przy sztaludze i malującego obraz (czy ktokolwiek uzna, że organizator rzeczywiście zatrudnił smoka do prowadzenia warsztatów? ;-)). Jeżeli materiał jest ewidentnie ilustracją, rysunkiem, grafiką wektorową, komiksem czy fantastyczną stylizacją, ryzyko wprowadzenia odbiorcy w błąd co do jego autentyczności jest zupełnie inne niż w przypadku fotorealistycznego obrazu.

Dlatego nie ma automatycznego oznaczania wszystkiego, co powstało przy wykorzystaniu generatywnej AI. Zresztą takie podejście szybko doprowadziłoby do absurdu.

A jeśli ChatGPT napisał tekst? To kolejny częsty przypadek. Pracownik przygotowuje informację o wydarzeniu. Prosi ChatGPT o poprawienie stylu, skrócenie tekstu albo przygotowanie propozycji wpisu na Facebooka. Czy pod każdym takim tekstem trzeba teraz umieścić informację: „Tekst przygotowany przy wykorzystaniu sztucznej inteligencji”?

Nie. AI Act przewiduje szczególny obowiązek w odniesieniu do tekstu wygenerowanego lub zmanipulowanego przez AI, który jest publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym. Ale nawet tutaj przewidziano istotny wyjątek. Obowiązek ujawnienia nie znajduje zastosowania, jeżeli treść została poddana weryfikacji przez człowieka lub kontroli redakcyjnej, a osoba fizyczna lub prawna ponosi odpowiedzialność redakcyjną za jej publikację. To bardzo ważne rozróżnienie. Samo wykorzystanie ChatGPT do przygotowania pierwszej wersji tekstu nie zwalnia oczywiście człowieka z odpowiedzialności za to, co ostatecznie zostanie opublikowane.
Kluczowa zatem jest zasada, że AI może przygotować propozycję, ale to człowiek odpowiada za ostateczną treść.

I jeszcze jedno. Łatwo sprowadzić nowe obowiązki do pytania, czy na grafice trzeba umieścić napis „AI”. Tymczasem organizacja powinna zrobić trochę więcej. Przede wszystkim pracownicy korzystający z narzędzi AI powinni wiedzieć, z jakich narzędzi mogą korzystać i do czego. Powinni również rozumieć podstawowe ryzyka związane z wprowadzaniem do takich narzędzi danych osobowych, informacji poufnych czy dokumentów wewnętrznych. AI Act wprowadził również obowiązek zapewnienia odpowiedniego poziomu kompetencji w zakresie AI osób, które korzystają z systemów sztucznej inteligencji w imieniu organizacji.

Dlatego szkolenie pracowników, ustalenie podstawowych zasad korzystania z AI i przygotowanie prostej instrukcji może być znacznie ważniejsze niż kolejna rozbudowana polityka, której nikt później nie przeczyta.

Ponieważ teoria teorią, ale przy projektowaniu plakatu potrzebna jest odpowiedź na znacznie prostsze pytanie – „oznaczyć czy nie?” – przygotowałam Krótką instrukcję dotyczącą oznaczania treści wygenerowanych lub zmodyfikowanych przez AI.

Materiał obejmuje grafiki do mediów społecznościowych, plakaty i ulotki, materiały na strony internetowe, prezentacje, filmy promocyjne, materiały szkoleniowe i ilustracje wykorzystywane podczas warsztatów.

Znajdziecie w nim również prostą tabelę z przykładami – od zwykłego rozjaśnienia zdjęcia, przez wygenerowane tło, aż po fotorealistycznych uczestników wydarzenia czy syntetycznego lektora.