Co właściwie znaczy „transparentne AI”? Czy wystarczy napisać użytkownikowi, że rozmawia ze sztuczną inteligencją? A może przejrzystość zaczyna się dopiero wtedy, kiedy człowiek naprawdę rozumie, z czym ma do czynienia i potrafi odpowiednio ocenić odpowiedź systemu?
W tym odcinku podcastu Behavior AI Gabriela Bar rozmawia z Kasią Szczęsną o przejrzystości systemów AI z dwóch perspektyw: prawa oraz projektowania technologii z uwzględnieniem tego, jak ludzie podejmują decyzje i reagują na systemy oparte na AI.
Punktem wyjścia jest art. 50 AI Act, którego obowiązki są stosowane od 2 sierpnia 2026 r.
Rozmawiamy o tym:
- kiedy użytkownik powinien zostać poinformowany, że wchodzi w interakcję z AI,
- co w praktyce oznacza, że charakter systemu jest dla użytkownika „oczywisty”,
- dlaczego inaczej należy myśleć o przejrzystości w rozmowie tekstowej, a inaczej w przypadku naturalnie brzmiącego asystenta głosowego,
- jak projektować komunikaty dotyczące AI, żeby nie stały się ani ścianą prawnego tekstu, ani niewidocznym zdaniem ukrytym w regulaminie.
Omawiamy również deepfake’i, treści generowane przez AI, rozpoznawanie emocji oraz różnicę pomiędzy oznakowaniem treści dla systemów technicznych a informacją, którą rzeczywiście powinien zobaczyć człowiek.
Ale prawo jest tylko częścią tej rozmowy.
Zastanawiamy się również nad tym:
- czy projektanci systemów AI stają się w pewnym sensie „architektami zachowań”,
- jak ograniczać błąd automatyzacji,
- jak projektować interakcję z AI tak, aby wspierała krytyczne myślenie użytkownika zamiast je osłabiać,
- jakie ryzyka dla firmy mogą wynikać z niewłaściwego wdrożenia obowiązków przejrzystości,
- dlaczego problemem może być nie tylko kara administracyjna, ale również konieczność przebudowy produktu,
- jakie są ryzyka konsumenckie czy kontraktowe,
- oraz jakie trzy błędy najczęściej popełniają firmy przekonane, że „art. 50 mają już załatwiony”.
To rozmowa o przejrzystości rozumianej szerzej niż obowiązek informacyjny. O tym, jak prawo, projektowanie produktu i wiedza o ludzkich zachowaniach spotykają się w jednym miejscu — i jak zachować sprawczość człowieka w relacji z coraz bardziej naturalnie komunikującymi się systemami AI.
Serdecznie zapraszamy do wysłuchania.