Prawo AI w marketingu. Jak korzystać z narzędzi AI bez ryzyka? #OcotenSzum

Prawo AI w marketingu to nie tylko pytanie o to, czy można wpisywać dane osobowe do ChatGPT. Zanim firma zacznie korzystać z generatywnej sztucznej inteligencji, powinna ustalić, po co jej te narzędzia, jakie dane będzie do nich przekazywać i co zrobi, gdy usługa przestanie działać. W rozmowie wyjaśniamy, co prawo AI oznacza w praktyce dla marketerów – od AI Actu i oznaczania treści, przez prawa autorskie i deepfake’i, po cyfrowych bliźniaków oraz odpowiedzialność za halucynacje modeli.

Czytasz transkrypcję z odcinka videocastu „O co ten Szum?”, w którym gościliśmy Paula Skrzypecka. Jeśli chcesz posłuchać tego epizodu, zaobserwuj nas na YouTube lub Spotify.

Prawo AI w firmie: od czego zacząć bezpieczne korzystanie z AI?

Dzisiaj będziemy trochę marudzić na bezpieczeństwo, prywatność i prawo związane ze sztuczną inteligencją. Zacznijmy więc od podstaw. Załóżmy, że dział marketingu w polskiej firmie chce szeroko korzystać z generatywnej AI. Jakie pierwsze pytania o bezpieczeństwo i prywatność powinien sobie zadać, zanim wybierze konkretne rozwiązanie?

Domyślam się, że to pytanie padało już w tym wideokaście, ale z perspektywy bezpieczeństwa odpowiedź jest dokładnie taka sama: po co?

To definiuje, czego naprawdę potrzebujemy i jakiego narzędzia powinniśmy szukać. Kiedy wiemy, jakiej funkcjonalności oczekujemy, możemy sprawdzić jej lustrzane odbicie – jakie zabezpieczenia oferuje dostawca, a czego nie gwarantuje.

Załóżmy jednak, że mamy już za sobą etap „five whys” i inne mądre rzeczy z mądrych książek. Wiemy, do czego potrzebujemy sztucznej inteligencji. Wtedy podzieliłabym bezpieczeństwo na dwie warstwy.

Pierwsza wynika z samego sposobu świadczenia usługi. Gdy zajrzymy do warunków ChatGPT czy podobnego narzędzia, może się okazać, że korzystamy ze zwykłego konta subskrypcyjnego, z którego w dowolnym momencie wszystko może zniknąć. Nie mamy na to wpływu i nie musimy zostać wcześniej poinformowani.

Czy od razu kojarzymy to z bezpieczeństwem? Niekoniecznie. A przecież redundantność systemu, kopie zapasowe i możliwość odtworzenia informacji to podstawy każdej poważnej polityki bezpieczeństwa.

Pierwsze pytanie brzmi więc: co wynika z warunków biznesowych? Czy mamy gwarancję, że dane będą dostępne przez cały okres subskrypcji? Czy mogą zostać usunięte? Kto może mieć do nich dostęp?

Jeżeli korzystamy z narzędzia zespołowo, pracodawca może mieć wgląd w prompty pracowników. Nie każdemu będzie to odpowiadało. Jeżeli jesteśmy pracodawcą i zależy nam na takiej transparentności, powinniśmy jasno poinformować zespół, że mamy dostęp do tych informacji.

Druga warstwa to bezpieczeństwo informacji w bardziej klasycznym rozumieniu. Trzeba sprawdzić, czy dostawca trenuje modele na danych, które wprowadzamy. Czy możemy z tego zrezygnować? Czy istnieje opt-out? Czy dane trafiają wyłącznie do modeli tego dostawcy, czy także do jego partnerów?

W warunkach Groka można znaleźć nie tylko samego dostawcę, lecz także sieć partnerów i podmiotów powiązanych, które również mogą korzystać z danych. Z perspektywy prawnej nie istnieje dziś jeden przepis, który automatycznie nakazywałby wszystkim dostawcom przyjęcie zasady: nie trenujemy na twoich danych, dopóki wyraźnie się na to nie zgodzisz.

Praktyka zmierza w stronę opt-inu. Organy ochrony danych osobowych coraz wyraźniej sugerują, że samo umożliwienie opt-outu może nie wystarczyć. W zastosowaniach biznesowych możliwość wyłączenia trenowania na naszych danych nadal jest jednak jedną z pierwszych rzeczy, które warto sprawdzić.

Prawo AI a dane osobowe: chmura, dostawcy i warunki korzystania

Czyli firma musi też zdecydować, czy do tych narzędzi w ogóle wolno wrzucać dane osobowe?

Tak. To decyzja organizacji. Nie ma przepisu, który z automatu zabraniałby wprowadzania danych osobowych do narzędzi AI. W całym RODO nie ma bezwzględnych zakazów, od których nie istniałyby wyjątki. Jeżeli ktoś mówi: „nie możemy, bo RODO”, często przykrywa tym inny problem.

Trzeba natomiast sprawdzić, czy dostawca w ogóle przewiduje, że użytkownik będzie przekazywał dane osobowe. Jeżeli tak, powinien określić zasady ich przetwarzania.

Pojawia się wtedy umowa powierzenia przetwarzania danych osobowych. Brzmi groźnie, ale chodzi o dodatkowy dokument opisujący, na jakich zasadach dostawca usługi uzyskuje dostęp do danych, które wprowadzamy. Nie ma znaczenia, czy budujemy prostego asystenta, czy całą sieć agentową.

Kontrolujący bardzo lubią sprawdzać, czy taka umowa została zawarta. Większość dużych dostawców, takich jak OpenAI czy Anthropic, ma własne wzory, które akceptujemy przy zakupie subskrypcji. Zwykle więc da się ten punkt odhaczyć, ale trzeba o nim pamiętać.

Kolejne pytanie brzmi: dokąd trafiają dane? Co dostawca komunikuje o miejscu ich przechowywania? Czy mogą powstać kopie, które trafią do innych lokalizacji?

To częsty dylemat w branżach regulowanych – finansach, bankowości, medtechu czy farmacji. Tam także prowadzi się działania marketingowe, tylko dochodzą do nich szczególne wymogi prawne i bezpieczeństwa.

Firmy pytają wtedy: czy możemy przechowywać dane w chmurze? Czy chmura musi znajdować się w Polsce albo przynajmniej w Unii Europejskiej? Co, jeżeli dostawca pochodzi ze Stanów Zjednoczonych i jakaś część informacji i tak trafia na amerykańskie serwery?

Czasem możemy wybrać region przechowywania danych. Bywa jednak, że na podstawie amerykańskich przepisów dostawca przesyła do Stanów nie same dane wprowadzone do modelu, lecz informacje o sposobie korzystania z usługi. To również warto uwzględnić.

Im bardziej regulowana branża, tym większe znaczenie ma ten temat. W praktyce cały czas rozmawiamy o poufności informacji i o tym, co dostawca jest gotów nam zagwarantować.

Ostatni element podstawowego katalogu to SLA, czyli uzgodniony poziom świadczenia usługi. Czy w ogóle go mamy? Co się stanie, gdy kluczowe procesy marketingowe zaczną zależeć od jednego modelu albo od agregatora łączącego kilka modeli i usługa przestanie działać?

Wszyscy widzieliśmy okresowe płacze na LinkedInie: Claude nie działa, więc przez 24 godziny jest mniej postów i ludzie nagle nie są aż tak mądrzy. Brak bezcennych refleksji o życiu to jeszcze pół biedy. Gorzej, gdy zatrzymują się procesy ważne dla firmy.

Wtedy trzeba wrócić do ręcznej pracy jak zwierzęta. Może się jednak okazać, że organizacja tak bardzo przestawiła się na AI, że nie jest już do tego gotowa. Pojawiają się opóźnienia, a w skrajnym przypadku konsekwencje w relacjach z klientami.

Dlatego warto sprawdzić, czego możemy oczekiwać przy zgłaszaniu błędów i awarii. Jak dostawca komunikuje opóźnienia? Co dzieje się po wyczerpaniu tokenów? Zasilamy konto, ale tokenów nadal nie ma – z kim i w jaki sposób rozmawiamy?

Bez odpowiedzi na te pytania trudno mówić o bezpiecznym korzystaniu z narzędzia.

Prawo AI a oznaczanie treści: kiedy trzeba informować o wykorzystaniu sztucznej inteligencji?

Wspomniałaś o danych i warunkach korzystania z narzędzi, ale mamy też AI Act. Wprowadza on konkretne obowiązki, między innymi informowanie o treściach wygenerowanych lub istotnie przerobionych przez sztuczną inteligencję. W marketingu AI służy przecież nie tylko do analizy. Generuje posty na LinkedIn, obrazy, reklamy i filmy. Które treści trzeba oznaczać wprost, a kiedy możemy potraktować AI jako zwykłe wsparcie i nie komunikować formalnie jego użycia?

Pierwsza sytuacja dotyczy bezpośredniej interakcji człowieka z systemem sztucznej inteligencji. Nieważne, czy nazwiemy go chatbotem, modelem czy wirtualnym asystentem. Jeżeli użytkownik rozmawia bezpośrednio z systemem konwersacyjnym, musi wiedzieć, że po drugiej stronie nie ma człowieka.

Na początku powinien pojawić się jasny komunikat: „Rozmawiasz z wirtualnym asystentem Mańkiem. Maniek jest botem i nie udaje człowieka”.

Zdarza mi się widzieć Mańka, który jednak bardzo chce udawać człowieka.

Mnie też. I to w branżach, po których bym się tego nie spodziewała. Jako użytkowniczka dostaję czasem telefony od voicebotów firm ubezpieczeniowych lub medycznych, które absolutnie nie chcą zasugerować, że są botami.

W idealnym świecie każda treść generowana bezpośrednio w rozmowie z użytkownikiem jest odpowiednio oznaczona, niezależnie od tematu tej rozmowy.

Druga grupa to deepfake’i. W pewnym uproszczeniu AI Act opisuje je jako treści przedstawiające osobę wykonującą czynność, której faktycznie nie wykonała, choć mogłaby ją wykonać.

Możliwe jest na przykład, że prezydent uczestniczył konkretnego dnia w uroczystości w Pałacu Prezydenckim. Istnieje też jakiś cień prawdopodobieństwa, że pojawił się tam w płetwach i bikini, ale nie możemy tego rozsądnie zakładać. Jeżeli tworzymy taką zmanipulowaną treść, powinna zostać oznaczona jako wygenerowana przez AI.

Do deepfake’ów jeszcze wrócimy, bo mam kilka konkretnych kampanii, które chciałbym z tobą rozebrać na części.

I dobrze, ale najpierw ważny wyjątek. AI Act pozwala nie oznaczać deepfake’a, gdy jest oczywiste, że przedstawiona sytuacja nigdy się nie wydarzyła.

Tylko co to znaczy „oczywiste”? Czy jest oczywiste, że prezydent nigdy nie założy płetw? Być może. To jednak pytanie z pewnym ładunkiem filozoficznym. AI Act ma w sobie trochę takich fragmentów. Obowiązek oznaczania treści o potencjale deepfake’owym istnieje, chyba że ich fikcyjność jest oczywista. Praktyka dopiero pokaże, gdzie przebiega granica.

A co z reklamą Coca-Coli stworzoną przy użyciu AI? Co roku ludzie czekają na świąteczny spot, a jedna z tych kampanii mocno rozczarowała część odbiorców, bo była wygenerowana. Taki materiał trzeba oznaczać?

Z perspektywy samego AI Actu – niekoniecznie. To nie jest treść, która ma istotny potencjał dezinformowania lub manipulowania odbiorcą.

Coca-Cola poinformowała, że spot powstał z użyciem AI. Nie wynikało to jednak bezwzględnie z AI Actu. Taki obowiązek może za to wynikać z regulaminu platformy. Meta, LinkedIn i inne serwisy wymagają oznaczania określonych treści syntetycznych.

Dochodzi też etyka i dobre praktyki branżowe. Stowarzyszenia marketingowe promują transparentność i zachęcają do informowania o wykorzystaniu AI. Prawny obowiązek może nie istnieć, ale bez oznaczenia nie opublikujemy reklamy na wybranej platformie.

Jest jeszcze wyjątek dla działalności o oczywiście komediowym, satyrycznym lub artystycznym charakterze. To dość pojemny worek, a marketing często spotyka się z satyrą.

W zasadzie nawet świąteczną reklamę Coca-Coli można by pod to podciągnąć. Niedźwiedzie polarne raczej rzadko piją coca-colę.

To prawda. Można mówić o żarcie albo artystycznym wyrazie. Ta furtka będzie zapewne intensywnie eksplorowana przez firmy, które będą chciały ograniczyć obowiązki wynikające z AI Actu.

Spodziewam się jednak, że szybko pojawi się próba zawężenia tego wyjątku. Satyra, komentarz do rzeczywistości i działalność artystyczna – tak, ale być może pod warunkiem, że nie mają charakteru komercyjnego. Wtedy spora część typowych zastosowań marketingowych wypadnie poza wyjątek.

Podobne ograniczenia znamy z prawa autorskiego, na przykład z bardzo ostrożnego podejścia do prawa cytatu w reklamie. Podejrzewam więc, że praktyka będzie zmierzała do chronienia działalności stricte artystycznej, a nie każdej kampanii, którą marka nazwie żartem.

Prawo AI a prawa autorskie: kto ma prawa do treści wygenerowanej przez AI?

Skoro już zahaczyliśmy o prawo autorskie, to do kogo właściwie należy treść wygenerowana przez sztuczną inteligencję? Słyszę bardzo różne odpowiedzi. ZAiKS podkreśla na przykład, że muzyka wygenerowana w narzędziu takim jak Suno nie jest utworem, tylko wytworem. Czyli gdy ktoś nam, mówiąc brzydko, „ukradnie” taką piosenkę, możemy niewiele zrobić, bo ona od początku nie była nasza.

Z drugiej strony regulaminy narzędzi często mówią, że w płatnym planie wolno wykorzystywać wygenerowane treści komercyjnie. Czy możliwość użycia komercyjnego oznacza własność? Czy dostajemy jakąś licencję? Jak to działa w praktyce?

Możliwość wykorzystania komercyjnego oznacza, że dostawca potwierdza nasze prawo do korzystania z materiału. Nie daje nam jednak wyłączności. I właśnie brak wyłączności najczęściej będzie bolał.

Zasada generalna jest taka: utworem może być to, co stworzył człowiek. Jeżeli wpisujemy prompt, dostajemy output, niczego w nim nie zmieniamy i publikujemy go na firmowych profilach, wolno nam to zrobić. Nie mamy jednak wyłącznego prawa do tej treści.

Taki materiał może krążyć podobnie jak treść z domeny publicznej – to uproszczenie, ale oddaje praktyczny problem. Ktoś inny może go wziąć i również wykorzystać.

Regulaminy dostawców zwykle mają kilka wspólnych elementów. Po pierwsze potwierdzają, że możemy korzystać z outputu. Po drugie określają, czy wolno robić to komercyjnie. Ograniczenia mogą zależeć od planu: w jednym nie wolno wykorzystywać materiału w biznesie, w innym wolno, a czasem można nawet próbować zarejestrować wygenerowane logo jako znak towarowy.

Jeżeli złamiemy regulamin i użyjemy komercyjnie treści z planu, który tego zabrania, nie uruchamia się automatycznie AI Act ani inna specjalna regulacja. Dostawca może mieć wobec nas roszczenie za naruszenie umowy. Sam materiał nie przestaje jednak magicznie działać jako reklama.

W regulaminach pojawia się czasem słowo „licencja”, ale nie musi oznaczać klasycznej licencji prawnoautorskiej. Jeżeli output nie jest utworem, pozostajemy poza typowym systemem prawa autorskiego.

To podobna pułapka jak w projektach IT. Firma zamawia aplikację w software house’ie, płaci fakturę i uznaje, że automatycznie ma prawa autorskie.

„Przecież zapłaciłem fakturę”.

Właśnie. Tylko wykonanie aplikacji to jedno, a przeniesienie praw autorskich – drugie.

Zaskakuje mnie, że nadal wiele osób o tym nie wie. Podpisywałem przeniesienie praw wielokrotnie, gdy tworzyłem teksty i inne materiały, więc wydawało mi się, że to dość oczywiste.

Nie jest intuicyjne dla każdego, ale w przypadku AI działa podobna logika. Dostajemy coś, z czego możemy korzystać w określonych ramach. Nie oznacza to jeszcze nabycia praw autorskich.

Ciekawiej robi się wtedy, gdy człowiek zaczyna output poprawiać, modyfikować, łączyć z innymi elementami i twórczo rozwijać. Pojawia się pytanie: od jakiej intensywności wkładu człowieka zaczyna się utwór?

Prawo nie odpowiada na to procentowo. Nie dostaniemy tabeli mówiącej, że przy 30 procentach zmian powstaje ochrona, a przy 29 jeszcze nie.

Instytucje unijne już jakiś czas temu wymieniały między sobą pisma na ten temat. Pewnie przeczytało je pięć osób na świecie, w tym ja, bo kogo to interesuje. Wniosek był taki, że procentowy sposób wyznaczania ludzkiego wkładu raczej się nie przyjmie.

Pozostaje więc argumentowanie: wprowadziłam konkretne modyfikacje, mój wkład twórczy polegał na tym i na tym, a od tego momentu rezultat jest utworem i podlega ochronie.

Jak to wyegzekwować w praktyce?

W relacji między klientem a agencją marketingową jest stosunkowo łatwo. Strony mogą ustalić w umowie, z jakich narzędzi wolno korzystać i co dzieje się z materiałem po modyfikacjach.

Możemy wpisać, że jeśli agencja twórczo zmienia output, strony traktują rezultat jako utwór. Następnie agencja przenosi prawa na klienta albo udziela mu licencji – zależnie od modelu współpracy.

Rozwiązujemy problem we własnym, umownym świecie. To działa i od lat stosuję takie klauzule zarówno w projektach technicznych, jak i marketingowych.

Czy to rozwiązanie idealne i odporne na każdy spór? Nie. Jest jednak możliwe w obecnych warunkach. Klauzule ewoluują razem z regulaminami, praktyką agencji i oczekiwaniami klientów.

Trudniej ma freelancer lub twórca publikujący zmodyfikowany materiał w social mediach. Jeżeli marka go przejmie i wykorzysta w reklamie, nie istnieje automatyczny mechanizm, który jednym kliknięciem rozstrzygnie, czy doszło do naruszenia.

Zostaje klasyka: spotkamy się w sądzie albo policja przyjedzie na Facebooka.

Policja przyjedzie na Facebooka – to brzmi obiecująco.

Dla niezależnego twórcy niezbyt. W biznesie da się przynajmniej część ryzyka ograniczyć umową.

Prawo AI a deepfake’i: wizerunek, głos i cyfrowy bliźniak

Wróćmy do deepfake’ów, bo powstawały już kampanie marketingowe wykorzystujące tę technologię. Jedne zapewne legalnie, inne trochę mniej.

Kilka lat temu rosyjska marka Megafon wykorzystała w reklamie deepfake Bruce’a Willisa. Średnio to wyglądało – tak na marginesie – i podejrzewam, choć nikogo za rękę nie złapałem, że aktor niekoniecznie znał dokładny sposób wykorzystania swojego wizerunku.

Mamy też kampanię Virgin Voyages z wirtualną Jennifer Lopez, przygotowaną przez VML. Tam zapewne wszystko zostało odpowiednio uzgodnione. Wirtualna Jennifer Lopez nagrywała spersonalizowane zaproszenia na rejsy i w efekcie powstała naprawdę ciekawa kampania.

Jak takie przypadki wyglądają prawnie? Rozumiem, że przy znanej osobie potrzebujemy jej zgody. Co jednak z narzędziami typu HeyGen, które pozwalają sklonować własny wizerunek i stworzyć „digital twin”? Co, jeśli marka chce tak pracować z ambasadorem? I co dzieje się z przekazanymi danymi?

Rozpakujmy to po kolei.

W przypadkach takich jak Bruce Willis, Jennifer Lopez czy polski spór o głos lektora wykorzystany w reklamie bez jego wiedzy centralnym punktem jest zgoda. Tak długo, jak osoba wyraża zgodę na korzystanie z jej wizerunku lub głosu w konkretny sposób, działanie może być legalne.

Problem w sprawie Bruce’a Willisa polegał – o ile dobrze pamiętam – nie na całkowitym braku jakiejkolwiek zgody, lecz na sporze o jej zakres. Miała nie obejmować dokładnie takiego sposobu wykorzystania.

To częsty problem w umowach z artystami, aktorami i influencerami. Rozmawiałam kiedyś z teatrem, który chciał tworzyć cyfrowych aktorów i dzięki nim zwiększać dostępność spektakli. Dotychczasowe umowy nie obejmowały jednak takiego sposobu eksploatacji.

Prawo zmierza więc w stronę zasady: syntetyczne wykorzystanie wizerunku jest na tyle szczególne, że wymaga odrębnej, konkretnej zgody. Ogólna licencja na użycie wizerunku może nie wystarczyć.

W przypadku Jennifer Lopez zgoda na konkretne wykorzystanie istniała. W tle pojawił się za to spór między podmiotami, które uważały, że każdy z nich ma odpowiednią licencję. Być może management podpisał podobne umowy z więcej niż jedną firmą. Sama artystka zgodziła się jednak na konkretny model działania, a później powstawały kolejne iteracje pomysłu.

Jeżeli tworzymy własnego cyfrowego bliźniaka lub awatara do kursów, rozrywki czy komunikacji, sami dysponujemy swoim wizerunkiem i danymi osobowymi. Możemy więc skorzystać z takiego narzędzia.

Trzeba jednak sprawdzić dwie rzeczy. Pierwsza to zakres licencji udzielanej dostawcy. Żeby stworzyć awatara, firma musi dostać podstawę do korzystania z naszego wizerunku i przechowywania go w swoim systemie.

Taka licencja może być bardzo szeroka. Dopóki nie przeczytamy regulaminu albo nie sprawdzimy opinii o dostawcy, możemy nie zauważyć, że chcieliśmy tylko stworzyć awatara do sprzedaży kursu, a przy okazji zgodziliśmy się na trafienie do bazy twarzy. Dostawca może później udostępniać tę bazę partnerom lub agencjom digitalowym.

W efekcie zupełnie legalnie może pojawić się na Facebooku reklama kosmetyków z naszą twarzą, skierowana do naszych znajomych. Takie ryzyko naprawdę występuje w warunkach usług.

Druga sprawa pojawia się wtedy, gdy po czasie żałujemy decyzji. Zostaje nam jeszcze oręż w postaci danych osobowych. Wizerunek i głos mogą nas identyfikować, więc podlegają ochronie.

Możemy żądać ograniczenia celu przetwarzania albo usunięcia danych. Otwiera to worek pytań: czy da się wyciągnąć dane ze zbioru treningowego, ile to kosztuje i na ile jest technicznie możliwe? Ten obszar nadal się kształtuje. Samo prawo do złożenia żądania jednak istnieje.

Może pomóc w próbie wyplątania się ze współpracy z dostawcą albo agencją, której przekazaliśmy swój wizerunek.

Prawo AI a wirtualni influencerzy: czy mogą udawać prawdziwych ludzi?

A co z wirtualnymi influencerami? Możemy stworzyć realistyczną postać i legalnie na niej zarabiać?

Z punktu widzenia twardego prawa nie ma dziś szczegółowego zakazu tworzenia i monetyzowania wirtualnych influencerów. Oczywiście pozostają kodeksy etyki reklamy i ogólne reguły ochrony konsumentów.

Nie ma jednak przepisu mówiącego dokładnie, jakiej technologii wolno użyć, gdzie umieścić oznaczenie i jak ma wyglądać awatar. Można tworzyć takie postaci i na nich zarabiać.

Warunek jest prosty: wirtualny influencer nie powinien udawać prawdziwego człowieka. Informacja o tym, że jest tworem AI, musi być łatwo dostępna.

Na TikToku i Instagramie widziałem mnóstwo materiałów z bardzo realistycznymi „osobami”: lekarzem, policjantką czy innymi bohaterami. Nigdzie nie było informacji, że to AI.

I to jest naruszenie. Nie wolno wprowadzać odbiorców w błąd, sugerując, że postać jest prawdziwą osobą powiązaną z marką, instytucją publiczną albo że jest zaginionym bliźniakiem celebryty.

Samo monetyzowanie syntetycznej postaci jest dozwolone. Niedozwolony może być sposób, w jaki przedstawiamy ją odbiorcom.

Transparentność może się poprawić wraz z kolejnymi etapami stosowania AI Actu i kodeksami postępowania dla dostawców modeli ogólnego przeznaczenia. Komisja Europejska przygotowała sporo zaleceń dotyczących oznaczania treści.

Informacja o syntetycznym pochodzeniu materiału ma być widoczna, dostępna i zaszyta również w metadanych. Dostawcy zapewne zrobią wszystko, żeby formalnie odhaczyć wymagania, a jednocześnie nie eksponować oznaczeń bardziej, niż muszą. Kierunek jest jednak jasny.

Kto odpowiada za błędy i halucynacje modelu?

Co z błędami, halucynacjami i konfabulacjami generowanymi przez te narzędzia? Duże modele językowe, takie jak ChatGPT, Grok, Gemini czy Claude, działają probabilistycznie, a nie deterministycznie. Przewidują kolejne elementy odpowiedzi i czasem po prostu zmyślają.

Mamy biznesowe przykłady: ktoś przekonał chatbota salonu samochodowego, żeby sprzedał mu Chevroleta za dolara. Była też sprawa Air Canada, w której sąd uznał linię lotniczą za odpowiedzialną za wymyśloną przez bota politykę zwrotów. Kto ponosi konsekwencje takich halucynacji? One się zdarzają i nadal będą się zdarzać.

Jak w wielu sprawach związanych z big techami: korzyści są nasze, a problemy są wasze.

Odpowiedzialność ponosi podmiot, który posłużył się treścią. Samo wygenerowanie głupoty nie musi jeszcze wywołać skutków. Problem zaczyna się wtedy, gdy przekazujemy ją odbiorcy.

Air Canada próbowała argumentować, że chatbot działał jak odrębna jednostka organizacyjna i powinien zostać uznany za osobny podmiot. To nie zadziałało.

W Unii Europejskiej taki argument ma jeszcze mniejsze szanse. Parlament Europejski już kilka lat temu wyraźnie odrzucił pomysł nadawania sztucznej inteligencji osobowości prawnej albo statusu odrębnej jednostki.

Nie możemy więc bronić się twierdzeniem, że błąd popełnił niezależny byt. Dostawcy modeli najczęściej wyłączają własną odpowiedzialność za takie przypadki w regulaminach.

Sytuacja może wyglądać inaczej, gdy korzystamy z mniejszego, bliższego dostawcy, z którym negocjujemy umowę i budujemy rzeczywiście partnerską relację. Taki dostawca może zobowiązać się do utrzymywania jakości, ograniczania halucynacji albo reagowania na określone rodzaje błędów.

Czasem zaglądam do przetargów i zapytań ofertowych dotyczących systemów AI. Pojawiają się już warunki typu „mniej niż jeden procent halucynacji”.

Powodzenia.

Też tak myślę. Zażądać można wszystkiego.

Wszystkiego można zażądać. To jeszcze nie znaczy, że dostawca może to dowieźć.

Właśnie. Tworzenie w umowach idealnych, wirtualnych światów nie ma sensu. Często pokazuje tylko, że zamawiający nie rozumie technologii.

Za skutki halucynacji, uprzedzeń i błędów odpowiadamy więc przede wszystkim my. AI Act również nie sprawia, że każda halucynacja automatycznie uruchamia sankcję.

Przykładowo, żeby mówić o dyskryminacji ocenianej negatywnie przez prawo, musi ona być nieuprawniona i nieusprawiedliwiona. Możemy sobie wyobrazić model trenowany na danych rynku pracy z lat 50. Naturalnie będzie w większym stopniu rekomendował mężczyzn na określone stanowiska. Kontekst danych ma znaczenie dla oceny skutków.

To oczywiście szeroka furtka, z której dostawcy będą próbowali korzystać. Halucynacje, biasy i błędy pozostaną. Możemy natomiast wymagać od dostawcy aktywnego ograniczania ich liczby.

Niektóre plany rzeczywiście przewidują przejęcie części odpowiedzialności. Na przykład w określonych usługach Microsoft Azure OpenAI dostawca może pokrywać skutki naruszenia praw autorskich, jeżeli klient ma włączone wymagane filtry i spełnia warunki planu.

I odpowiednio za to płaci.

Coś za coś. Dostawca może przyjąć część ryzyka i zrefundować określone szkody. Na pierwszej linii ryzyka prawnego i wizerunkowego nadal znajduje się jednak firma, która publikuje materiał.

Jak stworzyć bezpieczną politykę korzystania z AI?

Spróbujmy to zebrać. Jak korzystać z AI bezpiecznie w organizacji? Co trzeba uwzględnić prawnie i organizacyjnie? Czy firma powinna stworzyć politykę korzystania z AI, która ograniczy ryzyka i błędy, o których rozmawiamy?

Pierwsza rzecz, która przychodzi mi do głowy, to human-in-the-loop – człowiek w pętli. Ktoś musi sprawdzać informacje podawane przez model i weryfikować rezultat. Nie brzmi to oczywiście tak seksownie, jak opowieść o nowym gatunku, który zrobi za nas wszystko. Skoro AI ma zrobić wszystko, po co zatrudniać jeszcze człowieka do pilnowania? Jak powinno to wyglądać podręcznikowo?

Zacznijmy od rozprawienia się z mitem. AI Act nie wymaga ciągłego nadzoru człowieka nad każdym procesem i każdym systemem AI.

Bardziej realny, wpływowy nadzór jest wymagany przede wszystkim przy systemach wysokiego ryzyka. Prawo nie nakazuje, żeby człowiek siedział obok każdego modelu i zatwierdzał każdą grafikę.

Czyli nie musi sprawdzać za każdym razem, czy postać ma 6 palców?

Nie z powodu samego AI Actu. Robi się trochę bardziej seksownie, ale zaraz to ubijemy.

Każdy sensowny proces zaczyna się od pytania, co właściwie chcemy zautomatyzować i do czego ma służyć AI. Kiedy zmapujemy potrzeby, marzenia i cele, przechodzimy do danych.

Trzeba określić, jakie informacje wrażliwe biznesowo chcemy przekazywać narzędziom. Mogą to być tajemnice handlowe, kod aplikacji, dokumentacja, raporty czy wyniki badań klinicznych w firmie farmaceutycznej.

Obok tego mamy dane osobowe. Często słyszę: „nie korzystamy z Copilota, bo RODO”. Samo RODO niewiele wyjaśnia. Dane osobowe zawsze są częścią jakiegoś procesu biznesowego. Wyjęte z kontekstu stają się pustą wydmuszką.

Dlatego najpierw ustalamy, jakie dane byłyby potrzebne, żeby osiągnąć cel. Następnie dla każdej kategorii robimy analizę za i przeciw.

Sprawdzamy warunki dostawcy. Jeżeli umożliwia opt-out z trenowania, możemy dopuścić określony zakres informacji. Jeżeli nie daje takiej możliwości, być może powinniśmy zakazać wprowadzania danych osobowych.

Wyobraźmy sobie, że współpracujemy z influencerem, a po konflikcie jego prawnik żąda usunięcia danych. Wie, że wrzucaliśmy materiały do narzędzia generującego filmy na social media. Musimy być w stanie powiedzieć, gdzie dane trafiły i czy potrafimy je usunąć.

Kolejna sprawa to warunki biznesowe. Jak bezpiecznie możemy się czuć w ekosystemie dostawcy? Czy jesteśmy na jego łasce i niełasce, jak przy zwykłym koncie, które może z dnia na dzień zniknąć?

Nie oznacza to, że nie wolno korzystać z ChatGPT. Trzeba tylko podjąć świadomą decyzję. Jeżeli wybieramy usługę bez mocnych gwarancji, róbmy kopie zapasowe potrzebnych materiałów.

Gdy nadejdzie dzień zero albo OpenAI będzie niedostępne przez trzy dni, nadal będziemy mieli dane. Może Musk, który procesuje się z Samem Altmanem, zaatakuje OpenAI – nie wiemy. Ważne, żeby drama ominęła przynajmniej nasze procesy.

W warunkach dostawcy szczególnie liczy się stałość dostępu do danych. Czy może je usunąć? Czy może jednostronnie zmienić umowę? Czy mamy SLA? Jakie są gwarancje dostępności? Jak dostawca informuje o pogorszeniu jakości modelu?

Może się zdarzyć, że po aktualizacji będzie gorzej.

Jak to gorzej? Przecież ChatGPT 4.5 miał już być na poziomie doktora. Kolejny model powinien być profesorem zwyczajnym. Tu można iść tylko w górę.

Oczywiście. A potem czytam narzekania: ten model głupi, kolejny jeszcze głupszy.

Trzeba brać pod uwagę dryf modelu i zmianę jakości. Lokalny dostawca może odpowiedzieć na taki problem. Przy globalnej platformie mamy znacznie mniejszy wpływ.

Następny punkt to polityka danych osobowych i sposób korzystania przez dostawcę z naszych inputów oraz outputów. Czy zastrzega sobie prawo do użycia ich w dowolnym celu? Czy przekazuje je partnerom?

Warto rozważyć możliwość lokalnego uruchomienia modelu albo przynajmniej przetwarzania części danych lokalnie. Zwiększa to niezależność i daje więcej kontroli.

Specjaliści od bezpieczeństwa, nawet jeśli się do tego nie przyznają, zwykle czują lekkie ciepełko, gdy słyszą „lokalnie hostowana usługa”.

Chyba że przychodzimy na audyt do firmy, gdzie siedzą panowie od 20 lat i mówią: „Mamy wszystko u siebie, robimy wszystko najlepiej, proszę iść”.

Wtedy ciepełko szybko znika. Sam lokalny serwer nie rozwiązuje wszystkich problemów. Dobrze zarządzane środowisko lokalne może być jednak dodatkową wartością, szczególnie w pracy dla farmacji, banków i innych wymagających klientów.

Na końcu trzeba ustalić sposób zarządzania narzędziami po naszej stronie. Kto ma dostęp do czego? Kończymy z partyzantką polegającą na tym, że dziesięć osób korzysta z jednego konta albo cały dział loguje się na prywatne konto jednego pracownika.

To dobry moment na wykrycie shadow AI. Szczera rozmowa o tym, z czego ludzie już korzystają, pomaga zdefiniować realne potrzeby.

Zarząd może widzieć je w jeden sposób. Gdy zejdziemy do konkretnego działu i do „podziemia”, okaże się, że pracownicy potrzebują czegoś zupełnie innego i już dawno zaspokoili tę potrzebę partyzancko.

Warto też sprawdzić możliwość wyjścia z usługi. Czy możemy przenieść dane? W jakim formacie? Ile to kosztuje?

Data Act powinien ułatwiać migrację w Unii Europejskiej, ale nadal niewiele osób pyta o nią przed zakupem. Dostawca może teoretycznie umożliwiać eksport, a praktycznie żądać milionów monet za wyciągnięcie danych w użytecznej formie.

Z tych tematów da się zbudować checklistę liczącą około dziesięciu punktów. Ma zabezpieczyć dzisiejsze potrzeby, ale również pozwolić skalować wykorzystanie AI.

Jeżeli odpowiemy sobie na te pytania teraz i ułożymy zasady prawne oraz organizacyjne, kolejne wdrożenia nie będą zaczynały się od zera. Firma nie będzie co roku wracała do tych samych wątpliwości, tylko oprze następne projekty na wypracowanych wcześniej fundamentach.