Przejrzystość AI i automatyzacji

Kogo i jakich procesów dotyczy dokument

Zakres zasad przejrzystości AI

Dokument dotyczy wykorzystywania przez AP Market Cell systemów sztucznej inteligencji, modeli generatywnych, automatycznych reguł, scoringu, agentów i asystentów firmowych oraz narzędzi, które analizują dane, generują treści, wspierają research, obsługę CRM, przygotowanie ofert, projektowanie, reklamę i komunikację.

Zasady mają zastosowanie zarówno do procesów realizowanych na potrzeby AP Market Cell, jak i do rozwiązań projektowanych lub konfigurowanych dla klientów, przy czym dokładny podział odpowiedzialności zależy od umowy, roli stron, rodzaju danych i sposobu wdrożenia.

Użytkownik, wdrożeniowiec i odpowiedzialność klienta

Jaką rolę może pełnić AP Market Cell?

Klient korzystający z wdrożenia odpowiada za własne cele, podstawy prawne, dane wejściowe, uprawnienia użytkowników, decyzje biznesowe oraz sposób wykorzystania rezultatów, chyba że umowa wyraźnie przypisuje określony obowiązek AP Market Cell.

Przykładowe zastosowania

Do jakich zadań możemy wykorzystywać AI?

Podział odpowiedzialności

Co może zrobić system, a za co odpowiada człowiek?

• rezultat AI nie jest automatycznie uznawany za fakt;
• wynik powinien zostać oceniony proporcjonalnie do ryzyka i skutków błędu;
• osoba zatwierdzająca musi mieć możliwość odrzucenia albo poprawienia wyniku;
• proces powinien pozwalać na zatrzymanie automatyzacji i wykonanie zadania ręcznie, gdy jest to potrzebne;
• odpowiedzialności nie można przenieść na system przez samo użycie określenia „AI”.

Boty, agenci i asystenci

Kiedy informujemy, że osoba rozmawia z AI?

Jeżeli system AI jest przeznaczony do bezpośredniej interakcji z osobą fizyczną, informacja o tym, że rozmówcą lub wsparciem rozmowy jest AI, powinna zostać przekazana jasno najpóźniej przy pierwszej interakcji, chyba że z okoliczności jednoznacznie wynika, że użytkownik korzysta z systemu AI.

Informacja nie powinna być ukryta wyłącznie w regulaminie albo Polityce prywatności. Powinna być widoczna w miejscu interakcji i sformułowana językiem odpowiednim dla użytkownika.

Obraz, dźwięk, wideo i treści syntetyczne

Kiedy oznaczamy treści wygenerowane lub zmodyfikowane przez AI?

Treść oznaczamy w sposób jasny i odróżnialny, gdy system AI wygenerował albo istotnie zmodyfikował obraz, dźwięk lub wideo, które wyraźnie przypominają istniejącą osobę, obiekt, miejsce, podmiot lub zdarzenie i mogłyby zostać błędnie uznane za autentyczne.

Nie usuwamy świadomie technicznych oznaczeń pochodzenia albo znaczników umożliwiających wykrycie sztucznie wygenerowanej treści, jeżeli dostawca systemu je stosuje i ich zachowanie jest technicznie możliwe.

Artykuły, komentarze i odpowiedzialność redakcyjna

Czy każdy tekst wspierany przez AI oznaczamy jako wygenerowany przez AI?

Nie każde użycie AI przy tworzeniu tekstu oznacza, że publikacja powinna otrzymać etykietę „tekst wygenerowany przez AI”. AI może pełnić funkcję pomocniczą, na przykład przygotować strukturę, wariant nagłówka, korektę językową, streszczenie materiałów albo wersję roboczą.

Jeżeli tekst jest publikowany w celu informowania opinii publicznej o sprawie leżącej w interesie publicznym i został wygenerowany lub istotnie zmodyfikowany przez AI bez rzeczywistej kontroli redakcyjnej, informujemy o jego sztucznym pochodzeniu. Oznaczenie może nie być wymagane, gdy treść przeszła proces przeglądu lub kontroli redakcyjnej, a konkretna osoba albo organizacja ponosi odpowiedzialność redakcyjną za publikację.

Autodiagnoza, kalkulator, RADAR i CRM

Jak działają scoring, wyniki i rekomendacje?

Autodiagnoza, kalkulator, RADAR i CRM mogą wykorzystywać reguły, punktację albo AI do porządkowania odpowiedzi, wskazywania priorytetów, tworzenia podsumowania, szacowania orientacyjnego zakresu lub rekomendowania następnego kroku.

Nie podejmujemy wobec użytkownika decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, która wywoływałaby skutki prawne albo w podobny sposób istotnie na niego wpływała. Jeżeli przyszłe wdrożenie miałoby taki charakter, wymagałoby odrębnej oceny, informacji i odpowiednich zabezpieczeń.

Przygotowanie nie oznacza wysłania

Czy AI lub automatyzacja mogą samodzielnie skontaktować się z osobą?

AI może przygotować wersję roboczą wiadomości, propozycję odpowiedzi, podsumowanie rozmowy albo wariant oferty, lecz samo wygenerowanie treści lub przeniesienie jej do centrum kontaktu nie oznacza wysłania.

• system nie powinien samodzielnie uznawać publicznego numeru lub adresu za zgodę na marketing;
• przed użyciem kanału należy sprawdzić podstawę, zgodę, zakres sprzeciwu i wymagania Prawa komunikacji elektronicznej;
• treść powinna zostać oceniona pod kątem zgodności, prawdziwości, tonu i adekwatności;
• wysłanie wiadomości, rozpoczęcie połączenia albo publikacja wymagają odrębnej świadomej akcji człowieka, chyba że legalna i bezpieczna automatyzacja została wyraźnie zaprojektowana dla innego, niskiego ryzyka procesu;
• status „nie kontaktować” ma pierwszeństwo przed rekomendacją systemu.

Minimalizacja, poufność i dostawcy

Jak chronimy dane przekazywane do narzędzi AI?

Do systemu AI przekazujemy tylko dane potrzebne do konkretnego zadania. Jeżeli można osiągnąć cel bez danych identyfikujących osobę, stosujemy anonimizację, pseudonimizację, usunięcie zbędnych fragmentów albo pracę na danych przykładowych.

Jeżeli dostawca może przetwarzać dane poza Europejskim Obszarem Gospodarczym, stosowany powinien być odpowiedni mechanizm transferu oraz dodatkowe zabezpieczenia wymagane w konkretnej sytuacji.

Błędy, halucynacje, prawa autorskie i wizerunek

Jak ograniczamy ryzyko błędnej albo bezprawnej treści?

• sprawdzamy fakty i źródła, gdy materiał zawiera twierdzenia możliwe do zweryfikowania;
• nie przedstawiamy wygenerowanego przykładu, referencji, opinii albo wyniku jako rzeczywistego zdarzenia;
• nie tworzymy fałszywego poparcia, wypowiedzi ani zachowania przypisywanego konkretnej osobie;
• oceniamy możliwość naruszenia praw autorskich, znaków towarowych, dóbr osobistych, prawa do wizerunku i poufności;
• nie wykorzystujemy AI do podrabiania dokumentów, dowodów, certyfikatów, opinii klientów ani rezultatów kampanii;
• materiał przygotowany dla klienta powinien być zgodny z faktycznymi cechami produktu, usługi i oferty.

Odporność procesu i kontrola dostępu

Jak podchodzimy do bezpieczeństwa rozwiązań AI?

Rozwiązanie AI może przetwarzać błędne instrukcje, ujawnić zbyt szeroki kontekst, zostać zmanipulowane przez treść wejściową albo wykonać działanie niezgodne z zamiarem użytkownika. Dlatego zabezpieczenia obejmują nie tylko model, lecz cały proces, integracje, źródła danych i uprawnienia.

• ograniczamy narzędzia i funkcje dostępne dla agenta do zakresu potrzebnego do zadania;
• oddzielamy dane wejściowe użytkownika od instrukcji systemowych i chronimy konfigurację przed nieuprawnioną zmianą;
• w działaniach o większym ryzyku wymagamy potwierdzenia człowieka przed wykonaniem operacji;
• rejestrujemy istotne zdarzenia, błędy i zmiany konfiguracji w zakresie odpowiednim do ryzyka;
• testujemy zachowanie systemu na danych błędnych, niepełnych, sprzecznych i celowo manipulujących;
• aktualizujemy instrukcje, modele i integracje oraz wyłączamy rozwiązanie, jeżeli nie można utrzymać akceptowalnego poziomu bezpieczeństwa.

Granice wykorzystania

Czego nie robimy w opisanych procesach?

Wyjaśnienie, korekta i interwencja człowieka

Co możesz zrobić, gdy rezultat AI dotyczy Ciebie?

Możesz zapytać, czy w danym procesie wykorzystano AI lub automatyzację, poprosić o wyjaśnienie roli systemu, zgłosić błąd, zażądać korekty danych albo wnieść sprzeciw wobec przetwarzania w sytuacjach przewidzianych przez RODO.

Jeżeli decyzja lub rekomendacja miałaby istotnie wpływać na Twoją sytuację, możesz poprosić o ocenę człowieka, przedstawić swoje stanowisko i zakwestionować wynik. W opisanych obecnie procesach AP Market Cell nie opiera takich decyzji wyłącznie na automatycznym przetwarzaniu.

W sprawach danych osobowych możesz również skorzystać z praw opisanych w Polityce prywatności oraz w obowiązku informacyjnym z art. 14 RODO.

Rozwój technologii i kompetencje zespołu

Jak aktualizujemy zasady i kompetencje?

Zastosowania AI, modele, dostawcy i przepisy szybko się zmieniają, dlatego zasady są aktualizowane po zmianie procesu, wprowadzeniu nowego narzędzia, pojawieniu się istotnego ryzyka albo zmianie wymagań prawnych.

Osoby korzystające z AI w imieniu AP Market Cell powinny posiadać wiedzę odpowiednią do wykonywanych zadań, rozumieć ograniczenia systemu, znać zasady ochrony danych i bezpieczeństwa oraz wiedzieć, kiedy przerwać automatyzację i przekazać sprawę człowiekowi.