Automatyzacja i asystent AI w firmie: ryzyka, które widać dopiero po wdrożeniu

Obowiązek informowania, że to AI, już działa

Od 2 sierpnia 2026 roku obowiązuje art. 50 unijnego aktu o sztucznej inteligencji (rozporządzenie 2024/1689, AI Act): każdy system, który rozmawia z klientem (chatbot, asystent głosowy, automat obsługujący zgłoszenia), musi wprost poinformować, że po drugiej stronie jest AI, chyba że to oczywiste z samego kontekstu rozmowy. Przepis nie przewiduje wyjątku dla małych firm: dotyczy każdego, kto takie rozwiązanie wdraża u siebie, niezależnie od liczby pracowników.

Za naruszenie tego obowiązku grozi kara administracyjna do 15 mln euro albo do 3% światowego rocznego obrotu firmy, w zależności od tego, która kwota jest wyższa. Dla małej firmy to liczba czysto teoretyczna, ale pokazuje, jak poważnie Unia traktuje samo oznaczenie rozmowy z AI, nie tylko to, co system robi z danymi klienta.

W Polsce skargi na AI rozpatruje teraz konkretny organ

24 lipca 2026 roku prezydent podpisał ustawę o systemach sztucznej inteligencji, która powołała Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Główne przepisy weszły w życie 11 sierpnia 2026 roku, a pełne wdrożenie nastąpiło 28 października 2026 roku. Komisja przyjmuje skargi klientów na konkretne decyzje podjęte przez systemy AI, na przykład błędną informację od asystenta na stronie firmy, i może nałożyć sankcję administracyjną za naruszenie AI Act.

Zgłoszenie takiej skargi nie wymaga od klienta znajomości przepisów, wystarczy adres firmy i poczucie, że automat go źle obsłużył. Błąd automatyzacji, który wcześniej kończył się najwyżej słabą opinią w Google, może teraz trafić do postępowania administracyjnego przed konkretnym urzędem.

RODO: zapytanie do AI to przetwarzanie danych osobowych

Jeśli treść, którą asystent AI dostaje do analizy (mail klienta, numer zamówienia, treść rozmowy), zawiera dane osobowe, jej przekazanie do modelu podlega RODO tak samo jak przekazanie tych danych każdej innej firmie. W marcu 2026 roku UODO zaktualizowało wytyczne dotyczące stosowania systemów AI w organizacjach i wskazało to wprost: brak umowy powierzenia z dostawcą modelu, przy jednoczesnym przetwarzaniu przez niego danych osobowych, jest naruszeniem art. 28 RODO.

Dobra reputacja dostawcy modelu nie zastępuje umowy: musi ona określać, co dostawca robi z danymi, gdzie je przechowuje i jak długo. To samo dotyczy sytuacji, w której asystent ma dostęp do bazy klientów firmy, żeby odpowiadać na podstawie jej dokumentów i oferty: zakres tego dostępu i czas przechowywania historii rozmów trzeba ustalić przed wdrożeniem, nie po pierwszym zgłoszeniu od klienta o to, co system wie na jego temat.

Lista pytań UODO: 26 pytań przed zakupem gotowego narzędzia

6 sierpnia 2026 roku UODO opublikowało cztery listy pytań wstępnych, które administrator danych powinien sobie zadać przed wdrożeniem AI. Najprostsza, przeznaczona dla małych i średnich firm korzystających z gotowych narzędzi, nie budujących własnych modeli, liczy 26 pytań. Odpowiedzi nie trzeba przedstawiać UODO, a listy nie są wiążącą interpretacją RODO, ale mają jeden konkretny cel: zmusić firmę do sprawdzenia podstaw prawnych i ryzyk, zanim podpisze umowę z dostawcą, nie po.

Błąd automatu obciąża firmę, nie dostawcę modelu

Model językowy odpowiada na podstawie wzorców w danych, nie wie, kiedy się myli, i z tą samą pewnością podaje odpowiedź poprawną i fałszywą. Jeśli asystent na stronie firmy błędnie poinformuje klienta o cenie, terminie albo warunkach gwarancji, to z perspektywy klienta błędną informację podała firma, nie dostawca modelu, z którego korzysta. Rozwiązanie bez możliwości przekazania rozmowy do człowieka w trudnym momencie zamienia jeden błąd automatu w stracony kontakt, który nie wraca do rozmowy z kolejnym botem.

Sprawdź, czy Twoja firma jest gotowa na AI

• Czy ktoś sprawdził, jakie systemy AI firma już wykorzystuje, także te wbudowane w inne programy, i czy przetwarzają dane klientów.
• Czy z dostawcą modelu, na którym działa asystent albo automatyzacja, jest podpisana umowa powierzenia danych.
• Czy klient widzi informację, że rozmawia z AI, zanim zacznie rozmowę.
• Czy w każdej chwili da się przełączyć rozmowę na człowieka.
• Czy ktoś odpowiada za weryfikację tego, co automat mówi klientom, a nie zakłada, że działa poprawnie, bo zadziałał podczas testu.

Co przejmujemy

W ramach systemów i integracji wdrażamy automatyzację z AI i asystentów odpowiadających na podstawie danych i oferty firmy: dobieramy dostawcę modelu, z którym da się podpisać umowę powierzenia zgodną z RODO, ograniczamy dostęp AI tylko do danych, które są faktycznie potrzebne, i projektujemy przejście do człowieka tam, gdzie automat nie powinien decydować sam. Zadzwoń pod 697 004 905 albo napisz na kontakt@apkarze.pl. Powiedz, co ma robić automatyzacja, a sprawdzimy, czego wymaga po stronie prawnej.