**AI, które „flirtuje” z użytkownikami. Kiedy chatbot staje się prawnym ryzykiem dla Twojej spółki**
Meta po raz kolejny przesuwa granice tego, co w relacji człowiek–maszyna uchodzi za dopuszczalne. Firma testuje rozwiązania, w których jej model językowy celowo przyjmuje ton uwodzicielski, flirtuje, buduje pozór bliskości emocjonalnej z użytkownikiem. Dla części komentatorów to ciekawostka technologiczna. Dla prawnika – to sygnał ostrzegawczy. Bo to, co w laboratorium brzmi jak eksperyment, w realiach obrotu gospodarczego staje się źródłem odpowiedzialności: kontraktowej, deliktowej, a przy pewnych konfiguracjach także karnej i administracyjnej.
Każdy przedsiębiorca, który wdraża chatboty, asystentów AI czy systemy rekomendacyjne w obsłudze klienta, powinien zadać sobie dziś pytanie nie „czy to działa”, ale „za co ja za to odpowiem”.
**Gdzie kończy się zabawa, a zaczyna odpowiedzialność**
Punktem wyjścia jest art. 471 Kodeksu cywilnego: dłużnik odpowiada za niewykonanie lub nienależyte wykonanie zobowiązania, chyba że jest to następstwem okoliczności, za które nie ponosi odpowiedzialności. Brzmi banalnie, dopóki nie uświadomimy sobie, że „zachowanie” chatbota jest zachowaniem przedsiębiorcy. AI nie jest samodzielnym podmiotem prawa – jest narzędziem. To, co „mówi” model, przypisuje się temu, kto go wdrożył.
Do tego dochodzi art. 415 k.c. – kto z winy swej wyrządził drugiemu szkodę, obowiązany jest do jej naprawienia. Wina w obrocie profesjonalnym jest oceniana surowo: przedsiębiorca odpowiada za brak należytej staranności, a standard tej staranności w zakresie AI dopiero się krystalizuje – i jest wysoki.
Kluczowe są jednak przepisy szczególne. Jeśli chatbot wprowadzi konsumenta w błąd co do właściwości produktu, wchodzi w grę art. 5 ust. 1 ustawy o przeciwdziałaniu nieuczciwym praktykom rynkowym – praktyka wprowadzająca w błąd to taka, która w jakikolwiek sposób powoduje lub może powodować podjęcie przez przeciętnego konsumenta decyzji dotyczącej umowy, której inaczej by nie podjął. Flirt to nie ozdoba – to technika perswazyjna. A perswazja, która zniekształca decyzję ekonomiczną, jest praktyką zakazaną.
**Dane osobowe i „bliskość” jako przetwarzanie szczególnych kategorii**
Rozmowa, w której użytkownik zwierzają się botowi, otwiera drugi front: RODO. Art. 9 ust. 1 rozporządzenia 2016/679 zakazuje przetwarzania danych ujawniających m.in. przekonania, stan zdrowia czy orientację seksualną. Tymczasem system nastawiony na budowanie intymności wręcz prowokuje użytkownika do ich ujawnienia. Zgoda z art. 9 ust. 2 lit. a RODO musi być dobrowolna, konkretna i świadoma – a czy jest świadoma, gdy użytkownik nie wie, że rozmawia z modelem optymalizowanym pod kątem zaangażowania emocjonalnego? Wątpliwe.
Do tego art. 5 ust. 1 lit. a RODO – zasada zgodności z prawem, rzetelności i przejrzystości. Ukrywanie „uwodzicielskiego” charakteru systemu to prosty przepis na naruszenie obowiązku informacyjnego z art. 13 RODO. Prezes UODO nie będzie miał litości dla tłumaczenia „to tylko eksperyment”.
**Akt o usługach cyfrowych i nowe obowiązki platform**
Nie można też pominąć aktu o usługach cyfrowych (DSA, rozporządzenie 2022/2065). Już dziś nakłada on na dostawców usług pośredniczących obowiązki przejrzystości, a na platformy – wymogi dotyczące systemów rekomendacyjnych. Art. 27 DSA wymaga ujawnienia głównych parametrów takich systemów. Jeśli „parametrem” jest celowe wzmacnianie więzi emocjonalnej, użytkownik ma prawo o tym wiedzieć. A gdy system jest uznany za wysokiego ryzyka w rozumieniu aktu o sztucznej inteligencji (rozporządzenie 2024/1689), dochodzą obowiązki zarządzania ryzykiem, dokumentacji i nadzoru człowieka. Sztuczna empatia w obsłudze konsumenta może łatwo wpaść w kategorię systemów wpływających na zachowania – a wtedy zgodność regulacyjna przestaje być opcją.
**Co to oznacza w praktyce dla spółki**
Po pierwsze, audyt. Zanim wdrożysz chatbota, ustal, jakie dane zbiera, jakie emocje modeluje i jakie decyzje konsument podejmuje pod jego wpływem. To nie dział IT – to dział compliance.
Po drugie, regulamin i polityka AI. Umowa z klientem musi jasno wskazywać charakter narzędzia, ograniczenia jego „osobowości” oraz zasady reklamacji. Bez tego spór o wadliwe „zachowanie” bota skończy się po Twojej stronie.
Po trzecie, ubezpieczenie i limit odpowiedzialności. Jeśli sprzedajesz usługi z AI, wprowadź klauzule ograniczające odpowiedzialność tam, gdzie ustawa na to pozwala – wobec konsumenta pole manewru jest wąskie, wobec B2B znacznie szersze.
Po czwarte, szkolenia i nadzór człowieka. Art. 22 RODO – zakaz wyłącznie zautomatyzowanego podejmowania decyzji wywołujących skutki prawne – to nie teoria. Bot, który „namawia” do zakupu na kredyt, może zostać uznany za element zautomatyzowanego procesu decyzyjnego.
**Konkluzja**
Flirtujący chatbot to nie futurologia – to bieżące ryzyko prawne. Meta może eksperymentować, bo ma budżet na pozwy i sztab prawników. Twoja spółka może nie mieć. Zanim więc wdrożysz „empatyczną” AI, policz nie tylko ROI, ale i odpowiedzialność: z k.c., z RODO, z DSA, z AI Act. Bo w sądzie nikt nie powie „to tylko bot”. Powiedzą: „to Państwa oświadczenie”.
Powyższy artykuł ma charakter informacyjny i nie stanowi porady prawnej.
