Kilka dni temu pisaliśmy o kobiecie z Florydy, która potraktowała Claude’a jak prywatny pamiętnik, zaczęła pisać o przemocy i skończyła z policją pod drzwiami. Żartowaliśmy wtedy, że chatbot może być świetnym rozmówcą, ale tajemnicy spowiedzi nie składał. Nie trzeba było długo czekać na polski odpowiednik tej historii. Tym razem akcja przeniosła się do warszawskiego Wilanowa, gdzie 47-latek prowadził z AI rozmowy o nożach, młotkach, pile, kwasie, truciźnie i sposobach zabijania ludzi. System uznał, że robi się zbyt ciekawie, informacja trafiła do francuskich służb, Francuzi zaalarmowali Polaków, a około 3:00 w nocy pod drzwiami mężczyzny pojawili się policjanci. Chatbot może więc nie odpowiedział dokładnie tak, jak użytkownik się spodziewał, ale odpowiedź zdecydowanie przyszła. I to w mundurze.

Jeszcze kilka dni temu historia z Florydy mogła wydawać się egzotycznym przykładem z cyklu „tylko w Ameryce”. Tymczasem zdążyliśmy już doczekać się rodzimej wersji. Inny kraj, inny chatbot – którego nazwy w tym przypadku nawet nie znamy – ale mechanizm bardzo podobny: człowiek rozmawia ze sztuczną inteligencją, system bezpieczeństwa uznaje część wypowiedzi za potencjalnie niebezpieczne, a rozmowa, która miała pozostać gdzieś pomiędzy użytkownikiem a ekranem komputera, kończy się bardzo realną wizytą służb.

Od rozmowy z AI do policji pod mieszkaniem

Historia wydarzyła się w nocy z 6 na 7 października. Policjanci z Komisariatu Policji Warszawa Wilanów otrzymali informację przekazaną przez francuskie służby. Zgłoszenie dotyczyło treści, które mogły wskazywać na zagrożenie życia i zdrowia kilku osób, a także samego autora wypowiedzi. Istniało podejrzenie, że rozmowy mogą dotyczyć przygotowywania poważnych czynów.

Funkcjonariusze nie ograniczyli się więc do sprawdzenia, czy ktoś przypadkiem za dużo naczytał się kryminałów. Po godzinie 3:00 pojechali pod ustalony adres. W mieszkaniu zastali 47-letniego mężczyznę oraz śpiące dziecko. Mężczyzna potwierdził, że prowadził rozmowy ze sztuczną inteligencją, ale tłumaczył, że poruszał różne tematy i tworzył jedynie hipotetyczne teorie. Zapewniał również, że opisanych planów nie zamierzał realizować i uważał je za nierealne.

Można powiedzieć, że klasyczne internetowe „to tylko teoria” tym razem zostało zweryfikowane w trybie ekspresowym i osobiście.

Nóż, młotek, piła, kwas. System przestał traktować rozmowę jak luźne rozważania

Nie wiemy dokładnie, jak wyglądała cała konwersacja ani którego systemu AI używał mężczyzna. Policja ujawniła jednak wystarczająco dużo, aby zrozumieć, dlaczego automatyczne zabezpieczenia mogły zapalić wszystkie możliwe czerwone lampki.

W rozmowach miały pojawiać się sposoby okaleczania i zabijania przy użyciu między innymi noży, młotka, piły, kolca, kija bejsbolowego, kwasu oraz trucizny. Według informacji przekazanych polskim służbom system potraktował treść rozmów jako potencjalnie wskazującą na rzeczywiste zamiary, a następnie sprawa została zgłoszona.

Brzmi trochę jak lista zakupów bardzo niezadowolonego klienta marketu budowlanego, ale w połączeniu z kontekstem dotyczącym krzywdzenia ludzi trudno oczekiwać, że system bezpieczeństwa wzruszy cyfrowymi ramionami.

Najciekawsze pozostaje jednak coś innego: zgłoszenie przebyło kawał Europy. Informacja trafiła do francuskich służb, a następnie została przekazana stronie polskiej. Policja nie podała, z jakiej dokładnie usługi korzystał 47-latek ani dlaczego właśnie francuskie instytucje były pierwszym ogniwem po stronie służb. Nie ma więc podstaw, by przypisywać tę historię konkretnemu chatbotowi czy konkretnej firmie.

Francuzi czytają, Polacy pukają

Cała sytuacja brzmi niemal jak żart o Unii Europejskiej: Polak siedzi nocą w Wilanowie i rozmawia ze sztuczną inteligencją, system podnosi alarm, dowiadują się Francuzi, Francuzi informują Polaków, a polska policja o trzeciej rano melduje się pod właściwym adresem.

Tyle że żartem nie była.

Na miejsce przyjechali również ratownicy medyczni. Po rozmowie i wstępnym badaniu 47-latek został przewieziony do szpitala na konsultację, a lekarz zdecydował następnie o pozostawieniu go na oddziale na obserwacji. Dziecko znajdujące się w mieszkaniu zostało pod opieką osoby bliskiej.

Co istotne, nie ma informacji o zatrzymaniu mężczyzny ani o przedstawieniu mu zarzutów. Nie należy więc robić z tej historii opowieści o człowieku aresztowanym za rozmowę z chatbotem. Policja dostała sygnał dotyczący potencjalnego zagrożenia, pojechała go zweryfikować, a sprawa zakończyła się konsultacją medyczną i hospitalizacją na obserwacji.

Najpierw Floryda, teraz Wilanów

Podobieństwo do niedawno opisywanej przez nas historii ze Stanów Zjednoczonych jest uderzające. Tam kobieta potraktowała Claude’a firmy Anthropic jak cyfrowy pamiętnik. W jej rozmowach pojawiły się jednak konkretne groźby dotyczące lokalnego biura szeryfa oraz informacje o broni. Systemy bezpieczeństwa oznaczyły konwersację, sprawa została zweryfikowana, a ostatecznie zainteresowały się nią organy ścigania.

Teraz podobny mechanizm obserwujemy w Polsce, choć szczegóły techniczne pozostają nieznane. Znowu mamy rozmowę człowieka z AI, treści dotyczące poważnej przemocy, system uznający je za potencjalnie realne zagrożenie i finalnie służby pojawiające się w świecie rzeczywistym.

Można więc powiedzieć, że długo na polską odpowiedź nie czekaliśmy. Floryda miała kobietę piszącą do Claude’a o ataku, Warszawa dostała 47-latka rozważającego z AI arsenał obejmujący między innymi nóż, młotek, piłę, kwas i truciznę. Internet naprawdę skutecznie globalizuje trendy.

Dwa przypadki w krótkim odstępie czasu pokazują jednak coś znacznie ważniejszego: czat z AI może sprawiać wrażenie intymnej rozmowy, ale nie należy automatycznie zakładać, że jest prywatnym pomieszczeniem, do którego nikt poza nami nie ma dostępu.

Chatbot nie jest pamiętnikiem. I najwyraźniej potrafi mieć bardzo długie ręce

Interfejs usług AI jest zdradliwy właśnie dlatego, że wygląda jak zwykła rozmowa. Nie wypełniamy formularza, nie publikujemy posta i nie wysyłamy wiadomości do urzędu. Piszemy zdanie, a po chwili dostajemy ludzkopodobną odpowiedź. Po kilkunastu minutach łatwo zapomnieć, że pomiędzy nami a „rozmówcą” stoi ogromna infrastruktura techniczna.

Za czatem mogą działać systemy wykrywania nadużyć, filtry bezpieczeństwa i mechanizmy klasyfikujące treści. Dostawcy usług mają regulaminy, polityki retencji danych, procedury bezpieczeństwa oraz procedury współpracy z organami ścigania. W określonych przypadkach fragment rozmowy może zostać potraktowany nie jako fantazja użytkownika, lecz jako potencjalna informacja o rzeczywistym zagrożeniu.

Nie oznacza to oczywiście, że wpisanie do ChatGPT, Claude’a czy innego modelu pytania „jak działa trucizna” automatycznie powoduje uruchomienie radiowozu. Byłby to dość kosztowny model biznesowy, szczególnie dla policji. Znaczenie ma kontekst, konkretność wypowiedzi, potencjalny cel i charakter zagrożenia.

Ale przypadek z Wilanowa pokazuje, że granica między światem cyfrowej rozmowy a rzeczywistą interwencją służb istnieje – i czasami można ją przekroczyć szybciej, niż użytkownik przypuszcza.

A co z prywatnością?

To właśnie tutaj cała historia przestaje być wyłącznie zabawną anegdotą o człowieku, który rozmawiał z AI o młotkach i kwasie, a kilka godzin później tłumaczył się policji.

Coraz więcej ludzi wykorzystuje chatboty jako psychologów, doradców, powierników, pamiętniki czy miejsca do uporządkowania własnych myśli. Opowiadają im o problemach rodzinnych, zdrowiu, pracy, pieniądzach, seksualności, konfliktach, lękach albo rzeczach, których nie powiedzieliby znajomemu. Często przekazują przy okazji dane pozwalające bardzo łatwo ustalić ich tożsamość.

Przy klasycznej wyszukiwarce wpisujemy kilka słów: „rozwód podział majątku”. Chatbotowi potrafimy napisać trzy strony historii małżeństwa, podać imię żony, zawód, zarobki, wartość domu oraz dokładnie wyjaśnić, kto kogo zdradził. Z punktu widzenia prywatności różnica jest gigantyczna.

A teraz dochodzi do tego jeszcze świadomość, że określone treści mogą zostać automatycznie wykryte jako niebezpieczne i uruchomić dalszą procedurę.

„Przecież pisałem tylko z komputerem”

I być może właśnie to jest najważniejsza lekcja z Wilanowa. Człowiek ma naturalną tendencję do traktowania AI jak rozmówcy, ale jednocześnie oczekuje od niego prywatności charakterystycznej dla rozmowy prowadzonej samemu ze sobą.

Tych dwóch rzeczy nie można mieć jednocześnie.

Chatbot nie jest człowiekiem zobowiązanym tajemnicą zawodową. Nie jest adwokatem, lekarzem ani spowiednikiem. Nie jest też kartką papieru zamkniętą w szufladzie. Jest usługą internetową działającą na cudzej infrastrukturze i według cudzych zasad.

47-latek z Wilanowa twierdził, że jego rozważania były hipotetyczne i nie zamierzał niczego realizować. Być może dokładnie tak było. System bezpieczeństwa uznał jednak, że potencjalnego ryzyka nie można zignorować.

I tak oto kilka dni po historii z Florydy otrzymaliśmy jej polską wersję. Inny bohater, inny kraj, prawdopodobnie inna usługa AI, ale finał zadziwiająco podobny.

Godzina 3:00. Dzwonek do drzwi. Policja.

Czasami odpowiedź chatbota przychodzi naprawdę nietypowym kanałem.