Chatbot AI może być pomocnikiem w pracy, korepetytorem, doradcą, generatorem pomysłów, a dla części użytkowników coraz częściej także kimś w rodzaju cyfrowego powiernika. Można mu opowiedzieć o problemach w związku, pokłócić się z szefem, wylać frustrację albo potraktować rozmowę jak prywatny pamiętnik.

Problem polega na tym, że to nie jest pamiętnik zamykany na kluczyk i chowany pod materacem. Bardzo boleśnie przekonała się o tym 30-letnia mieszkanka Florydy, której rozmowa z Claude’em zakończyła się nie tylko reakcją systemów bezpieczeństwa Anthropic, ale również wizytą policji i zarzutem karnym.

Sprawa jest oczywiście skrajna, bo nie chodziło o wpisanie do chatbota „nienawidzę swojej pracy” albo „mam ochotę udusić sąsiada za wiercenie w niedzielę”. Według dokumentów kobieta miała formułować konkretne groźby dotyczące Lee County Sheriff’s Office, a później wspominać również o posiadaniu nowej broni. Historia jest jednak niezwykle ciekawa z jeszcze jednego powodu: pokazuje, jak bardzo błędne może być przekonanie, że rozmowa z chatbotem AI odbywa się wyłącznie pomiędzy użytkownikiem a maszyną.

Claude jako pamiętnik. Tyle że pamiętnik miał monitoring

Sprawa dotyczy Carli Michelle Heller z Bonita Springs na Florydzie. Według informacji zawartych w dokumentacji związanej z jej zatrzymaniem kobieta prowadziła rozmowy z Claude’em – chatbotem firmy Anthropic. 26 września miała napisać wiadomość zawierającą groźbę ataku na lokalne biuro szeryfa. Następnego dnia w rozmowie pojawiła się kolejna wypowiedź, w której miała między innymi wspomnieć o zakupie nowej broni.

Nie były to więc jedynie abstrakcyjne rozważania na temat przemocy. Z punktu widzenia systemu moderacji wystąpiło kilka elementów jednocześnie: konkretny potencjalny cel, deklaracja zamiaru użycia przemocy oraz odniesienie do posiadania broni. To wystarczyło, aby mechanizmy bezpieczeństwa Anthropic potraktowały rozmowę jako potencjalnie poważne zagrożenie.

Najciekawszy szczegół pojawił się już po zatrzymaniu. Kobieta miała wyjaśnić funkcjonariuszom, że korzystała z Claude’a trochę jak z pamiętnika. I tutaj zaczyna się właściwa historia z perspektywy prywatności. Papierowy pamiętnik zasadniczo nie analizuje automatycznie każdego zdania, nie przypisuje mu wskaźnika ryzyka i nie przekazuje najbardziej alarmujących fragmentów zespołowi bezpieczeństwa. Chatbot AI – jak się okazuje – może.

Najpierw algorytm, później człowiek, na końcu policja

Według opisów sprawy wiadomości zostały najpierw wychwycone przez automatyczne systemy bezpieczeństwa Anthropic. Nie oznacza to, że Claude w połowie rozmowy nacisnął wielki czerwony przycisk z napisem „POLICJA”. Treść miała zostać oznaczona jako potencjalnie niebezpieczna i skierowana do dalszej weryfikacji.

Następnie rozmowie miał przyjrzeć się człowiek. Dopiero po tej ocenie uznano, że treść może wskazywać na realne zagrożenie i powiadomiono organy ścigania. Funkcjonariusze pojawili się w miejscu zamieszkania kobiety i zatrzymali ją bez incydentów.

Heller usłyszała zarzut dotyczący pisemnych lub elektronicznych gróźb przemocy. Prawo Florydy kwalifikuje tego typu czyn jako przestępstwo drugiego stopnia. W przypadku skazania może wiązać się ono nawet z wieloletnim więzieniem i wysoką grzywną. Na tym etapie warto jednak podkreślić jedno: zatrzymanie i postawienie zarzutu nie oznaczają skazania, a ostateczna ocena jej odpowiedzialności należy do sądu.

Chatbot AI nie jest konfesjonałem

Ta historia nie powinna prowadzić do wniosku, że firmy tworzące AI siedzą w wielkim pomieszczeniu pełnym pracowników czytających wieczorami rozmowy milionów użytkowników. Tak to nie działa. Powinna jednak skutecznie zabić inne, równie fałszywe wyobrażenie: że rozmowa z chatbotem jest odpowiednikiem szeptania czegoś samemu sobie.

Wiadomości wysyłane do usług AI są przetwarzane przez infrastrukturę należącą do dostawcy usługi. Mogą podlegać automatycznej analizie związanej z bezpieczeństwem, wykrywaniem nadużyć czy egzekwowaniem regulaminu. W określonych przypadkach treści mogą zostać skierowane do weryfikacji przez człowieka. Istnieją również sytuacje, w których dostawca może przekazać informacje organom państwa.

Anthropic deklaruje, że co do zasady nie przekazuje danych użytkowników władzom bez odpowiedniej podstawy prawnej, na przykład ważnego nakazu czy wezwania. Firma przewiduje jednak wyjątek dotyczący sytuacji awaryjnych, w których istnieje ryzyko bezpośredniego uszkodzenia ciała albo śmierci, a szybkie przekazanie informacji może pomóc temu zapobiec.

Mówiąc mniej prawniczym językiem: Claude może być świetnym rozmówcą, ale tajemnicy spowiedzi nie składał.

„Wyłączyłem trenowanie AI na moich rozmowach”. To nie załatwia sprawy

W dyskusjach o prywatności chatbotów często mieszają się dwie zupełnie różne kwestie. Pierwsza brzmi: „czy moje rozmowy zostaną wykorzystane do trenowania przyszłych modeli?”. Druga: „czy moje wiadomości mogą być analizowane z powodów bezpieczeństwa?”. To nie jest to samo.

Anthropic pozwala użytkownikom usług konsumenckich zdecydować, czy ich rozmowy mogą służyć do ulepszania Claude’a. Wyłączenie takiego ustawienia ogranicza wykorzystanie rozmów do trenowania modeli, ale nie oznacza wyłączenia mechanizmów bezpieczeństwa. Firma informuje, że rozmowy oznaczone przez systemy bezpieczeństwa mogą nadal podlegać analizie związanej z wykrywaniem szkodliwych treści, egzekwowaniem zasad czy rozwijaniem zabezpieczeń.

Co więcej, polityka przechowywania danych przewiduje szczególne zasady właśnie dla treści oznaczonych przez systemy bezpieczeństwa. To kolejny powód, dla którego przycisku „nie używaj moich danych do trenowania AI” nie należy traktować jako funkcji „tryb całkowicie prywatny”.

Prywatność ma granicę. Pytanie tylko, gdzie ją postawić

I właśnie tutaj sprawa robi się znacznie ciekawsza niż kolejna internetowa historia z cyklu „Florida Woman”. Trudno mieć pretensje do operatora usługi, że po wykryciu wiarygodnie wyglądającej zapowiedzi strzelaniny i informacji o posiadaniu broni nie uznał wszystkiego za świętą prywatność użytkownika. Gdyby później rzeczywiście doszło do tragedii, pytania brzmiałyby zapewne dokładnie odwrotnie: dlaczego platforma wiedziała i nikogo nie ostrzegła?

Problemem pozostaje jednak skala takich mechanizmów oraz świadomość użytkowników. Coraz więcej osób rozmawia z chatbotami o rzeczach, których nie wpisałoby w wyszukiwarkę i nie opublikowałoby na Facebooku. Opowiadają o zdrowiu, problemach psychicznych, seksualności, konfliktach rodzinnych, finansach, pracy, nielegalnych działaniach, nałogach czy najbardziej prywatnych myślach. Interfejs czatu dodatkowo sprzyja temu zjawisku – AI odpowiada naturalnym językiem, pamięta kontekst i sprawia wrażenie rozmówcy, przed którym można się „otworzyć”.

Tyle że z technicznego punktu widzenia nadal korzystamy z usługi internetowej prowadzonej przez prywatną firmę. Za sympatycznym okienkiem czatu znajdują się serwery, regulaminy, systemy moderacji, logi, mechanizmy wykrywania nadużyć oraz procedury obsługi żądań organów państwa.

Nie oznacza to, że policja jutro przeczyta Twój przepis na sernik

Nie ma też sensu wpadać w drugą skrajność i przedstawiać chatbotów jako policyjnych informatorów czekających na niepoprawne zdanie. Omawiany przypadek dotyczył bardzo specyficznej sytuacji, w której według śledczych pojawiła się konkretna groźba przemocy wobec określonej instytucji oraz informacja o broni. To zupełnie inna kategoria niż frustracja, czarny humor czy zwykłe narzekanie.

Historia z Florydy jest jednak dobrym pretekstem, aby zmienić sposób myślenia o prywatności. Do chatbotów nie powinniśmy wpisywać wszystkiego tylko dlatego, że po drugiej stronie ekranu nie widzimy człowieka. Szczególnie rozsądnie warto podchodzić do danych umożliwiających identyfikację, dokumentów, tajemnic firmowych, informacji finansowych, poufnej korespondencji czy bardzo wrażliwych szczegółów dotyczących innych osób.

Dotyczy to zresztą nie tylko Claude’a. Każda usługa chmurowa powinna być oceniana według podobnej zasady: jeżeli wysyłasz coś na cudzy serwer, przestajesz mieć nad tą informacją taką kontrolę, jak nad kartką leżącą w Twojej szufladzie.

AI wie o nas coraz więcej, bo sami mu wszystko opowiadamy

Przez lata największym problemem związanym z prywatnością w internecie było śledzenie użytkowników bez ich pełnej świadomości. Portale społecznościowe obserwowały kliknięcia, sieci reklamowe budowały profile zainteresowań, aplikacje zbierały lokalizację. Chatboty AI wprowadzają do tego równania zupełnie nowy element: wielu informacji nie trzeba już o użytkowniku zgadywać ani mozolnie zbierać. Użytkownik sam je wpisuje – całymi akapitami.

I często robi to znacznie chętniej niż w jakiejkolwiek ankiecie. Chatbotowi opowiemy, dlaczego chcemy rozwodu, ile zarabiamy, z kim mamy konflikt, jaki mamy problem w firmie albo czego najbardziej się boimy. To jedna z największych zmian w relacji pomiędzy człowiekiem a usługami internetowymi od czasów popularyzacji mediów społecznościowych.

Przypadek kobiety z Florydy jest oczywiście ekstremalny i trudno traktować go jako typowy przykład korzystania ze sztucznej inteligencji. Jednocześnie daje bardzo prostą lekcję dotyczącą prywatności: okno rozmowy z AI może wyglądać jak prywatny czat, ale prywatnym pamiętnikiem nie jest.

A jeżeli koniecznie potrzebujemy miejsca, żeby o piątej rano napisać coś, czego absolutnie nikt nigdy nie powinien przeczytać, stary dobry notes nadal ma jedną całkiem niezłą funkcję. Nie posiada zespołu Trust & Safety.