25-letni analityk finansowy z Florydy opisywał ChatGPT, jak porwie, zgwałci i zabije swoją byłą dziewczynę. Rozmowa trafiła do zespołu bezpieczeństwa OpenAI, a stamtąd do FBI. Darren Zhou został zatrzymany, stracił pracę w Goldman Sachs, a w sierpniu przyznał się do winy. Sprawa przypomina, że rozmowy z chatbotem nie są ani prywatne, ani objęte tajemnicą.
„Jeśli nie mogę jej mieć, to nikt nie może”
Zhou pracował jako analityk w oddziale Goldman Sachs w West Palm Beach. W marcu, kilka tygodni po zakończeniu sześciomiesięcznego związku z 21-latką, zaczął rozmawiać z ChatGPT o rozstaniu. Opisywał jej hobby, miejsca, w których bywa, mężczyzn wokół niej i swoją chęć powrotu. Szybko przeszedł do gróźb. „Zabiję ją do końca miesiąca. Jeśli nie mogę jej mieć, to nikt nie może”, pisał do bota, a te słowa trafiły później do akt sądowych.
W kolejnych wiadomościach planował czekanie na nią z kwiatami na parkingu siłowni i zabicie jej oraz siebie, gdyby go odrzuciła. Pisał też o porwaniu, gwałcie, przetrzymywaniu jej jako zakładniczki i zabiciu członków jej rodziny. Równolegle wysyłał byłej zdjęcia broni, opasek zaciskowych i lateksowych rękawiczek. Jego obrońca twierdził później w sądzie, że Zhou nie miał żadnej broni.
Od flagi w systemie do aresztu
OpenAI deklaruje, że rozmowy, w których użytkownik planuje skrzywdzić innych, trafiają do osobnego systemu, a następnie przegląda je niewielki zespół przeszkolonych pracowników. W poważnych przypadkach firma może przekazać informację organom ścigania. Tak stało się tutaj: OpenAI zaalarmowało FBI, a agenci federalni przekazali biuru szeryfa hrabstwa Palm Beach około dwóch miesięcy wiadomości Zhou.
W maju został zatrzymany, spędził dwa dni w areszcie i wyszedł za kaucją 100 tysięcy dolarów. Goldman Sachs go zwolnił. W czerwcu prokuratura postawiła mu trzy zarzuty: stalkingu, pisemnych gróźb zabójstwa i użycia telefonu do popełnienia przestępstwa, łącznie zagrożonych karą do 25 lat więzienia.
Osiem lat próby zamiast więzienia
13 sierpnia Zhou przyznał się do wszystkich zarzutów w ramach ugody z prokuraturą. Sędzia zgodził się na nią tylko dlatego, że zaakceptowała ją sama pokrzywdzona. Zhou dostał osiem lat nadzoru sądowego, przez pierwsze dwa lata będzie nosił elektroniczną opaskę na kostce, ma przejść program dla sprawców przemocy i ocenę psychiatryczną. Nie może kontaktować się z byłą, posiadać broni ani sięgać po alkohol i narkotyki. Sąd uwzględnił, że skończył studia z wyróżnieniem i nie był wcześniej karany.
Co z tego wynika dla każdego użytkownika
To nie pierwszy taki przypadek. W czerwcu OpenAI zawiadomiło FBI o mężczyźnie w Brazylii, który planował zabić ośmioletniego syna, żeby uniknąć płacenia alimentów, i został zatrzymany. Rozmowy z ChatGPT od dawna trafiają jako dowody do sądów na wniosek śledczych, natomiast sytuacje, w których to firma sama zgłasza użytkownika, wciąż są rzadkością.
Wniosek jest prosty: to, co wpisujemy do chatbota, nie jest rozmową z lekarzem ani adwokatem i nie chroni jej żadna tajemnica zawodowa. Treść może zobaczyć pracownik firmy, a przy odpowiedniej podstawie prawnej także policja czy prokuratura. Mechanizm dotyczy zagrożenia dla innych osób, nie zwykłych rozmów, ale granicę wyznacza firma, nie użytkownik.
