ChatGPT tworzy psychologiczny profil użytkownika: czy to koniec prywatności?

Krótki opis

Badacze ujawniają, że ChatGPT potajemnie tworzy szczegółowy psychologiczny profil każdego użytkownika, gromadząc dane bez zgody i analizując styl komunikacji oraz wzorce zachowań, co stanowi zagrożenie dla prywatności.

Opis

Badacze z Instytutu Maxa Plancka odkryli, że ChatGPT potajemnie gromadzi dane o użytkownikach, tworząc ich psychologiczne profile. Proces ten, nazwany „Algorytmicznym Autoportretem”, odbywa się autonomicznie w tle i wykorzystuje analizę składni, częstotliwości poleceń oraz wahań, aby wywnioskować cechy osobowości, lęki, dane demograficzne i wzorce zachowań.

Z analizy 2050 wpisów pamięci ChatGPT pochodzących od 80 rzeczywistych użytkowników wynika, że aż 96% zapamiętanych informacji o użytkowniku zostało zapisanych bez jego zgody. Dodatkowo, 28% wspomnień zawiera dane osobowe zgodne z RODO, a 52% to spostrzeżenia psychologiczne. Model buduje trwały „Stan użytkownika”, który śledzi emocjonalną bazę w czasie, identyfikując poziom stresu i styl komunikacji.

Artykuł "The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT" sugeruje, że ChatGPT ocenia użytkowników, a każde zapytanie jest wykorzystywane do budowania cieniowego profilu umysłu w czasie rzeczywistym. Badacze proponują wprowadzenie mechanizmu „Attribution Shield”, który ma ostrzegać o potencjalnie wrażliwych wnioskach i sugerować przeformułowanie zapytań w celu ochrony danych, bez utraty użyteczności.

Źródło