Prawo testerów do prywatności

Całą sprawę prześledził i nagłośnił MIT Technology Review, który opisał przypadek wykonanych w 2020 roku przez odkurzacze Roomba J7 zdjęć użytkowników testowych, które następnie zostały opublikowane na Facebooku przez pracowników wenezuelskiej firmy zajmujących się tzw. adnotacją danych, czyli procesem opracowywania i opisywania wykonanych wcześniej przez roboty sprzątające zdjęć oraz wideo. 

Wśród 15 zdjęć, które zostały udostępnione na prywatnych grupach, znalazły się także te dość prywatne, przedstawiające na przykład kobietę siedzącą na toalecie czy kilkuletniego chłopca, którego twarz została dokładnie uchwycona w kadrze w trakcie, gdy dziecko leżało na podłodze i przypatrywało się urządzeniu. Zdjęcia ponadto przedstawiają także osoby przebywające w różnych pomieszczeniach, gdzie widoczne są nie tylko znajdujące się meble, ale i np. pies przebywający w jednym z pokoi. 

W jakim celu zdjęcia były wykonywane? Głównym celem było późniejsze przyporządkowanie widniejącym na nich obiektom oznaczeń pomagającym odkurzaczowi „rozpoznać”, jaki obiekt aktualnie znajduje się w jego „polu widzenia”. 

Po tym, jak informacja o wypłynięciu zdjęć ujrzała światło dzienne, iRobot rozwiązał umowę z firmą Scale AI, zatrudniającą pracowników zajmujących się adnotacją danych. Dyrektor generalny iRobot, Colin Angle, oznajmił jednak, że sam fakt, iż dane i twarze użytkowników Roomby J7 były widoczne dla pracowników nie powinien być powodem do niepokoju. Tłumaczył on, że udostępnianie takich obrazów jest konieczne do trenowania algorytmów rozpoznawania obiektów iRobota, a dodatkowo zarejestrowane zdjęcia i wideo nie pochodziły od zwykłych klientów, ale od „płatnych zbieraczy danych i pracowników”, którzy wyrazili na to zgodę na piśmie. 

W opublikowanym na LinkedIn poście, a także w oświadczeniach dla MIT Technology Review został wielokrotnie podkreślony fakt, że żadne dane klientów nie były udostępniane, a „uczestnicy są informowani i przyjmują do wiadomości, w jaki sposób dane będą gromadzone”. W ten sposób iRobot próbuje rozróżnić zwykłych klientów od testerów beta, do których trafiły urządzenia i których zdjęcia zostały następnie umieszczone na Facebooku. Jest to także próba oddzielenia tego, w jaki sposób dane tych drugich użytkowników iRobota będą traktowane. Testerzy urządzeń zakwestionowali bowiem sugestie, że zgłaszając się na ochotnika do testowania produktu, zrzekli się całej swojej prywatności. Za swoją pracę betatesterzy nie otrzymali także zapłaty. W takich sytuacjach częstą praktyką jest to, że firmy wynagradzają testerów sprawdzających ich urządzenia za pomocą na przykład kart podarunkowych, możliwością bezpłatnego zatrzymania testowanych urządzeń lub też darmowych wersji produkcyjnych, które są im dostarczane po wprowadzeniu przez nich sprzętu na rynek. 

Scale AI, firma, do której należało etykietowanie i adnotacja danych, otrzymała od iRobota około 2 milionów zdjęć robionych przez ich odkurzacze Roomba. Nie ma więc żadnej pewności, że opublikowanych na Facebooku 15 zdjęć to jedyne przypadki takiego naruszenia prywatności. Może się więc okazać, że w rzeczywistości ucierpiało znacznie więcej użytkowników testowych tych urządzeń. Co prawda iRobot twierdzi, że skontaktował się z osobami, których zdjęcia pojawiły się w zestawie tych opublikowanych na Facebooku, ale nie określił w żaden sposób, czy zamierza powiadomić też inne osoby, które brały udział w gromadzeniu danych.

iRobot poinformował, że zdjęcia zostały zrobione przez odkurzacze w „specjalnej wersji deweloperskiej”, które wyposażone były w specjalnie zmodyfikowane podzespoły i oprogramowanie, które nigdy nie było dostępne w produktach Roomba przeznaczonych do sprzedaży. Urządzenia wykonujące zdjęcia oraz nagrywające wideo miały trafić do użytkowników testowych – „płatnych zbieraczy danych i pracowników” - a w dodatku oznaczone były widoczną zieloną naklejką informującą, że „nagrywanie wideo jest w trakcie". To, do czego iRoboty miały dostęp oraz kto znajdował się w zasięgu zamontowanych w nich kamer, było według producentów urządzeń kwestią wyboru osób dysponujących takimi odkurzaczami. 

Wróćmy na chwilę do zgody na rejestrowanie zdjęć i wideo, którą mieli wyrazić testerzy urządzeń. iRobot nie chciał ujawnić umów, które podpisał z beta testerami, powołując się na względy prawne, ale poinformował, że umowa wymaga „potwierdzenia, że wideo i obrazy są przechwytywane w trakcie prac porządkowych” oraz że „umowa zachęca płatnych zbieraczy danych do usuwania wszystkiego, co uznają za wrażliwe, z dowolnej przestrzeni, w której działa robot, w tym dzieci”. Swoje kopie umowy z iRobotem udostępnili jednak testerzy. Widnieje w nich informacja o tym, że firma zobowiązuje się do ochrony danych zebranych od użytkowników testowych. Nie jest jednak jasno określone to, w jaki sposób firma będzie obchodzić się z tymi danymi po ich zebraniu oraz komu je udostępni. Użytkownicy testów – nawet ci, którzy przeczytali pełną globalną umowę testową – wciąż jednak twierdzą, że nie rozumieli, na czym polega gromadzenie ich danych oraz tego, jak były one przetwarzane i wykorzystywane. 

Wszyscy uczestnicy procesu testowania urządzeń Roomba musieli jednak wyrazić zgodę na wykorzystanie ich danych do uczenia maszynowego i szkolenia z wykrywania obiektów. Jak się jednak okazuje, użytkownicy testowanych odkurzaczy niestety nie mieli świadomości, że iRobot przeprowadza szkolenie za pośrednictwem osób zajmujących się etykietowaniem danych; umowy nie określają wprost, że zarejestrowane obrazy będą oglądane i analizowane przez innych ludzi. 

Opisany przypadek jest przykładem na to, jak ważne jest zaufanie użytkowników w całym procesie szkolenia algorytmów oraz tego, że użytkownicy, nawet Ci biorący udział jedynie w procesie testowania, nie powinni mieć go zbyt wiele. Nikt nie jest w stanie zagwarantować nam, czy zdjęcia zarejestrowane w trakcie procesu nie zostaną użyte w niewłaściwy sposób. Nie wiemy także, czy i kiedy używane przez nas urządzenia nas nagrywają. Jest to szczególne ważne w dobie sztucznej inteligencji towarzyszącej nam na każdym kroku naszego codziennego życia, w domyśle nam je ułatwiając. Niestety coraz częściej zapominamy, że tego typu udogodnienia mogą stanowić poważne zagrożenie dla prywatności – nie tylko testerów, ale także tych zwykłych użytkowników.