Poproszony o zbadanie kwestii związanych z prywatnością danych wynikających z Microsoft Recall, narzędzia do samokontroli, które nie zostało dostarczone przez producenta systemu Windows, Jaime Teevan, główny naukowiec i pracownik techniczny w Microsoft Research, rozwiał te obawy.
Tevan rozmawiał w środę z Erikiem Brynjolfssonem, dyrektorem Laboratorium Gospodarki Cyfrowej na Uniwersytecie Stanforda, podczas konferencji z okazji piątej rocznicy Instytutu Sztucznej Inteligencji Skoncentrowanej na Człowieku przy Uniwersytecie Amerykańskim.
Brynjolfsson powiedział, że kiedy ogłoszono Recall, „wystąpił rodzaj ostrego sprzeciwu wobec wszystkich związanych z tym wyzwań związanych z prywatnością. Porozmawiajmy zatem o zaletach i wadach korzystania z tych wszystkich danych oraz o niektórych zagrożeniach, jakie stwarza, a także o niektórych możliwościach. „
Najwyraźniej był to popularny temat.
Oczywiście ponownie zastanawiamy się, co oznaczają dane, jak je wykorzystujemy, jak je oceniamy i jak są wykorzystywane
„Tak, i to jest świetne pytanie, Eric” – powiedział Tevan. „To też było poruszane przez cały poranek – znaczenie danych. A rewolucja w zakresie sztucznej inteligencji, którą teraz obserwujemy, naprawdę zmienia sposób, w jaki rozumiemy dane”.
Kontynuowała: „Microsoft zazwyczaj pomaga dużym organizacjom zarządzać danymi, tworzyć je i udostępniać, a dane te naprawdę wyróżniają pracę biznesową w kontekście generatywnej sztucznej inteligencji.
„Również jako jednostki mamy ważne dane, z którymi stale wchodzimy w interakcję, i istnieje możliwość, aby zacząć myśleć o tym, jak to robimy, a także o tym, co to znaczy móc je przechwycić i wykorzystać. Ale oczywiście ponownie zastanawiamy się, co oznaczają dane, jak je wykorzystujemy, jak je oceniamy”.
Nagrywać Kiedy w zeszłym miesiącu zaprezentowano funkcję Recall na konferencji Microsoft Build, zauważyłem, że oprogramowanie — które tworzy archiwum zrzutów ekranu wykonywanych co kilka sekund i rejestruje działania użytkownika, dzięki czemu można zapamiętać poprzednie działania — stwarza znaczne ryzyko prywatności. Tak jak ostatnio opisane Stworzony przez autora Charliego Strouse’a, jest to „produkt, którego nikt nie chce” i „bzdurny pokaz absolutnej prywatności”.
Niezrażony niechęcią Tevana do przyznania się, dlaczego Przypomnienie powodowało napięcie, Brynjolfsson zbadał sprawę dalej.
„Czy jest przechowywany lokalnie?” Spytał. „Powiedzmy, że aktywuję funkcję Recall i nie wiem, czy mógłbym, ale w przypadku czegoś takiego martwiłbym się, że wszystkie moje osobiste pliki trafią do chmury, Microsoftu czy czegoś takiego. Czy masz to? Pozostać lokalnym?”
Tevan odpowiedział: „Tak, tak, to najważniejsza rzecz, na której bardzo nam zależy jako firmie, to właściwie ochrona danych. Zatem Recall to funkcja przechwytująca informacje. Jest to lokalna funkcja systemu Windows, nic nie trafia do chmury, wszystko jest przechowywane lokalnie.”
Można było też odnieść wrażenie, że ciągłe rejestrowanie czynności obliczeniowych danej osoby w serii zrzutów ekranu i dzienników aktywności nie miało żadnego wpływu na bezpieczeństwo ani prywatność, jeśli dane były lokalne i chronione danymi uwierzytelniającymi konta Microsoft — nie stanowiło to większego pocieszenia w świetle ujawnienia opinii badacza bezpieczeństwa Alexa Hagenaha narzędzie Całkowite przypomnienie. Ten kod może wyodrębnić i wyświetlić dane z niezaszyfrowanej bazy danych SQLite firmy Recall, w której „funkcja” systemu operacyjnego przechowuje migawki aktywności użytkownika.
Tymczasem badacze i analitycy bezpieczeństwa w dalszym ciągu wzywają, aby zapomnieć o wycofaniu, które ma zostać wydane jeszcze w tym miesiącu.
Jak twierdzi Stross, komputery z systemem Windows wyposażone w wezwania do sądu będą celem prawników podczas postępowań wyjaśniających, ponieważ będą zapewniać dostęp nie tylko do e-maili, ale także do rozmów w dowolnej aplikacji do przesyłania wiadomości lub współpracy, a także potencjalnie do rozmów głosowych, jeśli dane przesyłane w formie mowy zostaną przechwycone do tekstu przez rejestrator aktywności Redmonda. Hakerowi łatwo jest także podsłuchać, co ostatnio robiła jego ofiara, osobiście i w pracy.
„To absurd w przypadku jakiejkolwiek organizacji, która zajmuje się dokumentacją medyczną lub ma prawny obowiązek zachowania poufności, w istocie, dla każdej firmy, która musi przestrzegać RODO (jak Recall radzi sobie z prawem do bycia zapomnianym? Krótko mówiąc: słabo) lub ustawą HIPAA.” W Stanach Zjednoczonych” – napisał w swoim poście.
„Ta wada jest sprzeczna z przepisami dotyczącymi prywatności w całej UE (i Wielkiej Brytanii) oraz we wszystkich organizacjach zajmujących się opieką zdrowotną, które mają medyczne prawo do prywatności”.
Odnosząc się do zdolności Recall do unikania przechwytywania treści DRM, autor science-fiction kontynuował: „Jedynymi osobami, których prywatność nie jest naruszana, są hollywoodzkie studia i Netflix, co mówi coś o stanie rzeczy”. ®
Również na Uniwersytecie Stanforda: Aby rozwiązać kryzys energetyczny sztucznej inteligencji, „należy ponownie przemyśleć całe spektrum, od elektronów po algorytmy” – mówi profesor fizyki.
. „Nieuleczalny entuzjasta muzyki. Bacon geek. Badacz internetu. Hipsterski miłośnik telewizji”.