Brug af Metas smarte briller med AI og LLM til Doxing Strangers

Metas seneste augmented reality (AR)-briller, ved navn Orion, har muligvis fået betydelig opmærksomhed i den seneste uge, men et projekt iværksat af to Harvard-studerende genopliver diskussionerne omkring Metas Ray-Ban Smart Glasses.

Ray-Ban Meta Smart Glasses er udstyret med et high-definition (HD) kamera og en integreret højttaler, så brugerne kan nyde en håndfri digital oplevelse. Med disse briller kan brugere foretage opkald, lytte til musik og optage eller livestreame fotos og videoer problemfrit.

En demonstration skabt af eleverne AnhPhu Nguyen og Caine Ardayfio afslører, hvordan videooptagelserne fra brillerne, kombineret med ansigtsgenkendelsesteknologi, potentielt kan afsløre privat information om fremmede i offentlige rum. På trods af at den underliggende teknologi har været tilgængelig i årevis, fremkalder denne demo en følelse af ubehag, især da mange mennesker var uvidende om, hvor let tilgængelig sådan teknologi er for den gennemsnitlige civile. Dette har ført til, at adskillige brugere brander teknologien som dystopisk, hvilket afspejler den måde, mange forestillede sig den. Alligevel er det i øjeblikket en realitet.

Nguyen postede en video på X (tidligere Twitter), der viser teknologien, kaldet I-XRAY, i aktion.

Er vi klar til en verden, hvor vores data blotlægges med et øjeblik? @CaineArdayfio og jeg tilbyder et svar for at beskytte dig selv her: https://t.co/LhxModhDpk
pic.twitter.com/Oo35TxBNtD

— AnhPhu Nguyen (@AnhPhuNguyen1) 30. september 2024

Denne teknologi bruger kameraet på brillerne til at livestreame video til deres Instagram-konto. De har programmeret en computerapplikation til at overvåge strømmen og bruge AI til at identificere ansigter.

Når et ansigt er genkendt, behandles det gennem ansigtsgenkendelsestjenester som PimEyes, der tilsvarende matcher billedet med offentligt tilgængelige billeder af den enkelte online. Disse billeder analyseres derefter ved hjælp af store sprogmodeller (LLM’er) for at udtrække information såsom personens navn, beskæftigelse og mere. Disse data kan derefter krydshenvises til offentligt tilgængelige databaser for at afdække telefonnumre og endda delvise CPR-numre.

Som tidligere nævnt har næsten al den teknologi, der anvendes i I-XRAY, været tilgængelig i årevis, omfattende kameraer, ansigtsgenkendelsesværktøjer som PimEyes og databaser som FastPeopleSearch og Cloaked.com.

Det, der forstærker den foruroligende karakter af denne demonstration, er den iøjnefaldende og øjeblikkelige måde, den fungerer på. Ray-Ban Meta Glasses 2 i videoen ligner standardbriller, og selvom de har en privatlivsindikator for, hvornår videooptagelse er aktiv, kan det være udfordrende at bemærke i stærkt oplyste udendørs miljøer. Derfor kan en person, der bærer disse briller, optage dig uden din viden.

Desuden forværrer den autonome karakter af informationsindsamlingen uroen. De involverede LLM’er kan automatisk afsløre detaljer som navne og personlige oplysninger fra forskellige onlinekilder uden nogen menneskelig involvering. Videoen illustrerer disse elever, der doxer en person på gaden, og bruger tilfældigt indsamlet information til at foregive at blive fortrolig, som om de havde mødt hinanden ved en fællesfest.

Den primære hensigt bag dette projekt er at fremhæve, hvor ubesværet fremmede kan få adgang til personlige oplysninger i nutidens digitale landskab. Studenterduoen har valgt ikke at frigive nogen kode offentligt, men har delt metoder for enkeltpersoner til at beskytte deres privatliv. Mange af disse databaser tilbyder gratis tjenester til at hjælpe med at fjerne personlige oplysninger. Det er dog stadig en besværlig opgave at eliminere din online tilstedeværelse helt. Med disse foranstaltninger kan du forsøge at gøre dine oplysninger lidt mindre tilgængelige.