Използване на умните очила на Meta с AI и LLM за Doxing Strangers

Най-новите очила с добавена реалност (AR) на Meta, наречени Orion, може да са привлекли значително внимание през изминалата седмица, но проект, иницииран от двама студенти от Харвард, отново разпалва дискусиите около Ray-Ban Smart Glasses на Meta.

Ray-Ban Meta Smart Glasses са оборудвани с камера с висока разделителна способност (HD) и вграден високоговорител, което позволява на потребителите да се насладят на цифрово изживяване със свободни ръце. С тези очила потребителите могат безпроблемно да провеждат разговори, да слушат музика и да заснемат или предават на живо снимки и видеоклипове.

Демонстрация, създадена от студентите AnhPhu Nguyen и Caine Ardayfio, разкрива как видеозаписите от очилата, комбинирани с технологията за лицево разпознаване, могат потенциално да разкрият лична информация на непознати в обществени пространства. Въпреки че основната технология е налична от години, тази демонстрация предизвиква чувство на дискомфорт, особено след като много хора не са знаели колко лесно достъпна е тази технология за обикновения цивилен. Това накара много потребители да маркират технологията като дистопична, отразявайки начина, по който мнозина са я представяли. И все пак, в момента е реалност.

Нгуен публикува видео в X (бивш Twitter), което показва технологията, наречена I-XRAY, в действие.

Готови ли сме за свят, в който нашите данни са изложени с един поглед? @CaineArdayfio и аз предлагаме отговор, за да се защитите тук: https://t.co/LhxModhDpk
pic.twitter.com/Oo35TxBNtD

— AnhPhu Nguyen (@AnhPhuNguyen1) 30 септември 2024 г.

Тази технология използва камерата на очилата, за да предава видео на живо към техния акаунт в Instagram. Те са програмирали компютърно приложение за наблюдение на потока и използване на AI за идентифициране на лица.

След като лицето бъде разпознато, то се обработва чрез услуги за лицево разпознаване като PimEyes, които съответно съпоставят изображението с публично достъпни снимки на лицето онлайн. След това тези изображения се анализират с помощта на големи езикови модели (LLM), за да се извлече информация като име на лицето, професия и др. След това тези данни могат да бъдат кръстосани с публично достъпни бази данни, за да се разкрият телефонни номера и дори частични социалноосигурителни номера.

Както споменахме по-рано, почти цялата технология, използвана в I-XRAY, е налична от години, включваща камери, инструменти за разпознаване на лица като PimEyes и бази данни като FastPeopleSearch и Cloaked.com.

Това, което засилва обезпокоителния характер на тази демонстрация, е незабележимият и мигновен начин, по който тя действа. Очилата Ray-Ban Meta Glasses 2, представени във видеото, приличат на стандартни очила и въпреки че притежават индикатор за поверителност, когато видеозаписът е активен, може да бъде предизвикателство да се забележи в ярко осветена външна среда. Следователно човек, който носи тези очила, може да ви запише без ваше знание.

Нещо повече, автономният характер на събирането на информация изостря безпокойството. Участващите LLM могат да разкриват подробности като имена и лична информация от различни онлайн източници автоматично, без човешко участие. Видеото илюстрира тези студенти, които доксират индивид на улицата, небрежно използвайки събраната информация, за да се преструват на познати, сякаш са се срещнали на обществено събитие.

Основното намерение зад този проект е да подчертае колко лесно непознати могат да получат достъп до лична информация в днешния дигитален пейзаж. Студентското дуо е избрало да не публикува никакъв код публично, но е споделило методи за защита на поверителността на хората. Много от тези бази данни предлагат безплатни услуги за премахване на лична информация. Въпреки това остава трудна задача да премахнете изцяло онлайн присъствието си. С тези мерки можете да се опитате да направите информацията си малко по-малко достъпна.

Източник