展會(huì)信息港展會(huì)大全

危險(xiǎn)預(yù)警:爆火的AI智能眼鏡,被做成了新的「偷拍、人肉神器」
來源:互聯(lián)網(wǎng)   發(fā)布日期:2024-10-07 09:12:23   瀏覽:2583次  

導(dǎo)讀:劃重點(diǎn) 01兩位哈佛大學(xué)生通過Meta的智能眼鏡Meta Ray-Ban在校園和地鐵等地隨機(jī)識(shí)別陌生人,并提取他們的個(gè)人信息。 02他們通過人臉?biāo)阉饕、爬蟲工具、大語言模型和數(shù)據(jù)庫等技術(shù),實(shí)現(xiàn)了從照片到個(gè)人信息的自動(dòng)匹配。 03然而,這種利用AI技術(shù)進(jìn)行人臉識(shí)別的...

劃重點(diǎn)

01兩位哈佛大學(xué)生通過Meta的智能眼鏡Meta Ray-Ban在校園和地鐵等地隨機(jī)識(shí)別陌生人,并提取他們的個(gè)人信息。

02他們通過人臉?biāo)阉饕、爬蟲工具、大語言模型和數(shù)據(jù)庫等技術(shù),實(shí)現(xiàn)了從照片到個(gè)人信息的自動(dòng)匹配。

03然而,這種利用AI技術(shù)進(jìn)行人臉識(shí)別的行為可能侵犯他人的隱私權(quán)。

04為此,人們需要提高隱私意識(shí),并在使用智能眼鏡等AI產(chǎn)品時(shí)注意保護(hù)個(gè)人隱私。

以上內(nèi)容由騰訊混元大模型生成,僅供參考

2012 年 Google I/O 大會(huì)發(fā)布的 Google Glass,被稱為 Google 史上最失敗的產(chǎn)品,卻也在科技史上留下濃墨重彩的一筆。

它失敗的原因有很多,隱私風(fēng)險(xiǎn)是其中一個(gè)。

讓 Google Glass 拍照很簡單,用語音命令,或者按住頂部的按鈕,但沒有 LED 等亮眼的標(biāo)志,提示他人正處在拍攝狀態(tài)。

所以,從路人的角度看,Google Glass 就是個(gè)不講武德的「偷拍神器」,甚至曾有用戶在電影院被保安趕出來。

如今,相似的事情仍在發(fā)生,甚至變本加厲只是因?yàn)樵谌巳褐卸嗫戳四阋谎,AI 眼鏡就可以識(shí)別出你的個(gè)人信息。

一張臉,一副眼鏡,認(rèn)識(shí)一個(gè)陌生人

你叫 Lee 嗎?你從伯根縣學(xué)院畢業(yè)嗎?你的韓國名字是 Joo-oon 嗎?你住在亞特蘭大嗎?我們是不是在劍橋社區(qū)基金會(huì)見過?你的父母是 John 和 Susan 嗎?

如果在路上被人搭訕,你沒見過他們,但他們好像認(rèn)識(shí)你,熱情地叫你的名字,說出你的一兩條個(gè)人信息,你會(huì)是什么反應(yīng)?

兩位哈佛大學(xué)生,AnhPhu Nguyen 和 Caine Ardayfio,就做了這樣一個(gè)實(shí)驗(yàn)。

他們戴著 Meta 的智能眼鏡 Meta Ray-Ban,在校園、地鐵等隨機(jī)識(shí)別了數(shù)十個(gè)陌生人。拍下某人的一張照片,幾秒之后,這個(gè)人的信息就會(huì)出現(xiàn)在手機(jī)上。

只是智能眼鏡本身,還不能達(dá)到這樣的節(jié)目效果,他們做了一些技術(shù)上的改動(dòng),但原理也并不復(fù)雜。

先通過 Meta 智能眼鏡的直播功能,將視頻實(shí)時(shí)傳輸?shù)?Instagram,然后用一個(gè)計(jì)算機(jī)程序監(jiān)控這個(gè)視頻流,并使用 AI 進(jìn)行人臉識(shí)別。

接著,在互聯(lián)網(wǎng)上搜索到某個(gè)人的更多照片,以及基于公共數(shù)據(jù)庫,查找這個(gè)人的姓名、住址、電話號(hào)碼,甚至親屬信息。

最后,這些信息會(huì)傳送到他們編寫的一個(gè)手機(jī) app,方便查看。萬事俱備,就差隨機(jī)嚇到一個(gè)路人。

往細(xì)了說,兩位學(xué)生是把各種現(xiàn)有的、成熟的技術(shù)組合在了一起,連生成式 AI 也參與了。

智能眼鏡:配備攝像頭的智能眼鏡,在公共場合捕捉人臉圖像。

反向面部識(shí)別:通過 PimEyes 等人臉?biāo)阉饕,將人臉圖像與互聯(lián)網(wǎng)的公開圖像進(jìn)行匹配,并返回這些圖像的網(wǎng)頁鏈接。

爬蟲工具:使用 FireCrawl 爬蟲工具,從這些網(wǎng)頁鏈接中抓取所需的數(shù)據(jù)。

大語言模型:大語言模型從抓取的、雜亂的數(shù)據(jù)中推斷出姓名、職業(yè)等細(xì)節(jié)。

數(shù)據(jù)庫:在 FastPeopleSearch 等網(wǎng)站輸入姓名,從公開記錄、社交媒體中查找家庭住址、電話號(hào)碼和親屬姓名等個(gè)人信息。

其中,大語言模型起到的作用很微妙,它可以理解、處理、匯編不同來源的大量信息,比如,將不同文章中的同一個(gè)名字關(guān)聯(lián)起來,通過上下文邏輯推理出某人的身份,讓數(shù)據(jù)提取的過程自動(dòng)化了。

關(guān)于大語言模型的推理能力,我們之前也報(bào)道過一項(xiàng)很有意思的研究,感興趣的朋友可以回看這篇文章:《和 GPT-4 聊天,一種很新的隱私泄露方式》。

隱私泄露老生常談,面部識(shí)別并不新鮮,偷拍問題也不是出現(xiàn)一天兩天,大模型在兩年間已經(jīng)成了很多人離不開的生產(chǎn)力工具。

但彼此之間強(qiáng)強(qiáng)聯(lián)合的化學(xué)反應(yīng),還是導(dǎo)致了一個(gè)細(xì)思極恐的結(jié)果僅憑大街上偶然的相遇,我們的個(gè)人信息就可能被有心人提齲

兩位學(xué)生沒有對(duì)外公開技術(shù)細(xì)節(jié),做這個(gè)實(shí)驗(yàn)的目的,是為了提醒人們保持警惕。

那我們可以怎么保護(hù)自己?他們提出的應(yīng)對(duì)方法是,從人臉?biāo)阉饕娴葦?shù)據(jù)源中刪除自己的數(shù)據(jù),但這很難說徹不徹底。

雖然我提醒你了,但你不一定知道被偷拍了

當(dāng)年有人開玩笑,Google Glass 的最大用處,是讓英國王室的查爾斯王子記住每個(gè)人的名字。

或許,通過支持人臉識(shí)別的智能眼鏡,我們會(huì)迎來一個(gè)沒有陌生人的世界,最高興的可能是夜神月。

你可能會(huì)問,有了數(shù)據(jù)庫、面部識(shí)別,用手機(jī)偷拍應(yīng)該也行,為什么他們選擇了智能眼鏡 Meta Ray-Ban?

理由很簡單,它長得像普通墨鏡,不如 Google Glass 賽博朋克,偷拍更加方便,而且眼鏡本就適合記錄,免提,見你所見。

Meta Ray-Ban 并不是沒有提醒,它有一個(gè) LED 指示燈,當(dāng)用戶錄制視頻,它就會(huì)自動(dòng)打開,提醒旁邊的路人。但是,聊勝于無。

之前 The Verge 測評(píng)發(fā)現(xiàn),在明亮的室外,Meta Ray-Ban 的 LED 和快門聲都不明顯,在擁擠嘈雜的公共場所,很多人往往不會(huì)注意到這種細(xì)節(jié)。

LED 在右眼的上面,你注意到了嗎

當(dāng)你的手放在鏡腿的按鈕上,別人可能覺得你就是在扶眼鏡而已。

所以也不難理解,隱私一直是智能眼鏡的關(guān)注點(diǎn),前段時(shí)間 Meta 首款 AR 眼鏡 Orion 發(fā)布時(shí),也有人擔(dān)心,會(huì)不會(huì)重蹈 Google Glass 的覆轍。

Meta 還在 Meta Ray-Ban 的隱私政策里強(qiáng)調(diào)了「如何負(fù)責(zé)任地佩戴智能眼鏡」,寫了很多條溫馨提醒。

然而,每一條都是非強(qiáng)制的,尊重別人也好,在拍攝或直播前用聲音或手勢提醒他人也罷,全憑自覺。

別說眼鏡的形態(tài)更方便偷拍了,甚至,科技公司可以直接設(shè)計(jì)出支持面部識(shí)別的智能眼鏡,障礙并不是技術(shù)本身。

2021 年,外媒報(bào)道,Meta 考慮過,在智能眼鏡內(nèi)置面部識(shí)別功能。當(dāng)時(shí) Meta 首席技術(shù)官 Andrew Bosworth 還舉例,這樣的智能眼鏡,可以幫臉盲或者記不住名字的用戶,在晚宴時(shí)認(rèn)出某人。

另外,人臉識(shí)別初創(chuàng)公司 Clearview AI,已經(jīng)開發(fā)了自己的 AR 眼鏡和應(yīng)用程序,據(jù)稱可以連接到包含 300 億張面孔的數(shù)據(jù)庫,只是沒有對(duì)外公開銷售。

某種程度上,怎么使用面部識(shí)別,怎么防止偷拍,是被法律和道德約束的。

比如,F(xiàn)acebook 的面部識(shí)別技術(shù),曾經(jīng)讓用戶在照片中標(biāo)記朋友,對(duì)隱私的質(zhì)疑自然是繞不過去的,在 2015 年的一次集體訴訟中,F(xiàn)acebook 賠償了 6.5 億美元。

2021 年,F(xiàn)acebook 宣布,停用面部識(shí)別技術(shù)識(shí)別照片和視頻中的人物,并刪除超過 10 億人的相關(guān)數(shù)據(jù)。

面部識(shí)別,多么老生常談埃但最面目平凡的技術(shù),卻也因其應(yīng)用的成熟、普及和廣泛,讓人如臨大敵。

在 AI 面前,秘密越來越少

在哈佛學(xué)生的實(shí)驗(yàn)中,大語言模型的作用是幫忙處理數(shù)據(jù),但現(xiàn)在使用各種生成式 AI 的產(chǎn)品,我們往往是主動(dòng)給出自己的數(shù)據(jù)。

因?yàn)楹芏鄷r(shí)候,付出隱私是使用服務(wù)的必選項(xiàng),比如向 AI 換臉 P 圖軟件交出自己的臉。

更進(jìn)一步說,不只是臉,AI 硬件和軟件們,都越來越強(qiáng)調(diào)個(gè)人數(shù)據(jù)的概念。

比如,用 AI 錄音產(chǎn)品無縫記錄你的一天,向 AI 日記透露你的日常和愛好,或者只是通過記憶功能讓 ChatGPT 記住我們是誰。

可穿戴 AI 錄音設(shè)備 Limitless

AI 會(huì)慢慢地更了解你,分析你,整理你周圍的信息,提供給你更多的情緒價(jià)值,彌補(bǔ)個(gè)人有限的腦容量。

同時(shí),這些產(chǎn)品也會(huì)強(qiáng)調(diào)隱私安全,要么說你的數(shù)據(jù)就是你的,不會(huì)拿你的數(shù)據(jù)訓(xùn)練模型,要么說用的是在本地運(yùn)行的端側(cè)模型,或者私有云,隱私泄露的風(fēng)險(xiǎn)更低。

隱私和便利,很難既要又要,當(dāng)我們享受各種 AI 產(chǎn)品的趣味和個(gè)性化時(shí),風(fēng)險(xiǎn)也如影隨形。

就像《攻殼機(jī)動(dòng)隊(duì)》里的電子腦,人們直接將大腦連接上網(wǎng)絡(luò)或者是進(jìn)行大腦的互連,彼此可以快速溝通,但大腦也就有了被入侵的風(fēng)險(xiǎn),連記憶也可以被偽造。

當(dāng)然,隱私泄露可能就像面部識(shí)別一樣,是個(gè)無趣的、沒有新意的話題,你泄露,我泄露,他也泄露。好像,沒關(guān)系的,都一樣。

但如果有人戴著「墨鏡」走到你面前,叫出你的名字,那一幕還是很有沖擊力的,對(duì)嗎?

或許更讓人擔(dān)心的,是無形的、支配信息的權(quán)力,先擁有技術(shù)和工具的人,對(duì)其他不知情的個(gè)人行使這種權(quán)力。

智能手機(jī)興起之后,豎屏短視頻、直播也發(fā)展起來,我們越來越習(xí)慣于拍攝和被拍攝,是無辜的背景板,或者說,不在乎,也無從察覺。

這時(shí)候我們是汪洋大海里的一滴水,但未來,這滴水,或許會(huì)因?yàn)殓R頭背后的 AI 被聚焦,然后折射出更具象的模樣。

贊助本站

相關(guān)熱詞: 爆火 智能 眼鏡 成了 新的 偷拍 人肉 神器

相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港