網路時代,很多人會選擇在雲端上傳或備份手機中的照片以釋出手機中有線的儲存空間,一家以 AI 為主打的名為的公司推出的應用程式 Ever 號稱為使用者提供免費、無限制的備份空間,近日在國外媒體 NBC 的報導中被指出未經使用者同意亦未主動告知的情況下擅自變更使用條款,並且將使用者的照片用來作為「餵食」自家臉部識別 AI 的養分。
相片備份儲存應用 Ever 未經使用者同意將照片用來教育臉部識別 AI
在 Ever 公司於 2013 年推出雲端儲存業務後,在 2017 年時默默地未主動告知情使用者即更改其使用者條款,最初時的條款中表示臉部識別將有助於整理組織使用者的照片,讓同一個人的照片歸納在一起,但在更改後的條款中卻多了一條不起眼卻極為重要的內容:「你的檔案將有用於幫助改進與培訓我們的產品和技術」。
在隸屬於該公司的 Ever AI 官網中描述了該公司如何擁有持續增加擴大的全球數據資料庫,其中包含有 130 億張照片與影片,並聲稱內容包含來自 95 個國家的數千萬使用者,該公司表示 Ever AI 使用這些照片提供「同類產品中最佳的人臉識別技術」,可以估算出情緒、種族、性別和年齡。Ever AI 的客戶包含 SoftBank Robotics (最知名的產品是 Pepper 機器人)等,而 Ever AI 上還鼓勵公共機構利用 Ever 的技術為公民和執法人員提供最高程度免受犯罪、暴力的保護,但目前 Ever AI 還不曾與軍事、執法或國家安全單位簽訂過合約。
臉部識別技術提供商使用不知情者的照片來訓練 AI ,這種現象引起了隱私專家和人權倡導者越來越多的關注,不只是 Ever,所有的臉部識別 AI 都必須經過相當龐大資料庫的教育來提升準確度,而其資料的來源有些同樣令人堪慮,數百萬人在網路上傳和分享個人訊息卻沒有意識到這些影像如何被用於開發可能大多數人都不贊同的監控產品。