[立場新聞]_被揭人臉識別系統 可辨識維吾爾人

newhello

被揭人臉識別系統　可辨識維吾爾人　
阿里巴巴：已刪除種族標記功能
2020/12/18
[立場新聞]



中國科技龍頭之一阿里巴巴研發的人臉辨識系統，日前被揭發可用作辨識新疆維吾爾族人，惹來外界質疑；阿里巴巴今日發表聲明，指阿里巴巴將不再容許其產品用作針對及辨識特定族裔人士；又指對人臉識別系統包含族裔辨識功能感到「沮喪 (dismayed) 」，已將所有產品內的種族標記功能刪去。


人工智能科技雖為生活上帶來不少便利，但也有機會被濫用甚至侵害人權。影象監控研究組織 IPVM 日前從阿里巴巴網站，發現網頁介紹對人臉識別系統的介紹中，示範了可用於辨識維族人或其他小數族裔的功能，同時附有相關使用詳細說明。根據網站簡介，用戶可以簡單地將圖片或影片上傳，系統則可判斷圖中或片中人，是否維族人。不過相關資料在 IPVM 查詢後，已被阿里巴巴刪除。


阿里巴巴在未有提供進一步證據及原因下解釋，這些功能「只可在測試環境中使用」。路透社引述該公司今日發表的聲明指，阿里巴巴將不再容許產品，針對辨識特定族裔人士；指公司對於包含族裔辨識功能感到「沮喪 (dismayed) 」，亦已將所有產品種族標記功能刪去。


據 IPVM 及《紐時》調查，阿里巴巴系統使用說明書內指，人面識別系統屬其雲盾服務功能之一，而雲盾則是內容安全 (Content Security) 的先驅，可用作檢測及識別包含色情、政治、暴力恐怖主義、廣告及垃圾郵件的文字、圖片、影片及聲音等，以用作驗證、標記等功能。


IPVM 從系統兩份說明書發現，兩份都寫有系統可判斷輸入的資料中，是否包含「少數族裔」或者「少數族裔（維族人）」的字眼。IPVM 指，暫時未發現阿里巴巴旗下產品有用到判別維族人的功能，但同時指阿里巴巴的產品包括影片網站優酷，而阿里巴巴本身也有直播系統，微博也採用阿里雲服務。


IPVM 亦發現另一間中國雲端服務企業 Kingsoft，也疑似有辨識維族人功能，但隨後也刪除了該功能，並指從未銷售相關功能。此外，IPVM 上周也聯同《華爾街日報》揭發，華為系統也可用作辨識維族人，球星基沙文也因此宣佈終止與華為合作。


新疆維吾爾族人權狀況惡劣，較早前已有不少媒體報道，當地不少維族人被以「再教育」為名，關押在當地的「再教育營」，部份人被迫強制勞役，部份產品亦出口至全球各地。美國較早前就指此些涉事產品涉違人權，禁止入口銷售。

LEUNGCHEUKFAN

整人就高超．．．扮
辦事就拖拉．．．閃
欺善單怕惡．．．隱