今年2月，環(huán)球網(wǎng)福克斯新聞報道，舊金山可能成為美國第一個禁止政府使用人臉識別技術的城市。近日，舊金山市通過了對《停止秘密監(jiān)視》條例所作的一些修訂，條例強調(diào)：“人臉識別技術侵害公民權(quán)利和公民自由的可能性大大超過了其聲稱的好處;這項技術將加劇種族不公正，并且威脅到我們的生活不受政府持續(xù)監(jiān)視的能力?！边@意味著，美國第一個城市禁用人臉識別軟件將成為現(xiàn)實。

　　人臉識別是今天多種多樣人工智能技術中相當新銳又被視為具有廣泛用途的技術，對個體生物識別、安保、刑事鑒識、社會生活等都有重要的意義。其被一個城市叫停，至少可以解讀為，在AI技術發(fā)展突飛猛進之時，相應的對其管理的規(guī)則和技術還不成熟。

　　舊金山市禁止人臉識別的最大理由是，它將公民置于政府的持續(xù)監(jiān)視之下，侵害公民權(quán)利和自由，同時也會造成種族歧視。這些是AI倫理的一部分，人類社會不能為了使用技術而發(fā)展技術，更不能以發(fā)展和使用技術為由違反甚至破壞人類社會公認的倫理底線。

　　目前，對AI技術的狂熱已經(jīng)讓這一技術有失控的危險。為此，歐盟在4月初抓緊公布了AI倫理指導方針，要求公司和政府機構(gòu)在未來開發(fā)AI時應遵循7大原則。其中的第一條是，AI不應該踐踏人類的自主性。人們不應該被AI系統(tǒng)所操縱或脅迫，應該能夠干預或監(jiān)督AI軟件所做的每一個決定。舊金山市禁止使用人臉識別技術的重要理由，與這一指導方針吻合。

　　人臉識別和其他AI技術一樣仍存在較大問題。首先，人臉識別技術并不可靠。亞馬遜及其他公司的人臉識別技術對非裔美國人誤認，甚至將28名國會議員誤認為嫌疑犯。美囯佐治亞理工學院的喬伊·布拉姆維尼團隊分析了3500張膚色各異的人的照片，發(fā)現(xiàn)自動駕駛技術在識別黑色皮膚人群時的準確度平均降低了5%。微軟、IBM和Facebook等大公司推出的商用人臉識別軟件系統(tǒng)，也無法識別女性和有色人種。

　　人臉識別技術還可能被模仿并用于造假。一項被稱為GAN(生成對抗網(wǎng)絡)的新興技術可以把任何人的相貌換成另一個人并通過檢測。實際上，GAN是一種生成模型，可以自動生成圖像，也能自動篡改圖像，可以輕而易舉地通過人臉識別技術的檢測進行造假和欺詐。

　　類似的情況，還有2017年問世的Deepfakes換臉技術，能將《神奇女俠》主角蓋爾·加朵的臉嫁接到另一位女影星的身上，看起來天衣無縫，也使得使用這項技術對任何人換臉并通過人臉識別成為可能。統(tǒng)計表明，互聯(lián)網(wǎng)有大量的合成信息，如合成聲音、生成圖像、AI合成不存在的人像等，這讓人臉識別在尚未被普遍使用之時，可靠性就遭遇空前危機。

　　人臉識別的不可靠之處還在于，其不安全性是長久的。相較于個人的生物信息，保護個人的其他密碼是可更換的，但個人生物信息一旦泄露和遭到改變，就會是終身泄露，除了影響人們的生活，還讓人處于永遠的不安全中。

　　歐盟關于AI的7項倫理指導方針要求，AI系統(tǒng)收集的個人數(shù)據(jù)應該是安全的，能夠保護個人隱私，不應該被任何人訪問，也不應該輕易被盜。但是，目前的人臉識別技術大多為公司和政府所有，屬于專有技術，缺乏公平和公正的第三方的嚴格監(jiān)管。

　　從這個意義上講，舊金山市禁用AI人臉識別技術，是在平衡AI技術的利弊之后進行的立法?，F(xiàn)在，美國參議院正在考慮一項監(jiān)管人臉識別軟件商業(yè)使用的法案，這也是從管理角度來保證AI技術的安全和公平公正使用。未來，如果技術的進步和法律能保證人臉識別技術到達更穩(wěn)妥更可控的安全程度，也許禁令會被撤銷。