2002年6月，《少數派報告》首映，這部電影由史蒂文·斯皮爾伯格執導，根據科幻小說作家菲利普·迪克1956年的著名短篇小說改編，由湯姆·克魯斯主演。它以2054年已消滅了犯罪的華盛頓特區為背景。劇中，湯姆·克魯斯扮演“預防犯罪小組”的一位主管，這個小組根據三位先知所看到的能夠洞悉未來的意象，在兇手實施犯罪前逮捕他們。不料，“先知”預測克魯斯將犯下謀殺罪行，因此他不得不開始逃亡——在一個所有人和所有行為都受到追蹤的城市裡。1、科技存在被濫用的風險16年之後再回頭看這部影片，這種執法方式看似有些牽強。不過今天，《少數派報告》中的一個場景似乎遠遠早於2054年就已經成為現實。影片中，克魯斯在逃亡時走進了一家服裝店，這家服裝店擁有一項技術，可以識別每一位進店的顧客，並會立即在一個顯示屏上展示顧客大概會喜歡的衣服影象。有些人可能會覺得這個服務很有吸引力，但其他人可能會覺得它們很煩人甚至令人毛骨悚然。簡而言之，進入這樣一家商店，就好像我們瀏覽完網路後去看社交媒體資訊，會發現頁面上有我們剛剛瀏覽之物的廣告。在《少數派報告》中，斯皮爾伯格希望觀眾思考，科技既能被利用也能被濫用——科技可被用來在犯罪實際發生前消除犯罪，可一旦出了問題，它也可能被濫用來侵犯人權。在商店裡，識別克魯斯的技術是依賴於嵌入他體內的一塊晶片。今天，人臉識別技術利用基於人工智慧的計算機視覺與相機，輔以雲資料，可以識別進入商店的顧客面孔，無論他們是上週還是一小時前曾經來過。很多人也已經習慣了依靠人臉識別，而不是用密碼，來解鎖iPhone或Windows膝上型電腦。而人臉識技術的應用也不會僅止於此。人臉識別技術正在為科技行業和政府創造一個先手機會，即如何用一種重點突出而又切實具體的方式來處理人工智慧的道德和人權問題。而能否抓住這個機會，就要看他們決定怎樣來監管人臉識別技術了。2、面部和指紋一樣獨特事實證明，我們的臉和指紋一樣獨特。我們的面部特徵包括瞳孔之間的距離、鼻子的大小、微笑的樣子和下巴的輪廓。計算機可使用照片來繪製這些特徵並將它們編織在一起，並以此為基礎建立一個數學方程，這些數學方程可以透過演算法來訪問。人們正在把這項技術應用到世界各地，以便改善人們的生活。在某些情況下，這樣做是為了方便消費者。澳大利亞國民銀行正在利用微軟的人臉識別技術開發一種服務，可以讓顧客走到ATM前，無須銀行卡即可安全取款。在其他場景中，這種技術可帶來更大的好處。在華盛頓特區，美國國家人類基因組研究所正在利用人臉識別技術幫助醫生診斷一種被稱為DiGeorge綜合徵（DGS）或22q11.2缺失綜合徵的疾病。這是一種多發於非洲、亞洲或拉丁美洲人口的疾病。它會導致各種嚴重的健康問題，包括心臟和腎臟的損傷。患有這種病的人也常常帶有特定的面部特徵，這些特徵可以透過電腦使用人臉識別系統加以識別，從而幫助醫生診斷出需要幫助的病人。然而，和許多其他工具一樣，它也可以變成危險的武器。2018年6月，特朗普政府決定在美國南部墨西哥邊境把非法入境者的孩子與家人分開，這迅速成為一個爆炸性問題。人們擔心海關執法局（ICE）和其他移民機關可能會把像人臉識別這樣的技術應用到工作中。這是否意味著，當移民在城市街道上行走時，連線到雲端的攝像機可以用來識別他們的身份？這是否意味著，鑑於這項技術的現狀，以及它可能產生偏差的風險，它可能會錯誤辨識某個人並導致其被錯誤拘留？這只是許多問題中的兩個。人臉識別很容易與更廣泛社會問題交織在一起，並提出了一個至關重要的問題：我們希望這種形式的人工智慧在我們的社會中發揮什麼作用？3、請政府監管經過深思熟慮，我們得出結論，這項新技術應該受到新的法律法規約束。這是保護公眾隱私需求，化解偏見和歧視風險，同時使創新得以繼續的唯一途徑。我們需要嘗試給這種新技術的發展奠定某種型別的道德基礎。這樣做的唯一辦法就是拒絕將其用於某些用途，並推動更廣泛的公眾討論。這種原則性的方法在加州本地的一個警察部門聯絡我們時經受了考驗，他們表示，他們想為自己的所有車載和手持攝像機配備一種能力，使其可以拍攝被攔下的人的照片，甚至包括例行檢查時被攔下的人，並檢視他們是否與其他罪行的嫌疑人資料庫相匹配。我們理解他們的邏輯，但向他們建議，由於人臉識別技術仍然不成熟，因而無法在這種情況下部署。至少在2018年，如此使用這一技術將導致過多的錯誤匹配，並針對被錯誤識別的人發出警報，特別是如果他們是有色人群或女性，因為針對這兩類人群的錯誤率仍然較高。我們拒絕了這項交易，並說服了警察部門放棄將人臉識別用於這一目的。這也是我們早在2005年就呼籲美國聯邦隱私保護立法的原因之一。我們不再像大多數科技公司那樣，堅守抵制政府幹預。我們認為，無論是對科技行業還是對社會，這種做法從普遍意義上來說都比完全依賴科技行業自行解決一切問題的做法要好得多。4、行動之前：我們能做什麼？我們認為，立法可以解決三個關鍵問題，即偏見風險、隱私和對民主自由的保護。我們相信，一個運作良好的市場有助於更快地減少偏見。我們遇到的客戶都沒有興趣購買錯誤率高，並導致歧視的人臉識別服務。但如果客戶缺乏資訊，市場就無法正常運轉。為了幫助減少歧視風險，我們認為新的法律還應該要求，部署了人臉識別的組織首先應培訓員工審查結果，然後再做出關鍵決策，而不是簡單地把決策權交給電腦。除此以外，我們擔心，如果一個組織在部署人臉識別時並未按照該技術設計時預期的方式，發生偏差的風險可能會加劇。訓練有素的人員則有助於解決這個問題。在某種程度上，一個更棘手的問題是，什麼時候應該允許執法部門使用人臉識別技術針對特定個人進行持續的監視。民主始終取決於人們相互見面和交談，並在私下和公開場合討論自己觀點的能力。這有賴於人們能夠在沒有政府持續監控的情況下自由行動。人臉識別技術的許多政府用途是用於保護公共安全和促進更好的公眾服務，並不會引起上述擔心。但是，如果將無處不在的攝像頭、巨大的計算能力和雲端儲存結合起來，政府可以使用人臉識別技術來持續監視特定的人。它可以在任何時候做到這一點，甚至可以持續這樣做。而以這種方式使用這項技術則可能會導致規模空前的大規模監視。因此我們認為，法律只有在下列情況下才可以允許執法機構使用人臉識別來對特定的人進行持續監視，即執法機構已經獲得了法庭命令（如對這種監視的搜查令），或是在緊急情況下，如人類生命面臨迫在眉睫的危險。這將為人臉識別服務建立規則，這些規則與美國目前透過手機生成的GPS位置跟蹤個人的規則類似。正如美國最高法院在2018年做出的裁決，如果沒有搜查令，警方將不能要求顯示手機地點的手機記錄，因此無法獲得某人的實際行動軌跡。正如我們所說：“我們的面孔是否應該得到和手機同等的保護？在我們看來，答案當然是響亮的‘是’。”最後，顯而易見的是，人臉識別的監管也應該保護商業環境下的消費者隱私。我們正迅速進入一個時代，在這個時代，每家商店都可以安裝攝像頭，透過實時人臉識別服務連線到雲端。從你走進購物中心的那一刻起，無論你走到哪裡，都有可能不僅被拍照，而且被電腦識別。購物中心的老闆可以把這些資訊分享給每一家商店。有了這些資料，店主可以瞭解你上次進店的時間以及你看了什麼或買了什麼，透過與其他商店共享這些資料，他們可以預測你下一步打算買什麼。我們的觀點並不是說新的法律應該禁止所有這些技術。我們相信許多消費者會歡迎由此帶來的客戶服務。但我們同樣認為，人們有權知道什麼時候使用了人臉識別，提出問題，並有真正的選擇。我們建議，新的法律應要求使用人臉識別的組織釋出“醒目的通知”，以方便人們知曉這項服務。我們還呼籲制定新的法規，以決定人們在這種情況下可在何時以及以何種方式進行有意義的控制和同意。最後，政府主導的需要並不能免除科技公司自身的道德責任。人臉識別問題讓我們得以瞥見人工智慧的其他倫理道德挑戰有可能發生怎樣的演變。正如我們所做的那樣，我們可以先制定廣泛適用的原則，隨後在人工智慧技術的具體應用和特定場景中對這些原則進行測試。更多的問題一定會出現。要解決許多這樣的問題，最終將需要新的監管政策與科技公司主動的自我監管相結合。在面對許多這樣的問題時，不同國家和文化也會存在不同的觀點。我們需要發展一種更強的能力，使各國能夠更迅速、更協作地採取行動，在經常性的基礎上應對這些問題。這是我們能夠確保機器將永遠由人控制的必由之路。大咖領讀以上內容節選自微軟總裁扛鼎之作《工具還是武器》。1月9日週四晚8:00-9:00，中信讀書會特別邀請微軟（中國）CTO韋青為我們解讀本書，微信搜尋“中信讀書會”即可預約收聽。布拉德·史密斯、卡羅爾·安·布朗 著比爾·蓋茨、沈向洋親自作序美國前國務卿等人聯袂推薦直麵人類科技最緊迫的爭議性問題避免“科技作惡”當下，科技正處於大迸發時代。技術的開發者與使用者、全球範圍內的管理者，乃至我們每個人，應該如何行動，才能正確解決科技行業重大的安全問題，讓科技維持工具屬性，而不會變成攻擊人類的可怕武器？作者站在世界科技巨頭微軟的“駕駛艙裡”，面對一系列棘手的問題，和他們帶領的微軟團隊在實踐中不斷探索，這對全球相關行業都有巨大的警醒和啟示意義。這本書一面世便成為《紐約時報》暢銷書，牽涉的話題被廣泛討論。作者布拉德·史密斯（Brad Smith）微軟總裁兼首席法務官2015年被任命為微軟總裁，在微軟工作20餘年，他在帶領公司解決涉及科技與社會交叉領域的關鍵問題上發揮了關鍵作用。《澳大利亞金融評論》稱他為“科技行業最受尊敬的人物之一”。卡羅爾·安·布朗(Carol Ann Browne）微軟傳播和公共關係部高階主管主導微軟外部活動，與史密斯共同運營“今日科技”系列部落格。領讀韋青微軟中國首席技術官負責將微軟的產業願景與創新技術介紹給中國的行業夥伴與業界領導者。
2002年6月，《少數派報告》首映，這部電影由史蒂文·斯皮爾伯格執導，根據科幻小說作家菲利普·迪克1956年的著名短篇小說改編，由湯姆·克魯斯主演。它以2054年已消滅了犯罪的華盛頓特區為背景。劇中，湯姆·克魯斯扮演“預防犯罪小組”的一位主管，這個小組根據三位先知所看到的能夠洞悉未來的意象，在兇手實施犯罪前逮捕他們。不料，“先知”預測克魯斯將犯下謀殺罪行，因此他不得不開始逃亡——在一個所有人和所有行為都受到追蹤的城市裡。1、科技存在被濫用的風險16年之後再回頭看這部影片，這種執法方式看似有些牽強。不過今天，《少數派報告》中的一個場景似乎遠遠早於2054年就已經成為現實。影片中，克魯斯在逃亡時走進了一家服裝店，這家服裝店擁有一項技術，可以識別每一位進店的顧客，並會立即在一個顯示屏上展示顧客大概會喜歡的衣服影象。有些人可能會覺得這個服務很有吸引力，但其他人可能會覺得它們很煩人甚至令人毛骨悚然。簡而言之，進入這樣一家商店，就好像我們瀏覽完網路後去看社交媒體資訊，會發現頁面上有我們剛剛瀏覽之物的廣告。在《少數派報告》中，斯皮爾伯格希望觀眾思考，科技既能被利用也能被濫用——科技可被用來在犯罪實際發生前消除犯罪，可一旦出了問題，它也可能被濫用來侵犯人權。在商店裡，識別克魯斯的技術是依賴於嵌入他體內的一塊晶片。今天，人臉識別技術利用基於人工智慧的計算機視覺與相機，輔以雲資料，可以識別進入商店的顧客面孔，無論他們是上週還是一小時前曾經來過。很多人也已經習慣了依靠人臉識別，而不是用密碼，來解鎖iPhone或Windows膝上型電腦。而人臉識技術的應用也不會僅止於此。人臉識別技術正在為科技行業和政府創造一個先手機會，即如何用一種重點突出而又切實具體的方式來處理人工智慧的道德和人權問題。而能否抓住這個機會，就要看他們決定怎樣來監管人臉識別技術了。2、面部和指紋一樣獨特事實證明，我們的臉和指紋一樣獨特。我們的面部特徵包括瞳孔之間的距離、鼻子的大小、微笑的樣子和下巴的輪廓。計算機可使用照片來繪製這些特徵並將它們編織在一起，並以此為基礎建立一個數學方程，這些數學方程可以透過演算法來訪問。人們正在把這項技術應用到世界各地，以便改善人們的生活。在某些情況下，這樣做是為了方便消費者。澳大利亞國民銀行正在利用微軟的人臉識別技術開發一種服務，可以讓顧客走到ATM前，無須銀行卡即可安全取款。在其他場景中，這種技術可帶來更大的好處。在華盛頓特區，美國國家人類基因組研究所正在利用人臉識別技術幫助醫生診斷一種被稱為DiGeorge綜合徵（DGS）或22q11.2缺失綜合徵的疾病。這是一種多發於非洲、亞洲或拉丁美洲人口的疾病。它會導致各種嚴重的健康問題，包括心臟和腎臟的損傷。患有這種病的人也常常帶有特定的面部特徵，這些特徵可以透過電腦使用人臉識別系統加以識別，從而幫助醫生診斷出需要幫助的病人。然而，和許多其他工具一樣，它也可以變成危險的武器。2018年6月，特朗普政府決定在美國南部墨西哥邊境把非法入境者的孩子與家人分開，這迅速成為一個爆炸性問題。人們擔心海關執法局（ICE）和其他移民機關可能會把像人臉識別這樣的技術應用到工作中。這是否意味著，當移民在城市街道上行走時，連線到雲端的攝像機可以用來識別他們的身份？這是否意味著，鑑於這項技術的現狀，以及它可能產生偏差的風險，它可能會錯誤辨識某個人並導致其被錯誤拘留？這只是許多問題中的兩個。人臉識別很容易與更廣泛社會問題交織在一起，並提出了一個至關重要的問題：我們希望這種形式的人工智慧在我們的社會中發揮什麼作用？3、請政府監管經過深思熟慮，我們得出結論，這項新技術應該受到新的法律法規約束。這是保護公眾隱私需求，化解偏見和歧視風險，同時使創新得以繼續的唯一途徑。我們需要嘗試給這種新技術的發展奠定某種型別的道德基礎。這樣做的唯一辦法就是拒絕將其用於某些用途，並推動更廣泛的公眾討論。這種原則性的方法在加州本地的一個警察部門聯絡我們時經受了考驗，他們表示，他們想為自己的所有車載和手持攝像機配備一種能力，使其可以拍攝被攔下的人的照片，甚至包括例行檢查時被攔下的人，並檢視他們是否與其他罪行的嫌疑人資料庫相匹配。我們理解他們的邏輯，但向他們建議，由於人臉識別技術仍然不成熟，因而無法在這種情況下部署。至少在2018年，如此使用這一技術將導致過多的錯誤匹配，並針對被錯誤識別的人發出警報，特別是如果他們是有色人群或女性，因為針對這兩類人群的錯誤率仍然較高。我們拒絕了這項交易，並說服了警察部門放棄將人臉識別用於這一目的。這也是我們早在2005年就呼籲美國聯邦隱私保護立法的原因之一。我們不再像大多數科技公司那樣，堅守抵制政府幹預。我們認為，無論是對科技行業還是對社會，這種做法從普遍意義上來說都比完全依賴科技行業自行解決一切問題的做法要好得多。4、行動之前：我們能做什麼？我們認為，立法可以解決三個關鍵問題，即偏見風險、隱私和對民主自由的保護。我們相信，一個運作良好的市場有助於更快地減少偏見。我們遇到的客戶都沒有興趣購買錯誤率高，並導致歧視的人臉識別服務。但如果客戶缺乏資訊，市場就無法正常運轉。為了幫助減少歧視風險，我們認為新的法律還應該要求，部署了人臉識別的組織首先應培訓員工審查結果，然後再做出關鍵決策，而不是簡單地把決策權交給電腦。除此以外，我們擔心，如果一個組織在部署人臉識別時並未按照該技術設計時預期的方式，發生偏差的風險可能會加劇。訓練有素的人員則有助於解決這個問題。在某種程度上，一個更棘手的問題是，什麼時候應該允許執法部門使用人臉識別技術針對特定個人進行持續的監視。民主始終取決於人們相互見面和交談，並在私下和公開場合討論自己觀點的能力。這有賴於人們能夠在沒有政府持續監控的情況下自由行動。人臉識別技術的許多政府用途是用於保護公共安全和促進更好的公眾服務，並不會引起上述擔心。但是，如果將無處不在的攝像頭、巨大的計算能力和雲端儲存結合起來，政府可以使用人臉識別技術來持續監視特定的人。它可以在任何時候做到這一點，甚至可以持續這樣做。而以這種方式使用這項技術則可能會導致規模空前的大規模監視。因此我們認為，法律只有在下列情況下才可以允許執法機構使用人臉識別來對特定的人進行持續監視，即執法機構已經獲得了法庭命令（如對這種監視的搜查令），或是在緊急情況下，如人類生命面臨迫在眉睫的危險。這將為人臉識別服務建立規則，這些規則與美國目前透過手機生成的GPS位置跟蹤個人的規則類似。正如美國最高法院在2018年做出的裁決，如果沒有搜查令，警方將不能要求顯示手機地點的手機記錄，因此無法獲得某人的實際行動軌跡。正如我們所說：“我們的面孔是否應該得到和手機同等的保護？在我們看來，答案當然是響亮的‘是’。”最後，顯而易見的是，人臉識別的監管也應該保護商業環境下的消費者隱私。我們正迅速進入一個時代，在這個時代，每家商店都可以安裝攝像頭，透過實時人臉識別服務連線到雲端。從你走進購物中心的那一刻起，無論你走到哪裡，都有可能不僅被拍照，而且被電腦識別。購物中心的老闆可以把這些資訊分享給每一家商店。有了這些資料，店主可以瞭解你上次進店的時間以及你看了什麼或買了什麼，透過與其他商店共享這些資料，他們可以預測你下一步打算買什麼。我們的觀點並不是說新的法律應該禁止所有這些技術。我們相信許多消費者會歡迎由此帶來的客戶服務。但我們同樣認為，人們有權知道什麼時候使用了人臉識別，提出問題，並有真正的選擇。我們建議，新的法律應要求使用人臉識別的組織釋出“醒目的通知”，以方便人們知曉這項服務。我們還呼籲制定新的法規，以決定人們在這種情況下可在何時以及以何種方式進行有意義的控制和同意。最後，政府主導的需要並不能免除科技公司自身的道德責任。人臉識別問題讓我們得以瞥見人工智慧的其他倫理道德挑戰有可能發生怎樣的演變。正如我們所做的那樣，我們可以先制定廣泛適用的原則，隨後在人工智慧技術的具體應用和特定場景中對這些原則進行測試。更多的問題一定會出現。要解決許多這樣的問題，最終將需要新的監管政策與科技公司主動的自我監管相結合。在面對許多這樣的問題時，不同國家和文化也會存在不同的觀點。我們需要發展一種更強的能力，使各國能夠更迅速、更協作地採取行動，在經常性的基礎上應對這些問題。這是我們能夠確保機器將永遠由人控制的必由之路。大咖領讀以上內容節選自微軟總裁扛鼎之作《工具還是武器》。1月9日週四晚8:00-9:00，中信讀書會特別邀請微軟（中國）CTO韋青為我們解讀本書，微信搜尋“中信讀書會”即可預約收聽。布拉德·史密斯、卡羅爾·安·布朗 著比爾·蓋茨、沈向洋親自作序美國前國務卿等人聯袂推薦直麵人類科技最緊迫的爭議性問題避免“科技作惡”當下，科技正處於大迸發時代。技術的開發者與使用者、全球範圍內的管理者，乃至我們每個人，應該如何行動，才能正確解決科技行業重大的安全問題，讓科技維持工具屬性，而不會變成攻擊人類的可怕武器？作者站在世界科技巨頭微軟的“駕駛艙裡”，面對一系列棘手的問題，和他們帶領的微軟團隊在實踐中不斷探索，這對全球相關行業都有巨大的警醒和啟示意義。這本書一面世便成為《紐約時報》暢銷書，牽涉的話題被廣泛討論。作者布拉德·史密斯（Brad Smith）微軟總裁兼首席法務官2015年被任命為微軟總裁，在微軟工作20餘年，他在帶領公司解決涉及科技與社會交叉領域的關鍵問題上發揮了關鍵作用。《澳大利亞金融評論》稱他為“科技行業最受尊敬的人物之一”。卡羅爾·安·布朗(Carol Ann Browne）微軟傳播和公共關係部高階主管主導微軟外部活動，與史密斯共同運營“今日科技”系列部落格。領讀韋青微軟中國首席技術官負責將微軟的產業願景與創新技術介紹給中國的行業夥伴與業界領導者。
刷臉時代，你的隱私誰來保護？
資訊抽取 常識
自然語言理解 資訊抽取 常識