一
我站在火車站入口處,又體驗了一次人臉識別自助驗票通道。 嗶的一聲,過程只要兩三秒。 五六米外的兩個安保員,鬆弛地看著六七個不斷開合的小門。 從春運起,各大火車站都啟用了這一系統。
4月7日晚,南京的張學友演唱會上,警方在萬眾攢動的看台裡,逮住了一個逃犯。 舞台上是音樂狂歡,舞台下一男子戴著手銬離場。 這一戲劇性抓捕,源自人臉識別的鎖定。
4月中旬,今年的世界TED大會上,一位科學家在播放恐怖電影片斷。 他不用看觀眾表情,也有精準的效果答案。 會場裡的四台二氧化碳檢測儀,知道觀眾呼吸有無加速、心跳有無加快。
科學家解釋,能識別情緒的傳感器太多了: 熱成像攝像頭檢測你臉部溫度變化;麥克風捕捉你用詞的變化、普通攝像頭可以捕捉到你的眼部運動。
我猜,照這麼下去,或許某一天,保安只需看看顯示屏,就可以在春天圓舞曲的人群中,認出婚外出軌的男女,或者拎出心懷鬼胎的恐怖分子。
各類AI神器,正一路狂奔,四處開疆拓土。
二
我居住的城市,一所初中里,也引進了人臉識別系統。 必須說明,這是三個月前的報導,目前有無升級改進,不得而知。
該校的“刷臉神器”,是由某公司與某AI公司聯合開發的。 校長現場演示時,隨便拽了位學生,往鏡頭前一站,名字叫什麼、哪個班的、班主任是誰、監護人是誰、監護人電話多少,全在屏幕上刷了出來。 下面還有考勤各種選項:遲到、請假、早退、未穿校服、未戴胸卡、未戴紅領巾……
“刷臉神器”的用途,幾乎百發百中。 大門口考勤、醫務室治療之類自不必說,中午食堂就餐也只需刷個臉,爹媽即時可知孩子吃飯沒有。
讓我覺得異樣的,是學校 “智慧德育”管理系統。
美劇《少年謝耳朵》劇照
以往老師看到做好事或調皮搗蛋的孩子,如果不是本班學生,根本不知道是誰。 現在好了,只要掏出手機,對準學生一咔嚓,屏幕立即跳出他的信息。 老師可以立即把情況發給父母。
校長舉例說,某日,有學生撿到一塊智能手錶,交給老師後,正轉身要走,老師急忙喊道:“你站住!”學生嚇了一大跳,結果是老師端著手機,一 頓拍攝,信息就進入識別系統。 再輕輕一點屏幕,孩子父母就可以收到感謝。 當然,遇到不文明行為,老師也照此操作。
校長說,系統還打算升級。 比如,可通過定位等技術,追踪學生在校運動軌跡,是否有到操場鍛煉,運動量是否達標,消耗多少卡路里。 這個系統,我猜可能稱為“智慧體育”。
可是,校園裡的這種“上帝視角”,真的好嗎?
三
與“上帝視角”對應的,是“凡人視角”。 後者的無力感在於,你就是再有洞察力,再有辯駁權,但沒有看到就是沒有看到。
先講一個我家丫頭的舊事吧。
女兒讀小學四五年級時,中午都在學校食堂吃飯。 一次,班長把一塊肥肉扔進了另一同學碗裡。 沒有孩子愛吃肥肉,但老師又規定,任何同學不得丟棄肥肉。 一旦違規,罰吃三塊肥肉。 不知道為什麼會有這麼變態的規定,但對孩子們來說,夠有威懾力了。 平白多了一塊肥肉的同學,立即驚恐地把肥肉丟到餐桌上。 恰巧,老師一眼瞄到了後一個動作,女兒則是看到了全過程。 同學說:“那不是我的,是班長的。”而班長卻好整以暇,口氣平靜:“誰看到啦?”所有的目光,頓時聚焦在同桌的女兒身上。 可以想像,老師的目光像法官,同學的眼裡是哀求,班長的眼神是逼視。 誠實、友誼、背叛、權勢,這些抽象的說教,一下變成了最沉重最結實的現實擺在了面前。 孩子的想法,其實與大人一樣現實。 說真話,那個勢力龐大的班長以後會怎樣對她? 說假話,那如何對得起受冤枉的同學?
最後,女兒的選擇是低下了頭,說什麼也沒看到。 回家後,慚愧的女兒一直問我與她媽媽,有什麼辦法?
當時,我寫道:“沒有辦法。我也想不到什麼辦法。也許女兒的無奈,也是我的世界中面臨的無奈。”現在,或許不需要這麼想了。 眼前到處都有監控,食堂應該也有吧。 狡黠的班長,根本不敢再耍這個伎倆。
當然,對“上帝視角”的理解,不能這麼簡單,它涉及到更複雜更尖銳的範疇。
四
關於在教室安裝高清監控,已有過一輪爭論。 那個教室裡的水滴直播App,已在壓力之下關停。 但現在,人臉識別系統,又以新名義進入了校園。
梳理“上帝視角”的延展路徑,教育界朋友解釋說,學校最初在教室安裝監控時,是因為標準化考點,規定必須有此設備。 本是考試才啟用的監控,老師開始是忍不住偶爾打開,後來變成了長期使用。 而現在,人臉識別開始時只在食堂使用,然後又滲透到更多環節。
為什麼? 深層原因,還是在“上帝視角”自身。 希冀全知全能,是教育者的本能。
前一段,此地有個13歲少女在操場猝死。 孩子父母就質疑校方,為什麼看不到監控? 校方的發現是不是及時? 校醫的急救是不是專業?
校方除了辯護自己措施得當,又無奈地辯白,學校是有監控的。 而且還說,事發路段不能表述為監控的“盲區”,是“探頭朝嚮往前,事發地點恰好不在監控範圍內”。 麻煩就在於,有監控,但沒拍到。
這是室外,誰又能保證教室內不發生事故呢?
更早些時,某地有個孩子在考試中,因故受到老師批評,出教室後轉身就跳樓。 傳說的一個版本,是老師的怒斥,導致學生崩潰。 結果是1.0版的“上帝視角”——監控系統,還原了現場。 監控把師生對話,也清晰地收錄下來了。
畢竟,誰都希望有個無所不在的視角,提供幫助。
還記得北京那個高二女生,被課外輔導老師性侵的事嗎? 如果不是因為在房間裡裝了監控,那個老師就賴掉了。 而這個監控,是女孩請求爸爸安裝的,而且請求了好幾次。 家長堅持要這個老師補習,而女孩堅持拒絕這個老師。 女孩的辦法,是請監控來說話,來保護自己。
爭執監控問題時,論及最多的是隱私權保護,但未成年人的隱私權,從來就是一個浮動指標。
有個朋友是家委會成員,孩子今年讀高二。 他說,有兩次,班主任在家長群裡問:“你們只要裝個直連教室監控的App,就可以看到課堂情況。”家長們紛紛義正辭嚴說,不要安裝啦,我們信任孩子 !
這朋友私下挖苦說,是,你們是信任孩子,可是不信任老師。 家長群裡,大群套小群,群中又有群,動不動就暗中串連,今天要我提出換掉課任老師,明天又要罷免班主任。 是,你們是很尊重孩子人身權隱私權,但一聽說哪個學校有金屬探測儀,可以對孩子近乎搜身,禁絕手機入校,誰不是歡欣鼓舞?
有個家長搞不定孩子的手機,還想給班主任送禮,說,能不能幫我把孩子的手機偷掉? 責任我來負! 此事老師是當成笑料來講的。
五
科技進步沒有回頭路。 人們一旦走入便捷門徑,很難再後退。
1.0版的“上帝視角”,還在校園裡半遮半掩地使用;2.0版的“上帝視角”,已經冉冉升起。 而且,它不止是“上帝視角”,還是“上帝之手”。
有校方解釋說,這可以減輕教師的繁瑣勞動。 比如,不用每日統計就餐人數,月末依靠人臉識別系統,直接在電腦裡調用數據就行。
一位老師說,新高考有個綜合素質評價,是全都要上網的。 以前這項工作,要整理繁雜的資料,工作量讓老師不堪承受。 以後不必這麼累,把人臉識別系統累積的資料,直接梳理上傳就行了。 當然,他保證說,系統主要是用來積累好人好事的。
毋庸質疑,人臉識別對社會管理、經濟運行,提供了極大便利。 比如,鄭州火車站的警察,戴著智能眼鏡,5米之外,就可核實對方身份信息。 警察在執法現場,既不需要打擾旅客,又能及時發現嫌疑人。
人們可能失去一點隱私,但某種程度增加了社會安全性。 從理論上說,政府可以擁有18歲以上、有身份證的所有成年人的人臉數據。 身份證的初衷,不就是證明並識別你的身份嗎? 增加了人臉數據,只是更精準罷了。
但是,未成年人的情況,與跟有社會身份的成人不同,更加敏感脆弱。 孩子們的人臉數據,誰有資格採集,採集後怎麼保管,保管中如何使用? 這都是問題。
設想一個最簡單俗氣的場景:
某個老師舉起手機,對某個調皮孩子一刷—— 啊? 這是張局長的兒子! 哦,還在初一(3)班! 他瞬間調整了表情,也換了一種處理方式。 是啊,雖然不是我班的學生,但班主任張老師跟我還不錯,日後要想法接近一下。 老婆的工作調整,可能用得上這層關係。
傳統的有教無類,學生平等,在類似情形下,被“刷臉神器”撬動了。
六
人類的控制欲,是一種不治之症。
“凡人視角”固然有時無力,但最大好處是,教育者需要努力揣摸對方,必須把更多的信任,投放給教育對象。 師生之間,會有更多平等的互動。 現在,有了2.0版“上帝視角”,這些稱作靈魂工程師的人,能一眼看穿孩子們的小把戲,或許再無耐心與調皮的靈魂來兜圈子。 校園正在變成“楚門的世界”。
目前最時髦的“教育+AI”,都聲稱不是替代老師,而是給教師賦能。 所謂賦能,無非是增強控制能力。
有一家AI教學系統,聲稱它精準的人臉識別,能做到“多維情緒識別+專注力分析+智能教學監控分析”。 推廣詞解釋道:“具體來說,就是可以通過課堂情緒識別、眼球焦點識別、語氣識別、互動情況,來分析了解孩子課堂狀況,實時給老師和學生優質的課堂指導。”
這是教學方式,還是控制模式? 連孩子的眼球焦點運動,都在精準的管制中。 絕不讓思想從目光中逸出身體,課堂裡沒有魂遊世界的自由。 上課開小差? 那是前一個時代的事啦。 學生做個鬼臉,說一句話,都有課堂AI在盯著分析。 就算現場騙過老師,數據也能證明那是偽裝。
教育鏈條,本來需要盡可能嵌進人性元素。 在人工智能的包辦下,傳統教育或只剩下所謂智能,“人工”慢慢在減少。
有幾家公辦中學,啟用了一種閱卷App。 試卷交給計算機掃描成電子文檔,再讓老師用iPad,或者手機批改卷子。 老師們歡呼:“真好啊,隨時隨地都可以改卷子啦。”一位老師朋友開玩笑說:“別誤會哦,我不是在玩手機遊戲,是在改考卷呢。”學生登錄自己賬號, 就能查到成績,上面有題號、得分、各題得分率、班級得分率、總分、排名。
只是,學生上交的捲子是什麼樣,發回來還是什麼樣。 紙質的捲子裡,沒有老師的任何字跡。 傳統試卷中,老師在紙面上顯露的喜歡、欣慰、慍怒、疾言厲色、哭笑不得、無可奈何,通通不見了。
學生必須拿著手機,歪頭核對試卷,才知道哪一題錯了,但錯在哪裡,哪個步驟錯,在紙面上是看不到的。 據說,也有學校優待A班學生,會在卷子上標出錯處。 所謂標出,也只是以紅筆勾出哪一題扣多少分而已。 隨著人工智能的普及,閱捲全部由機器人完成,也不是不可能。 畢竟機器人都在寫稿了,以後改作業更是小菜一碟。
強大的AI,目前在校園,只是包乾零碎活兒。 傳統教育的大廈,已經從附件開始解體。 稍往遠處推測,未來學校後勤鏈條上,所需人員會越來越少。 直至某一天,人力接近於無。 比如,食堂服務與結算流程,都趨於標準化。 傳統上,學生要與窗口阿姨交流、鬥趣、鬥智,今後可能不再需要了。
世界勞工權益組織一位負責人,在談及對Facebook 和Google的監管時說:“無論初衷有多好,人們還是有可能破壞那些不易修復的事物。就像小孩開推土機那樣,根本想不到自己會 造成怎樣的損害。”
在人工智能的場景下,學生正在步入“教育囚籠”;靈魂工程師正慢慢融化,轉變成“塑料教員”。 這個前景,有法子阻擋嗎? 我不認為有。 正如神聖的教師職業,終究會平庸化一般;知識獲取渠道的變遷,必然帶來這一後果。
是的,你的孩子正站在“美麗新世界”的入口。
本文由 騰訊《大家》© 授權 虎嗅網 發表,並經虎嗅網編輯。 轉載此文章須經作者同意,並請附上出處( 虎嗅網 )及本頁鏈接。 原文鏈接https://www.huxiu.com/article/243626.html