“突然，溫斯頓轉(zhuǎn)過身來(lái)，表情祥和而樂觀。他是迫使自己這么做的，他認(rèn)為這是面對(duì)電子屏幕時(shí)的最好表情?！庇?guó)作家奧威爾在1949年出版的長(zhǎng)篇小說(shuō)《1984》中如是寫道。時(shí)時(shí)被“看著”或許在2021年成為現(xiàn)實(shí)。

1月27日，“鶴壁高中2021屆”微信公眾號(hào)發(fā)布的一則《1月18日至1月24日違紀(jì)情況通報(bào)》引發(fā)熱議，文中通報(bào)了95條高三學(xué)生違紀(jì)行為，除睡覺、玩手機(jī)外，還有“X班XXX哈欠不斷”“X班XXX腿上放棉襖”“X班XXX在抹護(hù)手霜”等細(xì)節(jié)動(dòng)作，令人細(xì)思極恐。

隨著輿論發(fā)酵，1月28日，該公眾號(hào)刪除了文章并注銷賬號(hào)，鶴壁高中官方微信公眾號(hào)發(fā)布通報(bào)稱，該校高三年級(jí)在此事上存在方法不當(dāng)、管理不規(guī)范問題，責(zé)成年級(jí)主任做出深刻檢討，對(duì)涉及學(xué)生及家長(zhǎng)公開致歉。

然而，鶴壁高中并不是個(gè)案。近年來(lái)，廣東廣雅中學(xué)、浙江金華金東區(qū)孝順鎮(zhèn)中心小學(xué)等學(xué)校也紛紛被曝使用智能設(shè)備監(jiān)控學(xué)生，又迫于壓力做出說(shuō)明或撤銷使用。

愈演愈烈的“智慧校園”中，AI究竟是老師的助手，還是學(xué)生的牢籠？

01課堂表情分析有用嗎？

1月30日，鶴壁高中校長(zhǎng)馮喜亮回應(yīng)媒體稱，學(xué)校的出發(fā)點(diǎn)是希望將下一代培養(yǎng)得更好，但方法欠妥。2月1日，《IT時(shí)報(bào)》記者致電鶴壁高中，一位負(fù)責(zé)人表示，智能監(jiān)控僅針對(duì)高三年級(jí)，目前已經(jīng)停用。

據(jù)多位業(yè)內(nèi)人士透露，這樣的“AI監(jiān)控”智慧課堂在校園已經(jīng)是普遍現(xiàn)象。在鶴壁高中的貼吧，家長(zhǎng)已經(jīng)見怪不怪，“這次只不過是放在公眾號(hào)上，我們那屆家長(zhǎng)群里每次都發(fā)，樓下也一直貼”。

“智慧課堂”的背后，隱藏著巨大的市場(chǎng)，在教育峰會(huì)、論壇上，“AI+教育”、人臉識(shí)別、表情分析等均是行業(yè)人士探討的熱詞。

希亞思（上海）信息技術(shù)有限公司（以下簡(jiǎn)稱希亞思）是一家專門從事的“微表情識(shí)別”的公司，官網(wǎng)顯示，“AI+教育解決方案”采用了世界頂尖微表情識(shí)別AI公司的技術(shù)，目前已在上海十幾所實(shí)驗(yàn)小學(xué)、重點(diǎn)中學(xué)的教研公開課上應(yīng)用。

這套“微表情識(shí)別”核心技術(shù)包括表情、人臉、肢體、聲紋識(shí)別和呼吸心跳監(jiān)測(cè)。只需在教室裝上一個(gè)攝像頭，就能同時(shí)識(shí)別多張人臉，分析7種情緒及21種表情，用于學(xué)生的坐姿管理、專注度分析等。

“它能實(shí)現(xiàn)學(xué)生個(gè)體評(píng)價(jià)和課堂整體評(píng)價(jià)，學(xué)生個(gè)體評(píng)價(jià)能幫助老師了解學(xué)生，改變結(jié)果評(píng)價(jià)的導(dǎo)向，填補(bǔ)過程評(píng)價(jià)的空白；課堂整體評(píng)價(jià)能檢測(cè)學(xué)生各時(shí)段對(duì)課堂的情緒反應(yīng)，反過來(lái)檢驗(yàn)老師。系統(tǒng)每月會(huì)形成月報(bào)，可以進(jìn)行橫向、縱向?qū)Ρ取！毕喫枷嚓P(guān)人士告訴記者，“從幼兒園到大學(xué)都有使用，每個(gè)階段的方案不一樣?！?/p>

課堂專注度分析真的有用嗎？

曾經(jīng)試點(diǎn)過“AI監(jiān)控”智慧課堂系統(tǒng)的另一所高中，半年后就停用了這套系統(tǒng)，該學(xué)校負(fù)責(zé)人對(duì)記者表示：“試點(diǎn)下來(lái)發(fā)現(xiàn)課堂專注度和學(xué)生成績(jī)沒有必然聯(lián)系，爭(zhēng)議也較大，所以我們沒有繼續(xù)使用。”他否認(rèn)并堅(jiān)決反對(duì)將課堂專注度作為評(píng)價(jià)學(xué)生的標(biāo)準(zhǔn)，“課堂專注度只能是輔助參考，決不能作為評(píng)價(jià)學(xué)生的工具”。

21世紀(jì)教育研究院院長(zhǎng)熊丙奇是“AI監(jiān)控”智慧課堂的堅(jiān)決反對(duì)者。他表示，學(xué)生長(zhǎng)期在監(jiān)控環(huán)境下學(xué)習(xí)，會(huì)養(yǎng)成“表演型人格”，同時(shí)也容易造成老師“離了技術(shù)不會(huì)教學(xué)”的現(xiàn)象，應(yīng)該叫停這種所謂技術(shù)創(chuàng)新。監(jiān)控只能在兩種情況下使用，一是用于考場(chǎng)監(jiān)控，二是在得到教師和學(xué)生的同意情況下，直播課堂教學(xué)，與其他學(xué)校、課堂共享教育資源。

02“從外到內(nèi)”的監(jiān)控

不僅是“AI監(jiān)控”，這些年，智能頭箍、智能手環(huán)、智能校服等打著“智慧校園”旗號(hào)的產(chǎn)品層出不窮。

2019年，浙江金華金東區(qū)孝順鎮(zhèn)中心小學(xué)的學(xué)生上課戴上了孫悟空的“金箍”。這是一個(gè)腦機(jī)接口頭環(huán)，通過收集和分析腦電波將學(xué)生專注力統(tǒng)計(jì)為0~100的分?jǐn)?shù)，這些分?jǐn)?shù)會(huì)記錄在老師的電腦中，甚至被發(fā)送到家長(zhǎng)群里。

隨后，頭環(huán)創(chuàng)始公司BrainCo（強(qiáng)腦科技）發(fā)布聲明稱，賦思頭環(huán)是一款訓(xùn)練學(xué)生提升專注力的儀器，并非用來(lái)監(jiān)控學(xué)生。

一年多過去，情況怎么樣？近日，記者撥打了BrainCo的電話，對(duì)方表示，頭環(huán)仍在學(xué)校和培訓(xùn)機(jī)構(gòu)大量使用，不過進(jìn)入學(xué)校需要政府統(tǒng)一采購(gòu)。

“頭環(huán)主要是用于專注力訓(xùn)練課，也可以用來(lái)檢測(cè)學(xué)生上課的專注度?！盉rainCo客服表示，“一般認(rèn)為70~80分屬于高專注度，60分以下的專注度就較低”。而記者的同事曾體驗(yàn)過此產(chǎn)品，稱需要特別專注，才能用“意念”驅(qū)動(dòng)實(shí)驗(yàn)小車。

戴頭環(huán)時(shí)需要告訴學(xué)生正在被監(jiān)測(cè)嗎？客服表示，可以以訓(xùn)練的名義。

相比價(jià)格不菲的智能頭箍，智能手環(huán)與手表的成本和便捷程度使它更便于普及。

深圳吾控健康科技有限公司（以下簡(jiǎn)稱吾控健康）工作人員告訴記者，可以實(shí)時(shí)查看學(xué)生的考勤、定位、體溫、心率、課堂互動(dòng)等數(shù)據(jù)，解決學(xué)生安全、健康等方面的問題。“比如，學(xué)生通過教學(xué)平臺(tái)參與答題，課后生成統(tǒng)計(jì)報(bào)告；老師根據(jù)學(xué)生心率、步數(shù)統(tǒng)計(jì)出不同運(yùn)動(dòng)量的孩子，給出對(duì)應(yīng)策略。這些技術(shù)都可以拓展應(yīng)用，比如誰(shuí)和誰(shuí)經(jīng)常在一起的聚集性分析、行為軌跡大數(shù)據(jù)分析、運(yùn)動(dòng)風(fēng)險(xiǎn)管控等?！毕嚓P(guān)負(fù)責(zé)人表示，“近期，我們?cè)谝凰變簣@到高中的全日制寄宿學(xué)校安裝了1000多個(gè)藍(lán)牙網(wǎng)關(guān)，學(xué)生進(jìn)入教室和回到宿舍都能被看到?！?/p>

這些數(shù)據(jù)通過App、小程序、公眾號(hào)就能實(shí)時(shí)查詢，例如，吾控健康的手環(huán)數(shù)據(jù)分為家長(zhǎng)端、教師端和學(xué)校端，家長(zhǎng)端數(shù)據(jù)可以嵌入學(xué)校自己的公眾號(hào)。

2018年，貴州11所中小學(xué)的學(xué)生穿上了由貴州冠宇科技有限公司研發(fā)的“智能校服”。這件校服外表看似普通，但在左右肩膀下縫制了可以記錄生物數(shù)據(jù)和隨時(shí)定位的芯片。學(xué)生每次經(jīng)過門禁系統(tǒng)，系統(tǒng)都會(huì)自動(dòng)拍攝10秒短視頻，20秒鐘后，這段視頻便會(huì)自動(dòng)上傳到家長(zhǎng)手機(jī)上，家長(zhǎng)即可了解孩子每天進(jìn)校、離校的情況。

如今，智能校服被推廣到更多地區(qū)和學(xué)校。上海欽軒網(wǎng)絡(luò)科技有限公司（以下簡(jiǎn)稱欽家）的智能校服通過智能碼與RFID將獨(dú)立加密成像與個(gè)人身份綁定，用于學(xué)生考勤、安防，目前已與全國(guó)300多家校服企業(yè)合作。

至于智能校服是否侵犯隱私，欽家表示，校服只在校門口記錄學(xué)生考勤情況，不會(huì)實(shí)時(shí)跟蹤。家長(zhǎng)也可以先不激活服務(wù)，如果覺得有價(jià)值，再進(jìn)行開通。

03“智慧校園”應(yīng)有邊界

隨著AI的發(fā)展，“智慧校園”一直是一個(gè)巨大的市場(chǎng)，關(guān)于它的爭(zhēng)議也從未停止。

據(jù)統(tǒng)計(jì)，2019年我國(guó)智慧校園行業(yè)產(chǎn)值為584.46億元，預(yù)計(jì)2020年，這一數(shù)字將達(dá)到614.82億元。智慧校園產(chǎn)品市場(chǎng)可分為智慧校園系統(tǒng)和智慧校園硬件市場(chǎng)，其中，2019年智慧校園硬件規(guī)模為402.25億元，占智慧校園市場(chǎng)規(guī)模的71.33%。

無(wú)論是互聯(lián)網(wǎng)巨頭，還是像希亞思之類的AI垂直企業(yè)，都想在市場(chǎng)中分一杯羹。

但在巨大的利益面前，無(wú)論是學(xué)校還是企業(yè)，把握住“智慧校園”的邊界，才能守住學(xué)生人格的底線。

一位高中語(yǔ)文老師表示，鶴壁高中對(duì)學(xué)生課堂行為的監(jiān)控，體現(xiàn)的是學(xué)校對(duì)教學(xué)質(zhì)量的過度追求，但作為同行，她看到了大背景下學(xué)校的苦衷和無(wú)奈。如果“智慧課堂”觀察的重點(diǎn)不是對(duì)于學(xué)生行為的評(píng)價(jià)，而在于讓教師反思和提高自己的教學(xué)行為，就不存在涉及學(xué)生隱私的問題。事實(shí)上，數(shù)據(jù)與隱私始終是一對(duì)對(duì)立的矛盾，這不僅是學(xué)校的問題，而是整個(gè)現(xiàn)代文明社會(huì)的問題。

北京至普律師事務(wù)所李圣認(rèn)為，智慧校園、智慧課堂在教學(xué)信息化發(fā)揮的作用是值得肯定的，但需要注意對(duì)學(xué)生隱私和個(gè)人信息的保護(hù)。學(xué)校安裝監(jiān)控，只能安裝到教室、走廊等公共場(chǎng)所，不能安裝到廁所、宿舍。對(duì)于使用手環(huán)、頭箍等技術(shù)監(jiān)控，學(xué)校需要征得學(xué)生和家長(zhǎng)的同意，保障其知情權(quán)。未經(jīng)本人及其法定監(jiān)護(hù)人同意，學(xué)校不得將所獲信息外傳，否則將承擔(dān)包括但不限于侵犯隱私權(quán)、肖像權(quán)、個(gè)人信息安全的侵權(quán)責(zé)任?！耙?guī)范AI在教育中的運(yùn)用，需要從社會(huì)、政府和公眾的角度來(lái)考慮在人工智能的發(fā)展道路上什么是應(yīng)該做的、什么是不應(yīng)該做的，及早進(jìn)行規(guī)范和預(yù)判，加快人工智能倫理原則落地，讓人工智能提供的信息和服務(wù)幫助學(xué)生成長(zhǎng)和發(fā)展?！崩钍ケ硎尽?/p>