不可否認(rèn)的是，AI在生物識別技術(shù)領(lǐng)域的應(yīng)用已帶給人們極大的便利。然而，當(dāng)人臉識別進(jìn)入校園，意味著學(xué)生將處于它的“監(jiān)控”之中。在以人為本的教育行業(yè)，這是否會本末倒置？本文從人工智能在教育行業(yè)的應(yīng)用出發(fā)，探討了其可能帶來的安全、倫理與法律危機(jī)。

人臉識別類技術(shù)進(jìn)校園的話題持續(xù)引發(fā)關(guān)注，此類人工智能（AI）技術(shù)除了應(yīng)用于校園門禁控制、學(xué)生考勤管理，還能全程監(jiān)控課堂，就連學(xué)生發(fā)呆、打瞌睡和玩手機(jī)等動(dòng)作行為都能被識別出來。隨著AI時(shí)代的來臨，AI技術(shù)在為教學(xué)提供輔助、提高學(xué)校管理效率、確保學(xué)生安全的同時(shí)，也面臨公共數(shù)據(jù)采集與個(gè)人隱私保護(hù)、使用目的的正當(dāng)性、數(shù)據(jù)泄露風(fēng)險(xiǎn)等爭議，AI技術(shù)進(jìn)校園，邊界究竟在哪兒？

變化：人臉識別“潛入”校園

新學(xué)期伊始，中國藥科大學(xué)（分?jǐn)?shù)線，專業(yè)設(shè)置）的學(xué)生們發(fā)現(xiàn)，熟悉的校園出現(xiàn)了新的改變——校門口、宿舍和圖書館都安裝了人臉識別門禁。

對此，學(xué)生們的接受度還挺高。不少學(xué)生認(rèn)為，門禁識別準(zhǔn)確、速度快，不用再擔(dān)心忘記帶校園卡，確實(shí)比較方便。而且采集了學(xué)生出入宿舍、圖書館等信息的系統(tǒng)，還能幫助學(xué)校統(tǒng)計(jì)學(xué)生的回寢時(shí)間、晚歸次數(shù)等，提高了宿舍的安全性。

而在學(xué)校的教室里，也在嘗試使用人臉識別系統(tǒng)。中國藥科大學(xué)圖書與信息中心主任許建真說：“之前有的同學(xué)點(diǎn)完名就跑掉了或者請別的同學(xué)代（點(diǎn)名），但是有了人臉識別就沒這個(gè)問題了，只要你進(jìn)教室那一刻起，它就對你全程進(jìn)行識別。你低頭多長時(shí)間，你是否在玩手機(jī)，你是否在發(fā)呆，你是否在看別的書，都能感知到?！?/p>

在校方看來，這能有效解決傳統(tǒng)考勤方式中管理難度大、效率低的問題，從而方便教務(wù)管理者實(shí)時(shí)掌握班級學(xué)生考勤情況，是在“探索泛在、靈活、智能的教育教學(xué)新環(huán)境建設(shè)與應(yīng)用模式，努力提升技術(shù)能力和服務(wù)水平。“

當(dāng)前，為引領(lǐng)推動(dòng)教育信息化轉(zhuǎn)段升級，《教育信息化十年發(fā)展規(guī)劃（2011—2020年）》《教育信息化2.0行動(dòng)計(jì)劃》《中國教育現(xiàn)代化2035》《加快推進(jìn)教育現(xiàn)代化實(shí)施方案（2018—2022年）》等政策文件相繼出臺。在業(yè)內(nèi)專家看來，信息技術(shù)與教育教學(xué)深度融合已是大勢所趨。為此，不少學(xué)校都在積極探索利用AI技術(shù)服務(wù)于教育教學(xué)以及日常管理，人臉識別類技術(shù)就是該探索的一種。

安全是人臉識別技術(shù)在校園應(yīng)用的最初方向。據(jù)記者了解，在山東、上海、河南等地的一些幼兒園和小學(xué)，已經(jīng)開始探索運(yùn)用人臉識別技術(shù)進(jìn)行校園智能安防。這類智慧型校園安防系統(tǒng)，能對校園及周邊一定距離的安全區(qū)，進(jìn)行實(shí)時(shí)監(jiān)控。當(dāng)學(xué)校有大型活動(dòng)時(shí)或者學(xué)生集中放學(xué)時(shí)間，校園大門口會聚集大量人員，該系統(tǒng)將自動(dòng)進(jìn)行“非安全身份識別”，一旦有陌生人靠近，系統(tǒng)監(jiān)視屏?xí)詣?dòng)報(bào)警提醒，學(xué)校安保人員可及時(shí)處置。

除了應(yīng)用于安防，一些學(xué)校也開始“試水”用人臉識別來保證出勤率和提高聽課效率。去年4月份，重慶二十九中在教室內(nèi)啟用了一套人工智能分析評估系統(tǒng)，該系統(tǒng)通過觀測學(xué)生細(xì)微的表情變化，來判斷學(xué)生對所學(xué)內(nèi)容的理解程度?！皩Ｗ⒍雀叩膶W(xué)生占比35%”“思考學(xué)生占比29%”“疑惑學(xué)生占比18%”“不理解學(xué)生占比3%”，課堂兩側(cè)，兩個(gè)電腦屏幕滾動(dòng)著由大數(shù)據(jù)實(shí)時(shí)分析出的學(xué)生學(xué)習(xí)效果圖。

杭州十一中的“智慧課堂行為管理系統(tǒng)”，則會每隔30秒進(jìn)行一次掃描，針對學(xué)生們閱讀、舉手、書寫、起立、聽講、趴桌子等6種行為，再結(jié)合高興、傷心、憤怒、反感等表情識別，分析出學(xué)生們在課堂上的狀態(tài)。

還有一些學(xué)校開始嘗試將人臉識別技術(shù)應(yīng)用于學(xué)生的日常管理。去年11月，貴州11所中小學(xué)校開始推廣使用“智慧校服”項(xiàng)目，利用“RFID（射頻識別）+人臉識別”科技集成智能校服考勤系統(tǒng)，當(dāng)穿著“智慧校服”的學(xué)生通過人臉識別進(jìn)出校園后，系統(tǒng)內(nèi)會自動(dòng)記錄學(xué)生進(jìn)出校園和宿舍的精確分秒時(shí)間，同時(shí)保存前后20秒的實(shí)時(shí)視頻。

一旦學(xué)生在上課時(shí)間內(nèi)未經(jīng)允許離開校園，GPS定位芯片會記錄學(xué)生位置并激活門禁閘機(jī)自動(dòng)語音報(bào)警器，提醒有學(xué)生離開校園。假如學(xué)生互換校服，警報(bào)會響起，它也能發(fā)送準(zhǔn)確的具體位置，幫助學(xué)校和家長快速定位。

爭議：是“?！边€是“機(jī)”

人臉識別系統(tǒng)剛開始進(jìn)入中國藥科大學(xué)課堂，該校就有學(xué)生擔(dān)憂，此舉識別有侵犯個(gè)人隱私之嫌，一舉一動(dòng)都被人臉攝像頭監(jiān)視，“讓人后背發(fā)涼?！毙７奖硎?，學(xué)校之前已向公安部門和法務(wù)部門咨詢，由于教室屬于公開場所，因此不存在“侵犯隱私”的說法。

對此，北京志霖律師事務(wù)所副主任趙占領(lǐng)說：“我國法律對于隱私權(quán)沒有特別明確的界定，嚴(yán)格來看，教室屬于公共場所，安裝人臉識別攝像頭，雖然不違法，但需要明確告知學(xué)生，給學(xué)生知情權(quán)和選擇權(quán)?！?/p>

利用人臉識別類技術(shù)，無論是進(jìn)行課堂管理還是教學(xué)效果分析，都不可避免要收集海量數(shù)據(jù)。首都師范大學(xué)基礎(chǔ)教育發(fā)展研究院教授蘇尚鋒認(rèn)為，教室內(nèi)使用人臉識別的初衷是對學(xué)生學(xué)習(xí)行為進(jìn)行個(gè)性化追蹤，而其目的在于經(jīng)分析生成個(gè)性化的學(xué)習(xí)方案，以幫助學(xué)生提高學(xué)習(xí)效率，在這種理想情況下，是符合“人工智能+教育”未來趨勢的。

在使用目的的正當(dāng)性上，中國基礎(chǔ)教育質(zhì)量監(jiān)測協(xié)同創(chuàng)新中心網(wǎng)絡(luò)平臺部主任張生認(rèn)為，用人臉識別類技術(shù)來對學(xué)生進(jìn)行管理，不能本末倒置，“學(xué)校應(yīng)回歸教育本身，多反思課堂的教學(xué)效果。“

人臉識別作為一項(xiàng)技術(shù)，其本身并沒有什么問題，關(guān)鍵在于如何運(yùn)用。同樣的人臉識別技術(shù)，幫助幼兒園和小學(xué)建立智慧安防系統(tǒng)，用來尋找丟失的幼童或監(jiān)護(hù)老人，就很少陷入爭議。趙占領(lǐng)說：“在這些場景里，個(gè)人隱私讓位于人命關(guān)天的安全需求，這也符合人們心中牢固的共識。”在很多家長看來，對校園及周邊實(shí)時(shí)嚴(yán)密監(jiān)控，智能身份識別，嚴(yán)進(jìn)嚴(yán)出，將危險(xiǎn)扼殺在“搖籃”中，也大大降低了歹徒闖入校園作案的可能性，學(xué)生安全有保障。

人臉識別類技術(shù)的潛在危險(xiǎn)還有數(shù)據(jù)泄露風(fēng)險(xiǎn)。趙占領(lǐng)告訴記者：“人臉識別監(jiān)控課堂的行為會產(chǎn)生大量的隱私數(shù)據(jù)，如果沒建立相應(yīng)的數(shù)據(jù)安全規(guī)范或未盡到妥善保管義務(wù)導(dǎo)致數(shù)據(jù)發(fā)生泄露，這些數(shù)據(jù)一旦被惡意使用，就會侵犯老師和學(xué)生的相關(guān)隱私權(quán)利，情節(jié)嚴(yán)重的可能會導(dǎo)致違法行為的產(chǎn)生。”

在業(yè)內(nèi)人士看來，如果從教育教學(xué)發(fā)展等長遠(yuǎn)角度以及公共利益的立場來考量，在使用人臉識別類等AI技術(shù)的抉擇上，不能因噎廢食。

北京師范大學(xué)（分?jǐn)?shù)線，專業(yè)設(shè)置）智慧學(xué)習(xí)研究院副院長曾海軍說，包括人臉識別在內(nèi)的AI技術(shù)廣泛而有效地應(yīng)用于教學(xué)、管理和服務(wù)，是未來學(xué)校教育發(fā)展的必然趨勢，“規(guī)?；逃蛡€(gè)性化學(xué)習(xí)相結(jié)合的AI技術(shù)，具有更強(qiáng)的靈活性、包容性，可以助力重塑學(xué)校教育，進(jìn)一步提升教學(xué)的效果、效率和效益，以適應(yīng)現(xiàn)代信息化、數(shù)字化、智能化的學(xué)習(xí)型和創(chuàng)新型社會的需要?！?/p>

面對教育場景內(nèi)不甚成熟的人臉識別類技術(shù)應(yīng)用，以及個(gè)人隱私、數(shù)據(jù)安全等風(fēng)險(xiǎn)和爭議，教育部科學(xué)技術(shù)司司長雷朝滋表示，希望學(xué)校非常慎重地使用這些技術(shù)軟件，“包含學(xué)生的個(gè)人信息都要非常謹(jǐn)慎，能不采集就不采，能少采集就少采集，尤其涉及個(gè)人生物信息的?！崩壮踢€表示，目前教育部已開始關(guān)注這一情況，已組織專家進(jìn)行論證研究。

共存：堅(jiān)守教育本位，合乎法律倫理

技術(shù)發(fā)展得太快，一個(gè)不留神，人臉識別類技術(shù)已經(jīng)進(jìn)校園、進(jìn)課堂了，而我們關(guān)于其帶來的復(fù)雜的倫理、法律和安全等問題的討論，似乎慢了些。

不可否認(rèn)的是，AI已成為擴(kuò)大優(yōu)質(zhì)教育資源覆蓋面和實(shí)現(xiàn)新型智能教育服務(wù)模式的重要一環(huán)。曾海軍認(rèn)為，抱著“鴕鳥”心態(tài)，完全拒絕此類技術(shù)在教育場景內(nèi)的應(yīng)用，按照傳統(tǒng)的思維方式和模式來應(yīng)對新變化，并不現(xiàn)實(shí)。

業(yè)內(nèi)專家的共識是，AI是信息化發(fā)展的新階段，面對其衍生出的復(fù)雜的安全、隱私等問題，仍需要進(jìn)一步規(guī)范，提前布局，謹(jǐn)慎應(yīng)對。

不管AI如何與教育耦合，都必須堅(jiān)守教育本位的定位，將以人為本放在首位。張生說，“學(xué)生的生命成長能否得到促進(jìn)，是衡量技術(shù)在教育領(lǐng)域中應(yīng)用有效性的唯一標(biāo)準(zhǔn)，在技術(shù)應(yīng)用中，學(xué)生、家長、教師的體驗(yàn)和滿意度都是需要考察的重點(diǎn)?！?/p>

AI技術(shù)能否促進(jìn)教與學(xué)也是重要的評判標(biāo)準(zhǔn)。蘇尚鋒認(rèn)為，AI技術(shù)在教育場景內(nèi)大規(guī)模推廣使用之前，需要由教育專業(yè)人士所組成的團(tuán)隊(duì)進(jìn)行評估與鑒定，要經(jīng)過嚴(yán)格的科學(xué)實(shí)驗(yàn)和論證，要對該技術(shù)在教育教學(xué)工作中所處的位置有明晰的分辨與判斷，并對其使用制定一套明確的程序與規(guī)范，從而切實(shí)做到技術(shù)服務(wù)于教育、服務(wù)于育人工作。

隱私權(quán)是一項(xiàng)基本的人權(quán)，現(xiàn)代社會對個(gè)人隱私的保護(hù)已經(jīng)形成共識。目前學(xué)界主要將隱私分為信息隱私、空間隱私、自決隱私等領(lǐng)域，當(dāng)下，在教育場景內(nèi)，上述三種隱私均存在被AI類產(chǎn)品侵犯的風(fēng)險(xiǎn)。因此，在應(yīng)用AI技術(shù)時(shí)，除明確法律紅線以外，還要做到尊重學(xué)生和程序透明化，由當(dāng)事人及家長來做選擇。蘇尚鋒建議：“使用的基本原則，應(yīng)該是被監(jiān)控者知情同意和最大程度的隱私保護(hù)。在不違法的條件下，如果用于中小學(xué)生，理應(yīng)得到其法定監(jiān)護(hù)人以及學(xué)生本身的認(rèn)可，如果用于大學(xué)生，理當(dāng)做到明確告知并獲得許可?！?/p>

2017年6月1日起正式施行的《中華人民共和國網(wǎng)絡(luò)安全法》，明確規(guī)定了要對非法收集、買賣用戶數(shù)據(jù)的行為進(jìn)行處罰。面對可怕的數(shù)據(jù)泄露風(fēng)險(xiǎn)，專家建議，應(yīng)規(guī)范和明確數(shù)據(jù)所有權(quán)、數(shù)據(jù)隱私和服務(wù)之間的關(guān)系，將公共利益的數(shù)據(jù)可用性放在法律和倫理框架下運(yùn)行，通過相應(yīng)的機(jī)制確保AI應(yīng)用的安全、合乎倫理和注重隱私。

“應(yīng)構(gòu)建預(yù)警機(jī)制，一旦發(fā)現(xiàn)類似于隱私泄露、數(shù)據(jù)安全、病毒傳播、系統(tǒng)不穩(wěn)定等情況，應(yīng)及時(shí)預(yù)警和進(jìn)行相關(guān)處置，確保整個(gè)系統(tǒng)的可信、可靠、穩(wěn)定?！痹＼娬f。

在教育場景內(nèi)使用AI技術(shù)，需要進(jìn)一步推進(jìn)法治化進(jìn)程，建立相關(guān)法律法規(guī)，做到有法可依。張生認(rèn)為，這是確保技術(shù)不被濫用、限制技術(shù)的負(fù)面影響、真正發(fā)揮其促進(jìn)教育教學(xué)作用的關(guān)鍵所在。他還呼吁各級各類政府要加強(qiáng)監(jiān)管，在為新業(yè)態(tài)發(fā)展留足空間的前提下守住底線。

可喜的是，好的改變已經(jīng)發(fā)生。目前歐盟、英國、日本等國際組織和國家，均發(fā)布了人工智能的倫理準(zhǔn)則。2019年國際人工智能與教育大會達(dá)成的《北京共識》重點(diǎn)聚焦了安全和倫理問題，關(guān)注“服務(wù)于人”，將“和諧與優(yōu)化共生”這一中國哲學(xué)和文化中的特色理念，作為尋求跨行業(yè)、跨部門、跨地區(qū)全球協(xié)作的指導(dǎo)思想，并強(qiáng)調(diào)促進(jìn)人工智能相關(guān)準(zhǔn)則的“落地”，為未來打造負(fù)責(zé)任的、有益的人工智能。

責(zé)任編輯：ct