隨著DeepSeek等國產大模型的迅猛發(fā)展，眾多高校、中小學開始搭建基于國產大模型和自身知識庫的教育智能體，并在教育科學中應用。在教育智能體正逐漸成為生成式人工智能技術在教育中應用的重要途徑的同時，我們也必須正視智能體創(chuàng)建和應用中的倫理風險問題，確保其能夠科學、可持續(xù)、安全地為教育賦能增效。
　　
　　1
　　
　　防范師生關系異化
　　
　　隨著教師和學生依托大模型平臺，創(chuàng)建服務自身課程和學習的教育智能體，師生課堂教學和課外情感關系異化的倫理風險逐步顯現。
　　
　　教師層面，表現為部分教師基于課程參考專著、論文、課件以及輔助資料，搭建起較為有效的課程助教性質的智能體，而學生多以咨詢所搭建的課程智能體開展學習，這在一定程度上會忽略傳統(tǒng)傳道授業(yè)解惑的育人行為和功能。學生層面，表現為部分學生基于自身項目式學習參考專著、論文、網絡資料等，搭建起較為有效的項目式學習助手性質的智能體，而不再認真學習，甚至質疑課程教師的授課內容，忽略對于課程教師前沿教學內容以及創(chuàng)造性互動啟發(fā)的吸納。后者，甚至可能導致原本的“教師主導—學生主體—人工智能輔助”結構關系將轉向“智能體主導—學生主體—教師輔助”，學生與智能體的單向依賴關系將會進一步加強，從而削弱，甚至危害到師生間的教學關系。
　　
　　師生課外情感關系異化的倫理風險，表現為部分學生將部分智能體作為更加“高效”和“安全”的情感交流或宣泄對象。在某智能體平臺中，情感陪護類智能體已有40多個，在學生看來，這些智能體不會將他的心事告知父母，也不會對他的個別想法或行為進行批評。智能體正逐漸取代教師原有的傾聽和引導職責。因此，甚至會導致師生課外情感互動的淡化。
　　
　　針對于以上倫理風險，需要積極維護“教師主導—學生主體—智能體輔助”三角型結構關系，科學使用教育智能體輔助課堂教學，積極引導學生科學使用教育智能體輔助學習和情感互動。具體而言，教師創(chuàng)建和應用服務自身課程的教育智能體過程中，需要重視傳道授業(yè)解惑的育人行為和功能，積極回應學生的提問和交流；也需要教師即時更新前沿教學內容，并設計高質量的課堂教學活動，引導學生在使用智能體輔助學習的過程中，積極吸納前沿教學內容以及創(chuàng)造性互動啟發(fā)。針對于師生課外情感關系異化倫理風險，需要重視學生情感交流或宣泄的“高效”和“安全”需求，做到即時高質量回應，以及隱私內容的保密不外傳。畢竟人類的情感是基于真實生命體驗的共情，而智能體的“情感反饋”本質是算法模擬，僅是從海量的數據庫中識別語言、表情后輸出的預設的安慰語句。
　　
　　2
　　
　　避免急功近利和自主權喪失
　　
　　今年2月開學季，杭州中小學教師表示學生們的寒假作業(yè)“AI味”太濃，甚至已經出現了“一眼假”等編造問題。可見，學生創(chuàng)建服務自身學習的教育智能體，存在急功近利和自主權喪失的倫理風險，即依托創(chuàng)建項目式學習知識庫后更加強大的智能體，急功近利地來偽造研究數據、篡改實驗圖像甚至替代自主設計，給學術誠信和底線帶來巨大沖擊。
　　
　　自主權喪失的倫理風險，則是因為智能體能夠在與使用者多輪交互過程中不斷學習和優(yōu)化，通過吸收使用者向其“投喂”的資料，不斷提升其個性化回答的“專業(yè)性”，針對特定的環(huán)境信息反饋以實現特定目標。因此，智能體生成的內容語言更具靈活性，造成學生學習探索過程過度依賴智能體，從而造成學生學習探索自主權的喪失。
　　
　　對此，復旦大學提出“六個禁止”，其中包括禁止在研究方案設計、數據分析等關鍵環(huán)節(jié)使用AI工具，禁止直接使用AI工具生成正文文本等，避免學生過度依賴AI，喪失自主思考和創(chuàng)新能力。
　　
　　智能體只是學習的輔助工具，其提供的數據、信息和分析結果只能作為參考，不能代替使用者獨立思考。因此，在面對智能體提供的信息和決策建議時，教師要引導學生通過對比不同來源的資料，綜合形成自己的判斷和觀點。在應用智能體時，教師要指導學生帶著自己思考的問題與其互動，不斷訓練智能體，定期對自己的學習和思考進行反思總結，通過反思調整自己的思維方式，更好地提升自己的批判性思維、創(chuàng)造性思維和解決問題的能力。
　　
　　3
　　
　　規(guī)避隱私泄露和版權侵犯
　　
　　師生借助智能體平臺來輔助教學和情感交互的過程中，還存在隱私泄露和版權侵犯等倫理風險。隱私泄露倫理風險方面，國家互聯(lián)網信息辦公室等部門印發(fā)的《生成式人工智能服務管理暫行辦法》限制了智能體收集數據的范圍，相關智能體平臺在對話記錄獲取窗口也會提醒創(chuàng)建者應遵循的規(guī)則，也允許平臺創(chuàng)建者設置所創(chuàng)建智能體的被訪問權限，從而較為有效地規(guī)避隱私泄露。但部分教師將一些在線課堂實錄文本等作為知識庫內容，上傳課程助教智能體，存在對于課堂互動中暗含的學生隱私互動內容的忽略問題，這一忽略目前也存在較難為平臺監(jiān)管所準確識別的問題。
　　
　　版權侵犯倫理風險方面，表現為部分教師會將自己電腦中的電子資料、專著等上傳智能體，作為私有知識庫內容。這些私有知識庫盡管不會公開，但也會記錄到智能體平臺網絡之中，對于一些具有版權的電子資料，尤其是專著，還是存在版權侵犯的倫理風險。尤其是，往屆學生的課程論文或作品，盡管不是公開發(fā)表的，也需要教師考慮到版權問題謹慎上傳，還需要平臺方進行智能識別、提醒和監(jiān)管。
　　
　　智能體在為學生提供個性化學習支持的同時，也對學生隱私和數據安全發(fā)起了嚴峻挑戰(zhàn)。只有在確保隱私安全的前提下，智能體才能真正成為推動教育公平和創(chuàng)新的有力工具，為學生的成長和發(fā)展提供更好的支持。學校要定期對師生進行數據安全培訓，提升其隱私保護意識，在使用智能體前，需向學生和家長明確告知數據收集和使用的目的、范圍及保護措施，并獲得他們的同意。智能體平臺需要實施嚴格的權限管理，確保審計留痕，記錄所有數據訪問行為以便追溯。同時，設立第三方監(jiān)管機構應定期對智能體的數據安全措施進行審計，及時發(fā)現并修復潛在的安全漏洞。
　　
　�。ㄗ髡哧懠�健系杭州師范大學中國創(chuàng)新創(chuàng)業(yè)教育研究院副教授，龐暢系杭州師范大學經亨頤教育學院碩士研究生）