導(dǎo)言

　　本期前沿觀察我們聚焦AI和教育的未來，本文原標(biāo)題“Artificial Intelligence and the Future of Teaching and Learning”，由美國教育技術(shù)辦公室于今年5月出品。報(bào)告對當(dāng)下人工智能在教育領(lǐng)域的應(yīng)用和挑戰(zhàn)做了詳盡的闡述，討論了為 "人工智能 "分享知識和制定政策的明確需求,并提出指導(dǎo)進(jìn)一步政策制定的建議。如何使用人工智能改進(jìn)教學(xué)工作、準(zhǔn)備和支持教師進(jìn)行規(guī)劃和反思?如何實(shí)現(xiàn)值得信賴的人工智能教育?以及如何關(guān)注教育技術(shù)使用的“長尾”等...

　　"人工智能 "是一類快速發(fā)展的基礎(chǔ)能力，越來越多地嵌入到所有類型的教育技術(shù)系統(tǒng)中，同時(shí)也向公眾提供。我們將認(rèn)為 "教育技術(shù)"(edtech)既包括(a)專門為教育用途設(shè)計(jì)的技術(shù)，也包括(b)在教育環(huán)境中廣泛使用的一般技術(shù)。本報(bào)告中的建議旨在讓教師、教育領(lǐng)導(dǎo) 、政策制定者、研究人員以及教育技術(shù)創(chuàng)新者和供應(yīng)商參與進(jìn)來，共同解決人工智能(AI )在教育中應(yīng)用時(shí)出現(xiàn)的緊迫政策問題。

　　人工智能可以被定義為“基于關(guān)聯(lián)的自動化”。當(dāng)計(jì)算機(jī)根據(jù)數(shù)據(jù)中的關(guān)聯(lián)(或從專家知識推導(dǎo)出的關(guān)聯(lián))自動推理時(shí)，人工智能發(fā)生了兩個(gè)根本性的轉(zhuǎn)變，并將計(jì)算超越了傳統(tǒng)的教育技術(shù)：(1)從捕獲數(shù)據(jù)到檢測數(shù)據(jù)的模式，以及(2)從提供對教學(xué)資源的訪問到對教學(xué)和其他教育過程的自動化決策。檢測模式和自動化決策是可以委托給計(jì)算機(jī)系統(tǒng)的責(zé)任級別的飛躍，但同時(shí)，開發(fā)人工智能系統(tǒng)的過程可能會導(dǎo)致模式檢測方面的偏見和決策自動化方面的不公平。因此，教育系統(tǒng)必須管理其對人工智能系統(tǒng)的使用，充分發(fā)揮人工智能改善教育的機(jī)會，認(rèn)識并應(yīng)對即將出現(xiàn)的挑戰(zhàn)。

　　作者 | 美國教育技術(shù)辦公室 編譯丨智成企業(yè)研究院 崔帥

　　(正文4000字，預(yù)計(jì)閱讀時(shí)間6-8分鐘)

　　01 教育界對人工智能的興趣日益濃厚

　　當(dāng)前，許多改進(jìn)教學(xué)和學(xué)習(xí)的事項(xiàng)尚未得到滿足，教育工作者尋求技術(shù)的方法來解決這些事項(xiàng)。像我們所有人一樣，教育工作者在日常生活中正在使用人工智能驅(qū)動的服務(wù)，例如：家里的語音助手，可以糾正語法、完成句子和寫文章的工具，以及手機(jī)上的自動旅行規(guī)劃等。許多教育工作者正在積極探索人工智能工具，因?yàn)樗鼈儎倓傁蚬�眾發(fā)布。教育工作者看到了使用人工智能驅(qū)動的功能的機(jī)會，例如通過語音識別等功能來增加對殘疾學(xué)生、多語種學(xué)習(xí)者和其他受益的學(xué)生的支持。

　　同時(shí)教育工作者也意識到新的風(fēng)險(xiǎn)。有用、強(qiáng)大的功能也可能伴隨著新的數(shù)據(jù)隱私和安全風(fēng)險(xiǎn)。教育工作者認(rèn)識到，人工智能可以自動生成不適當(dāng)或錯(cuò)誤的輸出，因此要警惕人工智能創(chuàng)建的關(guān)聯(lián)或自動化可能會放大不必要的偏見，他們擔(dān)心算法生成的建議是否公平。教育界的每個(gè)人都有責(zé)任利用好的東西來服務(wù)于教育優(yōu)先事項(xiàng)，同時(shí)也要防止人工智能被整合到教育技術(shù)中可能產(chǎn)生的危險(xiǎn)。

　　為了制定教育技術(shù)的指導(dǎo)方針，各方專家需要與教育界人士密切合作，其中包括教育領(lǐng)袖-教師、教師、支持人員和其他教育工作者及研究人員;政策制定者;教育技術(shù)的倡導(dǎo)者和資助者;技術(shù)開發(fā)人員;社區(qū)成員和組織;學(xué)習(xí)者及其家人/監(jiān)護(hù)者。最近，通過與教育界人士的活動，我們注意到教育界對人工智能的興趣和關(guān)注急劇增加。例如， 2021年的調(diào)查發(fā)現(xiàn)，各種技術(shù)系統(tǒng)的開發(fā)人員，包括用于學(xué)生信息、課堂教學(xué)、學(xué)校后勤、家長教師溝通等技術(shù)的開發(fā)者，希望在他們的系統(tǒng)中添加人工智能功能;另外。通過2022年6月和8月美國舉行的四場聽證會，700多名與會者出席，情況變得清晰，各派認(rèn)為，現(xiàn)在需要采取行動，以加速教育技術(shù)中人工智能的增長。

　　2022年底和2023年初，ChatGPT為代表的聊天機(jī)器人橫空出世，通過人工智能寫論文、創(chuàng)建課程計(jì)劃、制作圖像、為學(xué)生創(chuàng)建個(gè)性化的作業(yè)等成為了新的探索方向。從社交媒體、會議和新聞媒體上的公開表達(dá)中，該部門更多地了解了人工智能聊天機(jī)器人的風(fēng)險(xiǎn)和好處。

　　02 教育中采用人工智能技術(shù)優(yōu)劣互現(xiàn)

　　首先，人工智能可能使教育優(yōu)先事項(xiàng)能夠以更好的方式、更大的規(guī)模和更低的成本實(shí)現(xiàn)。解決學(xué)生因疫情而未完成的各種學(xué)習(xí)是一項(xiàng)政策優(yōu)先事項(xiàng)，人工智能可能提高學(xué)習(xí)資源對學(xué)生的優(yōu)勢和需求的適應(yīng)性。改善教學(xué)工作是另一項(xiàng)優(yōu)先事項(xiàng)，通過自動化助手或其他工具，人工智能可能為教師提供更大的支持。同時(shí)，人工智能還可能使教師能夠在時(shí)間不夠時(shí)向個(gè)別學(xué)生提供支持。此外，人工智能還可能使課程資源更具定制性，以滿足當(dāng)?shù)匦枨�。正如我們在語音助手、地圖工具、購物推薦、論文寫作能力和其他熟悉的應(yīng)用程序中所看到的那樣，人工智能可能會增強(qiáng)教育服務(wù)。

　　其次，緊迫性和重要性來自對系統(tǒng)級風(fēng)險(xiǎn)的認(rèn)識和對潛在未來風(fēng)險(xiǎn)的焦慮。例如，學(xué)生可能會受到更多的監(jiān)視、一些教師擔(dān)心他們可能會被取代、以及算法偏見導(dǎo)致的歧視等。人工智能的一些用途可能是基礎(chǔ)設(shè)施和無形的，這引發(fā)了對透明度和信任的擔(dān)憂。人工智能通常帶著魔力的光環(huán)出現(xiàn)在新的應(yīng)用程序中，但教育工作者和采購政策要求教育技術(shù)展示效力。人工智能可能會提供看似真實(shí)的信息，但實(shí)際上是不準(zhǔn)確的，或者缺乏現(xiàn)實(shí)基礎(chǔ)。最重要的是，除了眾所周知的數(shù)據(jù)隱私和數(shù)據(jù)安全風(fēng)險(xiǎn)外，人工智能還帶來了新的風(fēng)險(xiǎn)，例如規(guī)�；�模式檢測器和自動化的風(fēng)險(xiǎn)，這會導(dǎo)致“算法歧視”(例如，向某些學(xué)生群體推薦的學(xué)習(xí)機(jī)會或資源存在系統(tǒng)性不公平)。

　　第三，由于可能出現(xiàn)意想不到或意想不到的后果，緊迫感上升。當(dāng)人工智能使教學(xué)決策能夠大規(guī)模自動化時(shí)，教育工作者可能會發(fā)現(xiàn)不想要的結(jié)果。

　　舉個(gè)簡單的例子，如果人工智能通過加快一些學(xué)生的課程進(jìn)度和放慢其他學(xué)生的進(jìn)度來適應(yīng)不同人群學(xué)習(xí)能力，成績差距可能會擴(kuò)大。在某些情況下，可用數(shù)據(jù)的質(zhì)量可能會產(chǎn)生意想不到的結(jié)果。例如，一個(gè)基于人工智能的教師招聘系統(tǒng)可能被認(rèn)為比基于人類的簡歷評分更客觀。然而，如果人工智能系統(tǒng)依賴于質(zhì)量較差的歷史數(shù)據(jù)，它可能會降低那些可以為學(xué)校的教學(xué)隊(duì)伍帶來多樣性和天賦的候選人的優(yōu)先級。

　　總之，現(xiàn)在必須在教育中解決人工智能問題，以實(shí)現(xiàn)關(guān)鍵機(jī)遇，預(yù)防和緩解突發(fā)風(fēng)險(xiǎn)，并解決非預(yù)期后果。談及人工智能在教育中的應(yīng)用有哪些挑戰(zhàn)，根據(jù)報(bào)告中的描述，人工智能在教育中的應(yīng)用面臨以下五大挑戰(zhàn)：

　　(1)如何實(shí)現(xiàn)值得信賴的AI教育;

　　(2)如何關(guān)注教育技術(shù)使用的“長尾”;

　　(3)如何將人工智能置于正確的位置，教育工作者和其他成年人可以有效地利用這些工具進(jìn)行教學(xué)和學(xué)習(xí);

　　(4)人工智能并不完全符合學(xué)習(xí)目標(biāo)，需要設(shè)計(jì)教育環(huán)境，將人工智能置于正確的位置;

　　(5)人工智能甚至還沒有準(zhǔn)備好將學(xué)習(xí)與學(xué)生社區(qū)和家庭的獨(dú)特優(yōu)勢聯(lián)系起來。

　　03 人工智能在教育中的政策

　　斯坦福大學(xué)以人為中心的人工智能研究所(Stanford Institute for Human-Centered AI)發(fā)布的《2023年人工智能指數(shù)報(bào)告》(2023 AI Index Report)記錄了對人工智能的投資顯著加速，以及對道德(包括公平和透明度問題)研究的增加。當(dāng)然，對倫理等主題的研究正在增加。

　　該報(bào)告發(fā)現(xiàn)，25個(gè)國家對人工智能的立法表現(xiàn)出了驚人的興趣。在美國，多項(xiàng)行政命令的重點(diǎn)是確保人工智能是值得信賴和公平的，白宮科技政策辦公室推出的一份人工智能權(quán)利法案——藍(lán)圖(Blueprint)，提供了有助于實(shí)現(xiàn)這一目標(biāo)的原則和實(shí)踐。這些舉措，以及行政和立法部門開展的其他與人工智能相關(guān)的政策活動，將指導(dǎo)人工智能在社會各部門的使用。在歐洲，歐盟委員會最近為教育工作者發(fā)布了關(guān)于在教學(xué)和學(xué)習(xí)中使用人工智能和數(shù)據(jù)的道德準(zhǔn)則。

　　人工智能正在快速發(fā)展，預(yù)示著需要國家政策應(yīng)對的社會變革。除了針對社會各部門的廣泛政策外，還需要針對教育的具體政策來應(yīng)對現(xiàn)有框架內(nèi)的新機(jī)遇和挑戰(zhàn)。人工智能還會自動提出建議并采取行動來支持學(xué)生的學(xué)習(xí)，因此教育工作者需要考慮這些建議和行動如何符合《殘疾人教育法》(IDEA)等特別法律。

　　人工智能正在呈指數(shù)級發(fā)展，用于生成圖像和文本的強(qiáng)大的新人工智能功能向公眾開放，并導(dǎo)致人們創(chuàng)建文本和圖像的方式發(fā)生變化。人工智能的進(jìn)步不僅發(fā)生在研究實(shí)驗(yàn)室，也出現(xiàn)在主流媒體和教育出版物上。

　　研究人員已經(jīng)闡述了一系列關(guān)于道德人工智能的概念和框架，以及相關(guān)概念，如公平、負(fù)責(zé)任和以人為本的人工智能。但同時(shí)，也迫切需要制定保障措施和指導(dǎo)方針，使人工智能進(jìn)步的教育應(yīng)用更加安全，特別是考慮到人工智能融入主流技術(shù)的步伐正在加快。由于政策的制定需要時(shí)間，政策制定者和教育機(jī)構(gòu)需要從現(xiàn)在開始共同制定要求、信息披露、法規(guī)和其他結(jié)構(gòu)，為所有機(jī)構(gòu)——尤其是學(xué)生和教師——塑造一個(gè)積極和安全的未來。

　　迫切需要實(shí)施以下政策:

　　1. 利用自動化來提高學(xué)習(xí)成果，同時(shí)保護(hù)人類的決策和判斷;

　　2. 根據(jù)適合教學(xué)情況的準(zhǔn)確信息，詢問人工智能模型中的底層數(shù)據(jù)質(zhì)量，以確保教育應(yīng)用中公平公正的模式識別和決策;

　　3.能夠檢查特定的人工智能技術(shù)，作為更大的教育技術(shù)或教育系統(tǒng)的一部分，研究AI如何增加或破壞學(xué)生的公平;

　　4. 采取措施保護(hù)和促進(jìn)公平，包括提供人力制衡，限制任何破壞公平的人工智能系統(tǒng)和工具。