白皮书敦促对人工智能学校评分技术进行治理

自动评分技术可能很快会在澳大利亚学校推出，但如果没有强有力的国家指导方针和独立的咨询机构，一些学校可能会落在后面。

“机器评分”或“自动作文评分”(AES) 在国际上越来越多地被使用，尤其是在美国，在一系列高风险测试环境中，结果决定学生的进步和学校资助。白皮书称，该技术极有可能在未来几年进入澳大利亚的学校，如果没有认真管理和与教育界协商，可能会引起争议。

白皮书称，在教师流失率处于历史高位且教师招聘率处于历史低位的情况下，自动作文评分 (AES) 可能会减轻教师的工作量。但这项技术也对教师和管理人员产生了新的要求，包括学校必须在没有建议的情况下采购这些专有技术包的财务压力。

教育和社会工作学院的 Kalervo Gulson 教授是教育政策和人工智能进展方面的研究员。他研究学校如何应对和应对教育领域技术的快速变化，即 EdTech。

“我们知道教师已经承受着繁重的工作量，而这项新技术可以帮助缓解压力，只要实施不会创造更多的工作，”古尔森教授说。

“我们不建议在高风险测试中进行自动评分，因为结果可能会影响学生的未来或学校的资金，”古尔森教授说。“就像学校里所有类型的人工智能一样，重要的是受它影响的人了解它会做什么，并在它的介绍中有发言权。”

昆士兰科技大学的共同作者 Greg Thompson 教授曾是一名高中教师，也是教育评估方面的专家。他强调说：“我们应该继续对任何依赖于不透明性的技术在学校中做出相应的决定持谨慎态度。需要花费更多的时间和精力来开放这些系统以改善审查和理解。”

NAPLAN 和机器人标记

2018 年，教育、技能和就业部试图将 AES 的一种形式应用到 NAPLAN 中。然而，这种“机器人标记”的尝试被证明在政治上不受欢迎，并被部长取消了。来自教师、教师工会、校长和家长的担忧包括：

教师去专业化，

澳大利亚学校基础设施不公平，以及

考试当局在如何做出评分决定方面缺乏透明度。

教室里的人工智能

研究人员说：在课堂上使用人工智能对教师和学生都有很大好处，但制定保护我们学校的指导方针至关重要。

“如果没有这一领域的政治领导，最终取决于教育机构和机构、政策制定者和学校社区的合作，以评估 AES 的好处和缺陷并规划前进的方向，”研究人员 Gulson 教授说。悉尼社会科学与人文高级研究中心 (SSSHARC)。“我们的建议将有助于在这一领域出现良好的治理。”

“像 AES 这样的技术可以带来好处，但我们的学校需要紧急指导，并确保所有学校都拥有必要的数字基础设施和人才技能，”古尔森教授说。

建议：

为学校从商业教育科技公司购买 AES 系统建立统一的道德准则

确保包括农村和地区在内的所有学校都拥有必要的数字和人力基础设施来支持实施

为在学校使用人工智能建立透明的最佳实践指南

发起独立咨询机构在澳大利亚进行大规模评估

建立基于风险的框架，对采用 AES 在特定评估环境和学校环境中的潜在危害进行排序

从 AES 在美国和其他司法管辖区的大规模推广中学习，包括道德、法律和财务影响以及对学校、部门和地区决策的影响

在推出之前，利用多个地点和决策层的利益相关者的专业知识，包括学校和教室的教育工作者。

不要在结果对个人或学校有重要意义的高风险测试中使用 AES 。

如果要广泛采用 AES，澳大利亚必须带头协作制定 AES 指南、政策和法规。