学校人工智能应用亟需有效的社会监督

尽管缺乏完善的研究基础和监管保护措施,技术公司和相关政府部门依然在向学校推广人工智能(AI)应用。目前在学校采用未经监管的AI应用程序已给社会与个人的自主带来了严重威胁。多年以来学界不断地发出警告,技术的应用所造成的问题也非鲜见,AI时代之前的数字技术在学校的广泛使用产生诸多显而易见的风险,这些技术使决策变得不透明,导致学生数据被挪为他用。在缺乏有效的社会监管的情况下引进不透明和未经证明的AI系统和应用程序很可能使原有的问题变得更加严重。如果立法者和其他相关人士不拿出周密的想法和措施进行干预,以消除这些广泛存在的风险,则很可能出现各种危害。文章探讨了这种情况下可能出现的危害,呼吁学校领导在政策制定者尚未完全了解AI并出台保证AI在学校的应用受到社会有效监督和控制的政策之前暂缓推广AI应用程序。