标准化试点学校工作手册 B2.0 · 标准 5.0
对应试点标准 5.0《学校心理健康测验 AI 器材使用规范》
项目编号 2025077-FW-11十章对应标准 1.0~10.0

AI 器材是放大器:用得好是精准识别,用歪了就是机器贴标签。本章管住器材准入、操作 SOP、数据合规与效能指标,附「能做/不能做」对照。

本章对应试点标准《5.0学校心理健康测验AI器材使用规范》。本章为试点学校使用人工智能(AI)器材开展心理健康测验提供规范,明确器材分类与功能要求、使用流程、数据采集、数据存储与传输、隐私保护、安全管理和维护要求。本章不适用于精神疾病的临床诊断。

一、范围

(一)本章规定了学校心理健康测验AI器材的分类、功能要求、使用流程、数据采集、数据存储与传输、隐私保护、安全管理和维护要求。

(二)本章适用于学校使用AI心理测评系统、智能心理终端设备、情绪识别设备、心理数据分析平台等器材开展学生心理健康测验的活动。

二、术语与定义

(一)AI心理测评器材(3.1条):指运用人工智能、机器学习、自然语言处理、计算机视觉、语音识别等技术,对学生心理状态进行测量、识别、分析和预警的软硬件设备及系统,包括AI心理测评系统、智能心理终端设备、情绪识别设备、心理数据分析平台等。

(二)心理健康测验(3.2条):运用标准化的测量工具和程序,对学生的心理健康状况进行评估的活动。

(三)数据采集(3.3条):通过AI器材获取学生心理状态相关数据的过程,包括量表作答、语音、图像、行为等多模态数据。

(四)心理数据(3.4条):通过心理健康测验获取的能够反映学生心理状态的数据及相关个人信息。

(五)隐私保护(3.5条):对学生心理数据及相关个人信息进行保护,防止未经授权的访问、使用、披露、篡改或销毁的措施与机制。

(六)危机预警(3.6条):基于AI器材采集和分析的数据,对可能存在心理危机风险的学生进行识别和提示的机制。

三、总体要求

(一)学校使用AI心理测评器材应坚持科学规范、安全可靠、保护隐私、伦理优先的原则,器材仅作为辅助工具,不得替代专业人员的判断。

(二)学校在选择AI器材前应开展选型论证,组织伦理审查与安全评估,确保器材符合国家相关标准。

(三)学校应指定专人负责AI器材的管理与维护,并建立使用台账,做到来源可查、使用可溯、责任可究。

四、器材分类与功能要求

(一)学校心理健康测验AI器材宜按功能分为以下四类:

器材类别典型设备主要功能
AI心理测评系统在线测评平台、量表管理系统、数据分析系统量表施测、自动计分、结果分析、报告生成
智能心理终端设备智能心理机器人、便携式心理检测终端自助测评、互动式筛查、基础数据采集
情绪与行为识别设备面部表情识别系统、语音情绪分析系统、行为姿态分析设备情绪状态识别、行为特征分析、异常行为预警
心理数据分析平台心理数据管理平台、预警分析系统数据分析、趋势研判、危机预警、报告管理

(二)AI心理测评系统应具备数据自动加密、访问权限控制功能;智能终端设备应具备分级预警与风险分层功能;情绪识别设备应具备数据脱敏与去标识化处理能力,并具备误识别率的自我评估与校准机制;数据分析平台应具备数据访问日志与操作留痕、数据备份与灾难恢复功能。

(三)关键技术指标:

  1. AI器材的情绪识别准确率宜不低于80%(在标准化测试集上的表现);

  2. 误报率宜控制在15%以下,漏报率宜控制在10%以下;

  3. 预警响应延迟宜不超过5秒;

  4. 系统可用性宜达到99.5%以上(年度运行时间占比)。

五、使用流程

AI心理测评器材使用应遵循"方案制定→知情同意→器材校准→测验实施→数据采集→结果分析→人工复核→结果反馈→数据归档"流程:

(一)方案制定:学校应制定测验方案,明确测验目的、对象、工具、时间与组织实施安排;每学年测评不超过1次,防止过度测评。

(二)知情同意:测验前应向参与学生说明测验目的、流程、数据用途和隐私保护措施;针对未成年学生,应取得监护人的知情同意,知情同意书应明确说明AI技术的使用方式。对于AI情绪识别设备,应明确告知学生设备的存在和用途,不得隐蔽采集数据。

(三)器材校准:实施前应完成AI器材的功能测试与校准,确保设备处于正常工作状态。

(四)测验实施与数据采集:由专业人员组织实施测验,确保采集数据真实有效;发现学生情绪波动等异常情况时应及时暂停并妥善处置。

(五)结果分析与人工复核:测评结果应以整体统计和趋势分析为主,避免对学生个体进行标签化;AI生成的预警信息应经心理指导师人工复核确认后方可进入处置流程。

(六)结果反馈:向家长反馈学生心理健康状况时,反馈内容应经过脱敏处理,不得直接展示原始数据。

(七)数据归档:测验数据按第七章学生心理档案管理规范归档管理。

发现危机预警的,应立即转入危机干预流程,按第九章执行。

六、数据采集要求

(一)采集原则:遵循合法、正当、必要、诚信原则,坚持最小必要,仅采集与测验目的直接相关的数据。

(二)知情同意:数据采集应取得学生及监护人的知情同意,明确告知采集的数据类型、用途、存储期限和共享范围;对敏感个人信息(如生物识别信息、医疗健康信息)应取得单独同意。

(三)采集方式:

  1. 量表作答数据应通过加密通道传输,防止在传输过程中被截获或篡改;

  2. 图像、语音等生物识别数据的采集应明确告知学生并取得单独同意;对于未成年学生,生物识别数据的采集应取得监护人的单独同意;

  3. 不得采集与测验目的无关的个人信息。

(四)质量控制:对无效作答应提示学生重新作答,不得将其纳入统计分析;学校应定期对采集数据进行质量抽检,抽检比例宜不低于5%。

七、数据存储与传输

(一)存储要求:

  1. 学生心理数据应存储在符合网络安全等级保护要求的服务器或云平台中;

  2. 心理数据应采取加密存储方式,加密算法应符合国家密码管理相关规定;

  3. 存储期限宜不超过学生毕业后3年,法律法规另有规定的除外;

  4. 存储系统应具备数据备份机制,备份频率宜每日一次,重要数据宜实时备份,并具备灾难恢复能力。

(二)传输要求:

  1. 心理数据传输应采用加密传输协议(如HTTPS、VPN等);数据应具备完整性校验机制;

  2. 跨校、跨区域传输心理数据的,应通过专用网络通道或加密数据传输工具;

  3. 传输日志应完整记录,包括传输时间、数据内容、发送方、接收方等信息。

(三)访问控制:心理数据访问实行分级授权管理,不同角色拥有不同访问权限:

角色可访问数据操作权限
学校管理员全校测评数据概览配置、统筹、审计
心理指导师所负责学生的完整测评数据查看、分析、干预
班主任所带班级学生测评结果概要查看、协助关注
家长(监护人)其子女测评结果摘要查看、反馈
AI器材供应商系统运行所需的技术数据维护、技术支持
  1. 数据访问应实行实名制,所有访问行为应记录日志(访问人、时间、内容、操作类型);

  2. 数据导出应具备审批流程,导出的数据应进行脱敏处理;

  3. 供应商访问学生心理数据的,应签订数据保密协议,明确数据使用范围和保密义务。

八、隐私保护

(一)隐私保护原则:学校应制定隐私保护告知书,明确告知学生及监护人数据处理的有关事项;遵循告知同意、最小必要、目的限定与安全保护原则。

(二)数据脱敏与去标识化:用于统计分析、科研教学、算法训练的心理数据应进行脱敏处理,去除能够识别学生身份的信息;脱敏措施包括删除直接标识符、采用化名或编码替代、对测评结果进行分组或区间化处理等;脱敏后仍可能被重新识别的,应进一步进行去标识化处理。

(三)使用限制:未经学生及监护人同意,不得将学生心理数据用于商业目的,不得向第三方提供。

(四)共享披露:向校外机构(如精神卫生医疗机构)共享心理数据的,应取得学生及监护人的单独同意。

(五)删除销毁:学生毕业、转学或退学的,其心理数据应在存储期限届满后删除或匿名化;学生及监护人要求删除心理数据的,学校应在合理期限内予以删除;数据存储介质报废或更换的,应进行数据清除处理,防止数据泄露。

九、安全管理

(一)安全责任:学校应建立AI心理测评器材安全管理责任制,明确校长、分管副校长、心理工作负责人、器材管理员的安全职责。

(二)设备安全:AI心理测评设备应放置在专用空间内,配备门禁或锁具,非授权人员不得接触;设备应定期进行安全检查与维护。

(三)网络安全:系统应具备异常访问检测与告警功能,发现异常访问应立即处置;发现数据泄露等安全事件的,应立即启动应急预案,并按个人信息保护法的要求履行通知与报告义务。

十、维护与评估

(一)设备维护:

  1. 应建立维护台账,记录设备使用、维护、故障、维修等情况;

  2. 维护包括日常保养、定期检测、故障维修、软件升级等;

  3. 设备维护宜每月进行一次,重要设备宜每周进行检查;维护记录保存期限宜不少于3年。

(二)算法评估:学校应定期对AI器材的识别准确率、误报率、漏报率等算法效果进行评估,宜每学期评估1次,评估样本不少于100例;发现算法效果下降或存在偏差的,应及时联系供应商优化或校准。

(三)使用效果评估:学校应从以下指标评估AI器材使用效果:

评估指标评估内容合格要求
器材使用率应测学生中实际完成测评的比例≥95%
数据完整率采集数据中有效数据的比例≥98%
预警准确率AI预警中经人工复核确认的比例≥80%
误报率AI预警中误报案例的比例≤15%
师生满意度师生对器材使用的满意程度≥85%

评估发现问题的,应制定整改措施并限期整改。

十一、供应商管理

(一)供应商选择:学校选择AI器材供应商时,应综合评估其资质、技术能力、数据安全能力与服务能力;供应商应具备产品资质和检测报告,产品应符合国家相关标准和行业规范。

(二)合同管理:合同应明确:数据所有权归属(学生心理数据归学校所有)、数据使用范围和保密义务、数据安全责任和违约责任、系统维护和技术支持服务内容、合同终止后的数据处理方式;约定供应商不得将学生心理数据用于合同目的之外,发生数据泄露等安全事件时应履行通知义务并承担赔偿责任。

(三)监督与评估:学校应对供应商服务质量、数据安全管理情况定期评估检查;存在严重数据安全违规行为的,应立即终止合作并依法追究责任。

本章要点

  1. 器材分AI测评系统、智能终端、情绪识别设备、数据分析平台四类,仅作辅助工具,不用于精神疾病临床诊断;

  2. 使用流程九环节:方案制定→知情同意→器材校准→测验实施→数据采集→结果分析→人工复核→结果反馈→数据归档;危机预警立即转入干预流程;

  3. 关键技术指标:情绪识别准确率≥80%、误报≤15%、漏报≤10%、响应≤5秒、可用性≥99.5%;

  4. 数据加密存储、期限≤毕业后3年、每日备份;生物识别数据须监护人单独同意;抽检≥5%;访问分级授权、实名制留痕;

  5. 维护每月1次、记录保存≥3年;算法评估每学期1次(样本≥100例);效果评估"使用率≥95%、数据完整率≥98%、预警准确率≥80%、误报≤15%、满意度≥85%"。

▍专家工作研究补注

≥95%器材使用率
≥98%数据完整率
≥80%预警准确率
≤15%预警误报率上限

AI 器材「能做/不能做」对照

可以做(合规用法)绝对不能做(红线)
按说明书与校准周期使用,建设备台账与维护记录把器材输出当医学诊断或心理疾病结论
作筛查的辅助信号,与量表、观察、访谈三角印证单凭一次 AI 评分给学生贴高风险标签
采集前完成知情告知与单独同意(涉敏感生物特征时)默认全量采集、悄悄采集或超范围留存人脸/语音/情绪数据
输出准确率、误报率并纳入季度复盘用「算法说不准」掩盖未校准、样本偏差
异常数据记日志、可追溯、可剔除篡改或选择性上报好看的数据

环境硬指标(测验室/器材区)

座位间距 ≥0.8 米|温度 18~26 ℃|湿度 40%~70%|噪声 ≤50 分贝。这不是舒适建议,是数据有效性的前提:隔壁上课的吵闹、同桌能看见的选项,会把「焦虑分」抬高成伪差异。

器材准入与退出四问

  1. 有没有合规来源?厂商资质、检测报告、软著/网络安全备案,缺一项不上架;
  2. 算法有没有评估报告?先在本校学段人群小样本验证准确率与误报率,不能直接采信厂商宣传值;
  3. 数据落在哪?默认校内或合规云,最小化采集,明确保留期限与删除机制,禁止回流营销用途;
  4. 坏了怎么办?故障停机→挂牌停用→报修登记→复校校准后再启用;故障期数据单独标注,不并入常模。

效能指标怎么算才不注水

使用率=实际有效使用人次 ÷ 应覆盖人次,无效使用(中途退出、操作失败、时长不足)必须单列,不能既算覆盖又算有效。完整率=必填字段齐全记录数 ÷ 总记录数。准确率/误报率以人工复核结论为金标准,抽样复核 ≥5%(接第六章口径)。满意度 ≥85% 单独问卷,不与测验结果混填。

本手册为「北京学校心理健康服务标准化试点项目」(项目编号 2025077-FW-11)试点学校操作指引,十章正文对应试点标准 1.0~10.0。文内「应」为底线要求、「宜」为建议要求、「可」为允许做法;量化指标以试点标准正式发布文本为准,不一致处以正式文本为准。全文不构成医疗诊断或法律意见。