AI 是中立的，因为它只是机器。

展示 AI 每一个环节都包含人的选择，机器不会自动中立。

偏见主要来自算法本身。

用数据实验让学习者看到，多数偏见在数据阶段就已经产生。

只要训练数据足够大，偏见就会自动消失。

演示大样本依然会继承历史偏差，规模不是解药。

Back to Discover

Lesson

AI 偏见的根源

偏见不是机器自己发明的，而是人类数据、人类选择和人类目标的镜像——理解这面镜子，才能开始修正它。

Before you enter

A complete interactive classroom, not just a preview.

Start when you are ready to enter this Stage's 10 scenes and explore, respond, and learn as you go.

Scenes

20 min

Estimated

Content language: zh-CN

Created by

tonlin

Start this Stage

Remix into your version

Sign-in may be required to play

What happens inside

01开场：AI 也会“看人下菜”？slide
Orientation
用日常例子引入 AI 偏见的现象，激发好奇。
- 人脸识别差异
- 招聘 AI 的争议
- 推荐算法的回音室
02数据采样实验interactive
PredictionPredict
让学习者亲手从一个人口池中抽样，看样本偏差如何放大。
- 调整采样比例
- 对比真实分布与样本分布
- 预测偏差方向
03数据里有“人”的影子slide
Model building
解释训练数据为什么从来不是中立的。
- 历史数据本身带偏见
- 代表性 ≠ 数量
- 真实案例：医疗数据偏向
04标注者立场实验interactive
Misconception repairChoose
让学习者给同一组文本打标签，观察不同标准下的分歧。
- 主观标注的多样性
- 群体间分歧可视化
- 标注指南的力量
05算法选择流程图interactive
Model building
交互式流程图展示模型开发中每个含人判断的环节。
- 特征工程
- filter设计
- 评估指标选择
06反馈循环推演interactive
Model buildingObserve
模拟一个警务预测系统的正反馈循环，让学习者调节变量观察循环。
- 预测→部署→新数据→再训练
- 循环放大
- 可视化拐点
07偏见猎人游戏interactive
ApplicationApply
玩家在多个真实 AI 场景中识别偏见来源并选择干预策略。
- 扫描场景
- 定位偏见
- 选择缓解动作
- 得分反馈
08缓解偏见的三条路径slide
Synthesis
总结人在数据、模型、部署各环节可以采取的行动。
- 多样数据
- 公平审计
- 人在环监督
09设计一个更公平的 AIinteractive
SynthesisConstruct
学习者综合所学，为一个招聘 AI 草拟改进方案。
- 数据策略
- 指标选择
- 监督机制
10结语：AI 是镜子，不是答案slide
Synthesis
收束主题，引导学习者在日常使用中保持反思。
- AI 反映选择
- 持续审计
- 提问比答案重要