MIT Notes by Ron

中文

English

中文

English

Appearance

Lec 24 面向AI系统的设计 ​

本节，我致力于将高度技术性的难题转化为令人愉悦的产品体验。

我专注于思想领导力，同时将用户痛点与产品战略相连接，以实现对业务成果的影响。我通过设计后端（BE）与前端（FE）无缝衔接的架构，在多个团队的职能孤岛之间进行协同与对齐。

image-20260506042631897

总览 ​

  • 范式转变→ 人工智能（AI）

  • 应对不确定性的模式

  • 人机协作模式

  • 通过设计建立信任与责任（Trust & Responsibility）

  • 设计实践

  • 成功的衡量

范式转变 ​

为什么 AI 需要一种完全不同的设计思维？

传统的UI的特点：

  • 确定性（Deterministic）：相同输入 → 相同输出
  • 命令驱动（Command-driven）：明确的命令与执行机制
  • 逻辑透明（Transparent logic）：每一条规则都可以被检查和解释
  • 显式失败（Fails loudly）：崩溃、错误代码、空白屏幕等明确报错
  • 用户掌控（User in control）：系统严格按照用户指令执行

AI 驱动体验

  • 概率性（Probabilistic）：相同输入 → 可能得到不同输出
  • 对话与流程（Conversation & flow）：通过对话和迭代不断调整结果
  • 推理不透明（Opaque reasoning）：输出背后的“为什么”往往不可见
  • 静默失败（Fails silently）：模型可能自信地给出错误答案
  • AI 进行判断（AI exercises judgment）：系统通过推断来填补信息空缺

AI 特有的核心设计挑战

  • 交互与沟通： 低置信度结果，或存在多个可能选项。
  • 反馈回路： 用户的交互行为会变成训练数据。
  • 模型行为： 模型在重新训练后不会保持不变，性能取决于训练数据集。
  • 体验演化：交互方式与功能快速变化，用户的期望也随之不断变化。

应对不确定性的模式 ​

AI 的输出在用户看来往往是“二元化”的，这会导致用户对听起来很自信的 AI 产生过度信任。

用户体验设计必须以诚实的方式向用户传达 AI 的能力与不确定性，同时又不能削弱用户对产品的信心。

不同的使用场景需要采用不同的设计策略。

人-AI 合作范式 ​

AI先行模式 这种模式是AI 先行动，人类审核

  • 推荐结果会被呈现出来，但最终操作必须由人类批准，这种模式最适合高风险领域。

  • 例如，医学影像，AI可能会对高亮一些结节，以免人类错过

    image-20260508180741172

人类先行模式 人类先行动，AI 提供建议

  • 主动学习循环： 用户不断标注、纠正、筛选结果，模型会随着每次使用不断改进

  • 例如，对于文本撰写这类低摩擦任务，由人类主导，而人工智能则在周围环境中提供改进建议

协作模式 迭代交互

  • 人类设定目标， AI 选择实现方法

  • 这种方式既保留了人的自主性（autonomy），又减轻了认知负担

  • 比如辅助代码生成等等

    image-20260508181045735

Human-in-the-Loop（HITL）模式 AI 负责发现与提示，人类负责最终决策

  • 自动化系统持续运行
  • 人类负责监督，并且可以随时干预
  • 需要强大的审计能力，以及明确的人工接管机制
  • 例如， 自动驾驶，网络安全、GFW、内容审核

将信任 & 责任纳入设计基础 ​

总结 ​

AI 设计者的 CheckList：

  • 界面是否诚实地传达了“不确定性”？
  • 用户能否理解 AI 为什么会做出这个决定？
  • 是否存在清晰且低阻力的反馈机制？
  • 我们是否测试过 AI 输出质量的完整范围？
  • 当 AI 出错时，这个设计是否仍然可用？
  • 我们是否已经针对不同人口群体（demographic groups）进行了偏见审查（bias audit）？
  • 用户的同意（consent）是否是明确的、知情的，并且可以轻松撤回？
  • 是否始终存在人工接管（human override）或后备方案（fallback）？
  • 系统的行为是否能够长期保持一致？
  • 我们是否明确了 AI 出错时由谁负责（accountable）？
  • 这个设计是否保留了用户的自主性（agency）与自主决策能力（autonomy）？
  • 我们是否考虑过那些“并非直接用户”但会受到该系统影响的人？

牢记的 10 条原则：

  1. 为不确定性而设计，而不是为确定性而设计 AI是概率性的，你的界面必须体现这点

  2. 有意识地校准用户信任 既不要让用户过度信任，也不要让用户完全不信任。要为“恰到好处的信任”而设计

  3. 从第一天开始就建立反馈机制 显式反馈和隐式反馈，都是非常重要的信号。

  4. 为模型漂移（model drift）做好准备 你今天部署的系统，明年可能已经表现不同了。

  5. 让受影响的群体参与进来 不仅仅是“为”他们设计，而是要“与”那些承担后果的人一起设计

  6. 默认采用“人在回路中”（human-in-the-loop） 对于影响重大的决策，人类必须始终保有控制权。

  7. 将数据视为一种设计材料 你对数据的每一个决策，都会影响后续的整体用户体验。

  8. 问自己：“谁没有出现在训练数据中？” 数据中的缺失，会变成性能和公平性上的缺失

  9. 透明性是一项功能，而不是附注 尤其是在高风险场景中，可解释性是不可妥协的

  10. 伦理不是一张检查清单 负责任的 AI 是一种持续性的承诺，而不是项目结束前的签字流程