模型配置探索

本文档记录了未来模型配置的想法。这不是发布规范。有关当前行为,请参见:

动机

运营商希望:

  • 每个 provider 有多个认证配置文件(个人 vs 工作)
  • 简单的 /model 选择,具有可预测的回退
  • 文本模型和支持图像的模型之间的明确分离

可能的方向(高层次)

  • 保持模型选择简单:provider/model 加上可选的别名
  • 让 provider 拥有多个认证配置文件,并具有明确的顺序
  • 使用全局回退列表,以便所有 session 一致地进行故障转移
  • 仅在明确配置时才覆盖图像路由

待解决的问题

  • 配置文件轮换应该是按 provider 还是按 model?
  • UI 应该如何为 session 显示配置文件选择?
  • 从旧配置键迁移的最安全路径是什么?