模型配置探索
本文档记录了未来模型配置的想法。这不是发布规范。有关当前行为,请参见:
动机
运营商希望:
- 每个 provider 有多个认证配置文件(个人 vs 工作)
- 简单的 /model 选择,具有可预测的回退
- 文本模型和支持图像的模型之间的明确分离
可能的方向(高层次)
- 保持模型选择简单:provider/model 加上可选的别名
- 让 provider 拥有多个认证配置文件,并具有明确的顺序
- 使用全局回退列表,以便所有 session 一致地进行故障转移
- 仅在明确配置时才覆盖图像路由
待解决的问题
- 配置文件轮换应该是按 provider 还是按 model?
- UI 应该如何为 session 显示配置文件选择?
- 从旧配置键迁移的最安全路径是什么?