要使用 OpenAI 的输出来实现自定义评分或排序，您需要设计一个工作流程，根据您的特定标准评估模型的响应。首先，从 API 生成多个候选响应（使用 n 等参数来生成多个完成）。然后，将您自己的评分逻辑应用于每个响应，并选择最符合您要求的那个。这种方法允许您将 OpenAI 的生成能力与您特定领域的规则或偏好相结合。
例如，假设您正在构建一个支持聊天机器人，其响应必须包含故障排除步骤。您可以使用 n=5 生成五个完成，然后根据关键词存在（例如，“restart”、“check settings”）、清晰度（句子长度）和结构化格式（编号步骤）等标准对每个响应进行评分。一个 Python 脚本可以遍历这些响应，为满足的每个标准分配分数，并选择得分最高的选项。您还可以使用正则表达式模式检测必需的短语，或调用外部 API（如脏话过滤器）来对不需要的内容进行惩罚。余弦相似度（通过 sentence-transformers 等库）等工具可以帮助将响应与理想模板进行比较。
关键考虑因素包括平衡计算成本（生成多个响应会增加 API 调用次数）并确保您的评分逻辑稳健。例如，优先考虑简洁性的评分函数可能会无意中偏向不完整的答案。为了缓解这个问题，可以结合多个指标（例如，对字数不足的答案进行惩罚，同时奖励包含关键词）。使用真实世界数据进行测试至关重要：针对手动标记的示例运行您的评分系统，以优化权重和阈值。如果性能是关注点，可以从较少的候选（例如 n=3）开始，并优化您的评分代码以提高速度（例如，缓存嵌入）。这种混合方法使您能够在利用模型创造力的同时保持对输出质量的控制。