模型上下文协议（MCP）中的采样机制通过优先考虑感知上下文的决策，动态调整文本生成过程中如何选择 token。其核心是，MCP 结合使用概率分布和上下文窗口分析来确定下一个 token。与仅依赖 token 概率的基本采样方法不同，MCP 评估当前上下文——例如最近的 token、用户意图或特定领域模式——来影响采样。例如，如果模型正在生成代码，当上下文表明某个代码块不完整时，MCP 可能会优先选择语法特定的 token（例如，闭合括号）。这种方法通过根据上下文的需求调整温度或 top-k 阈值等参数来平衡随机性和确定性。
举例来说，考虑一下 MCP 用于聊天机器人的场景。当对话上下文包含“API 集成”等技术术语时，MCP 可能会降低采样温度以减少随机性，确保响应专注于技术准确性。相反，在关于电影的随意对话中，它可能会提高温度以允许更多创造性的建议。此外，MCP 可能会将上下文分割为“局部”（最近的 token）和“全局”（整个对话历史）层。例如，如果用户反复纠正某个术语（例如，“不是 Java，是 JavaScript”），MCP 可以通过分析全局上下文来提高后续响应中“JavaScript”的概率。这些调整实时发生，使模型无需手动干预即可适应。
通过将采样与上下文的逻辑流程对齐的约束来维持连贯性。例如，MCP 可以通过缓存关键实体及其关系来跟踪实体的连贯性（例如，确保故事中途角色的名字不改变）。如果上下文包含“Alice 将文件递给了 Bob”，MCP 会降低指代 Bob 的“她”等 token 的权重，以避免歧义。它还通过定期总结上下文片段来处理长程依赖关系，允许模型引用关键点而无需重新计算整个历史记录。通过整合这些技术，MCP 确保生成的文本即使在复杂或不断变化的场景中也能保持相关且逻辑一致。