随机性——系统中的随机成分——通过将可变性引入模型的决策过程，直接增加生成输出的多样性。 在诸如语言模型或图像生成器之类的生成系统中，随机性通常通过诸如温度、随机抽样或噪声向量之类的参数来控制。 例如，在文本生成模型中，如果采样过程完全是确定性的（例如，总是选择最可能的下一个单词），则输出将是重复且可预测的。 但是，当引入随机性时——例如，使用更高的温度设置来展平单词选择的概率分布——模型更有可能选择不太可能但仍然合理的选项，从而产生多样化和创造性的输出。 这个原则广泛适用：GAN 使用随机噪声向量作为输入来生成不同的图像，而强化学习代理使用随机策略来探索各种策略。
用于注入随机性的具体机制因模型架构而异。 在语言模型中，温度缩放会调整 softmax 层的输出概率。 较高的温度值（例如，1.0）使分布更均匀，从而可以选择不太可能的token，而较低的值（例如，0.1）会锐化分布，从而有利于高置信度的预测。 类似地，在变分自编码器 (VAE) 或扩散模型中，随机潜在向量或噪声计划决定了每个生成样本的唯一性。 例如，即使使用相同的文本提示，更改 GAN 的输入噪声向量的随机种子也会产生完全不同的图像。 推理期间的 dropout 或解码中的随机波束搜索等技术也引入了受控的随机性，从而进一步多样化了输出。 开发人员可以调整这些旋钮，以使给定任务的期望创造力与一致性水平相匹配。
但是，多样性和连贯性之间存在权衡。 过度的随机性会导致无意义或低质量的输出。 例如，具有极高温度的语言模型可能会生成语法不正确的句子，而具有过度随机噪声的 GAN 可能会产生失真的图像。 达到适当的平衡取决于应用程序：诗歌生成等创意任务受益于更高的随机性，而技术文档则需要确定性。 开发人员经常尝试温度、top-k 采样或噪声强度等参数来找到最佳组合。 诸如核采样 (top-p) 之类的工具通过动态地将选择限制在合理的子集中来提供帮助，从而在不牺牲质量的前提下确保多样性。 了解这些机制使开发人员可以针对特定用例定制随机性，使其成为设计生成系统的一项关键技能。