0

我不确定您是否可以访问 GPT-3,尤其是 DaVinci(完整的句子工具)。你可以在这里找到 API 和信息

在过去的一个小时里,我一直在尝试这个工具,每次我使用相同的提示(实际上是相同的输入)点击他们的 API 时,我都会收到不同的响应。

  1. 你碰巧遇到同样的情况吗?
  2. 如果这是意料之中的,您是否知道其背后的原因?

这里有些例子

请求标头 (我尝试使用他们提供的相同示例)

{
  "prompt": "Once upon a time",
  "max_tokens": 3,
  "temperature": 1,
  "top_p": 1,
  "n": 1,
  "stream": false,
  "logprobs": null,
  "stop": "\n"
}

输出 1

"choices": [
        {
            "text": ", this column",
            "index": 0,
            "logprobs": null,
            "finish_reason": "length"
        }
    ]

输出 2

"choices": [
        {
            "text": ", winter break",
            "index": 0,
            "logprobs": null,
            "finish_reason": "length"
        }
    ]

输出 3

"choices": [
        {
            "text": ", the traditional",
            "index": 0,
            "logprobs": null,
            "finish_reason": "length"
        }
    ]
4

1 回答 1

0

我刚刚和 OpenAI 谈过,他们说他们的反应不是确定性的。它是概率性的,因此它可以是创造性的。为了使其具有确定性或降低概率的风险,他们建议调整temperature参数。默认为 1(即 100% 承担风险)。如果我们想让它完全确定,请将其设置为 0。

另一个参数是top_p(default=1),可用于设置确定性状态。但他们不建议同时调整temperaturetop_p。他们中只有一个会做这项工作。

于 2021-11-11T17:21:08.613 回答