V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
lonelymarried
V2EX  ›  OpenAI

OpenAI 接口返回的文字不完整

  •  
  •   lonelymarried · Feb 12, 2023 · 2629 views
    This topic created in 1170 days ago, the information mentioned may be changed or developed.

    最近申请了一个 OpenAI 的 API ,用来玩玩 ChatGPT 。但是返回的文字如果有点长,它就会返回不完整,完整的文字被省略了。我是用的他们的 Node.js SDK 。代码如下:

    const response = await openai.createCompletion({
        model: 'text-davinci-003',
        prompt: payload['prompt'],
        temperature: 0,
        max_tokens: 150,
        top_p: 1,
        frequency_penalty: 0.0,
        presence_penalty: 0.0,
    });
    
    4 replies    2023-02-13 19:13:53 +08:00
    Chaconne
        1
    Chaconne  
       Feb 12, 2023 via iPhone
    网页聊天我发“继续”,它就继续呈现。你看把转化为代码?
    dizzylight
        2
    dizzylight  
       Feb 13, 2023 via iPhone
    max_tokens 控制输出长度 最长不超过 2000 吧
    tonghuashuai
        3
    tonghuashuai  
       Feb 13, 2023 via Android
    尝试增加 max_tokens 的值,关于 token 的解释这里有个文章: https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them
    lonelymarried
        4
    lonelymarried  
    OP
       Feb 13, 2023
    @tonghuashuai
    @dizzylight 晓得了。我把他设置为最大就应该可以了。最大好像是 4097
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1227 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 48ms · UTC 23:33 · PVG 07:33 · LAX 16:33 · JFK 19:33
    ♥ Do have faith in what you're doing.