Dokumentace k API: Dokončování chatu

Základní URL a ověření

Začněte každý požadavek naší základní URL a zahrňte svůj API klíč do hlavičky authorization.

Použít https://api.unlimitedtokens.cc/v1 jako vaši základní URL. Předajte svůj klíč jako Bearer YOUR_API_KEY.Žádné předplatné neuzamkne váš přístup. Každý hovor pohání předplacený kredit. Chyby a odmítnutí nic nestojí. Váš kredit nevyprší. Klíče generujte přes Google nebo e-mail na ovládacím panelu.

Endpoint Chat Completions

Odesílejte textové prompty na POST /v1/chat/completions a obdržet textové odpovědi.

Tento endpoint zpracovává všechny standardní interakce. ID modelu je vždy uncensored.Přijímá zprávy s rolí jako user nebo assistant. Žádná vložení ani generování obrázků zde nejsou. Pouze čistý vstup a výstup textu. Nakonfigurujte parametry jako teplotu a sekvence stop. Vy ovládáte styl výstupu.

Copycurl https://api.unlimitedtokens.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize the core changes in the latest release notes"}]
  }'

Podporované parametry a možnosti

Ovládejte chování modelu pomocí standardních parametrů jako temperature a top_p.

Nastavit temperature pro kreativitu. Použijte top_p pro nucleus sampling. Definujte stop sekvenční pro zastavení generování. Povolte json_object pro strukturovaná data. Nástroje a volání funkcí jsou plně podporovány. Streamujte odpovědi přes SSE. Nastavte seed pro reprodukovatelnost. Penalizace za přítomnost a frekvenci upravují opakování tokenů. Upravte je tak, aby odpovídaly vašemu pracovnímu postupu.

Streamované odpovědi přes SSE

Získejte tokeny v reálném čase pomocí Server-Sent Events.

Nastavit stream: true ve vaší žádosti. API odesílá částečné odpovědi (chunky) ihned po jejich vygenerování. Každý chunk obsahuje částečný text a data o využití. Poslední chunk obsahuje celkový počet tokenů. To výrazně snižuje vnímanou latenci. Je to ideální pro chatová rozhraní. Chyby během streamování zpracovávejte elegantně. Každý delta objekt zpracovávejte ihned po jeho příchodu.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.unlimitedtokens.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Zpracování chyb a limity

Správně zvládněte chyby 401, 402 a 429.

Chyba 401 znamená, že váš klíč je neplatný. Zkontrolujte ovládací panel pro správný klíč. Chyba 402 znamená nedostatek kreditu. Dobijte jej pomocí kryptoměn, abyste mohli pokračovat. Chyba 429 signalizuje omezení rychlosti. Limit je 300 požadavků za minutu. Také máte limit 8 souběžných požadavků. Tělo požadavku musí být menší než 8 MB. Chyby nespotřebovávají váš kredit. Pro kredit se nevydávají refundace, ale dvojí stržení se opraví prostřednictvím podpory.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.unlimitedtokens.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Okno kontextu a detaily modelu

Model podporuje kontextové okno o velikosti 100 000 tokenů.

Toto okno zahrnuje jak podnět, tak dokončení. Na požadavek můžete vygenerovat až 16 000 tokenů. Pokud nenastavíte max_tokens, výchozí hodnota je 2 048. To umožňuje generování dlouhého obsahu. Model je bez cenzury a s otevřenými váhami. Neodmítá zákonný obsah pro dospělé. Není to GPT, Claude ani jiný model dodavatele. Běží na našich serverech. Použijte ho pro neomezené nálady a hluboký kontext.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)