API-dokumentaatio: Chat-kompletionit

Perus-URL ja todennus

Aloita jokainen pyyntö base URL:iimme ja sisällytä API-avaimesi authorization-headeriin.

Käyttö https://api.unlimitedtokens.cc/v1 pohja-URL:ksi. Välitä avain muodossa Bearer YOUR_API_KEY. Ei tilausta lukitse pääsyäsi. Esimaksukreditti luo jokaisen kutsun. Virheet ja hylkäykset maksavat ei mitään. Kreditisi vanhenee. Luo avaimet Googlella tai sähköpostilla hallintapaneelissa.

Chat Completions Endpoint

Lähetä tekstipromptteja osoitteeseen POST /v1/chat/completions ja vastaanota tekstivastauksia.

Tämä päätepiste käsittelee kaikki vakiovuorovaikutukset. Mallin tunnus on aina uncensored. Se hyväksyy viestit, joilla on roolit kuten user tai assistant. Ei vektoreita tai kuvagenerointia täällä. Vain puhdasta tekstiä sisään ja ulos. Määritä parametreja kuten lämpötila ja stop-jonot. Hallitset tulostyyliä.

Copycurl https://api.unlimitedtokens.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize the core changes in the latest release notes"}]
  }'

Tuetut parametrit ja vaihtoehdot

Säädä mallin käyttäytymistä käyttämällä yleisiä parametreja kuten lämpötila ja top_p.

Aseta temperature luovuuteen. Käytä top_p ytimenäytteistykseen. Määritä stop sekvenssit keskeyttämään generaatio. Ota käyttöön json_object rakenteiseen dataan. Työkalut ja funktiokutsut tuetaan täysin. Virranna vastauksia SSE:n kautta. Aseta seed toistettavuudelle. Läsnäolo- ja taajuusrangaistukset säätävät merkkitoistoa. Säädä näitä sopimaan työvuoksesi kanssa.

Streamausvastaukset SSE:n kautta

Vastaanota tokeneja reaaliajassa käyttämällä Server-Sent Eventsia.

Aseta stream: true pyynnössäsi. API lähettää osia niiden luomisen yhteydessä. Jokainen osa sisältää osittaisen tekstin ja käyttödataa. Viimeinen osa sisältää kokonaismäärän token-laskutusta varten. Tämä vähentää huomattavasti koettua viivettä. Se on ihanteellinen keskustelujärjestelmiin. Käsittele virheet sujuvasti streamauksen aikana. Käsittele jokainen delta-objekti sen saapuessa.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.unlimitedtokens.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Virheenkäsittely ja rajat

Käsittele 401-, 402- ja 429-virheet oikein.

Virhe 401 tarkoittaa, että avain on virheellinen. Tarkista oikea avain hallintapaneelista. Virhe 402 tarkoittaa, että krediitti on riittämätön. Lisää varoja kryptomaksulla jatkaaksesi. Virhe 429 ilmoittaa nopeusrajoituksesta. Sinulla on rajoitus 300 pyyntöön minuutissa. Lisäksi sinulla on rajoitus 8 samanaikaiseen pyyntöön. Pyynnön rungon tulee pysyä alle 8 Mt:n. Virheet eivät kuluta krediittiäsi. Palautuksia ei myönnetä krediiteille, mutta kaksoisperinnät korjataan tuen kautta.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.unlimitedtokens.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Kontekstiluukku ja mallin tiedot

Malli tukee 100 000 tokenin kontekstiikkunaa.

Tämä ikkuna kattaa sekä syötteen että täydennyksen. Voit tuottaa enintään 16,000 tokenia pyyntöä kohden. Jos et aseta max_tokens, oletusarvo on 2 048. Tämä mahdollistaa pitkän muotoisen sisällön tuottamisen. Malli on uncensored ja avoin painotus. Se ei hylkää laillista aikuis sisältöä. Se ei ole GPT, Claude tai mikään muu toimittajamalli. Se toimii palvelimillamme. Käytä sitä rajattomiin tunnelmiin ja syvään kontekstiin.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)