Todennus ja base URL
Aloita asettamalla perus-URL-osoitteesi ja API-avaimesi ympäristöön. API-palvelumme sijaitsee osoitteessa HTTPS://api.aiwithnofilter.com/v1 ja se hyväksyy minkä tahansa standardin OpenAI-yhteensopivan asiakkaan. Luo avain hallintapaneelista Google- tai sähköpostitunnuksella, ja välitä se sitten kantajatukena. Tämä varmistaa, että jokainen pyyntö todennetaan oikein ilman ylimääräisiä päätteitä.
curl https://api.aiwithnofilter.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "generate a python function to parse json logs"}]
}'
Ensimmäisen täydennyksen lähettäminen
Tee POST-pyyntö osoitteeseen /v1/chat/completions mallin tunnuksella "uncensored". Lähetä järjestelmäpromptisi ja käyttäjäviestit standardissa JSON-muodossa. API palauttaa tekstivastauksen välittömästi, valmiina sovelluslogiikkaasi varten. Tämä toimii roolipeleihin, luovaan kirjoittamiseen tai mihin tahansa rajoittamattomaan tekstigenerointitehtävään.
from openai import OpenAI
client = OpenAI(base_url="https://api.aiwithnofilter.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Streamausvastaukset SSE:n kanssa
Ota streamaus käyttöön asettamalla stream arvoksi true pyynnön runkossa. API lähettää Server-Sent Events -tapahtumia (SSE) tokenien synnyttyä, mikä mahdollistaa reaaliaikaisen näyttämisen. Jokainen lohko sisältää osittaista tekstiä ja käyttötilastoja viimeisessä tapahtumassa. Tämä vähentää havaittua viivettä käyttäjien odottaessa pitkiä tulosteita.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Funktikutsut ja JSON-tila
Käytä tools-parametria määrittääksesi funktiot, joita malli voi kutsua. Välitä tool_choice pakottaaksesi tietyn käyttäytymisen tai anna mallin päättää. Ota käyttöön JSON-tila asettamalla response_format arvoon json_object tiukan skeemayhteensopivuuden varmistamiseksi. Tämä varmistaa rakenteiset tulokset luotettavaan integraatioon backend-palveluiden kanssa.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.aiwithnofilter.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Parametrit: Lämpötila, Top P ja Seed
Ohjaa luovuutta lämpötilan avulla ja monipuolisuutta top_p:llä. Käytä seediä toistettaviin tuloksiin vianetsinnässä. Aseta stop-sekvenssit keskeyttämään generointi tietyissä merkeissä. Nämä parametrit antavat sinulle tarkan hallinnan mallin käyttäytymisessä ilman mallin vaihtoa.
300 pyyntöä minuutissa -rajoitus koskee.
Ymmärrä tokenien käyttö ja rajat
Kontekstikkonisi on yhteensä 100 000 tokenia, mukaan lukien prompti ja tulos. Maksimitulos pyyntöä kohden on 16 000 tokenia, ellei toisin määritetä. Virheet ja hylkäykset eivät kuluta tokenia, joten maksat vain todellisesta käytöstä. Käsittele 401-virhe virheellisille avaimille, 402-virhe riittämättömälle saldotulle ja 429-virhe nopeusrajoille sujuvasti.
Luotto ei vanhene, mikä varmistaa, ettei rahojasi hukata.