Szybki start: Zintegruj API LLM bez cenzury

Wymagania wstępne: SDK i zmienne środowiskowe

Zacznij od zainstalowania preferowanego SDK dla Twojego języka i bezpiecznego przechowywania poświadczeń. Nasza usługa korzysta ze standardowego uwierzytelniania, więc potrzebujesz tylko klucza API z pulpitu nawigacyjnego. Przechowuj klucz w zmiennej środowiskowej, aby uniknąć jego sztywnego kodowania w plikach źródłowych.

• Zainstaluj oficjalne SDK dla swojego języka.
• Utwórz konto i wygeneruj swój klucz API.
• Ustaw IA_API_KEY w środowisku.

To rozwiązanie zapewnia, że żądania są uwierzytelniane natychmiast, bez dodatkowych kroków konfiguracji.

Krok 1: Zainicjuj klienta z adresem URL bazowym

Wskaż klientowi adres bazowy, aby poprawnie kierować żądania. Musisz nadpisać domyślny adres bazowy, aby dotrzeć do punktu końcowego naszego modelu bez cenzury. Zapewnia to, że wszystkie kolejne wywołania używają właściwej infrastruktury.

Skonfiguruj podstawowy adres URL na https://api.iasansrestriction.com/v1 w ustawieniach klienta. Ta pojedyncza zmiana kieruje ruch do naszych serwerów w celu generowania tekstu.

Krok 2: Wyślij swoje pierwsze ukończenie czatu

Wykonaj pierwsze żądanie, aby przetestować połączenie i otrzymać output tekstowy. Użyj identyfikatora modelu uncensored do dostępu do nieograniczonego dużego modelu językowego. Ten model nie odrzuca domyślnie legalnych tematów dla dorosłych ani tematów kontrowersyjnych.

Wyślij żądanie POST do /v1/chat/completions z Twoimi wiadomościami systemowymi i użytkownika. Odpowiedź będzie zawierać wygenerowany tekst bez standardowych filtrów treści.

Krok 3: Obsługa odpowiedzi strumieniowych (SSE)

Włącz strumieniowanie dla dostarczania tokenów w czasie rzeczywistym, aby poprawić doświadczenie użytkownika. Ustaw stream parametr do true w ciele żądania. Serwer zwróci strumień zdarzeń wysłanych przez serwer (SSE) fragmentów.

Przetwarzaj każdy fragment w miarę jego napływania, aby wyświetlać tekst inkrementalnie. Podejście to zmniejsza postrzeganą latencję przy generowaniu treści długich.

Krok 4: Użyj wywoływania funkcji i trybu JSON

Zstrukturuj wyjście danych za pomocą wbudowanych funkcji formatowania. Możesz wymusić odpowiedzi JSON, ustawiając response_format do {"type": "json_object"}. To zapewnia przewidywalne parsowanie dla aplikacji downstream.

Zdefiniuj narzędzia w żądaniu, aby włączyć możliwości wywoływania funkcji. Model zwróci strukturalne argumenty, które Twój kod może bezpośrednio wykonać.

Krok 5: Zarządzaj tokenami i limitami

Monitoruj swoje zużycie, aby uniknąć przerw w usłudze i zarządzać kosztami. Jesteś rozliczany za token, przy czym błędy i odmowy są darmowe. Kredyt nie wygasa, więc możesz doładować, gdy jest to konieczne.

Szczegółowo przestrzegaj limitów: 300 żądań na minutę i okno kontekstowe o rozmiarze 100,000 tokenów. Błąd 429 oznacza przekroczenie limitu szybkości. Błąd 411 oznacza nieprawidłowość klucza, podczas gdy błąd 402 sygnalizuje niewystarczające środki.

cURL

Copycurl https://api.iasansrestriction.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of ten valid JSON objects"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.iasansrestriction.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.iasansrestriction.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)