Швидкий старт: Інтегруйте API необмеженої LLM

Передумови: SDK та змінні середовища

Почніть із встановлення бажаного SDK для вашої мови та збереження облікових даних у безпечному місці. Наш сервіс використовує стандартну автентифікацію, тому вам потрібен лише API-ключ з панелі керування. Зберігайте ключ у змінній середовища, щоб уникнути жорсткого кодування його у вихідних файлах.

• Встановіть офіційний SDK для вашої мови.
• Створіть обліковий запис та згенеруйте свій API-ключ.
• Встановити IA_API_KEY у вашому середовищі.

Ця конфігурація гарантує, що ваші запити автентифікуються миттєво без додаткових кроків налаштування.

Крок 1: Ініціалізуйте клієнта з базовою URL-адресою

Направте клієнта до базової URL-адреси для правильної маршрутизації запитів. Ви повинні перевизначити базову URL-адресу за замовчуванням, щоб досягти кінцевої точки нашої моделі uncensored. Це гарантує, що всі наступні виклики використовують правильну інфраструктуру.

Налаштуйте базовий URL на https://api.iasansrestriction.com/v1 у ваших налаштуваннях клієнта. Ця єдина зміна спрямовує трафік на наші сервери для генерації тексту.

Крок 2: Надішліть свій перший запит на завершення чату

Зробіть свій перший запит, щоб протестувати з’єднання та отримати текстовий вивід. Використовуйте ID моделі uncensored для доступу до необмеженої великої мовної моделі. Ця модель за замовчуванням не відмовляє в законних дорослих або суперечливих темах.

Надішліть POST-запит на /v1/chat/completions з вашими системними та користувацькими повідомленнями. Відповідь міститиме згенерований текст без стандартних фільтрів вмісту.

Крок 3: Обробляйте потокові відповіді (SSE)

Увімкніть потокове передавання для доставки токенів у реальному часі, щоб покращити взаємодію з користувачем. Встановіть stream параметр на true у тілі вашого запиту. Сервер поверне потік подій, надісланих сервером (SSE) фрагментів.

Обробляйте кожен фрагмент по мірі надходження, щоб відображати текст поступово. Цей підхід зменшує сприйняту затримку для генерації довгого контенту.

Крок 4: Використовуйте виклик функцій та режим JSON

Структуруйте вивід даних за допомогою вбудованих функцій форматування. Ви можете примусово встановити відповідь у форматі JSON, встановивши response_format до {"type": "json_object"}. Це забезпечує передбачуване розбирання для додатків нижнього рівня.

Визначте інструменти в тілі запиту, щоб увімкнути можливості виклику функцій. Модель поверне структуровані аргументи, які ваш код може виконати напряму.

Крок 5: Управління токенами та лімітами

Стежте за використанням, щоб уникнути переривання служби та керувати витратами. Вам нараховується плата за кожен токен, помилки та відмови є безкоштовними. Кредит не має строку дії, тому ви можете поповнити баланс, коли це потрібно.

Дотримуйтесь обмежень: 300 запитів на хвилину та контекстне вікно на 100,000 токенів. Помилка 429 вказує на перевищення ліміту швидкості. Помилка 401 означає, що ваш ключ недійсний, а помилка 402 сигналізує про недостатній баланс.

cURL

Copycurl https://api.iasansrestriction.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of ten valid JSON objects"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.iasansrestriction.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.iasansrestriction.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)