빠른 시작: 무검열 LLM API 통합하기

OpenAI SDK 설치

프로젝트에 공식 라이브러리를 추가하세요. 이는 temperature 및 top_p과 같은 표준 파라미터와의 호환성을 보장합니다. 라이브러리는 직렬화를 자동으로 처리합니다.

• Python 및 JavaScript 환경을 지원합니다.
• 연결 풀링을 효율적으로 관리합니다.
• 표준 OpenAI 호환 API 구조와 호환성을 유지합니다.

선호하는 패키지 관리자를 사용하여 패키지를 설치하세요. 이 단계는 즉시 통합할 수 있도록 환경을 준비합니다.

기본 텍스트 생성에는 특정 버전이 필요하지 않습니다. 라이브러리는 표준 인증 헤더를 원활하게 지원합니다.

기본 URL 구성

클라이언트를 저희 엔드포인트로 연결하여 표준 콘텐츠 필터를 우회하세요. 베이스 URL은 다음을 사용하세요 https://api.openaipricingapi.com/v1 모든 요청에 대해. 이 단일 변경 사항으로 트래픽을 비검열 LLM 인프라로 리디렉션합니다.

표준 Authorization 헤더. 대시보드에서 획득한 키를 전달하세요. 클라이언트는 데이터 전송 전에 자격 증명을 검증합니다.

모델 ID를 다음으로 사용하세요. uncensored 최적의 성능을 위해. 이 식별자는 서버가 요청을 라우팅할 모델을 알려줍니다. 다른 모델 ID는 지원되지 않습니다.

첫 번째 채팅 완료하기

연결을 확인하기 위해 간단한 메시지를 보내세요. 시스템 프롬프트와 사용자 메시지를 사용하여 표준 채팅 완료 엔드포인트를 사용하세요. 응답은 텍스트를 직접 반환합니다.

요청이 올바르게 처리되었는지 확인하기 위해 상태 코드를 확인하세요. 200 OK 상태는 요청이 성공적으로 처리되었음을 나타냅니다. 오류는 디버깅을 위한 특정 코드를 반환합니다.

정확성을 위해 출력을 검토하세요. 모델은 법적인 성인 콘텐츠에 대해 거절 없이 답변합니다. 다양한 주제로 테스트하여 동작을 확인하세요.

스트리밍 및 함수 호출 활성화

스트리밍을 활성화하여 토큰을 실시간으로 받으세요. 설정 stream=True 요청에 포함됩니다. 클라이언트는 사용 가능해질 때마다 청크를 반환합니다. 이는 지각된 지연 시간을 크게 줄여줍니다.

페이로드에 도구를 정의하여 함수 호출에 접근하세요. 모델은 실행을 위해 구조화된 인수를 반환합니다. JSON 출력을 파싱하여 백엔드 로직을 트리거하세요.

복잡한 워크플로우를 위해 스트리밍과 도구를 결합하세요. 부분 응답을 우아하게 처리하세요. 토큰 카운트를 위해 마지막 청크를 처리하도록 코드를 보장하세요.

토큰 및 사용량 데이터 처리

선불 크레딧을 관리하기 위해 토큰 사용량을 모니터링하세요. API는 $0.15 입력 토큰 100만 개당 $0.50 출력 토큰 100만 개당. 오류는 크레딧을 소모하지 않습니다.

최종 스트리밍 청크에서 사용량 데이터를 파싱합니다. 이는 정확한 입력 및 출력 카운트를 제공합니다. 애플리케이션 로그에서 비용을 추적하세요.

환불은 청구 오류에만 적용됩니다. 크레딧은 구매 후 만료되지 않습니다. 사용량 데이터를 통해 향후 지출을 정확하게 예측할 수 있습니다.

속도 제한 및 오류 이해하기

예상 429 분당 300회 요청을 초과하면 오류가 발생합니다. 인터럽션을 피하려면 클라이언트를 스로틀링하십시오. 키당 동시 요청은 최대 8개로 제한됩니다.

A 401 대시보드에서 자격 증명을 확인하십시오. A 402 미리 충전된 잔액이 고갈되었음을 의미합니다.

컨텍스트 창은 총 100,000개의 토큰을 지원합니다. 이 제한을 초과하는 요청은 오류를 반환합니다. 성능을 유지하려면 페이로드 크기를 적절히 조정하세요.

cURL

Copycurl https://api.openaipricingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the hourly cost per token for the current model tier"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaipricingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaipricingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)