Hermes API: 개발자를 위한 무검열 생성 가이드

Hermes API란 무엇인가요?

hermes api는 주요 상업용 제공업체의 일반적인 콘텐츠 필터 없이 원본 텍스트 생성이 필요한 개발자를 위해 설계된 무검열 대형 언어 모델 엔드포인트를 참조합니다. 이 서비스는 단일 모델 ID인 uncensored에 초점을 맞춘 범용 LLM API의 전용 대안으로 운영됩니다. 다양한 벤더에 요청을 라우팅하는 다중 모델 게이트웨이와 달리 이 엔드포인트는 전용 서버에 호스팅된 단일 오픈 웨이트 모델을 제공하며 성인, 정치적 또는 논쟁적인 주제에 대한 질문에 거부 없이 답변하도록 튜닝되었습니다.

주요 사용 사례는 콘텐츠 모데레이션이 클라이언트에서 처리되거나 모델 자체가 합법적인 성인 콘텐츠를 차단하지 않아야 하는 애플리케이션에 통합하는 것입니다. API는 텍스트 입력 및 텍스트 출력만 제공합니다. 임베딩, 이미지 생성 또는 오디오 처리를 제공하지 않습니다. 성인 또는 제한 없는 창작 작성을 위한 순수 텍스트 생성 엔진을 찾는 개발자는 기존 코드베이스에 직접 통합하기에 적합한 엔드포인트를 찾을 수 있습니다.

이 서비스는 독립적임에 유의하세요. GPT, Claude 또는 타사 모델을 제공하지 않습니다. 모델은 자체 인프라에서 실행되며 표준 REST 인터페이스로 접근합니다. hermes api라는 이름은 기본 오픈소스 버전과 구별되는 이 특정 무검열 생성 능력을 지칭하기 위해 개발 커뮤니티에서 흔히 사용됩니다.

무검열 모델을 선택해야 하는 이유

표준 LLM은 성인 주제, 정치적 이견 또는 니치 취미와 관련된 키워드나 컨텍스트에서 트리거되는 거부 메커니즘을 종종 사용합니다. 콘텐츠 플랫폼, 역할극 엔진 또는 창작 도구 개발자의 경우 이러한 거부가 사용자 경험을 방해할 수 있습니다. 여기서 제공하는 것과 같은 무검열 모델은 콘텐츠가 불법(미성년자 관련 등)이 아닌 한 특정 도덕적 또는 안전 가이드라인을 강제하기보다 프롬프트에 응답하는 것을 우선시합니다.

무검열 엔드포인트를 선택하면 최종 출력물에 대한 더 많은 제어가 가능합니다. 403 또는 필터링된 응답 없이 폭력, 성적 주제 또는 논쟁적인 역사적 사건을 설명해야 하는 경우 이 API는 그러한 목적으로 설계되었습니다. 이는 상업용 제공업체가 추가한 안전 레이어 없이 해당 기본 모델의 동작을 원하는 uncensored llama 및 uncensored mistral 애호가에게 특히 유용합니다.

• 일관성: 모델은 모호한 컨텍스트에 기반하여 무작위로 거부하지 않습니다.
• 창의적 자유: 소설, 에로티카 또는 날카로운 유머 생성에 이상적입니다.
• 단순성: 하나의 모델, 하나의 동작, 복잡한 라우팅 로직 없음.

OpenAI SDK와의 호환성

이 엔드포인트의 가장 큰 장점은 OpenAI API 사양을 엄격하게 준수한다는 것입니다. 기본 URL과 API 키를 변경하기만 하면 공식 openai Python SDK, Node.js 클라이언트 또는 기타 OpenAI 호환 라이브러리를 사용할 수 있습니다. 엔드포인트는 POST /v1/chat/completions 및 GET /v1/models을 지원하여 표준 요청 본문 및 응답 구조가 사전에 작동함을 보장합니다.

통합하려면 기본 Base URL을 https://api.openrouternsfw.com/v1로 바꾸고 API 키를 제공하세요. 요청 본문에 보낼 모델 ID는 uncensored입니다. 대화 기록, 시스템 프롬프트, 사용자 메시지 처리를 위한 기존 코드는 수정할 필요가 없습니다. 이 호환성은 OpenAI JSON 구조에 이미 익숙한 uncensored grok 및 deepseek api 사용자에게도 확장됩니다.

엔드포인트는 서버 전송 이벤트(SSE)를 통해 스트리밍 응답을 지원하여 생성되는 토큰을 처리할 수 있습니다. 또한 함수 호출(도구), 구조화된 출력을 위한 JSON 모드 및 temperature 및 top_p과 같은 표준 매개변수를 지원합니다. 이는 많은 표준 LLM 통합의 대체재가 될 수 있습니다.

구성: 온도 및 Top P

출력의 무작위성과 창의성은 표준 매개변수를 통해 제어됩니다. temperature 값은 다음 토큰의 확률 분포를 조정합니다. 낮은 온도(예: 0.2)는 출력을 더 결정적이고 집중적으로 만드는 반면, 높은 온도(예: 0.8)는 창의성과 다양성을 증가시킵니다. 성인 콘텐츠 생성의 경우 적절한 온도가 일관성과 다양성 사이의 가장 좋은 균형을 제공합니다.

top_p 매개변수는 nucleus sampling을 제어합니다. 이는 누적 확률이 p를 초과하는 토큰만 모델이 고려하도록 제한합니다. 이는 온도와 함께 자주 사용되는 또 다른 무작위성 제어 방법입니다. 예를 들어 top_p이 0.95인 경우 모델은 가장 가능성 높은 토큰의 상위 95%만 고려합니다.

지원되는 다른 매개변수에는 stop 시퀀스, 재현성을 위한 seed, 반복을 억제하기 위한 presence_penalty 및 frequency_penalty이 포함됩니다. 이러한 구성은 호환 모델과 마찬가지로 요청 본문에 전달됩니다. 이러한 설정을 조정하면 특정 스타일이나 세부 수준에 맞게 hermes api 출력을 미세 조정할 수 있습니다.

스트리밍 응답 처리

스트리밍은 실시간 사용자 경험에 필수적입니다. API는 서버 전송 이벤트(SSE)를 지원하여 전체 응답을 기다리는 대신 생성되는 토큰을 받을 수 있습니다. 이는 지각된 지연 시간을 줄이고 채팅 인터페이스의 사용자 경험을 향상시킵니다.

공식 SDK를 사용할 때 스트리밍은 요청에서 stream=True을 설정하여 활성화됩니다. SDK는 데이터가 도착할 때마다 청크를 생성합니다. 스트림의 마지막 청크에는 일반적으로 입력 토큰 및 출력 토큰 수를 포함하는 사용량 통계가 포함됩니다. 이를 통해 실시간으로 비용을 정확하게 추적할 수 있습니다.

SDK 미구현 시 SSE 스트림을 직접 파싱할 수 있습니다. 각 청크는 data: 로 시작하며 그 뒤에 JSON 객체가 옵니다. 마지막 청크에는 data: [DONE]이 포함됩니다. 스트리밍 연결이 끊길 수 있으므로 클라이언트가 네트워크 중단 상황을 적절히 처리하도록 하십시오. hermes api는 청구 목적으로 사용량 데이터를 최종 청크에 신뢰할 수 있게 보고합니다.

토큰 효율성 및 제한

이 모델은 프롬프트와 완료를 모두 포함하여 100,000개의 토큰 컨텍스트 창을 지원합니다. 이는 대부분의 장문 콘텐츠 생성 및 복잡한 추론 작업에 충분합니다. 요청당 별도의 출력 제한이 없으며, max_tokens을 지정하지 않으면 응답이 창 끝까지 이어질 수 있습니다. 매우 긴 응답의 경우 프롬프트를 청크로 나누거나 여러 완료를 요청하는 로직을 구현해야 할 수 있습니다.

가격은 투명하며 토큰 사용량을 기반으로 합니다. 입력 토큰은 100만 토큰당 $0.15, 출력 토큰은 100만 토큰당 $0.50입니다. 오류 및 거부(소형 콘텐츠 필터의 경우)는 무료이므로 성공적인 생성에 대해서만 지불합니다. 이 모델은 대량 텍스트 생성에 효율적입니다.

• 컨텍스트 창: 총 100,000 토큰.
• 최대 출력: 100,000토큰 컨텍스트 윈도우의 끝까지.
• 속도 제한: 키당 분당 300 요청.
• 동시성: 키당 8개의 동시 요청.

다른 모델과의 비교

hermes api를 평가할 때, 다른 uncensored llama 또는 uncensored mistral 옵션과 비교하는 것이 도움이 됩니다. Ollama와 같은 자체 호스팅 솔루션과 달리 이 서비스는 인프라 관리가 필요하지 않습니다. GPU 구성이나 모델 가중치 관리를 하지 않아도 신뢰할 수 있는 엔드포인트를 제공합니다. 다중 모델 게이트웨이와 달리 라우팅 오버헤드 없이 단일하고 일관된 동작을 제공합니다.

GPT-4o 또는 Claude와 같은 상업용 모델과 비교할 때 이 엔드포인트는 대량 텍스트 생성에 비해 훨씬 저렴하며 콘텐츠 필터를 적용하지 않습니다. 그러나 가장 큰 독점 모델의 추론 능력을 따르지 못할 수 있습니다. 콘텐츠 유연성이 최첨단 논리보다 더 중요한 작업에 가장 적합합니다.

deepseek api 사용자에게는 경쟁력 있는 가격 구조가 제공되지만 모델 아키텍처는 다릅니다. hermes api은 무검열 텍스트 생성에 최적화되어 있어 범용 AI가 아닌 전문 도구입니다. 임베딩이나 이미지 생성이 필요하면 이 엔드포인트가 텍스트 전용이므로 다른 서비스를 사용해야 합니다.

코드 예제와 함께 시작하기

API 통합은 간단합니다. Google 또는 이메일로 가입하여 API 키를 생성해야 합니다. 키는 즉시 제공됩니다. 그런 다음 기본 URL https://api.openrouternsfw.com/v1 및 모델 ID uncensored로 SDK를 구성합니다.

공식 SDK를 사용한 기본 Python 예제입니다:

복사from openai import OpenAI

client = OpenAI(base_url="https://api.openrouternsfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js 예제:

복사import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouternsfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍 응답의 경우 SDK가 SSE 파싱을 자동으로 처리합니다. 청크가 도착하는 대로 반복할 수 있습니다. 이를 통해 애플리케이션에서 실시간 텍스트 표시가 가능합니다. hermes api은 응답 형식이 OpenAI 표준과 일치함을 보장하므로 표준 사용 사례에는 사용자 정의 파싱 로직이 필요하지 않습니다.

더 많은 가이드

• OpenRouter 무료 대안? 실제로 제공하는 것
• Janitor AI에서 OpenRouter 사용법: 프록시 설정
• 무검열 LLM을 사용한 오픈 소스 디스코드 봇