Hermes API: Przewodnik deweloperski dla generowania bez cenzury

Czym jest API Hermes?

hermes api to endpoint modelu dużego języka bez cenzury przeznaczony dla programistów, którzy potrzebują generowania surowego tekstu bez filtrów treści typowych dla głównych dostawców komercyjnych. Usługa działa jako wyspecjalizowana alternatywa dla ogólnych API LLM, koncentrując się na jednym identyfikatorze modelu oznaczonym jako uncensored. W przeciwieństwie do bram wielomodelowych, które kierują zapytania do różnych dostawców, ten endpoint obsługuje jeden model o otwartych wagach hostowany na dedykowanych serwerach, dostrojony do odpowiadania na pytania dotyczące tematów dla dorosłych, politycznych lub kontrowersyjnych bez odmowy.

Głównym przypadkiem użycia jest integracja z aplikacjami, w których moderacja treści jest obsługiwana przez klienta lub w których model nie musi blokować legalnej treści dla dorosłych. API jest ściśle tekst-w-wejście, tekst-wy-jście. Nie oferuje embeddingów, generowania obrazów ani przetwarzania audio. Deweloperzy szukający silnika do czystego generowania tekstu do twórczości dla dorosłych lub bez ograniczeń znajdą ten endpoint odpowiedni do bezpośredniej integracji z istniejącymi bazami kodu.

Ważne jest, aby pamiętać, że jest to niezależna usługa. Nie obsługuje modeli GPT, Claude ani innych dostawców. Model działa na własnej infrastrukturze i jest dostępny przez standardowy interfejs REST. Nazwa hermes api jest często używana potocznie w środowisku programistycznym w odniesieniu do tej konkretnej możliwości generowania tekstu bez cenzury, odróżniającej się od bazowych wersji open-source.

Dlaczego wybrać model bez cenzury?

Standardowe modele LLM często stosują mechanizmy odrzucania, które uruchamiają się na słowach kluczowych lub kontekście związanym z tematyką dorosłą, dysydencją polityczną lub niszowymi hobby. Dla deweloperów budujących platformy treści, silniki do odgrywania ról lub narzędzia do pisania kreatywnego, te odrzucenia mogą zaburzać doświadczenie użytkownika. Model bez cenzury, taki jak ten dostarczany tutaj, priorytetyzuje odpowiadanie na prompt zamiast narzucania konkretnych wytycznych moralnych lub bezpieczeństwa, pod warunkiem, że treść nie jest nielegalna (np. dotycząca małoletnich).

Wybór endpointu bez cenzury pozwala na większą kontrolę nad końcowym wynikiem. Jeśli potrzebujesz, aby model opisywał przemoc, tematy seksualne lub kontrowersyjne wydarzenia historyczne bez 403 lub z filtrowaną odpowiedzią, to API zostało zaprojektowane właśnie do tego celu. Jest szczególnie przydatne dla entuzjastów uncensored llama i uncensored mistral, którzy chcą zachować zachowanie tych bazowych modeli bez dodatkowych warstw bezpieczeństwa dodawanych przez dostawców komercyjnych.

• Spójność: Model nie odrzuca losowo na podstawie niejasnego kontekstu.
• Swoboda twórcza: Idealny do generowania powieści, erotyki lub ostrego humoru.
• Prostota: Jeden model, jedno zachowanie, brak złożonej logiki routingu.

Kompatybilność z SDK OpenAI

Największą zaletą tego endpointa jest ścisłe przestrzeganie specyfikacji API OpenAI. Możesz użyć oficjalnego SDK Pythona openai, klienta Node.js lub dowolnej innej biblioteki kompatybilnej z OpenAI, zmieniając jedynie bazowy URL i klucz API. Endpoint obsługuje POST /v1/chat/completions oraz GET /v1/models, co zapewnia, że standardowe ciała zapytań i struktury odpowiedzi działają od razu.

Aby zintegrować usługę, zamień domyślny bazowy URL na https://api.openrouternsfw.com/v1 i podaj swój klucz API. ID modelu, które przesyłasz w ciele zapytania, to uncensored. Oznacza to, że istniejący kod obsługujący historię czatu, prompty systemowe i wiadomości użytkownika nie wymaga modyfikacji. Ta kompatybilność rozciąga się również na użytkowników uncensored grok oraz deepseek api, którzy są już zaznajomieni ze strukturą JSON OpenAI.

Endpoint obsługuje strumieniowanie odpowiedzi za pomocą zdarzeń wysyłanych serwerowo (SSE), pozwalając na przetwarzanie tokenów w miarę ich generowania. Obsługuje również wywoływanie funkcji (narzędzia), tryb JSON dla danych strukturalnych oraz standardowe parametry, takie jak temperature i top_p. Dzięki temu jest bezpośrednią zastępczą opcją dla wielu standardowych integracji LLM.

Konfiguracja: Temperatura i Top P

Kontrola losowości i kreatywności wyjścia jest osiągana za pomocą standardowych parametrów. Wartość temperature dostosowuje rozkład prawdopodobieństwa następnego tokena. Niższa temperatura (np. 0,2) sprawia, że wyjście jest bardziej deterministyczne i skupione, podczas gdy wyższa temperatura (np. 0,8) zwiększa kreatywność i zmienność. Przy generowaniu treści dla dorosłych umiarkowana temperatura często daje najlepszy balans między spójnością a różnorodnością.

Parametr top_p kontroluje próbkowanie jądra. Ogranicza model do rozważania tylko tokenów, których kumulatywne prawdopodobieństwo przekracza p. Jest to kolejna metoda kontroli losowości, często stosowana w połączeniu z temperaturą. Na przykład top_p na poziomie 0,95 oznacza, że model rozważa tylko najbardziej prawdopodobne 95% tokenów.

Inne obsługiwane parametry obejmują sekwencje stop, seed dla odtwarzalności oraz presence_penalty i frequency_penalty, aby zniechęcać do powtórzeń. Te konfiguracje są przekazywane w ciele zapytania tak samo, jak w przypadku dowolnego modelu kompatybilnego z OpenAI. Dostosowanie tych ustawień pozwala na precyzyjne dostrojenie wyjścia hermes api do konkretnych stylów lub poziomów szczegółowości.

Obsługa odpowiedzi strumieniowych

Strumieniowanie jest kluczowe dla doświadczeń użytkownika w czasie rzeczywistym. API obsługuje Server-Sent Events (SSE), pozwalając na odbieranie tokenów w miarę ich generowania zamiast czekania na pełną odpowiedź. Zmniejsza to postrzeganą latencję i poprawia doświadczenie użytkownika w interfejsach czatu.

Podczas korzystania z oficjalnych SDK strumieniowanie włącza się, ustawiając stream=True w żądaniu. SDK będzie zwracać fragmenty danych w miarę ich przybywania. Ostatni fragment strumienia zazwyczaj zawiera statystyki użycia, w tym liczbę tokenów wejściowych i wyjściowych. Pozwala to na dokładne śledzenie kosztów w czasie rzeczywistym.

Dla implementacji bez użycia SDK możesz bezpośrednio parsować strumień SSE. Każdy fragment zaczyna się od data: , po którym następuje obiekt JSON. Ostatni fragment będzie zawierał data: [DONE]. Upewnij się, że Twój klient obsługuje potencjalne przerwy w sieci w sposób graceful, ponieważ połączenia strumieniowe mogą się urywać. hermes api zapewnia, że dane o użyciu są niezawodnie raportowane w ostatnim fragmencie w celach rozliczeniowych.

Wydajność tokenów i limity

Model obsługuje okno kontekstu o rozmiarze 100,000 tokenów, które obejmuje zarówno prompt, jak i uzupełnienie. Jest to wystarczające dla większości generowania treści długich i zadań złożonego rozumowania. Nie ma osobnego limitu wyjścia na zapytanie, a jeśli nie określisz max_tokens, odpowiedź może sięgać do końca okna. Dla bardzo długich odpowiedzi może być konieczne zaimplementowanie logiki dzielenia promptu lub żądania wielu uzupełnień.

Cennik jest przejrzysty i oparty na zużyciu tokenów. Tokeny wejściowe kosztują $0,15 za 1 milion tokenów, a tokeny wyjściowe kosztują $0,50 za 1 milion tokenów. Błędy i odrzucenia (dla drobnych filtrów treści) są darmowe, więc płacisz tylko za udane generacje. Ten model jest wydajny dla generowania tekstu w dużych wolumenach.

• Okno kontekstu: 100 000 tokenów łącznie.
• Maksymalna długość wyjścia: do końca okna kontekstowego o rozmiarze 100,000 tokenów.
• Limit zapytań: 300 zapytań na minutę na klucz.
• Równoległość: 8 jednoczesnych żądań na klucz.

Porównanie z innymi modelami

Podczas oceny hermes api warto porównać go z innymi opcjami uncensored llama lub uncensored mistral. W przeciwieństwie do rozwiązań self-hosted, takich jak Ollama, usługa ta nie wymaga zarządzania infrastrukturą. Otrzymujesz niezawodny endpoint bez konfigurowania GPU czy zarządzania wagami modeli. W przeciwieństwie do bram wielomodelowych, oferuje pojedyncze, spójne zachowanie bez narzutów routingu.

W porównaniu do modeli komercyjnych takich jak GPT-4o czy Claude, ten endpoint jest znacznie tańszy dla generowania tekstu w dużych wolumenach i nie stosuje filtrów treści. Może jednak nie dorównywać zdolnościom rozumowania największych modeli własnościowych. Najlepiej sprawdza się w zadaniach, gdzie elastyczność treści jest ważniejsza niż najnowsza logika.

Dla użytkowników deepseek api struktura cenowa jest konkurencyjna, ale architektura modelu jest inna. hermes api jest zoptymalizowany pod kątem generowania tekstu bez cenzury, co czyni go narzędziem specjalistycznym, a nie uniwersalną sztuczną inteligencją. Jeśli potrzebujesz embeddingów lub generowania obrazów, będziesz musieć skorzystać z innej usługi, ponieważ ten endpoint obsługuje tylko tekst.

Pierwsze kroki z przykładami kodu

Integracja API jest prosta. Potrzebujesz klucza API, który możesz wygenerować, logując się przez Google lub e-mail. Klucz jest dostarczany natychmiast. Następnie skonfiguruj swoje SDK z bazowym URL https://api.openrouternsfw.com/v1 i ID modelu uncensored.

Oto podstawowy przykład Pythona używający oficjalnego SDK:

Kopiujfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouternsfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

I przykład Node.js:

Kopiujimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouternsfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

W przypadku odpowiedzi strumieniowych SDK automatycznie parsuje SSE. Możesz iterować po fragmentach w miarę ich przybywania. Pozwala to na wyświetlanie tekstu w czasie rzeczywistym w Twojej aplikacji. hermes api zapewnia, że format odpowiedzi jest zgodny ze standardem OpenAI, więc nie jest wymagana żadna niestandardowa logika parsowania dla standardowych przypadków użycia.

Więcej przewodników

• Darmowa alternatywa dla OpenRouter? Co naprawdę otrzymujesz
• Jak używać OpenRouter w Janitor AI: konfiguracja proxy
• Otwarty bot Discord z LLM bez cenzury