Hermes API: Руководство разработчика по генерации без цензуры

Что такое API Hermes?

hermes api — это эндпоинт большой языковой модели без цензуры, созданный для разработчиков, которым нужна генерация сырого текста без фильтров контента, типичных для крупных коммерческих провайдеров. Этот сервис работает как специализированная альтернатива API общих LLM, фокусируясь на одном ID модели, помеченном как uncensored. В отличие от шлюзов с несколькими моделями, которые маршрутизируют запросы к различным поставщикам, этот эндпоинт обслуживает одну модель с открытыми весами, размещенную на выделенных серверах и настроенную для ответов на вопросы о взрослых, политических или спорных темах без отказов.

Основной вариант использования — интеграция в приложения, где модерация контента обрабатывается клиентом или где модель не должна блокировать законный взрослый контент. API строго работает с текстом: ввод-текст, вывод-текст. Он не предлагает эмбеддинги, генерацию изображений или обработку аудио. Разработчики, ищущие чистый движок генерации текста для взрослых или неограниченного творческого письма, найдут этот эндпоинт подходящим для прямой интеграции в существующие кодовые базы.

Важно отметить, что это независимый сервис. Он не обслуживает GPT, Claude или другие модели поставщиков. Модель работает на собственной инфраструктуре и доступна через стандартный REST-интерфейс. Имя hermes api часто используется в разговорной речи в сообществе разработчиков для обозначения этой конкретной возможности генерации без цензуры, отличной от базовых вариантов с открытым исходным кодом.

Почему стоит выбрать модель без цензуры?

Стандартные LLM часто используют механизмы отказа, которые срабатывают на ключевые слова или контекст, связанный с взрослыми темами, политическим инакомыслием или узкими хобби. Для разработчиков, создающих платформы контента, движки ролевых игр или инструменты для творческого письма, эти отказы могут испортить пользовательский опыт. Модель без цензуры, такая как предоставленная здесь, ставит во главу угла ответ на промпт, а не принятие конкретных моральных или безопасных правил, при условии, что контент не является незаконным (например, с участием несовершеннолетних).

Выбор эндпоинта без цензуры позволяет лучше контролировать конечный результат. Если вам нужно, чтобы модель описывала насилие, сексуальные темы или спорные исторические события без 403 или отфильтрованного ответа, этот API создан для этой цели. Он особенно полезен для энтузиастов uncensored llama и uncensored mistral, которые хотят поведение этих базовых моделей без дополнительных слоев безопасности, добавленных коммерческими провайдерами.

• Согласованность: Модель не отказывает случайно на основе неясного контекста.
• Творческая свобода: Идеально подходит для генерации художественной литературы, эротики или острого юмора.
• Простота: Одна модель, одно поведение, без сложной логики маршрутизации.

Совместимость с OpenAI SDK

Самое значимое преимущество этого эндпоинта — строгое соответствие спецификации API OpenAI. Вы можете использовать официальный Python SDK openai, клиент Node.js или любую другую библиотеку, совместимую с OpenAI, просто изменив базовый URL и API-ключ. Эндпоинт поддерживает POST /v1/chat/completions и GET /v1/models, позволяя стандартным телам запросов и структурам ответов работать из коробки.

Для интеграции замените базовый URL по умолчанию на https://api.openrouternsfw.com/v1 и укажите свой API-ключ. Идентификатор модели, который вы передаете в теле запроса, — uncensored. Это означает, что ваш существующий код для обработки историй чатов, системных промптов и пользовательских сообщений не требует изменений. Эта совместимость распространяется на пользователей uncensored grok и deepseek api, которые уже знакомы со структурой JSON OpenAI.

Эндпоинт поддерживает потоковую передачу ответов через Server-Sent Events (SSE), что позволяет обрабатывать токены по мере их генерации. Он также поддерживает вызов функций (инструменты), JSON-режим для структурированного вывода и стандартные параметры, такие как temperature и top_p. Это делает его готовой заменой для многих стандартных интеграций LLM.

Конфигурация: Температура и Top P

Управление случайностью и креативностью вывода достигается с помощью стандартных параметров. Значение temperature регулирует распределение вероятностей следующего токена. Низкая температура (например, 0,2) делает вывод более детерминированным и сфокусированным, в то время как высокая температура (например, 0,8) увеличивает креативность и вариативность. Для генерации контента для взрослых умеренная температура часто дает лучший баланс между связностью и разнообразием.

Параметр top_p управляет выборкой по ядру. Он ограничивает модель рассмотрением только тех токенов, кумулятивная вероятность которых превышает p. Это еще один способ управления случайностью, часто используемый в сочетании с температурой. Например, значение top_p 0.95 означает, что модель рассматривает только наиболее вероятные 95% токенов.

Другие поддерживаемые параметры включают последовательности stop, seed для воспроизводимости, а также presence_penalty и frequency_penalty для предотвращения повторений. Эти конфигурации передаются в теле запроса так же, как и для любой модели, совместимой с OpenAI. Настройка этих параметров позволяет тонко настраивать вывод hermes api под конкретные стили или уровни детализации.

Обработка потоковых ответов

Потоковая передача важна для пользовательского опыта в реальном времени. API поддерживает Server-Sent Events (SSE), позволяя получать токены по мере их генерации, а не ждать полного ответа. Это снижает воспринимаемую задержку и улучшает пользовательский опыт для интерфейсов чата.

При использовании официальных SDK потоковая передача включается установкой stream=True в запросе. SDK будет выдавать фрагменты данных по мере их поступления. Последний фрагмент в потоке обычно содержит статистику использования, включая количество входных и выходных токенов. Это позволяет точно отслеживать расходы в реальном времени.

Для реализаций без SDK вы можете напрямую обрабатывать поток SSE. Каждый фрагмент начинается с data: , за которым следует объект JSON. Последний фрагмент содержит data: [DONE]. Убедитесь, что ваш клиент корректно обрабатывает возможные разрывы сети, так как соединения потоковой передачи могут прерываться. hermes api обеспечивает, чтобы данные об использовании надёжно сообщались в последнем фрагменте для целей выставления счетов.

Эффективность токенов и ограничения

Модель поддерживает контекстное окно на 100,000 токенов, что включает как промпт, так и генерацию. Этого достаточно для большинства задач генерации длинных текстов и сложного логического вывода. Отдельного ограничения на вывод за один запрос нет, и если вы не укажете max_tokens, ответ может занять всё доступное окно. Для очень длинных ответов может потребоваться реализовать логику разделения промпта или запроса нескольких генераций.

Ценообразование прозрачно и основано на использовании токенов. Входные токены стоят $0,15 за 1 миллион токенов, выходные токены — $0,50 за 1 миллион токенов. Ошибки и отказы (из-за небольшого фильтра контента) бесплатны, поэтому вы платите только за успешные генерации. Эта модель эффективна для массовой генерации текста.

• Контекстное окно: 100 000 токенов всего.
• Максимальный вывод: до конца окна в 100,000 токенов.
• Лимит запросов: 300 запросов в минуту на ключ.
• Параллельные запросы: 8 одновременных запросов на ключ.

Сравнение с другими моделями

При оценке hermes api полезно сравнить его с другими вариантами uncensored llama или uncensored mistral. В отличие от решений с самостоятельным размещением, таких как Ollama, этот сервис не требует управления инфраструктурой. Вы получаете надежный эндпоинт без настройки GPU или управления весами моделей. В отличие от шлюзов с несколькими моделями, он предлагает единое, согласованное поведение без накладных расходов на маршрутизацию.

По сравнению с коммерческими моделями, такими как GPT-4o или Claude, этот эндпоинт значительно дешевле для массовой генерации текста и не применяет фильтры контента. Однако он может не соответствовать возможностям к логическому выводу крупнейших проприетарных моделей. Он лучше всего подходит для задач, где гибкость контента важнее, чем передовая логика.

Для пользователей deepseek api структура ценообразования конкурентоспособна, но архитектура модели отличается. hermes api оптимизирован для генерации текста без цензуры, что делает его специализированным инструментом, а не ИИ общего назначения. Если вам нужны эмбеддинги или генерация изображений, вам потребуется использовать другой сервис, так как этот эндпоинт работает только с текстом.

Начало работы с примерами кода

Интеграция API проста. Вам нужен API-ключ, который вы можете сгенерировать, зарегистрировавшись через Google или электронную почту. Ключ предоставляется сразу. Затем настройте свой SDK с базовым URL https://api.openrouternsfw.com/v1 и идентификатором модели uncensored.

Вот базовый пример на Python с использованием официального SDK:

Копироватьfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouternsfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

И пример на Node.js:

Копироватьimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouternsfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Для потоковых ответов SDK автоматически обрабатывает парсинг SSE. Вы можете перебирать чанки по мере их поступления. Это позволяет отображать текст в реальном времени в вашем приложении. hermes api обеспечивает, что формат ответа соответствует стандарту OpenAI, поэтому для стандартных сценариев не требуется пользовательская логика парсинга.

Дополнительные руководства

• Бесплатная альтернатива OpenRouter? Что вы получите на самом деле
• Как использовать OpenRouter в Janitor AI: настройка прокси
• Открытый Discord-бот с моделью без цензуры