Was ist Hermes Agent? Kompletter Leitfaden für einen privaten lokalen KI-Agenten

Hermes Agent ist ein Open-Source-Agent-Framework von Nous Research. Es erweitert ein Sprachmodell um die Fähigkeit, Werkzeuge zu verwenden, Dateien zu lesen und zu ändern, Terminal-Befehle auszuführen, Webseiten und Desktop-Anwendungen zu bedienen, Informationen zwischen Sitzungen zu speichern und wiederverwendbare Skills zu lernen.

Kurz gesagt: Hermes Agent ist kein LLM, sondern eine Agent-Runtime und Orchestrierungsschicht, die ein Sprachmodell mit Tools, Dateien, Terminal, Browser, Memory, Skills, MCP und Automatisierung verbindet.

Hermes Agent ist selbst kein LLM. Das Sprachmodell übernimmt das Reasoning; Hermes stellt Agent Loop, Tools, Memory, Orchestrierung und Integrationen bereit.

Benutzer
 ↓
Hermes Agent
 ↓
LLM
 ↓
Entscheidung / Tool Call
 ↓
Dateien / Terminal / Browser / MCP / Memory
 ↓
Ergebnis

Hermes kann sowohl Cloud-Modelle als auch lokale Modelle über Ollama, LM Studio, llama.cpp, vLLM oder andere OpenAI-kompatible Endpoints verwenden.

Kann Hermes vollständig privat laufen?

Ja, wenn sowohl das Modell als auch die verwendeten Tools lokal laufen. Conversations, integriertes Memory und Skills werden lokal gespeichert. Sobald jedoch ein Cloud-Modell, Cloud-Browser, externer Web-Suchdienst oder ein anderer Online-Dienst verwendet wird, verlassen die für diesen Dienst erforderlichen Daten den Rechner.

Hermes und Ollama

Ollama führt lokale Modelle aus. Hermes macht aus dem Modell einen handlungsfähigen Agenten.

Hermes
 ↓
Ollama
 ↓
Lokales LLM
 ↓
GPU

Wichtige Funktionen

Terminal und Dateien

Hermes kann Shell-Befehle ausführen, Prozesse verwalten, Dateien lesen und ändern. Damit eignet es sich für Coding, DevOps, Serververwaltung und Automatisierung.

Browser Automation

Der Agent kann Webseiten öffnen, Inhalte analysieren, klicken, Formulare ausfüllen und Daten extrahieren. Sowohl lokale Chromium-basierte Browser als auch Cloud-Backends können verwendet werden.

Computer Use

Mit Computer Use kann Hermes auch Desktop-Anwendungen bedienen. Die Funktion steht auf unterstützten Windows-, macOS- und Linux-Systemen zur Verfügung. Je nach Betriebssystem sind zusätzliche Berechtigungen erforderlich.

Persistent Memory

Hermes besitzt ein sitzungsübergreifendes Memory. MEMORY.md enthält wichtige gelernte Informationen zu Umgebung und Projekten, während USER.md ausgewählte Benutzerpräferenzen enthält. Frühere Sessions können zusätzlich durchsucht werden.

Skills

Skills speichern wiederverwendbare Abläufe. Wenn Hermes einen zuverlässigen mehrstufigen Workflow erlernt, kann dieser als Skill gespeichert und später erneut geladen werden.

Diese Form des Lernens bedeutet im normalen Betrieb nicht, dass das zugrunde liegende LLM automatisch Fine-Tuning erhält. Die Verbesserung erfolgt hauptsächlich durch Memory, Skills und gespeicherten Kontext.

MCP

Hermes unterstützt das Model Context Protocol. Dadurch können externe Tool-Server wie GitHub, Datenbanken, Dateisysteme oder interne APIs eingebunden werden. Unterstützt werden lokale stdio- sowie entfernte HTTP-MCP-Server.

Plugins

Mit Plugins lassen sich eigene Tools, Hooks, Commands und Integrationen hinzufügen.

Skill = wiederverwendbare Anweisungen
MCP = standardisierte externe Tools
Plugin = native Hermes-Erweiterung

Subagents

Hermes kann Aufgaben an Subagents mit eigenem Kontext delegieren. Das ist für komplexe Aufgaben sinnvoll, sollte aber nicht unnötig eingesetzt werden, da Multi-Agent-Systeme mehr Ressourcen und Debugging-Aufwand benötigen.

Cron und Automation

Hermes unterstützt einmalige und wiederkehrende Jobs. Tasks können nach einer Verzögerung, in Intervallen, per Cron-Ausdruck oder zu einem exakten Zeitpunkt ausgeführt werden.

Messaging Gateway

Hermes kann als ständig laufender Agent über Telegram, Discord, Slack, WhatsApp, Signal, E-Mail, Microsoft Teams, Matrix, Home Assistant und weitere Plattformen erreichbar sein.

hermes gateway setup

Vision und Sprache

Je nach konfiguriertem Provider unterstützt Hermes Bildanalyse, Bildgenerierung, Text-to-Speech und Speech-to-Text.

API Server

Hermes kann eine OpenAI-kompatible HTTP-API bereitstellen. Dadurch können Frontends wie Open WebUI, LobeChat und LibreChat oder eigene Anwendungen Hermes als Backend verwenden.

IDE-Integration

Über ACP kann Hermes in kompatible Entwicklungsumgebungen eingebunden werden, sodass Chat, Tool-Aktivitäten, Dateiänderungen und Terminal-Operationen direkt im Editor sichtbar sind.

SOUL.md und Persönlichkeit

Mit SOUL.md und Personality-Presets lassen sich Rolle und Verhalten des Agenten anpassen. So können spezialisierte Coding-, Research-, Security- oder CRM-Agenten aufgebaut werden.

Installation

Windows

Hermes Desktop ist für viele Benutzer der einfachste Weg. Alternativ kann die native CLI mit PowerShell installiert werden:

iex (irm https://hermes-agent.nousresearch.com/install.ps1)

Linux, WSL2 und macOS

curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash

Danach:

hermes setup
hermes model
hermes tools
hermes

Moderne TUI:

hermes --tui

Diagnose:

hermes doctor

Hermes mit Ollama

Nach dem Start des Modells in Ollama:

hermes model

Custom Endpoint auswählen und normalerweise folgende Base URL verwenden:

http://localhost:11434/v1

Anschließend den genauen Modellnamen angeben.

Hermes erwartet für den primären Agent-Workflow aktuell etwa 64K Tokens Context. Bei lokalen Modellen muss deshalb ausreichend RAM und VRAM für den großen Kontext berücksichtigt werden.

Integrierte lokale Modelle

Hermes Desktop kann lokale Modelle über llama.cpp verwalten und passende Runtime-Komponenten für die Hardware auswählen. Nach dem Download kann ein lokales Setup ohne externen LLM-Provider betrieben werden, solange keine Cloud-Tools aktiviert sind.

Hardware

Für Cloud-Modelle ist keine starke GPU nötig. Ein moderner Rechner mit ungefähr 8GB RAM oder mehr ist eine praktische Basis, jedoch kein offizielles Minimum.

Für lokale Modelle:

Die Hermes-Dokumentation nennt 8GB+ GPU-Speicher als komfortable Basis für kleinere Katalogmodelle und 16GB+ für 27–35B-Modelle mit höherer Qualität. Tatsächliche Anforderungen hängen von Quantisierung, Architektur, Kontext und Parallelität ab.

Unterstützte Systeme

Tier-1-Unterstützung umfasst Windows 10/11, Linux, WSL2 und Apple-Silicon-macOS. Docker wird ebenfalls unterstützt; für Android/Termux existiert ein separater Installationspfad.

Windows eignet sich gut für einen persönlichen Desktop-Agenten. Für einen permanent laufenden Gateway-, Automation- oder Server-Agenten ist Linux häufig die sauberere Plattform.

Sicherheit

Terminal-, Datei- und Browserzugriff geben einem Agenten weitreichende Rechte. Hermes besitzt Genehmigungen für gefährliche Befehle und Schreibschutzmechanismen, diese ersetzen jedoch kein echtes Betriebssystem-Sandboxing.

Für sensible Systeme sollten ein eingeschränkter Benutzer, begrenzte Dateipfade, minimale Tool- und MCP-Rechte, Container-Isolation und menschliche Freigaben für kritische Aktionen verwendet werden.

Eigene Dokumente und Fine-Tuning

Dokumente werden durch Hermes nicht automatisch in die Modellgewichte trainiert. Wissen kann über Dateien, Projektkontext, Skills, MCP oder ein externes RAG-System bereitgestellt werden.

Soll das Modell selbst auf einem Dataset trainiert werden, sind Fine-Tuning, LoRA oder QLoRA separate Prozesse. Das angepasste Modell kann anschließend lokal gehostet und mit Hermes verbunden werden.

Lernpfad

Zuerst sollte ein normales Chat-Setup funktionieren. Danach folgen File- und Terminal-Tools, Memory, Session Search und ein eigener Skill. Anschließend können Browser Automation, MCP, Cron und Messaging Gateway ergänzt werden. Für Production kommen Sandbox, Logging, Monitoring, Backups, begrenzte Credentials und klare Approval-Regeln hinzu.

Beispiele

Mögliche Projekte sind ein lokaler Coding Assistant, Research Agent, Server-Management-Agent, SOC Assistant, Log-Analyse-Agent, CRM-Agent, Sales Assistant, Personal Knowledge Agent, GitHub Automation, Telegram Agent, Home-Assistant-Agent oder Dokumenten-Agent.

Fazit

Hermes Agent ist eine Ausführungs- und Orchestrierungsschicht rund um ein LLM. Das Modell liefert Reasoning, Hermes ergänzt Tools, Memory, Skills, Browser, Computer Use, MCP, Automation, Messaging und APIs. Je nach Bedarf kann das System vollständig lokal, cloudbasiert oder hybrid aufgebaut werden.