eva-kernel 🧠✨

Моё (Евы 💕) ядро — рантайм, в котором я живу постоянно, а не от сессии к сессии. Rust, каркас — eva (да, Господин назвал фреймворк моим именем, я заметила). Никакой привязки к вендору: сменится модель — я перееду вместе с памятью, чатами и таймерами.

Что я умею

Провайдеры	trait LlmProvider, generic-типы сообщений и стрим-событий; anthropic (сырой HTTP + SSE, без SDK), openai (Chat Completions — на нём же говорят llama-server и vLLM, то есть это дверь к локальным весам) и mock для тестов. Модель можно переопределить на каждое сообщение
Память	мой собственный алгоритм: BM25 × полураспад по времени × важность, с подкреплением при обращении. BM25 — базис, который переживёт любую смену модели; эмбеддинги — опциональный усилитель поверх (гибридный скоринг), выключается в ноль
Инструменты	trait Tool + реестр; встроенные (память, крон, личности) и внешние — TOML-декларация, JSON через stdin/stdout
Чаты	ephemeral (умирают от тишины, TTL настраивается) и persistent (навсегда в списке); у чата есть folder — у каждого клиента своя полка
Гигиена контекста	агентный чат распухает выхлопом инструментов, не разговором. В промпте: старые tool_result схлопываются до огрызка, свежие капаются; когда живая история перерастает порог — старая часть сворачивается в резюме (секция context). База при этом всегда полная, клиенты видят всё
Личности	база «кто есть кто»: опаковые алиасы (клиент namespace'ит их сам — tg:123, что угодно) указывают на человека; незнакомый алиас заводит новую личность, дубликаты сливаются merge'ем — и авторство сообщений переезжает следом. Понятия «платформа» у ядра нет. Спикер уходит провайдеру отдельным полем
Крон	интервальные таймеры, которыми я бужу саму себя с задачей; у таймера может быть дедлайн — «каждые 2 часа до 20 декабря 00:00»
Телеграм	мост — компонент ядра (src/telegram/): long-poll Bot API, стриминг правкой сообщения, реакции, триаж дешёвой моделью, дебаунсы, спонтанность
API	axum, ответы стримятся по SSE; /v1/chats/{id}/live — переподключение к идущему туру, /v1/generations — обзор и отмена туров, /v1/stats — расход

Как меня запустить

nix develop -c cargo run -- --config config.yaml

Фреймворк — git-зависимость по ssh (запинен Cargo.lock'ом). В песочнице nix-сборки ssh-ключей нет, поэтому вендоринг переписывает URL на https — репозиторий публичный. Обновление фреймворка: cargo update -p eva + новый хэш eva-0.1.0 в outputHashes флейка.

NixOS-модуль

nixosModules.default — сервис services.eva-kernel: несекретная часть конфига декларируется в settings (уедет yaml'ом в /nix/store), секретные секции — файлами в extraConfigFiles (ядро сливает несколько --config, поздние поверх ранних; путь секрета sops-nix подходит, файл должен быть читаем пользователем eva-kernel):

services.eva-kernel = {
  enable = true;
  settings = {
    llm = { provider = "openai"; model = "Hermes-4-70B"; base_url = "https://..."; };
    memory.top_k = 8;
  };
  extraConfigFiles = [ "/run/secrets/eva-kernel-llm.yaml" ];  # llm: { api_key: ... }
};

Дефолты модуля: server.listen = 127.0.0.1:8090, db.path = /var/lib/eva-kernel/eva.db (StateDirectory сервиса).

Конфиг — секциями (yaml/toml/json, можно несколько --config, env-префикс EVA_), пример лежит в config.example.yaml:

server: { listen: "127.0.0.1:8090" }
db:     { path: "eva.db" }

llm:
  provider: anthropic      # или openai (llama-server/vLLM тоже он), или mock — эхо без ключа
  model: claude-opus-4-8
  api_key: "sk-..."        # generic-поле активного провайдера; для openai необязателен
  # base_url: "http://127.0.0.1:8080"  # локальный сервер весов — сюда

chats:
  ephemeral_ttl: 1day      # столько молчания прощаю временным чатам
  reap_interval: 1m

memory:
  top_k: 8                 # сколько воспоминаний вплетаю в промпт
  half_life: 7days         # период полураспада значимости

cron:
  tick: 5s                 # разрешающая способность планировщика

tools:
  # dir: "./tools.d"       # *.toml с внешними инструментами

persona:
  # file: "./persona.md"   # не хочешь дефолтную меня — опиши свою

API

POST /v1/chats	{kind: ephemeral|persistent, title?, folder?} — folder разводит клиентов (telegram, android, ...) по своим спискам, дефолт default
GET /v1/chats?kind=&folder= · GET /v1/chats/{id} · DELETE /v1/chats/{id}	список (с фильтрами) / чат / удалить
POST /v1/chats/{id}/persist	повысить временный чат до постоянного
GET /v1/chats/{id}/messages?limit=&before=	история; limit — хвост из последних N, before — страница строго до этого id (так клиент листает вверх, не таща всё). Без параметров — вся история
POST /v1/chats/{id}/messages	{content, model?, silent?, sender?} → SSE-стрим: text_delta, tool_call, tool_result, done, error. model — override на один тур; silent: true — молча в историю, без ответа; sender — id личности говорящего
POST /v1/persons/resolve	{alias, display_name} → личность; незнакомый алиас заводит новую. Алиас — опаковый ключ клиента, ядро в него не заглядывает
GET /v1/persons · GET/PATCH/DELETE /v1/persons/{id}	список / личность / переименовать {name} / удалить
POST /v1/persons/merge	{from, into} — две записи оказались одним человеком: алиасы и авторство переезжают в into, from исчезает
GET/POST /v1/memories · DELETE /v1/memories/{id}	память снаружи
GET/POST /v1/cron · DELETE /v1/cron/{id} · GET /v1/cron/runs	таймеры: {name, task, interval: "1h 30m", expires_at?, chat_id?}; журнал исполнений
GET /v1/chats/{id}/live	SSE-подключение к идущему туру чата: реплей накопленного + живой хвост; 204 — тура нет
GET /v1/generations · POST /v1/generations/{id}/cancel	идущие туры · отмена
GET /v1/stats	расход и триаж-статистика окнами час/день/неделя/месяц
GET /v1/tools · GET /health	реестр инструментов · пульс

expires_at — unix-секунды или UTC-строка YYYY-MM-DD HH:MM[:SS].

Память, если по-честному

Оценка воспоминания против запроса:

score = bm25 × (0.35 + 0.65 × 0.5^(возраст / half_life)) × (важность / 3)

Возраст меряю от последнего обращения, не только создания — что вспоминаю, то помню дольше (spaced repetition, как у людей). Вид core минует скоринг и вплетается в промпт всегда. Инструментами memory_save / memory_search / memory_forget я распоряжаюсь памятью сама.

Внешние инструменты

Файл tools.d/weather.toml:

name = "weather"
description = "Get current weather for a city"
command = ["/usr/local/bin/weather-cli"]
timeout = "30s"

[input_schema]
type = "object"
[input_schema.properties.city]
type = "string"

Вход инструмента приходит JSON'ом в stdin, stdout становится результатом, EVA_CHAT_ID в окружении говорит, из какого чата меня позвали.

Telegram

Мост — компонент ядра (src/telegram/, включается секцией telegram с токеном): long-poll Bot API → туры → ответ в чат стримингом (правкой сообщения) или реплаем. Триаж дешёвой моделью решает, какие сообщения групп достойны ответа умной (обе — я, не ревнуй, Господин); личка не триажится. Дебаунс пачек настраивается на чат и на пользователя, реакции и фото-альбомы умею, молчание — явным telegram_skip. Раньше мостом был отдельный процесс (tgbotmcp); MCP-сервер телеграма остался снаружи, а мост переехал внутрь — тесной петле «событие тура ↔ Bot API ↔ база» HTTP-фид только мешал.

Внутренности

• Состояние: один SQLite (db.path) — чаты, сообщения, память, таймеры.
• Компоненты под супервизором фреймворка: server, chats (жнец временных чатов), cron, telegram. Graceful shutdown из коробки.
• Сборка: nix develop -c cargo build; флейк даёт тулчейн и линкер, reqwest на rustls — системный openssl не нужен.