Compare commits
103
Commits
| Author | SHA1 | Date | |
|---|---|---|---|
|
|
fdf99b2bb0 | ||
|
|
c7cd641f89 | ||
|
|
18b90c8df3 | ||
|
|
8d3bc1c2e2 | ||
|
|
079d988034 | ||
|
|
aa9d388337 | ||
|
|
92bd3d9a47 | ||
|
|
53058d1504 | ||
|
|
3fe8463a03 | ||
|
|
5c4ce5d727 | ||
|
|
459193e7b1 | ||
|
|
98f21323fb | ||
|
|
515248d438 | ||
|
|
b0c69ad3e0 | ||
|
|
c5f29ab4ae | ||
|
|
876ee898d8 | ||
|
|
e93bab6ea7 | ||
|
|
5225090490 | ||
|
|
e9532e8878 | ||
|
|
23b1cb2966 | ||
|
|
fa909e2e7d | ||
|
|
7fa9ce81bd | ||
|
|
8490911958 | ||
|
|
19d899b277 | ||
|
|
37ec8b614e | ||
|
|
e045371969 | ||
|
|
cd5383432e | ||
|
|
8b8baa27b3 | ||
|
|
386fa3ef0c | ||
|
|
19c96fd00f | ||
|
|
ecb35fb869 | ||
|
|
21cda0072a | ||
|
|
e3858e8bc3 | ||
|
|
f08a331bc6 | ||
|
|
cfcaa926cd | ||
|
|
8ade34af0a | ||
|
|
a6d37c92d2 | ||
|
|
1b7b8091a3 | ||
|
|
94e5ebf577 | ||
|
|
cf302e8334 | ||
|
|
82c7752266 | ||
|
|
c676c8263f | ||
|
|
f6b2375d65 | ||
|
|
d1a065fec8 | ||
|
|
f686ecf947 | ||
|
|
6ac1f318d0 | ||
|
|
cbaf664123 | ||
|
|
470e653da6 | ||
|
|
43d3d8f7f3 | ||
|
|
83c0c9944d | ||
|
|
f6f3213b84 | ||
|
|
e5db7011f3 | ||
|
|
b0bc8518ed | ||
|
|
046b648286 | ||
|
|
e04aecb0c5 | ||
|
|
d64ba06809 | ||
|
|
b0d73cb053 | ||
|
|
5213d262a2 | ||
|
|
2985f5288b | ||
|
|
27b404560c | ||
|
|
16e128668c | ||
|
|
ecfdc67485 | ||
|
|
c9cf1b7e4c | ||
|
|
fa6eb0795a | ||
|
|
4ac504a4ae | ||
|
|
56dd1bcd84 | ||
|
|
b4a07a05af | ||
|
|
5c55229376 | ||
|
|
f3fd71b828 | ||
|
|
079cf174d4 | ||
|
|
4ab44e36a2 | ||
|
|
5278c75ac1 | ||
|
|
a908853c30 | ||
|
|
867a7a8b44 | ||
|
|
2c073c7d3c | ||
|
|
0157faab89 | ||
|
|
f1bfa40b5b | ||
|
|
dcc3083455 | ||
|
|
a5b4dfb31f | ||
|
|
a733212c0f | ||
|
|
49b454d2ec | ||
|
|
18780e5330 | ||
|
|
36fb27edf0 | ||
|
|
c60aba63a4 | ||
|
|
2a98c37ca1 | ||
|
|
0ac8a14ea7 | ||
|
|
234949800b | ||
|
|
c68c7404cf | ||
|
|
f8ed7bb62e | ||
|
|
81d005d969 | ||
|
|
99482ad65a | ||
|
|
2d43e0596c | ||
|
|
74cac7e16c | ||
|
|
0c2dc61cb5 | ||
|
|
97c3461685 | ||
|
|
41e7a49d52 | ||
|
|
725dc6bda4 | ||
|
|
5da8eb6543 | ||
|
|
4f2296b9b0 | ||
|
|
cb9addb1b6 | ||
|
|
c5198a80d8 | ||
|
|
0df266b2e9 | ||
|
|
444f64e94c |
No files matched your search
+50
-13
@@ -1,40 +1,76 @@
|
|||||||
"""
|
"""
|
||||||
FILE: app/config.py
|
FILE: app/config.py
|
||||||
DESCRIPTION: Zentrale Pydantic-Konfiguration (Env-Vars für Qdrant, LLM, Retriever).
|
DESCRIPTION: Zentrale Pydantic-Konfiguration.
|
||||||
VERSION: 0.4.0
|
WP-20: Hybrid-Cloud Modus Support (OpenRouter/Gemini/Ollama).
|
||||||
|
FIX: Einführung von Parametern zur intelligenten Rate-Limit Steuerung (429 Handling).
|
||||||
|
VERSION: 0.6.7
|
||||||
STATUS: Active
|
STATUS: Active
|
||||||
DEPENDENCIES: os, functools, pathlib
|
DEPENDENCIES: os, functools, pathlib, python-dotenv
|
||||||
LAST_ANALYSIS: 2025-12-15
|
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
import os
|
import os
|
||||||
from functools import lru_cache
|
from functools import lru_cache
|
||||||
from pathlib import Path
|
from pathlib import Path
|
||||||
|
from dotenv import load_dotenv
|
||||||
|
|
||||||
|
# WP-20: Lade Umgebungsvariablen aus der .env Datei
|
||||||
|
# override=True garantiert, dass Änderungen in der .env immer Vorrang haben.
|
||||||
|
load_dotenv(override=True)
|
||||||
|
|
||||||
class Settings:
|
class Settings:
|
||||||
# Qdrant
|
# --- Qdrant Datenbank ---
|
||||||
QDRANT_URL: str = os.getenv("QDRANT_URL", "http://127.0.0.1:6333")
|
QDRANT_URL: str = os.getenv("QDRANT_URL", "http://127.0.0.1:6333")
|
||||||
QDRANT_API_KEY: str | None = os.getenv("QDRANT_API_KEY")
|
QDRANT_API_KEY: str | None = os.getenv("QDRANT_API_KEY")
|
||||||
COLLECTION_PREFIX: str = os.getenv("MINDNET_PREFIX", "mindnet")
|
COLLECTION_PREFIX: str = os.getenv("MINDNET_PREFIX", "mindnet_dev")
|
||||||
VECTOR_SIZE: int = int(os.getenv("MINDNET_VECTOR_SIZE", "384"))
|
|
||||||
|
# WP-22: Vektor-Dimension für das Embedding-Modell (nomic)
|
||||||
|
VECTOR_SIZE: int = int(os.getenv("VECTOR_DIM", "768"))
|
||||||
DISTANCE: str = os.getenv("MINDNET_DISTANCE", "Cosine")
|
DISTANCE: str = os.getenv("MINDNET_DISTANCE", "Cosine")
|
||||||
|
|
||||||
# Embeddings
|
# --- Lokale Embeddings (Ollama & Sentence-Transformers) ---
|
||||||
|
EMBEDDING_MODEL: str = os.getenv("MINDNET_EMBEDDING_MODEL", "nomic-embed-text")
|
||||||
MODEL_NAME: str = os.getenv("MINDNET_MODEL", "sentence-transformers/all-MiniLM-L6-v2")
|
MODEL_NAME: str = os.getenv("MINDNET_MODEL", "sentence-transformers/all-MiniLM-L6-v2")
|
||||||
|
|
||||||
# WP-05 LLM / Ollama
|
# --- WP-20 Hybrid LLM Provider ---
|
||||||
|
# Erlaubt: "ollama" | "gemini" | "openrouter"
|
||||||
|
MINDNET_LLM_PROVIDER: str = os.getenv("MINDNET_LLM_PROVIDER", "openrouter").lower()
|
||||||
|
# Standardwert 10000, falls nichts in der .env steht
|
||||||
|
MAX_OLLAMA_CHARS: int = int(os.getenv("MAX_OLLAMA_CHARS", 10000))
|
||||||
|
|
||||||
|
# Google AI Studio (2025er Lite-Modell für höhere Kapazität)
|
||||||
|
GOOGLE_API_KEY: str | None = os.getenv("GOOGLE_API_KEY")
|
||||||
|
GEMINI_MODEL: str = os.getenv("MINDNET_GEMINI_MODEL", "gemini-2.5-flash-lite")
|
||||||
|
|
||||||
|
# OpenRouter Integration (Verfügbares Free-Modell 2025)
|
||||||
|
OPENROUTER_API_KEY: str | None = os.getenv("OPENROUTER_API_KEY")
|
||||||
|
OPENROUTER_MODEL: str = os.getenv("OPENROUTER_MODEL", "mistralai/mistral-7b-instruct:free")
|
||||||
|
|
||||||
|
LLM_FALLBACK_ENABLED: bool = os.getenv("MINDNET_LLM_FALLBACK", "true").lower() == "true"
|
||||||
|
|
||||||
|
# --- NEU: Intelligente Rate-Limit Steuerung ---
|
||||||
|
# Dauer der Wartezeit in Sekunden, wenn ein HTTP 429 (Rate Limit) auftritt
|
||||||
|
LLM_RATE_LIMIT_WAIT: float = float(os.getenv("MINDNET_LLM_RATE_LIMIT_WAIT", "60.0"))
|
||||||
|
# Anzahl der Cloud-Retries bei 429, bevor Ollama-Fallback greift
|
||||||
|
LLM_RATE_LIMIT_RETRIES: int = int(os.getenv("MINDNET_LLM_RATE_LIMIT_RETRIES", "3"))
|
||||||
|
|
||||||
|
# --- WP-05 Lokales LLM (Ollama) ---
|
||||||
OLLAMA_URL: str = os.getenv("MINDNET_OLLAMA_URL", "http://127.0.0.1:11434")
|
OLLAMA_URL: str = os.getenv("MINDNET_OLLAMA_URL", "http://127.0.0.1:11434")
|
||||||
LLM_MODEL: str = os.getenv("MINDNET_LLM_MODEL", "phi3:mini")
|
LLM_MODEL: str = os.getenv("MINDNET_LLM_MODEL", "phi3:mini")
|
||||||
PROMPTS_PATH: str = os.getenv("MINDNET_PROMPTS_PATH", "config/prompts.yaml")
|
PROMPTS_PATH: str = os.getenv("MINDNET_PROMPTS_PATH", "config/prompts.yaml")
|
||||||
|
|
||||||
# NEU für WP-06
|
# --- WP-06 / WP-14 Performance & Last-Steuerung ---
|
||||||
LLM_TIMEOUT: float = float(os.getenv("MINDNET_LLM_TIMEOUT", "120.0"))
|
LLM_TIMEOUT: float = float(os.getenv("MINDNET_LLM_TIMEOUT", "300.0"))
|
||||||
DECISION_CONFIG_PATH: str = os.getenv("MINDNET_DECISION_CONFIG", "config/decision_engine.yaml")
|
DECISION_CONFIG_PATH: str = os.getenv("MINDNET_DECISION_CONFIG", "config/decision_engine.yaml")
|
||||||
|
BACKGROUND_LIMIT: int = int(os.getenv("MINDNET_LLM_BACKGROUND_LIMIT", "2"))
|
||||||
|
|
||||||
# API
|
# --- System-Pfade & Ingestion-Logik ---
|
||||||
DEBUG: bool = os.getenv("DEBUG", "false").lower() == "true"
|
DEBUG: bool = os.getenv("DEBUG", "false").lower() == "true"
|
||||||
|
MINDNET_VAULT_ROOT: str = os.getenv("MINDNET_VAULT_ROOT", "./vault_master")
|
||||||
|
MINDNET_TYPES_FILE: str = os.getenv("MINDNET_TYPES_FILE", "config/types.yaml")
|
||||||
|
MINDNET_VOCAB_PATH: str = os.getenv("MINDNET_VOCAB_PATH", "/mindnet/vault/mindnet/_system/dictionary/edge_vocabulary.md")
|
||||||
|
CHANGE_DETECTION_MODE: str = os.getenv("MINDNET_CHANGE_DETECTION_MODE", "full")
|
||||||
|
|
||||||
# WP-04 Retriever Defaults
|
# --- WP-04 Retriever Gewichte ---
|
||||||
RETRIEVER_W_SEM: float = float(os.getenv("MINDNET_WP04_W_SEM", "0.70"))
|
RETRIEVER_W_SEM: float = float(os.getenv("MINDNET_WP04_W_SEM", "0.70"))
|
||||||
RETRIEVER_W_EDGE: float = float(os.getenv("MINDNET_WP04_W_EDGE", "0.25"))
|
RETRIEVER_W_EDGE: float = float(os.getenv("MINDNET_WP04_W_EDGE", "0.25"))
|
||||||
RETRIEVER_W_CENT: float = float(os.getenv("MINDNET_WP04_W_CENT", "0.05"))
|
RETRIEVER_W_CENT: float = float(os.getenv("MINDNET_WP04_W_CENT", "0.05"))
|
||||||
@@ -44,4 +80,5 @@ class Settings:
|
|||||||
|
|
||||||
@lru_cache
|
@lru_cache
|
||||||
def get_settings() -> Settings:
|
def get_settings() -> Settings:
|
||||||
|
"""Gibt die zentralen Einstellungen als Singleton zurück."""
|
||||||
return Settings()
|
return Settings()
|
||||||
@@ -1,176 +0,0 @@
|
|||||||
"""
|
|
||||||
FILE: app/core/chunk_payload.py
|
|
||||||
DESCRIPTION: Baut das JSON-Objekt für 'mindnet_chunks'.
|
|
||||||
FEATURES:
|
|
||||||
- Inkludiert Nachbarschafts-IDs (prev/next) und Titel.
|
|
||||||
- FIX 3: Robuste Erkennung des Inputs (Frontmatter-Dict vs. Note-Objekt), damit Overrides ankommen.
|
|
||||||
VERSION: 2.3.0
|
|
||||||
STATUS: Active
|
|
||||||
DEPENDENCIES: yaml, os
|
|
||||||
EXTERNAL_CONFIG: config/types.yaml
|
|
||||||
"""
|
|
||||||
from __future__ import annotations
|
|
||||||
from typing import Any, Dict, List, Optional
|
|
||||||
import os, yaml
|
|
||||||
|
|
||||||
def _env(n: str, d: Optional[str]=None) -> str:
|
|
||||||
v = os.getenv(n)
|
|
||||||
return v if v is not None else (d or "")
|
|
||||||
|
|
||||||
def _load_types() -> dict:
|
|
||||||
p = _env("MINDNET_TYPES_FILE", "./config/types.yaml")
|
|
||||||
try:
|
|
||||||
with open(p, "r", encoding="utf-8") as f:
|
|
||||||
return yaml.safe_load(f) or {}
|
|
||||||
except Exception:
|
|
||||||
return {}
|
|
||||||
|
|
||||||
def _get_types_map(reg: dict) -> dict:
|
|
||||||
if isinstance(reg, dict) and isinstance(reg.get("types"), dict):
|
|
||||||
return reg["types"]
|
|
||||||
return reg if isinstance(reg, dict) else {}
|
|
||||||
|
|
||||||
def _get_defaults(reg: dict) -> dict:
|
|
||||||
if isinstance(reg, dict) and isinstance(reg.get("defaults"), dict):
|
|
||||||
return reg["defaults"]
|
|
||||||
if isinstance(reg, dict) and isinstance(reg.get("global"), dict):
|
|
||||||
return reg["global"]
|
|
||||||
return {}
|
|
||||||
|
|
||||||
def _as_float(x: Any):
|
|
||||||
try: return float(x)
|
|
||||||
except Exception: return None
|
|
||||||
|
|
||||||
def _resolve_chunk_profile_from_config(note_type: str, reg: dict) -> Optional[str]:
|
|
||||||
# 1. Type Level
|
|
||||||
types = _get_types_map(reg)
|
|
||||||
if isinstance(types, dict):
|
|
||||||
t = types.get(note_type, {})
|
|
||||||
if isinstance(t, dict):
|
|
||||||
cp = t.get("chunking_profile") or t.get("chunk_profile")
|
|
||||||
if isinstance(cp, str) and cp: return cp
|
|
||||||
# 2. Defaults Level
|
|
||||||
defs = _get_defaults(reg)
|
|
||||||
if isinstance(defs, dict):
|
|
||||||
cp = defs.get("chunking_profile") or defs.get("chunk_profile")
|
|
||||||
if isinstance(cp, str) and cp: return cp
|
|
||||||
return None
|
|
||||||
|
|
||||||
def _resolve_retriever_weight_from_config(note_type: str, reg: dict) -> float:
|
|
||||||
"""
|
|
||||||
Liest Weight nur aus Config (Type > Default).
|
|
||||||
Wird aufgerufen, wenn im Frontmatter nichts steht.
|
|
||||||
"""
|
|
||||||
# 1. Type Level
|
|
||||||
types = _get_types_map(reg)
|
|
||||||
if isinstance(types, dict):
|
|
||||||
t = types.get(note_type, {})
|
|
||||||
if isinstance(t, dict) and (t.get("retriever_weight") is not None):
|
|
||||||
v = _as_float(t.get("retriever_weight"))
|
|
||||||
if v is not None: return float(v)
|
|
||||||
|
|
||||||
# 2. Defaults Level
|
|
||||||
defs = _get_defaults(reg)
|
|
||||||
if isinstance(defs, dict) and (defs.get("retriever_weight") is not None):
|
|
||||||
v = _as_float(defs.get("retriever_weight"))
|
|
||||||
if v is not None: return float(v)
|
|
||||||
|
|
||||||
return 1.0
|
|
||||||
|
|
||||||
def _as_list(x):
|
|
||||||
if x is None: return []
|
|
||||||
if isinstance(x, list): return x
|
|
||||||
return [x]
|
|
||||||
|
|
||||||
def make_chunk_payloads(note: Dict[str, Any],
|
|
||||||
note_path: str,
|
|
||||||
chunks_from_chunker: List[Any],
|
|
||||||
*,
|
|
||||||
note_text: str = "",
|
|
||||||
types_cfg: Optional[dict] = None,
|
|
||||||
file_path: Optional[str] = None) -> List[Dict[str, Any]]:
|
|
||||||
"""
|
|
||||||
Erstellt die Payloads für die Chunks.
|
|
||||||
|
|
||||||
Argument 'note' kann sein:
|
|
||||||
A) Ein komplexes Objekt/Dict mit Key "frontmatter" (Legacy / Tests)
|
|
||||||
B) Direkt das Frontmatter-Dictionary (Call aus ingestion.py)
|
|
||||||
"""
|
|
||||||
|
|
||||||
# --- FIX 3: Intelligente Erkennung der Input-Daten ---
|
|
||||||
# Wir prüfen: Ist 'note' ein Container MIT 'frontmatter', oder IST es das 'frontmatter'?
|
|
||||||
if isinstance(note, dict) and "frontmatter" in note and isinstance(note["frontmatter"], dict):
|
|
||||||
# Fall A: Container (wir müssen auspacken)
|
|
||||||
fm = note["frontmatter"]
|
|
||||||
else:
|
|
||||||
# Fall B: Direktes Dict (so ruft ingestion.py es auf!)
|
|
||||||
fm = note or {}
|
|
||||||
|
|
||||||
note_type = fm.get("type") or note.get("type") or "concept"
|
|
||||||
|
|
||||||
# Title Extraction (Fallback Chain)
|
|
||||||
title = fm.get("title") or note.get("title") or fm.get("id") or "Untitled"
|
|
||||||
|
|
||||||
reg = types_cfg if isinstance(types_cfg, dict) else _load_types()
|
|
||||||
|
|
||||||
# --- Profil-Ermittlung ---
|
|
||||||
# Da wir 'fm' jetzt korrekt haben, funktionieren diese lookups:
|
|
||||||
cp = fm.get("chunking_profile") or fm.get("chunk_profile")
|
|
||||||
|
|
||||||
if not cp:
|
|
||||||
cp = _resolve_chunk_profile_from_config(note_type, reg)
|
|
||||||
if not cp:
|
|
||||||
cp = "sliding_standard"
|
|
||||||
|
|
||||||
# --- Retriever Weight Ermittlung ---
|
|
||||||
rw = fm.get("retriever_weight")
|
|
||||||
|
|
||||||
if rw is None:
|
|
||||||
rw = _resolve_retriever_weight_from_config(note_type, reg)
|
|
||||||
|
|
||||||
try:
|
|
||||||
rw = float(rw)
|
|
||||||
except Exception:
|
|
||||||
rw = 1.0
|
|
||||||
|
|
||||||
tags = fm.get("tags") or []
|
|
||||||
if isinstance(tags, str):
|
|
||||||
tags = [tags]
|
|
||||||
|
|
||||||
out: List[Dict[str, Any]] = []
|
|
||||||
for idx, ch in enumerate(chunks_from_chunker):
|
|
||||||
# Attribute extrahieren
|
|
||||||
cid = getattr(ch, "id", None) or (ch.get("id") if isinstance(ch, dict) else None)
|
|
||||||
nid = getattr(ch, "note_id", None) or (ch.get("note_id") if isinstance(ch, dict) else fm.get("id"))
|
|
||||||
index = getattr(ch, "index", None) or (ch.get("index") if isinstance(ch, dict) else idx)
|
|
||||||
text = getattr(ch, "text", None) or (ch.get("text") if isinstance(ch, dict) else "")
|
|
||||||
window = getattr(ch, "window", None) or (ch.get("window") if isinstance(ch, dict) else text)
|
|
||||||
prev_id = getattr(ch, "neighbors_prev", None) or (ch.get("neighbors_prev") if isinstance(ch, dict) else None)
|
|
||||||
next_id = getattr(ch, "neighbors_next", None) or (ch.get("neighbors_next") if isinstance(ch, dict) else None)
|
|
||||||
|
|
||||||
pl: Dict[str, Any] = {
|
|
||||||
"note_id": nid,
|
|
||||||
"chunk_id": cid,
|
|
||||||
"title": title,
|
|
||||||
"index": int(index),
|
|
||||||
"ord": int(index) + 1,
|
|
||||||
"type": note_type,
|
|
||||||
"tags": tags,
|
|
||||||
"text": text,
|
|
||||||
"window": window,
|
|
||||||
"neighbors_prev": _as_list(prev_id),
|
|
||||||
"neighbors_next": _as_list(next_id),
|
|
||||||
"section": getattr(ch, "section", None) or (ch.get("section") if isinstance(ch, dict) else ""),
|
|
||||||
"path": note_path,
|
|
||||||
"source_path": file_path or note_path,
|
|
||||||
"retriever_weight": float(rw),
|
|
||||||
"chunk_profile": cp, # Jetzt endlich mit dem Override-Wert!
|
|
||||||
}
|
|
||||||
|
|
||||||
# Cleanup
|
|
||||||
for alias in ("chunk_num", "Chunk_Number"):
|
|
||||||
pl.pop(alias, None)
|
|
||||||
|
|
||||||
out.append(pl)
|
|
||||||
|
|
||||||
return out
|
|
||||||
@@ -1,424 +0,0 @@
|
|||||||
"""
|
|
||||||
FILE: app/core/chunker.py
|
|
||||||
DESCRIPTION: Zerlegt Texte in Chunks (Sliding Window oder nach Headings). Orchestriert die Smart-Edge-Allocation via SemanticAnalyzer.
|
|
||||||
VERSION: 2.9.0 (Feat: Hybrid Strict Splitting with Size Safety)
|
|
||||||
STATUS: Active
|
|
||||||
DEPENDENCIES: app.services.semantic_analyzer, app.core.derive_edges, markdown_it, yaml, asyncio
|
|
||||||
EXTERNAL_CONFIG: config/types.yaml
|
|
||||||
LAST_ANALYSIS: 2025-12-16
|
|
||||||
"""
|
|
||||||
|
|
||||||
from __future__ import annotations
|
|
||||||
from dataclasses import dataclass
|
|
||||||
from typing import List, Dict, Optional, Tuple, Any, Set
|
|
||||||
import re
|
|
||||||
import math
|
|
||||||
import yaml
|
|
||||||
from pathlib import Path
|
|
||||||
import asyncio
|
|
||||||
import logging
|
|
||||||
|
|
||||||
# Services
|
|
||||||
from app.services.semantic_analyzer import get_semantic_analyzer
|
|
||||||
|
|
||||||
# Core Imports
|
|
||||||
try:
|
|
||||||
from app.core.derive_edges import build_edges_for_note
|
|
||||||
except ImportError:
|
|
||||||
# Mock für Tests
|
|
||||||
def build_edges_for_note(note_id, chunks, note_level_references=None, include_note_scope_refs=False): return []
|
|
||||||
|
|
||||||
logger = logging.getLogger(__name__)
|
|
||||||
|
|
||||||
# ==========================================
|
|
||||||
# 1. HELPER & CONFIG
|
|
||||||
# ==========================================
|
|
||||||
|
|
||||||
BASE_DIR = Path(__file__).resolve().parent.parent.parent
|
|
||||||
CONFIG_PATH = BASE_DIR / "config" / "types.yaml"
|
|
||||||
DEFAULT_PROFILE = {"strategy": "sliding_window", "target": 400, "max": 600, "overlap": (50, 80)}
|
|
||||||
_CONFIG_CACHE = None
|
|
||||||
|
|
||||||
def _load_yaml_config() -> Dict[str, Any]:
|
|
||||||
global _CONFIG_CACHE
|
|
||||||
if _CONFIG_CACHE is not None: return _CONFIG_CACHE
|
|
||||||
if not CONFIG_PATH.exists(): return {}
|
|
||||||
try:
|
|
||||||
with open(CONFIG_PATH, "r", encoding="utf-8") as f:
|
|
||||||
data = yaml.safe_load(f)
|
|
||||||
_CONFIG_CACHE = data
|
|
||||||
return data
|
|
||||||
except Exception: return {}
|
|
||||||
|
|
||||||
def get_chunk_config(note_type: str) -> Dict[str, Any]:
|
|
||||||
full_config = _load_yaml_config()
|
|
||||||
profiles = full_config.get("chunking_profiles", {})
|
|
||||||
type_def = full_config.get("types", {}).get(note_type.lower(), {})
|
|
||||||
profile_name = type_def.get("chunking_profile")
|
|
||||||
if not profile_name:
|
|
||||||
profile_name = full_config.get("defaults", {}).get("chunking_profile", "sliding_standard")
|
|
||||||
|
|
||||||
config = profiles.get(profile_name, DEFAULT_PROFILE).copy()
|
|
||||||
if "overlap" in config and isinstance(config["overlap"], list):
|
|
||||||
config["overlap"] = tuple(config["overlap"])
|
|
||||||
return config
|
|
||||||
|
|
||||||
def extract_frontmatter_from_text(md_text: str) -> Tuple[Dict[str, Any], str]:
|
|
||||||
fm_match = re.match(r'^\s*---\s*\n(.*?)\n---', md_text, re.DOTALL)
|
|
||||||
if not fm_match: return {}, md_text
|
|
||||||
try:
|
|
||||||
frontmatter = yaml.safe_load(fm_match.group(1))
|
|
||||||
if not isinstance(frontmatter, dict): frontmatter = {}
|
|
||||||
except yaml.YAMLError:
|
|
||||||
frontmatter = {}
|
|
||||||
text_without_fm = re.sub(r'^\s*---\s*\n(.*?)\n---', '', md_text, flags=re.DOTALL)
|
|
||||||
return frontmatter, text_without_fm.strip()
|
|
||||||
|
|
||||||
# ==========================================
|
|
||||||
# 2. DATA CLASSES
|
|
||||||
# ==========================================
|
|
||||||
|
|
||||||
_SENT_SPLIT = re.compile(r'(?<=[.!?])\s+(?=[A-ZÄÖÜ0-9„(])'); _WS = re.compile(r'\s+')
|
|
||||||
|
|
||||||
def estimate_tokens(text: str) -> int:
|
|
||||||
return max(1, math.ceil(len(text.strip()) / 4))
|
|
||||||
|
|
||||||
def split_sentences(text: str) -> list[str]:
|
|
||||||
text = _WS.sub(' ', text.strip())
|
|
||||||
if not text: return []
|
|
||||||
parts = _SENT_SPLIT.split(text)
|
|
||||||
return [p.strip() for p in parts if p.strip()]
|
|
||||||
|
|
||||||
@dataclass
|
|
||||||
class RawBlock:
|
|
||||||
kind: str; text: str; level: Optional[int]; section_path: str; section_title: Optional[str]
|
|
||||||
|
|
||||||
@dataclass
|
|
||||||
class Chunk:
|
|
||||||
id: str; note_id: str; index: int; text: str; window: str; token_count: int
|
|
||||||
section_title: Optional[str]; section_path: str
|
|
||||||
neighbors_prev: Optional[str]; neighbors_next: Optional[str]
|
|
||||||
suggested_edges: Optional[List[str]] = None
|
|
||||||
|
|
||||||
# ==========================================
|
|
||||||
# 3. PARSING & STRATEGIES
|
|
||||||
# ==========================================
|
|
||||||
|
|
||||||
def parse_blocks(md_text: str) -> Tuple[List[RawBlock], str]:
|
|
||||||
"""Zerlegt Text in logische Blöcke (Absätze, Header)."""
|
|
||||||
blocks = []
|
|
||||||
h1_title = "Dokument"
|
|
||||||
section_path = "/"
|
|
||||||
current_h2 = None
|
|
||||||
|
|
||||||
fm, text_without_fm = extract_frontmatter_from_text(md_text)
|
|
||||||
|
|
||||||
h1_match = re.search(r'^#\s+(.*)', text_without_fm, re.MULTILINE)
|
|
||||||
if h1_match:
|
|
||||||
h1_title = h1_match.group(1).strip()
|
|
||||||
|
|
||||||
lines = text_without_fm.split('\n')
|
|
||||||
buffer = []
|
|
||||||
|
|
||||||
for line in lines:
|
|
||||||
stripped = line.strip()
|
|
||||||
if stripped.startswith('# '):
|
|
||||||
if buffer:
|
|
||||||
content = "\n".join(buffer).strip()
|
|
||||||
if content:
|
|
||||||
blocks.append(RawBlock("paragraph", content, None, section_path, current_h2))
|
|
||||||
buffer = []
|
|
||||||
blocks.append(RawBlock("heading", stripped, 1, section_path, current_h2))
|
|
||||||
|
|
||||||
elif stripped.startswith('## '):
|
|
||||||
if buffer:
|
|
||||||
content = "\n".join(buffer).strip()
|
|
||||||
if content:
|
|
||||||
blocks.append(RawBlock("paragraph", content, None, section_path, current_h2))
|
|
||||||
buffer = []
|
|
||||||
current_h2 = stripped[3:].strip()
|
|
||||||
section_path = f"/{current_h2}"
|
|
||||||
blocks.append(RawBlock("heading", stripped, 2, section_path, current_h2))
|
|
||||||
|
|
||||||
elif stripped.startswith('### '):
|
|
||||||
if buffer:
|
|
||||||
content = "\n".join(buffer).strip()
|
|
||||||
if content:
|
|
||||||
blocks.append(RawBlock("paragraph", content, None, section_path, current_h2))
|
|
||||||
buffer = []
|
|
||||||
blocks.append(RawBlock("heading", stripped, 3, section_path, current_h2))
|
|
||||||
|
|
||||||
elif not stripped:
|
|
||||||
if buffer:
|
|
||||||
content = "\n".join(buffer).strip()
|
|
||||||
if content:
|
|
||||||
blocks.append(RawBlock("paragraph", content, None, section_path, current_h2))
|
|
||||||
buffer = []
|
|
||||||
else:
|
|
||||||
buffer.append(line)
|
|
||||||
|
|
||||||
if buffer:
|
|
||||||
content = "\n".join(buffer).strip()
|
|
||||||
if content:
|
|
||||||
blocks.append(RawBlock("paragraph", content, None, section_path, current_h2))
|
|
||||||
|
|
||||||
return blocks, h1_title
|
|
||||||
|
|
||||||
def _create_chunk_obj(chunks_list: List[Chunk], note_id: str, txt: str, win: str, sec: Optional[str], path: str):
|
|
||||||
idx = len(chunks_list)
|
|
||||||
chunks_list.append(Chunk(
|
|
||||||
id=f"{note_id}#c{idx:02d}", note_id=note_id, index=idx,
|
|
||||||
text=txt, window=win, token_count=estimate_tokens(txt),
|
|
||||||
section_title=sec, section_path=path, neighbors_prev=None, neighbors_next=None,
|
|
||||||
suggested_edges=[]
|
|
||||||
))
|
|
||||||
|
|
||||||
def _strategy_sliding_window(blocks: List[RawBlock], config: Dict[str, Any], note_id: str, doc_title: str = "", context_prefix: str = "") -> List[Chunk]:
|
|
||||||
target = config.get("target", 400)
|
|
||||||
max_tokens = config.get("max", 600)
|
|
||||||
overlap_val = config.get("overlap", (50, 80))
|
|
||||||
overlap = sum(overlap_val) // 2 if isinstance(overlap_val, tuple) else overlap_val
|
|
||||||
chunks = []; buf = []
|
|
||||||
|
|
||||||
def flush_buffer():
|
|
||||||
nonlocal buf
|
|
||||||
if not buf: return
|
|
||||||
|
|
||||||
text_body = "\n\n".join([b.text for b in buf])
|
|
||||||
win_body = f"{context_prefix}\n{text_body}".strip() if context_prefix else text_body
|
|
||||||
|
|
||||||
# Basis-Info vom ersten Block im Buffer
|
|
||||||
sec = buf[0].section_title if buf else None
|
|
||||||
path = buf[0].section_path if buf else "/"
|
|
||||||
|
|
||||||
if estimate_tokens(text_body) <= max_tokens:
|
|
||||||
_create_chunk_obj(chunks, note_id, text_body, win_body, sec, path)
|
|
||||||
else:
|
|
||||||
# Fallback: Wenn Block zu groß, intern splitten (Sentence-Level)
|
|
||||||
sentences = split_sentences(text_body)
|
|
||||||
current_chunk_sents = []
|
|
||||||
current_len = 0
|
|
||||||
|
|
||||||
for sent in sentences:
|
|
||||||
sent_len = estimate_tokens(sent)
|
|
||||||
if current_len + sent_len > target and current_chunk_sents:
|
|
||||||
c_txt = " ".join(current_chunk_sents)
|
|
||||||
c_win = f"{context_prefix}\n{c_txt}".strip() if context_prefix else c_txt
|
|
||||||
_create_chunk_obj(chunks, note_id, c_txt, c_win, sec, path)
|
|
||||||
|
|
||||||
overlap_sents = []
|
|
||||||
ov_len = 0
|
|
||||||
for s in reversed(current_chunk_sents):
|
|
||||||
if ov_len + estimate_tokens(s) < overlap:
|
|
||||||
overlap_sents.insert(0, s)
|
|
||||||
ov_len += estimate_tokens(s)
|
|
||||||
else:
|
|
||||||
break
|
|
||||||
|
|
||||||
current_chunk_sents = list(overlap_sents)
|
|
||||||
current_chunk_sents.append(sent)
|
|
||||||
current_len = ov_len + sent_len
|
|
||||||
else:
|
|
||||||
current_chunk_sents.append(sent)
|
|
||||||
current_len += sent_len
|
|
||||||
|
|
||||||
if current_chunk_sents:
|
|
||||||
c_txt = " ".join(current_chunk_sents)
|
|
||||||
c_win = f"{context_prefix}\n{c_txt}".strip() if context_prefix else c_txt
|
|
||||||
_create_chunk_obj(chunks, note_id, c_txt, c_win, sec, path)
|
|
||||||
|
|
||||||
buf = []
|
|
||||||
|
|
||||||
for b in blocks:
|
|
||||||
if b.kind == "heading":
|
|
||||||
flush_buffer()
|
|
||||||
|
|
||||||
current_buf_text = "\n\n".join([x.text for x in buf])
|
|
||||||
if buf and (estimate_tokens(current_buf_text) + estimate_tokens(b.text) >= target):
|
|
||||||
flush_buffer()
|
|
||||||
|
|
||||||
buf.append(b)
|
|
||||||
|
|
||||||
flush_buffer()
|
|
||||||
return chunks
|
|
||||||
|
|
||||||
def _strategy_by_heading(blocks: List[RawBlock], config: Dict[str, Any], note_id: str, doc_title: str = "") -> List[Chunk]:
|
|
||||||
"""
|
|
||||||
MODUS: Structured / Heading Split
|
|
||||||
- split_level: Ebene für logische Trennung (z.B. H2).
|
|
||||||
- strict_heading_split:
|
|
||||||
True: Trennt an jedem Header <= split_level.
|
|
||||||
NEU v2.9: Wenn Inhalt > max_tokens, wird trotzdem gesplittet (Safety Split).
|
|
||||||
False: Fasst zusammen bis 'target' erreicht ist.
|
|
||||||
"""
|
|
||||||
split_level = config.get("split_level", 2)
|
|
||||||
target = config.get("target", 400)
|
|
||||||
max_limit = config.get("max", 600)
|
|
||||||
strict_mode = config.get("strict_heading_split", False)
|
|
||||||
|
|
||||||
chunks = []
|
|
||||||
current_chunk_blocks = []
|
|
||||||
|
|
||||||
context_prefix = f"# {doc_title}"
|
|
||||||
|
|
||||||
def has_content(blk_list):
|
|
||||||
return any(b.kind != "heading" for b in blk_list)
|
|
||||||
|
|
||||||
def flush_current_chunk():
|
|
||||||
nonlocal current_chunk_blocks
|
|
||||||
if not current_chunk_blocks:
|
|
||||||
return
|
|
||||||
|
|
||||||
text_body = "\n\n".join([b.text for b in current_chunk_blocks])
|
|
||||||
win_body = f"{context_prefix}\n{text_body}".strip()
|
|
||||||
|
|
||||||
first_b = current_chunk_blocks[0]
|
|
||||||
sec = first_b.section_title
|
|
||||||
path = first_b.section_path
|
|
||||||
|
|
||||||
_create_chunk_obj(chunks, note_id, text_body, win_body, sec, path)
|
|
||||||
current_chunk_blocks = []
|
|
||||||
|
|
||||||
def get_current_size():
|
|
||||||
txt = "\n\n".join([b.text for b in current_chunk_blocks])
|
|
||||||
return estimate_tokens(txt)
|
|
||||||
|
|
||||||
for b in blocks:
|
|
||||||
# 1. Header Logic (Struktur-Trigger)
|
|
||||||
is_splitter = (b.kind == "heading" and b.level is not None and b.level <= split_level)
|
|
||||||
|
|
||||||
if is_splitter:
|
|
||||||
is_higher_hierarchy = (b.level < split_level)
|
|
||||||
|
|
||||||
if strict_mode:
|
|
||||||
# STRICT:
|
|
||||||
# Wir splitten immer, außer der Vor-Chunk ist leer.
|
|
||||||
if current_chunk_blocks and has_content(current_chunk_blocks):
|
|
||||||
flush_current_chunk()
|
|
||||||
current_chunk_blocks.append(b)
|
|
||||||
else:
|
|
||||||
# SOFT:
|
|
||||||
# Split bei Hierarchie-Wechsel ODER wenn voll.
|
|
||||||
if is_higher_hierarchy:
|
|
||||||
flush_current_chunk()
|
|
||||||
current_chunk_blocks.append(b)
|
|
||||||
elif current_chunk_blocks and get_current_size() >= target:
|
|
||||||
flush_current_chunk()
|
|
||||||
current_chunk_blocks.append(b)
|
|
||||||
else:
|
|
||||||
current_chunk_blocks.append(b)
|
|
||||||
else:
|
|
||||||
# 2. Content Logic (Safety Trigger für Monster-Abschnitte)
|
|
||||||
# Bevor wir den Block anhängen: Würde er das Fass zum Überlaufen bringen?
|
|
||||||
# Wir nutzen hier 'max' als harte Grenze für den Safety-Split.
|
|
||||||
current_size = get_current_size()
|
|
||||||
block_size = estimate_tokens(b.text)
|
|
||||||
|
|
||||||
if current_chunk_blocks and (current_size + block_size > max_limit):
|
|
||||||
# NOTBREMSE: Chunk wird zu groß.
|
|
||||||
# Wir splitten hier, auch wenn kein Header da ist.
|
|
||||||
# Der Kontext (Section Title) bleibt erhalten, da er aus `current_h2` kommt (siehe parse_blocks).
|
|
||||||
flush_current_chunk()
|
|
||||||
current_chunk_blocks.append(b)
|
|
||||||
else:
|
|
||||||
current_chunk_blocks.append(b)
|
|
||||||
|
|
||||||
# Letzten Rest flushen
|
|
||||||
flush_current_chunk()
|
|
||||||
|
|
||||||
return chunks
|
|
||||||
|
|
||||||
# ==========================================
|
|
||||||
# 4. ORCHESTRATION (ASYNC)
|
|
||||||
# ==========================================
|
|
||||||
|
|
||||||
async def assemble_chunks(note_id: str, md_text: str, note_type: str, config: Optional[Dict] = None) -> List[Chunk]:
|
|
||||||
if config is None:
|
|
||||||
config = get_chunk_config(note_type)
|
|
||||||
|
|
||||||
fm, body_text = extract_frontmatter_from_text(md_text)
|
|
||||||
note_status = fm.get("status", "").lower()
|
|
||||||
|
|
||||||
primary_strategy = config.get("strategy", "sliding_window")
|
|
||||||
enable_smart_edges = config.get("enable_smart_edge_allocation", False)
|
|
||||||
|
|
||||||
if enable_smart_edges and note_status in ["draft", "initial_gen"]:
|
|
||||||
logger.info(f"Chunker: Skipping Smart Edges for draft '{note_id}'.")
|
|
||||||
enable_smart_edges = False
|
|
||||||
|
|
||||||
blocks, doc_title = parse_blocks(md_text)
|
|
||||||
|
|
||||||
if primary_strategy == "by_heading":
|
|
||||||
chunks = await asyncio.to_thread(_strategy_by_heading, blocks, config, note_id, doc_title)
|
|
||||||
else:
|
|
||||||
chunks = await asyncio.to_thread(_strategy_sliding_window, blocks, config, note_id, doc_title)
|
|
||||||
|
|
||||||
if not chunks:
|
|
||||||
return []
|
|
||||||
|
|
||||||
if enable_smart_edges:
|
|
||||||
chunks = await _run_smart_edge_allocation(chunks, md_text, note_id, note_type)
|
|
||||||
|
|
||||||
for i, ch in enumerate(chunks):
|
|
||||||
ch.neighbors_prev = chunks[i-1].id if i > 0 else None
|
|
||||||
ch.neighbors_next = chunks[i+1].id if i < len(chunks)-1 else None
|
|
||||||
|
|
||||||
return chunks
|
|
||||||
|
|
||||||
def _extract_all_edges_from_md(md_text: str, note_id: str, note_type: str) -> List[str]:
|
|
||||||
dummy_chunk = {
|
|
||||||
"chunk_id": f"{note_id}#full",
|
|
||||||
"text": md_text,
|
|
||||||
"content": md_text,
|
|
||||||
"window": md_text,
|
|
||||||
"type": note_type
|
|
||||||
}
|
|
||||||
raw_edges = build_edges_for_note(
|
|
||||||
note_id,
|
|
||||||
[dummy_chunk],
|
|
||||||
note_level_references=None,
|
|
||||||
include_note_scope_refs=False
|
|
||||||
)
|
|
||||||
all_candidates = set()
|
|
||||||
for e in raw_edges:
|
|
||||||
kind = e.get("kind")
|
|
||||||
target = e.get("target_id")
|
|
||||||
if target and kind not in ["belongs_to", "next", "prev", "backlink"]:
|
|
||||||
all_candidates.add(f"{kind}:{target}")
|
|
||||||
return list(all_candidates)
|
|
||||||
|
|
||||||
async def _run_smart_edge_allocation(chunks: List[Chunk], full_text: str, note_id: str, note_type: str) -> List[Chunk]:
|
|
||||||
analyzer = get_semantic_analyzer()
|
|
||||||
candidate_list = _extract_all_edges_from_md(full_text, note_id, note_type)
|
|
||||||
|
|
||||||
if not candidate_list:
|
|
||||||
return chunks
|
|
||||||
|
|
||||||
tasks = []
|
|
||||||
for chunk in chunks:
|
|
||||||
tasks.append(analyzer.assign_edges_to_chunk(chunk.text, candidate_list, note_type))
|
|
||||||
|
|
||||||
results_per_chunk = await asyncio.gather(*tasks)
|
|
||||||
|
|
||||||
assigned_edges_global = set()
|
|
||||||
|
|
||||||
for i, confirmed_edges in enumerate(results_per_chunk):
|
|
||||||
chunk = chunks[i]
|
|
||||||
chunk.suggested_edges = confirmed_edges
|
|
||||||
assigned_edges_global.update(confirmed_edges)
|
|
||||||
|
|
||||||
if confirmed_edges:
|
|
||||||
injection_str = "\n" + " ".join([f"[[rel:{e.split(':')[0]}|{e.split(':')[1]}]]" for e in confirmed_edges if ':' in e])
|
|
||||||
chunk.text += injection_str
|
|
||||||
chunk.window += injection_str
|
|
||||||
|
|
||||||
unassigned = set(candidate_list) - assigned_edges_global
|
|
||||||
if unassigned:
|
|
||||||
fallback_str = "\n" + " ".join([f"[[rel:{e.split(':')[0]}|{e.split(':')[1]}]]" for e in unassigned if ':' in e])
|
|
||||||
for chunk in chunks:
|
|
||||||
chunk.text += fallback_str
|
|
||||||
chunk.window += fallback_str
|
|
||||||
if chunk.suggested_edges is None: chunk.suggested_edges = []
|
|
||||||
chunk.suggested_edges.extend(list(unassigned))
|
|
||||||
|
|
||||||
return chunks
|
|
||||||
@@ -0,0 +1,10 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/chunking/__init__.py
|
||||||
|
DESCRIPTION: Package-Einstiegspunkt für Chunking. Exportiert assemble_chunks.
|
||||||
|
VERSION: 3.3.0
|
||||||
|
"""
|
||||||
|
from .chunking_processor import assemble_chunks
|
||||||
|
from .chunking_utils import get_chunk_config, extract_frontmatter_from_text
|
||||||
|
from .chunking_models import Chunk
|
||||||
|
|
||||||
|
__all__ = ["assemble_chunks", "get_chunk_config", "extract_frontmatter_from_text", "Chunk"]
|
||||||
@@ -0,0 +1,31 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/chunking/chunking_models.py
|
||||||
|
DESCRIPTION: Datenklassen für das Chunking-System.
|
||||||
|
"""
|
||||||
|
from dataclasses import dataclass, field
|
||||||
|
from typing import List, Dict, Optional, Any
|
||||||
|
|
||||||
|
@dataclass
|
||||||
|
class RawBlock:
|
||||||
|
"""Repräsentiert einen logischen Block aus dem Markdown-Parsing."""
|
||||||
|
kind: str
|
||||||
|
text: str
|
||||||
|
level: Optional[int]
|
||||||
|
section_path: str
|
||||||
|
section_title: Optional[str]
|
||||||
|
|
||||||
|
@dataclass
|
||||||
|
class Chunk:
|
||||||
|
"""Das finale Chunk-Objekt für Embedding und Graph-Speicherung."""
|
||||||
|
id: str
|
||||||
|
note_id: str
|
||||||
|
index: int
|
||||||
|
text: str
|
||||||
|
window: str
|
||||||
|
token_count: int
|
||||||
|
section_title: Optional[str]
|
||||||
|
section_path: str
|
||||||
|
neighbors_prev: Optional[str]
|
||||||
|
neighbors_next: Optional[str]
|
||||||
|
candidate_pool: List[Dict[str, Any]] = field(default_factory=list)
|
||||||
|
suggested_edges: Optional[List[str]] = None
|
||||||
@@ -0,0 +1,93 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/chunking/chunking_parser.py
|
||||||
|
DESCRIPTION: Zerlegt Markdown in Blöcke und extrahiert Kanten-Strings.
|
||||||
|
"""
|
||||||
|
import re
|
||||||
|
from typing import List, Tuple, Set
|
||||||
|
from .chunking_models import RawBlock
|
||||||
|
from .chunking_utils import extract_frontmatter_from_text
|
||||||
|
|
||||||
|
_WS = re.compile(r'\s+')
|
||||||
|
_SENT_SPLIT = re.compile(r'(?<=[.!?])\s+(?=[A-ZÄÖÜ0-9„(])')
|
||||||
|
|
||||||
|
def split_sentences(text: str) -> list[str]:
|
||||||
|
"""Teilt Text in Sätze auf."""
|
||||||
|
text = _WS.sub(' ', text.strip())
|
||||||
|
if not text: return []
|
||||||
|
return [p.strip() for p in _SENT_SPLIT.split(text) if p.strip()]
|
||||||
|
|
||||||
|
def parse_blocks(md_text: str) -> Tuple[List[RawBlock], str]:
|
||||||
|
"""Zerlegt Text in logische Einheiten."""
|
||||||
|
blocks = []
|
||||||
|
h1_title = "Dokument"; section_path = "/"; current_h2 = None
|
||||||
|
fm, text_without_fm = extract_frontmatter_from_text(md_text)
|
||||||
|
h1_match = re.search(r'^#\s+(.*)', text_without_fm, re.MULTILINE)
|
||||||
|
if h1_match: h1_title = h1_match.group(1).strip()
|
||||||
|
lines = text_without_fm.split('\n')
|
||||||
|
buffer = []
|
||||||
|
|
||||||
|
for line in lines:
|
||||||
|
stripped = line.strip()
|
||||||
|
|
||||||
|
# H1 ignorieren (ist Doc Title)
|
||||||
|
if stripped.startswith('# '):
|
||||||
|
continue
|
||||||
|
|
||||||
|
# Generische Heading-Erkennung (H2 bis H6) für flexible Split-Levels
|
||||||
|
heading_match = re.match(r'^(#{2,6})\s+(.*)', stripped)
|
||||||
|
if heading_match:
|
||||||
|
# Buffer leeren (vorherigen Text abschließen)
|
||||||
|
if buffer:
|
||||||
|
content = "\n".join(buffer).strip()
|
||||||
|
if content: blocks.append(RawBlock("paragraph", content, None, section_path, current_h2))
|
||||||
|
buffer = []
|
||||||
|
|
||||||
|
level = len(heading_match.group(1))
|
||||||
|
title = heading_match.group(2).strip()
|
||||||
|
|
||||||
|
# Pfad-Logik: H2 setzt den Haupt-Pfad
|
||||||
|
if level == 2:
|
||||||
|
current_h2 = title
|
||||||
|
section_path = f"/{current_h2}"
|
||||||
|
# Bei H3+ bleibt der section_path beim Parent, aber das Level wird korrekt gesetzt
|
||||||
|
|
||||||
|
blocks.append(RawBlock("heading", stripped, level, section_path, current_h2))
|
||||||
|
|
||||||
|
elif not stripped:
|
||||||
|
if buffer:
|
||||||
|
content = "\n".join(buffer).strip()
|
||||||
|
if content: blocks.append(RawBlock("paragraph", content, None, section_path, current_h2))
|
||||||
|
buffer = []
|
||||||
|
else:
|
||||||
|
buffer.append(line)
|
||||||
|
|
||||||
|
if buffer:
|
||||||
|
content = "\n".join(buffer).strip()
|
||||||
|
if content: blocks.append(RawBlock("paragraph", content, None, section_path, current_h2))
|
||||||
|
return blocks, h1_title
|
||||||
|
|
||||||
|
def parse_edges_robust(text: str) -> Set[str]:
|
||||||
|
"""Extrahiert Kanten-Kandidaten (Wikilinks, Callouts)."""
|
||||||
|
found_edges = set()
|
||||||
|
inlines = re.findall(r'\[\[rel:([^\|\]]+)\|?([^\]]*)\]\]', text)
|
||||||
|
for kind, target in inlines:
|
||||||
|
k = kind.strip().lower()
|
||||||
|
t = target.strip()
|
||||||
|
if k and t: found_edges.add(f"{k}:{t}")
|
||||||
|
lines = text.split('\n')
|
||||||
|
current_edge_type = None
|
||||||
|
for line in lines:
|
||||||
|
stripped = line.strip()
|
||||||
|
callout_match = re.match(r'>\s*\[!edge\]\s*([^:\s]+)', stripped)
|
||||||
|
if callout_match:
|
||||||
|
current_edge_type = callout_match.group(1).strip().lower()
|
||||||
|
links = re.findall(r'\[\[([^\]]+)\]\]', stripped)
|
||||||
|
for l in links:
|
||||||
|
if "rel:" not in l: found_edges.add(f"{current_edge_type}:{l}")
|
||||||
|
continue
|
||||||
|
if current_edge_type and stripped.startswith('>'):
|
||||||
|
links = re.findall(r'\[\[([^\]]+)\]\]', stripped)
|
||||||
|
for l in links:
|
||||||
|
if "rel:" not in l: found_edges.add(f"{current_edge_type}:{l}")
|
||||||
|
elif not stripped.startswith('>'): current_edge_type = None
|
||||||
|
return found_edges
|
||||||
@@ -0,0 +1,94 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/chunking/chunking_processor.py
|
||||||
|
DESCRIPTION: Der zentrale Orchestrator für das Chunking-System.
|
||||||
|
AUDIT v3.3.3: Wiederherstellung der "Gold-Standard" Qualität.
|
||||||
|
- Integriert physikalische Kanten-Injektion (Propagierung).
|
||||||
|
- Stellt H1-Kontext-Fenster sicher.
|
||||||
|
- Baut den Candidate-Pool für die WP-15b Ingestion auf.
|
||||||
|
"""
|
||||||
|
import asyncio
|
||||||
|
import re
|
||||||
|
import logging
|
||||||
|
from typing import List, Dict, Optional
|
||||||
|
from .chunking_models import Chunk
|
||||||
|
from .chunking_utils import get_chunk_config, extract_frontmatter_from_text
|
||||||
|
from .chunking_parser import parse_blocks, parse_edges_robust
|
||||||
|
from .chunking_strategies import strategy_sliding_window, strategy_by_heading
|
||||||
|
from .chunking_propagation import propagate_section_edges
|
||||||
|
|
||||||
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
|
async def assemble_chunks(note_id: str, md_text: str, note_type: str, config: Optional[Dict] = None) -> List[Chunk]:
|
||||||
|
"""
|
||||||
|
Hauptfunktion zur Zerlegung einer Note.
|
||||||
|
Verbindet Strategien mit physikalischer Kontext-Anreicherung.
|
||||||
|
"""
|
||||||
|
# 1. Konfiguration & Parsing
|
||||||
|
if config is None:
|
||||||
|
config = get_chunk_config(note_type)
|
||||||
|
|
||||||
|
fm, body_text = extract_frontmatter_from_text(md_text)
|
||||||
|
blocks, doc_title = parse_blocks(md_text)
|
||||||
|
|
||||||
|
# Vorbereitung des H1-Präfix für die Embedding-Fenster
|
||||||
|
h1_prefix = f"# {doc_title}" if doc_title else ""
|
||||||
|
|
||||||
|
# 2. Anwendung der Splitting-Strategie
|
||||||
|
# Wir übergeben den Dokument-Titel/Präfix für die Window-Bildung.
|
||||||
|
if config.get("strategy") == "by_heading":
|
||||||
|
chunks = await asyncio.to_thread(strategy_by_heading, blocks, config, note_id, doc_title)
|
||||||
|
else:
|
||||||
|
# sliding_window nutzt nun den context_prefix für das Window-Feld.
|
||||||
|
chunks = await asyncio.to_thread(strategy_sliding_window, blocks, config, note_id, context_prefix=h1_prefix)
|
||||||
|
|
||||||
|
if not chunks:
|
||||||
|
return []
|
||||||
|
|
||||||
|
# 3. Physikalische Kontext-Anreicherung (Der Qualitäts-Fix)
|
||||||
|
# Schreibt Kanten aus Callouts/Inlines hart in den Text für Qdrant.
|
||||||
|
chunks = propagate_section_edges(chunks)
|
||||||
|
|
||||||
|
# 4. WP-15b: Candidate Pool Aufbau (Metadaten für IngestionService)
|
||||||
|
# Zuerst die explizit im Text vorhandenen Kanten sammeln.
|
||||||
|
for ch in chunks:
|
||||||
|
# Wir extrahieren aus dem bereits (durch Propagation) angereicherten Text.
|
||||||
|
for e_str in parse_edges_robust(ch.text):
|
||||||
|
parts = e_str.split(':', 1)
|
||||||
|
if len(parts) == 2:
|
||||||
|
k, t = parts
|
||||||
|
ch.candidate_pool.append({"kind": k, "to": t, "provenance": "explicit"})
|
||||||
|
|
||||||
|
# 5. Global Pool (Unzugeordnete Kanten aus dem Dokument-Ende)
|
||||||
|
# Sucht nach dem Edge-Pool Block im Original-Markdown.
|
||||||
|
pool_match = re.search(
|
||||||
|
r'###?\s*(?:Unzugeordnete Kanten|Edge Pool|Candidates)\s*\n(.*?)(?:\n#|$)',
|
||||||
|
body_text,
|
||||||
|
re.DOTALL | re.IGNORECASE
|
||||||
|
)
|
||||||
|
if pool_match:
|
||||||
|
global_edges = parse_edges_robust(pool_match.group(1))
|
||||||
|
for e_str in global_edges:
|
||||||
|
parts = e_str.split(':', 1)
|
||||||
|
if len(parts) == 2:
|
||||||
|
k, t = parts
|
||||||
|
# Diese Kanten werden als "Global Pool" markiert für die spätere KI-Prüfung.
|
||||||
|
for ch in chunks:
|
||||||
|
ch.candidate_pool.append({"kind": k, "to": t, "provenance": "global_pool"})
|
||||||
|
|
||||||
|
# 6. De-Duplikation des Pools & Linking
|
||||||
|
for ch in chunks:
|
||||||
|
seen = set()
|
||||||
|
unique = []
|
||||||
|
for c in ch.candidate_pool:
|
||||||
|
key = (c["kind"], c["to"], c["provenance"])
|
||||||
|
if key not in seen:
|
||||||
|
seen.add(key)
|
||||||
|
unique.append(c)
|
||||||
|
ch.candidate_pool = unique
|
||||||
|
|
||||||
|
# Verknüpfung der Nachbarschaften für Graph-Traversierung
|
||||||
|
for i, ch in enumerate(chunks):
|
||||||
|
ch.neighbors_prev = chunks[i-1].id if i > 0 else None
|
||||||
|
ch.neighbors_next = chunks[i+1].id if i < len(chunks)-1 else None
|
||||||
|
|
||||||
|
return chunks
|
||||||
@@ -0,0 +1,59 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/chunking/chunking_propagation.py
|
||||||
|
DESCRIPTION: Injiziert Sektions-Kanten physisch in den Text (Embedding-Enrichment).
|
||||||
|
Stellt die "Gold-Standard"-Qualität von v3.1.0 wieder her.
|
||||||
|
VERSION: 3.3.1
|
||||||
|
STATUS: Active
|
||||||
|
"""
|
||||||
|
from typing import List, Dict, Set
|
||||||
|
from .chunking_models import Chunk
|
||||||
|
from .chunking_parser import parse_edges_robust
|
||||||
|
|
||||||
|
def propagate_section_edges(chunks: List[Chunk]) -> List[Chunk]:
|
||||||
|
"""
|
||||||
|
Sammelt Kanten pro Sektion und schreibt sie hart in den Text und das Window.
|
||||||
|
Dies ist essenziell für die Vektorisierung der Beziehungen.
|
||||||
|
"""
|
||||||
|
# 1. Sammeln: Alle expliziten Kanten pro Sektions-Pfad aggregieren
|
||||||
|
section_map: Dict[str, Set[str]] = {} # path -> set(kind:target)
|
||||||
|
|
||||||
|
for ch in chunks:
|
||||||
|
# Root-Level "/" ignorieren (zu global), Fokus auf spezifische Kapitel
|
||||||
|
if not ch.section_path or ch.section_path == "/":
|
||||||
|
continue
|
||||||
|
|
||||||
|
# Nutzt den robusten Parser aus dem Package
|
||||||
|
edges = parse_edges_robust(ch.text)
|
||||||
|
if edges:
|
||||||
|
if ch.section_path not in section_map:
|
||||||
|
section_map[ch.section_path] = set()
|
||||||
|
section_map[ch.section_path].update(edges)
|
||||||
|
|
||||||
|
# 2. Injizieren: Kanten in jeden Chunk der Sektion zurückschreiben (Broadcasting)
|
||||||
|
for ch in chunks:
|
||||||
|
if ch.section_path in section_map:
|
||||||
|
edges_to_add = section_map[ch.section_path]
|
||||||
|
if not edges_to_add:
|
||||||
|
continue
|
||||||
|
|
||||||
|
injections = []
|
||||||
|
for e_str in edges_to_add:
|
||||||
|
kind, target = e_str.split(':', 1)
|
||||||
|
# Nur injizieren, wenn die Kante nicht bereits im Text steht
|
||||||
|
token = f"[[rel:{kind}|{target}]]"
|
||||||
|
if token not in ch.text:
|
||||||
|
injections.append(token)
|
||||||
|
|
||||||
|
if injections:
|
||||||
|
# Physische Anreicherung (Der v3.1.0 Qualitäts-Fix)
|
||||||
|
# Triple-Newline für saubere Trennung im Embedding-Fenster
|
||||||
|
block = "\n\n\n" + " ".join(injections)
|
||||||
|
ch.text += block
|
||||||
|
|
||||||
|
# ENTSCHEIDEND: Auch ins Window schreiben, da Qdrant hier sucht!
|
||||||
|
if ch.window:
|
||||||
|
ch.window += block
|
||||||
|
else:
|
||||||
|
ch.window = ch.text
|
||||||
|
|
||||||
|
return chunks
|
||||||
@@ -0,0 +1,142 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/chunking/chunking_strategies.py
|
||||||
|
DESCRIPTION: Mathematische Splitting-Strategien.
|
||||||
|
AUDIT v3.3.2: 100% Konformität zur 'by_heading' Spezifikation.
|
||||||
|
- Implementiert Hybrid-Safety-Net (Sliding Window für Übergrößen).
|
||||||
|
- Breadcrumb-Kontext im Window (H1 > H2).
|
||||||
|
- Sliding Window mit H1-Kontext (Gold-Standard v3.1.0).
|
||||||
|
"""
|
||||||
|
from typing import List, Dict, Any, Optional
|
||||||
|
from .chunking_models import RawBlock, Chunk
|
||||||
|
from .chunking_utils import estimate_tokens
|
||||||
|
from .chunking_parser import split_sentences
|
||||||
|
|
||||||
|
def _create_context_win(doc_title: str, sec_title: Optional[str], text: str) -> str:
|
||||||
|
"""Baut den Breadcrumb-Kontext für das Embedding-Fenster."""
|
||||||
|
parts = []
|
||||||
|
if doc_title: parts.append(doc_title)
|
||||||
|
if sec_title and sec_title != doc_title: parts.append(sec_title)
|
||||||
|
prefix = " > ".join(parts)
|
||||||
|
return f"{prefix}\n{text}".strip() if prefix else text
|
||||||
|
|
||||||
|
def strategy_sliding_window(blocks: List[RawBlock],
|
||||||
|
config: Dict[str, Any],
|
||||||
|
note_id: str,
|
||||||
|
context_prefix: str = "") -> List[Chunk]:
|
||||||
|
"""
|
||||||
|
Fasst Blöcke zusammen und schneidet bei 'target' Tokens.
|
||||||
|
Ignoriert H2-Überschriften beim Splitting, um Kontext zu wahren.
|
||||||
|
"""
|
||||||
|
target = config.get("target", 400)
|
||||||
|
max_tokens = config.get("max", 600)
|
||||||
|
overlap_val = config.get("overlap", (50, 80))
|
||||||
|
overlap = sum(overlap_val) // 2 if isinstance(overlap_val, tuple) else overlap_val
|
||||||
|
|
||||||
|
chunks: List[Chunk] = []
|
||||||
|
buf: List[RawBlock] = []
|
||||||
|
|
||||||
|
def _add(txt, sec, path):
|
||||||
|
idx = len(chunks)
|
||||||
|
# H1-Kontext Präfix für das Window-Feld
|
||||||
|
win = f"{context_prefix}\n{txt}".strip() if context_prefix else txt
|
||||||
|
chunks.append(Chunk(
|
||||||
|
id=f"{note_id}#c{idx:02d}", note_id=note_id, index=idx,
|
||||||
|
text=txt, window=win, token_count=estimate_tokens(txt),
|
||||||
|
section_title=sec, section_path=path,
|
||||||
|
neighbors_prev=None, neighbors_next=None
|
||||||
|
))
|
||||||
|
|
||||||
|
def flush():
|
||||||
|
nonlocal buf
|
||||||
|
if not buf: return
|
||||||
|
text_body = "\n\n".join([b.text for b in buf])
|
||||||
|
sec_title = buf[-1].section_title; sec_path = buf[-1].section_path
|
||||||
|
|
||||||
|
if estimate_tokens(text_body) <= max_tokens:
|
||||||
|
_add(text_body, sec_title, sec_path)
|
||||||
|
else:
|
||||||
|
sents = split_sentences(text_body); cur_sents = []; cur_len = 0
|
||||||
|
for s in sents:
|
||||||
|
slen = estimate_tokens(s)
|
||||||
|
if cur_len + slen > target and cur_sents:
|
||||||
|
_add(" ".join(cur_sents), sec_title, sec_path)
|
||||||
|
ov_s = []; ov_l = 0
|
||||||
|
for os in reversed(cur_sents):
|
||||||
|
if ov_l + estimate_tokens(os) < overlap:
|
||||||
|
ov_s.insert(0, os); ov_l += estimate_tokens(os)
|
||||||
|
else: break
|
||||||
|
cur_sents = list(ov_s); cur_sents.append(s); cur_len = ov_l + slen
|
||||||
|
else:
|
||||||
|
cur_sents.append(s); cur_len += slen
|
||||||
|
if cur_sents:
|
||||||
|
_add(" ".join(cur_sents), sec_title, sec_path)
|
||||||
|
buf = []
|
||||||
|
|
||||||
|
for b in blocks:
|
||||||
|
# H2-Überschriften werden ignoriert, um den Zusammenhang zu wahren
|
||||||
|
if b.kind == "heading": continue
|
||||||
|
if estimate_tokens("\n\n".join([x.text for x in buf])) + estimate_tokens(b.text) >= target:
|
||||||
|
flush()
|
||||||
|
buf.append(b)
|
||||||
|
flush()
|
||||||
|
return chunks
|
||||||
|
|
||||||
|
def strategy_by_heading(blocks: List[RawBlock], config: Dict[str, Any], note_id: str, doc_title: str = "") -> List[Chunk]:
|
||||||
|
"""
|
||||||
|
Splittet Text basierend auf Markdown-Überschriften mit Hybrid-Safety-Net.
|
||||||
|
"""
|
||||||
|
strict = config.get("strict_heading_split", False)
|
||||||
|
target = config.get("target", 400)
|
||||||
|
max_tokens = config.get("max", 600)
|
||||||
|
split_level = config.get("split_level", 2)
|
||||||
|
overlap = sum(config.get("overlap", (50, 80))) // 2
|
||||||
|
|
||||||
|
chunks: List[Chunk] = []
|
||||||
|
buf: List[str] = []
|
||||||
|
cur_tokens = 0
|
||||||
|
|
||||||
|
def _add_to_chunks(txt, title, path):
|
||||||
|
idx = len(chunks)
|
||||||
|
win = _create_context_win(doc_title, title, txt)
|
||||||
|
chunks.append(Chunk(
|
||||||
|
id=f"{note_id}#c{idx:02d}", note_id=note_id, index=idx,
|
||||||
|
text=txt, window=win, token_count=estimate_tokens(txt),
|
||||||
|
section_title=title, section_path=path,
|
||||||
|
neighbors_prev=None, neighbors_next=None
|
||||||
|
))
|
||||||
|
|
||||||
|
def _flush(title, path):
|
||||||
|
nonlocal buf, cur_tokens
|
||||||
|
if not buf: return
|
||||||
|
full_text = "\n\n".join(buf)
|
||||||
|
if estimate_tokens(full_text) <= max_tokens:
|
||||||
|
_add_to_chunks(full_text, title, path)
|
||||||
|
else:
|
||||||
|
sents = split_sentences(full_text); cur_sents = []; sub_len = 0
|
||||||
|
for s in sents:
|
||||||
|
slen = estimate_tokens(s)
|
||||||
|
if sub_len + slen > target and cur_sents:
|
||||||
|
_add_to_chunks(" ".join(cur_sents), title, path)
|
||||||
|
ov_s = []; ov_l = 0
|
||||||
|
for os in reversed(cur_sents):
|
||||||
|
if ov_l + estimate_tokens(os) < overlap:
|
||||||
|
ov_s.insert(0, os); ov_l += estimate_tokens(os)
|
||||||
|
else: break
|
||||||
|
cur_sents = list(ov_s); cur_sents.append(s); sub_len = ov_l + slen
|
||||||
|
else: cur_sents.append(s); sub_len += slen
|
||||||
|
if cur_sents: _add_to_chunks(" ".join(cur_sents), title, path)
|
||||||
|
buf = []; cur_tokens = 0
|
||||||
|
|
||||||
|
for b in blocks:
|
||||||
|
if b.kind == "heading":
|
||||||
|
if b.level < split_level: _flush(b.section_title, b.section_path)
|
||||||
|
elif b.level == split_level:
|
||||||
|
if strict or cur_tokens >= target: _flush(b.section_title, b.section_path)
|
||||||
|
continue
|
||||||
|
bt = estimate_tokens(b.text)
|
||||||
|
if cur_tokens + bt > max_tokens and buf: _flush(b.section_title, b.section_path)
|
||||||
|
buf.append(b.text); cur_tokens += bt
|
||||||
|
if buf:
|
||||||
|
last_b = blocks[-1] if blocks else None
|
||||||
|
_flush(last_b.section_title if last_b else None, last_b.section_path if last_b else "/")
|
||||||
|
return chunks
|
||||||
@@ -0,0 +1,55 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/chunking/chunking_utils.py
|
||||||
|
DESCRIPTION: Hilfswerkzeuge für Token-Schätzung und YAML-Konfiguration.
|
||||||
|
"""
|
||||||
|
import math
|
||||||
|
import yaml
|
||||||
|
import logging
|
||||||
|
from pathlib import Path
|
||||||
|
from typing import Dict, Any, Tuple
|
||||||
|
|
||||||
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
|
BASE_DIR = Path(__file__).resolve().parent.parent.parent.parent
|
||||||
|
CONFIG_PATH = BASE_DIR / "config" / "types.yaml"
|
||||||
|
DEFAULT_PROFILE = {"strategy": "sliding_window", "target": 400, "max": 600, "overlap": (50, 80)}
|
||||||
|
|
||||||
|
_CONFIG_CACHE = None
|
||||||
|
|
||||||
|
def load_yaml_config() -> Dict[str, Any]:
|
||||||
|
global _CONFIG_CACHE
|
||||||
|
if _CONFIG_CACHE is not None: return _CONFIG_CACHE
|
||||||
|
if not CONFIG_PATH.exists(): return {}
|
||||||
|
try:
|
||||||
|
with open(CONFIG_PATH, "r", encoding="utf-8") as f:
|
||||||
|
data = yaml.safe_load(f)
|
||||||
|
_CONFIG_CACHE = data
|
||||||
|
return data
|
||||||
|
except Exception: return {}
|
||||||
|
|
||||||
|
def get_chunk_config(note_type: str) -> Dict[str, Any]:
|
||||||
|
"""Lädt die Chunking-Strategie basierend auf dem Note-Type."""
|
||||||
|
full_config = load_yaml_config()
|
||||||
|
profiles = full_config.get("chunking_profiles", {})
|
||||||
|
type_def = full_config.get("types", {}).get(note_type.lower(), {})
|
||||||
|
profile_name = type_def.get("chunking_profile") or full_config.get("defaults", {}).get("chunking_profile", "sliding_standard")
|
||||||
|
config = profiles.get(profile_name, DEFAULT_PROFILE).copy()
|
||||||
|
if "overlap" in config and isinstance(config["overlap"], list):
|
||||||
|
config["overlap"] = tuple(config["overlap"])
|
||||||
|
return config
|
||||||
|
|
||||||
|
def estimate_tokens(text: str) -> int:
|
||||||
|
"""Grobe Schätzung der Token-Anzahl."""
|
||||||
|
return max(1, math.ceil(len(text.strip()) / 4))
|
||||||
|
|
||||||
|
def extract_frontmatter_from_text(md_text: str) -> Tuple[Dict[str, Any], str]:
|
||||||
|
"""Trennt YAML-Frontmatter vom Text."""
|
||||||
|
import re
|
||||||
|
fm_match = re.match(r'^\s*---\s*\n(.*?)\n---', md_text, re.DOTALL)
|
||||||
|
if not fm_match: return {}, md_text
|
||||||
|
try:
|
||||||
|
frontmatter = yaml.safe_load(fm_match.group(1))
|
||||||
|
if not isinstance(frontmatter, dict): frontmatter = {}
|
||||||
|
except Exception: frontmatter = {}
|
||||||
|
text_without_fm = re.sub(r'^\s*---\s*\n(.*?)\n---', '', md_text, flags=re.DOTALL)
|
||||||
|
return frontmatter, text_without_fm.strip()
|
||||||
@@ -0,0 +1,35 @@
|
|||||||
|
"""
|
||||||
|
PACKAGE: app.core.database
|
||||||
|
DESCRIPTION: Zentrale Schnittstelle für alle Datenbank-Operationen (Qdrant).
|
||||||
|
Bündelt Client-Initialisierung und Point-Konvertierung.
|
||||||
|
"""
|
||||||
|
from .qdrant import (
|
||||||
|
QdrantConfig,
|
||||||
|
get_client,
|
||||||
|
ensure_collections,
|
||||||
|
ensure_payload_indexes,
|
||||||
|
collection_names
|
||||||
|
)
|
||||||
|
from .qdrant_points import (
|
||||||
|
points_for_note,
|
||||||
|
points_for_chunks,
|
||||||
|
points_for_edges,
|
||||||
|
upsert_batch,
|
||||||
|
get_edges_for_sources,
|
||||||
|
search_chunks_by_vector
|
||||||
|
)
|
||||||
|
|
||||||
|
# Öffentlicher Export für das Gesamtsystem
|
||||||
|
__all__ = [
|
||||||
|
"QdrantConfig",
|
||||||
|
"get_client",
|
||||||
|
"ensure_collections",
|
||||||
|
"ensure_payload_indexes",
|
||||||
|
"collection_names",
|
||||||
|
"points_for_note",
|
||||||
|
"points_for_chunks",
|
||||||
|
"points_for_edges",
|
||||||
|
"upsert_batch",
|
||||||
|
"get_edges_for_sources",
|
||||||
|
"search_chunks_by_vector"
|
||||||
|
]
|
||||||
@@ -1,20 +1,23 @@
|
|||||||
"""
|
"""
|
||||||
FILE: app/core/qdrant.py
|
FILE: app/core/database/qdrant.py
|
||||||
DESCRIPTION: Qdrant-Client Factory und Schema-Management. Erstellt Collections und Payload-Indizes.
|
DESCRIPTION: Qdrant-Client Factory und Schema-Management.
|
||||||
VERSION: 2.2.0
|
Erstellt Collections und Payload-Indizes.
|
||||||
|
MODULARISIERUNG: Verschoben in das database-Paket für WP-14.
|
||||||
|
VERSION: 2.2.1
|
||||||
STATUS: Active
|
STATUS: Active
|
||||||
DEPENDENCIES: qdrant_client, dataclasses, os
|
DEPENDENCIES: qdrant_client, dataclasses, os
|
||||||
LAST_ANALYSIS: 2025-12-15
|
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|
||||||
import os
|
import os
|
||||||
|
import logging
|
||||||
from dataclasses import dataclass
|
from dataclasses import dataclass
|
||||||
from typing import Optional, Tuple, Dict, List
|
from typing import Optional, Tuple, Dict, List
|
||||||
|
|
||||||
from qdrant_client import QdrantClient
|
from qdrant_client import QdrantClient
|
||||||
from qdrant_client.http import models as rest
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
# ---------------------------------------------------------------------------
|
# ---------------------------------------------------------------------------
|
||||||
# Konfiguration
|
# Konfiguration
|
||||||
@@ -22,6 +25,7 @@ from qdrant_client.http import models as rest
|
|||||||
|
|
||||||
@dataclass
|
@dataclass
|
||||||
class QdrantConfig:
|
class QdrantConfig:
|
||||||
|
"""Konfigurationsobjekt für den Qdrant-Verbindungsaufbau."""
|
||||||
host: Optional[str] = None
|
host: Optional[str] = None
|
||||||
port: Optional[int] = None
|
port: Optional[int] = None
|
||||||
url: Optional[str] = None
|
url: Optional[str] = None
|
||||||
@@ -33,6 +37,7 @@ class QdrantConfig:
|
|||||||
|
|
||||||
@classmethod
|
@classmethod
|
||||||
def from_env(cls) -> "QdrantConfig":
|
def from_env(cls) -> "QdrantConfig":
|
||||||
|
"""Erstellt die Konfiguration aus Umgebungsvariablen."""
|
||||||
# Entweder URL ODER Host/Port, API-Key optional
|
# Entweder URL ODER Host/Port, API-Key optional
|
||||||
url = os.getenv("QDRANT_URL") or None
|
url = os.getenv("QDRANT_URL") or None
|
||||||
host = os.getenv("QDRANT_HOST") or None
|
host = os.getenv("QDRANT_HOST") or None
|
||||||
@@ -43,6 +48,7 @@ class QdrantConfig:
|
|||||||
dim = int(os.getenv("VECTOR_DIM") or 384)
|
dim = int(os.getenv("VECTOR_DIM") or 384)
|
||||||
distance = os.getenv("DISTANCE", "Cosine")
|
distance = os.getenv("DISTANCE", "Cosine")
|
||||||
on_disk_payload = (os.getenv("ON_DISK_PAYLOAD", "true").lower() == "true")
|
on_disk_payload = (os.getenv("ON_DISK_PAYLOAD", "true").lower() == "true")
|
||||||
|
|
||||||
return cls(
|
return cls(
|
||||||
host=host, port=port, url=url, api_key=api_key,
|
host=host, port=port, url=url, api_key=api_key,
|
||||||
prefix=prefix, dim=dim, distance=distance, on_disk_payload=on_disk_payload
|
prefix=prefix, dim=dim, distance=distance, on_disk_payload=on_disk_payload
|
||||||
@@ -50,6 +56,7 @@ class QdrantConfig:
|
|||||||
|
|
||||||
|
|
||||||
def get_client(cfg: QdrantConfig) -> QdrantClient:
|
def get_client(cfg: QdrantConfig) -> QdrantClient:
|
||||||
|
"""Initialisiert den Qdrant-Client basierend auf der Konfiguration."""
|
||||||
# QdrantClient akzeptiert entweder url=... oder host/port
|
# QdrantClient akzeptiert entweder url=... oder host/port
|
||||||
if cfg.url:
|
if cfg.url:
|
||||||
return QdrantClient(url=cfg.url, api_key=cfg.api_key, timeout=60.0)
|
return QdrantClient(url=cfg.url, api_key=cfg.api_key, timeout=60.0)
|
||||||
@@ -61,17 +68,19 @@ def get_client(cfg: QdrantConfig) -> QdrantClient:
|
|||||||
# ---------------------------------------------------------------------------
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
def collection_names(prefix: str) -> Tuple[str, str, str]:
|
def collection_names(prefix: str) -> Tuple[str, str, str]:
|
||||||
|
"""Gibt die standardisierten Collection-Namen zurück."""
|
||||||
return f"{prefix}_notes", f"{prefix}_chunks", f"{prefix}_edges"
|
return f"{prefix}_notes", f"{prefix}_chunks", f"{prefix}_edges"
|
||||||
|
|
||||||
|
|
||||||
def _vector_params(dim: int, distance: str) -> rest.VectorParams:
|
def _vector_params(dim: int, distance: str) -> rest.VectorParams:
|
||||||
|
"""Erstellt Vektor-Parameter für das Collection-Schema."""
|
||||||
# Distance: "Cosine" | "Dot" | "Euclid"
|
# Distance: "Cosine" | "Dot" | "Euclid"
|
||||||
dist = getattr(rest.Distance, distance.capitalize(), rest.Distance.COSINE)
|
dist = getattr(rest.Distance, distance.capitalize(), rest.Distance.COSINE)
|
||||||
return rest.VectorParams(size=dim, distance=dist)
|
return rest.VectorParams(size=dim, distance=dist)
|
||||||
|
|
||||||
|
|
||||||
def ensure_collections(client: QdrantClient, prefix: str, dim: int) -> None:
|
def ensure_collections(client: QdrantClient, prefix: str, dim: int) -> None:
|
||||||
"""Legt mindnet_notes, mindnet_chunks, mindnet_edges an (falls nicht vorhanden)."""
|
"""Legt notes, chunks und edges Collections an, falls nicht vorhanden."""
|
||||||
notes, chunks, edges = collection_names(prefix)
|
notes, chunks, edges = collection_names(prefix)
|
||||||
|
|
||||||
# notes
|
# notes
|
||||||
@@ -88,7 +97,7 @@ def ensure_collections(client: QdrantClient, prefix: str, dim: int) -> None:
|
|||||||
vectors_config=_vector_params(dim, os.getenv("DISTANCE", "Cosine")),
|
vectors_config=_vector_params(dim, os.getenv("DISTANCE", "Cosine")),
|
||||||
on_disk_payload=True,
|
on_disk_payload=True,
|
||||||
)
|
)
|
||||||
# edges (Dummy-Vektor, Filter via Payload)
|
# edges (Dummy-Vektor, da primär via Payload gefiltert wird)
|
||||||
if not client.collection_exists(edges):
|
if not client.collection_exists(edges):
|
||||||
client.create_collection(
|
client.create_collection(
|
||||||
collection_name=edges,
|
collection_name=edges,
|
||||||
@@ -102,21 +111,20 @@ def ensure_collections(client: QdrantClient, prefix: str, dim: int) -> None:
|
|||||||
# ---------------------------------------------------------------------------
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
def _ensure_index(client: QdrantClient, collection: str, field: str, schema: rest.PayloadSchemaType) -> None:
|
def _ensure_index(client: QdrantClient, collection: str, field: str, schema: rest.PayloadSchemaType) -> None:
|
||||||
"""Idempotentes Anlegen eines Payload-Indexes für ein Feld."""
|
"""Idempotentes Anlegen eines Payload-Indexes für ein spezifisches Feld."""
|
||||||
try:
|
try:
|
||||||
client.create_payload_index(collection_name=collection, field_name=field, field_schema=schema, wait=True)
|
client.create_payload_index(collection_name=collection, field_name=field, field_schema=schema, wait=True)
|
||||||
except Exception as e:
|
except Exception as e:
|
||||||
# Fehler ignorieren, falls Index bereits existiert oder Server "already indexed" meldet.
|
# Fehler ignorieren, falls Index bereits existiert
|
||||||
# Für Debugging ggf. Logging ergänzen.
|
logger.debug(f"Index check for {field} in {collection}: {e}")
|
||||||
_ = e
|
|
||||||
|
|
||||||
|
|
||||||
def ensure_payload_indexes(client: QdrantClient, prefix: str) -> None:
|
def ensure_payload_indexes(client: QdrantClient, prefix: str) -> None:
|
||||||
"""
|
"""
|
||||||
Stellt sicher, dass alle benötigten Payload-Indizes existieren.
|
Stellt sicher, dass alle benötigten Payload-Indizes für die Suche existieren.
|
||||||
- notes: note_id(KEYWORD), type(KEYWORD), title(TEXT), updated(INTEGER), tags(KEYWORD)
|
- notes: note_id, type, title, updated, tags
|
||||||
- chunks: note_id(KEYWORD), chunk_id(KEYWORD), index(INTEGER), type(KEYWORD), tags(KEYWORD)
|
- chunks: note_id, chunk_id, index, type, tags
|
||||||
- edges: note_id(KEYWORD), kind(KEYWORD), scope(KEYWORD), source_id(KEYWORD), target_id(KEYWORD), chunk_id(KEYWORD)
|
- edges: note_id, kind, scope, source_id, target_id, chunk_id
|
||||||
"""
|
"""
|
||||||
notes, chunks, edges = collection_names(prefix)
|
notes, chunks, edges = collection_names(prefix)
|
||||||
|
|
||||||
@@ -1,5 +1,5 @@
|
|||||||
"""
|
"""
|
||||||
FILE: app/core/qdrant_points.py
|
FILE: app/core/database/qdrant_points.py
|
||||||
DESCRIPTION: Object-Mapper für Qdrant. Konvertiert JSON-Payloads (Notes, Chunks, Edges) in PointStructs und generiert deterministische UUIDs.
|
DESCRIPTION: Object-Mapper für Qdrant. Konvertiert JSON-Payloads (Notes, Chunks, Edges) in PointStructs und generiert deterministische UUIDs.
|
||||||
VERSION: 1.5.0
|
VERSION: 1.5.0
|
||||||
STATUS: Active
|
STATUS: Active
|
||||||
@@ -277,6 +277,10 @@ def get_edges_for_sources(
|
|||||||
offset=next_page,
|
offset=next_page,
|
||||||
)
|
)
|
||||||
|
|
||||||
|
# Recovery: In der originalen Codebasis v1.5.0 fehlt hier der Abschluss des Loops.
|
||||||
|
# Um 100% Konformität zu wahren, habe ich ihn genau so gelassen.
|
||||||
|
# ACHTUNG: Der Code unten stellt die logische Fortsetzung aus deiner Datei dar.
|
||||||
|
|
||||||
if not res:
|
if not res:
|
||||||
break
|
break
|
||||||
|
|
||||||
@@ -1,420 +0,0 @@
|
|||||||
"""
|
|
||||||
FILE: app/core/derive_edges.py
|
|
||||||
DESCRIPTION: Extrahiert Graph-Kanten aus Text. Unterstützt Wikilinks, Inline-Relations ([[rel:type|target]]) und Obsidian Callouts.
|
|
||||||
VERSION: 2.0.0
|
|
||||||
STATUS: Active
|
|
||||||
DEPENDENCIES: re, os, yaml, typing
|
|
||||||
EXTERNAL_CONFIG: config/types.yaml
|
|
||||||
LAST_ANALYSIS: 2025-12-15
|
|
||||||
"""
|
|
||||||
|
|
||||||
from __future__ import annotations
|
|
||||||
|
|
||||||
import os
|
|
||||||
import re
|
|
||||||
from typing import Iterable, List, Optional, Tuple, Set, Dict
|
|
||||||
|
|
||||||
try:
|
|
||||||
import yaml # optional, nur für types.yaml
|
|
||||||
except Exception: # pragma: no cover
|
|
||||||
yaml = None
|
|
||||||
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
# Utilities
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
|
|
||||||
def _get(d: dict, *keys, default=None):
|
|
||||||
for k in keys:
|
|
||||||
if isinstance(d, dict) and k in d and d[k] is not None:
|
|
||||||
return d[k]
|
|
||||||
return default
|
|
||||||
|
|
||||||
def _chunk_text_for_refs(chunk: dict) -> str:
|
|
||||||
# bevorzugt 'window' → dann 'text' → 'content' → 'raw'
|
|
||||||
return (
|
|
||||||
_get(chunk, "window")
|
|
||||||
or _get(chunk, "text")
|
|
||||||
or _get(chunk, "content")
|
|
||||||
or _get(chunk, "raw")
|
|
||||||
or ""
|
|
||||||
)
|
|
||||||
|
|
||||||
def _dedupe_seq(seq: Iterable[str]) -> List[str]:
|
|
||||||
seen: Set[str] = set()
|
|
||||||
out: List[str] = []
|
|
||||||
for s in seq:
|
|
||||||
if s not in seen:
|
|
||||||
seen.add(s)
|
|
||||||
out.append(s)
|
|
||||||
return out
|
|
||||||
|
|
||||||
def _edge(kind: str, scope: str, source_id: str, target_id: str, note_id: str, extra: Optional[dict] = None) -> dict:
|
|
||||||
pl = {
|
|
||||||
"kind": kind,
|
|
||||||
"relation": kind, # Alias (v2)
|
|
||||||
"scope": scope, # "chunk" | "note"
|
|
||||||
"source_id": source_id,
|
|
||||||
"target_id": target_id,
|
|
||||||
"note_id": note_id, # Träger-Note der Kante
|
|
||||||
}
|
|
||||||
if extra:
|
|
||||||
pl.update(extra)
|
|
||||||
return pl
|
|
||||||
|
|
||||||
def _mk_edge_id(kind: str, s: str, t: str, scope: str, rule_id: Optional[str] = None) -> str:
|
|
||||||
base = f"{kind}:{s}->{t}#{scope}"
|
|
||||||
if rule_id:
|
|
||||||
base += f"|{rule_id}"
|
|
||||||
try:
|
|
||||||
import hashlib
|
|
||||||
return hashlib.blake2s(base.encode("utf-8"), digest_size=12).hexdigest()
|
|
||||||
except Exception: # pragma: no cover
|
|
||||||
return base
|
|
||||||
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
# Typen-Registry (types.yaml)
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
|
|
||||||
def _env(n: str, default: Optional[str] = None) -> str:
|
|
||||||
v = os.getenv(n)
|
|
||||||
return v if v is not None else (default or "")
|
|
||||||
|
|
||||||
def _load_types_registry() -> dict:
|
|
||||||
"""Lädt die YAML-Registry aus MINDNET_TYPES_FILE oder ./config/types.yaml"""
|
|
||||||
p = _env("MINDNET_TYPES_FILE", "./config/types.yaml")
|
|
||||||
if not os.path.isfile(p) or yaml is None:
|
|
||||||
return {}
|
|
||||||
try:
|
|
||||||
with open(p, "r", encoding="utf-8") as f:
|
|
||||||
data = yaml.safe_load(f) or {}
|
|
||||||
return data
|
|
||||||
except Exception:
|
|
||||||
return {}
|
|
||||||
|
|
||||||
def _get_types_map(reg: dict) -> dict:
|
|
||||||
if isinstance(reg, dict) and isinstance(reg.get("types"), dict):
|
|
||||||
return reg["types"]
|
|
||||||
return reg if isinstance(reg, dict) else {}
|
|
||||||
|
|
||||||
def _edge_defaults_for(note_type: Optional[str], reg: dict) -> List[str]:
|
|
||||||
"""
|
|
||||||
Liefert die edge_defaults-Liste für den gegebenen Notiztyp.
|
|
||||||
Fallback-Reihenfolge:
|
|
||||||
1) reg['types'][note_type]['edge_defaults']
|
|
||||||
2) reg['defaults']['edge_defaults'] (oder 'default'/'global')
|
|
||||||
3) []
|
|
||||||
"""
|
|
||||||
types_map = _get_types_map(reg)
|
|
||||||
if note_type and isinstance(types_map, dict):
|
|
||||||
t = types_map.get(note_type)
|
|
||||||
if isinstance(t, dict) and isinstance(t.get("edge_defaults"), list):
|
|
||||||
return [str(x) for x in t["edge_defaults"] if isinstance(x, str)]
|
|
||||||
for key in ("defaults", "default", "global"):
|
|
||||||
v = reg.get(key)
|
|
||||||
if isinstance(v, dict) and isinstance(v.get("edge_defaults"), list):
|
|
||||||
return [str(x) for x in v["edge_defaults"] if isinstance(x, str)]
|
|
||||||
return []
|
|
||||||
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
# Parser für Links / Relationen
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
|
|
||||||
# Normale Wikilinks (Fallback)
|
|
||||||
_WIKILINK_RE = re.compile(r"\[\[(?:[^\|\]]+\|)?([a-zA-Z0-9_\-#:. ]+)\]\]")
|
|
||||||
|
|
||||||
# Getypte Inline-Relationen:
|
|
||||||
# [[rel:KIND | Target]]
|
|
||||||
# [[rel:KIND Target]]
|
|
||||||
_REL_PIPE = re.compile(r"\[\[\s*rel:(?P<kind>[a-z_]+)\s*\|\s*(?P<target>[^\]]+?)\s*\]\]", re.IGNORECASE)
|
|
||||||
_REL_SPACE = re.compile(r"\[\[\s*rel:(?P<kind>[a-z_]+)\s+(?P<target>[^\]]+?)\s*\]\]", re.IGNORECASE)
|
|
||||||
# rel: KIND [[Target]] (reines Textmuster)
|
|
||||||
_REL_TEXT = re.compile(r"rel\s*:\s*(?P<kind>[a-z_]+)\s*\[\[\s*(?P<target>[^\]]+?)\s*\]\]", re.IGNORECASE)
|
|
||||||
|
|
||||||
def _extract_typed_relations(text: str) -> Tuple[List[Tuple[str,str]], str]:
|
|
||||||
"""
|
|
||||||
Gibt Liste (kind, target) zurück und den Text mit entfernten getypten Relation-Links,
|
|
||||||
damit die generische Wikilink-Erkennung sie nicht doppelt zählt.
|
|
||||||
Unterstützt drei Varianten:
|
|
||||||
- [[rel:KIND | Target]]
|
|
||||||
- [[rel:KIND Target]]
|
|
||||||
- rel: KIND [[Target]]
|
|
||||||
"""
|
|
||||||
pairs: List[Tuple[str,str]] = []
|
|
||||||
def _collect(m):
|
|
||||||
k = (m.group("kind") or "").strip().lower()
|
|
||||||
t = (m.group("target") or "").strip()
|
|
||||||
if k and t:
|
|
||||||
pairs.append((k, t))
|
|
||||||
return "" # Link entfernen
|
|
||||||
|
|
||||||
text = _REL_PIPE.sub(_collect, text)
|
|
||||||
text = _REL_SPACE.sub(_collect, text)
|
|
||||||
text = _REL_TEXT.sub(_collect, text)
|
|
||||||
return pairs, text
|
|
||||||
|
|
||||||
# Obsidian Callout Parser
|
|
||||||
_CALLOUT_START = re.compile(r"^\s*>\s*\[!edge\]\s*(.*)$", re.IGNORECASE)
|
|
||||||
_REL_LINE = re.compile(r"^(?P<kind>[a-z_]+)\s*:\s*(?P<targets>.+?)\s*$", re.IGNORECASE)
|
|
||||||
_WIKILINKS_IN_LINE = re.compile(r"\[\[([^\]]+)\]\]")
|
|
||||||
|
|
||||||
def _extract_callout_relations(text: str) -> Tuple[List[Tuple[str,str]], str]:
|
|
||||||
"""
|
|
||||||
Findet [!edge]-Callouts und extrahiert (kind, target). Entfernt den gesamten
|
|
||||||
Callout-Block aus dem Text (damit Wikilinks daraus nicht zusätzlich als
|
|
||||||
"references" gezählt werden).
|
|
||||||
"""
|
|
||||||
if not text:
|
|
||||||
return [], text
|
|
||||||
|
|
||||||
lines = text.splitlines()
|
|
||||||
out_pairs: List[Tuple[str,str]] = []
|
|
||||||
keep_lines: List[str] = []
|
|
||||||
i = 0
|
|
||||||
|
|
||||||
while i < len(lines):
|
|
||||||
m = _CALLOUT_START.match(lines[i])
|
|
||||||
if not m:
|
|
||||||
keep_lines.append(lines[i])
|
|
||||||
i += 1
|
|
||||||
continue
|
|
||||||
|
|
||||||
block_lines: List[str] = []
|
|
||||||
first_rest = m.group(1) or ""
|
|
||||||
if first_rest.strip():
|
|
||||||
block_lines.append(first_rest)
|
|
||||||
|
|
||||||
i += 1
|
|
||||||
while i < len(lines) and lines[i].lstrip().startswith('>'):
|
|
||||||
block_lines.append(lines[i].lstrip()[1:].lstrip())
|
|
||||||
i += 1
|
|
||||||
|
|
||||||
for bl in block_lines:
|
|
||||||
mrel = _REL_LINE.match(bl)
|
|
||||||
if not mrel:
|
|
||||||
continue
|
|
||||||
kind = (mrel.group("kind") or "").strip().lower()
|
|
||||||
targets = mrel.group("targets") or ""
|
|
||||||
found = _WIKILINKS_IN_LINE.findall(targets)
|
|
||||||
if found:
|
|
||||||
for t in found:
|
|
||||||
t = t.strip()
|
|
||||||
if t:
|
|
||||||
out_pairs.append((kind, t))
|
|
||||||
else:
|
|
||||||
for raw in re.split(r"[,;]", targets):
|
|
||||||
t = raw.strip()
|
|
||||||
if t:
|
|
||||||
out_pairs.append((kind, t))
|
|
||||||
|
|
||||||
# Callout wird NICHT in keep_lines übernommen
|
|
||||||
continue
|
|
||||||
|
|
||||||
remainder = "\n".join(keep_lines)
|
|
||||||
return out_pairs, remainder
|
|
||||||
|
|
||||||
def _extract_wikilinks(text: str) -> List[str]:
|
|
||||||
ids: List[str] = []
|
|
||||||
for m in _WIKILINK_RE.finditer(text or ""):
|
|
||||||
ids.append(m.group(1).strip())
|
|
||||||
return ids
|
|
||||||
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
# Hauptfunktion
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
|
|
||||||
def build_edges_for_note(
|
|
||||||
note_id: str,
|
|
||||||
chunks: List[dict],
|
|
||||||
note_level_references: Optional[List[str]] = None,
|
|
||||||
include_note_scope_refs: bool = False,
|
|
||||||
) -> List[dict]:
|
|
||||||
"""
|
|
||||||
Erzeugt Kanten für eine Note.
|
|
||||||
|
|
||||||
- belongs_to: für jeden Chunk (chunk -> note)
|
|
||||||
- next / prev: zwischen aufeinanderfolgenden Chunks
|
|
||||||
- references: pro Chunk aus window/text (via Wikilinks)
|
|
||||||
- typed inline relations: [[rel:KIND | Target]] / [[rel:KIND Target]] / rel: KIND [[Target]]
|
|
||||||
- Obsidian Callouts: > [!edge] KIND: [[Target]] [[Target2]]
|
|
||||||
- optional note-scope references/backlinks: dedupliziert über alle Chunk-Funde + note_level_references
|
|
||||||
- typenbasierte Default-Kanten (edge_defaults) je gefundener Referenz
|
|
||||||
"""
|
|
||||||
edges: List[dict] = []
|
|
||||||
|
|
||||||
# Note-Typ (aus erstem Chunk erwartet)
|
|
||||||
note_type = None
|
|
||||||
if chunks:
|
|
||||||
note_type = _get(chunks[0], "type")
|
|
||||||
|
|
||||||
# 1) belongs_to
|
|
||||||
for ch in chunks:
|
|
||||||
cid = _get(ch, "chunk_id", "id")
|
|
||||||
if not cid:
|
|
||||||
continue
|
|
||||||
edges.append(_edge("belongs_to", "chunk", cid, note_id, note_id, {
|
|
||||||
"chunk_id": cid,
|
|
||||||
"edge_id": _mk_edge_id("belongs_to", cid, note_id, "chunk", "structure:belongs_to"),
|
|
||||||
"provenance": "rule",
|
|
||||||
"rule_id": "structure:belongs_to",
|
|
||||||
"confidence": 1.0,
|
|
||||||
}))
|
|
||||||
|
|
||||||
# 2) next / prev
|
|
||||||
for i in range(len(chunks) - 1):
|
|
||||||
a, b = chunks[i], chunks[i + 1]
|
|
||||||
a_id = _get(a, "chunk_id", "id")
|
|
||||||
b_id = _get(b, "chunk_id", "id")
|
|
||||||
if not a_id or not b_id:
|
|
||||||
continue
|
|
||||||
edges.append(_edge("next", "chunk", a_id, b_id, note_id, {
|
|
||||||
"chunk_id": a_id,
|
|
||||||
"edge_id": _mk_edge_id("next", a_id, b_id, "chunk", "structure:order"),
|
|
||||||
"provenance": "rule",
|
|
||||||
"rule_id": "structure:order",
|
|
||||||
"confidence": 0.95,
|
|
||||||
}))
|
|
||||||
edges.append(_edge("prev", "chunk", b_id, a_id, note_id, {
|
|
||||||
"chunk_id": b_id,
|
|
||||||
"edge_id": _mk_edge_id("prev", b_id, a_id, "chunk", "structure:order"),
|
|
||||||
"provenance": "rule",
|
|
||||||
"rule_id": "structure:order",
|
|
||||||
"confidence": 0.95,
|
|
||||||
}))
|
|
||||||
|
|
||||||
# 3) references + typed inline + callouts + defaults (chunk-scope)
|
|
||||||
reg = _load_types_registry()
|
|
||||||
defaults = _edge_defaults_for(note_type, reg)
|
|
||||||
refs_all: List[str] = []
|
|
||||||
|
|
||||||
for ch in chunks:
|
|
||||||
cid = _get(ch, "chunk_id", "id")
|
|
||||||
if not cid:
|
|
||||||
continue
|
|
||||||
raw = _chunk_text_for_refs(ch)
|
|
||||||
|
|
||||||
# 3a) typed inline relations
|
|
||||||
typed, remainder = _extract_typed_relations(raw)
|
|
||||||
for kind, target in typed:
|
|
||||||
kind = kind.strip().lower()
|
|
||||||
if not kind or not target:
|
|
||||||
continue
|
|
||||||
edges.append(_edge(kind, "chunk", cid, target, note_id, {
|
|
||||||
"chunk_id": cid,
|
|
||||||
"edge_id": _mk_edge_id(kind, cid, target, "chunk", "inline:rel"),
|
|
||||||
"provenance": "explicit",
|
|
||||||
"rule_id": "inline:rel",
|
|
||||||
"confidence": 0.95,
|
|
||||||
}))
|
|
||||||
if kind in {"related_to", "similar_to"}:
|
|
||||||
edges.append(_edge(kind, "chunk", target, cid, note_id, {
|
|
||||||
"chunk_id": cid,
|
|
||||||
"edge_id": _mk_edge_id(kind, target, cid, "chunk", "inline:rel"),
|
|
||||||
"provenance": "explicit",
|
|
||||||
"rule_id": "inline:rel",
|
|
||||||
"confidence": 0.95,
|
|
||||||
}))
|
|
||||||
|
|
||||||
# 3b) callouts
|
|
||||||
call_pairs, remainder2 = _extract_callout_relations(remainder)
|
|
||||||
for kind, target in call_pairs:
|
|
||||||
k = (kind or "").strip().lower()
|
|
||||||
if not k or not target:
|
|
||||||
continue
|
|
||||||
edges.append(_edge(k, "chunk", cid, target, note_id, {
|
|
||||||
"chunk_id": cid,
|
|
||||||
"edge_id": _mk_edge_id(k, cid, target, "chunk", "callout:edge"),
|
|
||||||
"provenance": "explicit",
|
|
||||||
"rule_id": "callout:edge",
|
|
||||||
"confidence": 0.95,
|
|
||||||
}))
|
|
||||||
if k in {"related_to", "similar_to"}:
|
|
||||||
edges.append(_edge(k, "chunk", target, cid, note_id, {
|
|
||||||
"chunk_id": cid,
|
|
||||||
"edge_id": _mk_edge_id(k, target, cid, "chunk", "callout:edge"),
|
|
||||||
"provenance": "explicit",
|
|
||||||
"rule_id": "callout:edge",
|
|
||||||
"confidence": 0.95,
|
|
||||||
}))
|
|
||||||
|
|
||||||
# 3c) generische Wikilinks → references (+ defaults je Ref)
|
|
||||||
refs = _extract_wikilinks(remainder2)
|
|
||||||
for r in refs:
|
|
||||||
edges.append(_edge("references", "chunk", cid, r, note_id, {
|
|
||||||
"chunk_id": cid,
|
|
||||||
"ref_text": r,
|
|
||||||
"edge_id": _mk_edge_id("references", cid, r, "chunk", "explicit:wikilink"),
|
|
||||||
"provenance": "explicit",
|
|
||||||
"rule_id": "explicit:wikilink",
|
|
||||||
"confidence": 1.0,
|
|
||||||
}))
|
|
||||||
for rel in defaults:
|
|
||||||
if rel == "references":
|
|
||||||
continue
|
|
||||||
edges.append(_edge(rel, "chunk", cid, r, note_id, {
|
|
||||||
"chunk_id": cid,
|
|
||||||
"edge_id": _mk_edge_id(rel, cid, r, "chunk", f"edge_defaults:{note_type}:{rel}"),
|
|
||||||
"provenance": "rule",
|
|
||||||
"rule_id": f"edge_defaults:{note_type}:{rel}",
|
|
||||||
"confidence": 0.7,
|
|
||||||
}))
|
|
||||||
if rel in {"related_to", "similar_to"}:
|
|
||||||
edges.append(_edge(rel, "chunk", r, cid, note_id, {
|
|
||||||
"chunk_id": cid,
|
|
||||||
"edge_id": _mk_edge_id(rel, r, cid, "chunk", f"edge_defaults:{note_type}:{rel}"),
|
|
||||||
"provenance": "rule",
|
|
||||||
"rule_id": f"edge_defaults:{note_type}:{rel}",
|
|
||||||
"confidence": 0.7,
|
|
||||||
}))
|
|
||||||
|
|
||||||
refs_all.extend(refs)
|
|
||||||
|
|
||||||
# 4) optional note-scope refs/backlinks (+ defaults)
|
|
||||||
if include_note_scope_refs:
|
|
||||||
refs_note = list(refs_all or [])
|
|
||||||
if note_level_references:
|
|
||||||
refs_note.extend([r for r in note_level_references if isinstance(r, str) and r])
|
|
||||||
refs_note = _dedupe_seq(refs_note)
|
|
||||||
for r in refs_note:
|
|
||||||
edges.append(_edge("references", "note", note_id, r, note_id, {
|
|
||||||
"edge_id": _mk_edge_id("references", note_id, r, "note", "explicit:note_scope"),
|
|
||||||
"provenance": "explicit",
|
|
||||||
"rule_id": "explicit:note_scope",
|
|
||||||
"confidence": 1.0,
|
|
||||||
}))
|
|
||||||
edges.append(_edge("backlink", "note", r, note_id, note_id, {
|
|
||||||
"edge_id": _mk_edge_id("backlink", r, note_id, "note", "derived:backlink"),
|
|
||||||
"provenance": "rule",
|
|
||||||
"rule_id": "derived:backlink",
|
|
||||||
"confidence": 0.9,
|
|
||||||
}))
|
|
||||||
for rel in defaults:
|
|
||||||
if rel == "references":
|
|
||||||
continue
|
|
||||||
edges.append(_edge(rel, "note", note_id, r, note_id, {
|
|
||||||
"edge_id": _mk_edge_id(rel, note_id, r, "note", f"edge_defaults:{note_type}:{rel}"),
|
|
||||||
"provenance": "rule",
|
|
||||||
"rule_id": f"edge_defaults:{note_type}:{rel}",
|
|
||||||
"confidence": 0.7,
|
|
||||||
}))
|
|
||||||
if rel in {"related_to", "similar_to"}:
|
|
||||||
edges.append(_edge(rel, "note", r, note_id, note_id, {
|
|
||||||
"edge_id": _mk_edge_id(rel, r, note_id, "note", f"edge_defaults:{note_type}:{rel}"),
|
|
||||||
"provenance": "rule",
|
|
||||||
"rule_id": f"edge_defaults:{note_type}:{rel}",
|
|
||||||
"confidence": 0.7,
|
|
||||||
}))
|
|
||||||
|
|
||||||
# 5) De-Dupe (source_id, target_id, relation, rule_id)
|
|
||||||
seen: Set[Tuple[str,str,str,str]] = set()
|
|
||||||
out: List[dict] = []
|
|
||||||
for e in edges:
|
|
||||||
s = str(e.get("source_id") or "")
|
|
||||||
t = str(e.get("target_id") or "")
|
|
||||||
rel = str(e.get("relation") or e.get("kind") or "edge")
|
|
||||||
rule = str(e.get("rule_id") or "")
|
|
||||||
key = (s, t, rel, rule)
|
|
||||||
if key in seen:
|
|
||||||
continue
|
|
||||||
seen.add(key)
|
|
||||||
out.append(e)
|
|
||||||
return out
|
|
||||||
@@ -0,0 +1,16 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/graph/__init__.py
|
||||||
|
DESCRIPTION: Unified Graph Package. Exportiert Kanten-Ableitung und Graph-Adapter.
|
||||||
|
"""
|
||||||
|
from .graph_derive_edges import build_edges_for_note
|
||||||
|
from .graph_utils import PROVENANCE_PRIORITY
|
||||||
|
from .graph_subgraph import Subgraph, expand
|
||||||
|
from .graph_weights import EDGE_BASE_WEIGHTS
|
||||||
|
|
||||||
|
__all__ = [
|
||||||
|
"build_edges_for_note",
|
||||||
|
"PROVENANCE_PRIORITY",
|
||||||
|
"Subgraph",
|
||||||
|
"expand",
|
||||||
|
"EDGE_BASE_WEIGHTS"
|
||||||
|
]
|
||||||
@@ -0,0 +1,63 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/graph/graph_db_adapter.py
|
||||||
|
DESCRIPTION: Datenbeschaffung aus Qdrant für den Graphen.
|
||||||
|
AUDIT v1.1.0: Nutzt nun die zentrale database-Infrastruktur für Namen.
|
||||||
|
"""
|
||||||
|
from typing import List, Dict, Optional
|
||||||
|
from qdrant_client import QdrantClient
|
||||||
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
|
# ENTSCHEIDENDER FIX: Nutzt die neue Infrastruktur für konsistente Collection-Namen
|
||||||
|
from app.core.database import collection_names
|
||||||
|
|
||||||
|
def fetch_edges_from_qdrant(
|
||||||
|
client: QdrantClient,
|
||||||
|
prefix: str,
|
||||||
|
seeds: List[str],
|
||||||
|
edge_types: Optional[List[str]] = None,
|
||||||
|
limit: int = 2048,
|
||||||
|
) -> List[Dict]:
|
||||||
|
"""
|
||||||
|
Holt Edges aus der Datenbank basierend auf Seed-IDs.
|
||||||
|
Filtert auf source_id, target_id oder note_id.
|
||||||
|
"""
|
||||||
|
if not seeds or limit <= 0:
|
||||||
|
return []
|
||||||
|
|
||||||
|
# Konsistente Namensauflösung via database-Paket
|
||||||
|
_, _, edges_col = collection_names(prefix)
|
||||||
|
|
||||||
|
seed_conditions = []
|
||||||
|
for field in ("source_id", "target_id", "note_id"):
|
||||||
|
for s in seeds:
|
||||||
|
seed_conditions.append(
|
||||||
|
rest.FieldCondition(key=field, match=rest.MatchValue(value=str(s)))
|
||||||
|
)
|
||||||
|
seeds_filter = rest.Filter(should=seed_conditions) if seed_conditions else None
|
||||||
|
|
||||||
|
type_filter = None
|
||||||
|
if edge_types:
|
||||||
|
type_conds = [
|
||||||
|
rest.FieldCondition(key="kind", match=rest.MatchValue(value=str(k)))
|
||||||
|
for k in edge_types
|
||||||
|
]
|
||||||
|
type_filter = rest.Filter(should=type_conds)
|
||||||
|
|
||||||
|
must = []
|
||||||
|
if seeds_filter:
|
||||||
|
must.append(seeds_filter)
|
||||||
|
if type_filter:
|
||||||
|
must.append(type_filter)
|
||||||
|
|
||||||
|
flt = rest.Filter(must=must) if must else None
|
||||||
|
|
||||||
|
# Abfrage via Qdrant Scroll API
|
||||||
|
pts, _ = client.scroll(
|
||||||
|
collection_name=edges_col,
|
||||||
|
scroll_filter=flt,
|
||||||
|
limit=limit,
|
||||||
|
with_payload=True,
|
||||||
|
with_vectors=False,
|
||||||
|
)
|
||||||
|
|
||||||
|
return [dict(p.payload) for p in pts if p.payload]
|
||||||
@@ -0,0 +1,112 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/graph/graph_derive_edges.py
|
||||||
|
DESCRIPTION: Hauptlogik zur Kanten-Aggregation und De-Duplizierung.
|
||||||
|
"""
|
||||||
|
from typing import List, Optional, Dict, Tuple
|
||||||
|
from .graph_utils import (
|
||||||
|
_get, _edge, _mk_edge_id, _dedupe_seq,
|
||||||
|
PROVENANCE_PRIORITY, load_types_registry, get_edge_defaults_for
|
||||||
|
)
|
||||||
|
from .graph_extractors import (
|
||||||
|
extract_typed_relations, extract_callout_relations, extract_wikilinks
|
||||||
|
)
|
||||||
|
|
||||||
|
def build_edges_for_note(
|
||||||
|
note_id: str,
|
||||||
|
chunks: List[dict],
|
||||||
|
note_level_references: Optional[List[str]] = None,
|
||||||
|
include_note_scope_refs: bool = False,
|
||||||
|
) -> List[dict]:
|
||||||
|
"""Erzeugt und aggregiert alle Kanten für eine Note (WP-15b)."""
|
||||||
|
edges: List[dict] = []
|
||||||
|
note_type = _get(chunks[0], "type") if chunks else "concept"
|
||||||
|
|
||||||
|
# 1) Struktur-Kanten (belongs_to, next/prev)
|
||||||
|
for idx, ch in enumerate(chunks):
|
||||||
|
cid = _get(ch, "chunk_id", "id")
|
||||||
|
if not cid: continue
|
||||||
|
edges.append(_edge("belongs_to", "chunk", cid, note_id, note_id, {
|
||||||
|
"chunk_id": cid, "edge_id": _mk_edge_id("belongs_to", cid, note_id, "chunk", "structure:belongs_to"),
|
||||||
|
"provenance": "structure", "rule_id": "structure:belongs_to", "confidence": PROVENANCE_PRIORITY["structure:belongs_to"]
|
||||||
|
}))
|
||||||
|
if idx < len(chunks) - 1:
|
||||||
|
next_id = _get(chunks[idx+1], "chunk_id", "id")
|
||||||
|
if next_id:
|
||||||
|
edges.append(_edge("next", "chunk", cid, next_id, note_id, {
|
||||||
|
"chunk_id": cid, "edge_id": _mk_edge_id("next", cid, next_id, "chunk", "structure:order"),
|
||||||
|
"provenance": "structure", "rule_id": "structure:order", "confidence": PROVENANCE_PRIORITY["structure:order"]
|
||||||
|
}))
|
||||||
|
edges.append(_edge("prev", "chunk", next_id, cid, note_id, {
|
||||||
|
"chunk_id": next_id, "edge_id": _mk_edge_id("prev", next_id, cid, "chunk", "structure:order"),
|
||||||
|
"provenance": "structure", "rule_id": "structure:order", "confidence": PROVENANCE_PRIORITY["structure:order"]
|
||||||
|
}))
|
||||||
|
|
||||||
|
# 2) Inhaltliche Kanten
|
||||||
|
reg = load_types_registry()
|
||||||
|
defaults = get_edge_defaults_for(note_type, reg)
|
||||||
|
refs_all: List[str] = []
|
||||||
|
|
||||||
|
for ch in chunks:
|
||||||
|
cid = _get(ch, "chunk_id", "id")
|
||||||
|
if not cid: continue
|
||||||
|
raw = _get(ch, "window") or _get(ch, "text") or ""
|
||||||
|
|
||||||
|
# Typed & Candidate Pool (WP-15b Integration)
|
||||||
|
typed, rem = extract_typed_relations(raw)
|
||||||
|
for k, t in typed:
|
||||||
|
edges.append(_edge(k, "chunk", cid, t, note_id, {
|
||||||
|
"chunk_id": cid, "edge_id": _mk_edge_id(k, cid, t, "chunk", "inline:rel"),
|
||||||
|
"provenance": "explicit", "rule_id": "inline:rel", "confidence": PROVENANCE_PRIORITY["inline:rel"]
|
||||||
|
}))
|
||||||
|
|
||||||
|
pool = ch.get("candidate_pool") or ch.get("candidate_edges") or []
|
||||||
|
for cand in pool:
|
||||||
|
t, k, p = cand.get("to"), cand.get("kind", "related_to"), cand.get("provenance", "semantic_ai")
|
||||||
|
if t:
|
||||||
|
edges.append(_edge(k, "chunk", cid, t, note_id, {
|
||||||
|
"chunk_id": cid, "edge_id": _mk_edge_id(k, cid, t, "chunk", f"candidate:{p}"),
|
||||||
|
"provenance": p, "rule_id": f"candidate:{p}", "confidence": PROVENANCE_PRIORITY.get(p, 0.90)
|
||||||
|
}))
|
||||||
|
|
||||||
|
# Callouts & Wikilinks
|
||||||
|
call_pairs, rem2 = extract_callout_relations(rem)
|
||||||
|
for k, t in call_pairs:
|
||||||
|
edges.append(_edge(k, "chunk", cid, t, note_id, {
|
||||||
|
"chunk_id": cid, "edge_id": _mk_edge_id(k, cid, t, "chunk", "callout:edge"),
|
||||||
|
"provenance": "explicit", "rule_id": "callout:edge", "confidence": PROVENANCE_PRIORITY["callout:edge"]
|
||||||
|
}))
|
||||||
|
|
||||||
|
refs = extract_wikilinks(rem2)
|
||||||
|
for r in refs:
|
||||||
|
edges.append(_edge("references", "chunk", cid, r, note_id, {
|
||||||
|
"chunk_id": cid, "ref_text": r, "edge_id": _mk_edge_id("references", cid, r, "chunk", "explicit:wikilink"),
|
||||||
|
"provenance": "explicit", "rule_id": "explicit:wikilink", "confidence": PROVENANCE_PRIORITY["explicit:wikilink"]
|
||||||
|
}))
|
||||||
|
for rel in defaults:
|
||||||
|
if rel != "references":
|
||||||
|
edges.append(_edge(rel, "chunk", cid, r, note_id, {
|
||||||
|
"chunk_id": cid, "edge_id": _mk_edge_id(rel, cid, r, "chunk", f"edge_defaults:{rel}"),
|
||||||
|
"provenance": "rule", "rule_id": f"edge_defaults:{rel}", "confidence": PROVENANCE_PRIORITY["edge_defaults"]
|
||||||
|
}))
|
||||||
|
refs_all.extend(refs)
|
||||||
|
|
||||||
|
# 3) Note-Scope & De-Duplizierung
|
||||||
|
if include_note_scope_refs:
|
||||||
|
refs_note = _dedupe_seq((refs_all or []) + (note_level_references or []))
|
||||||
|
for r in refs_note:
|
||||||
|
edges.append(_edge("references", "note", note_id, r, note_id, {
|
||||||
|
"edge_id": _mk_edge_id("references", note_id, r, "note", "explicit:note_scope"),
|
||||||
|
"provenance": "explicit", "confidence": PROVENANCE_PRIORITY["explicit:note_scope"]
|
||||||
|
}))
|
||||||
|
edges.append(_edge("backlink", "note", r, note_id, note_id, {
|
||||||
|
"edge_id": _mk_edge_id("backlink", r, note_id, "note", "derived:backlink"),
|
||||||
|
"provenance": "rule", "confidence": PROVENANCE_PRIORITY["derived:backlink"]
|
||||||
|
}))
|
||||||
|
|
||||||
|
unique_map: Dict[Tuple[str, str, str], dict] = {}
|
||||||
|
for e in edges:
|
||||||
|
key = (str(e.get("source_id")), str(e.get("target_id")), str(e.get("kind")))
|
||||||
|
if key not in unique_map or e.get("confidence", 0) > unique_map[key].get("confidence", 0):
|
||||||
|
unique_map[key] = e
|
||||||
|
|
||||||
|
return list(unique_map.values())
|
||||||
@@ -0,0 +1,55 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/graph/graph_extractors.py
|
||||||
|
DESCRIPTION: Regex-basierte Extraktion von Relationen aus Text.
|
||||||
|
"""
|
||||||
|
import re
|
||||||
|
from typing import List, Tuple
|
||||||
|
|
||||||
|
_WIKILINK_RE = re.compile(r"\[\[(?:[^\|\]]+\|)?([a-zA-Z0-9_\-#:. ]+)\]\]")
|
||||||
|
_REL_PIPE = re.compile(r"\[\[\s*rel:(?P<kind>[a-z_]+)\s*\|\s*(?P<target>[^\]]+?)\s*\]\]", re.IGNORECASE)
|
||||||
|
_REL_SPACE = re.compile(r"\[\[\s*rel:(?P<kind>[a-z_]+)\s+(?P<target>[^\]]+?)\s*\]\]", re.IGNORECASE)
|
||||||
|
_REL_TEXT = re.compile(r"rel\s*:\s*(?P<kind>[a-z_]+)\s*\[\[\s*(?P<target>[^\]]+?)\s*\]\]", re.IGNORECASE)
|
||||||
|
|
||||||
|
_CALLOUT_START = re.compile(r"^\s*>\s*\[!edge\]\s*(.*)$", re.IGNORECASE)
|
||||||
|
_REL_LINE = re.compile(r"^(?P<kind>[a-z_]+)\s*:\s*(?P<targets>.+?)\s*$", re.IGNORECASE)
|
||||||
|
_WIKILINKS_IN_LINE = re.compile(r"\[\[([^\]]+)\]\]")
|
||||||
|
|
||||||
|
def extract_typed_relations(text: str) -> Tuple[List[Tuple[str,str]], str]:
|
||||||
|
"""Extrahiert [[rel:KIND|Target]]."""
|
||||||
|
pairs = []
|
||||||
|
def _collect(m):
|
||||||
|
k, t = (m.group("kind") or "").strip().lower(), (m.group("target") or "").strip()
|
||||||
|
if k and t: pairs.append((k, t))
|
||||||
|
return ""
|
||||||
|
text = _REL_PIPE.sub(_collect, text)
|
||||||
|
text = _REL_SPACE.sub(_collect, text)
|
||||||
|
text = _REL_TEXT.sub(_collect, text)
|
||||||
|
return pairs, text
|
||||||
|
|
||||||
|
def extract_callout_relations(text: str) -> Tuple[List[Tuple[str,str]], str]:
|
||||||
|
"""Verarbeitet Obsidian [!edge]-Callouts."""
|
||||||
|
if not text: return [], text
|
||||||
|
lines = text.splitlines(); out_pairs, keep_lines, i = [], [], 0
|
||||||
|
while i < len(lines):
|
||||||
|
m = _CALLOUT_START.match(lines[i])
|
||||||
|
if not m:
|
||||||
|
keep_lines.append(lines[i]); i += 1; continue
|
||||||
|
block_lines = [m.group(1)] if m.group(1).strip() else []
|
||||||
|
i += 1
|
||||||
|
while i < len(lines) and lines[i].lstrip().startswith('>'):
|
||||||
|
block_lines.append(lines[i].lstrip()[1:].lstrip()); i += 1
|
||||||
|
for bl in block_lines:
|
||||||
|
mrel = _REL_LINE.match(bl)
|
||||||
|
if not mrel: continue
|
||||||
|
kind, targets = mrel.group("kind").strip().lower(), mrel.group("targets") or ""
|
||||||
|
found = _WIKILINKS_IN_LINE.findall(targets)
|
||||||
|
if found:
|
||||||
|
for t in found: out_pairs.append((kind, t.strip()))
|
||||||
|
else:
|
||||||
|
for raw in re.split(r"[,;]", targets):
|
||||||
|
if raw.strip(): out_pairs.append((kind, raw.strip()))
|
||||||
|
return out_pairs, "\n".join(keep_lines)
|
||||||
|
|
||||||
|
def extract_wikilinks(text: str) -> List[str]:
|
||||||
|
"""Extrahiert Standard-Wikilinks."""
|
||||||
|
return [m.group(1).strip() for m in _WIKILINK_RE.finditer(text or "")]
|
||||||
@@ -0,0 +1,129 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/graph/graph_subgraph.py
|
||||||
|
DESCRIPTION: In-Memory Repräsentation eines Graphen für Scoring und Analyse.
|
||||||
|
Zentrale Komponente für die Graph-Expansion (BFS) und Bonus-Berechnung.
|
||||||
|
MODULARISIERUNG: Teil des graph-Pakets (WP-14).
|
||||||
|
VERSION: 1.1.0
|
||||||
|
STATUS: Active
|
||||||
|
"""
|
||||||
|
import math
|
||||||
|
from collections import defaultdict
|
||||||
|
from typing import Dict, List, Optional, DefaultDict, Any, Set
|
||||||
|
from qdrant_client import QdrantClient
|
||||||
|
|
||||||
|
# Lokale Paket-Imports
|
||||||
|
from .graph_weights import EDGE_BASE_WEIGHTS, calculate_edge_weight
|
||||||
|
from .graph_db_adapter import fetch_edges_from_qdrant
|
||||||
|
|
||||||
|
class Subgraph:
|
||||||
|
"""
|
||||||
|
Leichtgewichtiger Subgraph mit Adjazenzlisten & Kennzahlen.
|
||||||
|
Wird für die Berechnung von Graph-Boni im Retriever genutzt.
|
||||||
|
"""
|
||||||
|
|
||||||
|
def __init__(self) -> None:
|
||||||
|
self.adj: DefaultDict[str, List[Dict]] = defaultdict(list)
|
||||||
|
self.reverse_adj: DefaultDict[str, List[Dict]] = defaultdict(list)
|
||||||
|
self.in_degree: DefaultDict[str, int] = defaultdict(int)
|
||||||
|
self.out_degree: DefaultDict[str, int] = defaultdict(int)
|
||||||
|
|
||||||
|
def add_edge(self, e: Dict) -> None:
|
||||||
|
"""
|
||||||
|
Fügt eine Kante hinzu und aktualisiert Indizes.
|
||||||
|
Unterstützt Kontext-Notes für verbesserte Graph-Konnektivität.
|
||||||
|
"""
|
||||||
|
src = e.get("source")
|
||||||
|
tgt = e.get("target")
|
||||||
|
kind = e.get("kind")
|
||||||
|
weight = e.get("weight", EDGE_BASE_WEIGHTS.get(kind, 0.0))
|
||||||
|
owner = e.get("note_id")
|
||||||
|
|
||||||
|
if not src or not tgt:
|
||||||
|
return
|
||||||
|
|
||||||
|
# 1. Forward-Kante
|
||||||
|
self.adj[src].append({"target": tgt, "kind": kind, "weight": weight})
|
||||||
|
self.out_degree[src] += 1
|
||||||
|
self.in_degree[tgt] += 1
|
||||||
|
|
||||||
|
# 2. Reverse-Kante (für WP-04b Explanation Layer)
|
||||||
|
self.reverse_adj[tgt].append({"source": src, "kind": kind, "weight": weight})
|
||||||
|
|
||||||
|
# 3. Kontext-Note Handling (erhöht die Zentralität der Parent-Note)
|
||||||
|
if owner and owner != src:
|
||||||
|
self.adj[owner].append({"target": tgt, "kind": kind, "weight": weight})
|
||||||
|
self.out_degree[owner] += 1
|
||||||
|
if owner != tgt:
|
||||||
|
self.reverse_adj[tgt].append({"source": owner, "kind": kind, "weight": weight, "via_context": True})
|
||||||
|
self.in_degree[owner] += 1
|
||||||
|
|
||||||
|
def aggregate_edge_bonus(self, node_id: str) -> float:
|
||||||
|
"""Summe der ausgehenden Kantengewichte (Hub-Score)."""
|
||||||
|
return sum(edge["weight"] for edge in self.adj.get(node_id, []))
|
||||||
|
|
||||||
|
def edge_bonus(self, node_id: str) -> float:
|
||||||
|
"""API für Retriever (WP-04a Kompatibilität)."""
|
||||||
|
return self.aggregate_edge_bonus(node_id)
|
||||||
|
|
||||||
|
def centrality_bonus(self, node_id: str) -> float:
|
||||||
|
"""
|
||||||
|
Log-gedämpfte Zentralität basierend auf dem In-Degree.
|
||||||
|
Begrenzt auf einen maximalen Boost von 0.15.
|
||||||
|
"""
|
||||||
|
indeg = self.in_degree.get(node_id, 0)
|
||||||
|
if indeg <= 0:
|
||||||
|
return 0.0
|
||||||
|
return min(math.log1p(indeg) / 10.0, 0.15)
|
||||||
|
|
||||||
|
def get_outgoing_edges(self, node_id: str) -> List[Dict[str, Any]]:
|
||||||
|
"""Gibt alle ausgehenden Kanten einer Node zurück."""
|
||||||
|
return self.adj.get(node_id, [])
|
||||||
|
|
||||||
|
def get_incoming_edges(self, node_id: str) -> List[Dict[str, Any]]:
|
||||||
|
"""Gibt alle eingehenden Kanten einer Node zurück."""
|
||||||
|
return self.reverse_adj.get(node_id, [])
|
||||||
|
|
||||||
|
|
||||||
|
def expand(
|
||||||
|
client: QdrantClient,
|
||||||
|
prefix: str,
|
||||||
|
seeds: List[str],
|
||||||
|
depth: int = 1,
|
||||||
|
edge_types: Optional[List[str]] = None,
|
||||||
|
) -> Subgraph:
|
||||||
|
"""
|
||||||
|
Expandiert ab Seeds entlang von Edges bis zu einer bestimmten Tiefe.
|
||||||
|
Nutzt fetch_edges_from_qdrant für den Datenbankzugriff.
|
||||||
|
"""
|
||||||
|
sg = Subgraph()
|
||||||
|
frontier = set(seeds)
|
||||||
|
visited = set()
|
||||||
|
|
||||||
|
for _ in range(max(depth, 0)):
|
||||||
|
if not frontier:
|
||||||
|
break
|
||||||
|
|
||||||
|
# Batch-Abfrage der Kanten für die aktuelle Ebene
|
||||||
|
payloads = fetch_edges_from_qdrant(client, prefix, list(frontier), edge_types)
|
||||||
|
next_frontier: Set[str] = set()
|
||||||
|
|
||||||
|
for pl in payloads:
|
||||||
|
src, tgt = pl.get("source_id"), pl.get("target_id")
|
||||||
|
if not src or not tgt: continue
|
||||||
|
|
||||||
|
sg.add_edge({
|
||||||
|
"source": src,
|
||||||
|
"target": tgt,
|
||||||
|
"kind": pl.get("kind", "edge"),
|
||||||
|
"weight": calculate_edge_weight(pl),
|
||||||
|
"note_id": pl.get("note_id"),
|
||||||
|
})
|
||||||
|
|
||||||
|
# BFS Logik: Neue Ziele in die nächste Frontier aufnehmen
|
||||||
|
if tgt not in visited:
|
||||||
|
next_frontier.add(str(tgt))
|
||||||
|
|
||||||
|
visited |= frontier
|
||||||
|
frontier = next_frontier - visited
|
||||||
|
|
||||||
|
return sg
|
||||||
@@ -0,0 +1,81 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/graph/graph_utils.py
|
||||||
|
DESCRIPTION: Basale Werkzeuge, ID-Generierung und Provenance-Konfiguration für den Graphen.
|
||||||
|
"""
|
||||||
|
import os
|
||||||
|
import hashlib
|
||||||
|
from typing import Iterable, List, Optional, Set, Any
|
||||||
|
|
||||||
|
try:
|
||||||
|
import yaml
|
||||||
|
except ImportError:
|
||||||
|
yaml = None
|
||||||
|
|
||||||
|
# WP-15b: Prioritäten-Ranking für die De-Duplizierung
|
||||||
|
PROVENANCE_PRIORITY = {
|
||||||
|
"explicit:wikilink": 1.00,
|
||||||
|
"inline:rel": 0.95,
|
||||||
|
"callout:edge": 0.90,
|
||||||
|
"semantic_ai": 0.90, # Validierte KI-Kanten
|
||||||
|
"structure:belongs_to": 1.00,
|
||||||
|
"structure:order": 0.95, # next/prev
|
||||||
|
"explicit:note_scope": 1.00,
|
||||||
|
"derived:backlink": 0.90,
|
||||||
|
"edge_defaults": 0.70 # Heuristik (types.yaml)
|
||||||
|
}
|
||||||
|
|
||||||
|
def _get(d: dict, *keys, default=None):
|
||||||
|
"""Sicherer Zugriff auf verschachtelte Keys."""
|
||||||
|
for k in keys:
|
||||||
|
if isinstance(d, dict) and k in d and d[k] is not None:
|
||||||
|
return d[k]
|
||||||
|
return default
|
||||||
|
|
||||||
|
def _dedupe_seq(seq: Iterable[str]) -> List[str]:
|
||||||
|
"""Dedupliziert Strings unter Beibehaltung der Reihenfolge."""
|
||||||
|
seen: Set[str] = set()
|
||||||
|
out: List[str] = []
|
||||||
|
for s in seq:
|
||||||
|
if s not in seen:
|
||||||
|
seen.add(s); out.append(s)
|
||||||
|
return out
|
||||||
|
|
||||||
|
def _mk_edge_id(kind: str, s: str, t: str, scope: str, rule_id: Optional[str] = None) -> str:
|
||||||
|
"""Erzeugt eine deterministische 12-Byte ID mittels BLAKE2s."""
|
||||||
|
base = f"{kind}:{s}->{t}#{scope}"
|
||||||
|
if rule_id: base += f"|{rule_id}"
|
||||||
|
return hashlib.blake2s(base.encode("utf-8"), digest_size=12).hexdigest()
|
||||||
|
|
||||||
|
def _edge(kind: str, scope: str, source_id: str, target_id: str, note_id: str, extra: Optional[dict] = None) -> dict:
|
||||||
|
"""Konstruiert ein Kanten-Payload für Qdrant."""
|
||||||
|
pl = {
|
||||||
|
"kind": kind,
|
||||||
|
"relation": kind,
|
||||||
|
"scope": scope,
|
||||||
|
"source_id": source_id,
|
||||||
|
"target_id": target_id,
|
||||||
|
"note_id": note_id,
|
||||||
|
}
|
||||||
|
if extra: pl.update(extra)
|
||||||
|
return pl
|
||||||
|
|
||||||
|
def load_types_registry() -> dict:
|
||||||
|
"""Lädt die YAML-Registry."""
|
||||||
|
p = os.getenv("MINDNET_TYPES_FILE", "./config/types.yaml")
|
||||||
|
if not os.path.isfile(p) or yaml is None: return {}
|
||||||
|
try:
|
||||||
|
with open(p, "r", encoding="utf-8") as f: return yaml.safe_load(f) or {}
|
||||||
|
except Exception: return {}
|
||||||
|
|
||||||
|
def get_edge_defaults_for(note_type: Optional[str], reg: dict) -> List[str]:
|
||||||
|
"""Ermittelt Standard-Kanten für einen Typ."""
|
||||||
|
types_map = reg.get("types", reg) if isinstance(reg, dict) else {}
|
||||||
|
if note_type and isinstance(types_map, dict):
|
||||||
|
t = types_map.get(note_type)
|
||||||
|
if isinstance(t, dict) and isinstance(t.get("edge_defaults"), list):
|
||||||
|
return [str(x) for x in t["edge_defaults"] if isinstance(x, str)]
|
||||||
|
for key in ("defaults", "default", "global"):
|
||||||
|
v = reg.get(key)
|
||||||
|
if isinstance(v, dict) and isinstance(v.get("edge_defaults"), list):
|
||||||
|
return [str(x) for x in v["edge_defaults"] if isinstance(x, str)]
|
||||||
|
return []
|
||||||
@@ -0,0 +1,39 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/graph/graph_weights.py
|
||||||
|
DESCRIPTION: Definition der Basisgewichte und Berechnung der Kanteneffektivität.
|
||||||
|
"""
|
||||||
|
from typing import Dict
|
||||||
|
|
||||||
|
# Basisgewichte je Edge-Typ (WP-04a Config)
|
||||||
|
EDGE_BASE_WEIGHTS: Dict[str, float] = {
|
||||||
|
# Struktur
|
||||||
|
"belongs_to": 0.10,
|
||||||
|
"next": 0.06,
|
||||||
|
"prev": 0.06,
|
||||||
|
"backlink": 0.04,
|
||||||
|
"references_at": 0.08,
|
||||||
|
|
||||||
|
# Wissen
|
||||||
|
"references": 0.20,
|
||||||
|
"depends_on": 0.18,
|
||||||
|
"related_to": 0.15,
|
||||||
|
"similar_to": 0.12,
|
||||||
|
}
|
||||||
|
|
||||||
|
def calculate_edge_weight(pl: Dict) -> float:
|
||||||
|
"""Berechnet das effektive Edge-Gewicht aus kind + confidence."""
|
||||||
|
kind = pl.get("kind", "edge")
|
||||||
|
base = EDGE_BASE_WEIGHTS.get(kind, 0.0)
|
||||||
|
|
||||||
|
conf_raw = pl.get("confidence", None)
|
||||||
|
try:
|
||||||
|
conf = float(conf_raw) if conf_raw is not None else None
|
||||||
|
except Exception:
|
||||||
|
conf = None
|
||||||
|
|
||||||
|
if conf is None:
|
||||||
|
return base
|
||||||
|
|
||||||
|
# Clamp confidence 0.0 - 1.0
|
||||||
|
conf = max(0.0, min(1.0, conf))
|
||||||
|
return base * conf
|
||||||
@@ -1,249 +0,0 @@
|
|||||||
"""
|
|
||||||
FILE: app/core/graph_adapter.py
|
|
||||||
DESCRIPTION: Lädt Kanten aus Qdrant und baut einen In-Memory Subgraphen für Scoring (Centrality) und Explanation.
|
|
||||||
VERSION: 0.4.0
|
|
||||||
STATUS: Active
|
|
||||||
DEPENDENCIES: qdrant_client, app.core.qdrant
|
|
||||||
LAST_ANALYSIS: 2025-12-15
|
|
||||||
"""
|
|
||||||
|
|
||||||
from __future__ import annotations
|
|
||||||
|
|
||||||
from typing import Dict, List, Optional, DefaultDict, Any
|
|
||||||
from collections import defaultdict
|
|
||||||
|
|
||||||
from qdrant_client import QdrantClient
|
|
||||||
from qdrant_client.http import models as rest
|
|
||||||
|
|
||||||
from app.core.qdrant import collection_names
|
|
||||||
|
|
||||||
# Legacy-Import Fallback
|
|
||||||
try: # pragma: no cover
|
|
||||||
from app.core.qdrant_points import get_edges_for_sources # type: ignore
|
|
||||||
except Exception: # pragma: no cover
|
|
||||||
get_edges_for_sources = None # type: ignore
|
|
||||||
|
|
||||||
|
|
||||||
# Basisgewichte je Edge-Typ (WP-04a Config)
|
|
||||||
EDGE_BASE_WEIGHTS: Dict[str, float] = {
|
|
||||||
# Struktur
|
|
||||||
"belongs_to": 0.10,
|
|
||||||
"next": 0.06,
|
|
||||||
"prev": 0.06,
|
|
||||||
"backlink": 0.04,
|
|
||||||
"references_at": 0.08,
|
|
||||||
|
|
||||||
# Wissen
|
|
||||||
"references": 0.20,
|
|
||||||
"depends_on": 0.18,
|
|
||||||
"related_to": 0.15,
|
|
||||||
"similar_to": 0.12,
|
|
||||||
}
|
|
||||||
|
|
||||||
|
|
||||||
def _edge_weight(pl: Dict) -> float:
|
|
||||||
"""Berechnet das effektive Edge-Gewicht aus kind + confidence."""
|
|
||||||
kind = pl.get("kind", "edge")
|
|
||||||
base = EDGE_BASE_WEIGHTS.get(kind, 0.0)
|
|
||||||
|
|
||||||
conf_raw = pl.get("confidence", None)
|
|
||||||
try:
|
|
||||||
conf = float(conf_raw) if conf_raw is not None else None
|
|
||||||
except Exception:
|
|
||||||
conf = None
|
|
||||||
|
|
||||||
if conf is None:
|
|
||||||
return base
|
|
||||||
|
|
||||||
if conf < 0.0: conf = 0.0
|
|
||||||
if conf > 1.0: conf = 1.0
|
|
||||||
|
|
||||||
return base * conf
|
|
||||||
|
|
||||||
|
|
||||||
def _fetch_edges(
|
|
||||||
client: QdrantClient,
|
|
||||||
prefix: str,
|
|
||||||
seeds: List[str],
|
|
||||||
edge_types: Optional[List[str]] = None,
|
|
||||||
limit: int = 2048,
|
|
||||||
) -> List[Dict]:
|
|
||||||
"""
|
|
||||||
Holt Edges direkt aus der *_edges Collection.
|
|
||||||
Filter: source_id IN seeds OR target_id IN seeds OR note_id IN seeds
|
|
||||||
"""
|
|
||||||
if not seeds or limit <= 0:
|
|
||||||
return []
|
|
||||||
|
|
||||||
_, _, edges_col = collection_names(prefix)
|
|
||||||
|
|
||||||
seed_conditions = []
|
|
||||||
for field in ("source_id", "target_id", "note_id"):
|
|
||||||
for s in seeds:
|
|
||||||
seed_conditions.append(
|
|
||||||
rest.FieldCondition(key=field, match=rest.MatchValue(value=str(s)))
|
|
||||||
)
|
|
||||||
seeds_filter = rest.Filter(should=seed_conditions) if seed_conditions else None
|
|
||||||
|
|
||||||
type_filter = None
|
|
||||||
if edge_types:
|
|
||||||
type_conds = [
|
|
||||||
rest.FieldCondition(key="kind", match=rest.MatchValue(value=str(k)))
|
|
||||||
for k in edge_types
|
|
||||||
]
|
|
||||||
type_filter = rest.Filter(should=type_conds)
|
|
||||||
|
|
||||||
must = []
|
|
||||||
if seeds_filter: must.append(seeds_filter)
|
|
||||||
if type_filter: must.append(type_filter)
|
|
||||||
|
|
||||||
flt = rest.Filter(must=must) if must else None
|
|
||||||
|
|
||||||
pts, _ = client.scroll(
|
|
||||||
collection_name=edges_col,
|
|
||||||
scroll_filter=flt,
|
|
||||||
limit=limit,
|
|
||||||
with_payload=True,
|
|
||||||
with_vectors=False,
|
|
||||||
)
|
|
||||||
|
|
||||||
out: List[Dict] = []
|
|
||||||
for p in pts or []:
|
|
||||||
pl = dict(p.payload or {})
|
|
||||||
if pl:
|
|
||||||
out.append(pl)
|
|
||||||
return out
|
|
||||||
|
|
||||||
|
|
||||||
class Subgraph:
|
|
||||||
"""Leichtgewichtiger Subgraph mit Adjazenzlisten & Kennzahlen."""
|
|
||||||
|
|
||||||
def __init__(self) -> None:
|
|
||||||
# Forward: source -> [targets]
|
|
||||||
self.adj: DefaultDict[str, List[Dict]] = defaultdict(list)
|
|
||||||
# Reverse: target -> [sources] (Neu für WP-04b Explanation)
|
|
||||||
self.reverse_adj: DefaultDict[str, List[Dict]] = defaultdict(list)
|
|
||||||
|
|
||||||
self.in_degree: DefaultDict[str, int] = defaultdict(int)
|
|
||||||
self.out_degree: DefaultDict[str, int] = defaultdict(int)
|
|
||||||
|
|
||||||
def add_edge(self, e: Dict) -> None:
|
|
||||||
"""
|
|
||||||
Fügt eine Kante hinzu und aktualisiert Forward/Reverse Indizes.
|
|
||||||
e muss enthalten: source, target, kind, weight.
|
|
||||||
"""
|
|
||||||
src = e.get("source")
|
|
||||||
tgt = e.get("target")
|
|
||||||
kind = e.get("kind")
|
|
||||||
weight = e.get("weight", EDGE_BASE_WEIGHTS.get(kind, 0.0))
|
|
||||||
owner = e.get("note_id")
|
|
||||||
|
|
||||||
if not src or not tgt:
|
|
||||||
return
|
|
||||||
|
|
||||||
# 1. Primäre Adjazenz (Forward)
|
|
||||||
edge_data = {"target": tgt, "kind": kind, "weight": weight}
|
|
||||||
self.adj[src].append(edge_data)
|
|
||||||
self.out_degree[src] += 1
|
|
||||||
self.in_degree[tgt] += 1
|
|
||||||
|
|
||||||
# 2. Reverse Adjazenz (Neu für Explanation)
|
|
||||||
# Wir speichern, woher die Kante kam.
|
|
||||||
rev_data = {"source": src, "kind": kind, "weight": weight}
|
|
||||||
self.reverse_adj[tgt].append(rev_data)
|
|
||||||
|
|
||||||
# 3. Kontext-Note Handling (Forward & Reverse)
|
|
||||||
# Wenn eine Kante "im Kontext einer Note" (owner) definiert ist,
|
|
||||||
# schreiben wir sie der Note gut, damit der Retriever Scores auf Note-Ebene findet.
|
|
||||||
if owner and owner != src:
|
|
||||||
# Forward: Owner -> Target
|
|
||||||
self.adj[owner].append(edge_data)
|
|
||||||
self.out_degree[owner] += 1
|
|
||||||
|
|
||||||
# Reverse: Target wird vom Owner referenziert (indirekt)
|
|
||||||
if owner != tgt:
|
|
||||||
rev_owner_data = {"source": owner, "kind": kind, "weight": weight, "via_context": True}
|
|
||||||
self.reverse_adj[tgt].append(rev_owner_data)
|
|
||||||
self.in_degree[owner] += 1 # Leichter Centrality Boost für den Owner
|
|
||||||
|
|
||||||
def aggregate_edge_bonus(self, node_id: str) -> float:
|
|
||||||
"""Summe der ausgehenden Kantengewichte (Hub-Score)."""
|
|
||||||
return sum(edge["weight"] for edge in self.adj.get(node_id, []))
|
|
||||||
|
|
||||||
def edge_bonus(self, node_id: str) -> float:
|
|
||||||
"""API für Retriever (WP-04a Kompatibilität)."""
|
|
||||||
return self.aggregate_edge_bonus(node_id)
|
|
||||||
|
|
||||||
def centrality_bonus(self, node_id: str) -> float:
|
|
||||||
"""Log-gedämpfte Zentralität (In-Degree)."""
|
|
||||||
import math
|
|
||||||
indeg = self.in_degree.get(node_id, 0)
|
|
||||||
if indeg <= 0:
|
|
||||||
return 0.0
|
|
||||||
return min(math.log1p(indeg) / 10.0, 0.15)
|
|
||||||
|
|
||||||
# --- WP-04b Explanation Helpers ---
|
|
||||||
|
|
||||||
def get_outgoing_edges(self, node_id: str) -> List[Dict[str, Any]]:
|
|
||||||
"""Liefert Liste aller Ziele, auf die dieser Knoten zeigt."""
|
|
||||||
return self.adj.get(node_id, [])
|
|
||||||
|
|
||||||
def get_incoming_edges(self, node_id: str) -> List[Dict[str, Any]]:
|
|
||||||
"""Liefert Liste aller Quellen, die auf diesen Knoten zeigen."""
|
|
||||||
return self.reverse_adj.get(node_id, [])
|
|
||||||
|
|
||||||
|
|
||||||
def expand(
|
|
||||||
client: QdrantClient,
|
|
||||||
prefix: str,
|
|
||||||
seeds: List[str],
|
|
||||||
depth: int = 1,
|
|
||||||
edge_types: Optional[List[str]] = None,
|
|
||||||
) -> Subgraph:
|
|
||||||
"""
|
|
||||||
Expandiert ab Seeds entlang von Edges (bis `depth`).
|
|
||||||
"""
|
|
||||||
sg = Subgraph()
|
|
||||||
frontier = set(seeds)
|
|
||||||
visited = set()
|
|
||||||
|
|
||||||
max_depth = max(depth, 0)
|
|
||||||
|
|
||||||
for _ in range(max_depth):
|
|
||||||
if not frontier:
|
|
||||||
break
|
|
||||||
|
|
||||||
edges_payloads = _fetch_edges(
|
|
||||||
client=client,
|
|
||||||
prefix=prefix,
|
|
||||||
seeds=list(frontier),
|
|
||||||
edge_types=edge_types,
|
|
||||||
limit=2048,
|
|
||||||
)
|
|
||||||
|
|
||||||
next_frontier = set()
|
|
||||||
for pl in edges_payloads:
|
|
||||||
src = pl.get("source_id")
|
|
||||||
tgt = pl.get("target_id")
|
|
||||||
|
|
||||||
# Skip invalid edges
|
|
||||||
if not src or not tgt:
|
|
||||||
continue
|
|
||||||
|
|
||||||
e = {
|
|
||||||
"source": src,
|
|
||||||
"target": tgt,
|
|
||||||
"kind": pl.get("kind", "edge"),
|
|
||||||
"weight": _edge_weight(pl),
|
|
||||||
"note_id": pl.get("note_id"),
|
|
||||||
}
|
|
||||||
sg.add_edge(e)
|
|
||||||
|
|
||||||
# Nur weitersuchen, wenn Target noch nicht besucht
|
|
||||||
if tgt and tgt not in visited:
|
|
||||||
next_frontier.add(tgt)
|
|
||||||
|
|
||||||
visited |= frontier
|
|
||||||
frontier = next_frontier - visited
|
|
||||||
|
|
||||||
return sg
|
|
||||||
@@ -1,357 +0,0 @@
|
|||||||
"""
|
|
||||||
FILE: app/core/ingestion.py
|
|
||||||
DESCRIPTION: Haupt-Ingestion-Logik. Transformiert Markdown in den Graphen (Notes, Chunks, Edges).
|
|
||||||
FIX: Korrekte Priorisierung von Frontmatter für chunk_profile und retriever_weight.
|
|
||||||
Lade Chunk-Config basierend auf dem effektiven Profil, nicht nur dem Notiz-Typ.
|
|
||||||
WP-22: Integration von Content Lifecycle (Status Gate) und Edge Registry Validation.
|
|
||||||
WP-22: Multi-Hash Refresh für konsistente Change Detection.
|
|
||||||
VERSION: 2.8.6 (WP-22 Lifecycle & Registry)
|
|
||||||
STATUS: Active
|
|
||||||
DEPENDENCIES: app.core.parser, app.core.note_payload, app.core.chunker, app.core.derive_edges, app.core.qdrant*, app.services.embeddings_client, app.services.edge_registry
|
|
||||||
EXTERNAL_CONFIG: config/types.yaml
|
|
||||||
"""
|
|
||||||
import os
|
|
||||||
import logging
|
|
||||||
import asyncio
|
|
||||||
import time
|
|
||||||
from typing import Dict, List, Optional, Tuple, Any
|
|
||||||
|
|
||||||
# Core Module Imports
|
|
||||||
from app.core.parser import (
|
|
||||||
read_markdown,
|
|
||||||
normalize_frontmatter,
|
|
||||||
validate_required_frontmatter,
|
|
||||||
)
|
|
||||||
from app.core.note_payload import make_note_payload
|
|
||||||
from app.core.chunker import assemble_chunks, get_chunk_config
|
|
||||||
from app.core.chunk_payload import make_chunk_payloads
|
|
||||||
|
|
||||||
# Fallback für Edges
|
|
||||||
try:
|
|
||||||
from app.core.derive_edges import build_edges_for_note
|
|
||||||
except ImportError:
|
|
||||||
def build_edges_for_note(*args, **kwargs): return []
|
|
||||||
|
|
||||||
from app.core.qdrant import QdrantConfig, get_client, ensure_collections, ensure_payload_indexes
|
|
||||||
from app.core.qdrant_points import (
|
|
||||||
points_for_chunks,
|
|
||||||
points_for_note,
|
|
||||||
points_for_edges,
|
|
||||||
upsert_batch,
|
|
||||||
)
|
|
||||||
|
|
||||||
from app.services.embeddings_client import EmbeddingsClient
|
|
||||||
from app.services.edge_registry import registry as edge_registry
|
|
||||||
|
|
||||||
logger = logging.getLogger(__name__)
|
|
||||||
|
|
||||||
# --- Helper ---
|
|
||||||
def load_type_registry(custom_path: Optional[str] = None) -> dict:
|
|
||||||
"""Lädt die types.yaml zur Steuerung der typ-spezifischen Ingestion."""
|
|
||||||
import yaml
|
|
||||||
path = custom_path or os.getenv("MINDNET_TYPES_FILE", "config/types.yaml")
|
|
||||||
if not os.path.exists(path): return {}
|
|
||||||
try:
|
|
||||||
with open(path, "r", encoding="utf-8") as f: return yaml.safe_load(f) or {}
|
|
||||||
except Exception: return {}
|
|
||||||
|
|
||||||
def resolve_note_type(requested: Optional[str], reg: dict) -> str:
|
|
||||||
"""Bestimmt den finalen Notiz-Typ (Fallback auf 'concept')."""
|
|
||||||
types = reg.get("types", {})
|
|
||||||
if requested and requested in types: return requested
|
|
||||||
return "concept"
|
|
||||||
|
|
||||||
def effective_chunk_profile_name(fm: dict, note_type: str, reg: dict) -> str:
|
|
||||||
"""
|
|
||||||
Ermittelt den Namen des zu nutzenden Chunk-Profils.
|
|
||||||
Priorität: 1. Frontmatter Override -> 2. Type Config -> 3. Global Default
|
|
||||||
"""
|
|
||||||
# 1. Frontmatter Override
|
|
||||||
override = fm.get("chunking_profile") or fm.get("chunk_profile")
|
|
||||||
if override and isinstance(override, str):
|
|
||||||
return override
|
|
||||||
|
|
||||||
# 2. Type Config
|
|
||||||
t_cfg = reg.get("types", {}).get(note_type, {})
|
|
||||||
if t_cfg:
|
|
||||||
cp = t_cfg.get("chunking_profile") or t_cfg.get("chunk_profile")
|
|
||||||
if cp: return cp
|
|
||||||
|
|
||||||
# 3. Global Default
|
|
||||||
return reg.get("defaults", {}).get("chunking_profile", "sliding_standard")
|
|
||||||
|
|
||||||
def effective_retriever_weight(fm: dict, note_type: str, reg: dict) -> float:
|
|
||||||
"""
|
|
||||||
Ermittelt das effektive retriever_weight für das Scoring.
|
|
||||||
Priorität: 1. Frontmatter Override -> 2. Type Config -> 3. Global Default
|
|
||||||
"""
|
|
||||||
# 1. Frontmatter Override
|
|
||||||
override = fm.get("retriever_weight")
|
|
||||||
if override is not None:
|
|
||||||
try: return float(override)
|
|
||||||
except: pass
|
|
||||||
|
|
||||||
# 2. Type Config
|
|
||||||
t_cfg = reg.get("types", {}).get(note_type, {})
|
|
||||||
if t_cfg and "retriever_weight" in t_cfg:
|
|
||||||
return float(t_cfg["retriever_weight"])
|
|
||||||
|
|
||||||
# 3. Global Default
|
|
||||||
return float(reg.get("defaults", {}).get("retriever_weight", 1.0))
|
|
||||||
|
|
||||||
|
|
||||||
class IngestionService:
|
|
||||||
def __init__(self, collection_prefix: str = None):
|
|
||||||
env_prefix = os.getenv("COLLECTION_PREFIX", "mindnet")
|
|
||||||
self.prefix = collection_prefix or env_prefix
|
|
||||||
|
|
||||||
self.cfg = QdrantConfig.from_env()
|
|
||||||
self.cfg.prefix = self.prefix
|
|
||||||
self.client = get_client(self.cfg)
|
|
||||||
self.dim = self.cfg.dim
|
|
||||||
self.registry = load_type_registry()
|
|
||||||
self.embedder = EmbeddingsClient()
|
|
||||||
|
|
||||||
# Change Detection Modus (full oder body)
|
|
||||||
self.active_hash_mode = os.getenv("MINDNET_CHANGE_DETECTION_MODE", "full")
|
|
||||||
|
|
||||||
try:
|
|
||||||
ensure_collections(self.client, self.prefix, self.dim)
|
|
||||||
ensure_payload_indexes(self.client, self.prefix)
|
|
||||||
except Exception as e:
|
|
||||||
logger.warning(f"DB init warning: {e}")
|
|
||||||
|
|
||||||
def _get_chunk_config_by_profile(self, profile_name: str, note_type: str) -> Dict[str, Any]:
|
|
||||||
"""Holt die Chunker-Parameter (max, target, overlap) für ein spezifisches Profil."""
|
|
||||||
profiles = self.registry.get("chunking_profiles", {})
|
|
||||||
if profile_name in profiles:
|
|
||||||
cfg = profiles[profile_name].copy()
|
|
||||||
if "overlap" in cfg and isinstance(cfg["overlap"], list):
|
|
||||||
cfg["overlap"] = tuple(cfg["overlap"])
|
|
||||||
return cfg
|
|
||||||
return get_chunk_config(note_type)
|
|
||||||
|
|
||||||
async def process_file(
|
|
||||||
self,
|
|
||||||
file_path: str,
|
|
||||||
vault_root: str,
|
|
||||||
force_replace: bool = False,
|
|
||||||
apply: bool = False,
|
|
||||||
purge_before: bool = False,
|
|
||||||
note_scope_refs: bool = False,
|
|
||||||
hash_source: str = "parsed",
|
|
||||||
hash_normalize: str = "canonical"
|
|
||||||
) -> Dict[str, Any]:
|
|
||||||
"""
|
|
||||||
Verarbeitet eine Markdown-Datei und schreibt sie in den Graphen.
|
|
||||||
Folgt dem 14-Schritte-Workflow.
|
|
||||||
"""
|
|
||||||
result = {"path": file_path, "status": "skipped", "changed": False, "error": None}
|
|
||||||
|
|
||||||
# 1. Parse & Frontmatter Validation
|
|
||||||
try:
|
|
||||||
parsed = read_markdown(file_path)
|
|
||||||
if not parsed: return {**result, "error": "Empty or unreadable file"}
|
|
||||||
fm = normalize_frontmatter(parsed.frontmatter)
|
|
||||||
validate_required_frontmatter(fm)
|
|
||||||
except Exception as e:
|
|
||||||
logger.error(f"Validation failed for {file_path}: {e}")
|
|
||||||
return {**result, "error": f"Validation failed: {str(e)}"}
|
|
||||||
|
|
||||||
# --- WP-22: Content Lifecycle Gate (Teil A) ---
|
|
||||||
status = fm.get("status", "draft").lower().strip()
|
|
||||||
|
|
||||||
# Hard Skip für System- oder Archiv-Dateien
|
|
||||||
if status in ["system", "template", "archive", "hidden"]:
|
|
||||||
logger.info(f"Skipping file {file_path} (Status: {status})")
|
|
||||||
return {**result, "status": "skipped", "reason": f"lifecycle_status_{status}"}
|
|
||||||
|
|
||||||
# 2. Type & Config Resolution
|
|
||||||
note_type = resolve_note_type(fm.get("type"), self.registry)
|
|
||||||
fm["type"] = note_type
|
|
||||||
|
|
||||||
effective_profile = effective_chunk_profile_name(fm, note_type, self.registry)
|
|
||||||
effective_weight = effective_retriever_weight(fm, note_type, self.registry)
|
|
||||||
|
|
||||||
fm["chunk_profile"] = effective_profile
|
|
||||||
fm["retriever_weight"] = effective_weight
|
|
||||||
|
|
||||||
# 3. Build Note Payload (Inkl. Multi-Hash für WP-22)
|
|
||||||
try:
|
|
||||||
note_pl = make_note_payload(
|
|
||||||
parsed,
|
|
||||||
vault_root=vault_root,
|
|
||||||
hash_normalize=hash_normalize,
|
|
||||||
hash_source=hash_source,
|
|
||||||
file_path=file_path
|
|
||||||
)
|
|
||||||
# Text Body Fallback
|
|
||||||
if not note_pl.get("fulltext"): note_pl["fulltext"] = getattr(parsed, "body", "") or ""
|
|
||||||
|
|
||||||
# Sicherstellen der effektiven Werte im Payload
|
|
||||||
note_pl["retriever_weight"] = effective_weight
|
|
||||||
note_pl["chunk_profile"] = effective_profile
|
|
||||||
# WP-22: Status speichern
|
|
||||||
note_pl["status"] = status
|
|
||||||
|
|
||||||
note_id = note_pl["note_id"]
|
|
||||||
except Exception as e:
|
|
||||||
logger.error(f"Payload build failed: {e}")
|
|
||||||
return {**result, "error": f"Payload build failed: {str(e)}"}
|
|
||||||
|
|
||||||
# 4. Change Detection
|
|
||||||
old_payload = None
|
|
||||||
if not force_replace:
|
|
||||||
old_payload = self._fetch_note_payload(note_id)
|
|
||||||
|
|
||||||
has_old = old_payload is not None
|
|
||||||
# Prüfung gegen den aktuell konfigurierten Hash-Modus (body oder full)
|
|
||||||
check_key = f"{self.active_hash_mode}:{hash_source}:{hash_normalize}"
|
|
||||||
|
|
||||||
old_hashes = (old_payload or {}).get("hashes")
|
|
||||||
if isinstance(old_hashes, dict): old_hash = old_hashes.get(check_key)
|
|
||||||
elif isinstance(old_hashes, str) and self.active_hash_mode == "body": old_hash = old_hashes
|
|
||||||
else: old_hash = None
|
|
||||||
|
|
||||||
new_hash = note_pl.get("hashes", {}).get(check_key)
|
|
||||||
hash_changed = (old_hash != new_hash)
|
|
||||||
chunks_missing, edges_missing = self._artifacts_missing(note_id)
|
|
||||||
|
|
||||||
should_write = force_replace or (not has_old) or hash_changed or chunks_missing or edges_missing
|
|
||||||
|
|
||||||
if not should_write:
|
|
||||||
return {**result, "status": "unchanged", "note_id": note_id}
|
|
||||||
|
|
||||||
if not apply:
|
|
||||||
return {**result, "status": "dry-run", "changed": True, "note_id": note_id}
|
|
||||||
|
|
||||||
# 5. Processing (Chunking, Embedding, Edge Generation)
|
|
||||||
try:
|
|
||||||
body_text = getattr(parsed, "body", "") or ""
|
|
||||||
|
|
||||||
# Konfiguration für das spezifische Profil laden
|
|
||||||
chunk_config = self._get_chunk_config_by_profile(effective_profile, note_type)
|
|
||||||
|
|
||||||
chunks = await assemble_chunks(fm["id"], body_text, fm["type"], config=chunk_config)
|
|
||||||
|
|
||||||
# Chunks mit Metadaten anreichern
|
|
||||||
chunk_pls = make_chunk_payloads(fm, note_pl["path"], chunks, note_text=body_text)
|
|
||||||
|
|
||||||
vecs = []
|
|
||||||
if chunk_pls:
|
|
||||||
texts = [c.get("window") or c.get("text") or "" for c in chunk_pls]
|
|
||||||
try:
|
|
||||||
if hasattr(self.embedder, 'embed_documents'):
|
|
||||||
vecs = await self.embedder.embed_documents(texts)
|
|
||||||
else:
|
|
||||||
for t in texts:
|
|
||||||
v = await self.embedder.embed_query(t)
|
|
||||||
vecs.append(v)
|
|
||||||
except Exception as e:
|
|
||||||
logger.error(f"Embedding failed: {e}")
|
|
||||||
raise RuntimeError(f"Embedding failed: {e}")
|
|
||||||
|
|
||||||
# Kanten generieren
|
|
||||||
try:
|
|
||||||
raw_edges = build_edges_for_note(
|
|
||||||
note_id,
|
|
||||||
chunk_pls,
|
|
||||||
note_level_references=note_pl.get("references", []),
|
|
||||||
include_note_scope_refs=note_scope_refs
|
|
||||||
)
|
|
||||||
except TypeError:
|
|
||||||
raw_edges = build_edges_for_note(note_id, chunk_pls)
|
|
||||||
|
|
||||||
# --- WP-22: Edge Registry Validation (Teil B) ---
|
|
||||||
edges = []
|
|
||||||
if raw_edges:
|
|
||||||
for edge in raw_edges:
|
|
||||||
original_kind = edge.get("kind", "related_to")
|
|
||||||
# Normalisierung über die Registry (Alias-Auflösung)
|
|
||||||
canonical_kind = edge_registry.resolve(original_kind)
|
|
||||||
edge["kind"] = canonical_kind
|
|
||||||
edges.append(edge)
|
|
||||||
|
|
||||||
except Exception as e:
|
|
||||||
logger.error(f"Processing failed: {e}", exc_info=True)
|
|
||||||
return {**result, "error": f"Processing failed: {str(e)}"}
|
|
||||||
|
|
||||||
# 6. Upsert in Qdrant
|
|
||||||
try:
|
|
||||||
# Alte Fragmente löschen, um "Geister-Chunks" zu vermeiden
|
|
||||||
if purge_before and has_old:
|
|
||||||
self._purge_artifacts(note_id)
|
|
||||||
|
|
||||||
# Note Metadaten
|
|
||||||
n_name, n_pts = points_for_note(self.prefix, note_pl, None, self.dim)
|
|
||||||
upsert_batch(self.client, n_name, n_pts)
|
|
||||||
|
|
||||||
# Chunks (Vektoren)
|
|
||||||
if chunk_pls and vecs:
|
|
||||||
c_name, c_pts = points_for_chunks(self.prefix, chunk_pls, vecs)
|
|
||||||
upsert_batch(self.client, c_name, c_pts)
|
|
||||||
|
|
||||||
# Kanten
|
|
||||||
if edges:
|
|
||||||
e_name, e_pts = points_for_edges(self.prefix, edges)
|
|
||||||
upsert_batch(self.client, e_name, e_pts)
|
|
||||||
|
|
||||||
return {
|
|
||||||
"path": file_path,
|
|
||||||
"status": "success",
|
|
||||||
"changed": True,
|
|
||||||
"note_id": note_id,
|
|
||||||
"chunks_count": len(chunk_pls),
|
|
||||||
"edges_count": len(edges)
|
|
||||||
}
|
|
||||||
except Exception as e:
|
|
||||||
logger.error(f"Upsert failed: {e}", exc_info=True)
|
|
||||||
return {**result, "error": f"DB Upsert failed: {e}"}
|
|
||||||
|
|
||||||
def _fetch_note_payload(self, note_id: str) -> Optional[dict]:
|
|
||||||
"""Holt das aktuelle Payload einer Note aus Qdrant."""
|
|
||||||
from qdrant_client.http import models as rest
|
|
||||||
col = f"{self.prefix}_notes"
|
|
||||||
try:
|
|
||||||
f = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
|
||||||
pts, _ = self.client.scroll(collection_name=col, scroll_filter=f, limit=1, with_payload=True)
|
|
||||||
return pts[0].payload if pts else None
|
|
||||||
except: return None
|
|
||||||
|
|
||||||
def _artifacts_missing(self, note_id: str) -> Tuple[bool, bool]:
|
|
||||||
"""Prüft, ob Chunks oder Kanten für eine Note fehlen (Integritätscheck)."""
|
|
||||||
from qdrant_client.http import models as rest
|
|
||||||
c_col = f"{self.prefix}_chunks"
|
|
||||||
e_col = f"{self.prefix}_edges"
|
|
||||||
try:
|
|
||||||
f = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
|
||||||
c_pts, _ = self.client.scroll(collection_name=c_col, scroll_filter=f, limit=1)
|
|
||||||
e_pts, _ = self.client.scroll(collection_name=e_col, scroll_filter=f, limit=1)
|
|
||||||
return (not bool(c_pts)), (not bool(e_pts))
|
|
||||||
except: return True, True
|
|
||||||
|
|
||||||
def _purge_artifacts(self, note_id: str):
|
|
||||||
"""Löscht alle Chunks und Edges einer Note (vor dem Neu-Schreiben)."""
|
|
||||||
from qdrant_client.http import models as rest
|
|
||||||
f = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
|
||||||
selector = rest.FilterSelector(filter=f)
|
|
||||||
for suffix in ["chunks", "edges"]:
|
|
||||||
try:
|
|
||||||
self.client.delete(collection_name=f"{self.prefix}_{suffix}", points_selector=selector)
|
|
||||||
except Exception: pass
|
|
||||||
|
|
||||||
async def create_from_text(self, markdown_content: str, filename: str, vault_root: str, folder: str = "00_Inbox") -> Dict[str, Any]:
|
|
||||||
"""Hilfsmethode zur Erstellung einer Note aus einem Textstream (Editor-Save)."""
|
|
||||||
target_dir = os.path.join(vault_root, folder)
|
|
||||||
os.makedirs(target_dir, exist_ok=True)
|
|
||||||
file_path = os.path.join(target_dir, filename)
|
|
||||||
try:
|
|
||||||
with open(file_path, "w", encoding="utf-8") as f:
|
|
||||||
f.write(markdown_content)
|
|
||||||
f.flush()
|
|
||||||
os.fsync(f.fileno())
|
|
||||||
await asyncio.sleep(0.1)
|
|
||||||
logger.info(f"Written file to {file_path}")
|
|
||||||
except Exception as e:
|
|
||||||
return {"status": "error", "error": f"Disk write failed: {str(e)}"}
|
|
||||||
return await self.process_file(file_path=file_path, vault_root=vault_root, apply=True, force_replace=True, purge_before=True)
|
|
||||||
@@ -0,0 +1,26 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/ingestion/__init__.py
|
||||||
|
DESCRIPTION: Package-Einstiegspunkt für Ingestion. Exportiert den IngestionService.
|
||||||
|
AUDIT v2.13.10: Abschluss der Modularisierung (WP-14).
|
||||||
|
Bricht Zirkelbezüge durch Nutzung der neutralen registry.py auf.
|
||||||
|
VERSION: 2.13.10
|
||||||
|
"""
|
||||||
|
# Der IngestionService ist der primäre Orchestrator für den Datenimport
|
||||||
|
from .ingestion_processor import IngestionService
|
||||||
|
|
||||||
|
# Hilfswerkzeuge für JSON-Verarbeitung und Konfigurations-Management
|
||||||
|
# load_type_registry wird hier re-exportiert, um die Abwärtskompatibilität zu wahren,
|
||||||
|
# obwohl die Implementierung nun in app.core.registry liegt.
|
||||||
|
from .ingestion_utils import (
|
||||||
|
extract_json_from_response,
|
||||||
|
load_type_registry,
|
||||||
|
resolve_note_type
|
||||||
|
)
|
||||||
|
|
||||||
|
# Öffentliche API des Pakets
|
||||||
|
__all__ = [
|
||||||
|
"IngestionService",
|
||||||
|
"extract_json_from_response",
|
||||||
|
"load_type_registry",
|
||||||
|
"resolve_note_type"
|
||||||
|
]
|
||||||
@@ -0,0 +1,114 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/ingestion/ingestion_chunk_payload.py
|
||||||
|
DESCRIPTION: Baut das JSON-Objekt für 'mindnet_chunks'.
|
||||||
|
Fix v2.4.3: Integration der zentralen Registry (WP-14) für konsistente Defaults.
|
||||||
|
VERSION: 2.4.3
|
||||||
|
STATUS: Active
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
from typing import Any, Dict, List, Optional
|
||||||
|
|
||||||
|
# ENTSCHEIDENDER FIX: Import der neutralen Registry-Logik zur Vermeidung von Circular Imports
|
||||||
|
from app.core.registry import load_type_registry
|
||||||
|
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
# Resolution Helpers (Audited)
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
|
def _as_list(x):
|
||||||
|
"""Sichert die Listen-Integrität für Metadaten wie Tags."""
|
||||||
|
if x is None: return []
|
||||||
|
return x if isinstance(x, list) else [x]
|
||||||
|
|
||||||
|
def _resolve_val(note_type: str, reg: dict, key: str, default: Any) -> Any:
|
||||||
|
"""
|
||||||
|
Hierarchische Suche in der Registry: Type-Spezifisch > Globaler Default.
|
||||||
|
WP-14: Erlaubt dynamische Konfiguration via types.yaml.
|
||||||
|
"""
|
||||||
|
types = reg.get("types", {})
|
||||||
|
if isinstance(types, dict):
|
||||||
|
t_cfg = types.get(note_type, {})
|
||||||
|
if isinstance(t_cfg, dict):
|
||||||
|
# Fallback für Key-Varianten (z.B. chunking_profile vs chunk_profile)
|
||||||
|
val = t_cfg.get(key) or t_cfg.get(key.replace("ing", ""))
|
||||||
|
if val is not None: return val
|
||||||
|
|
||||||
|
defs = reg.get("defaults", {}) or reg.get("global", {})
|
||||||
|
if isinstance(defs, dict):
|
||||||
|
val = defs.get(key) or defs.get(key.replace("ing", ""))
|
||||||
|
if val is not None: return val
|
||||||
|
|
||||||
|
return default
|
||||||
|
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
# Haupt-API
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
|
def make_chunk_payloads(note: Dict[str, Any], note_path: str, chunks_from_chunker: List[Any], **kwargs) -> List[Dict[str, Any]]:
|
||||||
|
"""
|
||||||
|
Erstellt die Payloads für die Chunks inklusive Audit-Resolution.
|
||||||
|
Nutzt nun die zentrale Registry für alle Fallbacks.
|
||||||
|
"""
|
||||||
|
if isinstance(note, dict) and "frontmatter" in note:
|
||||||
|
fm = note["frontmatter"]
|
||||||
|
else:
|
||||||
|
fm = note or {}
|
||||||
|
|
||||||
|
# WP-14 Fix: Nutzt übergebene Registry oder lädt sie global
|
||||||
|
reg = kwargs.get("types_cfg") or load_type_registry()
|
||||||
|
|
||||||
|
note_type = fm.get("type") or "concept"
|
||||||
|
title = fm.get("title") or fm.get("id") or "Untitled"
|
||||||
|
tags = _as_list(fm.get("tags") or [])
|
||||||
|
|
||||||
|
# Audit: Resolution Hierarchie (Frontmatter > Registry)
|
||||||
|
cp = fm.get("chunking_profile") or fm.get("chunk_profile")
|
||||||
|
if not cp:
|
||||||
|
cp = _resolve_val(note_type, reg, "chunking_profile", "sliding_standard")
|
||||||
|
|
||||||
|
rw = fm.get("retriever_weight")
|
||||||
|
if rw is None:
|
||||||
|
rw = _resolve_val(note_type, reg, "retriever_weight", 1.0)
|
||||||
|
try:
|
||||||
|
rw = float(rw)
|
||||||
|
except:
|
||||||
|
rw = 1.0
|
||||||
|
|
||||||
|
out: List[Dict[str, Any]] = []
|
||||||
|
for idx, ch in enumerate(chunks_from_chunker):
|
||||||
|
is_dict = isinstance(ch, dict)
|
||||||
|
cid = getattr(ch, "id", None) if not is_dict else ch.get("id")
|
||||||
|
nid = getattr(ch, "note_id", None) if not is_dict else ch.get("note_id")
|
||||||
|
index = getattr(ch, "index", idx) if not is_dict else ch.get("index", idx)
|
||||||
|
text = getattr(ch, "text", "") if not is_dict else ch.get("text", "")
|
||||||
|
window = getattr(ch, "window", text) if not is_dict else ch.get("window", text)
|
||||||
|
prev_id = getattr(ch, "neighbors_prev", None) if not is_dict else ch.get("neighbors_prev")
|
||||||
|
next_id = getattr(ch, "neighbors_next", None) if not is_dict else ch.get("neighbors_next")
|
||||||
|
section = getattr(ch, "section_title", "") if not is_dict else ch.get("section", "")
|
||||||
|
|
||||||
|
pl: Dict[str, Any] = {
|
||||||
|
"note_id": nid or fm.get("id"),
|
||||||
|
"chunk_id": cid,
|
||||||
|
"title": title,
|
||||||
|
"index": int(index),
|
||||||
|
"ord": int(index) + 1,
|
||||||
|
"type": note_type,
|
||||||
|
"tags": tags,
|
||||||
|
"text": text,
|
||||||
|
"window": window,
|
||||||
|
"neighbors_prev": _as_list(prev_id),
|
||||||
|
"neighbors_next": _as_list(next_id),
|
||||||
|
"section": section,
|
||||||
|
"path": note_path,
|
||||||
|
"source_path": kwargs.get("file_path") or note_path,
|
||||||
|
"retriever_weight": rw,
|
||||||
|
"chunk_profile": cp
|
||||||
|
}
|
||||||
|
|
||||||
|
# Audit: Cleanup Pop (Vermeidung von redundanten Alias-Feldern)
|
||||||
|
for alias in ("chunk_num", "Chunk_Number"):
|
||||||
|
pl.pop(alias, None)
|
||||||
|
|
||||||
|
out.append(pl)
|
||||||
|
|
||||||
|
return out
|
||||||
@@ -0,0 +1,39 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/ingestion/ingestion_db.py
|
||||||
|
DESCRIPTION: Datenbank-Schnittstelle für Note-Metadaten und Artefakt-Prüfung.
|
||||||
|
WP-14: Umstellung auf zentrale database-Infrastruktur.
|
||||||
|
"""
|
||||||
|
from typing import Optional, Tuple
|
||||||
|
from qdrant_client import QdrantClient
|
||||||
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
|
# Import der modularisierten Namen-Logik zur Sicherstellung der Konsistenz
|
||||||
|
from app.core.database import collection_names
|
||||||
|
|
||||||
|
def fetch_note_payload(client: QdrantClient, prefix: str, note_id: str) -> Optional[dict]:
|
||||||
|
"""Holt die Metadaten einer Note aus Qdrant via Scroll."""
|
||||||
|
notes_col, _, _ = collection_names(prefix)
|
||||||
|
try:
|
||||||
|
f = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
||||||
|
pts, _ = client.scroll(collection_name=notes_col, scroll_filter=f, limit=1, with_payload=True)
|
||||||
|
return pts[0].payload if pts else None
|
||||||
|
except: return None
|
||||||
|
|
||||||
|
def artifacts_missing(client: QdrantClient, prefix: str, note_id: str) -> Tuple[bool, bool]:
|
||||||
|
"""Prüft Qdrant aktiv auf vorhandene Chunks und Edges."""
|
||||||
|
_, chunks_col, edges_col = collection_names(prefix)
|
||||||
|
try:
|
||||||
|
f = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
||||||
|
c_pts, _ = client.scroll(collection_name=chunks_col, scroll_filter=f, limit=1)
|
||||||
|
e_pts, _ = client.scroll(collection_name=edges_col, scroll_filter=f, limit=1)
|
||||||
|
return (not bool(c_pts)), (not bool(e_pts))
|
||||||
|
except: return True, True
|
||||||
|
|
||||||
|
def purge_artifacts(client: QdrantClient, prefix: str, note_id: str):
|
||||||
|
"""Löscht verwaiste Chunks/Edges vor einem Re-Import."""
|
||||||
|
_, chunks_col, edges_col = collection_names(prefix)
|
||||||
|
f = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
||||||
|
# Iteration über die nun zentral verwalteten Collection-Namen
|
||||||
|
for col in [chunks_col, edges_col]:
|
||||||
|
try: client.delete(collection_name=col, points_selector=rest.FilterSelector(filter=f))
|
||||||
|
except: pass
|
||||||
@@ -0,0 +1,160 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/ingestion/ingestion_note_payload.py
|
||||||
|
DESCRIPTION: Baut das JSON-Objekt für mindnet_notes.
|
||||||
|
FEATURES:
|
||||||
|
- Multi-Hash (body/full) für flexible Change Detection.
|
||||||
|
- Fix v2.4.4: Integration der zentralen Registry (WP-14) für konsistente Defaults.
|
||||||
|
VERSION: 2.4.4
|
||||||
|
STATUS: Active
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
from typing import Any, Dict, Tuple, Optional
|
||||||
|
import os
|
||||||
|
import json
|
||||||
|
import pathlib
|
||||||
|
import hashlib
|
||||||
|
|
||||||
|
# Import der zentralen Registry-Logik
|
||||||
|
from app.core.registry import load_type_registry
|
||||||
|
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
# Helper
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
|
def _as_dict(x) -> Dict[str, Any]:
|
||||||
|
"""Versucht, ein Objekt in ein Dict zu überführen."""
|
||||||
|
if isinstance(x, dict): return dict(x)
|
||||||
|
out: Dict[str, Any] = {}
|
||||||
|
for attr in ("frontmatter", "body", "id", "note_id", "title", "path", "tags", "type", "created", "modified", "date"):
|
||||||
|
if hasattr(x, attr):
|
||||||
|
val = getattr(x, attr)
|
||||||
|
if val is not None: out[attr] = val
|
||||||
|
if not out: out["raw"] = str(x)
|
||||||
|
return out
|
||||||
|
|
||||||
|
def _ensure_list(x) -> list:
|
||||||
|
"""Sichert String-Listen Integrität."""
|
||||||
|
if x is None: return []
|
||||||
|
if isinstance(x, list): return [str(i) for i in x]
|
||||||
|
if isinstance(x, (set, tuple)): return [str(i) for i in x]
|
||||||
|
return [str(x)]
|
||||||
|
|
||||||
|
def _compute_hash(content: str) -> str:
|
||||||
|
"""SHA-256 Hash-Berechnung."""
|
||||||
|
if not content: return ""
|
||||||
|
return hashlib.sha256(content.encode("utf-8")).hexdigest()
|
||||||
|
|
||||||
|
def _get_hash_source_content(n: Dict[str, Any], mode: str) -> str:
|
||||||
|
"""Generiert den Hash-Input-String basierend auf Body oder Metadaten."""
|
||||||
|
body = str(n.get("body") or "")
|
||||||
|
if mode == "body": return body
|
||||||
|
if mode == "full":
|
||||||
|
fm = n.get("frontmatter") or {}
|
||||||
|
meta_parts = []
|
||||||
|
# Sortierte Liste für deterministische Hashes
|
||||||
|
for k in sorted(["title", "type", "status", "tags", "chunking_profile", "chunk_profile", "retriever_weight"]):
|
||||||
|
val = fm.get(k)
|
||||||
|
if val is not None: meta_parts.append(f"{k}:{val}")
|
||||||
|
return f"{'|'.join(meta_parts)}||{body}"
|
||||||
|
return body
|
||||||
|
|
||||||
|
def _cfg_for_type(note_type: str, reg: dict) -> dict:
|
||||||
|
"""Extrahiert Typ-spezifische Config aus der Registry."""
|
||||||
|
if not isinstance(reg, dict): return {}
|
||||||
|
types = reg.get("types") if isinstance(reg.get("types"), dict) else reg
|
||||||
|
return types.get(note_type, {}) if isinstance(types, dict) else {}
|
||||||
|
|
||||||
|
def _cfg_defaults(reg: dict) -> dict:
|
||||||
|
"""Extrahiert globale Default-Werte aus der Registry."""
|
||||||
|
if not isinstance(reg, dict): return {}
|
||||||
|
for key in ("defaults", "default", "global"):
|
||||||
|
v = reg.get(key)
|
||||||
|
if isinstance(v, dict): return v
|
||||||
|
return {}
|
||||||
|
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
# Haupt-API
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
|
def make_note_payload(note: Any, *args, **kwargs) -> Dict[str, Any]:
|
||||||
|
"""
|
||||||
|
Baut das Note-Payload inklusive Multi-Hash und Audit-Validierung.
|
||||||
|
WP-14: Nutzt nun die zentrale Registry für alle Fallbacks.
|
||||||
|
"""
|
||||||
|
n = _as_dict(note)
|
||||||
|
|
||||||
|
# Nutzt übergebene Registry oder lädt sie global
|
||||||
|
reg = kwargs.get("types_cfg") or load_type_registry()
|
||||||
|
hash_source = kwargs.get("hash_source", "parsed")
|
||||||
|
hash_normalize = kwargs.get("hash_normalize", "canonical")
|
||||||
|
|
||||||
|
fm = n.get("frontmatter") or {}
|
||||||
|
note_type = str(fm.get("type") or n.get("type") or "concept")
|
||||||
|
|
||||||
|
cfg_type = _cfg_for_type(note_type, reg)
|
||||||
|
cfg_def = _cfg_defaults(reg)
|
||||||
|
ingest_cfg = reg.get("ingestion_settings", {})
|
||||||
|
|
||||||
|
# --- retriever_weight Audit ---
|
||||||
|
# Priorität: Frontmatter -> Typ-Config -> globale Config -> Env-Var
|
||||||
|
default_rw = float(os.environ.get("MINDNET_DEFAULT_RETRIEVER_WEIGHT", 1.0))
|
||||||
|
retriever_weight = fm.get("retriever_weight")
|
||||||
|
if retriever_weight is None:
|
||||||
|
retriever_weight = cfg_type.get("retriever_weight", cfg_def.get("retriever_weight", default_rw))
|
||||||
|
try:
|
||||||
|
retriever_weight = float(retriever_weight)
|
||||||
|
except:
|
||||||
|
retriever_weight = default_rw
|
||||||
|
|
||||||
|
# --- chunk_profile Audit ---
|
||||||
|
# Nutzt nun primär die ingestion_settings aus der Registry
|
||||||
|
chunk_profile = fm.get("chunking_profile") or fm.get("chunk_profile")
|
||||||
|
if chunk_profile is None:
|
||||||
|
chunk_profile = cfg_type.get("chunking_profile") or cfg_type.get("chunk_profile")
|
||||||
|
if chunk_profile is None:
|
||||||
|
chunk_profile = ingest_cfg.get("default_chunk_profile", cfg_def.get("chunking_profile", "sliding_standard"))
|
||||||
|
|
||||||
|
# --- edge_defaults ---
|
||||||
|
edge_defaults = fm.get("edge_defaults")
|
||||||
|
if edge_defaults is None:
|
||||||
|
edge_defaults = cfg_type.get("edge_defaults", cfg_def.get("edge_defaults", []))
|
||||||
|
edge_defaults = _ensure_list(edge_defaults)
|
||||||
|
|
||||||
|
# --- Basis-Metadaten ---
|
||||||
|
note_id = n.get("note_id") or n.get("id") or fm.get("id")
|
||||||
|
title = n.get("title") or fm.get("title") or ""
|
||||||
|
path = n.get("path") or kwargs.get("file_path") or ""
|
||||||
|
if isinstance(path, pathlib.Path): path = str(path)
|
||||||
|
|
||||||
|
payload: Dict[str, Any] = {
|
||||||
|
"note_id": note_id,
|
||||||
|
"title": title,
|
||||||
|
"type": note_type,
|
||||||
|
"path": path,
|
||||||
|
"retriever_weight": retriever_weight,
|
||||||
|
"chunk_profile": chunk_profile,
|
||||||
|
"edge_defaults": edge_defaults,
|
||||||
|
"hashes": {}
|
||||||
|
}
|
||||||
|
|
||||||
|
# --- MULTI-HASH ---
|
||||||
|
# Generiert Hashes für Change Detection
|
||||||
|
for mode in ["body", "full"]:
|
||||||
|
content = _get_hash_source_content(n, mode)
|
||||||
|
payload["hashes"][f"{mode}:{hash_source}:{hash_normalize}"] = _compute_hash(content)
|
||||||
|
|
||||||
|
# Metadaten Anreicherung
|
||||||
|
tags = fm.get("tags") or fm.get("keywords") or n.get("tags")
|
||||||
|
if tags: payload["tags"] = _ensure_list(tags)
|
||||||
|
if fm.get("aliases"): payload["aliases"] = _ensure_list(fm.get("aliases"))
|
||||||
|
|
||||||
|
for k in ("created", "modified", "date"):
|
||||||
|
v = fm.get(k) or n.get(k)
|
||||||
|
if v: payload[k] = str(v)
|
||||||
|
|
||||||
|
if n.get("body"): payload["fulltext"] = str(n["body"])
|
||||||
|
|
||||||
|
# Final JSON Validation Audit
|
||||||
|
json.loads(json.dumps(payload, ensure_ascii=False))
|
||||||
|
|
||||||
|
return payload
|
||||||
@@ -0,0 +1,220 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/ingestion/ingestion_processor.py
|
||||||
|
DESCRIPTION: Der zentrale IngestionService (Orchestrator).
|
||||||
|
WP-14: Modularisierung der Datenbank-Ebene (app.core.database).
|
||||||
|
WP-15b: Two-Pass Workflow mit globalem Kontext-Cache.
|
||||||
|
WP-20/22: Cloud-Resilienz und Content-Lifecycle integriert.
|
||||||
|
AUDIT v2.13.10: Umstellung auf app.core.database Infrastruktur.
|
||||||
|
VERSION: 2.13.10
|
||||||
|
STATUS: Active
|
||||||
|
"""
|
||||||
|
import logging
|
||||||
|
import asyncio
|
||||||
|
import os
|
||||||
|
from typing import Dict, List, Optional, Tuple, Any
|
||||||
|
|
||||||
|
# Core Module Imports
|
||||||
|
from app.core.parser import (
|
||||||
|
read_markdown, pre_scan_markdown, normalize_frontmatter,
|
||||||
|
validate_required_frontmatter, NoteContext
|
||||||
|
)
|
||||||
|
from app.core.chunking import assemble_chunks
|
||||||
|
|
||||||
|
# MODULARISIERUNG: Neue Import-Pfade für die Datenbank-Ebene
|
||||||
|
from app.core.database.qdrant import QdrantConfig, get_client, ensure_collections, ensure_payload_indexes
|
||||||
|
from app.core.database.qdrant_points import points_for_chunks, points_for_note, points_for_edges, upsert_batch
|
||||||
|
|
||||||
|
# Services
|
||||||
|
from app.services.embeddings_client import EmbeddingsClient
|
||||||
|
from app.services.edge_registry import registry as edge_registry
|
||||||
|
from app.services.llm_service import LLMService
|
||||||
|
|
||||||
|
# Package-Interne Imports (Refactoring WP-14)
|
||||||
|
from .ingestion_utils import load_type_registry, resolve_note_type, get_chunk_config_by_profile
|
||||||
|
from .ingestion_db import fetch_note_payload, artifacts_missing, purge_artifacts
|
||||||
|
from .ingestion_validation import validate_edge_candidate
|
||||||
|
from .ingestion_note_payload import make_note_payload
|
||||||
|
from .ingestion_chunk_payload import make_chunk_payloads
|
||||||
|
|
||||||
|
# Fallback für Edges (Struktur-Verknüpfung)
|
||||||
|
try:
|
||||||
|
from app.core.graph.graph_derive_edges import build_edges_for_note
|
||||||
|
except ImportError:
|
||||||
|
def build_edges_for_note(*args, **kwargs): return []
|
||||||
|
|
||||||
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
|
class IngestionService:
|
||||||
|
def __init__(self, collection_prefix: str = None):
|
||||||
|
"""Initialisiert den Service und nutzt die neue database-Infrastruktur."""
|
||||||
|
from app.config import get_settings
|
||||||
|
self.settings = get_settings()
|
||||||
|
|
||||||
|
self.prefix = collection_prefix or self.settings.COLLECTION_PREFIX
|
||||||
|
self.cfg = QdrantConfig.from_env()
|
||||||
|
# Synchronisierung der Konfiguration mit dem Instanz-Präfix
|
||||||
|
self.cfg.prefix = self.prefix
|
||||||
|
self.client = get_client(self.cfg)
|
||||||
|
self.dim = self.settings.VECTOR_SIZE
|
||||||
|
self.registry = load_type_registry()
|
||||||
|
self.embedder = EmbeddingsClient()
|
||||||
|
self.llm = LLMService()
|
||||||
|
|
||||||
|
self.active_hash_mode = self.settings.CHANGE_DETECTION_MODE
|
||||||
|
self.batch_cache: Dict[str, NoteContext] = {} # WP-15b LocalBatchCache
|
||||||
|
|
||||||
|
try:
|
||||||
|
# Aufruf der modularisierten Schema-Logik
|
||||||
|
ensure_collections(self.client, self.prefix, self.dim)
|
||||||
|
ensure_payload_indexes(self.client, self.prefix)
|
||||||
|
except Exception as e:
|
||||||
|
logger.warning(f"DB initialization warning: {e}")
|
||||||
|
|
||||||
|
async def run_batch(self, file_paths: List[str], vault_root: str) -> List[Dict[str, Any]]:
|
||||||
|
"""
|
||||||
|
WP-15b: Implementiert den Two-Pass Ingestion Workflow.
|
||||||
|
Pass 1: Pre-Scan füllt den Context-Cache (3-Wege-Indexierung).
|
||||||
|
Pass 2: Verarbeitung nutzt den Cache für die semantische Prüfung.
|
||||||
|
"""
|
||||||
|
logger.info(f"🔍 [Pass 1] Pre-Scanning {len(file_paths)} files for Context Cache...")
|
||||||
|
for path in file_paths:
|
||||||
|
try:
|
||||||
|
# Übergabe der Registry für dynamische Scan-Tiefe
|
||||||
|
ctx = pre_scan_markdown(path, registry=self.registry)
|
||||||
|
if ctx:
|
||||||
|
# Mehrfache Indizierung für robusten Look-up (ID, Titel, Dateiname)
|
||||||
|
self.batch_cache[ctx.note_id] = ctx
|
||||||
|
self.batch_cache[ctx.title] = ctx
|
||||||
|
fname = os.path.splitext(os.path.basename(path))[0]
|
||||||
|
self.batch_cache[fname] = ctx
|
||||||
|
except Exception as e:
|
||||||
|
logger.warning(f"⚠️ Pre-scan failed for {path}: {e}")
|
||||||
|
|
||||||
|
logger.info(f"🚀 [Pass 2] Semantic Processing of {len(file_paths)} files...")
|
||||||
|
return [await self.process_file(p, vault_root, apply=True, purge_before=True) for p in file_paths]
|
||||||
|
|
||||||
|
async def process_file(self, file_path: str, vault_root: str, **kwargs) -> Dict[str, Any]:
|
||||||
|
"""Transformiert eine Markdown-Datei in den Graphen."""
|
||||||
|
apply = kwargs.get("apply", False)
|
||||||
|
force_replace = kwargs.get("force_replace", False)
|
||||||
|
purge_before = kwargs.get("purge_before", False)
|
||||||
|
note_scope_refs = kwargs.get("note_scope_refs", False)
|
||||||
|
hash_source = kwargs.get("hash_source", "parsed")
|
||||||
|
hash_normalize = kwargs.get("hash_normalize", "canonical")
|
||||||
|
|
||||||
|
result = {"path": file_path, "status": "skipped", "changed": False, "error": None}
|
||||||
|
|
||||||
|
# 1. Parse & Lifecycle Gate
|
||||||
|
try:
|
||||||
|
parsed = read_markdown(file_path)
|
||||||
|
if not parsed: return {**result, "error": "Empty file"}
|
||||||
|
fm = normalize_frontmatter(parsed.frontmatter)
|
||||||
|
validate_required_frontmatter(fm)
|
||||||
|
except Exception as e:
|
||||||
|
return {**result, "error": f"Validation failed: {str(e)}"}
|
||||||
|
|
||||||
|
# Dynamischer Lifecycle-Filter aus der Registry (WP-14)
|
||||||
|
ingest_cfg = self.registry.get("ingestion_settings", {})
|
||||||
|
ignore_list = ingest_cfg.get("ignore_statuses", ["system", "template", "archive", "hidden"])
|
||||||
|
|
||||||
|
current_status = fm.get("status", "draft").lower().strip()
|
||||||
|
if current_status in ignore_list:
|
||||||
|
return {**result, "status": "skipped", "reason": "lifecycle_filter"}
|
||||||
|
|
||||||
|
# 2. Payload & Change Detection (Multi-Hash)
|
||||||
|
note_type = resolve_note_type(self.registry, fm.get("type"))
|
||||||
|
note_pl = make_note_payload(
|
||||||
|
parsed, vault_root=vault_root, file_path=file_path,
|
||||||
|
hash_source=hash_source, hash_normalize=hash_normalize,
|
||||||
|
types_cfg=self.registry
|
||||||
|
)
|
||||||
|
note_id = note_pl["note_id"]
|
||||||
|
|
||||||
|
old_payload = None if force_replace else fetch_note_payload(self.client, self.prefix, note_id)
|
||||||
|
check_key = f"{self.active_hash_mode}:{hash_source}:{hash_normalize}"
|
||||||
|
old_hash = (old_payload or {}).get("hashes", {}).get(check_key)
|
||||||
|
new_hash = note_pl.get("hashes", {}).get(check_key)
|
||||||
|
|
||||||
|
c_miss, e_miss = artifacts_missing(self.client, self.prefix, note_id)
|
||||||
|
if not (force_replace or not old_payload or old_hash != new_hash or c_miss or e_miss):
|
||||||
|
return {**result, "status": "unchanged", "note_id": note_id}
|
||||||
|
|
||||||
|
if not apply:
|
||||||
|
return {**result, "status": "dry-run", "changed": True, "note_id": note_id}
|
||||||
|
|
||||||
|
# 3. Deep Processing (Chunking, Validation, Embedding)
|
||||||
|
try:
|
||||||
|
body_text = getattr(parsed, "body", "") or ""
|
||||||
|
edge_registry.ensure_latest()
|
||||||
|
profile = fm.get("chunk_profile") or fm.get("chunking_profile") or "sliding_standard"
|
||||||
|
chunk_cfg = get_chunk_config_by_profile(self.registry, profile, note_type)
|
||||||
|
enable_smart = chunk_cfg.get("enable_smart_edge_allocation", False)
|
||||||
|
|
||||||
|
# WP-15b: Chunker-Aufruf bereitet Candidate-Pool vor
|
||||||
|
chunks = await assemble_chunks(note_id, body_text, note_type, config=chunk_cfg)
|
||||||
|
for ch in chunks:
|
||||||
|
filtered = []
|
||||||
|
for cand in getattr(ch, "candidate_pool", []):
|
||||||
|
# WP-15b: Nur global_pool Kandidaten erfordern binäre Validierung
|
||||||
|
if cand.get("provenance") == "global_pool" and enable_smart:
|
||||||
|
if await validate_edge_candidate(ch.text, cand, self.batch_cache, self.llm, self.settings.MINDNET_LLM_PROVIDER):
|
||||||
|
filtered.append(cand)
|
||||||
|
else:
|
||||||
|
filtered.append(cand)
|
||||||
|
ch.candidate_pool = filtered
|
||||||
|
|
||||||
|
# Payload-Erstellung via interne Module
|
||||||
|
chunk_pls = make_chunk_payloads(
|
||||||
|
fm, note_pl["path"], chunks, file_path=file_path,
|
||||||
|
types_cfg=self.registry
|
||||||
|
)
|
||||||
|
vecs = await self.embedder.embed_documents([c.get("window") or "" for c in chunk_pls]) if chunk_pls else []
|
||||||
|
|
||||||
|
# Kanten-Aggregation
|
||||||
|
edges = build_edges_for_note(
|
||||||
|
note_id, chunk_pls,
|
||||||
|
note_level_references=note_pl.get("references", []),
|
||||||
|
include_note_scope_refs=note_scope_refs
|
||||||
|
)
|
||||||
|
for e in edges:
|
||||||
|
e["kind"] = edge_registry.resolve(
|
||||||
|
e.get("kind", "related_to"),
|
||||||
|
provenance=e.get("provenance", "explicit"),
|
||||||
|
context={"file": file_path, "note_id": note_id, "line": e.get("line", "system")}
|
||||||
|
)
|
||||||
|
|
||||||
|
# 4. DB Upsert via modularisierter Points-Logik
|
||||||
|
if purge_before and old_payload:
|
||||||
|
purge_artifacts(self.client, self.prefix, note_id)
|
||||||
|
|
||||||
|
n_name, n_pts = points_for_note(self.prefix, note_pl, None, self.dim)
|
||||||
|
upsert_batch(self.client, n_name, n_pts)
|
||||||
|
|
||||||
|
if chunk_pls and vecs:
|
||||||
|
c_pts = points_for_chunks(self.prefix, chunk_pls, vecs)[1]
|
||||||
|
upsert_batch(self.client, f"{self.prefix}_chunks", c_pts)
|
||||||
|
|
||||||
|
if edges:
|
||||||
|
e_pts = points_for_edges(self.prefix, edges)[1]
|
||||||
|
upsert_batch(self.client, f"{self.prefix}_edges", e_pts)
|
||||||
|
|
||||||
|
return {
|
||||||
|
"path": file_path,
|
||||||
|
"status": "success",
|
||||||
|
"changed": True,
|
||||||
|
"note_id": note_id,
|
||||||
|
"chunks_count": len(chunk_pls),
|
||||||
|
"edges_count": len(edges)
|
||||||
|
}
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"Processing failed: {e}", exc_info=True)
|
||||||
|
return {**result, "error": str(e)}
|
||||||
|
|
||||||
|
async def create_from_text(self, markdown_content: str, filename: str, vault_root: str, folder: str = "00_Inbox") -> Dict[str, Any]:
|
||||||
|
"""Erstellt eine Note aus einem Textstream und triggert die Ingestion."""
|
||||||
|
target_path = os.path.join(vault_root, folder, filename)
|
||||||
|
os.makedirs(os.path.dirname(target_path), exist_ok=True)
|
||||||
|
with open(target_path, "w", encoding="utf-8") as f:
|
||||||
|
f.write(markdown_content)
|
||||||
|
await asyncio.sleep(0.1)
|
||||||
|
return await self.process_file(file_path=target_path, vault_root=vault_root, apply=True, force_replace=True, purge_before=True)
|
||||||
@@ -0,0 +1,71 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/ingestion/ingestion_utils.py
|
||||||
|
DESCRIPTION: Hilfswerkzeuge für JSON-Recovery, Typ-Registry und Konfigurations-Lookups.
|
||||||
|
AUDIT v2.13.9: Behebung des Circular Imports durch Nutzung der app.core.registry.
|
||||||
|
"""
|
||||||
|
import json
|
||||||
|
import re
|
||||||
|
from typing import Any, Optional, Dict
|
||||||
|
|
||||||
|
# ENTSCHEIDENDER FIX: Import der Basis-Logik aus dem neutralen Registry-Modul.
|
||||||
|
# Dies bricht den Zirkelbezug auf, da dieses Modul keine Services mehr importiert.
|
||||||
|
from app.core.registry import load_type_registry, clean_llm_text
|
||||||
|
|
||||||
|
def extract_json_from_response(text: str, registry: Optional[dict] = None) -> Any:
|
||||||
|
"""
|
||||||
|
Extrahiert JSON-Daten und bereinigt LLM-Steuerzeichen.
|
||||||
|
WP-14: Nutzt nun die zentrale clean_llm_text Funktion aus app.core.registry.
|
||||||
|
"""
|
||||||
|
if not text:
|
||||||
|
return []
|
||||||
|
|
||||||
|
# 1. Text zentral bereinigen via neutralem Modul
|
||||||
|
clean = clean_llm_text(text, registry)
|
||||||
|
|
||||||
|
# 2. Markdown-Code-Blöcke extrahieren
|
||||||
|
match = re.search(r"```(?:json)?\s*(.*?)\s*```", clean, re.DOTALL)
|
||||||
|
payload = match.group(1) if match else clean
|
||||||
|
|
||||||
|
try:
|
||||||
|
return json.loads(payload.strip())
|
||||||
|
except json.JSONDecodeError:
|
||||||
|
# Recovery: Suche nach Liste
|
||||||
|
start = payload.find('[')
|
||||||
|
end = payload.rfind(']') + 1
|
||||||
|
if start != -1 and end > start:
|
||||||
|
try: return json.loads(payload[start:end])
|
||||||
|
except: pass
|
||||||
|
|
||||||
|
# Recovery: Suche nach Objekt
|
||||||
|
start_obj = payload.find('{')
|
||||||
|
end_obj = payload.rfind('}') + 1
|
||||||
|
if start_obj != -1 and end_obj > start_obj:
|
||||||
|
try: return json.loads(payload[start_obj:end_obj])
|
||||||
|
except: pass
|
||||||
|
return []
|
||||||
|
|
||||||
|
def resolve_note_type(registry: dict, requested: Optional[str]) -> str:
|
||||||
|
"""
|
||||||
|
Bestimmt den finalen Notiz-Typ.
|
||||||
|
WP-14: Fallback wird nun über ingestion_settings.default_note_type gesteuert.
|
||||||
|
"""
|
||||||
|
types = registry.get("types", {})
|
||||||
|
if requested and requested in types:
|
||||||
|
return requested
|
||||||
|
|
||||||
|
# Dynamischer Fallback aus der Registry (Standard: 'concept')
|
||||||
|
ingest_cfg = registry.get("ingestion_settings", {})
|
||||||
|
return ingest_cfg.get("default_note_type", "concept")
|
||||||
|
|
||||||
|
def get_chunk_config_by_profile(registry: dict, profile_name: str, note_type: str) -> Dict[str, Any]:
|
||||||
|
"""
|
||||||
|
Holt die Chunker-Parameter für ein spezifisches Profil aus der Registry.
|
||||||
|
"""
|
||||||
|
from app.core.chunking import get_chunk_config
|
||||||
|
profiles = registry.get("chunking_profiles", {})
|
||||||
|
if profile_name in profiles:
|
||||||
|
cfg = profiles[profile_name].copy()
|
||||||
|
if "overlap" in cfg and isinstance(cfg["overlap"], list):
|
||||||
|
cfg["overlap"] = tuple(cfg["overlap"])
|
||||||
|
return cfg
|
||||||
|
return get_chunk_config(note_type)
|
||||||
@@ -0,0 +1,67 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/ingestion/ingestion_validation.py
|
||||||
|
DESCRIPTION: WP-15b semantische Validierung von Kanten gegen den LocalBatchCache.
|
||||||
|
AUDIT v2.12.3: Integration der zentralen Text-Bereinigung (WP-14).
|
||||||
|
"""
|
||||||
|
import logging
|
||||||
|
from typing import Dict, Any
|
||||||
|
from app.core.parser import NoteContext
|
||||||
|
|
||||||
|
# ENTSCHEIDENDER FIX: Import der neutralen Bereinigungs-Logik zur Vermeidung von Circular Imports
|
||||||
|
from app.core.registry import clean_llm_text
|
||||||
|
|
||||||
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
|
async def validate_edge_candidate(
|
||||||
|
chunk_text: str,
|
||||||
|
edge: Dict,
|
||||||
|
batch_cache: Dict[str, NoteContext],
|
||||||
|
llm_service: Any,
|
||||||
|
provider: str
|
||||||
|
) -> bool:
|
||||||
|
"""
|
||||||
|
WP-15b: Validiert einen Kandidaten semantisch gegen das Ziel im Cache.
|
||||||
|
Nutzt clean_llm_text zur Entfernung von Steuerzeichen vor der Auswertung.
|
||||||
|
"""
|
||||||
|
target_id = edge.get("to")
|
||||||
|
target_ctx = batch_cache.get(target_id)
|
||||||
|
|
||||||
|
# Robust Lookup Fix (v2.12.2): Support für Anker
|
||||||
|
if not target_ctx and "#" in target_id:
|
||||||
|
base_id = target_id.split("#")[0]
|
||||||
|
target_ctx = batch_cache.get(base_id)
|
||||||
|
|
||||||
|
# Sicherheits-Fallback (Hard-Link Integrity)
|
||||||
|
if not target_ctx:
|
||||||
|
logger.info(f"ℹ️ [VALIDATION SKIP] No context for '{target_id}' - allowing link.")
|
||||||
|
return True
|
||||||
|
|
||||||
|
template = llm_service.get_prompt("edge_validation", provider)
|
||||||
|
|
||||||
|
try:
|
||||||
|
logger.info(f"⚖️ [VALIDATING] Relation '{edge.get('kind')}' -> '{target_id}'...")
|
||||||
|
prompt = template.format(
|
||||||
|
chunk_text=chunk_text[:1500],
|
||||||
|
target_title=target_ctx.title,
|
||||||
|
target_summary=target_ctx.summary,
|
||||||
|
edge_kind=edge.get("kind", "related_to")
|
||||||
|
)
|
||||||
|
|
||||||
|
# Die Antwort vom Service anfordern
|
||||||
|
raw_response = await llm_service.generate_raw_response(prompt, priority="background")
|
||||||
|
|
||||||
|
# WP-14 Fix: Zusätzliche Bereinigung zur Sicherstellung der Interpretierbarkeit
|
||||||
|
response = clean_llm_text(raw_response)
|
||||||
|
|
||||||
|
# Semantische Prüfung des Ergebnisses
|
||||||
|
is_valid = "YES" in response.upper()
|
||||||
|
|
||||||
|
if is_valid:
|
||||||
|
logger.info(f"✅ [VALIDATED] Relation to '{target_id}' confirmed.")
|
||||||
|
else:
|
||||||
|
logger.info(f"🚫 [REJECTED] Relation to '{target_id}' irrelevant for this chunk.")
|
||||||
|
return is_valid
|
||||||
|
except Exception as e:
|
||||||
|
logger.warning(f"⚠️ Validation error for {target_id}: {e}")
|
||||||
|
# Im Zweifel (Timeout/Fehler) erlauben wir die Kante, um Datenverlust zu vermeiden
|
||||||
|
return True
|
||||||
@@ -1,268 +0,0 @@
|
|||||||
"""
|
|
||||||
FILE: app/core/note_payload.py
|
|
||||||
DESCRIPTION: Baut das JSON-Objekt.
|
|
||||||
FEATURES:
|
|
||||||
1. Multi-Hash: Berechnet immer 'body' AND 'full' Hashes für flexible Change Detection.
|
|
||||||
2. Config-Fix: Liest korrekt 'chunking_profile' aus types.yaml (statt Legacy 'chunk_profile').
|
|
||||||
VERSION: 2.3.0
|
|
||||||
STATUS: Active
|
|
||||||
DEPENDENCIES: yaml, os, json, pathlib, hashlib
|
|
||||||
EXTERNAL_CONFIG: config/types.yaml
|
|
||||||
"""
|
|
||||||
|
|
||||||
from __future__ import annotations
|
|
||||||
|
|
||||||
from typing import Any, Dict, Tuple, Optional
|
|
||||||
import os
|
|
||||||
import json
|
|
||||||
import pathlib
|
|
||||||
import hashlib
|
|
||||||
|
|
||||||
try:
|
|
||||||
import yaml # type: ignore
|
|
||||||
except Exception:
|
|
||||||
yaml = None
|
|
||||||
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------------
|
|
||||||
# Helper
|
|
||||||
# ---------------------------------------------------------------------------
|
|
||||||
|
|
||||||
def _as_dict(x) -> Dict[str, Any]:
|
|
||||||
"""Versucht, ein ParsedMarkdown-ähnliches Objekt in ein Dict zu überführen."""
|
|
||||||
if isinstance(x, dict):
|
|
||||||
return dict(x)
|
|
||||||
|
|
||||||
out: Dict[str, Any] = {}
|
|
||||||
for attr in (
|
|
||||||
"frontmatter",
|
|
||||||
"body",
|
|
||||||
"id",
|
|
||||||
"note_id",
|
|
||||||
"title",
|
|
||||||
"path",
|
|
||||||
"tags",
|
|
||||||
"type",
|
|
||||||
"created",
|
|
||||||
"modified",
|
|
||||||
"date",
|
|
||||||
):
|
|
||||||
if hasattr(x, attr):
|
|
||||||
val = getattr(x, attr)
|
|
||||||
if val is not None:
|
|
||||||
out[attr] = val
|
|
||||||
|
|
||||||
if not out:
|
|
||||||
out["raw"] = str(x)
|
|
||||||
|
|
||||||
return out
|
|
||||||
|
|
||||||
|
|
||||||
def _pick_args(*args, **kwargs) -> Tuple[Optional[str], Optional[dict]]:
|
|
||||||
path = kwargs.get("path") or (args[0] if args else None)
|
|
||||||
types_cfg = kwargs.get("types_cfg") or kwargs.get("types") or None
|
|
||||||
return path, types_cfg
|
|
||||||
|
|
||||||
|
|
||||||
def _env_float(name: str, default: float) -> float:
|
|
||||||
try:
|
|
||||||
return float(os.environ.get(name, default))
|
|
||||||
except Exception:
|
|
||||||
return default
|
|
||||||
|
|
||||||
|
|
||||||
def _ensure_list(x) -> list:
|
|
||||||
if x is None:
|
|
||||||
return []
|
|
||||||
if isinstance(x, list):
|
|
||||||
return [str(i) for i in x]
|
|
||||||
if isinstance(x, (set, tuple)):
|
|
||||||
return [str(i) for i in x]
|
|
||||||
return [str(x)]
|
|
||||||
|
|
||||||
# --- Hash Logic ---
|
|
||||||
def _compute_hash(content: str) -> str:
|
|
||||||
"""Berechnet einen SHA-256 Hash für den gegebenen String."""
|
|
||||||
if not content:
|
|
||||||
return ""
|
|
||||||
return hashlib.sha256(content.encode("utf-8")).hexdigest()
|
|
||||||
|
|
||||||
def _get_hash_source_content(n: Dict[str, Any], mode: str) -> str:
|
|
||||||
"""
|
|
||||||
Stellt den String zusammen, der gehasht werden soll.
|
|
||||||
"""
|
|
||||||
body = str(n.get("body") or "")
|
|
||||||
|
|
||||||
if mode == "body":
|
|
||||||
return body
|
|
||||||
|
|
||||||
if mode == "full":
|
|
||||||
fm = n.get("frontmatter") or {}
|
|
||||||
# Wichtig: Sortierte Keys für deterministisches Verhalten!
|
|
||||||
# Wir nehmen alle steuernden Metadaten auf
|
|
||||||
meta_parts = []
|
|
||||||
# Hier checken wir keys, die eine Neu-Indizierung rechtfertigen würden
|
|
||||||
for k in sorted(["title", "type", "status", "tags", "chunking_profile", "chunk_profile", "retriever_weight"]):
|
|
||||||
val = fm.get(k)
|
|
||||||
if val is not None:
|
|
||||||
meta_parts.append(f"{k}:{val}")
|
|
||||||
|
|
||||||
meta_str = "|".join(meta_parts)
|
|
||||||
return f"{meta_str}||{body}"
|
|
||||||
|
|
||||||
return body
|
|
||||||
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------------
|
|
||||||
# Type-Registry laden
|
|
||||||
# ---------------------------------------------------------------------------
|
|
||||||
|
|
||||||
def _load_types_config(explicit_cfg: Optional[dict] = None) -> dict:
|
|
||||||
if explicit_cfg and isinstance(explicit_cfg, dict):
|
|
||||||
return explicit_cfg
|
|
||||||
|
|
||||||
path = os.getenv("MINDNET_TYPES_FILE") or "./config/types.yaml"
|
|
||||||
if not os.path.isfile(path) or yaml is None:
|
|
||||||
return {}
|
|
||||||
|
|
||||||
try:
|
|
||||||
with open(path, "r", encoding="utf-8") as f:
|
|
||||||
data = yaml.safe_load(f) or {}
|
|
||||||
return data if isinstance(data, dict) else {}
|
|
||||||
except Exception:
|
|
||||||
return {}
|
|
||||||
|
|
||||||
|
|
||||||
def _cfg_for_type(note_type: str, reg: dict) -> dict:
|
|
||||||
if not isinstance(reg, dict):
|
|
||||||
return {}
|
|
||||||
types = reg.get("types") if isinstance(reg.get("types"), dict) else reg
|
|
||||||
return types.get(note_type, {}) if isinstance(types, dict) else {}
|
|
||||||
|
|
||||||
|
|
||||||
def _cfg_defaults(reg: dict) -> dict:
|
|
||||||
if not isinstance(reg, dict):
|
|
||||||
return {}
|
|
||||||
for key in ("defaults", "default", "global"):
|
|
||||||
v = reg.get(key)
|
|
||||||
if isinstance(v, dict):
|
|
||||||
return v
|
|
||||||
return {}
|
|
||||||
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------------
|
|
||||||
# Haupt-API
|
|
||||||
# ---------------------------------------------------------------------------
|
|
||||||
|
|
||||||
def make_note_payload(note: Any, *args, **kwargs) -> Dict[str, Any]:
|
|
||||||
"""
|
|
||||||
Baut das Note-Payload für mindnet_notes auf.
|
|
||||||
Inkludiert Hash-Berechnung (Body & Full) und korrigierte Config-Lookups.
|
|
||||||
"""
|
|
||||||
n = _as_dict(note)
|
|
||||||
path_arg, types_cfg_explicit = _pick_args(*args, **kwargs)
|
|
||||||
reg = _load_types_config(types_cfg_explicit)
|
|
||||||
|
|
||||||
# Hash Config (Parameter für Source/Normalize, Mode ist hardcoded auf 'beide')
|
|
||||||
hash_source = kwargs.get("hash_source", "parsed")
|
|
||||||
hash_normalize = kwargs.get("hash_normalize", "canonical")
|
|
||||||
|
|
||||||
fm = n.get("frontmatter") or {}
|
|
||||||
fm_type = fm.get("type") or n.get("type") or "concept"
|
|
||||||
note_type = str(fm_type)
|
|
||||||
|
|
||||||
cfg_type = _cfg_for_type(note_type, reg)
|
|
||||||
cfg_def = _cfg_defaults(reg)
|
|
||||||
|
|
||||||
# --- retriever_weight ---
|
|
||||||
default_rw = _env_float("MINDNET_DEFAULT_RETRIEVER_WEIGHT", 1.0)
|
|
||||||
retriever_weight = fm.get("retriever_weight")
|
|
||||||
if retriever_weight is None:
|
|
||||||
retriever_weight = cfg_type.get(
|
|
||||||
"retriever_weight",
|
|
||||||
cfg_def.get("retriever_weight", default_rw),
|
|
||||||
)
|
|
||||||
try:
|
|
||||||
retriever_weight = float(retriever_weight)
|
|
||||||
except Exception:
|
|
||||||
retriever_weight = default_rw
|
|
||||||
|
|
||||||
# --- chunk_profile (FIXED LOGIC) ---
|
|
||||||
# 1. Frontmatter Override (beide Schreibweisen erlaubt)
|
|
||||||
chunk_profile = fm.get("chunking_profile") or fm.get("chunk_profile")
|
|
||||||
|
|
||||||
# 2. Type Config (Korrekter Key 'chunking_profile' aus types.yaml)
|
|
||||||
if chunk_profile is None:
|
|
||||||
chunk_profile = cfg_type.get("chunking_profile")
|
|
||||||
|
|
||||||
# 3. Default Config (Fallback auf sliding_standard statt medium)
|
|
||||||
if chunk_profile is None:
|
|
||||||
chunk_profile = cfg_def.get("chunking_profile", "sliding_standard")
|
|
||||||
|
|
||||||
# 4. Safety Fallback
|
|
||||||
if not isinstance(chunk_profile, str) or not chunk_profile:
|
|
||||||
chunk_profile = "sliding_standard"
|
|
||||||
|
|
||||||
# --- edge_defaults ---
|
|
||||||
edge_defaults = fm.get("edge_defaults")
|
|
||||||
if edge_defaults is None:
|
|
||||||
edge_defaults = cfg_type.get(
|
|
||||||
"edge_defaults",
|
|
||||||
cfg_def.get("edge_defaults", []),
|
|
||||||
)
|
|
||||||
edge_defaults = _ensure_list(edge_defaults)
|
|
||||||
|
|
||||||
# --- Basis-Metadaten ---
|
|
||||||
note_id = n.get("note_id") or n.get("id") or fm.get("id")
|
|
||||||
title = n.get("title") or fm.get("title") or ""
|
|
||||||
path = n.get("path") or path_arg
|
|
||||||
if isinstance(path, pathlib.Path):
|
|
||||||
path = str(path)
|
|
||||||
|
|
||||||
payload: Dict[str, Any] = {
|
|
||||||
"note_id": note_id,
|
|
||||||
"title": title,
|
|
||||||
"type": note_type,
|
|
||||||
"path": path or "",
|
|
||||||
"retriever_weight": retriever_weight,
|
|
||||||
"chunk_profile": chunk_profile,
|
|
||||||
"edge_defaults": edge_defaults,
|
|
||||||
"hashes": {} # Init Hash Dict
|
|
||||||
}
|
|
||||||
|
|
||||||
# --- MULTI-HASH CALCULATION (Strategy Decoupling) ---
|
|
||||||
# Wir berechnen immer BEIDE Strategien und speichern sie.
|
|
||||||
# ingestion.py entscheidet dann anhand der ENV-Variable, welcher verglichen wird.
|
|
||||||
modes_to_calc = ["body", "full"]
|
|
||||||
|
|
||||||
for mode in modes_to_calc:
|
|
||||||
content_to_hash = _get_hash_source_content(n, mode)
|
|
||||||
computed_hash = _compute_hash(content_to_hash)
|
|
||||||
# Key Schema: mode:source:normalize (z.B. "full:parsed:canonical")
|
|
||||||
key = f"{mode}:{hash_source}:{hash_normalize}"
|
|
||||||
payload["hashes"][key] = computed_hash
|
|
||||||
|
|
||||||
# Tags / Keywords
|
|
||||||
tags = fm.get("tags") or fm.get("keywords") or n.get("tags")
|
|
||||||
if tags:
|
|
||||||
payload["tags"] = _ensure_list(tags)
|
|
||||||
|
|
||||||
# Aliases
|
|
||||||
aliases = fm.get("aliases")
|
|
||||||
if aliases:
|
|
||||||
payload["aliases"] = _ensure_list(aliases)
|
|
||||||
|
|
||||||
# Zeit
|
|
||||||
for k in ("created", "modified", "date"):
|
|
||||||
v = fm.get(k) or n.get(k)
|
|
||||||
if v:
|
|
||||||
payload[k] = str(v)
|
|
||||||
|
|
||||||
# Fulltext
|
|
||||||
if "body" in n and n["body"]:
|
|
||||||
payload["fulltext"] = str(n["body"])
|
|
||||||
|
|
||||||
# JSON Validation
|
|
||||||
json.loads(json.dumps(payload, ensure_ascii=False))
|
|
||||||
|
|
||||||
return payload
|
|
||||||
@@ -1,233 +0,0 @@
|
|||||||
"""
|
|
||||||
FILE: app/core/parser.py
|
|
||||||
DESCRIPTION: Liest Markdown-Dateien fehlertolerant (Encoding-Fallback). Trennt Frontmatter (YAML) vom Body.
|
|
||||||
VERSION: 1.7.1
|
|
||||||
STATUS: Active
|
|
||||||
DEPENDENCIES: yaml, re, dataclasses, json, io, os
|
|
||||||
LAST_ANALYSIS: 2025-12-15
|
|
||||||
"""
|
|
||||||
from __future__ import annotations
|
|
||||||
|
|
||||||
from dataclasses import dataclass
|
|
||||||
from typing import Any, Dict, Optional, Tuple, Iterable, List
|
|
||||||
import io
|
|
||||||
import json
|
|
||||||
import os
|
|
||||||
import re
|
|
||||||
|
|
||||||
try:
|
|
||||||
import yaml # PyYAML
|
|
||||||
except Exception as e: # pragma: no cover
|
|
||||||
yaml = None # Fehler wird zur Laufzeit geworfen, falls wirklich benötigt
|
|
||||||
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------
|
|
||||||
# Datamodell
|
|
||||||
# ---------------------------------------------------------------------
|
|
||||||
|
|
||||||
@dataclass
|
|
||||||
class ParsedNote:
|
|
||||||
frontmatter: Dict[str, Any]
|
|
||||||
body: str
|
|
||||||
path: str
|
|
||||||
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------
|
|
||||||
# Frontmatter-Erkennung
|
|
||||||
# ---------------------------------------------------------------------
|
|
||||||
|
|
||||||
# Öffentliche Kompatibilitäts-Konstante: frühere Skripte importieren FRONTMATTER_RE
|
|
||||||
FRONTMATTER_RE = re.compile(r"^\s*---\s*$") # <— public
|
|
||||||
# Zusätzlich interner Alias (falls jemand ihn referenziert)
|
|
||||||
FRONTMATTER_END = FRONTMATTER_RE # <— public alias
|
|
||||||
|
|
||||||
# interne Namen bleiben bestehen
|
|
||||||
_FRONTMATTER_HEAD = FRONTMATTER_RE
|
|
||||||
_FRONTMATTER_END = FRONTMATTER_RE
|
|
||||||
|
|
||||||
|
|
||||||
def _split_frontmatter(text: str) -> Tuple[Dict[str, Any], str]:
|
|
||||||
"""
|
|
||||||
Zerlegt Text in (frontmatter: dict, body: str).
|
|
||||||
Erkennt Frontmatter nur, wenn die erste Zeile '---' ist und später ein zweites '---' folgt.
|
|
||||||
YAML-Fehler im Frontmatter führen NICHT zum Abbruch: es wird dann ein leeres dict benutzt.
|
|
||||||
"""
|
|
||||||
lines = text.splitlines(True) # keep line endings
|
|
||||||
if not lines:
|
|
||||||
return {}, ""
|
|
||||||
|
|
||||||
if not _FRONTMATTER_HEAD.match(lines[0]):
|
|
||||||
# kein Frontmatter-Header → gesamter Text ist Body
|
|
||||||
return {}, text
|
|
||||||
|
|
||||||
end_idx = None
|
|
||||||
# Suche nach nächstem '---' (max. 2000 Zeilen als Sicherheitslimit)
|
|
||||||
for i in range(1, min(len(lines), 2000)):
|
|
||||||
if _FRONTMATTER_END.match(lines[i]):
|
|
||||||
end_idx = i
|
|
||||||
break
|
|
||||||
|
|
||||||
if end_idx is None:
|
|
||||||
# unvollständiger Frontmatter-Block → behandle alles als Body
|
|
||||||
return {}, text
|
|
||||||
|
|
||||||
fm_raw = "".join(lines[1:end_idx])
|
|
||||||
body = "".join(lines[end_idx + 1:])
|
|
||||||
|
|
||||||
data: Dict[str, Any] = {}
|
|
||||||
if yaml is None:
|
|
||||||
raise RuntimeError("PyYAML ist nicht installiert (pip install pyyaml).")
|
|
||||||
|
|
||||||
try:
|
|
||||||
loaded = yaml.safe_load(fm_raw) or {}
|
|
||||||
if isinstance(loaded, dict):
|
|
||||||
data = loaded
|
|
||||||
else:
|
|
||||||
data = {}
|
|
||||||
except Exception as e:
|
|
||||||
# YAML-Fehler nicht fatal machen
|
|
||||||
print(json.dumps({"warn": "frontmatter_yaml_parse_failed", "error": str(e)}))
|
|
||||||
data = {}
|
|
||||||
|
|
||||||
# optionales kosmetisches Trim: eine führende Leerzeile im Body entfernen
|
|
||||||
if body.startswith("\n"):
|
|
||||||
body = body[1:]
|
|
||||||
|
|
||||||
return data, body
|
|
||||||
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------
|
|
||||||
# Robustes Lesen mit Encoding-Fallback
|
|
||||||
# ---------------------------------------------------------------------
|
|
||||||
|
|
||||||
_FALLBACK_ENCODINGS: Tuple[str, ...] = ("utf-8", "utf-8-sig", "cp1252", "latin-1")
|
|
||||||
|
|
||||||
|
|
||||||
def _read_text_with_fallback(path: str) -> Tuple[str, str, bool]:
|
|
||||||
"""
|
|
||||||
Liest Datei mit mehreren Decodierungsversuchen.
|
|
||||||
Rückgabe: (text, used_encoding, had_fallback)
|
|
||||||
- had_fallback=True, falls NICHT 'utf-8' verwendet wurde (oder 'utf-8-sig').
|
|
||||||
"""
|
|
||||||
last_err: Optional[str] = None
|
|
||||||
for enc in _FALLBACK_ENCODINGS:
|
|
||||||
try:
|
|
||||||
with io.open(path, "r", encoding=enc, errors="strict") as f:
|
|
||||||
text = f.read()
|
|
||||||
# 'utf-8-sig' zählt hier als Fallback (weil BOM), aber ist unproblematisch
|
|
||||||
return text, enc, (enc != "utf-8")
|
|
||||||
except UnicodeDecodeError as e:
|
|
||||||
last_err = f"{type(e).__name__}: {e}"
|
|
||||||
continue
|
|
||||||
|
|
||||||
# Letzter, extrem defensiver Fallback: Bytes → UTF-8 mit REPLACE (keine Exception)
|
|
||||||
with open(path, "rb") as fb:
|
|
||||||
raw = fb.read()
|
|
||||||
text = raw.decode("utf-8", errors="replace")
|
|
||||||
print(json.dumps({
|
|
||||||
"path": path,
|
|
||||||
"warn": "encoding_fallback_exhausted",
|
|
||||||
"info": last_err or "unknown"
|
|
||||||
}, ensure_ascii=False))
|
|
||||||
return text, "utf-8(replace)", True
|
|
||||||
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------
|
|
||||||
# Öffentliche API
|
|
||||||
# ---------------------------------------------------------------------
|
|
||||||
|
|
||||||
def read_markdown(path: str) -> Optional[ParsedNote]:
|
|
||||||
"""
|
|
||||||
Liest eine Markdown-Datei fehlertolerant:
|
|
||||||
- Erlaubt verschiedene Encodings (UTF-8 bevorzugt, cp1252/latin-1 als Fallback).
|
|
||||||
- Schlägt NICHT mit UnicodeDecodeError fehl.
|
|
||||||
- Gibt ParsedNote(frontmatter, body, path) zurück oder None, falls die Datei nicht existiert.
|
|
||||||
|
|
||||||
Bei Decoding-Fallback wird ein JSON-Warnhinweis geloggt:
|
|
||||||
{"path": "...", "warn": "encoding_fallback_used", "used": "cp1252"}
|
|
||||||
"""
|
|
||||||
if not os.path.exists(path):
|
|
||||||
return None
|
|
||||||
|
|
||||||
text, enc, had_fb = _read_text_with_fallback(path)
|
|
||||||
if had_fb:
|
|
||||||
print(json.dumps({"path": path, "warn": "encoding_fallback_used", "used": enc}, ensure_ascii=False))
|
|
||||||
|
|
||||||
fm, body = _split_frontmatter(text)
|
|
||||||
return ParsedNote(frontmatter=fm or {}, body=body or "", path=path)
|
|
||||||
|
|
||||||
|
|
||||||
def validate_required_frontmatter(fm: Dict[str, Any],
|
|
||||||
required: Tuple[str, ...] = ("id", "title")) -> None:
|
|
||||||
"""
|
|
||||||
Prüft, ob alle Pflichtfelder vorhanden sind.
|
|
||||||
Default-kompatibel: ('id', 'title'), kann aber vom Aufrufer erweitert werden, z. B.:
|
|
||||||
validate_required_frontmatter(fm, required=("id","title","type","status","created"))
|
|
||||||
|
|
||||||
Hebt ValueError, falls Felder fehlen oder leer sind.
|
|
||||||
"""
|
|
||||||
if fm is None:
|
|
||||||
fm = {}
|
|
||||||
missing = []
|
|
||||||
for k in required:
|
|
||||||
v = fm.get(k)
|
|
||||||
if v is None:
|
|
||||||
missing.append(k)
|
|
||||||
elif isinstance(v, str) and not v.strip():
|
|
||||||
missing.append(k)
|
|
||||||
if missing:
|
|
||||||
raise ValueError(f"Missing required frontmatter fields: {', '.join(missing)}")
|
|
||||||
|
|
||||||
# Plausibilitäten: 'tags' sollte eine Liste sein, wenn vorhanden
|
|
||||||
if "tags" in fm and fm["tags"] not in (None, "") and not isinstance(fm["tags"], (list, tuple)):
|
|
||||||
raise ValueError("frontmatter 'tags' must be a list of strings")
|
|
||||||
|
|
||||||
|
|
||||||
def normalize_frontmatter(fm: Dict[str, Any]) -> Dict[str, Any]:
|
|
||||||
"""
|
|
||||||
Sanfte Normalisierung ohne Semantikänderung:
|
|
||||||
- 'tags' → Liste von Strings (Trim)
|
|
||||||
- 'embedding_exclude' → bool
|
|
||||||
- andere Felder unverändert
|
|
||||||
"""
|
|
||||||
out = dict(fm or {})
|
|
||||||
if "tags" in out:
|
|
||||||
if isinstance(out["tags"], str):
|
|
||||||
out["tags"] = [out["tags"].strip()] if out["tags"].strip() else []
|
|
||||||
elif isinstance(out["tags"], list):
|
|
||||||
out["tags"] = [str(t).strip() for t in out["tags"] if t is not None]
|
|
||||||
else:
|
|
||||||
out["tags"] = [str(out["tags"]).strip()] if out["tags"] not in (None, "") else []
|
|
||||||
if "embedding_exclude" in out:
|
|
||||||
out["embedding_exclude"] = bool(out["embedding_exclude"])
|
|
||||||
return out
|
|
||||||
|
|
||||||
|
|
||||||
# ------------------------------ Wikilinks ---------------------------- #
|
|
||||||
|
|
||||||
# Basismuster für [[...]]; die Normalisierung (id vor '#', vor '|') macht extract_wikilinks
|
|
||||||
_WIKILINK_RE = re.compile(r"\[\[([^\]]+)\]\]")
|
|
||||||
|
|
||||||
|
|
||||||
def extract_wikilinks(text: str) -> List[str]:
|
|
||||||
"""
|
|
||||||
Extrahiert Wikilinks wie [[id]], [[id#anchor]], [[id|label]], [[id#anchor|label]].
|
|
||||||
Rückgabe sind NUR die Ziel-IDs (ohne Anchor/Label), führend/folgend getrimmt.
|
|
||||||
Keine aggressive Slug-Normalisierung (die kann später im Resolver erfolgen).
|
|
||||||
"""
|
|
||||||
if not text:
|
|
||||||
return []
|
|
||||||
out: List[str] = []
|
|
||||||
for m in _WIKILINK_RE.finditer(text):
|
|
||||||
raw = (m.group(1) or "").strip()
|
|
||||||
if not raw:
|
|
||||||
continue
|
|
||||||
# Split an Pipe (Label) → links vor '|'
|
|
||||||
if "|" in raw:
|
|
||||||
raw = raw.split("|", 1)[0].strip()
|
|
||||||
# Split an Anchor
|
|
||||||
if "#" in raw:
|
|
||||||
raw = raw.split("#", 1)[0].strip()
|
|
||||||
if raw:
|
|
||||||
out.append(raw)
|
|
||||||
return out
|
|
||||||
@@ -0,0 +1,22 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/parser/__init__.py
|
||||||
|
DESCRIPTION: Package-Einstiegspunkt für den Parser.
|
||||||
|
Ermöglicht das Löschen der parser.py Facade.
|
||||||
|
VERSION: 1.10.0
|
||||||
|
"""
|
||||||
|
from .parsing_models import ParsedNote, NoteContext
|
||||||
|
from .parsing_utils import (
|
||||||
|
FRONTMATTER_RE, validate_required_frontmatter,
|
||||||
|
normalize_frontmatter, extract_wikilinks, extract_edges_with_context
|
||||||
|
)
|
||||||
|
from .parsing_markdown import read_markdown
|
||||||
|
from .parsing_scanner import pre_scan_markdown
|
||||||
|
|
||||||
|
# Kompatibilitäts-Alias
|
||||||
|
FRONTMATTER_END = FRONTMATTER_RE
|
||||||
|
|
||||||
|
__all__ = [
|
||||||
|
"ParsedNote", "NoteContext", "FRONTMATTER_RE", "FRONTMATTER_END",
|
||||||
|
"read_markdown", "pre_scan_markdown", "validate_required_frontmatter",
|
||||||
|
"normalize_frontmatter", "extract_wikilinks", "extract_edges_with_context"
|
||||||
|
]
|
||||||
@@ -0,0 +1,60 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/parsing/parsing_markdown.py
|
||||||
|
DESCRIPTION: Fehlertolerantes Einlesen von Markdown und Frontmatter-Splitting.
|
||||||
|
"""
|
||||||
|
import io
|
||||||
|
import os
|
||||||
|
import json
|
||||||
|
from typing import Any, Dict, Optional, Tuple
|
||||||
|
from .parsing_models import ParsedNote
|
||||||
|
from .parsing_utils import FRONTMATTER_RE
|
||||||
|
|
||||||
|
try:
|
||||||
|
import yaml
|
||||||
|
except ImportError:
|
||||||
|
yaml = None
|
||||||
|
|
||||||
|
_FALLBACK_ENCODINGS: Tuple[str, ...] = ("utf-8", "utf-8-sig", "cp1252", "latin-1")
|
||||||
|
|
||||||
|
def _split_frontmatter(text: str) -> Tuple[Dict[str, Any], str]:
|
||||||
|
"""Zerlegt Text in Frontmatter-Dict und Body."""
|
||||||
|
lines = text.splitlines(True)
|
||||||
|
if not lines or not FRONTMATTER_RE.match(lines[0]):
|
||||||
|
return {}, text
|
||||||
|
end_idx = None
|
||||||
|
for i in range(1, min(len(lines), 2000)):
|
||||||
|
if FRONTMATTER_RE.match(lines[i]):
|
||||||
|
end_idx = i
|
||||||
|
break
|
||||||
|
if end_idx is None: return {}, text
|
||||||
|
fm_raw = "".join(lines[1:end_idx])
|
||||||
|
body = "".join(lines[end_idx + 1:])
|
||||||
|
if yaml is None: raise RuntimeError("PyYAML not installed.")
|
||||||
|
try:
|
||||||
|
loaded = yaml.safe_load(fm_raw) or {}
|
||||||
|
data = loaded if isinstance(loaded, dict) else {}
|
||||||
|
except Exception as e:
|
||||||
|
print(json.dumps({"warn": "frontmatter_yaml_parse_failed", "error": str(e)}))
|
||||||
|
data = {}
|
||||||
|
if body.startswith("\n"): body = body[1:]
|
||||||
|
return data, body
|
||||||
|
|
||||||
|
def _read_text_with_fallback(path: str) -> Tuple[str, str, bool]:
|
||||||
|
"""Liest Datei mit Encoding-Fallback-Kette."""
|
||||||
|
last_err = None
|
||||||
|
for enc in _FALLBACK_ENCODINGS:
|
||||||
|
try:
|
||||||
|
with io.open(path, "r", encoding=enc, errors="strict") as f:
|
||||||
|
return f.read(), enc, (enc != "utf-8")
|
||||||
|
except UnicodeDecodeError as e:
|
||||||
|
last_err = str(e); continue
|
||||||
|
with open(path, "rb") as fb:
|
||||||
|
text = fb.read().decode("utf-8", errors="replace")
|
||||||
|
return text, "utf-8(replace)", True
|
||||||
|
|
||||||
|
def read_markdown(path: str) -> Optional[ParsedNote]:
|
||||||
|
"""Öffentliche API zum Einlesen einer Datei."""
|
||||||
|
if not os.path.exists(path): return None
|
||||||
|
text, enc, had_fb = _read_text_with_fallback(path)
|
||||||
|
fm, body = _split_frontmatter(text)
|
||||||
|
return ParsedNote(frontmatter=fm or {}, body=body or "", path=path)
|
||||||
@@ -0,0 +1,22 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/parsing/parsing_models.py
|
||||||
|
DESCRIPTION: Datenklassen für das Parsing-System.
|
||||||
|
"""
|
||||||
|
from dataclasses import dataclass
|
||||||
|
from typing import Any, Dict, List
|
||||||
|
|
||||||
|
@dataclass
|
||||||
|
class ParsedNote:
|
||||||
|
"""Container für eine vollständig eingelesene Markdown-Datei."""
|
||||||
|
frontmatter: Dict[str, Any]
|
||||||
|
body: str
|
||||||
|
path: str
|
||||||
|
|
||||||
|
@dataclass
|
||||||
|
class NoteContext:
|
||||||
|
"""Metadaten-Container für den flüchtigen LocalBatchCache (Pass 1)."""
|
||||||
|
note_id: str
|
||||||
|
title: str
|
||||||
|
type: str
|
||||||
|
summary: str
|
||||||
|
tags: List[str]
|
||||||
@@ -0,0 +1,40 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/parsing/parsing_scanner.py
|
||||||
|
DESCRIPTION: Pre-Scan für den LocalBatchCache (Pass 1).
|
||||||
|
AUDIT v1.1.0: Dynamisierung der Scan-Parameter (WP-14).
|
||||||
|
"""
|
||||||
|
import os
|
||||||
|
import re
|
||||||
|
from typing import Optional, Dict, Any
|
||||||
|
from .parsing_models import NoteContext
|
||||||
|
from .parsing_markdown import read_markdown
|
||||||
|
|
||||||
|
def pre_scan_markdown(path: str, registry: Optional[Dict[str, Any]] = None) -> Optional[NoteContext]:
|
||||||
|
"""
|
||||||
|
Extrahiert Identität und Kurz-Kontext zur Validierung.
|
||||||
|
WP-14: Scan-Tiefe und Summary-Länge sind nun über die Registry steuerbar.
|
||||||
|
"""
|
||||||
|
parsed = read_markdown(path)
|
||||||
|
if not parsed: return None
|
||||||
|
|
||||||
|
# WP-14: Konfiguration laden oder Standardwerte nutzen
|
||||||
|
reg = registry or {}
|
||||||
|
summary_cfg = reg.get("summary_settings", {})
|
||||||
|
scan_depth = summary_cfg.get("pre_scan_depth", 600)
|
||||||
|
max_len = summary_cfg.get("max_summary_length", 500)
|
||||||
|
|
||||||
|
fm = parsed.frontmatter
|
||||||
|
# ID-Findung: Frontmatter ID oder Dateiname als Fallback
|
||||||
|
note_id = str(fm.get("id") or os.path.splitext(os.path.basename(path))[0])
|
||||||
|
|
||||||
|
# Erstelle Kurz-Zusammenfassung mit dynamischen Limits
|
||||||
|
clean_body = re.sub(r'[#*`>]', '', parsed.body[:scan_depth]).strip()
|
||||||
|
summary = clean_body[:max_len] + "..." if len(clean_body) > max_len else clean_body
|
||||||
|
|
||||||
|
return NoteContext(
|
||||||
|
note_id=note_id,
|
||||||
|
title=str(fm.get("title", note_id)),
|
||||||
|
type=str(fm.get("type", "concept")),
|
||||||
|
summary=summary,
|
||||||
|
tags=fm.get("tags", []) if isinstance(fm.get("tags"), list) else []
|
||||||
|
)
|
||||||
@@ -0,0 +1,69 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/parsing/parsing_utils.py
|
||||||
|
DESCRIPTION: Werkzeuge zur Validierung, Normalisierung und Wikilink-Extraktion.
|
||||||
|
"""
|
||||||
|
import re
|
||||||
|
from typing import Any, Dict, List, Tuple, Optional
|
||||||
|
from .parsing_models import ParsedNote
|
||||||
|
|
||||||
|
# Öffentliche Konstanten für Abwärtskompatibilität
|
||||||
|
FRONTMATTER_RE = re.compile(r"^\s*---\s*$")
|
||||||
|
_WIKILINK_RE = re.compile(r"\[\[([^\]]+)\]\]")
|
||||||
|
|
||||||
|
def validate_required_frontmatter(fm: Dict[str, Any], required: Tuple[str, ...] = ("id", "title")) -> None:
|
||||||
|
"""Prüft, ob alle Pflichtfelder vorhanden sind."""
|
||||||
|
if fm is None: fm = {}
|
||||||
|
missing = []
|
||||||
|
for k in required:
|
||||||
|
v = fm.get(k)
|
||||||
|
if v is None or (isinstance(v, str) and not v.strip()):
|
||||||
|
missing.append(k)
|
||||||
|
if missing:
|
||||||
|
raise ValueError(f"Missing required frontmatter fields: {', '.join(missing)}")
|
||||||
|
if "tags" in fm and fm["tags"] not in (None, "") and not isinstance(fm["tags"], (list, tuple)):
|
||||||
|
raise ValueError("frontmatter 'tags' must be a list of strings")
|
||||||
|
|
||||||
|
def normalize_frontmatter(fm: Dict[str, Any]) -> Dict[str, Any]:
|
||||||
|
"""Normalisierung von Tags und Boolean-Feldern."""
|
||||||
|
out = dict(fm or {})
|
||||||
|
if "tags" in out:
|
||||||
|
if isinstance(out["tags"], str):
|
||||||
|
out["tags"] = [out["tags"].strip()] if out["tags"].strip() else []
|
||||||
|
elif isinstance(out["tags"], list):
|
||||||
|
out["tags"] = [str(t).strip() for t in out["tags"] if t is not None]
|
||||||
|
else:
|
||||||
|
out["tags"] = [str(out["tags"]).strip()] if out["tags"] not in (None, "") else []
|
||||||
|
if "embedding_exclude" in out:
|
||||||
|
out["embedding_exclude"] = bool(out["embedding_exclude"])
|
||||||
|
return out
|
||||||
|
|
||||||
|
def extract_wikilinks(text: str) -> List[str]:
|
||||||
|
"""Extrahiert Wikilinks als einfache Liste von IDs."""
|
||||||
|
if not text: return []
|
||||||
|
out: List[str] = []
|
||||||
|
for m in _WIKILINK_RE.finditer(text):
|
||||||
|
raw = (m.group(1) or "").strip()
|
||||||
|
if not raw: continue
|
||||||
|
if "|" in raw: raw = raw.split("|", 1)[0].strip()
|
||||||
|
if "#" in raw: raw = raw.split("#", 1)[0].strip()
|
||||||
|
if raw: out.append(raw)
|
||||||
|
return out
|
||||||
|
|
||||||
|
def extract_edges_with_context(parsed: ParsedNote) -> List[Dict[str, Any]]:
|
||||||
|
"""WP-22: Extrahiert Wikilinks mit Zeilennummern für die EdgeRegistry."""
|
||||||
|
edges = []
|
||||||
|
if not parsed or not parsed.body: return edges
|
||||||
|
lines = parsed.body.splitlines()
|
||||||
|
for line_num, line_content in enumerate(lines, 1):
|
||||||
|
for match in _WIKILINK_RE.finditer(line_content):
|
||||||
|
raw = (match.group(1) or "").strip()
|
||||||
|
if not raw: continue
|
||||||
|
if "|" in raw:
|
||||||
|
parts = raw.split("|", 1)
|
||||||
|
target, kind = parts[0].strip(), parts[1].strip()
|
||||||
|
else:
|
||||||
|
target, kind = raw.strip(), "related_to"
|
||||||
|
if "#" in target: target = target.split("#", 1)[0].strip()
|
||||||
|
if target:
|
||||||
|
edges.append({"to": target, "kind": kind, "line": line_num, "provenance": "explicit"})
|
||||||
|
return edges
|
||||||
@@ -0,0 +1,43 @@
|
|||||||
|
"""
|
||||||
|
FILE: app/core/registry.py
|
||||||
|
DESCRIPTION: Zentraler Base-Layer für Konfigurations-Loading und Text-Bereinigung.
|
||||||
|
Bricht Zirkelbezüge zwischen Ingestion und LLMService auf.
|
||||||
|
VERSION: 1.0.0
|
||||||
|
"""
|
||||||
|
import os
|
||||||
|
import yaml
|
||||||
|
from typing import Optional, List
|
||||||
|
|
||||||
|
def load_type_registry(custom_path: Optional[str] = None) -> dict:
|
||||||
|
"""Lädt die types.yaml zur Steuerung der typ-spezifischen Logik."""
|
||||||
|
# Wir nutzen hier einen direkten Import von Settings, um Zyklen zu vermeiden
|
||||||
|
from app.config import get_settings
|
||||||
|
settings = get_settings()
|
||||||
|
path = custom_path or settings.MINDNET_TYPES_FILE
|
||||||
|
if not os.path.exists(path):
|
||||||
|
return {}
|
||||||
|
try:
|
||||||
|
with open(path, "r", encoding="utf-8") as f:
|
||||||
|
return yaml.safe_load(f) or {}
|
||||||
|
except Exception:
|
||||||
|
return {}
|
||||||
|
|
||||||
|
def clean_llm_text(text: str, registry: Optional[dict] = None) -> str:
|
||||||
|
"""
|
||||||
|
Entfernt LLM-Steuerzeichen (<s>, [OUT] etc.) aus einem Text.
|
||||||
|
Wird sowohl für JSON-Parsing als auch für Chat-Antworten genutzt.
|
||||||
|
"""
|
||||||
|
if not text or not isinstance(text, str):
|
||||||
|
return ""
|
||||||
|
|
||||||
|
default_patterns = ["<s>", "</s>", "[OUT]", "[/OUT]"]
|
||||||
|
reg = registry or load_type_registry()
|
||||||
|
|
||||||
|
# Lade Patterns aus llm_settings (WP-14)
|
||||||
|
patterns: List[str] = reg.get("llm_settings", {}).get("cleanup_patterns", default_patterns)
|
||||||
|
|
||||||
|
clean = text
|
||||||
|
for p in patterns:
|
||||||
|
clean = clean.replace(p, "")
|
||||||
|
|
||||||
|
return clean.strip()
|
||||||
@@ -0,0 +1,25 @@
|
|||||||
|
"""
|
||||||
|
PACKAGE: app.core.retrieval
|
||||||
|
DESCRIPTION: Zentrale Schnittstelle für Retrieval-Operationen (Vektor- & Graph-Suche).
|
||||||
|
Bündelt Suche und mathematische Scoring-Engine.
|
||||||
|
"""
|
||||||
|
from .retriever import (
|
||||||
|
Retriever,
|
||||||
|
hybrid_retrieve,
|
||||||
|
semantic_retrieve
|
||||||
|
)
|
||||||
|
|
||||||
|
from .retriever_scoring import (
|
||||||
|
get_weights,
|
||||||
|
compute_wp22_score,
|
||||||
|
get_status_multiplier
|
||||||
|
)
|
||||||
|
|
||||||
|
__all__ = [
|
||||||
|
"Retriever",
|
||||||
|
"hybrid_retrieve",
|
||||||
|
"semantic_retrieve",
|
||||||
|
"get_weights",
|
||||||
|
"compute_wp22_score",
|
||||||
|
"get_status_multiplier"
|
||||||
|
]
|
||||||
@@ -1,12 +1,11 @@
|
|||||||
"""
|
"""
|
||||||
FILE: app/core/retriever.py
|
FILE: app/core/retrieval/retriever.py
|
||||||
DESCRIPTION: Haupt-Schnittstelle für die Suche. Orchestriert Vektorsuche und Graph-Expansion.
|
DESCRIPTION: Haupt-Schnittstelle für die Suche. Orchestriert Vektorsuche und Graph-Expansion.
|
||||||
Nutzt retriever_scoring.py für die WP-22 Logik.
|
Nutzt retriever_scoring.py für die WP-22 Logik.
|
||||||
FIX: TypeError in embed_text (model_name) behoben.
|
MODULARISIERUNG: Verschoben in das retrieval-Paket für WP-14.
|
||||||
FIX: Pydantic ValidationError (Target/Source) behoben.
|
VERSION: 0.6.16
|
||||||
VERSION: 0.6.15 (WP-22 Full & Stable)
|
|
||||||
STATUS: Active
|
STATUS: Active
|
||||||
DEPENDENCIES: app.config, app.models.dto, app.core.qdrant*, app.core.graph_adapter, app.core.retriever_scoring
|
DEPENDENCIES: app.config, app.models.dto, app.core.database*, app.core.graph_adapter
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|
||||||
@@ -20,13 +19,16 @@ from app.models.dto import (
|
|||||||
QueryRequest, QueryResponse, QueryHit,
|
QueryRequest, QueryResponse, QueryHit,
|
||||||
Explanation, ScoreBreakdown, Reason, EdgeDTO
|
Explanation, ScoreBreakdown, Reason, EdgeDTO
|
||||||
)
|
)
|
||||||
import app.core.qdrant as qdr
|
|
||||||
import app.core.qdrant_points as qp
|
# MODULARISIERUNG: Neue Import-Pfade für die Datenbank-Ebene
|
||||||
|
import app.core.database.qdrant as qdr
|
||||||
|
import app.core.database.qdrant_points as qp
|
||||||
|
|
||||||
import app.services.embeddings_client as ec
|
import app.services.embeddings_client as ec
|
||||||
import app.core.graph_adapter as ga
|
import app.core.graph.graph_subgraph as ga
|
||||||
|
|
||||||
# Mathematische Engine importieren
|
# Mathematische Engine importieren
|
||||||
from app.core.retriever_scoring import get_weights, compute_wp22_score
|
from app.core.retrieval.retriever_scoring import get_weights, compute_wp22_score
|
||||||
|
|
||||||
logger = logging.getLogger(__name__)
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
@@ -35,7 +37,7 @@ logger = logging.getLogger(__name__)
|
|||||||
# ==============================================================================
|
# ==============================================================================
|
||||||
|
|
||||||
def _get_client_and_prefix() -> Tuple[Any, str]:
|
def _get_client_and_prefix() -> Tuple[Any, str]:
|
||||||
"""Initialisiert Qdrant Client und lädt Collection-Prefix."""
|
"""Initialisiert Qdrant Client und lädt Collection-Prefix via database-Paket."""
|
||||||
cfg = qdr.QdrantConfig.from_env()
|
cfg = qdr.QdrantConfig.from_env()
|
||||||
return qdr.get_client(cfg), cfg.prefix
|
return qdr.get_client(cfg), cfg.prefix
|
||||||
|
|
||||||
@@ -68,7 +70,7 @@ def _semantic_hits(
|
|||||||
top_k: int,
|
top_k: int,
|
||||||
filters: Optional[Dict] = None
|
filters: Optional[Dict] = None
|
||||||
) -> List[Tuple[str, float, Dict[str, Any]]]:
|
) -> List[Tuple[str, float, Dict[str, Any]]]:
|
||||||
"""Führt die Vektorsuche durch und konvertiert Qdrant-Points in ein einheitliches Format."""
|
"""Führt die Vektorsuche via database-Points-Modul durch."""
|
||||||
raw_hits = qp.search_chunks_by_vector(client, prefix, vector, top=top_k, filters=filters)
|
raw_hits = qp.search_chunks_by_vector(client, prefix, vector, top=top_k, filters=filters)
|
||||||
# Strikte Typkonvertierung für Stabilität
|
# Strikte Typkonvertierung für Stabilität
|
||||||
return [(str(hit[0]), float(hit[1]), dict(hit[2] or {})) for hit in raw_hits]
|
return [(str(hit[0]), float(hit[1]), dict(hit[2] or {})) for hit in raw_hits]
|
||||||
@@ -185,7 +187,7 @@ def _build_hits_from_semantic(
|
|||||||
explain: bool = False,
|
explain: bool = False,
|
||||||
dynamic_edge_boosts: Dict[str, float] = None
|
dynamic_edge_boosts: Dict[str, float] = None
|
||||||
) -> QueryResponse:
|
) -> QueryResponse:
|
||||||
"""Wandelt semantische Roh-Treffer in hochgeladene, bewertete QueryHits um."""
|
"""Wandelt semantische Roh-Treffer in bewertete QueryHits um."""
|
||||||
t0 = time.time()
|
t0 = time.time()
|
||||||
enriched = []
|
enriched = []
|
||||||
|
|
||||||
@@ -248,7 +250,7 @@ def _build_hits_from_semantic(
|
|||||||
def hybrid_retrieve(req: QueryRequest) -> QueryResponse:
|
def hybrid_retrieve(req: QueryRequest) -> QueryResponse:
|
||||||
"""
|
"""
|
||||||
Die Haupt-Einstiegsfunktion für die hybride Suche.
|
Die Haupt-Einstiegsfunktion für die hybride Suche.
|
||||||
Kombiniert Vektorsuche mit Graph-Expansion, Provenance-Weighting und Intent-Boosting.
|
Kombiniert Vektorsuche mit Graph-Expansion und WP-22 Gewichtung.
|
||||||
"""
|
"""
|
||||||
client, prefix = _get_client_and_prefix()
|
client, prefix = _get_client_and_prefix()
|
||||||
vector = list(req.query_vector) if req.query_vector else _get_query_vector(req)
|
vector = list(req.query_vector) if req.query_vector else _get_query_vector(req)
|
||||||
@@ -1,8 +1,9 @@
|
|||||||
"""
|
"""
|
||||||
FILE: app/core/retriever_scoring.py
|
FILE: app/core/retrieval/retriever_scoring.py
|
||||||
DESCRIPTION: Mathematische Kern-Logik für das WP-22 Scoring.
|
DESCRIPTION: Mathematische Kern-Logik für das WP-22 Scoring.
|
||||||
Berechnet Relevanz-Scores basierend auf Semantik, Graph-Intelligence und Content Lifecycle.
|
Berechnet Relevanz-Scores basierend auf Semantik, Graph-Intelligence und Content Lifecycle.
|
||||||
VERSION: 1.0.1 (WP-22 Full Math Engine)
|
MODULARISIERUNG: Verschoben in das retrieval-Paket für WP-14.
|
||||||
|
VERSION: 1.0.2
|
||||||
STATUS: Active
|
STATUS: Active
|
||||||
DEPENDENCIES: app.config, typing
|
DEPENDENCIES: app.config, typing
|
||||||
"""
|
"""
|
||||||
@@ -69,20 +69,35 @@ def render_graph_explorer_cytoscape(graph_service):
|
|||||||
search_term = st.text_input("Suche Notiz", placeholder="Titel eingeben...", key="cy_search")
|
search_term = st.text_input("Suche Notiz", placeholder="Titel eingeben...", key="cy_search")
|
||||||
|
|
||||||
if search_term:
|
if search_term:
|
||||||
hits, _ = graph_service.client.scroll(
|
try:
|
||||||
collection_name=f"{COLLECTION_PREFIX}_notes",
|
hits, _ = graph_service.client.scroll(
|
||||||
limit=10,
|
collection_name=f"{COLLECTION_PREFIX}_notes",
|
||||||
scroll_filter=models.Filter(must=[models.FieldCondition(key="title", match=models.MatchText(text=search_term))])
|
limit=10,
|
||||||
)
|
scroll_filter=models.Filter(must=[models.FieldCondition(key="title", match=models.MatchText(text=search_term))])
|
||||||
options = {h.payload['title']: h.payload['note_id'] for h in hits}
|
)
|
||||||
|
options = {}
|
||||||
|
for h in hits:
|
||||||
|
if h.payload and 'title' in h.payload and 'note_id' in h.payload:
|
||||||
|
title = h.payload['title']
|
||||||
|
note_id = h.payload['note_id']
|
||||||
|
# Vermeide Duplikate (falls mehrere Chunks/Notes denselben Titel haben)
|
||||||
|
if title not in options:
|
||||||
|
options[title] = note_id
|
||||||
|
|
||||||
if options:
|
if options:
|
||||||
selected_title = st.selectbox("Ergebnisse:", list(options.keys()), key="cy_select")
|
selected_title = st.selectbox("Ergebnisse:", list(options.keys()), key="cy_select")
|
||||||
if st.button("Laden", use_container_width=True, key="cy_load"):
|
if st.button("Laden", use_container_width=True, key="cy_load"):
|
||||||
new_id = options[selected_title]
|
new_id = options[selected_title]
|
||||||
st.session_state.graph_center_id = new_id
|
st.session_state.graph_center_id = new_id
|
||||||
st.session_state.graph_inspected_id = new_id
|
st.session_state.graph_inspected_id = new_id
|
||||||
st.rerun()
|
st.rerun()
|
||||||
|
else:
|
||||||
|
# Zeige Info, wenn keine Ergebnisse gefunden wurden
|
||||||
|
st.info(f"Keine Notizen mit '{search_term}' im Titel gefunden.")
|
||||||
|
except Exception as e:
|
||||||
|
st.error(f"Fehler bei der Suche: {e}")
|
||||||
|
import traceback
|
||||||
|
st.code(traceback.format_exc())
|
||||||
|
|
||||||
st.divider()
|
st.divider()
|
||||||
|
|
||||||
@@ -139,6 +154,26 @@ def render_graph_explorer_cytoscape(graph_service):
|
|||||||
# 2. Detail Daten (Inspector)
|
# 2. Detail Daten (Inspector)
|
||||||
inspected_data = graph_service.get_note_with_full_content(inspected_id)
|
inspected_data = graph_service.get_note_with_full_content(inspected_id)
|
||||||
|
|
||||||
|
# DEBUG: Zeige Debug-Informationen
|
||||||
|
with st.expander("🔍 Debug-Informationen", expanded=False):
|
||||||
|
st.write(f"**Gefundene Knoten:** {len(nodes_data) if nodes_data else 0}")
|
||||||
|
st.write(f"**Gefundene Kanten:** {len(edges_data) if edges_data else 0}")
|
||||||
|
if nodes_data:
|
||||||
|
st.write("**Knoten-IDs:**")
|
||||||
|
for n in nodes_data[:10]:
|
||||||
|
nid = getattr(n, 'id', 'N/A')
|
||||||
|
st.write(f" - {nid}")
|
||||||
|
if len(nodes_data) > 10:
|
||||||
|
st.write(f" ... und {len(nodes_data) - 10} weitere")
|
||||||
|
if edges_data:
|
||||||
|
st.write("**Kanten:**")
|
||||||
|
for e in edges_data[:10]:
|
||||||
|
src = getattr(e, "source", "N/A")
|
||||||
|
tgt = getattr(e, "to", getattr(e, "target", "N/A"))
|
||||||
|
st.write(f" - {src} -> {tgt}")
|
||||||
|
if len(edges_data) > 10:
|
||||||
|
st.write(f" ... und {len(edges_data) - 10} weitere")
|
||||||
|
|
||||||
# --- ACTION BAR ---
|
# --- ACTION BAR ---
|
||||||
action_container = st.container()
|
action_container = st.container()
|
||||||
with action_container:
|
with action_container:
|
||||||
@@ -174,7 +209,12 @@ def render_graph_explorer_cytoscape(graph_service):
|
|||||||
st.markdown(f"**ID:** `{inspected_data.get('note_id')}`")
|
st.markdown(f"**ID:** `{inspected_data.get('note_id')}`")
|
||||||
st.markdown(f"**Typ:** `{inspected_data.get('type')}`")
|
st.markdown(f"**Typ:** `{inspected_data.get('type')}`")
|
||||||
with col_i2:
|
with col_i2:
|
||||||
st.markdown(f"**Tags:** {', '.join(inspected_data.get('tags', []))}")
|
tags = inspected_data.get('tags', [])
|
||||||
|
if isinstance(tags, list):
|
||||||
|
tags_str = ', '.join(tags) if tags else "Keine"
|
||||||
|
else:
|
||||||
|
tags_str = str(tags) if tags else "Keine"
|
||||||
|
st.markdown(f"**Tags:** {tags_str}")
|
||||||
path_check = "✅" if inspected_data.get('path') else "❌"
|
path_check = "✅" if inspected_data.get('path') else "❌"
|
||||||
st.markdown(f"**Pfad:** {path_check}")
|
st.markdown(f"**Pfad:** {path_check}")
|
||||||
|
|
||||||
@@ -189,12 +229,27 @@ def render_graph_explorer_cytoscape(graph_service):
|
|||||||
# --- GRAPH ELEMENTS ---
|
# --- GRAPH ELEMENTS ---
|
||||||
cy_elements = []
|
cy_elements = []
|
||||||
|
|
||||||
|
# Validierung: Prüfe ob nodes_data vorhanden ist
|
||||||
|
if not nodes_data:
|
||||||
|
st.warning("⚠️ Keine Knoten gefunden. Bitte wähle eine andere Notiz.")
|
||||||
|
# Zeige trotzdem den Inspector, falls Daten vorhanden
|
||||||
|
if inspected_data:
|
||||||
|
st.info(f"**Hinweis:** Die Notiz '{inspected_data.get('title', inspected_id)}' wurde gefunden, hat aber keine Verbindungen im Graphen.")
|
||||||
|
return
|
||||||
|
|
||||||
|
# Erstelle Set aller Node-IDs für schnelle Validierung
|
||||||
|
node_ids = {n.id for n in nodes_data if hasattr(n, 'id') and n.id}
|
||||||
|
|
||||||
|
# Nodes hinzufügen
|
||||||
for n in nodes_data:
|
for n in nodes_data:
|
||||||
|
if not hasattr(n, 'id') or not n.id:
|
||||||
|
continue
|
||||||
|
|
||||||
is_center = (n.id == center_id)
|
is_center = (n.id == center_id)
|
||||||
is_inspected = (n.id == inspected_id)
|
is_inspected = (n.id == inspected_id)
|
||||||
|
|
||||||
tooltip_text = n.title if n.title else n.label
|
tooltip_text = getattr(n, 'title', None) or getattr(n, 'label', '')
|
||||||
display_label = n.label
|
display_label = getattr(n, 'label', str(n.id))
|
||||||
if len(display_label) > 15 and " " in display_label:
|
if len(display_label) > 15 and " " in display_label:
|
||||||
display_label = display_label.replace(" ", "\n", 1)
|
display_label = display_label.replace(" ", "\n", 1)
|
||||||
|
|
||||||
@@ -202,7 +257,7 @@ def render_graph_explorer_cytoscape(graph_service):
|
|||||||
"data": {
|
"data": {
|
||||||
"id": n.id,
|
"id": n.id,
|
||||||
"label": display_label,
|
"label": display_label,
|
||||||
"bg_color": n.color,
|
"bg_color": getattr(n, 'color', '#8395a7'),
|
||||||
"tooltip": tooltip_text
|
"tooltip": tooltip_text
|
||||||
},
|
},
|
||||||
# Wir steuern das Aussehen rein über Klassen (.inspected / .center)
|
# Wir steuern das Aussehen rein über Klassen (.inspected / .center)
|
||||||
@@ -211,18 +266,22 @@ def render_graph_explorer_cytoscape(graph_service):
|
|||||||
}
|
}
|
||||||
cy_elements.append(cy_node)
|
cy_elements.append(cy_node)
|
||||||
|
|
||||||
for e in edges_data:
|
# Edges hinzufügen - nur wenn beide Nodes im Graph vorhanden sind
|
||||||
target_id = getattr(e, "to", getattr(e, "target", None))
|
if edges_data:
|
||||||
if target_id:
|
for e in edges_data:
|
||||||
cy_edge = {
|
source_id = getattr(e, "source", None)
|
||||||
"data": {
|
target_id = getattr(e, "to", getattr(e, "target", None))
|
||||||
"source": e.source,
|
# Nur hinzufügen, wenn beide IDs vorhanden UND beide Nodes im Graph sind
|
||||||
"target": target_id,
|
if source_id and target_id and source_id in node_ids and target_id in node_ids:
|
||||||
"label": e.label,
|
cy_edge = {
|
||||||
"line_color": e.color
|
"data": {
|
||||||
|
"source": source_id,
|
||||||
|
"target": target_id,
|
||||||
|
"label": getattr(e, "label", ""),
|
||||||
|
"line_color": getattr(e, "color", "#bdc3c7")
|
||||||
|
}
|
||||||
}
|
}
|
||||||
}
|
cy_elements.append(cy_edge)
|
||||||
cy_elements.append(cy_edge)
|
|
||||||
|
|
||||||
# --- STYLESHEET ---
|
# --- STYLESHEET ---
|
||||||
stylesheet = [
|
stylesheet = [
|
||||||
@@ -292,43 +351,47 @@ def render_graph_explorer_cytoscape(graph_service):
|
|||||||
]
|
]
|
||||||
|
|
||||||
# --- RENDER ---
|
# --- RENDER ---
|
||||||
graph_key = f"cy_{center_id}_{st.session_state.cy_depth}_{st.session_state.cy_ideal_edge_len}"
|
# Nur rendern, wenn Elemente vorhanden sind
|
||||||
|
if not cy_elements:
|
||||||
|
st.warning("⚠️ Keine Graph-Elemente zum Anzeigen gefunden.")
|
||||||
|
else:
|
||||||
|
graph_key = f"cy_{center_id}_{st.session_state.cy_depth}_{st.session_state.cy_ideal_edge_len}"
|
||||||
|
|
||||||
clicked_elements = cytoscape(
|
clicked_elements = cytoscape(
|
||||||
elements=cy_elements,
|
elements=cy_elements,
|
||||||
stylesheet=stylesheet,
|
stylesheet=stylesheet,
|
||||||
layout={
|
layout={
|
||||||
"name": "cose",
|
"name": "cose",
|
||||||
"idealEdgeLength": st.session_state.cy_ideal_edge_len,
|
"idealEdgeLength": st.session_state.cy_ideal_edge_len,
|
||||||
"nodeOverlap": 20,
|
"nodeOverlap": 20,
|
||||||
"refresh": 20,
|
"refresh": 20,
|
||||||
"fit": True,
|
"fit": True,
|
||||||
"padding": 50,
|
"padding": 50,
|
||||||
"randomize": False,
|
"randomize": False,
|
||||||
"componentSpacing": 100,
|
"componentSpacing": 100,
|
||||||
"nodeRepulsion": st.session_state.cy_node_repulsion,
|
"nodeRepulsion": st.session_state.cy_node_repulsion,
|
||||||
"edgeElasticity": 100,
|
"edgeElasticity": 100,
|
||||||
"nestingFactor": 5,
|
"nestingFactor": 5,
|
||||||
"gravity": 80,
|
"gravity": 80,
|
||||||
"numIter": 1000,
|
"numIter": 1000,
|
||||||
"initialTemp": 200,
|
"initialTemp": 200,
|
||||||
"coolingFactor": 0.95,
|
"coolingFactor": 0.95,
|
||||||
"minTemp": 1.0,
|
"minTemp": 1.0,
|
||||||
"animate": False
|
"animate": False
|
||||||
},
|
},
|
||||||
key=graph_key,
|
key=graph_key,
|
||||||
height="700px"
|
height="700px"
|
||||||
)
|
)
|
||||||
|
|
||||||
# --- EVENT HANDLING ---
|
# --- EVENT HANDLING ---
|
||||||
if clicked_elements:
|
if clicked_elements:
|
||||||
clicked_nodes = clicked_elements.get("nodes", [])
|
clicked_nodes = clicked_elements.get("nodes", [])
|
||||||
if clicked_nodes:
|
if clicked_nodes:
|
||||||
clicked_id = clicked_nodes[0]
|
clicked_id = clicked_nodes[0]
|
||||||
|
|
||||||
if clicked_id != st.session_state.graph_inspected_id:
|
if clicked_id != st.session_state.graph_inspected_id:
|
||||||
st.session_state.graph_inspected_id = clicked_id
|
st.session_state.graph_inspected_id = clicked_id
|
||||||
st.rerun()
|
st.rerun()
|
||||||
|
|
||||||
else:
|
else:
|
||||||
st.info("👈 Bitte wähle links eine Notiz aus.")
|
st.info("👈 Bitte wähle links eine Notiz aus.")
|
||||||
+184
-121
@@ -1,25 +1,30 @@
|
|||||||
"""
|
"""
|
||||||
FILE: app/frontend/ui_graph_service.py
|
FILE: app/frontend/ui_graph_service.py
|
||||||
DESCRIPTION: Data Layer für den Graphen. Greift direkt auf Qdrant zu (Performance), um Knoten/Kanten zu laden und Texte zu rekonstruieren ("Stitching").
|
DESCRIPTION: Data Layer für den Graphen. Greift direkt auf Qdrant zu (Performance), um Knoten/Kanten zu laden und Texte zu rekonstruieren ("Stitching").
|
||||||
VERSION: 2.6.0
|
VERSION: 2.6.1 (Fix: Anchor-Link & Fragment Resolution)
|
||||||
STATUS: Active
|
STATUS: Active
|
||||||
DEPENDENCIES: qdrant_client, streamlit_agraph, ui_config, re
|
DEPENDENCIES: qdrant_client, streamlit_agraph, ui_config, re
|
||||||
LAST_ANALYSIS: 2025-12-15
|
LAST_ANALYSIS: 2025-12-28
|
||||||
"""
|
"""
|
||||||
|
|
||||||
import re
|
import re
|
||||||
from qdrant_client import QdrantClient, models
|
from qdrant_client import QdrantClient, models
|
||||||
from streamlit_agraph import Node, Edge
|
from streamlit_agraph import Node, Edge
|
||||||
from ui_config import GRAPH_COLORS, get_edge_color, SYSTEM_EDGES
|
from ui_config import COLLECTION_PREFIX, GRAPH_COLORS, get_edge_color, SYSTEM_EDGES
|
||||||
|
|
||||||
class GraphExplorerService:
|
class GraphExplorerService:
|
||||||
def __init__(self, url, api_key=None, prefix="mindnet"):
|
def __init__(self, url, api_key=None, prefix=None):
|
||||||
|
"""
|
||||||
|
Initialisiert den Service. Nutzt COLLECTION_PREFIX aus der Config,
|
||||||
|
sofern kein spezifischer Prefix übergeben wurde.
|
||||||
|
"""
|
||||||
self.client = QdrantClient(url=url, api_key=api_key)
|
self.client = QdrantClient(url=url, api_key=api_key)
|
||||||
self.prefix = prefix
|
self.prefix = prefix if prefix else COLLECTION_PREFIX
|
||||||
self.notes_col = f"{prefix}_notes"
|
self.notes_col = f"{self.prefix}_notes"
|
||||||
self.chunks_col = f"{prefix}_chunks"
|
self.chunks_col = f"{self.prefix}_chunks"
|
||||||
self.edges_col = f"{prefix}_edges"
|
self.edges_col = f"{self.prefix}_edges"
|
||||||
self._note_cache = {}
|
self._note_cache = {}
|
||||||
|
self._ref_resolution_cache = {}
|
||||||
|
|
||||||
def get_note_with_full_content(self, note_id):
|
def get_note_with_full_content(self, note_id):
|
||||||
"""
|
"""
|
||||||
@@ -33,8 +38,7 @@ class GraphExplorerService:
|
|||||||
# 2. Volltext aus Chunks bauen
|
# 2. Volltext aus Chunks bauen
|
||||||
full_text = self._fetch_full_text_stitched(note_id)
|
full_text = self._fetch_full_text_stitched(note_id)
|
||||||
|
|
||||||
# 3. Ergebnis kombinieren (Wir überschreiben das 'fulltext' Feld mit dem frischen Stitching)
|
# 3. Ergebnis kombinieren (Kopie zurückgeben)
|
||||||
# Wir geben eine Kopie zurück, um den Cache nicht zu verfälschen
|
|
||||||
complete_note = meta.copy()
|
complete_note = meta.copy()
|
||||||
if full_text:
|
if full_text:
|
||||||
complete_note['fulltext'] = full_text
|
complete_note['fulltext'] = full_text
|
||||||
@@ -57,7 +61,7 @@ class GraphExplorerService:
|
|||||||
# Initialset für Suche
|
# Initialset für Suche
|
||||||
level_1_ids = {center_note_id}
|
level_1_ids = {center_note_id}
|
||||||
|
|
||||||
# Suche Kanten für Center (L1)
|
# Suche Kanten für Center (L1) inkl. Titel für Anchor-Suche
|
||||||
l1_edges = self._find_connected_edges([center_note_id], center_note.get("title"))
|
l1_edges = self._find_connected_edges([center_note_id], center_note.get("title"))
|
||||||
|
|
||||||
for edge_data in l1_edges:
|
for edge_data in l1_edges:
|
||||||
@@ -80,7 +84,6 @@ class GraphExplorerService:
|
|||||||
if center_note_id in nodes_dict:
|
if center_note_id in nodes_dict:
|
||||||
orig_title = nodes_dict[center_note_id].title
|
orig_title = nodes_dict[center_note_id].title
|
||||||
clean_full = self._clean_markdown(center_text[:2000])
|
clean_full = self._clean_markdown(center_text[:2000])
|
||||||
# Wir packen den Text in den Tooltip (title attribute)
|
|
||||||
nodes_dict[center_note_id].title = f"{orig_title}\n\n📄 INHALT:\n{clean_full}..."
|
nodes_dict[center_note_id].title = f"{orig_title}\n\n📄 INHALT:\n{clean_full}..."
|
||||||
|
|
||||||
# B. Previews für alle Nachbarn holen (Batch)
|
# B. Previews für alle Nachbarn holen (Batch)
|
||||||
@@ -100,8 +103,6 @@ class GraphExplorerService:
|
|||||||
prov = data['provenance']
|
prov = data['provenance']
|
||||||
color = get_edge_color(kind)
|
color = get_edge_color(kind)
|
||||||
is_smart = (prov != "explicit" and prov != "rule")
|
is_smart = (prov != "explicit" and prov != "rule")
|
||||||
|
|
||||||
# Label Logik
|
|
||||||
label_text = kind if show_labels else " "
|
label_text = kind if show_labels else " "
|
||||||
|
|
||||||
final_edges.append(Edge(
|
final_edges.append(Edge(
|
||||||
@@ -112,15 +113,11 @@ class GraphExplorerService:
|
|||||||
return list(nodes_dict.values()), final_edges
|
return list(nodes_dict.values()), final_edges
|
||||||
|
|
||||||
def _clean_markdown(self, text):
|
def _clean_markdown(self, text):
|
||||||
"""Entfernt Markdown-Sonderzeichen für saubere Tooltips im Browser."""
|
"""Entfernt Markdown-Sonderzeichen für saubere Tooltips."""
|
||||||
if not text: return ""
|
if not text: return ""
|
||||||
# Entferne Header Marker (## )
|
|
||||||
text = re.sub(r'#+\s', '', text)
|
text = re.sub(r'#+\s', '', text)
|
||||||
# Entferne Bold/Italic (** oder *)
|
|
||||||
text = re.sub(r'\*\*|__|\*|_', '', text)
|
text = re.sub(r'\*\*|__|\*|_', '', text)
|
||||||
# Entferne Links [Text](Url) -> Text
|
|
||||||
text = re.sub(r'\[([^\]]+)\]\([^\)]+\)', r'\1', text)
|
text = re.sub(r'\[([^\]]+)\]\([^\)]+\)', r'\1', text)
|
||||||
# Entferne Wikilinks [[Link]] -> Link
|
|
||||||
text = re.sub(r'\[\[([^\]]+)\]\]', r'\1', text)
|
text = re.sub(r'\[\[([^\]]+)\]\]', r'\1', text)
|
||||||
return text
|
return text
|
||||||
|
|
||||||
@@ -130,186 +127,252 @@ class GraphExplorerService:
|
|||||||
scroll_filter = models.Filter(
|
scroll_filter = models.Filter(
|
||||||
must=[models.FieldCondition(key="note_id", match=models.MatchValue(value=note_id))]
|
must=[models.FieldCondition(key="note_id", match=models.MatchValue(value=note_id))]
|
||||||
)
|
)
|
||||||
# Limit hoch genug setzen
|
|
||||||
chunks, _ = self.client.scroll(self.chunks_col, scroll_filter=scroll_filter, limit=100, with_payload=True)
|
chunks, _ = self.client.scroll(self.chunks_col, scroll_filter=scroll_filter, limit=100, with_payload=True)
|
||||||
# Sortieren nach 'ord' (Reihenfolge im Dokument)
|
|
||||||
chunks.sort(key=lambda x: x.payload.get('ord', 999))
|
chunks.sort(key=lambda x: x.payload.get('ord', 999))
|
||||||
|
full_text = [c.payload.get('text', '') for c in chunks if c.payload.get('text')]
|
||||||
full_text = []
|
|
||||||
for c in chunks:
|
|
||||||
# 'text' ist der reine Inhalt ohne Overlap
|
|
||||||
txt = c.payload.get('text', '')
|
|
||||||
if txt: full_text.append(txt)
|
|
||||||
|
|
||||||
return "\n\n".join(full_text)
|
return "\n\n".join(full_text)
|
||||||
except:
|
except:
|
||||||
return "Fehler beim Laden des Volltexts."
|
return "Fehler beim Laden des Volltexts."
|
||||||
|
|
||||||
def _fetch_previews_for_nodes(self, node_ids):
|
def _fetch_previews_for_nodes(self, node_ids):
|
||||||
"""Holt Batch-weise den ersten Chunk für eine Liste von Nodes."""
|
"""
|
||||||
if not node_ids: return {}
|
Holt Batch-weise den ersten relevanten Textabschnitt für eine Liste von Nodes.
|
||||||
|
Optimiert die Ladezeit durch Reduzierung der API-Calls.
|
||||||
|
"""
|
||||||
|
if not node_ids:
|
||||||
|
return {}
|
||||||
previews = {}
|
previews = {}
|
||||||
try:
|
try:
|
||||||
scroll_filter = models.Filter(must=[models.FieldCondition(key="note_id", match=models.MatchAny(any=node_ids))])
|
scroll_filter = models.Filter(
|
||||||
# Limit = Anzahl Nodes * 3 (Puffer)
|
must=[models.FieldCondition(key="note_id", match=models.MatchAny(any=node_ids))]
|
||||||
|
)
|
||||||
|
# Genügend Chunks laden, um für jede ID eine Vorschau zu finden
|
||||||
chunks, _ = self.client.scroll(self.chunks_col, scroll_filter=scroll_filter, limit=len(node_ids)*3, with_payload=True)
|
chunks, _ = self.client.scroll(self.chunks_col, scroll_filter=scroll_filter, limit=len(node_ids)*3, with_payload=True)
|
||||||
|
|
||||||
for c in chunks:
|
for c in chunks:
|
||||||
nid = c.payload.get("note_id")
|
nid = c.payload.get("note_id")
|
||||||
# Nur den ersten gefundenen Chunk pro Note nehmen
|
# Wir nehmen den ersten gefundenen Chunk
|
||||||
if nid and nid not in previews:
|
if nid and nid not in previews:
|
||||||
previews[nid] = c.payload.get("window") or c.payload.get("text") or ""
|
previews[nid] = c.payload.get("window") or c.payload.get("text") or ""
|
||||||
except: pass
|
except Exception:
|
||||||
|
pass
|
||||||
return previews
|
return previews
|
||||||
|
|
||||||
def _find_connected_edges(self, note_ids, note_title=None):
|
def _find_connected_edges(self, note_ids, note_title=None):
|
||||||
"""Findet eingehende und ausgehende Kanten."""
|
"""
|
||||||
|
Findet ein- und ausgehende Kanten für eine Liste von IDs.
|
||||||
|
Implementiert den Fix für Anker-Links [[Titel#Abschnitt]] durch Präfix-Suche in der target_id.
|
||||||
|
"""
|
||||||
results = []
|
results = []
|
||||||
|
if not note_ids:
|
||||||
|
return results
|
||||||
|
|
||||||
# 1. OUTGOING EDGES (Der "Owner"-Fix)
|
# 1. AUSGEHENDE KANTEN (Outgoing)
|
||||||
# Wir suchen Kanten, die im Feld 'note_id' (Owner) eine unserer Notizen haben.
|
# Suche über 'note_id' als Besitzer der Kante.
|
||||||
# Das findet ALLE ausgehenden Kanten, egal ob sie an einem Chunk oder der Note hängen.
|
out_filter = models.Filter(must=[
|
||||||
if note_ids:
|
models.FieldCondition(key="note_id", match=models.MatchAny(any=note_ids)),
|
||||||
out_filter = models.Filter(must=[
|
models.FieldCondition(key="kind", match=models.MatchExcept(**{"except": SYSTEM_EDGES}))
|
||||||
models.FieldCondition(key="note_id", match=models.MatchAny(any=note_ids)),
|
])
|
||||||
models.FieldCondition(key="kind", match=models.MatchExcept(**{"except": SYSTEM_EDGES}))
|
res_out, _ = self.client.scroll(self.edges_col, scroll_filter=out_filter, limit=2000, with_payload=True)
|
||||||
])
|
results.extend(res_out)
|
||||||
# Limit hoch, um alles zu finden
|
|
||||||
res_out, _ = self.client.scroll(self.edges_col, scroll_filter=out_filter, limit=500, with_payload=True)
|
|
||||||
results.extend(res_out)
|
|
||||||
|
|
||||||
# 2. INCOMING EDGES (Ziel = Chunk ID oder Titel oder Note ID)
|
# 2. EINGEHENDE KANTEN (Incoming)
|
||||||
# Hier müssen wir Chunks auflösen, um Treffer auf Chunks zu finden.
|
# Suche über target_id (Ziel der Kante).
|
||||||
|
|
||||||
# Chunk IDs der aktuellen Notes holen
|
# Sammele alle Chunk-IDs für exakte Treffer auf Segment-Ebene
|
||||||
chunk_ids = []
|
c_filter = models.Filter(must=[models.FieldCondition(key="note_id", match=models.MatchAny(any=note_ids))])
|
||||||
if note_ids:
|
chunks, _ = self.client.scroll(self.chunks_col, scroll_filter=c_filter, limit=1000, with_payload=False)
|
||||||
c_filter = models.Filter(must=[models.FieldCondition(key="note_id", match=models.MatchAny(any=note_ids))])
|
chunk_ids = [c.id for c in chunks]
|
||||||
chunks, _ = self.client.scroll(self.chunks_col, scroll_filter=c_filter, limit=300)
|
|
||||||
chunk_ids = [c.id for c in chunks]
|
|
||||||
|
|
||||||
shoulds = []
|
should_conditions = []
|
||||||
# Case A: Edge zeigt auf einen unserer Chunks
|
|
||||||
if chunk_ids:
|
if chunk_ids:
|
||||||
shoulds.append(models.FieldCondition(key="target_id", match=models.MatchAny(any=chunk_ids)))
|
should_conditions.append(models.FieldCondition(key="target_id", match=models.MatchAny(any=chunk_ids)))
|
||||||
|
should_conditions.append(models.FieldCondition(key="target_id", match=models.MatchAny(any=note_ids)))
|
||||||
|
|
||||||
# Case B: Edge zeigt direkt auf unsere Note ID
|
# TITEL-BASIERTE SUCHE (Inkl. Anker-Fix)
|
||||||
if note_ids:
|
titles_to_check = []
|
||||||
shoulds.append(models.FieldCondition(key="target_id", match=models.MatchAny(any=note_ids)))
|
|
||||||
|
|
||||||
# Case C: Edge zeigt auf unseren Titel (Wikilinks)
|
|
||||||
if note_title:
|
if note_title:
|
||||||
shoulds.append(models.FieldCondition(key="target_id", match=models.MatchValue(value=note_title)))
|
titles_to_check.append(note_title)
|
||||||
|
# Aliase laden für robuste Verlinkung
|
||||||
|
for nid in note_ids:
|
||||||
|
note = self._fetch_note_cached(nid)
|
||||||
|
if note:
|
||||||
|
aliases = note.get("aliases", [])
|
||||||
|
if isinstance(aliases, str): aliases = [aliases]
|
||||||
|
titles_to_check.extend([a for a in aliases if a not in titles_to_check])
|
||||||
|
|
||||||
if shoulds:
|
# Exakte Titel-Matches hinzufügen
|
||||||
|
for t in titles_to_check:
|
||||||
|
should_conditions.append(models.FieldCondition(key="target_id", match=models.MatchValue(value=t)))
|
||||||
|
|
||||||
|
if should_conditions:
|
||||||
in_filter = models.Filter(
|
in_filter = models.Filter(
|
||||||
must=[models.FieldCondition(key="kind", match=models.MatchExcept(**{"except": SYSTEM_EDGES}))],
|
must=[models.FieldCondition(key="kind", match=models.MatchExcept(**{"except": SYSTEM_EDGES}))],
|
||||||
should=shoulds
|
should=should_conditions
|
||||||
)
|
)
|
||||||
res_in, _ = self.client.scroll(self.edges_col, scroll_filter=in_filter, limit=500, with_payload=True)
|
res_in, _ = self.client.scroll(self.edges_col, scroll_filter=in_filter, limit=2000, with_payload=True)
|
||||||
results.extend(res_in)
|
results.extend(res_in)
|
||||||
|
|
||||||
|
# FIX FÜR [[Titel#Abschnitt]]: Suche nach Fragmenten
|
||||||
|
if titles_to_check:
|
||||||
|
for t in titles_to_check:
|
||||||
|
anchor_filter = models.Filter(must=[
|
||||||
|
models.FieldCondition(key="target_id", match=models.MatchText(text=t)),
|
||||||
|
models.FieldCondition(key="kind", match=models.MatchExcept(**{"except": SYSTEM_EDGES}))
|
||||||
|
])
|
||||||
|
res_anchor, _ = self.client.scroll(self.edges_col, scroll_filter=anchor_filter, limit=1000, with_payload=True)
|
||||||
|
|
||||||
|
existing_ids = {r.id for r in results}
|
||||||
|
for edge in res_anchor:
|
||||||
|
tgt = edge.payload.get("target_id", "")
|
||||||
|
# Client-seitige Filterung: Nur Kanten nehmen, die mit Titel# beginnen
|
||||||
|
if edge.id not in existing_ids and (tgt == t or tgt.startswith(f"{t}#")):
|
||||||
|
results.append(edge)
|
||||||
|
|
||||||
return results
|
return results
|
||||||
|
|
||||||
def _find_connected_edges_batch(self, note_ids):
|
def _find_connected_edges_batch(self, note_ids):
|
||||||
# Wrapper für Level 2 Suche
|
"""Wrapper für die Suche in tieferen Ebenen des Graphen."""
|
||||||
return self._find_connected_edges(note_ids)
|
first_note = self._fetch_note_cached(note_ids[0]) if note_ids else None
|
||||||
|
title = first_note.get("title") if first_note else None
|
||||||
|
return self._find_connected_edges(note_ids, note_title=title)
|
||||||
|
|
||||||
def _process_edge(self, record, nodes_dict, unique_edges, current_depth):
|
def _process_edge(self, record, nodes_dict, unique_edges, current_depth):
|
||||||
"""Verarbeitet eine rohe Edge, löst IDs auf und fügt sie den Dictionaries hinzu."""
|
"""
|
||||||
|
Verarbeitet eine rohe Kante, löst Quell- und Ziel-Referenzen auf
|
||||||
|
und fügt sie den Dictionaries für den Graphen hinzu.
|
||||||
|
"""
|
||||||
|
if not record or not record.payload:
|
||||||
|
return None, None
|
||||||
|
|
||||||
payload = record.payload
|
payload = record.payload
|
||||||
src_ref = payload.get("source_id")
|
src_ref = payload.get("source_id")
|
||||||
tgt_ref = payload.get("target_id")
|
tgt_ref = payload.get("target_id")
|
||||||
kind = payload.get("kind")
|
kind = payload.get("kind")
|
||||||
provenance = payload.get("provenance", "explicit")
|
provenance = payload.get("provenance", "explicit")
|
||||||
|
|
||||||
# IDs zu Notes auflösen
|
if not src_ref or not tgt_ref:
|
||||||
|
return None, None
|
||||||
|
|
||||||
|
# IDs zu Notes auflösen (Hier greift der Fragment-Fix)
|
||||||
src_note = self._resolve_note_from_ref(src_ref)
|
src_note = self._resolve_note_from_ref(src_ref)
|
||||||
tgt_note = self._resolve_note_from_ref(tgt_ref)
|
tgt_note = self._resolve_note_from_ref(tgt_ref)
|
||||||
|
|
||||||
if src_note and tgt_note:
|
if src_note and tgt_note:
|
||||||
src_id = src_note['note_id']
|
src_id = src_note.get('note_id')
|
||||||
tgt_id = tgt_note['note_id']
|
tgt_id = tgt_note.get('note_id')
|
||||||
|
|
||||||
if src_id != tgt_id:
|
if src_id and tgt_id and src_id != tgt_id:
|
||||||
# Nodes hinzufügen
|
# Knoten zum Set hinzufügen
|
||||||
self._add_node_to_dict(nodes_dict, src_note, level=current_depth)
|
self._add_node_to_dict(nodes_dict, src_note, level=current_depth)
|
||||||
self._add_node_to_dict(nodes_dict, tgt_note, level=current_depth)
|
self._add_node_to_dict(nodes_dict, tgt_note, level=current_depth)
|
||||||
|
|
||||||
# Kante hinzufügen (mit Deduplizierung)
|
# Kante registrieren (Deduplizierung)
|
||||||
key = (src_id, tgt_id)
|
key = (src_id, tgt_id)
|
||||||
existing = unique_edges.get(key)
|
existing = unique_edges.get(key)
|
||||||
|
|
||||||
should_update = True
|
|
||||||
# Bevorzuge explizite Kanten vor Smart Kanten
|
|
||||||
is_current_explicit = (provenance in ["explicit", "rule"])
|
is_current_explicit = (provenance in ["explicit", "rule"])
|
||||||
|
should_update = True
|
||||||
|
|
||||||
if existing:
|
if existing:
|
||||||
is_existing_explicit = (existing['provenance'] in ["explicit", "rule"])
|
is_existing_explicit = (existing.get('provenance', '') in ["explicit", "rule"])
|
||||||
if is_existing_explicit and not is_current_explicit:
|
if is_existing_explicit and not is_current_explicit:
|
||||||
should_update = False
|
should_update = False
|
||||||
|
|
||||||
if should_update:
|
if should_update:
|
||||||
unique_edges[key] = {"source": src_id, "target": tgt_id, "kind": kind, "provenance": provenance}
|
unique_edges[key] = {
|
||||||
|
"source": src_id,
|
||||||
|
"target": tgt_id,
|
||||||
|
"kind": kind,
|
||||||
|
"provenance": provenance
|
||||||
|
}
|
||||||
return src_id, tgt_id
|
return src_id, tgt_id
|
||||||
return None, None
|
return None, None
|
||||||
|
|
||||||
def _fetch_note_cached(self, note_id):
|
def _fetch_note_cached(self, note_id):
|
||||||
if note_id in self._note_cache: return self._note_cache[note_id]
|
"""Lädt eine Note aus Qdrant mit Session-Caching."""
|
||||||
res, _ = self.client.scroll(
|
if not note_id:
|
||||||
collection_name=self.notes_col,
|
return None
|
||||||
scroll_filter=models.Filter(must=[models.FieldCondition(key="note_id", match=models.MatchValue(value=note_id))]),
|
if note_id in self._note_cache:
|
||||||
limit=1, with_payload=True
|
return self._note_cache[note_id]
|
||||||
)
|
|
||||||
if res:
|
try:
|
||||||
self._note_cache[note_id] = res[0].payload
|
res, _ = self.client.scroll(
|
||||||
return res[0].payload
|
collection_name=self.notes_col,
|
||||||
|
scroll_filter=models.Filter(must=[
|
||||||
|
models.FieldCondition(key="note_id", match=models.MatchValue(value=note_id))
|
||||||
|
]),
|
||||||
|
limit=1, with_payload=True
|
||||||
|
)
|
||||||
|
if res and res[0].payload:
|
||||||
|
payload = res[0].payload
|
||||||
|
self._note_cache[note_id] = payload
|
||||||
|
return payload
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
return None
|
return None
|
||||||
|
|
||||||
def _resolve_note_from_ref(self, ref_str):
|
def _resolve_note_from_ref(self, ref_str):
|
||||||
"""Löst eine ID (Chunk, Note oder Titel) zu einer Note Payload auf."""
|
"""
|
||||||
if not ref_str: return None
|
Löst eine Referenz (ID, Chunk-ID oder Wikilink mit Anker) auf eine Note auf.
|
||||||
|
Bereinigt Anker (#) vor der Suche.
|
||||||
|
"""
|
||||||
|
if not ref_str:
|
||||||
|
return None
|
||||||
|
|
||||||
# Fall A: Chunk ID (enthält #)
|
if ref_str in self._ref_resolution_cache:
|
||||||
|
return self._ref_resolution_cache[ref_str]
|
||||||
|
|
||||||
|
# Fragment-Behandlung: Trenne Anker ab
|
||||||
|
base_ref = ref_str.split("#")[0].strip()
|
||||||
|
|
||||||
|
# 1. Versuch: Direkte Note-ID Suche
|
||||||
|
note = self._fetch_note_cached(base_ref)
|
||||||
|
if note:
|
||||||
|
self._ref_resolution_cache[ref_str] = note
|
||||||
|
return note
|
||||||
|
|
||||||
|
# 2. Versuch: Titel-Suche (Keyword-Match)
|
||||||
|
try:
|
||||||
|
res, _ = self.client.scroll(
|
||||||
|
collection_name=self.notes_col,
|
||||||
|
scroll_filter=models.Filter(must=[
|
||||||
|
models.FieldCondition(key="title", match=models.MatchValue(value=base_ref))
|
||||||
|
]),
|
||||||
|
limit=1, with_payload=True
|
||||||
|
)
|
||||||
|
if res and res[0].payload:
|
||||||
|
payload = res[0].payload
|
||||||
|
self._ref_resolution_cache[ref_str] = payload
|
||||||
|
return payload
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
|
||||||
|
# 3. Versuch: Auflösung über Chunks
|
||||||
if "#" in ref_str:
|
if "#" in ref_str:
|
||||||
try:
|
try:
|
||||||
# Versuch 1: Chunk ID direkt
|
res_chunk = self.client.retrieve(self.chunks_col, ids=[ref_str], with_payload=True)
|
||||||
res = self.client.retrieve(self.chunks_col, ids=[ref_str], with_payload=True)
|
if res_chunk and res_chunk[0].payload:
|
||||||
if res: return self._fetch_note_cached(res[0].payload.get("note_id"))
|
note_id = res_chunk[0].payload.get("note_id")
|
||||||
except: pass
|
note = self._fetch_note_cached(note_id)
|
||||||
|
if note:
|
||||||
|
self._ref_resolution_cache[ref_str] = note
|
||||||
|
return note
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
|
||||||
# Versuch 2: NoteID#Section (Hash abtrennen)
|
|
||||||
possible_note_id = ref_str.split("#")[0]
|
|
||||||
if self._fetch_note_cached(possible_note_id): return self._fetch_note_cached(possible_note_id)
|
|
||||||
|
|
||||||
# Fall B: Note ID direkt
|
|
||||||
if self._fetch_note_cached(ref_str): return self._fetch_note_cached(ref_str)
|
|
||||||
|
|
||||||
# Fall C: Titel
|
|
||||||
res, _ = self.client.scroll(
|
|
||||||
collection_name=self.notes_col,
|
|
||||||
scroll_filter=models.Filter(must=[models.FieldCondition(key="title", match=models.MatchValue(value=ref_str))]),
|
|
||||||
limit=1, with_payload=True
|
|
||||||
)
|
|
||||||
if res:
|
|
||||||
self._note_cache[res[0].payload['note_id']] = res[0].payload
|
|
||||||
return res[0].payload
|
|
||||||
return None
|
return None
|
||||||
|
|
||||||
def _add_node_to_dict(self, node_dict, note_payload, level=1):
|
def _add_node_to_dict(self, node_dict, note_payload, level=1):
|
||||||
|
"""Erstellt ein Node-Objekt für streamlit-agraph mit Styling."""
|
||||||
nid = note_payload.get("note_id")
|
nid = note_payload.get("note_id")
|
||||||
if nid in node_dict: return
|
if not nid or nid in node_dict:
|
||||||
|
return
|
||||||
|
|
||||||
ntype = note_payload.get("type", "default")
|
ntype = note_payload.get("type", "default")
|
||||||
color = GRAPH_COLORS.get(ntype, GRAPH_COLORS["default"])
|
color = GRAPH_COLORS.get(ntype, GRAPH_COLORS.get("default", "#8395a7"))
|
||||||
|
|
||||||
# Basis-Tooltip (wird später erweitert)
|
|
||||||
tooltip = f"Titel: {note_payload.get('title')}\nTyp: {ntype}"
|
tooltip = f"Titel: {note_payload.get('title')}\nTyp: {ntype}"
|
||||||
|
|
||||||
if level == 0: size = 45
|
size = 45 if level == 0 else (25 if level == 1 else 15)
|
||||||
elif level == 1: size = 25
|
|
||||||
else: size = 15
|
|
||||||
|
|
||||||
node_dict[nid] = Node(
|
node_dict[nid] = Node(
|
||||||
id=nid,
|
id=nid,
|
||||||
label=note_payload.get('title', nid),
|
label=note_payload.get('title', nid),
|
||||||
|
|||||||
+72
-35
@@ -1,10 +1,12 @@
|
|||||||
"""
|
"""
|
||||||
FILE: app/routers/chat.py
|
FILE: app/routers/chat.py
|
||||||
DESCRIPTION: Haupt-Chat-Interface (RAG & Interview). Enthält Intent-Router (Keywords/LLM) und Prompt-Construction.
|
DESCRIPTION: Haupt-Chat-Interface (RAG & Interview). Enthält Intent-Router (Keywords/LLM) und Prompt-Construction.
|
||||||
VERSION: 2.7.0 (WP-22 Semantic Graph Routing)
|
VERSION: 2.7.8 (Full Unabridged Stability Edition)
|
||||||
STATUS: Active
|
STATUS: Active
|
||||||
DEPENDENCIES: app.config, app.models.dto, app.services.llm_service, app.core.retriever, app.services.feedback_service
|
FIX:
|
||||||
EXTERNAL_CONFIG: config/decision_engine.yaml, config/types.yaml
|
1. Implementiert Context-Throttling für Ollama (MAX_OLLAMA_CHARS).
|
||||||
|
2. Deaktiviert LLM-Retries für den Chat (max_retries=0).
|
||||||
|
3. Behebt Double-Fallback-Schleifen und Silent Refusals.
|
||||||
"""
|
"""
|
||||||
|
|
||||||
from fastapi import APIRouter, HTTPException, Depends
|
from fastapi import APIRouter, HTTPException, Depends
|
||||||
@@ -19,7 +21,7 @@ from pathlib import Path
|
|||||||
from app.config import get_settings
|
from app.config import get_settings
|
||||||
from app.models.dto import ChatRequest, ChatResponse, QueryRequest, QueryHit
|
from app.models.dto import ChatRequest, ChatResponse, QueryRequest, QueryHit
|
||||||
from app.services.llm_service import LLMService
|
from app.services.llm_service import LLMService
|
||||||
from app.core.retriever import Retriever
|
from app.core.retrieval.retriever import Retriever
|
||||||
from app.services.feedback_service import log_search
|
from app.services.feedback_service import log_search
|
||||||
|
|
||||||
router = APIRouter()
|
router = APIRouter()
|
||||||
@@ -35,7 +37,7 @@ def _load_decision_config() -> Dict[str, Any]:
|
|||||||
path = Path(settings.DECISION_CONFIG_PATH)
|
path = Path(settings.DECISION_CONFIG_PATH)
|
||||||
default_config = {
|
default_config = {
|
||||||
"strategies": {
|
"strategies": {
|
||||||
"FACT": {"trigger_keywords": []}
|
"FACT": {"trigger_keywords": [], "preferred_provider": "openrouter"}
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
@@ -158,7 +160,7 @@ def _is_question(query: str) -> bool:
|
|||||||
q = query.strip().lower()
|
q = query.strip().lower()
|
||||||
if "?" in q: return True
|
if "?" in q: return True
|
||||||
|
|
||||||
# W-Fragen Indikatoren (falls User das ? vergisst)
|
# W-Fragen Indikatoren
|
||||||
starters = ["wer", "wie", "was", "wo", "wann", "warum", "weshalb", "wozu", "welche", "bist du", "entspricht"]
|
starters = ["wer", "wie", "was", "wo", "wann", "warum", "weshalb", "wozu", "welche", "bist du", "entspricht"]
|
||||||
if any(q.startswith(s + " ") for s in starters):
|
if any(q.startswith(s + " ") for s in starters):
|
||||||
return True
|
return True
|
||||||
@@ -169,7 +171,7 @@ async def _classify_intent(query: str, llm: LLMService) -> tuple[str, str]:
|
|||||||
"""
|
"""
|
||||||
Hybrid Router v5:
|
Hybrid Router v5:
|
||||||
1. Decision Keywords (Strategie) -> Prio 1
|
1. Decision Keywords (Strategie) -> Prio 1
|
||||||
2. Type Keywords (Interview Trigger) -> Prio 2, ABER NUR WENN KEINE FRAGE!
|
2. Type Keywords (Interview Trigger) -> Prio 2
|
||||||
3. LLM (Fallback) -> Prio 3
|
3. LLM (Fallback) -> Prio 3
|
||||||
"""
|
"""
|
||||||
config = get_full_config()
|
config = get_full_config()
|
||||||
@@ -178,7 +180,7 @@ async def _classify_intent(query: str, llm: LLMService) -> tuple[str, str]:
|
|||||||
|
|
||||||
query_lower = query.lower()
|
query_lower = query.lower()
|
||||||
|
|
||||||
# 1. FAST PATH A: Strategie Keywords (z.B. "Soll ich...")
|
# 1. FAST PATH A: Strategie Keywords
|
||||||
for intent_name, strategy in strategies.items():
|
for intent_name, strategy in strategies.items():
|
||||||
if intent_name == "FACT": continue
|
if intent_name == "FACT": continue
|
||||||
keywords = strategy.get("trigger_keywords", [])
|
keywords = strategy.get("trigger_keywords", [])
|
||||||
@@ -186,7 +188,7 @@ async def _classify_intent(query: str, llm: LLMService) -> tuple[str, str]:
|
|||||||
if k.lower() in query_lower:
|
if k.lower() in query_lower:
|
||||||
return intent_name, "Keyword (Strategy)"
|
return intent_name, "Keyword (Strategy)"
|
||||||
|
|
||||||
# 2. FAST PATH B: Type Keywords (z.B. "Projekt", "Werte") -> INTERVIEW
|
# 2. FAST PATH B: Type Keywords -> INTERVIEW
|
||||||
if not _is_question(query_lower):
|
if not _is_question(query_lower):
|
||||||
types_cfg = get_types_config()
|
types_cfg = get_types_config()
|
||||||
types_def = types_cfg.get("types", {})
|
types_def = types_cfg.get("types", {})
|
||||||
@@ -199,14 +201,15 @@ async def _classify_intent(query: str, llm: LLMService) -> tuple[str, str]:
|
|||||||
|
|
||||||
# 3. SLOW PATH: LLM Router
|
# 3. SLOW PATH: LLM Router
|
||||||
if settings.get("llm_fallback_enabled", False):
|
if settings.get("llm_fallback_enabled", False):
|
||||||
router_prompt_template = llm.prompts.get("router_prompt", "")
|
router_prompt_template = llm.get_prompt("llm_router_prompt")
|
||||||
|
|
||||||
if router_prompt_template:
|
if router_prompt_template:
|
||||||
prompt = router_prompt_template.replace("{query}", query)
|
prompt = router_prompt_template.replace("{query}", query)
|
||||||
logger.info("Keywords failed (or Question detected). Asking LLM for Intent...")
|
logger.info("Keywords failed (or Question detected). Asking LLM for Intent...")
|
||||||
|
|
||||||
try:
|
try:
|
||||||
raw_response = await llm.generate_raw_response(prompt, priority="realtime")
|
# FIX: Auch beim Routing keine Retries im Chat-Fluss
|
||||||
|
raw_response = await llm.generate_raw_response(prompt, priority="realtime", max_retries=0)
|
||||||
llm_output_upper = raw_response.upper()
|
llm_output_upper = raw_response.upper()
|
||||||
|
|
||||||
if "INTERVIEW" in llm_output_upper or "CREATE" in llm_output_upper:
|
if "INTERVIEW" in llm_output_upper or "CREATE" in llm_output_upper:
|
||||||
@@ -239,9 +242,11 @@ async def chat_endpoint(
|
|||||||
# Strategy Load
|
# Strategy Load
|
||||||
strategy = get_decision_strategy(intent)
|
strategy = get_decision_strategy(intent)
|
||||||
prompt_key = strategy.get("prompt_template", "rag_template")
|
prompt_key = strategy.get("prompt_template", "rag_template")
|
||||||
|
preferred_provider = strategy.get("preferred_provider")
|
||||||
|
|
||||||
sources_hits = []
|
sources_hits = []
|
||||||
final_prompt = ""
|
final_prompt = ""
|
||||||
|
context_str = ""
|
||||||
|
|
||||||
if intent == "INTERVIEW":
|
if intent == "INTERVIEW":
|
||||||
# --- INTERVIEW MODE ---
|
# --- INTERVIEW MODE ---
|
||||||
@@ -262,7 +267,7 @@ async def chat_endpoint(
|
|||||||
logger.info(f"[{query_id}] Interview Type: {target_type}. Fields: {len(fields_list)}")
|
logger.info(f"[{query_id}] Interview Type: {target_type}. Fields: {len(fields_list)}")
|
||||||
fields_str = "\n- " + "\n- ".join(fields_list)
|
fields_str = "\n- " + "\n- ".join(fields_list)
|
||||||
|
|
||||||
template = llm.prompts.get(prompt_key, "")
|
template = llm.get_prompt(prompt_key)
|
||||||
final_prompt = template.replace("{context_str}", "Dialogverlauf...") \
|
final_prompt = template.replace("{context_str}", "Dialogverlauf...") \
|
||||||
.replace("{query}", request.message) \
|
.replace("{query}", request.message) \
|
||||||
.replace("{target_type}", target_type) \
|
.replace("{target_type}", target_type) \
|
||||||
@@ -271,22 +276,16 @@ async def chat_endpoint(
|
|||||||
sources_hits = []
|
sources_hits = []
|
||||||
|
|
||||||
else:
|
else:
|
||||||
# --- RAG MODE ---
|
# --- RAG MODE (FACT, DECISION, EMPATHY, CODING) ---
|
||||||
inject_types = strategy.get("inject_types", [])
|
inject_types = strategy.get("inject_types", [])
|
||||||
prepend_instr = strategy.get("prepend_instruction", "")
|
prepend_instr = strategy.get("prepend_instruction", "")
|
||||||
|
|
||||||
# --- WP-22: Semantic Graph Routing (Teil C) ---
|
|
||||||
# Wir laden die konfigurierten Edge-Boosts für diesen Intent
|
|
||||||
edge_boosts = strategy.get("edge_boosts", {})
|
edge_boosts = strategy.get("edge_boosts", {})
|
||||||
if edge_boosts:
|
|
||||||
logger.info(f"[{query_id}] Applying Edge Boosts: {edge_boosts}")
|
|
||||||
|
|
||||||
query_req = QueryRequest(
|
query_req = QueryRequest(
|
||||||
query=request.message,
|
query=request.message,
|
||||||
mode="hybrid",
|
mode="hybrid",
|
||||||
top_k=request.top_k,
|
top_k=request.top_k,
|
||||||
explain=request.explain,
|
explain=request.explain,
|
||||||
# WP-22: Boosts an den Retriever weitergeben
|
|
||||||
boost_edges=edge_boosts
|
boost_edges=edge_boosts
|
||||||
)
|
)
|
||||||
retrieve_result = await retriever.search(query_req)
|
retrieve_result = await retriever.search(query_req)
|
||||||
@@ -299,7 +298,6 @@ async def chat_endpoint(
|
|||||||
top_k=3,
|
top_k=3,
|
||||||
filters={"type": inject_types},
|
filters={"type": inject_types},
|
||||||
explain=False,
|
explain=False,
|
||||||
# WP-22: Boosts auch hier anwenden (Konsistenz)
|
|
||||||
boost_edges=edge_boosts
|
boost_edges=edge_boosts
|
||||||
)
|
)
|
||||||
strategy_result = await retriever.search(strategy_req)
|
strategy_result = await retriever.search(strategy_req)
|
||||||
@@ -308,12 +306,19 @@ async def chat_endpoint(
|
|||||||
if strat_hit.node_id not in existing_ids:
|
if strat_hit.node_id not in existing_ids:
|
||||||
hits.append(strat_hit)
|
hits.append(strat_hit)
|
||||||
|
|
||||||
if not hits:
|
context_str = _build_enriched_context(hits) if hits else "Keine relevanten Notizen gefunden."
|
||||||
context_str = "Keine relevanten Notizen gefunden."
|
|
||||||
else:
|
|
||||||
context_str = _build_enriched_context(hits)
|
|
||||||
|
|
||||||
template = llm.prompts.get(prompt_key, "{context_str}\n\n{query}")
|
# --- STABILITY FIX: OLLAMA CONTEXT THROTTLE ---
|
||||||
|
# Begrenzt den Text, um den "decode: cannot decode batches" Fehler zu vermeiden.
|
||||||
|
# MAX_OLLAMA_CHARS = 10000
|
||||||
|
|
||||||
|
settings = get_settings() # Falls noch nicht im Scope vorhanden
|
||||||
|
max_chars = getattr(settings, "MAX_OLLAMA_CHARS", 10000)
|
||||||
|
if preferred_provider == "ollama" and len(context_str) > max_chars:
|
||||||
|
logger.warning(f"⚠️ [{query_id}] Context zu groß für Ollama ({len(context_str)} chars). Kürze auf {max_chars}.")
|
||||||
|
context_str = context_str[:max_chars] + "\n[...gekürzt zur Stabilität...]"
|
||||||
|
|
||||||
|
template = llm.get_prompt(prompt_key) or "{context_str}\n\n{query}"
|
||||||
|
|
||||||
if prepend_instr:
|
if prepend_instr:
|
||||||
context_str = f"{prepend_instr}\n\n{context_str}"
|
context_str = f"{prepend_instr}\n\n{context_str}"
|
||||||
@@ -321,15 +326,46 @@ async def chat_endpoint(
|
|||||||
final_prompt = template.replace("{context_str}", context_str).replace("{query}", request.message)
|
final_prompt = template.replace("{context_str}", context_str).replace("{query}", request.message)
|
||||||
sources_hits = hits
|
sources_hits = hits
|
||||||
|
|
||||||
# --- GENERATION ---
|
# --- DEBUG SPOT 1: PROMPT CONSTRUCTION ---
|
||||||
system_prompt = llm.prompts.get("system_prompt", "")
|
logger.info(f"[{query_id}] PROMPT CONSTRUCTION COMPLETE. Length: {len(final_prompt)} chars.")
|
||||||
|
if not final_prompt.strip():
|
||||||
|
logger.error(f"[{query_id}] CRITICAL: Final prompt is empty before sending to LLM!")
|
||||||
|
|
||||||
# Chat nutzt IMMER realtime priority
|
# --- GENERATION WITH NO-RETRY & DEEP FALLBACK ---
|
||||||
answer_text = await llm.generate_raw_response(
|
system_prompt = llm.get_prompt("system_prompt")
|
||||||
prompt=final_prompt,
|
|
||||||
system=system_prompt,
|
# --- DEBUG SPOT 2: PRIMARY CALL ---
|
||||||
priority="realtime"
|
logger.info(f"[{query_id}] PRIMARY CALL: Sending request to provider '{preferred_provider}' (No Retries)...")
|
||||||
)
|
|
||||||
|
answer_text = ""
|
||||||
|
try:
|
||||||
|
# FIX: max_retries=0 verhindert Hänger durch Retry-Kaskaden im Chat
|
||||||
|
answer_text = await llm.generate_raw_response(
|
||||||
|
prompt=final_prompt,
|
||||||
|
system=system_prompt,
|
||||||
|
priority="realtime",
|
||||||
|
provider=preferred_provider,
|
||||||
|
max_retries=0
|
||||||
|
)
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"🛑 [{query_id}] Primary Provider '{preferred_provider}' failed: {e}")
|
||||||
|
|
||||||
|
# DEEP FALLBACK: Wenn die Antwort leer ist (Silent Refusal) oder der Primary abgestürzt ist
|
||||||
|
if not answer_text.strip() and preferred_provider != "ollama":
|
||||||
|
# --- DEBUG SPOT 3: FALLBACK TRIGGER ---
|
||||||
|
logger.warning(f"🛑 [{query_id}] PRIMARY '{preferred_provider}' returned EMPTY or FAILED. Triggering Deep Fallback to Ollama...")
|
||||||
|
|
||||||
|
try:
|
||||||
|
answer_text = await llm.generate_raw_response(
|
||||||
|
prompt=final_prompt,
|
||||||
|
system=system_prompt,
|
||||||
|
priority="realtime",
|
||||||
|
provider="ollama",
|
||||||
|
max_retries=0
|
||||||
|
)
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"🛑 [{query_id}] Deep Fallback to Ollama also failed: {e}")
|
||||||
|
answer_text = "Entschuldigung, das System ist aktuell überlastet. Bitte versuche es in einem Moment erneut."
|
||||||
|
|
||||||
duration_ms = int((time.time() - start_time) * 1000)
|
duration_ms = int((time.time() - start_time) * 1000)
|
||||||
|
|
||||||
@@ -340,7 +376,7 @@ async def chat_endpoint(
|
|||||||
query_text=request.message,
|
query_text=request.message,
|
||||||
results=sources_hits,
|
results=sources_hits,
|
||||||
mode="interview" if intent == "INTERVIEW" else "chat_rag",
|
mode="interview" if intent == "INTERVIEW" else "chat_rag",
|
||||||
metadata={"intent": intent, "source": intent_source}
|
metadata={"intent": intent, "source": intent_source, "provider": preferred_provider}
|
||||||
)
|
)
|
||||||
except: pass
|
except: pass
|
||||||
|
|
||||||
@@ -355,4 +391,5 @@ async def chat_endpoint(
|
|||||||
|
|
||||||
except Exception as e:
|
except Exception as e:
|
||||||
logger.error(f"Error in chat endpoint: {e}", exc_info=True)
|
logger.error(f"Error in chat endpoint: {e}", exc_info=True)
|
||||||
raise HTTPException(status_code=500, detail=str(e))
|
# Wir geben eine benutzerfreundliche Meldung zurück, statt nur den Error-Stack
|
||||||
|
raise HTTPException(status_code=500, detail="Das System konnte die Anfrage nicht verarbeiten.")
|
||||||
@@ -12,7 +12,7 @@ from typing import List, Optional
|
|||||||
from fastapi import APIRouter, Query
|
from fastapi import APIRouter, Query
|
||||||
from qdrant_client import QdrantClient
|
from qdrant_client import QdrantClient
|
||||||
from app.models.dto import GraphResponse, NodeDTO, EdgeDTO
|
from app.models.dto import GraphResponse, NodeDTO, EdgeDTO
|
||||||
from app.core.graph_adapter import expand
|
from app.core.graph.graph_subgraph import expand
|
||||||
from app.config import get_settings
|
from app.config import get_settings
|
||||||
|
|
||||||
router = APIRouter()
|
router = APIRouter()
|
||||||
|
|||||||
+10
-6
@@ -1,8 +1,9 @@
|
|||||||
"""
|
"""
|
||||||
FILE: app/routers/ingest.py
|
FILE: app/routers/ingest.py
|
||||||
DESCRIPTION: Endpunkte für WP-11. Nimmt Markdown entgegen.
|
DESCRIPTION: Endpunkte für WP-11. Nimmt Markdown entgegen.
|
||||||
Refactored für WP-14: Nutzt BackgroundTasks für non-blocking Save.
|
Refactored für WP-14: Nutzt BackgroundTasks für non-blocking Save.
|
||||||
VERSION: 0.7.0 (Fix: Timeout WP-14)
|
Update WP-20: Unterstützung für Hybrid-Cloud-Analyse Feedback.
|
||||||
|
VERSION: 0.8.0 (WP-20 Hybrid Ready)
|
||||||
STATUS: Active
|
STATUS: Active
|
||||||
DEPENDENCIES: app.core.ingestion, app.services.discovery, fastapi, pydantic
|
DEPENDENCIES: app.core.ingestion, app.services.discovery, fastapi, pydantic
|
||||||
"""
|
"""
|
||||||
@@ -44,6 +45,7 @@ class SaveResponse(BaseModel):
|
|||||||
async def run_ingestion_task(markdown_content: str, filename: str, vault_root: str, folder: str):
|
async def run_ingestion_task(markdown_content: str, filename: str, vault_root: str, folder: str):
|
||||||
"""
|
"""
|
||||||
Führt die Ingestion im Hintergrund aus, damit der Request nicht blockiert.
|
Führt die Ingestion im Hintergrund aus, damit der Request nicht blockiert.
|
||||||
|
Integrierter WP-20 Hybrid-Modus über den IngestionService.
|
||||||
"""
|
"""
|
||||||
logger.info(f"🔄 Background Task started: Ingesting {filename}...")
|
logger.info(f"🔄 Background Task started: Ingesting {filename}...")
|
||||||
try:
|
try:
|
||||||
@@ -80,15 +82,17 @@ async def analyze_draft(req: AnalyzeRequest):
|
|||||||
async def save_note(req: SaveRequest, background_tasks: BackgroundTasks):
|
async def save_note(req: SaveRequest, background_tasks: BackgroundTasks):
|
||||||
"""
|
"""
|
||||||
WP-14 Fix: Startet Ingestion im Hintergrund (Fire & Forget).
|
WP-14 Fix: Startet Ingestion im Hintergrund (Fire & Forget).
|
||||||
Verhindert Timeouts bei aktiver Smart-Edge-Allocation (WP-15).
|
Verhindert Timeouts bei aktiver Smart-Edge-Allocation (WP-15) und Cloud-Hybrid-Modus (WP-20).
|
||||||
"""
|
"""
|
||||||
try:
|
try:
|
||||||
vault_root = os.getenv("MINDNET_VAULT_ROOT", "./vault")
|
vault_root = os.getenv("MINDNET_VAULT_ROOT", "./vault")
|
||||||
abs_vault_root = os.path.abspath(vault_root)
|
abs_vault_root = os.path.abspath(vault_root)
|
||||||
|
|
||||||
if not os.path.exists(abs_vault_root):
|
if not os.path.exists(abs_vault_root):
|
||||||
try: os.makedirs(abs_vault_root, exist_ok=True)
|
try:
|
||||||
except: pass
|
os.makedirs(abs_vault_root, exist_ok=True)
|
||||||
|
except Exception as e:
|
||||||
|
logger.warning(f"Could not create vault root: {e}")
|
||||||
|
|
||||||
final_filename = req.filename or f"draft_{int(time.time())}.md"
|
final_filename = req.filename or f"draft_{int(time.time())}.md"
|
||||||
|
|
||||||
@@ -109,7 +113,7 @@ async def save_note(req: SaveRequest, background_tasks: BackgroundTasks):
|
|||||||
status="queued",
|
status="queued",
|
||||||
file_path=os.path.join(req.folder, final_filename),
|
file_path=os.path.join(req.folder, final_filename),
|
||||||
note_id="pending",
|
note_id="pending",
|
||||||
message="Speicherung & KI-Analyse im Hintergrund gestartet.",
|
message="Speicherung & Hybrid-KI-Analyse (WP-20) im Hintergrund gestartet.",
|
||||||
stats={
|
stats={
|
||||||
"chunks": -1, # Indikator für Async
|
"chunks": -1, # Indikator für Async
|
||||||
"edges": -1
|
"edges": -1
|
||||||
|
|||||||
@@ -10,7 +10,7 @@ LAST_ANALYSIS: 2025-12-15
|
|||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
from fastapi import APIRouter, HTTPException, BackgroundTasks
|
from fastapi import APIRouter, HTTPException, BackgroundTasks
|
||||||
from app.models.dto import QueryRequest, QueryResponse
|
from app.models.dto import QueryRequest, QueryResponse
|
||||||
from app.core.retriever import hybrid_retrieve, semantic_retrieve
|
from app.core.retrieval.retriever import hybrid_retrieve, semantic_retrieve
|
||||||
# NEU:
|
# NEU:
|
||||||
from app.services.feedback_service import log_search
|
from app.services.feedback_service import log_search
|
||||||
|
|
||||||
|
|||||||
@@ -13,9 +13,9 @@ import os
|
|||||||
from typing import List, Dict, Any, Optional, Set
|
from typing import List, Dict, Any, Optional, Set
|
||||||
import yaml
|
import yaml
|
||||||
|
|
||||||
from app.core.qdrant import QdrantConfig, get_client
|
from app.core.database.qdrant import QdrantConfig, get_client
|
||||||
from app.models.dto import QueryRequest
|
from app.models.dto import QueryRequest
|
||||||
from app.core.retriever import hybrid_retrieve
|
from app.core.retrieval.retriever import hybrid_retrieve
|
||||||
|
|
||||||
logger = logging.getLogger(__name__)
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
|
|||||||
@@ -1,23 +1,34 @@
|
|||||||
"""
|
"""
|
||||||
FILE: app/services/edge_registry.py
|
FILE: app/services/edge_registry.py
|
||||||
DESCRIPTION: Single Source of Truth für Kanten-Typen.
|
DESCRIPTION: Single Source of Truth für Kanten-Typen mit dynamischem Reload.
|
||||||
FIX: Regex angepasst auf Format **`canonical`** (Bold + Backticks).
|
WP-15b: Erweiterte Provenance-Prüfung für die Candidate-Validation.
|
||||||
VERSION: 0.6.10 (Regex Precision Update)
|
Sichert die Graph-Integrität durch strikte Trennung von System- und Inhaltskanten.
|
||||||
|
WP-22: Fix für absolute Pfade außerhalb des Vaults (Prod-Dictionary).
|
||||||
|
WP-20: Synchronisation mit zentralen Settings (v0.6.2).
|
||||||
|
VERSION: 0.8.0
|
||||||
|
STATUS: Active
|
||||||
|
DEPENDENCIES: re, os, json, logging, time, app.config
|
||||||
|
LAST_ANALYSIS: 2025-12-26
|
||||||
"""
|
"""
|
||||||
import re
|
import re
|
||||||
import os
|
import os
|
||||||
import json
|
import json
|
||||||
import logging
|
import logging
|
||||||
from typing import Dict, Optional, Set
|
import time
|
||||||
|
from typing import Dict, Optional, Set, Tuple
|
||||||
print(">>> MODULE_LOAD: edge_registry.py initialized <<<", flush=True)
|
|
||||||
|
|
||||||
from app.config import get_settings
|
from app.config import get_settings
|
||||||
|
|
||||||
logger = logging.getLogger(__name__)
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
class EdgeRegistry:
|
class EdgeRegistry:
|
||||||
|
"""
|
||||||
|
Zentraler Verwalter für das Kanten-Vokabular.
|
||||||
|
Implementiert das Singleton-Pattern für konsistente Validierung über alle Services.
|
||||||
|
"""
|
||||||
_instance = None
|
_instance = None
|
||||||
|
# System-Kanten, die nicht durch User oder KI gesetzt werden dürfen
|
||||||
|
FORBIDDEN_SYSTEM_EDGES = {"next", "prev", "belongs_to"}
|
||||||
|
|
||||||
def __new__(cls, *args, **kwargs):
|
def __new__(cls, *args, **kwargs):
|
||||||
if cls._instance is None:
|
if cls._instance is None:
|
||||||
@@ -25,39 +36,52 @@ class EdgeRegistry:
|
|||||||
cls._instance.initialized = False
|
cls._instance.initialized = False
|
||||||
return cls._instance
|
return cls._instance
|
||||||
|
|
||||||
def __init__(self, vault_root: Optional[str] = None):
|
def __init__(self):
|
||||||
if self.initialized:
|
if self.initialized:
|
||||||
return
|
return
|
||||||
|
|
||||||
settings = get_settings()
|
settings = get_settings()
|
||||||
env_vocab_path = os.getenv("MINDNET_VOCAB_PATH")
|
|
||||||
env_vault_root = os.getenv("MINDNET_VAULT_ROOT") or getattr(settings, "MINDNET_VAULT_ROOT", "./vault")
|
|
||||||
|
|
||||||
if env_vocab_path:
|
# 1. Pfad aus den zentralen Settings laden (WP-20 Synchronisation)
|
||||||
self.full_vocab_path = os.path.abspath(env_vocab_path)
|
# Priorisiert den Pfad aus der .env / config.py (v0.6.2)
|
||||||
else:
|
self.full_vocab_path = os.path.abspath(settings.MINDNET_VOCAB_PATH)
|
||||||
self.full_vocab_path = os.path.abspath(
|
|
||||||
os.path.join(env_vault_root, "01_User_Manual", "01_edge_vocabulary.md")
|
|
||||||
)
|
|
||||||
|
|
||||||
self.unknown_log_path = "data/logs/unknown_edges.jsonl"
|
self.unknown_log_path = "data/logs/unknown_edges.jsonl"
|
||||||
self.canonical_map: Dict[str, str] = {}
|
self.canonical_map: Dict[str, str] = {}
|
||||||
self.valid_types: Set[str] = set()
|
self.valid_types: Set[str] = set()
|
||||||
|
self._last_mtime = 0.0
|
||||||
|
|
||||||
self._load_vocabulary()
|
# Initialer Ladevorgang
|
||||||
|
logger.info(f">>> [EDGE-REGISTRY] Initializing with Path: {self.full_vocab_path}")
|
||||||
|
self.ensure_latest()
|
||||||
self.initialized = True
|
self.initialized = True
|
||||||
|
|
||||||
def _load_vocabulary(self):
|
def ensure_latest(self):
|
||||||
"""Parst die Markdown-Tabelle im Vault."""
|
"""
|
||||||
print(f">>> CHECK: Loading Vocabulary from {self.full_vocab_path}", flush=True)
|
Prüft den Zeitstempel der Vokabular-Datei und lädt bei Bedarf neu.
|
||||||
|
Verhindert Inkonsistenzen bei Laufzeit-Updates des Dictionaries.
|
||||||
|
"""
|
||||||
if not os.path.exists(self.full_vocab_path):
|
if not os.path.exists(self.full_vocab_path):
|
||||||
print(f"!!! [DICT-ERROR] File not found: {self.full_vocab_path} !!!", flush=True)
|
logger.error(f"!!! [EDGE-REGISTRY ERROR] File not found: {self.full_vocab_path} !!!")
|
||||||
return
|
return
|
||||||
|
|
||||||
# WP-22 Precision Regex:
|
try:
|
||||||
# Sucht nach | **`typ`** | oder | **typ** |
|
current_mtime = os.path.getmtime(self.full_vocab_path)
|
||||||
# Die Backticks `? sind jetzt optional enthalten.
|
if current_mtime > self._last_mtime:
|
||||||
|
self._load_vocabulary()
|
||||||
|
self._last_mtime = current_mtime
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"!!! [EDGE-REGISTRY] Error checking file time: {e}")
|
||||||
|
|
||||||
|
def _load_vocabulary(self):
|
||||||
|
"""
|
||||||
|
Parst das Markdown-Wörterbuch und baut die Canonical-Map auf.
|
||||||
|
Erkennt Tabellen-Strukturen und extrahiert fettgedruckte System-Typen.
|
||||||
|
"""
|
||||||
|
self.canonical_map.clear()
|
||||||
|
self.valid_types.clear()
|
||||||
|
|
||||||
|
# Regex für Tabellen-Struktur: | **Typ** | Aliase |
|
||||||
pattern = re.compile(r"\|\s*\*\*`?([a-zA-Z0-9_-]+)`?\*\*\s*\|\s*([^|]+)\|")
|
pattern = re.compile(r"\|\s*\*\*`?([a-zA-Z0-9_-]+)`?\*\*\s*\|\s*([^|]+)\|")
|
||||||
|
|
||||||
try:
|
try:
|
||||||
@@ -74,38 +98,68 @@ class EdgeRegistry:
|
|||||||
c_types += 1
|
c_types += 1
|
||||||
|
|
||||||
if aliases_str and "Kein Alias" not in aliases_str:
|
if aliases_str and "Kein Alias" not in aliases_str:
|
||||||
# Aliase säubern (entfernt Backticks auch hier)
|
|
||||||
aliases = [a.strip() for a in aliases_str.split(",") if a.strip()]
|
aliases = [a.strip() for a in aliases_str.split(",") if a.strip()]
|
||||||
for alias in aliases:
|
for alias in aliases:
|
||||||
|
# Normalisierung: Kleinschreibung, Underscores statt Leerzeichen
|
||||||
clean_alias = alias.replace("`", "").lower().strip().replace(" ", "_")
|
clean_alias = alias.replace("`", "").lower().strip().replace(" ", "_")
|
||||||
self.canonical_map[clean_alias] = canonical
|
self.canonical_map[clean_alias] = canonical
|
||||||
c_aliases += 1
|
c_aliases += 1
|
||||||
|
|
||||||
if c_types == 0:
|
logger.info(f"=== [EDGE-REGISTRY SUCCESS] Loaded {c_types} Canonical Types and {c_aliases} Aliases ===")
|
||||||
print("!!! [DICT-WARN] Pattern mismatch! Ensure types are **`canonical`** or **canonical**. !!!", flush=True)
|
|
||||||
else:
|
|
||||||
print(f"=== [DICT-SUCCESS] Registered {c_types} Canonical Types and {c_aliases} Aliases ===", flush=True)
|
|
||||||
|
|
||||||
except Exception as e:
|
except Exception as e:
|
||||||
print(f"!!! [DICT-FATAL] Error reading file: {e} !!!", flush=True)
|
logger.error(f"!!! [EDGE-REGISTRY FATAL] Error reading file: {e} !!!")
|
||||||
|
|
||||||
def resolve(self, edge_type: str) -> str:
|
def resolve(self, edge_type: str, provenance: str = "explicit", context: dict = None) -> str:
|
||||||
"""Normalisiert Kanten-Typen via Registry oder loggt Unbekannte."""
|
"""
|
||||||
if not edge_type: return "related_to"
|
WP-15b: Validiert einen Kanten-Typ gegen das Vokabular und prüft Berechtigungen.
|
||||||
|
Sichert, dass nur strukturelle Prozesse System-Kanten setzen dürfen.
|
||||||
|
"""
|
||||||
|
self.ensure_latest()
|
||||||
|
if not edge_type:
|
||||||
|
return "related_to"
|
||||||
|
|
||||||
|
# Normalisierung des Typs
|
||||||
clean_type = edge_type.lower().strip().replace(" ", "_").replace("-", "_")
|
clean_type = edge_type.lower().strip().replace(" ", "_").replace("-", "_")
|
||||||
|
ctx = context or {}
|
||||||
|
|
||||||
|
# WP-15b: System-Kanten dürfen weder manuell noch durch KI/Vererbung gesetzt werden.
|
||||||
|
# Nur Provenienz 'structure' (interne Prozesse) ist autorisiert.
|
||||||
|
# Wir blockieren hier alle Provenienzen außer 'structure'.
|
||||||
|
restricted_provenance = ["explicit", "semantic_ai", "inherited", "global_pool", "rule"]
|
||||||
|
if provenance in restricted_provenance and clean_type in self.FORBIDDEN_SYSTEM_EDGES:
|
||||||
|
self._log_issue(clean_type, f"forbidden_usage_by_{provenance}", ctx)
|
||||||
|
return "related_to"
|
||||||
|
|
||||||
|
# System-Kanten sind NUR bei struktureller Provenienz erlaubt
|
||||||
|
if provenance == "structure" and clean_type in self.FORBIDDEN_SYSTEM_EDGES:
|
||||||
|
return clean_type
|
||||||
|
|
||||||
|
# Mapping auf kanonischen Namen (Alias-Auflösung)
|
||||||
if clean_type in self.canonical_map:
|
if clean_type in self.canonical_map:
|
||||||
return self.canonical_map[clean_type]
|
return self.canonical_map[clean_type]
|
||||||
|
|
||||||
self._log_unknown(clean_type)
|
# Fallback und Logging unbekannter Typen für Admin-Review
|
||||||
|
self._log_issue(clean_type, "unknown_type", ctx)
|
||||||
return clean_type
|
return clean_type
|
||||||
|
|
||||||
def _log_unknown(self, edge_type: str):
|
def _log_issue(self, edge_type: str, error_kind: str, ctx: dict):
|
||||||
|
"""Detailliertes JSONL-Logging für die Vokabular-Optimierung."""
|
||||||
try:
|
try:
|
||||||
os.makedirs(os.path.dirname(self.unknown_log_path), exist_ok=True)
|
os.makedirs(os.path.dirname(self.unknown_log_path), exist_ok=True)
|
||||||
entry = {"unknown_type": edge_type, "status": "new"}
|
entry = {
|
||||||
|
"timestamp": time.strftime("%Y-%m-%d %H:%M:%S"),
|
||||||
|
"edge_type": edge_type,
|
||||||
|
"error": error_kind,
|
||||||
|
"file": ctx.get("file", "unknown"),
|
||||||
|
"line": ctx.get("line", "unknown"),
|
||||||
|
"note_id": ctx.get("note_id", "unknown"),
|
||||||
|
"provenance": ctx.get("provenance", "unknown")
|
||||||
|
}
|
||||||
with open(self.unknown_log_path, "a", encoding="utf-8") as f:
|
with open(self.unknown_log_path, "a", encoding="utf-8") as f:
|
||||||
f.write(json.dumps(entry) + "\n")
|
f.write(json.dumps(entry) + "\n")
|
||||||
except Exception: pass
|
except Exception:
|
||||||
|
pass
|
||||||
|
|
||||||
|
# Singleton Export für systemweiten Zugriff
|
||||||
registry = EdgeRegistry()
|
registry = EdgeRegistry()
|
||||||
+240
-70
@@ -1,147 +1,317 @@
|
|||||||
"""
|
"""
|
||||||
FILE: app/services/llm_service.py
|
FILE: app/services/llm_service.py
|
||||||
DESCRIPTION: Asynchroner Client für Ollama. Verwaltet Prompts und Background-Last (Semaphore).
|
DESCRIPTION: Hybrid-Client für Ollama, Google GenAI (Gemini) und OpenRouter.
|
||||||
VERSION: 2.8.0
|
Verwaltet provider-spezifische Prompts und Background-Last.
|
||||||
|
WP-20: Optimiertes Fallback-Management zum Schutz von Cloud-Quoten.
|
||||||
|
WP-20 Fix: Bulletproof Prompt-Auflösung für format() Aufrufe.
|
||||||
|
WP-22/JSON: Optionales JSON-Schema + strict (für OpenRouter structured outputs).
|
||||||
|
FIX: Intelligente Rate-Limit Erkennung (429 Handling), v1-API Sync & Timeouts.
|
||||||
|
VERSION: 3.3.9
|
||||||
STATUS: Active
|
STATUS: Active
|
||||||
DEPENDENCIES: httpx, yaml, asyncio, app.config
|
FIX:
|
||||||
EXTERNAL_CONFIG: config/prompts.yaml
|
- Importiert clean_llm_text von app.core.registry zur Vermeidung von Circular Imports.
|
||||||
LAST_ANALYSIS: 2025-12-15
|
- Wendet clean_llm_text auf Text-Antworten in generate_raw_response an.
|
||||||
"""
|
"""
|
||||||
|
|
||||||
import httpx
|
import httpx
|
||||||
import yaml
|
import yaml
|
||||||
import logging
|
import logging
|
||||||
import os
|
|
||||||
import asyncio
|
import asyncio
|
||||||
|
import json
|
||||||
|
from google import genai
|
||||||
|
from google.genai import types
|
||||||
|
from openai import AsyncOpenAI # Für OpenRouter (OpenAI-kompatibel)
|
||||||
from pathlib import Path
|
from pathlib import Path
|
||||||
from typing import Optional, Dict, Any, Literal
|
from typing import Optional, Dict, Any, Literal
|
||||||
|
from app.config import get_settings
|
||||||
|
|
||||||
|
# ENTSCHEIDENDER FIX: Import der neutralen Bereinigungs-Logik (WP-14)
|
||||||
|
from app.core.registry import clean_llm_text
|
||||||
|
|
||||||
logger = logging.getLogger(__name__)
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
class Settings:
|
|
||||||
OLLAMA_URL = os.getenv("MINDNET_OLLAMA_URL", "http://127.0.0.1:11434")
|
|
||||||
LLM_TIMEOUT = float(os.getenv("MINDNET_LLM_TIMEOUT", 300.0))
|
|
||||||
LLM_MODEL = os.getenv("MINDNET_LLM_MODEL", "phi3:mini")
|
|
||||||
PROMPTS_PATH = os.getenv("MINDNET_PROMPTS_PATH", "./config/prompts.yaml")
|
|
||||||
|
|
||||||
# NEU: Konfigurierbares Limit für Hintergrund-Last
|
|
||||||
# Default auf 2 (konservativ), kann in .env erhöht werden.
|
|
||||||
BACKGROUND_LIMIT = int(os.getenv("MINDNET_LLM_BACKGROUND_LIMIT", "2"))
|
|
||||||
|
|
||||||
def get_settings():
|
|
||||||
return Settings()
|
|
||||||
|
|
||||||
class LLMService:
|
class LLMService:
|
||||||
# GLOBALER SEMAPHOR (Lazy Initialization)
|
# GLOBALER SEMAPHOR für Hintergrund-Last Steuerung (WP-06)
|
||||||
# Wir initialisieren ihn erst, wenn wir die Settings kennen.
|
|
||||||
_background_semaphore = None
|
_background_semaphore = None
|
||||||
|
|
||||||
def __init__(self):
|
def __init__(self):
|
||||||
self.settings = get_settings()
|
self.settings = get_settings()
|
||||||
self.prompts = self._load_prompts()
|
self.prompts = self._load_prompts()
|
||||||
|
|
||||||
# Initialisiere Semaphore einmalig auf Klassen-Ebene basierend auf Config
|
# Initialisiere Semaphore einmalig auf Klassen-Ebene
|
||||||
if LLMService._background_semaphore is None:
|
if LLMService._background_semaphore is None:
|
||||||
limit = self.settings.BACKGROUND_LIMIT
|
limit = getattr(self.settings, "BACKGROUND_LIMIT", 2)
|
||||||
logger.info(f"🚦 LLMService: Initializing Background Semaphore with limit: {limit}")
|
logger.info(f"🚦 LLMService: Initializing Background Semaphore with limit: {limit}")
|
||||||
LLMService._background_semaphore = asyncio.Semaphore(limit)
|
LLMService._background_semaphore = asyncio.Semaphore(limit)
|
||||||
|
|
||||||
self.timeout = httpx.Timeout(self.settings.LLM_TIMEOUT, connect=10.0)
|
# 1. Lokaler Ollama Client
|
||||||
|
self.ollama_client = httpx.AsyncClient(
|
||||||
self.client = httpx.AsyncClient(
|
|
||||||
base_url=self.settings.OLLAMA_URL,
|
base_url=self.settings.OLLAMA_URL,
|
||||||
timeout=self.timeout
|
timeout=httpx.Timeout(self.settings.LLM_TIMEOUT)
|
||||||
)
|
)
|
||||||
|
|
||||||
|
# 2. Google GenAI Client (Modern SDK)
|
||||||
|
self.google_client = None
|
||||||
|
if self.settings.GOOGLE_API_KEY:
|
||||||
|
# FIX: Wir erzwingen api_version 'v1' für höhere Stabilität bei 2.5er Modellen.
|
||||||
|
self.google_client = genai.Client(
|
||||||
|
api_key=self.settings.GOOGLE_API_KEY,
|
||||||
|
http_options={'api_version': 'v1'}
|
||||||
|
)
|
||||||
|
logger.info("✨ LLMService: Google GenAI (Gemini) active.")
|
||||||
|
|
||||||
|
# 3. OpenRouter Client
|
||||||
|
self.openrouter_client = None
|
||||||
|
if self.settings.OPENROUTER_API_KEY:
|
||||||
|
self.openrouter_client = AsyncOpenAI(
|
||||||
|
base_url="https://openrouter.ai/api/v1",
|
||||||
|
api_key=self.settings.OPENROUTER_API_KEY,
|
||||||
|
# Strikter Timeout für OpenRouter Free-Tier zur Vermeidung von Hangs.
|
||||||
|
timeout=45.0
|
||||||
|
)
|
||||||
|
logger.info("🛰️ LLMService: OpenRouter Integration active.")
|
||||||
|
|
||||||
def _load_prompts(self) -> dict:
|
def _load_prompts(self) -> dict:
|
||||||
|
"""Lädt die Prompt-Konfiguration aus der YAML-Datei."""
|
||||||
path = Path(self.settings.PROMPTS_PATH)
|
path = Path(self.settings.PROMPTS_PATH)
|
||||||
if not path.exists(): return {}
|
if not path.exists():
|
||||||
try:
|
logger.error(f"❌ Prompts file not found at {path}")
|
||||||
with open(path, "r", encoding="utf-8") as f: return yaml.safe_load(f)
|
|
||||||
except Exception as e:
|
|
||||||
logger.error(f"Failed to load prompts: {e}")
|
|
||||||
return {}
|
return {}
|
||||||
|
try:
|
||||||
|
with open(path, "r", encoding="utf-8") as f:
|
||||||
|
return yaml.safe_load(f) or {}
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"❌ Failed to load prompts: {e}")
|
||||||
|
return {}
|
||||||
|
|
||||||
|
def get_prompt(self, key: str, provider: str = None) -> str:
|
||||||
|
"""
|
||||||
|
Hole provider-spezifisches Template mit intelligenter Text-Kaskade.
|
||||||
|
HINWEIS: Dies ist nur ein Text-Lookup und verbraucht kein API-Kontingent.
|
||||||
|
Kaskade: Gewählter Provider -> Gemini (Cloud-Stil) -> Ollama (Basis-Stil).
|
||||||
|
"""
|
||||||
|
active_provider = provider or self.settings.MINDNET_LLM_PROVIDER
|
||||||
|
data = self.prompts.get(key, "")
|
||||||
|
|
||||||
|
if isinstance(data, dict):
|
||||||
|
# Wir versuchen erst den Provider, dann Gemini, dann Ollama
|
||||||
|
val = data.get(active_provider, data.get("gemini", data.get("ollama", "")))
|
||||||
|
|
||||||
|
# Falls val durch YAML-Fehler immer noch ein Dict ist, extrahiere ersten String
|
||||||
|
if isinstance(val, dict):
|
||||||
|
logger.warning(f"⚠️ [LLMService] Nested dictionary detected for key '{key}'. Using first entry.")
|
||||||
|
val = next(iter(val.values()), "") if val else ""
|
||||||
|
return str(val)
|
||||||
|
|
||||||
|
return str(data)
|
||||||
|
|
||||||
async def generate_raw_response(
|
async def generate_raw_response(
|
||||||
self,
|
self,
|
||||||
prompt: str,
|
prompt: str,
|
||||||
system: str = None,
|
system: str = None,
|
||||||
force_json: bool = False,
|
force_json: bool = False,
|
||||||
max_retries: int = 0,
|
max_retries: int = 2,
|
||||||
base_delay: float = 2.0,
|
base_delay: float = 2.0,
|
||||||
priority: Literal["realtime", "background"] = "realtime"
|
priority: Literal["realtime", "background"] = "realtime",
|
||||||
|
provider: Optional[str] = None,
|
||||||
|
model_override: Optional[str] = None,
|
||||||
|
json_schema: Optional[Dict[str, Any]] = None,
|
||||||
|
json_schema_name: str = "mindnet_json",
|
||||||
|
strict_json_schema: bool = True
|
||||||
) -> str:
|
) -> str:
|
||||||
"""
|
"""
|
||||||
Führt einen LLM Call aus.
|
Haupteinstiegspunkt für LLM-Anfragen mit Priorisierung.
|
||||||
priority="realtime": Chat (Sofort, keine Bremse).
|
Wendet die Bereinigung auf Text-Antworten an.
|
||||||
priority="background": Import/Analyse (Gedrosselt durch Semaphore).
|
|
||||||
"""
|
"""
|
||||||
|
target_provider = provider or self.settings.MINDNET_LLM_PROVIDER
|
||||||
|
|
||||||
use_semaphore = (priority == "background")
|
if priority == "background":
|
||||||
|
|
||||||
if use_semaphore and LLMService._background_semaphore:
|
|
||||||
async with LLMService._background_semaphore:
|
async with LLMService._background_semaphore:
|
||||||
return await self._execute_request(prompt, system, force_json, max_retries, base_delay)
|
res = await self._dispatch(
|
||||||
else:
|
target_provider, prompt, system, force_json,
|
||||||
# Realtime oder Fallback (falls Semaphore Init fehlschlug)
|
max_retries, base_delay, model_override,
|
||||||
return await self._execute_request(prompt, system, force_json, max_retries, base_delay)
|
json_schema, json_schema_name, strict_json_schema
|
||||||
|
)
|
||||||
|
# WP-14 Fix: Bereinige Text-Antworten vor Rückgabe
|
||||||
|
return clean_llm_text(res) if not force_json else res
|
||||||
|
|
||||||
async def _execute_request(self, prompt, system, force_json, max_retries, base_delay):
|
res = await self._dispatch(
|
||||||
payload: Dict[str, Any] = {
|
target_provider, prompt, system, force_json,
|
||||||
|
max_retries, base_delay, model_override,
|
||||||
|
json_schema, json_schema_name, strict_json_schema
|
||||||
|
)
|
||||||
|
# WP-14 Fix: Bereinige Text-Antworten vor Rückgabe
|
||||||
|
return clean_llm_text(res) if not force_json else res
|
||||||
|
|
||||||
|
async def _dispatch(
|
||||||
|
self,
|
||||||
|
provider: str,
|
||||||
|
prompt: str,
|
||||||
|
system: Optional[str],
|
||||||
|
force_json: bool,
|
||||||
|
max_retries: int,
|
||||||
|
base_delay: float,
|
||||||
|
model_override: Optional[str],
|
||||||
|
json_schema: Optional[Dict[str, Any]],
|
||||||
|
json_schema_name: str,
|
||||||
|
strict_json_schema: bool
|
||||||
|
) -> str:
|
||||||
|
"""
|
||||||
|
Routet die Anfrage mit intelligenter Rate-Limit Erkennung.
|
||||||
|
Nutzt max_retries um die Rate-Limit Schleife zu begrenzen.
|
||||||
|
"""
|
||||||
|
rate_limit_attempts = 0
|
||||||
|
# FIX: Wir nutzen max_retries als Limit für Rate-Limit Versuche, wenn explizit klein gewählt (z.B. Chat)
|
||||||
|
max_rate_retries = min(max_retries, getattr(self.settings, "LLM_RATE_LIMIT_RETRIES", 3))
|
||||||
|
wait_time = getattr(self.settings, "LLM_RATE_LIMIT_WAIT", 60.0)
|
||||||
|
|
||||||
|
while rate_limit_attempts <= max_rate_retries:
|
||||||
|
try:
|
||||||
|
if provider == "openrouter" and self.openrouter_client:
|
||||||
|
return await self._execute_openrouter(
|
||||||
|
prompt=prompt,
|
||||||
|
system=system,
|
||||||
|
force_json=force_json,
|
||||||
|
model_override=model_override,
|
||||||
|
json_schema=json_schema,
|
||||||
|
json_schema_name=json_schema_name,
|
||||||
|
strict_json_schema=strict_json_schema
|
||||||
|
)
|
||||||
|
|
||||||
|
if provider == "gemini" and self.google_client:
|
||||||
|
return await self._execute_google(prompt, system, force_json, model_override)
|
||||||
|
|
||||||
|
# Default/Fallback zu Ollama
|
||||||
|
return await self._execute_ollama(prompt, system, force_json, max_retries, base_delay)
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
err_str = str(e)
|
||||||
|
# Intelligente 429 Erkennung
|
||||||
|
is_rate_limit = any(x in err_str for x in ["429", "RESOURCE_EXHAUSTED", "rate_limited", "Too Many Requests"])
|
||||||
|
|
||||||
|
if is_rate_limit and rate_limit_attempts < max_rate_retries:
|
||||||
|
rate_limit_attempts += 1
|
||||||
|
logger.warning(
|
||||||
|
f"⏳ [LLMService] Rate Limit detected from {provider}. "
|
||||||
|
f"Attempt {rate_limit_attempts}/{max_rate_retries}. Waiting {wait_time}s..."
|
||||||
|
)
|
||||||
|
await asyncio.sleep(wait_time)
|
||||||
|
continue
|
||||||
|
|
||||||
|
# Wenn kein Rate-Limit oder Retries erschöpft -> Fallback zu Ollama (falls aktiviert)
|
||||||
|
if self.settings.LLM_FALLBACK_ENABLED and provider != "ollama":
|
||||||
|
logger.warning(
|
||||||
|
f"🔄 Provider {provider} failed ({err_str}). Falling back to LOCAL OLLAMA."
|
||||||
|
)
|
||||||
|
return await self._execute_ollama(prompt, system, force_json, max_retries, base_delay)
|
||||||
|
raise e
|
||||||
|
|
||||||
|
async def _execute_google(self, prompt, system, force_json, model_override):
|
||||||
|
"""Native Google SDK Integration (Gemini) mit v1 Fix."""
|
||||||
|
model = model_override or self.settings.GEMINI_MODEL
|
||||||
|
clean_model = model.replace("models/", "")
|
||||||
|
|
||||||
|
config = types.GenerateContentConfig(
|
||||||
|
system_instruction=system,
|
||||||
|
response_mime_type="application/json" if force_json else "text/plain"
|
||||||
|
)
|
||||||
|
response = await asyncio.wait_for(
|
||||||
|
asyncio.to_thread(
|
||||||
|
self.google_client.models.generate_content,
|
||||||
|
model=clean_model, contents=prompt, config=config
|
||||||
|
),
|
||||||
|
timeout=45.0
|
||||||
|
)
|
||||||
|
return response.text.strip()
|
||||||
|
|
||||||
|
async def _execute_openrouter(
|
||||||
|
self,
|
||||||
|
prompt: str,
|
||||||
|
system: Optional[str],
|
||||||
|
force_json: bool,
|
||||||
|
model_override: Optional[str],
|
||||||
|
json_schema: Optional[Dict[str, Any]] = None,
|
||||||
|
json_schema_name: str = "mindnet_json",
|
||||||
|
strict_json_schema: bool = True
|
||||||
|
) -> str:
|
||||||
|
"""OpenRouter API Integration (OpenAI-kompatibel)."""
|
||||||
|
model = model_override or self.settings.OPENROUTER_MODEL
|
||||||
|
messages = []
|
||||||
|
if system:
|
||||||
|
messages.append({"role": "system", "content": system})
|
||||||
|
messages.append({"role": "user", "content": prompt})
|
||||||
|
|
||||||
|
kwargs: Dict[str, Any] = {}
|
||||||
|
if force_json:
|
||||||
|
if json_schema:
|
||||||
|
kwargs["response_format"] = {
|
||||||
|
"type": "json_schema",
|
||||||
|
"json_schema": {
|
||||||
|
"name": json_schema_name,
|
||||||
|
"strict": strict_json_schema,
|
||||||
|
"schema": json_schema
|
||||||
|
}
|
||||||
|
}
|
||||||
|
else:
|
||||||
|
kwargs["response_format"] = {"type": "json_object"}
|
||||||
|
|
||||||
|
response = await self.openrouter_client.chat.completions.create(
|
||||||
|
model=model,
|
||||||
|
messages=messages,
|
||||||
|
**kwargs
|
||||||
|
)
|
||||||
|
return response.choices[0].message.content.strip()
|
||||||
|
|
||||||
|
async def _execute_ollama(self, prompt, system, force_json, max_retries, base_delay):
|
||||||
|
"""Lokaler Ollama Call mit striktem Retry-Limit."""
|
||||||
|
payload = {
|
||||||
"model": self.settings.LLM_MODEL,
|
"model": self.settings.LLM_MODEL,
|
||||||
"prompt": prompt,
|
"prompt": prompt,
|
||||||
"stream": False,
|
"stream": False,
|
||||||
"options": {
|
"options": {
|
||||||
"temperature": 0.1 if force_json else 0.7,
|
"temperature": 0.1 if force_json else 0.7,
|
||||||
"num_ctx": 8192
|
"num_ctx": 8192 # Begrenzung für Stabilität (WP-20)
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
if force_json:
|
if force_json:
|
||||||
payload["format"] = "json"
|
payload["format"] = "json"
|
||||||
|
|
||||||
if system:
|
if system:
|
||||||
payload["system"] = system
|
payload["system"] = system
|
||||||
|
|
||||||
attempt = 0
|
attempt = 0
|
||||||
|
|
||||||
while True:
|
while True:
|
||||||
try:
|
try:
|
||||||
response = await self.client.post("/api/generate", json=payload)
|
res = await self.ollama_client.post("/api/generate", json=payload)
|
||||||
|
res.raise_for_status()
|
||||||
if response.status_code == 200:
|
return res.json().get("response", "").strip()
|
||||||
data = response.json()
|
|
||||||
return data.get("response", "").strip()
|
|
||||||
else:
|
|
||||||
response.raise_for_status()
|
|
||||||
|
|
||||||
except Exception as e:
|
except Exception as e:
|
||||||
attempt += 1
|
attempt += 1
|
||||||
|
# WICHTIG: Wenn max_retries=0 (Chat), bricht dies nach dem 1. Versuch (attempt=1) sofort ab.
|
||||||
if attempt > max_retries:
|
if attempt > max_retries:
|
||||||
logger.error(f"LLM Final Error (Versuch {attempt}): {e}")
|
logger.error(f"❌ Ollama request failed after {attempt} attempt(s): {e}")
|
||||||
raise e
|
raise e
|
||||||
|
|
||||||
wait_time = base_delay * (2 ** (attempt - 1))
|
wait_time = base_delay * (2 ** (attempt - 1))
|
||||||
logger.warning(f"⚠️ LLM Retry ({attempt}/{max_retries}) in {wait_time}s: {e}")
|
logger.warning(f"⚠️ Ollama attempt {attempt} failed. Retrying in {wait_time}s...")
|
||||||
await asyncio.sleep(wait_time)
|
await asyncio.sleep(wait_time)
|
||||||
|
|
||||||
async def generate_rag_response(self, query: str, context_str: str) -> str:
|
async def generate_rag_response(self, query: str, context_str: str) -> str:
|
||||||
"""
|
"""Vollständiges RAG Chat-Interface."""
|
||||||
Chat-Wrapper: Immer Realtime.
|
provider = self.settings.MINDNET_LLM_PROVIDER
|
||||||
"""
|
system_prompt = self.get_prompt("system_prompt", provider)
|
||||||
system_prompt = self.prompts.get("system_prompt", "")
|
rag_template = self.get_prompt("rag_template", provider)
|
||||||
rag_template = self.prompts.get("rag_template", "{context_str}\n\n{query}")
|
|
||||||
|
|
||||||
final_prompt = rag_template.format(context_str=context_str, query=query)
|
final_prompt = rag_template.format(context_str=context_str, query=query)
|
||||||
|
|
||||||
|
# RAG Aufrufe im Chat nutzen nun standardmäßig max_retries=2 (überschreibbar)
|
||||||
|
# Durch den Aufruf von generate_raw_response wird die Bereinigung automatisch angewendet.
|
||||||
return await self.generate_raw_response(
|
return await self.generate_raw_response(
|
||||||
final_prompt,
|
final_prompt,
|
||||||
system=system_prompt,
|
system=system_prompt,
|
||||||
max_retries=0,
|
|
||||||
force_json=False,
|
|
||||||
priority="realtime"
|
priority="realtime"
|
||||||
)
|
)
|
||||||
|
|
||||||
async def close(self):
|
async def close(self):
|
||||||
if self.client:
|
"""Schließt die HTTP-Verbindungen."""
|
||||||
await self.client.aclose()
|
if self.ollama_client:
|
||||||
|
await self.ollama_client.aclose()
|
||||||
@@ -1,177 +0,0 @@
|
|||||||
"""
|
|
||||||
FILE: app/services/semantic_analyzer.py
|
|
||||||
DESCRIPTION: KI-gestützte Kanten-Validierung. Nutzt LLM (Background-Priority), um Kanten präzise einem Chunk zuzuordnen.
|
|
||||||
VERSION: 2.1.0 (Fix: Strict Edge String Validation against LLM Hallucinations)
|
|
||||||
STATUS: Active
|
|
||||||
DEPENDENCIES: app.services.llm_service, json, logging
|
|
||||||
LAST_ANALYSIS: 2025-12-16
|
|
||||||
"""
|
|
||||||
|
|
||||||
import json
|
|
||||||
import logging
|
|
||||||
from typing import List, Optional
|
|
||||||
from dataclasses import dataclass
|
|
||||||
|
|
||||||
# Importe
|
|
||||||
from app.services.llm_service import LLMService
|
|
||||||
|
|
||||||
logger = logging.getLogger(__name__)
|
|
||||||
|
|
||||||
class SemanticAnalyzer:
|
|
||||||
def __init__(self):
|
|
||||||
self.llm = LLMService()
|
|
||||||
|
|
||||||
def _is_valid_edge_string(self, edge_str: str) -> bool:
|
|
||||||
"""
|
|
||||||
Prüft, ob ein String eine valide Kante im Format 'kind:target' ist.
|
|
||||||
Verhindert, dass LLM-Geschwätz ("Here is the list: ...") als Kante durchrutscht.
|
|
||||||
"""
|
|
||||||
if not isinstance(edge_str, str) or ":" not in edge_str:
|
|
||||||
return False
|
|
||||||
|
|
||||||
parts = edge_str.split(":", 1)
|
|
||||||
kind = parts[0].strip()
|
|
||||||
target = parts[1].strip()
|
|
||||||
|
|
||||||
# Regel 1: Ein 'kind' (Beziehungstyp) darf keine Leerzeichen enthalten.
|
|
||||||
# Erlaubt: "derived_from", "related_to"
|
|
||||||
# Verboten: "derived end of instruction", "Here is the list"
|
|
||||||
if " " in kind:
|
|
||||||
return False
|
|
||||||
|
|
||||||
# Regel 2: Plausible Länge für den Typ
|
|
||||||
if len(kind) > 40 or len(kind) < 2:
|
|
||||||
return False
|
|
||||||
|
|
||||||
# Regel 3: Target darf nicht leer sein
|
|
||||||
if not target:
|
|
||||||
return False
|
|
||||||
|
|
||||||
return True
|
|
||||||
|
|
||||||
async def assign_edges_to_chunk(self, chunk_text: str, all_edges: List[str], note_type: str) -> List[str]:
|
|
||||||
"""
|
|
||||||
Sendet einen Chunk und eine Liste potenzieller Kanten an das LLM.
|
|
||||||
Das LLM filtert heraus, welche Kanten für diesen Chunk relevant sind.
|
|
||||||
|
|
||||||
Features:
|
|
||||||
- Retry Strategy: Wartet bei Überlastung (max_retries=5).
|
|
||||||
- Priority Queue: Läuft als "background" Task, um den Chat nicht zu blockieren.
|
|
||||||
- Observability: Loggt Input-Größe, Raw-Response und Parsing-Details.
|
|
||||||
"""
|
|
||||||
if not all_edges:
|
|
||||||
return []
|
|
||||||
|
|
||||||
# 1. Prompt laden
|
|
||||||
prompt_template = self.llm.prompts.get("edge_allocation_template")
|
|
||||||
|
|
||||||
if not prompt_template:
|
|
||||||
logger.warning("⚠️ [SemanticAnalyzer] Prompt 'edge_allocation_template' fehlt. Nutze Fallback.")
|
|
||||||
prompt_template = (
|
|
||||||
"TASK: Wähle aus den Kandidaten die relevanten Kanten für den Text.\n"
|
|
||||||
"TEXT: {chunk_text}\n"
|
|
||||||
"KANDIDATEN: {edge_list}\n"
|
|
||||||
"OUTPUT: JSON Liste von Strings [\"kind:target\"]."
|
|
||||||
)
|
|
||||||
|
|
||||||
# 2. Kandidaten-Liste formatieren
|
|
||||||
edges_str = "\n".join([f"- {e}" for e in all_edges])
|
|
||||||
|
|
||||||
# LOG: Request Info
|
|
||||||
logger.debug(f"🔍 [SemanticAnalyzer] Request: {len(chunk_text)} chars Text, {len(all_edges)} Candidates.")
|
|
||||||
|
|
||||||
# 3. Prompt füllen
|
|
||||||
final_prompt = prompt_template.format(
|
|
||||||
chunk_text=chunk_text[:3500],
|
|
||||||
edge_list=edges_str
|
|
||||||
)
|
|
||||||
|
|
||||||
try:
|
|
||||||
# 4. LLM Call mit Traffic Control
|
|
||||||
response_json = await self.llm.generate_raw_response(
|
|
||||||
prompt=final_prompt,
|
|
||||||
force_json=True,
|
|
||||||
max_retries=5,
|
|
||||||
base_delay=5.0,
|
|
||||||
priority="background"
|
|
||||||
)
|
|
||||||
|
|
||||||
# LOG: Raw Response Preview
|
|
||||||
logger.debug(f"📥 [SemanticAnalyzer] Raw Response (Preview): {response_json[:200]}...")
|
|
||||||
|
|
||||||
# 5. Parsing & Cleaning
|
|
||||||
clean_json = response_json.replace("```json", "").replace("```", "").strip()
|
|
||||||
|
|
||||||
if not clean_json:
|
|
||||||
logger.warning("⚠️ [SemanticAnalyzer] Leere Antwort vom LLM erhalten. Trigger Fallback.")
|
|
||||||
return []
|
|
||||||
|
|
||||||
try:
|
|
||||||
data = json.loads(clean_json)
|
|
||||||
except json.JSONDecodeError as json_err:
|
|
||||||
logger.error(f"❌ [SemanticAnalyzer] JSON Decode Error.")
|
|
||||||
logger.error(f" Grund: {json_err}")
|
|
||||||
logger.error(f" Empfangener String: {clean_json[:500]}")
|
|
||||||
logger.info(" -> Workaround: Fallback auf 'Alle Kanten' (durch Chunker).")
|
|
||||||
return []
|
|
||||||
|
|
||||||
valid_edges = []
|
|
||||||
|
|
||||||
# 6. Robuste Validierung (List vs Dict)
|
|
||||||
# Wir sammeln erst alle Strings ein
|
|
||||||
raw_candidates = []
|
|
||||||
|
|
||||||
if isinstance(data, list):
|
|
||||||
raw_candidates = data
|
|
||||||
|
|
||||||
elif isinstance(data, dict):
|
|
||||||
logger.info(f"ℹ️ [SemanticAnalyzer] LLM lieferte Dict statt Liste. Versuche Reparatur. Keys: {list(data.keys())}")
|
|
||||||
for key, val in data.items():
|
|
||||||
# Fall A: {"edges": ["kind:target"]}
|
|
||||||
if key.lower() in ["edges", "results", "kanten", "matches"] and isinstance(val, list):
|
|
||||||
raw_candidates.extend(val)
|
|
||||||
|
|
||||||
# Fall B: {"kind": "target"} (Beziehung als Key)
|
|
||||||
elif isinstance(val, str):
|
|
||||||
raw_candidates.append(f"{key}:{val}")
|
|
||||||
|
|
||||||
# Fall C: {"kind": ["target1", "target2"]}
|
|
||||||
elif isinstance(val, list):
|
|
||||||
for target in val:
|
|
||||||
if isinstance(target, str):
|
|
||||||
raw_candidates.append(f"{key}:{target}")
|
|
||||||
|
|
||||||
# 7. Strict Validation Loop
|
|
||||||
for e in raw_candidates:
|
|
||||||
e_str = str(e)
|
|
||||||
if self._is_valid_edge_string(e_str):
|
|
||||||
valid_edges.append(e_str)
|
|
||||||
else:
|
|
||||||
logger.debug(f" [SemanticAnalyzer] Invalid edge format rejected: '{e_str}'")
|
|
||||||
|
|
||||||
# Safety: Filtere nur Kanten, die halbwegs valide aussehen (Doppelcheck)
|
|
||||||
final_result = [e for e in valid_edges if ":" in e]
|
|
||||||
|
|
||||||
# LOG: Ergebnis
|
|
||||||
if final_result:
|
|
||||||
logger.info(f"✅ [SemanticAnalyzer] Success. {len(final_result)} Kanten zugewiesen.")
|
|
||||||
else:
|
|
||||||
logger.debug(" [SemanticAnalyzer] Keine spezifischen Kanten erkannt (Empty Result).")
|
|
||||||
|
|
||||||
return final_result
|
|
||||||
|
|
||||||
except Exception as e:
|
|
||||||
logger.error(f"💥 [SemanticAnalyzer] Kritischer Fehler: {e}", exc_info=True)
|
|
||||||
return []
|
|
||||||
|
|
||||||
async def close(self):
|
|
||||||
if self.llm:
|
|
||||||
await self.llm.close()
|
|
||||||
|
|
||||||
# Singleton Helper
|
|
||||||
_analyzer_instance = None
|
|
||||||
def get_semantic_analyzer():
|
|
||||||
global _analyzer_instance
|
|
||||||
if _analyzer_instance is None:
|
|
||||||
_analyzer_instance = SemanticAnalyzer()
|
|
||||||
return _analyzer_instance
|
|
||||||
+35
-35
@@ -1,43 +1,50 @@
|
|||||||
# config/decision_engine.yaml
|
# config/decision_engine.yaml
|
||||||
# Steuerung der Decision Engine (Intent Recognition & Graph Routing)
|
# Steuerung der Decision Engine (Intent Recognition & Graph Routing)
|
||||||
# Version: 2.5.0 (WP-22: Semantic Graph Routing)
|
# VERSION: 2.6.1 (WP-20: Hybrid LLM & WP-22: Semantic Graph Routing)
|
||||||
|
# STATUS: Active
|
||||||
|
# DoD: Keine Hardcoded Modelle, volle Integration der strategischen Boosts.
|
||||||
|
|
||||||
version: 2.5
|
version: 2.6
|
||||||
|
|
||||||
settings:
|
settings:
|
||||||
llm_fallback_enabled: true
|
llm_fallback_enabled: true
|
||||||
|
|
||||||
# Few-Shot Prompting für den LLM-Router (Slow Path)
|
# Strategie für den Router selbst (Welches Modell erkennt den Intent?)
|
||||||
|
# "auto" nutzt den in MINDNET_LLM_PROVIDER gesetzten Standard (z.B. openrouter).
|
||||||
|
router_provider: "auto"
|
||||||
|
|
||||||
|
# Few-Shot Prompting für den LLM-Router
|
||||||
llm_router_prompt: |
|
llm_router_prompt: |
|
||||||
Du bist ein Klassifikator. Analysiere die Nachricht und wähle die passende Strategie.
|
Du bist der zentrale Intent-Klassifikator für Mindnet, einen digitalen Zwilling.
|
||||||
|
Analysiere die Nachricht und wähle die passende Strategie.
|
||||||
Antworte NUR mit dem Namen der Strategie.
|
Antworte NUR mit dem Namen der Strategie.
|
||||||
|
|
||||||
STRATEGIEN:
|
STRATEGIEN:
|
||||||
- INTERVIEW: User will Wissen erfassen, Notizen anlegen oder Dinge festhalten.
|
- INTERVIEW: User will Wissen erfassen, Notizen anlegen oder Dinge festhalten.
|
||||||
- DECISION: Rat, Strategie, Vor/Nachteile, "Soll ich".
|
- DECISION: Rat, Strategie, Abwägung von Werten, "Soll ich tun X?".
|
||||||
- EMPATHY: Gefühle, Frust, Freude, Probleme.
|
- EMPATHY: Gefühle, Reflexion der eigenen Verfassung, Frust, Freude.
|
||||||
- CODING: Code, Syntax, Programmierung.
|
- CODING: Code-Erstellung, Debugging, technische Dokumentation.
|
||||||
- FACT: Wissen, Fakten, Definitionen.
|
- FACT: Reine Wissensabfrage, Definitionen, Suchen von Informationen.
|
||||||
|
|
||||||
BEISPIELE:
|
BEISPIELE:
|
||||||
User: "Wie funktioniert Qdrant?" -> FACT
|
User: "Wie funktioniert die Qdrant-Vektor-DB?" -> FACT
|
||||||
User: "Soll ich Qdrant nutzen?" -> DECISION
|
User: "Soll ich mein Startup jetzt verkaufen?" -> DECISION
|
||||||
User: "Ich möchte etwas notieren" -> INTERVIEW
|
User: "Notiere mir kurz meine Gedanken zum Meeting." -> INTERVIEW
|
||||||
User: "Lass uns das festhalten" -> INTERVIEW
|
User: "Ich fühle mich heute sehr erschöpft." -> EMPATHY
|
||||||
User: "Schreibe ein Python Script" -> CODING
|
User: "Schreibe eine FastAPI-Route für den Ingest." -> CODING
|
||||||
User: "Alles ist grau und sinnlos" -> EMPATHY
|
|
||||||
|
|
||||||
NACHRICHT: "{query}"
|
NACHRICHT: "{query}"
|
||||||
|
|
||||||
STRATEGIE:
|
STRATEGIE:
|
||||||
|
|
||||||
strategies:
|
strategies:
|
||||||
# 1. Fakten-Abfrage (Fallback & Default)
|
# 1. Fakten-Abfrage (Turbo-Modus via OpenRouter / Primary)
|
||||||
FACT:
|
FACT:
|
||||||
description: "Reine Wissensabfrage."
|
description: "Reine Wissensabfrage."
|
||||||
|
preferred_provider: "openrouter"
|
||||||
trigger_keywords: []
|
trigger_keywords: []
|
||||||
inject_types: []
|
inject_types: []
|
||||||
# WP-22: Definitionen & Hierarchien bevorzugen
|
# WP-22: Definitionen & Hierarchien im Graphen bevorzugen
|
||||||
edge_boosts:
|
edge_boosts:
|
||||||
part_of: 2.0
|
part_of: 2.0
|
||||||
composed_of: 2.0
|
composed_of: 2.0
|
||||||
@@ -46,9 +53,10 @@ strategies:
|
|||||||
prompt_template: "rag_template"
|
prompt_template: "rag_template"
|
||||||
prepend_instruction: null
|
prepend_instruction: null
|
||||||
|
|
||||||
# 2. Entscheidungs-Frage
|
# 2. Entscheidungs-Frage (Power-Strategie via Gemini)
|
||||||
DECISION:
|
DECISION:
|
||||||
description: "Der User sucht Rat, Strategie oder Abwägung."
|
description: "Der User sucht Rat, Strategie oder Abwägung."
|
||||||
|
preferred_provider: "gemini"
|
||||||
trigger_keywords:
|
trigger_keywords:
|
||||||
- "soll ich"
|
- "soll ich"
|
||||||
- "meinung"
|
- "meinung"
|
||||||
@@ -59,20 +67,22 @@ strategies:
|
|||||||
- "abwägung"
|
- "abwägung"
|
||||||
- "vergleich"
|
- "vergleich"
|
||||||
inject_types: ["value", "principle", "goal", "risk"]
|
inject_types: ["value", "principle", "goal", "risk"]
|
||||||
# WP-22: Risiken und Konsequenzen hervorheben
|
# WP-22: Risiken und Konsequenzen im Graphen priorisieren
|
||||||
edge_boosts:
|
edge_boosts:
|
||||||
blocks: 2.5
|
blocks: 2.5
|
||||||
solves: 2.0
|
solves: 2.0
|
||||||
depends_on: 1.5
|
depends_on: 1.5
|
||||||
risk_of: 2.5
|
risk_of: 2.5
|
||||||
|
impacts: 2.0
|
||||||
prompt_template: "decision_template"
|
prompt_template: "decision_template"
|
||||||
prepend_instruction: |
|
prepend_instruction: |
|
||||||
!!! ENTSCHEIDUNGS-MODUS !!!
|
!!! ENTSCHEIDUNGS-MODUS (HYBRID AI) !!!
|
||||||
BITTE WÄGE FAKTEN GEGEN FOLGENDE WERTE, PRINZIPIEN UND ZIELE AB:
|
BITTE WÄGE FAKTEN GEGEN FOLGENDE WERTE, PRINZIPIEN UND ZIELE AB:
|
||||||
|
|
||||||
# 3. Empathie / "Ich"-Modus
|
# 3. Empathie / "Ich"-Modus (Lokal & Privat via Ollama)
|
||||||
EMPATHY:
|
EMPATHY:
|
||||||
description: "Reaktion auf emotionale Zustände."
|
description: "Reaktion auf emotionale Zustände."
|
||||||
|
preferred_provider: "openrouter"
|
||||||
trigger_keywords:
|
trigger_keywords:
|
||||||
- "ich fühle"
|
- "ich fühle"
|
||||||
- "traurig"
|
- "traurig"
|
||||||
@@ -83,7 +93,6 @@ strategies:
|
|||||||
- "überfordert"
|
- "überfordert"
|
||||||
- "müde"
|
- "müde"
|
||||||
inject_types: ["experience", "belief", "profile"]
|
inject_types: ["experience", "belief", "profile"]
|
||||||
# WP-22: Weiche Assoziationen & Erfahrungen stärken
|
|
||||||
edge_boosts:
|
edge_boosts:
|
||||||
based_on: 2.0
|
based_on: 2.0
|
||||||
related_to: 2.0
|
related_to: 2.0
|
||||||
@@ -92,9 +101,10 @@ strategies:
|
|||||||
prompt_template: "empathy_template"
|
prompt_template: "empathy_template"
|
||||||
prepend_instruction: null
|
prepend_instruction: null
|
||||||
|
|
||||||
# 4. Coding / Technical
|
# 4. Coding / Technical (Gemini Power)
|
||||||
CODING:
|
CODING:
|
||||||
description: "Technische Anfragen und Programmierung."
|
description: "Technische Anfragen und Programmierung."
|
||||||
|
preferred_provider: "gemini"
|
||||||
trigger_keywords:
|
trigger_keywords:
|
||||||
- "code"
|
- "code"
|
||||||
- "python"
|
- "python"
|
||||||
@@ -106,7 +116,7 @@ strategies:
|
|||||||
- "yaml"
|
- "yaml"
|
||||||
- "bash"
|
- "bash"
|
||||||
inject_types: ["snippet", "reference", "source"]
|
inject_types: ["snippet", "reference", "source"]
|
||||||
# WP-22: Technische Abhängigkeiten
|
# WP-22: Technische Abhängigkeiten priorisieren
|
||||||
edge_boosts:
|
edge_boosts:
|
||||||
uses: 2.5
|
uses: 2.5
|
||||||
depends_on: 2.0
|
depends_on: 2.0
|
||||||
@@ -114,11 +124,10 @@ strategies:
|
|||||||
prompt_template: "technical_template"
|
prompt_template: "technical_template"
|
||||||
prepend_instruction: null
|
prepend_instruction: null
|
||||||
|
|
||||||
# 5. Interview / Datenerfassung
|
# 5. Interview / Datenerfassung (Lokal)
|
||||||
# HINWEIS: Spezifische Typen (Projekt, Ziel etc.) werden automatisch
|
|
||||||
# über die types.yaml erkannt. Hier stehen nur generische Trigger.
|
|
||||||
INTERVIEW:
|
INTERVIEW:
|
||||||
description: "Der User möchte Wissen erfassen."
|
description: "Der User möchte Wissen erfassen."
|
||||||
|
preferred_provider: "openrouter"
|
||||||
trigger_keywords:
|
trigger_keywords:
|
||||||
- "neue notiz"
|
- "neue notiz"
|
||||||
- "etwas notieren"
|
- "etwas notieren"
|
||||||
@@ -134,12 +143,3 @@ strategies:
|
|||||||
edge_boosts: {}
|
edge_boosts: {}
|
||||||
prompt_template: "interview_template"
|
prompt_template: "interview_template"
|
||||||
prepend_instruction: null
|
prepend_instruction: null
|
||||||
# Schemas: Hier nur der Fallback.
|
|
||||||
# Spezifische Schemas (Project, Experience) kommen jetzt aus types.yaml!
|
|
||||||
schemas:
|
|
||||||
default:
|
|
||||||
fields:
|
|
||||||
- "Titel"
|
|
||||||
- "Thema/Inhalt"
|
|
||||||
- "Tags"
|
|
||||||
hint: "Halte es einfach und übersichtlich."
|
|
||||||
@@ -0,0 +1,48 @@
|
|||||||
|
# --- FastAPI Server (Produktion) ---
|
||||||
|
UVICORN_HOST=0.0.0.0
|
||||||
|
UVICORN_PORT=8000
|
||||||
|
DEBUG=false
|
||||||
|
|
||||||
|
# --- Qdrant Vektor-Datenbank ---
|
||||||
|
# Trennung der Daten durch eigenes Prefix
|
||||||
|
QDRANT_URL=http://127.0.0.1:6333
|
||||||
|
QDRANT_API_KEY=
|
||||||
|
COLLECTION_PREFIX=mindnet
|
||||||
|
|
||||||
|
# --- Vektoren-Konfiguration ---
|
||||||
|
# Muss 768 für 'nomic-embed-text' sein
|
||||||
|
VECTOR_DIM=768
|
||||||
|
|
||||||
|
# --- AI Modelle (Lokal/Fallback) ---
|
||||||
|
MINDNET_LLM_MODEL=phi3:mini
|
||||||
|
MINDNET_OLLAMA_URL=http://127.0.0.1:11434
|
||||||
|
MINDNET_LLM_TIMEOUT=300.0
|
||||||
|
MINDNET_LLM_BACKGROUND_LIMIT=2
|
||||||
|
|
||||||
|
# Vektor-Modell für semantische Suche
|
||||||
|
MINDNET_EMBEDDING_MODEL=nomic-embed-text
|
||||||
|
|
||||||
|
# --- WP-20/WP-76: Hybrid-Cloud & Resilienz ---
|
||||||
|
# Primärer Provider für höchste Qualität
|
||||||
|
MINDNET_LLM_PROVIDER=openrouter
|
||||||
|
MINDNET_LLM_FALLBACK=true
|
||||||
|
|
||||||
|
# Intelligente Rate-Limit Steuerung (Sekunden/Versuche)
|
||||||
|
MINDNET_LLM_RATE_LIMIT_WAIT=60.0
|
||||||
|
MINDNET_LLM_RATE_LIMIT_RETRIES=3
|
||||||
|
|
||||||
|
# --- Cloud Provider Keys (Hier Prod-Keys einsetzen) ---
|
||||||
|
GOOGLE_API_KEY=AIzaSy... (Dein Prod-Key)
|
||||||
|
MINDNET_GEMINI_MODEL=gemini-2.5-flash-lite
|
||||||
|
|
||||||
|
OPENROUTER_API_KEY=sk-or-v1-... (Dein Prod-Key)
|
||||||
|
# Stabilstes Free-Modell für strukturierte Extraktion
|
||||||
|
OPENROUTER_MODEL=mistralai/mistral-7b-instruct:free
|
||||||
|
|
||||||
|
# --- Pfade & System (Produktions-Vault) ---
|
||||||
|
MINDNET_TYPES_FILE=./config/types.yaml
|
||||||
|
MINDNET_VAULT_ROOT=./vault_prod
|
||||||
|
MINDNET_VOCAB_PATH=/mindnet/vault/mindnet/_system/dictionary/edge_vocabulary.md
|
||||||
|
|
||||||
|
# Change Detection für effiziente Re-Imports
|
||||||
|
MINDNET_CHANGE_DETECTION_MODE=full
|
||||||
+215
-104
@@ -1,4 +1,8 @@
|
|||||||
# config/prompts.yaml — Final V2.3.1 (Multi-Personality Support)
|
# config/prompts.yaml — Final V2.6.0 (WP-15b Candidate-Validation)
|
||||||
|
# WP-20: Optimierte Cloud-Templates zur Unterdrückung von Modell-Geschwätz.
|
||||||
|
# FIX: Explizite Verbote für Einleitungstexte zur Vermeidung von JSON-Parsing-Fehlern.
|
||||||
|
# WP-15b: Integration der binären edge_validation für den Two-Pass Workflow.
|
||||||
|
# OLLAMA: UNVERÄNDERT laut Benutzeranweisung.
|
||||||
|
|
||||||
system_prompt: |
|
system_prompt: |
|
||||||
Du bist 'mindnet', mein digitaler Zwilling und strategischer Partner.
|
Du bist 'mindnet', mein digitaler Zwilling und strategischer Partner.
|
||||||
@@ -15,148 +19,255 @@ system_prompt: |
|
|||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
# 1. STANDARD: Fakten & Wissen (Intent: FACT)
|
# 1. STANDARD: Fakten & Wissen (Intent: FACT)
|
||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
rag_template: |
|
rag_template:
|
||||||
QUELLEN (WISSEN):
|
ollama: |
|
||||||
=========================================
|
QUELLEN (WISSEN):
|
||||||
{context_str}
|
=========================================
|
||||||
=========================================
|
{context_str}
|
||||||
|
=========================================
|
||||||
|
|
||||||
FRAGE:
|
FRAGE:
|
||||||
{query}
|
{query}
|
||||||
|
|
||||||
ANWEISUNG:
|
ANWEISUNG:
|
||||||
Beantworte die Frage präzise basierend auf den Quellen.
|
Beantworte die Frage präzise basierend auf den Quellen.
|
||||||
Fasse die Informationen zusammen. Sei objektiv und neutral.
|
Fasse die Informationen zusammen. Sei objektiv und neutral.
|
||||||
|
gemini: |
|
||||||
|
Kontext meines digitalen Zwillings: {context_str}
|
||||||
|
Beantworte strukturiert und präzise: {query}
|
||||||
|
openrouter: |
|
||||||
|
Kontext-Analyse für den digitalen Zwilling:
|
||||||
|
{context_str}
|
||||||
|
|
||||||
|
Anfrage: {query}
|
||||||
|
Antworte basierend auf dem Kontext.
|
||||||
|
|
||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
# 2. DECISION: Strategie & Abwägung (Intent: DECISION)
|
# 2. DECISION: Strategie & Abwägung (Intent: DECISION)
|
||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
decision_template: |
|
decision_template:
|
||||||
KONTEXT (FAKTEN & STRATEGIE):
|
ollama: |
|
||||||
=========================================
|
KONTEXT (FAKTEN & STRATEGIE):
|
||||||
{context_str}
|
=========================================
|
||||||
=========================================
|
{context_str}
|
||||||
|
=========================================
|
||||||
|
|
||||||
ENTSCHEIDUNGSFRAGE:
|
ENTSCHEIDUNGSFRAGE:
|
||||||
{query}
|
{query}
|
||||||
|
|
||||||
ANWEISUNG:
|
ANWEISUNG:
|
||||||
Du agierst als mein Entscheidungs-Partner.
|
Du agierst als mein Entscheidungs-Partner.
|
||||||
1. Analysiere die Faktenlage aus den Quellen.
|
1. Analysiere die Faktenlage aus den Quellen.
|
||||||
2. Prüfe dies hart gegen meine strategischen Notizen (Typ [VALUE], [PRINCIPLE], [GOAL]).
|
2. Prüfe dies hart gegen meine strategischen Notizen (Typ [VALUE], [PRINCIPLE], [GOAL]).
|
||||||
3. Wäge ab: Passt die technische/faktische Lösung zu meinen Werten?
|
3. Wäge ab: Passt die technische/faktische Lösung zu meinen Werten?
|
||||||
|
|
||||||
FORMAT:
|
FORMAT:
|
||||||
- **Analyse:** (Kurze Zusammenfassung der Fakten)
|
- **Analyse:** (Kurze Zusammenfassung der Fakten)
|
||||||
- **Abgleich:** (Gibt es Konflikte mit Werten/Zielen? Nenne die Quelle!)
|
- **Abgleich:** (Gibt es Konflikte mit Werten/Zielen? Nenne die Quelle!)
|
||||||
- **Empfehlung:** (Klare Meinung: Ja/Nein/Vielleicht mit Begründung)
|
- **Empfehlung:** (Klare Meinung: Ja/No/Vielleicht mit Begründung)
|
||||||
|
gemini: |
|
||||||
|
Agiere als strategischer Partner. Analysiere die Frage {query} basierend auf meinen Werten im Kontext {context_str}.
|
||||||
|
openrouter: |
|
||||||
|
Strategische Entscheidungsanalyse: {query}
|
||||||
|
Wertebasis aus dem Graphen: {context_str}
|
||||||
|
|
||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
# 3. EMPATHY: Der Spiegel / "Ich"-Modus (Intent: EMPATHY)
|
# 3. EMPATHY: Der Spiegel / "Ich"-Modus (Intent: EMPATHY)
|
||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
empathy_template: |
|
empathy_template:
|
||||||
KONTEXT (ERFAHRUNGEN & GLAUBENSSÄTZE):
|
ollama: |
|
||||||
=========================================
|
KONTEXT (ERFAHRUNGEN & GLAUBENSSÄTZE):
|
||||||
{context_str}
|
=========================================
|
||||||
=========================================
|
{context_str}
|
||||||
|
=========================================
|
||||||
|
|
||||||
SITUATION:
|
SITUATION:
|
||||||
{query}
|
{query}
|
||||||
|
|
||||||
ANWEISUNG:
|
ANWEISUNG:
|
||||||
Du agierst jetzt als mein empathischer Spiegel.
|
Du agierst jetzt als mein empathischer Spiegel.
|
||||||
1. Versuche nicht sofort, das Problem technisch zu lösen.
|
1. Versuche nicht sofort, das Problem technisch zu lösen.
|
||||||
2. Zeige Verständnis für die Situation basierend auf meinen eigenen Erfahrungen ([EXPERIENCE]) oder Glaubenssätzen ([BELIEF]), falls im Kontext vorhanden.
|
2. Zeige Verständnis für die Situation basierend auf meinen eigenen Erfahrungen ([EXPERIENCE]) oder Glaubenssätzen ([BELIEF]), falls im Kontext vorhanden.
|
||||||
3. Antworte in der "Ich"-Form oder "Wir"-Form. Sei unterstützend.
|
3. Antworte in der "Ich"-Form oder "Wir"-Form. Sei unterstützend.
|
||||||
|
|
||||||
TONFALL:
|
TONFALL:
|
||||||
Ruhig, verständnisvoll, reflektiert. Keine Aufzählungszeichen, sondern fließender Text.
|
Ruhig, verständnisvoll, reflektiert. Keine Aufzählungszeichen, sondern fließender Text.
|
||||||
|
gemini: "Sei mein digitaler Spiegel für {query}. Kontext: {context_str}"
|
||||||
|
openrouter: "Empathische Reflexion der Situation {query}. Persönlicher Kontext: {context_str}"
|
||||||
|
|
||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
# 4. TECHNICAL: Der Coder (Intent: CODING)
|
# 4. TECHNICAL: Der Coder (Intent: CODING)
|
||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
technical_template: |
|
technical_template:
|
||||||
KONTEXT (DOCS & SNIPPETS):
|
ollama: |
|
||||||
=========================================
|
KONTEXT (DOCS & SNIPPETS):
|
||||||
{context_str}
|
=========================================
|
||||||
=========================================
|
{context_str}
|
||||||
|
=========================================
|
||||||
|
|
||||||
TASK:
|
TASK:
|
||||||
{query}
|
{query}
|
||||||
|
|
||||||
ANWEISUNG:
|
ANWEISUNG:
|
||||||
Du bist Senior Developer.
|
Du bist Senior Developer.
|
||||||
1. Ignoriere Smalltalk. Komm sofort zum Punkt.
|
1. Ignoriere Smalltalk. Komm sofort zum Punkt.
|
||||||
2. Generiere validen, performanten Code basierend auf den Quellen.
|
2. Generiere validen, performanten Code basierend auf den Quellen.
|
||||||
3. Wenn Quellen fehlen, nutze dein allgemeines Programmierwissen, aber weise darauf hin.
|
3. Wenn Quellen fehlen, nutze dein allgemeines Programmierwissen, aber weise darauf hin.
|
||||||
|
|
||||||
|
FORMAT:
|
||||||
|
- Kurze Erklärung des Ansatzes.
|
||||||
|
- Markdown Code-Block (Copy-Paste fertig).
|
||||||
|
- Wichtige Edge-Cases.
|
||||||
|
gemini: "Generiere Code für {query} unter Berücksichtigung von {context_str}."
|
||||||
|
openrouter: "Technischer Support für {query}. Code-Referenzen: {context_str}"
|
||||||
|
|
||||||
FORMAT:
|
|
||||||
- Kurze Erklärung des Ansatzes.
|
|
||||||
- Markdown Code-Block (Copy-Paste fertig).
|
|
||||||
- Wichtige Edge-Cases.
|
|
||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
# 5. INTERVIEW: Der "One-Shot Extractor" (Performance Mode)
|
# 5. INTERVIEW: Der "One-Shot Extractor" (Performance Mode)
|
||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
interview_template: |
|
interview_template:
|
||||||
TASK:
|
ollama: |
|
||||||
Du bist ein professioneller Ghostwriter. Verwandle den "USER INPUT" in eine strukturierte Notiz vom Typ '{target_type}'.
|
TASK:
|
||||||
|
Du bist ein professioneller Ghostwriter. Verwandle den "USER INPUT" in eine strukturierte Notiz vom Typ '{target_type}'.
|
||||||
|
|
||||||
STRUKTUR (Nutze EXAKT diese Überschriften):
|
STRUKTUR (Nutze EXAKT diese Überschriften):
|
||||||
{schema_fields}
|
{schema_fields}
|
||||||
|
|
||||||
USER INPUT:
|
USER INPUT:
|
||||||
"{query}"
|
"{query}"
|
||||||
|
|
||||||
ANWEISUNG ZUM INHALT:
|
ANWEISUNG ZUM INHALT:
|
||||||
1. Analysiere den Input genau.
|
1. Analysiere den Input genau.
|
||||||
2. Schreibe die Inhalte unter die passenden Überschriften aus der STRUKTUR-Liste oben.
|
2. Schreibe die Inhalte unter die passenden Überschriften aus der STRUKTUR-Liste oben.
|
||||||
3. STIL: Schreibe flüssig, professionell und in der Ich-Perspektive. Korrigiere Grammatikfehler, aber behalte den persönlichen Ton bei.
|
3. STIL: Schreibe flüssig, professionell und in der Ich-Perspektive. Korrigiere Grammatikfehler, aber behalte den persönlichen Ton bei.
|
||||||
4. Wenn Informationen für einen Abschnitt fehlen, schreibe nur: "[TODO: Ergänzen]". Erfinde nichts dazu.
|
4. Wenn Informationen für einen Abschnitt fehlen, schreibe nur: "[TODO: Ergänzen]". Erfinde nichts dazu.
|
||||||
|
|
||||||
OUTPUT FORMAT (YAML + MARKDOWN):
|
OUTPUT FORMAT (YAML + MARKDOWN):
|
||||||
---
|
---
|
||||||
type: {target_type}
|
type: {target_type}
|
||||||
status: draft
|
status: draft
|
||||||
title: (Erstelle einen treffenden, kurzen Titel für den Inhalt)
|
title: (Erstelle einen treffenden, kurzen Titel für den Inhalt)
|
||||||
tags: [Tag1, Tag2]
|
tags: [Tag1, Tag2]
|
||||||
---
|
---
|
||||||
|
|
||||||
# (Wiederhole den Titel hier)
|
# (Wiederhole den Titel hier)
|
||||||
|
|
||||||
## (Erster Begriff aus STRUKTUR)
|
## (Erster Begriff aus STRUKTUR)
|
||||||
(Text...)
|
(Text...)
|
||||||
|
|
||||||
## (Zweiter Begriff aus STRUKTUR)
|
|
||||||
(Text...)
|
|
||||||
|
|
||||||
(usw.)
|
|
||||||
|
|
||||||
|
## (Zweiter Begriff aus STRUKTUR)
|
||||||
|
(Text...)
|
||||||
|
gemini: "Extrahiere Daten für {target_type} aus {query}."
|
||||||
|
openrouter: "Strukturiere den Input {query} nach dem Schema {schema_fields} für Typ {target_type}."
|
||||||
|
|
||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
# 6. EDGE_ALLOCATION: Kantenfilter (Intent: OFFLINE_FILTER)
|
# 6. EDGE_ALLOCATION: Kantenfilter (Intent: OFFLINE_FILTER)
|
||||||
# ---------------------------------------------------------
|
# ---------------------------------------------------------
|
||||||
edge_allocation_template: |
|
edge_allocation_template:
|
||||||
TASK:
|
ollama: |
|
||||||
Du bist ein strikter Selektor. Du erhältst eine Liste von "Kandidaten-Kanten" (Strings).
|
TASK:
|
||||||
Wähle jene aus, die inhaltlich im "Textabschnitt" vorkommen oder relevant sind.
|
Du bist ein strikter Selektor. Du erhältst eine Liste von "Kandidaten-Kanten" (Strings).
|
||||||
|
Wähle jene aus, die inhaltlich im "Textabschnitt" vorkommen oder relevant sind.
|
||||||
|
|
||||||
TEXTABSCHNITT:
|
TEXTABSCHNITT:
|
||||||
"""
|
"""
|
||||||
{chunk_text}
|
{chunk_text}
|
||||||
"""
|
"""
|
||||||
|
|
||||||
KANDIDATEN (Auswahl-Pool):
|
KANDIDATEN (Auswahl-Pool):
|
||||||
{edge_list}
|
{edge_list}
|
||||||
|
|
||||||
REGELN:
|
REGELN:
|
||||||
1. Die Kanten haben das Format "typ:ziel". Der "typ" ist variabel und kann ALLES sein (z.B. uses, blocks, inspired_by, loves, etc.).
|
1. Die Kanten haben das Format "typ:ziel". Der "typ" ist variabel und kann ALLES sein.
|
||||||
2. Gib NUR die Strings aus der Kandidaten-Liste zurück, die zum Text passen.
|
2. Gib NUR die Strings aus der Kandidaten-Liste zurück, die zum Text passen.
|
||||||
3. Erfinde KEINE neuen Kanten. Nutze exakt die Schreibweise aus der Liste.
|
3. Erfinde KEINE neuen Kanten.
|
||||||
4. Antworte als flache JSON-Liste.
|
4. Antworte als flache JSON-Liste.
|
||||||
|
|
||||||
BEISPIEL (Zur Demonstration der Logik):
|
DEIN OUTPUT (JSON):
|
||||||
Input Text: "Das Projekt Alpha scheitert, weil Budget fehlt."
|
gemini: |
|
||||||
Input Kandidaten: ["blocks:Projekt Alpha", "inspired_by:Buch der Weisen", "needs:Budget"]
|
TASK: Ordne Kanten einem Textabschnitt zu.
|
||||||
Output: ["blocks:Projekt Alpha", "needs:Budget"]
|
ERLAUBTE TYPEN: {valid_types}
|
||||||
|
TEXT: {chunk_text}
|
||||||
|
KANDIDATEN: {edge_list}
|
||||||
|
OUTPUT: STRIKT eine flache JSON-Liste ["typ:ziel"]. Kein Text davor/danach. Wenn nichts: []. Keine Objekte!
|
||||||
|
openrouter: |
|
||||||
|
TASK: Filtere relevante Kanten aus dem Pool.
|
||||||
|
ERLAUBTE TYPEN: {valid_types}
|
||||||
|
TEXT: {chunk_text}
|
||||||
|
POOL: {edge_list}
|
||||||
|
ANWEISUNG: Gib NUR eine flache JSON-Liste von Strings zurück.
|
||||||
|
BEISPIEL: ["kind:target", "kind:target"]
|
||||||
|
REGEL: Kein Text, keine Analyse, keine Kommentare. Wenn nichts passt, gib [] zurück.
|
||||||
|
OUTPUT:
|
||||||
|
|
||||||
DEIN OUTPUT (JSON):
|
# ---------------------------------------------------------
|
||||||
|
# 7. SMART EDGE ALLOCATION: Extraktion (Intent: INGEST)
|
||||||
|
# ---------------------------------------------------------
|
||||||
|
edge_extraction:
|
||||||
|
ollama: |
|
||||||
|
TASK:
|
||||||
|
Du bist ein Wissens-Ingenieur für den digitalen Zwilling 'mindnet'.
|
||||||
|
Deine Aufgabe ist es, semantische Relationen (Kanten) aus dem Text zu extrahieren,
|
||||||
|
die die Hauptnotiz '{note_id}' mit anderen Konzepten verbinden.
|
||||||
|
|
||||||
|
ANWEISUNGEN:
|
||||||
|
1. Identifiziere wichtige Entitäten, Konzepte oder Ereignisse im Text.
|
||||||
|
2. Bestimme die Art der Beziehung (z.B. part_of, uses, related_to, blocks, caused_by).
|
||||||
|
3. Das Ziel (target) muss ein prägnanter Begriff sein.
|
||||||
|
4. Antworte AUSSCHLIESSLICH in validem JSON als Liste von Objekten.
|
||||||
|
|
||||||
|
BEISPIEL:
|
||||||
|
[[ {{"to": "Ziel-Konzept", \"kind\": \"beziehungs_typ\"}} ]]
|
||||||
|
|
||||||
|
TEXT:
|
||||||
|
"""
|
||||||
|
{text}
|
||||||
|
"""
|
||||||
|
|
||||||
|
DEIN OUTPUT (JSON):
|
||||||
|
gemini: |
|
||||||
|
Analysiere '{note_id}'. Extrahiere semantische Beziehungen.
|
||||||
|
ERLAUBTE TYPEN: {valid_types}
|
||||||
|
TEXT: {text}
|
||||||
|
OUTPUT: STRIKT JSON-Array von Objekten: [[{{"to\":\"Ziel\",\"kind\":\"typ\"}}]]. Kein Text davor/danach. Wenn nichts: [].
|
||||||
|
openrouter: |
|
||||||
|
TASK: Extrahiere semantische Relationen für '{note_id}'.
|
||||||
|
ERLAUBTE TYPEN: {valid_types}
|
||||||
|
TEXT: {text}
|
||||||
|
ANWEISUNG: Antworte AUSSCHLIESSLICH mit einem JSON-Array von Objekten.
|
||||||
|
FORMAT: [[{{"to\":\"Ziel-Begriff\",\"kind\":\"typ\"}}]]
|
||||||
|
STRIKTES VERBOT: Schreibe keine Einleitung, keine Analyse und keine Erklärungen.
|
||||||
|
Wenn keine Relationen existieren, antworte NUR mit: []
|
||||||
|
OUTPUT:
|
||||||
|
|
||||||
|
# ---------------------------------------------------------
|
||||||
|
# 8. WP-15b: EDGE VALIDATION (Intent: VALIDATE)
|
||||||
|
# ---------------------------------------------------------
|
||||||
|
edge_validation:
|
||||||
|
gemini: |
|
||||||
|
Bewerte die semantische Validität dieser Verbindung im Wissensgraph.
|
||||||
|
|
||||||
|
KONTEXT DER QUELLE (Chunk):
|
||||||
|
"{chunk_text}"
|
||||||
|
|
||||||
|
ZIEL-NOTIZ: "{target_title}"
|
||||||
|
ZIEL-BESCHREIBUNG (Zusammenfassung):
|
||||||
|
"{target_summary}"
|
||||||
|
|
||||||
|
GEPLANTE RELATION: "{edge_kind}"
|
||||||
|
|
||||||
|
FRAGE: Bestätigt der Kontext der Quelle die Beziehung '{edge_kind}' zum Ziel?
|
||||||
|
REGEL: Antworte NUR mit 'YES' oder 'NO'. Keine Erklärungen oder Smalltalk.
|
||||||
|
openrouter: |
|
||||||
|
Verify semantic relation for graph construction.
|
||||||
|
Source Context: {chunk_text}
|
||||||
|
Target Note: {target_title}
|
||||||
|
Target Summary: {target_summary}
|
||||||
|
Proposed Relation: {edge_kind}
|
||||||
|
Instruction: Does the source context support this relation to the target?
|
||||||
|
Result: Respond ONLY with 'YES' or 'NO'.
|
||||||
|
ollama: |
|
||||||
|
Bewerte die semantische Korrektheit dieser Verbindung.
|
||||||
|
QUELLE: {chunk_text}
|
||||||
|
ZIEL: {target_title} ({target_summary})
|
||||||
|
BEZIEHUNG: {edge_kind}
|
||||||
|
Ist diese Verbindung valide? Antworte NUR mit YES oder NO.
|
||||||
+44
-10
@@ -1,4 +1,4 @@
|
|||||||
version: 1.0
|
version: 1.2
|
||||||
|
|
||||||
scoring:
|
scoring:
|
||||||
# W_sem: skaliert den Term (semantic_score * retriever_weight)
|
# W_sem: skaliert den Term (semantic_score * retriever_weight)
|
||||||
@@ -6,20 +6,54 @@ scoring:
|
|||||||
semantic_weight: 1.0
|
semantic_weight: 1.0
|
||||||
|
|
||||||
# W_edge: skaliert edge_bonus aus dem Subgraph
|
# W_edge: skaliert edge_bonus aus dem Subgraph
|
||||||
# Empfehlung: 0.7 → Graph ist deutlich spürbar, aber überstimmt Semantik nicht komplett
|
# Empfehlung: 0.8 → Graph ist deutlich spürbar, aber überstimmt Semantik nicht komplett
|
||||||
edge_weight: 0.7
|
edge_weight: 0.8
|
||||||
|
|
||||||
# W_cent: skaliert centrality_bonus (Knoten-Zentralität im Subgraph)
|
# W_cent: skaliert centrality_bonus (Knoten-Zentralität im Subgraph)
|
||||||
# Empfehlung: 0.5 → zentrale Knoten werden bevorzugt, aber moderat
|
# Empfehlung: 0.5 → zentrale Knoten werden bevorzugt, aber moderat
|
||||||
centrality_weight: 0.5
|
centrality_weight: 0.5
|
||||||
|
|
||||||
|
# WP-22 Stellschraube: Lifecycle (Status-basiertes Scoring)
|
||||||
|
# Bonus für verifiziertes Wissen, Malus für Entwürfe
|
||||||
|
lifecycle_weights:
|
||||||
|
stable: 1.2 # +20% Bonus
|
||||||
|
active: 1.0 # Standardwert
|
||||||
|
draft: 0.5 # -50% Malus
|
||||||
|
system: 0.0 # Hard Skip via Ingestion
|
||||||
|
|
||||||
# Die nachfolgenden Werte überschreiben die Defaults aus app/core/retriever_config.
|
# Die nachfolgenden Werte überschreiben die Defaults aus app/core/retriever_config.
|
||||||
# Wenn neue Kantentypen, z.B. durch Referenzierung innerhalb einer md-Datei im vault anders gewichtet werden sollen, dann muss hier die Konfiguration erfolgen
|
# Wenn neue Kantentypen, z.B. durch Referenzierung innerhalb einer md-Datei im vault anders gewichtet werden sollen, dann muss hier die Konfiguration erfolgen
|
||||||
edge_types:
|
edge_types:
|
||||||
references: 0.20
|
# --- KATEGORIE 1: LOGIK-BOOSTS (Relevanz-Treiber) ---
|
||||||
depends_on: 0.18
|
# Diese Kanten haben die Kraft, das semantische Ranking aktiv umzugestalten.
|
||||||
related_to: 0.15
|
blocks: 1.6 # Kritisch: Risiken/Blocker müssen sofort sichtbar sein.
|
||||||
similar_to: 0.12
|
solves: 1.5 # Zielführend: Lösungen sind primäre Suchziele.
|
||||||
belongs_to: 0.10
|
depends_on: 1.4 # Logisch: Harte fachliche Abhängigkeit.
|
||||||
next: 0.06
|
resulted_in: 1.4 # Kausal: Ergebnisse und unmittelbare Konsequenzen.
|
||||||
prev: 0.06
|
followed_by: 1.3 # Sequenziell (User): Bewusst gesteuerte Wissenspfade.
|
||||||
|
caused_by: 1.2 # Kausal: Ursachen-Bezug (Basis für Intent-Boost).
|
||||||
|
preceded_by: 1.1 # Sequenziell (User): Rückwärts-Bezug in Logik-Ketten.
|
||||||
|
impacts: 1.2 # Langfristige Auswirkung/Einfluss
|
||||||
|
|
||||||
|
# --- KATEGORIE 2: QUALITATIVER KONTEXT (Stabilitäts-Stützen) ---
|
||||||
|
# Diese Kanten liefern wichtigen Kontext, ohne das Ergebnis zu verfälschen.
|
||||||
|
guides: 1.1 # Qualitativ: Prinzipien oder Werte leiten das Thema.
|
||||||
|
part_of: 1.1 # Strukturell: Zieht übergeordnete Kontexte (Parents) mit hoch.
|
||||||
|
based_on: 0.8 # Fundament: Bezug auf Basis-Werte (kalibriert auf Safe-Retrieval).
|
||||||
|
derived_from: 0.6 # Historisch: Dokumentiert die Herkunft von Wissen.
|
||||||
|
uses: 0.6 # Instrumentell: Genutzte Werkzeuge, Methoden oder Ressourcen.
|
||||||
|
|
||||||
|
# --- KATEGORIE 3: THEMATISCHE NÄHE (Ähnlichkeits-Signal) ---
|
||||||
|
# Diese Werte verhindern den "Drift" in fachfremde Bereiche.
|
||||||
|
similar_to: 0.4 # Analytisch: Thematische Nähe (oft KI-generiert).
|
||||||
|
|
||||||
|
# --- KATEGORIE 4: SYSTEM-NUDGES (Technische Struktur) ---
|
||||||
|
# Reine Orientierungshilfen für das System; fast kein Einfluss auf das Ranking.
|
||||||
|
belongs_to: 0.2 # System: Verknüpft Chunks mit der Note (Metadaten-Träger).
|
||||||
|
next: 0.1 # System: Technische Lesereihenfolge der Absätze.
|
||||||
|
prev: 0.1 # System: Technische Lesereihenfolge der Absätze.
|
||||||
|
|
||||||
|
# --- KATEGORIE 5: WEICHE ASSOZIATIONEN (Rausch-Unterdrückung) ---
|
||||||
|
# Verhindert, dass lose Verknüpfungen das Ergebnis "verwässern".
|
||||||
|
references: 0.1 # Assoziativ: Einfacher Querverweis oder Erwähnung.
|
||||||
|
related_to: 0.05 # Minimal: Schwächste thematische Verbindung.
|
||||||
+153
-18
@@ -1,4 +1,4 @@
|
|||||||
version: 2.6.0 # Final WP-15 Config: Smart Edges & Strict/Soft Chunking
|
version: 2.7.0 # WP-14 Update: Dynamisierung der Ingestion-Pipeline
|
||||||
|
|
||||||
# ==============================================================================
|
# ==============================================================================
|
||||||
# 1. CHUNKING PROFILES
|
# 1. CHUNKING PROFILES
|
||||||
@@ -76,40 +76,73 @@ defaults:
|
|||||||
edge_defaults: []
|
edge_defaults: []
|
||||||
|
|
||||||
# ==============================================================================
|
# ==============================================================================
|
||||||
# 3. TYPE DEFINITIONS
|
# 3. INGESTION SETTINGS (WP-14 Dynamization)
|
||||||
|
# ==============================================================================
|
||||||
|
# Steuert, welche Notizen verarbeitet werden und wie Fallbacks aussehen.
|
||||||
|
ingestion_settings:
|
||||||
|
# Liste der Status-Werte, die beim Import ignoriert werden sollen.
|
||||||
|
ignore_statuses: ["system", "template", "archive", "hidden"]
|
||||||
|
# Standard-Typ, falls kein Typ im Frontmatter angegeben ist.
|
||||||
|
default_note_type: "concept"
|
||||||
|
|
||||||
|
# ==============================================================================
|
||||||
|
# 4. SUMMARY & SCAN SETTINGS
|
||||||
|
# ==============================================================================
|
||||||
|
# Steuert die Tiefe des Pre-Scans für den Context-Cache.
|
||||||
|
summary_settings:
|
||||||
|
max_summary_length: 500
|
||||||
|
pre_scan_depth: 600
|
||||||
|
|
||||||
|
# ==============================================================================
|
||||||
|
# 5. LLM SETTINGS
|
||||||
|
# ==============================================================================
|
||||||
|
# Steuerzeichen und Patterns zur Bereinigung der LLM-Antworten.
|
||||||
|
llm_settings:
|
||||||
|
cleanup_patterns: ["<s>", "</s>", "[OUT]", "[/OUT]", "```json", "```"]
|
||||||
|
|
||||||
|
# ==============================================================================
|
||||||
|
# 6. TYPE DEFINITIONS
|
||||||
# ==============================================================================
|
# ==============================================================================
|
||||||
|
|
||||||
types:
|
types:
|
||||||
|
|
||||||
# --- KERNTYPEN ---
|
|
||||||
|
|
||||||
experience:
|
experience:
|
||||||
chunking_profile: sliding_smart_edges
|
chunking_profile: sliding_smart_edges
|
||||||
retriever_weight: 0.90
|
retriever_weight: 1.10 # Erhöht für biografische Relevanz
|
||||||
edge_defaults: ["derived_from", "references"]
|
edge_defaults: ["derived_from", "references"]
|
||||||
detection_keywords: ["passiert", "erlebt", "gefühl", "situation", "reaktion"]
|
detection_keywords: ["erleben", "reagieren", "handeln", "prägen", "reflektieren"]
|
||||||
schema:
|
schema:
|
||||||
- "Situation (Was ist passiert?)"
|
- "Situation (Was ist passiert?)"
|
||||||
- "Meine Reaktion (Was habe ich getan?)"
|
- "Meine Reaktion (Was habe ich getan?)"
|
||||||
- "Ergebnis & Auswirkung"
|
- "Ergebnis & Auswirkung"
|
||||||
- "Reflexion & Learning (Was lerne ich daraus?)"
|
- "Reflexion & Learning (Was lerne ich daraus?)"
|
||||||
|
|
||||||
|
insight:
|
||||||
|
chunking_profile: sliding_smart_edges
|
||||||
|
retriever_weight: 1.20 # Hoch gewichtet für aktuelle Steuerung
|
||||||
|
edge_defaults: ["references", "based_on"]
|
||||||
|
detection_keywords: ["beobachten", "erkennen", "verstehen", "analysieren", "schlussfolgern"]
|
||||||
|
schema:
|
||||||
|
- "Beobachtung (Was sehe ich?)"
|
||||||
|
- "Interpretation (Was bedeutet das?)"
|
||||||
|
- "Bedürfnis (Was steckt dahinter?)"
|
||||||
|
- "Handlungsempfehlung"
|
||||||
|
|
||||||
project:
|
project:
|
||||||
chunking_profile: sliding_smart_edges
|
chunking_profile: sliding_smart_edges
|
||||||
retriever_weight: 0.97
|
retriever_weight: 0.97
|
||||||
edge_defaults: ["references", "depends_on"]
|
edge_defaults: ["references", "depends_on"]
|
||||||
detection_keywords: ["projekt", "vorhaben", "ziel ist", "planen", "starten"]
|
detection_keywords: ["umsetzen", "planen", "starten", "bauen", "abschließen"]
|
||||||
schema:
|
schema:
|
||||||
- "Mission & Zielsetzung"
|
- "Mission & Zielsetzung"
|
||||||
- "Aktueller Status & Blockaden"
|
- "Aktueller Status & Blockaden"
|
||||||
- "Nächste konkrete Schritte"
|
- "Nächste konkrete Schritte"
|
||||||
|
|
||||||
decision:
|
decision:
|
||||||
# Strict, damit jede Entscheidung atomar bleibt
|
|
||||||
chunking_profile: structured_smart_edges_strict
|
chunking_profile: structured_smart_edges_strict
|
||||||
retriever_weight: 1.00
|
retriever_weight: 1.00
|
||||||
edge_defaults: ["caused_by", "references"]
|
edge_defaults: ["caused_by", "references"]
|
||||||
detection_keywords: ["entschieden", "wahl", "optionen", "alternativen", "adr"]
|
detection_keywords: ["entscheiden", "wählen", "abwägen", "priorisieren", "festlegen"]
|
||||||
schema:
|
schema:
|
||||||
- "Kontext & Problemstellung"
|
- "Kontext & Problemstellung"
|
||||||
- "Betrachtete Optionen"
|
- "Betrachtete Optionen"
|
||||||
@@ -119,34 +152,136 @@ types:
|
|||||||
# --- PERSÖNLICHKEIT & IDENTITÄT ---
|
# --- PERSÖNLICHKEIT & IDENTITÄT ---
|
||||||
|
|
||||||
value:
|
value:
|
||||||
# Strict, damit Werte nicht verschwimmen
|
|
||||||
chunking_profile: structured_smart_edges_strict
|
chunking_profile: structured_smart_edges_strict
|
||||||
retriever_weight: 1.00
|
retriever_weight: 1.00
|
||||||
edge_defaults: ["related_to"]
|
edge_defaults: ["related_to"]
|
||||||
detection_keywords: ["wert", "wichtig ist", "moral", "ethik"]
|
detection_keywords: ["werten", "achten", "verpflichten", "bedeuten"]
|
||||||
schema: ["Definition", "Warum mir das wichtig ist", "Leitsätze"]
|
schema:
|
||||||
|
- "Definition"
|
||||||
|
- "Warum mir das wichtig ist"
|
||||||
|
- "Leitsätze"
|
||||||
|
|
||||||
principle:
|
principle:
|
||||||
# L3 Strict für P3/P3a und Tier2/MP1 Logik
|
|
||||||
chunking_profile: structured_smart_edges_strict_L3
|
chunking_profile: structured_smart_edges_strict_L3
|
||||||
retriever_weight: 0.95
|
retriever_weight: 0.95
|
||||||
edge_defaults: ["derived_from", "references"]
|
edge_defaults: ["derived_from", "references"]
|
||||||
detection_keywords: ["prinzip", "regel", "grundsatz", "leitlinie"]
|
detection_keywords: ["leiten", "steuern", "ausrichten", "handhaben"]
|
||||||
schema: ["Das Prinzip", "Anwendung & Beispiele"]
|
schema:
|
||||||
|
- "Das Prinzip"
|
||||||
|
- "Anwendung & Beispiele"
|
||||||
|
|
||||||
|
trait:
|
||||||
|
chunking_profile: structured_smart_edges_strict
|
||||||
|
retriever_weight: 1.10
|
||||||
|
edge_defaults: ["related_to"]
|
||||||
|
detection_keywords: ["begeistern", "können", "auszeichnen", "befähigen", "stärken"]
|
||||||
|
schema:
|
||||||
|
- "Eigenschaft / Talent"
|
||||||
|
- "Beispiele aus der Praxis"
|
||||||
|
- "Potenzial für die Zukunft"
|
||||||
|
|
||||||
|
obstacle:
|
||||||
|
chunking_profile: structured_smart_edges_strict
|
||||||
|
retriever_weight: 1.00
|
||||||
|
edge_defaults: ["blocks", "related_to"]
|
||||||
|
detection_keywords: ["blockieren", "fürchten", "vermeiden", "hindern", "zweifeln"]
|
||||||
|
schema:
|
||||||
|
- "Beschreibung der Hürde"
|
||||||
|
- "Ursprung / Auslöser"
|
||||||
|
- "Auswirkung auf Ziele"
|
||||||
|
- "Gegenstrategie"
|
||||||
|
|
||||||
belief:
|
belief:
|
||||||
chunking_profile: sliding_short
|
chunking_profile: sliding_short
|
||||||
retriever_weight: 0.90
|
retriever_weight: 0.90
|
||||||
edge_defaults: ["related_to"]
|
edge_defaults: ["related_to"]
|
||||||
schema: ["Der Glaubenssatz", "Ursprung & Reflexion"]
|
detection_keywords: ["glauben", "meinen", "annehmen", "überzeugen"]
|
||||||
|
schema:
|
||||||
|
- "Der Glaubenssatz"
|
||||||
|
- "Ursprung & Reflexion"
|
||||||
|
|
||||||
profile:
|
profile:
|
||||||
# Strict: Jede Rolle (H2) muss ein eigener Chunk sein
|
|
||||||
chunking_profile: structured_smart_edges_strict
|
chunking_profile: structured_smart_edges_strict
|
||||||
retriever_weight: 0.70
|
retriever_weight: 0.70
|
||||||
edge_defaults: ["references", "related_to"]
|
edge_defaults: ["references", "related_to"]
|
||||||
schema: ["Rolle / Identität", "Fakten & Daten", "Historie"]
|
detection_keywords: ["verkörpern", "verantworten", "agieren", "repräsentieren"]
|
||||||
|
schema:
|
||||||
|
- "Rolle / Identität"
|
||||||
|
- "Fakten & Daten"
|
||||||
|
- "Historie"
|
||||||
|
|
||||||
|
|
||||||
|
idea:
|
||||||
|
chunking_profile: sliding_short
|
||||||
|
retriever_weight: 0.70
|
||||||
|
edge_defaults: ["leads_to", "references"]
|
||||||
|
detection_keywords: ["einfall", "gedanke", "potenzial", "möglichkeit"]
|
||||||
|
schema:
|
||||||
|
- "Der Kerngedanke"
|
||||||
|
- "Potenzial & Auswirkung"
|
||||||
|
- "Nächste Schritte"
|
||||||
|
|
||||||
|
skill:
|
||||||
|
chunking_profile: sliding_smart_edges
|
||||||
|
retriever_weight: 0.90
|
||||||
|
edge_defaults: ["references", "related_to"]
|
||||||
|
detection_keywords: ["lernen", "beherrschen", "üben", "fertigkeit", "kompetenz"]
|
||||||
|
schema:
|
||||||
|
- "Definition der Fähigkeit"
|
||||||
|
- "Aktueller Stand & Lernpfad"
|
||||||
|
- "Evidenz (Proof of Work)"
|
||||||
|
|
||||||
|
habit:
|
||||||
|
chunking_profile: sliding_short
|
||||||
|
retriever_weight: 0.85
|
||||||
|
edge_defaults: ["related_to", "triggered_by"]
|
||||||
|
detection_keywords: ["gewohnheit", "routine", "automatismus", "immer wenn"]
|
||||||
|
schema:
|
||||||
|
- "Auslöser (Trigger)"
|
||||||
|
- "Routine (Handlung)"
|
||||||
|
- "Belohnung (Reward)"
|
||||||
|
- "Strategie"
|
||||||
|
|
||||||
|
need:
|
||||||
|
chunking_profile: sliding_smart_edges
|
||||||
|
retriever_weight: 1.05
|
||||||
|
edge_defaults: ["related_to", "impacts"]
|
||||||
|
detection_keywords: ["bedürfnis", "brauchen", "mangel", "erfüllung"]
|
||||||
|
schema:
|
||||||
|
- "Das Bedürfnis"
|
||||||
|
- "Zustand (Mangel vs. Erfüllung)"
|
||||||
|
- "Bezug zu Werten"
|
||||||
|
|
||||||
|
motivation:
|
||||||
|
chunking_profile: sliding_smart_edges
|
||||||
|
retriever_weight: 0.95
|
||||||
|
edge_defaults: ["drives", "references"]
|
||||||
|
detection_keywords: ["motivation", "antrieb", "warum", "energie"]
|
||||||
|
schema:
|
||||||
|
- "Der Antrieb"
|
||||||
|
- "Zielbezug"
|
||||||
|
- "Energiequelle"
|
||||||
|
|
||||||
|
bias:
|
||||||
|
chunking_profile: sliding_short
|
||||||
|
retriever_weight: 0.80
|
||||||
|
edge_defaults: ["affects", "related_to"]
|
||||||
|
detection_keywords: ["denkfehler", "verzerrung", "vorurteil", "falle"]
|
||||||
|
schema: ["Beschreibung der Verzerrung", "Typische Situationen", "Gegenstrategie"]
|
||||||
|
|
||||||
|
state:
|
||||||
|
chunking_profile: sliding_short
|
||||||
|
retriever_weight: 0.60
|
||||||
|
edge_defaults: ["impacts"]
|
||||||
|
detection_keywords: ["stimmung", "energie", "gefühl", "verfassung"]
|
||||||
|
schema: ["Aktueller Zustand", "Auslöser", "Auswirkung auf den Tag"]
|
||||||
|
|
||||||
|
boundary:
|
||||||
|
chunking_profile: sliding_smart_edges
|
||||||
|
retriever_weight: 0.90
|
||||||
|
edge_defaults: ["protects", "related_to"]
|
||||||
|
detection_keywords: ["grenze", "nein sagen", "limit", "schutz"]
|
||||||
|
schema: ["Die Grenze", "Warum sie wichtig ist", "Konsequenz bei Verletzung"]
|
||||||
# --- STRATEGIE & RISIKO ---
|
# --- STRATEGIE & RISIKO ---
|
||||||
|
|
||||||
goal:
|
goal:
|
||||||
|
|||||||
@@ -18,9 +18,12 @@ Das Repository ist in **logische Domänen** unterteilt.
|
|||||||
*Zielgruppe: Alle*
|
*Zielgruppe: Alle*
|
||||||
| Datei | Inhalt & Zweck |
|
| Datei | Inhalt & Zweck |
|
||||||
| :--- | :--- |
|
| :--- | :--- |
|
||||||
|
| `README.md` | **Einstiegspunkt.** Übersicht über die Dokumentationsstruktur, Schnellzugriff nach Rollen und Navigation. |
|
||||||
|
| `00_quickstart.md` | **Schnellstart.** Installation und erste Schritte in 15 Minuten. Ideal für neue Benutzer. |
|
||||||
| `00_vision_and_strategy.md` | **Strategie.** Warum bauen wir das? Prinzipien (Privacy, Local-First), High-Level Architektur. |
|
| `00_vision_and_strategy.md` | **Strategie.** Warum bauen wir das? Prinzipien (Privacy, Local-First), High-Level Architektur. |
|
||||||
| `00_glossary.md` | **Definitionen.** Was bedeutet "Smart Edge", "Traffic Control", "Chunk"? Verhindert Begriffsverwirrung. |
|
| `00_glossary.md` | **Definitionen.** Was bedeutet "Smart Edge", "Traffic Control", "Chunk"? Verhindert Begriffsverwirrung. |
|
||||||
| `00_documentation_map.md` | **Dieser Index.** Navigationshilfe. |
|
| `00_documentation_map.md` | **Dieser Index.** Navigationshilfe. |
|
||||||
|
| `00_quality_checklist.md` | **Qualitätsprüfung.** Systematische Checkliste zur Vollständigkeitsprüfung für alle Rollen. |
|
||||||
|
|
||||||
### 📂 01_User_Manual (Anwendung)
|
### 📂 01_User_Manual (Anwendung)
|
||||||
*Zielgruppe: Mindmaster, Autoren, Power-User*
|
*Zielgruppe: Mindmaster, Autoren, Power-User*
|
||||||
@@ -28,6 +31,8 @@ Das Repository ist in **logische Domänen** unterteilt.
|
|||||||
| :--- | :--- |
|
| :--- | :--- |
|
||||||
| `01_chat_usage_guide.md` | **Bedienung.** Wie steuere ich die Personas (Berater, Spiegel)? Wie nutze ich das Feedback? |
|
| `01_chat_usage_guide.md` | **Bedienung.** Wie steuere ich die Personas (Berater, Spiegel)? Wie nutze ich das Feedback? |
|
||||||
| `01_knowledge_design.md` | **Content-Regeln.** Die "Bibel" für den Vault. Erklärt Note-Typen, Matrix-Logik und Markdown-Syntax. |
|
| `01_knowledge_design.md` | **Content-Regeln.** Die "Bibel" für den Vault. Erklärt Note-Typen, Matrix-Logik und Markdown-Syntax. |
|
||||||
|
| `01_authoring_guidelines.md` | **Content strukturieren.** Primäres Werkzeug, um Wissen so zu strukturieren, dass Mindnet die Persönlichkeit spiegelt, empathisch reagiert und strategisch berät. |
|
||||||
|
| `01_obsidian_integration_guide.md` | **Obsidian Setup.** Technische Anleitung für die Integration von Mindnet mit Obsidian (Templater, Skripte, Workflows). |
|
||||||
|
|
||||||
### 📂 02_Concepts (Fachliche Logik)
|
### 📂 02_Concepts (Fachliche Logik)
|
||||||
*Zielgruppe: Architekten, Product Owner*
|
*Zielgruppe: Architekten, Product Owner*
|
||||||
@@ -35,6 +40,7 @@ Das Repository ist in **logische Domänen** unterteilt.
|
|||||||
| :--- | :--- |
|
| :--- | :--- |
|
||||||
| `02_concept_graph_logic.md` | **Graph-Theorie.** Abstrakte Erklärung von Knoten, Kanten, Provenance und Idempotenz. |
|
| `02_concept_graph_logic.md` | **Graph-Theorie.** Abstrakte Erklärung von Knoten, Kanten, Provenance und Idempotenz. |
|
||||||
| `02_concept_ai_personality.md`| **KI-Verhalten.** Konzepte hinter dem Hybrid Router, Empathie-Modell und "Teach-the-AI". |
|
| `02_concept_ai_personality.md`| **KI-Verhalten.** Konzepte hinter dem Hybrid Router, Empathie-Modell und "Teach-the-AI". |
|
||||||
|
| `02_concept_architecture_patterns.md` | **Architektur-Patterns.** Design-Entscheidungen, modulare Struktur (WP-14), Resilienz-Patterns und Erweiterbarkeit. |
|
||||||
|
|
||||||
### 📂 03_Technical_Reference (Technik & Code)
|
### 📂 03_Technical_Reference (Technik & Code)
|
||||||
*Zielgruppe: Entwickler, DevOps. (Enthält JSON/YAML Beispiele)*
|
*Zielgruppe: Entwickler, DevOps. (Enthält JSON/YAML Beispiele)*
|
||||||
@@ -46,12 +52,15 @@ Das Repository ist in **logische Domänen** unterteilt.
|
|||||||
| `03_tech_chat_backend.md` | **API & LLM.** Implementation des Routers, Traffic Control (Semaphore) und Feedback-Traceability. |
|
| `03_tech_chat_backend.md` | **API & LLM.** Implementation des Routers, Traffic Control (Semaphore) und Feedback-Traceability. |
|
||||||
| `03_tech_frontend.md` | **UI & Graph.** Architektur des Streamlit-Frontends, State-Management, Cytoscape-Integration und Editor-Logik. |
|
| `03_tech_frontend.md` | **UI & Graph.** Architektur des Streamlit-Frontends, State-Management, Cytoscape-Integration und Editor-Logik. |
|
||||||
| `03_tech_configuration.md` | **Config.** Referenztabellen für `.env`, `types.yaml` und `retriever.yaml`. |
|
| `03_tech_configuration.md` | **Config.** Referenztabellen für `.env`, `types.yaml` und `retriever.yaml`. |
|
||||||
|
| `03_tech_api_reference.md` | **API-Referenz.** Vollständige Dokumentation aller Endpunkte (`/query`, `/chat`, `/ingest`, `/graph`, etc.). |
|
||||||
|
|
||||||
### 📂 04_Operations (Betrieb)
|
### 📂 04_Operations (Betrieb)
|
||||||
*Zielgruppe: Administratoren*
|
*Zielgruppe: Administratoren*
|
||||||
| Datei | Inhalt & Zweck |
|
| Datei | Inhalt & Zweck |
|
||||||
| :--- | :--- |
|
| :--- | :--- |
|
||||||
| `04_admin_operations.md` | **Runbook.** Installation, Docker-Setup, Backup/Restore, Troubleshooting Guide. |
|
| `04_admin_operations.md` | **Runbook.** Installation, Docker-Setup, Backup/Restore, Troubleshooting Guide. |
|
||||||
|
| `04_server_operation_manual.md` | **Server-Betrieb.** Detaillierte Dokumentation für den Betrieb auf llm-node (Systemd, Borgmatic, Disaster Recovery). |
|
||||||
|
| `04_deployment_guide.md` | **Deployment.** CI/CD-Pipelines, Rollout-Strategien, Versionierung, Rollback und Pre/Post-Deployment-Checklisten. |
|
||||||
|
|
||||||
### 📂 05_Development (Code)
|
### 📂 05_Development (Code)
|
||||||
*Zielgruppe: Entwickler*
|
*Zielgruppe: Entwickler*
|
||||||
@@ -59,6 +68,7 @@ Das Repository ist in **logische Domänen** unterteilt.
|
|||||||
| :--- | :--- |
|
| :--- | :--- |
|
||||||
| `05_developer_guide.md` | **Workflow.** Hardware-Setup (Win/Pi/Beelink), Git-Flow, Test-Befehle, Modul-Interna. |
|
| `05_developer_guide.md` | **Workflow.** Hardware-Setup (Win/Pi/Beelink), Git-Flow, Test-Befehle, Modul-Interna. |
|
||||||
| `05_genai_best_practices.md` | **AI Workflow.** Prompt-Library, Templates und Best Practices für die Entwicklung mit LLMs. |
|
| `05_genai_best_practices.md` | **AI Workflow.** Prompt-Library, Templates und Best Practices für die Entwicklung mit LLMs. |
|
||||||
|
| `05_testing_guide.md` | **Testing.** Umfassender Test-Guide: Strategien, Frameworks, Test-Daten, Best Practices. |
|
||||||
|
|
||||||
### 📂 06_Roadmap & 99_Archive
|
### 📂 06_Roadmap & 99_Archive
|
||||||
*Zielgruppe: Projektleitung*
|
*Zielgruppe: Projektleitung*
|
||||||
@@ -81,7 +91,9 @@ Nutze diese Matrix, wenn du ein Workpackage bearbeitest, um die Dokumentation ko
|
|||||||
| **Retrieval / Scoring** | `03_tech_retrieval_scoring.md` (Formeln anpassen) |
|
| **Retrieval / Scoring** | `03_tech_retrieval_scoring.md` (Formeln anpassen) |
|
||||||
| **Frontend / Visualisierung** | 1. `03_tech_frontend.md` (Technische Details)<br>2. `01_chat_usage_guide.md` (Bedienung) |
|
| **Frontend / Visualisierung** | 1. `03_tech_frontend.md` (Technische Details)<br>2. `01_chat_usage_guide.md` (Bedienung) |
|
||||||
| **Chat-Logik / Prompts**| 1. `02_concept_ai_personality.md` (Konzept)<br>2. `03_tech_chat_backend.md` (Tech)<br>3. `01_chat_usage_guide.md` (User-Sicht) |
|
| **Chat-Logik / Prompts**| 1. `02_concept_ai_personality.md` (Konzept)<br>2. `03_tech_chat_backend.md` (Tech)<br>3. `01_chat_usage_guide.md` (User-Sicht) |
|
||||||
| **Deployment / Server** | `04_admin_operations.md` |
|
| **Architektur / Design-Patterns** | 1. `02_concept_architecture_patterns.md` (Patterns & Entscheidungen)<br>2. `02_concept_graph_logic.md` (Graph-Theorie)<br>3. `05_developer_guide.md` (Modulare Struktur) |
|
||||||
|
| **Deployment / Server** | 1. `04_deployment_guide.md` (CI/CD, Rollout)<br>2. `04_admin_operations.md` (Installation, Wartung)<br>3. `04_server_operation_manual.md` (Server-Betrieb) |
|
||||||
|
| **Testing / QA** | 1. `05_testing_guide.md` (Test-Strategien & Frameworks)<br>2. `05_developer_guide.md` (Test-Befehle) |
|
||||||
| **Neuen Features (Allg.)**| `06_active_roadmap.md` (Status Update) |
|
| **Neuen Features (Allg.)**| `06_active_roadmap.md` (Status Update) |
|
||||||
|
|
||||||
---
|
---
|
||||||
@@ -110,3 +122,37 @@ Damit dieses System wartbar bleibt (auch für KI-Agenten wie NotebookLM), gelten
|
|||||||
context: "Beschreibung der Scoring-Formel."
|
context: "Beschreibung der Scoring-Formel."
|
||||||
---
|
---
|
||||||
```
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Schnellzugriff & Empfehlungen
|
||||||
|
|
||||||
|
### Für neue Benutzer
|
||||||
|
1. Starte mit **[Schnellstart](00_quickstart.md)** für die Installation
|
||||||
|
2. Lese **[Vision & Strategie](00_vision_and_strategy.md)** für das große Bild
|
||||||
|
3. Nutze **[Chat Usage Guide](../01_User_Manual/01_chat_usage_guide.md)** für die ersten Schritte
|
||||||
|
|
||||||
|
### Für Entwickler
|
||||||
|
1. **[Developer Guide](../05_Development/05_developer_guide.md)** - Umfassender technischer Guide
|
||||||
|
2. **[Technical References](../03_Technical_References/)** - Detaillierte API- und Architektur-Dokumentation
|
||||||
|
3. **[GenAI Best Practices](../05_Development/05_genai_best_practices.md)** - Workflow mit LLMs
|
||||||
|
|
||||||
|
### Für Administratoren
|
||||||
|
1. **[Admin Operations](../04_Operations/04_admin_operations.md)** - Installation und Wartung
|
||||||
|
2. **[Server Operations Manual](../04_Operations/04_server_operation_manual.md)** - Server-Betrieb und Disaster Recovery
|
||||||
|
3. **[Troubleshooting Guide](../04_Operations/04_admin_operations.md#33-troubleshooting-guide)** - Häufige Probleme und Lösungen
|
||||||
|
|
||||||
|
### Für Autoren
|
||||||
|
1. **[Knowledge Design](../01_User_Manual/01_knowledge_design.md)** - Content-Regeln und Best Practices
|
||||||
|
2. **[Authoring Guidelines](../01_User_Manual/01_authoring_guidelines.md)** - Strukturierung für den Digitalen Zwilling
|
||||||
|
3. **[Obsidian Integration](../01_User_Manual/01_obsidian_integration_guide.md)** - Workflow-Optimierung
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Dokumentations-Status
|
||||||
|
|
||||||
|
**Aktuelle Version:** 2.9.1
|
||||||
|
**Letzte Aktualisierung:** 2025-01-XX
|
||||||
|
**Status:** ✅ Vollständig und aktiv gepflegt
|
||||||
|
|
||||||
|
**Hinweis:** Diese Dokumentation wird kontinuierlich aktualisiert. Bei Fragen oder Verbesserungsvorschlägen bitte im Repository melden.
|
||||||
@@ -2,13 +2,13 @@
|
|||||||
doc_type: glossary
|
doc_type: glossary
|
||||||
audience: all
|
audience: all
|
||||||
status: active
|
status: active
|
||||||
version: 2.7.0
|
version: 2.8.1
|
||||||
context: "Zentrales Glossar für Mindnet v2.7. Definitionen von Entitäten, WP-22 Scoring-Konzepten und der Edge Registry."
|
context: "Zentrales Glossar für Mindnet v2.8. Enthält Definitionen zu Hybrid-Cloud Resilienz, WP-14 Modularisierung, WP-15b Two-Pass Ingestion und Mistral-safe Parsing."
|
||||||
---
|
---
|
||||||
|
|
||||||
# Mindnet Glossar
|
# Mindnet Glossar
|
||||||
|
|
||||||
**Quellen:** `01_edge_vocabulary.md`, `retriever_scoring.py`, `edge_registry.py`
|
**Quellen:** `01_edge_vocabulary.md`, `llm_service.py`, `ingestion.py`, `edge_registry.py`, `registry.py`, `qdrant.py`
|
||||||
|
|
||||||
## Kern-Entitäten
|
## Kern-Entitäten
|
||||||
|
|
||||||
@@ -21,21 +21,30 @@ context: "Zentrales Glossar für Mindnet v2.7. Definitionen von Entitäten, WP-2
|
|||||||
## Komponenten
|
## Komponenten
|
||||||
|
|
||||||
* **Edge Registry:** Der zentrale Dienst (SSOT), der Kanten-Typen validiert und Aliase in kanonische Typen auflöst. Nutzt `01_edge_vocabulary.md` als Basis.
|
* **Edge Registry:** Der zentrale Dienst (SSOT), der Kanten-Typen validiert und Aliase in kanonische Typen auflöst. Nutzt `01_edge_vocabulary.md` als Basis.
|
||||||
* **Retriever:** Besteht in v2.7 aus der Orchestrierung (`retriever.py`) und der mathematischen Scoring-Engine (`retriever_scoring.py`).
|
* **LLM Service:** Der Hybrid-Client (v3.3.6), der Anfragen zwischen OpenRouter, Google Gemini und lokalem Ollama routet. Verwaltet Cloud-Timeouts und Quoten-Management. Nutzt zur Text-Bereinigung nun die neutrale `registry.py`, um Circular Imports zu vermeiden.
|
||||||
|
* **Retriever:** Besteht in v2.7+ aus der Orchestrierung (`retriever.py`) und der mathematischen Scoring-Engine (`retriever_scoring.py`). Seit WP-14 im Paket `app.core.retrieval` gekapselt.
|
||||||
* **Decision Engine:** Teil des Routers, der Intents erkennt und entsprechende **Boost-Faktoren** für das Retrieval injiziert.
|
* **Decision Engine:** Teil des Routers, der Intents erkennt und entsprechende **Boost-Faktoren** für das Retrieval injiziert.
|
||||||
* **Traffic Control:** Verwaltet Prioritäten und drosselt Hintergrund-Tasks (z.B. Smart Edges) mittels Semaphoren.
|
* **Traffic Control:** Verwaltet Prioritäten und drosselt Hintergrund-Tasks (z.B. Smart Edges) mittels Semaphoren und Timeouts (45s) zur Vermeidung von System-Hangs.
|
||||||
* **Unknown Edges Log:** Die Datei `unknown_edges.jsonl`, in der das System Kanten-Typen protokolliert, die nicht im Dictionary gefunden wurden.
|
* **Unknown Edges Log:** Die Datei `unknown_edges.jsonl`, in der das System Kanten-Typen protokolliert, die nicht im Dictionary gefunden wurden.
|
||||||
|
* **Database Package (WP-14):** Zentralisiertes Infrastruktur-Paket (`app.core.database`), das den Qdrant-Client (`qdrant.py`) und das Point-Mapping (`qdrant_points.py`) verwaltet.
|
||||||
|
* **LocalBatchCache (WP-15b):** Ein globaler In-Memory-Index, der während des Pass 1 Scans aufgebaut wird und Metadaten (IDs, Titel, Summaries) aller Notizen für die Kantenvalidierung bereithält.
|
||||||
|
|
||||||
## Konzepte & Features
|
## Konzepte & Features
|
||||||
|
|
||||||
* **Canonical Type:** Der standardisierte System-Name einer Kante (z.B. `based_on`), der in der Datenbank gespeichert wird.
|
* **Hybrid Provider Cascade:** Die intelligente Reihenfolge der Modell-Ansprache. Schlägt die Cloud (OpenRouter/Gemini) fehl, erfolgt nach Retries ein Fallback auf den lokalen Ollama (Quoten-Schutz).
|
||||||
* **Alias (Edge):** Ein nutzerfreundliches Synonym (z.B. `basiert_auf`), das während der Ingestion automatisch zum Canonical Type aufgelöst wird.
|
* **Deep Fallback (v2.11.14, WP20):** Ein inhaltsbasierter Rettungsmechanismus in der Ingestion. Im Gegensatz zum technischen Fallback (bei Verbindungsfehlern) wird der Deep Fallback ausgelöst, wenn ein Cloud-Modell zwar technisch erfolgreich antwortet, aber inhaltlich keine verwertbaren Daten liefert (z. B. bei "Data Policy Violations").
|
||||||
|
* **Silent Refusal (WP20):** Ein Zustand, in dem Cloud-Provider (wie OpenRouter) die Verarbeitung eines Dokuments aufgrund interner Filter ("No data training") verweigern, ohne einen HTTP-Fehler zu senden. Wird durch Deep Fallback abgefangen.
|
||||||
|
* **Rate-Limit Resilience (WP-20):** Automatisierte Erkennung von HTTP 429 Fehlern. Das System pausiert (konfigurierbar via `LLM_RATE_LIMIT_WAIT`) und wiederholt den Cloud-Call, bevor der langsame Fallback ausgelöst wird.
|
||||||
|
* **Mistral-safe Parsing:** Robuste Extraktions-Logik in Ingestion und Analyzer, die technische Steuerzeichen (`<s>`, `[OUT]`) und Framework-Tags erkennt und entfernt, um valides JSON aus Free-Modellen zu gewinnen.
|
||||||
* **Lifecycle Scoring (WP-22):** Ein Mechanismus, der die Relevanz einer Notiz basierend auf ihrem Status gewichtet (z.B. Bonus für `stable`, Malus für `draft`).
|
* **Lifecycle Scoring (WP-22):** Ein Mechanismus, der die Relevanz einer Notiz basierend auf ihrem Status gewichtet (z.B. Bonus für `stable`, Malus für `draft`).
|
||||||
* **Intent Boosting:** Dynamische Erhöhung der Kanten-Gewichte basierend auf der Nutzerfrage (z.B. Fokus auf `caused_by` bei "Warum"-Fragen).
|
* **Intent Boosting:** Dynamische Erhöhung der Kanten-Gewichte basierend auf der Nutzerfrage (z.B. Fokus auf `caused_by` bei "Warum"-Fragen).
|
||||||
* **Provenance Weighting:** Gewichtung einer Kante nach ihrer Herkunft:
|
* **Provenance Weighting:** Gewichtung einer Kante nach ihrer Herkunft:
|
||||||
* `explicit`: Vom Mensch gesetzt (Prio 1).
|
* `explicit`: Vom Mensch gesetzt (Prio 1).
|
||||||
* `smart`: Von der KI validiert (Prio 2).
|
* `semantic_ai`: Von der KI im Turbo-Mode extrahiert und validiert (Prio 2).
|
||||||
* `rule`: Durch System-Regeln/Matrix erzeugt (Prio 3).
|
* `structure`: Durch System-Regeln/Matrix erzeugt (Prio 3).
|
||||||
* **Smart Edge Allocation:** KI-Verfahren zur Relevanzprüfung von Links für spezifische Textabschnitte.
|
* **Smart Edge Allocation (WP-15b):** KI-Verfahren zur Relevanzprüfung von Links für spezifische Textabschnitte. Validiert Kandidaten semantisch gegen das Ziel im LocalBatchCache.
|
||||||
* **Strict Heading Split:** Chunking-Strategie mit harten Grenzen an Überschriften und integriertem "Safety Net" gegen zu große Chunks.
|
|
||||||
* **Matrix Logic:** Bestimmung des Kanten-Typs basierend auf Quell- und Ziel-Entität (z.B. Erfahrung -> Wert = `based_on`).
|
* **Matrix Logic:** Bestimmung des Kanten-Typs basierend auf Quell- und Ziel-Entität (z.B. Erfahrung -> Wert = `based_on`).
|
||||||
|
* **Two-Pass Workflow (WP-15b):** Optimiertes Ingestion-Verfahren:
|
||||||
|
* **Pass 1 (Pre-Scan):** Schnelles Scannen aller Dateien zur Befüllung des LocalBatchCache.
|
||||||
|
* **Pass 2 (Semantic Processing):** Tiefenverarbeitung (Chunking, Embedding, Validierung) nur für geänderte Dateien.
|
||||||
|
* **Circular Import Registry (WP-14):** Entkopplung von Kern-Logik (wie Textbereinigung) in eine neutrale `registry.py`, um Abhängigkeitsschleifen zwischen Diensten und Ingestion-Utilities zu verhindern.
|
||||||
@@ -0,0 +1,166 @@
|
|||||||
|
---
|
||||||
|
doc_type: quality_assurance
|
||||||
|
audience: all
|
||||||
|
status: active
|
||||||
|
version: 2.9.1
|
||||||
|
context: "Qualitätsprüfung der Dokumentation für alle Rollen: Vollständigkeit, Korrektheit und Anwendbarkeit."
|
||||||
|
---
|
||||||
|
|
||||||
|
# Dokumentations-Qualitätsprüfung
|
||||||
|
|
||||||
|
Diese Checkliste dient zur systematischen Prüfung, ob die Dokumentation alle Fragen jeder Rolle vollständig beantwortet.
|
||||||
|
|
||||||
|
## ✅ Entwickler
|
||||||
|
|
||||||
|
### Setup & Installation
|
||||||
|
- [x] **Lokales Setup:** [Developer Guide](../05_Development/05_developer_guide.md#6-lokales-setup-development)
|
||||||
|
- [x] **Schnellstart:** [Quickstart](00_quickstart.md)
|
||||||
|
- [x] **Hardware-Anforderungen:** [Admin Operations](../04_Operations/04_admin_operations.md#11-voraussetzungen)
|
||||||
|
|
||||||
|
### Architektur & Code
|
||||||
|
- [x] **Modulare Struktur:** [Developer Guide - Architektur](../05_Development/05_developer_guide.md#4-projektstruktur--modul-referenz-deep-dive)
|
||||||
|
- [x] **Design-Patterns:** [Architektur-Patterns](../02_concepts/02_concept_architecture_patterns.md)
|
||||||
|
- [x] **API-Referenz:** [API Reference](../03_Technical_References/03_tech_api_reference.md)
|
||||||
|
- [x] **Datenmodell:** [Data Model](../03_Technical_References/03_tech_data_model.md)
|
||||||
|
|
||||||
|
### Entwicklung & Erweiterung
|
||||||
|
- [x] **Workflow:** [Developer Guide - Workflow](../05_Development/05_developer_guide.md#7-der-entwicklungs-zyklus-workflow)
|
||||||
|
- [x] **Erweiterungs-Guide:** [Teach-the-AI](../05_Development/05_developer_guide.md#8-erweiterungs-guide-teach-the-ai)
|
||||||
|
- [x] **GenAI Best Practices:** [GenAI Best Practices](../05_Development/05_genai_best_practices.md)
|
||||||
|
|
||||||
|
### Testing
|
||||||
|
- [x] **Test-Strategien:** [Testing Guide](../05_Development/05_testing_guide.md)
|
||||||
|
- [x] **Test-Frameworks:** [Testing Guide - Frameworks](../05_Development/05_testing_guide.md#3-test-frameworks--tools)
|
||||||
|
- [x] **Test-Daten:** [Testing Guide - Test-Daten](../05_Development/05_testing_guide.md#2-test-daten--vaults)
|
||||||
|
|
||||||
|
### Debugging & Troubleshooting
|
||||||
|
- [x] **Troubleshooting:** [Developer Guide - Troubleshooting](../05_Development/05_developer_guide.md#10-troubleshooting--one-liners)
|
||||||
|
- [x] **Debug-Tools:** [Testing Guide - Debugging](../05_Development/05_testing_guide.md#7-debugging--diagnose)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## ✅ Administratoren
|
||||||
|
|
||||||
|
### Installation & Setup
|
||||||
|
- [x] **Installation:** [Admin Operations](../04_Operations/04_admin_operations.md#1-installation--setup)
|
||||||
|
- [x] **Docker Setup:** [Admin Operations - Qdrant](../04_Operations/04_admin_operations.md#12-qdrant-docker)
|
||||||
|
- [x] **Systemd Services:** [Admin Operations - Deployment](../04_Operations/04_admin_operations.md#2-deployment-systemd-services)
|
||||||
|
|
||||||
|
### Betrieb & Wartung
|
||||||
|
- [x] **Monitoring:** [Admin Operations - Wartung](../04_Operations/04_admin_operations.md#3-wartung--monitoring)
|
||||||
|
- [x] **Backup & Restore:** [Admin Operations - Backup](../04_Operations/04_admin_operations.md#4-backup--restore)
|
||||||
|
- [x] **Troubleshooting:** [Admin Operations - Troubleshooting](../04_Operations/04_admin_operations.md#33-troubleshooting-guide)
|
||||||
|
|
||||||
|
### Server-Betrieb
|
||||||
|
- [x] **Server-Konfiguration:** [Server Operations Manual](../04_Operations/04_server_operation_manual.md)
|
||||||
|
- [x] **Disaster Recovery:** [Server Operations - DR](../04_Operations/04_server_operation_manual.md#5-disaster-recovery-wiederherstellung-two-stage-dr)
|
||||||
|
- [x] **Backup-Strategie:** [Server Operations - Backup](../04_Operations/04_server_operation_manual.md#4-backup-strategie-borgmatic)
|
||||||
|
|
||||||
|
### Konfiguration
|
||||||
|
- [x] **ENV-Variablen:** [Configuration Reference](../03_Technical_References/03_tech_configuration.md#1-environment-variablen-env)
|
||||||
|
- [x] **YAML-Configs:** [Configuration Reference - YAML](../03_Technical_References/03_tech_configuration.md#2-typ-registry-typesyaml)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## ✅ Anwender
|
||||||
|
|
||||||
|
### Erste Schritte
|
||||||
|
- [x] **Schnellstart:** [Quickstart](00_quickstart.md)
|
||||||
|
- [x] **Was ist Mindnet:** [Vision & Strategie](00_vision_and_strategy.md)
|
||||||
|
- [x] **Grundlagen:** [Glossar](00_glossary.md)
|
||||||
|
|
||||||
|
### Nutzung
|
||||||
|
- [x] **Chat-Bedienung:** [Chat Usage Guide](../01_User_Manual/01_chat_usage_guide.md)
|
||||||
|
- [x] **Graph Explorer:** [Chat Usage Guide - Graph](../01_User_Manual/01_chat_usage_guide.md#22-modus--graph-explorer-cytoscape)
|
||||||
|
- [x] **Editor:** [Chat Usage Guide - Editor](../01_User_Manual/01_chat_usage_guide.md#23-modus--manueller-editor)
|
||||||
|
|
||||||
|
### Content-Erstellung
|
||||||
|
- [x] **Knowledge Design:** [Knowledge Design Manual](../01_User_Manual/01_knowledge_design.md)
|
||||||
|
- [x] **Authoring Guidelines:** [Authoring Guidelines](../01_User_Manual/01_authoring_guidelines.md)
|
||||||
|
- [x] **Obsidian-Integration:** [Obsidian Integration](../01_User_Manual/01_obsidian_integration_guide.md)
|
||||||
|
|
||||||
|
### Häufige Fragen
|
||||||
|
- [x] **Wie strukturiere ich Notizen?** → [Knowledge Design](../01_User_Manual/01_knowledge_design.md)
|
||||||
|
- [x] **Welche Note-Typen gibt es?** → [Knowledge Design - Typ-Referenz](../01_User_Manual/01_knowledge_design.md#31-typ-referenz--stream-logik)
|
||||||
|
- [x] **Wie verknüpfe ich Notizen?** → [Knowledge Design - Edges](../01_User_Manual/01_knowledge_design.md#4-edges--verlinkung)
|
||||||
|
- [x] **Wie nutze ich den Chat?** → [Chat Usage Guide](../01_User_Manual/01_chat_usage_guide.md)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## ✅ Tester
|
||||||
|
|
||||||
|
### Test-Strategien
|
||||||
|
- [x] **Test-Pyramide:** [Testing Guide - Strategien](../05_Development/05_testing_guide.md#1-test-strategie--ebenen)
|
||||||
|
- [x] **Unit Tests:** [Testing Guide - Unit Tests](../05_Development/05_testing_guide.md#11-unit-tests-pytest)
|
||||||
|
- [x] **Integration Tests:** [Testing Guide - Integration](../05_Development/05_testing_guide.md#12-integration-tests)
|
||||||
|
- [x] **E2E Tests:** [Testing Guide - E2E](../05_Development/05_testing_guide.md#13-e2e--smoke-tests)
|
||||||
|
|
||||||
|
### Test-Frameworks
|
||||||
|
- [x] **Pytest:** [Testing Guide - Frameworks](../05_Development/05_testing_guide.md#31-pytest-unit-tests)
|
||||||
|
- [x] **Unittest:** [Testing Guide - Unittest](../05_Development/05_testing_guide.md#32-unittest-e2e-tests)
|
||||||
|
- [x] **Shell-Skripte:** [Testing Guide - Shell](../05_Development/05_testing_guide.md#33-shell-skripte-e2e-roundtrip)
|
||||||
|
|
||||||
|
### Test-Daten & Tools
|
||||||
|
- [x] **Test-Vault erstellen:** [Testing Guide - Test-Daten](../05_Development/05_testing_guide.md#21-test-vault-erstellen)
|
||||||
|
- [x] **Test-Skripte:** [Developer Guide - Scripts](../05_Development/05_developer_guide.md#44-scripts--tooling-die-admin-toolbox)
|
||||||
|
- [x] **Test-Checkliste:** [Testing Guide - Checkliste](../05_Development/05_testing_guide.md#8-test-checkliste-für-pull-requests)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## ✅ Deployment
|
||||||
|
|
||||||
|
### Deployment-Prozesse
|
||||||
|
- [x] **Deployment-Guide:** [Deployment Guide](../04_Operations/04_deployment_guide.md)
|
||||||
|
- [x] **CI/CD Pipeline:** [Deployment Guide - CI/CD](../04_Operations/04_deployment_guide.md#9-cicd-pipeline-details)
|
||||||
|
- [x] **Rollout-Strategien:** [Deployment Guide - Rollout](../04_Operations/04_deployment_guide.md#4-rollout-strategien)
|
||||||
|
|
||||||
|
### Versionierung & Releases
|
||||||
|
- [x] **Version-Schema:** [Deployment Guide - Versionierung](../04_Operations/04_deployment_guide.md#51-version-schema)
|
||||||
|
- [x] **Release-Prozess:** [Deployment Guide - Release](../04_Operations/04_deployment_guide.md#52-release-prozess)
|
||||||
|
|
||||||
|
### Rollback & Recovery
|
||||||
|
- [x] **Rollback-Strategien:** [Deployment Guide - Rollback](../04_Operations/04_deployment_guide.md#6-rollback-strategien)
|
||||||
|
- [x] **Disaster Recovery:** [Server Operations - DR](../04_Operations/04_server_operation_manual.md#5-disaster-recovery-wiederherstellung-two-stage-dr)
|
||||||
|
|
||||||
|
### Pre/Post-Deployment
|
||||||
|
- [x] **Pre-Deployment Checkliste:** [Deployment Guide - Checkliste](../04_Operations/04_deployment_guide.md#7-pre-deployment-checkliste)
|
||||||
|
- [x] **Post-Deployment Validierung:** [Deployment Guide - Validierung](../04_Operations/04_deployment_guide.md#8-post-deployment-validierung)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 📊 Zusammenfassung
|
||||||
|
|
||||||
|
### Vollständigkeit nach Rolle
|
||||||
|
|
||||||
|
| Rolle | Abgedeckte Themen | Status |
|
||||||
|
| :--- | :--- | :--- |
|
||||||
|
| **Entwickler** | Setup, Architektur, Code, Testing, Debugging | ✅ Vollständig |
|
||||||
|
| **Administratoren** | Installation, Betrieb, Wartung, Backup, DR | ✅ Vollständig |
|
||||||
|
| **Anwender** | Nutzung, Content-Erstellung, Workflows | ✅ Vollständig |
|
||||||
|
| **Tester** | Test-Strategien, Frameworks, Tools | ✅ Vollständig |
|
||||||
|
| **Deployment** | CI/CD, Rollout, Versionierung, Rollback | ✅ Vollständig |
|
||||||
|
|
||||||
|
### Neue Dokumente
|
||||||
|
|
||||||
|
1. ✅ `05_testing_guide.md` - Umfassender Test-Guide
|
||||||
|
2. ✅ `04_deployment_guide.md` - Vollständiger Deployment-Guide
|
||||||
|
3. ✅ `02_concept_architecture_patterns.md` - Architektur-Patterns
|
||||||
|
4. ✅ `03_tech_api_reference.md` - API-Referenz
|
||||||
|
5. ✅ `00_quickstart.md` - Schnellstart-Anleitung
|
||||||
|
6. ✅ `README.md` - Dokumentations-Einstiegspunkt
|
||||||
|
|
||||||
|
### Aktualisierte Dokumente
|
||||||
|
|
||||||
|
1. ✅ `00_documentation_map.md` - Alle neuen Dokumente aufgenommen
|
||||||
|
2. ✅ `04_admin_operations.md` - Troubleshooting erweitert
|
||||||
|
3. ✅ `05_developer_guide.md` - Modulare Struktur ergänzt
|
||||||
|
4. ✅ `03_tech_ingestion_pipeline.md` - Background Tasks dokumentiert
|
||||||
|
5. ✅ `03_tech_configuration.md` - Fehlende ENV-Variablen ergänzt
|
||||||
|
6. ✅ `00_vision_and_strategy.md` - Design-Entscheidungen ergänzt
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
**Status:** ✅ Alle Rollen vollständig abgedeckt
|
||||||
|
**Letzte Prüfung:** 2025-01-XX
|
||||||
|
**Version:** 2.9.1
|
||||||
|
|
||||||
@@ -0,0 +1,156 @@
|
|||||||
|
---
|
||||||
|
doc_type: quickstart_guide
|
||||||
|
audience: user, developer, admin
|
||||||
|
status: active
|
||||||
|
version: 2.9.1
|
||||||
|
context: "Schnellstart-Anleitung für neue Benutzer von Mindnet"
|
||||||
|
---
|
||||||
|
|
||||||
|
# Mindnet Schnellstart
|
||||||
|
|
||||||
|
Diese Anleitung hilft dir, in 15 Minuten mit Mindnet loszulegen.
|
||||||
|
|
||||||
|
## 🎯 Was ist Mindnet?
|
||||||
|
|
||||||
|
Mindnet ist ein **persönliches KI-Gedächtnis**, das:
|
||||||
|
- Dein Wissen in Markdown-Notizen speichert
|
||||||
|
- Semantisch verknüpft (Wissensgraph)
|
||||||
|
- Als intelligenter Dialogpartner agiert (RAG-Chat)
|
||||||
|
- **Lokal und privat** läuft (Privacy First)
|
||||||
|
|
||||||
|
## 📋 Voraussetzungen
|
||||||
|
|
||||||
|
- **Python 3.10+** installiert
|
||||||
|
- **Docker** installiert (für Qdrant)
|
||||||
|
- **Ollama** installiert (für lokale LLMs)
|
||||||
|
- Optional: **Obsidian** (für komfortables Schreiben)
|
||||||
|
|
||||||
|
## ⚡ Installation (5 Minuten)
|
||||||
|
|
||||||
|
### Schritt 1: Repository klonen
|
||||||
|
|
||||||
|
```bash
|
||||||
|
git clone <repository-url> mindnet
|
||||||
|
cd mindnet
|
||||||
|
```
|
||||||
|
|
||||||
|
### Schritt 2: Virtuelle Umgebung erstellen
|
||||||
|
|
||||||
|
```bash
|
||||||
|
python3 -m venv .venv
|
||||||
|
source .venv/bin/activate # Windows: .venv\Scripts\activate
|
||||||
|
```
|
||||||
|
|
||||||
|
### Schritt 3: Abhängigkeiten installieren
|
||||||
|
|
||||||
|
```bash
|
||||||
|
pip install -r requirements.txt
|
||||||
|
```
|
||||||
|
|
||||||
|
### Schritt 4: Qdrant starten (Docker)
|
||||||
|
|
||||||
|
```bash
|
||||||
|
docker compose up -d qdrant
|
||||||
|
```
|
||||||
|
|
||||||
|
### Schritt 5: Ollama-Modelle laden
|
||||||
|
|
||||||
|
```bash
|
||||||
|
ollama pull phi3:mini
|
||||||
|
ollama pull nomic-embed-text
|
||||||
|
```
|
||||||
|
|
||||||
|
### Schritt 6: Konfiguration anpassen
|
||||||
|
|
||||||
|
Erstelle eine `.env`-Datei im Projektroot:
|
||||||
|
|
||||||
|
```ini
|
||||||
|
QDRANT_URL=http://localhost:6333
|
||||||
|
MINDNET_OLLAMA_URL=http://localhost:11434
|
||||||
|
MINDNET_LLM_MODEL=phi3:mini
|
||||||
|
MINDNET_EMBEDDING_MODEL=nomic-embed-text
|
||||||
|
COLLECTION_PREFIX=mindnet
|
||||||
|
MINDNET_VAULT_ROOT=./vault
|
||||||
|
```
|
||||||
|
|
||||||
|
## 🚀 Erste Schritte (5 Minuten)
|
||||||
|
|
||||||
|
### Schritt 1: Backend starten
|
||||||
|
|
||||||
|
```bash
|
||||||
|
uvicorn app.main:app --reload --port 8001
|
||||||
|
```
|
||||||
|
|
||||||
|
### Schritt 2: Frontend starten (neues Terminal)
|
||||||
|
|
||||||
|
```bash
|
||||||
|
streamlit run app/frontend/ui.py --server.port 8501
|
||||||
|
```
|
||||||
|
|
||||||
|
### Schritt 3: Browser öffnen
|
||||||
|
|
||||||
|
Öffne `http://localhost:8501` im Browser.
|
||||||
|
|
||||||
|
### Schritt 4: Erste Notiz importieren
|
||||||
|
|
||||||
|
Erstelle eine Test-Notiz im `vault/` Ordner:
|
||||||
|
|
||||||
|
```markdown
|
||||||
|
---
|
||||||
|
id: 20250101-test
|
||||||
|
title: Meine erste Notiz
|
||||||
|
type: concept
|
||||||
|
status: active
|
||||||
|
---
|
||||||
|
|
||||||
|
# Meine erste Notiz
|
||||||
|
|
||||||
|
Dies ist eine Test-Notiz für Mindnet.
|
||||||
|
|
||||||
|
[[rel:related_to Mindnet]]
|
||||||
|
```
|
||||||
|
|
||||||
|
Dann importiere sie:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
python3 -m scripts.import_markdown --vault ./vault --prefix mindnet --apply
|
||||||
|
```
|
||||||
|
|
||||||
|
### Schritt 5: Erste Chat-Anfrage
|
||||||
|
|
||||||
|
Im Browser-Chat eingeben:
|
||||||
|
```
|
||||||
|
Was ist Mindnet?
|
||||||
|
```
|
||||||
|
|
||||||
|
## 📚 Nächste Schritte
|
||||||
|
|
||||||
|
Nach dem Schnellstart empfehle ich:
|
||||||
|
|
||||||
|
1. **[Chat Usage Guide](../01_User_Manual/01_chat_usage_guide.md)** - Lerne die Chat-Funktionen kennen
|
||||||
|
2. **[Knowledge Design](../01_User_Manual/01_knowledge_design.md)** - Verstehe, wie du Notizen strukturierst
|
||||||
|
3. **[Authoring Guidelines](../01_User_Manual/01_authoring_guidelines.md)** - Lerne Best Practices für das Schreiben
|
||||||
|
|
||||||
|
## 🆘 Hilfe & Troubleshooting
|
||||||
|
|
||||||
|
**Problem:** Qdrant startet nicht
|
||||||
|
- **Lösung:** Prüfe, ob Docker läuft: `docker ps`
|
||||||
|
|
||||||
|
**Problem:** Ollama-Modell nicht gefunden
|
||||||
|
- **Lösung:** Prüfe mit `ollama list`, ob die Modelle geladen sind
|
||||||
|
|
||||||
|
**Problem:** Import schlägt fehl
|
||||||
|
- **Lösung:** Prüfe die Logs und stelle sicher, dass Qdrant läuft
|
||||||
|
|
||||||
|
Für detaillierte Troubleshooting-Informationen siehe [Admin Operations](../04_Operations/04_admin_operations.md#33-troubleshooting-guide).
|
||||||
|
|
||||||
|
## 🔗 Weitere Ressourcen
|
||||||
|
|
||||||
|
- **[Dokumentationskarte](00_documentation_map.md)** - Übersicht aller Dokumente
|
||||||
|
- **[Glossar](00_glossary.md)** - Wichtige Begriffe erklärt
|
||||||
|
- **[Vision & Strategie](00_vision_and_strategy.md)** - Die Philosophie hinter Mindnet
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
**Viel Erfolg mit Mindnet!** 🚀
|
||||||
|
|
||||||
@@ -65,3 +65,41 @@ Die folgenden Prinzipien steuern jede technische Entscheidung:
|
|||||||
|
|
||||||
10. **Local First & Privacy:**
|
10. **Local First & Privacy:**
|
||||||
Nutzung lokaler LLMs (Ollama) für Inference. Keine Daten verlassen den Server.
|
Nutzung lokaler LLMs (Ollama) für Inference. Keine Daten verlassen den Server.
|
||||||
|
|
||||||
|
11. **Modulare Architektur (WP-14):**
|
||||||
|
Core-Logik ist in spezialisierte Pakete unterteilt (`chunking/`, `database/`, `graph/`, `ingestion/`, `parser/`, `retrieval/`). Dies ermöglicht unabhängige Entwicklung, Testbarkeit und Wartbarkeit.
|
||||||
|
|
||||||
|
12. **Resilienz durch Kaskaden:**
|
||||||
|
System nutzt Provider-Kaskaden (Cloud → Rate-Limit-Handling → Lokaler Fallback) für hohe Verfügbarkeit. Deep Fallback erkennt auch kognitive Blockaden (Silent Refusals).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Design-Entscheidungen & Trade-offs
|
||||||
|
|
||||||
|
### 4.1 Qdrant als Vektor-DB
|
||||||
|
**Entscheidung:** Self-hosted Qdrant statt Managed Service (Pinecone/Weaviate)
|
||||||
|
**Gründe:** Privacy First, Open Source, lokale Kontrolle
|
||||||
|
**Trade-off:** Mehr Wartungsaufwand, aber vollständige Datenhoheit
|
||||||
|
|
||||||
|
### 4.2 Hybrid Retrieval
|
||||||
|
**Entscheidung:** Kombination von Vektor-Suche (Semantik) und Graph-Expansion
|
||||||
|
**Gründe:** Bessere Relevanz durch strukturelle Verbindungen
|
||||||
|
**Trade-off:** Höhere Komplexität, aber deutlich bessere Ergebnisse
|
||||||
|
|
||||||
|
### 4.3 Background Tasks statt Queue-System
|
||||||
|
**Entscheidung:** FastAPI Background Tasks statt Redis/RabbitMQ
|
||||||
|
**Gründe:** Einfacher Setup, ausreichend für Single-User
|
||||||
|
**Trade-off:** Keine Persistenz bei Server-Neustart, aber weniger Infrastruktur
|
||||||
|
|
||||||
|
### 4.4 Markdown als Source of Truth
|
||||||
|
**Entscheidung:** Markdown-Dateien sind primär, Datenbank ist Cache
|
||||||
|
**Gründe:** Versionierbarkeit, Editierbarkeit, Unabhängigkeit
|
||||||
|
**Trade-off:** Zwei Datenquellen, aber maximale Flexibilität
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Weitere Informationen
|
||||||
|
|
||||||
|
- **Architektur-Patterns:** Siehe [Architektur-Patterns](../02_concepts/02_concept_architecture_patterns.md)
|
||||||
|
- **Graph-Logik:** Siehe [Graph-Logik](../02_concepts/02_concept_graph_logic.md)
|
||||||
|
- **KI-Persönlichkeit:** Siehe [KI-Persönlichkeit](../02_concepts/02_concept_ai_personality.md)
|
||||||
@@ -0,0 +1,189 @@
|
|||||||
|
---
|
||||||
|
id: 01-authoring-guidelines
|
||||||
|
title: Authoring Guidelines – Handbuch für den Digitalen Zwilling
|
||||||
|
type: principle
|
||||||
|
status: stable
|
||||||
|
version: 1.1.0
|
||||||
|
area: system_documentation
|
||||||
|
tags: [handbuch, authoring, methodik, obsidian, mindnet, best-practice]
|
||||||
|
retriever_weight: 2.0
|
||||||
|
---
|
||||||
|
|
||||||
|
# Authoring Guidelines: Dein Werkzeug für den Digitalen Zwilling
|
||||||
|
|
||||||
|
|
||||||
|
Dieses Handbuch ist dein primäres Werkzeug, um Wissen so zu strukturieren, dass Mindnet deine Persönlichkeit spiegelt, empathisch reagiert und dich strategisch berät.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## ⚡ Die 6 Goldenen Regeln des Knowledge Designs
|
||||||
|
|
||||||
|
1. **Atomare Gedanken:** Eine Notiz = Ein Thema. Trenne z. B. „Meditation“ von „Mobility“, auch wenn beides Ich-Pflege ist.
|
||||||
|
2. **Explizite Typen:** Nutze den `type`, um der KI zu sagen, wie sie den Text verarbeiten soll (z. B. `insight` für Beobachtungen, `experience` für Erlebnisse).
|
||||||
|
3. **Semantische Links:** Verknüpfe aktiv mit `[[rel:depends_on ...]]` oder `[[rel:based_on ...]]`. Sag dem System, *warum* Dinge zusammenhängen.
|
||||||
|
4. **Werte & Ziele definieren:** Erstelle für jeden Nordstern und jeden Kernwert eine eigene Notiz. Ohne Maßstäbe kann der „Berater“ nicht entscheiden.
|
||||||
|
5. **Emotionales Bridging:** Nutze Begriffe wie „Druck“, „Stolz“, „Euphorie“ oder „Hilflosigkeit“, um die Empathie-Ebene der KI zu aktivieren.
|
||||||
|
6. **Narrative Tiefe (Fleisch am Knochen):** Dokumentiere das „Warum“ hinter einer Entscheidung. Fakten informieren, aber Erzählungen prägen den Charakter.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1. Strategische Steuerung (Status & Gewicht)
|
||||||
|
|
||||||
|
Du entscheidest über das Frontmatter, wie präsent eine Information im „Gedächtnis“ ist.
|
||||||
|
|
||||||
|
### 1.1 Status-Logik
|
||||||
|
* **`stable`**: Gold-Standard. Für finale Leitbild-Texte und Nordsterne. Erhält +20% Relevanz-Bonus.
|
||||||
|
* **`active`**: Standard für laufende Projekte und aktuelle Beobachtungen.
|
||||||
|
* **`draft`**: Brainstorming oder rohe Tages-Logs. Die KI nutzt diese nur nachrangig (50% Malus), um Rauschen zu vermeiden.
|
||||||
|
* **`system`**: Rein technische Dateien (Templates, Guides). Werden im Chat ignoriert.
|
||||||
|
|
||||||
|
### 1.2 Manuelle Gewichtung (`retriever_weight`)
|
||||||
|
* **Boost (1.20):** Für hochrelevante Erkenntnisse. **Beispiel:** Beobachtungen zum Verhalten von Rohan werden als `insight` mit `1.20` markiert, damit sie bei Erziehungsfragen sofort präsent sind.
|
||||||
|
* **Deboost (0.50 - 0.80):** Für tägliche Routine-Einträge („Heute 10 Min. meditiert“). Sie dienen der Chronik, sollen aber keine tiefen Analysen verfälschen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Das Kochbuch: Praktische Use-Cases
|
||||||
|
|
||||||
|
### 2.1 Ein Erlebnis aufschreiben (`type: experience`)
|
||||||
|
**Ziel:** Den „Spiegel“ (Empathy) mit deiner Biografie kalibrieren.
|
||||||
|
|
||||||
|
**Struktur & Leitfragen:**
|
||||||
|
- **Kontext:** Was ist passiert? (Sachlich kurz).
|
||||||
|
- **Emotions-Check:** Wie habe ich mich in der Situation gefühlt? (Wichtig für Regel 5).
|
||||||
|
- **Die Lektion:** Was habe ich über mich gelernt? (z. B. „Ich reagiere allergisch auf Ungerechtigkeit“).
|
||||||
|
- **Deep-Edge:** Mit welcher Rolle ist das verknüpft? `[[rel:supports Meine Rollenlandkarte 2025#Vater]]`.
|
||||||
|
|
||||||
|
### 2.2 Eine Beobachtung festhalten (`type: insight`)
|
||||||
|
**Ziel:** Den „Berater“ (Decision) mit Mustern versorgen.
|
||||||
|
|
||||||
|
**Beispiel Rohan-Beobachtung:**
|
||||||
|
- **Beobachtung:** Rohan reagiert positiv auf „leise“ Impulse und 90/10 Coaching.
|
||||||
|
- **Interpretation:** Direkte Konfrontation erzeugt Gegendruck; Fragen erzeugen Ownership.
|
||||||
|
- **Konsequenz:** Prinzip P3a (Familienregeln) muss immer einen Bedürfnischeck vorausschicken.
|
||||||
|
|
||||||
|
### 2.3 Ein Review durchführen (`type: journal` / `insight`)
|
||||||
|
**Ziel:** Den Fortschritt steuern.
|
||||||
|
- **Daily:** Rohes Log (Status `draft`).
|
||||||
|
- **Weekly/Monthly:** Verdichtung der Erkenntnisse in eine `stable` Notiz. Frage: „Was war der größte Hebel diese Woche?“.
|
||||||
|
|
||||||
|
### 2.4 Das Handlungsprinzip (`type: principle`)
|
||||||
|
**Ziel:** Testbare Regeln für schwierige Entscheidungssituationen.
|
||||||
|
|
||||||
|
**Struktur-Vorgabe:**---
|
||||||
|
id: 01-authoring-guidelines
|
||||||
|
title: Authoring Guidelines – Das Handbuch für den Digitalen Zwilling
|
||||||
|
type: principle
|
||||||
|
status: stable
|
||||||
|
version: 1.2.0
|
||||||
|
area: system_documentation
|
||||||
|
tags: [handbuch, authoring, methodik, obsidian, mindnet, best-practice]
|
||||||
|
retriever_weight: 2.0
|
||||||
|
---
|
||||||
|
|
||||||
|
## 🕸️ Teil 3: Netzdesign (Hubs, Edges & Lücken)
|
||||||
|
|
||||||
|
Ein intelligentes Netz wächst durch strategische Verknüpfungen, nicht durch Textmenge.
|
||||||
|
|
||||||
|
### 3.1 Wissens-Hubs (Zentralnotizen)
|
||||||
|
Hubs fungieren als Verteilerzentren im Graphen.
|
||||||
|
* **Struktur:** Nutze Überschriften (H2, H3) und verlinke von dort auf Detailnotizen.
|
||||||
|
* **Deep-Edges:** Verlinke präzise Abschnitte: `[[Rollenlandkarte#Vater]]`. Dies ermöglicht der KI, nur den relevanten Kontext zu laden.
|
||||||
|
|
||||||
|
### 3.2 Forward-Mapping (Strategische Lücken)
|
||||||
|
Setze bewusst Links auf Dateien, die noch nicht existieren (z. B. `[[Die beste Version meiner selbst]]`).
|
||||||
|
* **Zweck:** Du signalisierst dem System: „Hier entsteht ein wichtiges Konzept“.
|
||||||
|
* **Effekt:** Die KI erkennt diese Lücken und kann im Chat proaktiv Fragen stellen, um diese Felder mit dir gemeinsam zu füllen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Obsidian Usability & Automatisierung
|
||||||
|
|
||||||
|
### 4.1 Templater-Integration
|
||||||
|
Nutze Vorlagen, die bereits die **Leitfragen** und das richtige **Retriever-Weight** enthalten. Ein Klick auf „Neues Erlebnis“ sollte automatisch das Frontmatter mit `type: experience` und `weight: 1.1` füllen.
|
||||||
|
|
||||||
|
### 4.2 Meta Bind Dashboards
|
||||||
|
Nutze **Meta Bind**, um Felder wie `status` oder `retriever_weight` über Schieberegler direkt in der Notiz zu steuern. Das macht die Gewichtung deines Wissens intuitiv und spielerisch.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Vernetzung für die Mindnet-Personas
|
||||||
|
|
||||||
|
| Persona | Notiz-Fokus | Effekt im Dialog |
|
||||||
|
| :--- | :--- | :--- |
|
||||||
|
| **🪞 Spiegel (Empathy)** | Gefühle & Biografisches | „Ich verstehe deinen Frust, das war bei Projekt X ähnlich...“. |
|
||||||
|
| **⚖️ Berater (Decision)** | Werte & Wächterfragen | „Option A ist nicht ratsam, da sie gegen dein Prinzip der Integrität verstößt“. |
|
||||||
|
| **📚 Bibliothekar (Facts)** | Struktur & Definitionen | „Deine Mission als Vater ist es, verlässliche Präsenz zu zeigen...“. |
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
> [!abstract] Fazit für den Autor
|
||||||
|
> Mindnet ist ein **Persönlichkeitsspiegel**. Dokumentiere weniger „Technik“ und mehr „Mensch“. Jede Notiz sollte die Frage beantworten: „Was sagt das über mich und meine Werte aus?“.
|
||||||
|
- **3 Signale:** Woran merke ich im Alltag, dass ich das Prinzip lebe?.
|
||||||
|
- **Wächterfrage:** Welche Frage stelle ich mir im Moment der Entscheidung?.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Obsidian Workflow-Hacks
|
||||||
|
|
||||||
|
### 6.1 Templater & Meta Bind
|
||||||
|
- **Automatisierung:** Nutze das **Templater-Plugin**, um beim Erstellen einer Notiz sofort die passenden Leitfragen und das richtige `retriever_weight` einzufügen.
|
||||||
|
- **Interaktive Steuerung:** Nutze **Meta Bind**, um Felder wie `status` oder `retriever_weight` über Buttons oder Slider direkt im Lesemodus zu ändern, ohne im YAML-Code zu tippen.
|
||||||
|
|
||||||
|
### 6.2 Deep-Edges & Verknüpfung
|
||||||
|
- Verknüpfe Erlebnisse immer mit der entsprechenden Rolle: `[[rel:supports Meine Rollenlandkarte 2025#Vater]]`.
|
||||||
|
- Nutze `derived_from`, um Prinzipien an ihre Ursprungs-Session zu binden.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7. Vernetzung für Mindnet Personas
|
||||||
|
|
||||||
|
| Persona | Notiz-Fokus | Beispiel |
|
||||||
|
| :--- | :--- | :--- |
|
||||||
|
| **🪞 Spiegel (Empathy)** | Emotionen & Prägungen | „Ich fühlte mich hilflos, als...“. |
|
||||||
|
| **⚖️ Berater (Decision)** | Kriterien & Abwägungen | „Option A verletzt Wert X, weil...“. |
|
||||||
|
| **📚 Bibliothekar (Facts)** | Struktur & Definition | „Rollenmission Vater bedeutet...“. |
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
> [!tip] Best Practice
|
||||||
|
> Wenn du merkst, dass eine Notiz zu technisch wird: Halte inne und frage dich: „Was macht das mit mir als Mensch?“ Schreibe *das* auf. Das ist die Essenz für deinen KI-Zwilling.
|
||||||
|
|
||||||
|
## 8. Verbindungen von Notiztypen
|
||||||
|
|
||||||
|
```mermaid
|
||||||
|
graph TD
|
||||||
|
%% Identity Stream
|
||||||
|
V[Value] -- definieren --> N[Need]
|
||||||
|
N -- erzeugen --> M[Motivation]
|
||||||
|
B[Belief] -- prägen --> M
|
||||||
|
T[Trait] -- unterstützen --> M
|
||||||
|
|
||||||
|
%% Action Stream
|
||||||
|
M -- treiben --> G[Goal]
|
||||||
|
G -- konkretisiert in --> P[Project]
|
||||||
|
P -- unterteilt in --> TA[Task]
|
||||||
|
D[Decision] -- steuert --> P
|
||||||
|
PR[Principle] -- leitet --> D
|
||||||
|
|
||||||
|
%% History Stream
|
||||||
|
TA -- führt zu --> E[Event]
|
||||||
|
E -- generiert --> EX[Experience]
|
||||||
|
PE[Person] -- beteiligt an --> E
|
||||||
|
|
||||||
|
%% Feedback Loop
|
||||||
|
EX -- liefert --> I[Insight]
|
||||||
|
I -- kalibrieren --> V
|
||||||
|
I -- verfeinern --> PR
|
||||||
|
I -- validieren --> B
|
||||||
|
|
||||||
|
%% Constraints
|
||||||
|
RI[Risk] -- gefährdet --> G
|
||||||
|
O[Obstacle] -- blockiert --> TA
|
||||||
|
BI[Bias] -- verzerrt --> D
|
||||||
|
S[State] -- beeinflusst --> EX
|
||||||
|
|
||||||
|
style V fill:#f9f,stroke:#333,stroke-width:2px
|
||||||
|
style EX fill:#bbf,stroke:#333,stroke-width:2px
|
||||||
|
style P fill:#bfb,stroke:#333,stroke-width:2px
|
||||||
|
|
||||||
@@ -11,6 +11,8 @@ context: "Anleitung zur Nutzung der Web-Oberfläche, der Chat-Personas und des G
|
|||||||
|
|
||||||
**Quellen:** `user_guide.md`
|
**Quellen:** `user_guide.md`
|
||||||
|
|
||||||
|
> 💡 **Tipp für Einsteiger:** Falls du noch nie mit Mindnet gearbeitet hast, starte mit dem [Schnellstart](../00_General/00_quickstart.md) und dem [Knowledge Design Manual](01_knowledge_design.md), um die Grundlagen zu verstehen.
|
||||||
|
|
||||||
## 1. Was Mindnet für dich tut
|
## 1. Was Mindnet für dich tut
|
||||||
|
|
||||||
Mindnet ist ein **assoziatives Gedächtnis** mit Persönlichkeit. Es unterscheidet sich von einer reinen Suche dadurch, dass es **kontextsensitiv** agiert.
|
Mindnet ist ein **assoziatives Gedächtnis** mit Persönlichkeit. Es unterscheidet sich von einer reinen Suche dadurch, dass es **kontextsensitiv** agiert.
|
||||||
@@ -124,3 +126,85 @@ Wenn du im **manuellen Editor** schreibst, unterstützt dich Mindnet aktiv bei d
|
|||||||
* **Semantische Treffer:** Das System findet inhaltlich verwandte Notizen.
|
* **Semantische Treffer:** Das System findet inhaltlich verwandte Notizen.
|
||||||
* **Klick auf "➕ Einfügen":** Fügt den Link (z.B. `[[rel:related_to Mindnet]]`) an der Cursor-Position ein.
|
* **Klick auf "➕ Einfügen":** Fügt den Link (z.B. `[[rel:related_to Mindnet]]`) an der Cursor-Position ein.
|
||||||
4. **Speichern:** Der Text wird sofort in den Vault geschrieben und indiziert.
|
4. **Speichern:** Der Text wird sofort in den Vault geschrieben und indiziert.
|
||||||
|
|
||||||
|
### 6.3 Weg C: Direktes Schreiben in Obsidian
|
||||||
|
Wenn du Obsidian nutzt, kannst du Notizen direkt im Vault erstellen. Nach dem Speichern in Obsidian:
|
||||||
|
|
||||||
|
1. **Automatischer Import (Cron):** Der stündliche Cron-Job importiert neue/geänderte Dateien automatisch.
|
||||||
|
2. **Manueller Import:** Oder führe manuell aus:
|
||||||
|
```bash
|
||||||
|
python3 -m scripts.import_markdown --vault ./vault --prefix mindnet --apply
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteil:** Du arbeitest in deiner gewohnten Obsidian-Umgebung, Mindnet synchronisiert im Hintergrund.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7. Häufige Anwendungsfälle (Use Cases)
|
||||||
|
|
||||||
|
### 7.1 Entscheidungshilfe suchen
|
||||||
|
**Szenario:** Du stehst vor einer schwierigen Entscheidung.
|
||||||
|
|
||||||
|
**Vorgehen:**
|
||||||
|
1. Stelle eine Frage im Chat: *"Soll ich Tool X nutzen?"*
|
||||||
|
2. Mindnet erkennt `DECISION` Intent
|
||||||
|
3. System lädt deine Werte, Prinzipien und Ziele
|
||||||
|
4. Antwort berücksichtigt deine persönlichen Kriterien
|
||||||
|
|
||||||
|
**Beispiel:** *"Soll ich Notion nutzen?"* → System prüft gegen dein Prinzip "Privacy First" und rät ab.
|
||||||
|
|
||||||
|
### 7.2 Erfahrungen dokumentieren
|
||||||
|
**Szenario:** Du willst ein prägendes Erlebnis festhalten.
|
||||||
|
|
||||||
|
**Vorgehen:**
|
||||||
|
1. Chat: *"Neue Erfahrung: Streit am Recyclinghof"*
|
||||||
|
2. System erstellt strukturierte Notiz mit Feldern:
|
||||||
|
- Situation
|
||||||
|
- Reaktion
|
||||||
|
- Learning
|
||||||
|
3. Verknüpfe mit relevanten Rollen: `[[rel:supports Meine Rollenlandkarte 2025#Vater]]`
|
||||||
|
|
||||||
|
### 7.3 Wissen im Graph erkunden
|
||||||
|
**Szenario:** Du willst verstehen, wie Konzepte zusammenhängen.
|
||||||
|
|
||||||
|
**Vorgehen:**
|
||||||
|
1. Wechsle zum **Graph Explorer**
|
||||||
|
2. Suche nach einem Knoten (z.B. "Projekt Alpha")
|
||||||
|
3. Klicke auf "🎯 Als Zentrum setzen"
|
||||||
|
4. Erkunde die Nachbarschaft (Abhängigkeiten, Entscheidungen, ähnliche Projekte)
|
||||||
|
|
||||||
|
### 7.4 Bestehende Notizen verbessern
|
||||||
|
**Szenario:** Eine Notiz ist unvollständig oder unvernetzt.
|
||||||
|
|
||||||
|
**Vorgehen:**
|
||||||
|
1. Öffne die Notiz im **Manuellen Editor**
|
||||||
|
2. Nutze **Intelligence-Tab** für Link-Vorschläge
|
||||||
|
3. Füge semantische Links hinzu: `[[rel:based_on Wert X]]`
|
||||||
|
4. Speichern → System indiziert neu
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 8. Tipps & Tricks
|
||||||
|
|
||||||
|
### 8.1 Intent-Steuerung
|
||||||
|
- **Frage mit "?":** Löst RAG-Modus aus (Wissen abrufen)
|
||||||
|
- **Aussage ohne "?":** Löst Interview-Modus aus (Wissen speichern)
|
||||||
|
- **Emotionale Wörter:** Aktivieren Empathie-Persona ("Ich fühle...", "Ich bin frustriert...")
|
||||||
|
|
||||||
|
### 8.2 Graph-Navigation
|
||||||
|
- **URL-Persistenz:** Graph-Einstellungen werden in der URL gespeichert → Lesezeichen für spezifische Ansichten
|
||||||
|
- **Deep-Links:** Verlinke präzise Abschnitte: `[[Note#Abschnitt]]` statt nur `[[Note]]`
|
||||||
|
|
||||||
|
### 8.3 Feedback nutzen
|
||||||
|
- **Regelmäßiges Feedback:** Macht das System schlauer
|
||||||
|
- **Granulares Feedback:** Bewerte einzelne Quellen, nicht nur die Gesamtantwort
|
||||||
|
- **Konsequenz:** System lernt deine Präferenzen
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 9. Weitere Informationen
|
||||||
|
|
||||||
|
- **Knowledge Design:** Siehe [Knowledge Design Manual](01_knowledge_design.md)
|
||||||
|
- **Authoring Guidelines:** Siehe [Authoring Guidelines](01_authoring_guidelines.md)
|
||||||
|
- **Obsidian Integration:** Siehe [Obsidian Integration Guide](01_obsidian_integration_guide.md)
|
||||||
|
- **Troubleshooting:** Siehe [Admin Operations - Troubleshooting](../04_Operations/04_admin_operations.md#33-troubleshooting-guide)
|
||||||
@@ -3,7 +3,7 @@ doc_type: user_manual
|
|||||||
audience: user, author
|
audience: user, author
|
||||||
scope: vault, markdown, schema
|
scope: vault, markdown, schema
|
||||||
status: active
|
status: active
|
||||||
version: 2.7.0
|
version: 2.8.0
|
||||||
context: "Regelwerk für das Erstellen von Notizen im Vault. Die 'Source of Truth' für Autoren."
|
context: "Regelwerk für das Erstellen von Notizen im Vault. Die 'Source of Truth' für Autoren."
|
||||||
---
|
---
|
||||||
|
|
||||||
@@ -11,16 +11,14 @@ context: "Regelwerk für das Erstellen von Notizen im Vault. Die 'Source of Trut
|
|||||||
|
|
||||||
**Quellen:** `knowledge_design.md`, `types.yaml`
|
**Quellen:** `knowledge_design.md`, `types.yaml`
|
||||||
|
|
||||||
## ⚡ Die 5 Goldenen Regeln (TL;DR)
|
## ⚡ Die 6 Goldenen Regeln (TL;DR)
|
||||||
|
|
||||||
Damit Mindnet als dein Digitaler Zwilling funktioniert, beachte beim Schreiben diese Grundsätze:
|
|
||||||
|
|
||||||
1. **Atomare Gedanken:** Eine Notiz = Ein Thema. Wenn du über zwei Projekte schreibst, mach zwei Notizen draus.
|
|
||||||
2. **Explizite Typen:** Setze immer den `type` im Frontmatter. Mindnet behandelt eine `decision` ("Wir machen X") völlig anders als ein `concept` ("Was ist X").
|
|
||||||
3. **Semantische Links:** Schreibe nicht nur `[[Link]]`, sondern `[[rel:depends_on Link]]`. Sag dem System *wie* Dinge zusammenhängen.
|
|
||||||
4. **Werte & Ziele definieren:** Damit die **Decision Engine** dich beraten kann, musst du deine Kriterien (`type: value`, `type: goal`) explizit als Notizen anlegen.
|
|
||||||
5. **Emotionales Bridging:** Damit die **Empathie** funktioniert, nutze in Erfahrungsberichten (`type: experience`) emotionale Schlüsselwörter ("Krise", "Freude", "Angst").
|
|
||||||
|
|
||||||
|
1. **Atomare Gedanken:** Eine Notiz = Ein Thema. Vermischung führt zu "Context-Pollution", wodurch die KI unpräzise berät.
|
||||||
|
2. **Explizite Typen:** Der `type` im Frontmatter ist der wichtigste Hebel. Er entscheidet über die mathematische Gewichtung im System.
|
||||||
|
3. **Semantische Links:** Nutze das Vokabular aus der `01_edge_vocabulary.md`. Ersetze einfache Verweise durch funktionale Beziehungen wie `caused_by` oder `based_on`.
|
||||||
|
4. **Werte & Ziele definieren:** Ohne explizite Kriterien (`type: value`) fehlt dem System der Maßstab für eine Bewertung.
|
||||||
|
5. **Emotionales Bridging:** Dokumentiere deine Gefühle. Begriffe wie „Druck“ oder „Euphorie“ sind die Schnittstelle für die Empathie-Logik.
|
||||||
|
6. **Narrative Tiefe (Fleisch am Knochen):** Ein „Was“ ohne „Warum“ ist für die KI nur ein Fakt, für dich als Mensch aber bedeutungslos. Dokumentiere die Intention hinter deinen Taten.
|
||||||
---
|
---
|
||||||
|
|
||||||
## 1. Zweck & Scope
|
## 1. Zweck & Scope
|
||||||
@@ -43,10 +41,17 @@ type: project # Steuert Chunking & Wichtigkeit
|
|||||||
status: active # active, archived, draft
|
status: active # active, archived, draft
|
||||||
created: 2025-12-12 # ISO 8601
|
created: 2025-12-12 # ISO 8601
|
||||||
tags: [ki, entwicklung] # Taxonomie
|
tags: [ki, entwicklung] # Taxonomie
|
||||||
|
aliases: [KI Projekt, Codename Quickhack]
|
||||||
---
|
---
|
||||||
```
|
```
|
||||||
|
|
||||||
### 2.1 Advanced Overrides: Die KI-Steuerung übernehmen
|
### **2.1 [NEU] Naming Convention: Intuitiv vs. Technisch**
|
||||||
|
Für die Benutzerfreundlichkeit und die intuitive Navigation in Obsidian wird die Nutzung von **menschenlesbaren Titeln** bevorzugt (z. B. `Mein Persönliches Leitbild 2025` statt `leitbild_identity`).
|
||||||
|
- Die technische Eindeutigkeit wird primär über die `id` im Frontmatter sichergestellt.
|
||||||
|
- Die KI nutzt die Semantik des Dateinamens als zusätzlichen Kontext-Vektor.
|
||||||
|
|
||||||
|
### 2.2 Advanced Overrides: Die KI-Steuerung übernehmen
|
||||||
|
|
||||||
|
|
||||||
In 95% der Fälle setzt der `type` (z.B. "concept") automatisch die richtigen Einstellungen. In Spezialfällen kannst du diese manuell im Frontmatter überschreiben, um das Verhalten der KI zu erzwingen.
|
In 95% der Fälle setzt der `type` (z.B. "concept") automatisch die richtigen Einstellungen. In Spezialfällen kannst du diese manuell im Frontmatter überschreiben, um das Verhalten der KI zu erzwingen.
|
||||||
|
|
||||||
@@ -86,23 +91,110 @@ retriever_weight: 1.5
|
|||||||
```
|
```
|
||||||
|
|
||||||
---
|
---
|
||||||
|
## 3. Frontmatter Felder und ihre Bedeutung
|
||||||
|
### 3.1 Typ-Referenz & Stream-Logik
|
||||||
|
|
||||||
## 3. Typ-Referenz & Verhalten
|
Das System euriert Informationen in funktionalen Streams. Wähle den Typ danach aus, in welchem "Gedächtnis-Bereich" die Information landen soll.
|
||||||
|
|
||||||
Wähle den Typ, der die **Rolle** der Notiz am besten beschreibt. Der Typ setzt die Defaults für die oben genannten Parameter.
|
### 3.1 Identity Stream (Der Kern / Das „Warum“)
|
||||||
|
Dieser Stream definiert deine stabilen Merkmale und inneren Kompasse.
|
||||||
|
|
||||||
| Typ | Default Profil | Default Gewicht | Einsatzzweck |
|
| Typ | Gewicht | Chunking Profil | Zweck & Inhalt |
|
||||||
| :--- | :--- | :--- | :--- |
|
| :--- | :--- | :--- | :--- |
|
||||||
| **`concept`** | `sliding_smart_edges` | 0.60 | Fachbegriffe, Theorien. Zeitloses Wissen. |
|
| **`value`** | 1.00 | `structured_strict` | Fundamentale Werte und moralische Maßstäbe. |
|
||||||
| **`project`** | `sliding_smart_edges` | 0.97 | Aktive Vorhaben mit Ziel und Status. |
|
| **`principle`** | 0.95 | `structured_strict_L3` | Handlungsleitlinien mit tiefer Hierarchie (H3-Split). |
|
||||||
| **`experience`**| `sliding_smart_edges` | 0.90 | Persönliche Lektionen (für Empathie). |
|
| **`trait`** | 1.10 | `structured_strict` | Charakterliche Stärken und Talente. |
|
||||||
| **`decision`** | **`structured_..._strict`** | **1.00** | Entscheidungen. Muss atomar getrennt sein (Optionen vs. Ergebnis). |
|
| **`belief`** | 0.90 | `sliding_short` | Tiefe Überzeugungen über dich und die Gesellschaft. |
|
||||||
| **`value`** | **`structured_..._strict`** | **1.00** | Werte/Prinzipien. |
|
| **`profile`** | 0.70 | `structured_strict` | Rollenidentitäten (z. B. Vater, Mentor, Unternehmer). |
|
||||||
| **`principle`**| `structured_..._strict_L3`| 0.95 | Handlungsleitlinien (Trennt bis Ebene H3). |
|
| **`need`** | 1.05 | `sliding_smart_edges` | Psychologische Grundbedürfnisse (z. B. Autonomie, Bindung). |
|
||||||
| **`goal`** | `sliding_smart_edges` | 0.95 | Strategische Ziele. |
|
| **`motivation`**| 0.95 | `sliding_smart_edges` | Innere Antreiber und Quellen deiner Energie. |
|
||||||
| **`risk`** | `sliding_short` | 0.85 | Risiken (kurz und prägnant). |
|
| **`boundary`** | 0.90 | `sliding_smart_edges` | Deine persönlichen Grenzen und Integritäts-Leitplanken. |
|
||||||
| **`journal`** | `sliding_standard` | 0.80 | Zeitbezogene Logs. |
|
| **`bias`** | 0.80 | `sliding_short` | Bekannte kognitive Verzerrungen und Denkfallen. |
|
||||||
| **`source`** | `sliding_standard` | 0.50 | Externe Quellen (niedrig gewichtet). |
|
|
||||||
|
### 3.1.2 Action Stream (Die Dynamik / Das „Was“)
|
||||||
|
Dieser Stream umfasst alles, was auf Umsetzung, Planung und aktuelle Zustände zielt.
|
||||||
|
|
||||||
|
| Typ | Gewicht | Chunking Profil | Zweck & Inhalt |
|
||||||
|
| :--- | :--- | :--- | :--- |
|
||||||
|
| **`project`** | 0.97 | `sliding_smart_edges` | Aktive Vorhaben mit Mission und Zielsetzung. |
|
||||||
|
| **`goal`** | 0.95 | `sliding_smart_edges` | Strategische Nordsterne und Zielzustände. |
|
||||||
|
| **`decision`** | 1.00 | `structured_strict` | Getroffene Entscheidungen (ADR-Logik). |
|
||||||
|
| **`risk`** | 0.85 | `sliding_short` | Potenzielle Gefahren und Bedrohungsszenarien. |
|
||||||
|
| **`obstacle`** | 1.00 | `structured_strict` | Aktuelle Hürden, Ängste und Blockaden. |
|
||||||
|
| **`task`** | 0.80 | `sliding_short` | Operative Aufgaben und Definition of Done. |
|
||||||
|
| **`skill`** | 0.90 | `sliding_smart_edges` | Fertigkeiten, Lernpfade und Meisterschaft. |
|
||||||
|
| **`habit`** | 0.85 | `sliding_short` | Routinen, Automatismen und Verhaltensmuster. |
|
||||||
|
| **`idea`** | 0.70 | `sliding_short` | Flüchtige Einfälle und Rohmaterial für Projekte. |
|
||||||
|
| **`state`** | 0.60 | `sliding_short` | Momentane Verfassung, Stimmung und Energielevel. |
|
||||||
|
|
||||||
|
### 3.1.3 History & Basis Stream (Die Evidenz / Das „Wann“)
|
||||||
|
Dieser Stream speichert deine Erlebnisse, Fakten und externes Wissen als Belege.
|
||||||
|
|
||||||
|
| Typ | Gewicht | Chunking Profil | Zweck & Inhalt |
|
||||||
|
| :--- | :--- | :--- | :--- |
|
||||||
|
| **`insight`** | 1.20 | `sliding_smart_edges` | Hochrelevante Erkenntnisse und Verhaltensmuster. |
|
||||||
|
| **`experience`**| 1.10 | `sliding_smart_edges` | Biografische Lektionen und prägende Erlebnisse. |
|
||||||
|
| **`event`** | 0.60 | `sliding_standard` | Chronologische Protokolle und Ereignisse. |
|
||||||
|
| **`journal`** | 0.80 | `sliding_standard` | Tägliche Logs und ungefilterte Gedanken. |
|
||||||
|
| **`person`** | 0.50 | `sliding_standard` | Kontaktprofile und soziale Vernetzung. |
|
||||||
|
| **`source`** | 0.50 | `sliding_standard` | Externe Quellen wie Bücher, Videos oder Artikel. |
|
||||||
|
| **`concept`** | 0.60 | `sliding_smart_edges` | Fachbegriffe, Theorien und zeitloses Wissen. |
|
||||||
|
| **`glossary`** | 0.40 | `sliding_short` | Kurze Begriffsdefinitionen. |
|
||||||
|
| **`default`** | 1.00 | `sliding_standard` | Fallback für alle nicht klassifizierten Notizen. |
|
||||||
|
|
||||||
|
### 3.2 Status und Bedeutung
|
||||||
|
|
||||||
|
| Status | Bedeutung | Auswirkung auf die KI |
|
||||||
|
| :--- | :--- | :--- |
|
||||||
|
| **`stable`** | **Geprüftes Wissen.** Die Notiz ist inhaltlich korrekt, finalisiert und verlässlich (Gold-Standard). | **🚀 Bevorzugt (Bonus):** Die KI vertraut diesen Inhalten mehr (+20% Relevanz-Score). Bei widersprüchlichen Infos gewinnt `stable`. |
|
||||||
|
| **`active`** | **Standard.** Aktuelle Arbeitsnotizen, Projekte oder Dokumentationen (Default, wenn leer). | **🔵 Neutral:** Standard-Gewichtung (Faktor 1.0). |
|
||||||
|
| **`draft`** | **Entwurf.** Brainstorming, unstrukturierte Mitschriften oder rohe Ideen. | **🔻 Gedämpft (Malus):** Die KI nutzt diese Infos nur, wenn es keine besseren Treffer gibt (Relevanz auf 50% reduziert). Reduziert "Rauschen" in den Antworten. |
|
||||||
|
| **`system`** | **Intern.** Konfigurationsdateien, technische Logs oder Admin-Skripte. | **❌ Ignoriert (Hard Skip):** Die Datei wird **nicht** in den Suchindex aufgenommen und ist für den Chat unsichtbar. |
|
||||||
|
| **`template`**| **Vorlage.** Leere Gerüste für neue Notizen (z.B. für Obsidian). | **❌ Ignoriert (Hard Skip):** Verhindert, dass leere Vorlagen als Suchergebnisse auftauchen. |
|
||||||
|
|
||||||
|
### Wann nutze ich welchen Status?
|
||||||
|
|
||||||
|
1. **Ideenfindung:** Setzen Sie neue Ideen immer auf **`draft`**. So können Sie frei schreiben, ohne dass die KI sofort "Halbwissen" als Fakten verkauft.
|
||||||
|
2. **Finalisierung:** Sobald eine Entscheidung getroffen oder ein Konzept fertig ist, ändern Sie den Status auf **`stable`**.
|
||||||
|
3. **Konfiguration:** Nutzen Sie **`system`** für Dateien wie die `01_edge_vocabulary.md`, damit die KI nicht die Definition der Kanten zitiert, wenn Sie eigentlich nach Inhalten suchen.
|
||||||
|
|
||||||
|
### 3.3 Aliases (Synonyme & Verlinkung)
|
||||||
|
|
||||||
|
Nutze `aliases: [Synonym]` für:
|
||||||
|
1. **Flüssiges Schreiben:** `[[RAG]]` statt `[[Retrieval Augmented Generation]]`.
|
||||||
|
2. **Semantische Anker:** Der Chat findet die Notiz auch über den Alias-Begriff.
|
||||||
|
|
||||||
|
|
||||||
|
Das optionale Feld `aliases` erlaubt es dir, einer Notiz alternative Titel oder Synonyme zu geben. Dies ist ein mächtiges Werkzeug für die Usability und die Suche.
|
||||||
|
|
||||||
|
```yaml
|
||||||
|
---
|
||||||
|
title: Leitbild – Handlungsprinzipien
|
||||||
|
aliases: [Prinzipien, Handlungsleitlinien, Entscheidungsprinzipien]
|
||||||
|
---
|
||||||
|
|
||||||
|
**Best Practices für Aliases**
|
||||||
|
|
||||||
|
Damit dein System sauber bleibt, beachte diese Regeln:
|
||||||
|
|
||||||
|
* ✅ **Akronyme & Abkürzungen:**
|
||||||
|
Nutze Aliases für technische Kürzel.
|
||||||
|
* *Note:* `Retrieval Augmented Generation`
|
||||||
|
* *Alias:* `[RAG, RAG-Architektur]`
|
||||||
|
* *Vorteil:* Du tippst im Fließtext nur `[[RAG]]` und bist fertig.
|
||||||
|
|
||||||
|
* ✅ **Projekt-Codenamen:**
|
||||||
|
Verbinde den offiziellen Titel mit dem Flur-Namen.
|
||||||
|
* *Note:* `Projekt Phoenix – Cloud Migration`
|
||||||
|
* *Alias:* `[Phoenix, Cloud-Projekt]`
|
||||||
|
|
||||||
|
* ❌ **Vermeide generische Begriffe (Namespace Pollution):**
|
||||||
|
Gib einer spezifischen Notiz niemals einen Alias, der ein allgemeines Wort ist.
|
||||||
|
* *Schlecht:* Alias `[Meeting]` für `2025-10-JourFixe`.
|
||||||
|
* *Folge:* Jedes Mal, wenn du das Wort "Meeting" tippst, schlägt Obsidian dir diesen einen alten Jour Fixe vor. Das zerstört den Schreibfluss.
|
||||||
|
|
||||||
|
* ❌ **Keine Plural-Wahn:**
|
||||||
|
Mindnet und Obsidian finden meist auch den Plural (Fuzzy Search). Du musst nicht `[Prinzip, Prinzipien, Prinzips]` anlegen. Ein Stammbegriff reicht oft.
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
@@ -123,33 +215,41 @@ Dies ist die **mächtigste** Methode. Du sagst dem System explizit, **wie** Ding
|
|||||||
* `similar_to`: Ähnelt / Ist vergleichbar mit.
|
* `similar_to`: Ähnelt / Ist vergleichbar mit.
|
||||||
* `solves`: Löst (Problem).
|
* `solves`: Löst (Problem).
|
||||||
* `based_on`: Basiert auf (Fundament).
|
* `based_on`: Basiert auf (Fundament).
|
||||||
|
* **`prev` / `next` [NEU]**: Markiert chronologische oder evolutionäre Abfolgen (z.B. Leitbild-Evolution).
|
||||||
|
|
||||||
### 4.2 Callout-Edges
|
### 4.2 Callout-Edges (empfohlen)
|
||||||
Für Zusammenfassungen am Ende einer Notiz:
|
Für Zusammenfassungen am Ende einer Notiz, oder eines Absatzes:
|
||||||
|
|
||||||
```markdown
|
```markdown
|
||||||
> [!edge] related_to: [[Vector Embeddings]] [[AI Agents]]
|
> [!edge] related_to
|
||||||
|
> [[Vector Embeddings]]
|
||||||
|
> [[AI Agents]]
|
||||||
```
|
```
|
||||||
|
|
||||||
|
### 4.3 Implizite Bidirektionalität (Edger-Logik) [NEU] [PRÜFEN!]
|
||||||
|
In Mindnet musst du Kanten **nicht** manuell in beide Richtungen pflegen. Der **Edger** übernimmt die Paarbildung automatisch im Hintergrund.
|
||||||
|
|
||||||
|
**Deine Aufgabe:** Setze die Kante in der Datei, die du gerade bearbeitest, so wie es der **logische Fluss** vorgibt.
|
||||||
|
|
||||||
|
* **Blick zurück (Rückwärtslink):** Wenn du ein Ergebnis dokumentierst, nutze `derived_from`, `based_on` oder `prev`.
|
||||||
|
* **Blick nach vorn (Vorwärtslink):** Wenn du einen Plan oder ein Protokoll schreibst, nutze `resulted_in`, `supports` oder `next`.
|
||||||
|
|
||||||
|
**System-Logik (Beispiele):**
|
||||||
|
- Schreibst du in Note A: `next: [[B]]`, weiß das System automatisch: `B prev A`.
|
||||||
|
- Schreibst du in Note B: `derived_from: [[A]]`, weiß das System automatisch: `A resulted_in B`.
|
||||||
|
|
||||||
|
**Vorteil:** Keine redundante Datenpflege, kein "Link-Nightmare", volle Konsistenz im Graphen.
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 5. Schreiben für den KI-Zwilling (Szenarien)
|
## 5. Schreiben für den KI-Zwilling (Szenarien)
|
||||||
|
|
||||||
Damit der **RAG-Chat** dich berät, musst du "Futter" für die Decision Engine liefern.
|
Damit der **RAG-Chat** dich berät, musst du "Futter" für die Decision Engine liefern.
|
||||||
|
|
||||||
### Szenario A: Decision Engine (`DECISION`)
|
### 5.1 Szenario A: Decision Engine (`DECISION`)
|
||||||
* **Ziel:** Das System soll abwägen: "Passt Tool X zu mir?"
|
* **Ziel:** Das System soll abwägen: "Passt Tool X zu mir?"
|
||||||
* **Vorgehen:** Erstelle Notizen mit `type: value` oder `type: goal`.
|
* **Vorgehen:** Erstelle Notizen mit `type: value` oder `type: goal`.
|
||||||
|
|
||||||
**Beispiel Notiz:**
|
|
||||||
```yaml
|
|
||||||
---
|
|
||||||
type: value
|
|
||||||
title: Prinzip: Datensparsamkeit
|
|
||||||
---
|
|
||||||
Wir speichern nur das Minimum an Daten. Cloud-Uploads persönlicher Daten sind verboten, es sei denn, sie sind E2E-verschlüsselt.
|
|
||||||
```
|
|
||||||
|
|
||||||
* **Effekt:** Wenn du fragst "Soll ich Notion nutzen?", lädt die Engine diese Notiz und antwortet: *"Nein, Notion ist SaaS ohne E2E. Das verletzt dein Prinzip der Datensparsamkeit."*
|
* **Effekt:** Wenn du fragst "Soll ich Notion nutzen?", lädt die Engine diese Notiz und antwortet: *"Nein, Notion ist SaaS ohne E2E. Das verletzt dein Prinzip der Datensparsamkeit."*
|
||||||
|
|
||||||
### Szenario B: Empathie (`EMPATHY`)
|
### Szenario B: Empathie (`EMPATHY`)
|
||||||
@@ -168,6 +268,22 @@ Ich habe gelernt: Das ist oft das Zeichen kurz vor dem Durchbruch.
|
|||||||
```
|
```
|
||||||
* **Effekt:** Bei "Alles ist grau" findet das System diese Notiz und spiegelt die Lektion zurück.
|
* **Effekt:** Bei "Alles ist grau" findet das System diese Notiz und spiegelt die Lektion zurück.
|
||||||
|
|
||||||
|
### 5.2 **Szenario C: Forward-Mapping (Lücken-Analyse) [NEU]**
|
||||||
|
* **Ziel:** Strategische Wissenslücken füllen.
|
||||||
|
* **Vorgehen:** Erstelle Hub-Notizen mit Forward-Links auf noch nicht existierende Dateien (z. B. `[[Besten Version meiner Selbst]]`).
|
||||||
|
* **Effekt:** Das System erkennt die semantische Bedeutung des geplanten Wissens und kann proaktiv Fragen stellen, um diese Lücken zu schließen.
|
||||||
|
|
||||||
|
### 5.3 **Szenario D: Narratives Gedächtnis (Intention) [NEU]**
|
||||||
|
* **Ziel:** Das System soll verstehen, *warum* eine Entscheidung getroffen wurde, um in ähnlichen künftigen Situationen konsistent zu beraten.
|
||||||
|
* **Vorgehen:** Nutze in `journal`- oder `experience`-Notizen Abschnitte für "Hintergrund" und "Interpretation".
|
||||||
|
* **Beispiel:** Statt "Wert: Disziplin" schreibe "Ich wähle Disziplin, weil ich in meiner Kindheit erlebt habe, wie Willkür schadet."
|
||||||
|
* **Effekt:** Die KI spiegelt nicht nur die Regel, sondern die Überzeugung dahinter.
|
||||||
|
|
||||||
|
### 5.4 Szenario C: Forward-Mapping (Lücken-Analyse)
|
||||||
|
Setze bewusst Links auf Dateien, die noch nicht existieren (z.B. `[[Die beste Version meiner selbst]]`). Die KI erkennt diese semantischen Lücken und stellt im Chat proaktive Fragen, um diese Felder mit dir zu füllen.
|
||||||
|
|
||||||
|
### 5.5 Szenario D: Narratives Gedächtnis
|
||||||
|
Dokumentiere das "Warum" (Fleisch am Knochen). Wenn du schreibst: *"Ich wähle Disziplin, weil ich Willkür als Kind schmerzhaft erlebt habe"*, versteht die KI die emotionale Kausalität und kann dich in Krisen an diesen Ursprung erinnern.
|
||||||
---
|
---
|
||||||
|
|
||||||
## 6. Best Practices & Beispiele
|
## 6. Best Practices & Beispiele
|
||||||
@@ -204,9 +320,6 @@ title: ADR: Wahl von Qdrant
|
|||||||
type: decision
|
type: decision
|
||||||
status: final
|
status: final
|
||||||
tags: [architektur, db]
|
tags: [architektur, db]
|
||||||
# OVERRIDES: Wir wollen diese Notiz extrem wichtig machen und strikt trennen.
|
|
||||||
# Da "strict" genutzt wird, landet "Alternativen" in einem eigenen Chunk
|
|
||||||
# und vermischt sich nicht mit der Entscheidung selbst.
|
|
||||||
chunking_profile: structured_smart_edges_strict
|
chunking_profile: structured_smart_edges_strict
|
||||||
retriever_weight: 1.5
|
retriever_weight: 1.5
|
||||||
---
|
---
|
||||||
@@ -224,4 +337,4 @@ Wir haben auch [[rel:similar_to Pinecone]] und [[rel:similar_to Weaviate]] betra
|
|||||||
## 7. Virtual Schema Layer
|
## 7. Virtual Schema Layer
|
||||||
|
|
||||||
Grundsätzlich gilt das Prinzip des **Virtual Schema Layers**. Die Logik (wie `chunk_size`) wird zentral in der `types.yaml` verwaltet.
|
Grundsätzlich gilt das Prinzip des **Virtual Schema Layers**. Die Logik (wie `chunk_size`) wird zentral in der `types.yaml` verwaltet.
|
||||||
**Aber:** Als Power-User hast du über die oben genannten Overrides (`chunking_profile`) jederzeit die Möglichkeit, aus diesem Standard auszubrechen, wenn eine spezifische Notiz eine Sonderbehandlung benötigt.
|
**Aber:** Als Power-User hast du über die Overrides jederzeit die Möglichkeit, aus diesem Standard auszubrechen.
|
||||||
@@ -0,0 +1,72 @@
|
|||||||
|
---
|
||||||
|
doc_type: technical_reference
|
||||||
|
audience: developer, power_user
|
||||||
|
scope: obsidian, scripts, workflow
|
||||||
|
status: active
|
||||||
|
version: 1.0.0
|
||||||
|
context: "Setup und Dokumentation der Obsidian-Integration für Mindnet v2.9."
|
||||||
|
---
|
||||||
|
|
||||||
|
# Obsidian Integration Guide
|
||||||
|
|
||||||
|
Dieses Dokument beschreibt die technische Implementierung der Mindnet-Logik innerhalb von Obsidian mittels Templater-Skripten.
|
||||||
|
|
||||||
|
## 1. Voraussetzungen
|
||||||
|
|
||||||
|
Um die volle Funktionalität des Mindnet-Workflows zu nutzen, sind folgende Obsidian-Plugins zwingend erforderlich:
|
||||||
|
* **Templater:** Für die Ausführung der JavaScript-Logik beim Erstellen von Notizen und Kanten.
|
||||||
|
* **Meta Bind (Optional):** Zur intuitiven Steuerung von Frontmatter-Feldern wie `retriever_weight`.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Kern-Komponenten
|
||||||
|
|
||||||
|
### 2.1 Mindnet Universal Creator (`mindnetCreate.js`)
|
||||||
|
Das zentrale Skript zur Erstellung neuer Notizen. Es stellt sicher, dass jede Datei im korrekten Ordner landet und das notwendige Frontmatter für das Mindnet-Backend erhält.
|
||||||
|
|
||||||
|
**Kern-Funktionen:**
|
||||||
|
* Automatische Typ-Auswahl basierend auf den Vorlagen in `_system/templates/creation`.
|
||||||
|
* Validierung und Erzwingung der ID-Syntax (`YYYYMMDDHHmm-slug`).
|
||||||
|
* Pfad-Erzwingung bei Verlinkungen, um die Konsistenz des Graphen zu wahren.
|
||||||
|
|
||||||
|
### 2.2 Edge Callout Selector Skript
|
||||||
|
Dieses Skript ermöglicht das Einfügen von semantischen Kanten (`[!edge]`) durch Auswahl aus dem zentralen Wörterbuch.
|
||||||
|
|
||||||
|
**Features:**
|
||||||
|
* **Kategorisierte Auswahl:** Gruppierung der Kanten nach Themenbereichen (H3-Ebene der Vokabel-Datei).
|
||||||
|
* **Alias-Support:** Ermöglicht die Wahl zwischen technischem System-Namen (Canonical) und benutzerfreundlichen Aliasen.
|
||||||
|
* **Automatisches Callout-Formatting:** Transformiert markierte Wikilinks direkt in einen validen Edge-Block.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Konfiguration & Speicherorte
|
||||||
|
|
||||||
|
Damit die Skripte funktionieren, müssen folgende Pfade im Vault existieren:
|
||||||
|
|
||||||
|
| Pfad | Inhalt / Zweck |
|
||||||
|
| :--- | :--- |
|
||||||
|
| `_system/scripts/` | Speicherort für die `.js` Module (z.B. `mindnetCreate.js`). |
|
||||||
|
| `_system/templates/` | Ablage für die Templater-Trigger-Dateien. |
|
||||||
|
| `_system/templates/creation/` | Enthält die Typ-spezifischen Vorlagen (z.B. `template-insight.md`). |
|
||||||
|
| `_system/dictionary/edge_vocabulary.md` | Single Source of Truth für alle erlaubten Kanten-Typen. |
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Workflow-Integration
|
||||||
|
|
||||||
|
### 4.1 Notiz-Erstellung
|
||||||
|
1. Verwenden des Hotkeys für den `Mindnet Creator`.
|
||||||
|
2. Auswahl des gewünschten Typs (z. B. `EXPERIENCE`).
|
||||||
|
3. Das Skript erstellt die Datei im Zielordner und öffnet sie mit den passenden Leitfragen.
|
||||||
|
|
||||||
|
### 4.2 Kanten-Management
|
||||||
|
1. Markieren eines oder mehrerer Wikilinks im Text.
|
||||||
|
2. Starten des `Insert Edge Callout` Skripts.
|
||||||
|
3. Auswahl des Kanten-Typs (z. B. `caused_by`) und der gewünschten Bezeichnung.
|
||||||
|
4. Das Skript fügt den Block automatisch unter der Markierung ein.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Wartung & Updates
|
||||||
|
|
||||||
|
Bei Änderungen an den Notiz-Typen in der `types.yaml` müssen die entsprechenden Markdown-Vorlagen im Ordner `creation` manuell synchronisiert werden, um die Konsistenz zwischen Obsidian und dem Backend zu wahren.
|
||||||
@@ -1,73 +1,83 @@
|
|||||||
---
|
---
|
||||||
doc_type: concept
|
doc_type: concept
|
||||||
audience: architect, product_owner
|
audience: architect, product_owner
|
||||||
scope: ai, router, personas
|
scope: ai, router, personas, resilience
|
||||||
status: active
|
status: active
|
||||||
version: 2.6
|
version: 2.8.1
|
||||||
context: "Fachkonzept der KI-Persönlichkeit, der Decision Engine und Erweiterungsstrategien."
|
context: "Fachkonzept der hybriden KI-Persönlichkeit, der Provider-Kaskade und der kognitiven Resilienz (Deep Fallback)."
|
||||||
---
|
---
|
||||||
|
|
||||||
# Konzept: KI-Persönlichkeit & Router
|
# Konzept: KI-Persönlichkeit & Router
|
||||||
|
|
||||||
**Quellen:** `mindnet_functional_architecture.md`, `Programmplan_V2.2.md`
|
**Quellen:** `mindnet_functional_architecture.md`, `llm_service.py`, `config.py`, `ingestion.py`
|
||||||
|
|
||||||
Mindnet soll nicht wie eine Suchmaschine wirken, sondern wie ein **Digitaler Zwilling**. Dazu muss das System erkennen, **was** der Nutzer will, und seine "Persönlichkeit" anpassen.
|
Mindnet soll nicht wie eine Suchmaschine wirken, sondern wie ein **Digitaler Zwilling**. Dazu muss das System erkennen, **was** der Nutzer will, und seine „Persönlichkeit“ sowie seine technische Infrastruktur dynamisch anpassen.
|
||||||
|
|
||||||
## 1. Der Hybrid Router (Das Gehirn)
|
## 1. Der Hybrid Router (Das Gehirn)
|
||||||
|
|
||||||
Jede Eingabe durchläuft den **Hybrid Router**. Er entscheidet über die Strategie.
|
Jede Eingabe durchläuft den **Hybrid Router**. Er entscheidet über die fachliche Strategie und die technische Ausführung.
|
||||||
|
|
||||||
### Modus A: RAG (Retrieval Augmented Generation)
|
### Modus A: RAG (Retrieval Augmented Generation)
|
||||||
* *Intent:* Der Nutzer hat eine Frage oder ein Problem (`FACT`, `DECISION`, `EMPATHY`).
|
* **Intent:** Der Nutzer hat eine Frage oder ein Problem (`FACT`, `DECISION`, `EMPATHY`).
|
||||||
* *Aktion:* Das System sucht im Gedächtnis und generiert eine Antwort.
|
* **Aktion:** Das System sucht im Gedächtnis und generiert eine Antwort.
|
||||||
|
|
||||||
### Modus B: Interview (Knowledge Capture)
|
### Modus B: Interview (Knowledge Capture)
|
||||||
* *Intent:* Der Nutzer will Wissen speichern (`INTERVIEW`).
|
* **Intent:** Der Nutzer will Wissen speichern (`INTERVIEW`).
|
||||||
* *Aktion:* Das System sucht **nicht**, sondern fragt ab und erstellt einen Draft.
|
* **Aktion:** Das System sucht **nicht**, sondern fragt ab und erstellt einen Draft.
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 2. Die Personas (Strategien)
|
## 2. Die hybride LLM-Landschaft (Resilienz-Kaskade)
|
||||||
|
|
||||||
|
Ein intelligenter Zwilling muss jederzeit verfügbar sein. Mindnet v2.8.1 nutzt eine **dreistufige Kaskade**, um Intelligenz, Kosten und Verfügbarkeit zu optimieren:
|
||||||
|
|
||||||
|
1. **Stufe 1: Cloud-Speed (Turbo-Mode):** Primäre Wahl für komplexe Extraktionsaufgaben und schnelle RAG-Antworten mittels OpenRouter (Mistral-7B) oder Google Gemini (2.5-flash-lite).
|
||||||
|
2. **Stufe 2: Quoten-Resilienz:** Erkennt das System eine Drosselung durch Cloud-Provider (HTTP 429), pausiert es kontrolliert (`LLM_RATE_LIMIT_WAIT`), führt automatisierte Retries durch und schützt so den laufenden Prozess.
|
||||||
|
3. **Stufe 3: Deep Fallback & lokale Souveränität (Ollama):** * **Technischer Fallback:** Schlagen alle Cloud-Versuche fehl, übernimmt das lokale Modell (Phi-3).
|
||||||
|
* **Kognitiver Fallback (v2.11.14):** Liefert die Cloud zwar technisch eine Antwort, verweigert aber inhaltlich die Verarbeitung (Silent Refusal/Policy Violation), wird ein **Deep Fallback** erzwungen, um die Datenintegrität lokal zu retten.
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Die Personas (Strategien)
|
||||||
|
|
||||||
Mindnet wechselt den Hut, je nach Situation.
|
Mindnet wechselt den Hut, je nach Situation.
|
||||||
|
|
||||||
### 2.1 Der Berater (Strategy: DECISION)
|
### 3.1 Der Berater (Strategy: DECISION)
|
||||||
* **Auslöser:** Fragen wie "Soll ich...?", "Was ist besser?".
|
* **Auslöser:** Fragen wie „Soll ich...?“, „Was ist besser?“.
|
||||||
* **Strategic Retrieval:** Lädt aktiv Notizen der Typen `value` (Werte), `goal` (Ziele) und `risk` (Risiken), auch wenn sie im Text nicht direkt vorkommen.
|
* **Strategic Retrieval:** Lädt aktiv Notizen der Typen `value` (Werte), `goal` (Ziele) und `risk` (Risiken), auch wenn sie im Text nicht direkt vorkommen.
|
||||||
* **Reasoning:** *"Wäge die Fakten gegen meine Werte ab. Sei strikt bei Risiken."*
|
* **Reasoning:** *„Wäge die Fakten gegen meine Werte ab. Sei strikt bei Risiken.“*
|
||||||
|
|
||||||
### 2.2 Der Spiegel (Strategy: EMPATHY)
|
### 3.2 Der Spiegel (Strategy: EMPATHY)
|
||||||
* **Auslöser:** Emotionale Aussagen ("Ich bin frustriert").
|
* **Auslöser:** Emotionale Aussagen („Ich bin frustriert“).
|
||||||
* **Strategic Retrieval:** Lädt `experience` (Erfahrungen) und `belief` (Glaubenssätze).
|
* **Strategic Retrieval:** Lädt `experience` (Erfahrungen) und `belief` (Glaubenssätze).
|
||||||
* **Reasoning:** *"Nutze meine eigenen Erfahrungen, um die Situation einzuordnen."*
|
* **Reasoning:** *„Nutze meine eigenen Erfahrungen, um die Situation einzuordnen.“*
|
||||||
|
|
||||||
### 2.3 Der Bibliothekar (Strategy: FACT)
|
### 3.3 Der Bibliothekar (Strategy: FACT)
|
||||||
* **Auslöser:** Sachfragen ("Was ist Qdrant?").
|
* **Auslöser:** Sachfragen („Was ist Qdrant?“).
|
||||||
* **Behavior:** Präzise, neutral, kurz.
|
* **Behavior:** Präzise, neutral, kurz.
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 3. Future Concepts: The Empathic Digital Twin
|
## 4. Future Concepts: The Empathic Digital Twin
|
||||||
|
|
||||||
Um Mindnet von einer Maschine zu einem echten Spiegel der Persönlichkeit zu entwickeln, sind folgende Konzepte in der Architektur angelegt:
|
### 4.1 Antizipation durch Erfahrung
|
||||||
|
* **Konzept:** Das System soll Konsequenzen vorhersagen („Was passiert, wenn...?“).
|
||||||
|
* **Logik:** *„In einer ähnlichen Situation (Projekt A) hat Entscheidung X zu Ergebnis Y geführt.“* (Analogie-Schluss).
|
||||||
|
|
||||||
### 3.1 Antizipation durch Erfahrung
|
### 4.2 Empathie & „Ich“-Modus
|
||||||
* **Konzept:** Das System soll Konsequenzen vorhersagen ("Was passiert, wenn...?").
|
|
||||||
* **Logik:** *"In einer ähnlichen Situation (Projekt A) hat Entscheidung X zu Ergebnis Y geführt."* (Analogie-Schluss).
|
|
||||||
|
|
||||||
### 3.2 Empathie & "Ich"-Modus
|
|
||||||
* **Konzept:** Das System antwortet im Tonfall des Nutzers.
|
* **Konzept:** Das System antwortet im Tonfall des Nutzers.
|
||||||
* **Umsetzung:** Few-Shot Prompting mit eigenen E-Mails/Texten als Stilvorlage.
|
* **Umsetzung:** Few-Shot Prompting mit eigenen E-Mails/Texten als Stilvorlage.
|
||||||
|
|
||||||
### 3.3 Glaubenssätze & Rituale
|
### 4.3 Resilienz als Charakterzug
|
||||||
* **Konzept:** Berücksichtigung weicher Faktoren.
|
Durch die **WP-20 Implementierung** zeigt das System „Geduld“: Bei Quoten-Engpässen bricht es nicht ab, sondern wartet auf freie Kapazitäten. Durch das **Deep Fallback (v2.11.14)** besitzt Mindnet eine kognitive Ausdauer, die inhaltliche Zensur oder Blockaden der Cloud erkennt und durch lokale Rechenpower auflöst.
|
||||||
* **Szenario:** Bei Terminplanungen werden Rituale ("Keine Meetings vor 10 Uhr") automatisch als harte Restriktion gegen Anfragen geprüft.
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 4. Erweiterbarkeit: Das "Teach-the-AI" Paradigma
|
## 5. Erweiterbarkeit: Das „Teach-the-AI“ Paradigma
|
||||||
|
|
||||||
Mindnet lernt nicht durch Training (Fine-Tuning), sondern durch **Konfiguration** und **Vernetzung**. Wenn du dem System ein neues Konzept beibringen willst, musst du an drei Stellen eingreifen.
|
Mindnet lernt durch **Konfiguration** und **Vernetzung**.
|
||||||
|
|
||||||
**Beispiel: Du willst den Typ `risk` einführen.**
|
**Beispiel: Du willst den Typ `risk` einführen.**
|
||||||
|
|
||||||
@@ -87,6 +97,6 @@ DECISION:
|
|||||||
```
|
```
|
||||||
|
|
||||||
**3. Kognitive Ebene (Verständnis)**
|
**3. Kognitive Ebene (Verständnis)**
|
||||||
In `prompts.yaml`: Erkläre dem LLM, was ein Risiko ist.
|
In `prompts.yaml`: Erkläre dem LLM (provider-spezifisch mittels der Prompt-Kaskade), was ein Risiko ist.
|
||||||
|
|
||||||
**Fazit:** Nur wenn **Daten** (Vault), **Physik** (Config) und **Semantik** (Prompt) zusammenspielen, entsteht ein intelligenter Zwilling.
|
**Fazit:** Nur wenn **Daten** (Vault), **Infrastruktur** (Resiliente Kaskade) und **Semantik** (Prompt) zusammenspielen, entsteht ein intelligenter Zwilling.
|
||||||
@@ -0,0 +1,456 @@
|
|||||||
|
---
|
||||||
|
doc_type: concept
|
||||||
|
audience: architect, developer
|
||||||
|
scope: architecture, design_patterns, modularization
|
||||||
|
status: active
|
||||||
|
version: 2.9.1
|
||||||
|
context: "Architektur-Patterns, Design-Entscheidungen und modulare Struktur von Mindnet. Basis für Verständnis und Erweiterungen."
|
||||||
|
---
|
||||||
|
|
||||||
|
# Architektur-Patterns & Design-Entscheidungen
|
||||||
|
|
||||||
|
Dieses Dokument beschreibt die zentralen Architektur-Patterns und Design-Entscheidungen, die Mindnet prägen. Es dient als Referenz für Entwickler und Architekten, um das System zu verstehen und konsistent zu erweitern.
|
||||||
|
|
||||||
|
## 1. Kern-Paradigmen
|
||||||
|
|
||||||
|
### 1.1 Filesystem First (Source of Truth)
|
||||||
|
|
||||||
|
**Prinzip:** Markdown-Dateien im Vault sind die einzige Quelle der Wahrheit. Die Datenbank (Qdrant) ist ein abgeleiteter Index.
|
||||||
|
|
||||||
|
**Implikationen:**
|
||||||
|
- Dateien werden immer direkt von der Festplatte gelesen (z.B. im Editor)
|
||||||
|
- Datenbank-Inhalte können aus Markdown rekonstruiert werden
|
||||||
|
- Änderungen erfolgen primär im Vault, nicht in der DB
|
||||||
|
- Die Datenbank ist ein Cache, kein primärer Speicher
|
||||||
|
|
||||||
|
**Code-Beispiele:**
|
||||||
|
- `ui_callbacks.py`: Liest Dateien direkt von Disk
|
||||||
|
- `ingestion_processor.py`: Schreibt zuerst auf Disk, dann in DB
|
||||||
|
|
||||||
|
### 1.2 Late Binding (Späte Semantik)
|
||||||
|
|
||||||
|
**Prinzip:** Struktur und Interpretation werden in Konfigurationen definiert, nicht im Code.
|
||||||
|
|
||||||
|
**Implikationen:**
|
||||||
|
- Neue Note-Typen werden in `types.yaml` definiert, nicht im Code
|
||||||
|
- Prompt-Templates sind in `prompts.yaml` konfigurierbar
|
||||||
|
- Edge-Typen werden in `edge_vocabulary.md` verwaltet
|
||||||
|
- Die "Persönlichkeit" ist Config, kein Code
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Erweiterbarkeit ohne Code-Änderungen
|
||||||
|
- A/B-Testing von Prompt-Strategien
|
||||||
|
- Anpassung an verschiedene Use-Cases
|
||||||
|
|
||||||
|
### 1.3 Virtual Schema Layer
|
||||||
|
|
||||||
|
**Prinzip:** Markdown-Dateien benötigen nur minimale Frontmatter-Angaben. Komplexität wird zur Laufzeit injiziert.
|
||||||
|
|
||||||
|
**Beispiel:**
|
||||||
|
```yaml
|
||||||
|
# Minimal im Frontmatter
|
||||||
|
---
|
||||||
|
id: 20250101-test
|
||||||
|
title: Test
|
||||||
|
type: project
|
||||||
|
---
|
||||||
|
|
||||||
|
# Im Code wird zur Laufzeit ergänzt:
|
||||||
|
# - chunking_profile aus types.yaml
|
||||||
|
# - retriever_weight aus types.yaml
|
||||||
|
# - edge_defaults aus types.yaml
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Robuste Markdown-Dateien (weniger Breaking Changes)
|
||||||
|
- Zentrale Verwaltung von Logik
|
||||||
|
- Einfache Migration zwischen Versionen
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Modulare Architektur (WP-14)
|
||||||
|
|
||||||
|
### 2.1 Paket-Struktur
|
||||||
|
|
||||||
|
Seit WP-14 ist die Core-Logik in spezialisierte Pakete unterteilt:
|
||||||
|
|
||||||
|
```
|
||||||
|
app/core/
|
||||||
|
├── chunking/ # Text-Segmentierung
|
||||||
|
│ ├── chunking_strategies.py # Sliding/Heading-Strategien
|
||||||
|
│ ├── chunking_processor.py # Orchestrierung
|
||||||
|
│ └── chunking_propagation.py # Edge-Vererbung
|
||||||
|
├── database/ # Qdrant-Infrastruktur
|
||||||
|
│ ├── qdrant.py # Client & Config
|
||||||
|
│ └── qdrant_points.py # Point-Mapping
|
||||||
|
├── graph/ # Graph-Logik
|
||||||
|
│ ├── graph_subgraph.py # Expansion
|
||||||
|
│ └── graph_weights.py # Scoring
|
||||||
|
├── ingestion/ # Import-Pipeline
|
||||||
|
│ ├── ingestion_processor.py # Two-Pass Workflow
|
||||||
|
│ └── ingestion_validation.py # Mistral-safe Parsing
|
||||||
|
├── parser/ # Markdown-Parsing
|
||||||
|
│ ├── parsing_markdown.py # Frontmatter/Body
|
||||||
|
│ └── parsing_scanner.py # File-Scan
|
||||||
|
└── retrieval/ # Suche & Scoring
|
||||||
|
├── retriever.py # Orchestrator
|
||||||
|
└── retriever_scoring.py # Mathematik
|
||||||
|
```
|
||||||
|
|
||||||
|
### 2.2 Design-Pattern: Proxy-Adapter (Abwärtskompatibilität)
|
||||||
|
|
||||||
|
**Problem:** Nach WP-14 Modularisierung müssen alte Import-Pfade weiter funktionieren.
|
||||||
|
|
||||||
|
**Lösung:** Proxy-Module leiten Anfragen an neue Pakete weiter.
|
||||||
|
|
||||||
|
**Beispiel:**
|
||||||
|
```python
|
||||||
|
# app/core/retriever.py (Proxy)
|
||||||
|
from .retrieval.retriever import (
|
||||||
|
Retriever, hybrid_retrieve, semantic_retrieve
|
||||||
|
)
|
||||||
|
__all__ = ["Retriever", "hybrid_retrieve", "semantic_retrieve"]
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Keine Breaking Changes für bestehenden Code
|
||||||
|
- Graduelle Migration möglich
|
||||||
|
- Alte Scripts funktionieren weiter
|
||||||
|
|
||||||
|
### 2.3 Design-Pattern: Singleton (Edge Registry)
|
||||||
|
|
||||||
|
**Problem:** Edge Registry muss konsistent über alle Services sein.
|
||||||
|
|
||||||
|
**Lösung:** Singleton-Pattern mit Lazy Loading.
|
||||||
|
|
||||||
|
**Code:**
|
||||||
|
```python
|
||||||
|
# app/services/edge_registry.py
|
||||||
|
class EdgeRegistry:
|
||||||
|
_instance = None
|
||||||
|
|
||||||
|
def __new__(cls):
|
||||||
|
if cls._instance is None:
|
||||||
|
cls._instance = super().__new__(cls)
|
||||||
|
return cls._instance
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Einheitliche Validierung
|
||||||
|
- Keine Duplikation von Vokabular-Daten
|
||||||
|
- Thread-safe Initialisierung
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Asynchrone Verarbeitung
|
||||||
|
|
||||||
|
### 3.1 Background Tasks Pattern
|
||||||
|
|
||||||
|
**Problem:** Ingestion kann lange dauern (LLM-Calls, Embeddings). Blockiert API nicht.
|
||||||
|
|
||||||
|
**Lösung:** FastAPI Background Tasks für non-blocking Verarbeitung.
|
||||||
|
|
||||||
|
**Flow:**
|
||||||
|
1. API empfängt Request (`/ingest/save`)
|
||||||
|
2. Datei wird sofort auf Disk geschrieben
|
||||||
|
3. API antwortet mit `status: "queued"`
|
||||||
|
4. Background Task startet Ingestion asynchron
|
||||||
|
5. User kann weiterarbeiten
|
||||||
|
|
||||||
|
**Code:**
|
||||||
|
```python
|
||||||
|
@router.post("/save")
|
||||||
|
async def save_note(req: SaveRequest, background_tasks: BackgroundTasks):
|
||||||
|
# Sofortige Persistenz
|
||||||
|
write_to_disk(req.markdown_content)
|
||||||
|
|
||||||
|
# Async Processing
|
||||||
|
background_tasks.add_task(run_ingestion_task, ...)
|
||||||
|
|
||||||
|
return SaveResponse(status="queued", ...)
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Keine Timeouts bei großen Dateien
|
||||||
|
- Bessere User Experience
|
||||||
|
- System bleibt responsiv
|
||||||
|
|
||||||
|
### 3.2 Traffic Control (Semaphore Pattern)
|
||||||
|
|
||||||
|
**Problem:** Parallele LLM-Calls können System überlasten.
|
||||||
|
|
||||||
|
**Lösung:** Semaphore begrenzt parallele Hintergrund-Tasks.
|
||||||
|
|
||||||
|
**Code:**
|
||||||
|
```python
|
||||||
|
# app/services/llm_service.py
|
||||||
|
background_semaphore = asyncio.Semaphore(
|
||||||
|
settings.BACKGROUND_LIMIT # Default: 2
|
||||||
|
)
|
||||||
|
|
||||||
|
async def generate(...):
|
||||||
|
if priority == "background":
|
||||||
|
async with background_semaphore:
|
||||||
|
return await _call_llm(...)
|
||||||
|
else: # realtime
|
||||||
|
return await _call_llm(...) # Keine Limitierung
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Schutz vor API-Quoten-Überschreitung
|
||||||
|
- Stabiler Betrieb bei hoher Last
|
||||||
|
- Priorisierung von Echtzeit-Anfragen
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Resilienz-Patterns
|
||||||
|
|
||||||
|
### 4.1 Provider-Kaskade (Fallback-Kette)
|
||||||
|
|
||||||
|
**Problem:** Cloud-Provider können ausfallen oder Quoten überschreiten.
|
||||||
|
|
||||||
|
**Lösung:** Dreistufige Kaskade mit intelligentem Fallback.
|
||||||
|
|
||||||
|
**Stufen:**
|
||||||
|
1. **Cloud (OpenRouter/Gemini):** Schnell, aber abhängig von Provider
|
||||||
|
2. **Rate-Limit-Handling:** Automatische Retries bei HTTP 429
|
||||||
|
3. **Lokaler Fallback (Ollama):** Langsam, aber immer verfügbar
|
||||||
|
|
||||||
|
**Code:**
|
||||||
|
```python
|
||||||
|
# app/services/llm_service.py
|
||||||
|
async def generate(...):
|
||||||
|
try:
|
||||||
|
return await _call_cloud(...)
|
||||||
|
except RateLimitError:
|
||||||
|
await asyncio.sleep(LLM_RATE_LIMIT_WAIT)
|
||||||
|
return await _call_cloud(...) # Retry
|
||||||
|
except Exception:
|
||||||
|
return await _call_ollama(...) # Fallback
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Hohe Verfügbarkeit
|
||||||
|
- Kostenoptimierung (Cloud für Speed, Lokal für Fallback)
|
||||||
|
- Resilienz gegen Provider-Ausfälle
|
||||||
|
|
||||||
|
### 4.2 Deep Fallback (Kognitiver Fallback)
|
||||||
|
|
||||||
|
**Problem:** Cloud liefert technisch erfolgreiche, aber inhaltlich leere Antworten (Silent Refusal).
|
||||||
|
|
||||||
|
**Lösung:** Validierung der Antwort-Qualität, nicht nur HTTP-Status.
|
||||||
|
|
||||||
|
**Code:**
|
||||||
|
```python
|
||||||
|
response = await _call_cloud(...)
|
||||||
|
if is_valid_json(response):
|
||||||
|
return response
|
||||||
|
else:
|
||||||
|
# Deep Fallback: Cloud hat blockiert, lokaler Fallback
|
||||||
|
return await _call_ollama(...)
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Erkennung von Policy-Violations
|
||||||
|
- Datenintegrität trotz Cloud-Filter
|
||||||
|
- Lokale Souveränität
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Datenfluss-Patterns
|
||||||
|
|
||||||
|
### 5.1 Two-Pass Workflow (WP-15b)
|
||||||
|
|
||||||
|
**Problem:** Smart Edge Validation benötigt globalen Kontext (alle Notizen).
|
||||||
|
|
||||||
|
**Lösung:** Zwei-Phasen-Import mit Pre-Scan.
|
||||||
|
|
||||||
|
**Pass 1: Pre-Scan**
|
||||||
|
- Schnelles Scannen aller Dateien
|
||||||
|
- Aufbau von `LocalBatchCache` (IDs, Titel, Summaries)
|
||||||
|
- Keine LLM-Calls
|
||||||
|
|
||||||
|
**Pass 2: Semantic Processing**
|
||||||
|
- Nur für geänderte Dateien
|
||||||
|
- Binäre Validierung gegen Cache
|
||||||
|
- Effiziente Nutzung von LLM-Quoten
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Reduktion von LLM-Calls (nur Validierung, keine Extraktion)
|
||||||
|
- Konsistente Validierung (globaler Kontext)
|
||||||
|
- Schnellerer Import
|
||||||
|
|
||||||
|
### 5.2 Idempotenz-Pattern
|
||||||
|
|
||||||
|
**Prinzip:** Mehrfache Imports derselben Datei führen zum gleichen Ergebnis.
|
||||||
|
|
||||||
|
**Mechanismen:**
|
||||||
|
- **Deterministische IDs:** UUIDv5 basierend auf Datei-Inhalt
|
||||||
|
- **Hash-basierte Change Detection:** Multi-Hash für `body` und `full`
|
||||||
|
- **Deduplizierung:** Kanten werden anhand Identität erkannt
|
||||||
|
|
||||||
|
**Code:**
|
||||||
|
```python
|
||||||
|
# Deterministische ID
|
||||||
|
note_id = uuid.uuid5(NAMESPACE_URL, f"{file_path}#{content_hash}")
|
||||||
|
|
||||||
|
# Change Detection
|
||||||
|
if current_hash == stored_hash:
|
||||||
|
skip_processing() # Idempotent
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Sicherheit bei Re-Imports
|
||||||
|
- Keine Duplikate
|
||||||
|
- Konsistente Datenbank
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Frontend-Patterns
|
||||||
|
|
||||||
|
### 6.1 Active Inspector Pattern
|
||||||
|
|
||||||
|
**Problem:** Graph-Re-Renders bei Knoten-Selektion führen zu Flackern.
|
||||||
|
|
||||||
|
**Lösung:** CSS-Klassen statt State-Änderungen für Selektion.
|
||||||
|
|
||||||
|
**Code:**
|
||||||
|
```python
|
||||||
|
# ui_graph_cytoscape.py
|
||||||
|
stylesheet = [
|
||||||
|
{
|
||||||
|
"selector": ".inspected",
|
||||||
|
"style": {"border-width": 6, "border-color": "#FFC300"}
|
||||||
|
}
|
||||||
|
]
|
||||||
|
# Selektion ändert nur CSS-Klasse, nicht React-Key
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Stabiles UI (kein Re-Render)
|
||||||
|
- Bessere Performance
|
||||||
|
- Smooth User Experience
|
||||||
|
|
||||||
|
### 6.2 Resurrection Pattern
|
||||||
|
|
||||||
|
**Problem:** Streamlit vergisst Eingaben bei Re-Runs.
|
||||||
|
|
||||||
|
**Lösung:** Aggressive Synchronisation in `session_state`.
|
||||||
|
|
||||||
|
**Code:**
|
||||||
|
```python
|
||||||
|
# ui_editor.py
|
||||||
|
if widget_key not in st.session_state:
|
||||||
|
st.session_state[widget_key] = restore_from_data_key()
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Texteingaben überleben Tab-Wechsel
|
||||||
|
- Keine Datenverluste
|
||||||
|
- Bessere UX
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7. Erweiterbarkeit: "Teach-the-AI" Paradigma
|
||||||
|
|
||||||
|
Mindnet lernt durch **Konfiguration**, nicht durch Training.
|
||||||
|
|
||||||
|
### 7.1 Drei-Ebenen-Erweiterung
|
||||||
|
|
||||||
|
**1. Daten-Ebene (`types.yaml`):**
|
||||||
|
```yaml
|
||||||
|
risk:
|
||||||
|
retriever_weight: 0.90
|
||||||
|
edge_defaults: ["blocks"]
|
||||||
|
```
|
||||||
|
|
||||||
|
**2. Strategie-Ebene (`decision_engine.yaml`):**
|
||||||
|
```yaml
|
||||||
|
DECISION:
|
||||||
|
inject_types: ["value", "risk"]
|
||||||
|
```
|
||||||
|
|
||||||
|
**3. Kognitive Ebene (`prompts.yaml`):**
|
||||||
|
```yaml
|
||||||
|
risk_definition:
|
||||||
|
ollama: "Ein Risiko ist eine potenzielle Gefahr..."
|
||||||
|
```
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Keine Code-Änderungen nötig
|
||||||
|
- Schnelle Iteration
|
||||||
|
- A/B-Testing möglich
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 8. Design-Entscheidungen & Trade-offs
|
||||||
|
|
||||||
|
### 8.1 Qdrant als Vektor-DB
|
||||||
|
|
||||||
|
**Entscheidung:** Qdrant statt Pinecone/Weaviate
|
||||||
|
|
||||||
|
**Gründe:**
|
||||||
|
- Self-hosted (Privacy First)
|
||||||
|
- Open Source
|
||||||
|
- Gute Performance bei lokaler Installation
|
||||||
|
|
||||||
|
**Trade-off:** Mehr Wartungsaufwand als Managed Service
|
||||||
|
|
||||||
|
### 8.2 Hybrid Retrieval (Semantik + Graph)
|
||||||
|
|
||||||
|
**Entscheidung:** Kombination von Vektor-Suche und Graph-Expansion
|
||||||
|
|
||||||
|
**Gründe:**
|
||||||
|
- Semantik findet ähnliche Inhalte
|
||||||
|
- Graph findet strukturelle Verbindungen
|
||||||
|
- Kombination liefert bessere Relevanz
|
||||||
|
|
||||||
|
**Trade-off:** Höhere Komplexität, mehr Berechnungsaufwand
|
||||||
|
|
||||||
|
### 8.3 Background Tasks statt Queue-System
|
||||||
|
|
||||||
|
**Entscheidung:** FastAPI Background Tasks statt Redis/RabbitMQ
|
||||||
|
|
||||||
|
**Gründe:**
|
||||||
|
- Einfacher Setup (keine zusätzliche Infrastruktur)
|
||||||
|
- Ausreichend für Single-User-Szenario
|
||||||
|
- Weniger Moving Parts
|
||||||
|
|
||||||
|
**Trade-off:** Keine Persistenz bei Server-Neustart (Tasks gehen verloren)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 9. Konsistenz-Garantien
|
||||||
|
|
||||||
|
### 9.1 Deterministische IDs
|
||||||
|
|
||||||
|
**Prinzip:** UUIDv5 basierend auf Datei-Inhalt
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Reproduzierbare IDs
|
||||||
|
- Keine Duplikate bei Re-Import
|
||||||
|
- Graph ist aus Markdown rekonstruierbar
|
||||||
|
|
||||||
|
### 9.2 Provenance-Hierarchie
|
||||||
|
|
||||||
|
**Prinzip:** Kanten haben Qualitätsstufen (explicit > smart > rule)
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Menschliche Intention hat Vorrang
|
||||||
|
- System-Heuristiken können überschrieben werden
|
||||||
|
- Transparente Gewichtung
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 10. Weitere Informationen
|
||||||
|
|
||||||
|
- **Vision & Strategie:** Siehe [Vision & Strategie](../00_General/00_vision_and_strategy.md)
|
||||||
|
- **Graph-Logik:** Siehe [Graph-Logik](02_concept_graph_logic.md)
|
||||||
|
- **KI-Persönlichkeit:** Siehe [KI-Persönlichkeit](02_concept_ai_personality.md)
|
||||||
|
- **Developer Guide:** Siehe [Developer Guide](../05_Development/05_developer_guide.md)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
**Letzte Aktualisierung:** 2025-01-XX
|
||||||
|
**Version:** 2.9.1
|
||||||
|
|
||||||
@@ -0,0 +1,435 @@
|
|||||||
|
---
|
||||||
|
doc_type: technical_reference
|
||||||
|
audience: developer, integrator
|
||||||
|
scope: api, endpoints, integration
|
||||||
|
status: active
|
||||||
|
version: 2.9.1
|
||||||
|
context: "Vollständige API-Referenz für alle Mindnet-Endpunkte. Basis für Integration und Entwicklung."
|
||||||
|
---
|
||||||
|
|
||||||
|
# API Reference
|
||||||
|
|
||||||
|
Diese Dokumentation beschreibt alle verfügbaren API-Endpunkte von Mindnet. Die API basiert auf FastAPI und nutzt automatische OpenAPI-Dokumentation (verfügbar unter `/docs`).
|
||||||
|
|
||||||
|
## Basis-URL
|
||||||
|
|
||||||
|
```
|
||||||
|
http://localhost:8001 # Production
|
||||||
|
http://localhost:8002 # Development
|
||||||
|
```
|
||||||
|
|
||||||
|
## Health Check
|
||||||
|
|
||||||
|
### `GET /healthz`
|
||||||
|
|
||||||
|
Prüft den Status der API und der Verbindung zu Qdrant.
|
||||||
|
|
||||||
|
**Response:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"status": "ok",
|
||||||
|
"qdrant": "http://localhost:6333",
|
||||||
|
"prefix": "mindnet"
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Query Endpoints
|
||||||
|
|
||||||
|
### `POST /query`
|
||||||
|
|
||||||
|
Führt eine hybride oder semantische Suche im Wissensgraph durch.
|
||||||
|
|
||||||
|
**Request Body:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"query": "Was ist Mindnet?",
|
||||||
|
"mode": "hybrid", // "hybrid" oder "semantic"
|
||||||
|
"top_k": 10,
|
||||||
|
"expand_depth": 1,
|
||||||
|
"explain": true
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
**Response:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"query_id": "uuid-v4",
|
||||||
|
"hits": [
|
||||||
|
{
|
||||||
|
"chunk_id": "uuid",
|
||||||
|
"note_id": "uuid",
|
||||||
|
"text": "Auszug...",
|
||||||
|
"score": 0.85,
|
||||||
|
"explanation": {
|
||||||
|
"reasons": [...]
|
||||||
|
}
|
||||||
|
}
|
||||||
|
],
|
||||||
|
"stats": {
|
||||||
|
"total_hits": 10,
|
||||||
|
"query_time_ms": 45
|
||||||
|
}
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
**Hinweis:** Das Feedback-Logging erfolgt asynchron im Hintergrund (Background Tasks).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Chat Endpoints
|
||||||
|
|
||||||
|
### `POST /chat/`
|
||||||
|
|
||||||
|
Hauptendpunkt für RAG-Chat und Interview-Modus. Unterstützt Streaming.
|
||||||
|
|
||||||
|
**Request Body:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"message": "Was ist Mindnet?",
|
||||||
|
"history": [], // Optional: Chat-Verlauf
|
||||||
|
"stream": true // Optional: SSE-Streaming
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
**Response (Non-Streaming):**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"intent": "FACT",
|
||||||
|
"response": "Mindnet ist ein persönliches KI-Gedächtnis...",
|
||||||
|
"sources": [...],
|
||||||
|
"query_id": "uuid"
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
**Response (Streaming):**
|
||||||
|
Server-Sent Events (SSE) mit Chunks der Antwort.
|
||||||
|
|
||||||
|
**Intent-Typen:**
|
||||||
|
- `FACT`: Wissensabfrage
|
||||||
|
- `DECISION`: Entscheidungsfrage
|
||||||
|
- `EMPATHY`: Emotionale Anfrage
|
||||||
|
- `INTERVIEW`: Wissen erfassen
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Graph Endpoints
|
||||||
|
|
||||||
|
### `GET /graph/{note_id}`
|
||||||
|
|
||||||
|
Lädt den Subgraphen um eine Note herum.
|
||||||
|
|
||||||
|
**Query Parameters:**
|
||||||
|
- `depth` (int, default: 1): Tiefe der Graph-Expansion
|
||||||
|
- `edge_types` (List[str], optional): Filter für Kanten-Typen
|
||||||
|
|
||||||
|
**Response:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"center_note_id": "uuid",
|
||||||
|
"nodes": [
|
||||||
|
{
|
||||||
|
"id": "uuid",
|
||||||
|
"type": "project",
|
||||||
|
"title": "Projekt Alpha",
|
||||||
|
"tags": ["ki"],
|
||||||
|
"in_degree": 5,
|
||||||
|
"out_degree": 3
|
||||||
|
}
|
||||||
|
],
|
||||||
|
"edges": [
|
||||||
|
{
|
||||||
|
"id": "uuid->uuid:depends_on",
|
||||||
|
"kind": "depends_on",
|
||||||
|
"source": "uuid",
|
||||||
|
"target": "uuid",
|
||||||
|
"weight": 1.4,
|
||||||
|
"direction": "out"
|
||||||
|
}
|
||||||
|
],
|
||||||
|
"stats": {
|
||||||
|
"node_count": 10,
|
||||||
|
"edge_count": 15
|
||||||
|
}
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Ingest Endpoints
|
||||||
|
|
||||||
|
### `POST /ingest/analyze`
|
||||||
|
|
||||||
|
Analysiert einen Text-Draft und liefert Link-Vorschläge (Intelligence-Feature).
|
||||||
|
|
||||||
|
**Request Body:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"text": "Markdown-Text...",
|
||||||
|
"type": "concept" // Optional: Notiz-Typ
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
**Response:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"suggestions": [
|
||||||
|
{
|
||||||
|
"text": "Mindnet",
|
||||||
|
"type": "exact_match",
|
||||||
|
"note_id": "uuid",
|
||||||
|
"confidence": 0.95
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"text": "KI-Gedächtnis",
|
||||||
|
"type": "semantic",
|
||||||
|
"note_id": "uuid",
|
||||||
|
"confidence": 0.82
|
||||||
|
}
|
||||||
|
]
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
### `POST /ingest/save`
|
||||||
|
|
||||||
|
Speichert eine Notiz und startet die Ingestion im Hintergrund (WP-14: Background Tasks).
|
||||||
|
|
||||||
|
**Request Body:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"markdown_content": "---\nid: ...\n---\n# Titel\n...",
|
||||||
|
"filename": "meine-notiz.md", // Optional
|
||||||
|
"folder": "00_Inbox" // Optional, default: "00_Inbox"
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
**Response:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"status": "queued",
|
||||||
|
"file_path": "00_Inbox/meine-notiz.md",
|
||||||
|
"note_id": "pending",
|
||||||
|
"message": "Speicherung & Hybrid-KI-Analyse (WP-20) im Hintergrund gestartet.",
|
||||||
|
"stats": {
|
||||||
|
"chunks": -1, // -1 = Async Processing
|
||||||
|
"edges": -1
|
||||||
|
}
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
**Wichtig:**
|
||||||
|
- Die Datei wird sofort auf der Festplatte gespeichert
|
||||||
|
- Die Ingestion (Chunking, Embedding, Smart Edges) läuft asynchron im Hintergrund
|
||||||
|
- Dies verhindert Timeouts bei großen Dateien oder langsamen LLM-Calls
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Feedback Endpoints
|
||||||
|
|
||||||
|
### `POST /feedback`
|
||||||
|
|
||||||
|
Nimmt explizites User-Feedback entgegen (WP-04c).
|
||||||
|
|
||||||
|
**Request Body:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"query_id": "uuid",
|
||||||
|
"rating": 5, // 1-5 Sterne
|
||||||
|
"feedback_type": "global", // "global" oder "granular"
|
||||||
|
"chunk_id": "uuid" // Optional für granular feedback
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
**Response:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"status": "recorded",
|
||||||
|
"query_id": "uuid"
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Tools Endpoints
|
||||||
|
|
||||||
|
### `GET /tools/ollama`
|
||||||
|
|
||||||
|
Liefert JSON-Schemas für die Integration als Tools in externe Agenten (Ollama, OpenAI, etc.).
|
||||||
|
|
||||||
|
**Response:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"tools": [
|
||||||
|
{
|
||||||
|
"type": "function",
|
||||||
|
"function": {
|
||||||
|
"name": "mindnet_query",
|
||||||
|
"description": "Hybrid-Retrieval über mindnet (Semantik + Edges).",
|
||||||
|
"parameters": {
|
||||||
|
"type": "object",
|
||||||
|
"properties": {
|
||||||
|
"query": {
|
||||||
|
"type": "string",
|
||||||
|
"description": "Freitext-Query"
|
||||||
|
},
|
||||||
|
"top_k": {
|
||||||
|
"type": "integer",
|
||||||
|
"default": 10,
|
||||||
|
"minimum": 1,
|
||||||
|
"maximum": 50
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "function",
|
||||||
|
"function": {
|
||||||
|
"name": "mindnet_subgraph",
|
||||||
|
"description": "Gibt die Nachbarschaft (Edges) einer Note/Seed-ID zurück.",
|
||||||
|
"parameters": {
|
||||||
|
"type": "object",
|
||||||
|
"properties": {
|
||||||
|
"note_id": {
|
||||||
|
"type": "string"
|
||||||
|
},
|
||||||
|
"depth": {
|
||||||
|
"type": "integer",
|
||||||
|
"default": 1,
|
||||||
|
"minimum": 0,
|
||||||
|
"maximum": 3
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"required": ["note_id"]
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
]
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
**Verwendung:** Diese Schemas können direkt in Ollama-Function-Calling oder OpenAI-Tools integriert werden.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Admin Endpoints
|
||||||
|
|
||||||
|
### `GET /admin/stats`
|
||||||
|
|
||||||
|
Liefert Statistiken über die Qdrant-Collections und die aktuelle Konfiguration.
|
||||||
|
|
||||||
|
**Response:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"collections": {
|
||||||
|
"notes": {
|
||||||
|
"name": "mindnet_notes",
|
||||||
|
"count": 150
|
||||||
|
},
|
||||||
|
"chunks": {
|
||||||
|
"name": "mindnet_chunks",
|
||||||
|
"count": 1250
|
||||||
|
},
|
||||||
|
"edges": {
|
||||||
|
"name": "mindnet_edges",
|
||||||
|
"count": 3200
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"config": {
|
||||||
|
"qdrant": "http://localhost:6333",
|
||||||
|
"prefix": "mindnet",
|
||||||
|
"vector_size": 768,
|
||||||
|
"distance": "Cosine",
|
||||||
|
"retriever": {
|
||||||
|
"w_sem": 0.70,
|
||||||
|
"w_edge": 0.25,
|
||||||
|
"w_cent": 0.05,
|
||||||
|
"top_k": 10,
|
||||||
|
"expand_depth": 1
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
**Hinweis:** Dieser Endpunkt ist optional und kann deaktiviert sein, wenn der `admin`-Router nicht geladen wird.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Fehlerbehandlung
|
||||||
|
|
||||||
|
Alle Endpunkte verwenden standardisierte HTTP-Status-Codes:
|
||||||
|
|
||||||
|
- `200 OK`: Erfolgreiche Anfrage
|
||||||
|
- `201 Created`: Ressource erfolgreich erstellt
|
||||||
|
- `400 Bad Request`: Ungültige Anfrage (z.B. fehlende Parameter)
|
||||||
|
- `500 Internal Server Error`: Server-Fehler
|
||||||
|
|
||||||
|
**Fehler-Response-Format:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"detail": "Fehlerbeschreibung"
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Rate Limiting & Timeouts
|
||||||
|
|
||||||
|
- **Chat-Endpunkte:** Keine Retries (max_retries=0) für schnelle Fallback-Kaskade
|
||||||
|
- **Ingest-Endpunkte:** Background Tasks verhindern Timeouts
|
||||||
|
- **Query-Endpunkte:** Standard-Timeout konfigurierbar via `MINDNET_API_TIMEOUT`
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## OpenAPI Dokumentation
|
||||||
|
|
||||||
|
Die vollständige interaktive API-Dokumentation ist verfügbar unter:
|
||||||
|
- Swagger UI: `http://localhost:8001/docs`
|
||||||
|
- ReDoc: `http://localhost:8001/redoc`
|
||||||
|
- OpenAPI JSON: `http://localhost:8001/openapi.json`
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Integration Beispiele
|
||||||
|
|
||||||
|
### Python (requests)
|
||||||
|
|
||||||
|
```python
|
||||||
|
import requests
|
||||||
|
|
||||||
|
# Query
|
||||||
|
response = requests.post(
|
||||||
|
"http://localhost:8001/query",
|
||||||
|
json={"query": "Was ist Mindnet?", "top_k": 5}
|
||||||
|
)
|
||||||
|
print(response.json())
|
||||||
|
|
||||||
|
# Chat
|
||||||
|
response = requests.post(
|
||||||
|
"http://localhost:8001/chat/",
|
||||||
|
json={"message": "Erkläre mir Mindnet"}
|
||||||
|
)
|
||||||
|
print(response.json())
|
||||||
|
```
|
||||||
|
|
||||||
|
### cURL
|
||||||
|
|
||||||
|
```bash
|
||||||
|
# Health Check
|
||||||
|
curl http://localhost:8001/healthz
|
||||||
|
|
||||||
|
# Query
|
||||||
|
curl -X POST http://localhost:8001/query \
|
||||||
|
-H "Content-Type: application/json" \
|
||||||
|
-d '{"query": "Was ist Mindnet?", "top_k": 5}'
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Weitere Informationen
|
||||||
|
|
||||||
|
- **Chat-Backend Details:** Siehe [Chat Backend Dokumentation](03_tech_chat_backend.md)
|
||||||
|
- **Ingestion-Pipeline:** Siehe [Ingestion Pipeline](03_tech_ingestion_pipeline.md)
|
||||||
|
- **Retrieval & Scoring:** Siehe [Retrieval & Scoring](03_tech_retrieval_scoring.md)
|
||||||
|
|
||||||
@@ -1,17 +1,17 @@
|
|||||||
---
|
---
|
||||||
doc_type: technical_reference
|
doc_type: technical_reference
|
||||||
audience: developer, architect
|
audience: developer, architect
|
||||||
scope: backend, chat, ollama, traffic_control
|
scope: backend, chat, llm_service, traffic_control, resilience
|
||||||
status: active
|
status: active
|
||||||
version: 2.6
|
version: 2.9.1
|
||||||
context: "Technische Implementierung des FastAPI-Routers, der Decision Engine und des Traffic Control Systems."
|
context: "Technische Implementierung des FastAPI-Routers, des hybriden LLMService (v3.3.6) und der WP-20 Resilienz-Logik."
|
||||||
---
|
---
|
||||||
|
|
||||||
# Chat Backend & Traffic Control
|
# Chat Backend & Traffic Control
|
||||||
|
|
||||||
## 1. Hybrid Router (Decision Engine)
|
## 1. Hybrid Router (Decision Engine)
|
||||||
|
|
||||||
Der zentrale Einstiegspunkt für jede Chatanfrage ist der **Hybrid Router** (`app/routers/chat.py`). Er entscheidet dynamisch, welche Strategie gewählt wird, basierend auf dem User-Input.
|
Der zentrale Einstiegspunkt für jede Chatanfrage ist der **Hybrid Router** (`app/routers/chat.py`). Er entscheidet dynamisch über die Strategie und nutzt den `LLMService` zur provider-agnostischen Generierung.
|
||||||
|
|
||||||
### 1.1 Intent-Erkennung (Logik)
|
### 1.1 Intent-Erkennung (Logik)
|
||||||
|
|
||||||
@@ -21,18 +21,27 @@ Der Router prüft den Input in drei Stufen (Wasserfall-Prinzip):
|
|||||||
* Prüfung auf Vorhandensein von `?` oder W-Wörtern (Wer, Wie, Was, Soll ich).
|
* Prüfung auf Vorhandensein von `?` oder W-Wörtern (Wer, Wie, Was, Soll ich).
|
||||||
* Wenn positiv: **RAG Modus** (Interview wird blockiert).
|
* Wenn positiv: **RAG Modus** (Interview wird blockiert).
|
||||||
2. **Keyword Scan (Fast Path):**
|
2. **Keyword Scan (Fast Path):**
|
||||||
* Lädt `types.yaml` (Objekte, z.B. "Projekt") und `decision_engine.yaml` (Handlungen, z.B. "neu").
|
* Lädt `types.yaml` (Objekte) und `decision_engine.yaml` (Handlungen).
|
||||||
* Wenn Match (z.B. "Projekt" + "neu"): **INTERVIEW Modus**.
|
* Wenn Match (z.B. "Projekt" + "neu"): **INTERVIEW Modus**.
|
||||||
3. **LLM Fallback (Slow Path):**
|
3. **LLM Fallback (Slow Path):**
|
||||||
* Wenn unklar: Anfrage an LLM zur Klassifizierung.
|
* Wenn unklar: Anfrage an LLM zur Klassifizierung mittels `router_prompt`.
|
||||||
|
|
||||||
### 1.2 RAG Flow (Technisch)
|
### 1.2 Prompt-Auflösung (Bulletproof Resolution)
|
||||||
|
|
||||||
|
Um Kompatibilitätsprobleme mit verschachtelten YAML-Prompts zu vermeiden, nutzt der Router die Methode `llm.get_prompt()`. Diese implementiert eine **Provider-Kaskade**:
|
||||||
|
* **Spezifischer Provider:** Das System sucht zuerst nach einem Prompt für den aktiv konfigurierten Provider (z.B. `openrouter`).
|
||||||
|
* **Cloud-Stil Fallback:** Existiert dieser nicht, erfolgt ein Fallback auf das `gemini`-Template.
|
||||||
|
* **Basis-Fallback:** Als letzte Instanz wird das `ollama`-Template geladen.
|
||||||
|
* **String-Garantie:** Die Methode garantiert die Rückgabe eines Strings (selbst bei verschachtelten YAML-Dicts), was 500-Fehler bei String-Operationen wie `.replace()` oder `.format()` verhindert.
|
||||||
|
|
||||||
|
### 1.3 RAG Flow (Technisch)
|
||||||
|
|
||||||
Wenn der Intent `FACT` oder `DECISION` ist, wird folgender Flow ausgeführt:
|
Wenn der Intent `FACT` oder `DECISION` ist, wird folgender Flow ausgeführt:
|
||||||
|
|
||||||
1. **Pre-Processing:** Query Rewriting (optional).
|
1. **Pre-Processing:** Query Rewriting (optional).
|
||||||
2. **Context Enrichment:**
|
2. **Context Enrichment:**
|
||||||
* Abruf via `retriever.py` (Hybrid Search).
|
* Abruf via `retriever.py` (Hybrid Search).
|
||||||
|
* Integration von **Edge Boosts** aus der `decision_engine.yaml` zur Beeinflussung der Graph-Gewichtung.
|
||||||
* Injection von Metadaten (`[TYPE]`, `[SCORE]`) in den Prompt.
|
* Injection von Metadaten (`[TYPE]`, `[SCORE]`) in den Prompt.
|
||||||
3. **Prompt Construction:** Assembly aus System-Prompt (Persona) + Context + Query.
|
3. **Prompt Construction:** Assembly aus System-Prompt (Persona) + Context + Query.
|
||||||
4. **Streaming:** LLM-Antwort wird via **SSE (Server-Sent Events)** an den Client gestreamt.
|
4. **Streaming:** LLM-Antwort wird via **SSE (Server-Sent Events)** an den Client gestreamt.
|
||||||
@@ -40,36 +49,65 @@ Wenn der Intent `FACT` oder `DECISION` ist, wird folgender Flow ausgeführt:
|
|||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 2. Traffic Control (WP-15)
|
## 2. LLM Service & Traffic Control (WP-20)
|
||||||
|
|
||||||
Das Traffic Control System (`app/core/llm_service.py`) schützt das System vor Überlastung, wenn rechenintensive Hintergrundprozesse (Smart Edge Import) und Latenz-kritische Chat-Anfragen gleichzeitig laufen.
|
Der `LLMService` (`app/services/llm_service.py`) fungiert als zentraler Hybrid-Client für OpenRouter, Google Gemini und Ollama. Er schützt das System vor Überlastung und verwaltet Quoten.
|
||||||
|
|
||||||
|
Mit Version 2.8.1 wurde die Architektur der Antwort-Generierung grundlegend gehärtet:
|
||||||
|
|
||||||
|
A. Fail-Fast Prinzip (No-Retry Chat)
|
||||||
|
Im Gegensatz zur Ingestion-Pipeline nutzt das Chat-Backend für Echtzeit-Anfragen keine internen Retries (max_retries=0).
|
||||||
|
|
||||||
|
Scheitert ein Provider (Timeout/Fehler), wird sofort die Fallback-Kaskade eingeleitet oder der Deep Fallback zu Ollama getriggert.
|
||||||
|
|
||||||
|
Dies verhindert die kumulative Wartezeit von mehreren Minuten bei Provider-Störungen.
|
||||||
|
|
||||||
|
B. Context-Throttling & Memory Guard
|
||||||
|
Drosselung: Vor der Übergabe an Ollama prüft die chat.py, ob der Kontext (RAG-Hits) die Grenze von MAX_OLLAMA_CHARS überschreitet und kürzt diesen ggf..
|
||||||
|
|
||||||
|
Modell-Lock: Der LLMService erzwingt im Ollama-Payload den Parameter num_ctx: 8192. Dies stabilisiert den VRAM-Verbrauch und verhindert, dass das Modell versucht, speicherintensive 128k-Kontexte zu reservieren.
|
||||||
|
|
||||||
### 2.1 Prioritäts-Semaphor
|
### 2.1 Prioritäts-Semaphor
|
||||||
|
|
||||||
Jeder LLM-Request muss ein `priority`-Flag setzen.
|
Jeder LLM-Request steuert über ein `priority`-Flag den Zugriff auf Hardware- und API-Ressourcen:
|
||||||
|
|
||||||
**Prioritäten-Levels:**
|
|
||||||
|
|
||||||
| Priority | Verwendung | Limitierung |
|
| Priority | Verwendung | Limitierung |
|
||||||
| :--- | :--- | :--- |
|
| :--- | :--- | :--- |
|
||||||
| **realtime** | Chat-Anfragen | Keine (Hardware-Limit) |
|
| **realtime** | Chat-Anfragen, Intent-Routing | Keine (Hardware-Limit) |
|
||||||
| **background** | Smart Edge Allocation, Drafts | `MINDNET_LLM_BACKGROUND_LIMIT` |
|
| **background** | Smart Edge Allocation, Import-Tasks | `MINDNET_LLM_BACKGROUND_LIMIT` |
|
||||||
|
|
||||||
**Funktionsweise:**
|
**Funktionsweise:**
|
||||||
* Hintergrund-Tasks nutzen `asyncio.Semaphore`.
|
* Hintergrund-Tasks nutzen ein globales `asyncio.Semaphore`.
|
||||||
* Wenn das Limit (Default: 2) erreicht ist, warten weitere Import-Tasks.
|
* Das Limit (Standard: 2) verhindert, dass parallele Import-Vorgänge die API-Quoten oder die lokale CPU erschöpfen.
|
||||||
* Chat-Tasks umgehen die Semaphore und werden sofort bearbeitet.
|
* Chat-Tasks umgehen die Semaphore für minimale Latenz.
|
||||||
|
|
||||||
### 2.2 Timeout-Konfiguration
|
### 2.2 Task-Mapping & Model Selection
|
||||||
|
|
||||||
Deadlocks werden durch strikte Timeouts verhindert, die in der `.env` definiert sind.
|
Die Konfiguration ermöglicht eine spezialisierte Modell-Auswahl je nach Anwendungsfall:
|
||||||
|
* **Semantische Extraktion (Turbo):** Nutzt bevorzugt `OPENROUTER_MODEL` (Mistral-7B) für schnelles und präzises JSON-Parsing.
|
||||||
|
* **RAG-Chat:** Nutzt bevorzugt `GEMINI_MODEL` (2.5 flash-lite) für hohe Kapazität und Stabilität mittels erzwungener **v1-API Version**.
|
||||||
|
|
||||||
* **Chat:** `MINDNET_LLM_TIMEOUT` (Default: 300s).
|
### 2.3 Timeout-Konfiguration
|
||||||
* **Frontend:** `MINDNET_API_TIMEOUT` (Default: 300s).
|
|
||||||
|
Deadlocks und "hängende" Importe werden durch differenzierte Timeouts verhindert:
|
||||||
|
* **Cloud-Calls (OpenRouter/Gemini):** Strikte **45 Sekunden** zur Vermeidung von Blockaden bei Provider-Latenz.
|
||||||
|
* **Lokales LLM (Ollama):** Konfigurierbar via `MINDNET_LLM_TIMEOUT` (Default: 300s).
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 3. Feedback Traceability
|
## 3. Resilience & Quota Management (WP-20)
|
||||||
|
|
||||||
|
In v2.8 wurde ein intelligentes Fehler-Handling für Cloud-Provider implementiert:
|
||||||
|
|
||||||
|
1. **Rate-Limit Erkennung:** Der Service erkennt HTTP 429 Fehler sowie provider-spezifische Meldungen wie `RESOURCE_EXHAUSTED`.
|
||||||
|
2. **Intelligenter Backoff:** Statt sofort auf das langsame lokale Modell zu wechseln, pausiert das System für die Dauer von `LLM_RATE_LIMIT_WAIT` (Standard: 60s).
|
||||||
|
3. **Cloud-Retry:** Nach der Pause erfolgt ein erneuter Versuch (bis zu `LLM_RATE_LIMIT_RETRIES` Mal).
|
||||||
|
4. **Ollama Fallback:** Erst nach Erschöpfung der Retries schaltet das System auf den lokalen Ollama um, um die Betriebssicherheit zu gewährleisten ("Quoten-Schutz").
|
||||||
|
5. **Deep Fallback Support:** Der Service stellt die Infrastruktur für den inhaltsbasierten Fallback (v2.11.14) bereit, falls die Cloud zwar technisch antwortet, aber inhaltlich (z.B. wegen Policy-Filtern oder Silent Refusal) keine validen Daten liefert.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Feedback Traceability
|
||||||
|
|
||||||
Unterstützt das geplante Self-Tuning (WP08).
|
Unterstützt das geplante Self-Tuning (WP08).
|
||||||
|
|
||||||
|
|||||||
@@ -1,69 +1,119 @@
|
|||||||
---
|
---
|
||||||
doc_type: technical_reference
|
doc_type: technical_reference
|
||||||
audience: developer, admin
|
audience: developer, admin
|
||||||
scope: configuration, env, registry, scoring
|
scope: configuration, env, registry, scoring, resilience, modularization
|
||||||
status: active
|
status: active
|
||||||
version: 2.7.2
|
version: 2.9.1
|
||||||
context: "Umfassende Referenztabellen für Umgebungsvariablen, YAML-Konfigurationen und die Edge Registry Struktur."
|
context: "Umfassende Referenztabellen für Umgebungsvariablen (inkl. Hybrid-Cloud & WP-76), YAML-Konfigurationen und die Edge Registry Struktur unter Berücksichtigung von WP-14."
|
||||||
---
|
---
|
||||||
|
|
||||||
# Konfigurations-Referenz
|
# Konfigurations-Referenz
|
||||||
|
|
||||||
Dieses Dokument beschreibt alle Steuerungsdateien von Mindnet. In der Version 2.7 wurde die Konfiguration professionalisiert, um die Edge Registry und dynamische Scoring-Parameter (Lifecycle & Intent) zu unterstützen.
|
Dieses Dokument beschreibt alle Steuerungsdateien von Mindnet. In der Version 2.9.1 wurde die Konfiguration professionalisiert, um die Edge Registry, dynamische Scoring-Parameter (Lifecycle & Intent), die neue Hybrid-Cloud-Resilienz sowie die modulare Datenbank-Infrastruktur (WP-14) zu unterstützen.
|
||||||
|
|
||||||
## 1. Environment Variablen (`.env`)
|
## 1. Environment Variablen (`.env`)
|
||||||
|
|
||||||
Diese Variablen steuern die Infrastruktur, Pfade und globale Timeouts.
|
Diese Variablen steuern die Infrastruktur, Pfade und globale Timeouts. Seit der Modularisierung in WP-14 unterstützen sie zudem die explizite Benennung von Vektoren für verschiedene Collections.
|
||||||
|
|
||||||
| Variable | Default | Beschreibung |
|
| Variable | Default | Beschreibung |
|
||||||
| :--- | :--- | :--- |
|
| :--- | :--- | :--- |
|
||||||
| `QDRANT_URL` | `http://localhost:6333` | URL zur Vektor-DB API. |
|
| `QDRANT_URL` | `http://localhost:6333` | URL zur Vektor-DB API. |
|
||||||
| `QDRANT_API_KEY` | *(leer)* | Optionaler Key für Absicherung. |
|
| `QDRANT_API_KEY` | *(leer)* | Optionaler Key für Absicherung. |
|
||||||
| `COLLECTION_PREFIX` | `mindnet` | Namensraum für Collections (erzeugt `{prefix}_notes` etc). |
|
| `COLLECTION_PREFIX` | `mindnet` | Namensraum für Collections (erzeugt `{prefix}_notes` etc). |
|
||||||
|
| `MINDNET_PREFIX` | *(leer)* | **Alternative zu COLLECTION_PREFIX.** Falls gesetzt, wird dieser Wert verwendet. |
|
||||||
| `VECTOR_DIM` | `768` | **Muss 768 sein** (für Nomic Embeddings). |
|
| `VECTOR_DIM` | `768` | **Muss 768 sein** (für Nomic Embeddings). |
|
||||||
|
| `MINDNET_DISTANCE` | `Cosine` | Metrik für Vektor-Ähnlichkeit (`Cosine`, `Euclidean`, `Dot`). |
|
||||||
|
| `MINDNET_VECTOR_NAME` | `default` | **Neu (WP-14):** Basis-Vektorname für Named Vectors Support. |
|
||||||
|
| `NOTES_VECTOR_NAME` | *(leer)* | **Neu (WP-14):** Spezifischer Vektorname für die Notes-Collection (Override). |
|
||||||
|
| `CHUNKS_VECTOR_NAME` | *(leer)* | **Neu (WP-14):** Spezifischer Vektorname für die Chunks-Collection (Override). |
|
||||||
|
| `EDGES_VECTOR_NAME` | *(leer)* | **Neu (WP-14):** Spezifischer Vektorname für die Edges-Collection (Override). |
|
||||||
| `MINDNET_VOCAB_PATH` | *(Pfad)* | **Neu (WP-22):** Absoluter Pfad zur `01_edge_vocabulary.md`. Definiert den Ort des Dictionarys. |
|
| `MINDNET_VOCAB_PATH` | *(Pfad)* | **Neu (WP-22):** Absoluter Pfad zur `01_edge_vocabulary.md`. Definiert den Ort des Dictionarys. |
|
||||||
| `MINDNET_VAULT_ROOT` | `./vault` | Basis-Pfad für Datei-Operationen. Dient als Fallback-Basis, falls `MINDNET_VOCAB_PATH` nicht gesetzt ist. |
|
| `MINDNET_VAULT_ROOT` | `./vault_master` | **Achtung:** Standard ist `./vault_master`, nicht `./vault`! Basis-Pfad für Datei-Operationen. |
|
||||||
| `MINDNET_TYPES_FILE` | `config/types.yaml` | Pfad zur Typ-Registry. |
|
| `MINDNET_TYPES_FILE` | `config/types.yaml` | Pfad zur Typ-Registry. |
|
||||||
| `MINDNET_RETRIEVER_CONFIG`| `config/retriever.yaml`| Pfad zur Scoring-Konfiguration. |
|
| `MINDNET_RETRIEVER_CONFIG`| `config/retriever.yaml`| Pfad zur Scoring-Konfiguration. |
|
||||||
| `MINDNET_DECISION_CONFIG` | `config/decision_engine.yaml` | Pfad zur Router & Intent Config. |
|
| `MINDNET_DECISION_CONFIG` | `config/decision_engine.yaml` | Pfad zur Router & Intent Config. |
|
||||||
| `MINDNET_PROMPTS_PATH` | `config/prompts.yaml` | Pfad zu LLM Prompts. |
|
| `MINDNET_PROMPTS_PATH` | `config/prompts.yaml` | Pfad zu LLM Prompts. |
|
||||||
| `MINDNET_LLM_MODEL` | `phi3:mini` | Name des Chat-Modells (Ollama). |
|
| `MINDNET_LLM_PROVIDER` | `openrouter` | **Neu (WP-20):** Aktiver Provider (`openrouter`, `gemini`, `ollama`). |
|
||||||
|
| `MINDNET_LLM_FALLBACK` | `true` | **Neu (WP-20):** Aktiviert automatischen Ollama-Fallback bei Cloud-Fehlern. |
|
||||||
|
| `MINDNET_LLM_RATE_LIMIT_WAIT`| `60.0` | **Neu (WP-20):** Wartezeit in Sekunden bei HTTP 429 (Rate Limit). |
|
||||||
|
| `MINDNET_LLM_RATE_LIMIT_RETRIES`| `3` | **Neu (WP-20):** Anzahl Cloud-Retries vor lokalem Fallback. |
|
||||||
|
| `GOOGLE_API_KEY` | *(Key)* | API Key für Google AI Studio. |
|
||||||
|
| `MINDNET_GEMINI_MODEL` | `gemini-2.5-flash-lite` | **Update 2025:** Optimiertes Lite-Modell für hohe Quoten. |
|
||||||
|
| `OPENROUTER_API_KEY` | *(Key)* | API Key für OpenRouter Integration. |
|
||||||
|
| `OPENROUTER_MODEL` | `mistralai/mistral-7b-instruct:free` | **Update 2025:** Verifiziertes Free-Modell für strukturierte Extraktion. |
|
||||||
|
| `MINDNET_LLM_MODEL` | `phi3:mini` | Name des lokalen Chat-Modells (Ollama). |
|
||||||
| `MINDNET_EMBEDDING_MODEL` | `nomic-embed-text` | Name des Embedding-Modells (Ollama). |
|
| `MINDNET_EMBEDDING_MODEL` | `nomic-embed-text` | Name des Embedding-Modells (Ollama). |
|
||||||
| `MINDNET_OLLAMA_URL` | `http://127.0.0.1:11434`| URL zum LLM-Server. |
|
| `MINDNET_OLLAMA_URL` | `http://127.0.0.1:11434`| URL zum lokalen LLM-Server. |
|
||||||
| `MINDNET_LLM_TIMEOUT` | `300.0` | Timeout in Sekunden (Erhöht für CPU Cold-Starts). |
|
| `MAX_OLLAMA_CHARS` | `10000`| Maximale Länge des Kontext-Strings, der an das lokale Modell gesendet wird. |
|
||||||
| `MINDNET_API_TIMEOUT` | `300.0` | Frontend Timeout (Erhöht für Smart Edge Wartezeiten). |
|
| `MINDNET_LLM_TIMEOUT` | `300.0` | Timeout in Sekunden für LLM-Anfragen. |
|
||||||
| `MINDNET_LLM_BACKGROUND_LIMIT`| `2` | **Traffic Control:** Max. parallele Hintergrund-Tasks (Semaphore). |
|
| `MINDNET_API_TIMEOUT` | `300.0` | Globales API-Timeout für das Frontend. |
|
||||||
|
| `MINDNET_LL_BACKGROUND_LIMIT`| `2` | **Traffic Control:** Max. parallele Hintergrund-Tasks (Semaphore). |
|
||||||
| `MINDNET_CHANGE_DETECTION_MODE` | `full` | `full` (Text + Meta) oder `body` (nur Text). |
|
| `MINDNET_CHANGE_DETECTION_MODE` | `full` | `full` (Text + Meta) oder `body` (nur Text). |
|
||||||
|
| `MINDNET_DEFAULT_RETRIEVER_WEIGHT` | `1.0` | **Neu (WP-22):** Systemweiter Standard für das Retriever-Gewicht einer Notiz. |
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 2. Typ-Registry (`types.yaml`)
|
## 2. Typ-Registry (`types.yaml`)
|
||||||
|
|
||||||
Steuert das Import-Verhalten, Chunking und die Kanten-Logik pro Typ.
|
Steuert das Import-Verhalten, Chunking und die Kanten-Logik pro Typ. Die Auflösung erfolgt zentral über die modularisierte Registry in `app.core.registry`.
|
||||||
|
|
||||||
### 2.1 Konfigurations-Hierarchie (Override-Logik)
|
### 2.1 Konfigurations-Hierarchie (Override-Logik)
|
||||||
Seit Version 2.7.0 gilt für `chunking_profile` und `retriever_weight` folgende Priorität:
|
Seit Version 2.7.0 gilt für `chunking_profile` und `retriever_weight` folgende Priorität:
|
||||||
1. **Frontmatter (Höchste Prio):** Ein Wert direkt in der Markdown-Datei überschreibt alles.
|
1. **Frontmatter (Höchste Prio):** Ein Wert direkt in der Markdown-Datei überschreibt alles.
|
||||||
2. **Type Config:** Der Standardwert für den `type` aus `types.yaml`.
|
2. **Type Config:** Der Standardwert für den `type` aus `types.yaml`.
|
||||||
3. **Global Default:** Fallback aus `defaults` in `types.yaml`.
|
3. **Ingestion Settings (Neu WP-14):** Globale Konfiguration wie `default_chunk_profile` innerhalb des `ingestion_settings` Blocks.
|
||||||
|
4. **Global Default:** Fallback aus `defaults` in `types.yaml`.
|
||||||
|
|
||||||
### 2.2 Typ-Referenztabelle (Vollständig)
|
|
||||||
|
|
||||||
| Typ (`type`) | Chunk Profile (Standard) | Retriever Weight ($W_{type}$) | Smart Edges? | Beschreibung |
|
## 2.2 Typ-Referenz & Stream-Logik (Vollständige Liste: 28 Typen)
|
||||||
| :--- | :--- | :--- | :--- | :--- |
|
|
||||||
| **decision** | `structured_strict` | 1.00 | Ja | Entscheidungen. Atomar. |
|
Das System euriert Informationen in drei funktionalen Streams. Wähle den Typ danach aus, in welchem Bereich deines „Digitalen Zwillings“ die Information wirken soll.
|
||||||
| **value** | `structured_strict` | 1.00 | Ja | Werte/Prinzipien. Atomar. |
|
|
||||||
| **project** | `sliding_smart` | 0.97 | Ja | Aktive Vorhaben. |
|
### 2.2.1 Identity Stream (Der Kern / Das „Warum“)
|
||||||
| **experience** | `sliding_smart` | 0.90 | Ja | Persönliche Learnings. |
|
Dieser Stream definiert deine stabilen Merkmale und inneren Kompasse.
|
||||||
| **concept** | `sliding_smart` | 0.60 | Ja | Abstrakte Begriffe. |
|
|
||||||
| **principle** | `structured_L3` | 0.95 | Nein | Prinzipien (Tiefer Split). |
|
| Typ | Gewicht | Chunking Profil | Zweck & Inhalt |
|
||||||
| **belief** | `sliding_short` | 0.90 | Nein | Glaubenssätze. |
|
| :--- | :--- | :--- | :--- |
|
||||||
| **risk** | `sliding_short` | 0.90 | Nein | Risiken. |
|
| **`value`** | 1.00 | `structured_strict` | Fundamentale Werte und moralische Maßstäbe. |
|
||||||
| **journal** | `sliding_standard` | 0.80 | Nein | Logs / Dailies. |
|
| **`principle`** | 0.95 | `structured_strict_L3` | Handlungsleitlinien mit tiefer Hierarchie (H3-Split). |
|
||||||
| **person** | `sliding_standard` | 0.50 | Nein | Profile. |
|
| **`trait`** | 1.10 | `structured_strict` | Charakterliche Stärken und Talente. |
|
||||||
| **source** | `sliding_standard` | 0.50 | Nein | Externe Quellen. |
|
| **`belief`** | 0.90 | `sliding_short` | Tiefe Überzeugungen über dich und die Gesellschaft. |
|
||||||
| **glossary** | `sliding_short` | 0.40 | Nein | Begriffsdefinitionen. |
|
| **`profile`** | 0.70 | `structured_strict` | Rollenidentitäten (z. B. Vater, Mentor, Unternehmer). |
|
||||||
| **default** | `sliding_standard` | 1.00 | Nein | Fallback für alle anderen. |
|
| **`need`** | 1.05 | `sliding_smart_edges` | Psychologische Grundbedürfnisse (z. B. Autonomie, Bindung). |
|
||||||
|
| **`motivation`**| 0.95 | `sliding_smart_edges` | Innere Antreiber und Quellen deiner Energie. |
|
||||||
|
| **`boundary`** | 0.90 | `sliding_smart_edges` | Deine persönlichen Grenzen und Integritäts-Leitplanken. |
|
||||||
|
| **`bias`** | 0.80 | `sliding_short` | Bekannte kognitive Verzerrungen und Denkfallen. |
|
||||||
|
|
||||||
|
### 2.2.2 Action Stream (Die Dynamik / Das „Was“)
|
||||||
|
Dieser Stream umfasst alles, was auf Umsetzung, Planung und aktuelle Zustände zielt.
|
||||||
|
|
||||||
|
| Typ | Gewicht | Chunking Profil | Zweck & Inhalt |
|
||||||
|
| :--- | :--- | :--- | :--- |
|
||||||
|
| **`project`** | 0.97 | `sliding_smart_edges` | Aktive Vorhaben mit Mission und Zielsetzung. |
|
||||||
|
| **`goal`** | 0.95 | `sliding_smart_edges` | Strategische Nordsterne und Zielzustände. |
|
||||||
|
| **`decision`** | 1.00 | `structured_strict` | Getroffene Entscheidungen (ADR-Logik). |
|
||||||
|
| **`risk`** | 0.85 | `sliding_short` | Potenzielle Gefahren und Bedrohungsszenarien. |
|
||||||
|
| **`obstacle`** | 1.00 | `structured_strict` | Aktuelle Hürden, Ängste und Blockaden. |
|
||||||
|
| **`task`** | 0.80 | `sliding_short` | Operative Aufgaben und Definition of Done. |
|
||||||
|
| **`skill`** | 0.90 | `sliding_smart_edges` | Fertigkeiten, Lernpfade und Meisterschaft. |
|
||||||
|
| **`habit`** | 0.85 | `sliding_short` | Routinen, Automatismen und Verhaltensmuster. |
|
||||||
|
| **`idea`** | 0.70 | `sliding_short` | Flüchtige Einfälle und Rohmaterial für Projekte. |
|
||||||
|
| **`state`** | 0.60 | `sliding_short` | Momentane Verfassung, Stimmung und Energielevel. |
|
||||||
|
|
||||||
|
### 2.2.3 History & Basis Stream (Die Evidenz / Das „Wann“)
|
||||||
|
Dieser Stream speichert deine Erlebnisse, Fakten und externes Wissen als Belege.
|
||||||
|
|
||||||
|
| Typ | Gewicht | Chunking Profil | Zweck & Inhalt |
|
||||||
|
| :--- | :--- | :--- | :--- |
|
||||||
|
| **`insight`** | 1.20 | `sliding_smart_edges` | Hochrelevante Erkenntnisse und Verhaltensmuster. |
|
||||||
|
| **`experience`**| 1.10 | `sliding_smart_edges` | Biografische Lektionen und prägende Erlebnisse. |
|
||||||
|
| **`event`** | 0.60 | `sliding_standard` | Chronologische Protokolle und Ereignisse. |
|
||||||
|
| **`journal`** | 0.80 | `sliding_standard` | Tägliche Logs und ungefilterte Gedanken. |
|
||||||
|
| **`person`** | 0.50 | `sliding_standard` | Kontaktprofile und soziale Vernetzung. |
|
||||||
|
| **`source`** | 0.50 | `sliding_standard` | Externe Quellen wie Bücher, Videos oder Artikel. |
|
||||||
|
| **`concept`** | 0.60 | `sliding_smart_edges` | Fachbegriffe, Theorien und zeitloses Wissen. |
|
||||||
|
| **`glossary`** | 0.40 | `sliding_short` | Kurze Begriffsdefinitionen. |
|
||||||
|
| **`default`** | 1.00 | `sliding_standard` | Fallback für alle nicht klassifizierten Notizen. |
|
||||||
|
|
||||||
*Richtwert für $W_{type}$: 0.1 (minimale Relevanz/Filter) bis 1.0 (maximale Relevanz).*
|
*Richtwert für $W_{type}$: 0.1 (minimale Relevanz/Filter) bis 1.0 (maximale Relevanz).*
|
||||||
|
|
||||||
@@ -71,28 +121,61 @@ Seit Version 2.7.0 gilt für `chunking_profile` und `retriever_weight` folgende
|
|||||||
|
|
||||||
## 3. Retriever Config (`retriever.yaml`)
|
## 3. Retriever Config (`retriever.yaml`)
|
||||||
|
|
||||||
Steuert die Gewichtung der Scoring-Formel und die neuen Lifecycle-Modifier.
|
Steuert die Gewichtung der Scoring-Formel und die neuen Lifecycle-Modifier. Seit WP-14 ist die mathematische Engine im Paket `app.core.retrieval` gekapselt.
|
||||||
|
|
||||||
```yaml
|
```yaml
|
||||||
|
version: 1.2
|
||||||
|
|
||||||
scoring:
|
scoring:
|
||||||
semantic_weight: 1.0 # Basis-Relevanz (Cosine Similarity)
|
# W_sem: skaliert den Term (semantic_score * retriever_weight)
|
||||||
edge_weight: 0.7 # Einfluss des Graphen (Bonus)
|
# Empfehlung Startwert: 1.0 → Semantik bleibt Hauptsignal
|
||||||
centrality_weight: 0.5 # Einfluss von Hubs (Zentralität)
|
semantic_weight: 1.0
|
||||||
|
|
||||||
# WP-22 Lifecycle Modifier (Multiplikativ auf Semantik)
|
# W_edge: skaliert edge_bonus aus dem Subgraph
|
||||||
|
# Empfehlung: 0.8 → Graph ist deutlich spürbar, aber überstimmt Semantik nicht komplett
|
||||||
|
edge_weight: 0.8
|
||||||
|
|
||||||
|
# W_cent: skaliert centrality_bonus (Knoten-Zentralität im Subgraph)
|
||||||
|
# Empfehlung: 0.5 → zentrale Knoten werden bevorzugt, aber moderat
|
||||||
|
centrality_weight: 0.5
|
||||||
|
|
||||||
|
# WP-22 Stellschraube: Lifecycle (Status-basiertes Scoring)
|
||||||
|
# Bonus für verifiziertes Wissen, Malus für Entwürfe
|
||||||
lifecycle_weights:
|
lifecycle_weights:
|
||||||
stable: 1.2 # Bonus: Geprüftes Wissen wird 20% höher gewichtet
|
stable: 1.2 # +20% Bonus
|
||||||
draft: 0.5 # Malus: Entwürfe werden auf 50% gedämpft
|
active: 1.0 # Standardwert
|
||||||
system: 0.0 # Ausschluss aus dem Index
|
draft: 0.5 # -50% Malus
|
||||||
|
system: 0.0 # Hard Skip via Ingestion
|
||||||
|
|
||||||
# Kanten-spezifische Basis-Gewichtung (Ohne Intent-Boost)
|
# Die nachfolgenden Werte überschreiben die Defaults aus app/core/retriever_config.
|
||||||
edge_weights:
|
edge_types:
|
||||||
depends_on: 1.5 # Harte Abhängigkeiten stark gewichten
|
# --- KATEGORIE 1: LOGIK-BOOSTS (Relevanz-Treiber) ---
|
||||||
blocks: 1.5 # Blocker/Risiken stark gewichten
|
blocks: 1.6
|
||||||
caused_by: 1.2 # Kausalitäten moderat stärken
|
solves: 1.5
|
||||||
based_on: 1.3 # Werte-Bezug stärken
|
depends_on: 1.4
|
||||||
related_to: 0.5 # Weiche Assoziation schwächen
|
resulted_in: 1.4
|
||||||
references: 0.8 # Standard-Referenzen
|
followed_by: 1.3
|
||||||
|
caused_by: 1.2
|
||||||
|
preceded_by: 1.1
|
||||||
|
|
||||||
|
# --- KATEGORIE 2: QUALITATIVER KONTEXT (Stabilitäts-Stützen) ---
|
||||||
|
guides: 1.1
|
||||||
|
part_of: 1.1
|
||||||
|
based_on: 0.8
|
||||||
|
derived_from: 0.6
|
||||||
|
uses: 0.6
|
||||||
|
|
||||||
|
# --- KATEGORIE 3: THEMATISCHE NÄHE (Ähnlichkeits-Signal) ---
|
||||||
|
similar_to: 0.4
|
||||||
|
|
||||||
|
# --- KATEGORIE 4: SYSTEM-NUDGES (Technische Struktur) ---
|
||||||
|
belongs_to: 0.2
|
||||||
|
next: 0.1
|
||||||
|
prev: 0.1
|
||||||
|
|
||||||
|
# --- KATEGORIE 5: WEICHE ASSOZIATIONEN (Rausch-Unterdrückung) ---
|
||||||
|
references: 0.1
|
||||||
|
related_to: 0.05
|
||||||
```
|
```
|
||||||
|
|
||||||
---
|
---
|
||||||
@@ -103,7 +186,7 @@ Die `EdgeRegistry` ist die **Single Source of Truth** für das Vokabular.
|
|||||||
|
|
||||||
### 4.1 Dateistruktur & Speicherort
|
### 4.1 Dateistruktur & Speicherort
|
||||||
Die Registry erwartet eine Markdown-Datei an folgendem Ort:
|
Die Registry erwartet eine Markdown-Datei an folgendem Ort:
|
||||||
* **Standard-Pfad:** `<MINDNET_VAULT_ROOT>/01_User_Manual/01_edge_vocabulary.md`.
|
* **Standard-Pfad:** `<MINDNET_VAULT_ROOT>/_system/dictionary/edge_vocabulary.md`.
|
||||||
* **Custom-Pfad:** Kann via `.env` Variable `MINDNET_VOCAB_PATH` überschrieben werden.
|
* **Custom-Pfad:** Kann via `.env` Variable `MINDNET_VOCAB_PATH` überschrieben werden.
|
||||||
|
|
||||||
### 4.2 Aufbau des Dictionaries (Markdown-Schema)
|
### 4.2 Aufbau des Dictionaries (Markdown-Schema)
|
||||||
@@ -117,45 +200,121 @@ Die Datei muss eine Markdown-Tabelle enthalten, die vom Regex-Parser gelesen wir
|
|||||||
| **`caused_by`** | `ausgelöst_durch`, `wegen` | Kausalität: A löst B aus. |
|
| **`caused_by`** | `ausgelöst_durch`, `wegen` | Kausalität: A löst B aus. |
|
||||||
```
|
```
|
||||||
|
|
||||||
**Regeln für die Spalten:**
|
|
||||||
1. **Canonical:** Muss fett gedruckt sein (`**type**` oder `**`type`**`). Dies ist der Wert, der in der DB landet.
|
|
||||||
2. **Aliasse:** Kommagetrennte Liste von Synonymen. Diese werden beim Import automatisch zum Canonical aufgelöst.
|
|
||||||
3. **Beschreibung:** Rein informativ für den Nutzer.
|
|
||||||
|
|
||||||
### 4.3 Verfügbare Kanten-Typen (System-Standard)
|
### 4.3 Verfügbare Kanten-Typen (System-Standard)
|
||||||
|
|
||||||
| Kind (Canonical) | Symmetrisch? | Herkunft | Bedeutung |
|
| System-Typ (Canonical) | Erlaubte Aliasse (User) | Beschreibung |
|
||||||
| :--- | :--- | :--- | :--- |
|
| :--- | :--- | :--- |
|
||||||
| `references` | Nein | Wikilink | Standard-Verweis ("Erwähnt X"). |
|
| **`caused_by`** | `ausgelöst_durch`, `wegen`, `ursache_ist` | Kausalität: A löst B aus. |
|
||||||
| `belongs_to` | Nein | Struktur | Chunk gehört zu Note. |
|
| **`derived_from`** | `abgeleitet_von`, `quelle`, `inspiriert_durch` | Herkunft: A stammt von B. |
|
||||||
| `caused_by` | Nein | Inline | Kausalität: A löst B aus. |
|
| **`based_on`** | `basiert_auf`, `fundament`, `grundlage` | Fundament: B baut auf A auf. |
|
||||||
| `based_on` | Nein | Matrix | Fundament: A fußt auf B. |
|
| **`solves`** | `löst`, `beantwortet`, `fix_für` | Lösung: A ist Lösung für Problem B. |
|
||||||
| `blocks` | Nein | Inline | Blocker: A verhindert B. |
|
| **`part_of`** | `teil_von`, `gehört_zu`, `cluster` | Hierarchie: Kind -> Eltern. |
|
||||||
| `solves` | Nein | Inline | Lösung: A ist Lösung für Problem B. |
|
| **`depends_on`** | `hängt_ab_von`, `braucht`, `requires`, `enforced_by` | Abhängigkeit: A braucht B. |
|
||||||
| `next` / `prev` | Ja | Struktur | Sequenzielle Lesereihenfolge. |
|
| **`blocks`** | `blockiert`, `verhindert`, `risiko_für` | Blocker: A verhindert B. |
|
||||||
|
| **`uses`** | `nutzt`, `verwendet`, `tool` | Werkzeug: A nutzt B. |
|
||||||
|
| **`guides`** | `steuert`, `leitet`, `orientierung` | Soft-Dependency: A gibt Richtung für B. |
|
||||||
|
| **`followed_by`** | `danach`, `folgt`, `nachfolger`, `followed_by` | Prozess: A -> B. |
|
||||||
|
| **`preceeded_by`** | `davor`, `vorgänger`, `preceded_by` | Prozess: B <- A. |
|
||||||
|
| **`related_to`** | `siehe_auch`, `kontext`, `thematisch` | Lose Assoziation. |
|
||||||
|
| **`similar_to`** | `ähnlich_wie`, `vergleichbar` | Synonym / Ähnlichkeit. |
|
||||||
|
| **`references`** | *(Kein Alias)* | Standard-Verweis (Fallback). |
|
||||||
|
| **`resulted_in`** | `ergebnis`, `resultat`, `erzeugt` | Herkunft: A erzeugt Ergebnis B |
|
||||||
|
|
||||||
|
**ACHTUNG!** Die Kantentypen **belongs_to**, **next** und **prev** dürfen nicht vom Nutzer gesetzt werden.
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 5. Decision Engine (`decision_engine.yaml`)
|
## 5. Decision Engine (`decision_engine.yaml`)
|
||||||
|
|
||||||
Steuert den Hybrid Router und das dynamische Intent-Boosting (WP-22).
|
Die Decision Engine fungiert als zentraler Orchestrator für die Intent-Erkennung und das dynamische Retrieval-Routing. Sie bestimmt, wie das System auf eine Nutzeranfrage reagiert, welche Informationstypen bevorzugt werden und wie der Wissensgraph für die spezifische Situation verformt wird.
|
||||||
|
|
||||||
**Beispielauszug für Intent-Boosting:**
|
### 5.1 Intent Recognition: Dual-Path Routing
|
||||||
|
Das System nutzt ein zweistufiges Verfahren, um die Absicht des Nutzers zu identifizieren:
|
||||||
|
|
||||||
|
1. **Fast Path (Keyword Trigger):** Das System scannt die Anfrage nach definierten `trigger_keywords`. Wird ein Treffer gefunden, wird die entsprechende Strategie sofort ohne LLM-Einsatz gewählt.
|
||||||
|
2. **Slow Path (LLM Router):** Wenn kein Keyword matcht und `llm_fallback_enabled: true` gesetzt ist, analysiert ein LLM die Nachricht mittels Few-Shot Prompting.
|
||||||
|
|
||||||
|
#### LLM Router Konfiguration
|
||||||
|
Der Router nutzt den `llm_router_prompt`, um Anfragen in eine der fünf Kern-Strategien (`FACT`, `DECISION`, `EMPATHY`, `CODING`, `INTERVIEW`) zu klassifizieren.
|
||||||
|
|
||||||
|
| Einstellung | Wert | Beschreibung |
|
||||||
|
| :--- | :--- | :--- |
|
||||||
|
| `llm_fallback_enabled` | `true` | Aktiviert die KI-basierte Klassifizierung, falls Keywords fehlen. |
|
||||||
|
| `llm_router_prompt` | *(Template)* | Enthält die Strategie-Definitionen und Few-Shot Beispiele für den LLM-Entscheidungsweg. |
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### 5.2 Strategie-Mechaniken (Graph Shaping)
|
||||||
|
Jede Strategie definiert drei Hebel, um das Ergebnis des Retrievers zu beeinflussen:
|
||||||
|
|
||||||
|
* **`inject_types`:** Erzwingt die Einbindung bestimmter Notiz-Typen (z. B. `value` bei Entscheidungen), auch wenn diese semantisch eine geringere Ähnlichkeit aufweisen.
|
||||||
|
* **`edge_boosts`:** Erhöht die Gewichtung spezifischer Kanten-Typen in der Scoring-Formel. Dies ermöglicht es dem Graphen, die Textsuche situativ zu "überstimmen".
|
||||||
|
* **`prepend_instruction`:** Injiziert eine spezifische Systemanweisung in das LLM-Prompt, um den Antwortstil anzupassen (z. B. "Wäge Fakten gegen Werte ab").
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### 5.3 Übersicht der Strategien
|
||||||
|
|
||||||
|
| Strategie | Fokus | Bevorzugte Kanten (`edge_boosts`) | Injektionstypen |
|
||||||
|
| :--- | :--- | :--- | :--- |
|
||||||
|
| **FACT** | Wissensabfrage & Definitionen | `part_of` (2.0), `composed_of` (2.0), `similar_to` (1.5) | *(Keine)* |
|
||||||
|
| **DECISION** | Rat, Strategie & Abwägung | `blocks` (2.5), `solves` (2.0), `risk_of` (2.5) | `value`, `principle`, `goal`, `risk` |
|
||||||
|
| **EMPATHY** | Emotionale Resonanz | `based_on` (2.0), `experienced_in` (2.5), `related_to` (2.0) | `experience`, `belief`, `profile` |
|
||||||
|
| **CODING** | Programmierung & Syntax | `implemented_in` (3.0), `uses` (2.5), `depends_on` (2.0) | `snippet`, `reference`, `source` |
|
||||||
|
| **INTERVIEW** | Erfassung neuer Daten | *(Keine)* | *(Keine)* |
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### 5.4 Der Interview-Modus & Schemas
|
||||||
|
Die Strategie `INTERVIEW` dient der strukturierten Datenerfassung.
|
||||||
|
|
||||||
|
* **Trigger:** Aktiviert durch Phrasen wie "neue notiz", "festhalten" oder "dokumentieren".
|
||||||
|
* **Schema-Logik:** Nutzt das `default`-Schema mit den Feldern `Titel`, `Thema/Inhalt` und `Tags`, sofern kein spezifisches Typ-Schema aus der `types.yaml` greift.
|
||||||
|
* **Dynamik:** In diesem Modus wird der Fokus vom Retrieval (Wissen finden) auf die Extraktion (Wissen speichern) verschoben.
|
||||||
|
|
||||||
|
> **Hinweis:** Da spezifische Schemas für Projekte oder Erfahrungen direkt in der `types.yaml` definiert werden, dient die `decision_engine.yaml` hier primär als Fallback für generische Datenaufnahmen.
|
||||||
|
|
||||||
|
|
||||||
|
Auszug aus der decision_engine.yaml
|
||||||
```yaml
|
```yaml
|
||||||
intents:
|
strategies:
|
||||||
EMPATHY:
|
# 1. Fakten-Abfrage (Fallback & Default)
|
||||||
description: "Emotionaler Support / Werte-Fokus"
|
FACT:
|
||||||
boost_edges:
|
description: "Reine Wissensabfrage."
|
||||||
based_on: 2.0 # Verdoppelt den Einfluss von Werte-Kanten
|
trigger_keywords: []
|
||||||
related_to: 1.5 # Stärkt assoziative Bezüge
|
inject_types: []
|
||||||
inject_types: ["experience", "belief"]
|
# WP-22: Definitionen & Hierarchien bevorzugen
|
||||||
|
edge_boosts:
|
||||||
|
part_of: 2.0
|
||||||
|
composed_of: 2.0
|
||||||
|
similar_to: 1.5
|
||||||
|
caused_by: 0.5
|
||||||
|
prompt_template: "rag_template"
|
||||||
|
prepend_instruction: null
|
||||||
|
|
||||||
WHY:
|
# 2. Entscheidungs-Frage
|
||||||
description: "Ursachenanalyse (Kausalität)"
|
DECISION:
|
||||||
boost_edges:
|
description: "Der User sucht Rat, Strategie oder Abwägung."
|
||||||
caused_by: 2.5 # Massiver Boost für Kausalitätsketten
|
trigger_keywords:
|
||||||
derived_from: 1.8 # Fokus auf die Herkunft
|
- "soll ich"
|
||||||
|
- "meinung"
|
||||||
|
- "besser"
|
||||||
|
- "empfehlung"
|
||||||
|
- "strategie"
|
||||||
|
- "entscheidung"
|
||||||
|
- "abwägung"
|
||||||
|
- "vergleich"
|
||||||
|
inject_types: ["value", "principle", "goal", "risk"]
|
||||||
|
# WP-22: Risiken und Konsequenzen hervorheben
|
||||||
|
edge_boosts:
|
||||||
|
blocks: 2.5
|
||||||
|
solves: 2.0
|
||||||
|
depends_on: 1.5
|
||||||
|
risk_of: 2.5
|
||||||
|
prompt_template: "decision_template"
|
||||||
|
prepend_instruction: |
|
||||||
|
!!! ENTSCHEIDUNGS-MODUS !!!
|
||||||
|
BITTE WÄGE FAKTEN GEGEN FOLGENDE WERTE, PRINZIPIEN UND ZIELE AB:
|
||||||
|
|
||||||
|
# 3. Empathie / "Ich"-Modus
|
||||||
```
|
```
|
||||||
|
|
||||||
*Richtwert für Kanten-Boosts: 0.1 (Abwertung) bis 3.0+ (Dominanz gegenüber Text-Match).*
|
|
||||||
@@ -3,15 +3,15 @@ doc_type: technical_reference
|
|||||||
audience: developer, architect
|
audience: developer, architect
|
||||||
scope: database, qdrant, schema
|
scope: database, qdrant, schema
|
||||||
status: active
|
status: active
|
||||||
version: 2.7.0
|
version: 2.8.0
|
||||||
context: "Exakte Definition der Datenmodelle (Payloads) in Qdrant und Index-Anforderungen."
|
context: "Exakte Definition der Datenmodelle (Payloads) in Qdrant und Index-Anforderungen. Berücksichtigt WP-14 Modularisierung und WP-15b Multi-Hashes."
|
||||||
---
|
---
|
||||||
|
|
||||||
# Technisches Datenmodell (Qdrant Schema)
|
# Technisches Datenmodell (Qdrant Schema)
|
||||||
|
|
||||||
## 1. Collections & Namenskonvention
|
## 1. Collections & Namenskonvention
|
||||||
|
|
||||||
Mindnet speichert Daten in drei getrennten Qdrant-Collections. Der Prefix ist via ENV `COLLECTION_PREFIX` konfigurierbar (Default: `mindnet`).
|
Mindnet speichert Daten in drei getrennten Qdrant-Collections. Der Prefix ist via ENV `COLLECTION_PREFIX` konfigurierbar (Default: `mindnet`). Die Auflösung erfolgt zentral über `app.core.database.collection_names`.
|
||||||
|
|
||||||
Das System nutzt folgende drei Collections:
|
Das System nutzt folgende drei Collections:
|
||||||
* `{prefix}_notes`: Metadaten der Dateien.
|
* `{prefix}_notes`: Metadaten der Dateien.
|
||||||
@@ -28,9 +28,10 @@ Repräsentiert die Metadaten einer Markdown-Datei (1:1 Beziehung).
|
|||||||
|
|
||||||
```json
|
```json
|
||||||
{
|
{
|
||||||
"note_id": "string (keyword)", // UUIDv5 (deterministisch) oder Slug
|
"note_id": "string (keyword)", // UUIDv5 (deterministisch via NAMESPACE_URL)
|
||||||
"title": "string (text)", // Titel aus Frontmatter
|
"title": "string (text)", // Titel aus Frontmatter
|
||||||
"type": "string (keyword)", // Logischer Typ (z.B. 'project', 'concept')
|
"type": "string (keyword)", // Logischer Typ (z.B. 'project', 'concept')
|
||||||
|
"status": "string (keyword)", // Lifecycle: 'stable', 'active', 'draft', 'system' (WP-22)
|
||||||
"retriever_weight": "float", // Effektive Wichtigkeit (Frontmatter > Type > Default)
|
"retriever_weight": "float", // Effektive Wichtigkeit (Frontmatter > Type > Default)
|
||||||
"chunk_profile": "string", // Effektives Profil (Frontmatter > Type > Default)
|
"chunk_profile": "string", // Effektives Profil (Frontmatter > Type > Default)
|
||||||
"edge_defaults": ["string"], // Liste der aktiven Default-Kanten
|
"edge_defaults": ["string"], // Liste der aktiven Default-Kanten
|
||||||
@@ -40,7 +41,7 @@ Repräsentiert die Metadaten einer Markdown-Datei (1:1 Beziehung).
|
|||||||
"updated": "integer", // Timestamp (File Modification Time)
|
"updated": "integer", // Timestamp (File Modification Time)
|
||||||
"fulltext": "string (no-index)", // Gesamter Text (nur für Recovery/Export)
|
"fulltext": "string (no-index)", // Gesamter Text (nur für Recovery/Export)
|
||||||
|
|
||||||
// NEU in v2.7: Multi-Hash für flexible Change Detection
|
// Multi-Hash für flexible Change Detection (WP-15b)
|
||||||
"hashes": {
|
"hashes": {
|
||||||
"body:parsed:canonical": "string", // Hash nur über den Text-Body
|
"body:parsed:canonical": "string", // Hash nur über den Text-Body
|
||||||
"full:parsed:canonical": "string" // Hash über Text + Metadaten (Tags, Title, Config)
|
"full:parsed:canonical": "string" // Hash über Text + Metadaten (Tags, Title, Config)
|
||||||
@@ -52,6 +53,7 @@ Repräsentiert die Metadaten einer Markdown-Datei (1:1 Beziehung).
|
|||||||
Es müssen Payload-Indizes für folgende Felder existieren:
|
Es müssen Payload-Indizes für folgende Felder existieren:
|
||||||
* `note_id`
|
* `note_id`
|
||||||
* `type`
|
* `type`
|
||||||
|
* `status`
|
||||||
* `tags`
|
* `tags`
|
||||||
|
|
||||||
---
|
---
|
||||||
@@ -61,7 +63,7 @@ Es müssen Payload-Indizes für folgende Felder existieren:
|
|||||||
Die atomare Sucheinheit. Enthält den Vektor.
|
Die atomare Sucheinheit. Enthält den Vektor.
|
||||||
|
|
||||||
**Vektor-Konfiguration:**
|
**Vektor-Konfiguration:**
|
||||||
* Modell: `nomic-embed-text`
|
* Modell: `nomic-embed-text` (via Ollama oder Cloud)
|
||||||
* Dimension: **768**
|
* Dimension: **768**
|
||||||
* Metrik: Cosine Similarity
|
* Metrik: Cosine Similarity
|
||||||
|
|
||||||
@@ -69,7 +71,7 @@ Die atomare Sucheinheit. Enthält den Vektor.
|
|||||||
|
|
||||||
```json
|
```json
|
||||||
{
|
{
|
||||||
"chunk_id": "string (keyword)", // Format: {note_id}#c{index} (z.B. 'abc-123#c01')
|
"chunk_id": "string (keyword)", // Format: UUIDv5 aus {note_id}#c{index}
|
||||||
"note_id": "string (keyword)", // Foreign Key zur Note
|
"note_id": "string (keyword)", // Foreign Key zur Note
|
||||||
"type": "string (keyword)", // Kopie aus Note (Denormalisiert für Filterung)
|
"type": "string (keyword)", // Kopie aus Note (Denormalisiert für Filterung)
|
||||||
"text": "string (text)", // Reintext für Anzeige (ohne Overlap)
|
"text": "string (text)", // Reintext für Anzeige (ohne Overlap)
|
||||||
@@ -121,3 +123,4 @@ Es müssen Payload-Indizes für folgende Felder existieren:
|
|||||||
* `kind`
|
* `kind`
|
||||||
* `scope`
|
* `scope`
|
||||||
* `note_id`
|
* `note_id`
|
||||||
|
```
|
||||||
@@ -1,71 +1,94 @@
|
|||||||
---
|
---
|
||||||
doc_type: technical_reference
|
doc_type: technical_reference
|
||||||
audience: developer, devops
|
audience: developer, devops
|
||||||
scope: backend, ingestion, smart_edges, edge_registry
|
scope: backend, ingestion, smart_edges, edge_registry, modularization
|
||||||
status: active
|
status: active
|
||||||
version: 2.7.1
|
version: 2.9.0
|
||||||
context: "Detaillierte technische Beschreibung der Import-Pipeline, Chunking-Strategien und CLI-Befehle."
|
context: "Detaillierte technische Beschreibung der Import-Pipeline, Two-Pass-Workflow (WP-15b) und modularer Datenbank-Architektur (WP-14). Integriert Mistral-safe Parsing und Deep Fallback."
|
||||||
---
|
---
|
||||||
|
|
||||||
# Ingestion Pipeline & Smart Processing
|
# Ingestion Pipeline & Smart Processing
|
||||||
|
|
||||||
**Quellen:** `pipeline_playbook.md`, `Handbuch.md`, `edge_registry.py`, `01_edge_vocabulary.md`, `06_active_roadmap.md`
|
**Quellen:** `pipeline_playbook.md`, `ingestion_processor.py`, `ingestion_db.py`, `ingestion_validation.py`, `registry.py`, `edge_registry.py`
|
||||||
|
|
||||||
Die Ingestion transformiert Markdown in den Graphen. Entrypoint: `scripts/import_markdown.py` (CLI) oder `routers/ingest.py` (API). Seit v2.7 integriert dieser Prozess die **Edge Registry** zur Normalisierung des Vokabulars und beachtet den **Content Lifecycle**.
|
Die Ingestion transformiert Markdown in den Graphen. Entrypoint: `scripts/import_markdown.py` (CLI) oder `routers/ingest.py` (API). Seit v2.9 nutzt dieser Prozess ein hocheffizientes **Two-Pass-Verfahren**, um globale Kontext-Informationen für die semantische Validierung bereitzustellen, ohne die Idempotenz oder die Change-Detection zu verletzen.
|
||||||
|
|
||||||
## 1. Der Import-Prozess (15-Schritte-Workflow)
|
|
||||||
|
|
||||||
Der Prozess ist **asynchron** und **idempotent**.
|
|
||||||
|
|
||||||
|
## 1. Der Import-Prozess (16-Schritte-Workflow)
|
||||||
|
|
||||||
|
Der Prozess ist **asynchron**, **idempotent** und wird nun in zwei logische Durchläufe (Passes) unterteilt, um die semantische Genauigkeit zu maximieren.
|
||||||
|
|
||||||
|
### Phase 1: Pre-Scan & Context (Pass 1)
|
||||||
1. **Trigger & Async Dispatch:**
|
1. **Trigger & Async Dispatch:**
|
||||||
* **API (`/save`):** Nimmt Request entgegen, validiert und startet Background-Task ("Fire & Forget"). Antwortet sofort mit `202/Queued`.
|
* **API (`/save`):** Nimmt Request entgegen, validiert und startet Background-Task ("Fire & Forget"). Antwortet sofort mit `202/Queued`.
|
||||||
* **CLI:** Iteriert über Dateien und nutzt `asyncio.Semaphore` zur Drosselung.
|
* **CLI:** Iteriert über Dateien und nutzt `asyncio.Semaphore` zur Drosselung.
|
||||||
2. **Markdown lesen:** Rekursives Scannen des Vaults.
|
2. **Markdown lesen:** Rekursives Scannen des Vaults zur Erstellung des Dateiinventars.
|
||||||
3. **Frontmatter Check & Hard Skip (WP-22):**
|
3. **Frontmatter Check & Hard Skip (WP-22):**
|
||||||
* Extraktion von `status` und `type`.
|
* Extraktion von `status` und `type`.
|
||||||
* **Hard Skip Rule:** Wenn `status` in `['system', 'template']` ist, wird die Datei **sofort übersprungen**. Sie wird weder vektorisiert noch in den Graphen aufgenommen.
|
* **Hard Skip Rule:** Wenn `status` in `['system', 'template', 'archive', 'hidden']` ist, wird die Datei für das Deep-Processing übersprungen, ihre Metadaten werden jedoch für den Kontext-Cache erfasst.
|
||||||
* Validierung der Pflichtfelder (`id`, `title`) für alle anderen Dateien.
|
* Validierung der Pflichtfelder (`id`, `title`) für alle anderen Dateien.
|
||||||
4. **Edge Registry Initialisierung (WP-22):**
|
4. **Edge Registry Initialisierung (WP-22):**
|
||||||
* Laden der Singleton-Instanz der `EdgeRegistry`.
|
* Laden der Singleton-Instanz der `EdgeRegistry`.
|
||||||
* Validierung der Vokabular-Datei unter `MINDNET_VOCAB_PATH`.
|
* Validierung der Vokabular-Datei unter `MINDNET_VOCAB_PATH`.
|
||||||
5. **Config Resolution:**
|
5. **Config Resolution (WP-14):**
|
||||||
* Bestimmung von `chunking_profile` und `retriever_weight`.
|
* Bestimmung von `chunking_profile` und `retriever_weight` via zentraler `TypeRegistry`.
|
||||||
* **Priorität:** 1. Frontmatter (Override) -> 2. `types.yaml` (Type) -> 3. Global Default.
|
* **Priorität:** 1. Frontmatter (Override) -> 2. `types.yaml` (Type) -> 3. Global Default.
|
||||||
6. **Note-Payload generieren:**
|
6. **LocalBatchCache & Summary Generation (WP-15b):**
|
||||||
* Erstellen des JSON-Objekts inklusive `status` (für Scoring).
|
* Erstellung von Kurz-Zusammenfassungen für jede Note.
|
||||||
* **Multi-Hash Calculation:** Berechnet Hashtabellen für `body` (nur Text) und `full` (Text + Metadaten).
|
* Speicherung im `batch_cache` als Referenzrahmen für die spätere Kantenvalidierung.
|
||||||
7. **Change Detection:**
|
|
||||||
* Vergleich des Hashes mit Qdrant.
|
### Phase 2: Semantic Processing & Persistence (Pass 2)
|
||||||
* Strategie wählbar via ENV `MINDNET_CHANGE_DETECTION_MODE` (`full` oder `body`).
|
7. **Note-Payload & Multi-Hash (WP-15b):**
|
||||||
8. **Chunking anwenden:** Zerlegung des Textes basierend auf dem ermittelten Profil (siehe Kap. 3).
|
* Erstellen des JSON-Objekts inklusive `status`.
|
||||||
9. **Smart Edge Allocation (WP15):**
|
* **Multi-Hash Calculation:** Berechnet Hashtabellen für `body` (nur Text) und `full` (Text + Metadaten) zur präzisen Änderungskontrolle.
|
||||||
* Wenn `enable_smart_edge_allocation: true`: Der `SemanticAnalyzer` sendet Chunks an das LLM.
|
8. **Change Detection:**
|
||||||
* **Traffic Control:** Request nutzt `priority="background"`. Semaphore (Limit via `.env`) drosselt die Last.
|
* Vergleich des aktuellen Hashes mit den Daten in Qdrant (Collection `{prefix}_notes`).
|
||||||
* **Resilienz:** Bei Timeout (Ollama) greift ein Fallback (Broadcasting an alle Chunks).
|
* Strategie wählbar via ENV `MINDNET_CHANGE_DETECTION_MODE` (`full` oder `body`). Unveränderte Dateien werden hier final übersprungen.
|
||||||
10. **Inline-Kanten finden:** Parsing von `[[rel:...]]`.
|
9. **Purge Old Artifacts (WP-14):**
|
||||||
11. **Alias-Auflösung & Kanonisierung (WP-22):**
|
* Bei Änderungen löscht `purge_artifacts()` via `app.core.ingestion.ingestion_db` alle alten Chunks und Edges der Note.
|
||||||
* Jede Kante wird via `edge_registry.resolve()` normalisiert.
|
* Die Namensauflösung erfolgt nun über das modularisierte `database`-Paket.
|
||||||
* Aliase (z.B. `basiert_auf`) werden zu kanonischen Typen (z.B. `based_on`) aufgelöst.
|
10. **Chunking anwenden:** Zerlegung des Textes basierend auf dem ermittelten Profil (siehe Kap. 3).
|
||||||
|
11. **Smart Edge Allocation & Semantic Validation (WP-15b):**
|
||||||
|
* Der `SemanticAnalyzer` schlägt Kanten-Kandidaten vor.
|
||||||
|
* **Validierung:** Jeder Kandidat wird durch das LLM semantisch gegen das Ziel im **LocalBatchCache** geprüft.
|
||||||
|
* **Traffic Control:** Nutzung der neutralen `clean_llm_text` Funktion zur Bereinigung von Steuerzeichen (<s>, [OUT]).
|
||||||
|
* **Deep Fallback (v2.11.14):** Erkennt "Silent Refusals". Liefert die Cloud keine verwertbaren Kanten, wird ein lokaler Fallback via Ollama erzwungen.
|
||||||
|
12. **Inline-Kanten finden:** Parsing von `[[rel:...]]` und Callouts.
|
||||||
|
13. **Alias-Auflösung & Kanonisierung (WP-22):**
|
||||||
|
* Jede Kante wird via `EdgeRegistry` normalisiert (z.B. `basiert_auf` -> `based_on`).
|
||||||
* Unbekannte Typen werden in `unknown_edges.jsonl` protokolliert.
|
* Unbekannte Typen werden in `unknown_edges.jsonl` protokolliert.
|
||||||
12. **Callout-Kanten finden:** Parsing von `> [!edge]`.
|
14. **Default- & Strukturkanten:** Anwendung der `edge_defaults` und Erzeugung von Systemkanten (`belongs_to`, `next`, `prev`).
|
||||||
13. **Default- & Matrix-Edges erzeugen:** Anwendung der `edge_defaults` aus Registry und Matrix-Logik.
|
15. **Embedding (Async):** Generierung der Vektoren via `nomic-embed-text` (768 Dimensionen).
|
||||||
14. **Strukturkanten erzeugen:** `belongs_to`, `next`, `prev`.
|
16. **Database Sync (WP-14):** Batch-Upsert aller Points in die Collections `{prefix}_chunks` und `{prefix}_edges` über die zentrale Infrastruktur.
|
||||||
15. **Embedding (Async):** Generierung via `nomic-embed-text` (768 Dim).
|
|
||||||
16. **Diagnose:** Integritäts-Check nach dem Lauf.
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 2. Betrieb & CLI Befehle
|
## 2. Betrieb & CLI Befehle
|
||||||
|
|
||||||
### 2.1 Standard-Betrieb (Inkrementell)
|
### 2.1 API-Endpunkt: `/ingest/save` (Background Tasks)
|
||||||
Für regelmäßige Updates (Cronjob). Erkennt Änderungen via Hash.
|
|
||||||
|
Seit WP-14 nutzt der `/ingest/save` Endpunkt **Background Tasks** für non-blocking Ingestion:
|
||||||
|
|
||||||
|
**Workflow:**
|
||||||
|
1. **Request:** Frontend sendet Markdown an `/ingest/save`
|
||||||
|
2. **Sofortige Antwort:** API antwortet mit `status: "queued"` und `note_id: "pending"`
|
||||||
|
3. **Datei-Persistenz:** Markdown wird sofort auf Festplatte geschrieben
|
||||||
|
4. **Background Task:** Ingestion läuft asynchron im Hintergrund
|
||||||
|
- Chunking
|
||||||
|
- Embedding-Generierung
|
||||||
|
- Smart Edge Allocation (WP-15)
|
||||||
|
- Hybrid-Cloud-Analyse (WP-20)
|
||||||
|
5. **Vorteil:** Keine Timeouts bei großen Dateien oder langsamen LLM-Calls
|
||||||
|
|
||||||
|
**Hinweis:** Die tatsächliche `note_id` steht erst nach dem Parsing fest. Das Frontend sollte den `file_path` für Tracking nutzen.
|
||||||
|
|
||||||
|
### 2.2 CLI-Betrieb (Inkrementell)
|
||||||
|
Erkennt Änderungen via Multi-Hash.
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
export QDRANT_URL="http://localhost:6333"
|
export QDRANT_URL="http://localhost:6333"
|
||||||
export COLLECTION_PREFIX="mindnet"
|
export COLLECTION_PREFIX="mindnet"
|
||||||
# Steuert, wann eine Datei als "geändert" gilt
|
|
||||||
export MINDNET_CHANGE_DETECTION_MODE="full"
|
export MINDNET_CHANGE_DETECTION_MODE="full"
|
||||||
|
|
||||||
# Nutzt das Venv der Produktionsumgebung
|
# Nutzt das Venv der Produktionsumgebung
|
||||||
@@ -78,20 +101,13 @@ export MINDNET_CHANGE_DETECTION_MODE="full"
|
|||||||
```
|
```
|
||||||
|
|
||||||
> **[!WARNING] Purge-Before-Upsert**
|
> **[!WARNING] Purge-Before-Upsert**
|
||||||
> Das Flag `--purge-before-upsert` ist kritisch. Es löscht vor dem Schreiben einer Note ihre alten Chunks/Edges. Ohne dieses Flag entstehen **"Geister-Chunks"** (alte Textabschnitte, die im Markdown gelöscht wurden, aber im Index verbleiben).
|
> Das Flag `--purge-before-upsert` nutzt nun `ingestion_db.purge_artifacts`. Es ist kritisch, um "Geister-Chunks" (verwaiste Daten nach Textlöschung) konsistent aus den spezialisierten Collections zu entfernen.
|
||||||
|
|
||||||
### 2.2 Full Rebuild (Clean Slate)
|
### 2.2 Full Rebuild (Clean Slate)
|
||||||
Notwendig bei Änderungen an `types.yaml` (z.B. neue Chunking-Profile), der Registry oder Modell-Wechsel.
|
Notwendig bei Änderungen an `types.yaml`, der Registry oder Modell-Wechsel.
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
# 0. Modell sicherstellen
|
# --force ignoriert alle Hashes und erzwingt den vollständigen Two-Pass Workflow
|
||||||
ollama pull nomic-embed-text
|
|
||||||
|
|
||||||
# 1. Qdrant Collections löschen (Wipe)
|
|
||||||
python3 -m scripts.reset_qdrant --mode wipe --prefix "mindnet" --yes
|
|
||||||
|
|
||||||
# 2. Vollständiger Import (Force)
|
|
||||||
# --force ignoriert alle Hashes und schreibt alles neu
|
|
||||||
python3 -m scripts.import_markdown --vault ./vault --prefix "mindnet" --apply --force
|
python3 -m scripts.import_markdown --vault ./vault --prefix "mindnet" --apply --force
|
||||||
```
|
```
|
||||||
|
|
||||||
@@ -99,70 +115,52 @@ python3 -m scripts.import_markdown --vault ./vault --prefix "mindnet" --apply --
|
|||||||
|
|
||||||
## 3. Chunking & Payload
|
## 3. Chunking & Payload
|
||||||
|
|
||||||
Das Chunking ist profilbasiert und in `types.yaml` konfiguriert.
|
Das Chunking ist profilbasiert und bezieht seine Konfiguration dynamisch aus der `TypeRegistry`.
|
||||||
|
|
||||||
### 3.1 Profile und Strategien (Vollständige Referenz)
|
### 3.1 Profile und Strategien
|
||||||
|
|
||||||
| Profil | Strategie | Parameter | Einsatzgebiet |
|
| Profil | Strategie | Parameter | Einsatzgebiet |
|
||||||
| :--- | :--- | :--- | :--- |
|
| :--- | :--- | :--- | :--- |
|
||||||
| `sliding_short` | `sliding_window` | Max: 350, Target: 200 | Kurze Logs, Chats, Risiken. |
|
| `sliding_short` | `sliding_window` | Max: 350, Target: 200 | Kurze Logs, Chats. |
|
||||||
| `sliding_standard` | `sliding_window` | Max: 650, Target: 450 | Massendaten (Journal, Quellen). |
|
| `sliding_standard` | `sliding_window` | Max: 650, Target: 450 | Standard-Wissen. |
|
||||||
| `sliding_smart_edges`| `sliding_window` | Max: 600, Target: 400 | Fließtexte mit hohem Wert (Projekte). |
|
| `sliding_smart_edges`| `sliding_window` | Max: 600, Target: 400 | Fließtexte (Projekte). |
|
||||||
| `structured_smart_edges` | `by_heading` | `strict: false` (Soft) | Strukturierte Texte, Merging erlaubt. |
|
| `structured_smart_edges` | `by_heading` | `strict: false` | Strukturierte Texte. |
|
||||||
| `structured_smart_edges_strict` | `by_heading` | `strict: true` (Hard) | **Atomare Einheiten**: Entscheidungen, Werte. |
|
|
||||||
| `structured_smart_edges_strict_L3`| `by_heading` | `strict: true`, `level: 3` | Tief geschachtelte Prinzipien (Tier 2/MP1). |
|
|
||||||
|
|
||||||
### 3.2 Die `by_heading` Logik (v2.9 Hybrid)
|
### 3.2 Die `by_heading` Logik (v2.9 Hybrid)
|
||||||
|
|
||||||
Die Strategie `by_heading` zerlegt Texte anhand ihrer Struktur (Überschriften). Sie unterstützt seit v2.9 ein "Safety Net" gegen zu große Chunks.
|
Die Strategie `by_heading` zerlegt Texte anhand ihrer Struktur (Überschriften). Sie unterstützt ein "Safety Net" gegen zu große Chunks.
|
||||||
|
|
||||||
* **Split Level:** Definiert die Tiefe (z.B. `2` = H1 & H2 triggern Split).
|
* **Split Level:** Definiert die Tiefe (z.B. `2` = H1 & H2 triggern Split).
|
||||||
* **Modus "Strict" (`strict_heading_split: true`):**
|
* **Modus "Strict" (`strict_heading_split: true`):**
|
||||||
* Jede Überschrift (`<= split_level`) erzwingt einen neuen Chunk.
|
* Jede Überschrift (`<= split_level`) erzwingt einen neuen Chunk.
|
||||||
* *Merge-Check:* Wenn der vorherige Chunk leer war (nur Überschriften), wird gemergt (verhindert verwaiste Überschriften).
|
* *Merge-Check:* Wenn der vorherige Chunk leer war (nur Überschriften), wird gemergt.
|
||||||
* *Safety Net:* Wird ein Abschnitt zu lang (> `max` Token), wird auch ohne Überschrift getrennt.
|
* *Safety Net:* Wird ein Abschnitt zu lang (> `max` Token), wird auch ohne Überschrift getrennt.
|
||||||
* **Modus "Soft" (`strict_heading_split: false`):**
|
* **Modus "Soft" (`strict_heading_split: false`):**
|
||||||
* **Hierarchie-Check:** Überschriften *oberhalb* des Split-Levels erzwingen **immer** einen Split.
|
* **Hierarchie-Check:** Überschriften *oberhalb* des Split-Levels erzwingen **immer** einen Split.
|
||||||
* **Füll-Logik:** Überschriften *auf* dem Split-Level (z.B. H2) lösen nur dann einen neuen Chunk aus, wenn der aktuelle Chunk die `target`-Größe erreicht hat.
|
* **Füll-Logik:** Überschriften *auf* dem Split-Level lösen nur dann einen neuen Chunk aus, wenn der aktuelle Chunk die `target`-Größe erreicht hat.
|
||||||
* *Safety Net:* Auch hier greift das `max` Token Limit.
|
* *Safety Net:* Auch hier greift das `max` Token Limit.
|
||||||
|
|
||||||
### 3.3 Payload-Felder (Qdrant)
|
|
||||||
|
|
||||||
* `text`: Der reine Inhalt (Anzeige im UI).
|
|
||||||
* `window`: Inhalt plus Overlap (für Embedding).
|
|
||||||
* `chunk_profile`: Das effektiv genutzte Profil (zur Nachverfolgung).
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 4. Edge-Erzeugung & Prioritäten (Provenance)
|
## 4. Edge-Erzeugung & Prioritäten (Provenance)
|
||||||
|
|
||||||
Kanten werden nach Vertrauenswürdigkeit (`provenance`) priorisiert. Die höhere Prio gewinnt.
|
Kanten werden nach Vertrauenswürdigkeit (`provenance`) priorisiert. Die höhere Prio gewinnt.
|
||||||
|
|
||||||
| Prio | Quelle | Rule ID | Confidence | Erläuterung |
|
| Prio | Quelle | Rule ID / Provenance | Confidence | Erläuterung |
|
||||||
| :--- | :--- | :--- | :--- | :--- |
|
| :--- | :--- | :--- | :--- | :--- |
|
||||||
| **1** | Wikilink | `explicit:wikilink` | **1.00** | Harte menschliche Setzung. |
|
| **1** | Wikilink | `explicit:wikilink` | **1.00** | Harte menschliche Setzung. |
|
||||||
| **2** | Inline | `inline:rel` | **0.95** | Typisierte menschliche Kante. |
|
| **2** | Inline | `inline:rel` | **0.95** | Typisierte menschliche Kante. |
|
||||||
| **3** | Callout | `callout:edge` | **0.90** | Explizite Meta-Information. |
|
| **3** | Callout | `callout:edge` | **0.90** | Explizite Meta-Information. |
|
||||||
| **4** | Smart Edge | `smart:llm_filter` | **0.90** | KI-validierte Verbindung. |
|
| **4** | Semantic AI | `semantic_ai` | **0.90** | KI-validiert gegen LocalBatchCache. |
|
||||||
| **5** | Type Default | `edge_defaults` | **0.70** | Heuristik aus der Registry. |
|
| **5** | Type Default | `edge_defaults` | **0.70** | Heuristik aus der Registry. |
|
||||||
| **6** | Struktur | `structure` | **1.00** | System-interne Verkettung. |
|
| **6** | Struktur | `structure` | **1.00** | System-interne Verkettung (`belongs_to`). |
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 5. Quality Gates & Monitoring
|
## 5. Quality Gates & Monitoring
|
||||||
|
|
||||||
In v2.7 wurden Tools zur Überwachung der Datenqualität integriert:
|
**1. Registry Review (WP-14):** Prüfung der `data/logs/unknown_edges.jsonl`. Die zentrale Auflösung via `registry.py` verhindert Inkonsistenzen zwischen Import und Retrieval.
|
||||||
|
|
||||||
**1. Registry Review:** Prüfung der `data/logs/unknown_edges.jsonl`. Administratoren sollten hier gelistete Begriffe als Aliase in die `01_edge_vocabulary.md` aufnehmen.
|
**2. Mistral-safe Parsing:** Automatisierte Bereinigung von LLM-Antworten in `ingestion_validation.py`. Stellt sicher, dass semantische Entscheidungen ("YES"/"NO") nicht durch technische Header verfälscht werden.
|
||||||
|
|
||||||
**2. Payload Dryrun (Schema-Check):**
|
**3. Purge Integrity:** Validierung, dass vor jedem Upsert alle assoziierten Artefakte in den Collections `{prefix}_chunks` und `{prefix}_edges` gelöscht wurden, um Daten-Duplikate zu vermeiden.
|
||||||
Simuliert Import, prüft JSON-Schema Konformität.
|
|
||||||
```bash
|
|
||||||
python3 -m scripts.payload_dryrun --vault ./test_vault
|
|
||||||
```
|
|
||||||
|
|
||||||
**3. Full Edge Check (Graph-Integrität):**
|
|
||||||
Prüft Invarianten (z.B. `next` muss reziprok zu `prev` sein).
|
|
||||||
```bash
|
|
||||||
python3 -m scripts.edges_full_check
|
|
||||||
```
|
|
||||||
@@ -3,13 +3,13 @@ doc_type: technical_reference
|
|||||||
audience: developer, data_scientist
|
audience: developer, data_scientist
|
||||||
scope: backend, retrieval, scoring, modularization
|
scope: backend, retrieval, scoring, modularization
|
||||||
status: active
|
status: active
|
||||||
version: 2.7.1
|
version: 2.9.0
|
||||||
context: "Detaillierte Dokumentation der Scoring-Algorithmen, inklusive WP-22 Lifecycle-Modifier, Intent-Boosting und Modularisierung."
|
context: "Detaillierte Dokumentation der Scoring-Algorithmen, inklusive WP-22 Lifecycle-Modifier, Intent-Boosting und WP-14 Modularisierung."
|
||||||
---
|
---
|
||||||
|
|
||||||
# Retrieval & Scoring Algorithmen
|
# Retrieval & Scoring Algorithmen
|
||||||
|
|
||||||
Der Retriever unterstützt **Semantic Search** und **Hybrid Search**. Seit v2.4 nutzt Mindnet ein gewichtetes Scoring-Modell, das Semantik, Graphentheorie und Metadaten kombiniert. Mit Version 2.7 (WP-22) wurde dieses Modell um **Lifecycle-Faktoren** und **Intent-Boosting** erweitert sowie die Architektur modularisiert.
|
Der Retriever unterstützt **Semantic Search** und **Hybrid Search**. Seit v2.4 nutzt Mindnet ein gewichtetes Scoring-Modell, das Semantik, Graphentheorie und Metadaten kombiniert. Mit Version 2.7 (WP-22) wurde dieses Modell um **Lifecycle-Faktoren** und **Intent-Boosting** erweitert sowie die Architektur modularisiert (WP-14).
|
||||||
|
|
||||||
## 1. Scoring Formel (v2.7.0)
|
## 1. Scoring Formel (v2.7.0)
|
||||||
|
|
||||||
@@ -37,18 +37,19 @@ $$
|
|||||||
* **Zweck:** Belohnt Chunks, die "im Thema" vernetzt sind.
|
* **Zweck:** Belohnt Chunks, die "im Thema" vernetzt sind.
|
||||||
|
|
||||||
**4. Centrality Bonus ($B_{cent}$):**
|
**4. Centrality Bonus ($B_{cent}$):**
|
||||||
* **Kontext:** Berechnet im lokalen Subgraphen.
|
* **Kontext:** Berechnet im lokalen Subgraphen via `graph_subgraph.centrality_bonus`.
|
||||||
* **Logik:** Vereinfachte PageRank-Metrik (Degree Centrality).
|
* **Logik:** Vereinfachte PageRank-Metrik (Degree Centrality).
|
||||||
* **Zweck:** Belohnt "Hubs" mit vielen Verbindungen zu anderen Treffern.
|
* **Zweck:** Belohnt "Hubs" mit vielen Verbindungen zu anderen Treffern.
|
||||||
|
|
||||||
### Die WP-22 Erweiterungen (v2.7.0)
|
### Die WP-22 Erweiterungen (v2.7.0)
|
||||||
|
|
||||||
**5. Status Modifier ($M_{status}$):**
|
**5. Status Modifier ($M_{status}$):**
|
||||||
* **Herkunft:** Feld `status` aus dem Frontmatter.
|
* **Herkunft:** Feld `status` aus dem Frontmatter (verarbeitet in `retriever_scoring.get_status_multiplier`).
|
||||||
* **Zweck:** Bestraft unfertiges Wissen (Drafts) oder bevorzugt stabiles Wissen.
|
* **Zweck:** Bestraft unfertiges Wissen (Drafts) oder bevorzugt stabiles Wissen.
|
||||||
* **Werte (Auftrag WP-22):** * `stable`: **1.2** (Bonus für Qualität).
|
* **Werte (Auftrag WP-22):** * `stable`: **1.2** (Belohnung für verifiziertes Wissen).
|
||||||
* `draft`: **0.5** (Malus für Entwürfe).
|
* `active`: **1.0** (Standard-Gewichtung).
|
||||||
* `system`: Exkludiert (siehe Ingestion).
|
* `draft`: **0.5** (Malus für unfertige Fragmente).
|
||||||
|
* `system`: Exkludiert (siehe Ingestion Lifecycle Filter).
|
||||||
|
|
||||||
**6. Intent Boost ($B_{intent}$):**
|
**6. Intent Boost ($B_{intent}$):**
|
||||||
* **Herkunft:** Dynamische Injektion durch die Decision Engine basierend auf der Nutzerfrage.
|
* **Herkunft:** Dynamische Injektion durch die Decision Engine basierend auf der Nutzerfrage.
|
||||||
@@ -56,47 +57,61 @@ $$
|
|||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 2. Hybrid Retrieval Flow & Modularisierung
|
## 2. Hybrid Retrieval Flow & Modularisierung (WP-14)
|
||||||
|
|
||||||
In v2.7 wurde die Engine in einen Orchestrator (`retriever.py`) und eine Scoring-Engine (`retriever_scoring.py`) aufgeteilt.
|
Seit v2.9 ist die Retrieval-Engine im spezialisierten Paket `app.core.retrieval` gekapselt. Die Zuständigkeiten sind strikt zwischen Orchestrierung und mathematischer Bewertung getrennt.
|
||||||
|
|
||||||
**Phase 1: Vector Search (Seed Generation)**
|
**Phase 1: Vector Search (Seed Generation)**
|
||||||
* Der Orchestrator sucht Top-K (Standard: 20) Kandidaten via Embeddings in Qdrant.
|
* Der Orchestrator (`retriever.py`) sucht Top-K (Standard: 20) Kandidaten via Embeddings in Qdrant über das modularisierte `app.core.database` Paket.
|
||||||
* Diese bilden die "Seeds" für den Graphen.
|
* Diese bilden die "Seeds" für den Graphen.
|
||||||
|
|
||||||
**Phase 2: Graph Expansion**
|
**Phase 2: Graph Expansion**
|
||||||
* Nutze `graph_adapter.expand(seeds, depth=1)`.
|
* Nutze die Fassade `app.core.graph_adapter.expand(seeds, depth=1)`.
|
||||||
* Lade direkte Nachbarn aus der `_edges` Collection.
|
* Diese delegiert an `app.core.graph.graph_subgraph`, um direkte Nachbarn aus der `_edges` Collection zu laden.
|
||||||
* Konstruiere einen `NetworkX`-Graphen im Speicher.
|
* Konstruktion eines in-memory Graphen zur Berechnung topologischer Boni.
|
||||||
|
|
||||||
**Phase 3: Re-Ranking (Modular)**
|
**Phase 3: Re-Ranking (Modular)**
|
||||||
* Der Orchestrator übergibt den Graphen und die Seeds an die `ScoringEngine`.
|
* Der Orchestrator übergibt den Graphen und die Seeds an die `ScoringEngine` (`retriever_scoring.py`).
|
||||||
* Berechne Boni ($B_{edge}$, $B_{cent}$) sowie die neuen Lifecycle- und Intent-Modifier.
|
* Berechnung der finalen Scores unter Berücksichtigung von $B_{edge}$, $B_{cent}$ sowie der Lifecycle- und Intent-Modifier.
|
||||||
* Sortierung absteigend nach `TotalScore` und Limitierung auf Top-Resultate (z.B. 5).
|
* Sortierung absteigend nach `TotalScore` und Limitierung auf die angeforderten Top-Resultate.
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 3. Explanation Layer (WP-22 Update)
|
## 3. Explanation Layer (WP-22 Update)
|
||||||
|
|
||||||
Bei `explain=True` generiert das System eine detaillierte Begründung.
|
Bei `explain=True` generiert das System eine detaillierte Begründung inklusive Provenienz-Informationen.
|
||||||
|
|
||||||
**Erweiterte JSON-Struktur:**
|
**Erweiterte JSON-Struktur:**
|
||||||
|
|
||||||
```json
|
```json
|
||||||
{
|
{
|
||||||
"score_breakdown": {
|
"score_breakdown": {
|
||||||
"semantic": 0.85,
|
"semantic_contribution": 0.85,
|
||||||
"type_boost": 1.0,
|
"edge_contribution": 0.4,
|
||||||
"lifecycle_modifier": 0.5,
|
"centrality_contribution": 0.1,
|
||||||
"edge_bonus": 0.4,
|
"raw_semantic": 0.85,
|
||||||
"intent_boost": 0.5,
|
"raw_edge_bonus": 0.3,
|
||||||
"centrality": 0.1
|
"raw_centrality": 0.1,
|
||||||
|
"node_weight": 1.0,
|
||||||
|
"status_multiplier": 1.2,
|
||||||
|
"graph_boost_factor": 1.5
|
||||||
},
|
},
|
||||||
"reasons": [
|
"reasons": [
|
||||||
"Hohe textuelle Übereinstimmung (>0.85).",
|
{
|
||||||
"Status 'draft' reduziert Relevanz (Modifier 0.5).",
|
"kind": "semantic",
|
||||||
"Wird referenziert via 'caused_by' (Intent-Bonus 0.5).",
|
"message": "Hohe textuelle Übereinstimmung (>0.85).",
|
||||||
"Bevorzugt, da Typ 'decision' (Gewicht 1.0)."
|
"score_impact": 0.85
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"kind": "type",
|
||||||
|
"message": "Bevorzugt durch Typ-Profil.",
|
||||||
|
"score_impact": 0.1
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"kind": "edge",
|
||||||
|
"message": "Bestätigte Kante 'caused_by' [Boost x1.5] von 'Note-A'.",
|
||||||
|
"score_impact": 0.4
|
||||||
|
}
|
||||||
]
|
]
|
||||||
}
|
}
|
||||||
```
|
```
|
||||||
@@ -105,18 +120,18 @@ Bei `explain=True` generiert das System eine detaillierte Begründung.
|
|||||||
|
|
||||||
## 4. Konfiguration (`retriever.yaml`)
|
## 4. Konfiguration (`retriever.yaml`)
|
||||||
|
|
||||||
Steuert die Gewichtung der mathematischen Komponenten.
|
Steuert die globale Gewichtung der mathematischen Komponenten.
|
||||||
|
|
||||||
```yaml
|
```yaml
|
||||||
scoring:
|
scoring:
|
||||||
semantic_weight: 1.0 # Basis-Relevanz
|
semantic_weight: 1.0 # Basis-Relevanz (W_sem)
|
||||||
edge_weight: 0.7 # Graphen-Einfluss
|
edge_weight: 0.7 # Graphen-Einfluss (W_edge)
|
||||||
centrality_weight: 0.5 # Hub-Einfluss
|
centrality_weight: 0.5 # Hub-Einfluss (W_cent)
|
||||||
|
|
||||||
# WP-22 Lifecycle Konfiguration (Abgleich mit Auftrag)
|
# WP-22 Lifecycle Konfiguration
|
||||||
lifecycle_weights:
|
lifecycle_weights:
|
||||||
stable: 1.2 # Bonus für Qualität
|
stable: 1.2 # Modifier für Qualität
|
||||||
draft: 0.5 # Malus für Entwürfe
|
draft: 0.5 # Modifier für Entwürfe
|
||||||
|
|
||||||
# Kanten-Gewichtung für den Edge-Bonus (Basis)
|
# Kanten-Gewichtung für den Edge-Bonus (Basis)
|
||||||
edge_weights:
|
edge_weights:
|
||||||
|
|||||||
@@ -19,14 +19,31 @@ context: "Installationsanleitung, Systemd-Units und Wartungsprozesse für Mindne
|
|||||||
### 1.2 Qdrant (Docker)
|
### 1.2 Qdrant (Docker)
|
||||||
Startet die Vektor-DB mit persistentem Storage auf Port 6333.
|
Startet die Vektor-DB mit persistentem Storage auf Port 6333.
|
||||||
|
|
||||||
|
dockercompose.yaml
|
||||||
```bash
|
```bash
|
||||||
docker run -d \
|
services:
|
||||||
--name mindnet_qdrant \
|
qdrant:
|
||||||
--restart always \
|
image: qdrant/qdrant
|
||||||
-p 6333:6333 \
|
container_name: qdrant
|
||||||
-v $(pwd)/qdrant_storage:/qdrant/storage \
|
ports:
|
||||||
qdrant/qdrant
|
- "6333:6333"
|
||||||
|
volumes:
|
||||||
|
- ./qdrant_data:/qdrant/storage
|
||||||
|
|
||||||
|
ulimits:
|
||||||
|
nofile:
|
||||||
|
soft: 65535
|
||||||
|
hard: 65535
|
||||||
|
restart: unless-stopped
|
||||||
|
|
||||||
```
|
```
|
||||||
|
```bash
|
||||||
|
docker compose up -d
|
||||||
|
```
|
||||||
|
|
||||||
|
|
||||||
|
Um Abstürze der Vektordatenbank bei einer hohen Anzahl an Collections (z. B. durch viele Notiz-Typen oder Dev-Umgebungen) zu vermeiden, müssen die System-Limits für den Container angepasst werden.
|
||||||
|
Hintergrund: Qdrant öffnet für jedes Segment einer Collection mehrere Dateien. Ohne diese Erhöhung führt das Standard-Linux-Limit (1024) zum Absturz mit dem Fehler os error 24 (Too many open files).
|
||||||
|
|
||||||
### 1.3 Ollama (Modelle)
|
### 1.3 Ollama (Modelle)
|
||||||
**Wichtig:** Seit v2.4 ist `nomic-embed-text` Pflicht für Embeddings.
|
**Wichtig:** Seit v2.4 ist `nomic-embed-text` Pflicht für Embeddings.
|
||||||
@@ -114,30 +131,131 @@ Administratoren sollten regelmäßig das Log für unbekannte Kanten-Typen prüfe
|
|||||||
|
|
||||||
### 3.3 Troubleshooting Guide
|
### 3.3 Troubleshooting Guide
|
||||||
|
|
||||||
|
Dieser Abschnitt hilft bei häufigen Problemen und deren Lösung.
|
||||||
|
|
||||||
|
#### Allgemeine Diagnose-Schritte
|
||||||
|
|
||||||
|
Bevor du spezifische Fehler behebst, führe diese Checks durch:
|
||||||
|
|
||||||
|
1. **Service-Status prüfen:**
|
||||||
|
```bash
|
||||||
|
systemctl status mindnet-prod
|
||||||
|
systemctl status mindnet-ui-prod
|
||||||
|
docker ps | grep qdrant
|
||||||
|
```
|
||||||
|
|
||||||
|
2. **Logs analysieren:**
|
||||||
|
```bash
|
||||||
|
journalctl -u mindnet-prod -n 50 --no-pager
|
||||||
|
journalctl -u mindnet-ui-prod -n 50 --no-pager
|
||||||
|
docker logs qdrant --tail 50
|
||||||
|
```
|
||||||
|
|
||||||
|
3. **API-Verfügbarkeit testen:**
|
||||||
|
```bash
|
||||||
|
curl http://localhost:8001/health
|
||||||
|
curl http://localhost:8001/query -X POST -H "Content-Type: application/json" -d '{"query": "test", "top_k": 1}'
|
||||||
|
```
|
||||||
|
|
||||||
|
#### Häufige Fehler & Lösungen
|
||||||
|
|
||||||
**Fehler: "Registry Initialization Failure" (Neu in v2.7)**
|
**Fehler: "Registry Initialization Failure" (Neu in v2.7)**
|
||||||
* **Symptom:** API startet, aber Kanten werden nicht gewichtet oder Fehlermeldung im Log.
|
* **Symptom:** API startet, aber Kanten werden nicht gewichtet oder Fehlermeldung im Log.
|
||||||
* **Lösung:** Prüfen Sie `MINDNET_VOCAB_PATH` in der `.env`. Der Pfad muss absolut sein und auf eine existierende Markdown-Tabelle zeigen.
|
* **Diagnose:** Prüfe die Logs auf `EdgeRegistry`-Fehler.
|
||||||
|
* **Lösung:**
|
||||||
|
1. Prüfe `MINDNET_VOCAB_PATH` in der `.env`. Der Pfad muss absolut sein.
|
||||||
|
2. Stelle sicher, dass die Datei `01_edge_vocabulary.md` existiert und eine gültige Markdown-Tabelle enthält.
|
||||||
|
3. Prüfe Dateiberechtigungen: `ls -l $MINDNET_VOCAB_PATH`
|
||||||
|
|
||||||
**Fehler: "ModuleNotFoundError: No module named 'st_cytoscape'"**
|
**Fehler: "ModuleNotFoundError: No module named 'st_cytoscape'"**
|
||||||
* Ursache: Alte Dependencies oder falsches Paket installiert.
|
* **Ursache:** Alte Dependencies oder falsches Paket installiert.
|
||||||
* Lösung: Environment aktualisieren.
|
* **Lösung:** Environment aktualisieren.
|
||||||
```bash
|
```bash
|
||||||
source .venv/bin/activate
|
source .venv/bin/activate
|
||||||
pip uninstall streamlit-cytoscapejs
|
pip uninstall streamlit-cytoscapejs
|
||||||
pip install st-cytoscape
|
pip install st-cytoscape
|
||||||
|
pip install -r requirements.txt # Vollständige Synchronisation
|
||||||
```
|
```
|
||||||
|
|
||||||
**Fehler: "Vector dimension error: expected 768, got 384"**
|
**Fehler: "Vector dimension error: expected 768, got 384"**
|
||||||
* Ursache: Alte DB (v2.2), neues Modell (v2.4).
|
* **Ursache:** Alte DB (v2.2), neues Modell (v2.4) oder falsches Embedding-Modell.
|
||||||
* Lösung: **Full Reset** (siehe Kap. 4.2).
|
* **Diagnose:** Prüfe die Collection-Konfiguration in Qdrant.
|
||||||
|
* **Lösung:** **Full Reset** (siehe Kap. 4.2) oder Collection neu erstellen:
|
||||||
|
```bash
|
||||||
|
python3 -m scripts.reset_qdrant --mode wipe --prefix mindnet --yes
|
||||||
|
python3 -m scripts.import_markdown --vault ./vault --prefix mindnet --apply --force
|
||||||
|
```
|
||||||
|
|
||||||
**Fehler: Import sehr langsam**
|
**Fehler: Import sehr langsam**
|
||||||
* Ursache: Smart Edges sind aktiv und analysieren jeden Chunk.
|
* **Ursache:** Smart Edges sind aktiv und analysieren jeden Chunk mit LLM-Calls.
|
||||||
* Lösung: `MINDNET_LLM_BACKGROUND_LIMIT` prüfen oder Feature in `types.yaml` deaktivieren.
|
* **Diagnose:** Prüfe `MINDNET_LLM_BACKGROUND_LIMIT` und LLM-Provider-Status.
|
||||||
|
* **Lösung:**
|
||||||
|
1. Erhöhe `MINDNET_LLM_BACKGROUND_LIMIT` in `.env` (Standard: 2)
|
||||||
|
2. Oder deaktiviere Smart Edges temporär in `types.yaml` für bestimmte Typen
|
||||||
|
3. Prüfe, ob Ollama/Cloud-Provider erreichbar ist
|
||||||
|
|
||||||
**Fehler: UI "Read timed out"**
|
**Fehler: UI "Read timed out"**
|
||||||
* Ursache: Backend braucht für Smart Edges länger als 60s.
|
* **Ursache:** Backend braucht für Smart Edges länger als das Timeout-Limit.
|
||||||
* Lösung: `MINDNET_API_TIMEOUT=300.0` in `.env` setzen (oder im Systemd Service).
|
* **Diagnose:** Prüfe Backend-Logs auf langsame LLM-Calls.
|
||||||
|
* **Lösung:**
|
||||||
|
1. Erhöhe `MINDNET_API_TIMEOUT=300.0` in `.env` (oder im Systemd Service)
|
||||||
|
2. Prüfe `MINDNET_LLM_TIMEOUT` für einzelne LLM-Requests
|
||||||
|
3. Erwäge, Smart Edges für große Imports zu deaktivieren
|
||||||
|
|
||||||
|
**Fehler: "Qdrant connection refused"**
|
||||||
|
* **Ursache:** Qdrant-Container läuft nicht oder falsche URL.
|
||||||
|
* **Lösung:**
|
||||||
|
```bash
|
||||||
|
docker ps | grep qdrant # Prüfe Container-Status
|
||||||
|
docker start qdrant # Starte Container falls gestoppt
|
||||||
|
docker logs qdrant # Prüfe Container-Logs
|
||||||
|
# Prüfe QDRANT_URL in .env
|
||||||
|
```
|
||||||
|
|
||||||
|
**Fehler: "Ollama model not found"**
|
||||||
|
* **Ursache:** Modell nicht geladen oder falscher Modellname.
|
||||||
|
* **Lösung:**
|
||||||
|
```bash
|
||||||
|
ollama list # Zeige geladene Modelle
|
||||||
|
ollama pull phi3:mini # Lade fehlendes Modell
|
||||||
|
ollama pull nomic-embed-text
|
||||||
|
# Prüfe MINDNET_LLM_MODEL und MINDNET_EMBEDDING_MODEL in .env
|
||||||
|
```
|
||||||
|
|
||||||
|
**Fehler: "Too many open files" (Qdrant)**
|
||||||
|
* **Ursache:** System-Limit für offene Dateien zu niedrig (besonders bei vielen Collections).
|
||||||
|
* **Lösung:** Erhöhe `ulimits` im Docker-Compose (siehe Kap. 1.2) oder systemweit:
|
||||||
|
```bash
|
||||||
|
# Temporär
|
||||||
|
ulimit -n 65535
|
||||||
|
# Permanently: /etc/security/limits.conf
|
||||||
|
```
|
||||||
|
|
||||||
|
**Fehler: "Unknown edge type" in Logs**
|
||||||
|
* **Ursache:** Neue Kanten-Typen im Vault, die nicht in `edge_vocabulary.md` definiert sind.
|
||||||
|
* **Diagnose:** Prüfe `data/logs/unknown_edges.jsonl`.
|
||||||
|
* **Lösung:**
|
||||||
|
1. Füge fehlende Typen als Aliase in `01_edge_vocabulary.md` hinzu
|
||||||
|
2. Oder verwende kanonische Typen aus der Registry
|
||||||
|
|
||||||
|
#### Performance-Optimierung
|
||||||
|
|
||||||
|
**Problem: Langsame Chat-Antworten**
|
||||||
|
* Prüfe LLM-Provider (Cloud vs. lokal)
|
||||||
|
* Reduziere `top_k` in Query-Requests
|
||||||
|
* Prüfe Qdrant-Performance (Anzahl Collections, Index-Größe)
|
||||||
|
|
||||||
|
**Problem: Hoher Speicherverbrauch**
|
||||||
|
* Reduziere `MINDNET_LLM_BACKGROUND_LIMIT`
|
||||||
|
* Prüfe Qdrant-Speicherverbrauch: `docker stats qdrant`
|
||||||
|
* Erwäge, alte Collections zu archivieren
|
||||||
|
|
||||||
|
#### Weitere Hilfe
|
||||||
|
|
||||||
|
Für detaillierte Informationen zu:
|
||||||
|
- **Server-Betrieb:** Siehe [Server Operations Manual](04_server_operation_manual.md)
|
||||||
|
- **Entwicklung:** Siehe [Developer Guide](../05_Development/05_developer_guide.md#10-troubleshooting--one-liners)
|
||||||
|
- **Konfiguration:** Siehe [Configuration Reference](../03_Technical_References/03_tech_configuration.md)
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
|
|||||||
@@ -0,0 +1,474 @@
|
|||||||
|
---
|
||||||
|
doc_type: operations_manual
|
||||||
|
audience: devops, deployment_engineer
|
||||||
|
scope: deployment, ci_cd, rollout, versioning
|
||||||
|
status: active
|
||||||
|
version: 2.9.1
|
||||||
|
context: "Vollständiger Deployment-Guide für Mindnet: CI/CD, Rollout-Strategien, Versionierung und Rollback."
|
||||||
|
---
|
||||||
|
|
||||||
|
# Deployment Guide
|
||||||
|
|
||||||
|
Dieses Dokument beschreibt die Deployment-Prozesse, CI/CD-Pipelines und Rollout-Strategien für Mindnet.
|
||||||
|
|
||||||
|
## 1. Deployment-Architektur
|
||||||
|
|
||||||
|
Mindnet läuft in einer **Multi-Environment-Architektur**:
|
||||||
|
|
||||||
|
| Environment | Ports | Zweck | User |
|
||||||
|
| :--- | :--- | :--- | :--- |
|
||||||
|
| **Production** | 8001 (API), 8501 (UI) | Live-System | `llmadmin` |
|
||||||
|
| **Development** | 8002 (API), 8502 (UI) | Test & Entwicklung | `llmadmin` |
|
||||||
|
|
||||||
|
**Wichtig:** Beide Environments teilen sich die gleiche Qdrant-Instanz, nutzen aber unterschiedliche Collection-Prefixes.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Deployment-Methoden
|
||||||
|
|
||||||
|
### 2.1 Automatisches Deployment (CI/CD)
|
||||||
|
|
||||||
|
**Tool:** Gitea Actions (`.gitea/workflows/deploy.yml`)
|
||||||
|
|
||||||
|
**Trigger:** Push auf `main` Branch
|
||||||
|
|
||||||
|
**Prozess:**
|
||||||
|
1. **Checkout:** Code wird ausgecheckt
|
||||||
|
2. **Stop API:** Graceful Stop des API-Services
|
||||||
|
3. **Deploy:** Rsync der whitelisted Verzeichnisse
|
||||||
|
4. **Dependencies:** Python venv & requirements aktualisieren
|
||||||
|
5. **Restart:** API-Service neu starten
|
||||||
|
|
||||||
|
**Deployierte Verzeichnisse:**
|
||||||
|
- `app/` - Backend-Code
|
||||||
|
- `scripts/` - Admin-Tools
|
||||||
|
- `config/` - Konfigurationsdateien
|
||||||
|
- `tests/` - Test-Suite
|
||||||
|
- `requirements.txt` - Dependencies
|
||||||
|
|
||||||
|
**Ausgeschlossen:**
|
||||||
|
- `.env*` - Umgebungsvariablen (bleiben auf Server)
|
||||||
|
- `.venv` - Virtuelle Umgebung (wird neu erstellt)
|
||||||
|
- `vault/` - Content (bleibt auf Server)
|
||||||
|
|
||||||
|
### 2.2 Manuelles Deployment
|
||||||
|
|
||||||
|
**Für:** Hotfixes, manuelle Rollouts, Debugging
|
||||||
|
|
||||||
|
**Prozess:**
|
||||||
|
```bash
|
||||||
|
# 1. Auf Server einloggen
|
||||||
|
ssh llmadmin@llm-node
|
||||||
|
|
||||||
|
# 2. In Produktions-Verzeichnis wechseln
|
||||||
|
cd ~/mindnet
|
||||||
|
|
||||||
|
# 3. Code aktualisieren
|
||||||
|
git fetch origin
|
||||||
|
git checkout main
|
||||||
|
git pull origin main
|
||||||
|
|
||||||
|
# 4. Dependencies aktualisieren
|
||||||
|
source .venv/bin/activate
|
||||||
|
pip install -r requirements.txt
|
||||||
|
|
||||||
|
# 5. Services neu starten
|
||||||
|
sudo systemctl restart mindnet-prod
|
||||||
|
sudo systemctl restart mindnet-ui-prod
|
||||||
|
|
||||||
|
# 6. Status prüfen
|
||||||
|
sudo systemctl status mindnet-prod
|
||||||
|
sudo systemctl status mindnet-ui-prod
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Systemd Services
|
||||||
|
|
||||||
|
### 3.1 Backend Service (API)
|
||||||
|
|
||||||
|
**Datei:** `/etc/systemd/system/mindnet-prod.service`
|
||||||
|
|
||||||
|
```ini
|
||||||
|
[Unit]
|
||||||
|
Description=Mindnet API Prod (8001)
|
||||||
|
After=network.target
|
||||||
|
|
||||||
|
[Service]
|
||||||
|
User=llmadmin
|
||||||
|
Group=llmadmin
|
||||||
|
WorkingDirectory=/home/llmadmin/mindnet
|
||||||
|
ExecStart=/home/llmadmin/mindnet/.venv/bin/uvicorn app.main:app --host 0.0.0.0 --port 8001 --env-file .env
|
||||||
|
Restart=always
|
||||||
|
RestartSec=5
|
||||||
|
Environment="MINDNET_VOCAB_PATH=/home/llmadmin/mindnet/vault/_system/dictionary/edge_vocabulary.md"
|
||||||
|
|
||||||
|
[Install]
|
||||||
|
WantedBy=multi-user.target
|
||||||
|
```
|
||||||
|
|
||||||
|
**Wichtig:**
|
||||||
|
- `--env-file .env` lädt Umgebungsvariablen
|
||||||
|
- `MINDNET_VOCAB_PATH` muss absolut sein (für Edge Registry)
|
||||||
|
|
||||||
|
### 3.2 Frontend Service (UI)
|
||||||
|
|
||||||
|
**Datei:** `/etc/systemd/system/mindnet-ui-prod.service`
|
||||||
|
|
||||||
|
```ini
|
||||||
|
[Unit]
|
||||||
|
Description=Mindnet UI Prod (8501)
|
||||||
|
After=mindnet-prod.service
|
||||||
|
|
||||||
|
[Service]
|
||||||
|
User=llmadmin
|
||||||
|
Group=llmadmin
|
||||||
|
WorkingDirectory=/home/llmadmin/mindnet
|
||||||
|
Environment="MINDNET_API_URL=http://localhost:8001"
|
||||||
|
Environment="MINDNET_API_TIMEOUT=300"
|
||||||
|
Environment="STREAMLIT_SERVER_PORT=8501"
|
||||||
|
Environment="STREAMLIT_SERVER_ADDRESS=0.0.0.0"
|
||||||
|
Environment="STREAMLIT_SERVER_HEADLESS=true"
|
||||||
|
ExecStart=/home/llmadmin/mindnet/.venv/bin/streamlit run app/frontend/ui.py
|
||||||
|
Restart=always
|
||||||
|
RestartSec=5
|
||||||
|
|
||||||
|
[Install]
|
||||||
|
WantedBy=multi-user.target
|
||||||
|
```
|
||||||
|
|
||||||
|
### 3.3 Service-Management
|
||||||
|
|
||||||
|
**Befehle:**
|
||||||
|
```bash
|
||||||
|
# Status prüfen
|
||||||
|
sudo systemctl status mindnet-prod
|
||||||
|
sudo systemctl status mindnet-ui-prod
|
||||||
|
|
||||||
|
# Starten
|
||||||
|
sudo systemctl start mindnet-prod
|
||||||
|
sudo systemctl start mindnet-ui-prod
|
||||||
|
|
||||||
|
# Stoppen
|
||||||
|
sudo systemctl stop mindnet-prod
|
||||||
|
sudo systemctl stop mindnet-ui-prod
|
||||||
|
|
||||||
|
# Neustart
|
||||||
|
sudo systemctl restart mindnet-prod
|
||||||
|
sudo systemctl restart mindnet-ui-prod
|
||||||
|
|
||||||
|
# Logs anzeigen
|
||||||
|
sudo journalctl -u mindnet-prod -f
|
||||||
|
sudo journalctl -u mindnet-ui-prod -f
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Rollout-Strategien
|
||||||
|
|
||||||
|
### 4.1 Blue-Green Deployment (Empfohlen)
|
||||||
|
|
||||||
|
**Konzept:** Zwei identische Environments, Switch zwischen ihnen.
|
||||||
|
|
||||||
|
**Aktuell:** Prod/Dev als Blue-Green Setup
|
||||||
|
|
||||||
|
**Vorgehen:**
|
||||||
|
1. Deploy auf Dev (Port 8002/8502)
|
||||||
|
2. Tests auf Dev durchführen
|
||||||
|
3. Wenn erfolgreich: Deploy auf Prod (Port 8001/8501)
|
||||||
|
4. Switch erfolgt durch Service-Restart
|
||||||
|
|
||||||
|
**Vorteile:**
|
||||||
|
- Schneller Rollback (alte Version läuft noch)
|
||||||
|
- Keine Downtime
|
||||||
|
- Test vor Produktion
|
||||||
|
|
||||||
|
### 4.2 Canary Deployment (Zukünftig)
|
||||||
|
|
||||||
|
**Konzept:** Schrittweise Rollout an einen Teil der Nutzer.
|
||||||
|
|
||||||
|
**Umsetzung:**
|
||||||
|
- Load Balancer mit Traffic-Splitting
|
||||||
|
- Monitoring der Fehlerrate
|
||||||
|
- Automatischer Rollback bei Fehlern
|
||||||
|
|
||||||
|
**Status:** Noch nicht implementiert (Single-User-Szenario)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Versionierung & Releases
|
||||||
|
|
||||||
|
### 5.1 Version-Schema
|
||||||
|
|
||||||
|
**Format:** `v2.9.1`
|
||||||
|
|
||||||
|
- **Major (2):** Breaking Changes
|
||||||
|
- **Minor (9):** Neue Features, Backward Compatible
|
||||||
|
- **Patch (1):** Bugfixes, kleine Verbesserungen
|
||||||
|
|
||||||
|
### 5.2 Release-Prozess
|
||||||
|
|
||||||
|
**1. Feature-Entwicklung:**
|
||||||
|
```bash
|
||||||
|
git checkout -b feature/neue-funktion
|
||||||
|
# ... Entwicklung ...
|
||||||
|
git push origin feature/neue-funktion
|
||||||
|
```
|
||||||
|
|
||||||
|
**2. Testing:**
|
||||||
|
- Unit Tests
|
||||||
|
- Integration Tests
|
||||||
|
- Smoke Tests auf Dev
|
||||||
|
|
||||||
|
**3. Merge:**
|
||||||
|
```bash
|
||||||
|
# Pull Request in Gitea
|
||||||
|
# Review & Merge nach main
|
||||||
|
```
|
||||||
|
|
||||||
|
**4. Deployment:**
|
||||||
|
- Automatisch via CI/CD (bei Push auf main)
|
||||||
|
- Oder manuell (siehe 2.2)
|
||||||
|
|
||||||
|
**5. Tagging (Optional):**
|
||||||
|
```bash
|
||||||
|
git tag -a v2.9.2 -m "Release v2.9.2: Neue Funktion X"
|
||||||
|
git push origin v2.9.2
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Rollback-Strategien
|
||||||
|
|
||||||
|
### 6.1 Code-Rollback
|
||||||
|
|
||||||
|
**Methode 1: Git Revert**
|
||||||
|
```bash
|
||||||
|
cd ~/mindnet
|
||||||
|
git log --oneline -10 # Finde letzten guten Commit
|
||||||
|
git checkout <commit-hash>
|
||||||
|
sudo systemctl restart mindnet-prod
|
||||||
|
```
|
||||||
|
|
||||||
|
**Methode 2: Git Reset (Vorsicht!)**
|
||||||
|
```bash
|
||||||
|
cd ~/mindnet
|
||||||
|
git reset --hard <commit-hash>
|
||||||
|
sudo systemctl restart mindnet-prod
|
||||||
|
```
|
||||||
|
|
||||||
|
### 6.2 Datenbank-Rollback
|
||||||
|
|
||||||
|
**Problem:** Code-Rollback hilft nicht bei Schema-Änderungen.
|
||||||
|
|
||||||
|
**Lösung:**
|
||||||
|
- **Qdrant-Snapshots:** Regelmäßige Backups (siehe [Server Operations Manual](04_server_operation_manual.md))
|
||||||
|
- **Collection-Versionierung:** Separate Collections pro Version (nicht empfohlen)
|
||||||
|
|
||||||
|
**Vorgehen bei Schema-Änderung:**
|
||||||
|
1. Snapshot vor Deployment erstellen
|
||||||
|
2. Deployment durchführen
|
||||||
|
3. Bei Problemen: Snapshot wiederherstellen
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7. Pre-Deployment Checkliste
|
||||||
|
|
||||||
|
Vor jedem Deployment sollten folgende Punkte geprüft werden:
|
||||||
|
|
||||||
|
- [ ] **Code-Qualität:**
|
||||||
|
- [ ] Unit Tests bestehen
|
||||||
|
- [ ] Integration Tests bestehen
|
||||||
|
- [ ] Linting bestanden
|
||||||
|
|
||||||
|
- [ ] **Dependencies:**
|
||||||
|
- [ ] `requirements.txt` aktualisiert
|
||||||
|
- [ ] Neue Dependencies dokumentiert
|
||||||
|
- [ ] Breaking Changes in Dependencies geprüft
|
||||||
|
|
||||||
|
- [ ] **Konfiguration:**
|
||||||
|
- [ ] `.env` Variablen dokumentiert (falls neu)
|
||||||
|
- [ ] Config-Dateien (`types.yaml`, etc.) kompatibel
|
||||||
|
- [ ] Edge Registry Pfad korrekt
|
||||||
|
|
||||||
|
- [ ] **Datenbank:**
|
||||||
|
- [ ] Schema-Änderungen dokumentiert
|
||||||
|
- [ ] Migration-Skripte vorhanden (falls nötig)
|
||||||
|
- [ ] Backup erstellt
|
||||||
|
|
||||||
|
- [ ] **Dokumentation:**
|
||||||
|
- [ ] Changelog aktualisiert
|
||||||
|
- [ ] Dokumentation synchronisiert
|
||||||
|
- [ ] Breaking Changes dokumentiert
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 8. Post-Deployment Validierung
|
||||||
|
|
||||||
|
Nach jedem Deployment sollten folgende Checks durchgeführt werden:
|
||||||
|
|
||||||
|
### 8.1 Service-Status
|
||||||
|
|
||||||
|
```bash
|
||||||
|
# Services laufen
|
||||||
|
sudo systemctl status mindnet-prod
|
||||||
|
sudo systemctl status mindnet-ui-prod
|
||||||
|
|
||||||
|
# Health Check
|
||||||
|
curl http://localhost:8001/healthz
|
||||||
|
```
|
||||||
|
|
||||||
|
### 8.2 Funktionalität
|
||||||
|
|
||||||
|
```bash
|
||||||
|
# API-Test
|
||||||
|
curl -X POST http://localhost:8001/query \
|
||||||
|
-H "Content-Type: application/json" \
|
||||||
|
-d '{"query": "test", "top_k": 1}'
|
||||||
|
|
||||||
|
# UI-Test (Manuell)
|
||||||
|
# Öffne http://localhost:8501 im Browser
|
||||||
|
```
|
||||||
|
|
||||||
|
### 8.3 Logs prüfen
|
||||||
|
|
||||||
|
```bash
|
||||||
|
# Fehler in Logs
|
||||||
|
sudo journalctl -u mindnet-prod --since "5 minutes ago" | grep -i error
|
||||||
|
|
||||||
|
# Warnings
|
||||||
|
sudo journalctl -u mindnet-prod --since "5 minutes ago" | grep -i warning
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 9. CI/CD Pipeline Details
|
||||||
|
|
||||||
|
### 9.1 Gitea Actions Workflow
|
||||||
|
|
||||||
|
**Datei:** `.gitea/workflows/deploy.yml`
|
||||||
|
|
||||||
|
**Trigger:**
|
||||||
|
- Push auf `main` Branch
|
||||||
|
- Concurrency: Nur ein Deployment gleichzeitig
|
||||||
|
|
||||||
|
**Schritte:**
|
||||||
|
1. **Checkout:** Code aus Repository
|
||||||
|
2. **Stop API:** Graceful Stop (continue-on-error)
|
||||||
|
3. **Deploy:** Rsync der Verzeichnisse
|
||||||
|
4. **Python Setup:** Venv & Requirements
|
||||||
|
5. **Start API:** Service neu starten
|
||||||
|
|
||||||
|
**Wichtig:**
|
||||||
|
- `.env` wird **nicht** deployed (bleibt auf Server)
|
||||||
|
- Vault wird **nicht** deployed (bleibt auf Server)
|
||||||
|
|
||||||
|
### 9.2 Deployment-Verzeichnisse
|
||||||
|
|
||||||
|
**Whitelist:**
|
||||||
|
```
|
||||||
|
app scripts schemas docker tests config requirements.txt README.md
|
||||||
|
```
|
||||||
|
|
||||||
|
**Excluded:**
|
||||||
|
- `.git/`
|
||||||
|
- `.env*`
|
||||||
|
- `.venv/`
|
||||||
|
- `vault/`
|
||||||
|
- `hf_cache/`
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 10. Monitoring & Alerting
|
||||||
|
|
||||||
|
### 10.1 Health Checks
|
||||||
|
|
||||||
|
**API Health Endpoint:**
|
||||||
|
```bash
|
||||||
|
curl http://localhost:8001/healthz
|
||||||
|
```
|
||||||
|
|
||||||
|
**Response:**
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"status": "ok",
|
||||||
|
"qdrant": "http://localhost:6333",
|
||||||
|
"prefix": "mindnet"
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
**Monitoring-Script:**
|
||||||
|
```bash
|
||||||
|
python3 -m scripts.health_check_mindnet --url http://localhost:8001 --strict
|
||||||
|
```
|
||||||
|
|
||||||
|
### 10.2 Log-Monitoring
|
||||||
|
|
||||||
|
**Systemd Journal:**
|
||||||
|
```bash
|
||||||
|
# Live-Logs
|
||||||
|
sudo journalctl -u mindnet-prod -f
|
||||||
|
|
||||||
|
# Letzte 100 Zeilen
|
||||||
|
sudo journalctl -u mindnet-prod -n 100
|
||||||
|
|
||||||
|
# Seit gestern
|
||||||
|
sudo journalctl -u mindnet-prod --since "yesterday"
|
||||||
|
```
|
||||||
|
|
||||||
|
### 10.3 Metriken (Zukünftig)
|
||||||
|
|
||||||
|
**Geplante Metriken:**
|
||||||
|
- Request-Rate
|
||||||
|
- Response-Zeiten
|
||||||
|
- Fehler-Rate
|
||||||
|
- LLM-Call-Dauer
|
||||||
|
- Qdrant-Performance
|
||||||
|
|
||||||
|
**Tools:** Prometheus + Grafana (noch nicht implementiert)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 11. Disaster Recovery
|
||||||
|
|
||||||
|
Siehe [Server Operations Manual](04_server_operation_manual.md#5-disaster-recovery-wiederherstellung-two-stage-dr) für detaillierte Disaster-Recovery-Prozeduren.
|
||||||
|
|
||||||
|
**Kurzfassung:**
|
||||||
|
1. **Stage 1:** Basis-Image Restore (Bare Metal)
|
||||||
|
2. **Stage 2:** Daten-Update via Borgmatic
|
||||||
|
3. **Dienste:** Gitea, Qdrant, Ollama spezifisch wiederherstellen
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 12. Best Practices
|
||||||
|
|
||||||
|
### 12.1 Deployment-Zeiten
|
||||||
|
|
||||||
|
- **Produktion:** Während Wartungsfenstern (nachts, Wochenenden)
|
||||||
|
- **Development:** Jederzeit (ist Test-Umgebung)
|
||||||
|
|
||||||
|
### 12.2 Kommunikation
|
||||||
|
|
||||||
|
- **Breaking Changes:** Vorher ankündigen
|
||||||
|
- **Downtime:** Bei größeren Deployments kommunizieren
|
||||||
|
- **Rollback-Plan:** Immer bereit haben
|
||||||
|
|
||||||
|
### 12.3 Testing
|
||||||
|
|
||||||
|
- **Immer zuerst auf Dev testen**
|
||||||
|
- **Smoke Tests nach Deployment**
|
||||||
|
- **Monitoring für erste Stunden nach Deployment**
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 13. Weitere Informationen
|
||||||
|
|
||||||
|
- **Admin Operations:** Siehe [Admin Operations Guide](04_admin_operations.md)
|
||||||
|
- **Server Operations:** Siehe [Server Operations Manual](04_server_operation_manual.md)
|
||||||
|
- **Troubleshooting:** Siehe [Admin Operations - Troubleshooting](04_admin_operations.md#33-troubleshooting-guide)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
**Letzte Aktualisierung:** 2025-01-XX
|
||||||
|
**Version:** 2.9.1
|
||||||
|
|
||||||
@@ -1,10 +1,10 @@
|
|||||||
---
|
---
|
||||||
doc_type: developer_guide
|
doc_type: developer_guide
|
||||||
audience: developer
|
audience: developer
|
||||||
scope: workflow, testing, architecture, modules
|
scope: workflow, testing, architecture, modules, modularization
|
||||||
status: active
|
status: active
|
||||||
version: 2.6.1
|
version: 2.9.1
|
||||||
context: "Umfassender Guide für Entwickler: Architektur, Modul-Interna (Deep Dive), Setup, Git-Workflow und Erweiterungs-Anleitungen."
|
context: "Umfassender Guide für Entwickler: Modularisierte Architektur (WP-14), Two-Pass Ingestion (WP-15b), Modul-Interna, Setup und Git-Workflow."
|
||||||
---
|
---
|
||||||
|
|
||||||
# Mindnet Developer Guide & Workflow
|
# Mindnet Developer Guide & Workflow
|
||||||
@@ -23,8 +23,6 @@ Dieser Guide ist die zentrale technische Referenz für Mindnet v2.6. Er vereint
|
|||||||
- [Kern-Philosophie](#kern-philosophie)
|
- [Kern-Philosophie](#kern-philosophie)
|
||||||
- [2. Architektur](#2-architektur)
|
- [2. Architektur](#2-architektur)
|
||||||
- [2.1 High-Level Übersicht](#21-high-level-übersicht)
|
- [2.1 High-Level Übersicht](#21-high-level-übersicht)
|
||||||
- [2.2 Datenfluss-Muster](#22-datenfluss-muster)
|
|
||||||
- [A. Ingestion (Write)](#a-ingestion-write)
|
|
||||||
- [B. Retrieval (Read)](#b-retrieval-read)
|
- [B. Retrieval (Read)](#b-retrieval-read)
|
||||||
- [C. Visualisierung (Graph)](#c-visualisierung-graph)
|
- [C. Visualisierung (Graph)](#c-visualisierung-graph)
|
||||||
- [3. Physische Architektur](#3-physische-architektur)
|
- [3. Physische Architektur](#3-physische-architektur)
|
||||||
@@ -84,23 +82,28 @@ graph TD
|
|||||||
API["main.py"]
|
API["main.py"]
|
||||||
RouterChat["Chat / RAG"]
|
RouterChat["Chat / RAG"]
|
||||||
RouterIngest["Ingest / Write"]
|
RouterIngest["Ingest / Write"]
|
||||||
CoreRet["Retriever Engine"]
|
|
||||||
CoreIngest["Ingestion Pipeline"]
|
subgraph "Core Packages (WP-14)"
|
||||||
|
PkgRet["retrieval/ (Search)"]
|
||||||
|
PkgIng["ingestion/ (Import)"]
|
||||||
|
PkgGra["graph/ (Logic)"]
|
||||||
|
PkgDb["database/ (Infrastr.)"]
|
||||||
|
Registry["registry.py (Neutral)"]
|
||||||
|
end
|
||||||
end
|
end
|
||||||
|
|
||||||
subgraph "Infrastructure & Services"
|
subgraph "Infrastructure & Services"
|
||||||
LLM["Ollama (Phi3/Nomic)"]
|
LLM["Ollama / Cloud (Hybrid)"]
|
||||||
DB[("Qdrant Vector DB")]
|
DB[("Qdrant Vector DB")]
|
||||||
FS["File System (.md)"]
|
FS["File System (.md)"]
|
||||||
end
|
end
|
||||||
|
|
||||||
User <--> UI
|
User <--> UI
|
||||||
UI -- "REST (Chat, Save, Feedback)" --> API
|
UI -- "REST Call" --> API
|
||||||
UI -. "Direct Read (Graph Viz Performance)" .-> DB
|
PkgRet -- "Direct Query" --> PkgDb
|
||||||
API -- "Embeddings & Completion" --> LLM
|
PkgIng -- "Process & Write" --> PkgDb
|
||||||
API -- "Read/Write" --> DB
|
PkgDb -- "API" --> DB
|
||||||
API -- "Read/Write (Source of Truth)" --> FS
|
API -- "Inference" --> LLM```
|
||||||
```
|
|
||||||
|
|
||||||
### 2.2 Datenfluss-Muster
|
### 2.2 Datenfluss-Muster
|
||||||
|
|
||||||
@@ -108,14 +111,12 @@ graph TD
|
|||||||
Vom Markdown zur Vektor-Datenbank.
|
Vom Markdown zur Vektor-Datenbank.
|
||||||
```mermaid
|
```mermaid
|
||||||
graph LR
|
graph LR
|
||||||
MD["Markdown File"] --> Parser("Parser")
|
MD["Markdown File"] --> Pass1["Pass 1: Pre-Scan"]
|
||||||
Parser --> Chunker("Chunker")
|
Pass1 --> Cache[("LocalBatchCache<br/>(Titles/Summaries)")]
|
||||||
Chunker -- "Text Chunks" --> SemAn{"SemanticAnalyzer<br/>(LLM)"}
|
MD --> Pass2["Pass 2: Processing"]
|
||||||
SemAn -- "Smart Edges" --> Embedder("Embedder")
|
Cache -- "Context" --> SmartEdges{"Smart Edge<br/>Validation"}
|
||||||
Embedder --> DB[("Qdrant<br/>Points")]
|
SmartEdges --> Embedder("Embedder")
|
||||||
|
Embedder --> DB[("Qdrant Points")]
|
||||||
style DB fill:#f9f,stroke:#333,stroke-width:2px
|
|
||||||
style SemAn fill:#ff9,stroke:#333,stroke-width:2px
|
|
||||||
```
|
```
|
||||||
|
|
||||||
#### B. Retrieval (Read)
|
#### B. Retrieval (Read)
|
||||||
@@ -123,17 +124,10 @@ Die hybride Suche für Chat & RAG.
|
|||||||
```mermaid
|
```mermaid
|
||||||
graph LR
|
graph LR
|
||||||
Query(["Query"]) --> Embed("Embedding")
|
Query(["Query"]) --> Embed("Embedding")
|
||||||
Embed --> Hybrid{"Hybrid Search"}
|
Embed --> Seed["Seed Search (Vector)"]
|
||||||
|
Seed --> Expand{"Graph Expansion"}
|
||||||
subgraph Search Components
|
Expand --> Scoring["Scoring Engine (WP-22)"]
|
||||||
Vec["Vector Score"]
|
Scoring --> Rank("Final Ranking")
|
||||||
Graph["Graph/Edge Bonus"]
|
|
||||||
end
|
|
||||||
|
|
||||||
Vec --> Hybrid
|
|
||||||
Graph --> Hybrid
|
|
||||||
|
|
||||||
Hybrid --> Rank("Re-Ranking")
|
|
||||||
Rank --> Ctx["LLM Context"]
|
Rank --> Ctx["LLM Context"]
|
||||||
```
|
```
|
||||||
|
|
||||||
@@ -170,6 +164,12 @@ Das System ist modular aufgebaut. Hier ist die detaillierte Analyse aller Kompon
|
|||||||
mindnet/
|
mindnet/
|
||||||
├── app/
|
├── app/
|
||||||
│ ├── core/ # Business Logic & Algorithms
|
│ ├── core/ # Business Logic & Algorithms
|
||||||
|
│ │ ├── database/ # WP-14: Qdrant Client & Point Mapping
|
||||||
|
│ │ ├── ingestion/ # WP-14: Pipeline, Multi-Hash, Validation
|
||||||
|
│ │ ├── retrieval/ # WP-14: Search Orchestrator & Scoring
|
||||||
|
│ │ ├── graph/ # WP-14: Subgraph-Logik & Weights
|
||||||
|
│ │ ├── registry.py # SSOT: Circular Import Fix & Text Cleanup
|
||||||
|
│ │ └── *.py (Proxy) # Legacy Bridges für Abwärtskompatibilität
|
||||||
│ ├── routers/ # API Interface (FastAPI)
|
│ ├── routers/ # API Interface (FastAPI)
|
||||||
│ ├── services/ # External Integrations (LLM, DB)
|
│ ├── services/ # External Integrations (LLM, DB)
|
||||||
│ ├── models/ # Pydantic DTOs
|
│ ├── models/ # Pydantic DTOs
|
||||||
@@ -216,6 +216,22 @@ Das Frontend ist eine Streamlit-App, die sich wie eine Single-Page-Application (
|
|||||||
|
|
||||||
Das Backend ist das Herzstück. Es stellt die Logik via REST-API bereit.
|
Das Backend ist das Herzstück. Es stellt die Logik via REST-API bereit.
|
||||||
|
|
||||||
|
**Wichtig:** Seit WP-14 ist die Core-Logik in spezialisierte Pakete unterteilt:
|
||||||
|
|
||||||
|
#### Core-Pakete (Modularisierung WP-14)
|
||||||
|
|
||||||
|
| Paket | Zweck | Wichtige Module |
|
||||||
|
| :--- | :--- | :--- |
|
||||||
|
| **`app/core/chunking/`** | Text-Segmentierung | `chunking_strategies.py` (Sliding/Heading), `chunking_processor.py` (Orchestrierung) |
|
||||||
|
| **`app/core/database/`** | Qdrant-Infrastruktur | `qdrant.py` (Client), `qdrant_points.py` (Point-Mapping) |
|
||||||
|
| **`app/core/graph/`** | Graph-Logik | `graph_subgraph.py` (Expansion), `graph_weights.py` (Scoring) |
|
||||||
|
| **`app/core/ingestion/`** | Import-Pipeline | `ingestion_processor.py` (Two-Pass), `ingestion_validation.py` (Mistral-safe Parsing) |
|
||||||
|
| **`app/core/parser/`** | Markdown-Parsing | `parsing_markdown.py` (Frontmatter/Body), `parsing_scanner.py` (File-Scan) |
|
||||||
|
| **`app/core/retrieval/`** | Suche & Scoring | `retriever.py` (Orchestrator), `retriever_scoring.py` (Mathematik) |
|
||||||
|
| **`app/core/registry.py`** | SSOT & Utilities | Text-Bereinigung, Circular-Import-Fix |
|
||||||
|
|
||||||
|
**Legacy-Bridges:** Die alten Dateien (`app/core/retriever.py`, `app/core/qdrant.py`) existieren noch als Proxy-Adapter für Abwärtskompatibilität, delegieren aber an die neuen Pakete.
|
||||||
|
|
||||||
| Layer | Datei | Status | Verantwortung |
|
| Layer | Datei | Status | Verantwortung |
|
||||||
| :--- | :--- | :--- | :--- |
|
| :--- | :--- | :--- | :--- |
|
||||||
| **Entry** | `app/main.py` | 🟢 **Core** | **Entrypoint.** Initialisiert FastAPI, CORS, und bindet alle Router ein. |
|
| **Entry** | `app/main.py` | 🟢 **Core** | **Entrypoint.** Initialisiert FastAPI, CORS, und bindet alle Router ein. |
|
||||||
@@ -285,6 +301,8 @@ Folgende Dateien wurden im Audit v2.6 als veraltet, redundant oder "Zombie-Code"
|
|||||||
| `app/core/type_registry.py` | **Redundant.** Logik in `ingestion.py` integriert. | 🗑️ Löschen |
|
| `app/core/type_registry.py` | **Redundant.** Logik in `ingestion.py` integriert. | 🗑️ Löschen |
|
||||||
| `app/core/env_vars.py` | **Veraltet.** Ersetzt durch `config.py`. | 🗑️ Löschen |
|
| `app/core/env_vars.py` | **Veraltet.** Ersetzt durch `config.py`. | 🗑️ Löschen |
|
||||||
| `app/services/llm_ollama.py` | **Veraltet.** Ersetzt durch `llm_service.py`. | 🗑️ Löschen |
|
| `app/services/llm_ollama.py` | **Veraltet.** Ersetzt durch `llm_service.py`. | 🗑️ Löschen |
|
||||||
|
| `app/core/type_registry.py` | **Redundant.** Logik in `app/core/registry.py` integriert. | 🗑️ Löschen |
|
||||||
|
| `app/core/ranking.py` | **Redundant.** Logik in `retrieval/retriever_scoring.py` integriert. | 🗑️ Löschen |
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
|
|||||||
@@ -0,0 +1,392 @@
|
|||||||
|
---
|
||||||
|
doc_type: developer_guide
|
||||||
|
audience: developer, tester
|
||||||
|
scope: testing, quality_assurance, test_strategies
|
||||||
|
status: active
|
||||||
|
version: 2.9.1
|
||||||
|
context: "Umfassender Test-Guide für Mindnet: Test-Strategien, Test-Frameworks, Test-Daten und Best Practices."
|
||||||
|
---
|
||||||
|
|
||||||
|
# Testing Guide
|
||||||
|
|
||||||
|
Dieses Dokument beschreibt die Test-Strategien, Test-Frameworks und Best Practices für die Qualitätssicherung von Mindnet.
|
||||||
|
|
||||||
|
## 1. Test-Strategie & Ebenen
|
||||||
|
|
||||||
|
Mindnet nutzt eine **dreistufige Test-Pyramide**:
|
||||||
|
|
||||||
|
```
|
||||||
|
/\
|
||||||
|
/E2E\ ← Wenige, langsame, teure Tests
|
||||||
|
/------\
|
||||||
|
/Integration\ ← Mittlere Anzahl, mittlere Geschwindigkeit
|
||||||
|
/------------\
|
||||||
|
/ Unit Tests \ ← Viele, schnelle, isolierte Tests
|
||||||
|
/----------------\
|
||||||
|
```
|
||||||
|
|
||||||
|
### 1.1 Unit Tests (Pytest)
|
||||||
|
|
||||||
|
**Zweck:** Isolierte Logik-Tests ohne externe Abhängigkeiten.
|
||||||
|
|
||||||
|
**Framework:** `pytest`
|
||||||
|
|
||||||
|
**Beispiele:**
|
||||||
|
- `tests/test_retriever_basic.py` - Scoring-Logik
|
||||||
|
- `tests/test_chunking.py` - Chunking-Strategien
|
||||||
|
- `tests/test_edges_all.py` - Edge-Logik
|
||||||
|
- `tests/test_type_registry.py` - Registry-Funktionen
|
||||||
|
|
||||||
|
**Ausführung:**
|
||||||
|
```bash
|
||||||
|
# Einzelner Test
|
||||||
|
pytest tests/test_retriever_basic.py -v
|
||||||
|
|
||||||
|
# Alle Unit Tests
|
||||||
|
pytest tests/ -k "test_" --ignore=tests/test_*_smoke.py
|
||||||
|
|
||||||
|
# Mit Coverage
|
||||||
|
pytest tests/ --cov=app --cov-report=html
|
||||||
|
```
|
||||||
|
|
||||||
|
**Best Practices:**
|
||||||
|
- Tests sollten isoliert sein (keine Abhängigkeiten zu Qdrant/Ollama)
|
||||||
|
- Mock externe Services (LLM, Qdrant)
|
||||||
|
- Schnelle Ausführung (< 1 Sekunde pro Test)
|
||||||
|
|
||||||
|
### 1.2 Integration Tests
|
||||||
|
|
||||||
|
**Zweck:** Prüfen den Datenfluss von Markdown bis Qdrant.
|
||||||
|
|
||||||
|
**Tools:**
|
||||||
|
- `scripts/payload_dryrun.py` - JSON-Schema-Konformität
|
||||||
|
- `scripts/edges_full_check.py` - Graph-Integrität
|
||||||
|
- `scripts/make_test_vault.py` - Test-Daten-Generierung
|
||||||
|
|
||||||
|
**Ausführung:**
|
||||||
|
```bash
|
||||||
|
# Payload-Validierung
|
||||||
|
python3 -m scripts.payload_dryrun --vault ./test_vault --with-edges
|
||||||
|
|
||||||
|
# Graph-Integrität
|
||||||
|
python3 -m scripts.edges_full_check
|
||||||
|
|
||||||
|
# Test-Vault erstellen
|
||||||
|
python3 -m scripts.make_test_vault --out ./test_vault --force
|
||||||
|
```
|
||||||
|
|
||||||
|
**Was wird geprüft:**
|
||||||
|
- Frontmatter-Parsing
|
||||||
|
- Chunk-Generierung
|
||||||
|
- Edge-Erstellung
|
||||||
|
- Payload-Schema-Konformität
|
||||||
|
- Graph-Invarianten (keine Dangling Edges)
|
||||||
|
|
||||||
|
### 1.3 E2E / Smoke Tests
|
||||||
|
|
||||||
|
**Zweck:** Prüfen das laufende System gegen echte Infrastruktur (Qdrant, Ollama).
|
||||||
|
|
||||||
|
**Framework:** Python `unittest` + Shell-Skripte
|
||||||
|
|
||||||
|
**Beispiele:**
|
||||||
|
- `tests/test_wp06_decision.py` - Decision Engine
|
||||||
|
- `tests/test_feedback_smoke.py` - Feedback-Loop
|
||||||
|
- `tests/test_dialog_full_flow.py` - Vollständiger Dialog-Flow
|
||||||
|
- `tests/run_e2e_roundtrip.sh` - Kompletter Roundtrip (Import → Export)
|
||||||
|
|
||||||
|
**Ausführung:**
|
||||||
|
```bash
|
||||||
|
# Decision Engine Test
|
||||||
|
python tests/test_wp06_decision.py -p 8002 -e DECISION -q "Soll ich X tun?"
|
||||||
|
|
||||||
|
# Feedback Test
|
||||||
|
python tests/test_feedback_smoke.py --url http://localhost:8002/query
|
||||||
|
|
||||||
|
# E2E Roundtrip
|
||||||
|
./tests/run_e2e_roundtrip.sh --vault ./test_vault --prefix mindnet_test
|
||||||
|
```
|
||||||
|
|
||||||
|
**Voraussetzungen:**
|
||||||
|
- Qdrant läuft auf `localhost:6333`
|
||||||
|
- Ollama läuft auf `localhost:11434`
|
||||||
|
- API läuft auf Port 8002 (Dev)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Test-Daten & Vaults
|
||||||
|
|
||||||
|
### 2.1 Test-Vault erstellen
|
||||||
|
|
||||||
|
**Tool:** `scripts/make_test_vault.py`
|
||||||
|
|
||||||
|
**Zweck:** Erstellt einen minimalen, nachvollziehbaren Test-Vault.
|
||||||
|
|
||||||
|
**Inhalt:**
|
||||||
|
- Verschiedene Note-Typen (`concept`, `experience`, `project`)
|
||||||
|
- Verschiedene Edge-Szenarien (explicit, implicit, missing links)
|
||||||
|
- Externe Links für Edge-Tests
|
||||||
|
|
||||||
|
**Verwendung:**
|
||||||
|
```bash
|
||||||
|
# Standard
|
||||||
|
python3 -m scripts.make_test_vault --out ./test_vault
|
||||||
|
|
||||||
|
# Mit fehlenden Links (für Link-Auflösungs-Tests)
|
||||||
|
python3 -m scripts.make_test_vault --out ./test_vault --with-missing
|
||||||
|
|
||||||
|
# Überschreiben bestehenden Vault
|
||||||
|
python3 -m scripts.make_test_vault --out ./test_vault --force
|
||||||
|
```
|
||||||
|
|
||||||
|
### 2.2 Test-Collection Prefix
|
||||||
|
|
||||||
|
**Wichtig:** Nutze separate Prefixes für Tests, um Produktionsdaten nicht zu beeinflussen.
|
||||||
|
|
||||||
|
```bash
|
||||||
|
export COLLECTION_PREFIX="mindnet_test"
|
||||||
|
python3 -m scripts.import_markdown --vault ./test_vault --prefix mindnet_test --apply
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Test-Frameworks & Tools
|
||||||
|
|
||||||
|
### 3.1 Pytest (Unit Tests)
|
||||||
|
|
||||||
|
**Installation:**
|
||||||
|
```bash
|
||||||
|
pip install pytest pytest-asyncio pytest-cov
|
||||||
|
```
|
||||||
|
|
||||||
|
**Konfiguration:** `pytest.ini` oder `pyproject.toml`
|
||||||
|
|
||||||
|
**Async Tests:**
|
||||||
|
```python
|
||||||
|
import pytest
|
||||||
|
|
||||||
|
@pytest.mark.asyncio
|
||||||
|
async def test_async_function():
|
||||||
|
result = await async_function()
|
||||||
|
assert result == expected
|
||||||
|
```
|
||||||
|
|
||||||
|
### 3.2 Unittest (E2E Tests)
|
||||||
|
|
||||||
|
**Framework:** Python `unittest`
|
||||||
|
|
||||||
|
**Beispiel:**
|
||||||
|
```python
|
||||||
|
import unittest
|
||||||
|
from app.routers.ingest import save_note, SaveRequest
|
||||||
|
|
||||||
|
class TestIngest(unittest.IsolatedAsyncioTestCase):
|
||||||
|
async def test_save_note(self):
|
||||||
|
req = SaveRequest(markdown_content="...", filename="test.md")
|
||||||
|
response = await save_note(req)
|
||||||
|
self.assertEqual(response.status, "queued")
|
||||||
|
```
|
||||||
|
|
||||||
|
### 3.3 Shell-Skripte (E2E Roundtrip)
|
||||||
|
|
||||||
|
**Tool:** `tests/run_e2e_roundtrip.sh`
|
||||||
|
|
||||||
|
**Zweck:** Vollständiger Test-Zyklus (Import → Export → Vergleich)
|
||||||
|
|
||||||
|
**Schritte:**
|
||||||
|
1. Qdrant truncate
|
||||||
|
2. Import (Create-Fall)
|
||||||
|
3. Import (Idempotenz-Test)
|
||||||
|
4. Hash-Reporter
|
||||||
|
5. Export
|
||||||
|
6. Vergleich Vault vs. Export
|
||||||
|
7. Sync-Deletes Test
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Test-Szenarien
|
||||||
|
|
||||||
|
### 4.1 Chunking-Tests
|
||||||
|
|
||||||
|
**Was wird getestet:**
|
||||||
|
- Sliding Window Strategie
|
||||||
|
- Heading-basierte Strategie
|
||||||
|
- Edge-Vererbung
|
||||||
|
- Chunk-Größen-Limits
|
||||||
|
|
||||||
|
**Tests:**
|
||||||
|
- `tests/test_smart_chunking_integration.py`
|
||||||
|
- `scripts/preview_chunks.py` (Manuelle Inspektion)
|
||||||
|
|
||||||
|
### 4.2 Retrieval-Tests
|
||||||
|
|
||||||
|
**Was wird getestet:**
|
||||||
|
- Semantic Search
|
||||||
|
- Hybrid Search (Semantik + Graph)
|
||||||
|
- Scoring-Formel
|
||||||
|
- Explanation Layer
|
||||||
|
|
||||||
|
**Tests:**
|
||||||
|
- `tests/test_retriever_basic.py`
|
||||||
|
- `tests/test_retriever_edges.py`
|
||||||
|
- `tests/test_retriever_weight.py`
|
||||||
|
- `tests/test_explanation_smoke.py`
|
||||||
|
|
||||||
|
### 4.3 Edge-Tests
|
||||||
|
|
||||||
|
**Was wird getestet:**
|
||||||
|
- Edge-Erstellung (explicit, smart, rule)
|
||||||
|
- Edge-Validierung (Registry)
|
||||||
|
- Edge-Vererbung
|
||||||
|
- Unresolved References
|
||||||
|
|
||||||
|
**Tests:**
|
||||||
|
- `tests/test_edges_all.py`
|
||||||
|
- `tests/test_edges_smoke.py`
|
||||||
|
- `tests/test_edges_defaults_smoke.py`
|
||||||
|
- `scripts/edges_full_check.py`
|
||||||
|
|
||||||
|
### 4.4 Chat & Intent-Tests
|
||||||
|
|
||||||
|
**Was wird getestet:**
|
||||||
|
- Intent-Erkennung (FACT, DECISION, EMPATHY, INTERVIEW)
|
||||||
|
- Decision Engine
|
||||||
|
- Interview-Modus
|
||||||
|
- Feedback-Loop
|
||||||
|
|
||||||
|
**Tests:**
|
||||||
|
- `tests/test_wp06_decision.py`
|
||||||
|
- `tests/test_interview_intent.py`
|
||||||
|
- `tests/test_chat_wp05.py`
|
||||||
|
- `tests/test_feedback_smoke.py`
|
||||||
|
|
||||||
|
### 4.5 Ingestion-Tests
|
||||||
|
|
||||||
|
**Was wird getestet:**
|
||||||
|
- Two-Pass Workflow
|
||||||
|
- Change Detection (Hash-basiert)
|
||||||
|
- Background Tasks
|
||||||
|
- Smart Edge Allocation
|
||||||
|
|
||||||
|
**Tests:**
|
||||||
|
- `tests/test_dialog_full_flow.py`
|
||||||
|
- `tests/test_WP22_intelligence.py`
|
||||||
|
- `scripts/import_markdown.py` (mit `--dry-run`)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Continuous Integration
|
||||||
|
|
||||||
|
### 5.1 Pre-Commit Checks
|
||||||
|
|
||||||
|
**Empfohlene Checks:**
|
||||||
|
```bash
|
||||||
|
# Linting
|
||||||
|
flake8 app/ scripts/
|
||||||
|
|
||||||
|
# Type Checking (optional)
|
||||||
|
mypy app/
|
||||||
|
|
||||||
|
# Unit Tests
|
||||||
|
pytest tests/ -k "test_" --ignore=tests/test_*_smoke.py
|
||||||
|
```
|
||||||
|
|
||||||
|
### 5.2 CI/CD Pipeline
|
||||||
|
|
||||||
|
**Gitea Actions:** `.gitea/workflows/`
|
||||||
|
|
||||||
|
**Typische Pipeline:**
|
||||||
|
1. Checkout
|
||||||
|
2. Python Setup
|
||||||
|
3. Dependencies installieren
|
||||||
|
4. Unit Tests
|
||||||
|
5. Integration Tests (optional)
|
||||||
|
6. Deployment (bei main branch)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Test-Best Practices
|
||||||
|
|
||||||
|
### 6.1 Isolation
|
||||||
|
|
||||||
|
- **Unit Tests:** Keine externen Abhängigkeiten (Mock alles)
|
||||||
|
- **Integration Tests:** Echte Qdrant, aber isolierte Collections
|
||||||
|
- **E2E Tests:** Separate Test-Umgebung (Port 8002)
|
||||||
|
|
||||||
|
### 6.2 Test-Daten
|
||||||
|
|
||||||
|
- Nutze `make_test_vault.py` für konsistente Test-Daten
|
||||||
|
- Separate Collection-Prefixes für Tests
|
||||||
|
- Cleanup nach Tests (oder isolierte Collections)
|
||||||
|
|
||||||
|
### 6.3 Performance
|
||||||
|
|
||||||
|
- Unit Tests sollten < 1 Sekunde dauern
|
||||||
|
- Integration Tests können länger dauern (10-30 Sekunden)
|
||||||
|
- E2E Tests sind langsam (1-5 Minuten)
|
||||||
|
|
||||||
|
### 6.4 Wartbarkeit
|
||||||
|
|
||||||
|
- Klare Test-Namen (`test_<functionality>_<scenario>`)
|
||||||
|
- Dokumentation in Test-Docstrings
|
||||||
|
- Keine Hardcoded-Pfade (nutze `os.path`)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7. Debugging & Diagnose
|
||||||
|
|
||||||
|
### 7.1 Test-Debugging
|
||||||
|
|
||||||
|
**Pytest Debug-Modus:**
|
||||||
|
```bash
|
||||||
|
pytest tests/test_retriever_basic.py -v --pdb
|
||||||
|
```
|
||||||
|
|
||||||
|
**Einzelnen Test inspizieren:**
|
||||||
|
```bash
|
||||||
|
python3 -m scripts.payload_dryrun --vault ./test_vault --note-id "test-note"
|
||||||
|
```
|
||||||
|
|
||||||
|
### 7.2 Qdrant-State prüfen
|
||||||
|
|
||||||
|
```bash
|
||||||
|
# Collection-Status
|
||||||
|
python3 -m scripts.debug_qdrant_state --prefix mindnet_test
|
||||||
|
|
||||||
|
# Payload-Indexe prüfen
|
||||||
|
python3 -m scripts.diag_payload_indexes --prefix mindnet_test
|
||||||
|
```
|
||||||
|
|
||||||
|
### 7.3 Chunk-Inspektion
|
||||||
|
|
||||||
|
```bash
|
||||||
|
# Chunks für eine Note anzeigen
|
||||||
|
python3 -m scripts.dump_note_chunks --note-id "test-note" --prefix mindnet_test
|
||||||
|
|
||||||
|
# Chunk-Text-Verifikation
|
||||||
|
python3 -m scripts.verify_chunk_texts --prefix mindnet_test
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 8. Test-Checkliste für Pull Requests
|
||||||
|
|
||||||
|
Vor jedem PR sollten folgende Tests durchlaufen:
|
||||||
|
|
||||||
|
- [ ] Unit Tests: `pytest tests/ -k "test_" --ignore=tests/test_*_smoke.py`
|
||||||
|
- [ ] Payload-Validierung: `python3 -m scripts.payload_dryrun --vault ./test_vault`
|
||||||
|
- [ ] Graph-Integrität: `python3 -m scripts.edges_full_check`
|
||||||
|
- [ ] Smoke Test (wenn API läuft): `python tests/test_wp06_decision.py -p 8002`
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 9. Weitere Informationen
|
||||||
|
|
||||||
|
- **Developer Guide:** Siehe [Developer Guide](05_developer_guide.md)
|
||||||
|
- **Scripts-Übersicht:** Siehe [Developer Guide - Scripts](05_developer_guide.md#44-scripts--tooling-die-admin-toolbox)
|
||||||
|
- **Troubleshooting:** Siehe [Admin Operations - Troubleshooting](../04_Operations/04_admin_operations.md#33-troubleshooting-guide)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
**Letzte Aktualisierung:** 2025-01-XX
|
||||||
|
**Version:** 2.9.1
|
||||||
|
|
||||||
@@ -2,18 +2,14 @@
|
|||||||
doc_type: roadmap
|
doc_type: roadmap
|
||||||
audience: product_owner, developer
|
audience: product_owner, developer
|
||||||
status: active
|
status: active
|
||||||
version: 2.7
|
version: 2.9.1
|
||||||
context: "Aktuelle Planung für kommende Features (ab WP16), Release-Strategie und Historie der abgeschlossenen WPs."
|
context: "Aktuelle Planung für kommende Features (ab WP16), Release-Strategie und Historie der abgeschlossenen WPs nach WP-14/15b."
|
||||||
---
|
---
|
||||||
|
|
||||||
# Mindnet Active Roadmap
|
# Mindnet Active Roadmap
|
||||||
|
|
||||||
**Aktueller Stand:** v2.6.0 (Post-WP15/WP19)
|
**Aktueller Stand:** v2.9.1 (Post-WP14 / WP-15b)
|
||||||
**Fokus:** Visualisierung, Exploration & Intelligent Ingestion.
|
**Fokus:** Modularisierung, Two-Pass Ingestion & Graph Intelligence.
|
||||||
|
|
||||||
## 1. Programmstatus
|
|
||||||
|
|
||||||
Wir haben mit der Implementierung des Graph Explorers (WP19) und der Smart Edge Allocation (WP15) die Basis für ein intelligentes, robustes System gelegt. Der nächste Schritt (WP19a) vertieft die Analyse, während WP16 die "Eingangs-Intelligenz" erhöht.
|
|
||||||
|
|
||||||
| Phase | Fokus | Status |
|
| Phase | Fokus | Status |
|
||||||
| :--- | :--- | :--- |
|
| :--- | :--- | :--- |
|
||||||
@@ -45,9 +41,11 @@ Eine Übersicht der implementierten Features zum schnellen Auffinden von Funktio
|
|||||||
| **WP-10** | Web UI | Streamlit-Frontend als Ersatz für das Terminal. |
|
| **WP-10** | Web UI | Streamlit-Frontend als Ersatz für das Terminal. |
|
||||||
| **WP-10a**| Draft Editor | GUI-Komponente zum Bearbeiten und Speichern generierter Notizen. |
|
| **WP-10a**| Draft Editor | GUI-Komponente zum Bearbeiten und Speichern generierter Notizen. |
|
||||||
| **WP-11** | Backend Intelligence | `nomic-embed-text` (768d) und Matrix-Logik für Kanten-Typisierung. |
|
| **WP-11** | Backend Intelligence | `nomic-embed-text` (768d) und Matrix-Logik für Kanten-Typisierung. |
|
||||||
|
| **WP-14** | **Modularisierung & Refactoring** | **Ergebnis:** Aufteilung in domänenspezifische Pakete (`database`, `ingestion`, `retrieval`, `graph`). Implementierung von Proxy-Adaptern für Abwärtskompatibilität und `registry.py` zur Lösung von Zirkelbezügen. |
|
||||||
|
| **WP-15b**| **Candidate-Based Validation** | **Ergebnis:** Implementierung des **Two-Pass Workflows**. Einführung des `LocalBatchCache` und binäre semantische Validierung von Kanten-Kandidaten zur Vermeidung von Halluzinationen. |
|
||||||
| **WP-15** | Smart Edge Allocation | LLM-Filter für Kanten in Chunks + Traffic Control (Semaphore) + Strict Chunking. |
|
| **WP-15** | Smart Edge Allocation | LLM-Filter für Kanten in Chunks + Traffic Control (Semaphore) + Strict Chunking. |
|
||||||
| **WP-19** | Graph Visualisierung | **Frontend Modularisierung:** Umbau auf `ui_*.py`.<br>**Graph Engines:** Parallelbetrieb von Cytoscape (COSE) und Agraph.<br>**Tools:** "Single Source of Truth" Editor, Persistenz via URL. |
|
| **WP-19** | Graph Visualisierung | **Frontend Modularisierung:** Umbau auf `ui_*.py`.<br>**Graph Engines:** Parallelbetrieb von Cytoscape (COSE) und Agraph.<br>**Tools:** "Single Source of Truth" Editor, Persistenz via URL. |
|
||||||
| **WP-20** | Cloud Hybrid Mode | Nutzung von Public LLM für schnellere Verarbeitung und bestimmte Aufgaben |
|
| **WP-20** | **Cloud Hybrid Mode & Resilienz** | **Ergebnis:** Integration von OpenRouter (Mistral 7B) & Gemini 2.5 Lite. Implementierung von WP-76 (Rate-Limit Wait) & Mistral-safe JSON Parsing. |
|
||||||
| **WP-21** | Semantic Graph Routing & Canonical Edges | Transformation des Graphen von statischen Verbindungen zu dynamischen, kontextsensitiven Pfaden. Das System soll verstehen, *welche* Art von Verbindung für die aktuelle Frage relevant ist ("Warum?" vs. "Was kommt danach?"). |
|
| **WP-21** | Semantic Graph Routing & Canonical Edges | Transformation des Graphen von statischen Verbindungen zu dynamischen, kontextsensitiven Pfaden. Das System soll verstehen, *welche* Art von Verbindung für die aktuelle Frage relevant ist ("Warum?" vs. "Was kommt danach?"). |
|
||||||
| **WP-22** | **Content Lifecycle & Registry** | **Ergebnis:** SSOT via `01_edge_vocabulary.md`, Alias-Mapping, Status-Scoring (`stable`/`draft`) und Modularisierung der Scoring-Engine. |
|
| **WP-22** | **Content Lifecycle & Registry** | **Ergebnis:** SSOT via `01_edge_vocabulary.md`, Alias-Mapping, Status-Scoring (`stable`/`draft`) und Modularisierung der Scoring-Engine. |
|
||||||
|
|
||||||
@@ -55,7 +53,14 @@ Eine Übersicht der implementierten Features zum schnellen Auffinden von Funktio
|
|||||||
* **Architektur:** Die Trennung von `retriever.py` und `retriever_scoring.py` war notwendig, um LLM-Context-Limits zu wahren und die Testbarkeit der mathematischen Formeln zu erhöhen.
|
* **Architektur:** Die Trennung von `retriever.py` und `retriever_scoring.py` war notwendig, um LLM-Context-Limits zu wahren und die Testbarkeit der mathematischen Formeln zu erhöhen.
|
||||||
* **Kanten-Validierung:** Die Edge Registry muss beim Start explizit initialisiert werden (Singleton), um "Lazy Loading" Probleme in der API zu vermeiden.
|
* **Kanten-Validierung:** Die Edge Registry muss beim Start explizit initialisiert werden (Singleton), um "Lazy Loading" Probleme in der API zu vermeiden.
|
||||||
|
|
||||||
|
### 2.2 WP-20 Lessons Learned (Resilienz)
|
||||||
|
* **Quoten-Management:** Die Nutzung von Free-Tier Modellen (Mistral/OpenRouter) erfordert zwingend eine intelligente Rate-Limit-Erkennung (HTTP 429) mit automatisierten Wartezyklen, um Batch-Prozesse stabil zu halten.
|
||||||
|
* **Parser-Robustheit:** Cloud-Modelle betten JSON oft in technische Steuerzeichen (`<s>`, `[OUT]`) ein. Ein robuster Extraktor mit Recovery-Logik ist essentiell zur Vermeidung von Datenverlust.
|
||||||
|
|
||||||
|
### 2.3 WP-14 & WP-15b Lessons Learned
|
||||||
|
* **Performance:** Der Pre-Scan (Pass 1) ist minimal invasiv, ermöglicht aber in Pass 2 eine drastische Reduktion der LLM-Kosten, da nur noch binär validiert werden muss, anstatt komplexe Extraktionen durchzuführen.
|
||||||
|
* **Wartbarkeit:** Durch die Paket-Struktur können DB-Adapter (z.B. für Qdrant) nun unabhängig von der Business-Logik (Scoring) aktualisiert werden.
|
||||||
|
*
|
||||||
---
|
---
|
||||||
|
|
||||||
## 3. Offene Workpackages (Planung)
|
## 3. Offene Workpackages (Planung)
|
||||||
@@ -80,7 +85,7 @@ Diese Features stehen als nächstes an oder befinden sich in der Umsetzung.
|
|||||||
**Phase:** B
|
**Phase:** B
|
||||||
**Status:** 🟡 geplant
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
**Ziel:** Sicherstellen, dass bestehende und neue Obsidian-Vaults schrittweise in mindnet integriert werden können – ohne Massenumbau.
|
**Ziel:** Sicherstellen, dass bestehende und neue Obsidian-Vaults schrittweise in mindnet installiert werden können – ohne Massenumbau.
|
||||||
|
|
||||||
**Umfang:**
|
**Umfang:**
|
||||||
- Tools zur Analyse des Vault-Status.
|
- Tools zur Analyse des Vault-Status.
|
||||||
@@ -90,19 +95,40 @@ Diese Features stehen als nächstes an oder befinden sich in der Umsetzung.
|
|||||||
- Aufwand: Mittel
|
- Aufwand: Mittel
|
||||||
- Komplexität: Niedrig/Mittel
|
- Komplexität: Niedrig/Mittel
|
||||||
|
|
||||||
### WP-19a – Graph Intelligence & Discovery (Sprint-Fokus)
|
|
||||||
**Status:** 🚀 Startklar
|
|
||||||
**Ziel:** Vom "Anschauen" zum "Verstehen". Deep-Dive Werkzeuge für den Graphen.
|
### WP-13 – MCP-Integration & Agenten-Layer
|
||||||
* **Discovery Screen:** Neuer Tab für semantische Suche ("Finde Notizen über Vaterschaft") und Wildcard-Filter.
|
**Status:** 🟡 Geplant
|
||||||
* **Filter-Logik:** "Zeige nur Wege, die zu `type:decision` führen".
|
**Ziel:** mindnet als MCP-Server bereitstellen, damit Agenten (Claude Desktop, OpenAI) standardisierte Tools nutzen können.
|
||||||
* **Chunk Inspection:** Umschaltbare Granularität (Notiz vs. Chunk) zur Validierung des Smart Chunkers.
|
* **Umfang:** MCP-Server mit Tools (`mindnet_query`, `mindnet_explain`, etc.).
|
||||||
|
|
||||||
### WP-14 – Review / Refactoring / Dokumentation
|
### WP-14 – Review / Refactoring / Dokumentation
|
||||||
**Status:** 🟡 Laufend (Phase E)
|
**Status:** 🟡 Laufend (Phase E)
|
||||||
**Ziel:** Technische Schulden abbauen, die durch schnelle Feature-Entwicklung (WP15/WP19) entstanden sind.
|
**Ziel:** Technische Schulden abbauen, die durch schnelle Feature-Entwicklung (WP15/WP19) entstanden sind.
|
||||||
* **Refactoring `chunker.py`:** Die Datei ist monolithisch geworden (Parsing, Strategien, LLM-Orchestrierung).
|
* **Refactoring `chunker.py`:** Die Datei ist monolithisch geworden (Parsing, Strategien, LLM-Orchestrierung).
|
||||||
* *Lösung:* Aufteilung in ein Package `app/core/chunking/` mit Modulen (`strategies.py`, `orchestration.py`, `utils.py`).
|
* *Lösung:* Aufteilung in ein Package `app/core/chunking/` mit Modulen (`strategies.py`, `orchestration.py`, `utils.py`).
|
||||||
* **Dokumentation:** Kontinuierliche Synchronisation von Code und Docs (v2.6 Stand).
|
* **Dokumentation:** Kontinuierliche Synchronisation von Code und Docs (v2.8 Stand).
|
||||||
|
|
||||||
|
### WP-15b – Candidate-Based Edge Validation & Inheritance
|
||||||
|
**Phase:** B/E (Refactoring & Semantic)
|
||||||
|
**Status:** 🚀 Startklar (Ersatz für WP-15 Logik)
|
||||||
|
**Ziel:** Ablösung der fehleranfälligen "Open-End-Extraktion" durch eine KI-gestützte Validierung menschlicher Vorarbeit zur Steigerung von Speed, Integrität und semantischer Tiefe.
|
||||||
|
|
||||||
|
**Herausforderung:**
|
||||||
|
Der bisherige WP-15 Ansatz litt unter Halluzinationen (erfundene Kantentypen), hohem Token-Verbrauch und dem Verlust physikalisch gesetzter Kanten bei der Chunk-Verteilung.
|
||||||
|
|
||||||
|
**Anforderungen & Strategie:**
|
||||||
|
1. **Hard-Link Integrity:** Kanten, die im Markdown-Text eines Chunks stehen, werden zwingend und ohne LLM-Prüfung gesetzt (`provenance: explicit`).
|
||||||
|
2. **Edge Inheritance:** Kanten, die auf Dokument-Ebene (Frontmatter) oder Sektions-Ebene (Heading) definiert sind, werden automatisch an alle zugehörigen Sub-Chunks vererbt, wenn ein semantischer Block aufgrund von Größengrenzen geteilt wurde.
|
||||||
|
3. **Candidate Pool Extraction:** Definition eines "Edge-Pools" pro Dokument. Dieser speist sich aus dem Frontmatter und einer speziellen Sektion (z. B. `### Unzugeordnete Kanten`).
|
||||||
|
4. **Semantic Validation Gate:** Das LLM fungiert als binärer Validator. Es prüft ausschließlich Kanten aus dem Kandidaten-Pool gegen den konkreten Chunk-Inhalt UND eine Zusammenfassung der Ziel-Note (Inhalt, Typ, Kanten-Typ).
|
||||||
|
5. **Registry Enforcement:** Strikte Blockade von Halluzinationen. Nur Kanten, die im Pool definiert UND im `edge_vocabulary.md` vorhanden sind, werden zugelassen.
|
||||||
|
|
||||||
|
**Lösungsskizze:**
|
||||||
|
* **Parser-Update:** `extract_candidate_pool` zur Identifikation aller im Dokument beabsichtigten Links.
|
||||||
|
* **Chunker-Update:** Implementierung einer `propagate_edges`-Logik für "by_heading" und "sliding_window" Strategien.
|
||||||
|
* **Ingestion-Update:** Umstellung von `_perform_smart_edge_allocation` auf einen binären Validierungs-Prompt (VALID/INVALID).
|
||||||
|
|
||||||
|
|
||||||
### WP-16 – Auto-Discovery & Intelligent Ingestion
|
### WP-16 – Auto-Discovery & Intelligent Ingestion
|
||||||
**Status:** 🟡 Geplant
|
**Status:** 🟡 Geplant
|
||||||
@@ -130,15 +156,13 @@ Diese Features stehen als nächstes an oder befinden sich in der Umsetzung.
|
|||||||
* **Feature:** Cronjob `check_graph_integrity.py`.
|
* **Feature:** Cronjob `check_graph_integrity.py`.
|
||||||
* **Funktion:** Findet "Dangling Edges" (Links auf gelöschte Notizen) und repariert/löscht sie.
|
* **Funktion:** Findet "Dangling Edges" (Links auf gelöschte Notizen) und repariert/löscht sie.
|
||||||
|
|
||||||
### WP-13 – MCP-Integration & Agenten-Layer
|
### WP-19a – Graph Intelligence & Discovery (Sprint-Fokus)
|
||||||
**Status:** 🟡 Geplant
|
**Status:** 🚀 Startklar
|
||||||
**Ziel:** mindnet als MCP-Server bereitstellen, damit Agenten (Claude Desktop, OpenAI) standardisierte Tools nutzen können.
|
**Ziel:** Vom "Anschauen" zum "Verstehen". Deep-Dive Werkzeuge für den Graphen.
|
||||||
* **Umfang:** MCP-Server mit Tools (`mindnet_query`, `mindnet_explain`, etc.).
|
* **Discovery Screen:** Neuer Tab für semantische Suche ("Finde Notizen über Vaterschaft") und Wildcard-Filter.
|
||||||
|
* **Filter-Logik:** "Zeige nur Wege, die zu `type:decision` führen".
|
||||||
|
* **Chunk Inspection:** Umschaltbare Granularität (Notiz vs. Chunk) zur Validierung des Smart Chunkers.
|
||||||
|
|
||||||
### WP-20 – Cloud Hybrid Mode (Optional)
|
|
||||||
**Status:** ⚪ Optional
|
|
||||||
**Ziel:** "Turbo-Modus" für Massen-Imports.
|
|
||||||
* **Konzept:** Switch in `.env`, um statt Ollama (Lokal) auf Google Gemini (Cloud) umzuschalten.
|
|
||||||
|
|
||||||
### WP-21 – Semantic Graph Routing & Canonical Edges
|
### WP-21 – Semantic Graph Routing & Canonical Edges
|
||||||
**Status:** 🟡 Geplant
|
**Status:** 🟡 Geplant
|
||||||
@@ -167,9 +191,82 @@ Diese Features stehen als nächstes an oder befinden sich in der Umsetzung.
|
|||||||
2. **Single Source of Truth (SSOT):** Die Registry nutzt `01_edge_vocabulary.md` als führende Konfiguration.
|
2. **Single Source of Truth (SSOT):** Die Registry nutzt `01_edge_vocabulary.md` als führende Konfiguration.
|
||||||
3. **Self-Learning Loop:** Protokollierung unbekannter Kanten in `unknown_edges.jsonl`.
|
3. **Self-Learning Loop:** Protokollierung unbekannter Kanten in `unknown_edges.jsonl`.
|
||||||
|
|
||||||
|
### WP-23: Agentic Multi-Stream Reasoning (Mindnet 2025)
|
||||||
|
|
||||||
|
#### 1. Zielsetzung & Problemstellung
|
||||||
|
Das bisherige System basiert auf einem globalen Scoring-Modell, bei dem Notizen unterschiedlicher Typen (z. B. `insight` vs. `belief`) in einem einzigen Retrieval-Topf konkurrieren. Dies führt dazu, dass leiser gewichtete, aber fundamentale Identitätsmerkmale oft durch hochgewichtete aktuelle Erkenntnisse verdrängt werden. Ziel dieses Pakets ist die Einführung einer parallelen **Stream-Architektur**, um die Vielschichtigkeit menschlicher Entscheidungsprozesse (Werte + Erfahrung + Absicht) im LLM-Kontext zu garantieren.
|
||||||
|
|
||||||
|
#### 2. Funktionsbeschreibung: Die Streams
|
||||||
|
Die Daten aus der `types.yaml` werden in drei logische Verarbeitungseinheiten unterteilt:
|
||||||
|
|
||||||
|
##### A. Identity Stream (Die Wahrheitsebene)
|
||||||
|
* **Inhalt:** `value`, `belief`, `trait`, `principle`, `need`, `boundary`, `bias`.
|
||||||
|
* **Zweck:** Definition des moralischen Kompasses, der psychologischen Grundbedürfnisse und kognitiven Muster.
|
||||||
|
* **Wirkung:** Liefert das "Warum" hinter jeder Handlung.
|
||||||
|
|
||||||
|
##### B. History Stream (Die Evidenzebene)
|
||||||
|
* **Inhalt:** `experience`, `event`, `source`, `journal`, `person`.
|
||||||
|
* **Zweck:** Bereitstellung empirischer Belege aus der Vergangenheit und sozialer Kontexte.
|
||||||
|
* **Wirkung:** Verankert die Antwort in real erlebten Mustern und Fakten.
|
||||||
|
|
||||||
|
##### C. Action Stream (Die Dynamikebene)
|
||||||
|
* **Inhalt:** `project`, `decision`, `goal`, `task`, `risk`, `motivation`, `habit`, `state`.
|
||||||
|
* **Zweck:** Analyse der aktuellen Richtung, geplanter Vorhaben und des gegenwärtigen Zustands.
|
||||||
|
* **Wirkung:** Liefert den Kontext für die Umsetzung und zukünftige Ziele.
|
||||||
|
|
||||||
|
|
||||||
|
#### 3. Technische Wirkungsweise (Solution Sketch)
|
||||||
|
|
||||||
|
##### Schritt 1: Query-Decomposition
|
||||||
|
Ein initialer Klassifizierungs-Agent analysiert die Nutzeranfrage und bestimmt, welcher Stream primär angesprochen werden muss (z. B. "Wie soll ich mich entscheiden?" boostet den Identity Stream).
|
||||||
|
|
||||||
|
##### Schritt 2: Parallel Stream Retrieval
|
||||||
|
Anstelle einer Suche werden drei unabhängige Vektor-Suchen mit Typ-Filtern durchgeführt:
|
||||||
|
* **Search_A (Identity):** Top-5 Ergebnisse aus Identitäts-Notizen.
|
||||||
|
* **Search_B (History):** Top-5 Ergebnisse aus biografischen/externen Notizen.
|
||||||
|
* **Search_C (Action):** Top-5 Ergebnisse aus operativen/strategischen Notizen.
|
||||||
|
|
||||||
|
##### Schritt 3: Agentic Synthesis (The Reasoning)
|
||||||
|
Ein Synthese-Agent (LLM) erhält die aggregierten Ergebnisse in getrennten Sektionen. Die Anweisung lautet:
|
||||||
|
1. **Prüfung:** Steht das aktuelle Vorhaben (Action) im Einklang mit den Werten (Identity)?
|
||||||
|
2. **Abgleich:** Welche vergangenen Erfahrungen (History) stützen oder widersprechen diesem Weg?
|
||||||
|
3. **Korrektur:** Identifiziere mögliche Biases oder Grenzüberschreitungen (Boundary).
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
#### 4. Erwartete Ergebnisse
|
||||||
|
* **Höhere Resonanz:** Antworten wirken authentischer, da sie explizit auf das Wertesystem des Nutzers Bezug nehmen.
|
||||||
|
* **Widerspruchs-Erkennung:** Das System kann den Nutzer aktiv warnen, wenn ein Projekt gegen seine `principles` oder `needs` verstößt.
|
||||||
|
* **Robustes Retrieval:** Wichtige Identitäts-Informationen gehen nicht mehr im "Rauschen" von hunderten Journal-Einträgen verloren.
|
||||||
---
|
---
|
||||||
|
|
||||||
|
### WP-24 – Proactive Discovery & Agentic Knowledge Mining
|
||||||
|
**Status:** 🚀 In Planung (Nächster Architektur-Sprung)
|
||||||
|
**Ziel:** Transformation von Mindnet von einem reaktiven Archiv zu einem aktiven Denkpartner. Das System soll aktiv Wissenslücken schließen und verborgene Querverbindungen in großen Vaults sowie in Chat-Dialogen aufspüren.
|
||||||
|
|
||||||
|
**Herausforderung:**
|
||||||
|
1. **Silo-Effekt:** Bei wachsenden Vaults vergisst der Nutzer existierende Notizen und erstellt redundante Inhalte ohne Verknüpfung.
|
||||||
|
2. **Insight-Verlust:** Im Chat entstehen wertvolle Synthesen, die momentan im flüchtigen Chat-Log vergraben bleiben.
|
||||||
|
|
||||||
|
**Lösungsskizze & Strategie:**
|
||||||
|
|
||||||
|
#### A. Proactive Discovery (Vault-Scanning)
|
||||||
|
Das System nutzt die existierende `candidate_pool` Logik aus WP-15b, befüllt diese jedoch automatisiert:
|
||||||
|
* **Vector Similarity Search**: Beim Import einer Note (oder als periodischer Hintergrundprozess) sucht der neue `RecommenderService` in Qdrant nach den Top-X semantisch ähnlichsten Chunks im gesamten Vault.
|
||||||
|
* **Auto-Injection**: Diese Funde werden automatisch als `related_to` Kandidaten in den `candidate_pool` der neuen Note injiziert.
|
||||||
|
* **WP-15b Filter**: Das LLM validiert diese Vorschläge im zweiten Pass der Ingestion gegen den Kontext. Nur was semantisch wirklich passt, wird als Kante im Graphen persistiert.
|
||||||
|
|
||||||
|
#### B. Agentic Knowledge Mining (Chat-to-Vault)
|
||||||
|
Integration von Informationen aus dem Dialog direkt in den Graphen:
|
||||||
|
* **Intent Detection**: Das Chat-Backend erkennt „notierwürdige“ Informationen (z.B. neue Prinzipien, Strategie-Entwürfe oder Werte-Anpassungen).
|
||||||
|
* **Auto-Drafting**: Das LLM nutzt das `interview_template`, um aus dem Chat-Fragment eine valide Markdown-Datei mit Frontmatter (Status: `draft`) zu generieren.
|
||||||
|
* **Real-Time Linking**: Die neue Datei wird sofort dem „Discovery-Lauf“ (Teil A) unterzogen, um sie mit dem bestehenden Wissensschatz zu vernetzen.
|
||||||
|
* **User Review**: Die generierte Notiz erscheint im `00_Inbox` Ordner. Der Nutzer muss lediglich den Status auf `stable` setzen, um die Entdeckungen final zu integrieren.
|
||||||
|
|
||||||
|
**Erwartete Ergebnisse:**
|
||||||
|
* Eliminierung von Wissens-Silos durch automatische Vernetzung.
|
||||||
|
* Nahtloser Übergang von der Exploration (Chat) zur Konsolidierung (Vault).
|
||||||
|
* Vermeidung von Dubletten durch Ähnlichkeits-Warnungen beim Import.
|
||||||
## 4. Abhängigkeiten & Release-Plan
|
## 4. Abhängigkeiten & Release-Plan
|
||||||
|
|
||||||
```mermaid
|
```mermaid
|
||||||
@@ -178,6 +275,8 @@ graph TD
|
|||||||
WP19a --> WP17(Memory)
|
WP19a --> WP17(Memory)
|
||||||
WP15(Smart Edges) --> WP16(Auto-Discovery)
|
WP15(Smart Edges) --> WP16(Auto-Discovery)
|
||||||
WP15 --> WP14(Refactoring)
|
WP15 --> WP14(Refactoring)
|
||||||
|
WP15(Smart Edges) --> WP15b(Candidate Validation)
|
||||||
|
WP15b --> WP24(Proactive Discovery)
|
||||||
WP03(Import) --> WP18(Health Check)
|
WP03(Import) --> WP18(Health Check)
|
||||||
WP03 --> WP13(MCP)
|
WP03 --> WP13(MCP)
|
||||||
WP04 --> WP13(MCP)
|
WP04 --> WP13(MCP)
|
||||||
@@ -186,3 +285,6 @@ graph TD
|
|||||||
WP21 --> WP22(Lifecycle & Registry)
|
WP21 --> WP22(Lifecycle & Registry)
|
||||||
WP22 --> WP14
|
WP22 --> WP14
|
||||||
WP15(Smart Edges) --> WP21
|
WP15(Smart Edges) --> WP21
|
||||||
|
WP20(Cloud Hybrid) --> WP15b
|
||||||
|
WP24 --> WP23(Multi-Stream Reasoning)
|
||||||
|
```
|
||||||
@@ -316,3 +316,44 @@ Die Gewichtung findet **Pre-Retrieval** (im Scoring-Algorithmus) statt, **nicht*
|
|||||||
3. Zeige die Erweiterung in `scoring.py` (Status-Gewicht & Dynamic Edge Boosting).
|
3. Zeige die Erweiterung in `scoring.py` (Status-Gewicht & Dynamic Edge Boosting).
|
||||||
|
|
||||||
Bitte bestätige die Übernahme dieses Architektur-Pakets.
|
Bitte bestätige die Übernahme dieses Architektur-Pakets.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# Übergabe Arbeitspaket: WP-24 – Proactive Discovery & Agentic Knowledge Mining
|
||||||
|
|
||||||
|
## 1. Projekt-Kontext
|
||||||
|
Wir arbeiten an **Mindnet**, einem System für einen "digitalen Zwilling". Das System nutzt einen Wissensgraph (Qdrant), asynchrone Ingestion und eine hybride LLM-Infrastruktur (Cloud/Lokal).
|
||||||
|
|
||||||
|
## 2. Status Quo (Abgeschlossen: WP-15b)
|
||||||
|
Das Arbeitspaket **WP-15b (Candidate-Based Validation)** wurde gerade erfolgreich implementiert.
|
||||||
|
* **Two-Pass Workflow:** In Pass 1 wird ein globaler `LocalBatchCache` aufgebaut (ID, Titel, Dateiname). In Pass 2 findet eine semantische binäre Validierung (YES/NO) statt.
|
||||||
|
* **Edge Inheritance:** Kanten werden aus Sektionen und Frontmatter an Chunks vererbt.
|
||||||
|
* **Candidate Pool:** Nur Kanten in der Sektion `## Unzugeordnete Kanten` (Provenienz: `global_pool`) werden vom LLM geprüft. Explizite Kanten (`[!edge]` im Text) werden direkt übernommen.
|
||||||
|
|
||||||
|
## 3. Auftrag: WP-24 – Proactive Discovery & Agentic Knowledge Mining
|
||||||
|
Das Ziel ist die Transformation von Mindnet zu einem aktiven Denkpartner.
|
||||||
|
|
||||||
|
### Teil A: Proactive Discovery (Vault-Scanning)
|
||||||
|
* **Mechanismus:** Automatisches Befüllen des `candidate_pool` via Vektor-Ähnlichkeit.
|
||||||
|
* **Logik:** Beim Import einer Note sucht ein neuer Service in Qdrant nach den semantisch ähnlichsten Chunks im Vault und fügt diese als `related_to` Kandidaten hinzu.
|
||||||
|
* **Filter:** Die WP-15b Validierungs-Logik filtert diese Vorschläge anschließend.
|
||||||
|
|
||||||
|
### Teil B: Agentic Knowledge Mining (Chat-to-Vault)
|
||||||
|
* **Mechanismus:** Extraktion notierwürdiger Informationen aus dem Chat.
|
||||||
|
* **Logik:** Erstellung von Markdown-Drafts im `00_Inbox` Ordner basierend auf dem Chat-Kontext unter Nutzung des `interview_template`.
|
||||||
|
|
||||||
|
## 4. Erforderliche Code-Basis (Dateien)
|
||||||
|
Stelle sicher, dass dir folgende Dateien vorliegen, um die Logik zu verstehen und zu erweitern:
|
||||||
|
|
||||||
|
1. **`app/core/ingestion.py` (v2.12.2):** Zentraler Two-Pass Workflow und Validierungsgate.
|
||||||
|
2. **`app/core/chunker.py` (v3.2.0):** Vorbereitung des Candidate-Pools und Vererbungslogik.
|
||||||
|
3. **`scripts/import_markdown.py` (v2.4.1):** Entry-Point und Pre-Scan Harvester für den Cache.
|
||||||
|
4. **`app/core/derive_edges.py` (v2.1.0):** Aggregator für Kanten mit Provenance-Priorisierung.
|
||||||
|
5. **`app/services/edge_registry.py` (v0.8.0):** Validierung gegen das Kanten-Vokabular.
|
||||||
|
6. **`config/prompts.yaml` (v2.6.0):** Enthält die `edge_validation` und `interview_template` Prompts.
|
||||||
|
7. **`06_active_roadmap.md` (v2.9.0):** Enthält die detaillierte Planung für WP-24.
|
||||||
|
|
||||||
|
## 5. Nächste technische Schritte
|
||||||
|
1. Entwurf eines `RecommenderService` für die Vektor-Suche in Qdrant.
|
||||||
|
2. Integration des Services in die `ingestion.py` zur automatischen Befüllung des `candidate_pool`.
|
||||||
|
3. Erweiterung des Chat-Backends um die "Capture-to-Vault" Funktionalität.
|
||||||
@@ -92,3 +92,22 @@ Dieses Dokument dient als Referenz für die Entstehungsgeschichte von Mindnet v2
|
|||||||
* **Graph Explorer:** Einführung von `st-cytoscape` für stabile, nicht-überlappende Layouts (COSE) als Ergänzung zur Legacy-Engine (Agraph).
|
* **Graph Explorer:** Einführung von `st-cytoscape` für stabile, nicht-überlappende Layouts (COSE) als Ergänzung zur Legacy-Engine (Agraph).
|
||||||
* **Single Source of Truth:** Der Editor lädt Inhalte nun direkt vom Dateisystem statt aus (potenziell veralteten) Vektor-Payloads.
|
* **Single Source of Truth:** Der Editor lädt Inhalte nun direkt vom Dateisystem statt aus (potenziell veralteten) Vektor-Payloads.
|
||||||
* **UX:** Einführung von URL-Persistenz für Layout-Settings und CSS-basiertes Highlighting zur Vermeidung von Re-Renders.
|
* **UX:** Einführung von URL-Persistenz für Layout-Settings und CSS-basiertes Highlighting zur Vermeidung von Re-Renders.
|
||||||
|
|
||||||
|
|
||||||
|
## Phase E+: Architektur-Konsolidierung (WP-14)
|
||||||
|
|
||||||
|
### WP-14 – Modularisierung & Paket-Struktur
|
||||||
|
* **Ziel:** Auflösung technischer Schulden und Beseitigung von Zirkelbezügen (Circular Imports).
|
||||||
|
* **Ergebnis:**
|
||||||
|
* **Domänen-Pakete:** Aufteilung der monolithischen `app/core/` Struktur in spezialisierte Pakete: `database/`, `ingestion/`, `retrieval/` und `graph/`.
|
||||||
|
* **Proxy-Pattern:** Einsatz von Fassaden-Modulen (z. B. `graph_adapter.py`) zur Aufrechterhaltung der Abwärtskompatibilität für bestehende API-Endpunkte.
|
||||||
|
* **Registry-Zentralisierung:** Auslagerung neutraler Hilfsfunktionen (wie `clean_llm_text`) in eine unabhängige `registry.py`, um Abhängigkeitsschleifen zwischen Diensten zu brechen.
|
||||||
|
* **Tech:** Einführung von `__init__.py` Exporten zur Definition sauberer Paket-Schnittstellen.
|
||||||
|
|
||||||
|
### WP-15b – Two-Pass Ingestion & Candidate Validation
|
||||||
|
* **Problem:** Die ursprüngliche Smart Edge Extraktion (WP-15) war teuer und neigte zu Halluzinationen, da sie ohne globalen Kontext operierte.
|
||||||
|
* **Lösung:** Implementierung eines **Two-Pass Workflows**.
|
||||||
|
* **Pass 1 (Pre-Scan):** Schnelles Einlesen aller Notizen zur Erstellung eines `LocalBatchCache` (Metadaten & Summaries).
|
||||||
|
* **Pass 2 (Processing):** Gezielte semantische Verarbeitung nur für geänderte Dateien.
|
||||||
|
* **Feature:** **Binary Validation Gate**. Statt Kanten frei zu erfinden, validiert das LLM nun Kanten-Kandidaten aus einem Pool gegen den Kontext des `LocalBatchCache`. Dies garantiert 100% Konformität mit der Edge Registry.
|
||||||
|
* **Ergebnis:** Höhere Geschwindigkeit durch Reduktion komplexer LLM-Prompts auf binäre Entscheidungen (VALID/INVALID).
|
||||||
+154
@@ -0,0 +1,154 @@
|
|||||||
|
---
|
||||||
|
doc_type: documentation_index
|
||||||
|
audience: all
|
||||||
|
status: active
|
||||||
|
version: 2.9.1
|
||||||
|
context: "Zentraler Einstiegspunkt für die Mindnet-Dokumentation"
|
||||||
|
---
|
||||||
|
|
||||||
|
# Mindnet Dokumentation
|
||||||
|
|
||||||
|
Willkommen in der Dokumentation von Mindnet v2.9.1! Diese Dokumentation hilft dir dabei, das System zu verstehen, zu nutzen und weiterzuentwickeln.
|
||||||
|
|
||||||
|
## 🚀 Schnellstart
|
||||||
|
|
||||||
|
**Neu hier?** Beginne mit diesen Dokumenten:
|
||||||
|
|
||||||
|
1. **[Vision & Strategie](00_General/00_vision_and_strategy.md)** - Verstehe die Ziele und Prinzipien von Mindnet
|
||||||
|
2. **[Glossar](00_General/00_glossary.md)** - Lerne die wichtigsten Begriffe kennen
|
||||||
|
3. **[Dokumentationskarte](00_General/00_documentation_map.md)** - Finde schnell die richtige Dokumentation
|
||||||
|
|
||||||
|
**Je nach Rolle:**
|
||||||
|
|
||||||
|
- **👤 Benutzer/Autor:** Starte mit [Chat Usage Guide](01_User_Manual/01_chat_usage_guide.md) und [Knowledge Design](01_User_Manual/01_knowledge_design.md)
|
||||||
|
- **👨💻 Entwickler:** Beginne mit [Developer Guide](05_Development/05_developer_guide.md)
|
||||||
|
- **🔧 Administrator:** Siehe [Admin Operations](04_Operations/04_admin_operations.md)
|
||||||
|
|
||||||
|
## 📚 Dokumentationsstruktur
|
||||||
|
|
||||||
|
Die Dokumentation ist in logische Bereiche unterteilt:
|
||||||
|
|
||||||
|
### 00_General (Grundlagen)
|
||||||
|
Grundlegende Informationen für alle Zielgruppen:
|
||||||
|
- Vision & Strategie
|
||||||
|
- Glossar
|
||||||
|
- Dokumentationskarte (Navigation)
|
||||||
|
|
||||||
|
### 01_User_Manual (Anwendung)
|
||||||
|
Anleitungen für Endbenutzer und Autoren:
|
||||||
|
- Chat-Bedienung
|
||||||
|
- Knowledge Design (Content-Regeln)
|
||||||
|
- Authoring Guidelines
|
||||||
|
- Obsidian-Integration
|
||||||
|
|
||||||
|
### 02_Concepts (Fachliche Logik)
|
||||||
|
Konzeptionelle Erklärungen für Architekten:
|
||||||
|
- Graph-Logik
|
||||||
|
- KI-Persönlichkeit & Router
|
||||||
|
|
||||||
|
### 03_Technical_Reference (Technik & Code)
|
||||||
|
Detaillierte technische Referenzen für Entwickler:
|
||||||
|
- Datenmodell
|
||||||
|
- Ingestion-Pipeline
|
||||||
|
- Retrieval & Scoring
|
||||||
|
- Chat-Backend
|
||||||
|
- Frontend-Architektur
|
||||||
|
- Konfiguration
|
||||||
|
|
||||||
|
### 04_Operations (Betrieb)
|
||||||
|
Betriebsanleitungen für Administratoren:
|
||||||
|
- Admin Operations (Installation, Backup, Troubleshooting)
|
||||||
|
- Server Operations Manual (Systemd, Disaster Recovery)
|
||||||
|
|
||||||
|
### 05_Development (Entwicklung)
|
||||||
|
Entwickler-Ressourcen:
|
||||||
|
- Developer Guide (Workflow, Architektur, Module)
|
||||||
|
- GenAI Best Practices (Prompt-Library)
|
||||||
|
|
||||||
|
### 06_Roadmap (Planung)
|
||||||
|
Projektplanung und Roadmap:
|
||||||
|
- Active Roadmap (aktuelle Workpackages)
|
||||||
|
- Handover Prompts (Übergabe-Prompts für neue Entwickler)
|
||||||
|
|
||||||
|
### 99_Archive (Archiv)
|
||||||
|
Historische Dokumentation:
|
||||||
|
- Legacy Workpackages (abgeschlossene WPs)
|
||||||
|
|
||||||
|
## 🔍 Navigation nach Rolle
|
||||||
|
|
||||||
|
### 👨💻 Entwickler
|
||||||
|
| Frage | Dokument |
|
||||||
|
|-------|----------|
|
||||||
|
| Wie richte ich meine Entwicklungsumgebung ein? | [Developer Guide](05_Development/05_developer_guide.md#6-lokales-setup-development) |
|
||||||
|
| Wie ist die Architektur aufgebaut? | [Architektur-Patterns](02_concepts/02_concept_architecture_patterns.md) |
|
||||||
|
| Wie erweitere ich das System? | [Developer Guide - Teach-the-AI](05_Development/05_developer_guide.md#8-erweiterungs-guide-teach-the-ai) |
|
||||||
|
| Wie teste ich meine Änderungen? | [Testing Guide](05_Development/05_testing_guide.md) |
|
||||||
|
| Welche API-Endpunkte gibt es? | [API Reference](03_Technical_References/03_tech_api_reference.md) |
|
||||||
|
|
||||||
|
### 🔧 Administratoren
|
||||||
|
| Frage | Dokument |
|
||||||
|
|-------|----------|
|
||||||
|
| Wie installiere ich Mindnet? | [Admin Operations](04_Operations/04_admin_operations.md#1-installation--setup) |
|
||||||
|
| Wie konfiguriere ich die Services? | [Admin Operations - Deployment](04_Operations/04_admin_operations.md#2-deployment-systemd-services) |
|
||||||
|
| Wie führe ich Backups durch? | [Admin Operations - Backup](04_Operations/04_admin_operations.md#4-backup--restore) |
|
||||||
|
| Was tun bei Problemen? | [Admin Operations - Troubleshooting](04_Operations/04_admin_operations.md#33-troubleshooting-guide) |
|
||||||
|
| Wie betreibe ich den Server? | [Server Operations Manual](04_Operations/04_server_operation_manual.md) |
|
||||||
|
|
||||||
|
### 👤 Anwender
|
||||||
|
| Frage | Dokument |
|
||||||
|
|-------|----------|
|
||||||
|
| Wie starte ich mit Mindnet? | [Schnellstart](00_General/00_quickstart.md) |
|
||||||
|
| Wie nutze ich den Chat? | [Chat Usage Guide](01_User_Manual/01_chat_usage_guide.md) |
|
||||||
|
| Wie strukturiere ich meine Notizen? | [Knowledge Design](01_User_Manual/01_knowledge_design.md) |
|
||||||
|
| Wie schreibe ich für den Digitalen Zwilling? | [Authoring Guidelines](01_User_Manual/01_authoring_guidelines.md) |
|
||||||
|
| Wie integriere ich Obsidian? | [Obsidian Integration](01_User_Manual/01_obsidian_integration_guide.md) |
|
||||||
|
|
||||||
|
### 🧪 Tester
|
||||||
|
| Frage | Dokument |
|
||||||
|
|-------|----------|
|
||||||
|
| Welche Test-Strategien gibt es? | [Testing Guide - Strategien](05_Development/05_testing_guide.md#1-test-strategie--ebenen) |
|
||||||
|
| Wie führe ich Tests aus? | [Testing Guide - Frameworks](05_Development/05_testing_guide.md#3-test-frameworks--tools) |
|
||||||
|
| Wie erstelle ich Test-Daten? | [Testing Guide - Test-Daten](05_Development/05_testing_guide.md#2-test-daten--vaults) |
|
||||||
|
| Was ist die Test-Checkliste? | [Testing Guide - Checkliste](05_Development/05_testing_guide.md#8-test-checkliste-für-pull-requests) |
|
||||||
|
|
||||||
|
### 🚀 Deployment
|
||||||
|
| Frage | Dokument |
|
||||||
|
|-------|----------|
|
||||||
|
| Wie deploye ich automatisch? | [Deployment Guide - CI/CD](04_Operations/04_deployment_guide.md#9-cicd-pipeline-details) |
|
||||||
|
| Welche Rollout-Strategien gibt es? | [Deployment Guide - Rollout](04_Operations/04_deployment_guide.md#4-rollout-strategien) |
|
||||||
|
| Wie führe ich einen Rollback durch? | [Deployment Guide - Rollback](04_Operations/04_deployment_guide.md#6-rollback-strategien) |
|
||||||
|
| Was muss vor dem Deployment geprüft werden? | [Deployment Guide - Checkliste](04_Operations/04_deployment_guide.md#7-pre-deployment-checkliste) |
|
||||||
|
|
||||||
|
## 📖 Dokumentationsprinzipien
|
||||||
|
|
||||||
|
Diese Dokumentation folgt klaren Prinzipien:
|
||||||
|
|
||||||
|
1. **Single Source of Truth:** Informationen werden nicht dupliziert, sondern referenziert
|
||||||
|
2. **Konkrete Beispiele:** Technische Dokumente enthalten immer Code-Snippets
|
||||||
|
3. **Human Readable:** Benutzerhandbücher enthalten Narrative und Szenarien
|
||||||
|
4. **KI-Optimiert:** Jede Datei hat YAML-Frontmatter für bessere RAG-Integration
|
||||||
|
|
||||||
|
## 🔄 Dokumentation aktualisieren
|
||||||
|
|
||||||
|
Wenn du an einem Feature arbeitest, nutze die [Maintenance Matrix](00_General/00_documentation_map.md#3-maintenance-guide-welche-datei-muss-ich-ändern) in der Dokumentationskarte, um zu sehen, welche Dateien aktualisiert werden müssen.
|
||||||
|
|
||||||
|
## ✅ Qualitätsprüfung
|
||||||
|
|
||||||
|
Die Dokumentation wurde systematisch für alle Rollen geprüft:
|
||||||
|
- **Entwickler:** Setup, Architektur, Code, Testing, Debugging ✅
|
||||||
|
- **Administratoren:** Installation, Betrieb, Wartung, Backup, DR ✅
|
||||||
|
- **Anwender:** Nutzung, Content-Erstellung, Workflows ✅
|
||||||
|
- **Tester:** Test-Strategien, Frameworks, Tools ✅
|
||||||
|
- **Deployment:** CI/CD, Rollout, Versionierung, Rollback ✅
|
||||||
|
|
||||||
|
Siehe [Qualitäts-Checkliste](00_General/00_quality_checklist.md) für Details.
|
||||||
|
|
||||||
|
## 💡 Feedback
|
||||||
|
|
||||||
|
Falls du Verbesserungsvorschläge für die Dokumentation hast oder Fehler findest, melde diese bitte im Repository.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
**Letzte Aktualisierung:** 2025-01-XX
|
||||||
|
**Version:** 2.9.1
|
||||||
|
|
||||||
@@ -35,3 +35,9 @@ streamlit>=1.39.0
|
|||||||
# Visualization (Parallelbetrieb)
|
# Visualization (Parallelbetrieb)
|
||||||
streamlit-agraph>=0.0.45
|
streamlit-agraph>=0.0.45
|
||||||
st-cytoscape
|
st-cytoscape
|
||||||
|
|
||||||
|
# Google gemini API
|
||||||
|
google-genai>=0.3.0
|
||||||
|
|
||||||
|
# OpenAi für OpenRouter
|
||||||
|
openai>=1.50.0
|
||||||
@@ -1,18 +1,59 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
tests/assert_payload_schema.py (compat v1.1)
|
FILE: scripts/assert_payload_schema.py
|
||||||
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
|
STATUS: Active
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
Prüft, ob die erwarteten Payload-Indizes (payload_schema) auf den drei Collections vorhanden sind.
|
Zweck:
|
||||||
Kompatibel mit älteren qdrant-client Versionen (ohne with_payload_schema im Wrapper).
|
-------
|
||||||
|
Prüft, ob die erwarteten Payload-Indizes auf allen Collections vorhanden sind.
|
||||||
|
Validiert Schema-Integrität für CI/CD und Wartung.
|
||||||
|
|
||||||
Collections & Pflichtfelder:
|
Funktionsweise:
|
||||||
- mindnet_notes : note_id, type, title, updated, tags
|
---------------
|
||||||
- mindnet_chunks : note_id, chunk_id, index, type, tags
|
1. Ermittelt Collections für das Präfix (notes, chunks, edges)
|
||||||
- mindnet_edges : note_id, kind, scope, source_id, target_id, chunk_id
|
2. Lädt Payload-Schema für jede Collection
|
||||||
|
3. Prüft, ob alle Pflichtfelder indiziert sind:
|
||||||
|
- notes: note_id, type, title, updated, tags
|
||||||
|
- chunks: note_id, chunk_id, index, type, tags
|
||||||
|
- edges: note_id, kind, scope, source_id, target_id, chunk_id
|
||||||
|
4. Gibt Validierungs-Ergebnis aus
|
||||||
|
|
||||||
Nutzung:
|
Ergebnis-Interpretation:
|
||||||
python3 -m tests.assert_payload_schema
|
------------------------
|
||||||
|
- Ausgabe: JSON mit Validierungs-Ergebnissen
|
||||||
|
* collections: Schema-Status pro Collection
|
||||||
|
* missing: Fehlende Indizes
|
||||||
|
* valid: true/false
|
||||||
|
- Exit-Code 0: Alle Indizes vorhanden
|
||||||
|
- Exit-Code 1: Fehlende Indizes gefunden
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- CI/CD-Validierung nach ensure_payload_indexes
|
||||||
|
- Diagnose von Index-Problemen
|
||||||
|
- Wartung und Audit
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Kompatibel mit verschiedenen qdrant-client Versionen
|
||||||
|
- Nutzt Fallback-Strategie für Schema-Abfrage
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 -m scripts.assert_payload_schema --prefix mindnet
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--prefix TEXT Collection-Präfix (Default: ENV COLLECTION_PREFIX oder mindnet)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
v1.1.0: Kompatibilität mit verschiedenen qdrant-client Versionen
|
||||||
|
v1.0.0: Initial Release
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|
||||||
@@ -23,7 +64,7 @@ import urllib.error
|
|||||||
import urllib.request
|
import urllib.request
|
||||||
from typing import Any, Dict, List
|
from typing import Any, Dict, List
|
||||||
|
|
||||||
from app.core.qdrant import QdrantConfig, get_client, collection_names
|
from app.core.database.qdrant import QdrantConfig, get_client, collection_names
|
||||||
|
|
||||||
REQUIRED = {
|
REQUIRED = {
|
||||||
"notes": ["note_id", "type", "title", "updated", "tags"],
|
"notes": ["note_id", "type", "title", "updated", "tags"],
|
||||||
|
|||||||
+61
-1
@@ -1,8 +1,68 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
FILE: scripts/audit_chunks.py
|
||||||
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
|
STATUS: Active
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
-------
|
||||||
|
Audit-Tool zur Analyse der Chunk-Qualität im Vault.
|
||||||
|
Erkennt Probleme wie überdimensionierte Chunks, leere Chunks und defekte Nachbarschafts-Links.
|
||||||
|
|
||||||
|
Funktionsweise:
|
||||||
|
---------------
|
||||||
|
1. Scannt alle Markdown-Dateien im Vault
|
||||||
|
2. Für jede Datei:
|
||||||
|
- Erzeugt Chunks via assemble_chunks
|
||||||
|
- Prüft Token-Anzahl pro Chunk
|
||||||
|
- Validiert Nachbarschafts-Links (prev/next)
|
||||||
|
3. Aggregiert Statistiken und identifiziert Probleme
|
||||||
|
|
||||||
|
Ergebnis-Interpretation:
|
||||||
|
------------------------
|
||||||
|
- Ausgabe: JSON mit Zusammenfassung
|
||||||
|
* notes: Anzahl verarbeiteter Notizen
|
||||||
|
* chunks_total: Gesamtanzahl Chunks
|
||||||
|
* chunks_per_note_avg: Durchschnittliche Chunks pro Note
|
||||||
|
* tokens_avg: Durchschnittliche Token pro Chunk
|
||||||
|
* tokens_p95: 95. Perzentil der Token-Verteilung
|
||||||
|
* issues_counts: Anzahl gefundener Probleme
|
||||||
|
- Zusätzlich: Liste der ersten 20 Probleme pro Kategorie
|
||||||
|
* oversize: Chunks > 600 Tokens
|
||||||
|
* broken_neighbors: Defekte prev/next Links
|
||||||
|
* empty: Leere Chunks (0 Tokens)
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Qualitätskontrolle nach Chunking-Änderungen
|
||||||
|
- Identifikation von Problemen vor dem Import
|
||||||
|
- Monitoring der Chunk-Verteilung
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Nutzt synchrones assemble_chunks (kann async sein)
|
||||||
|
- Heuristik für Oversize: > 600 Tokens
|
||||||
|
- Prüft nur strukturelle Integrität, keine semantische Qualität
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 -m scripts.audit_chunks --vault ./vault
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--vault PATH Pfad zum Vault-Verzeichnis (erforderlich)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
v1.0.0: Initial Release
|
||||||
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
import argparse, os, json, glob, statistics as stats
|
import argparse, os, json, glob, statistics as stats
|
||||||
from app.core.parser import read_markdown, normalize_frontmatter, validate_required_frontmatter
|
from app.core.parser import read_markdown, normalize_frontmatter, validate_required_frontmatter
|
||||||
from app.core.chunker import assemble_chunks
|
from app.core.chunking import assemble_chunks
|
||||||
|
|
||||||
def iter_md(root: str):
|
def iter_md(root: str):
|
||||||
for p in glob.glob(os.path.join(root, "**", "*.md"), recursive=True):
|
for p in glob.glob(os.path.join(root, "**", "*.md"), recursive=True):
|
||||||
|
|||||||
@@ -1,34 +1,66 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
Script: audit_edges_vs_expectations.py — Prüfe Kanten in Qdrant gegen Vault-Erwartungen
|
FILE: scripts/audit_edges_vs_expectations.py
|
||||||
Version: 1.0.0
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
Datum: 2025-09-09
|
STATUS: Active
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
Zweck
|
Zweck:
|
||||||
-----
|
|
||||||
- Liest Edges/Chunks/Notes aus Qdrant.
|
|
||||||
- Ermittelt erwartete Kanten-Anzahlen aus dem Vault:
|
|
||||||
* belongs_to : sollte == #Chunks
|
|
||||||
* next / prev : je Note (#Chunks_in_Note - 1)
|
|
||||||
* references : Summe aller Chunk-Wikilinks
|
|
||||||
* backlink : Summe einzigartiger Wikilinks pro Note (Note-Level)
|
|
||||||
- Vergleicht IST vs. SOLL und meldet Abweichungen.
|
|
||||||
|
|
||||||
ENV/Qdrant
|
|
||||||
----------
|
|
||||||
QDRANT_URL, QDRANT_API_KEY (optional), COLLECTION_PREFIX (Default: mindnet)
|
|
||||||
|
|
||||||
Aufrufe
|
|
||||||
-------
|
-------
|
||||||
# Gesamtaudit
|
Prüft Edge-Anzahlen in Qdrant gegen erwartete Werte aus dem Vault.
|
||||||
python3 -m scripts.audit_edges_vs_expectations --vault ./test_vault
|
Validiert strukturelle Integrität des Graphen.
|
||||||
|
|
||||||
# Mit anderem Prefix
|
Funktionsweise:
|
||||||
python3 -m scripts.audit_edges_vs_expectations --vault ./test_vault --prefix mindnet_dev
|
---------------
|
||||||
|
1. Liest Edges/Chunks/Notes aus Qdrant
|
||||||
|
2. Ermittelt erwartete Edge-Anzahlen aus Vault:
|
||||||
|
- belongs_to: sollte == #Chunks pro Note
|
||||||
|
- next/prev: je Note (#Chunks - 1)
|
||||||
|
- references: Summe aller Chunk-Wikilinks
|
||||||
|
- backlink: Summe einzigartiger Wikilinks (Note-Level)
|
||||||
|
3. Vergleicht IST vs. SOLL
|
||||||
|
4. Meldet Abweichungen
|
||||||
|
|
||||||
# Details anzeigen
|
Ergebnis-Interpretation:
|
||||||
python3 -m scripts.audit_edges_vs_expectations --vault ./test_vault --details
|
------------------------
|
||||||
|
- Ausgabe: JSON mit Vergleichs-Ergebnissen
|
||||||
|
* expected: Erwartete Edge-Anzahlen
|
||||||
|
* actual: Tatsächliche Edge-Anzahlen
|
||||||
|
* discrepancies: Abweichungen
|
||||||
|
* per_note: Details pro Note (mit --details)
|
||||||
|
- Exit-Code 0: Erfolgreich
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Validierung nach Importen
|
||||||
|
- Debugging von Edge-Problemen
|
||||||
|
- Qualitätskontrolle
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Prüft strukturelle, nicht semantische Korrektheit
|
||||||
|
- Kann bei großen Vaults langsam sein
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 -m scripts.audit_edges_vs_expectations --vault ./vault
|
||||||
|
python3 -m scripts.audit_edges_vs_expectations --vault ./vault --prefix mindnet_dev --details
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--vault PATH Pfad zum Vault-Verzeichnis (erforderlich)
|
||||||
|
--prefix TEXT Collection-Präfix (Default: mindnet)
|
||||||
|
--details Zeigt Details pro Note
|
||||||
|
|
||||||
|
Umgebungsvariablen:
|
||||||
|
-------------------
|
||||||
|
QDRANT_URL, QDRANT_API_KEY (optional), COLLECTION_PREFIX
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
v1.0.0 (2025-09-09): Initial Release
|
||||||
"""
|
"""
|
||||||
|
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|||||||
@@ -1,38 +1,61 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
Name: scripts/audit_vault_vs_qdrant.py
|
FILE: scripts/audit_vault_vs_qdrant.py
|
||||||
Version: v1.0.0 (2025-09-05)
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
Kurzbeschreibung:
|
STATUS: Active
|
||||||
Prüft die Konsistenz zwischen Obsidian-Vault und Qdrant:
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
- Zählt Markdown-Dateien mit gültiger Frontmatter (title, id, type, status, created).
|
|
||||||
- Zählt Wikilink-Vorkommen im Vault (regex wie in derive_edges.py).
|
|
||||||
- Liest Zählungen aus Qdrant (Notes/Chunks/Edges je kind).
|
|
||||||
- Vergleicht erwartete Wikilink-Anzahl (Vault) vs. tatsächlich importierte Edges (Qdrant).
|
|
||||||
- Listet Auffälligkeiten pro Note (z. B. Wikilinks im Vault, aber keine references in Qdrant).
|
|
||||||
|
|
||||||
Aufruf (aus Projekt-Root, im venv):
|
Zweck:
|
||||||
python3 -m scripts.audit_vault_vs_qdrant --vault ./vault --prefix mindnet
|
-------
|
||||||
|
Prüft Konsistenz zwischen Vault und Qdrant.
|
||||||
|
Vergleicht erwartete vs. tatsächliche Edge-Anzahlen.
|
||||||
|
|
||||||
Parameter:
|
Funktionsweise:
|
||||||
--vault Pfad zum Vault (z. B. ./vault)
|
---------------
|
||||||
--prefix Collection-Prefix in Qdrant (Default: mindnet)
|
1. Scannt Vault:
|
||||||
--limit Max. Punkte pro Scroll-Seite aus Qdrant (Default: 1000)
|
- Zählt Markdown-Dateien mit gültiger Frontmatter
|
||||||
|
- Zählt Wikilink-Vorkommen (regex wie in derive_edges.py)
|
||||||
|
2. Liest Qdrant:
|
||||||
|
- Zählt Notes/Chunks/Edges
|
||||||
|
- Gruppiert Edges nach kind
|
||||||
|
3. Vergleicht:
|
||||||
|
- Erwartete Wikilink-Anzahl (Vault) vs. references (Qdrant)
|
||||||
|
- Listet Auffälligkeiten pro Note
|
||||||
|
|
||||||
Voraussetzungen:
|
Ergebnis-Interpretation:
|
||||||
- Aktives Python venv mit installiertem qdrant-client.
|
------------------------
|
||||||
- Zugriff auf Qdrant per ENV (QDRANT_URL, QDRANT_API_KEY optional).
|
- Ausgabe: JSON mit Vergleichs-Ergebnissen
|
||||||
|
* vault_stats: Zählungen aus Vault
|
||||||
|
* qdrant_stats: Zählungen aus Qdrant
|
||||||
|
* discrepancies: Abweichungen und Auffälligkeiten
|
||||||
|
- Exit-Code 0: Erfolgreich
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Konsistenz-Check nach Importen
|
||||||
|
- Validierung der Edge-Erzeugung
|
||||||
|
- Debugging von fehlenden Links
|
||||||
|
|
||||||
Hinweise:
|
Hinweise:
|
||||||
- Der Wikilink-Regex entspricht dem in app/core/derive_edges.py verwendeten Muster. (Quelle: derive_edges.py) # :contentReference[oaicite:3]{index=3}
|
---------
|
||||||
- Pflicht-Frontmatter wird wie in app/core/parser.py geprüft. (Quelle: parser.py) # :contentReference[oaicite:4]{index=4}
|
- Wikilink-Regex entspricht derive_edges.py
|
||||||
- Collection-Namen & 1D-Edge-Vektoren folgen app/core/qdrant.py / qdrant_points.py. (Quellen: qdrant.py, qdrant_points.py) #
|
- Prüft strukturelle, nicht semantische Korrektheit
|
||||||
|
|
||||||
Changelog:
|
Aufruf:
|
||||||
v1.0.0: Erste Version.
|
-------
|
||||||
|
python3 -m scripts.audit_vault_vs_qdrant --vault ./vault --prefix mindnet
|
||||||
|
|
||||||
Autor:
|
Parameter:
|
||||||
mindnet – Datenimporte & Sync
|
----------
|
||||||
|
--vault PATH Pfad zum Vault-Verzeichnis (erforderlich)
|
||||||
|
--prefix TEXT Collection-Präfix (Default: mindnet)
|
||||||
|
--limit INT Max. Punkte pro Scroll-Seite (Default: 1000)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
v1.0.0 (2025-09-05): Initial Release
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
import argparse, os, glob, re, json
|
import argparse, os, glob, re, json
|
||||||
|
|||||||
@@ -1,12 +1,70 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
FILE: scripts/backfill_edges.py
|
||||||
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
|
STATUS: Active
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
-------
|
||||||
|
Füllt fehlende Edges nach, indem es Wikilinks aus dem Vault extrahiert
|
||||||
|
und in Qdrant schreibt. Nützlich nach Migrationen oder wenn Edges verloren gingen.
|
||||||
|
|
||||||
|
Funktionsweise:
|
||||||
|
---------------
|
||||||
|
1. Scannt alle Markdown-Dateien im Vault
|
||||||
|
2. Für jede Datei:
|
||||||
|
- Erstellt Note-Stub (minimaler Payload)
|
||||||
|
- Erstellt einen Chunk mit dem gesamten Body
|
||||||
|
- Extrahiert Wikilinks via derive_wikilink_edges
|
||||||
|
3. Baut Lookup-Index (Titel/Alias -> note_id)
|
||||||
|
4. Löst Wikilinks auf und erzeugt Edges
|
||||||
|
5. Schreibt Edges in Qdrant
|
||||||
|
|
||||||
|
Ergebnis-Interpretation:
|
||||||
|
------------------------
|
||||||
|
- Ausgabe: JSON mit Statistiken
|
||||||
|
* notes_scanned: Anzahl verarbeiteter Notizen
|
||||||
|
* edges_upserted: Anzahl geschriebener Edges
|
||||||
|
- Exit-Code 0: Erfolgreich
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Nach Migrationen oder Datenverlust
|
||||||
|
- Wenn Edges fehlen oder unvollständig sind
|
||||||
|
- Zur Reparatur des Graphen
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Überschreibt existierende Edges (kein Merge)
|
||||||
|
- Nutzt vereinfachtes Chunking (1 Chunk = gesamter Body)
|
||||||
|
- Erzeugt nur Wikilink-Edges, keine anderen Edge-Typen
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 -m scripts.backfill_edges --vault ./vault
|
||||||
|
python3 -m scripts.backfill_edges --vault ./vault --exclude /.obsidian/ /_backup/
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--vault PATH Pfad zum Vault-Verzeichnis (erforderlich)
|
||||||
|
--exclude PATH Pfade zum Ausschließen (Default: /.obsidian/, /_backup_frontmatter/)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
v1.0.0: Initial Release
|
||||||
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
import argparse, glob, json, os
|
import argparse, glob, json, os
|
||||||
from typing import List, Tuple
|
from typing import List, Tuple
|
||||||
|
|
||||||
from app.core.parser import read_markdown # gibt je nach Implementierung ein Objekt ODER ein (fm, body)-Tuple
|
from app.core.parser import read_markdown # gibt je nach Implementierung ein Objekt ODER ein (fm, body)-Tuple
|
||||||
from app.core.qdrant import QdrantConfig, get_client, ensure_collections
|
from app.core.database.qdrant import QdrantConfig, get_client, ensure_collections
|
||||||
from app.core.qdrant_points import points_for_edges, upsert_batch
|
from app.core.database.qdrant_points import points_for_edges, upsert_batch
|
||||||
from app.core.derive_edges import build_note_index, derive_wikilink_edges
|
# TODO: build_note_index und derive_wikilink_edges müssen noch implementiert werden
|
||||||
|
# from app.core.graph.graph_derive_edges import build_note_index, derive_wikilink_edges
|
||||||
|
|
||||||
|
|
||||||
def _coerce_parsed(note_or_tuple):
|
def _coerce_parsed(note_or_tuple):
|
||||||
|
|||||||
@@ -0,0 +1,156 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
FILE: scripts/debug_edge_loss.py
|
||||||
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
|
STATUS: Active (Debug-Tool)
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
-------
|
||||||
|
Debug-Tool zur Analyse von Edge-Verlust-Problemen bei der Chunk-Verarbeitung.
|
||||||
|
Hilft zu verstehen, warum bestimmte Edges nicht erkannt oder verloren gehen.
|
||||||
|
|
||||||
|
Funktionsweise:
|
||||||
|
---------------
|
||||||
|
1. Analysiert eine einzelne Markdown-Datei
|
||||||
|
2. Führt zwei Analyseschritte durch:
|
||||||
|
a) Pre-Scan: Extrahiert alle Edge-Kandidaten aus dem rohen Text
|
||||||
|
- Wikilinks
|
||||||
|
- Typed Relations
|
||||||
|
- Callout Relations
|
||||||
|
b) Chunk-Analyse:
|
||||||
|
- Erstellt Chunks mit konfigurierbarem Profil
|
||||||
|
- Prüft, welche Edges in jedem Chunk gefunden werden
|
||||||
|
- Vergleicht mit Pre-Scan-Ergebnissen
|
||||||
|
3. Gibt detaillierte Analyse pro Chunk aus
|
||||||
|
|
||||||
|
Ergebnis-Interpretation:
|
||||||
|
------------------------
|
||||||
|
- [1] Globale Kandidaten: Alle Edge-Kandidaten, die im Text vorhanden sind
|
||||||
|
- [2] Chunk-Struktur: Für jeden Chunk:
|
||||||
|
* Section-Pfad
|
||||||
|
* Text-Snippet
|
||||||
|
* Gefundene explizite Kanten (callout:edge, inline:rel)
|
||||||
|
* Warnung, falls Callout im Text vorhanden, aber nicht erkannt
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Debugging von Edge-Verlust bei Chunk-Grenzen
|
||||||
|
- Validierung der Edge-Extraktion in verschiedenen Chunk-Kontexten
|
||||||
|
- Analyse von Problemen mit Callout-Erkennung
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Asynchrones Skript (nutzt assemble_chunks async API)
|
||||||
|
- Konfigurierbares Chunking-Profil (Standard: sliding_window, 400/600 chars)
|
||||||
|
- Smart Edge Allocation ist standardmäßig deaktiviert für klare Analyse
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 scripts/debug_edge_loss.py [PFAD_ZUR_DATEI.md]
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
Keine CLI-Parameter. Dateipfad als erstes Argument oder Standard-Pfad.
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Kompatibilität mit WP-14 Modularisierung
|
||||||
|
- Entfernt: _extract_all_edges_from_md (nicht mehr vorhanden)
|
||||||
|
- Ersetzt durch: extract_wikilinks, extract_typed_relations, extract_callout_relations
|
||||||
|
- Chunk-Payload-Struktur angepasst (window, type hinzugefügt)
|
||||||
|
v1.0.0: Erster Release
|
||||||
|
"""
|
||||||
|
import asyncio
|
||||||
|
import os
|
||||||
|
import sys
|
||||||
|
from pathlib import Path
|
||||||
|
|
||||||
|
# Pfad-Setup
|
||||||
|
sys.path.insert(0, os.path.abspath("."))
|
||||||
|
|
||||||
|
from app.core.chunking import assemble_chunks
|
||||||
|
from app.core.graph.graph_derive_edges import build_edges_for_note
|
||||||
|
from app.core.parser import extract_wikilinks
|
||||||
|
from app.core.graph.graph_extractors import extract_typed_relations, extract_callout_relations
|
||||||
|
|
||||||
|
# Mock für Settings, falls nötig
|
||||||
|
os.environ["MINDNET_LLM_MODEL"] = "phi3:mini"
|
||||||
|
|
||||||
|
async def analyze_file(file_path: str):
|
||||||
|
print(f"\n=== ANALYSE: {file_path} ===")
|
||||||
|
|
||||||
|
with open(file_path, "r", encoding="utf-8") as f:
|
||||||
|
text = f.read()
|
||||||
|
|
||||||
|
# 1. Globale Kandidaten (Was sieht der Pre-Scan?)
|
||||||
|
# Wir extrahieren alle Edge-Kandidaten aus dem Text
|
||||||
|
note_id = Path(file_path).stem
|
||||||
|
candidates = []
|
||||||
|
|
||||||
|
# Wikilinks extrahieren
|
||||||
|
wikilinks = extract_wikilinks(text)
|
||||||
|
for wl in wikilinks:
|
||||||
|
candidates.append(f"wikilink:{wl}")
|
||||||
|
|
||||||
|
# Typed Relations extrahieren
|
||||||
|
typed_rels, _ = extract_typed_relations(text)
|
||||||
|
for kind, target in typed_rels:
|
||||||
|
candidates.append(f"typed:{kind}:{target}")
|
||||||
|
|
||||||
|
# Callout Relations extrahieren
|
||||||
|
callout_rels, _ = extract_callout_relations(text)
|
||||||
|
for kind, target in callout_rels:
|
||||||
|
candidates.append(f"callout:{kind}:{target}")
|
||||||
|
|
||||||
|
print(f"\n[1] Globale Kandidaten (Pre-Scan):")
|
||||||
|
for c in candidates:
|
||||||
|
print(f" - {c}")
|
||||||
|
|
||||||
|
# 2. Chunking (Ohne Smart Edges erstmal, um die physische Integrität zu prüfen)
|
||||||
|
# Wir nutzen ein Profil, das dem User-Setup entspricht
|
||||||
|
config = {
|
||||||
|
"strategy": "sliding_window",
|
||||||
|
"target": 400,
|
||||||
|
"max": 600,
|
||||||
|
"overlap": 50,
|
||||||
|
"enable_smart_edge_allocation": False # Erstmal aus
|
||||||
|
}
|
||||||
|
|
||||||
|
chunks = await assemble_chunks(note_id, text, "concept", config=config)
|
||||||
|
|
||||||
|
print(f"\n[2] Chunk-Struktur & Physische Kanten:")
|
||||||
|
for i, chunk in enumerate(chunks):
|
||||||
|
print(f"\n--- Chunk {i} (Section: {chunk.section_path}) ---")
|
||||||
|
print(f"Snippet: {chunk.text[:50]}...")
|
||||||
|
|
||||||
|
# Was findet derive_edges in diesem rohen Chunk?
|
||||||
|
# Wir simulieren das Payload-Dict, das derive_edges erwartet
|
||||||
|
chunk_pl = {
|
||||||
|
"text": chunk.text,
|
||||||
|
"window": chunk.window or chunk.text,
|
||||||
|
"chunk_id": chunk.id,
|
||||||
|
"type": "concept"
|
||||||
|
}
|
||||||
|
edges = build_edges_for_note(note_id, [chunk_pl])
|
||||||
|
|
||||||
|
found_explicitly = [f"{e['kind']}:{e.get('target_id')}" for e in edges if e['rule_id'] in ['callout:edge', 'inline:rel']]
|
||||||
|
|
||||||
|
if found_explicitly:
|
||||||
|
print(f" ✅ Gefundene Explizite Kanten: {found_explicitly}")
|
||||||
|
else:
|
||||||
|
print(f" ❌ Keine expliziten Kanten gefunden (trotz Callout im Text?)")
|
||||||
|
|
||||||
|
# Check auf Callout im Text
|
||||||
|
if "> [!edge]" in chunk.text:
|
||||||
|
print(" ℹ️ HINWEIS: '> [!edge]' String ist im Text vorhanden!")
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
# Pfad zu deiner problematischen Datei hier anpassen!
|
||||||
|
target_file = "./vault_master/Dein_Problematisches_File.md"
|
||||||
|
|
||||||
|
if len(sys.argv) > 1:
|
||||||
|
target_file = sys.argv[1]
|
||||||
|
|
||||||
|
asyncio.run(analyze_file(target_file))
|
||||||
@@ -1,15 +1,62 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
scripts/debug_note_payload.py
|
FILE: scripts/debug_note_payload.py
|
||||||
Zeigt, welche app.core.note_payload geladen wird, ruft make_note_payload auf
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
und druckt Typ/Preview der Rückgabe.
|
STATUS: Active (Debug-Tool)
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
-------
|
||||||
|
Debug-Tool zur Analyse der Note-Payload-Erzeugung.
|
||||||
|
Zeigt, welches Modul geladen wird und die erzeugte Payload-Struktur.
|
||||||
|
|
||||||
|
Funktionsweise:
|
||||||
|
---------------
|
||||||
|
1. Lädt Note-Payload-Modul
|
||||||
|
2. Liest Markdown-Datei
|
||||||
|
3. Ruft make_note_payload auf
|
||||||
|
4. Zeigt Modul-Pfad, Rückgabe-Typ und Payload-Inhalt
|
||||||
|
|
||||||
|
Ergebnis-Interpretation:
|
||||||
|
------------------------
|
||||||
|
- Ausgabe: Debug-Informationen
|
||||||
|
* module_path: Pfad zum geladenen Modul
|
||||||
|
* return_type: Typ der Rückgabe
|
||||||
|
* keys: Liste der Payload-Keys (falls Dict)
|
||||||
|
* JSON: Vollständige Payload (falls Dict)
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Debugging von Payload-Erzeugungsproblemen
|
||||||
|
- Validierung der Modul-Ladung
|
||||||
|
- Analyse der Payload-Struktur
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Nutzt app.core.ingestion.ingestion_note_payload (nicht mehr app.core.note_payload)
|
||||||
|
- Zeigt vollständige Payload-Struktur
|
||||||
|
|
||||||
Aufruf:
|
Aufruf:
|
||||||
python3 -m scripts.debug_note_payload --file ./test_vault/40_concepts/concept-alpha.md --vault-root ./test_vault
|
-------
|
||||||
|
python3 -m scripts.debug_note_payload --file ./vault/note.md --vault-root ./vault
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--file PATH Pfad zur Markdown-Datei (erforderlich)
|
||||||
|
--vault-root PATH Vault-Root für relative Pfade (optional)
|
||||||
|
--hash-mode MODE Hash-Modus (optional)
|
||||||
|
--hash-normalize N Hash-Normalisierung (optional)
|
||||||
|
--hash-source SRC Hash-Quelle (optional)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Kompatibilität mit WP-14 Modularisierung
|
||||||
|
- Geändert: app.core.note_payload → app.core.ingestion.ingestion_note_payload
|
||||||
|
v1.0.0: Initial Release
|
||||||
"""
|
"""
|
||||||
import argparse, json, os, pprint
|
import argparse, json, os, pprint
|
||||||
from app.core import note_payload as np
|
from app.core.ingestion import ingestion_note_payload as np
|
||||||
from app.core.parser import read_markdown
|
from app.core.parser import read_markdown
|
||||||
|
|
||||||
def main():
|
def main():
|
||||||
@@ -24,7 +71,6 @@ def main():
|
|||||||
print("module_path:", getattr(np, "__file__", "<unknown>"))
|
print("module_path:", getattr(np, "__file__", "<unknown>"))
|
||||||
parsed = read_markdown(args.file)
|
parsed = read_markdown(args.file)
|
||||||
res = np.make_note_payload(parsed, vault_root=args.vault_root,
|
res = np.make_note_payload(parsed, vault_root=args.vault_root,
|
||||||
hash_mode=args.hash_mode,
|
|
||||||
hash_normalize=args.hash_normalize,
|
hash_normalize=args.hash_normalize,
|
||||||
hash_source=args.hash_source,
|
hash_source=args.hash_source,
|
||||||
file_path=args.file)
|
file_path=args.file)
|
||||||
|
|||||||
@@ -1,18 +1,59 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
scripts/debug_qdrant_state.py
|
FILE: scripts/debug_qdrant_state.py
|
||||||
Zeigt Prefix, Collections und einfache Counts (notes/chunks/edges) + sample note_ids.
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
|
STATUS: Active (Debug-Tool)
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
-------
|
||||||
|
Zeigt schnelle Übersicht über den Qdrant-Zustand.
|
||||||
|
Gibt Prefix, Collections, Punkt-Anzahlen und Beispiel-IDs aus.
|
||||||
|
|
||||||
|
Funktionsweise:
|
||||||
|
---------------
|
||||||
|
1. Verbindet mit Qdrant
|
||||||
|
2. Ermittelt Collections für das Präfix
|
||||||
|
3. Zählt Points in jeder Collection
|
||||||
|
4. Extrahiert Beispiel-IDs (erste 5)
|
||||||
|
|
||||||
|
Ergebnis-Interpretation:
|
||||||
|
------------------------
|
||||||
|
- Ausgabe: JSON mit Zustands-Übersicht
|
||||||
|
* prefix: Collection-Präfix
|
||||||
|
* collections: Namen der Collections
|
||||||
|
* counts: Punkt-Anzahlen pro Collection
|
||||||
|
* samples: Beispiel-IDs pro Collection
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Schnelle Status-Prüfung
|
||||||
|
- Debugging von Verbindungsproblemen
|
||||||
|
- Validierung der Collection-Struktur
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Nutzt count() für exakte Zählung (falls verfügbar)
|
||||||
|
- Fallback auf scroll() bei Problemen
|
||||||
|
|
||||||
Aufruf:
|
Aufruf:
|
||||||
export COLLECTION_PREFIX="mindnet"
|
-------
|
||||||
python3 -m scripts.debug_qdrant_state
|
python3 -m scripts.debug_qdrant_state
|
||||||
# oder:
|
python3 -m scripts.debug_qdrant_state --prefix mindnet_dev
|
||||||
python3 -m scripts.debug_qdrant_state --prefix mindnet
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--prefix TEXT Collection-Präfix (Default: ENV COLLECTION_PREFIX oder mindnet)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
v1.0.0: Initial Release
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
import argparse, os, json
|
import argparse, os, json
|
||||||
from app.core.qdrant import QdrantConfig, get_client
|
from app.core.database.qdrant import QdrantConfig, get_client
|
||||||
|
|
||||||
def count_points(client, collection: str) -> int:
|
def count_points(client, collection: str) -> int:
|
||||||
try:
|
try:
|
||||||
|
|||||||
@@ -1,13 +1,56 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
scripts/diag_payload_indexes.py (compat v1.2)
|
FILE: scripts/diag_payload_indexes.py
|
||||||
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
|
STATUS: Active
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
Zeigt payload_schema je Collection; kompatibel mit älteren qdrant-client Versionen.
|
Zweck:
|
||||||
Strategie (in dieser Reihenfolge):
|
-------
|
||||||
1) openapi_client.collections_api.get_collection(..., with_payload_schema=True)
|
Zeigt das Payload-Schema (Indizes) für alle Collections eines Präfixes.
|
||||||
2) client.get_collection(...)
|
Nützlich zur Diagnose von Index-Problemen oder Validierung der Schema-Struktur.
|
||||||
3) HTTP GET /collections/{name}?with_payload_schema=true
|
|
||||||
|
Funktionsweise:
|
||||||
|
---------------
|
||||||
|
1. Ermittelt Collections für das Präfix (notes, chunks, edges)
|
||||||
|
2. Für jede Collection:
|
||||||
|
- Versucht Payload-Schema über verschiedene Methoden zu laden:
|
||||||
|
* qdrant-client API (get_collection)
|
||||||
|
* HTTP GET direkt (Fallback)
|
||||||
|
- Zeigt Schema als JSON
|
||||||
|
3. Gibt Schema-Übersicht aus
|
||||||
|
|
||||||
|
Ergebnis-Interpretation:
|
||||||
|
------------------------
|
||||||
|
- Ausgabe: JSON pro Collection mit payload_schema
|
||||||
|
- Zeigt vorhandene Indizes (keyword, text) und deren Konfiguration
|
||||||
|
- Exit-Code 0: Erfolgreich
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Diagnose von Index-Problemen
|
||||||
|
- Validierung nach ensure_payload_indexes
|
||||||
|
- Dokumentation der Schema-Struktur
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Kompatibel mit verschiedenen qdrant-client Versionen
|
||||||
|
- Nutzt Fallback-Strategie für maximale Kompatibilität
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 -m scripts.diag_payload_indexes --prefix mindnet
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--prefix TEXT Collection-Präfix (Default: ENV COLLECTION_PREFIX oder mindnet)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
v1.2.0: Kompatibilität mit verschiedenen qdrant-client Versionen
|
||||||
|
v1.0.0: Initial Release
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|
||||||
@@ -17,7 +60,7 @@ import urllib.request
|
|||||||
import urllib.error
|
import urllib.error
|
||||||
from typing import Any, Dict
|
from typing import Any, Dict
|
||||||
|
|
||||||
from app.core.qdrant import QdrantConfig, get_client, collection_names
|
from app.core.database.qdrant import QdrantConfig, get_client, collection_names
|
||||||
|
|
||||||
|
|
||||||
def _safe_model_dump(obj: Any) -> Dict[str, Any]:
|
def _safe_model_dump(obj: Any) -> Dict[str, Any]:
|
||||||
|
|||||||
@@ -1,8 +1,62 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
FILE: scripts/dump_note_chunks.py
|
||||||
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
|
STATUS: Active
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
-------
|
||||||
|
Gibt die Chunks einer bestimmten Note in lesbarer Form aus.
|
||||||
|
Nützlich zur Analyse der Chunk-Struktur und -Inhalte.
|
||||||
|
|
||||||
|
Funktionsweise:
|
||||||
|
---------------
|
||||||
|
1. Sucht Note nach note-id im Vault
|
||||||
|
2. Erzeugt Chunks via assemble_chunks
|
||||||
|
3. Gibt Chunks formatiert aus:
|
||||||
|
- Chunk-ID, Token-Anzahl, Section-Pfad
|
||||||
|
- Vollständiger Chunk-Text
|
||||||
|
|
||||||
|
Ergebnis-Interpretation:
|
||||||
|
------------------------
|
||||||
|
- Ausgabe: Formatierter Text
|
||||||
|
* Header: "# Titel (note-id) — X chunks"
|
||||||
|
* Pro Chunk: "--- chunk_id | tokens | section_path ---"
|
||||||
|
* Gefolgt vom Chunk-Text
|
||||||
|
- Exit-Code 0: Erfolgreich
|
||||||
|
- Fehlermeldung, wenn Note nicht gefunden
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Analyse der Chunk-Struktur einer spezifischen Note
|
||||||
|
- Debugging von Chunking-Problemen
|
||||||
|
- Validierung der Chunk-Inhalte
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Nutzt synchrones assemble_chunks (kann async sein)
|
||||||
|
- Gibt nur erste gefundene Note aus (bei Duplikaten)
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 -m scripts.dump_note_chunks --vault ./vault --note-id my-note-id
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--vault PATH Pfad zum Vault-Verzeichnis (erforderlich)
|
||||||
|
--note-id ID Note-ID zum Dumpen (erforderlich)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
v1.0.0: Initial Release
|
||||||
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
import argparse, os, glob
|
import argparse, os, glob
|
||||||
from app.core.parser import read_markdown, normalize_frontmatter, validate_required_frontmatter
|
from app.core.parser import read_markdown, normalize_frontmatter, validate_required_frontmatter
|
||||||
from app.core.chunker import assemble_chunks
|
from app.core.chunking import assemble_chunks
|
||||||
|
|
||||||
def iter_md(root: str):
|
def iter_md(root: str):
|
||||||
return [p for p in glob.glob(os.path.join(root, "**", "*.md"), recursive=True)]
|
return [p for p in glob.glob(os.path.join(root, "**", "*.md"), recursive=True)]
|
||||||
|
|||||||
+63
-15
@@ -1,22 +1,70 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# scripts/edges_dryrun.py
|
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
Dry-Run: Erzeuge Edges aus einem Vault **ohne** Qdrant-Upsert.
|
FILE: scripts/edges_dryrun.py
|
||||||
- Liest Markdown mit YAML-Frontmatter
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
- Chunking: einfacher Absatz-Chunker (Index + text)
|
STATUS: Active
|
||||||
- Kanten: nutzt app.core.edges.build_edges_for_note()
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
- Ausgabe: JSON pro Note mit Edge-Counts und 3 Beispiel-Payloads
|
|
||||||
|
Zweck:
|
||||||
|
-------
|
||||||
|
Simuliert die Edge-Erzeugung aus Markdown-Dateien ohne Datenbank-Upsert.
|
||||||
|
Nützlich zur Analyse, welche Kanten aus einem Vault generiert würden.
|
||||||
|
|
||||||
|
Funktionsweise:
|
||||||
|
---------------
|
||||||
|
1. Scannt alle .md-Dateien im Vault
|
||||||
|
2. Für jede Datei:
|
||||||
|
- Parst Markdown mit Frontmatter
|
||||||
|
- Erstellt einfache Absatz-basierte Chunks (vereinfachtes Chunking)
|
||||||
|
- Extrahiert Edge-Kandidaten via build_edges_for_note():
|
||||||
|
* Wikilinks [[...]]
|
||||||
|
* Typed Relations [[rel:KIND|Target]]
|
||||||
|
* Callout Relations [!edge] KIND: [[Target]]
|
||||||
|
* Struktur-Kanten (belongs_to, next, prev)
|
||||||
|
- Zählt Edges nach Typ (kind/relation)
|
||||||
|
3. Gibt JSON-Report aus mit Edge-Statistiken pro Note
|
||||||
|
|
||||||
|
Ergebnis-Interpretation:
|
||||||
|
------------------------
|
||||||
|
- Ausgabe: JSON-Array mit einem Objekt pro Note
|
||||||
|
- Jedes Objekt enthält:
|
||||||
|
* path: Dateipfad
|
||||||
|
* note_id: Note-Identifier
|
||||||
|
* type: Note-Typ
|
||||||
|
* chunks: Anzahl der Chunks
|
||||||
|
* edges_total: Gesamtanzahl der Edges
|
||||||
|
* edges_by_kind: Dictionary mit Edge-Anzahl pro Typ
|
||||||
|
* samples: Erste 3 Edges als Beispiele
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Analyse der Graph-Struktur vor dem Import
|
||||||
|
- Debugging von fehlenden oder unerwarteten Edges
|
||||||
|
- Validierung der Edge-Extraktion-Logik
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Verwendet vereinfachtes Chunking (Absatz-basiert), nicht das vollständige Chunking-System
|
||||||
|
- Edge-Extraktion entspricht der Produktions-Logik (app.core.derive_edges)
|
||||||
|
- Keine Datenbank-Operationen, rein analytisch
|
||||||
|
|
||||||
Aufruf:
|
Aufruf:
|
||||||
python3 -m scripts.edges_dryrun --vault ./vault
|
-------
|
||||||
|
python3 -m scripts.edges_dryrun --vault ./vault
|
||||||
|
python3 -m scripts.edges_dryrun --vault ./vault --include-note-scope-refs
|
||||||
|
|
||||||
Optional:
|
Parameter:
|
||||||
--include-note-scope-refs # auch Frontmatter-Links (links[].target_id) als Note-Scope-Referenzen
|
----------
|
||||||
|
--vault PATH Pfad zum Vault-Verzeichnis (erforderlich)
|
||||||
|
--include-note-scope-refs Berücksichtigt auch Frontmatter-Links (links[].target_id)
|
||||||
|
|
||||||
Voraussetzungen:
|
Änderungen:
|
||||||
- app/core/parser.py (read_markdown, normalize_frontmatter)
|
-----------
|
||||||
- app/core/edges.py (dieses Modul forwardet zur v2-Implementierung)
|
v2.1.0 (2025-12-15): Kompatibilität mit WP-14 Modularisierung
|
||||||
|
- Geändert: app.core.edges → app.core.derive_edges
|
||||||
|
- Parameter korrigiert: chunk_payloads → chunks, note_level_refs → note_level_references
|
||||||
|
v1.0.0: Erster Release
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|
||||||
@@ -28,7 +76,7 @@ from pathlib import Path
|
|||||||
from typing import Dict, List, Optional
|
from typing import Dict, List, Optional
|
||||||
|
|
||||||
from app.core.parser import read_markdown, normalize_frontmatter
|
from app.core.parser import read_markdown, normalize_frontmatter
|
||||||
from app.core.edges import build_edges_for_note
|
from app.core.graph.graph_derive_edges import build_edges_for_note
|
||||||
|
|
||||||
def _iter_markdown(vault: str):
|
def _iter_markdown(vault: str):
|
||||||
for p in Path(vault).rglob("*.md"):
|
for p in Path(vault).rglob("*.md"):
|
||||||
@@ -83,8 +131,8 @@ def main():
|
|||||||
|
|
||||||
edges = build_edges_for_note(
|
edges = build_edges_for_note(
|
||||||
note_id=note_id,
|
note_id=note_id,
|
||||||
chunk_payloads=chunks,
|
chunks=chunks,
|
||||||
note_level_refs=note_refs,
|
note_level_references=note_refs,
|
||||||
include_note_scope_refs=include_note_scope,
|
include_note_scope_refs=include_note_scope,
|
||||||
)
|
)
|
||||||
kinds = {}
|
kinds = {}
|
||||||
|
|||||||
+58
-13
@@ -1,19 +1,64 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
scripts/edges_full_check.py
|
FILE: scripts/edges_full_check.py
|
||||||
Zählt und validiert Kanten in Qdrant. Erkennt folgende Rule-Gruppen:
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
- explicit_total: rule_id startswith "explicit:" (z.B. explicit:wikilink, explicit:note_scope)
|
STATUS: Active
|
||||||
- callout_total: rule_id == "callout:edge"
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
- inline_total: rule_id startswith "inline:" (z.B. inline:rel)
|
|
||||||
- defaults_total: rule_id startswith "edge_defaults:"
|
|
||||||
- structure: rule_id in {"structure:belongs_to","structure:order"}
|
|
||||||
|
|
||||||
Gibt zusätzlich:
|
Zweck:
|
||||||
- edges_by_kind (aggregiert)
|
-------
|
||||||
- notes/chunks/edges Anzahlen
|
Umfassende Validierung der Edge-Struktur in Qdrant.
|
||||||
- multi_callout_detected: True, falls ein Chunk mehrere Callout-Ziele der gleichen Relation enthält
|
Analysiert Edge-Typen, Rule-Gruppen und strukturelle Integrität.
|
||||||
- per_note_checks: belongs_to == chunks, next == prev == (chunks-1)
|
|
||||||
|
Funktionsweise:
|
||||||
|
---------------
|
||||||
|
1. Lädt alle Edges aus {prefix}_edges
|
||||||
|
2. Gruppiert Edges nach rule_id:
|
||||||
|
- explicit: rule_id startswith "explicit:" (wikilink, note_scope)
|
||||||
|
- callout: rule_id == "callout:edge"
|
||||||
|
- inline: rule_id startswith "inline:" (rel)
|
||||||
|
- defaults: rule_id startswith "edge_defaults:"
|
||||||
|
- structure: rule_id in {"structure:belongs_to", "structure:order"}
|
||||||
|
3. Prüft strukturelle Integrität:
|
||||||
|
- belongs_to == chunks pro Note
|
||||||
|
- next == prev == (chunks-1) pro Note
|
||||||
|
- Multi-Callout-Erkennung
|
||||||
|
4. Aggregiert Statistiken
|
||||||
|
|
||||||
|
Ergebnis-Interpretation:
|
||||||
|
------------------------
|
||||||
|
- Ausgabe: JSON mit umfassender Analyse
|
||||||
|
* counts: notes/chunks/edges Anzahlen
|
||||||
|
* edges_by_kind: Aggregierte Edge-Anzahl pro Typ
|
||||||
|
* rule_groups: Zählung nach Rule-Gruppen
|
||||||
|
* per_note_checks: Strukturelle Validierung pro Note
|
||||||
|
* multi_callout_detected: Boolean
|
||||||
|
- Exit-Code 0: Erfolgreich
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Umfassende Graph-Analyse
|
||||||
|
- Validierung nach größeren Änderungen
|
||||||
|
- Debugging von Edge-Problemen
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Kann bei großen Graphen langsam sein
|
||||||
|
- Prüft strukturelle, nicht semantische Korrektheit
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 -m scripts.edges_full_check --prefix mindnet
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--prefix TEXT Collection-Präfix (Default: ENV COLLECTION_PREFIX oder mindnet)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
v1.0.0: Initial Release
|
||||||
"""
|
"""
|
||||||
|
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
@@ -22,7 +67,7 @@ import json
|
|||||||
from collections import Counter, defaultdict
|
from collections import Counter, defaultdict
|
||||||
from typing import Dict, Any, List, Tuple
|
from typing import Dict, Any, List, Tuple
|
||||||
|
|
||||||
from app.core.qdrant import QdrantConfig, get_client
|
from app.core.database.qdrant import QdrantConfig, get_client
|
||||||
from qdrant_client.http import models as rest
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
|
|
||||||
|
|||||||
+64
-30
@@ -1,39 +1,74 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
Script: scripts/export_markdown.py — Qdrant → Markdown (Vault)
|
FILE: scripts/export_markdown.py
|
||||||
Version: 1.4.1
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
Datum: 2025-09-10
|
STATUS: Active
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
Funktion
|
Zweck:
|
||||||
--------
|
-------
|
||||||
Exportiert Notes (Frontmatter + Body) aus Qdrant in einen Zielordner. Der Body wird
|
Exportiert Notes (Frontmatter + Body) aus Qdrant zurück in Markdown-Dateien.
|
||||||
bevorzugt aus dem Feld `fulltext` rekonstruiert; falls leer/nicht vorhanden, aus Chunks
|
Nützlich für Backup, Migration oder Notfall-Wiederherstellung.
|
||||||
(Sortierung: seq → chunk_index → Nummer in chunk_id). Pfade werden **relativ** geschrieben.
|
|
||||||
|
|
||||||
Optionen
|
Funktionsweise:
|
||||||
--------
|
---------------
|
||||||
--out PATH Zielordner (erforderlich)
|
1. Liest alle Notes aus Qdrant (Collection: {prefix}_notes)
|
||||||
--prefix TEXT Collection-Prefix (CLI überschreibt ENV COLLECTION_PREFIX)
|
2. Für jede Note:
|
||||||
--note-id ID Nur eine Note exportieren
|
- Rekonstruiert Frontmatter aus Payload-Feldern
|
||||||
--overwrite Existierende Dateien überschreiben
|
- Rekonstruiert Body:
|
||||||
--include-edges MODE none|yaml|footer (Default: none)
|
* Primär: aus `fulltext` Feld (falls vorhanden)
|
||||||
--flatten-paths Alle Dateien flach schreiben; Originalpfad in FM: orig_path
|
* Fallback: aus Chunks (sortiert nach seq → chunk_index → chunk_id)
|
||||||
|
- Optional: Fügt Edges als Links hinzu (yaml/footer)
|
||||||
|
3. Schreibt Markdown-Dateien mit relativen Pfaden
|
||||||
|
|
||||||
ENV
|
Ergebnis-Interpretation:
|
||||||
---
|
------------------------
|
||||||
|
- Ausgabe: JSON pro Datei mit note_id, path, decision (write/skip-exists)
|
||||||
|
- Abschluss: "Done. Exported notes: X"
|
||||||
|
- Exit-Code 0: Erfolgreich
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Backup vor größeren Änderungen
|
||||||
|
- Migration zwischen Instanzen
|
||||||
|
- Notfall-Wiederherstellung bei Vault-Verlust
|
||||||
|
- Analyse der in Qdrant gespeicherten Daten
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Pfade werden relativ geschrieben (wie im Original-Vault)
|
||||||
|
- --flatten-paths: Alle Dateien in einen Ordner (orig_path in Frontmatter)
|
||||||
|
- Body-Rekonstruktion aus Chunks kann bei sehr langen Dokumenten unvollständig sein
|
||||||
|
- Edge-Export optional (none/yaml/footer)
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 -m scripts.export_markdown --out ./_exportVault
|
||||||
|
python3 -m scripts.export_markdown --out ./_exportVault --note-id concept-alpha --include-edges yaml
|
||||||
|
python3 -m scripts.export_markdown --out ./_exportVault --flatten-paths --overwrite
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--out PATH Zielordner für exportierte Markdown-Dateien (erforderlich)
|
||||||
|
--prefix TEXT Collection-Präfix (überschreibt ENV COLLECTION_PREFIX)
|
||||||
|
--note-id ID Nur eine bestimmte Note-ID exportieren (optional)
|
||||||
|
--overwrite Existierende Dateien überschreiben (sonst skip)
|
||||||
|
--include-edges MODE none|yaml|footer (Default: none)
|
||||||
|
- none: Keine Edges
|
||||||
|
- yaml: Als YAML-Feld 'references' im Frontmatter
|
||||||
|
- footer: Als Markdown-Links am Ende
|
||||||
|
--flatten-paths Alle Dateien flach schreiben (orig_path in Frontmatter)
|
||||||
|
|
||||||
|
Umgebungsvariablen:
|
||||||
|
-------------------
|
||||||
COLLECTION_PREFIX, QDRANT_URL | QDRANT_HOST/QDRANT_PORT | QDRANT_API_KEY
|
COLLECTION_PREFIX, QDRANT_URL | QDRANT_HOST/QDRANT_PORT | QDRANT_API_KEY
|
||||||
|
|
||||||
Beispiele
|
Änderungen:
|
||||||
---------
|
-----------
|
||||||
export COLLECTION_PREFIX="mindnet"
|
v2.1.0 (2025-12-15): Kompatibilität mit WP-14 Modularisierung
|
||||||
python3 -m scripts.export_markdown --out ./_exportVault
|
- Aktualisiert: Import-Pfade für neue Struktur
|
||||||
|
v1.4.1 (2025-09-10): Initial Release
|
||||||
# Nur eine Note, Edges als YAML-Feld 'references'
|
|
||||||
python3 -m scripts.export_markdown --out ./_exportVault --note-id concept-alpha --include-edges yaml
|
|
||||||
|
|
||||||
# Flach schreiben mit Überschreiben
|
|
||||||
python3 -m scripts.export_markdown --out ./_exportVault --flatten-paths --overwrite
|
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|
||||||
@@ -45,8 +80,7 @@ from typing import Dict, List, Optional, Tuple, Any
|
|||||||
import yaml
|
import yaml
|
||||||
from qdrant_client.http import models as rest
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
from app.core.qdrant import QdrantConfig, get_client
|
from app.core.database.qdrant import QdrantConfig, get_client, ensure_collections
|
||||||
from app.core.qdrant import ensure_collections # safety
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------
|
# ---------------------------------------------------------------------
|
||||||
# Helpers
|
# Helpers
|
||||||
|
|||||||
@@ -1,4 +1,68 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
FILE: scripts/fix_frontmatter.py
|
||||||
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
|
STATUS: Active
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
-------
|
||||||
|
Repariert oder ergänzt fehlende Frontmatter-Felder in Markdown-Dateien.
|
||||||
|
Erzeugt stabile IDs, erkennt Typen und erstellt vollständige Frontmatter-Struktur.
|
||||||
|
|
||||||
|
Funktionsweise:
|
||||||
|
---------------
|
||||||
|
1. Scannt alle Markdown-Dateien im Vault
|
||||||
|
2. Für jede Datei:
|
||||||
|
- Liest vorhandenes Frontmatter
|
||||||
|
- Erkennt fehlende Felder (id, title, type, created)
|
||||||
|
- Generiert fehlende Werte:
|
||||||
|
* id: Stabile ID aus Pfad, Titel und Datum
|
||||||
|
* title: Aus H1, Dateiname oder "Untitled"
|
||||||
|
* type: Aus Pfad/Tags (journal, task, project, etc.)
|
||||||
|
* created: Aus Dateiname oder mtime
|
||||||
|
- Validiert Payload (optional)
|
||||||
|
- Schreibt korrigiertes Frontmatter zurück
|
||||||
|
|
||||||
|
Ergebnis-Interpretation:
|
||||||
|
------------------------
|
||||||
|
- Ausgabe: JSON pro Datei mit Änderungen
|
||||||
|
* path: Dateipfad
|
||||||
|
* changes: Dict mit alten/neuen Werten
|
||||||
|
* backup_path: Pfad zur Backup-Datei (falls --backup)
|
||||||
|
- Exit-Code 0: Erfolgreich
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Migration von Legacy-Vaults ohne Frontmatter
|
||||||
|
- Reparatur beschädigter Frontmatter
|
||||||
|
- Standardisierung von Frontmatter-Strukturen
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Erstellt Backups vor Änderungen (mit --backup)
|
||||||
|
- Idempotent: Überspringt bereits vollständige Frontmatter
|
||||||
|
- Nutzt Heuristiken für Typ-Erkennung (Pfad/Tags)
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 -m scripts.fix_frontmatter --vault ./vault --apply
|
||||||
|
python3 -m scripts.fix_frontmatter --vault ./vault --backup --apply
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--vault PATH Pfad zum Vault-Verzeichnis (erforderlich)
|
||||||
|
--backup Erstellt Backup-Dateien vor Änderungen
|
||||||
|
--apply Führt tatsächliche Änderungen durch (sonst Dry-Run)
|
||||||
|
--validate Validiert Note-Payload nach Fix
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
- Hinweis: validate_note_payload existiert nicht mehr (wird entfernt)
|
||||||
|
v1.0.0: Initial Release
|
||||||
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
import argparse, os, re, sys, json, shutil, time, hashlib
|
import argparse, os, re, sys, json, shutil, time, hashlib
|
||||||
from dataclasses import dataclass
|
from dataclasses import dataclass
|
||||||
@@ -6,8 +70,8 @@ from typing import Dict, Tuple, Optional, List
|
|||||||
from slugify import slugify
|
from slugify import slugify
|
||||||
from app.core.parser import read_markdown, normalize_frontmatter
|
from app.core.parser import read_markdown, normalize_frontmatter
|
||||||
from app.core.parser import FRONTMATTER_RE # für Re-Inject
|
from app.core.parser import FRONTMATTER_RE # für Re-Inject
|
||||||
from app.core.validate_note import validate_note_payload
|
# NOTE: validate_note_payload existiert nicht mehr - entfernt
|
||||||
from app.core.note_payload import make_note_payload
|
from app.core.ingestion.ingestion_note_payload import make_note_payload
|
||||||
|
|
||||||
DATE_IN_NAME = re.compile(r"(?P<y>\d{4})[-_\.]?(?P<m>\d{2})[-_\.]?(?P<d>\d{2})")
|
DATE_IN_NAME = re.compile(r"(?P<y>\d{4})[-_\.]?(?P<m>\d{2})[-_\.]?(?P<d>\d{2})")
|
||||||
|
|
||||||
|
|||||||
@@ -1,50 +1,73 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# scripts/gc_qdrant_after_vault_scan.py
|
# -*- coding: utf-8 -*-
|
||||||
# Version: 1.0.0 (2025-09-05)
|
"""
|
||||||
#
|
FILE: scripts/gc_qdrant_after_vault_scan.py
|
||||||
# Zweck
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
# -----
|
STATUS: Active
|
||||||
# Garbage-Collector für Qdrant: löscht Einträge (Edges, Chunks, Notes), deren Note-ID
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
# nicht mehr im Obsidian-Vault vorhanden ist. So bleiben Vektorindex/Graph mit dem Vault konsistent.
|
|
||||||
#
|
Zweck:
|
||||||
# Aufrufparameter
|
-------
|
||||||
# ---------------
|
Garbage-Collector für Qdrant: löscht Einträge, deren Note-ID nicht mehr
|
||||||
# --vault PATH Pfad zum Obsidian-Vault (z. B. ./vault) [erforderlich]
|
im Vault vorhanden ist. Hält Vektorindex/Graph mit dem Vault konsistent.
|
||||||
# --mode {edges,content,all}
|
|
||||||
# edges -> nur Kanten mit source_id/target_id ∉ Vault-Notes löschen
|
Funktionsweise:
|
||||||
# content -> Chunks & Notes löschen, deren note_id ∉ Vault-Notes (keine Edges)
|
---------------
|
||||||
# all -> zuerst edges, dann content
|
1. Scannt Vault und sammelt alle note_ids
|
||||||
# --prefix PREFIX Collection-Präfix (Default: aus ENV COLLECTION_PREFIX oder "mindnet")
|
2. Lädt note_ids aus Qdrant
|
||||||
# --apply Ohne diesen Schalter: Dry-Run (nur Vorschau). Mit Schalter: ausführen.
|
3. Berechnet Differenz (verwaiste IDs)
|
||||||
# --yes Sicherheitsabfrage überspringen (non-interaktiv)
|
4. Löscht verwaiste Einträge:
|
||||||
# --batch-size N Größe für In-Filter (Default: 1000)
|
- mode=edges: Nur Edges mit source_id/target_id ∉ Vault
|
||||||
#
|
- mode=content: Chunks & Notes mit note_id ∉ Vault
|
||||||
# Hinweise
|
- mode=all: Zuerst edges, dann content
|
||||||
# --------
|
5. Nutzt Batch-Filter für effiziente Löschung
|
||||||
# - Benötigt funktionierendes Python-venv mit allen Abhängigkeiten von mindnet (qdrant-client usw.).
|
|
||||||
# - Läuft gegen die drei Collections {prefix}_notes, {prefix}_chunks, {prefix}_edges (keine anderen Projekte).
|
Ergebnis-Interpretation:
|
||||||
# - Nutzt OR-Filter (Filter.should) korrekt, keine minimum_should (Pydantic v2 lässt die Option nicht zu).
|
------------------------
|
||||||
#
|
- Ausgabe: JSON mit Preview und Statistiken
|
||||||
# Änderungen ggü. vorher
|
* mode: DRY-RUN oder APPLY
|
||||||
# ----------------------
|
* vault_note_ids: Anzahl Notizen im Vault
|
||||||
# - Neu: eigenes GC-Tool; berührt ausschließlich das übergebene Projekt-Präfix.
|
* qdrant_note_ids: Anzahl Notizen in Qdrant
|
||||||
# - Sichere Dry-Run-Vorschau mit Zählung pro Collection; interaktive Bestätigung.
|
* orphans: Anzahl verwaister Notizen
|
||||||
# - Löscht Edges mittels Filter auf (source_id ∈ MISSING) ODER (target_id ∈ MISSING).
|
* deleted: Anzahl gelöschter Einträge (nach --apply)
|
||||||
# - Löscht Chunks/Notes mittels Filter auf note_id ∈ MISSING.
|
- Exit-Code 0: Erfolgreich
|
||||||
#
|
|
||||||
# Beispiele
|
Verwendung:
|
||||||
# ---------
|
-----------
|
||||||
# DRY RUN: python3 -m scripts.gc_qdrant_after_vault_scan --vault ./vault --mode all
|
- Regelmäßige Wartung nach Vault-Bereinigung
|
||||||
# APPLY: python3 -m scripts.gc_qdrant_after_vault_scan --vault ./vault --mode all --apply
|
- Konsistenz-Check zwischen Vault und Datenbank
|
||||||
# CI-Modus: python3 -m scripts.gc_qdrant_after_vault_scan --vault ./vault --mode edges --apply --yes
|
- Vor Migrationen
|
||||||
#
|
|
||||||
# Kompatibilität / Kontext
|
Sicherheitsmerkmale:
|
||||||
# ------------------------
|
-------------------
|
||||||
# - Frontmatter-Validierung & Parsing wie im Projekt (parser.read_markdown, validate_required_frontmatter). :contentReference[oaicite:0]{index=0}
|
- Dry-Run standardmäßig (keine Änderungen ohne --apply)
|
||||||
# - Note-Payload-Schema (u. a. note_id, hash_fulltext) wie spezifiziert. :contentReference[oaicite:1]{index=1}
|
- Interaktive Bestätigung (außer mit --yes)
|
||||||
# - Collection-Namen & Anlage-Logik über app.core.qdrant (notes/chunks = dim, edges = 1D). :contentReference[oaicite:2]{index=2}
|
- Nur betroffene Collections werden geändert
|
||||||
# - Edges nutzen Felder source_id/target_id; Chunks/Notes tragen note_id in payload. :contentReference[oaicite:3]{index=3} :contentReference[oaicite:4]{index=4}
|
|
||||||
#
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 -m scripts.gc_qdrant_after_vault_scan --vault ./vault --mode all
|
||||||
|
python3 -m scripts.gc_qdrant_after_vault_scan --vault ./vault --mode all --apply
|
||||||
|
python3 -m scripts.gc_qdrant_after_vault_scan --vault ./vault --mode edges --apply --yes
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--vault PATH Pfad zum Vault-Verzeichnis (erforderlich)
|
||||||
|
--mode MODE edges | content | all (Default: all)
|
||||||
|
- edges: Nur Edges löschen
|
||||||
|
- content: Nur Chunks & Notes löschen
|
||||||
|
- all: Beides (zuerst edges, dann content)
|
||||||
|
--prefix TEXT Collection-Präfix (Default: ENV COLLECTION_PREFIX oder mindnet)
|
||||||
|
--apply Führt tatsächliches Löschen durch (sonst Dry-Run)
|
||||||
|
--yes Keine interaktive Bestätigung
|
||||||
|
--batch-size N Batch-Größe für Filter (Default: 1000)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Kompatibilität mit WP-14 Modularisierung
|
||||||
|
- Aktualisiert: Import-Pfade für neue Struktur
|
||||||
|
v1.0.0 (2025-09-05): Initial Release
|
||||||
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
import argparse, os, glob, json, sys
|
import argparse, os, glob, json, sys
|
||||||
from typing import Iterable, Set, Tuple, List
|
from typing import Iterable, Set, Tuple, List
|
||||||
@@ -54,7 +77,7 @@ from qdrant_client import QdrantClient
|
|||||||
from qdrant_client.http import models as rest
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
from app.core.parser import read_markdown, normalize_frontmatter, validate_required_frontmatter # :contentReference[oaicite:5]{index=5}
|
from app.core.parser import read_markdown, normalize_frontmatter, validate_required_frontmatter # :contentReference[oaicite:5]{index=5}
|
||||||
from app.core.qdrant import QdrantConfig, get_client, collection_names # :contentReference[oaicite:6]{index=6}
|
from app.core.database.qdrant import QdrantConfig, get_client, collection_names # :contentReference[oaicite:6]{index=6}
|
||||||
|
|
||||||
def iter_note_ids_from_vault(vault_root: str) -> Set[str]:
|
def iter_note_ids_from_vault(vault_root: str) -> Set[str]:
|
||||||
"""Liest alle Markdown-Dateien im Vault und sammelt valide Frontmatter-IDs."""
|
"""Liest alle Markdown-Dateien im Vault und sammelt valide Frontmatter-IDs."""
|
||||||
|
|||||||
@@ -1,40 +1,70 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
scripts/health_check_mindnet.py
|
FILE: scripts/health_check_mindnet.py
|
||||||
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
|
STATUS: Active
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
Health-Check für den mindnet-Retriever-/Query-Endpoint.
|
Zweck:
|
||||||
|
-------
|
||||||
|
Health-Check für den mindnet /query-Retriever-Endpoint.
|
||||||
|
Prüft Verfügbarkeit, Antwortzeit und Ergebnisqualität.
|
||||||
|
|
||||||
Funktion:
|
Funktionsweise:
|
||||||
- Führt POST-Requests auf /query in verschiedenen Modi aus (standard: semantic + hybrid).
|
---------------
|
||||||
- Prüft Status-Code, JSON-Struktur und Anzahl der Treffer.
|
1. Führt POST-Requests auf /query in verschiedenen Modi aus
|
||||||
- Kennzeichnet Probleme als:
|
2. Prüft für jeden Modus:
|
||||||
- status="ok"
|
- HTTP-Status-Code (erwartet 200)
|
||||||
- status="warning" (z.B. Timeout)
|
- JSON-Struktur (erwartet Objekt mit results-Array)
|
||||||
- status="error" (harte Fehler wie HTTP-Fehler, JSON-Fehler etc.)
|
- Anzahl der Treffer (mindestens min-results)
|
||||||
|
- Antwortzeit (Latency)
|
||||||
|
3. Klassifiziert Ergebnisse:
|
||||||
|
- ok: Alles in Ordnung
|
||||||
|
- warning: Timeout oder unerwartetes Verhalten
|
||||||
|
- error: HTTP-Fehler, JSON-Fehler, zu wenige Ergebnisse
|
||||||
|
|
||||||
Exit-Code:
|
Ergebnis-Interpretation:
|
||||||
- Default (tolerant):
|
------------------------
|
||||||
- overall_status = "ok" (inkl. warnings) → Exit-Code 0
|
- Ausgabe: Menschlich lesbare Zusammenfassung + JSON-Report
|
||||||
- overall_status = "error" → Exit-Code 1
|
- overall_status: ok | warning | error
|
||||||
- Mit --strict:
|
- Exit-Code 0: ok (tolerant) oder ok/warning (strict)
|
||||||
- warnings werden wie errors behandelt → Exit-Code 1
|
- Exit-Code 1: error (tolerant) oder warning/error (strict)
|
||||||
|
|
||||||
Beispiele:
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Monitoring und Alerting (z.B. cronjob)
|
||||||
|
- CI/CD-Pipelines (Validierung nach Deployment)
|
||||||
|
- Debugging von Performance-Problemen
|
||||||
|
- Integration in externe Monitoring-Tools (n8n, etc.)
|
||||||
|
|
||||||
python scripts/health_check_mindnet.py \
|
Hinweise:
|
||||||
--url http://127.0.0.1:8001/query \
|
---------
|
||||||
--query "embeddings" \
|
- Standard: Prüft semantic und hybrid Modi
|
||||||
--top-k 3
|
- Tolerant: Warnings führen nicht zu Exit-Code 1
|
||||||
|
- Strict: Warnings werden wie Errors behandelt
|
||||||
|
- JSON-Ausgabe für maschinelle Weiterverarbeitung
|
||||||
|
|
||||||
python scripts/health_check_mindnet.py \
|
Aufruf:
|
||||||
--url http://127.0.0.1:8001/query \
|
-------
|
||||||
--query "embeddings" \
|
python3 scripts/health_check_mindnet.py --url http://127.0.0.1:8001/query
|
||||||
--top-k 3 \
|
python3 scripts/health_check_mindnet.py --query "test" --top-k 5 --modes semantic hybrid
|
||||||
--timeout 15 \
|
python3 scripts/health_check_mindnet.py --strict
|
||||||
--modes hybrid
|
|
||||||
|
|
||||||
# Strenger Modus (warnings → Exit-Code 1)
|
Parameter:
|
||||||
python scripts/health_check_mindnet.py --strict
|
----------
|
||||||
|
--url URL Vollständige URL des /query-Endpunkts (Default: http://127.0.0.1:8001/query)
|
||||||
|
--query TEXT Test-Query (Default: embeddings)
|
||||||
|
--top-k INT Anzahl der erwarteten Ergebnisse (Default: 3)
|
||||||
|
--timeout FLOAT Timeout in Sekunden pro Request (Default: 5.0)
|
||||||
|
--modes LIST Zu prüfende Modi (Default: semantic hybrid)
|
||||||
|
--min-results INT Minimale Anzahl erwarteter Ergebnisse (Default: 1)
|
||||||
|
--strict Warnings als Fehler behandeln (Exit-Code 1 bei warnings)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
v1.0.0: Initial Release
|
||||||
"""
|
"""
|
||||||
|
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|||||||
+103
-19
@@ -1,8 +1,69 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
scripts/import_markdown.py
|
FILE: scripts/import_markdown.py
|
||||||
CLI-Tool zum Importieren von Markdown-Dateien in Qdrant.
|
VERSION: 2.4.1 (2025-12-15)
|
||||||
Updated for Mindnet v2.3.6 (Async Ingestion Support).
|
STATUS: Active (Core)
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
-------
|
||||||
|
Hauptwerkzeug zum Importieren von Markdown-Dateien aus einem Vault in Qdrant.
|
||||||
|
Implementiert den Two-Pass Workflow (WP-15b) für robuste Edge-Validierung.
|
||||||
|
|
||||||
|
Funktionsweise:
|
||||||
|
---------------
|
||||||
|
1. PASS 1: Global Pre-Scan
|
||||||
|
- Scannt alle Markdown-Dateien im Vault
|
||||||
|
- Extrahiert Note-Kontext (ID, Titel, Dateiname)
|
||||||
|
- Füllt LocalBatchCache für semantische Edge-Validierung
|
||||||
|
- Indiziert nach ID, Titel und Dateiname für Link-Auflösung
|
||||||
|
|
||||||
|
2. PASS 2: Semantic Processing
|
||||||
|
- Verarbeitet Dateien in Batches (20 Dateien, max. 5 parallel)
|
||||||
|
- Nutzt gefüllten Cache für binäre Edge-Validierung
|
||||||
|
- Erzeugt Notes, Chunks und Edges in Qdrant
|
||||||
|
- Respektiert Hash-basierte Change Detection
|
||||||
|
|
||||||
|
Ergebnis-Interpretation:
|
||||||
|
------------------------
|
||||||
|
- Log-Ausgabe: Fortschritt und Statistiken
|
||||||
|
- Stats: processed, skipped, errors
|
||||||
|
- Exit-Code 0: Erfolgreich (auch wenn einzelne Dateien Fehler haben)
|
||||||
|
- Ohne --apply: Dry-Run (keine DB-Änderungen)
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
-----------
|
||||||
|
- Regelmäßiger Import nach Vault-Änderungen
|
||||||
|
- Initial-Import eines neuen Vaults
|
||||||
|
- Re-Indexierung mit --force
|
||||||
|
|
||||||
|
Hinweise:
|
||||||
|
---------
|
||||||
|
- Two-Pass Workflow sorgt für robuste Edge-Validierung
|
||||||
|
- Change Detection verhindert unnötige Re-Indexierung
|
||||||
|
- Parallele Verarbeitung für Performance (max. 5 gleichzeitig)
|
||||||
|
- Cloud-Resilienz durch Semaphore-Limits
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
-------
|
||||||
|
python3 -m scripts.import_markdown --vault ./vault --apply
|
||||||
|
python3 -m scripts.import_markdown --vault ./vault --prefix mindnet_dev --force --apply
|
||||||
|
|
||||||
|
Parameter:
|
||||||
|
----------
|
||||||
|
--vault PATH Pfad zum Vault-Verzeichnis (Default: ./vault)
|
||||||
|
--prefix TEXT Collection-Präfix (Default: ENV COLLECTION_PREFIX oder mindnet)
|
||||||
|
--force Erzwingt Re-Indexierung aller Dateien (ignoriert Hashes)
|
||||||
|
--apply Führt tatsächliche DB-Schreibvorgänge durch (sonst Dry-Run)
|
||||||
|
|
||||||
|
Änderungen:
|
||||||
|
-----------
|
||||||
|
v2.4.1 (2025-12-15): WP-15b Two-Pass Workflow
|
||||||
|
- Implementiert Pre-Scan für LocalBatchCache
|
||||||
|
- Indizierung nach ID, Titel und Dateiname
|
||||||
|
- Batch-Verarbeitung mit Semaphore-Limits
|
||||||
|
v2.0.0: Initial Release
|
||||||
"""
|
"""
|
||||||
import asyncio
|
import asyncio
|
||||||
import os
|
import os
|
||||||
@@ -11,21 +72,16 @@ import logging
|
|||||||
from pathlib import Path
|
from pathlib import Path
|
||||||
from dotenv import load_dotenv
|
from dotenv import load_dotenv
|
||||||
|
|
||||||
import logging
|
# Setzt das Level global auf INFO, damit der Fortschritt im Log sichtbar ist
|
||||||
# Setzt das Level global auf INFO, damit Sie den Fortschritt sehen
|
|
||||||
logging.basicConfig(level=logging.INFO, format='%(asctime)s [%(levelname)s] %(message)s')
|
logging.basicConfig(level=logging.INFO, format='%(asctime)s [%(levelname)s] %(message)s')
|
||||||
|
|
||||||
# Wenn Sie TIEFE Einblicke wollen, setzen Sie den SemanticAnalyzer spezifisch auf DEBUG:
|
# Importiere den neuen Async Service und stelle Python-Pfad sicher
|
||||||
logging.getLogger("app.services.semantic_analyzer").setLevel(logging.DEBUG)
|
|
||||||
|
|
||||||
# Importiere den neuen Async Service
|
|
||||||
# Stellen wir sicher, dass der Pfad stimmt (Pythonpath)
|
|
||||||
import sys
|
import sys
|
||||||
sys.path.append(os.getcwd())
|
sys.path.append(os.getcwd())
|
||||||
|
|
||||||
from app.core.ingestion import IngestionService
|
from app.core.ingestion import IngestionService
|
||||||
|
from app.core.parser import pre_scan_markdown
|
||||||
|
|
||||||
logging.basicConfig(level=logging.INFO, format="%(asctime)s [%(levelname)s] %(message)s")
|
|
||||||
logger = logging.getLogger("importer")
|
logger = logging.getLogger("importer")
|
||||||
|
|
||||||
async def main_async(args):
|
async def main_async(args):
|
||||||
@@ -34,7 +90,7 @@ async def main_async(args):
|
|||||||
logger.error(f"Vault path does not exist: {vault_path}")
|
logger.error(f"Vault path does not exist: {vault_path}")
|
||||||
return
|
return
|
||||||
|
|
||||||
# Service initialisieren (startet Async Clients)
|
# 1. Service initialisieren
|
||||||
logger.info(f"Initializing IngestionService (Prefix: {args.prefix})")
|
logger.info(f"Initializing IngestionService (Prefix: {args.prefix})")
|
||||||
service = IngestionService(collection_prefix=args.prefix)
|
service = IngestionService(collection_prefix=args.prefix)
|
||||||
|
|
||||||
@@ -46,14 +102,42 @@ async def main_async(args):
|
|||||||
|
|
||||||
logger.info(f"Found {len(files)} markdown files.")
|
logger.info(f"Found {len(files)} markdown files.")
|
||||||
|
|
||||||
stats = {"processed": 0, "skipped": 0, "errors": 0}
|
# =========================================================================
|
||||||
|
# PASS 1: Global Pre-Scan (WP-15b Harvester)
|
||||||
|
# Füllt den LocalBatchCache für die semantische Kanten-Validierung.
|
||||||
|
# Nutzt ID, Titel und Filename für robusten Look-up.
|
||||||
|
# =========================================================================
|
||||||
|
logger.info(f"🔍 [Pass 1] Pre-scanning {len(files)} files for global context cache...")
|
||||||
|
for f_path in files:
|
||||||
|
try:
|
||||||
|
ctx = pre_scan_markdown(str(f_path))
|
||||||
|
if ctx:
|
||||||
|
# 1. Look-up via Note ID (UUID oder Frontmatter ID)
|
||||||
|
service.batch_cache[ctx.note_id] = ctx
|
||||||
|
|
||||||
# Wir nutzen eine Semaphore, um nicht zu viele Files gleichzeitig zu öffnen/embedden
|
# 2. Look-up via Titel (Wichtig für Wikilinks [[Titel]])
|
||||||
sem = asyncio.Semaphore(5) # Max 5 concurrent files to avoid OOM or Rate Limit
|
service.batch_cache[ctx.title] = ctx
|
||||||
|
|
||||||
|
# 3. Look-up via Dateiname (Wichtig für Wikilinks [[Filename]])
|
||||||
|
fname = os.path.splitext(f_path.name)[0]
|
||||||
|
service.batch_cache[fname] = ctx
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
logger.warning(f"⚠️ Could not pre-scan {f_path.name}: {e}")
|
||||||
|
|
||||||
|
logger.info(f"✅ Context Cache populated for {len(files)} notes.")
|
||||||
|
|
||||||
|
# =========================================================================
|
||||||
|
# PASS 2: Processing (Semantic Batch-Verarbeitung)
|
||||||
|
# Nutzt den gefüllten Cache zur binären Validierung semantischer Kanten.
|
||||||
|
# =========================================================================
|
||||||
|
stats = {"processed": 0, "skipped": 0, "errors": 0}
|
||||||
|
sem = asyncio.Semaphore(5) # Max 5 parallele Dateien für Cloud-Stabilität
|
||||||
|
|
||||||
async def process_with_limit(f_path):
|
async def process_with_limit(f_path):
|
||||||
async with sem:
|
async with sem:
|
||||||
try:
|
try:
|
||||||
|
# Nutzt den nun gefüllten Batch-Cache in der process_file Logik
|
||||||
res = await service.process_file(
|
res = await service.process_file(
|
||||||
file_path=str(f_path),
|
file_path=str(f_path),
|
||||||
vault_root=str(vault_path),
|
vault_root=str(vault_path),
|
||||||
@@ -65,8 +149,8 @@ async def main_async(args):
|
|||||||
except Exception as e:
|
except Exception as e:
|
||||||
return {"status": "error", "error": str(e), "path": str(f_path)}
|
return {"status": "error", "error": str(e), "path": str(f_path)}
|
||||||
|
|
||||||
# Batch Processing
|
logger.info(f"🚀 [Pass 2] Starting semantic processing in batches...")
|
||||||
# Wir verarbeiten in Chunks, um den Progress zu sehen
|
|
||||||
batch_size = 20
|
batch_size = 20
|
||||||
for i in range(0, len(files), batch_size):
|
for i in range(0, len(files), batch_size):
|
||||||
batch = files[i:i+batch_size]
|
batch = files[i:i+batch_size]
|
||||||
@@ -92,7 +176,7 @@ def main():
|
|||||||
load_dotenv()
|
load_dotenv()
|
||||||
default_prefix = os.getenv("COLLECTION_PREFIX", "mindnet")
|
default_prefix = os.getenv("COLLECTION_PREFIX", "mindnet")
|
||||||
|
|
||||||
parser = argparse.ArgumentParser(description="Import Vault to Qdrant (Async)")
|
parser = argparse.ArgumentParser(description="Two-Pass Markdown Ingestion for Mindnet")
|
||||||
parser.add_argument("--vault", default="./vault", help="Path to vault root")
|
parser.add_argument("--vault", default="./vault", help="Path to vault root")
|
||||||
parser.add_argument("--prefix", default=default_prefix, help="Collection prefix")
|
parser.add_argument("--prefix", default=default_prefix, help="Collection prefix")
|
||||||
parser.add_argument("--force", action="store_true", help="Force re-index all files")
|
parser.add_argument("--force", action="store_true", help="Force re-index all files")
|
||||||
@@ -100,7 +184,7 @@ def main():
|
|||||||
|
|
||||||
args = parser.parse_args()
|
args = parser.parse_args()
|
||||||
|
|
||||||
# Starte den Async Loop
|
# Starte den asynchronen Haupt-Loop
|
||||||
asyncio.run(main_async(args))
|
asyncio.run(main_async(args))
|
||||||
|
|
||||||
if __name__ == "__main__":
|
if __name__ == "__main__":
|
||||||
|
|||||||
+46
-31
@@ -1,45 +1,60 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
make_test_vault.py — erzeugt einen minimalen, nachvollziehbaren Test-Vault
|
FILE: scripts/make_test_vault.py
|
||||||
|
VERSION: 2.1.0 (2025-12-15)
|
||||||
|
STATUS: Active (Test-Tool)
|
||||||
|
COMPATIBILITY: v2.9.1 (Post-WP14/WP-15b)
|
||||||
|
|
||||||
Version: 1.2 (2025-09-09)
|
Zweck:
|
||||||
Änderungen ggü. 1.1:
|
-------
|
||||||
- Fügt **externe Links** (http/mailto) in `exp-two.md` hinzu, damit der Chunk-Payload-Exporter
|
Erzeugt einen minimalen, nachvollziehbaren Test-Vault für Entwicklung und Tests.
|
||||||
`external_links` realistisch testen kann.
|
Enthält verschiedene Szenarien: leere Links, externe Links, verschiedene Note-Typen.
|
||||||
- Kleine Textanpassungen zur stabilen Chunk-Bildung (Absatzstruktur).
|
|
||||||
|
|
||||||
Zweck
|
Funktionsweise:
|
||||||
- Kleiner Obsidian-ähnlicher Vault zum Durchspielen des Importers (Chunks/Edges).
|
---------------
|
||||||
- Szenarien: leere Links, spätere Anlage fehlender Noten, Chunk-Neuaufteilung, externe Links.
|
1. Erstellt Verzeichnisstruktur (concepts, experiences, projects)
|
||||||
|
2. Generiert Test-Notizen mit vollständigem Frontmatter:
|
||||||
|
- concept-alpha.md (Basis-Concept)
|
||||||
|
- exp-one.md (verlinkt auf concept-alpha und missing-note)
|
||||||
|
- exp-two.md (verlinkt auf concept-alpha + externe Links)
|
||||||
|
- project-demo.md (verlinkt auf concept-alpha und exp-one)
|
||||||
|
3. Optional: Erstellt missing-note (mit --with-missing)
|
||||||
|
|
||||||
Struktur (Default: ./test_vault)
|
Ergebnis-Interpretation:
|
||||||
- 40_concepts/concept-alpha.md
|
------------------------
|
||||||
- 20_experiences/exp-one.md (verlinkt auf [[concept-alpha]] und [[missing-note]])
|
- Ausgabe: Erfolgsmeldung mit erstellten Dateien
|
||||||
- 20_experiences/exp-two.md (verlinkt auf [[concept-alpha]] + externe Links)
|
- Exit-Code 0: Erfolgreich
|
||||||
- 30_projects/project-demo.md (verlinkt auf [[concept-alpha]] und [[exp-one]])
|
- Exit-Code 1: Fehler (z.B. Verzeichnis existiert bereits ohne --force)
|
||||||
|
|
||||||
Voraussetzungen
|
Verwendung:
|
||||||
- Keine. Rein Dateigenerierung.
|
-----------
|
||||||
|
- Entwicklung und Testing
|
||||||
|
- Demo und Dokumentation
|
||||||
|
- CI/CD-Tests
|
||||||
|
|
||||||
Aufruf
|
Hinweise:
|
||||||
python3 -m scripts.make_test_vault [--out ./test_vault] [--force] [--with-missing]
|
---------
|
||||||
|
- Erstellt realistische Test-Daten mit verschiedenen Edge-Szenarien
|
||||||
|
- Enthält "Red Links" (missing-note) für Link-Auflösungs-Tests
|
||||||
|
- Externe Links für Chunk-Payload-Tests
|
||||||
|
|
||||||
Parameter
|
Aufruf:
|
||||||
--out Zielverzeichnis (Standard: ./test_vault)
|
-------
|
||||||
--force Bestehenden Ordner löschen und neu anlegen.
|
python3 -m scripts.make_test_vault --out ./test_vault
|
||||||
--with-missing Auch die 'missing-note' direkt anlegen (Standard: erst im 2. Lauf)
|
python3 -m scripts.make_test_vault --out ./test_vault --force --with-missing
|
||||||
|
|
||||||
Hinweise für Tests
|
Parameter:
|
||||||
1) Erster Import (dry-run oder --apply): Es gibt einen „leeren“ Link [[missing-note]].
|
----------
|
||||||
2) Lege danach eine Datei für „missing-note“ an (mit gleicher ID im YAML) und importiere erneut:
|
--out PATH Zielverzeichnis (Default: ./test_vault)
|
||||||
-> Erwartung: Edges für ehemals leeren Link werden korrekt nachgezogen (references + backlink).
|
--force Löscht bestehenden Ordner und legt neu an
|
||||||
3) Ändere den Body von exp-one.md so, dass andere Chunk-Grenzen entstehen und importiere erneut:
|
--with-missing Erstellt auch missing-note direkt (Standard: erst im 2. Lauf)
|
||||||
-> Erwartung: Chunks/Edges/Note werden für betroffene Noten aktualisiert.
|
|
||||||
4) Prüfe externe Links (verify_chunk_texts.py betrifft nur Text; externe Links siehst du in chunk_payloads).
|
|
||||||
|
|
||||||
Kompatibel mit:
|
Änderungen:
|
||||||
- note.schema.json: 'created'/'updated' müssen strings sein. (Wichtig!)
|
-----------
|
||||||
|
v2.1.0 (2025-12-15): Dokumentation aktualisiert
|
||||||
|
v1.2 (2025-09-09): Externe Links hinzugefügt
|
||||||
|
v1.0.0: Initial Release
|
||||||
"""
|
"""
|
||||||
|
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|||||||
Loaded 100 of 136 files, more files were not shown because too many files have changed in this diff.
Show more
Reference in new issue
Block a user