Compare commits
390
Commits
abschluss_wp03
...
V2.2.1
| Author | SHA1 | Date | |
|---|---|---|---|
|
|
27497fd6be | ||
|
|
466ce3ca82 | ||
|
|
8b5af5ec65 | ||
|
|
34cbc0c0eb | ||
|
|
52ff4bbff5 | ||
|
|
9e7104e362 | ||
|
|
882ae5368f | ||
|
|
12a424ce23 | ||
|
|
c3230761e8 | ||
|
|
f5104008c2 | ||
|
|
013e8c6d0c | ||
|
|
603bba533b | ||
|
|
e202a8d88b | ||
|
|
c56a31c6bc | ||
|
|
b73b18bf9a | ||
|
|
0f351252b2 | ||
|
|
d7d7411fa0 | ||
|
|
45af7f074c | ||
|
|
70ab118612 | ||
|
|
ba0cdea9d0 | ||
|
|
09500ff764 | ||
|
|
b29ce4a0a6 | ||
|
|
311e598b69 | ||
|
|
413dca770c | ||
|
|
9d9239b11e | ||
|
|
a571c41c61 | ||
|
|
ba1fab9dcf | ||
|
|
5dc9c13a71 | ||
|
|
70821bae5a | ||
|
|
486abf82dd | ||
|
|
19afe3af33 | ||
|
|
113042b7f4 | ||
|
|
f8eebd91cb | ||
|
|
00297fc354 | ||
|
|
5baac082f9 | ||
|
|
611b0aa54e | ||
|
|
110f0dbcf5 | ||
|
|
1688cf0a1e | ||
|
|
13b7c8858a | ||
|
|
b8b6f243d1 | ||
|
|
eaa6e805ce | ||
|
|
05dbb21c58 | ||
|
|
f1f4358dee | ||
|
|
3374c41f07 | ||
|
|
95affe87e5 | ||
|
|
5e86398fcd | ||
|
|
844f0cbe42 | ||
|
|
4d5d7847e5 | ||
|
|
06795feed6 | ||
|
|
a4548a7ee1 | ||
|
|
42216865e2 | ||
|
|
e48bdb2401 | ||
|
|
c67eb4b2f3 | ||
|
|
fafa74b0b8 | ||
|
|
049a39aba3 | ||
|
|
cd26430a61 | ||
|
|
aab010ff17 | ||
|
|
9a7bc32051 | ||
|
|
bfdd8ac6be | ||
|
|
018669fb87 | ||
|
|
fb2de78d62 | ||
|
|
7e8d6c1954 | ||
|
|
d21230c6c3 | ||
|
|
4e98d5bfa1 | ||
|
|
8998269377 | ||
|
|
6e9a227ad2 | ||
|
|
4e7506da5a | ||
|
|
06ad93c77c | ||
|
|
0bb7b34259 | ||
|
|
859c17b49d | ||
|
|
46b26c9624 | ||
|
|
fd215c18e4 | ||
|
|
efa3afc7dc | ||
|
|
e03dd66051 | ||
|
|
3476fe5fae | ||
|
|
3e08c8347e | ||
|
|
c691123d2d | ||
|
|
a4b81535e8 | ||
|
|
a898cf4b65 | ||
|
|
10009a0a43 | ||
|
|
4dfe47ff99 | ||
|
|
bd997e61d6 | ||
|
|
23d0670126 | ||
|
|
12c600edbe | ||
|
|
e4115e705e | ||
|
|
0cbc4a2d72 | ||
|
|
cea6d35729 | ||
|
|
4c56918d8a | ||
|
|
f17263417e | ||
|
|
6f0b463489 | ||
|
|
28c01caa1a | ||
|
|
95b59e9b0a | ||
|
|
bc967f1f6e | ||
|
|
4228b8a74f | ||
|
|
300086fc83 | ||
|
|
688eb262a9 | ||
|
|
bfb6f5dede | ||
|
|
88c0fbe56b | ||
|
|
3d74eff224 | ||
|
|
22d08afe2d | ||
|
|
a97f757e34 | ||
|
|
bbc8f13944 | ||
|
|
f18a40d76c | ||
|
|
c7644a36aa | ||
|
|
f394f31c12 | ||
|
|
0513673c2a | ||
|
|
a73542a391 | ||
|
|
c465797654 | ||
|
|
7ce3f982f2 | ||
|
|
6311456917 | ||
|
|
3c06559c5d | ||
|
|
5c9f2e8c83 | ||
|
|
62902faaca | ||
|
|
d22fd77b22 | ||
|
|
2f86f493d6 | ||
|
|
eafa0fad85 | ||
|
|
2e7c497b69 | ||
|
|
79dcfdcf9a | ||
|
|
487e28a904 | ||
|
|
c492f97a67 | ||
|
|
ec2ff74514 | ||
|
|
c501f8d6e6 | ||
|
|
b4287cbfda | ||
|
|
26724a1db1 | ||
|
|
d6368ee709 | ||
|
|
ea211a5c0b | ||
|
|
9e8b433c95 | ||
|
|
2a1c62aeed | ||
|
|
948d6f4b47 | ||
|
|
725271a7da | ||
|
|
4ea62e6886 | ||
|
|
c01cf3b078 | ||
|
|
c67777a6b9 | ||
|
|
e5e5e7560c | ||
|
|
6e1cd5fbbc | ||
|
|
8bd8f7c0bb | ||
|
|
1c42cd1f78 | ||
|
|
be090a43f2 | ||
|
|
2c81fa0cb5 | ||
|
|
c3815afcd4 | ||
|
|
8800160564 | ||
|
|
bdbc4a1bf7 | ||
|
|
597090bc45 | ||
|
|
af36c410b4 | ||
|
|
4dcd606c10 | ||
|
|
bbd5a7fa48 | ||
|
|
6dc37ccb66 | ||
|
|
b84906283e | ||
|
|
af0dcdf76a | ||
|
|
f1e1cde597 | ||
|
|
a7c5630e5b | ||
|
|
82151d6bc3 | ||
|
|
c93e7ad598 | ||
|
|
290b271cf6 | ||
|
|
a686bdbeaf | ||
|
|
2b84c62875 | ||
|
|
2de786fc64 | ||
|
|
2ddf034983 | ||
|
|
b2043f4f84 | ||
|
|
52eae52061 | ||
|
|
e451ea64ae | ||
|
|
eb6e4028ff | ||
|
|
ea45493941 | ||
|
|
da70f0e00c | ||
|
|
8bf3707511 | ||
|
|
804eeef858 | ||
|
|
36658f12fe | ||
|
|
f0e675ffd8 | ||
|
|
90911c1074 | ||
|
|
1729e0b40d | ||
|
|
70b3169e7f | ||
|
|
315a1c0945 | ||
|
|
b9316c693d | ||
|
|
820e52d869 | ||
|
|
444e8e4206 | ||
|
|
e6f2c8b4e8 | ||
|
|
f6b7652219 | ||
|
|
3cd00ab5cf | ||
|
|
0feae50d90 | ||
|
|
d79c55fc64 | ||
|
|
98a6f5c480 | ||
|
|
0fa4aa7280 | ||
|
|
3b192e2eed | ||
|
|
2794d26181 | ||
|
|
7b56f696d6 | ||
|
|
ead1b8c1bc | ||
|
|
b8126e00c4 | ||
|
|
62f8f4b313 | ||
|
|
21924541dc | ||
|
|
197242ca42 | ||
|
|
7922734dce | ||
|
|
afd7675425 | ||
|
|
8b3b343645 | ||
|
|
6713f342c3 | ||
|
|
79bb8a143c | ||
|
|
d03a181536 | ||
|
|
8e5304c156 | ||
|
|
c487db6534 | ||
|
|
0ca54f429e | ||
|
|
6c62f64784 | ||
|
|
3282f85007 | ||
|
|
b186569750 | ||
|
|
7cde2462ec | ||
|
|
c0b96f7c05 | ||
|
|
3a88caac69 | ||
|
|
31457e9240 | ||
|
|
307335a733 | ||
|
|
4eb5e34ea7 | ||
|
|
f4be219790 | ||
|
|
53591b6f27 | ||
|
|
a14d0bb7cb | ||
|
|
c2802e7cb3 | ||
|
|
c7f2815f1d | ||
|
|
afc90fe992 | ||
|
|
2f9ce824a0 | ||
|
|
a39b2a6950 | ||
|
|
70fa95966c | ||
|
|
10479014d5 | ||
|
|
148e22aa7d | ||
|
|
a9fe6196f7 | ||
|
|
ae20665a66 | ||
|
|
ccbf078463 | ||
|
|
cd1e46784f | ||
|
|
b49d97b8d7 | ||
|
|
3d44de9d87 | ||
|
|
987b3c1770 | ||
|
|
25bc6544c4 | ||
|
|
b241ae753b | ||
|
|
2041771b14 | ||
|
|
b5958a9f63 | ||
|
|
c05dbd4b3b | ||
|
|
44e468fc21 | ||
|
|
5f358d329b | ||
|
|
59fe8154f2 | ||
|
|
d5b2e9bb8f | ||
|
|
3a3907e1b6 | ||
|
|
f66cdc70b2 | ||
|
|
e299a497a7 | ||
|
|
eefb29d2ad | ||
|
|
668c485037 | ||
|
|
c83d5bb970 | ||
|
|
8638b3c95b | ||
|
|
c9b55c16f7 | ||
|
|
a3b9d53d06 | ||
|
|
215915cee2 | ||
|
|
df9271ed81 | ||
|
|
97e73a0fa0 | ||
|
|
e2ebe98e7f | ||
|
|
345e30de71 | ||
|
|
0084160e12 | ||
|
|
7280c111f0 | ||
|
|
763de11d2b | ||
|
|
9c0de3eeb2 | ||
|
|
9c81e9fbf1 | ||
|
|
40603f1652 | ||
|
|
4a34da31ad | ||
|
|
6e394faab1 | ||
|
|
25d0895cac | ||
|
|
f5f93cfb12 | ||
|
|
cf1ebe9d6f | ||
|
|
dd0d4ff8b1 | ||
|
|
98103f3270 | ||
|
|
a740ebb42e | ||
|
|
7c79f820cb | ||
|
|
f3b2326304 | ||
|
|
4eded247c5 | ||
|
|
3ffb857181 | ||
|
|
ec92906399 | ||
|
|
87671640ea | ||
|
|
c725e984bb | ||
|
|
8f05b57744 | ||
|
|
120b0147f2 | ||
|
|
ae695b4b15 | ||
|
|
89fee685c3 | ||
|
|
23eb9a21c8 | ||
|
|
a009efe91c | ||
|
|
dbd3111adf | ||
|
|
2b35e0c07a | ||
|
|
ba3354df03 | ||
|
|
7c8c19f416 | ||
|
|
35f83241cb | ||
|
|
5297f9b47e | ||
|
|
cbc50ec4eb | ||
|
|
198cc291e2 | ||
|
|
cb8c3a6ea6 | ||
|
|
66f597bbba | ||
|
|
fe237c8b4b | ||
|
|
ec7b08a625 | ||
|
|
9dd728579d | ||
|
|
0a6ca00f64 | ||
|
|
6e856ce05f | ||
|
|
1b8b78cfe9 | ||
|
|
49508d9f87 | ||
|
|
63a660223e | ||
|
|
2cbc2e2f43 | ||
|
|
eb2ad44755 | ||
|
|
c3979142a6 | ||
|
|
1a30de6bfc | ||
|
|
8c0df47966 | ||
|
|
4c177378ae | ||
|
|
a2db175819 | ||
|
|
2d0f050524 | ||
|
|
2d2b78edb3 | ||
|
|
627fa80f3e | ||
|
|
96cbbb093e | ||
|
|
6551308f14 | ||
|
|
9ccc2badd4 | ||
|
|
07a83bdeb7 | ||
|
|
224dfb6588 | ||
|
|
d8d6c68ac2 | ||
|
|
3e369e5464 | ||
|
|
abaaba97f9 | ||
|
|
bd49467d26 | ||
|
|
b44524e1a9 | ||
|
|
0319667f8e | ||
|
|
4c3ad1f83c | ||
|
|
a7a845187a | ||
|
|
e14a9a11d2 | ||
|
|
d7ce757d65 | ||
|
|
6f5447c316 | ||
|
|
727b67811c | ||
|
|
a85fb68015 | ||
|
|
2dfe7328cc | ||
|
|
cfc0a0ca8f | ||
|
|
2b1c7fe20d | ||
|
|
d5e1d9c09b | ||
|
|
554540451e | ||
|
|
c10134c22b | ||
|
|
9175b3a045 | ||
|
|
0ecae44888 | ||
|
|
a9c2a10fb5 | ||
|
|
e11094e5fa | ||
|
|
38913dc3e1 | ||
|
|
dd2b7932a2 | ||
|
|
2051e187ba | ||
|
|
ca817a8cc4 | ||
|
|
2d815f5902 | ||
|
|
0abdc647c9 | ||
|
|
fded2db73e | ||
|
|
2274c9faf5 | ||
|
|
280b236490 | ||
|
|
ef2c144cdd | ||
|
|
634cf0ff1b | ||
|
|
2dc3d5c169 | ||
|
|
fcad1fdfaa | ||
|
|
5c6cdfb5e1 | ||
|
|
1d6ba761a8 | ||
|
|
893ba6c8f4 | ||
|
|
a835eff14b | ||
|
|
029b4d8a6e | ||
|
|
0053b45691 | ||
|
|
f46812d1d2 | ||
|
|
8495df961b | ||
|
|
abc8be1077 | ||
|
|
84baf27f7e | ||
|
|
1a08d904f9 | ||
|
|
31ca9a95d7 | ||
|
|
ade91b26c3 | ||
|
|
d797957abc | ||
|
|
104ddddb96 | ||
|
|
c8c4c7fa00 | ||
|
|
3111a26229 | ||
|
|
26ef257e06 | ||
|
|
6864ea7b53 | ||
|
|
c2ecc15d89 | ||
|
|
9bbcc0952b | ||
|
|
179ec4d38b | ||
|
|
02a61cdf0d | ||
|
|
6a84b4e5aa | ||
|
|
497a9b9d58 | ||
|
|
c5972be618 | ||
|
|
43e77c4c6b | ||
|
|
d66985e597 | ||
|
|
ff4bed99c9 | ||
|
|
2b4c1b83bd | ||
|
|
f85aa8f604 | ||
|
|
e5ca3c4177 | ||
|
|
0f2f8208e3 | ||
|
|
ba17516814 | ||
|
|
c0979b69e2 | ||
|
|
4b5c33bb90 | ||
|
|
1ea4d53061 | ||
|
|
17b548e9b0 | ||
|
|
5755eb1f08 | ||
|
|
e2f15324d7 | ||
|
|
b0b0802a56 | ||
|
|
e14cc8b758 | ||
|
|
55c6a5058c | ||
|
|
52d5d01337 | ||
|
|
93ceff7f17 |
No files matched your search
@@ -14,7 +14,7 @@ jobs:
|
|||||||
runs-on: linux_host
|
runs-on: linux_host
|
||||||
env:
|
env:
|
||||||
TARGET_BASE: /home/llmadmin/mindnet
|
TARGET_BASE: /home/llmadmin/mindnet
|
||||||
DEPLOY_DIRS: "app scripts schemas docker tests requirements.txt README.md"
|
DEPLOY_DIRS: "app scripts schemas docker tests config requirements.txt README.md"
|
||||||
|
|
||||||
steps:
|
steps:
|
||||||
- name: Checkout
|
- name: Checkout
|
||||||
|
|||||||
Vendored
+3
@@ -0,0 +1,3 @@
|
|||||||
|
{
|
||||||
|
"CodeGPT.apiKey": "Google AI Studio"
|
||||||
|
}
|
||||||
@@ -0,0 +1,465 @@
|
|||||||
|
# mindnet v2.2 – Dokumentationsrahmenplan
|
||||||
|
**Datei:** `docs/mindnet_docs_master_plan_v2.2.md`
|
||||||
|
**Stand:** 2025-12-06
|
||||||
|
**Bezug:** Programmplan mindnet v2.2 :contentReference[oaicite:0]{index=0}
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1. Zweck dieses Rahmenplans
|
||||||
|
|
||||||
|
Dieser Rahmenplan definiert:
|
||||||
|
|
||||||
|
- die **Zieldokumente** der mindnet v2.2 Dokumentation,
|
||||||
|
- deren **Dateinamen, Zielgruppen, Inhalte und Quellen**,
|
||||||
|
- die **Zuordnung** zu Workpackages (WP) und Release-Tags,
|
||||||
|
- die **Regeln zum Informations-Erhalt** (keine inhaltlichen Verluste),
|
||||||
|
- die **empfohlene Bearbeitungsreihenfolge**.
|
||||||
|
|
||||||
|
Alle hier beschriebenen Zieldokumente werden als **eigene Markdown-Dateien** gepflegt und sind Teil von WP-14 _Review / Refactoring / Dokumentation_ (Phase E). :contentReference[oaicite:1]{index=1}
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Prinzipien zur Sicherung der Informationen
|
||||||
|
|
||||||
|
Um zu verhindern, dass Inhalte oder Ergebnisse verloren gehen, gelten folgende Prinzipien:
|
||||||
|
|
||||||
|
1. **Programmplan v2.2 als Masterreferenz**
|
||||||
|
- Programmauftrag, Vision, Phasenmodell und WP-Status werden **nicht verändert**, sondern nur referenziert.
|
||||||
|
- `Programmplan_V2.2.md` bleibt das führende Dokument für Ziele, WPs, Ampelstatus. :contentReference[oaicite:2]{index=2}
|
||||||
|
|
||||||
|
2. **Keine unkontrollierte Löschung von Inhalten**
|
||||||
|
- Bestehende Dokumente (`knowledge_design.md`, `chunking_strategy.md`, `mindnet_technical_architecture.md`, `Handbuch.md`, `TYPE_REGISTRY_MANUAL.md`, `docs_mindnet_retriever.md`, `wp04_retriever_scoring.md`) werden **nicht gelöscht**, sondern:
|
||||||
|
- vollständig archiviert,
|
||||||
|
- in die neuen Zieldokumente **überführt**,
|
||||||
|
- oder **explizit** in den Anhängen (I) als „legacy / historisch“ verlinkt.
|
||||||
|
|
||||||
|
3. **Explizite Quellenzuordnung („Building Blocks“)**
|
||||||
|
- Für jede Sektion eines Zieldokuments wird angegeben, aus **welchen bestehenden Dateien und Abschnitten** der Inhalt stammt.
|
||||||
|
- Neue Inhalte (z. B. User Guide H) werden klar als „neu, v2.2“ gekennzeichnet.
|
||||||
|
|
||||||
|
4. **Ist-Stand vs. Roadmap trennen**
|
||||||
|
- Implementierter Stand v2.2: WP01–WP04a (🟢) mit Importer, Chunking, Edge-Pipeline, Typ-Registry und hybrider Retriever.
|
||||||
|
- Geplante Features (Self-Healing, Virtual Schema Layer, Explanation Layer, Feedback-Logging, MCP-Agenten) werden als **Roadmap-Funktionen** kenntlich gemacht (Phase B–D, WPs 05–13).
|
||||||
|
|
||||||
|
5. **Versionierbarkeit**
|
||||||
|
- Alle Zieldokumente tragen im Kopf eine **Version** und **Stand-Datum** sowie optional einen Verweis auf den letzten Gitea-Tag (z. B. `mindnet_v2.2_docs_initial`, `WP04a-Retriever_final`). :contentReference[oaicite:6]{index=6}
|
||||||
|
- Änderungen werden im Abschnitt „Changelog“ der jeweiligen Datei notiert.
|
||||||
|
|
||||||
|
6. **Keine funktionalen Annahmen ohne Verifikation**
|
||||||
|
- Wo das Verhalten nicht eindeutig aus Code-/Handbuch-/WP-Dokumenten hervorgeht, wird der Punkt zunächst als _offene Frage_ markiert und nicht als Tatsache dokumentiert.
|
||||||
|
- Verifizierte Funktionen (z. B. `import_markdown`, Edge-Schema, `types.yaml`, `/query`, Scoring-Formel) werden exakt gemäß der bestehenden Dokumente beschrieben.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Zieldokumente der mindnet v2.2 Dokumentation
|
||||||
|
|
||||||
|
### 3.1 Übersichtstabelle
|
||||||
|
|
||||||
|
| ID | Zieldatei | Rolle/Zielgruppe | Hauptquellen (Building Blocks) |
|
||||||
|
|----|------------------------------------------|---------------------------------------------|--------------------------------|
|
||||||
|
| A | `mindnet_overview_v2.2.md` | Einstieg für alle Rollen | Programmplan v2.2, Knowledge Design |
|
||||||
|
| B | `mindnet_functional_architecture_v2.2.md`| Architekt:innen, Mindmaster | Knowledge Design, Functional Architecture, Programmplan |
|
||||||
|
| C | `mindnet_technical_architecture_v2.2.md` | Entwickler:innen, Tech-Architekt:innen | mindnet_technical_architecture, chunking_strategy, Handbuch |
|
||||||
|
| D | `mindnet_knowledge_design_manual_v2.2.md`| Vault-Autor:innen, Mindmaster, Analyst:innen| knowledge_design, TYPE_REGISTRY_MANUAL, Functional Architecture |
|
||||||
|
| E | `mindnet_pipeline_playbook_v2.2.md` | Dev/Ops, Tech-Lead | mindnet_v2_implementation_playbook, Handbuch, chunking_strategy, docs_mindnet_retriever, wp04_retriever_scoring |
|
||||||
|
| F | `mindnet_developer_guide_v2.2.md` | Entwickler:innen (Code, API, Tests) | Technical Architecture, Handbuch, docs_mindnet_retriever |
|
||||||
|
| G | `mindnet_admin_guide_v2.2.md` | Admins, Betreiber | Handbuch, Implementation Playbook, Programmplan (Governance) |
|
||||||
|
| H | `mindnet_user_guide_v2.2.md` | Endnutzer:innen, Agent-User | Knowledge Design, Programmplan (Use Cases), spätere MCP-WPs |
|
||||||
|
| I | `mindnet_appendices_v2.2.md` | Alle Rollen (Referenzen, Tabellen) | TYPE_REGISTRY_MANUAL, chunking_strategy, WP-Übersicht, Edge-Referenz |
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Detailpläne pro Zieldokument (Inhaltsverzeichnis & Building Blocks)
|
||||||
|
|
||||||
|
### A) `mindnet_overview_v2.2.md`
|
||||||
|
|
||||||
|
#### Zweck & Zielgruppe
|
||||||
|
- Einstieg in mindnet für alle Rollen (Owner, Mindmaster, Developer, Admin, Agenten-Entwickler).
|
||||||
|
- Auf 3–5 Seiten: _Was ist mindnet? Wie ist es gedacht? Wie lese ich die Dokumentation?_ :contentReference[oaicite:17]{index=17}
|
||||||
|
|
||||||
|
#### Geplantes Inhaltsverzeichnis
|
||||||
|
|
||||||
|
1. **Einführung**
|
||||||
|
1. Programmauftrag & Vision (v2.2)
|
||||||
|
2. Was mindnet ist – und was nicht
|
||||||
|
2. **Drei Ebenen von mindnet**
|
||||||
|
1. Content-Ebene (Vault, Notes, Chunks)
|
||||||
|
2. Semantische Ebene (Edges, Typen, Retriever)
|
||||||
|
3. Identitäts- / Persönlichkeits-Ebene (Werte, Entscheidungen, Profile – Roadmap)
|
||||||
|
3. **End-to-End-Überblick**
|
||||||
|
1. Datenfluss: Vault → Import → Qdrant → Retriever → Antwort
|
||||||
|
2. WP-Phasenmodell (A–E) und aktueller Stand (WP01–04a grün)
|
||||||
|
4. **Rollen & Perspektiven**
|
||||||
|
1. Mindmaster / Owner
|
||||||
|
2. Autor:in (Vault-Notes)
|
||||||
|
3. Developer / Architect
|
||||||
|
4. Administrator:in
|
||||||
|
5. Agenten & LLMs (MCP-Perspektive)
|
||||||
|
5. **Leserführung durch die Dokumentation**
|
||||||
|
1. Welche Datei für welche Rolle?
|
||||||
|
2. Wie mit Ist-Stand vs. Roadmap umgehen?
|
||||||
|
6. **Glossar zentraler Begriffe**
|
||||||
|
- mindnet, Vault, Note, Chunk, Edge, Type, Identity, Self-Healing, Self-Tuning, Explanation Layer, Virtual Schema Layer, etc.
|
||||||
|
|
||||||
|
#### Building Blocks (Quellen-Mapping)
|
||||||
|
|
||||||
|
- Programmauftrag & Vision → `Programmplan_V2.2.md`, Kapitel 1–2. :contentReference[oaicite:18]{index=18}
|
||||||
|
- Phasenmodell & WPs → `Programmplan_V2.1.md`/v2.2, Kapitel 5–9 (angepasst auf v2.2-Stand).
|
||||||
|
- High-Level-Architektur → `knowledge_design.md`, Kapitel 1–3 (Ziel, Zielarchitektur, Collections). :contentReference[oaicite:20]{index=20}
|
||||||
|
- Rollenmodell → Ableitung aus Knowledge Design + Programmplan (Owner, Agenten, MCP-WPs).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### B) `mindnet_functional_architecture_v2.2.md`
|
||||||
|
|
||||||
|
#### Zweck & Zielgruppe
|
||||||
|
- Fachliche Architektur von mindnet (Konzeptmodell).
|
||||||
|
- Für Architekt:innen, Mindmaster, Knowledge-Designer.
|
||||||
|
|
||||||
|
#### Geplantes Inhaltsverzeichnis
|
||||||
|
|
||||||
|
1. **Ziel & Einordnung**
|
||||||
|
1. Bezug zu Programmauftrag & WPs (WP01–WP07, WP10–12)
|
||||||
|
2. **Kernkonzepte**
|
||||||
|
1. Notes & Note-Typen (concept, experience, project, decision, value, principle, person, event, …)
|
||||||
|
2. Chunks & Sections
|
||||||
|
3. Edges (Struktur, explizit, inline, Default-Kanten)
|
||||||
|
4. Typen-Registry & Virtual Schema Layer (fachliche Sicht, Roadmap)
|
||||||
|
3. **Graph-Modell**
|
||||||
|
1. Knotenarten (Notes, Chunks, Identity Nodes, People)
|
||||||
|
2. Kantenarten (belongs_to, references, similar_to, depends_on, related_to, next/prev, …)
|
||||||
|
3. Scope & Provenienz (chunk vs. note, rule_id, confidence)
|
||||||
|
4. **End-to-End fachlicher Datenfluss**
|
||||||
|
1. Erfassung von Wissen (Note erstellen)
|
||||||
|
2. Import & Graphaufbau
|
||||||
|
3. Retrieval & Begründungspfade
|
||||||
|
4. Self-Healing & Retroactive Edges (WP06/07 – Roadmap)
|
||||||
|
5. **Szenarien & Use Cases**
|
||||||
|
1. Wissensspeicherung (z. B. Leitbild, Projekt, Erfahrung)
|
||||||
|
2. Entscheidungen & Why-Layer (WP04b – Roadmap)
|
||||||
|
3. Persönlichkeits-/Identitätsmodell (WP10–12 – Roadmap)
|
||||||
|
6. **Rollenmodell (fachliche Sicht)**
|
||||||
|
1. Mindmaster
|
||||||
|
2. Content-Autor:innen
|
||||||
|
3. Analyst:innen (Graph-Leser)
|
||||||
|
7. **Designprinzipien (fachlich)**
|
||||||
|
- Late Binding, Virtual Schema, Self-Healing, Minimalinvasives Schreiben etc.
|
||||||
|
|
||||||
|
#### Building Blocks
|
||||||
|
|
||||||
|
- `knowledge_design.md` – Kapitel 1–4, 6–7 (Ziel, Architektur, Collections, Identitäten, Prinzipien). :contentReference[oaicite:28]{index=28}
|
||||||
|
- `mindnet_functional_architecture.md` – alle Kapitel (Kernkonzepte, Edgetypen, Provenienz, Rollen). :contentReference[oaicite:29]{index=29}
|
||||||
|
- `chunking_strategy.md` – Edges, Datenmodell, Graph-Sicht. :contentReference[oaicite:30]{index=30}
|
||||||
|
- Programmplan – WPs 01–07, 10–12 für Roadmap-Features.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### C) `mindnet_technical_architecture_v2.2.md`
|
||||||
|
|
||||||
|
#### Zweck & Zielgruppe
|
||||||
|
- Technische Architektur des Systems: Collections, Payload-Felder, Services, Schemata.
|
||||||
|
- Für Entwickler:innen und Tech-Architekt:innen.
|
||||||
|
|
||||||
|
#### Geplantes Inhaltsverzeichnis
|
||||||
|
|
||||||
|
1. **Ziel & Scope**
|
||||||
|
1. Abgrenzung zur funktionalen Architektur
|
||||||
|
2. Bezug zu WPs 02–04a, 05 (Schema, Importer, Retriever)
|
||||||
|
2. **Systemübersicht**
|
||||||
|
1. Komponentenübersicht (Importer, Qdrant, Retriever-API, Embedding-Service, n8n/MCP-Ausblick)
|
||||||
|
2. Ports, Dienste, Hauptverzeichnisse
|
||||||
|
3. **Datenmodell in Qdrant**
|
||||||
|
1. Notes (`mindnet_notes`)
|
||||||
|
2. Chunks (`mindnet_chunks`)
|
||||||
|
3. Edges (`mindnet_edges`)
|
||||||
|
4. Optionale Collections (`mindnet_people`, zukünftige)
|
||||||
|
4. **Typ-Registry & Konfiguration**
|
||||||
|
1. `config/types.yaml` – Aufbau, Defaults, Typauflösung (Ist-Stand: Frontmatter-Overrides deaktiviert)
|
||||||
|
2. `config/retriever.yaml` – Scoringgewichte, Edge-Typ-Gewichte :contentReference[oaicite:35]{index=35}
|
||||||
|
5. **Import-Pipeline (technische Sicht)**
|
||||||
|
1. Discovery & Parsing (`import_markdown.py`)
|
||||||
|
2. Hash-/Idempotenz-Mechanismus (ENV-Variablen, Baseline-Modi)
|
||||||
|
3. Chunking (`chunker.py`, `chunk_payload.py`)
|
||||||
|
4. Edge-Erzeugung (`derive_edges.py`)
|
||||||
|
5. Roundtrip & Tests (Export & Vault-Vergleich)
|
||||||
|
6. **Retriever-Architektur**
|
||||||
|
1. API (FastAPI-Endpunkt `/query`)
|
||||||
|
2. Semantik- und Hybridmodus
|
||||||
|
3. Subgraph & Graph-API (expand)
|
||||||
|
4. Scoring-Formel und Komponenten (semantik, edges, centrality) :contentReference[oaicite:37]{index=37}
|
||||||
|
7. **Offene technische Punkte / Roadmap**
|
||||||
|
1. Explanation Layer (WP04b)
|
||||||
|
2. Feedback-Logging (WP04c)
|
||||||
|
3. Virtual Schema Layer (WP05)
|
||||||
|
4. Self-Healing & Self-Tuning (WP06–08)
|
||||||
|
|
||||||
|
#### Building Blocks
|
||||||
|
|
||||||
|
- `mindnet_technical_architecture.md` – Kerntext. :contentReference[oaicite:39]{index=39}
|
||||||
|
- `chunking_strategy.md` – Datenmodell & Chunk-Details. :contentReference[oaicite:40]{index=40}
|
||||||
|
- `Handbuch.md` – ENV, Skripte, Runbooks. :contentReference[oaicite:41]{index=41}
|
||||||
|
- `wp04_retriever_scoring.md` / `docs_mindnet_retriever.md` – Retriever-Details. :contentReference[oaicite:42]{index=42}
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### D) `mindnet_knowledge_design_manual_v2.2.md`
|
||||||
|
|
||||||
|
#### Zweck & Zielgruppe
|
||||||
|
- Konkrete Anleitung für das Schreiben und Strukturieren von Notes & Chunks im Vault.
|
||||||
|
- Für dich als Owner/Mindmaster und alle, die Notes erstellen.
|
||||||
|
|
||||||
|
#### Geplantes Inhaltsverzeichnis
|
||||||
|
|
||||||
|
1. **Zweck & Scope**
|
||||||
|
1. Rolle des Vaults als „Source of Truth“
|
||||||
|
2. **Note-Struktur & Frontmatter**
|
||||||
|
1. Pflicht- und optionale Felder (id, title, type, tags, status, created/updated, …)
|
||||||
|
2. Empfehlungen für IDs, Pfade und Namenskonventionen
|
||||||
|
3. **Note-Typen & Typ-Registry**
|
||||||
|
1. Übersicht der Typen (concept, project, experience, decision, value, principle, person, event, …)
|
||||||
|
2. Typ-spezifische Einsatzempfehlungen
|
||||||
|
3. Zusammenspiel mit `types.yaml` (retriever_weight, chunk_profile, edge_defaults)
|
||||||
|
4. **Edges & Referenzen in Notes**
|
||||||
|
1. Wikilinks (`[[Note]]`) → `references`
|
||||||
|
2. Inline-Relationen (`[[rel:depends_on XYZ]]`, `similar_to`, `related_to`)
|
||||||
|
3. Callout-Edges (`> [!edge] …`)
|
||||||
|
4. Strukturkanten (Ordner, belongs_to)
|
||||||
|
5. **Best Practices**
|
||||||
|
1. Beispiele für gut modellierte Notes (Projekt, Entscheidung, Erfahrung)
|
||||||
|
2. Typische Anti-Patterns und wie man sie vermeidet
|
||||||
|
6. **Langfristige Stabilität**
|
||||||
|
1. Virtual Schema Layer – was bedeutet das für Note-Autoren? (Wenig Änderungen in bestehenden Notes, Logik in Configs) :contentReference[oaicite:46]{index=46}
|
||||||
|
|
||||||
|
#### Building Blocks
|
||||||
|
|
||||||
|
- `knowledge_design.md` – Kerntext + Beispiele. :contentReference[oaicite:47]{index=47}
|
||||||
|
- `TYPE_REGISTRY_MANUAL.md` – Typ-Registry & Verhalten. :contentReference[oaicite:48]{index=48}
|
||||||
|
- `mindnet_functional_architecture.md` – ergänzende Konzepte & Edges. :contentReference[oaicite:49]{index=49}
|
||||||
|
- `chunking_strategy.md` – Inline-Relationen, Edges, Datenmodell. :contentReference[oaicite:50]{index=50}
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### E) `mindnet_pipeline_playbook_v2.2.md`
|
||||||
|
|
||||||
|
#### Zweck & Zielgruppe
|
||||||
|
- End-to-End-Playbook für die gesamte Pipeline:
|
||||||
|
- Importer,
|
||||||
|
- Chunking,
|
||||||
|
- Edge-Erzeugung,
|
||||||
|
- Retriever & Scoring,
|
||||||
|
- (perspektivisch) Explanation Layer, Self-Healing, Self-Tuning.
|
||||||
|
- Für Dev/Ops und technische Leads.
|
||||||
|
|
||||||
|
#### Geplantes Inhaltsverzeichnis
|
||||||
|
|
||||||
|
1. **Zweck & Einordnung**
|
||||||
|
1. Bezug zu WPs 02–04a (Ist) und 04b–08 (Roadmap)
|
||||||
|
2. **Import-Pipeline (Runbook-Sicht)**
|
||||||
|
1. Inputs (Vault, Config-Files, ENV)
|
||||||
|
2. Standardläufe (Initialimport, inkrementelle Updates, Sync-Deletes)
|
||||||
|
3. Baseline-Builds & Hash-Modi
|
||||||
|
3. **Chunking & Payload-Aufbau**
|
||||||
|
1. Chunk-Profile, Overlaps, Fenster
|
||||||
|
2. Feldbesetzung (`text`, `window`, `section_title`, `neighbors`, …)
|
||||||
|
4. **Edge-Erzeugung**
|
||||||
|
1. Strukturkanten (belongs_to, next, prev)
|
||||||
|
2. Explizite Edges (Wikilinks, Inline-Relationen, Callouts)
|
||||||
|
3. Typ-Default-Kanten aus `types.yaml`
|
||||||
|
5. **Retriever & Scoring**
|
||||||
|
1. Konfiguration (`retriever.yaml`, ENV)
|
||||||
|
2. Scoring-Formel und Parameter
|
||||||
|
3. Semantik- vs. Hybridmodus
|
||||||
|
4. Test- und Smoke-Suites
|
||||||
|
6. **Quality Gates & Tests**
|
||||||
|
1. Roundtrip-Tests (Vault → Qdrant → Export)
|
||||||
|
2. Chunk-Integrität und Fenster-Checks
|
||||||
|
3. Retriever-Regressionstests
|
||||||
|
7. **Ausblick: Self-Healing, Retroactive Edges, Self-Tuning**
|
||||||
|
1. Geplante Batch-Jobs und Feedback-Pipelines (WP06–08)
|
||||||
|
|
||||||
|
#### Building Blocks
|
||||||
|
|
||||||
|
- `mindnet_v2_implementation_playbook.md` – Policies, Teststrategie, KPIs. :contentReference[oaicite:57]{index=57}
|
||||||
|
- `Handbuch.md` – Skripte & Test-Runbooks. :contentReference[oaicite:58]{index=58}
|
||||||
|
- `chunking_strategy.md` – Chunk- & Edge-Strategie. :contentReference[oaicite:59]{index=59}
|
||||||
|
- `docs_mindnet_retriever.md` / `wp04_retriever_scoring.md` – Retriever-Praktiken & Tests. :contentReference[oaicite:60]{index=60}
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### F) `mindnet_developer_guide_v2.2.md`
|
||||||
|
|
||||||
|
#### Zweck & Zielgruppe
|
||||||
|
- Konzentrierte Sicht für Entwickler:innen:
|
||||||
|
- wie das Projekt strukturiert ist,
|
||||||
|
- wie man es lokal aufsetzt,
|
||||||
|
- wie man neue Features implementiert/testet.
|
||||||
|
|
||||||
|
#### Geplantes Inhaltsverzeichnis
|
||||||
|
|
||||||
|
1. **Projektstruktur**
|
||||||
|
1. Verzeichnisbaum (app/, scripts/, tests/, config/, …)
|
||||||
|
2. **Lokale Entwicklungsumgebung**
|
||||||
|
1. Abhängigkeiten, venv, ENV
|
||||||
|
2. Starten von Services (Qdrant, API, ggf. ollama)
|
||||||
|
3. **APIs & Module**
|
||||||
|
1. Importer-Skripte
|
||||||
|
2. Core-Module (Chunker, Edge-Engine, Retriever)
|
||||||
|
3. FastAPI-Endpunkte (`/query`, evtl. Admin-Endpoints)
|
||||||
|
4. **Tests & Debugging**
|
||||||
|
1. pytest-Suites
|
||||||
|
2. Logging & Diagnoseskripte
|
||||||
|
5. **Guidelines für Erweiterungen**
|
||||||
|
1. Neue Typen & Edge-Regeln
|
||||||
|
2. Änderungen am Datenmodell
|
||||||
|
3. Umgang mit Schema-Änderungen (Virtual Schema Layer)
|
||||||
|
|
||||||
|
#### Building Blocks
|
||||||
|
|
||||||
|
- `mindnet_technical_architecture.md` – Modul- & API-Beschreibungen. :contentReference[oaicite:63]{index=63}
|
||||||
|
- `Handbuch.md` – Skripte & Beispiele. :contentReference[oaicite:64]{index=64}
|
||||||
|
- `docs_mindnet_retriever.md` – API-Beispiele für den Retriever. :contentReference[oaicite:65]{index=65}
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### G) `mindnet_admin_guide_v2.2.md`
|
||||||
|
|
||||||
|
#### Zweck & Zielgruppe
|
||||||
|
- Betriebshandbuch für mindnet:
|
||||||
|
- Installation,
|
||||||
|
- Konfiguration,
|
||||||
|
- Backup/Restore,
|
||||||
|
- Monitoring,
|
||||||
|
- Troubleshooting.
|
||||||
|
|
||||||
|
#### Geplantes Inhaltsverzeichnis
|
||||||
|
|
||||||
|
1. **Zielgruppe & Scope**
|
||||||
|
2. **Initial Setup**
|
||||||
|
1. Voraussetzungen (Ubuntu, Docker/Qdrant, Python-Umgebung)
|
||||||
|
2. ENV-Variablen & Config-Files (types.yaml, retriever.yaml)
|
||||||
|
3. **Betrieb im Alltag**
|
||||||
|
1. Regelmäßige Imports
|
||||||
|
2. Umgang mit Fehlermeldungen im Importer
|
||||||
|
3. Health-Checks für Qdrant & API
|
||||||
|
4. **Update-Prozess**
|
||||||
|
1. Vorgehen bei Schema-/Code-Updates
|
||||||
|
2. Umgang mit neuen Typen und Policies
|
||||||
|
5. **Backup & Restore**
|
||||||
|
1. Qdrant-Snapshots
|
||||||
|
2. Vault-Backup (Obsidian)
|
||||||
|
3. Konsistenzprüfungen
|
||||||
|
6. **Monitoring & Logging**
|
||||||
|
1. typische Logquellen (Importer, API, n8n)
|
||||||
|
7. **Governance & Sicherheit**
|
||||||
|
1. Bezug zur Programm-Governance (WP14, MCP-Sicherheit)
|
||||||
|
|
||||||
|
#### Building Blocks
|
||||||
|
|
||||||
|
- `Handbuch.md` – Betriebsskripte & ENV. :contentReference[oaicite:69]{index=69}
|
||||||
|
- `mindnet_v2_implementation_playbook.md` – Policies/Resilienz. :contentReference[oaicite:70]{index=70}
|
||||||
|
- Programmplan – Governance / WP14. :contentReference[oaicite:71]{index=71}
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### H) `mindnet_user_guide_v2.2.md`
|
||||||
|
|
||||||
|
#### Zweck & Zielgruppe
|
||||||
|
- Anleitung für Nutzer:innen (inkl. späterer Chat-Agenten-User):
|
||||||
|
- wie man mindnet im Alltag nutzt,
|
||||||
|
- wie man Fragen stellt,
|
||||||
|
- wie man neue Gedanken einbringt.
|
||||||
|
|
||||||
|
#### Geplantes Inhaltsverzeichnis
|
||||||
|
|
||||||
|
1. **Was mindnet für dich tut**
|
||||||
|
1. Persönliches Gedächtnis
|
||||||
|
2. KI-Zwilling als Gesprächspartner :contentReference[oaicite:72]{index=72}
|
||||||
|
2. **Zugänge zu mindnet**
|
||||||
|
1. Obsidian-Vault
|
||||||
|
2. Chat-Agent (lokal, n8n-Workflows)
|
||||||
|
3. (später) Interview-Assistent, MCP-Tools
|
||||||
|
3. **Gute Fragen an mindnet**
|
||||||
|
1. Beispiel-Queries (Wissensabruf, Entscheidungen, Reflexionen)
|
||||||
|
4. **Neue Inhalte eingeben**
|
||||||
|
1. Notes in Obsidian erstellen
|
||||||
|
2. Typen und Links bewusst setzen (vereinfachte Version aus D)
|
||||||
|
5. **Ergebnisse interpretieren**
|
||||||
|
1. Was bedeutet ein Treffer-Set?
|
||||||
|
2. Wie sind Scores zu lesen? (nur Ist-Stand, Explanation Layer als Ausblick)
|
||||||
|
6. **Feedback & Lernen**
|
||||||
|
1. Manuelles Feedback (gut/schlecht) – Roadmap WP04c/08
|
||||||
|
|
||||||
|
#### Building Blocks
|
||||||
|
|
||||||
|
- Programmplan – Vision & Use-Cases. :contentReference[oaicite:76]{index=76}
|
||||||
|
- Knowledge Design – Autorensicht (stark vereinfacht). :contentReference[oaicite:77]{index=77}
|
||||||
|
- Retriever-Dokumente – Scoring & Interpretation. :contentReference[oaicite:78]{index=78}
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### I) `mindnet_appendices_v2.2.md`
|
||||||
|
|
||||||
|
#### Zweck & Zielgruppe
|
||||||
|
- Referenzen, Tabellen, technische Details, die Hauptdokumente nicht überfrachten sollen.
|
||||||
|
|
||||||
|
#### Geplantes Inhaltsverzeichnis
|
||||||
|
|
||||||
|
1. **Typenreferenz (Auszug aus `types.yaml`)**
|
||||||
|
- Tabellenform: Typ, chunk_profile, edge_defaults, retriever_weight
|
||||||
|
2. **Edge-Typen & Bedeutungen**
|
||||||
|
- belongs_to, references, depends_on, similar_to, related_to, next, prev, …
|
||||||
|
3. **Datenmodelle (JSON-Skizzen)**
|
||||||
|
- Note, Chunk, Edge-Payload (aktuell implementierter Stand)
|
||||||
|
4. **Relevante ENV-Variablen & Konfigurationen**
|
||||||
|
- Hash-Settings, COLLECTION_PREFIX, MINDNET_TYPES_FILE, MINDNET_RETRIEVER_CONFIG etc.
|
||||||
|
5. **WP-Übersicht & Status**
|
||||||
|
- kompakte Tabelle aller WPs mit Status (🟢/🟡) und Verweisen auf relevante Dokumente.
|
||||||
|
6. **Historische Dokumente**
|
||||||
|
- Verweis auf alte Versionen (`mindnet_functional_architecture.md`, ältere Playbooks), falls diese nicht vollständig eingearbeitet werden.
|
||||||
|
|
||||||
|
#### Building Blocks
|
||||||
|
|
||||||
|
- `TYPE_REGISTRY_MANUAL.md` – Typen-Referenz. :contentReference[oaicite:84]{index=84}
|
||||||
|
- `chunking_strategy.md` – JSON-Beispiele. :contentReference[oaicite:85]{index=85}
|
||||||
|
- `mindnet_technical_architecture.md` – Felder & Prioritäten. :contentReference[oaicite:86]{index=86}
|
||||||
|
- Programmplan – WP-Tabellen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Bearbeitungsreihenfolge (Empfehlung)
|
||||||
|
|
||||||
|
Aus Sicht der Informationssicherung und Konsistenz ist folgende Reihenfolge sinnvoll:
|
||||||
|
|
||||||
|
1. **C – `mindnet_technical_architecture_v2.2.md`**
|
||||||
|
- Begründung:
|
||||||
|
- bildet den **aktuellen implementierten Stand** von WP02–WP04a am präzisesten ab,
|
||||||
|
- ist stark an konkrete Felder, Collections und Skripte gebunden (hier ist der Ist-Stand am eindeutigsten belegbar),
|
||||||
|
- ist die Grundlage für Developer Guide, Playbook und Admin Guide.
|
||||||
|
|
||||||
|
2. **E – `mindnet_pipeline_playbook_v2.2.md`**
|
||||||
|
- Konsolidiert Handbuch + Implementation-Playbook + WP04-Dokumente.
|
||||||
|
|
||||||
|
3. **D – `mindnet_knowledge_design_manual_v2.2.md`**
|
||||||
|
- Stellt sicher, dass das Wissensdesign stabil dokumentiert ist, bevor Overview/User Guide entstehen.
|
||||||
|
|
||||||
|
4. **A – `mindnet_overview_v2.2.md`**
|
||||||
|
- Kann sich dann sauber auf die finalisierte fachliche/technische Sicht stützen.
|
||||||
|
|
||||||
|
5. **F, G, H, I**
|
||||||
|
- Developer/Admin/User Guides & Appendices, basierend auf den konsolidierten Kern-Dokumenten.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Nächster konkreter Schritt
|
||||||
|
|
||||||
|
Als nächstes finalisieren wir gemäß dieser Reihenfolge das Dokument:
|
||||||
|
|
||||||
|
> **C – `mindnet_technical_architecture_v2.2.md`**
|
||||||
|
|
||||||
|
Dabei gehen wir wie folgt vor:
|
||||||
|
|
||||||
|
1. Bestehendes `mindnet_technical_architecture.md` **vollständig** als Basis übernehmen. :contentReference[oaicite:89]{index=89}
|
||||||
|
2. Fehlende Details aus `chunking_strategy.md`, `Handbuch.md`, `TYPE_REGISTRY_MANUAL.md` und `wp04_retriever_scoring.md` integrieren (ohne Informationsverlust).
|
||||||
|
3. Ist-Stand vs. Roadmap klar kennzeichnen (WP04b–08, WP05–07).
|
||||||
|
|
||||||
|
Dieses Vorgehen hält die technische Wahrheit konsistent und liefert eine stabile Basis für alle nachfolgenden Dokumente.
|
||||||
@@ -0,0 +1,772 @@
|
|||||||
|
# mindnet v2.2 — Programmplan
|
||||||
|
**Version:** 2.2
|
||||||
|
**Stand:** 2025-12-06
|
||||||
|
**Status:** Aktiv (Fortschreibung von v2.1)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1. Programmauftrag
|
||||||
|
|
||||||
|
mindnet v2.2 entwickelt ein persönliches, wachsendes KI-Gedächtnis, das:
|
||||||
|
|
||||||
|
- Wissen, Erfahrungen, Werte und Entscheidungen speichert,
|
||||||
|
- diese Informationen semantisch verknüpft und rekonstruierbar macht,
|
||||||
|
- einen KI-Zwilling aufbaut, der ähnlich argumentiert, entscheidet und reflektiert wie du,
|
||||||
|
- über mehrere Kanäle gefüttert wird:
|
||||||
|
- Obsidian-Markdown (primäre Quelle),
|
||||||
|
- Chat-basierter Agent (mindnet-Assistent),
|
||||||
|
- später: Interview-Assistent (strukturierte Dialogerfassung),
|
||||||
|
- automatisch neue Zusammenhänge erkennt und vernetzt (Edges, Typen, Hinweise),
|
||||||
|
- sich durch Rückmeldungen (Feedback) selbst verbessert (Self-Tuning).
|
||||||
|
|
||||||
|
Langfristig soll mindnet als **digitales Gegenüber** funktionieren, das:
|
||||||
|
|
||||||
|
- dich versteht,
|
||||||
|
- deine Denkweise reflektiert,
|
||||||
|
- deine Werte kennt und verwendet,
|
||||||
|
- Entscheidungen begründen kann („Warum?“),
|
||||||
|
- Erinnerungen einordnet,
|
||||||
|
- und für deine Nachkommen als dialogfähiger Gesprächspartner zur Verfügung steht.
|
||||||
|
|
||||||
|
mindnet ist **kein statisches Wissensarchiv**, sondern ein **lebendes, lernendes Gedächtnismodell** mit Fokus auf:
|
||||||
|
|
||||||
|
- persönliche Perspektive,
|
||||||
|
- erklärbare Begründungspfade,
|
||||||
|
- kontinuierliche Erweiterbarkeit,
|
||||||
|
- robuste technische Basis (lokal, nachvollziehbar, versioniert).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Vision
|
||||||
|
|
||||||
|
> „Ein persönliches semantisches Gedächtnis, das mit mir wächst, meine Persönlichkeit spiegelt und mir als intelligenter, erklärbarer, lernender Begleiter dient.“
|
||||||
|
|
||||||
|
Kernprinzipien der Vision:
|
||||||
|
|
||||||
|
- **Erklärbarkeit:**
|
||||||
|
Jede Antwort muss über Edges, Scores, Werte-Bezüge und Herkunftsnotizen begründbar sein.
|
||||||
|
|
||||||
|
- **Wachstum:**
|
||||||
|
Das System arbeitet von Anfang an mit unvollständigen Daten, kann aber schrittweise dichter werden, ohne dass alte Notizen massenhaft manuell angepasst werden müssen.
|
||||||
|
|
||||||
|
- **Flexibilität (Late Binding):**
|
||||||
|
Semantik wird überwiegend in Konfiguration (z. B. `types.yaml`, Policies, Knowledge-Design) festgelegt, nicht in jeder einzelnen Markdown-Datei.
|
||||||
|
|
||||||
|
- **Autonomie & Self-Healing:**
|
||||||
|
mindnet schlägt fehlende Typen, Relationen und Edges vor (z. B. aus Inline-Relationen, Edge-Defaults, Ähnlichkeitsbeziehungen) und baut damit einen „self-healing graph“ auf.
|
||||||
|
|
||||||
|
- **Lernen & Self-Tuning:**
|
||||||
|
Feedback zu Antworten (gut/schlecht, relevant/nicht relevant) fließt in Score-Gewichte, Policies und ggf. Edge-Struktur ein.
|
||||||
|
|
||||||
|
- **Persönlichkeit:**
|
||||||
|
Entscheidungen werden wert- und erfahrungsbasiert begründet; mittelfristig entsteht ein Persönlichkeitsmodell, das den KI-Zwilling trägt.
|
||||||
|
|
||||||
|
- **Incremental Growth:**
|
||||||
|
Das System muss mit wenigen, heterogenen Notizen starten und sich fortlaufend verdichten können – ohne Retro-Massenmigrationen im Vault.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Programmziele
|
||||||
|
|
||||||
|
### 3.1 Kurzfristig (nächste Monate)
|
||||||
|
|
||||||
|
- Automatische Sammlung von Wissen aus Markdown-Vault und ersten Chat-Dialogen.
|
||||||
|
- Aufbau eines stabilen Graph-Speichers in Qdrant (`*_notes`, `*_chunks`, `*_edges`).
|
||||||
|
- Semantischer und graphbasierter Retriever (WP-04a abgeschlossen, WP-04b/04c in Vorbereitung).
|
||||||
|
- Automatisierte Erkennung von Beziehungen:
|
||||||
|
- Wikilinks, Inline-Relationen, Callout-Edges, Typ-Defaults.
|
||||||
|
- Schrittweises Lernen über Feedback (Score-Tuning, noch „manuell“ konfiguriert). :contentReference[oaicite:8]{index=8}
|
||||||
|
- „Mitwachsendes“ Schema ohne Obsidian-Umstrukturierungen:
|
||||||
|
- Neues Wissen kann sofort erfasst werden,
|
||||||
|
- bestehende Notizen bleiben gültig (Virtual Schema Layer).
|
||||||
|
- Technische Basis für die späteren Agenten und den KI-Zwilling:
|
||||||
|
- lokaler FastAPI-Dienst,
|
||||||
|
- Qdrant als Graph-Backend,
|
||||||
|
- konfigurierbarer Retriever (`retriever.yaml`).
|
||||||
|
|
||||||
|
### 3.2 Mittelfristig
|
||||||
|
|
||||||
|
- Persönlichkeitsprofil wird stabil erkannt und für Antworten genutzt (Typen, Werte-Notizen, Entscheidungsnotizen).
|
||||||
|
- Why-Layer: KI-Assistenz für Entscheidungen mit nachvollziehbarer Argumentation.
|
||||||
|
- Interview-Assistent erstellt neue Notes automatisch (strukturierte Dialoge → Markdown).
|
||||||
|
- mindnet erzeugt Vorschläge für neue Notes & Edges und bietet einen „Vernetzungs-Assistenten“ für manuell angelegte Notizen.
|
||||||
|
- Agenten können über MCP-Tools (`mindnet_query`, `mindnet_subgraph`, `mindnet_store_note`, `mindnet_explain`) auf mindnet zugreifen.
|
||||||
|
|
||||||
|
### 3.3 Langfristig
|
||||||
|
|
||||||
|
- KI-Zwilling, der deinen Stil, deine Werte und deine typische Denkweise repräsentiert.
|
||||||
|
- Weitgehend autonomes Self-Tuning der Wissensstruktur (auf Basis gespeicherter Feedback-Daten & Policies).
|
||||||
|
- Lebenslanges Gedächtnis, das
|
||||||
|
- konsistent bleibt,
|
||||||
|
- wächst,
|
||||||
|
- sich weiterentwickelt,
|
||||||
|
- und deine Geschichte für deine Nachkommen erzählbar und erlebbar macht.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Architekturprinzipien
|
||||||
|
|
||||||
|
Die folgenden Prinzipien steuern alle Workpackages und Entscheidungen:
|
||||||
|
|
||||||
|
1. **Late Binding (späte Semantik)**
|
||||||
|
- Struktur und Interpretation werden in Konfigurationen (z. B. `types.yaml`, Policies, `knowledge_design.md`) definiert, nicht direkt in den Vault-Dateien.
|
||||||
|
- Erlaubt spätere Anpassungen ohne manuelle Massenänderungen.
|
||||||
|
|
||||||
|
2. **Virtual Schema Layer**
|
||||||
|
- Typen, Regeln, Policies, Edge-Defaults werden im Schema-Layer beschrieben (z. B. `knowledge_design.md`, `mindnet_functional_architecture.md`, `types.yaml`).
|
||||||
|
- Markdown-Dateien benötigen nur minimale, robuste Angaben (Titel, Typ, optionale Properties).
|
||||||
|
|
||||||
|
3. **Self-Healing Graph**
|
||||||
|
- Der Graph wird regelmäßig analysiert (Edges, Centrality, fehlende Links).
|
||||||
|
- Automatisierte Jobs ergänzen fehlende Kanten (ähnliche Inhalte, typisierte Standardbeziehungen, Backlinks).
|
||||||
|
|
||||||
|
4. **Deterministische IDs**
|
||||||
|
- Notes, Chunks und Edges erhalten stabile IDs (z. B. UUIDv5, deterministische `note_id`/`chunk_id`/`edge_id`).
|
||||||
|
- Der Graph ist jederzeit wiederaufbaubar (Import-Pipeline idempotent).
|
||||||
|
|
||||||
|
5. **Full Explainability**
|
||||||
|
- Jeder Score, jede Beziehung, jeder Vorschlag muss über:
|
||||||
|
- Edges,
|
||||||
|
- Scoring-Komponenten (Semantik, Typ, Edge-Bonus, Centrality),
|
||||||
|
- Provenienz (Notizen, Chunks, rule_id, confidence) nachvollziehbar sein.
|
||||||
|
|
||||||
|
6. **Persistence First**
|
||||||
|
- Obsidian bleibt die primäre Quelle der Wahrheit.
|
||||||
|
- mindnet ergänzt, schlägt Änderungen vor, schreibt aber nur kontrolliert (z. B. über Rewriter oder Vernetzungs-Assistent mit Freigabe).
|
||||||
|
|
||||||
|
7. **Minimalinvasives Schreiben**
|
||||||
|
- Automatische Veränderungen an Markdown-Dateien erfolgen ausschließlich nach expliziter Zustimmung.
|
||||||
|
- Rewriter und Vernetzungs-Assistent arbeiten grundsätzlich im Vorschlagsmodus.
|
||||||
|
|
||||||
|
8. **Incremental Growth & Early Value**
|
||||||
|
- Das System muss bereits mit wenigen Notizen und einem kleinen Vault sinnvolle Antworten liefern (Retrieval-MVP).
|
||||||
|
- Spätere Erweiterungen (Typen, Policies, zusätzliche Edges) dürfen bestehende Notizen nicht „ungültig“ machen, sondern ergänzen sie.
|
||||||
|
- Feedback-Mechanismen werden früh eingeführt, auch wenn sie anfangs noch nicht vollautomatisch ausgewertet werden.
|
||||||
|
|
||||||
|
9. **Observability & Testbarkeit**
|
||||||
|
- Jeder Importlauf, jede Retriever-Anfrage und jede Policy-Änderung soll prüfbar sein (Logs, Traces, Tests, Reports).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Programmstruktur (Phasenmodell)
|
||||||
|
|
||||||
|
Phase A – Fundament & Import
|
||||||
|
Phase B – Semantik, Graph & Lernen
|
||||||
|
Phase C – Persönlichkeitsmodell & KI-Zwilling
|
||||||
|
Phase D – Agenten, MCP & Interaktion
|
||||||
|
Phase E – Review, Refactoring, Dokumentation
|
||||||
|
|
||||||
|
Alle Workpackages sind einer Phase zugeordnet; einige Workpackages (z. B. WP-03, WP-04a) sind bereits abgeschlossen und bilden heute die Basis für alle weiteren Schritte.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Workpackages – detaillierte Übersicht
|
||||||
|
|
||||||
|
### Legende Aufwand / Komplexität
|
||||||
|
|
||||||
|
- Aufwand: Niedrig / Mittel / Hoch
|
||||||
|
- Komplexität: Niedrig / Mittel / Hoch
|
||||||
|
|
||||||
|
Die Status-Ampel zeigt den aktuellen Stand gemäß Programmfortschritt. :contentReference[oaicite:18]{index=18}
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-01 – Wissensdesign (abgeschlossen)
|
||||||
|
|
||||||
|
**Phase:** A
|
||||||
|
**Status:** 🟢 abgeschlossen
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Grundlegendes Schema für mindnet festlegen (`knowledge_design.md`), inkl.:
|
||||||
|
|
||||||
|
- Note-Typen (z. B. `concept`, `experience`, `project`, `decision`, `value`, `principle`, `person`, `event`, etc.).
|
||||||
|
- Standard-Properties (Titel, Typ, Tags, Status, Zeitstempel, Referenzen, Policies).
|
||||||
|
- Grundstruktur von Edges (z. B. `belongs_to`, `references`, `depends_on`, `similar_to`, `related_to`, `influenced_by`).
|
||||||
|
- Abbildung zentraler Lebens-Bereiche, Rollen und Wissenskategorien.
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Mittel
|
||||||
|
- Komplexität: Mittel
|
||||||
|
|
||||||
|
**Erreichte Ergebnisse / Funktionsumfang:**
|
||||||
|
|
||||||
|
- `knowledge_design.md` in Version 1.5 definiert:
|
||||||
|
- Zielarchitektur,
|
||||||
|
- Collections,
|
||||||
|
- Identitätsmodell,
|
||||||
|
- zentrale Typen und Edges. :contentReference[oaicite:20]{index=20}
|
||||||
|
- Das Dokument beschreibt klar:
|
||||||
|
- wie Wissen fachlich strukturiert wird,
|
||||||
|
- welche Typen und Relationen in mindnet „erwartet“ werden,
|
||||||
|
- wie spätere Erweiterungen (neue Typen, zusätzliche Edge-Arten) ohne Retro-Migration möglich sind.
|
||||||
|
|
||||||
|
**DoD:**
|
||||||
|
|
||||||
|
- Schema ist konsistent beschrieben.
|
||||||
|
- Grundtypen und Edge-Arten sind definiert und im Code konzeptionell verankert (z. B. via `types.yaml`).
|
||||||
|
- Das Dokument dient als Referenz für alle folgenden WPs.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-02 – Chunking & Hash-Strategie (abgeschlossen)
|
||||||
|
|
||||||
|
**Phase:** A
|
||||||
|
**Status:** 🟢 abgeschlossen
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Festlegen und implementieren einer robusten Chunking-Strategie und einer Hash-Logik zur Änderungserkennung.
|
||||||
|
|
||||||
|
**Umfang (fachlich & technisch):**
|
||||||
|
|
||||||
|
- Text in semantisch sinnvolle Chunks teilen (Heading-/Block-aware).
|
||||||
|
- Parallelhaltung von:
|
||||||
|
- `text` (Chunk-Kern ohne Overlap),
|
||||||
|
- `window` (Chunk-Fenster mit Overlap für Embeddings).
|
||||||
|
- Hash-Modi zur Änderungserkennung (Body / Frontmatter / Full, canonical vs. none).
|
||||||
|
- Unterstützung eines „Baseline-Modus“ (mehrere Hash-Signaturen), um spätere Modus-Wechsel zu ermöglichen, ohne alle Notizen als „geändert“ zu sehen.
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Mittel
|
||||||
|
- Komplexität: Mittel/Hoch
|
||||||
|
|
||||||
|
**Erreichte Ergebnisse / Funktionsumfang:**
|
||||||
|
|
||||||
|
- Implementierte Chunker-Logik mit Ziel-Längen, Overlap und Nachbarschaft (`neighbors_prev`, `neighbors_next`).
|
||||||
|
- Tests zur Überprüfung der Rekonstruktion von Notiz-Bodies aus Chunks (`verify_chunks_integrity.py`, `check_chunks_window_vs_text.py`).
|
||||||
|
- Hash-Konfiguration über ENV-Variablen + Option `--baseline-modes`.
|
||||||
|
- Roundtrip-Tests für Vault → Qdrant → Export-Vault (keine ungewollten Veränderungen an Inhalten).
|
||||||
|
|
||||||
|
**DoD:**
|
||||||
|
|
||||||
|
- Chunking stabil, deterministisch, überprüft.
|
||||||
|
- Hash-Strategie ermöglicht sichere Änderungserkennung ohne Mass-Diffs bei Konfigurationswechsel.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-03 – Import-Pipeline & Edge-System v2 (abgeschlossen)
|
||||||
|
|
||||||
|
**Phase:** A/B
|
||||||
|
**Status:** 🟢 abgeschlossen
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Durchgängige Import-Pipeline von Markdown → Notes/Chunks/Edges in Qdrant mit deterministischen IDs, typbasierten Defaults und erklärbarem Edge-Modell.
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- Parser (robust gegenüber Zeichensatzfehlern, Frontmatter/Body-Erkennung, Sonderfälle wie Silverbullet-Dateien).
|
||||||
|
- Bau von Note-Payloads (`note_payload`):
|
||||||
|
- Typ-Vererbung (`retriever_weight`, `chunk_profile`, `edge_defaults`).
|
||||||
|
- Bau von Chunk-Payloads (`chunk_payload`):
|
||||||
|
- `text`, `window`, Nachbarn, Typ-Information.
|
||||||
|
- Edge-System:
|
||||||
|
- Strukturkanten (`belongs_to`, `next`, `prev`),
|
||||||
|
- explizite Wikilinks (`[[Note]]` → `references`),
|
||||||
|
- Inline-Relationen (`[[rel:depends_on Note]]`),
|
||||||
|
- Callout-Edges (`> [!edge] related_to: [[Note]]`),
|
||||||
|
- typbasierte Standardkanten aus `types.yaml` (`edge_defaults`).
|
||||||
|
- Idempotente Upserts in Qdrant (Notes/Chunks/Edges).
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Hoch
|
||||||
|
- Komplexität: Hoch
|
||||||
|
|
||||||
|
**Erreichte Ergebnisse / Funktionsumfang:**
|
||||||
|
|
||||||
|
- Vollständige E2E-Import-Pipeline incl. Tests (`run_e2e_roundtrip.sh`, `compare_vaults.py`, `validate_edges`, `edges_full_check`).
|
||||||
|
- deterministische ID-Vergabe für Notes/Chunks/Edges.
|
||||||
|
- vollständiges Edge-Modell gemäß Facharchitektur (`mindnet_functional_architecture.md`). :contentReference[oaicite:26]{index=26}
|
||||||
|
- Exporte zurück nach Markdown (Export-Pipeline) ermöglicht Roundtrip-Vergleich.
|
||||||
|
|
||||||
|
**DoD:**
|
||||||
|
|
||||||
|
- Importer generiert stabile Notes/Chunks/Edges für gesamten Vault.
|
||||||
|
- Edge-Invarianten (`belongs_to == #Chunks`, `next/prev` konsistent) erfüllt.
|
||||||
|
- Roundtrip: Exportierte Vault-Version stimmt inhaltlich mit originalem Vault überein (bis auf bewusst ausgeschlossene Dateien).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-04a – Retriever & Graph-Scoring (abgeschlossen)
|
||||||
|
|
||||||
|
**Phase:** B
|
||||||
|
**Status:** 🟢 abgeschlossen
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Aufbau eines hybriden Retrievers, der Semantik (Embeddings), Typwissen (`retriever_weight`) und Graph-Informationen (Edges, Centrality) zu einem erklärbaren Score kombiniert.
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- Retriever-Modul (`app/core/retriever.py`):
|
||||||
|
- Vektorsuche über `*_chunks`,
|
||||||
|
- Zusammenführung von Chunk-Treffern mit Note-Metadaten,
|
||||||
|
- Aufbau eines Subgraphen (Nachbarn über Edges, Centrality-Berechnung).
|
||||||
|
- Scoring-Formel:
|
||||||
|
semantic_score
|
||||||
|
retriever_weight
|
||||||
|
edge_bonus
|
||||||
|
centrality_bonus
|
||||||
|
- Konfiguration über `config/retriever.yaml` (Gewichte, Parameter). :contentReference[oaicite:28]{index=28}
|
||||||
|
- FastAPI-Endpoint `/query` mit Rückgabe:
|
||||||
|
- Trefferliste,
|
||||||
|
- Teil-Scores,
|
||||||
|
- Begründung (inkl. Edge-Kontext).
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Hoch
|
||||||
|
- Komplexität: Hoch
|
||||||
|
|
||||||
|
**Erreichte Ergebnisse / Funktionsumfang:**
|
||||||
|
|
||||||
|
- Hybrides Scoring-Modell mit konfigurierbaren Gewichten (`semantic_weight`, `edge_weight`, `centrality_weight`).
|
||||||
|
- Nutzung von `retriever_weight` aus `types.yaml` in Score-Berechnung.
|
||||||
|
- Graph-boni aus echten Edges (explizit, Inline, Typ-Defaults, Strukturkanten).
|
||||||
|
- Funktionsfähiger `/query`-Endpoint mit Testcases (inkl. Relations-Showcase-Vault).
|
||||||
|
- Basis für spätere Self-Tuning-Mechanismen (Logging von Scores, Konfiguration in `retriever.yaml`).
|
||||||
|
|
||||||
|
**DoD:**
|
||||||
|
|
||||||
|
- `/query` liefert nachvollziehbare Ergebnisse mit sichtbarem Einfluss von:
|
||||||
|
- Typprioritäten,
|
||||||
|
- Edge-Struktur,
|
||||||
|
- Centrality.
|
||||||
|
- Scoring ist rein konfigurierbar (Konfig-Change → Score-Veränderung ohne Code-Änderung).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-04b – Explanation Layer (geplant)
|
||||||
|
|
||||||
|
**Phase:** B
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Treffererklärungen liefern, die für dich (Mindmaster) und spätere Nutzer verständlich sind (Why-Layer).
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- Erklärungsschicht über dem Retriever:
|
||||||
|
- Aufschlüsselung des Scores pro Treffer,
|
||||||
|
- Ketten von Edges (Pfade) als Begründungsgraph,
|
||||||
|
- Markierung relevanter Chunks / Notizen.
|
||||||
|
- Darstellung von:
|
||||||
|
- verwendeten Typen,
|
||||||
|
- Edges und deren `rule_id` / `confidence`,
|
||||||
|
- Centrality-Beiträgen.
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Mittel
|
||||||
|
- Komplexität: Hoch
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- API-Endpoint (z. B. `/query/explain`), der eine strukturierte Erklärung in JSON liefert.
|
||||||
|
- Mindestens ein Beispiel, in dem Score-Änderung nachvollziehbar auf Policies/Edges zurückgeführt werden kann.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-04c – Feedback Logging & Bewertungsdaten (geplant)
|
||||||
|
|
||||||
|
**Phase:** B
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Grundlage für Self-Tuning schaffen, indem Queries, Antworten und Bewertungen systematisch protokolliert werden.
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- Logging von:
|
||||||
|
- Query-Texten,
|
||||||
|
- verwendeten Policies/Config-Versionen,
|
||||||
|
- Trefferlisten (Scores, Edges),
|
||||||
|
- Feedback (z. B. „hilfreich“, „irrelevant“, „falsch“).
|
||||||
|
- Persistente Speicherung (z. B. in einer separaten Sammlung oder Datei-basiert).
|
||||||
|
- Bereitstellung von Auswertungs-Skripten (Statistiken, Ranking-Qualität).
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Mittel
|
||||||
|
- Komplexität: Mittel/Hoch
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- Vollständiger Feedback-Trail für ausgewählte Test-Sessions.
|
||||||
|
- Exportfähige Datenbasis zur späteren Optimierung der Retriever-Parameter.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-05 – Persönlichkeitsmodell (geplant)
|
||||||
|
|
||||||
|
**Phase:** C
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Aufbau eines expliziten Persönlichkeitsmodells, das Werte, Prinzipien, prägende Erfahrungen und wiederkehrende Entscheidungsstrategien abbildet.
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- Identifikation und Typisierung relevanter Notes:
|
||||||
|
- `value`, `principle`, `life_event`, `milestone`, `decision`.
|
||||||
|
- Aufbau eines Modells, das:
|
||||||
|
- typische Begründungsmuster erkennt,
|
||||||
|
- Wertprioritäten identifiziert,
|
||||||
|
- langfristig in Scoring & Antwort-Formulierung einfließt.
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Mittel
|
||||||
|
- Komplexität: Mittel
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- Dokumentiertes Persönlichkeitsmodell (z. B. YAML/Markdown), das konkrete Wert-/Prinzipien-Strukturen beschreibt.
|
||||||
|
- Basis-Integration in den Retriever (z. B. Wert-Bezüge in Explanation-Layer).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-06 – Decision Engine (geplant)
|
||||||
|
|
||||||
|
**Phase:** C
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Entscheidungsunterstützung auf Basis von Wissen, Persönlichkeit und Zielen – inklusive nachvollziehbarer Begründung.
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- Identifikation typischer Entscheidungssituationen (z. B. beruflich, familiär, gesundheitlich).
|
||||||
|
- Integration von:
|
||||||
|
- fachlichem Wissen,
|
||||||
|
- Erfahrungen (Vergangenheitsentscheidungen),
|
||||||
|
- Persönlichkeitsmodell.
|
||||||
|
- Ableitung von Entscheidungs-Templates / Heuristiken.
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Mittel
|
||||||
|
- Komplexität: Hoch
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- Prototypischer „Decision-Assistant“, der für definierte Szenarien begründete Empfehlungen gibt.
|
||||||
|
- Erklärungen referenzieren konkrete Notes/Edges.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-07 – Interview-Assistent (geplant)
|
||||||
|
|
||||||
|
**Phase:** C
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Dialogbasierter Erfassungs-Assistent, der strukturierte Interviews führt und daraus konsistente Markdown-Notizen generiert.
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- Design von Interview-Flows (z. B. für Lebensereignisse, Projekte, Werte-Workshops).
|
||||||
|
- Konvertierung von Dialogtranskripten in typisierte Notes (inkl. Typ, Tags, erste Edges).
|
||||||
|
- Integration mit Vault-Struktur (Ablagepfade, Namenskonventionen).
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Niedrig/Mittel
|
||||||
|
- Komplexität: Mittel
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- Mindestens ein produktionsnaher Flow (z. B. „Erzähle mir von einem prägenden Ereignis“).
|
||||||
|
- Automatische Erzeugung von Markdown-Notizen, die vom Importer direkt verarbeitet werden können.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-08 – Self-Tuning v1/v2 (geplant)
|
||||||
|
|
||||||
|
**Phase:** B/C
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Aufbau eines Self-Tuning-Mechanismus, der auf Basis von Feedback-Daten Vorschläge für Retriever- und Policy-Anpassungen macht.
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- Auswertung der Feedback-Daten (WP-04c).
|
||||||
|
- Regel-basierte Anpassungs-Vorschläge:
|
||||||
|
- Gewichte in `retriever.yaml`,
|
||||||
|
- Typ-Prioritäten,
|
||||||
|
- Edge-Provenance-Gewichte.
|
||||||
|
- Optionale halbautomatische Übernahme (Freigabe durch Mindmaster).
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Hoch
|
||||||
|
- Komplexität: Hoch
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- Mindestens ein in der Praxis getesteter Tuning-Zyklus:
|
||||||
|
- Feedback sammeln,
|
||||||
|
- Vorschlag generieren,
|
||||||
|
- Anpassung vornehmen,
|
||||||
|
- Qualitätsgewinn nachweisen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-09 – Vault-Onboarding & Migration (geplant)
|
||||||
|
|
||||||
|
**Phase:** B
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Sicherstellen, dass bestehende und neue Obsidian-Vaults schrittweise in mindnet integriert werden können – ohne Massenumbau.
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- Tools/Guides für:
|
||||||
|
- Analyse des Vault-Status (Typen, Edges, Lücken),
|
||||||
|
- Empfehlungen für minimale Anpassungen (z. B. Typ-Setzung, Basis-Tags),
|
||||||
|
- optional automatisierte Ergänzung von Properties (mit Freigabe).
|
||||||
|
- Unterstützung eines „wachsenden Systems“:
|
||||||
|
- erste Notizen liefern sofort Mehrwert im Retriever,
|
||||||
|
- später können Typen und Edges ergänzt werden, ohne alte Notizen zu brechen.
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Mittel
|
||||||
|
- Komplexität: Niedrig/Mittel
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- Dokumentierter Onboarding-Prozess für Produkt-Vault.
|
||||||
|
- Mindestens ein erfolgreicher Durchlauf mit deinem realen Vault (Pilot).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-10 – Chat-Interface & Writeback (geplant)
|
||||||
|
|
||||||
|
**Phase:** D
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Chat-basierter mindnet-Agent, der sowohl Fragen beantwortet als auch neue Notizen erzeugen/aktualisieren kann (Writeback Richtung Vault).
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- Chat-Frontend (z. B. in deiner bestehenden LLM-Umgebung).
|
||||||
|
- Anbindung an:
|
||||||
|
- `/query` (Retriever),
|
||||||
|
- MCP-Tools (WP-13),
|
||||||
|
- Import-/Export-Routinen.
|
||||||
|
- Funktionen:
|
||||||
|
- Antworten aus mindnet-Wissen,
|
||||||
|
- Vorschlag neuer Notes/Edges,
|
||||||
|
- optionales Schreiben ins Vault (Markdown-Erzeugung, Rewriting nur mit Freigabe).
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Hoch
|
||||||
|
- Komplexität: Hoch
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- Du kannst im Chat:
|
||||||
|
- Fragen an dein Wissensnetz stellen,
|
||||||
|
- neue Gedanken/Erinnerungen erfassen,
|
||||||
|
- Vorschläge für Ablage & Vernetzung als Markdown-Notizen erhalten.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-11 – Knowledge-Builder & Vernetzungs-Assistent (geplant)
|
||||||
|
|
||||||
|
**Phase:** D
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Assistent, der manuell erstellte oder importierte Notizen analysiert und Vorschläge für Typen, Edges und Einordnung macht.
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- Analyse neuer/aktualisierter Notes:
|
||||||
|
- mögliche Typen,
|
||||||
|
- passende Tags,
|
||||||
|
- potenzielle Relationen zu bestehenden Notes.
|
||||||
|
- Vorschläge:
|
||||||
|
- Inline-Relationen,
|
||||||
|
- Wikilinks,
|
||||||
|
- Typ-Zuweisung.
|
||||||
|
- Optional: Generierung konkreter Patch-Vorschläge für Markdown-Dateien (Diff-basiert).
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Hoch
|
||||||
|
- Komplexität: Hoch
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- Mindestens ein produktionsnaher Workflow, bei dem ein neuer Eintrag:
|
||||||
|
- erstellt wird,
|
||||||
|
- analysiert wird,
|
||||||
|
- Vernetzungs-Vorschläge liefert,
|
||||||
|
- und nach Freigabe in den Vault zurückgeschrieben wird.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-12 – Knowledge Rewriter (Soft Mode, geplant)
|
||||||
|
|
||||||
|
**Phase:** C/D
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Optionaler Assistent, der vorhandene Notes „aufräumt“, zusammenfasst oder reorganisiert – ausschließlich mit expliziter Freigabe. :contentReference[oaicite:31]{index=31}
|
||||||
|
|
||||||
|
**Einschränkungen:**
|
||||||
|
|
||||||
|
- Änderungen an Markdown-Dateien nur nach Freigabe.
|
||||||
|
- Kein „silent overwrite“ existierender Inhalte.
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Niedrig/Mittel
|
||||||
|
- Komplexität: Mittel
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- Rewriter generiert Vorschläge (neue Versionen) inklusive Diffs.
|
||||||
|
- Nach Freigabe werden Notes konsistent aktualisiert:
|
||||||
|
- IDs, Edges und Typen bleiben konsistent oder werden sauber mitaktualisiert.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-13 – MCP-Integration & Agenten-Layer (geplant)
|
||||||
|
|
||||||
|
**Phase:** D
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
mindnet als MCP-Server bereitstellen, damit Agenten/LLMs standardisierte Tools nutzen können (z. B. in deiner n8n- und LLM-Umgebung).
|
||||||
|
|
||||||
|
**Umfang:**
|
||||||
|
|
||||||
|
- MCP-Server mit Tools wie:
|
||||||
|
- `mindnet_query`,
|
||||||
|
- `mindnet_subgraph`,
|
||||||
|
- `mindnet_store_note`,
|
||||||
|
- `mindnet_explain`.
|
||||||
|
- Sichere Konfiguration (lokal, authentifiziert, logging-fähig).
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Mittel
|
||||||
|
- Komplexität: Mittel
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- Lokaler MCP-Server läuft und ist aus einem LLM-Client nutzbar.
|
||||||
|
- Tools liefern konsistente Ergebnisse (aligned mit FastAPI-Endpoints).
|
||||||
|
- Sicherheits- und Loggingkonzept dokumentiert.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### WP-14 – Review / Refactoring / Dokumentation (geplant)
|
||||||
|
|
||||||
|
**Phase:** E
|
||||||
|
**Status:** 🟡 geplant
|
||||||
|
|
||||||
|
**Ziel:**
|
||||||
|
Aufräumen, dokumentieren, stabilisieren – insbesondere für Onboarding Dritter und Langfrist-Betrieb.
|
||||||
|
|
||||||
|
**Deliverables (Beispiele):**
|
||||||
|
|
||||||
|
- konsolidierte technische Architektur (`mindnet_technical_architecture.md`),
|
||||||
|
- fachliche Architektur (`mindnet_functional_architecture.md`),
|
||||||
|
- Identity-Modell (`identity_model.md`),
|
||||||
|
- API-Spezifikation (`api_spec.md`),
|
||||||
|
- MCP-Integration (`mcp_integration.md`),
|
||||||
|
- aktualisiertes Handbuch (`Handbuch.md`).
|
||||||
|
|
||||||
|
**Aufwand / Komplexität:**
|
||||||
|
- Aufwand: Mittel
|
||||||
|
- Komplexität: Niedrig/Mittel
|
||||||
|
|
||||||
|
**DoD (Zielbild):**
|
||||||
|
|
||||||
|
- Aktueller Stand ist sauber dokumentiert.
|
||||||
|
- Wichtige Designentscheidungen sind nachvollziehbar festgehalten.
|
||||||
|
- Onboarding einer dritten Person (z. B. Entwickler:in) ist mit Dokumentation möglich.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7. Abhängigkeiten (vereinfacht, aktualisiert)
|
||||||
|
|
||||||
|
WP01 → WP02 → WP03 → WP04a
|
||||||
|
WP04a → WP04b → WP04c → WP08
|
||||||
|
WP03 → WP05 → WP06 → WP07
|
||||||
|
WP03 → WP09
|
||||||
|
WP01/WP03 → WP10 → WP11 → WP12
|
||||||
|
WP03/WP04 → WP13
|
||||||
|
Alles → WP14
|
||||||
|
|
||||||
|
Diese Struktur bleibt gegenüber v2.1 unverändert, ist aber jetzt explizit an den bereits implementierten Stand (WP-03, WP-04a) angepasst.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 8. Laufzeit- & Komplexitätsindikatoren (unverändert, ergänzt)
|
||||||
|
|
||||||
|
| WP | Aufwand | Komplexität |
|
||||||
|
|-------|----------------|------------------|
|
||||||
|
| WP04b | Mittel | Hoch |
|
||||||
|
| WP04c | Mittel | Mittel/Hoch |
|
||||||
|
| WP05 | Mittel | Mittel |
|
||||||
|
| WP06 | Mittel | Hoch |
|
||||||
|
| WP07 | Niedrig/Mittel | Mittel |
|
||||||
|
| WP08 | Hoch | Hoch |
|
||||||
|
| WP09 | Mittel | Niedrig/Mittel |
|
||||||
|
| WP10 | Hoch | Hoch |
|
||||||
|
| WP11 | Hoch | Hoch |
|
||||||
|
| WP12 | Niedrig/Mittel | Mittel |
|
||||||
|
| WP13 | Mittel | Mittel |
|
||||||
|
| WP14 | Mittel | Niedrig/Mittel | :contentReference[oaicite:35]{index=35}
|
||||||
|
|
||||||
|
Für WP01–WP04a gilt: Aufwand/Komplexität wie in v2.1; Status jetzt explizit „abgeschlossen“ mit beschriebenem Funktionsumfang.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 9. Programmfortschritt (Ampel, aktualisiert)
|
||||||
|
|
||||||
|
| WP | Status |
|
||||||
|
|-------|--------|
|
||||||
|
| WP01 | 🟢 |
|
||||||
|
| WP02 | 🟢 |
|
||||||
|
| WP03 | 🟢 |
|
||||||
|
| WP04a | 🟢 |
|
||||||
|
| WP04b | 🟡 |
|
||||||
|
| WP04c | 🟡 |
|
||||||
|
| WP05 | 🟡 |
|
||||||
|
| WP06 | 🟡 |
|
||||||
|
| WP07 | 🟡 |
|
||||||
|
| WP08 | 🟡 |
|
||||||
|
| WP09 | 🟡 |
|
||||||
|
| WP10 | 🟡 |
|
||||||
|
| WP11 | 🟡 |
|
||||||
|
| WP12 | 🟡 |
|
||||||
|
| WP13 | 🟡 |
|
||||||
|
| WP14 | 🟡 | :contentReference[oaicite:36]{index=36}
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 10. Governance & Versionierung
|
||||||
|
|
||||||
|
- Versionierung über Gitea (Branches, Tags, Releases).
|
||||||
|
- Jede wesentliche Änderung an Architektur/Schema:
|
||||||
|
- eigener Commit,
|
||||||
|
- kurze Doku (z. B. in `CHANGELOG.md` oder Projekt-Notiz).
|
||||||
|
- Jedes Workpackage erhält ein eigenes Chat-Fenster mit dediziertem Prompt (WP-Hand-Over).
|
||||||
|
- Programmleitung verantwortet:
|
||||||
|
- Konsistenz von Fach- und Technikdokumenten,
|
||||||
|
- Abhängigkeiten und Priorisierung,
|
||||||
|
- Freigabe von Meilensteinen,
|
||||||
|
- Sicherstellung, dass Änderungen mit dem langfristigen Ziel (KI-Zwilling) vereinbar sind.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 11. Executive Summary (unverändert, präzisiert)
|
||||||
|
|
||||||
|
mindnet v2.2 ist so aufgesetzt, dass:
|
||||||
|
|
||||||
|
- du **schrittweise** Wissen erfassen kannst (Obsidian + Chat + später Interview-Assistent),
|
||||||
|
- die Struktur **mitwächst**, ohne Retro-Massenarbeit im Vault,
|
||||||
|
- ein **hybrider Retriever** qualitativ hochwertige, erklärbare Antworten liefert,
|
||||||
|
- ein **Self-Healing- und Self-Tuning-Mechanismus** vorbereitet ist, der auf Feedback aufsetzt,
|
||||||
|
- ein **Persönlichkeitsmodell** und eine **Decision Engine** entstehen,
|
||||||
|
- langfristig ein **KI-Zwilling** aufgebaut wird, der deine Werte, Erfahrungen und Denkweise spiegelt,
|
||||||
|
- die technische Architektur (FastAPI, Qdrant, YAML-Policies, MCP-Integration) lokal, nachvollziehbar und erweiterbar bleibt.
|
||||||
|
|
||||||
|
Dieser Programmplan bildet die konsolidierte Grundlage (v2.2) für alle weiteren Arbeiten.
|
||||||
|
Er integriert die bisherigen Ergebnisse (WP-01 bis WP-04a) und die zusätzlichen Anforderungen aus der späteren Planung (Feedback-basiertes Tuning, wachsendes System, Chat-/Interview-Eingabe, Vault-Writeback) in ein einheitliches, versionierbares Dokument.
|
||||||
|
|
||||||
@@ -0,0 +1,307 @@
|
|||||||
|
# mindnet v2 — Dokumentationsreview (vollständig & konsolidiert)
|
||||||
|
|
||||||
|
Dieses Dokument fasst alle notwendigen Anpassungen der mindnet-v2 Dokumentation zusammen.
|
||||||
|
Der Fokus liegt ausschließlich auf Aspekten, die durch die aktuellen Arbeiten verändert wurden:
|
||||||
|
|
||||||
|
- neue Edge-Mechanik
|
||||||
|
- neuer Importer
|
||||||
|
- neues Verhalten von note_payload & chunk_payload
|
||||||
|
- Default-Typregeln aus `types.yaml`
|
||||||
|
- Inline- und Callout-Relations
|
||||||
|
- WP04a – Einführung der Retriever-Schicht
|
||||||
|
- neue Diagnose- und Testskripte
|
||||||
|
|
||||||
|
Es handelt sich um eine strukturelle Analyse.
|
||||||
|
Nichts davon überschreibt bestehende Inhalte — es markiert nur, **was angepasst werden muss**.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 1) knowledge_design.md
|
||||||
|
## Erforderliche Anpassungen
|
||||||
|
|
||||||
|
### 1.1 Neue Edge-Arten dokumentieren
|
||||||
|
Es müssen vier neue Kategorien beschrieben werden:
|
||||||
|
|
||||||
|
1. **Inline-Edges**
|
||||||
|
|
||||||
|
Beispiel:
|
||||||
|
`[ [rel:depends_on Embeddings 101] ]`
|
||||||
|
(Leerzeichen hier zur Demonstration; im echten Dokument ohne Leerzeichen)
|
||||||
|
|
||||||
|
2. **Callout-Edges**
|
||||||
|
|
||||||
|
> [!edge] related_to: [[Vector DB Basics]] [[Embeddings 101]]
|
||||||
|
|
||||||
|
3. **Typbasierte Default-Kanten**
|
||||||
|
Aus `types.yaml` → `edge_defaults`
|
||||||
|
|
||||||
|
4. **Strukturkanten**
|
||||||
|
- belongs_to
|
||||||
|
- next
|
||||||
|
- prev
|
||||||
|
|
||||||
|
### 1.2 Neue Edge-Felder ergänzen
|
||||||
|
Jeder Edge enthält jetzt:
|
||||||
|
|
||||||
|
- `rule_id`
|
||||||
|
- `confidence`
|
||||||
|
- `scope = "chunk"`
|
||||||
|
- deterministischer `edge_id`
|
||||||
|
|
||||||
|
Diese Felder müssen vollständig erklärt werden.
|
||||||
|
|
||||||
|
### 1.3 Chunk-basierte Kanten
|
||||||
|
Neu: **Alle Kanten entstehen ausschließlich zwischen Chunks**, nie zwischen Notes.
|
||||||
|
Notes dienen nur noch als Metadatencontainer.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 2) TYPE_REGISTRY_MANUAL.md
|
||||||
|
## Erforderliche Anpassungen
|
||||||
|
|
||||||
|
### 2.1 Typauflösung dokumentieren
|
||||||
|
Die Regeln sind jetzt:
|
||||||
|
|
||||||
|
- Typ aus Frontmatter → höchste Priorität
|
||||||
|
- Falls nicht gesetzt: Typ aus Dateipfad ableiten
|
||||||
|
- Falls unbekannt: Fallback auf `types.default`
|
||||||
|
- Typ definiert:
|
||||||
|
- retriever_weight
|
||||||
|
- chunk_profile
|
||||||
|
- edge_defaults
|
||||||
|
|
||||||
|
Diese müssen klar dokumentiert werden.
|
||||||
|
|
||||||
|
### 2.2 Neue Fallback-Regeln
|
||||||
|
Wenn Werte fehlen, werden sie ersetzt durch:
|
||||||
|
|
||||||
|
types.default.retriever_weight
|
||||||
|
types.default.chunk_profile
|
||||||
|
types.default.edge_defaults
|
||||||
|
|
||||||
|
### 2.3 Beispiele aktualisieren
|
||||||
|
Alle Beispiele müssen auf die neue Inline-Syntax angepasst werden.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 3) wp04_retriever_scoring.md
|
||||||
|
## Erforderliche Anpassungen
|
||||||
|
|
||||||
|
### 3.1 Neue Scoring-Formel
|
||||||
|
total_score =
|
||||||
|
semantic_weight * semantic_score
|
||||||
|
+ edge_weight * edge_bonus
|
||||||
|
+ centrality_weight * centrality_bonus
|
||||||
|
+ type_weight * retriever_weight
|
||||||
|
|
||||||
|
### 3.2 Bedeutung von `confidence`
|
||||||
|
confidence wirkt multiplikativ bei edge_bonus.
|
||||||
|
Inline > Callout > Default (Standardwerte im Code hinterlegt).
|
||||||
|
|
||||||
|
### 3.3 Pfadbegründungen
|
||||||
|
Der Retriever gibt optional `paths[]` zurück:
|
||||||
|
|
||||||
|
paths: [
|
||||||
|
{
|
||||||
|
"via": "depends_on",
|
||||||
|
"confidence": 0.7,
|
||||||
|
"hops": ["Note A", "Chunk A#01", "Note B"]
|
||||||
|
}
|
||||||
|
]
|
||||||
|
|
||||||
|
Diese Funktion müssen dokumentiert werden.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 4) mindnet_v2_implementation_playbook.md
|
||||||
|
## Erforderliche Anpassungen
|
||||||
|
|
||||||
|
### 4.1 Neuer Import-Prozess vollständig dokumentieren
|
||||||
|
Der Importer läuft jetzt so:
|
||||||
|
|
||||||
|
1. Markdown lesen
|
||||||
|
2. Frontmatter extrahieren
|
||||||
|
3. Typauflösung via `types.yaml`
|
||||||
|
4. Note-Payload generieren
|
||||||
|
5. Chunking anwenden
|
||||||
|
6. Inline-Kanten finden
|
||||||
|
7. Callout-Kanten finden
|
||||||
|
8. Default-Edges erzeugen
|
||||||
|
9. Strukturkanten erzeugen
|
||||||
|
10. Chunks in Qdrant upserten
|
||||||
|
11. Edges upserten
|
||||||
|
12. Diagnose laufen lassen:
|
||||||
|
|
||||||
|
python3 -m scripts.payload_dryrun
|
||||||
|
python3 -m scripts.edges_full_check
|
||||||
|
|
||||||
|
### 4.2 Erweiterte Testpipeline
|
||||||
|
Neu zu dokumentieren:
|
||||||
|
|
||||||
|
tests.test_edges_all
|
||||||
|
scripts.edges_full_check
|
||||||
|
scripts.payload_dryrun
|
||||||
|
|
||||||
|
Diese Testschritte sind jetzt Standardanforderung nach jeder Änderung.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 5) mindnet_technical_architecture.md
|
||||||
|
## Erforderliche Anpassungen
|
||||||
|
|
||||||
|
### 5.1 Aktualisiertes Schema für Qdrant Collections
|
||||||
|
|
||||||
|
#### Notes:
|
||||||
|
note_id
|
||||||
|
title
|
||||||
|
type
|
||||||
|
fulltext
|
||||||
|
retriever_weight
|
||||||
|
chunk_profile
|
||||||
|
edge_defaults
|
||||||
|
tags
|
||||||
|
updated
|
||||||
|
|
||||||
|
#### Chunks:
|
||||||
|
chunk_id
|
||||||
|
note_id
|
||||||
|
text
|
||||||
|
window
|
||||||
|
ord
|
||||||
|
retriever_weight
|
||||||
|
chunk_profile
|
||||||
|
neighbors_prev
|
||||||
|
neighbors_next
|
||||||
|
|
||||||
|
#### Edges:
|
||||||
|
edge_id
|
||||||
|
source_id
|
||||||
|
target_id
|
||||||
|
kind
|
||||||
|
scope = "chunk"
|
||||||
|
rule_id
|
||||||
|
confidence
|
||||||
|
|
||||||
|
### 5.2 Dokumentation der Edge-Pipeline
|
||||||
|
Neu beschreiben:
|
||||||
|
|
||||||
|
- Inline-Parser
|
||||||
|
- Callout-Parser
|
||||||
|
- Default-Edge-Resolver
|
||||||
|
- Strukturkanten
|
||||||
|
- Normalisierung für Qdrant
|
||||||
|
- deterministische ID-Bildung
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 6) mindnet_functional_architecture.md
|
||||||
|
## Erforderliche Anpassungen
|
||||||
|
|
||||||
|
### 6.1 Inline-Relations – einzig gültige Syntax
|
||||||
|
Nur diese Syntax erzeugt Kanten:
|
||||||
|
|
||||||
|
[[rel:depends_on Embeddings 101]]
|
||||||
|
|
||||||
|
Nicht unterstützt:
|
||||||
|
|
||||||
|
rel:depends_on [[Embeddings 101]]
|
||||||
|
|
||||||
|
Dies muss klar dokumentiert werden.
|
||||||
|
|
||||||
|
### 6.2 Prioritäten der Kantenerzeugung
|
||||||
|
Gültige Reihenfolge:
|
||||||
|
|
||||||
|
1. Inline
|
||||||
|
2. Callout
|
||||||
|
3. Typdefaults
|
||||||
|
4. Strukturkanten
|
||||||
|
|
||||||
|
### 6.3 Relaunch der Chunk-zentrierten Funktionslogik
|
||||||
|
Alle Beispiele müssen angepasst werden.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 7) chunking_strategy.md
|
||||||
|
## Erforderliche Änderungen
|
||||||
|
|
||||||
|
### 7.1 Neues Verhalten der Chunks
|
||||||
|
- `ord` ist jetzt Sortierkriterium
|
||||||
|
- `window` wird über chunk_config erzeugt
|
||||||
|
- Chunkprofile kommen ausschließlich aus `types.yaml`
|
||||||
|
|
||||||
|
### 7.2 Best Practices erneuern
|
||||||
|
Empfehlung:
|
||||||
|
|
||||||
|
- keine manuelle Chunkprofile mehr im Frontmatter setzen
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 8) docs_mindnet_retriever.md
|
||||||
|
## Erforderliche Änderungen
|
||||||
|
|
||||||
|
### 8.1 Neue Ausgabeparameter dokumentieren
|
||||||
|
Retriever liefert jetzt:
|
||||||
|
|
||||||
|
semantic_score
|
||||||
|
edge_bonus
|
||||||
|
centrality_bonus
|
||||||
|
type_score
|
||||||
|
total_score
|
||||||
|
paths[]
|
||||||
|
|
||||||
|
### 8.2 Graph-Expansion
|
||||||
|
Dokumentieren:
|
||||||
|
|
||||||
|
- Seed-Auswahl
|
||||||
|
- Depth-Limit
|
||||||
|
- Edge-Filterung
|
||||||
|
- Wirkung von `confidence` auf edge_bonus
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 9) Handbuch.md
|
||||||
|
## Erforderliche Änderungen
|
||||||
|
|
||||||
|
### 9.1 Neuer Import-Workflow
|
||||||
|
Erläuterung der Parser:
|
||||||
|
|
||||||
|
- Inline-Parser
|
||||||
|
- Callout-Parser
|
||||||
|
- Default-Kanten
|
||||||
|
- Struktur-Kanten
|
||||||
|
|
||||||
|
### 9.2 Best Practices
|
||||||
|
Ergänzen:
|
||||||
|
|
||||||
|
- Typenpflege erfolgt nur in `types.yaml`
|
||||||
|
- Tests immer nach Änderungen ausführen
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# Gesamtübersicht der notwendigen Anpassungen
|
||||||
|
|
||||||
|
| Dokument | Anpassungsbedarf |
|
||||||
|
|---------|------------------|
|
||||||
|
| knowledge_design.md | neue Edge-Arten, Felder, Chunk-Edges |
|
||||||
|
| TYPE_REGISTRY_MANUAL.md | Typauflösung, neue Felder, neue Fallbacks |
|
||||||
|
| wp04_retriever_scoring.md | neue Score-Formel, Pfade, confidence |
|
||||||
|
| implementation_playbook.md | neuer Importprozess, Tests |
|
||||||
|
| technical_architecture.md | aktualisierte Schemas |
|
||||||
|
| functional_architecture.md | Syntax + Prioritäten |
|
||||||
|
| chunking_strategy.md | ord, window, neue Profile |
|
||||||
|
| docs_mindnet_retriever.md | neue API-Parameter |
|
||||||
|
| Handbuch.md | Parser + Best Practices |
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# Empfehlung zur Umsetzung
|
||||||
|
1. Dieses Review-Dokument als Master-Referenz verwenden.
|
||||||
|
2. Jedes Dokument strikt nur an den beschriebenen Stellen anpassen.
|
||||||
|
3. Überprüfen, ob Wann/Wo Typen, Kanten und Parser erklärt werden.
|
||||||
|
4. Nach jeder Anpassung Testlauf:
|
||||||
|
|
||||||
|
python3 -m scripts.payload_dryrun
|
||||||
|
python3 -m scripts.edges_full_check
|
||||||
|
|
||||||
|
5. Danach Playbook + Programmplan updaten.
|
||||||
|
|
||||||
@@ -0,0 +1,322 @@
|
|||||||
|
# mindnet – Änderungs- und Ergänzungsleitfaden für bestehende Dokumentation
|
||||||
|
# (Stand: Tag Wp04a-Retriever_final)
|
||||||
|
|
||||||
|
Dieser Leitfaden listet **alle notwendigen Änderungen und Ergänzungen** für die
|
||||||
|
bestehenden Dokumente auf. Er umfasst ausschließlich Inhalte, die durch die
|
||||||
|
tatsächliche Implementierung von WP-04a (Retriever, Hybrid Scoring, Graph-Integration,
|
||||||
|
retriever.yaml, Explainability-Vorbereitung, Centrality, Edge-Bonus, Query-API)
|
||||||
|
betroffen sind.
|
||||||
|
|
||||||
|
Er dient dazu, dass ein anderer Chat alle Dokumente vollständig und korrekt
|
||||||
|
überarbeiten kann, ohne Interpretationsspielraum oder fehlende Informationen.
|
||||||
|
|
||||||
|
|
||||||
|
============================================================
|
||||||
|
# 1. Änderungen für: knowledge_design.md
|
||||||
|
============================================================
|
||||||
|
|
||||||
|
## 1.1 Ergänzen: Rolle von retriever_weight pro Note-Type
|
||||||
|
Die Implementierung nutzt `retriever_weight`, das im Importer aus `types.yaml`
|
||||||
|
pro Note-Type übernommen und auf *Chunk-Ebene* vererbt wird.
|
||||||
|
|
||||||
|
**Ergänzen:**
|
||||||
|
- Erklärung, dass `retriever_weight` ein konzeptionelles Typ-Attribut ist,
|
||||||
|
das im hybriden Scoring als Multiplikator wirkt.
|
||||||
|
- Klarstellung, dass `retriever_weight` *nicht* durch Markdown-Frontmatter
|
||||||
|
überschrieben werden muss.
|
||||||
|
- Dokumentation, dass Qdrant-Payload dieses Feld für Notes und Chunks enthält.
|
||||||
|
|
||||||
|
## 1.2 Ergänzen: Edge-Typen, die im Retriever genutzt werden
|
||||||
|
Der Retriever unterstützt aktuell:
|
||||||
|
- `references`
|
||||||
|
- `related_to`
|
||||||
|
- `depends_on`
|
||||||
|
- `similar_to`
|
||||||
|
- `belongs_to`
|
||||||
|
- sowie generierte Strukturkanten `next` / `prev`.
|
||||||
|
|
||||||
|
**Ergänzen:**
|
||||||
|
- Welche Edges für den Graph-Bonus ausgewertet werden.
|
||||||
|
- Wie `confidence` aus mindnet_edges genutzt wird.
|
||||||
|
|
||||||
|
## 1.3 Ergänzen: Definition des lokalen Subgraphen
|
||||||
|
Die reale Retrieval-Logik nutzt:
|
||||||
|
- Seed-Notes (aus semantisch Top-K)
|
||||||
|
- Expansionstiefe `depth`
|
||||||
|
- Edge-Typ-Filter
|
||||||
|
- Bonusberechnung pro Knoten
|
||||||
|
|
||||||
|
Dies ist im ursprünglichen Dokument nicht beschrieben und muss hinzugefügt werden.
|
||||||
|
|
||||||
|
============================================================
|
||||||
|
# 2. Änderungen für: chunking_strategy.md
|
||||||
|
============================================================
|
||||||
|
|
||||||
|
## 2.1 Ergänzen: Chunk-Payload-Felder, die der Retriever nutzt
|
||||||
|
Die aktuelle Strategy beschreibt Chunks korrekt, es fehlt jedoch:
|
||||||
|
|
||||||
|
**Ergänzen:**
|
||||||
|
- `retriever_weight` (vererbt vom Note-Type)
|
||||||
|
- `chunk_profile` (aktuell ungenutzt im Retriever, aber Teil der Payload)
|
||||||
|
- Hinweise, dass der Retriever nur aus *Chunks* semantische Seeds bildet,
|
||||||
|
das Ranking aber auf *Notes* aggregiert wird.
|
||||||
|
|
||||||
|
## 2.2 Ergänzen: Section/Window-Felder und ihre Relevanz
|
||||||
|
Die Felder existieren im Qdrant, werden aber im retriever.yaml nicht verändert.
|
||||||
|
|
||||||
|
**Hinweis ergänzen:**
|
||||||
|
- Der Retriever nutzt aktuell `text` und `window`; kein Einfluss der Abschnittslogik.
|
||||||
|
|
||||||
|
|
||||||
|
============================================================
|
||||||
|
# 3. Änderungen für: TYPE_REGISTRY_MANUAL.md
|
||||||
|
============================================================
|
||||||
|
|
||||||
|
Dieses Dokument muss **aktualisiert** werden, da WP-04a folgende Mechanismen nutzt:
|
||||||
|
|
||||||
|
## 3.1 Ergänzen: Bedeutung von retriever_weight
|
||||||
|
- Definition als quantitatives Typ-Merkmal.
|
||||||
|
- Erklärung, dass es in Qdrant gespeichert wird.
|
||||||
|
- Erklärung des Einflusses auf Semantikscore:
|
||||||
|
- Formel:
|
||||||
|
|
||||||
|
final_semantic = semantic_score * retriever_weight
|
||||||
|
|
||||||
|
- Hinweis, dass in future WP-08 das Gewicht durch Feedback lernbar wird.
|
||||||
|
|
||||||
|
## 3.2 Ergänzen: Neue Edge-Typen und ihre Standard-Konfiguration
|
||||||
|
- `similar_to`
|
||||||
|
- `belongs_to`
|
||||||
|
- Strukturkanten `next` / `prev`
|
||||||
|
|
||||||
|
Diese sind im Importer bereits aktiv, aber nicht ausreichend dokumentiert.
|
||||||
|
|
||||||
|
## 3.3 Ergänzen: Edge-Konfidenzen
|
||||||
|
Die automatische Edge-Ableitung generiert `confidence`.
|
||||||
|
Retriever nutzt diesen Wert linear im Edge-Bonus.
|
||||||
|
|
||||||
|
**Dokumentation muss ergänzt werden.**
|
||||||
|
|
||||||
|
|
||||||
|
============================================================
|
||||||
|
# 4. Änderungen für: docs_mindnet_retriever.md
|
||||||
|
============================================================
|
||||||
|
|
||||||
|
Dieses Dokument ist am stärksten betroffen und muss auf den Stand der tatsächlichen
|
||||||
|
Implementierung aktualisiert werden.
|
||||||
|
|
||||||
|
## 4.1 Aktualisieren: Gesamtscoring-Formel
|
||||||
|
Bisher: Semantik + einfache Typgewichtung.
|
||||||
|
|
||||||
|
Neu implementiert:
|
||||||
|
|
||||||
|
total_score =
|
||||||
|
semantic_weight * semantic_score
|
||||||
|
+ edge_weight * edge_bonus
|
||||||
|
+ centrality_weight * centrality_bonus
|
||||||
|
|
||||||
|
Diese Formel muss vollständig dokumentiert werden.
|
||||||
|
|
||||||
|
## 4.2 Aktualisieren: Einführung retriever.yaml
|
||||||
|
Dokumentation benötigt:
|
||||||
|
|
||||||
|
- Speicherort: `app/config/retriever.yaml`
|
||||||
|
- Default-Werte
|
||||||
|
- Abschnittsweise Beschreibung:
|
||||||
|
- semantic_weight
|
||||||
|
- edge_weight
|
||||||
|
- centrality_weight
|
||||||
|
- Hinweis: Änderungen wirken ohne Codeänderung.
|
||||||
|
|
||||||
|
## 4.3 Ergänzen: Beschreibung Graph-Expansion
|
||||||
|
Der Retriever nutzt:
|
||||||
|
|
||||||
|
- Expand-depth (default 1)
|
||||||
|
- Edge-Typ-Filter
|
||||||
|
- Aggregation pro Node
|
||||||
|
- Bonus-Skalierung
|
||||||
|
|
||||||
|
Diese Logik ist neu und muss detailliert erklärt werden.
|
||||||
|
|
||||||
|
## 4.4 Ergänzen: Beschreibung centrality_bonus
|
||||||
|
Aktuell:
|
||||||
|
- proportionale Verteilung anhand Knotendichte
|
||||||
|
- Normalisierung über lokales Subgraph-Maß
|
||||||
|
|
||||||
|
Dokumentation muss Minimum enthalten:
|
||||||
|
- wie centrality gewichtet wird
|
||||||
|
- welche Grenze existieren
|
||||||
|
|
||||||
|
## 4.5 Ergänzen: Explainability-Schnittstelle (WP-04b Vorbereitung)
|
||||||
|
Die Implementierung erzeugt intern:
|
||||||
|
- edge_bonus pro Node
|
||||||
|
- centrality_bonus pro Node
|
||||||
|
- Liste der Edges, die beteiligt waren
|
||||||
|
|
||||||
|
Diese Werte sind abrufbar und müssen dokumentiert werden.
|
||||||
|
|
||||||
|
## 4.6 Ergänzen: Fehlertoleranzen & Timeout (Health Check)
|
||||||
|
Der Retriever kann:
|
||||||
|
- Fallback auf Vektor-Suche (pure semantic)
|
||||||
|
- Fallback bei fehlendem expand
|
||||||
|
|
||||||
|
Diese Sicherheitsmechanismen müssen dokumentiert werden.
|
||||||
|
|
||||||
|
|
||||||
|
============================================================
|
||||||
|
# 5. Änderungen für: mindnet_technical_architecture.md
|
||||||
|
============================================================
|
||||||
|
|
||||||
|
## 5.1 Ergänzen: Komponentenübersicht Retrieval-Layer
|
||||||
|
Eine neue Abbildung oder Abschnitt muss hinzu:
|
||||||
|
|
||||||
|
- QueryRequest-Parsing
|
||||||
|
- Embedding-Lookup oder Vector-Passthrough
|
||||||
|
- Semantic Seed Search (Qdrant)
|
||||||
|
- Graph-Expansion (mindnet_edges)
|
||||||
|
- Node-/Note-Aggregation
|
||||||
|
- Score-Combination
|
||||||
|
- Response-Ausgabe via FastAPI
|
||||||
|
|
||||||
|
## 5.2 Ergänzen: Datenstruktur mindnet_edges
|
||||||
|
Vor WP-04 nicht vollständig dokumentiert.
|
||||||
|
|
||||||
|
Benötigt:
|
||||||
|
|
||||||
|
- Felder:
|
||||||
|
- edge_id
|
||||||
|
- kind
|
||||||
|
- source_id
|
||||||
|
- target_id
|
||||||
|
- confidence
|
||||||
|
- rule_id
|
||||||
|
- Wie Edges im Retriever ausgewertet werden.
|
||||||
|
|
||||||
|
## 5.3 Ergänzen: retriever.yaml als Konfigurationsquelle
|
||||||
|
Architekturdiagramm muss updated werden:
|
||||||
|
- Retriever nutzt YAML
|
||||||
|
- Keine Hardcodierung im Python
|
||||||
|
|
||||||
|
## 5.4 Ergänzen: Health Check Script
|
||||||
|
Technischer Abschnitt muss dokumentieren:
|
||||||
|
|
||||||
|
- health_check_mindnet.py
|
||||||
|
- Semantik:
|
||||||
|
- semantic query
|
||||||
|
- hybrid query
|
||||||
|
- Fehlercodes
|
||||||
|
|
||||||
|
|
||||||
|
============================================================
|
||||||
|
# 6. Änderungen für: mindnet_functional_architecture.md
|
||||||
|
============================================================
|
||||||
|
|
||||||
|
## 6.1 Ergänzen: Funktionale Rolle des Retrievers
|
||||||
|
Retriever ist jetzt:
|
||||||
|
|
||||||
|
- Teil des Functional Layers
|
||||||
|
- Grundlage für Agenten / Decision Engine
|
||||||
|
- Hauptquelle für Begründungen
|
||||||
|
|
||||||
|
## 6.2 Ergänzen: Einbindung des Explainability-Layers
|
||||||
|
Funktional gehört dies zwischen:
|
||||||
|
- Retriever
|
||||||
|
- Antwortgenerierung (LLM)
|
||||||
|
|
||||||
|
Der Explainability-Layer formuliert Gründe:
|
||||||
|
- Welche Edges?
|
||||||
|
- Welche Scores?
|
||||||
|
- Warum diese Note?
|
||||||
|
|
||||||
|
## 6.3 Ergänzen: Self-Tuning als neuen Funktionsblock (WP-08)
|
||||||
|
Muss aufgenommen werden:
|
||||||
|
|
||||||
|
- Logging von Feedback
|
||||||
|
- Bewertung
|
||||||
|
- Tuning der retriever.yaml
|
||||||
|
- Human-in-the-loop Freigabe
|
||||||
|
|
||||||
|
|
||||||
|
============================================================
|
||||||
|
# 7. Änderungen für: wp04_retriever_scoring.md
|
||||||
|
============================================================
|
||||||
|
|
||||||
|
Dieses Dokument ist **direkt WP-04** und muss am stärksten überarbeitet werden.
|
||||||
|
|
||||||
|
## 7.1 Aktualisieren: Finale Scoring-Formel
|
||||||
|
Die Formel muss exakt so dokumentiert werden, wie inzwischen implementiert.
|
||||||
|
|
||||||
|
## 7.2 Ergänzen: Bonusberechnung
|
||||||
|
Die bisherige Planung wurde implementiert, aber der Text muss aktualisiert werden:
|
||||||
|
|
||||||
|
- Bonusberechnung je Edge
|
||||||
|
- confidence-Einfluss
|
||||||
|
- Node-Aggregation
|
||||||
|
- Note-Aggregation
|
||||||
|
|
||||||
|
## 7.3 Ergänzen: Centrality
|
||||||
|
Dokument ist zu ergänzen um:
|
||||||
|
|
||||||
|
- Definition
|
||||||
|
- Berechnung
|
||||||
|
- Normalisierung
|
||||||
|
- Gewichtung über retriever.yaml
|
||||||
|
|
||||||
|
## 7.4 Ergänzen: Teststrategie
|
||||||
|
Die finale Testbasis muss dokumentiert werden:
|
||||||
|
|
||||||
|
- Unit-Tests
|
||||||
|
- Hybrid-Tests
|
||||||
|
- API-Tests
|
||||||
|
- Smoke-Test
|
||||||
|
- Diagnose-Skripte
|
||||||
|
|
||||||
|
## 7.5 Ergänzen: Einschränkungen & Offene Punkte
|
||||||
|
Hinweis für WP-04b:
|
||||||
|
- Explainability fehlt noch
|
||||||
|
- Edge-Type Weights noch nicht implementiert
|
||||||
|
- Self-Tuning in WP-08
|
||||||
|
|
||||||
|
|
||||||
|
============================================================
|
||||||
|
# 8. Änderungen für: mindnet_v2_implementation_playbook.md
|
||||||
|
============================================================
|
||||||
|
|
||||||
|
## 8.1 Ergänzen: Arbeitsablauf mit Retriever
|
||||||
|
Einrichtung, Nutzung und Test sollte ergänzt werden:
|
||||||
|
|
||||||
|
- Starten von FastAPI
|
||||||
|
- Testen des Retrievers via health_check
|
||||||
|
- Import-Workflow (neue Vaults → Qdrant → Retriever)
|
||||||
|
|
||||||
|
## 8.2 Ergänzen: Konfigurationsverwaltung
|
||||||
|
Einbindung in Gitea-Workflows:
|
||||||
|
- retriever.yaml versionieren
|
||||||
|
- Tags/Branches für Funktionsstände setzen
|
||||||
|
|
||||||
|
## 8.3 Ergänzen: Self-Tuning-Prozess (nur Rahmen)
|
||||||
|
Der Playbook-Abschnitt soll die späteren Mechanismen vorbeschreiben.
|
||||||
|
|
||||||
|
|
||||||
|
============================================================
|
||||||
|
# 9. Änderungen für: Handbuch.md
|
||||||
|
============================================================
|
||||||
|
|
||||||
|
## 9.1 Ergänzen: Einfache Erklärung des Retrievers
|
||||||
|
Das Handbuch benötigt eine verständliche, nicht-technische Beschreibung:
|
||||||
|
|
||||||
|
- Was macht der Retriever?
|
||||||
|
- Warum kommt ein Ergebnis zustande?
|
||||||
|
- Welche Rolle spielen Edges?
|
||||||
|
- Wie kann der Nutzer die Gewichtung beeinflussen (YAML)?
|
||||||
|
|
||||||
|
## 9.2 Ergänzen: Troubleshooting
|
||||||
|
Aufnehmen:
|
||||||
|
- „Ergebnisse wirken unpassend“ → Prüfe retriever.yaml
|
||||||
|
- „Edge-Bonus fehlt“ → Prüfe mindnet_edges
|
||||||
|
- health_check-Skript nutzen
|
||||||
|
|
||||||
|
## 9.3 Ergänzen: API-Nutzung für Endanwender
|
||||||
|
Einfacher Abschnitt:
|
||||||
|
- Wie man `/query` testet
|
||||||
|
- Beispiele für semantic & hybrid queries
|
||||||
@@ -33,3 +33,7 @@ python3 scripts/import_markdown.py --vault /path/to/Obsidian
|
|||||||
- `POST /qdrant/query` → semantic search over chunks with optional filters
|
- `POST /qdrant/query` → semantic search over chunks with optional filters
|
||||||
|
|
||||||
See `scripts/quick_test.sh` for a runnable example.
|
See `scripts/quick_test.sh` for a runnable example.
|
||||||
|
|
||||||
|
>Anmerkung:
|
||||||
|
Diese Datei ist veraltet
|
||||||
|
|
||||||
@@ -0,0 +1,17 @@
|
|||||||
|
"""
|
||||||
|
app — mindnet API package
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Markiert 'app/' als Python-Paket, damit 'from app.main import create_app'
|
||||||
|
in Tests und Skripten funktioniert.
|
||||||
|
Kompatibilität:
|
||||||
|
Python 3.12+
|
||||||
|
Version:
|
||||||
|
0.1.0 (Erstanlage)
|
||||||
|
Stand:
|
||||||
|
2025-10-07
|
||||||
|
Hinweise:
|
||||||
|
Keine Logik – nur Paketinitialisierung.
|
||||||
|
"""
|
||||||
|
|
||||||
|
__version__ = "0.1.0"
|
||||||
+16
-1
@@ -1,6 +1,14 @@
|
|||||||
"""
|
"""
|
||||||
Version 0.1
|
app/config.py — zentrale Konfiguration (ENV → Settings)
|
||||||
|
|
||||||
|
Version:
|
||||||
|
0.2.0 (WP-04: Retriever-Gewichte & Defaults ergänzt; keine Verhaltensänderung für bestehende Nutzung)
|
||||||
|
Stand:
|
||||||
|
2025-10-06
|
||||||
|
Hinweis:
|
||||||
|
Bestehende Attribute bleiben erhalten; neue WP-04 Felder sind optional.
|
||||||
"""
|
"""
|
||||||
|
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
import os
|
import os
|
||||||
from functools import lru_cache
|
from functools import lru_cache
|
||||||
@@ -16,6 +24,13 @@ class Settings:
|
|||||||
MODEL_NAME: str = os.getenv("MINDNET_MODEL", "sentence-transformers/all-MiniLM-L6-v2")
|
MODEL_NAME: str = os.getenv("MINDNET_MODEL", "sentence-transformers/all-MiniLM-L6-v2")
|
||||||
# API
|
# API
|
||||||
DEBUG: bool = os.getenv("DEBUG", "false").lower() == "true"
|
DEBUG: bool = os.getenv("DEBUG", "false").lower() == "true"
|
||||||
|
# WP-04 Retriever Defaults (optional; können per ENV überschrieben werden)
|
||||||
|
RETRIEVER_W_SEM: float = float(os.getenv("MINDNET_WP04_W_SEM", "0.70"))
|
||||||
|
RETRIEVER_W_EDGE: float = float(os.getenv("MINDNET_WP04_W_EDGE", "0.25"))
|
||||||
|
RETRIEVER_W_CENT: float = float(os.getenv("MINDNET_WP04_W_CENT", "0.05"))
|
||||||
|
RETRIEVER_TOP_K: int = int(os.getenv("MINDNET_WP04_TOP_K", "10"))
|
||||||
|
RETRIEVER_EXPAND_DEPTH: int = int(os.getenv("MINDNET_WP04_EXPAND_DEPTH", "1"))
|
||||||
|
RETRIEVER_EDGE_TYPES: str = os.getenv("MINDNET_WP04_EDGE_TYPES", "references,belongs_to,prev,next")
|
||||||
|
|
||||||
@lru_cache
|
@lru_cache
|
||||||
def get_settings() -> Settings:
|
def get_settings() -> Settings:
|
||||||
|
|||||||
+103
-245
@@ -1,271 +1,129 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
Modul: app/core/chunk_payload.py
|
app/core/chunk_payload.py (Mindnet V2 — types.yaml authoritative)
|
||||||
Version: 2.2.0
|
- neighbors_prev / neighbors_next sind Listen ([], [id]).
|
||||||
Datum: 2025-10-06
|
- retriever_weight / chunk_profile kommen aus types.yaml (Frontmatter wird ignoriert).
|
||||||
|
- Fallbacks: defaults.* in types.yaml; sonst 1.0 / "default".
|
||||||
Zweck
|
|
||||||
-----
|
|
||||||
Erzeugt Qdrant-Payloads für Chunks. Voll abwärtskompatibel zu v2.0.1.
|
|
||||||
Neu: Wenn der Chunker KEIN Overlap im Fenster liefert (== window fehlt / identisch zur Kernpassage),
|
|
||||||
erzeugen wir FENSTER mit synthetischem Overlap auf Basis chunk_config.get_sizes(note_type)['overlap'].
|
|
||||||
|
|
||||||
Felder (beibehalten aus 2.0.1):
|
|
||||||
- note_id, chunk_id, id (Alias), chunk_index, seq, path
|
|
||||||
- window (mit Overlap), text (ohne linkes Overlap)
|
|
||||||
- start, end (Offsets im gesamten Body)
|
|
||||||
- overlap_left, overlap_right
|
|
||||||
- token_count?, section_title?, section_path?, type?, title?, tags?
|
|
||||||
|
|
||||||
Kompatibilität:
|
|
||||||
- 'id' == 'chunk_id' als Alias
|
|
||||||
- Pfade bleiben relativ (keine führenden '/'), Backslashes → Slashes
|
|
||||||
- Robust für Chunk-Objekte oder Dicts; Fensterquelle: 'window'|'text'|'content'|'raw'
|
|
||||||
|
|
||||||
Lizenz: MIT (projektintern)
|
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
from typing import Any, Dict, List, Optional
|
||||||
|
import os, yaml
|
||||||
|
|
||||||
from typing import Any, Dict, Iterable, List, Optional, Tuple, Union
|
def _env(n: str, d: Optional[str]=None) -> str:
|
||||||
|
v = os.getenv(n)
|
||||||
|
return v if v is not None else (d or "")
|
||||||
|
|
||||||
|
def _load_types() -> dict:
|
||||||
|
p = _env("MINDNET_TYPES_FILE", "./config/types.yaml")
|
||||||
try:
|
try:
|
||||||
# Typgerechtes Overlap aus deiner Konfiguration holen
|
with open(p, "r", encoding="utf-8") as f:
|
||||||
from app.core.chunk_config import get_sizes as _get_sizes
|
return yaml.safe_load(f) or {}
|
||||||
except Exception:
|
except Exception:
|
||||||
def _get_sizes(_note_type: str):
|
return {}
|
||||||
# konservativer Default, falls Import fehlschlägt
|
|
||||||
return {"overlap": (40, 60), "target": (250, 350), "max": 500}
|
|
||||||
|
|
||||||
|
def _get_types_map(reg: dict) -> dict:
|
||||||
|
if isinstance(reg, dict) and isinstance(reg.get("types"), dict):
|
||||||
|
return reg["types"]
|
||||||
|
return reg if isinstance(reg, dict) else {}
|
||||||
|
|
||||||
# ------------------------------- Utils ------------------------------- #
|
def _get_defaults(reg: dict) -> dict:
|
||||||
|
if isinstance(reg, dict) and isinstance(reg.get("defaults"), dict):
|
||||||
|
return reg["defaults"]
|
||||||
|
if isinstance(reg, dict) and isinstance(reg.get("global"), dict):
|
||||||
|
return reg["global"]
|
||||||
|
return {}
|
||||||
|
|
||||||
def _get_attr_or_key(obj: Any, key: str, default=None):
|
def _as_float(x: Any):
|
||||||
if obj is None:
|
|
||||||
return default
|
|
||||||
if isinstance(obj, dict):
|
|
||||||
return obj.get(key, default)
|
|
||||||
return getattr(obj, key, default)
|
|
||||||
|
|
||||||
def _as_window_text(chunk: Any) -> str:
|
|
||||||
"""Fenstertext robust lesen (bevorzugt echte Fenster, sonst Kern)."""
|
|
||||||
for k in ("window", "text", "content", "raw"):
|
|
||||||
v = _get_attr_or_key(chunk, k, None)
|
|
||||||
if isinstance(v, str) and v:
|
|
||||||
return v
|
|
||||||
return ""
|
|
||||||
|
|
||||||
def _to_int(x: Any, default: int = 0) -> int:
|
|
||||||
try:
|
try:
|
||||||
return int(x)
|
return float(x)
|
||||||
except Exception:
|
except Exception:
|
||||||
return default
|
return None
|
||||||
|
|
||||||
def _normalize_rel_path(p: str) -> str:
|
def _resolve_chunk_profile(note_type: str, reg: dict) -> str:
|
||||||
p = (p or "").replace("\\", "/")
|
types = _get_types_map(reg)
|
||||||
while p.startswith("/"):
|
if isinstance(types, dict):
|
||||||
p = p[1:]
|
t = types.get(note_type, {})
|
||||||
return p
|
if isinstance(t, dict) and isinstance(t.get("chunk_profile"), str):
|
||||||
|
return t["chunk_profile"]
|
||||||
|
defs = _get_defaults(reg)
|
||||||
|
if isinstance(defs, dict) and isinstance(defs.get("chunk_profile"), str):
|
||||||
|
return defs["chunk_profile"]
|
||||||
|
return "default"
|
||||||
|
|
||||||
|
def _resolve_retriever_weight(note_type: str, reg: dict) -> float:
|
||||||
|
types = _get_types_map(reg)
|
||||||
|
if isinstance(types, dict):
|
||||||
|
t = types.get(note_type, {})
|
||||||
|
if isinstance(t, dict) and (t.get("retriever_weight") is not None):
|
||||||
|
v = _as_float(t.get("retriever_weight"))
|
||||||
|
if v is not None:
|
||||||
|
return float(v)
|
||||||
|
defs = _get_defaults(reg)
|
||||||
|
if isinstance(defs, dict) and (defs.get("retriever_weight") is not None):
|
||||||
|
v = _as_float(defs.get("retriever_weight"))
|
||||||
|
if v is not None:
|
||||||
|
return float(v)
|
||||||
|
return 1.0
|
||||||
|
|
||||||
# ---------------------- Overlap & Offsets ---------------------------- #
|
def _as_list(x):
|
||||||
|
if x is None:
|
||||||
|
return []
|
||||||
|
if isinstance(x, list):
|
||||||
|
return x
|
||||||
|
return [x]
|
||||||
|
|
||||||
def _dedupe_windows_to_segments(windows: List[str]) -> Tuple[List[str], List[int], str]:
|
def make_chunk_payloads(note: Dict[str, Any],
|
||||||
"""
|
note_path: str,
|
||||||
Entfernt linkes Overlap aus echten Fenster-Strings.
|
chunks_from_chunker: List[Any],
|
||||||
Rückgabe: (segments, overlaps_left, reconstructed_text)
|
*,
|
||||||
"""
|
note_text: str = "",
|
||||||
segments: List[str] = []
|
types_cfg: Optional[dict] = None,
|
||||||
overlaps_left: List[int] = []
|
file_path: Optional[str] = None) -> List[Dict[str, Any]]:
|
||||||
reconstructed = ""
|
fm = (note or {}).get("frontmatter", {}) or {}
|
||||||
for w in windows:
|
note_type = fm.get("type") or note.get("type") or "concept"
|
||||||
w = w or ""
|
reg = types_cfg if isinstance(types_cfg, dict) else _load_types()
|
||||||
max_k = min(len(w), len(reconstructed))
|
|
||||||
k = 0
|
|
||||||
for cand in range(max_k, -1, -1):
|
|
||||||
if reconstructed.endswith(w[:cand]):
|
|
||||||
k = cand
|
|
||||||
break
|
|
||||||
seg = w[k:]
|
|
||||||
segments.append(seg)
|
|
||||||
overlaps_left.append(k)
|
|
||||||
reconstructed += seg
|
|
||||||
return segments, overlaps_left, reconstructed
|
|
||||||
|
|
||||||
def _overlap_len_suffix_prefix(a: str, b: str, max_probe: int = 4096) -> int:
|
# types.yaml authoritative
|
||||||
"""Länge längsten Suffix(a), der Prefix(b) ist."""
|
cp = _resolve_chunk_profile(note_type, reg)
|
||||||
if not a or not b:
|
rw = _resolve_retriever_weight(note_type, reg)
|
||||||
return 0
|
|
||||||
a1 = a[-max_probe:]
|
|
||||||
b1 = b[:max_probe]
|
|
||||||
n = min(len(a1), len(b1))
|
|
||||||
for k in range(n, 0, -1):
|
|
||||||
if a1[-k:] == b1[:k]:
|
|
||||||
return k
|
|
||||||
return 0
|
|
||||||
|
|
||||||
|
tags = fm.get("tags") or []
|
||||||
|
if isinstance(tags, str):
|
||||||
|
tags = [tags]
|
||||||
|
|
||||||
# ----------------------------- Public API ---------------------------- #
|
out: List[Dict[str, Any]] = []
|
||||||
|
for idx, ch in enumerate(chunks_from_chunker):
|
||||||
|
# Attribute oder Keys (Chunk-Objekt oder Dict)
|
||||||
|
cid = getattr(ch, "id", None) or (ch.get("id") if isinstance(ch, dict) else None)
|
||||||
|
nid = getattr(ch, "note_id", None) or (ch.get("note_id") if isinstance(ch, dict) else fm.get("id"))
|
||||||
|
index = getattr(ch, "index", None) or (ch.get("index") if isinstance(ch, dict) else idx)
|
||||||
|
text = getattr(ch, "text", None) or (ch.get("text") if isinstance(ch, dict) else "")
|
||||||
|
window = getattr(ch, "window", None) or (ch.get("window") if isinstance(ch, dict) else text)
|
||||||
|
prev_id = getattr(ch, "neighbors_prev", None) or (ch.get("neighbors_prev") if isinstance(ch, dict) else None)
|
||||||
|
next_id = getattr(ch, "neighbors_next", None) or (ch.get("neighbors_next") if isinstance(ch, dict) else None)
|
||||||
|
|
||||||
def make_chunk_payloads(
|
|
||||||
frontmatter: Dict[str, Any],
|
|
||||||
rel_path: str,
|
|
||||||
chunks: Iterable[Union[Dict[str, Any], Any]],
|
|
||||||
note_text: Optional[str] = None,
|
|
||||||
) -> List[Dict[str, Any]]:
|
|
||||||
"""
|
|
||||||
Baut Payloads pro Chunk. Falls Fenster ohne Overlap geliefert werden,
|
|
||||||
erzeugen wir synthetische 'window'-Texte mit typgerechtem Overlap.
|
|
||||||
"""
|
|
||||||
note_id = str(frontmatter.get("id") or "").strip()
|
|
||||||
note_type = str(frontmatter.get("type", "")).lower()
|
|
||||||
note_title = frontmatter.get("title", None)
|
|
||||||
note_tags = frontmatter.get("tags", None)
|
|
||||||
rel_path = _normalize_rel_path(rel_path)
|
|
||||||
|
|
||||||
# 1) Rohdaten sammeln (so wie geliefert)
|
|
||||||
chunks_list = list(chunks)
|
|
||||||
raw_windows: List[str] = []
|
|
||||||
seqs: List[int] = []
|
|
||||||
ids_in: List[Optional[str]] = []
|
|
||||||
token_counts: List[Optional[int]] = []
|
|
||||||
section_titles: List[Optional[str]] = []
|
|
||||||
section_paths: List[Optional[str]] = []
|
|
||||||
any_explicit_window = False
|
|
||||||
|
|
||||||
for idx, c in enumerate(chunks_list):
|
|
||||||
# Fensterquelle
|
|
||||||
w = _get_attr_or_key(c, "window", None)
|
|
||||||
if isinstance(w, str) and w:
|
|
||||||
any_explicit_window = True
|
|
||||||
raw_windows.append(w)
|
|
||||||
else:
|
|
||||||
raw_windows.append(_as_window_text(c)) # 'text'|'content'|'raw' als Ersatz
|
|
||||||
# Ordnung
|
|
||||||
seqs.append(_to_int(_get_attr_or_key(c, "seq", _get_attr_or_key(c, "chunk_index", idx)), idx))
|
|
||||||
# IDs, Tokens, Sektionen
|
|
||||||
cid = _get_attr_or_key(c, "chunk_id", _get_attr_or_key(c, "id", None))
|
|
||||||
ids_in.append(str(cid) if isinstance(cid, str) and cid else None)
|
|
||||||
tc = _get_attr_or_key(c, "token_count", None)
|
|
||||||
token_counts.append(_to_int(tc, 0) if tc is not None else None)
|
|
||||||
section_titles.append(_get_attr_or_key(c, "section_title", None))
|
|
||||||
section_paths.append(_get_attr_or_key(c, "section_path", None))
|
|
||||||
|
|
||||||
# 2) Segmente & Overlaps bestimmen
|
|
||||||
if any_explicit_window:
|
|
||||||
# Es existieren echte Fenster → dedupe, um Kernsegmente zu finden
|
|
||||||
segments, overlaps_left, recon = _dedupe_windows_to_segments(raw_windows)
|
|
||||||
windows_final = raw_windows[:] # bereits mit Overlap geliefert
|
|
||||||
else:
|
|
||||||
# Keine echten Fenster → Segmente sind identisch zu "Fenstern" (bisher),
|
|
||||||
# wir erzeugen synthetische Fenster mit Overlap gemäß Typ
|
|
||||||
segments = [w or "" for w in raw_windows]
|
|
||||||
overlaps_left = []
|
|
||||||
windows_final = []
|
|
||||||
recon = ""
|
|
||||||
try:
|
|
||||||
overlap_low, overlap_high = tuple(_get_sizes(note_type).get("overlap", (40, 60)))
|
|
||||||
except Exception:
|
|
||||||
overlap_low, overlap_high = (40, 60)
|
|
||||||
overlap_target = int(overlap_low)
|
|
||||||
|
|
||||||
for i, seg in enumerate(segments):
|
|
||||||
if i == 0:
|
|
||||||
# erstes Fenster: kein linker Kontext
|
|
||||||
windows_final.append(seg)
|
|
||||||
overlaps_left.append(0)
|
|
||||||
recon += seg
|
|
||||||
else:
|
|
||||||
# synthetischer linker Kontext = Suffix des bisher rekonstruierten Texts
|
|
||||||
k = min(overlap_target, len(recon))
|
|
||||||
left_ctx = recon[-k:] if k > 0 else ""
|
|
||||||
windows_final.append(left_ctx + seg)
|
|
||||||
overlaps_left.append(k)
|
|
||||||
recon += seg # Rekonstruktion bleibt kerntreu
|
|
||||||
|
|
||||||
# 3) overlap_right bestimmen
|
|
||||||
overlaps_right: List[int] = []
|
|
||||||
for i in range(len(windows_final)):
|
|
||||||
if i + 1 < len(windows_final):
|
|
||||||
ov = _overlap_len_suffix_prefix(windows_final[i], windows_final[i + 1], max_probe=4096)
|
|
||||||
else:
|
|
||||||
ov = 0
|
|
||||||
overlaps_right.append(ov)
|
|
||||||
|
|
||||||
# 4) start/end-Offsets (exakt via note_text, sonst kumulativ)
|
|
||||||
starts: List[int] = [0] * len(segments)
|
|
||||||
ends: List[int] = [0] * len(segments)
|
|
||||||
pos = 0
|
|
||||||
if isinstance(note_text, str) and note_text:
|
|
||||||
search_pos = 0
|
|
||||||
for i, seg in enumerate(segments):
|
|
||||||
if not seg:
|
|
||||||
starts[i] = ends[i] = search_pos
|
|
||||||
continue
|
|
||||||
j = note_text.find(seg, search_pos)
|
|
||||||
if j >= 0:
|
|
||||||
starts[i] = j
|
|
||||||
ends[i] = j + len(seg)
|
|
||||||
search_pos = ends[i]
|
|
||||||
else:
|
|
||||||
# Fallback: kumulativ
|
|
||||||
starts[i] = pos
|
|
||||||
pos += len(seg)
|
|
||||||
ends[i] = pos
|
|
||||||
else:
|
|
||||||
for i, seg in enumerate(segments):
|
|
||||||
starts[i] = pos
|
|
||||||
pos += len(seg)
|
|
||||||
ends[i] = pos
|
|
||||||
|
|
||||||
# 5) Payload-Dicts
|
|
||||||
payloads: List[Dict[str, Any]] = []
|
|
||||||
for i, (win, seg) in enumerate(zip(windows_final, segments)):
|
|
||||||
chunk_id = ids_in[i] or f"{note_id}#{i+1}"
|
|
||||||
pl: Dict[str, Any] = {
|
pl: Dict[str, Any] = {
|
||||||
"note_id": note_id,
|
"note_id": nid,
|
||||||
"chunk_id": chunk_id,
|
"chunk_id": cid,
|
||||||
"id": chunk_id, # Alias
|
"index": int(index),
|
||||||
"chunk_index": i,
|
"ord": int(index) + 1,
|
||||||
"seq": seqs[i],
|
"type": note_type,
|
||||||
"path": rel_path,
|
"tags": tags,
|
||||||
"window": win,
|
"text": text,
|
||||||
"text": seg,
|
"window": window,
|
||||||
"start": starts[i],
|
"neighbors_prev": _as_list(prev_id),
|
||||||
"end": ends[i],
|
"neighbors_next": _as_list(next_id),
|
||||||
"overlap_left": overlaps_left[i],
|
"section": getattr(ch, "section", None) or (ch.get("section") if isinstance(ch, dict) else ""),
|
||||||
"overlap_right": overlaps_right[i],
|
"path": note_path,
|
||||||
|
"source_path": file_path or note_path,
|
||||||
|
"retriever_weight": float(rw),
|
||||||
|
"chunk_profile": cp,
|
||||||
}
|
}
|
||||||
# optionale Metadaten
|
# Aufräumen von Alt-Feldern
|
||||||
if note_type:
|
for alias in ("chunk_num", "Chunk_Number"):
|
||||||
pl["type"] = note_type
|
pl.pop(alias, None)
|
||||||
if note_title is not None:
|
|
||||||
pl["title"] = note_title
|
|
||||||
if note_tags is not None:
|
|
||||||
pl["tags"] = note_tags
|
|
||||||
if token_counts[i] is not None:
|
|
||||||
pl["token_count"] = int(token_counts[i])
|
|
||||||
if section_titles[i] is not None:
|
|
||||||
pl["section_title"] = section_titles[i]
|
|
||||||
if section_paths[i] is not None:
|
|
||||||
sp = str(section_paths[i]).replace("\\", "/")
|
|
||||||
pl["section_path"] = sp if sp else "/"
|
|
||||||
payloads.append(pl)
|
|
||||||
|
|
||||||
return payloads
|
out.append(pl)
|
||||||
|
|
||||||
|
return out
|
||||||
# __main__ Demo (optional)
|
|
||||||
if __name__ == "__main__": # pragma: no cover
|
|
||||||
fm = {"id": "demo", "title": "Demo", "type": "concept"}
|
|
||||||
# Beispiel ohne echte Fenster → erzeugt synthetische Overlaps
|
|
||||||
chunks = [
|
|
||||||
{"id": "demo#1", "text": "Alpha Beta Gamma"},
|
|
||||||
{"id": "demo#2", "text": "Gamma Delta"},
|
|
||||||
{"id": "demo#3", "text": "Delta Epsilon Zeta"},
|
|
||||||
]
|
|
||||||
pls = make_chunk_payloads(fm, "path/demo.md", chunks, note_text="Alpha Beta Gamma Delta Epsilon Zeta")
|
|
||||||
from pprint import pprint
|
|
||||||
pprint(pls)
|
|
||||||
recon = "".join(p["text"] for p in pls)
|
|
||||||
print("RECON:", recon)
|
|
||||||
+353
-49
@@ -2,43 +2,45 @@
|
|||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
Modul: app/core/derive_edges.py
|
Modul: app/core/derive_edges.py
|
||||||
Version: 1.4.0
|
Zweck:
|
||||||
Datum: 2025-10-01
|
- Bewahrt bestehende Edgelogik (belongs_to, prev/next, references, backlink)
|
||||||
|
- Ergänzt typenbasierte Default-Kanten (edge_defaults aus config/types.yaml)
|
||||||
Zweck
|
- Unterstützt "typed inline relations":
|
||||||
-----
|
* [[rel:KIND | Target]]
|
||||||
Robuste Kantenbildung für mindnet (Notes/Chunks):
|
* [[rel:KIND Target]]
|
||||||
- belongs_to (chunk -> note)
|
* rel: KIND [[Target]]
|
||||||
- next / prev (chunk-Kette)
|
- Unterstützt Obsidian-Callouts:
|
||||||
- references (chunk-scope) aus Chunk.window/text
|
* > [!edge] KIND: [[Target]] [[Target2]] ...
|
||||||
- optional references/backlink (note-scope)
|
Kompatibilität:
|
||||||
|
- build_edges_for_note(...) Signatur unverändert
|
||||||
Wichtig: Wikilinks werden mit der Parser-Funktion `extract_wikilinks` extrahiert,
|
- rule_id Werte:
|
||||||
damit Varianten wie [[id#anchor]] oder [[id|label]] korrekt auf 'id' reduziert werden.
|
* structure:belongs_to
|
||||||
|
* structure:order
|
||||||
Erwartete Chunk-Payload-Felder:
|
* explicit:wikilink
|
||||||
{
|
* inline:rel
|
||||||
"note_id": "...",
|
* callout:edge
|
||||||
"chunk_id": "...", # Alias "id" ist zulässig
|
* edge_defaults:<type>:<relation>
|
||||||
"id": "...",
|
* derived:backlink
|
||||||
"chunk_index": int,
|
|
||||||
"seq": int,
|
|
||||||
"window": str,
|
|
||||||
"text": str,
|
|
||||||
"path": "rel/path.md",
|
|
||||||
...
|
|
||||||
}
|
|
||||||
"""
|
"""
|
||||||
|
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|
||||||
from typing import Dict, List, Optional, Iterable
|
import os
|
||||||
|
import re
|
||||||
|
from typing import Iterable, List, Optional, Tuple, Set, Dict
|
||||||
|
|
||||||
# WICHTIG: benutze die Parser-Extraktion für saubere Wikilinks
|
try:
|
||||||
from app.core.parser import extract_wikilinks
|
import yaml # optional, nur für types.yaml
|
||||||
|
except Exception: # pragma: no cover
|
||||||
|
yaml = None
|
||||||
|
|
||||||
|
# --------------------------------------------------------------------------- #
|
||||||
|
# Utilities
|
||||||
|
# --------------------------------------------------------------------------- #
|
||||||
|
|
||||||
def _get(d: dict, *keys, default=None):
|
def _get(d: dict, *keys, default=None):
|
||||||
for k in keys:
|
for k in keys:
|
||||||
if k in d and d[k] is not None:
|
if isinstance(d, dict) and k in d and d[k] is not None:
|
||||||
return d[k]
|
return d[k]
|
||||||
return default
|
return default
|
||||||
|
|
||||||
@@ -52,8 +54,8 @@ def _chunk_text_for_refs(chunk: dict) -> str:
|
|||||||
or ""
|
or ""
|
||||||
)
|
)
|
||||||
|
|
||||||
def _dedupe(seq: Iterable[str]) -> List[str]:
|
def _dedupe_seq(seq: Iterable[str]) -> List[str]:
|
||||||
seen = set()
|
seen: Set[str] = set()
|
||||||
out: List[str] = []
|
out: List[str] = []
|
||||||
for s in seq:
|
for s in seq:
|
||||||
if s not in seen:
|
if s not in seen:
|
||||||
@@ -64,15 +66,177 @@ def _dedupe(seq: Iterable[str]) -> List[str]:
|
|||||||
def _edge(kind: str, scope: str, source_id: str, target_id: str, note_id: str, extra: Optional[dict] = None) -> dict:
|
def _edge(kind: str, scope: str, source_id: str, target_id: str, note_id: str, extra: Optional[dict] = None) -> dict:
|
||||||
pl = {
|
pl = {
|
||||||
"kind": kind,
|
"kind": kind,
|
||||||
|
"relation": kind, # Alias (v2)
|
||||||
"scope": scope, # "chunk" | "note"
|
"scope": scope, # "chunk" | "note"
|
||||||
"source_id": source_id,
|
"source_id": source_id,
|
||||||
"target_id": target_id,
|
"target_id": target_id,
|
||||||
"note_id": note_id, # Träger/Quelle der Kante (aktuelle Note)
|
"note_id": note_id, # Träger-Note der Kante
|
||||||
}
|
}
|
||||||
if extra:
|
if extra:
|
||||||
pl.update(extra)
|
pl.update(extra)
|
||||||
return pl
|
return pl
|
||||||
|
|
||||||
|
def _mk_edge_id(kind: str, s: str, t: str, scope: str, rule_id: Optional[str] = None) -> str:
|
||||||
|
base = f"{kind}:{s}->{t}#{scope}"
|
||||||
|
if rule_id:
|
||||||
|
base += f"|{rule_id}"
|
||||||
|
try:
|
||||||
|
import hashlib
|
||||||
|
return hashlib.blake2s(base.encode("utf-8"), digest_size=12).hexdigest()
|
||||||
|
except Exception: # pragma: no cover
|
||||||
|
return base
|
||||||
|
|
||||||
|
# --------------------------------------------------------------------------- #
|
||||||
|
# Typen-Registry (types.yaml)
|
||||||
|
# --------------------------------------------------------------------------- #
|
||||||
|
|
||||||
|
def _env(n: str, default: Optional[str] = None) -> str:
|
||||||
|
v = os.getenv(n)
|
||||||
|
return v if v is not None else (default or "")
|
||||||
|
|
||||||
|
def _load_types_registry() -> dict:
|
||||||
|
"""Lädt die YAML-Registry aus MINDNET_TYPES_FILE oder ./config/types.yaml"""
|
||||||
|
p = _env("MINDNET_TYPES_FILE", "./config/types.yaml")
|
||||||
|
if not os.path.isfile(p) or yaml is None:
|
||||||
|
return {}
|
||||||
|
try:
|
||||||
|
with open(p, "r", encoding="utf-8") as f:
|
||||||
|
data = yaml.safe_load(f) or {}
|
||||||
|
return data
|
||||||
|
except Exception:
|
||||||
|
return {}
|
||||||
|
|
||||||
|
def _get_types_map(reg: dict) -> dict:
|
||||||
|
if isinstance(reg, dict) and isinstance(reg.get("types"), dict):
|
||||||
|
return reg["types"]
|
||||||
|
return reg if isinstance(reg, dict) else {}
|
||||||
|
|
||||||
|
def _edge_defaults_for(note_type: Optional[str], reg: dict) -> List[str]:
|
||||||
|
"""
|
||||||
|
Liefert die edge_defaults-Liste für den gegebenen Notiztyp.
|
||||||
|
Fallback-Reihenfolge:
|
||||||
|
1) reg['types'][note_type]['edge_defaults']
|
||||||
|
2) reg['defaults']['edge_defaults'] (oder 'default'/'global')
|
||||||
|
3) []
|
||||||
|
"""
|
||||||
|
types_map = _get_types_map(reg)
|
||||||
|
if note_type and isinstance(types_map, dict):
|
||||||
|
t = types_map.get(note_type)
|
||||||
|
if isinstance(t, dict) and isinstance(t.get("edge_defaults"), list):
|
||||||
|
return [str(x) for x in t["edge_defaults"] if isinstance(x, str)]
|
||||||
|
for key in ("defaults", "default", "global"):
|
||||||
|
v = reg.get(key)
|
||||||
|
if isinstance(v, dict) and isinstance(v.get("edge_defaults"), list):
|
||||||
|
return [str(x) for x in v["edge_defaults"] if isinstance(x, str)]
|
||||||
|
return []
|
||||||
|
|
||||||
|
# --------------------------------------------------------------------------- #
|
||||||
|
# Parser für Links / Relationen
|
||||||
|
# --------------------------------------------------------------------------- #
|
||||||
|
|
||||||
|
# Normale Wikilinks (Fallback)
|
||||||
|
_WIKILINK_RE = re.compile(r"\[\[(?:[^\|\]]+\|)?([a-zA-Z0-9_\-#:. ]+)\]\]")
|
||||||
|
|
||||||
|
# Getypte Inline-Relationen:
|
||||||
|
# [[rel:KIND | Target]]
|
||||||
|
# [[rel:KIND Target]]
|
||||||
|
_REL_PIPE = re.compile(r"\[\[\s*rel:(?P<kind>[a-z_]+)\s*\|\s*(?P<target>[^\]]+?)\s*\]\]", re.IGNORECASE)
|
||||||
|
_REL_SPACE = re.compile(r"\[\[\s*rel:(?P<kind>[a-z_]+)\s+(?P<target>[^\]]+?)\s*\]\]", re.IGNORECASE)
|
||||||
|
# rel: KIND [[Target]] (reines Textmuster)
|
||||||
|
_REL_TEXT = re.compile(r"rel\s*:\s*(?P<kind>[a-z_]+)\s*\[\[\s*(?P<target>[^\]]+?)\s*\]\]", re.IGNORECASE)
|
||||||
|
|
||||||
|
def _extract_typed_relations(text: str) -> Tuple[List[Tuple[str,str]], str]:
|
||||||
|
"""
|
||||||
|
Gibt Liste (kind, target) zurück und den Text mit entfernten getypten Relation-Links,
|
||||||
|
damit die generische Wikilink-Erkennung sie nicht doppelt zählt.
|
||||||
|
Unterstützt drei Varianten:
|
||||||
|
- [[rel:KIND | Target]]
|
||||||
|
- [[rel:KIND Target]]
|
||||||
|
- rel: KIND [[Target]]
|
||||||
|
"""
|
||||||
|
pairs: List[Tuple[str,str]] = []
|
||||||
|
def _collect(m):
|
||||||
|
k = (m.group("kind") or "").strip().lower()
|
||||||
|
t = (m.group("target") or "").strip()
|
||||||
|
if k and t:
|
||||||
|
pairs.append((k, t))
|
||||||
|
return "" # Link entfernen
|
||||||
|
|
||||||
|
text = _REL_PIPE.sub(_collect, text)
|
||||||
|
text = _REL_SPACE.sub(_collect, text)
|
||||||
|
text = _REL_TEXT.sub(_collect, text)
|
||||||
|
return pairs, text
|
||||||
|
|
||||||
|
# Obsidian Callout Parser
|
||||||
|
_CALLOUT_START = re.compile(r"^\s*>\s*\[!edge\]\s*(.*)$", re.IGNORECASE)
|
||||||
|
_REL_LINE = re.compile(r"^(?P<kind>[a-z_]+)\s*:\s*(?P<targets>.+?)\s*$", re.IGNORECASE)
|
||||||
|
_WIKILINKS_IN_LINE = re.compile(r"\[\[([^\]]+)\]\]")
|
||||||
|
|
||||||
|
def _extract_callout_relations(text: str) -> Tuple[List[Tuple[str,str]], str]:
|
||||||
|
"""
|
||||||
|
Findet [!edge]-Callouts und extrahiert (kind, target). Entfernt den gesamten
|
||||||
|
Callout-Block aus dem Text (damit Wikilinks daraus nicht zusätzlich als
|
||||||
|
"references" gezählt werden).
|
||||||
|
"""
|
||||||
|
if not text:
|
||||||
|
return [], text
|
||||||
|
|
||||||
|
lines = text.splitlines()
|
||||||
|
out_pairs: List[Tuple[str,str]] = []
|
||||||
|
keep_lines: List[str] = []
|
||||||
|
i = 0
|
||||||
|
|
||||||
|
while i < len(lines):
|
||||||
|
m = _CALLOUT_START.match(lines[i])
|
||||||
|
if not m:
|
||||||
|
keep_lines.append(lines[i])
|
||||||
|
i += 1
|
||||||
|
continue
|
||||||
|
|
||||||
|
block_lines: List[str] = []
|
||||||
|
first_rest = m.group(1) or ""
|
||||||
|
if first_rest.strip():
|
||||||
|
block_lines.append(first_rest)
|
||||||
|
|
||||||
|
i += 1
|
||||||
|
while i < len(lines) and lines[i].lstrip().startswith('>'):
|
||||||
|
block_lines.append(lines[i].lstrip()[1:].lstrip())
|
||||||
|
i += 1
|
||||||
|
|
||||||
|
for bl in block_lines:
|
||||||
|
mrel = _REL_LINE.match(bl)
|
||||||
|
if not mrel:
|
||||||
|
continue
|
||||||
|
kind = (mrel.group("kind") or "").strip().lower()
|
||||||
|
targets = mrel.group("targets") or ""
|
||||||
|
found = _WIKILINKS_IN_LINE.findall(targets)
|
||||||
|
if found:
|
||||||
|
for t in found:
|
||||||
|
t = t.strip()
|
||||||
|
if t:
|
||||||
|
out_pairs.append((kind, t))
|
||||||
|
else:
|
||||||
|
for raw in re.split(r"[,;]", targets):
|
||||||
|
t = raw.strip()
|
||||||
|
if t:
|
||||||
|
out_pairs.append((kind, t))
|
||||||
|
|
||||||
|
# Callout wird NICHT in keep_lines übernommen
|
||||||
|
continue
|
||||||
|
|
||||||
|
remainder = "\n".join(keep_lines)
|
||||||
|
return out_pairs, remainder
|
||||||
|
|
||||||
|
def _extract_wikilinks(text: str) -> List[str]:
|
||||||
|
ids: List[str] = []
|
||||||
|
for m in _WIKILINK_RE.finditer(text or ""):
|
||||||
|
ids.append(m.group(1).strip())
|
||||||
|
return ids
|
||||||
|
|
||||||
|
# --------------------------------------------------------------------------- #
|
||||||
|
# Hauptfunktion
|
||||||
|
# --------------------------------------------------------------------------- #
|
||||||
|
|
||||||
def build_edges_for_note(
|
def build_edges_for_note(
|
||||||
note_id: str,
|
note_id: str,
|
||||||
chunks: List[dict],
|
chunks: List[dict],
|
||||||
@@ -84,48 +248,188 @@ def build_edges_for_note(
|
|||||||
|
|
||||||
- belongs_to: für jeden Chunk (chunk -> note)
|
- belongs_to: für jeden Chunk (chunk -> note)
|
||||||
- next / prev: zwischen aufeinanderfolgenden Chunks
|
- next / prev: zwischen aufeinanderfolgenden Chunks
|
||||||
- references: pro Chunk aus window/text
|
- references: pro Chunk aus window/text (via Wikilinks)
|
||||||
|
- typed inline relations: [[rel:KIND | Target]] / [[rel:KIND Target]] / rel: KIND [[Target]]
|
||||||
|
- Obsidian Callouts: > [!edge] KIND: [[Target]] [[Target2]]
|
||||||
- optional note-scope references/backlinks: dedupliziert über alle Chunk-Funde + note_level_references
|
- optional note-scope references/backlinks: dedupliziert über alle Chunk-Funde + note_level_references
|
||||||
|
- typenbasierte Default-Kanten (edge_defaults) je gefundener Referenz
|
||||||
"""
|
"""
|
||||||
edges: List[dict] = []
|
edges: List[dict] = []
|
||||||
|
|
||||||
# belongs_to
|
# Note-Typ (aus erstem Chunk erwartet)
|
||||||
|
note_type = None
|
||||||
|
if chunks:
|
||||||
|
note_type = _get(chunks[0], "type")
|
||||||
|
|
||||||
|
# 1) belongs_to
|
||||||
for ch in chunks:
|
for ch in chunks:
|
||||||
cid = _get(ch, "chunk_id", "id")
|
cid = _get(ch, "chunk_id", "id")
|
||||||
if not cid:
|
if not cid:
|
||||||
continue
|
continue
|
||||||
edges.append(_edge("belongs_to", "chunk", cid, note_id, note_id, {"chunk_id": cid}))
|
edges.append(_edge("belongs_to", "chunk", cid, note_id, note_id, {
|
||||||
|
"chunk_id": cid,
|
||||||
|
"edge_id": _mk_edge_id("belongs_to", cid, note_id, "chunk", "structure:belongs_to"),
|
||||||
|
"provenance": "rule",
|
||||||
|
"rule_id": "structure:belongs_to",
|
||||||
|
"confidence": 1.0,
|
||||||
|
}))
|
||||||
|
|
||||||
# next/prev
|
# 2) next / prev
|
||||||
for i in range(len(chunks) - 1):
|
for i in range(len(chunks) - 1):
|
||||||
a, b = chunks[i], chunks[i + 1]
|
a, b = chunks[i], chunks[i + 1]
|
||||||
a_id = _get(a, "chunk_id", "id")
|
a_id = _get(a, "chunk_id", "id")
|
||||||
b_id = _get(b, "chunk_id", "id")
|
b_id = _get(b, "chunk_id", "id")
|
||||||
if not a_id or not b_id:
|
if not a_id or not b_id:
|
||||||
continue
|
continue
|
||||||
edges.append(_edge("next", "chunk", a_id, b_id, note_id, {"chunk_id": a_id}))
|
edges.append(_edge("next", "chunk", a_id, b_id, note_id, {
|
||||||
edges.append(_edge("prev", "chunk", b_id, a_id, note_id, {"chunk_id": b_id}))
|
"chunk_id": a_id,
|
||||||
|
"edge_id": _mk_edge_id("next", a_id, b_id, "chunk", "structure:order"),
|
||||||
|
"provenance": "rule",
|
||||||
|
"rule_id": "structure:order",
|
||||||
|
"confidence": 0.95,
|
||||||
|
}))
|
||||||
|
edges.append(_edge("prev", "chunk", b_id, a_id, note_id, {
|
||||||
|
"chunk_id": b_id,
|
||||||
|
"edge_id": _mk_edge_id("prev", b_id, a_id, "chunk", "structure:order"),
|
||||||
|
"provenance": "rule",
|
||||||
|
"rule_id": "structure:order",
|
||||||
|
"confidence": 0.95,
|
||||||
|
}))
|
||||||
|
|
||||||
# references (chunk-scope) – Links aus window bevorzugen (Overlap-fest)
|
# 3) references + typed inline + callouts + defaults (chunk-scope)
|
||||||
|
reg = _load_types_registry()
|
||||||
|
defaults = _edge_defaults_for(note_type, reg)
|
||||||
refs_all: List[str] = []
|
refs_all: List[str] = []
|
||||||
|
|
||||||
for ch in chunks:
|
for ch in chunks:
|
||||||
cid = _get(ch, "chunk_id", "id")
|
cid = _get(ch, "chunk_id", "id")
|
||||||
if not cid:
|
if not cid:
|
||||||
continue
|
continue
|
||||||
txt = _chunk_text_for_refs(ch)
|
raw = _chunk_text_for_refs(ch)
|
||||||
refs = extract_wikilinks(txt) # <— Parser-Logik, kompatibel zu deinem System
|
|
||||||
|
# 3a) typed inline relations
|
||||||
|
typed, remainder = _extract_typed_relations(raw)
|
||||||
|
for kind, target in typed:
|
||||||
|
kind = kind.strip().lower()
|
||||||
|
if not kind or not target:
|
||||||
|
continue
|
||||||
|
edges.append(_edge(kind, "chunk", cid, target, note_id, {
|
||||||
|
"chunk_id": cid,
|
||||||
|
"edge_id": _mk_edge_id(kind, cid, target, "chunk", "inline:rel"),
|
||||||
|
"provenance": "explicit",
|
||||||
|
"rule_id": "inline:rel",
|
||||||
|
"confidence": 0.95,
|
||||||
|
}))
|
||||||
|
if kind in {"related_to", "similar_to"}:
|
||||||
|
edges.append(_edge(kind, "chunk", target, cid, note_id, {
|
||||||
|
"chunk_id": cid,
|
||||||
|
"edge_id": _mk_edge_id(kind, target, cid, "chunk", "inline:rel"),
|
||||||
|
"provenance": "explicit",
|
||||||
|
"rule_id": "inline:rel",
|
||||||
|
"confidence": 0.95,
|
||||||
|
}))
|
||||||
|
|
||||||
|
# 3b) callouts
|
||||||
|
call_pairs, remainder2 = _extract_callout_relations(remainder)
|
||||||
|
for kind, target in call_pairs:
|
||||||
|
k = (kind or "").strip().lower()
|
||||||
|
if not k or not target:
|
||||||
|
continue
|
||||||
|
edges.append(_edge(k, "chunk", cid, target, note_id, {
|
||||||
|
"chunk_id": cid,
|
||||||
|
"edge_id": _mk_edge_id(k, cid, target, "chunk", "callout:edge"),
|
||||||
|
"provenance": "explicit",
|
||||||
|
"rule_id": "callout:edge",
|
||||||
|
"confidence": 0.95,
|
||||||
|
}))
|
||||||
|
if k in {"related_to", "similar_to"}:
|
||||||
|
edges.append(_edge(k, "chunk", target, cid, note_id, {
|
||||||
|
"chunk_id": cid,
|
||||||
|
"edge_id": _mk_edge_id(k, target, cid, "chunk", "callout:edge"),
|
||||||
|
"provenance": "explicit",
|
||||||
|
"rule_id": "callout:edge",
|
||||||
|
"confidence": 0.95,
|
||||||
|
}))
|
||||||
|
|
||||||
|
# 3c) generische Wikilinks → references (+ defaults je Ref)
|
||||||
|
refs = _extract_wikilinks(remainder2)
|
||||||
for r in refs:
|
for r in refs:
|
||||||
edges.append(_edge("references", "chunk", cid, r, note_id, {"chunk_id": cid, "ref_text": r}))
|
edges.append(_edge("references", "chunk", cid, r, note_id, {
|
||||||
|
"chunk_id": cid,
|
||||||
|
"ref_text": r,
|
||||||
|
"edge_id": _mk_edge_id("references", cid, r, "chunk", "explicit:wikilink"),
|
||||||
|
"provenance": "explicit",
|
||||||
|
"rule_id": "explicit:wikilink",
|
||||||
|
"confidence": 1.0,
|
||||||
|
}))
|
||||||
|
for rel in defaults:
|
||||||
|
if rel == "references":
|
||||||
|
continue
|
||||||
|
edges.append(_edge(rel, "chunk", cid, r, note_id, {
|
||||||
|
"chunk_id": cid,
|
||||||
|
"edge_id": _mk_edge_id(rel, cid, r, "chunk", f"edge_defaults:{note_type}:{rel}"),
|
||||||
|
"provenance": "rule",
|
||||||
|
"rule_id": f"edge_defaults:{note_type}:{rel}",
|
||||||
|
"confidence": 0.7,
|
||||||
|
}))
|
||||||
|
if rel in {"related_to", "similar_to"}:
|
||||||
|
edges.append(_edge(rel, "chunk", r, cid, note_id, {
|
||||||
|
"chunk_id": cid,
|
||||||
|
"edge_id": _mk_edge_id(rel, r, cid, "chunk", f"edge_defaults:{note_type}:{rel}"),
|
||||||
|
"provenance": "rule",
|
||||||
|
"rule_id": f"edge_defaults:{note_type}:{rel}",
|
||||||
|
"confidence": 0.7,
|
||||||
|
}))
|
||||||
|
|
||||||
refs_all.extend(refs)
|
refs_all.extend(refs)
|
||||||
|
|
||||||
# optional: note-scope references/backlinks
|
# 4) optional note-scope refs/backlinks (+ defaults)
|
||||||
if include_note_scope_refs:
|
if include_note_scope_refs:
|
||||||
refs_note = refs_all[:]
|
refs_note = list(refs_all or [])
|
||||||
if note_level_references:
|
if note_level_references:
|
||||||
refs_note.extend([r for r in note_level_references if isinstance(r, str) and r])
|
refs_note.extend([r for r in note_level_references if isinstance(r, str) and r])
|
||||||
refs_note = _dedupe(refs_note)
|
refs_note = _dedupe_seq(refs_note)
|
||||||
for r in refs_note:
|
for r in refs_note:
|
||||||
edges.append(_edge("references", "note", note_id, r, note_id))
|
edges.append(_edge("references", "note", note_id, r, note_id, {
|
||||||
edges.append(_edge("backlink", "note", r, note_id, note_id))
|
"edge_id": _mk_edge_id("references", note_id, r, "note", "explicit:note_scope"),
|
||||||
|
"provenance": "explicit",
|
||||||
|
"rule_id": "explicit:note_scope",
|
||||||
|
"confidence": 1.0,
|
||||||
|
}))
|
||||||
|
edges.append(_edge("backlink", "note", r, note_id, note_id, {
|
||||||
|
"edge_id": _mk_edge_id("backlink", r, note_id, "note", "derived:backlink"),
|
||||||
|
"provenance": "rule",
|
||||||
|
"rule_id": "derived:backlink",
|
||||||
|
"confidence": 0.9,
|
||||||
|
}))
|
||||||
|
for rel in defaults:
|
||||||
|
if rel == "references":
|
||||||
|
continue
|
||||||
|
edges.append(_edge(rel, "note", note_id, r, note_id, {
|
||||||
|
"edge_id": _mk_edge_id(rel, note_id, r, "note", f"edge_defaults:{note_type}:{rel}"),
|
||||||
|
"provenance": "rule",
|
||||||
|
"rule_id": f"edge_defaults:{note_type}:{rel}",
|
||||||
|
"confidence": 0.7,
|
||||||
|
}))
|
||||||
|
if rel in {"related_to", "similar_to"}:
|
||||||
|
edges.append(_edge(rel, "note", r, note_id, note_id, {
|
||||||
|
"edge_id": _mk_edge_id(rel, r, note_id, "note", f"edge_defaults:{note_type}:{rel}"),
|
||||||
|
"provenance": "rule",
|
||||||
|
"rule_id": f"edge_defaults:{note_type}:{rel}",
|
||||||
|
"confidence": 0.7,
|
||||||
|
}))
|
||||||
|
|
||||||
return edges
|
# 5) De-Dupe (source_id, target_id, relation, rule_id)
|
||||||
|
seen: Set[Tuple[str,str,str,str]] = set()
|
||||||
|
out: List[dict] = []
|
||||||
|
for e in edges:
|
||||||
|
s = str(e.get("source_id") or "")
|
||||||
|
t = str(e.get("target_id") or "")
|
||||||
|
rel = str(e.get("relation") or e.get("kind") or "edge")
|
||||||
|
rule = str(e.get("rule_id") or "")
|
||||||
|
key = (s, t, rel, rule)
|
||||||
|
if key in seen:
|
||||||
|
continue
|
||||||
|
seen.add(key)
|
||||||
|
out.append(e)
|
||||||
|
return out
|
||||||
+257
-81
@@ -2,119 +2,295 @@
|
|||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
Modul: app/core/edges.py
|
Modul: app/core/edges.py
|
||||||
Version: 1.0.0
|
Version: 2.0.0 (V2‑superset, rückwärtskompatibel zu v1 vom 2025‑09‑09)
|
||||||
Datum: 2025-09-09
|
|
||||||
|
|
||||||
Zweck
|
Zweck
|
||||||
-----
|
-----
|
||||||
Zentrale, konsistente Erzeugung von Edge-Payloads im **neuen Schema**:
|
Bewahrt die bestehende Edgelogik (belongs_to, prev/next, references, backlink)
|
||||||
- kind : "belongs_to" | "next" | "prev" | "references" | "backlink"
|
und ergänzt V2‑Felder + Typ‑Default‑Kanten gemäß config/types.yaml (edge_defaults).
|
||||||
- source_id : ID des Quellknotens (Chunk- oder Note-ID)
|
Die Funktion ist **idempotent** und **rückwärtskompatibel** zur bisherigen Signatur.
|
||||||
- target_id : ID des Zielknotens
|
|
||||||
- scope : "chunk" | "note"
|
|
||||||
- note_id : Owner-Note (für performantes Filtern/Löschen)
|
|
||||||
- seq : optional (z. B. Reihenfolge von Vorkommen)
|
|
||||||
|
|
||||||
Hinweise
|
Kompatibilitätsgarantien (gegenüber v1):
|
||||||
--------
|
- **Input**: akzeptiert identische Chunk‑Payloads wie v1:
|
||||||
- Edges werden dedupliziert (key=(kind,source_id,target_id,scope)).
|
* `id` (Chunk‑ID), `note_id` (Owner), `neighbors.prev|next` (optional),
|
||||||
- Für Chunk-Edges wird `note_id` aus dem Chunk-Payload entnommen.
|
`references: [{target_id: ...}]` (optional),
|
||||||
- Für Note-Scope-Edges ist `note_id` die Quell-Note-ID.
|
alternativ: `chunk_id`, `chunk_index|ord`, `window|text`
|
||||||
|
- **Output (v1‑Felder)**: `kind`, `source_id`, `target_id`, `scope`, `note_id`, `edge_id`
|
||||||
|
- **Neu (v2‑Felder)**: `relation`, `src_note_id`, `src_chunk_id?`, `dst_note_id`, `dst_chunk_id?`,
|
||||||
|
`provenance` (`explicit|rule`), `rule_id?`, `confidence?`
|
||||||
|
|
||||||
|
Regeln
|
||||||
|
------
|
||||||
|
- Deduplizierungsschlüssel: (source_id, target_id, relation, rule_id)
|
||||||
|
- Strukturkanten:
|
||||||
|
* belongs_to: 1× pro Chunk
|
||||||
|
* next/prev: Sequenz der Chunks; nutzt bevorzugt neighbors; sonst ord/chunk_index
|
||||||
|
- Explizite Referenzen:
|
||||||
|
* aus Chunk: `references[].target_id` (falls vorhanden)
|
||||||
|
* Fallback: Wikilinks in `window|text`: [[Some Title|some-id]] oder [[some-id]]
|
||||||
|
- Note‑Scope:
|
||||||
|
* backlink immer; references nur, wenn include_note_scope_refs=True
|
||||||
|
- Typ‑Defaults (edge_defaults aus config/types.yaml des **Quell‑Notiztyps**):
|
||||||
|
* Für jede explizite Referenz wird je default‑Relation eine Regel‑Kante erzeugt
|
||||||
|
* rule_id: "type_default:{note_type}:{relation}:v1", provenance="rule"
|
||||||
|
|
||||||
|
Konfiguration
|
||||||
|
-------------
|
||||||
|
- ENV MINDNET_TYPES_FILE (Default: ./config/types.yaml)
|
||||||
|
|
||||||
|
Lizenz/Autor
|
||||||
|
------------
|
||||||
|
- Erstimplementierung v1 (2025‑09‑09) — Projekt Mindnet
|
||||||
|
- Erweiterung v2 (2025‑11‑11) — kompatible Superset‑Implementierung
|
||||||
"""
|
"""
|
||||||
|
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
from typing import Dict, List
|
|
||||||
|
import os
|
||||||
|
import re
|
||||||
|
from typing import Dict, Iterable, List, Optional, Tuple, Set
|
||||||
|
|
||||||
|
try:
|
||||||
|
import yaml # optional, nur für types.yaml
|
||||||
|
except Exception: # pragma: no cover
|
||||||
|
yaml = None
|
||||||
|
|
||||||
|
# ------------------------------------------------------------
|
||||||
|
# Hilfen: types.yaml laden (edge_defaults)
|
||||||
|
# ------------------------------------------------------------
|
||||||
|
|
||||||
|
def _types_path() -> str:
|
||||||
|
return os.getenv("MINDNET_TYPES_FILE") or "./config/types.yaml"
|
||||||
|
|
||||||
|
def _load_types() -> Dict[str, dict]:
|
||||||
|
p = _types_path()
|
||||||
|
if not os.path.isfile(p) or yaml is None:
|
||||||
|
return {}
|
||||||
|
try:
|
||||||
|
with open(p, "r", encoding="utf-8") as f:
|
||||||
|
data = yaml.safe_load(f) or {}
|
||||||
|
if isinstance(data, dict) and "types" in data and isinstance(data["types"], dict):
|
||||||
|
return data["types"]
|
||||||
|
return data if isinstance(data, dict) else {}
|
||||||
|
except Exception:
|
||||||
|
return {}
|
||||||
|
|
||||||
|
def _edge_defaults_for(note_type: Optional[str]) -> List[str]:
|
||||||
|
types = _load_types()
|
||||||
|
t = (note_type or "").strip().lower()
|
||||||
|
cfg = types.get(t) or {}
|
||||||
|
defaults = cfg.get("edge_defaults") or []
|
||||||
|
if isinstance(defaults, str):
|
||||||
|
defaults = [defaults]
|
||||||
|
return [str(x) for x in defaults if isinstance(x, (str, int, float))]
|
||||||
|
|
||||||
|
# ------------------------------------------------------------
|
||||||
|
# Wikilink‑Parser (Fallback, wenn ch["references"] fehlt)
|
||||||
|
# ------------------------------------------------------------
|
||||||
|
|
||||||
|
_WIKILINK_RE = re.compile(r"\[\[(?:[^\|\]]+\|)?([a-zA-Z0-9_\-#:. ]+)\]\]")
|
||||||
|
|
||||||
|
def _extract_wikilinks(text: str) -> List[str]:
|
||||||
|
ids: List[str] = []
|
||||||
|
for m in _WIKILINK_RE.finditer(text or ""):
|
||||||
|
ids.append(m.group(1).strip())
|
||||||
|
return ids
|
||||||
|
|
||||||
|
# ------------------------------------------------------------
|
||||||
|
# Utility
|
||||||
|
# ------------------------------------------------------------
|
||||||
|
|
||||||
|
def _mk_edge_id(kind: str, s: str, t: str, scope: str, rule_id: Optional[str] = None) -> str:
|
||||||
|
base = f"{kind}:{s}->{t}#{scope}"
|
||||||
|
if rule_id:
|
||||||
|
base += f"|{rule_id}"
|
||||||
|
try:
|
||||||
|
import hashlib
|
||||||
|
return hashlib.blake2s(base.encode("utf-8"), digest_size=12).hexdigest()
|
||||||
|
except Exception: # pragma: no cover
|
||||||
|
return base
|
||||||
|
|
||||||
|
def _dedupe(edges: List[Dict]) -> List[Dict]:
|
||||||
|
seen: Set[Tuple[str,str,str,str]] = set()
|
||||||
|
out: List[Dict] = []
|
||||||
|
for e in edges:
|
||||||
|
s = str(e.get("source_id") or "")
|
||||||
|
t = str(e.get("target_id") or "")
|
||||||
|
rel = str(e.get("relation") or e.get("kind") or "edge")
|
||||||
|
rule = str(e.get("rule_id") or "")
|
||||||
|
key = (s, t, rel, rule)
|
||||||
|
if key in seen:
|
||||||
|
continue
|
||||||
|
seen.add(key)
|
||||||
|
out.append(e)
|
||||||
|
return out
|
||||||
|
|
||||||
|
def _first(v: dict, *keys, default=None):
|
||||||
|
for k in keys:
|
||||||
|
if k in v and v[k] is not None:
|
||||||
|
return v[k]
|
||||||
|
return default
|
||||||
|
|
||||||
|
# ------------------------------------------------------------
|
||||||
|
# Hauptfunktion
|
||||||
|
# ------------------------------------------------------------
|
||||||
|
|
||||||
def build_edges_for_note(
|
def build_edges_for_note(
|
||||||
note_id: str,
|
note_id: str,
|
||||||
chunk_payloads: List[Dict],
|
chunk_payloads: List[Dict],
|
||||||
note_level_refs: List[str] | None,
|
note_level_refs: Optional[List[str]] = None,
|
||||||
*,
|
*,
|
||||||
include_note_scope_refs: bool = False,
|
include_note_scope_refs: bool = False,
|
||||||
) -> List[Dict]:
|
) -> List[Dict]:
|
||||||
edges: List[Dict] = []
|
edges: List[Dict] = []
|
||||||
|
chunks = list(chunk_payloads or [])
|
||||||
|
# Notiztyp aus erstem Chunk ableiten (kompatibel zu existierenden Payloads)
|
||||||
|
note_type = (chunks[0].get("type") if chunks else None) or (chunks[0].get("note_type") if chunks else None)
|
||||||
|
|
||||||
# Chunk-Scope: belongs_to / prev / next / references
|
# --- Strukturkanten ------------------------------------------------------
|
||||||
for ch in chunk_payloads:
|
|
||||||
cid = ch["id"]
|
|
||||||
owner = ch.get("note_id") or note_id
|
|
||||||
# belongs_to
|
# belongs_to
|
||||||
edges.append({
|
for ch in chunks:
|
||||||
|
cid = _first(ch, "id", "chunk_id")
|
||||||
|
if not cid:
|
||||||
|
continue
|
||||||
|
owner = ch.get("note_id") or note_id
|
||||||
|
e = {
|
||||||
|
"edge_id": _mk_edge_id("belongs_to", cid, note_id, "chunk", "structure:belongs_to:v1"),
|
||||||
"kind": "belongs_to",
|
"kind": "belongs_to",
|
||||||
|
"relation": "belongs_to",
|
||||||
|
"scope": "chunk",
|
||||||
"source_id": cid,
|
"source_id": cid,
|
||||||
"target_id": note_id,
|
"target_id": note_id,
|
||||||
"scope": "chunk",
|
"note_id": owner, # v1-Kompat
|
||||||
"note_id": owner,
|
# v2
|
||||||
})
|
"src_note_id": owner,
|
||||||
# Nachbarn
|
"src_chunk_id": cid,
|
||||||
|
"dst_note_id": note_id,
|
||||||
|
"provenance": "rule",
|
||||||
|
"rule_id": "structure:belongs_to:v1",
|
||||||
|
"confidence": 1.0,
|
||||||
|
}
|
||||||
|
edges.append(e)
|
||||||
|
|
||||||
|
# next/prev — bevorzugt neighbors.prev/next; sonst via ord/chunk_index
|
||||||
|
# Map der Chunks nach Index
|
||||||
|
ordered = list(chunks)
|
||||||
|
def _idx(c):
|
||||||
|
return _first(c, "chunk_index", "ord", default=0)
|
||||||
|
ordered.sort(key=_idx)
|
||||||
|
|
||||||
|
for i, ch in enumerate(ordered):
|
||||||
|
cid = _first(ch, "id", "chunk_id")
|
||||||
|
if not cid:
|
||||||
|
continue
|
||||||
|
owner = ch.get("note_id") or note_id
|
||||||
nb = ch.get("neighbors") or {}
|
nb = ch.get("neighbors") or {}
|
||||||
prev_id = nb.get("prev")
|
prev_id = nb.get("prev")
|
||||||
next_id = nb.get("next")
|
next_id = nb.get("next")
|
||||||
|
# Fallback-Reihenfolge
|
||||||
|
if prev_id is None and i > 0:
|
||||||
|
prev_id = _first(ordered[i-1], "id", "chunk_id")
|
||||||
|
if next_id is None and i+1 < len(ordered):
|
||||||
|
next_id = _first(ordered[i+1], "id", "chunk_id")
|
||||||
|
|
||||||
if prev_id:
|
if prev_id:
|
||||||
edges.append({
|
edges.append({
|
||||||
"kind": "prev",
|
"edge_id": _mk_edge_id("prev", cid, prev_id, "chunk", "structure:order:v1"),
|
||||||
"source_id": cid,
|
"kind": "prev", "relation": "prev", "scope": "chunk",
|
||||||
"target_id": prev_id,
|
"source_id": cid, "target_id": prev_id, "note_id": owner,
|
||||||
"scope": "chunk",
|
"src_note_id": owner, "src_chunk_id": cid,
|
||||||
"note_id": owner,
|
"dst_note_id": owner, "dst_chunk_id": prev_id,
|
||||||
|
"provenance": "rule", "rule_id": "structure:order:v1", "confidence": 0.95,
|
||||||
})
|
})
|
||||||
edges.append({
|
edges.append({
|
||||||
"kind": "next",
|
"edge_id": _mk_edge_id("next", prev_id, cid, "chunk", "structure:order:v1"),
|
||||||
"source_id": prev_id,
|
"kind": "next", "relation": "next", "scope": "chunk",
|
||||||
"target_id": cid,
|
"source_id": prev_id, "target_id": cid, "note_id": owner,
|
||||||
"scope": "chunk",
|
"src_note_id": owner, "src_chunk_id": prev_id,
|
||||||
"note_id": owner,
|
"dst_note_id": owner, "dst_chunk_id": cid,
|
||||||
})
|
"provenance": "rule", "rule_id": "structure:order:v1", "confidence": 0.95,
|
||||||
if next_id:
|
|
||||||
edges.append({
|
|
||||||
"kind": "next",
|
|
||||||
"source_id": cid,
|
|
||||||
"target_id": next_id,
|
|
||||||
"scope": "chunk",
|
|
||||||
"note_id": owner,
|
|
||||||
})
|
|
||||||
edges.append({
|
|
||||||
"kind": "prev",
|
|
||||||
"source_id": next_id,
|
|
||||||
"target_id": cid,
|
|
||||||
"scope": "chunk",
|
|
||||||
"note_id": owner,
|
|
||||||
})
|
|
||||||
# references aus Chunk
|
|
||||||
for ref in (ch.get("references") or []):
|
|
||||||
tid = ref.get("target_id")
|
|
||||||
if not tid:
|
|
||||||
continue
|
|
||||||
edges.append({
|
|
||||||
"kind": "references",
|
|
||||||
"source_id": cid,
|
|
||||||
"target_id": tid,
|
|
||||||
"scope": "chunk",
|
|
||||||
"note_id": owner,
|
|
||||||
})
|
})
|
||||||
|
|
||||||
# Note-Scope: backlink (immer); references (optional)
|
# --- Explizite Referenzen (Chunk‑Scope) ---------------------------------
|
||||||
unique_refs = list(dict.fromkeys(note_level_refs or []))
|
explicit_refs: List[Dict] = []
|
||||||
|
for ch in chunks:
|
||||||
|
cid = _first(ch, "id", "chunk_id")
|
||||||
|
if not cid:
|
||||||
|
continue
|
||||||
|
owner = ch.get("note_id") or note_id
|
||||||
|
# 1) bevorzugt vorhandene ch["references"]
|
||||||
|
refs = ch.get("references") or []
|
||||||
|
targets = [r.get("target_id") for r in refs if isinstance(r, dict) and r.get("target_id")]
|
||||||
|
# 2) Fallback: Wikilinks aus Text
|
||||||
|
if not targets:
|
||||||
|
text = _first(ch, "window", "text", default="") or ""
|
||||||
|
targets = _extract_wikilinks(text)
|
||||||
|
for tid in targets:
|
||||||
|
if not isinstance(tid, str) or not tid.strip():
|
||||||
|
continue
|
||||||
|
e = {
|
||||||
|
"edge_id": _mk_edge_id("references", cid, tid, "chunk"),
|
||||||
|
"kind": "references",
|
||||||
|
"relation": "references",
|
||||||
|
"scope": "chunk",
|
||||||
|
"source_id": cid,
|
||||||
|
"target_id": tid,
|
||||||
|
"note_id": owner,
|
||||||
|
# v2
|
||||||
|
"src_note_id": owner,
|
||||||
|
"src_chunk_id": cid,
|
||||||
|
"dst_note_id": tid,
|
||||||
|
"provenance": "explicit",
|
||||||
|
"rule_id": "",
|
||||||
|
"confidence": 1.0,
|
||||||
|
}
|
||||||
|
edges.append(e)
|
||||||
|
explicit_refs.append(e)
|
||||||
|
|
||||||
|
# --- Note‑Scope: references (optional) + backlink (immer) ----------------
|
||||||
|
unique_refs = []
|
||||||
|
if note_level_refs:
|
||||||
|
seen = set()
|
||||||
|
for tid in note_level_refs:
|
||||||
|
if isinstance(tid, str) and tid.strip() and tid not in seen:
|
||||||
|
unique_refs.append(tid); seen.add(tid)
|
||||||
|
|
||||||
for tid in unique_refs:
|
for tid in unique_refs:
|
||||||
if include_note_scope_refs:
|
if include_note_scope_refs:
|
||||||
edges.append({
|
edges.append({
|
||||||
"kind": "references",
|
"edge_id": _mk_edge_id("references", note_id, tid, "note"),
|
||||||
"source_id": note_id,
|
"kind": "references", "relation": "references", "scope": "note",
|
||||||
"target_id": tid,
|
"source_id": note_id, "target_id": tid, "note_id": note_id,
|
||||||
"scope": "note",
|
"src_note_id": note_id, "dst_note_id": tid,
|
||||||
"note_id": note_id,
|
"provenance": "explicit", "rule_id": "", "confidence": 1.0,
|
||||||
})
|
})
|
||||||
edges.append({
|
edges.append({
|
||||||
"kind": "backlink",
|
"edge_id": _mk_edge_id("backlink", tid, note_id, "note", "derived:backlink:v1"),
|
||||||
"source_id": tid,
|
"kind": "backlink", "relation": "backlink", "scope": "note",
|
||||||
"target_id": note_id,
|
"source_id": tid, "target_id": note_id, "note_id": note_id,
|
||||||
"scope": "note",
|
"src_note_id": tid, "dst_note_id": note_id,
|
||||||
"note_id": note_id,
|
"provenance": "rule", "rule_id": "derived:backlink:v1", "confidence": 0.9,
|
||||||
})
|
})
|
||||||
|
|
||||||
# Dedupe
|
# --- Type‑Defaults je expliziter Referenz --------------------------------
|
||||||
dedup = {}
|
defaults = [d for d in _edge_defaults_for(note_type) if d and d != "references"]
|
||||||
for e in edges:
|
if defaults:
|
||||||
k = (e["kind"], e["source_id"], e["target_id"], e.get("scope", ""))
|
for e in explicit_refs + ([ ] if not include_note_scope_refs else []):
|
||||||
dedup[k] = e
|
# wir nutzen die bereits erzeugten explicit‑Edges als Vorlage
|
||||||
return list(dedup.values())
|
src = e["source_id"]; tgt = e["target_id"]
|
||||||
|
scope = e.get("scope", "chunk")
|
||||||
|
s_note = e.get("src_note_id") or note_id
|
||||||
|
s_chunk = e.get("src_chunk_id")
|
||||||
|
t_note = e.get("dst_note_id") or tgt
|
||||||
|
for rel in defaults:
|
||||||
|
rule_id = f"type_default:{(note_type or 'unknown')}:{rel}:v1"
|
||||||
|
edges.append({
|
||||||
|
"edge_id": _mk_edge_id(rel, src, tgt, scope, rule_id),
|
||||||
|
"kind": rel, "relation": rel, "scope": scope,
|
||||||
|
"source_id": src, "target_id": tgt, "note_id": s_note,
|
||||||
|
"src_note_id": s_note, "src_chunk_id": s_chunk,
|
||||||
|
"dst_note_id": t_note,
|
||||||
|
"provenance": "rule", "rule_id": rule_id, "confidence": 0.7,
|
||||||
|
})
|
||||||
|
|
||||||
|
# --- Dedupe & Return -----------------------------------------------------
|
||||||
|
return _dedupe(edges)
|
||||||
@@ -0,0 +1,94 @@
|
|||||||
|
# app/core/edges_writer.py
|
||||||
|
from __future__ import annotations
|
||||||
|
import hashlib
|
||||||
|
from typing import Dict, List, Iterable, Tuple
|
||||||
|
|
||||||
|
try:
|
||||||
|
# Dein Modul mit der Schemadefinition und der Builder-Funktion
|
||||||
|
from app.core.edges import build_edges_for_note # noqa: F401
|
||||||
|
except Exception as e:
|
||||||
|
raise RuntimeError("Konnte app.core.edges nicht importieren. "
|
||||||
|
"Bitte sicherstellen, dass app/core/edges.py vorhanden ist.") from e
|
||||||
|
|
||||||
|
def _edge_uid(kind: str, source_id: str, target_id: str, scope: str) -> str:
|
||||||
|
"""
|
||||||
|
Deterministische, kurze ID für eine Edge.
|
||||||
|
Kollisionen sind praktisch ausgeschlossen (BLAKE2s über den Kanonischen Schlüssel).
|
||||||
|
"""
|
||||||
|
key = f"{kind}|{source_id}|{target_id}|{scope}"
|
||||||
|
return hashlib.blake2s(key.encode("utf-8"), digest_size=12).hexdigest()
|
||||||
|
|
||||||
|
def ensure_edges_collection(qdrant_client, collection: str) -> None:
|
||||||
|
"""
|
||||||
|
Legt die Edge-Collection an, falls sie nicht existiert.
|
||||||
|
Minimal: 1D-Vector (Dummy), Cosine. Payload-only-Collections sind je nach Qdrant-Version heikel.
|
||||||
|
"""
|
||||||
|
from qdrant_client.http import models as qm
|
||||||
|
|
||||||
|
existing = [c.name for c in qdrant_client.get_collections().collections]
|
||||||
|
if collection in existing:
|
||||||
|
return
|
||||||
|
|
||||||
|
qdrant_client.recreate_collection(
|
||||||
|
collection_name=collection,
|
||||||
|
vectors_config=qm.VectorParams(size=1, distance=qm.Distance.COSINE),
|
||||||
|
on_disk_payload=True,
|
||||||
|
)
|
||||||
|
|
||||||
|
def edges_from_note(
|
||||||
|
note_id: str,
|
||||||
|
chunk_payloads: List[Dict],
|
||||||
|
note_level_refs: Iterable[str] | None,
|
||||||
|
*,
|
||||||
|
include_note_scope_refs: bool = False,
|
||||||
|
) -> List[Dict]:
|
||||||
|
"""
|
||||||
|
Ruft deinen Edge-Builder auf und gibt die (deduplizierten) Edge-Payloads zurück.
|
||||||
|
Keine Schemaänderung – exakt das aus app/core/edges.py.
|
||||||
|
"""
|
||||||
|
return build_edges_for_note(
|
||||||
|
note_id=note_id,
|
||||||
|
chunk_payloads=chunk_payloads,
|
||||||
|
note_level_refs=list(note_level_refs or []),
|
||||||
|
include_note_scope_refs=include_note_scope_refs,
|
||||||
|
)
|
||||||
|
|
||||||
|
def upsert_edges(
|
||||||
|
qdrant_client,
|
||||||
|
collection: str,
|
||||||
|
edge_payloads: List[Dict],
|
||||||
|
) -> Tuple[int, int]:
|
||||||
|
"""
|
||||||
|
Schreibt Edges als Points in Qdrant.
|
||||||
|
- id: deterministisch aus (kind, source_id, target_id, scope)
|
||||||
|
- vector: [0.0] Dummy
|
||||||
|
- payload: Edge-Dict (unverändert, siehe Schema in app/core/edges.py)
|
||||||
|
Gibt (anzahl_points, anzahl_unique_keys) zurück.
|
||||||
|
"""
|
||||||
|
from qdrant_client.models import PointStruct
|
||||||
|
|
||||||
|
if not edge_payloads:
|
||||||
|
return 0, 0
|
||||||
|
|
||||||
|
points = []
|
||||||
|
seen = set()
|
||||||
|
for e in edge_payloads:
|
||||||
|
key = (e.get("kind"), e.get("source_id"), e.get("target_id"), e.get("scope"))
|
||||||
|
if key in seen:
|
||||||
|
continue
|
||||||
|
seen.add(key)
|
||||||
|
eid = _edge_uid(*key)
|
||||||
|
points.append(
|
||||||
|
PointStruct(
|
||||||
|
id=eid,
|
||||||
|
vector=[0.0],
|
||||||
|
payload=e,
|
||||||
|
)
|
||||||
|
)
|
||||||
|
|
||||||
|
if not points:
|
||||||
|
return 0, 0
|
||||||
|
|
||||||
|
ensure_edges_collection(qdrant_client, collection)
|
||||||
|
qdrant_client.upsert(collection_name=collection, points=points)
|
||||||
|
return len(points), len(seen)
|
||||||
@@ -0,0 +1,103 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
Datei: app/core/env_vars.py
|
||||||
|
Version: 1.1.0 (2025-11-08)
|
||||||
|
|
||||||
|
Zweck
|
||||||
|
Einheitliche Auflösung von ENV-Variablen (Prefix, Qdrant, Embeddings, Hashing)
|
||||||
|
mit Abwärtskompatibilität.
|
||||||
|
|
||||||
|
Grundsatz
|
||||||
|
- Für Qdrant-Funktionen ist 'COLLECTION_PREFIX' der Primärschlüssel.
|
||||||
|
- 'MINDNET_PREFIX' bleibt für App-/UI-/Exporter-Kontexte nutzbar.
|
||||||
|
- Fallbacks sorgen dafür, dass ältere Umgebungen weiter funktionieren.
|
||||||
|
|
||||||
|
Wichtig
|
||||||
|
- Lädt optional eine .env (wenn python-dotenv verfügbar ist).
|
||||||
|
- Überschreibt keine bereits gesetzten OS-Variablen (override=False).
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import os
|
||||||
|
from typing import Optional, Dict
|
||||||
|
|
||||||
|
# Optional: .env automatisch laden (ohne Hard-Fail, falls nicht vorhanden)
|
||||||
|
try:
|
||||||
|
from dotenv import load_dotenv, find_dotenv # type: ignore
|
||||||
|
_p = find_dotenv()
|
||||||
|
if _p:
|
||||||
|
load_dotenv(_p, override=False)
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
|
||||||
|
# -------- Prefix-Auflösung --------
|
||||||
|
|
||||||
|
def get_collection_prefix(cli_override: Optional[str] = None) -> str:
|
||||||
|
"""
|
||||||
|
Für Qdrant-relevante Funktionen:
|
||||||
|
1) CLI-Override (--prefix)
|
||||||
|
2) ENV COLLECTION_PREFIX
|
||||||
|
3) ENV MINDNET_PREFIX (Fallback)
|
||||||
|
4) 'mindnet' (Default)
|
||||||
|
"""
|
||||||
|
if cli_override and str(cli_override).strip():
|
||||||
|
return str(cli_override).strip()
|
||||||
|
return (
|
||||||
|
os.getenv("COLLECTION_PREFIX")
|
||||||
|
or os.getenv("MINDNET_PREFIX")
|
||||||
|
or "mindnet"
|
||||||
|
)
|
||||||
|
|
||||||
|
def get_mindnet_prefix(cli_override: Optional[str] = None) -> str:
|
||||||
|
"""
|
||||||
|
Für App-/UI-/Exporter-Kontexte:
|
||||||
|
1) CLI-Override (--prefix)
|
||||||
|
2) ENV MINDNET_PREFIX
|
||||||
|
3) ENV COLLECTION_PREFIX (Fallback)
|
||||||
|
4) 'mindnet'
|
||||||
|
"""
|
||||||
|
if cli_override and str(cli_override).strip():
|
||||||
|
return str(cli_override).strip()
|
||||||
|
return (
|
||||||
|
os.getenv("MINDNET_PREFIX")
|
||||||
|
or os.getenv("COLLECTION_PREFIX")
|
||||||
|
or "mindnet"
|
||||||
|
)
|
||||||
|
|
||||||
|
def get_prefix(cli_override: Optional[str] = None, target: str = "qdrant") -> str:
|
||||||
|
"""
|
||||||
|
Universelle Hülle (abwärtskompatibel):
|
||||||
|
target='qdrant' -> get_collection_prefix
|
||||||
|
target='app' -> get_mindnet_prefix
|
||||||
|
"""
|
||||||
|
if target.lower() == "app":
|
||||||
|
return get_mindnet_prefix(cli_override)
|
||||||
|
return get_collection_prefix(cli_override)
|
||||||
|
|
||||||
|
# -------- Qdrant / Embeddings / Hashing --------
|
||||||
|
|
||||||
|
def get_qdrant_url(default: str = "http://127.0.0.1:6333") -> str:
|
||||||
|
return os.getenv("QDRANT_URL", default)
|
||||||
|
|
||||||
|
def get_qdrant_api_key(default: str = "") -> str:
|
||||||
|
return os.getenv("QDRANT_API_KEY", default)
|
||||||
|
|
||||||
|
def get_vector_dim(default: int = 384) -> int:
|
||||||
|
try:
|
||||||
|
return int(os.getenv("VECTOR_DIM", str(default)))
|
||||||
|
except Exception:
|
||||||
|
return default
|
||||||
|
|
||||||
|
def get_embed_url(default: Optional[str] = None) -> Optional[str]:
|
||||||
|
return os.getenv("EMBED_URL", default)
|
||||||
|
|
||||||
|
def get_hash_env() -> Dict[str, str]:
|
||||||
|
"""
|
||||||
|
Liefert die Hash-Konfiguration (nur Aggregation; die Auswertung bleibt in den Skripten).
|
||||||
|
"""
|
||||||
|
return {
|
||||||
|
"MINDNET_HASH_COMPARE": os.getenv("MINDNET_HASH_COMPARE", ""),
|
||||||
|
"MINDNET_HASH_SOURCE": os.getenv("MINDNET_HASH_SOURCE", ""),
|
||||||
|
"MINDNET_HASH_NORMALIZE": os.getenv("MINDNET_HASH_NORMALIZE", ""),
|
||||||
|
}
|
||||||
@@ -0,0 +1,256 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
app/core/graph_adapter.py — Adjazenzaufbau & Subgraph-Expansion
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Baut aus Qdrant-Edges (Collection: *_edges) einen leichten In-Memory-Graph.
|
||||||
|
|
||||||
|
Kompatibilität:
|
||||||
|
- WP-04a: Liefert Scores (edge_bonus, centrality).
|
||||||
|
- WP-04b: Liefert jetzt auch Struktur-Daten für Erklärungen (Reverse-Lookup).
|
||||||
|
|
||||||
|
Version:
|
||||||
|
0.4.0 (Update für WP-04b: Reverse Adjacency für Explainability)
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
from typing import Dict, List, Optional, DefaultDict, Any
|
||||||
|
from collections import defaultdict
|
||||||
|
|
||||||
|
from qdrant_client import QdrantClient
|
||||||
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
|
from app.core.qdrant import collection_names
|
||||||
|
|
||||||
|
# Legacy-Import Fallback
|
||||||
|
try: # pragma: no cover
|
||||||
|
from app.core.qdrant_points import get_edges_for_sources # type: ignore
|
||||||
|
except Exception: # pragma: no cover
|
||||||
|
get_edges_for_sources = None # type: ignore
|
||||||
|
|
||||||
|
|
||||||
|
# Basisgewichte je Edge-Typ (WP-04a Config)
|
||||||
|
EDGE_BASE_WEIGHTS: Dict[str, float] = {
|
||||||
|
# Struktur
|
||||||
|
"belongs_to": 0.10,
|
||||||
|
"next": 0.06,
|
||||||
|
"prev": 0.06,
|
||||||
|
"backlink": 0.04,
|
||||||
|
"references_at": 0.08,
|
||||||
|
|
||||||
|
# Wissen
|
||||||
|
"references": 0.20,
|
||||||
|
"depends_on": 0.18,
|
||||||
|
"related_to": 0.15,
|
||||||
|
"similar_to": 0.12,
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
def _edge_weight(pl: Dict) -> float:
|
||||||
|
"""Berechnet das effektive Edge-Gewicht aus kind + confidence."""
|
||||||
|
kind = pl.get("kind", "edge")
|
||||||
|
base = EDGE_BASE_WEIGHTS.get(kind, 0.0)
|
||||||
|
|
||||||
|
conf_raw = pl.get("confidence", None)
|
||||||
|
try:
|
||||||
|
conf = float(conf_raw) if conf_raw is not None else None
|
||||||
|
except Exception:
|
||||||
|
conf = None
|
||||||
|
|
||||||
|
if conf is None:
|
||||||
|
return base
|
||||||
|
|
||||||
|
if conf < 0.0: conf = 0.0
|
||||||
|
if conf > 1.0: conf = 1.0
|
||||||
|
|
||||||
|
return base * conf
|
||||||
|
|
||||||
|
|
||||||
|
def _fetch_edges(
|
||||||
|
client: QdrantClient,
|
||||||
|
prefix: str,
|
||||||
|
seeds: List[str],
|
||||||
|
edge_types: Optional[List[str]] = None,
|
||||||
|
limit: int = 2048,
|
||||||
|
) -> List[Dict]:
|
||||||
|
"""
|
||||||
|
Holt Edges direkt aus der *_edges Collection.
|
||||||
|
Filter: source_id IN seeds OR target_id IN seeds OR note_id IN seeds
|
||||||
|
"""
|
||||||
|
if not seeds or limit <= 0:
|
||||||
|
return []
|
||||||
|
|
||||||
|
_, _, edges_col = collection_names(prefix)
|
||||||
|
|
||||||
|
seed_conditions = []
|
||||||
|
for field in ("source_id", "target_id", "note_id"):
|
||||||
|
for s in seeds:
|
||||||
|
seed_conditions.append(
|
||||||
|
rest.FieldCondition(key=field, match=rest.MatchValue(value=str(s)))
|
||||||
|
)
|
||||||
|
seeds_filter = rest.Filter(should=seed_conditions) if seed_conditions else None
|
||||||
|
|
||||||
|
type_filter = None
|
||||||
|
if edge_types:
|
||||||
|
type_conds = [
|
||||||
|
rest.FieldCondition(key="kind", match=rest.MatchValue(value=str(k)))
|
||||||
|
for k in edge_types
|
||||||
|
]
|
||||||
|
type_filter = rest.Filter(should=type_conds)
|
||||||
|
|
||||||
|
must = []
|
||||||
|
if seeds_filter: must.append(seeds_filter)
|
||||||
|
if type_filter: must.append(type_filter)
|
||||||
|
|
||||||
|
flt = rest.Filter(must=must) if must else None
|
||||||
|
|
||||||
|
pts, _ = client.scroll(
|
||||||
|
collection_name=edges_col,
|
||||||
|
scroll_filter=flt,
|
||||||
|
limit=limit,
|
||||||
|
with_payload=True,
|
||||||
|
with_vectors=False,
|
||||||
|
)
|
||||||
|
|
||||||
|
out: List[Dict] = []
|
||||||
|
for p in pts or []:
|
||||||
|
pl = dict(p.payload or {})
|
||||||
|
if pl:
|
||||||
|
out.append(pl)
|
||||||
|
return out
|
||||||
|
|
||||||
|
|
||||||
|
class Subgraph:
|
||||||
|
"""Leichtgewichtiger Subgraph mit Adjazenzlisten & Kennzahlen."""
|
||||||
|
|
||||||
|
def __init__(self) -> None:
|
||||||
|
# Forward: source -> [targets]
|
||||||
|
self.adj: DefaultDict[str, List[Dict]] = defaultdict(list)
|
||||||
|
# Reverse: target -> [sources] (Neu für WP-04b Explanation)
|
||||||
|
self.reverse_adj: DefaultDict[str, List[Dict]] = defaultdict(list)
|
||||||
|
|
||||||
|
self.in_degree: DefaultDict[str, int] = defaultdict(int)
|
||||||
|
self.out_degree: DefaultDict[str, int] = defaultdict(int)
|
||||||
|
|
||||||
|
def add_edge(self, e: Dict) -> None:
|
||||||
|
"""
|
||||||
|
Fügt eine Kante hinzu und aktualisiert Forward/Reverse Indizes.
|
||||||
|
e muss enthalten: source, target, kind, weight.
|
||||||
|
"""
|
||||||
|
src = e.get("source")
|
||||||
|
tgt = e.get("target")
|
||||||
|
kind = e.get("kind")
|
||||||
|
weight = e.get("weight", EDGE_BASE_WEIGHTS.get(kind, 0.0))
|
||||||
|
owner = e.get("note_id")
|
||||||
|
|
||||||
|
if not src or not tgt:
|
||||||
|
return
|
||||||
|
|
||||||
|
# 1. Primäre Adjazenz (Forward)
|
||||||
|
edge_data = {"target": tgt, "kind": kind, "weight": weight}
|
||||||
|
self.adj[src].append(edge_data)
|
||||||
|
self.out_degree[src] += 1
|
||||||
|
self.in_degree[tgt] += 1
|
||||||
|
|
||||||
|
# 2. Reverse Adjazenz (Neu für Explanation)
|
||||||
|
# Wir speichern, woher die Kante kam.
|
||||||
|
rev_data = {"source": src, "kind": kind, "weight": weight}
|
||||||
|
self.reverse_adj[tgt].append(rev_data)
|
||||||
|
|
||||||
|
# 3. Kontext-Note Handling (Forward & Reverse)
|
||||||
|
# Wenn eine Kante "im Kontext einer Note" (owner) definiert ist,
|
||||||
|
# schreiben wir sie der Note gut, damit der Retriever Scores auf Note-Ebene findet.
|
||||||
|
if owner and owner != src:
|
||||||
|
# Forward: Owner -> Target
|
||||||
|
self.adj[owner].append(edge_data)
|
||||||
|
self.out_degree[owner] += 1
|
||||||
|
|
||||||
|
# Reverse: Target wird vom Owner referenziert (indirekt)
|
||||||
|
if owner != tgt:
|
||||||
|
rev_owner_data = {"source": owner, "kind": kind, "weight": weight, "via_context": True}
|
||||||
|
self.reverse_adj[tgt].append(rev_owner_data)
|
||||||
|
self.in_degree[owner] += 1 # Leichter Centrality Boost für den Owner
|
||||||
|
|
||||||
|
def aggregate_edge_bonus(self, node_id: str) -> float:
|
||||||
|
"""Summe der ausgehenden Kantengewichte (Hub-Score)."""
|
||||||
|
return sum(edge["weight"] for edge in self.adj.get(node_id, []))
|
||||||
|
|
||||||
|
def edge_bonus(self, node_id: str) -> float:
|
||||||
|
"""API für Retriever (WP-04a Kompatibilität)."""
|
||||||
|
return self.aggregate_edge_bonus(node_id)
|
||||||
|
|
||||||
|
def centrality_bonus(self, node_id: str) -> float:
|
||||||
|
"""Log-gedämpfte Zentralität (In-Degree)."""
|
||||||
|
import math
|
||||||
|
indeg = self.in_degree.get(node_id, 0)
|
||||||
|
if indeg <= 0:
|
||||||
|
return 0.0
|
||||||
|
return min(math.log1p(indeg) / 10.0, 0.15)
|
||||||
|
|
||||||
|
# --- WP-04b Explanation Helpers ---
|
||||||
|
|
||||||
|
def get_outgoing_edges(self, node_id: str) -> List[Dict[str, Any]]:
|
||||||
|
"""Liefert Liste aller Ziele, auf die dieser Knoten zeigt."""
|
||||||
|
return self.adj.get(node_id, [])
|
||||||
|
|
||||||
|
def get_incoming_edges(self, node_id: str) -> List[Dict[str, Any]]:
|
||||||
|
"""Liefert Liste aller Quellen, die auf diesen Knoten zeigen."""
|
||||||
|
return self.reverse_adj.get(node_id, [])
|
||||||
|
|
||||||
|
|
||||||
|
def expand(
|
||||||
|
client: QdrantClient,
|
||||||
|
prefix: str,
|
||||||
|
seeds: List[str],
|
||||||
|
depth: int = 1,
|
||||||
|
edge_types: Optional[List[str]] = None,
|
||||||
|
) -> Subgraph:
|
||||||
|
"""
|
||||||
|
Expandiert ab Seeds entlang von Edges (bis `depth`).
|
||||||
|
"""
|
||||||
|
sg = Subgraph()
|
||||||
|
frontier = set(seeds)
|
||||||
|
visited = set()
|
||||||
|
|
||||||
|
max_depth = max(depth, 0)
|
||||||
|
|
||||||
|
for _ in range(max_depth):
|
||||||
|
if not frontier:
|
||||||
|
break
|
||||||
|
|
||||||
|
edges_payloads = _fetch_edges(
|
||||||
|
client=client,
|
||||||
|
prefix=prefix,
|
||||||
|
seeds=list(frontier),
|
||||||
|
edge_types=edge_types,
|
||||||
|
limit=2048,
|
||||||
|
)
|
||||||
|
|
||||||
|
next_frontier = set()
|
||||||
|
for pl in edges_payloads:
|
||||||
|
src = pl.get("source_id")
|
||||||
|
tgt = pl.get("target_id")
|
||||||
|
|
||||||
|
# Skip invalid edges
|
||||||
|
if not src or not tgt:
|
||||||
|
continue
|
||||||
|
|
||||||
|
e = {
|
||||||
|
"source": src,
|
||||||
|
"target": tgt,
|
||||||
|
"kind": pl.get("kind", "edge"),
|
||||||
|
"weight": _edge_weight(pl),
|
||||||
|
"note_id": pl.get("note_id"),
|
||||||
|
}
|
||||||
|
sg.add_edge(e)
|
||||||
|
|
||||||
|
# Nur weitersuchen, wenn Target noch nicht besucht
|
||||||
|
if tgt and tgt not in visited:
|
||||||
|
next_frontier.add(tgt)
|
||||||
|
|
||||||
|
visited |= frontier
|
||||||
|
frontier = next_frontier - visited
|
||||||
|
|
||||||
|
return sg
|
||||||
+193
-196
@@ -1,229 +1,226 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
# Modul: app/core/note_payload.py
|
"""
|
||||||
# Version: 1.7.0
|
Modul: app/core/note_payload.py
|
||||||
# Datum: 2025-09-09
|
Version: 2.0.0
|
||||||
|
|
||||||
|
Zweck
|
||||||
|
-----
|
||||||
|
Erzeugt ein robustes Note-Payload. Werte wie `retriever_weight`, `chunk_profile`
|
||||||
|
und `edge_defaults` werden in folgender Priorität bestimmt:
|
||||||
|
1) Frontmatter (Note)
|
||||||
|
2) Typ-Registry (config/types.yaml: types.<type>.*)
|
||||||
|
3) Registry-Defaults (config/types.yaml: defaults.*)
|
||||||
|
4) ENV-Defaults (MINDNET_DEFAULT_RETRIEVER_WEIGHT / MINDNET_DEFAULT_CHUNK_PROFILE)
|
||||||
|
"""
|
||||||
|
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|
||||||
import argparse
|
from typing import Any, Dict, Tuple, Optional
|
||||||
import hashlib
|
|
||||||
import json
|
|
||||||
import os
|
import os
|
||||||
from typing import Any, Dict, Optional, Tuple
|
import json
|
||||||
|
import pathlib
|
||||||
|
|
||||||
try:
|
try:
|
||||||
from app.core.parser import read_markdown, extract_wikilinks, FRONTMATTER_RE
|
import yaml # type: ignore
|
||||||
except Exception: # pragma: no cover
|
|
||||||
from .parser import read_markdown, extract_wikilinks, FRONTMATTER_RE # type: ignore
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------------
|
|
||||||
# Helpers
|
|
||||||
# ---------------------------------------------------------------------------
|
|
||||||
|
|
||||||
def _canon_frontmatter(fm: Dict[str, Any]) -> str:
|
|
||||||
return json.dumps(fm or {}, ensure_ascii=False, separators=(",", ":"), sort_keys=True)
|
|
||||||
|
|
||||||
def _normalize_body(body: str, mode: str) -> str:
|
|
||||||
if mode == "none":
|
|
||||||
return body if body is not None else ""
|
|
||||||
text = (body or "").replace("\r\n", "\n").replace("\r", "\n")
|
|
||||||
text = "\n".join(line.rstrip() for line in text.split("\n"))
|
|
||||||
return text
|
|
||||||
|
|
||||||
def _resolve_hash_mode(explicit: Optional[str]) -> str:
|
|
||||||
if explicit:
|
|
||||||
val = explicit.strip().lower()
|
|
||||||
else:
|
|
||||||
val = (os.environ.get("MINDNET_HASH_MODE")
|
|
||||||
or os.environ.get("MINDNET_HASH_COMPARE")
|
|
||||||
or "body").strip().lower()
|
|
||||||
if val in ("full", "fulltext", "body+frontmatter", "bodyplusfrontmatter"):
|
|
||||||
return "full"
|
|
||||||
if val in ("frontmatter", "fm"):
|
|
||||||
return "frontmatter"
|
|
||||||
return "body"
|
|
||||||
|
|
||||||
def _read_raw_body_from_file(file_path: Optional[str]) -> Tuple[str, Dict[str, Any]]:
|
|
||||||
if not file_path or not os.path.exists(file_path):
|
|
||||||
return "", {}
|
|
||||||
try:
|
|
||||||
with open(file_path, "r", encoding="utf-8") as f:
|
|
||||||
raw = f.read()
|
|
||||||
except Exception:
|
except Exception:
|
||||||
return "", {}
|
yaml = None
|
||||||
m = FRONTMATTER_RE.match(raw)
|
|
||||||
fm = {}
|
|
||||||
if m:
|
# ---------------------------------------------------------------------------
|
||||||
fm_txt = m.group(1)
|
# Helper
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
|
def _as_dict(x) -> Dict[str, Any]:
|
||||||
|
"""Versucht, ein ParsedMarkdown-ähnliches Objekt in ein Dict zu überführen."""
|
||||||
|
if isinstance(x, dict):
|
||||||
|
return dict(x)
|
||||||
|
|
||||||
|
out: Dict[str, Any] = {}
|
||||||
|
# bekannte Attribute übernehmen, sofern vorhanden
|
||||||
|
for attr in (
|
||||||
|
"frontmatter",
|
||||||
|
"body",
|
||||||
|
"id",
|
||||||
|
"note_id",
|
||||||
|
"title",
|
||||||
|
"path",
|
||||||
|
"tags",
|
||||||
|
"type",
|
||||||
|
"created",
|
||||||
|
"modified",
|
||||||
|
"date",
|
||||||
|
):
|
||||||
|
if hasattr(x, attr):
|
||||||
|
val = getattr(x, attr)
|
||||||
|
if val is not None:
|
||||||
|
out[attr] = val
|
||||||
|
|
||||||
|
# Fallback: wenn immer noch leer, raw speichern
|
||||||
|
if not out:
|
||||||
|
out["raw"] = str(x)
|
||||||
|
|
||||||
|
return out
|
||||||
|
|
||||||
|
|
||||||
|
def _pick_args(*args, **kwargs) -> Tuple[Optional[str], Optional[dict]]:
|
||||||
|
"""Extrahiert optionale Zusatzargumente wie path und types_cfg."""
|
||||||
|
path = kwargs.get("path") or (args[0] if args else None)
|
||||||
|
types_cfg = kwargs.get("types_cfg") or kwargs.get("types") or None
|
||||||
|
return path, types_cfg
|
||||||
|
|
||||||
|
|
||||||
|
def _env_float(name: str, default: float) -> float:
|
||||||
|
"""Liest einen Float-Wert aus der Umgebung, mit robustem Fallback."""
|
||||||
try:
|
try:
|
||||||
import yaml # lazy
|
return float(os.environ.get(name, default))
|
||||||
fm = yaml.safe_load(fm_txt) or {}
|
|
||||||
except Exception:
|
except Exception:
|
||||||
fm = {}
|
return default
|
||||||
body = raw[m.end():]
|
|
||||||
else:
|
|
||||||
body = raw
|
|
||||||
return body, fm
|
|
||||||
|
|
||||||
def _sha256(s: str) -> str:
|
|
||||||
h = hashlib.sha256()
|
|
||||||
h.update(s.encode("utf-8"))
|
|
||||||
return h.hexdigest()
|
|
||||||
|
|
||||||
def _hash_for(mode: str, *, body: str, fm: Dict[str, Any], normalize: str) -> str:
|
def _ensure_list(x) -> list:
|
||||||
body_n = _normalize_body(body or "", normalize)
|
"""Garantiert eine String-Liste."""
|
||||||
fm_s = _canon_frontmatter(fm or {})
|
if x is None:
|
||||||
if mode == "frontmatter":
|
return []
|
||||||
return _sha256(fm_s)
|
if isinstance(x, list):
|
||||||
if mode == "full":
|
return [str(i) for i in x]
|
||||||
return _sha256(body_n + "\n--FM--\n" + fm_s)
|
if isinstance(x, (set, tuple)):
|
||||||
# default: body
|
return [str(i) for i in x]
|
||||||
return _sha256(body_n)
|
return [str(x)]
|
||||||
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------------
|
# ---------------------------------------------------------------------------
|
||||||
# Kernfunktion
|
# Type-Registry laden
|
||||||
# ---------------------------------------------------------------------------
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
def make_note_payload(
|
def _load_types_config(explicit_cfg: Optional[dict] = None) -> dict:
|
||||||
parsed: Any,
|
"""Lädt die Type-Registry aus YAML/JSON oder nutzt ein explizit übergebenes Dict."""
|
||||||
vault_root: Optional[str] = None,
|
if explicit_cfg and isinstance(explicit_cfg, dict):
|
||||||
*,
|
return explicit_cfg
|
||||||
hash_mode: Optional[str] = None,
|
|
||||||
hash_normalize: Optional[str] = None,
|
path = os.getenv("MINDNET_TYPES_FILE") or "./config/types.yaml"
|
||||||
hash_source: Optional[str] = None,
|
if not os.path.isfile(path) or yaml is None:
|
||||||
file_path: Optional[str] = None,
|
return {}
|
||||||
) -> Dict[str, Any]:
|
|
||||||
|
try:
|
||||||
|
with open(path, "r", encoding="utf-8") as f:
|
||||||
|
data = yaml.safe_load(f) or {}
|
||||||
|
return data if isinstance(data, dict) else {}
|
||||||
|
except Exception:
|
||||||
|
return {}
|
||||||
|
|
||||||
|
|
||||||
|
def _cfg_for_type(note_type: str, reg: dict) -> dict:
|
||||||
|
"""Liefert die Konfiguration für einen konkreten Notiztyp aus der Registry."""
|
||||||
|
if not isinstance(reg, dict):
|
||||||
|
return {}
|
||||||
|
types = reg.get("types") if isinstance(reg.get("types"), dict) else reg
|
||||||
|
return types.get(note_type, {}) if isinstance(types, dict) else {}
|
||||||
|
|
||||||
|
|
||||||
|
def _cfg_defaults(reg: dict) -> dict:
|
||||||
|
"""Liefert den Default-Block aus der Registry (defaults/global)."""
|
||||||
|
if not isinstance(reg, dict):
|
||||||
|
return {}
|
||||||
|
for key in ("defaults", "default", "global"):
|
||||||
|
v = reg.get(key)
|
||||||
|
if isinstance(v, dict):
|
||||||
|
return v
|
||||||
|
return {}
|
||||||
|
|
||||||
|
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
# Haupt-API
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
|
def make_note_payload(note: Any, *args, **kwargs) -> Dict[str, Any]:
|
||||||
"""
|
"""
|
||||||
Liefert den Note-Payload inkl. Mehrfach-Hashes.
|
Baut das Note-Payload für mindnet_notes auf.
|
||||||
- Es werden IMMER die drei Hashes für (body|frontmatter|full) unter
|
|
||||||
'parsed:canonical' erzeugt (Schlüssel: z. B. 'body:parsed:canonical').
|
Erwartete Felder im Payload:
|
||||||
- Zusätzlich werden – falls die aktuelle Konfig (source/normalize) davon
|
- note_id: stabile ID aus Frontmatter (id) oder Note-Objekt
|
||||||
abweicht – die drei Hashes unter den entsprechenden Schlüsseln erzeugt,
|
- title: Titel der Notiz
|
||||||
z. B. 'frontmatter:raw:none'.
|
- type: Notiztyp (z. B. concept, project, journal, ...)
|
||||||
- 'hash_fulltext' und 'hash_signature' repräsentieren den *aktuellen* Modus.
|
- path: Pfad im Vault
|
||||||
|
- retriever_weight: effektives Gewicht für den Retriever
|
||||||
|
- chunk_profile: Profil für Chunking (short|medium|long|default|...)
|
||||||
|
- edge_defaults: Liste von Kanten-Typen, die als Defaults gelten
|
||||||
"""
|
"""
|
||||||
# dict oder Objekt akzeptieren
|
n = _as_dict(note)
|
||||||
if isinstance(parsed, dict):
|
path_arg, types_cfg_explicit = _pick_args(*args, **kwargs)
|
||||||
fm = parsed.get("frontmatter") or {}
|
reg = _load_types_config(types_cfg_explicit)
|
||||||
body_parsed = parsed.get("body") or ""
|
|
||||||
path = parsed.get("path") or ""
|
|
||||||
else:
|
|
||||||
fm = getattr(parsed, "frontmatter", {}) or {}
|
|
||||||
body_parsed = getattr(parsed, "body", "") or ""
|
|
||||||
path = getattr(parsed, "path", "") or ""
|
|
||||||
|
|
||||||
# Zielpfad relativieren
|
fm = n.get("frontmatter") or {}
|
||||||
rel_path = path
|
fm_type = fm.get("type") or n.get("type") or "concept"
|
||||||
|
note_type = str(fm_type)
|
||||||
|
|
||||||
|
cfg_type = _cfg_for_type(note_type, reg)
|
||||||
|
cfg_def = _cfg_defaults(reg)
|
||||||
|
|
||||||
|
# --- retriever_weight: Frontmatter > Typ-Config > Registry-Defaults > ENV ---
|
||||||
|
default_rw = _env_float("MINDNET_DEFAULT_RETRIEVER_WEIGHT", 1.0)
|
||||||
|
retriever_weight = fm.get("retriever_weight")
|
||||||
|
if retriever_weight is None:
|
||||||
|
retriever_weight = cfg_type.get(
|
||||||
|
"retriever_weight",
|
||||||
|
cfg_def.get("retriever_weight", default_rw),
|
||||||
|
)
|
||||||
try:
|
try:
|
||||||
if vault_root:
|
retriever_weight = float(retriever_weight)
|
||||||
rel = os.path.relpath(path, vault_root)
|
|
||||||
rel = rel.replace("\\", "/").lstrip("/")
|
|
||||||
rel_path = rel
|
|
||||||
except Exception:
|
except Exception:
|
||||||
pass
|
retriever_weight = default_rw
|
||||||
|
|
||||||
# Konfiguration auflösen
|
# --- chunk_profile: Frontmatter > Typ-Config > Registry-Defaults > ENV ---
|
||||||
mode_resolved = _resolve_hash_mode(hash_mode) # body|frontmatter|full
|
chunk_profile = fm.get("chunk_profile")
|
||||||
src = (hash_source or os.environ.get("MINDNET_HASH_SOURCE", "parsed")).strip().lower() # parsed|raw
|
if chunk_profile is None:
|
||||||
norm = (hash_normalize or os.environ.get("MINDNET_HASH_NORMALIZE", "canonical")).strip().lower() # canonical|none
|
chunk_profile = cfg_type.get(
|
||||||
|
"chunk_profile",
|
||||||
# Body-Quelle laden
|
cfg_def.get(
|
||||||
raw_body, raw_fm = ("", {})
|
"chunk_profile",
|
||||||
if src == "raw":
|
os.environ.get("MINDNET_DEFAULT_CHUNK_PROFILE", "medium"),
|
||||||
raw_body, raw_fm = _read_raw_body_from_file(file_path or path)
|
),
|
||||||
if isinstance(raw_fm, dict) and raw_fm:
|
|
||||||
merged_fm = dict(fm)
|
|
||||||
for k, v in raw_fm.items():
|
|
||||||
merged_fm.setdefault(k, v)
|
|
||||||
fm = merged_fm
|
|
||||||
body_for_hash = raw_body
|
|
||||||
else:
|
|
||||||
body_for_hash = body_parsed
|
|
||||||
|
|
||||||
# --- 1) Standard-Tripel (parsed:canonical) immer erzeugen ---
|
|
||||||
std_src = "parsed"
|
|
||||||
std_norm = "canonical"
|
|
||||||
std_hashes: Dict[str, str] = {}
|
|
||||||
for m in ("body", "frontmatter", "full"):
|
|
||||||
std_hashes[f"{m}:{std_src}:{std_norm}"] = _hash_for(
|
|
||||||
m, body=body_parsed, fm=fm, normalize=std_norm
|
|
||||||
)
|
)
|
||||||
|
if not isinstance(chunk_profile, str):
|
||||||
|
chunk_profile = "medium"
|
||||||
|
|
||||||
# Convenience-Felder (für Tools)
|
# --- edge_defaults: Frontmatter > Typ-Config > Registry-Defaults ---
|
||||||
hash_body = std_hashes["body:parsed:canonical"]
|
edge_defaults = fm.get("edge_defaults")
|
||||||
hash_frontmatter = std_hashes["frontmatter:parsed:canonical"]
|
if edge_defaults is None:
|
||||||
hash_full = std_hashes["full:parsed:canonical"]
|
edge_defaults = cfg_type.get(
|
||||||
|
"edge_defaults",
|
||||||
# --- 2) Hashes für die *aktuelle* Konfiguration (falls abweichend) ---
|
cfg_def.get("edge_defaults", []),
|
||||||
cur_hashes: Dict[str, str] = {}
|
|
||||||
if not (src == std_src and norm == std_norm):
|
|
||||||
for m in ("body", "frontmatter", "full"):
|
|
||||||
cur_hashes[f"{m}:{src}:{norm}"] = _hash_for(
|
|
||||||
m, body=body_for_hash, fm=fm, normalize=norm
|
|
||||||
)
|
)
|
||||||
|
edge_defaults = _ensure_list(edge_defaults)
|
||||||
|
|
||||||
# --- 3) Aktueller Modus für Backwards-Compat Felder ---
|
# --- Basis-Metadaten (IDs, Titel, Pfad) ---
|
||||||
current_hash = _hash_for(mode_resolved, body=body_for_hash, fm=fm, normalize=norm)
|
note_id = n.get("note_id") or n.get("id") or fm.get("id")
|
||||||
hash_signature = f"{mode_resolved}:{src}:{norm}:{current_hash}"
|
title = n.get("title") or fm.get("title") or ""
|
||||||
|
path = n.get("path") or path_arg
|
||||||
# Wikilinks (Note-Ebene)
|
if isinstance(path, pathlib.Path):
|
||||||
refs = list(dict.fromkeys(extract_wikilinks(body_parsed))) if body_parsed else []
|
path = str(path)
|
||||||
|
|
||||||
payload: Dict[str, Any] = {
|
payload: Dict[str, Any] = {
|
||||||
"note_id": fm.get("id") or fm.get("note_id"),
|
"note_id": note_id,
|
||||||
"title": fm.get("title"),
|
"title": title,
|
||||||
"type": fm.get("type"),
|
"type": note_type,
|
||||||
"status": fm.get("status"),
|
"path": path or "",
|
||||||
"created": fm.get("created"),
|
"retriever_weight": retriever_weight,
|
||||||
"updated": fm.get("updated"),
|
"chunk_profile": chunk_profile,
|
||||||
"path": rel_path or fm.get("path"),
|
"edge_defaults": edge_defaults,
|
||||||
"tags": fm.get("tags"),
|
|
||||||
# Volltext für verlustfreien Export
|
|
||||||
"fulltext": body_parsed,
|
|
||||||
# Backwards-Compat:
|
|
||||||
"hash_fulltext": current_hash,
|
|
||||||
"hash_signature": hash_signature,
|
|
||||||
# Option C: Mehrfach-Hashes
|
|
||||||
"hashes": {**std_hashes, **cur_hashes},
|
|
||||||
"hash_body": hash_body,
|
|
||||||
"hash_frontmatter": hash_frontmatter,
|
|
||||||
"hash_full": hash_full,
|
|
||||||
# Fallback-Refs
|
|
||||||
"references": refs,
|
|
||||||
}
|
}
|
||||||
|
|
||||||
for k in ("area", "project", "source", "lang", "slug", "aliases"):
|
# Tags / Keywords übernehmen
|
||||||
if k in fm:
|
tags = fm.get("tags") or fm.get("keywords") or n.get("tags")
|
||||||
payload[k] = fm[k]
|
if tags:
|
||||||
|
payload["tags"] = _ensure_list(tags)
|
||||||
|
|
||||||
|
# Zeitliche Metadaten (sofern vorhanden)
|
||||||
|
for k in ("created", "modified", "date"):
|
||||||
|
v = fm.get(k) or n.get(k)
|
||||||
|
if v:
|
||||||
|
payload[k] = str(v)
|
||||||
|
|
||||||
|
# JSON-Roundtrip zur harten Validierung (ASCII beibehalten)
|
||||||
|
json.loads(json.dumps(payload, ensure_ascii=False))
|
||||||
|
|
||||||
return payload
|
return payload
|
||||||
|
|
||||||
# ---------------------------------------------------------------------------
|
|
||||||
# CLI – Sichtprüfung
|
|
||||||
# ---------------------------------------------------------------------------
|
|
||||||
|
|
||||||
def _cli() -> None:
|
|
||||||
ap = argparse.ArgumentParser(description="Note-Payload aus Markdown erzeugen und anzeigen")
|
|
||||||
ap.add_argument("--from-file", dest="src", required=True)
|
|
||||||
ap.add_argument("--vault-root", dest="vault_root", default=None)
|
|
||||||
ap.add_argument("--print", dest="do_print", action="store_true")
|
|
||||||
ap.add_argument("--hash-mode", choices=["body", "frontmatter", "full"], default=None)
|
|
||||||
ap.add_argument("--hash-normalize", choices=["canonical", "none"], default=None)
|
|
||||||
ap.add_argument("--hash-source", choices=["parsed", "raw"], default=None)
|
|
||||||
args = ap.parse_args()
|
|
||||||
|
|
||||||
parsed = read_markdown(args.src)
|
|
||||||
payload = make_note_payload(
|
|
||||||
parsed,
|
|
||||||
vault_root=args.vault_root,
|
|
||||||
hash_mode=args.hash_mode,
|
|
||||||
hash_normalize=args.hash_normalize,
|
|
||||||
hash_source=args.hash_source,
|
|
||||||
file_path=args.src,
|
|
||||||
)
|
|
||||||
if args.do_print:
|
|
||||||
print(json.dumps(payload, ensure_ascii=False, indent=2))
|
|
||||||
|
|
||||||
if __name__ == "__main__": # pragma: no cover
|
|
||||||
_cli()
|
|
||||||
+147
-92
@@ -1,124 +1,179 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
Name: app/core/qdrant.py
|
app/core/qdrant.py
|
||||||
Version: v1.4.0 (2025-09-09)
|
Version: 2.2.0 (2025-11-11)
|
||||||
|
|
||||||
Kurzbeschreibung:
|
Aufgabe
|
||||||
Qdrant-Client & Collection-Setup für mindnet.
|
-------
|
||||||
- Stellt sicher, dass {prefix}_notes / {prefix}_chunks / {prefix}_edges existieren.
|
- Zentraler Qdrant-Zugriff (Client, Config)
|
||||||
- Edges-Collection nutzt 1D Dummy-Vektor.
|
- Collection-Anlage (notes/chunks/edges)
|
||||||
- NEW: ensure_payload_indexes(...) legt sinnvolle Payload-Indizes an.
|
- **Payload-Indizes sicherstellen** (idempotent)
|
||||||
|
|
||||||
Aufruf:
|
Hinweis
|
||||||
from app.core.qdrant import QdrantConfig, get_client, ensure_collections, ensure_payload_indexes
|
-------
|
||||||
|
Diese Datei ist als Drop-in-Ersatz gedacht, falls in deinem Projekt noch keine
|
||||||
|
robuste ensure_payload_indexes()-Implementierung vorliegt. Die Signaturen
|
||||||
|
bleiben kompatibel zu scripts.import_markdown und scripts.reset_qdrant.
|
||||||
|
|
||||||
|
API-Notizen
|
||||||
|
-----------
|
||||||
|
- Payload-Indizes werden mit `create_payload_index` angelegt.
|
||||||
|
- Typen stammen aus `qdrant_client.http.models.PayloadSchemaType`:
|
||||||
|
KEYWORD | TEXT | INTEGER | FLOAT | BOOL | GEO | DATETIME
|
||||||
|
- Für häufige Filterfelder (note_id, kind, scope, type, tags, ...) legen wir
|
||||||
|
Indizes an. Das ist laut Qdrant-Doku Best Practice für performante Filter.
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
|
||||||
import os
|
import os
|
||||||
from dataclasses import dataclass
|
from dataclasses import dataclass
|
||||||
from typing import Optional, Tuple
|
from typing import Optional, Tuple, Dict, List
|
||||||
|
|
||||||
from qdrant_client import QdrantClient
|
from qdrant_client import QdrantClient
|
||||||
from qdrant_client.http import models as rest
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
|
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
# Konfiguration
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
@dataclass
|
@dataclass
|
||||||
class QdrantConfig:
|
class QdrantConfig:
|
||||||
url: str
|
host: Optional[str] = None
|
||||||
api_key: Optional[str]
|
port: Optional[int] = None
|
||||||
prefix: str
|
url: Optional[str] = None
|
||||||
dim: int
|
api_key: Optional[str] = None
|
||||||
|
prefix: str = "mindnet"
|
||||||
|
dim: int = 384
|
||||||
|
distance: str = "Cosine" # Cosine | Dot | Euclid
|
||||||
|
on_disk_payload: bool = True
|
||||||
|
|
||||||
@staticmethod
|
@classmethod
|
||||||
def from_env() -> "QdrantConfig":
|
def from_env(cls) -> "QdrantConfig":
|
||||||
url = os.getenv("QDRANT_URL")
|
# Entweder URL ODER Host/Port, API-Key optional
|
||||||
if not url:
|
url = os.getenv("QDRANT_URL") or None
|
||||||
host = os.getenv("QDRANT_HOST", "127.0.0.1")
|
host = os.getenv("QDRANT_HOST") or None
|
||||||
port = int(os.getenv("QDRANT_PORT", "6333"))
|
port = os.getenv("QDRANT_PORT")
|
||||||
url = f"http://{host}:{port}"
|
port = int(port) if port else None
|
||||||
api_key = os.getenv("QDRANT_API_KEY") or None
|
api_key = os.getenv("QDRANT_API_KEY") or None
|
||||||
prefix = os.getenv("COLLECTION_PREFIX", "mindnet")
|
prefix = os.getenv("COLLECTION_PREFIX") or "mindnet"
|
||||||
dim = int(os.getenv("VECTOR_DIM", "384"))
|
dim = int(os.getenv("VECTOR_DIM") or 384)
|
||||||
return QdrantConfig(url=url, api_key=api_key, prefix=prefix, dim=dim)
|
distance = os.getenv("DISTANCE", "Cosine")
|
||||||
|
on_disk_payload = (os.getenv("ON_DISK_PAYLOAD", "true").lower() == "true")
|
||||||
|
return cls(
|
||||||
|
host=host, port=port, url=url, api_key=api_key,
|
||||||
|
prefix=prefix, dim=dim, distance=distance, on_disk_payload=on_disk_payload
|
||||||
|
)
|
||||||
|
|
||||||
|
|
||||||
def get_client(cfg: QdrantConfig) -> QdrantClient:
|
def get_client(cfg: QdrantConfig) -> QdrantClient:
|
||||||
return QdrantClient(url=cfg.url, api_key=cfg.api_key)
|
# QdrantClient akzeptiert entweder url=... oder host/port
|
||||||
|
if cfg.url:
|
||||||
|
return QdrantClient(url=cfg.url, api_key=cfg.api_key, timeout=60.0)
|
||||||
|
return QdrantClient(host=cfg.host or "127.0.0.1", port=cfg.port or 6333, api_key=cfg.api_key, timeout=60.0)
|
||||||
|
|
||||||
|
|
||||||
def _create_notes(client: QdrantClient, name: str, dim: int) -> None:
|
# ---------------------------------------------------------------------------
|
||||||
if not client.collection_exists(name):
|
# Collections
|
||||||
client.create_collection(
|
# ---------------------------------------------------------------------------
|
||||||
collection_name=name,
|
|
||||||
vectors_config=rest.VectorParams(size=dim, distance=rest.Distance.COSINE),
|
|
||||||
)
|
|
||||||
|
|
||||||
def _create_chunks(client: QdrantClient, name: str, dim: int) -> None:
|
|
||||||
if not client.collection_exists(name):
|
|
||||||
client.create_collection(
|
|
||||||
collection_name=name,
|
|
||||||
vectors_config=rest.VectorParams(size=dim, distance=rest.Distance.COSINE),
|
|
||||||
)
|
|
||||||
|
|
||||||
def _create_edges(client: QdrantClient, name: str) -> None:
|
|
||||||
if not client.collection_exists(name):
|
|
||||||
client.create_collection(
|
|
||||||
collection_name=name,
|
|
||||||
vectors_config=rest.VectorParams(size=1, distance=rest.Distance.DOT), # 1D-Dummy
|
|
||||||
)
|
|
||||||
|
|
||||||
|
|
||||||
def ensure_collections(client: QdrantClient, prefix: str, dim: int, destructive: bool = False) -> None:
|
|
||||||
notes = f"{prefix}_notes"
|
|
||||||
chunks = f"{prefix}_chunks"
|
|
||||||
edges = f"{prefix}_edges"
|
|
||||||
|
|
||||||
_create_notes(client, notes, dim)
|
|
||||||
_create_chunks(client, chunks, dim)
|
|
||||||
|
|
||||||
if client.collection_exists(edges):
|
|
||||||
try:
|
|
||||||
info = client.get_collection(edges)
|
|
||||||
vectors_cfg = getattr(getattr(info.result, "config", None), "params", None)
|
|
||||||
has_vectors = getattr(vectors_cfg, "vectors", None) is not None
|
|
||||||
except Exception:
|
|
||||||
has_vectors = True
|
|
||||||
if not has_vectors:
|
|
||||||
if destructive:
|
|
||||||
client.delete_collection(edges)
|
|
||||||
_create_edges(client, edges)
|
|
||||||
else:
|
|
||||||
print(f"[ensure_collections] WARN: '{edges}' ohne VectorConfig; destructive=False.", flush=True)
|
|
||||||
else:
|
|
||||||
_create_edges(client, edges)
|
|
||||||
|
|
||||||
|
|
||||||
def collection_names(prefix: str) -> Tuple[str, str, str]:
|
def collection_names(prefix: str) -> Tuple[str, str, str]:
|
||||||
return (f"{prefix}_notes", f"{prefix}_chunks", f"{prefix}_edges")
|
return f"{prefix}_notes", f"{prefix}_chunks", f"{prefix}_edges"
|
||||||
|
|
||||||
|
|
||||||
# -------------------------------
|
def _vector_params(dim: int, distance: str) -> rest.VectorParams:
|
||||||
# NEW: Payload-Indexing
|
# Distance: "Cosine" | "Dot" | "Euclid"
|
||||||
# -------------------------------
|
dist = getattr(rest.Distance, distance.capitalize(), rest.Distance.COSINE)
|
||||||
|
return rest.VectorParams(size=dim, distance=dist)
|
||||||
|
|
||||||
def _safe_create_index(client: QdrantClient, col: str, field: str, schema: rest.PayloadSchemaType):
|
|
||||||
try:
|
def ensure_collections(client: QdrantClient, prefix: str, dim: int) -> None:
|
||||||
client.create_payload_index(
|
"""Legt mindnet_notes, mindnet_chunks, mindnet_edges an (falls nicht vorhanden)."""
|
||||||
collection_name=col,
|
notes, chunks, edges = collection_names(prefix)
|
||||||
field_name=field,
|
|
||||||
field_schema=schema,
|
# notes
|
||||||
|
if not client.collection_exists(notes):
|
||||||
|
client.create_collection(
|
||||||
|
collection_name=notes,
|
||||||
|
vectors_config=_vector_params(dim, os.getenv("DISTANCE", "Cosine")),
|
||||||
|
on_disk_payload=True,
|
||||||
)
|
)
|
||||||
except Exception:
|
# chunks
|
||||||
# bereits vorhanden oder nicht unterstütztes Schema → ignorieren
|
if not client.collection_exists(chunks):
|
||||||
pass
|
client.create_collection(
|
||||||
|
collection_name=chunks,
|
||||||
|
vectors_config=_vector_params(dim, os.getenv("DISTANCE", "Cosine")),
|
||||||
|
on_disk_payload=True,
|
||||||
|
)
|
||||||
|
# edges (Dummy-Vektor, Filter via Payload)
|
||||||
|
if not client.collection_exists(edges):
|
||||||
|
client.create_collection(
|
||||||
|
collection_name=edges,
|
||||||
|
vectors_config=_vector_params(1, "Dot"),
|
||||||
|
on_disk_payload=True,
|
||||||
|
)
|
||||||
|
|
||||||
|
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
# Payload-Indizes
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
|
def _ensure_index(client: QdrantClient, collection: str, field: str, schema: rest.PayloadSchemaType) -> None:
|
||||||
|
"""Idempotentes Anlegen eines Payload-Indexes für ein Feld."""
|
||||||
|
try:
|
||||||
|
client.create_payload_index(collection_name=collection, field_name=field, field_schema=schema, wait=True)
|
||||||
|
except Exception as e:
|
||||||
|
# Fehler ignorieren, falls Index bereits existiert oder Server "already indexed" meldet.
|
||||||
|
# Für Debugging ggf. Logging ergänzen.
|
||||||
|
_ = e
|
||||||
|
|
||||||
|
|
||||||
def ensure_payload_indexes(client: QdrantClient, prefix: str) -> None:
|
def ensure_payload_indexes(client: QdrantClient, prefix: str) -> None:
|
||||||
|
"""
|
||||||
|
Stellt sicher, dass alle benötigten Payload-Indizes existieren.
|
||||||
|
- notes: note_id(KEYWORD), type(KEYWORD), title(TEXT), updated(INTEGER), tags(KEYWORD)
|
||||||
|
- chunks: note_id(KEYWORD), chunk_id(KEYWORD), index(INTEGER), type(KEYWORD), tags(KEYWORD)
|
||||||
|
- edges: note_id(KEYWORD), kind(KEYWORD), scope(KEYWORD), source_id(KEYWORD), target_id(KEYWORD), chunk_id(KEYWORD)
|
||||||
|
"""
|
||||||
notes, chunks, edges = collection_names(prefix)
|
notes, chunks, edges = collection_names(prefix)
|
||||||
# Notes
|
|
||||||
_safe_create_index(client, notes, "note_id", rest.PayloadSchemaType.KEYWORD)
|
# NOTES
|
||||||
# Chunks
|
for field, schema in [
|
||||||
_safe_create_index(client, chunks, "note_id", rest.PayloadSchemaType.KEYWORD)
|
("note_id", rest.PayloadSchemaType.KEYWORD),
|
||||||
_safe_create_index(client, chunks, "chunk_index", rest.PayloadSchemaType.INTEGER)
|
("type", rest.PayloadSchemaType.KEYWORD),
|
||||||
# Edges
|
("title", rest.PayloadSchemaType.TEXT),
|
||||||
for f in ("kind", "scope", "source_id", "target_id", "note_id"):
|
("updated", rest.PayloadSchemaType.INTEGER),
|
||||||
_safe_create_index(client, edges, f, rest.PayloadSchemaType.KEYWORD)
|
("tags", rest.PayloadSchemaType.KEYWORD),
|
||||||
|
]:
|
||||||
|
_ensure_index(client, notes, field, schema)
|
||||||
|
|
||||||
|
# CHUNKS
|
||||||
|
for field, schema in [
|
||||||
|
("note_id", rest.PayloadSchemaType.KEYWORD),
|
||||||
|
("chunk_id", rest.PayloadSchemaType.KEYWORD),
|
||||||
|
("index", rest.PayloadSchemaType.INTEGER),
|
||||||
|
("type", rest.PayloadSchemaType.KEYWORD),
|
||||||
|
("tags", rest.PayloadSchemaType.KEYWORD),
|
||||||
|
]:
|
||||||
|
_ensure_index(client, chunks, field, schema)
|
||||||
|
|
||||||
|
# EDGES
|
||||||
|
for field, schema in [
|
||||||
|
("note_id", rest.PayloadSchemaType.KEYWORD),
|
||||||
|
("kind", rest.PayloadSchemaType.KEYWORD),
|
||||||
|
("scope", rest.PayloadSchemaType.KEYWORD),
|
||||||
|
("source_id", rest.PayloadSchemaType.KEYWORD),
|
||||||
|
("target_id", rest.PayloadSchemaType.KEYWORD),
|
||||||
|
("chunk_id", rest.PayloadSchemaType.KEYWORD),
|
||||||
|
]:
|
||||||
|
_ensure_index(client, edges, field, schema)
|
||||||
|
|
||||||
|
|
||||||
|
__all__ = [
|
||||||
|
"QdrantConfig",
|
||||||
|
"get_client",
|
||||||
|
"ensure_collections",
|
||||||
|
"ensure_payload_indexes",
|
||||||
|
"collection_names",
|
||||||
|
]
|
||||||
+233
-69
@@ -1,55 +1,38 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
app/core/qdrant_points.py
|
app/core/qdrant_points.py - robust points helpers for Qdrant
|
||||||
|
|
||||||
Zweck
|
- Single source of truth for building PointStruct for notes/chunks/edges
|
||||||
- Gemeinsame Helfer zum Erzeugen von Qdrant-Points für Notes, Chunks und Edges.
|
- Backward-compatible payloads for edges
|
||||||
- Abwärtskompatibel zu altem Edge-Payload-Schema aus edges.py:
|
- Handles both Single-Vector and Named-Vector collections
|
||||||
- alt: {'edge_type','src_id','dst_id', ...}
|
- Deterministic overrides via ENV to avoid auto-detection traps:
|
||||||
- neu: {'kind','source_id','target_id', ...}
|
* NOTES_VECTOR_NAME, CHUNKS_VECTOR_NAME, EDGES_VECTOR_NAME
|
||||||
|
* MINDNET_VECTOR_NAME (fallback)
|
||||||
|
> Set to a concrete name (e.g. "text") to force Named-Vector with that name
|
||||||
|
> Set to "__single__" (or "single") to force Single-Vector
|
||||||
|
|
||||||
Version
|
Version: 1.5.0 (2025-11-08)
|
||||||
- 1.3 (2025-09-08)
|
|
||||||
|
|
||||||
Änderungen (ggü. 1.2)
|
|
||||||
- points_for_edges() akzeptiert jetzt beide Edge-Schemata.
|
|
||||||
- Normalisiert alte Felder auf 'kind' / 'source_id' / 'target_id' und schreibt eine
|
|
||||||
stabile 'edge_id' zurück in die Payload.
|
|
||||||
- Verhindert, dass mehrere Edges dieselbe Point-ID erhalten (Root Cause deiner 1-Edge-Sammlung).
|
|
||||||
|
|
||||||
Aufruf / Verwendung
|
|
||||||
- Wird von Import-/Backfill-Skripten via:
|
|
||||||
from app.core.qdrant_points import points_for_note, points_for_chunks, points_for_edges, upsert_batch
|
|
||||||
eingebunden. Keine CLI.
|
|
||||||
|
|
||||||
Hinweise
|
|
||||||
- Edges bekommen absichtlich einen 1D-Dummy-Vektor [0.0], damit Qdrant das Objekt akzeptiert.
|
|
||||||
- Die Point-IDs werden deterministisch aus stabilen Strings (UUIDv5) abgeleitet.
|
|
||||||
"""
|
"""
|
||||||
|
|
||||||
from __future__ import annotations
|
from __future__ import annotations
|
||||||
|
import os
|
||||||
import uuid
|
import uuid
|
||||||
from typing import List, Tuple
|
from typing import List, Tuple, Iterable, Optional, Dict, Any
|
||||||
from qdrant_client.http import models as rest
|
|
||||||
|
|
||||||
|
from qdrant_client.http import models as rest
|
||||||
|
from qdrant_client import QdrantClient
|
||||||
|
|
||||||
|
# --------------------- ID helpers ---------------------
|
||||||
|
|
||||||
|
def _to_uuid(stable_key: str) -> str:
|
||||||
|
return str(uuid.uuid5(uuid.NAMESPACE_URL, stable_key))
|
||||||
|
|
||||||
def _names(prefix: str) -> Tuple[str, str, str]:
|
def _names(prefix: str) -> Tuple[str, str, str]:
|
||||||
return f"{prefix}_notes", f"{prefix}_chunks", f"{prefix}_edges"
|
return f"{prefix}_notes", f"{prefix}_chunks", f"{prefix}_edges"
|
||||||
|
|
||||||
|
# --------------------- Points builders ---------------------
|
||||||
|
|
||||||
def _to_uuid(stable_key: str) -> str:
|
def points_for_note(prefix: str, note_payload: dict, note_vec: List[float] | None, dim: int) -> Tuple[str, List[rest.PointStruct]]:
|
||||||
"""Stabile UUIDv5 aus einem String-Key (deterministisch)."""
|
|
||||||
return str(uuid.uuid5(uuid.NAMESPACE_URL, stable_key))
|
|
||||||
|
|
||||||
|
|
||||||
def points_for_note(
|
|
||||||
prefix: str,
|
|
||||||
note_payload: dict,
|
|
||||||
note_vec: List[float] | None,
|
|
||||||
dim: int,
|
|
||||||
) -> Tuple[str, List[rest.PointStruct]]:
|
|
||||||
"""Notes-Collection: falls kein Note-Embedding -> Nullvektor der Länge dim."""
|
|
||||||
notes_col, _, _ = _names(prefix)
|
notes_col, _, _ = _names(prefix)
|
||||||
vector = note_vec if note_vec is not None else [0.0] * int(dim)
|
vector = note_vec if note_vec is not None else [0.0] * int(dim)
|
||||||
raw_note_id = note_payload.get("note_id") or note_payload.get("id") or "missing-note-id"
|
raw_note_id = note_payload.get("note_id") or note_payload.get("id") or "missing-note-id"
|
||||||
@@ -57,18 +40,7 @@ def points_for_note(
|
|||||||
pt = rest.PointStruct(id=point_id, vector=vector, payload=note_payload)
|
pt = rest.PointStruct(id=point_id, vector=vector, payload=note_payload)
|
||||||
return notes_col, [pt]
|
return notes_col, [pt]
|
||||||
|
|
||||||
|
def points_for_chunks(prefix: str, chunk_payloads: List[dict], vectors: List[List[float]]) -> Tuple[str, List[rest.PointStruct]]:
|
||||||
def points_for_chunks(
|
|
||||||
prefix: str,
|
|
||||||
chunk_payloads: List[dict],
|
|
||||||
vectors: List[List[float]],
|
|
||||||
) -> Tuple[str, List[rest.PointStruct]]:
|
|
||||||
"""
|
|
||||||
Chunks-Collection: erwartet pro Chunk einen Vektor.
|
|
||||||
Robustheit:
|
|
||||||
- Fehlt 'chunk_id', nutze 'id', sonst baue '${note_id}#${i}' (1-basiert).
|
|
||||||
- Schreibe die abgeleitete ID zurück in die Payload (pl['chunk_id']).
|
|
||||||
"""
|
|
||||||
_, chunks_col, _ = _names(prefix)
|
_, chunks_col, _ = _names(prefix)
|
||||||
points: List[rest.PointStruct] = []
|
points: List[rest.PointStruct] = []
|
||||||
for i, (pl, vec) in enumerate(zip(chunk_payloads, vectors), start=1):
|
for i, (pl, vec) in enumerate(zip(chunk_payloads, vectors), start=1):
|
||||||
@@ -81,22 +53,12 @@ def points_for_chunks(
|
|||||||
points.append(rest.PointStruct(id=point_id, vector=vec, payload=pl))
|
points.append(rest.PointStruct(id=point_id, vector=vec, payload=pl))
|
||||||
return chunks_col, points
|
return chunks_col, points
|
||||||
|
|
||||||
|
|
||||||
def _normalize_edge_payload(pl: dict) -> dict:
|
def _normalize_edge_payload(pl: dict) -> dict:
|
||||||
"""
|
|
||||||
Sorgt für kompatible Feldnamen.
|
|
||||||
akzeptiert:
|
|
||||||
- neu: kind, source_id, target_id, seq?
|
|
||||||
- alt: edge_type, src_id, dst_id, order?/index?
|
|
||||||
schreibt zurück: kind, source_id, target_id, seq?
|
|
||||||
"""
|
|
||||||
# bereits neu?
|
|
||||||
kind = pl.get("kind") or pl.get("edge_type") or "edge"
|
kind = pl.get("kind") or pl.get("edge_type") or "edge"
|
||||||
source_id = pl.get("source_id") or pl.get("src_id") or "unknown-src"
|
source_id = pl.get("source_id") or pl.get("src_id") or "unknown-src"
|
||||||
target_id = pl.get("target_id") or pl.get("dst_id") or "unknown-tgt"
|
target_id = pl.get("target_id") or pl.get("dst_id") or "unknown-tgt"
|
||||||
seq = pl.get("seq") or pl.get("order") or pl.get("index")
|
seq = pl.get("seq") or pl.get("order") or pl.get("index")
|
||||||
|
|
||||||
# in Payload zurückschreiben (ohne alte Felder zu entfernen → maximal kompatibel)
|
|
||||||
pl.setdefault("kind", kind)
|
pl.setdefault("kind", kind)
|
||||||
pl.setdefault("source_id", source_id)
|
pl.setdefault("source_id", source_id)
|
||||||
pl.setdefault("target_id", target_id)
|
pl.setdefault("target_id", target_id)
|
||||||
@@ -104,18 +66,11 @@ def _normalize_edge_payload(pl: dict) -> dict:
|
|||||||
pl["seq"] = seq
|
pl["seq"] = seq
|
||||||
return pl
|
return pl
|
||||||
|
|
||||||
|
|
||||||
def points_for_edges(prefix: str, edge_payloads: List[dict]) -> Tuple[str, List[rest.PointStruct]]:
|
def points_for_edges(prefix: str, edge_payloads: List[dict]) -> Tuple[str, List[rest.PointStruct]]:
|
||||||
"""
|
|
||||||
Edges-Collection mit 1D-Dummy-Vektor.
|
|
||||||
- Akzeptiert sowohl neues als auch altes Edge-Schema (siehe _normalize_edge_payload).
|
|
||||||
- Fehlt 'edge_id', wird sie stabil aus (kind, source_id, target_id, seq) konstruiert.
|
|
||||||
"""
|
|
||||||
_, _, edges_col = _names(prefix)
|
_, _, edges_col = _names(prefix)
|
||||||
points: List[rest.PointStruct] = []
|
points: List[rest.PointStruct] = []
|
||||||
for raw in edge_payloads:
|
for raw in edge_payloads:
|
||||||
pl = _normalize_edge_payload(raw)
|
pl = _normalize_edge_payload(raw)
|
||||||
|
|
||||||
edge_id = pl.get("edge_id")
|
edge_id = pl.get("edge_id")
|
||||||
if not edge_id:
|
if not edge_id:
|
||||||
kind = pl.get("kind", "edge")
|
kind = pl.get("kind", "edge")
|
||||||
@@ -124,13 +79,222 @@ def points_for_edges(prefix: str, edge_payloads: List[dict]) -> Tuple[str, List[
|
|||||||
seq = pl.get("seq") or ""
|
seq = pl.get("seq") or ""
|
||||||
edge_id = f"{kind}:{s}->{t}#{seq}"
|
edge_id = f"{kind}:{s}->{t}#{seq}"
|
||||||
pl["edge_id"] = edge_id
|
pl["edge_id"] = edge_id
|
||||||
|
|
||||||
point_id = _to_uuid(edge_id)
|
point_id = _to_uuid(edge_id)
|
||||||
points.append(rest.PointStruct(id=point_id, vector=[0.0], payload=pl))
|
points.append(rest.PointStruct(id=point_id, vector=[0.0], payload=pl))
|
||||||
return edges_col, points
|
return edges_col, points
|
||||||
|
|
||||||
|
# --------------------- Vector schema & overrides ---------------------
|
||||||
|
|
||||||
def upsert_batch(client, collection: str, points: List[rest.PointStruct]) -> None:
|
def _preferred_name(candidates: List[str]) -> str:
|
||||||
|
for k in ("text", "default", "embedding", "content"):
|
||||||
|
if k in candidates:
|
||||||
|
return k
|
||||||
|
return sorted(candidates)[0]
|
||||||
|
|
||||||
|
def _env_override_for_collection(collection: str) -> Optional[str]:
|
||||||
|
"""
|
||||||
|
Returns:
|
||||||
|
- "__single__" to force single-vector
|
||||||
|
- concrete name (str) to force named-vector with that name
|
||||||
|
- None to auto-detect
|
||||||
|
"""
|
||||||
|
base = os.getenv("MINDNET_VECTOR_NAME")
|
||||||
|
if collection.endswith("_notes"):
|
||||||
|
base = os.getenv("NOTES_VECTOR_NAME", base)
|
||||||
|
elif collection.endswith("_chunks"):
|
||||||
|
base = os.getenv("CHUNKS_VECTOR_NAME", base)
|
||||||
|
elif collection.endswith("_edges"):
|
||||||
|
base = os.getenv("EDGES_VECTOR_NAME", base)
|
||||||
|
|
||||||
|
if not base:
|
||||||
|
return None
|
||||||
|
val = base.strip()
|
||||||
|
if val.lower() in ("__single__", "single"):
|
||||||
|
return "__single__"
|
||||||
|
return val # concrete name
|
||||||
|
|
||||||
|
def _get_vector_schema(client: QdrantClient, collection_name: str) -> dict:
|
||||||
|
"""
|
||||||
|
Return {"kind": "single", "size": int} or {"kind": "named", "names": [...], "primary": str}.
|
||||||
|
"""
|
||||||
|
try:
|
||||||
|
info = client.get_collection(collection_name=collection_name)
|
||||||
|
vecs = getattr(info, "vectors", None)
|
||||||
|
# Single-vector config
|
||||||
|
if hasattr(vecs, "size") and isinstance(vecs.size, int):
|
||||||
|
return {"kind": "single", "size": vecs.size}
|
||||||
|
# Named-vectors config (dict-like in .config)
|
||||||
|
cfg = getattr(vecs, "config", None)
|
||||||
|
if isinstance(cfg, dict) and cfg:
|
||||||
|
names = list(cfg.keys())
|
||||||
|
if names:
|
||||||
|
return {"kind": "named", "names": names, "primary": _preferred_name(names)}
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
return {"kind": "single", "size": None}
|
||||||
|
|
||||||
|
def _as_named(points: List[rest.PointStruct], name: str) -> List[rest.PointStruct]:
|
||||||
|
out: List[rest.PointStruct] = []
|
||||||
|
for pt in points:
|
||||||
|
vec = getattr(pt, "vector", None)
|
||||||
|
if isinstance(vec, dict):
|
||||||
|
if name in vec:
|
||||||
|
out.append(pt)
|
||||||
|
else:
|
||||||
|
# take any existing entry; if empty dict fallback to [0.0]
|
||||||
|
fallback_vec = None
|
||||||
|
try:
|
||||||
|
fallback_vec = list(next(iter(vec.values())))
|
||||||
|
except Exception:
|
||||||
|
fallback_vec = [0.0]
|
||||||
|
out.append(rest.PointStruct(id=pt.id, vector={name: fallback_vec}, payload=pt.payload))
|
||||||
|
elif vec is not None:
|
||||||
|
out.append(rest.PointStruct(id=pt.id, vector={name: vec}, payload=pt.payload))
|
||||||
|
else:
|
||||||
|
out.append(pt)
|
||||||
|
return out
|
||||||
|
|
||||||
|
# --------------------- Qdrant ops ---------------------
|
||||||
|
|
||||||
|
def upsert_batch(client: QdrantClient, collection: str, points: List[rest.PointStruct]) -> None:
|
||||||
if not points:
|
if not points:
|
||||||
return
|
return
|
||||||
|
|
||||||
|
# 1) ENV overrides come first
|
||||||
|
override = _env_override_for_collection(collection)
|
||||||
|
if override == "__single__":
|
||||||
client.upsert(collection_name=collection, points=points, wait=True)
|
client.upsert(collection_name=collection, points=points, wait=True)
|
||||||
|
return
|
||||||
|
elif isinstance(override, str):
|
||||||
|
client.upsert(collection_name=collection, points=_as_named(points, override), wait=True)
|
||||||
|
return
|
||||||
|
|
||||||
|
# 2) Auto-detect schema
|
||||||
|
schema = _get_vector_schema(client, collection)
|
||||||
|
if schema.get("kind") == "named":
|
||||||
|
name = schema.get("primary") or _preferred_name(schema.get("names") or [])
|
||||||
|
client.upsert(collection_name=collection, points=_as_named(points, name), wait=True)
|
||||||
|
return
|
||||||
|
|
||||||
|
# 3) Fallback single-vector
|
||||||
|
client.upsert(collection_name=collection, points=points, wait=True)
|
||||||
|
|
||||||
|
# --- Optional search helpers ---
|
||||||
|
|
||||||
|
def _filter_any(field: str, values: Iterable[str]) -> rest.Filter:
|
||||||
|
return rest.Filter(should=[rest.FieldCondition(key=field, match=rest.MatchValue(value=v)) for v in values])
|
||||||
|
|
||||||
|
def _merge_filters(*filters: Optional[rest.Filter]) -> Optional[rest.Filter]:
|
||||||
|
fs = [f for f in filters if f is not None]
|
||||||
|
if not fs:
|
||||||
|
return None
|
||||||
|
if len(fs) == 1:
|
||||||
|
return fs[0]
|
||||||
|
must = []
|
||||||
|
for f in fs:
|
||||||
|
if getattr(f, "must", None):
|
||||||
|
must.extend(f.must)
|
||||||
|
if getattr(f, "should", None):
|
||||||
|
must.append(rest.Filter(should=f.should))
|
||||||
|
return rest.Filter(must=must)
|
||||||
|
|
||||||
|
def _filter_from_dict(filters: Optional[Dict[str, Any]]) -> Optional[rest.Filter]:
|
||||||
|
if not filters:
|
||||||
|
return None
|
||||||
|
parts = []
|
||||||
|
for k, v in filters.items():
|
||||||
|
if isinstance(v, (list, tuple, set)):
|
||||||
|
parts.append(_filter_any(k, [str(x) for x in v]))
|
||||||
|
else:
|
||||||
|
parts.append(rest.Filter(must=[rest.FieldCondition(key=k, match=rest.MatchValue(value=v))]))
|
||||||
|
return _merge_filters(*parts)
|
||||||
|
|
||||||
|
def search_chunks_by_vector(client: QdrantClient, prefix: str, vector: List[float], top: int = 10, filters: Optional[Dict[str, Any]] = None) -> List[Tuple[str, float, dict]]:
|
||||||
|
_, chunks_col, _ = _names(prefix)
|
||||||
|
flt = _filter_from_dict(filters)
|
||||||
|
res = client.search(collection_name=chunks_col, query_vector=vector, limit=top, with_payload=True, with_vectors=False, query_filter=flt)
|
||||||
|
out: List[Tuple[str, float, dict]] = []
|
||||||
|
for r in res:
|
||||||
|
out.append((str(r.id), float(r.score), dict(r.payload or {})))
|
||||||
|
return out
|
||||||
|
|
||||||
|
|
||||||
|
# --- Edge retrieval helper ---
|
||||||
|
|
||||||
|
def get_edges_for_sources(
|
||||||
|
client: QdrantClient,
|
||||||
|
prefix: str,
|
||||||
|
source_ids: Iterable[str],
|
||||||
|
edge_types: Optional[Iterable[str]] = None,
|
||||||
|
limit: int = 2048,
|
||||||
|
) -> List[Dict[str, Any]]:
|
||||||
|
"""Retrieve edge payloads from the <prefix>_edges collection.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
client: QdrantClient instance.
|
||||||
|
prefix: Mindnet collection prefix (e.g. "mindnet").
|
||||||
|
source_ids: Iterable of source_id values (typically chunk_ids or note_ids).
|
||||||
|
edge_types: Optional iterable of edge kinds (e.g. ["references", "depends_on"]). If None,
|
||||||
|
all kinds are returned.
|
||||||
|
limit: Maximum number of edge payloads to return.
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
A list of edge payload dicts, e.g.:
|
||||||
|
{
|
||||||
|
"note_id": "...",
|
||||||
|
"chunk_id": "...",
|
||||||
|
"kind": "references" | "depends_on" | ...,
|
||||||
|
"scope": "chunk",
|
||||||
|
"source_id": "...",
|
||||||
|
"target_id": "...",
|
||||||
|
"rule_id": "...",
|
||||||
|
"confidence": 0.7,
|
||||||
|
...
|
||||||
|
}
|
||||||
|
"""
|
||||||
|
source_ids = list(source_ids)
|
||||||
|
if not source_ids or limit <= 0:
|
||||||
|
return []
|
||||||
|
|
||||||
|
# Resolve collection name
|
||||||
|
_, _, edges_col = _names(prefix)
|
||||||
|
|
||||||
|
# Build filter: source_id IN source_ids
|
||||||
|
src_filter = _filter_any("source_id", [str(s) for s in source_ids])
|
||||||
|
|
||||||
|
# Optional: kind IN edge_types
|
||||||
|
kind_filter = None
|
||||||
|
if edge_types:
|
||||||
|
kind_filter = _filter_any("kind", [str(k) for k in edge_types])
|
||||||
|
|
||||||
|
flt = _merge_filters(src_filter, kind_filter)
|
||||||
|
|
||||||
|
out: List[Dict[str, Any]] = []
|
||||||
|
next_page = None
|
||||||
|
remaining = int(limit)
|
||||||
|
|
||||||
|
# Use paginated scroll API; we don't need vectors, only payloads.
|
||||||
|
while remaining > 0:
|
||||||
|
batch_limit = min(256, remaining)
|
||||||
|
res, next_page = client.scroll(
|
||||||
|
collection_name=edges_col,
|
||||||
|
scroll_filter=flt,
|
||||||
|
limit=batch_limit,
|
||||||
|
with_payload=True,
|
||||||
|
with_vectors=False,
|
||||||
|
offset=next_page,
|
||||||
|
)
|
||||||
|
|
||||||
|
if not res:
|
||||||
|
break
|
||||||
|
|
||||||
|
for r in res:
|
||||||
|
out.append(dict(r.payload or {}))
|
||||||
|
remaining -= 1
|
||||||
|
if remaining <= 0:
|
||||||
|
break
|
||||||
|
|
||||||
|
if next_page is None or remaining <= 0:
|
||||||
|
break
|
||||||
|
|
||||||
|
return out
|
||||||
@@ -0,0 +1,56 @@
|
|||||||
|
"""
|
||||||
|
app/core/ranking.py — Kombiniertes Scoring (WP-04)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Zusammenführen von semantischem Score (normalisiert), Edge-Bonus und
|
||||||
|
Centrality-Bonus in einen Gesamtscore für die Ergebnisreihung.
|
||||||
|
Kompatibilität:
|
||||||
|
Python 3.12+
|
||||||
|
Version:
|
||||||
|
0.1.0 (Erstanlage)
|
||||||
|
Stand:
|
||||||
|
2025-10-07
|
||||||
|
Bezug:
|
||||||
|
WP-04 Ranking-Formel (w_sem, w_edge, w_cent)
|
||||||
|
Nutzung:
|
||||||
|
from app.core.ranking import combine_scores
|
||||||
|
Änderungsverlauf:
|
||||||
|
0.1.0 (2025-10-07) – Erstanlage.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
from typing import List, Tuple, Dict
|
||||||
|
|
||||||
|
|
||||||
|
def normalize_scores(values: List[float]) -> List[float]:
|
||||||
|
"""Min-Max-Normalisierung über die Kandidatenmenge (Fallback 0.5 bei Konstanz)."""
|
||||||
|
if not values:
|
||||||
|
return values
|
||||||
|
lo, hi = min(values), max(values)
|
||||||
|
if hi - lo < 1e-9:
|
||||||
|
return [0.5] * len(values)
|
||||||
|
return [(v - lo) / (hi - lo) for v in values]
|
||||||
|
|
||||||
|
|
||||||
|
def combine_scores(
|
||||||
|
hits: List[Tuple[str, float, dict]], # (id, semantic_score, payload)
|
||||||
|
edge_bonus_map: Dict[str, float],
|
||||||
|
centrality_map: Dict[str, float],
|
||||||
|
w_sem: float = 0.70,
|
||||||
|
w_edge: float = 0.25,
|
||||||
|
w_cent: float = 0.05,
|
||||||
|
) -> List[Tuple[str, float, float, float, float]]:
|
||||||
|
"""
|
||||||
|
Liefert Liste von (point_id, total_score, edge_bonus, centrality_bonus, raw_semantic_score),
|
||||||
|
absteigend nach total_score sortiert.
|
||||||
|
"""
|
||||||
|
sem = [h[1] for h in hits]
|
||||||
|
sem_n = normalize_scores(sem)
|
||||||
|
out = []
|
||||||
|
for (pid, s, payload), s_norm in zip(hits, sem_n):
|
||||||
|
e = edge_bonus_map.get(pid, 0.0)
|
||||||
|
c = centrality_map.get(pid, 0.0)
|
||||||
|
total = w_sem * s_norm + w_edge * e + w_cent * c
|
||||||
|
out.append((pid, total, e, c, s))
|
||||||
|
out.sort(key=lambda t: t[1], reverse=True)
|
||||||
|
return out
|
||||||
@@ -0,0 +1,411 @@
|
|||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import os
|
||||||
|
import time
|
||||||
|
from functools import lru_cache
|
||||||
|
from typing import Any, Dict, List, Tuple, Iterable, Optional
|
||||||
|
|
||||||
|
from app.config import get_settings
|
||||||
|
from app.models.dto import (
|
||||||
|
QueryRequest,
|
||||||
|
QueryResponse,
|
||||||
|
QueryHit,
|
||||||
|
Explanation,
|
||||||
|
ScoreBreakdown,
|
||||||
|
Reason,
|
||||||
|
EdgeDTO
|
||||||
|
)
|
||||||
|
import app.core.qdrant as qdr
|
||||||
|
import app.core.qdrant_points as qp
|
||||||
|
import app.services.embeddings_client as ec
|
||||||
|
import app.core.graph_adapter as ga
|
||||||
|
|
||||||
|
try:
|
||||||
|
import yaml # type: ignore[import]
|
||||||
|
except Exception: # pragma: no cover - Fallback, falls PyYAML nicht installiert ist
|
||||||
|
yaml = None # type: ignore[assignment]
|
||||||
|
|
||||||
|
|
||||||
|
@lru_cache
|
||||||
|
def _get_scoring_weights() -> Tuple[float, float, float]:
|
||||||
|
"""Liefert (semantic_weight, edge_weight, centrality_weight) für den Retriever.
|
||||||
|
|
||||||
|
Priorität:
|
||||||
|
1. Werte aus config/retriever.yaml (falls vorhanden und gültig).
|
||||||
|
2. Fallback auf Settings.RETRIEVER_W_* (ENV-basiert).
|
||||||
|
"""
|
||||||
|
settings = get_settings()
|
||||||
|
sem = float(getattr(settings, "RETRIEVER_W_SEM", 1.0))
|
||||||
|
edge = float(getattr(settings, "RETRIEVER_W_EDGE", 0.0))
|
||||||
|
cent = float(getattr(settings, "RETRIEVER_W_CENT", 0.0))
|
||||||
|
|
||||||
|
# YAML-Override, falls konfiguriert
|
||||||
|
config_path = os.getenv("MINDNET_RETRIEVER_CONFIG", "config/retriever.yaml")
|
||||||
|
if yaml is None:
|
||||||
|
return sem, edge, cent
|
||||||
|
try:
|
||||||
|
if os.path.exists(config_path):
|
||||||
|
with open(config_path, "r", encoding="utf-8") as f:
|
||||||
|
data = yaml.safe_load(f) or {}
|
||||||
|
scoring = data.get("scoring", {}) or {}
|
||||||
|
sem = float(scoring.get("semantic_weight", sem))
|
||||||
|
edge = float(scoring.get("edge_weight", edge))
|
||||||
|
cent = float(scoring.get("centrality_weight", cent))
|
||||||
|
except Exception:
|
||||||
|
# Bei Fehlern in der YAML-Konfiguration defensiv auf Defaults zurückfallen
|
||||||
|
return sem, edge, cent
|
||||||
|
return sem, edge, cent
|
||||||
|
|
||||||
|
|
||||||
|
def _get_client_and_prefix() -> Tuple[Any, str]:
|
||||||
|
"""Liefert (QdrantClient, prefix) basierend auf QdrantConfig.from_env()."""
|
||||||
|
cfg = qdr.QdrantConfig.from_env()
|
||||||
|
client = qdr.get_client(cfg)
|
||||||
|
return client, cfg.prefix
|
||||||
|
|
||||||
|
|
||||||
|
def _get_query_vector(req: QueryRequest) -> List[float]:
|
||||||
|
"""
|
||||||
|
Liefert den Query-Vektor aus dem Request.
|
||||||
|
"""
|
||||||
|
if req.query_vector:
|
||||||
|
return list(req.query_vector)
|
||||||
|
|
||||||
|
if not req.query:
|
||||||
|
raise ValueError("QueryRequest benötigt entweder query oder query_vector")
|
||||||
|
|
||||||
|
settings = get_settings()
|
||||||
|
model_name = settings.MODEL_NAME
|
||||||
|
|
||||||
|
try:
|
||||||
|
return ec.embed_text(req.query, model_name=model_name) # type: ignore[call-arg]
|
||||||
|
except TypeError:
|
||||||
|
return ec.embed_text(req.query) # type: ignore[call-arg]
|
||||||
|
|
||||||
|
|
||||||
|
def _semantic_hits(
|
||||||
|
client: Any,
|
||||||
|
prefix: str,
|
||||||
|
vector: List[float],
|
||||||
|
top_k: int,
|
||||||
|
filters: Dict[str, Any] | None = None,
|
||||||
|
) -> List[Tuple[str, float, Dict[str, Any]]]:
|
||||||
|
"""Führt eine semantische Suche über mindnet_chunks aus und liefert Roh-Treffer."""
|
||||||
|
flt = filters or None
|
||||||
|
raw_hits = qp.search_chunks_by_vector(client, prefix, vector, top=top_k, filters=flt)
|
||||||
|
results: List[Tuple[str, float, Dict[str, Any]]] = []
|
||||||
|
for pid, score, payload in raw_hits:
|
||||||
|
results.append((str(pid), float(score), dict(payload or {})))
|
||||||
|
return results
|
||||||
|
|
||||||
|
|
||||||
|
def _compute_total_score(
|
||||||
|
semantic_score: float,
|
||||||
|
payload: Dict[str, Any],
|
||||||
|
edge_bonus: float = 0.0,
|
||||||
|
cent_bonus: float = 0.0,
|
||||||
|
) -> Tuple[float, float, float]:
|
||||||
|
"""Berechnet total_score aus semantic_score, retriever_weight und Graph-Boni."""
|
||||||
|
raw_weight = payload.get("retriever_weight", 1.0)
|
||||||
|
try:
|
||||||
|
weight = float(raw_weight)
|
||||||
|
except (TypeError, ValueError):
|
||||||
|
weight = 1.0
|
||||||
|
if weight < 0.0:
|
||||||
|
weight = 0.0
|
||||||
|
|
||||||
|
sem_w, edge_w, cent_w = _get_scoring_weights()
|
||||||
|
total = (sem_w * float(semantic_score) * weight) + (edge_w * edge_bonus) + (cent_w * cent_bonus)
|
||||||
|
return float(total), float(edge_bonus), float(cent_bonus)
|
||||||
|
|
||||||
|
|
||||||
|
# --- WP-04b Explanation Logic ---
|
||||||
|
|
||||||
|
def _build_explanation(
|
||||||
|
semantic_score: float,
|
||||||
|
payload: Dict[str, Any],
|
||||||
|
edge_bonus: float,
|
||||||
|
cent_bonus: float,
|
||||||
|
subgraph: Optional[ga.Subgraph],
|
||||||
|
node_key: Optional[str]
|
||||||
|
) -> Explanation:
|
||||||
|
"""
|
||||||
|
Erstellt ein detailliertes Explanation-Objekt für einen Treffer.
|
||||||
|
Analysiert Scores, Typen und Kanten (Incoming & Outgoing).
|
||||||
|
"""
|
||||||
|
sem_w, edge_w, cent_w = _get_scoring_weights()
|
||||||
|
|
||||||
|
try:
|
||||||
|
type_weight = float(payload.get("retriever_weight", 1.0))
|
||||||
|
except (TypeError, ValueError):
|
||||||
|
type_weight = 1.0
|
||||||
|
|
||||||
|
note_type = payload.get("type", "unknown")
|
||||||
|
|
||||||
|
breakdown = ScoreBreakdown(
|
||||||
|
semantic_contribution=(sem_w * semantic_score * type_weight),
|
||||||
|
edge_contribution=(edge_w * edge_bonus),
|
||||||
|
centrality_contribution=(cent_w * cent_bonus),
|
||||||
|
raw_semantic=semantic_score,
|
||||||
|
raw_edge_bonus=edge_bonus,
|
||||||
|
raw_centrality=cent_bonus,
|
||||||
|
node_weight=type_weight
|
||||||
|
)
|
||||||
|
|
||||||
|
reasons: List[Reason] = []
|
||||||
|
edges_dto: List[EdgeDTO] = []
|
||||||
|
|
||||||
|
# 1. Semantische Gründe
|
||||||
|
if semantic_score > 0.85:
|
||||||
|
reasons.append(Reason(
|
||||||
|
kind="semantic",
|
||||||
|
message="Sehr hohe textuelle Übereinstimmung.",
|
||||||
|
score_impact=breakdown.semantic_contribution
|
||||||
|
))
|
||||||
|
elif semantic_score > 0.70:
|
||||||
|
reasons.append(Reason(
|
||||||
|
kind="semantic",
|
||||||
|
message="Gute textuelle Übereinstimmung.",
|
||||||
|
score_impact=breakdown.semantic_contribution
|
||||||
|
))
|
||||||
|
|
||||||
|
# 2. Typ-Gründe
|
||||||
|
if type_weight != 1.0:
|
||||||
|
msg = "Bevorzugt" if type_weight > 1.0 else "Leicht abgewertet"
|
||||||
|
reasons.append(Reason(
|
||||||
|
kind="type",
|
||||||
|
message=f"{msg} aufgrund des Typs '{note_type}' (Gewicht: {type_weight}).",
|
||||||
|
score_impact=(sem_w * semantic_score * (type_weight - 1.0))
|
||||||
|
))
|
||||||
|
|
||||||
|
# 3. Graph-Gründe (Edges)
|
||||||
|
if subgraph and node_key and edge_bonus > 0:
|
||||||
|
# Wir sammeln die stärksten Kanten (egal ob rein oder raus),
|
||||||
|
# die zum Score beitragen.
|
||||||
|
|
||||||
|
# A) Outgoing (Ich verweise auf...) - Das ist oft der Hub-Score
|
||||||
|
if hasattr(subgraph, "get_outgoing_edges"):
|
||||||
|
outgoing = subgraph.get_outgoing_edges(node_key)
|
||||||
|
for edge in outgoing:
|
||||||
|
target = edge.get("target", "Unknown")
|
||||||
|
kind = edge.get("kind", "edge")
|
||||||
|
weight = edge.get("weight", 0.0)
|
||||||
|
|
||||||
|
# Nur relevante Kanten aufnehmen
|
||||||
|
if weight > 0.05:
|
||||||
|
edges_dto.append(EdgeDTO(
|
||||||
|
id=f"{node_key}->{target}:{kind}",
|
||||||
|
kind=kind, source=node_key, target=target, weight=weight, direction="out"
|
||||||
|
))
|
||||||
|
|
||||||
|
# B) Incoming (Ich werde verwiesen von...)
|
||||||
|
if hasattr(subgraph, "get_incoming_edges"):
|
||||||
|
incoming = subgraph.get_incoming_edges(node_key)
|
||||||
|
for edge in incoming:
|
||||||
|
src = edge.get("source", "Unknown")
|
||||||
|
kind = edge.get("kind", "edge")
|
||||||
|
weight = edge.get("weight", 0.0)
|
||||||
|
|
||||||
|
if weight > 0.05:
|
||||||
|
edges_dto.append(EdgeDTO(
|
||||||
|
id=f"{src}->{node_key}:{kind}",
|
||||||
|
kind=kind, source=src, target=node_key, weight=weight, direction="in"
|
||||||
|
))
|
||||||
|
|
||||||
|
# Sortieren nach Gewicht und Top-3 als Reasons generieren
|
||||||
|
all_edges = sorted(edges_dto, key=lambda e: e.weight, reverse=True)
|
||||||
|
|
||||||
|
for top_edge in all_edges[:3]:
|
||||||
|
# Impact schätzen (grob, da Edge-Bonus eine Summe ist)
|
||||||
|
impact = edge_w * top_edge.weight
|
||||||
|
|
||||||
|
if top_edge.direction == "out":
|
||||||
|
msg = f"Verweist auf '{top_edge.target}' via '{top_edge.kind}'"
|
||||||
|
else:
|
||||||
|
msg = f"Referenziert von '{top_edge.source}' via '{top_edge.kind}'"
|
||||||
|
|
||||||
|
reasons.append(Reason(
|
||||||
|
kind="edge",
|
||||||
|
message=msg,
|
||||||
|
score_impact=impact,
|
||||||
|
details={"kind": top_edge.kind, "weight": top_edge.weight}
|
||||||
|
))
|
||||||
|
|
||||||
|
# 4. Centrality
|
||||||
|
if cent_bonus > 0.01:
|
||||||
|
reasons.append(Reason(
|
||||||
|
kind="centrality",
|
||||||
|
message="Knoten liegt zentral im Kontext.",
|
||||||
|
score_impact=breakdown.centrality_contribution
|
||||||
|
))
|
||||||
|
|
||||||
|
return Explanation(
|
||||||
|
breakdown=breakdown,
|
||||||
|
reasons=reasons,
|
||||||
|
related_edges=edges_dto if edges_dto else None
|
||||||
|
)
|
||||||
|
# --- End Explanation Logic ---
|
||||||
|
|
||||||
|
|
||||||
|
def _extract_expand_options(req: QueryRequest) -> Tuple[int, List[str] | None]:
|
||||||
|
"""Extrahiert depth und edge_types aus req.expand."""
|
||||||
|
expand = getattr(req, "expand", None)
|
||||||
|
if not expand:
|
||||||
|
return 0, None
|
||||||
|
|
||||||
|
depth = 1
|
||||||
|
edge_types: List[str] | None = None
|
||||||
|
|
||||||
|
if hasattr(expand, "depth") or hasattr(expand, "edge_types"):
|
||||||
|
depth = int(getattr(expand, "depth", 1) or 1)
|
||||||
|
types_val = getattr(expand, "edge_types", None)
|
||||||
|
if types_val:
|
||||||
|
edge_types = list(types_val)
|
||||||
|
return depth, edge_types
|
||||||
|
|
||||||
|
if isinstance(expand, dict):
|
||||||
|
if "depth" in expand:
|
||||||
|
depth = int(expand.get("depth") or 1)
|
||||||
|
if "edge_types" in expand and expand["edge_types"] is not None:
|
||||||
|
edge_types = list(expand["edge_types"])
|
||||||
|
return depth, edge_types
|
||||||
|
|
||||||
|
return 0, None
|
||||||
|
|
||||||
|
|
||||||
|
def _build_hits_from_semantic(
|
||||||
|
hits: Iterable[Tuple[str, float, Dict[str, Any]]],
|
||||||
|
top_k: int,
|
||||||
|
used_mode: str,
|
||||||
|
subgraph: ga.Subgraph | None = None,
|
||||||
|
explain: bool = False, # WP-04b
|
||||||
|
) -> QueryResponse:
|
||||||
|
"""Baut aus Raw-Hits und optionalem Subgraph strukturierte QueryHits.
|
||||||
|
|
||||||
|
WP-04b: Wenn explain=True, wird _build_explanation aufgerufen.
|
||||||
|
"""
|
||||||
|
t0 = time.time()
|
||||||
|
|
||||||
|
enriched: List[Tuple[str, float, Dict[str, Any], float, float, float]] = []
|
||||||
|
|
||||||
|
for pid, semantic_score, payload in hits:
|
||||||
|
edge_bonus = 0.0
|
||||||
|
cent_bonus = 0.0
|
||||||
|
node_key = payload.get("chunk_id") or payload.get("note_id")
|
||||||
|
|
||||||
|
if subgraph is not None and node_key:
|
||||||
|
try:
|
||||||
|
edge_bonus = float(subgraph.edge_bonus(node_key))
|
||||||
|
except Exception:
|
||||||
|
edge_bonus = 0.0
|
||||||
|
try:
|
||||||
|
cent_bonus = float(subgraph.centrality_bonus(node_key))
|
||||||
|
except Exception:
|
||||||
|
cent_bonus = 0.0
|
||||||
|
|
||||||
|
total, edge_bonus, cent_bonus = _compute_total_score(
|
||||||
|
semantic_score,
|
||||||
|
payload,
|
||||||
|
edge_bonus=edge_bonus,
|
||||||
|
cent_bonus=cent_bonus,
|
||||||
|
)
|
||||||
|
enriched.append((pid, float(semantic_score), payload, total, edge_bonus, cent_bonus))
|
||||||
|
|
||||||
|
# Sortierung nach total_score absteigend
|
||||||
|
enriched_sorted = sorted(enriched, key=lambda h: h[3], reverse=True)
|
||||||
|
limited = enriched_sorted[: max(1, top_k)]
|
||||||
|
|
||||||
|
results: List[QueryHit] = []
|
||||||
|
for pid, semantic_score, payload, total, edge_bonus, cent_bonus in limited:
|
||||||
|
note_id = payload.get("note_id")
|
||||||
|
path = payload.get("path")
|
||||||
|
section = payload.get("section") or payload.get("section_title")
|
||||||
|
node_key = payload.get("chunk_id") or payload.get("note_id")
|
||||||
|
|
||||||
|
# WP-04b: Explanation bauen?
|
||||||
|
explanation_obj = None
|
||||||
|
if explain:
|
||||||
|
explanation_obj = _build_explanation(
|
||||||
|
semantic_score=float(semantic_score),
|
||||||
|
payload=payload,
|
||||||
|
edge_bonus=edge_bonus,
|
||||||
|
cent_bonus=cent_bonus,
|
||||||
|
subgraph=subgraph,
|
||||||
|
node_key=node_key
|
||||||
|
)
|
||||||
|
|
||||||
|
results.append(
|
||||||
|
QueryHit(
|
||||||
|
node_id=str(pid),
|
||||||
|
note_id=note_id,
|
||||||
|
semantic_score=float(semantic_score),
|
||||||
|
edge_bonus=edge_bonus,
|
||||||
|
centrality_bonus=cent_bonus,
|
||||||
|
total_score=total,
|
||||||
|
paths=None,
|
||||||
|
source={
|
||||||
|
"path": path,
|
||||||
|
"section": section,
|
||||||
|
},
|
||||||
|
explanation=explanation_obj
|
||||||
|
)
|
||||||
|
)
|
||||||
|
|
||||||
|
dt = int((time.time() - t0) * 1000)
|
||||||
|
return QueryResponse(results=results, used_mode=used_mode, latency_ms=dt)
|
||||||
|
|
||||||
|
|
||||||
|
def semantic_retrieve(req: QueryRequest) -> QueryResponse:
|
||||||
|
"""Reiner semantischer Retriever (ohne Edge-Expansion)."""
|
||||||
|
client, prefix = _get_client_and_prefix()
|
||||||
|
vector = _get_query_vector(req)
|
||||||
|
top_k = req.top_k or get_settings().RETRIEVER_TOP_K
|
||||||
|
|
||||||
|
hits = _semantic_hits(client, prefix, vector, top_k=top_k, filters=req.filters)
|
||||||
|
|
||||||
|
# explain Flag durchreichen
|
||||||
|
return _build_hits_from_semantic(
|
||||||
|
hits,
|
||||||
|
top_k=top_k,
|
||||||
|
used_mode="semantic",
|
||||||
|
subgraph=None,
|
||||||
|
explain=req.explain
|
||||||
|
)
|
||||||
|
|
||||||
|
|
||||||
|
def hybrid_retrieve(req: QueryRequest) -> QueryResponse:
|
||||||
|
"""Hybrid-Retriever: semantische Suche + optionale Edge-Expansion."""
|
||||||
|
client, prefix = _get_client_and_prefix()
|
||||||
|
|
||||||
|
if req.query_vector:
|
||||||
|
vector = list(req.query_vector)
|
||||||
|
else:
|
||||||
|
vector = _get_query_vector(req)
|
||||||
|
|
||||||
|
top_k = req.top_k or get_settings().RETRIEVER_TOP_K
|
||||||
|
|
||||||
|
hits = _semantic_hits(client, prefix, vector, top_k=top_k, filters=req.filters)
|
||||||
|
|
||||||
|
depth, edge_types = _extract_expand_options(req)
|
||||||
|
subgraph: ga.Subgraph | None = None
|
||||||
|
if depth and depth > 0:
|
||||||
|
seed_ids: List[str] = []
|
||||||
|
for _pid, _score, payload in hits:
|
||||||
|
key = payload.get("chunk_id") or payload.get("note_id")
|
||||||
|
if key and key not in seed_ids:
|
||||||
|
seed_ids.append(key)
|
||||||
|
|
||||||
|
if seed_ids:
|
||||||
|
try:
|
||||||
|
subgraph = ga.expand(client, prefix, seed_ids, depth=depth, edge_types=edge_types)
|
||||||
|
except Exception:
|
||||||
|
subgraph = None
|
||||||
|
|
||||||
|
# explain Flag durchreichen
|
||||||
|
return _build_hits_from_semantic(
|
||||||
|
hits,
|
||||||
|
top_k=top_k,
|
||||||
|
used_mode="hybrid",
|
||||||
|
subgraph=subgraph,
|
||||||
|
explain=req.explain
|
||||||
|
)
|
||||||
@@ -0,0 +1,116 @@
|
|||||||
|
"""app/core/retriever_config.py
|
||||||
|
---------------------------------
|
||||||
|
Zentrale Konfiguration für den mindnet-Retriever (WP-04).
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
- Lädt config/retriever.yaml (falls vorhanden) oder nutzt sinnvolle Defaults.
|
||||||
|
- Bietet einen gecachten Zugriff auf die Retriever-Config für
|
||||||
|
andere Module (z. B. graph_adapter, retriever).
|
||||||
|
|
||||||
|
Hinweis zur Weiterentwicklung (Selbstjustierung):
|
||||||
|
- Die hier definierten Parameter sind so gewählt, dass sie später
|
||||||
|
durch ein Feedback-/Learning-to-Rank-Modell überschrieben werden
|
||||||
|
können, ohne die restliche Architektur anzupassen.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import os
|
||||||
|
from dataclasses import dataclass
|
||||||
|
from functools import lru_cache
|
||||||
|
from pathlib import Path
|
||||||
|
from typing import Dict
|
||||||
|
|
||||||
|
try:
|
||||||
|
import yaml # type: ignore
|
||||||
|
except Exception: # pragma: no cover - Fallback, falls PyYAML nicht installiert ist.
|
||||||
|
yaml = None # type: ignore
|
||||||
|
|
||||||
|
@dataclass(frozen=True)
|
||||||
|
class RetrieverConfig:
|
||||||
|
semantic_scale: float
|
||||||
|
edge_scale: float
|
||||||
|
centrality_scale: float
|
||||||
|
edge_weights: Dict[str, float]
|
||||||
|
|
||||||
|
@lru_cache
|
||||||
|
def get_retriever_config() -> RetrieverConfig:
|
||||||
|
"""Lädt die Retriever-Konfiguration (YAML + Defaults).
|
||||||
|
|
||||||
|
Reihenfolge:
|
||||||
|
1. Defaults (sinnvoll gewählte Startwerte).
|
||||||
|
2. Optional: config/retriever.yaml bzw. Pfad aus ENV
|
||||||
|
MINDNET_RETRIEVER_CONFIG überschreibt die Defaults.
|
||||||
|
|
||||||
|
Die Funktion ist bewusst gecached, da sich die Konfiguration zur
|
||||||
|
Laufzeit üblicherweise nicht ändert. Für dynamisches Nachladen
|
||||||
|
könnte der Cache explizit geleert werden.
|
||||||
|
"""
|
||||||
|
|
||||||
|
# 1) Defaults – bewusst konservativ gewählt.
|
||||||
|
semantic_scale = 1.0
|
||||||
|
edge_scale = 1.0
|
||||||
|
centrality_scale = 1.0
|
||||||
|
|
||||||
|
edge_weights: Dict[str, float] = {
|
||||||
|
# Wissens-Kanten
|
||||||
|
"depends_on": 1.0,
|
||||||
|
"related_to": 0.7,
|
||||||
|
"similar_to": 0.7,
|
||||||
|
"references": 0.5,
|
||||||
|
# Struktur-Kanten
|
||||||
|
"belongs_to": 0.2,
|
||||||
|
"next": 0.1,
|
||||||
|
"prev": 0.1,
|
||||||
|
# Sonstige / technische Kanten
|
||||||
|
"backlink": 0.2,
|
||||||
|
"references_at": 0.2,
|
||||||
|
}
|
||||||
|
|
||||||
|
# 2) Optional: YAML-Konfiguration laden
|
||||||
|
cfg_path_env = os.getenv("MINDNET_RETRIEVER_CONFIG")
|
||||||
|
if cfg_path_env:
|
||||||
|
cfg_path = Path(cfg_path_env)
|
||||||
|
else:
|
||||||
|
# Project-Root = zwei Ebenen über app/core/
|
||||||
|
cfg_path = Path(__file__).resolve().parents[2] / "config" / "retriever.yaml"
|
||||||
|
|
||||||
|
if yaml is not None and cfg_path.exists():
|
||||||
|
try:
|
||||||
|
data = yaml.safe_load(cfg_path.read_text(encoding="utf-8")) or {}
|
||||||
|
except Exception:
|
||||||
|
data = {}
|
||||||
|
|
||||||
|
retr = data.get("retriever") or {}
|
||||||
|
|
||||||
|
# Skalenwerte überschreiben, falls angegeben
|
||||||
|
try:
|
||||||
|
semantic_scale = float(retr.get("semantic_scale", semantic_scale))
|
||||||
|
except (TypeError, ValueError):
|
||||||
|
pass
|
||||||
|
|
||||||
|
try:
|
||||||
|
edge_scale = float(retr.get("edge_scale", edge_scale))
|
||||||
|
except (TypeError, ValueError):
|
||||||
|
pass
|
||||||
|
|
||||||
|
try:
|
||||||
|
centrality_scale = float(retr.get("centrality_scale", centrality_scale))
|
||||||
|
except (TypeError, ValueError):
|
||||||
|
pass
|
||||||
|
|
||||||
|
# Edge-Gewichte je Kanten-Typ
|
||||||
|
ew_cfg = retr.get("edge_weights") or {}
|
||||||
|
if isinstance(ew_cfg, dict):
|
||||||
|
for k, v in ew_cfg.items():
|
||||||
|
try:
|
||||||
|
edge_weights[str(k)] = float(v)
|
||||||
|
except (TypeError, ValueError):
|
||||||
|
continue
|
||||||
|
|
||||||
|
return RetrieverConfig(
|
||||||
|
semantic_scale=semantic_scale,
|
||||||
|
edge_scale=edge_scale,
|
||||||
|
centrality_scale=centrality_scale,
|
||||||
|
edge_weights=edge_weights,
|
||||||
|
)
|
||||||
@@ -0,0 +1,117 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
Modul: app/core/type_registry.py
|
||||||
|
Version: 1.0.0
|
||||||
|
Datum: 2025-11-08
|
||||||
|
|
||||||
|
Zweck
|
||||||
|
-----
|
||||||
|
Lädt eine optionale Typ-Registry (config/types.yaml) und stellt
|
||||||
|
komfortable Zugriffsfunktionen bereit. Die Registry ist *optional*:
|
||||||
|
- Fehlt die Datei oder ist das YAML defekt, wird ein konservativer
|
||||||
|
Default (Typ "concept") verwendet und es wird eine Warnung ausgegeben.
|
||||||
|
- Änderungen an der Datei greifen nach einem Neustart des Prozesses.
|
||||||
|
|
||||||
|
Öffentliche API
|
||||||
|
---------------
|
||||||
|
- load_type_registry(path: str = "config/types.yaml") -> dict
|
||||||
|
- get_type_config(note_type: str, reg: dict) -> dict
|
||||||
|
- resolve_note_type(fm_type: str | None, reg: dict) -> str
|
||||||
|
- effective_chunk_profile(note_type: str, reg: dict) -> str | None
|
||||||
|
- profile_overlap(profile: str | None) -> tuple[int,int] # nur Overlap-Empfehlung
|
||||||
|
|
||||||
|
Hinweis
|
||||||
|
-------
|
||||||
|
Die Registry steuert KEINE Breaking Changes. Ohne Datei/Typ bleibt das
|
||||||
|
Verhalten exakt wie im Release-Stand 20251105.
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
from functools import lru_cache
|
||||||
|
from typing import Dict, Any, Optional, Tuple
|
||||||
|
import os
|
||||||
|
|
||||||
|
try:
|
||||||
|
import yaml # PyYAML
|
||||||
|
except Exception:
|
||||||
|
yaml = None # wird erst benötigt, wenn eine Datei gelesen werden soll
|
||||||
|
|
||||||
|
# Konservativer Default – bewusst minimal
|
||||||
|
_DEFAULT_REGISTRY: Dict[str, Any] = {
|
||||||
|
"version": "1.0",
|
||||||
|
"types": {
|
||||||
|
"concept": {
|
||||||
|
"chunk_profile": "medium",
|
||||||
|
"edge_defaults": ["references", "related_to"],
|
||||||
|
"retriever_weight": 1.0,
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"_using_defaults": True,
|
||||||
|
"_warning": "types.yaml missing or invalid – using built-in defaults (type=concept).",
|
||||||
|
}
|
||||||
|
|
||||||
|
# Chunk-Profile → Overlap-Empfehlungen (nur für synthetische Fensterbildung)
|
||||||
|
# Die absoluten Chunk-Längen bleiben Aufgabe des Chunkers (assemble_chunks).
|
||||||
|
_PROFILE_TO_OVERLAP: Dict[str, Tuple[int, int]] = {
|
||||||
|
"short": (20, 30),
|
||||||
|
"medium": (40, 60),
|
||||||
|
"long": (60, 80),
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
@lru_cache(maxsize=1)
|
||||||
|
def load_type_registry(path: str = "config/types.yaml") -> Dict[str, Any]:
|
||||||
|
"""
|
||||||
|
Lädt die Registry aus 'path'. Bei Fehlern wird ein konserviver Default geliefert.
|
||||||
|
Die Rückgabe ist *prozessweit* gecached.
|
||||||
|
"""
|
||||||
|
if not path:
|
||||||
|
return dict(_DEFAULT_REGISTRY)
|
||||||
|
|
||||||
|
if not os.path.isfile(path):
|
||||||
|
return dict(_DEFAULT_REGISTRY)
|
||||||
|
|
||||||
|
if yaml is None:
|
||||||
|
# PyYAML fehlt → auf Default zurückfallen
|
||||||
|
return dict(_DEFAULT_REGISTRY)
|
||||||
|
|
||||||
|
try:
|
||||||
|
with open(path, "r", encoding="utf-8") as f:
|
||||||
|
data = yaml.safe_load(f) or {}
|
||||||
|
# Minimal validieren
|
||||||
|
if not isinstance(data, dict) or "types" not in data or not isinstance(data["types"], dict):
|
||||||
|
return dict(_DEFAULT_REGISTRY)
|
||||||
|
data.setdefault("version", "1.0")
|
||||||
|
data.setdefault("_using_defaults", False)
|
||||||
|
return data
|
||||||
|
except Exception:
|
||||||
|
return dict(_DEFAULT_REGISTRY)
|
||||||
|
|
||||||
|
|
||||||
|
def get_type_config(note_type: Optional[str], reg: Dict[str, Any]) -> Dict[str, Any]:
|
||||||
|
t = (note_type or "concept").strip().lower()
|
||||||
|
types = (reg or {}).get("types", {}) if isinstance(reg, dict) else {}
|
||||||
|
return types.get(t) or types.get("concept") or _DEFAULT_REGISTRY["types"]["concept"]
|
||||||
|
|
||||||
|
|
||||||
|
def resolve_note_type(fm_type: Optional[str], reg: Dict[str, Any]) -> str:
|
||||||
|
"""Liefert einen gültigen Typ (unbekannt → 'concept')."""
|
||||||
|
t = (fm_type or "concept").strip().lower()
|
||||||
|
types = (reg or {}).get("types", {}) if isinstance(reg, dict) else {}
|
||||||
|
return t if t in types else "concept"
|
||||||
|
|
||||||
|
|
||||||
|
def effective_chunk_profile(note_type: Optional[str], reg: Dict[str, Any]) -> Optional[str]:
|
||||||
|
cfg = get_type_config(note_type, reg)
|
||||||
|
prof = cfg.get("chunk_profile")
|
||||||
|
if isinstance(prof, str) and prof.strip():
|
||||||
|
return prof.strip().lower()
|
||||||
|
return None
|
||||||
|
|
||||||
|
|
||||||
|
def profile_overlap(profile: Optional[str]) -> Tuple[int, int]:
|
||||||
|
"""Gibt eine Overlap-Empfehlung (low, high) für das Profil zurück."""
|
||||||
|
if not profile:
|
||||||
|
return _PROFILE_TO_OVERLAP["medium"]
|
||||||
|
return _PROFILE_TO_OVERLAP.get(profile.strip().lower(), _PROFILE_TO_OVERLAP["medium"])
|
||||||
+21
-3
@@ -1,13 +1,23 @@
|
|||||||
"""
|
"""
|
||||||
Version 0.3
|
app/main.py — mindnet API bootstrap (WP-04 Hooks)
|
||||||
|
Version: 0.4.2 • Stand: 2025-10-07
|
||||||
"""
|
"""
|
||||||
from __future__ import annotations
|
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
from fastapi import FastAPI
|
from fastapi import FastAPI
|
||||||
from .config import get_settings
|
from .config import get_settings
|
||||||
from .routers.embed_router import router as embed_router
|
from .routers.embed_router import router as embed_router
|
||||||
from .routers.qdrant_router import router as qdrant_router
|
from .routers.qdrant_router import router as qdrant_router
|
||||||
|
|
||||||
|
# WP-04 Router:
|
||||||
|
from .routers.query import router as query_router
|
||||||
|
from .routers.graph import router as graph_router
|
||||||
|
from .routers.tools import router as tools_router
|
||||||
|
# Optional:
|
||||||
|
try:
|
||||||
|
from .routers.admin import router as admin_router
|
||||||
|
except Exception:
|
||||||
|
admin_router = None
|
||||||
|
|
||||||
def create_app() -> FastAPI:
|
def create_app() -> FastAPI:
|
||||||
app = FastAPI(title="mindnet API", version="0.1.0")
|
app = FastAPI(title="mindnet API", version="0.1.0")
|
||||||
@@ -17,9 +27,17 @@ def create_app() -> FastAPI:
|
|||||||
def healthz():
|
def healthz():
|
||||||
return {"status": "ok", "qdrant": s.QDRANT_URL, "prefix": s.COLLECTION_PREFIX}
|
return {"status": "ok", "qdrant": s.QDRANT_URL, "prefix": s.COLLECTION_PREFIX}
|
||||||
|
|
||||||
|
# Bestehende Router (unverändert)
|
||||||
app.include_router(embed_router)
|
app.include_router(embed_router)
|
||||||
app.include_router(qdrant_router)
|
app.include_router(qdrant_router)
|
||||||
|
|
||||||
|
# WP-04 Endpunkte
|
||||||
|
app.include_router(query_router, prefix="/query", tags=["query"])
|
||||||
|
app.include_router(graph_router, prefix="/graph", tags=["graph"])
|
||||||
|
app.include_router(tools_router, prefix="/tools", tags=["tools"])
|
||||||
|
if admin_router:
|
||||||
|
app.include_router(admin_router, prefix="/admin", tags=["admin"])
|
||||||
|
|
||||||
return app
|
return app
|
||||||
|
|
||||||
|
|
||||||
app = create_app()
|
app = create_app()
|
||||||
@@ -0,0 +1,24 @@
|
|||||||
|
"""
|
||||||
|
app/models/__init__.py — Package-Init für mindnet DTOs (WP-04)
|
||||||
|
Version: 0.1.0 • Stand: 2025-10-07
|
||||||
|
"""
|
||||||
|
|
||||||
|
from .dto import (
|
||||||
|
EdgeKind,
|
||||||
|
NodeDTO,
|
||||||
|
EdgeDTO,
|
||||||
|
QueryRequest,
|
||||||
|
QueryHit,
|
||||||
|
QueryResponse,
|
||||||
|
GraphResponse,
|
||||||
|
)
|
||||||
|
|
||||||
|
__all__ = [
|
||||||
|
"EdgeKind",
|
||||||
|
"NodeDTO",
|
||||||
|
"EdgeDTO",
|
||||||
|
"QueryRequest",
|
||||||
|
"QueryHit",
|
||||||
|
"QueryResponse",
|
||||||
|
"GraphResponse",
|
||||||
|
]
|
||||||
@@ -0,0 +1,146 @@
|
|||||||
|
"""
|
||||||
|
app/models/dto.py — Pydantic-Modelle (DTOs) für WP-04 Endpunkte
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Laufzeit-Modelle für FastAPI (Requests/Responses), getrennt von JSON-Schemas.
|
||||||
|
Deckt die Graph-/Retriever-Endpunkte ab.
|
||||||
|
Enthält Erweiterungen für WP-04b (Explanation Layer).
|
||||||
|
|
||||||
|
Kompatibilität:
|
||||||
|
Python 3.12+, Pydantic 2.x, FastAPI 0.110+
|
||||||
|
Version:
|
||||||
|
0.2.0 (Update für WP-04b Explanation Layer)
|
||||||
|
Stand:
|
||||||
|
2025-12-07
|
||||||
|
Bezug:
|
||||||
|
- schemas/*.json (Speicherschema für Notes/Chunks/Edges)
|
||||||
|
- WP-04 API-Design (Query- und Graph-Endpunkte)
|
||||||
|
Nutzung:
|
||||||
|
from app.models.dto import QueryRequest, QueryResponse, GraphResponse
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
from pydantic import BaseModel, Field
|
||||||
|
from typing import List, Literal, Optional, Dict, Any
|
||||||
|
|
||||||
|
EdgeKind = Literal["references", "references_at", "backlink", "next", "prev", "belongs_to", "depends_on", "related_to", "similar_to"]
|
||||||
|
|
||||||
|
|
||||||
|
class NodeDTO(BaseModel):
|
||||||
|
"""Darstellung eines Knotens (Note oder Chunk) im API-Graph."""
|
||||||
|
id: str
|
||||||
|
type: Literal["note", "chunk"]
|
||||||
|
title: Optional[str] = None
|
||||||
|
note_id: Optional[str] = None
|
||||||
|
tags: Optional[List[str]] = None
|
||||||
|
in_degree: Optional[int] = None
|
||||||
|
out_degree: Optional[int] = None
|
||||||
|
score: Optional[float] = None
|
||||||
|
section_title: Optional[str] = None
|
||||||
|
section_path: Optional[str] = None
|
||||||
|
path: Optional[str] = None
|
||||||
|
|
||||||
|
|
||||||
|
class EdgeDTO(BaseModel):
|
||||||
|
"""Darstellung einer Kante im API-Graph."""
|
||||||
|
id: str
|
||||||
|
kind: str # String statt Literal, um flexibel für Custom-Types zu bleiben
|
||||||
|
source: str
|
||||||
|
target: str
|
||||||
|
weight: float
|
||||||
|
direction: Literal["out", "in", "undirected"] = "out"
|
||||||
|
|
||||||
|
|
||||||
|
class QueryRequest(BaseModel):
|
||||||
|
"""
|
||||||
|
Request für /query:
|
||||||
|
- mode: 'semantic' | 'edge' | 'hybrid'
|
||||||
|
- query: (optional) Freitext; Embedding wird später angebunden
|
||||||
|
- query_vector: (optional) direkter Vektor (384d) für Quick-Tests ohne Embedding
|
||||||
|
- explain: (optional) Fordert detaillierte Erklärungen an (WP-04b)
|
||||||
|
"""
|
||||||
|
mode: Literal["semantic", "edge", "hybrid"] = "hybrid"
|
||||||
|
query: Optional[str] = None
|
||||||
|
query_vector: Optional[List[float]] = None
|
||||||
|
top_k: int = 10
|
||||||
|
expand: Dict = {"depth": 1, "edge_types": ["references", "belongs_to", "prev", "next", "depends_on", "related_to"]}
|
||||||
|
filters: Optional[Dict] = None
|
||||||
|
# Flags zur Steuerung der Rückgabe
|
||||||
|
ret: Dict = {"with_paths": True, "with_notes": True, "with_chunks": True}
|
||||||
|
# WP-04b: Soll eine Erklärung generiert werden?
|
||||||
|
explain: bool = False
|
||||||
|
|
||||||
|
|
||||||
|
# --- WP-04b Explanation Models ---
|
||||||
|
|
||||||
|
class ScoreBreakdown(BaseModel):
|
||||||
|
"""
|
||||||
|
Aufschlüsselung der Score-Komponenten.
|
||||||
|
Zeigt die gewichteten Beiträge zum Total Score.
|
||||||
|
"""
|
||||||
|
semantic_contribution: float = Field(..., description="W_sem * semantic_score * weight")
|
||||||
|
edge_contribution: float = Field(..., description="W_edge * edge_bonus")
|
||||||
|
centrality_contribution: float = Field(..., description="W_cent * centrality_bonus")
|
||||||
|
|
||||||
|
# Rohwerte für Transparenz
|
||||||
|
raw_semantic: float
|
||||||
|
raw_edge_bonus: float
|
||||||
|
raw_centrality: float
|
||||||
|
node_weight: float = Field(..., description="Typ-Gewicht (retriever_weight)")
|
||||||
|
|
||||||
|
|
||||||
|
class Reason(BaseModel):
|
||||||
|
"""
|
||||||
|
Ein semantischer Grund für das Ranking.
|
||||||
|
z.B. 'Verlinkt von Projekt X', 'Hohe Textähnlichkeit'.
|
||||||
|
"""
|
||||||
|
kind: Literal["semantic", "edge", "type", "centrality"]
|
||||||
|
message: str
|
||||||
|
score_impact: Optional[float] = None
|
||||||
|
details: Optional[Dict[str, Any]] = None
|
||||||
|
|
||||||
|
|
||||||
|
class Explanation(BaseModel):
|
||||||
|
"""
|
||||||
|
Container für alle Erklärungsdaten eines Treffers.
|
||||||
|
"""
|
||||||
|
breakdown: ScoreBreakdown
|
||||||
|
reasons: List[Reason]
|
||||||
|
# Optional: Pfade im Graphen, die zu diesem Treffer geführt haben
|
||||||
|
related_edges: Optional[List[EdgeDTO]] = None
|
||||||
|
|
||||||
|
|
||||||
|
# --- End Explanation Models ---
|
||||||
|
|
||||||
|
|
||||||
|
class QueryHit(BaseModel):
|
||||||
|
"""Einzelnes Trefferobjekt für /query."""
|
||||||
|
node_id: str
|
||||||
|
note_id: Optional[str]
|
||||||
|
|
||||||
|
# Flache Scores (Kompatibilität WP-04a)
|
||||||
|
semantic_score: float
|
||||||
|
edge_bonus: float
|
||||||
|
centrality_bonus: float
|
||||||
|
total_score: float
|
||||||
|
|
||||||
|
paths: Optional[List[List[Dict]]] = None
|
||||||
|
source: Optional[Dict] = None
|
||||||
|
|
||||||
|
# WP-04b: Erklärungsobjekt (nur gefüllt, wenn explain=True)
|
||||||
|
explanation: Optional[Explanation] = None
|
||||||
|
|
||||||
|
|
||||||
|
class QueryResponse(BaseModel):
|
||||||
|
"""Antwortstruktur für /query (Liste von Treffern + Telemetrie)."""
|
||||||
|
results: List[QueryHit]
|
||||||
|
used_mode: str
|
||||||
|
latency_ms: int
|
||||||
|
|
||||||
|
|
||||||
|
class GraphResponse(BaseModel):
|
||||||
|
"""Antwortstruktur für /graph/{note_id} (Nachbarschaft)."""
|
||||||
|
center_note_id: str
|
||||||
|
nodes: List[NodeDTO]
|
||||||
|
edges: List[EdgeDTO]
|
||||||
|
stats: Dict[str, int]
|
||||||
@@ -0,0 +1,38 @@
|
|||||||
|
"""
|
||||||
|
app/models/__init__.py — Package-Init für mindnet DTOs
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Stellt zentrale API-/DTO-Modelle als Import-Fassade bereit.
|
||||||
|
Kompatibilität:
|
||||||
|
Python 3.12+, Pydantic 2.x
|
||||||
|
Version:
|
||||||
|
0.1.0 (Erstanlage für WP-04)
|
||||||
|
Stand:
|
||||||
|
2025-10-07
|
||||||
|
Bezug:
|
||||||
|
Handbuch / Knowledge Design (WP-03/04)
|
||||||
|
Nutzung:
|
||||||
|
from app.models import QueryRequest, QueryResponse, GraphResponse
|
||||||
|
Änderungsverlauf:
|
||||||
|
0.1.0 (2025-10-07) – Erstanlage.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from .dto import (
|
||||||
|
EdgeKind,
|
||||||
|
NodeDTO,
|
||||||
|
EdgeDTO,
|
||||||
|
QueryRequest,
|
||||||
|
QueryHit,
|
||||||
|
QueryResponse,
|
||||||
|
GraphResponse,
|
||||||
|
)
|
||||||
|
|
||||||
|
__all__ = [
|
||||||
|
"EdgeKind",
|
||||||
|
"NodeDTO",
|
||||||
|
"EdgeDTO",
|
||||||
|
"QueryRequest",
|
||||||
|
"QueryHit",
|
||||||
|
"QueryResponse",
|
||||||
|
"GraphResponse",
|
||||||
|
]
|
||||||
@@ -0,0 +1,60 @@
|
|||||||
|
"""
|
||||||
|
app/routers/admin.py — Admin-/Monitoring-Endpunkte (optional)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Liefert einfache Kennzahlen zu Collections (Counts) und Config.
|
||||||
|
Kompatibilität:
|
||||||
|
Python 3.12+, FastAPI 0.110+, qdrant-client 1.x
|
||||||
|
Version:
|
||||||
|
0.1.0 (Erstanlage)
|
||||||
|
Stand:
|
||||||
|
2025-10-07
|
||||||
|
Bezug:
|
||||||
|
- Qdrant Collections: *_notes, *_chunks, *_edges
|
||||||
|
Nutzung:
|
||||||
|
app.include_router(admin.router, prefix="/admin", tags=["admin"])
|
||||||
|
Änderungsverlauf:
|
||||||
|
0.1.0 (2025-10-07) – Erstanlage.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
from fastapi import APIRouter
|
||||||
|
from qdrant_client import QdrantClient
|
||||||
|
from app.config import get_settings
|
||||||
|
|
||||||
|
router = APIRouter()
|
||||||
|
|
||||||
|
@router.get("/stats")
|
||||||
|
def stats():
|
||||||
|
s = get_settings()
|
||||||
|
client = QdrantClient(url=s.QDRANT_URL, api_key=s.QDRANT_API_KEY)
|
||||||
|
notes = f"{s.COLLECTION_PREFIX}_notes"
|
||||||
|
chunks = f"{s.COLLECTION_PREFIX}_chunks"
|
||||||
|
edges = f"{s.COLLECTION_PREFIX}_edges"
|
||||||
|
|
||||||
|
def _count(col: str) -> int:
|
||||||
|
try:
|
||||||
|
return client.count(collection_name=col, exact=True).count
|
||||||
|
except Exception:
|
||||||
|
return -1
|
||||||
|
|
||||||
|
return {
|
||||||
|
"collections": {
|
||||||
|
"notes": {"name": notes, "count": _count(notes)},
|
||||||
|
"chunks": {"name": chunks, "count": _count(chunks)},
|
||||||
|
"edges": {"name": edges, "count": _count(edges)},
|
||||||
|
},
|
||||||
|
"config": {
|
||||||
|
"qdrant": s.QDRANT_URL,
|
||||||
|
"prefix": s.COLLECTION_PREFIX,
|
||||||
|
"vector_size": s.VECTOR_SIZE,
|
||||||
|
"distance": s.DISTANCE,
|
||||||
|
"retriever": {
|
||||||
|
"w_sem": s.RETRIEVER_W_SEM,
|
||||||
|
"w_edge": s.RETRIEVER_W_EDGE,
|
||||||
|
"w_cent": s.RETRIEVER_W_CENT,
|
||||||
|
"top_k": s.RETRIEVER_TOP_K,
|
||||||
|
"expand_depth": s.RETRIEVER_EXPAND_DEPTH,
|
||||||
|
},
|
||||||
|
},
|
||||||
|
}
|
||||||
@@ -0,0 +1,54 @@
|
|||||||
|
"""
|
||||||
|
app/routers/graph.py — Graph-Endpunkte (WP-04)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Liefert die Nachbarschaft einer Note/ID als JSON-Graph (Nodes/Edges/Stats).
|
||||||
|
Kompatibilität:
|
||||||
|
Python 3.12+, FastAPI 0.110+, qdrant-client 1.x
|
||||||
|
Version:
|
||||||
|
0.1.0 (Erstanlage)
|
||||||
|
Stand:
|
||||||
|
2025-10-07
|
||||||
|
Bezug:
|
||||||
|
- app/core/graph_adapter.py
|
||||||
|
- app/models/dto.py
|
||||||
|
Nutzung:
|
||||||
|
app.include_router(graph.router, prefix="/graph", tags=["graph"])
|
||||||
|
Änderungsverlauf:
|
||||||
|
0.1.0 (2025-10-07) – Erstanlage.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
from typing import List, Optional
|
||||||
|
from fastapi import APIRouter, Query
|
||||||
|
from qdrant_client import QdrantClient
|
||||||
|
from app.models.dto import GraphResponse, NodeDTO, EdgeDTO
|
||||||
|
from app.core.graph_adapter import expand
|
||||||
|
from app.config import get_settings
|
||||||
|
|
||||||
|
router = APIRouter()
|
||||||
|
|
||||||
|
@router.get("/{note_id}", response_model=GraphResponse)
|
||||||
|
def get_graph(note_id: str, depth: int = 1, edge_types: Optional[List[str]] = Query(None)) -> GraphResponse:
|
||||||
|
s = get_settings()
|
||||||
|
client = QdrantClient(url=s.QDRANT_URL, api_key=s.QDRANT_API_KEY)
|
||||||
|
|
||||||
|
sg = expand(client, s.COLLECTION_PREFIX, [note_id], depth=depth, edge_types=edge_types)
|
||||||
|
|
||||||
|
# Seed-Node (Payload optional später ergänzen über get_note_payload)
|
||||||
|
nodes = [NodeDTO(id=note_id, type="note",
|
||||||
|
title=None, tags=[],
|
||||||
|
in_degree=sg.in_degree.get(note_id, 0),
|
||||||
|
out_degree=sg.out_degree.get(note_id, 0))]
|
||||||
|
|
||||||
|
# direkte Out-Kanten des Seeds
|
||||||
|
edges = []
|
||||||
|
for e in sg.adj.get(note_id, []):
|
||||||
|
edges.append(EdgeDTO(
|
||||||
|
id=f"{note_id}->{e['target']}:{e['kind']}",
|
||||||
|
kind=e["kind"], source=note_id, target=e["target"],
|
||||||
|
weight=float(e["weight"]), direction="out"
|
||||||
|
))
|
||||||
|
|
||||||
|
return GraphResponse(center_note_id=note_id, nodes=nodes, edges=edges,
|
||||||
|
stats={"node_count": len(nodes), "edge_count": len(edges)})
|
||||||
@@ -0,0 +1,38 @@
|
|||||||
|
"""
|
||||||
|
app/routers/query.py — Query-Endpunkte (WP-04)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Stellt POST /query bereit und ruft den passenden Retriever-Modus auf.
|
||||||
|
Kompatibilität:
|
||||||
|
Python 3.12+, FastAPI 0.110+
|
||||||
|
Version:
|
||||||
|
0.1.0 (Erstanlage)
|
||||||
|
Stand:
|
||||||
|
2025-10-07
|
||||||
|
Bezug:
|
||||||
|
- app/core/retriever.py
|
||||||
|
- app/models/dto.py
|
||||||
|
Nutzung:
|
||||||
|
app.include_router(query.router, prefix="/query", tags=["query"])
|
||||||
|
Änderungsverlauf:
|
||||||
|
0.1.0 (2025-10-07) – Erstanlage.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
from fastapi import APIRouter, HTTPException
|
||||||
|
from app.models.dto import QueryRequest, QueryResponse
|
||||||
|
from app.core.retriever import hybrid_retrieve, semantic_retrieve
|
||||||
|
|
||||||
|
router = APIRouter()
|
||||||
|
|
||||||
|
@router.post("", response_model=QueryResponse)
|
||||||
|
def post_query(req: QueryRequest) -> QueryResponse:
|
||||||
|
try:
|
||||||
|
if req.mode == "semantic":
|
||||||
|
return semantic_retrieve(req)
|
||||||
|
# default: hybrid
|
||||||
|
return hybrid_retrieve(req)
|
||||||
|
except ValueError as e:
|
||||||
|
raise HTTPException(status_code=400, detail=str(e))
|
||||||
|
except Exception as e:
|
||||||
|
raise HTTPException(status_code=500, detail=f"query failed: {e}")
|
||||||
@@ -0,0 +1,84 @@
|
|||||||
|
"""
|
||||||
|
app/routers/tools.py — Tool-Definitionen für Ollama/n8n/MCP (read-only)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Liefert Funktions-Schemas (OpenAI-/Ollama-kompatibles Tool-JSON) für:
|
||||||
|
- mindnet_query -> POST /query
|
||||||
|
- mindnet_subgraph -> GET /graph/{note_id}
|
||||||
|
Kompatibilität:
|
||||||
|
Python 3.12+, FastAPI 0.110+
|
||||||
|
Version:
|
||||||
|
0.1.1 (query ODER query_vector möglich)
|
||||||
|
Stand:
|
||||||
|
2025-10-07
|
||||||
|
Nutzung:
|
||||||
|
app.include_router(tools.router, prefix="/tools", tags=["tools"])
|
||||||
|
Änderungsverlauf:
|
||||||
|
0.1.1 (2025-10-07) – mindnet_query: oneOf(query, query_vector).
|
||||||
|
0.1.0 (2025-10-07) – Erstanlage.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
from fastapi import APIRouter
|
||||||
|
|
||||||
|
router = APIRouter()
|
||||||
|
|
||||||
|
TOOLS = {
|
||||||
|
"tools": [
|
||||||
|
{
|
||||||
|
"type": "function",
|
||||||
|
"function": {
|
||||||
|
"name": "mindnet_query",
|
||||||
|
"description": "Hybrid-Retrieval über mindnet (Semantik + Edges).",
|
||||||
|
"parameters": {
|
||||||
|
"type": "object",
|
||||||
|
"oneOf": [
|
||||||
|
{"required": ["query"]},
|
||||||
|
{"required": ["query_vector"]}
|
||||||
|
],
|
||||||
|
"properties": {
|
||||||
|
"query": {
|
||||||
|
"type": "string",
|
||||||
|
"description": "Freitext-Query; wird serverseitig in 384-d Embedding konvertiert."
|
||||||
|
},
|
||||||
|
"query_vector": {
|
||||||
|
"type": "array",
|
||||||
|
"items": {"type": "number"},
|
||||||
|
"description": "Direkter 384-d Query-Vektor (optional)."
|
||||||
|
},
|
||||||
|
"top_k": {"type":"integer","default":10,"minimum":1,"maximum":50},
|
||||||
|
"expand_depth": {"type":"integer","default":1,"minimum":0,"maximum":3},
|
||||||
|
"edge_types": {
|
||||||
|
"type":"array","items":{"type":"string"},
|
||||||
|
"default": ["references","belongs_to","prev","next"]
|
||||||
|
},
|
||||||
|
"filters": {"type":"object","description":"payload-Filter (tags etc.)"}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "function",
|
||||||
|
"function": {
|
||||||
|
"name": "mindnet_subgraph",
|
||||||
|
"description": "Gibt die Nachbarschaft (Edges) einer Note/Seed-ID zurück.",
|
||||||
|
"parameters": {
|
||||||
|
"type":"object",
|
||||||
|
"properties": {
|
||||||
|
"note_id":{"type":"string"},
|
||||||
|
"depth":{"type":"integer","default":1,"minimum":0,"maximum":3},
|
||||||
|
"edge_types":{
|
||||||
|
"type":"array","items":{"type":"string"},
|
||||||
|
"default":["references","belongs_to","prev","next","backlink"]
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"required":["note_id"]
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
]
|
||||||
|
}
|
||||||
|
|
||||||
|
@router.get("/ollama")
|
||||||
|
def get_ollama_tools():
|
||||||
|
return TOOLS
|
||||||
@@ -0,0 +1,46 @@
|
|||||||
|
"""
|
||||||
|
app/services/embeddings_client.py — Text→Embedding (WP-04)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Liefert 384-d Embeddings für Textqueries (lazy load, einmal pro Prozess).
|
||||||
|
Standard: Sentence-Transformers (MODEL_NAME aus app.config.Settings).
|
||||||
|
Hinweis: Kein Netz-Zugriff; nutzt lokal installierte Modelle.
|
||||||
|
Kompatibilität:
|
||||||
|
Python 3.12+, sentence-transformers 5.x
|
||||||
|
Version:
|
||||||
|
0.1.0 (Erstanlage)
|
||||||
|
Stand:
|
||||||
|
2025-10-07
|
||||||
|
Bezug:
|
||||||
|
- app/core/retriever.py (nutzt embed_text_if_needed)
|
||||||
|
- app/config.py (MODEL_NAME, VECTOR_SIZE)
|
||||||
|
Nutzung:
|
||||||
|
from app.services.embeddings_client import embed_text
|
||||||
|
Änderungsverlauf:
|
||||||
|
0.1.0 (2025-10-07) – Erstanlage.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
from typing import List
|
||||||
|
from functools import lru_cache
|
||||||
|
from app.config import get_settings
|
||||||
|
|
||||||
|
# Lazy import, damit Testläufe ohne Modell-Laden schnell sind
|
||||||
|
def _load_model():
|
||||||
|
from sentence_transformers import SentenceTransformer # import hier, nicht top-level
|
||||||
|
s = get_settings()
|
||||||
|
return SentenceTransformer(s.MODEL_NAME, device="cpu")
|
||||||
|
|
||||||
|
@lru_cache(maxsize=1)
|
||||||
|
def _cached_model():
|
||||||
|
return _load_model()
|
||||||
|
|
||||||
|
def embed_text(text: str) -> List[float]:
|
||||||
|
"""
|
||||||
|
Erzeugt einen 384-d Vektor (oder laut Settings.VECTOR_SIZE) für den gegebenen Text.
|
||||||
|
"""
|
||||||
|
if not text or not text.strip():
|
||||||
|
raise ValueError("embed_text: leerer Text")
|
||||||
|
model = _cached_model()
|
||||||
|
vec = model.encode([text], normalize_embeddings=True)[0]
|
||||||
|
return vec.astype(float).tolist()
|
||||||
@@ -0,0 +1,88 @@
|
|||||||
|
"""
|
||||||
|
app/services/llm_ollama.py — Ollama-Integration & Prompt-Bau (WP-04)
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Prompt-Template & (optionaler) lokaler Aufruf von Ollama. Der Aufruf ist
|
||||||
|
bewusst gekapselt und kann gefahrlos deaktiviert bleiben, bis ihr ein
|
||||||
|
konkretes Modell konfigurieren wollt.
|
||||||
|
Kompatibilität:
|
||||||
|
Python 3.12+
|
||||||
|
Version:
|
||||||
|
0.1.0 (Erstanlage)
|
||||||
|
Stand:
|
||||||
|
2025-10-07
|
||||||
|
Bezug:
|
||||||
|
WP-04/05 Kontextbereitstellung für LLM
|
||||||
|
Nutzung:
|
||||||
|
from app.services.llm_ollama import build_prompt, call_ollama
|
||||||
|
Änderungsverlauf:
|
||||||
|
0.1.0 (2025-10-07) – Erstanlage.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
from typing import List, Dict, Optional
|
||||||
|
import subprocess
|
||||||
|
import json
|
||||||
|
|
||||||
|
PROMPT_TEMPLATE = """System: You are a helpful expert.
|
||||||
|
User: {question}
|
||||||
|
|
||||||
|
Context (ranked):
|
||||||
|
{contexts}
|
||||||
|
|
||||||
|
Task: Answer precisely. At the end, list sources (note title + section) and important edge paths.
|
||||||
|
"""
|
||||||
|
|
||||||
|
|
||||||
|
def build_context_block(items: List[Dict]) -> str:
|
||||||
|
"""Formatiert Top-K-Kontexte (Chunks) für den Prompt."""
|
||||||
|
lines = []
|
||||||
|
for i, it in enumerate(items, 1):
|
||||||
|
note = it.get("note_title", "") or it.get("note_id", "")
|
||||||
|
sec = it.get("section", "") or it.get("section_title", "")
|
||||||
|
sc = it.get("score", 0)
|
||||||
|
txt = it.get("text", "") or it.get("body", "") or ""
|
||||||
|
lines.append(f"{i}) {note} — {sec} [score={sc:.2f}]\n{txt}\n")
|
||||||
|
return "\n".join(lines)
|
||||||
|
|
||||||
|
|
||||||
|
def build_prompt(question: str, contexts: List[Dict]) -> str:
|
||||||
|
"""Setzt Frage + Kontexte in ein konsistentes Template."""
|
||||||
|
return PROMPT_TEMPLATE.format(question=question, contexts=build_context_block(contexts))
|
||||||
|
|
||||||
|
|
||||||
|
def call_ollama(prompt: str, model: str = "llama3.1:8b", timeout_s: int = 120) -> Optional[str]:
|
||||||
|
"""
|
||||||
|
Optionaler lokaler Aufruf von `ollama run`.
|
||||||
|
Rückgabe: generierter Text oder None bei Fehler/Abbruch.
|
||||||
|
Hinweis: Nur nutzen, wenn Ollama lokal installiert/konfiguriert ist.
|
||||||
|
"""
|
||||||
|
try:
|
||||||
|
proc = subprocess.run(
|
||||||
|
["ollama", "run", model],
|
||||||
|
input=prompt.encode("utf-8"),
|
||||||
|
stdout=subprocess.PIPE,
|
||||||
|
stderr=subprocess.PIPE,
|
||||||
|
timeout=timeout_s,
|
||||||
|
check=False,
|
||||||
|
)
|
||||||
|
out = proc.stdout.decode("utf-8", errors="replace")
|
||||||
|
# viele ollama Builds streamen JSON-Zeilen; robust extrahieren:
|
||||||
|
try:
|
||||||
|
# Falls JSONL, letztes "response" zusammenfassen
|
||||||
|
texts = []
|
||||||
|
for line in out.splitlines():
|
||||||
|
line = line.strip()
|
||||||
|
if not line:
|
||||||
|
continue
|
||||||
|
try:
|
||||||
|
obj = json.loads(line)
|
||||||
|
if "response" in obj:
|
||||||
|
texts.append(obj["response"])
|
||||||
|
except Exception:
|
||||||
|
texts.append(line)
|
||||||
|
return "".join(texts).strip()
|
||||||
|
except Exception:
|
||||||
|
return out.strip()
|
||||||
|
except Exception:
|
||||||
|
return None
|
||||||
@@ -0,0 +1,24 @@
|
|||||||
|
version: 1.0
|
||||||
|
|
||||||
|
scoring:
|
||||||
|
# W_sem: skaliert den Term (semantic_score * retriever_weight)
|
||||||
|
# Empfehlung Startwert: 1.0 → Semantik bleibt Hauptsignal
|
||||||
|
semantic_weight: 1.0
|
||||||
|
|
||||||
|
# W_edge: skaliert edge_bonus aus dem Subgraph
|
||||||
|
# Empfehlung: 0.7 → Graph ist deutlich spürbar, aber überstimmt Semantik nicht komplett
|
||||||
|
edge_weight: 0.7
|
||||||
|
|
||||||
|
# W_cent: skaliert centrality_bonus (Knoten-Zentralität im Subgraph)
|
||||||
|
# Empfehlung: 0.5 → zentrale Knoten werden bevorzugt, aber moderat
|
||||||
|
centrality_weight: 0.5
|
||||||
|
|
||||||
|
# Optional, für später (aktuell noch nicht ausgewertet, aber als Blaupause):
|
||||||
|
edge_types:
|
||||||
|
references: 0.20
|
||||||
|
depends_on: 0.18
|
||||||
|
related_to: 0.15
|
||||||
|
similar_to: 0.12
|
||||||
|
belongs_to: 0.10
|
||||||
|
next: 0.06
|
||||||
|
prev: 0.06
|
||||||
@@ -0,0 +1,76 @@
|
|||||||
|
version: 1.0
|
||||||
|
|
||||||
|
defaults:
|
||||||
|
retriever_weight: 1.0
|
||||||
|
chunk_profile: default
|
||||||
|
edge_defaults: [] # Leerliste → keine impliziten Kanten, wenn nicht gesetzt
|
||||||
|
|
||||||
|
types:
|
||||||
|
# Wissensbausteine
|
||||||
|
concept:
|
||||||
|
chunk_profile: medium
|
||||||
|
retriever_weight: 0.60
|
||||||
|
edge_defaults: ["references", "related_to"]
|
||||||
|
|
||||||
|
source:
|
||||||
|
chunk_profile: short
|
||||||
|
retriever_weight: 0.50
|
||||||
|
edge_defaults: [] # Quellen sind i. d. R. Ziel von Kanten, erzeugen selbst keine Default-Kanten
|
||||||
|
|
||||||
|
glossary:
|
||||||
|
chunk_profile: short
|
||||||
|
retriever_weight: 0.40
|
||||||
|
edge_defaults: ["related_to"]
|
||||||
|
|
||||||
|
# Person & Persönlichkeit
|
||||||
|
profile: # z. B. "Persönliches Leitbild (Kurzprofil)"
|
||||||
|
chunk_profile: long
|
||||||
|
retriever_weight: 0.66
|
||||||
|
edge_defaults: ["references", "related_to"]
|
||||||
|
|
||||||
|
value: # Werte (z. B. "Mut", "Fairness")
|
||||||
|
chunk_profile: short
|
||||||
|
retriever_weight: 0.90
|
||||||
|
edge_defaults: ["related_to"]
|
||||||
|
|
||||||
|
principle: # Prinzipien/Leitsätze
|
||||||
|
chunk_profile: short
|
||||||
|
retriever_weight: 0.90
|
||||||
|
edge_defaults: ["related_to", "references"]
|
||||||
|
|
||||||
|
experience: # prägende Erlebnisse/Erfahrungen
|
||||||
|
chunk_profile: medium
|
||||||
|
retriever_weight: 0.90
|
||||||
|
edge_defaults: ["related_to", "references"]
|
||||||
|
|
||||||
|
# Ziele, Entscheidungen, Meilensteine
|
||||||
|
goal:
|
||||||
|
chunk_profile: medium
|
||||||
|
retriever_weight: 0.90
|
||||||
|
edge_defaults: ["depends_on", "related_to", "references"]
|
||||||
|
|
||||||
|
decision:
|
||||||
|
chunk_profile: short
|
||||||
|
retriever_weight: 0.90
|
||||||
|
edge_defaults: ["depends_on", "references", "related_to"] # „Worauf stützte sich die Entscheidung?“
|
||||||
|
|
||||||
|
milestone:
|
||||||
|
chunk_profile: short
|
||||||
|
retriever_weight: 0.70
|
||||||
|
edge_defaults: ["related_to", "references"]
|
||||||
|
|
||||||
|
# Operativ: Projekte, Aufgaben, Journal
|
||||||
|
project:
|
||||||
|
chunk_profile: long
|
||||||
|
retriever_weight: 0.97
|
||||||
|
edge_defaults: ["references", "depends_on"] # Projekt stützt sich auf Konzepte/Quellen und hängt von Bausteinen ab
|
||||||
|
|
||||||
|
task:
|
||||||
|
chunk_profile: short
|
||||||
|
retriever_weight: 0.80
|
||||||
|
edge_defaults: ["depends_on", "references"]
|
||||||
|
|
||||||
|
journal:
|
||||||
|
chunk_profile: medium
|
||||||
|
retriever_weight: 0.80
|
||||||
|
edge_defaults: ["references", "related_to"]
|
||||||
@@ -0,0 +1,21 @@
|
|||||||
|
# Changelog — WP-03 Type-Registry (2025-11-08)
|
||||||
|
|
||||||
|
## Added
|
||||||
|
- `app/core/type_registry.py` — Loader & Helper (cached), robust Fallbacks.
|
||||||
|
- `config/types.yaml` — Beispiel-Registry (version 1.0).
|
||||||
|
- `scripts/import_markdown.py` v3.8.0 — Registry-Integration:
|
||||||
|
- typvalidierung (unbekannt → `concept`, Warnung)
|
||||||
|
- `chunk_profile` → an `make_chunk_payloads(...)`
|
||||||
|
- `retriever_weight` → persistiert im Note-Payload
|
||||||
|
- `edge_defaults["references"]` schaltet Note-Scope-Refs additiv ein
|
||||||
|
- `app/core/chunk_payload.py` v2.3.0 — optionales `chunk_profile` für
|
||||||
|
synthetische Overlaps (keine Schemaänderung).
|
||||||
|
- `app/core/derive_edges.py` v1.5.0 — Type-Registry aktiviert note-scope
|
||||||
|
References/Backlinks additiv.
|
||||||
|
|
||||||
|
## Changed
|
||||||
|
- Keine Breaking Changes. Alle CLI-Flags, ENV-Variablen und Collection-
|
||||||
|
Prefix-Logik bleiben unverändert.
|
||||||
|
|
||||||
|
## Removed
|
||||||
|
- N/A
|
||||||
@@ -0,0 +1,214 @@
|
|||||||
|
# mindnet v2.2 – Knowledge Design Manual
|
||||||
|
**Datei:** `docs/mindnet_knowledge_design_manual_v2.2.md`
|
||||||
|
**Stand:** 2025-12-07
|
||||||
|
**Status:** **FINAL** (Konsolidiert aus WP01–WP04a)
|
||||||
|
**Quellen:** `knowledge_design.md`, `TYPE_REGISTRY_MANUAL.md`, `chunking_strategy.md`, `mindnet_functional_architecture.md`, `WP03/WP04 Hinweise`.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1. Zweck & Scope
|
||||||
|
|
||||||
|
Dieses Handbuch ist die **primäre Arbeitsanweisung** für dich als Mindmaster (Owner) und alle Autoren, die Inhalte im mindnet-Vault erstellen.
|
||||||
|
|
||||||
|
### 1.1 Zielsetzung
|
||||||
|
Mindnet ist mehr als eine Dokumentablage. Es ist ein vernetztes System, das deine Persönlichkeit, Entscheidungen und Erfahrungen abbildet. Damit der **Retriever** (die Suchmaschine) und spätere **KI-Agenten** dieses Wissen nutzen können, müssen Notizen einer klaren Struktur folgen.
|
||||||
|
|
||||||
|
### 1.2 Der Vault als „Source of Truth“
|
||||||
|
Die Markdown-Dateien in deinem Vault sind die **einzige Quelle der Wahrheit**.
|
||||||
|
* Mindnet importiert diesen Zustand deterministisch in die Datenbank (Qdrant).
|
||||||
|
* Änderungen an IDs, Typen oder Inhalten müssen **immer** im Markdown erfolgen, niemals direkt in der Datenbank.
|
||||||
|
* Was nicht im Markdown steht (z. B. implizites Wissen im Kopf), existiert für das System nicht.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Note-Struktur & Frontmatter
|
||||||
|
|
||||||
|
Jede Notiz benötigt einen YAML-Header (Frontmatter) am Dateianfang. Dieser Block macht die Notiz maschinenlesbar.
|
||||||
|
|
||||||
|
### 2.1 Pflichtfelder
|
||||||
|
Jede Datei muss mindestens folgende Felder enthalten, um korrekt verarbeitet zu werden:
|
||||||
|
|
||||||
|
---
|
||||||
|
id: 20251110-projekt-alpha-8a9b2c # Eindeutige Kennung
|
||||||
|
title: Projekt Alpha # Sprechender Titel (wird in Suchergebnissen angezeigt)
|
||||||
|
type: project # Steuert Verarbeitung & Vernetzung (siehe Kap. 3)
|
||||||
|
status: active # Status (z.B. draft, active, archived)
|
||||||
|
created: 2025-11-10 # Erstellungsdatum (ISO 8601 oder YYYY-MM-DD)
|
||||||
|
updated: 2025-12-07 # Letzte Änderung
|
||||||
|
tags: [ki, entwicklung] # Taxonomie für Filterung
|
||||||
|
---
|
||||||
|
|
||||||
|
### 2.2 Optionale Felder
|
||||||
|
Diese Felder sind technisch nicht zwingend, aber für bestimmte Typen sinnvoll:
|
||||||
|
|
||||||
|
lang: de # Sprache (Default: de)
|
||||||
|
aliases: [Alpha Projekt, Project A] # Synonyme für die Suche
|
||||||
|
visibility: internal # internal (default), public, private
|
||||||
|
|
||||||
|
> **Hinweis:** Felder wie `retriever_weight` oder `chunk_profile` sollten **nicht** mehr manuell im Frontmatter gesetzt werden. Diese werden zentral über den `type` gesteuert (siehe Kap. 3).
|
||||||
|
|
||||||
|
### 2.3 Empfehlungen für IDs und Pfade
|
||||||
|
|
||||||
|
**Die ID (Identifikator):**
|
||||||
|
* Muss global eindeutig und **stabil** sein.
|
||||||
|
* Darf sich nicht ändern, wenn die Datei umbenannt oder verschoben wird.
|
||||||
|
* **Empfehlung:** `YYYYMMDD-slug-hash` (z. B. `20231027-vektor-db-a1b2`). Dies garantiert Eindeutigkeit und Chronologie.
|
||||||
|
|
||||||
|
**Dateinamen & Pfade:**
|
||||||
|
* Pfade dienen der menschlichen Ordnung (Ordnerstruktur), sind für Mindnet aber sekundär.
|
||||||
|
* Dateinamen sollten dem Titel entsprechen (`Projekt Alpha.md`) oder dem Slug (`projekt-alpha.md`).
|
||||||
|
* Sonderzeichen vermeiden (außer Bindestrich und Unterstrich).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Note-Typen & Typ-Registry
|
||||||
|
|
||||||
|
Der `type` ist der wichtigste Hebel im Knowledge Design. Er verknüpft die Notiz mit der Konfiguration in `config/types.yaml`.
|
||||||
|
|
||||||
|
### 3.1 Übersicht der Kern-Typen
|
||||||
|
|
||||||
|
Mindnet unterscheidet verschiedene Wissensarten. Wähle den Typ, der die **Rolle** der Notiz am besten beschreibt:
|
||||||
|
|
||||||
|
| Typ | Beschreibung & Einsatzzweck |
|
||||||
|
| :--- | :--- |
|
||||||
|
| **`concept`** | Fachbegriffe, Theorien, Modelle. Zeitloses Wissen. (z. B. "Vektordatenbank") |
|
||||||
|
| **`project`** | Ein Vorhaben mit Ziel, Dauer und Aufgaben. (z. B. "Aufbau Homelab") |
|
||||||
|
| **`experience`** | Persönliche Erfahrung, Lektion oder Erkenntnis. (z. B. "Learning: Docker Networking") |
|
||||||
|
| **`decision`** | Eine bewusst getroffene Entscheidung inkl. Alternativen und Begründung. (z. B. "ADR-001: Nutzung von Qdrant") |
|
||||||
|
| **`value`** | Ein persönlicher Wert oder ein Prinzip. (z. B. "Datensparsamkeit") |
|
||||||
|
| **`person`** | Eine reale Person (Netzwerk, Autor). |
|
||||||
|
| **`event`** | Ein Ereignis (Konferenz, Meeting). |
|
||||||
|
| **`journal`** | Zeitbezogener Log-Eintrag, Daily Note. |
|
||||||
|
| **`source`** | Externe Quelle (Buch, PDF, Artikel), die exzerpiert wird. |
|
||||||
|
|
||||||
|
### 3.2 Zusammenspiel mit `types.yaml`
|
||||||
|
|
||||||
|
Der `type` steuert im Hintergrund drei technische Mechanismen:
|
||||||
|
|
||||||
|
1. **`retriever_weight` (Wichtigkeit):**
|
||||||
|
* Ein `concept` (0.6) wiegt weniger als ein `project` (0.97) oder eine `decision` (1.0).
|
||||||
|
* Ziel: Mindnet soll bei Fragen eher *deine Entscheidungen* und *Projekte* finden als reine Definitionen.
|
||||||
|
2. **`chunk_profile` (Textzerlegung):**
|
||||||
|
* `journal` (short): Wird fein zerlegt, da sich Themen schnell ändern.
|
||||||
|
* `concept` (medium): Standard-Absätze.
|
||||||
|
* `project` (long): Längere Kontext-Fenster, um Zusammenhänge zu wahren.
|
||||||
|
3. **`edge_defaults` (Automatische Vernetzung):**
|
||||||
|
* Mindnet ergänzt automatisch Kanten.
|
||||||
|
* Beispiel: Ein Link in einem `project` wird automatisch als `depends_on` (Abhängigkeit) interpretiert, sofern nicht anders angegeben.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Edges & Referenzen in Notes
|
||||||
|
|
||||||
|
Um aus isolierten Dateien ein **Netzwerk** zu machen, nutzen wir Verlinkungen. Mindnet v2.2 (WP03) bietet hierfür präzise Werkzeuge.
|
||||||
|
|
||||||
|
### 4.1 Wikilinks (Die Basis-Referenz)
|
||||||
|
Der klassische Obsidian-Link.
|
||||||
|
|
||||||
|
Wir nutzen [[Qdrant]] als Vektordatenbank.
|
||||||
|
|
||||||
|
* **Bedeutung:** "Diese Notiz erwähnt Qdrant."
|
||||||
|
* **Edge-Typ:** `references`
|
||||||
|
* **Confidence:** 1.0
|
||||||
|
|
||||||
|
### 4.2 Inline-Relationen (Semantische Verknüpfung)
|
||||||
|
Wenn du ausdrücken willst, **wie** Dinge zusammenhängen. Dies ist essenziell für die Erklärbarkeit ("Warum ist das relevant?").
|
||||||
|
|
||||||
|
Daher [[rel:depends_on Qdrant]].
|
||||||
|
Dieses Konzept ist [[rel:similar_to Pinecone]].
|
||||||
|
|
||||||
|
* **Syntax:** `[[rel:RELATION ZIEL]]`. (Wichtig: Das `rel:` Präfix steht *innerhalb* der Klammer).
|
||||||
|
* **Gültige Relationen:**
|
||||||
|
* `depends_on`: Hängt ab von / Benötigt.
|
||||||
|
* `similar_to`: Ähnelt / Ist vergleichbar mit.
|
||||||
|
* `related_to`: Hat zu tun mit (allgemein).
|
||||||
|
* `caused_by`: Wurde verursacht durch.
|
||||||
|
* `solves`: Löst (Problem).
|
||||||
|
* `implements`: Setzt um (Konzept).
|
||||||
|
* **Nicht unterstützt:** `rel: depends_on [[Ziel]]` (alte Syntax, funktioniert nicht mehr!).
|
||||||
|
|
||||||
|
### 4.3 Callout-Edges (Kuratierte Listen)
|
||||||
|
Für Zusammenfassungen oder "Siehe auch"-Blöcke am Ende einer Notiz, die nicht im Fließtext stehen sollen.
|
||||||
|
|
||||||
|
> [!edge] related_to: [[Vector Embeddings]] [[AI Agents]]
|
||||||
|
|
||||||
|
* **Funktion:** Erzeugt `related_to`-Kanten zu allen genannten Zielen in dieser Zeile.
|
||||||
|
* **Nutzen:** Erlaubt schnelle Listenpflege ohne den Textfluss zu stören.
|
||||||
|
|
||||||
|
### 4.4 Strukturkanten (Automatisch)
|
||||||
|
Diese musst du nicht schreiben, sie entstehen automatisch:
|
||||||
|
* `belongs_to`: Verknüpft jeden Textabschnitt (Chunk) mit seiner Ursprungsnotiz.
|
||||||
|
* `next` / `prev`: Verknüpft Absätze in Lesereihenfolge (ermöglicht Agenten das "Weiterlesen").
|
||||||
|
* `has_part` / `part_of`: (Zukünftig) Basierend auf Ordnerstrukturen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Best Practices & Beispiele
|
||||||
|
|
||||||
|
### 5.1 Beispiel: Projekt-Notiz
|
||||||
|
Projekte profitieren von `depends_on`, um Abhängigkeiten zu klären.
|
||||||
|
|
||||||
|
---
|
||||||
|
id: 20251115-proj-mindnet
|
||||||
|
title: Mindnet Implementierung
|
||||||
|
type: project
|
||||||
|
status: active
|
||||||
|
---
|
||||||
|
|
||||||
|
# Mindnet Implementierung
|
||||||
|
|
||||||
|
Wir bauen ein persönliches Wissensnetz.
|
||||||
|
|
||||||
|
## Tech Stack
|
||||||
|
Wir nutzen [[rel:depends_on Qdrant]] für die Vektorsuche und [[rel:depends_on FastAPI]] für das Backend.
|
||||||
|
|
||||||
|
## Architektur
|
||||||
|
Das Konzept basiert auf [[RAG Architecture]]. (Automatisch 'depends_on' durch Typ-Default).
|
||||||
|
|
||||||
|
### 5.2 Beispiel: Entscheidung (Decision Record)
|
||||||
|
Entscheidungen sind hoch gewichtet (`retriever_weight: 1.0`).
|
||||||
|
|
||||||
|
---
|
||||||
|
id: 20251120-adr-vektordb
|
||||||
|
title: ADR: Wahl von Qdrant
|
||||||
|
type: decision
|
||||||
|
status: final
|
||||||
|
tags: [architektur, db]
|
||||||
|
---
|
||||||
|
|
||||||
|
# Entscheidung: Qdrant
|
||||||
|
|
||||||
|
Wir haben uns für Qdrant entschieden.
|
||||||
|
|
||||||
|
## Alternativen
|
||||||
|
Wir haben auch [[rel:similar_to Pinecone]] und [[rel:similar_to Weaviate]] betrachtet.
|
||||||
|
|
||||||
|
## Begründung
|
||||||
|
Qdrant erlaubt lokalen Betrieb und [[rel:solves Payload Filtering Requirements]].
|
||||||
|
|
||||||
|
### 5.3 Typische Anti-Patterns (Bitte vermeiden!)
|
||||||
|
|
||||||
|
1. **Der "Alles"-Zettel:** Eine Notiz "Ideen 2025", die 50 verschiedene Themen enthält.
|
||||||
|
* *Besser:* Atomare Notizen ("Idee A", "Idee B") erstellen und verlinken.
|
||||||
|
2. **Manuelle Gewichtung:** `retriever_weight: 0.9` im Frontmatter setzen.
|
||||||
|
* *Problem:* Wenn du das System tunen willst, musst du hunderte Dateien ändern.
|
||||||
|
* *Besser:* Den `type` korrekt setzen und das Gewicht zentral in `types.yaml` steuern.
|
||||||
|
3. **Link-Wüsten:** Eine Notiz, die nur aus einer Liste von 100 Links besteht ohne Text.
|
||||||
|
* *Problem:* Der Vektor-Sucher findet keinen kontextuellen "Anker" (Text).
|
||||||
|
* *Besser:* Kurze Beschreibung zu jedem Link hinzufügen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Langfristige Stabilität & Virtual Schema Layer
|
||||||
|
|
||||||
|
Mindnet ist auf Langlebigkeit ausgelegt.
|
||||||
|
|
||||||
|
### 6.1 Das "Virtual Schema" Prinzip
|
||||||
|
Wir vermeiden es, Logik in den Markdown-Dateien hart zu kodieren.
|
||||||
|
* Statt in jeder Notiz zu schreiben `chunk_size: 500`, schreiben wir nur `type: essay`.
|
||||||
|
* Wie groß ein Chunk für ein Essay ist, definieren wir in der Konfiguration (`types.yaml`).
|
||||||
|
|
||||||
|
### 6.2 Was bedeutet das für dich?
|
||||||
|
* Du kannst dich auf den Inhalt konzentrieren.
|
||||||
|
* Wenn wir in Zukunft entscheiden, dass "Projekte" stärker gewichtet werden sollen, ändern wir **eine Zeile** in der Konfiguration, und das gesamte System passt sich beim nächsten Import an.
|
||||||
|
* Deine Notizen bleiben sauber und zukunftssicher.
|
||||||
@@ -0,0 +1,74 @@
|
|||||||
|
# Kurzhandbuch — Type-Registry (WP-03)
|
||||||
|
|
||||||
|
## Zweck
|
||||||
|
Die Type-Registry macht den `type:`-Wert im Frontmatter maschinenlesbar
|
||||||
|
und steuert:
|
||||||
|
- Chunk-Profile (indirekt über Overlap bei fensterlosen Chunks),
|
||||||
|
- typabhängige Default-Kanten (hier: Aktivierung von Note-Scope-References),
|
||||||
|
- optionale Retriever-Gewichtungen (`retriever_weight`) für WP‑04.
|
||||||
|
|
||||||
|
## Aktivierung
|
||||||
|
1. Legen Sie `config/types.yaml` an (siehe Beispiel in diesem Paket).
|
||||||
|
2. Starten Sie Import/Server neu. Die Registry wird beim Prozessstart
|
||||||
|
geladen und gecached.
|
||||||
|
|
||||||
|
Fehlt die Datei oder ist sie defekt, bleibt das System voll funktionsfähig
|
||||||
|
(der Typ `concept` wird genutzt; Warnhinweis im Log).
|
||||||
|
|
||||||
|
## Schema (Beispiel)
|
||||||
|
```yaml
|
||||||
|
version: 1.0
|
||||||
|
types:
|
||||||
|
concept:
|
||||||
|
chunk_profile: long
|
||||||
|
edge_defaults: ["references", "related_to"]
|
||||||
|
retriever_weight: 1.0
|
||||||
|
task:
|
||||||
|
chunk_profile: short
|
||||||
|
edge_defaults: ["depends_on", "belongs_to"]
|
||||||
|
retriever_weight: 0.8
|
||||||
|
experience:
|
||||||
|
chunk_profile: medium
|
||||||
|
edge_defaults: ["derived_from", "inspired_by"]
|
||||||
|
retriever_weight: 0.9
|
||||||
|
project:
|
||||||
|
chunk_profile: medium
|
||||||
|
edge_defaults: ["references", "depends_on"]
|
||||||
|
retriever_weight: 0.95
|
||||||
|
```
|
||||||
|
|
||||||
|
## Verhalten
|
||||||
|
- **Chunking**: Die eigentliche Chunk-Länge bleibt weiterhin typabhängig über
|
||||||
|
`chunk_config.get_sizes(type)` gesteuert. Falls der Chunker keine Fenster
|
||||||
|
mit Overlap liefert, werden in `chunk_payload` synthetische Fenster erzeugt.
|
||||||
|
Hier greift das `chunk_profile` mit folgenden Overlap-Empfehlungen:
|
||||||
|
- short → (20,30), medium → (40,60), long → (60,80).
|
||||||
|
- **Edges**: Enthält `edge_defaults` den Eintrag `references`, werden Note-
|
||||||
|
Scope-References/Backlinks additiv aktiviert (kein Abbruch, keine Duplikate).
|
||||||
|
Weitere Kantenarten bleiben unverändert.
|
||||||
|
- **Retriever**: `retriever_weight` wird in der Note gespeichert und kann von
|
||||||
|
WP‑04 im Ranking/Scoring berücksichtigt werden.
|
||||||
|
|
||||||
|
## Tests / Validierung
|
||||||
|
- Dry-Run:
|
||||||
|
```bash
|
||||||
|
python3 -m scripts.import_markdown --vault ./test_vault
|
||||||
|
```
|
||||||
|
- Vollimport + Purge:
|
||||||
|
```bash
|
||||||
|
python3 -m scripts.import_markdown --vault ./test_vault --apply --purge-before-upsert --prefix "$COLLECTION_PREFIX"
|
||||||
|
```
|
||||||
|
- Chunks-Qualität (Window vs Text):
|
||||||
|
```bash
|
||||||
|
python3 tests/check_chunks_window_vs_text.py --prefix "$COLLECTION_PREFIX"
|
||||||
|
```
|
||||||
|
- Roundtrip:
|
||||||
|
```bash
|
||||||
|
python3 -m scripts.export_markdown --out ./_exportVault --prefix "$COLLECTION_PREFIX"
|
||||||
|
python3 tests/compare_vaults.py --src ./test_vault --dst ./_exportVault --focus body
|
||||||
|
```
|
||||||
|
|
||||||
|
## Fallbacks & Robustheit
|
||||||
|
- Registry nicht vorhanden/ungültig → `concept`, Warnung, keine Abbrüche.
|
||||||
|
- Alle bestehenden ENV/Flags bleiben identisch.
|
||||||
|
- Keine Änderungen an Punkt-IDs, Feldern oder Vektoren.
|
||||||
@@ -0,0 +1,190 @@
|
|||||||
|
# Mindnet v2.2 – Admin Guide
|
||||||
|
**Datei:** `docs/mindnet_admin_guide_v2.2.md`
|
||||||
|
**Stand:** 2025-12-07
|
||||||
|
**Status:** **FINAL** (Konsolidiert WP02–WP04a)
|
||||||
|
**Quellen:** `Handbuch.md`, `mindnet_v2_implementation_playbook.md`, `mindnet_technical_architecture.md`, `Programmplan_V2.2.md`.
|
||||||
|
|
||||||
|
> Dieses Handbuch richtet sich an **Administratoren**. Es beschreibt Installation, Konfiguration, Backup-Strategien, Monitoring und den sicheren Betrieb der Mindnet-Instanz.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1. Zielgruppe & Scope
|
||||||
|
|
||||||
|
Mindnet ist als **Single-Node System** konzipiert, das lokal (z.B. Laptop) oder auf einem privaten Server (Homelab, Intranet) läuft.
|
||||||
|
Als Admin bist du verantwortlich für:
|
||||||
|
* Die Verfügbarkeit der Dienste (Qdrant, API).
|
||||||
|
* Die Datensicherheit (Backups).
|
||||||
|
* Die Integrität des Imports (Sync zwischen Vault und DB).
|
||||||
|
* Die Governance (wer darf zugreifen).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Initial Setup
|
||||||
|
|
||||||
|
### 2.1 Systemvoraussetzungen
|
||||||
|
* **OS:** Linux (Ubuntu 22.04+ empfohlen) oder macOS.
|
||||||
|
* **Runtime:** Python 3.10+, Docker (für Qdrant).
|
||||||
|
* **Hardware:**
|
||||||
|
* CPU: 2+ Cores.
|
||||||
|
* RAM: Min. 4GB (abhängig von der Vault-Größe und Qdrant-Index).
|
||||||
|
* Disk: SSD empfohlen für Qdrant-Performance.
|
||||||
|
|
||||||
|
### 2.2 Installation
|
||||||
|
# 1. Repository klonen
|
||||||
|
git clone <repo-url> /opt/mindnet
|
||||||
|
cd /opt/mindnet
|
||||||
|
|
||||||
|
# 2. Umgebung einrichten
|
||||||
|
python3 -m venv .venv
|
||||||
|
source .venv/bin/activate
|
||||||
|
pip install -r requirements.txt
|
||||||
|
|
||||||
|
# 3. Verzeichnisse anlegen
|
||||||
|
mkdir -p logs qdrant_storage
|
||||||
|
|
||||||
|
### 2.3 Qdrant Setup (Docker)
|
||||||
|
Wir nutzen Qdrant als Vektor-Datenbank. Persistenz ist wichtig.
|
||||||
|
docker run -d \
|
||||||
|
--name mindnet_qdrant \
|
||||||
|
--restart always \
|
||||||
|
-p 6333:6333 \
|
||||||
|
-v $(pwd)/qdrant_storage:/qdrant/storage \
|
||||||
|
qdrant/qdrant
|
||||||
|
|
||||||
|
### 2.4 Konfiguration (ENV)
|
||||||
|
Erstelle eine `.env` Datei im Root-Verzeichnis. Diese Variablen steuern das Verhalten der Skripte und der API.
|
||||||
|
|
||||||
|
# Qdrant Verbindung
|
||||||
|
QDRANT_URL="http://localhost:6333"
|
||||||
|
QDRANT_API_KEY="" # Leer lassen für lokale Instanzen ohne Auth
|
||||||
|
|
||||||
|
# Mindnet Core Settings
|
||||||
|
COLLECTION_PREFIX="mindnet"
|
||||||
|
MINDNET_TYPES_FILE="./config/types.yaml"
|
||||||
|
MINDNET_RETRIEVER_CONFIG="./config/retriever.yaml"
|
||||||
|
|
||||||
|
# Embedding Settings (Default: all-MiniLM-L6-v2)
|
||||||
|
VECTOR_DIM=384
|
||||||
|
|
||||||
|
# Import-Strategie (Performance vs. Gründlichkeit)
|
||||||
|
# Body: Nur Textänderungen triggern Update (Standard)
|
||||||
|
# Full: Auch Frontmatter-Änderungen (z.B. Tags) triggern Update
|
||||||
|
MINDNET_HASH_COMPARE="Body"
|
||||||
|
MINDNET_HASH_SOURCE="parsed"
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Betrieb im Alltag
|
||||||
|
|
||||||
|
### 3.1 Regelmäßige Importe
|
||||||
|
Der Vault-Zustand sollte regelmäßig (z.B. stündlich per Cronjob oder Trigger) nach Qdrant synchronisiert werden. Das Skript erkennt Änderungen automatisch.
|
||||||
|
|
||||||
|
**Cronjob-Beispiel (stündlich):**
|
||||||
|
0 * * * * cd /opt/mindnet && .venv/bin/python3 -m scripts.import_markdown --vault /path/to/vault --prefix "mindnet" --apply --purge-before-upsert --sync-deletes >> ./logs/import.log 2>&1
|
||||||
|
|
||||||
|
* `--purge-before-upsert`: Wichtig, um Fragmente gelöschter Textstellen zu entfernen.
|
||||||
|
* `--sync-deletes`: Wichtig, um Notizen aus dem Index zu entfernen, die im Vault gelöscht wurden.
|
||||||
|
|
||||||
|
### 3.2 Health-Checks
|
||||||
|
Prüfe regelmäßig, ob die API und der Retriever korrekt arbeiten.
|
||||||
|
|
||||||
|
**API Status Check:**
|
||||||
|
curl -f http://localhost:8000/health || echo "API Down"
|
||||||
|
|
||||||
|
**Logischer Smoke-Test:**
|
||||||
|
Führt eine echte Hybrid-Suche durch und prüft, ob Scores berechnet werden.
|
||||||
|
python3 scripts/test_retriever_smoke.py --mode hybrid
|
||||||
|
|
||||||
|
### 3.3 Umgang mit Fehlern im Importer
|
||||||
|
Falls der Importer abbricht oder Dateien ignoriert:
|
||||||
|
|
||||||
|
1. **Diagnose:** Nutze `scripts/diagnose_changed.py`, um zu sehen, warum eine Datei als "unchanged" gilt.
|
||||||
|
python3 -m scripts.diagnose_changed --vault ./vault --note-id "MeineProblemnote"
|
||||||
|
2. **Schema-Validierung:** Prüfe mit `scripts/payload_dryrun.py`, ob eine spezifische Datei das JSON-Schema verletzt.
|
||||||
|
3. **Erzwingen:** Nutze `touch <filename>` im Vault, um den Zeitstempel zu aktualisieren und Hash-Checks zu umgehen, oder nutze `--force` (Vorsicht: Performance).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Update-Prozess
|
||||||
|
|
||||||
|
Wenn neue Versionen der Mindnet-Software (z.B. Schema-Updates in WP05) ausgerollt werden:
|
||||||
|
|
||||||
|
1. **Code aktualisieren:**
|
||||||
|
git pull origin main
|
||||||
|
2. **Dependencies prüfen:**
|
||||||
|
pip install -r requirements.txt
|
||||||
|
3. **Schema-Migration:**
|
||||||
|
Mindnet nutzt oft "Rebuild" statt komplexer Migrationen, da der Vault die Source of Truth ist.
|
||||||
|
* Prüfe `CHANGELOG.md` auf "Breaking Changes".
|
||||||
|
* Bei Schema-Änderungen: Führe einen **Full Rebuild** durch (siehe 5.3).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Backup & Restore
|
||||||
|
|
||||||
|
Datensicherheit ruht auf zwei Säulen: Dem Vault (Original) und Qdrant (Index).
|
||||||
|
|
||||||
|
### 5.1 Vault-Backup (Priorität 1)
|
||||||
|
Der Markdown-Vault ist die **Single Source of Truth**. Er muss klassisch gesichert werden.
|
||||||
|
* **Strategie:** Git-Repository, rsync auf NAS, oder Cloud-Sync.
|
||||||
|
* **Restore:** Einfach Dateien zurückkopieren und Import laufen lassen.
|
||||||
|
|
||||||
|
### 5.2 Qdrant-Snapshots (Priorität 2)
|
||||||
|
Für schnelle Wiederherstellung des Suchindex ohne stundenlangen Re-Import (bei großen Vaults).
|
||||||
|
|
||||||
|
**Backup erstellen (Volume-Level):**
|
||||||
|
docker stop mindnet_qdrant
|
||||||
|
tar -czf qdrant_backup_$(date +%F).tar.gz ./qdrant_storage
|
||||||
|
docker start mindnet_qdrant
|
||||||
|
|
||||||
|
**Alternativ: API-Snapshot (Zero-Downtime):**
|
||||||
|
Siehe Qdrant Dokumentation (Snapshot API).
|
||||||
|
|
||||||
|
**Restore:**
|
||||||
|
1. Container stoppen.
|
||||||
|
2. Inhalt von `qdrant_storage` löschen.
|
||||||
|
3. Backup entpacken.
|
||||||
|
4. Container starten.
|
||||||
|
|
||||||
|
### 5.3 Notfall-Wiederherstellung (Rebuild)
|
||||||
|
Wenn die Datenbank korrupt ist oder Indizes defekt sind, ist der sauberste Weg ein Rebuild:
|
||||||
|
|
||||||
|
# 1. DB komplett leeren (Wipe)
|
||||||
|
python3 -m scripts.reset_qdrant --mode wipe --prefix "mindnet" --yes
|
||||||
|
|
||||||
|
# 2. Alles neu importieren
|
||||||
|
python3 -m scripts.import_markdown --vault /path/to/vault --prefix "mindnet" --apply
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Monitoring & Logging
|
||||||
|
|
||||||
|
### 6.1 Log-Quellen
|
||||||
|
* **Importer:** Schreibt nach STDOUT/STDERR. Sollte im Cronjob in eine Datei (z.B. `/var/log/mindnet_import.log`) umgeleitet werden.
|
||||||
|
* **API (Uvicorn):** Standard Access-Logs.
|
||||||
|
* **Qdrant:** Docker Logs (`docker logs mindnet_qdrant`).
|
||||||
|
|
||||||
|
### 6.2 Wichtige Metriken (Log-Parsing)
|
||||||
|
Achte in den Import-Logs auf folgende Muster:
|
||||||
|
* `edges_created`: Sollte bei neuen Inhalten > 0 sein.
|
||||||
|
* `chunks_created`: Sollte plausibel zur Anzahl neuer/geänderter Notizen sein.
|
||||||
|
* `unresolved_references`: Ein hoher Anstieg deutet auf tote Links oder Tippfehler im Vault hin.
|
||||||
|
* `ERROR` / `WARNING`: Parsing-Fehler (z.B. ungültiges YAML).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7. Governance & Sicherheit
|
||||||
|
|
||||||
|
### 7.1 Zugriffsschutz
|
||||||
|
Mindnet hat aktuell **keine integrierte Authentifizierung** (By Design für lokalen Betrieb).
|
||||||
|
* **API:** Muss hinter einem Reverse Proxy (Nginx, Traefik, Caddy) mit Basic Auth oder OAuth laufen, wenn sie im Netzwerk freigegeben wird.
|
||||||
|
* **Qdrant:** Sollte nicht öffentlich erreichbar sein (Firewall auf Port 6333, `127.0.0.1` Bindung).
|
||||||
|
|
||||||
|
### 7.2 Datenschutz & Sichtbarkeit
|
||||||
|
* **Interne Nutzung:** Standardmäßig sind alle Inhalte im Index "internal".
|
||||||
|
* **Trennung:** Wenn du öffentliche und private Daten hast, nutze unterschiedliche `COLLECTION_PREFIX` (z.B. `mindnet_public`, `mindnet_private`) und getrennte Import-Jobs/Vault-Ordner, oder warte auf die WP05-ACL-Implementierung (Filterung auf API-Ebene).
|
||||||
|
|
||||||
|
### 7.3 Typen-Governance
|
||||||
|
Änderungen an der `types.yaml` (z.B. neue Gewichte) wirken global.
|
||||||
|
* **Prozess:** Änderungen sollten getestet werden (Smoke-Test), bevor sie produktiv gehen.
|
||||||
|
* **Review:** Prüfe, ob neue Typen (`type: xyz`) auch Chunking-Profile haben, sonst fallen sie auf Defaults zurück.
|
||||||
@@ -0,0 +1,140 @@
|
|||||||
|
# Mindnet v2.2 – Appendices & Referenzen
|
||||||
|
**Datei:** `docs/mindnet_appendices_v2.2.md`
|
||||||
|
**Stand:** 2025-12-07
|
||||||
|
**Status:** **FINAL** (Konsolidiert aus WP01–WP04a)
|
||||||
|
**Quellen:** `TYPE_REGISTRY_MANUAL.md`, `chunking_strategy.md`, `mindnet_technical_architecture.md`, `Handbuch.md`.
|
||||||
|
|
||||||
|
> Dieses Dokument bündelt Tabellen, Schemata und technische Referenzen, die in den Prozess-Dokumenten (Playbook, Guides) den Lesefluss stören würden.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Anhang A: Typ-Registry Referenz (Default-Werte)
|
||||||
|
|
||||||
|
Diese Tabelle zeigt die Standard-Konfiguration der `types.yaml` (Stand v2.2). Diese Werte werden beim Import angewendet, sofern im Frontmatter nichts anderes definiert ist.
|
||||||
|
|
||||||
|
| Typ (`type`) | Chunk Profile | Retriever Weight | Edge Defaults (Auto-Kanten) | Beschreibung |
|
||||||
|
| :--- | :--- | :--- | :--- | :--- |
|
||||||
|
| **concept** | `medium` | 0.60 | `references`, `related_to` | Abstrakte Begriffe, Theorien. |
|
||||||
|
| **project** | `long` | 0.97 | `references`, `depends_on` | Aktive Vorhaben. Hohe Priorität. |
|
||||||
|
| **decision** | `long` | 1.00 | `caused_by`, `references` | Entscheidungen (ADRs). Höchste Prio. |
|
||||||
|
| **experience** | `medium` | 0.90 | `derived_from`, `inspired_by` | Persönliche Learnings. |
|
||||||
|
| **journal** | `short` | 0.80 | `related_to` | Zeitgebundene Logs. Fein granular. |
|
||||||
|
| **person** | `short` | 0.50 | `related_to` | Personen-Profile. |
|
||||||
|
| **source** | `long` | 0.50 | *(keine)* | Externe Quellen (Bücher, PDFs). |
|
||||||
|
| **event** | `short` | 0.60 | `related_to` | Meetings, Konferenzen. |
|
||||||
|
| **default** | `medium` | 1.00 | `references` | Fallback, wenn Typ unbekannt. |
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Anhang B: Edge-Typen & Semantik
|
||||||
|
|
||||||
|
Referenz aller implementierten Kantenarten (`kind`). Die Spalte "Herkunft" zeigt, durch welchen Mechanismus diese Kante primär entsteht.
|
||||||
|
|
||||||
|
| Kind | Herkunft (Primär) | Symmetrisch? | Bedeutung & Nutzung |
|
||||||
|
| :--- | :--- | :--- | :--- |
|
||||||
|
| `references` | Wikilink `[[...]]` | Nein | Standard-Verweis. "Erwähnt X". |
|
||||||
|
| `belongs_to` | Struktur (Auto) | Nein | Verknüpft Chunk mit seiner Note. |
|
||||||
|
| `next` / `prev` | Struktur (Auto) | Ja (Logisch) | Definiert Lesereihenfolge der Chunks. |
|
||||||
|
| `depends_on` | Inline / Default | Nein | Harte Abhängigkeit. "Braucht X um zu funktionieren". |
|
||||||
|
| `related_to` | Callout / Default | Ja (Oft) | Thematische Nähe. "Siehe auch X". |
|
||||||
|
| `similar_to` | Inline | Ja | Inhaltliche Ähnlichkeit. "Ist wie X". |
|
||||||
|
| `caused_by` | Inline | Nein | Kausalität. "X ist der Grund für Y". |
|
||||||
|
| `solves` | Inline | Nein | Lösung. "Tool X löst Problem Y". |
|
||||||
|
| `derived_from` | Default (Exp) | Nein | Herkunft. "Erkenntnis stammt aus Quelle X". |
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Anhang C: Datenmodelle (JSON Payloads)
|
||||||
|
|
||||||
|
Dies sind die Felder, die effektiv in Qdrant gespeichert werden. Dient als Referenz für Entwickler und Debugging (`payload_dryrun`).
|
||||||
|
|
||||||
|
### C.1 Note Payload (`mindnet_notes`)
|
||||||
|
{
|
||||||
|
"note_id": "string (keyword)", // UUIDv5 oder Slug
|
||||||
|
"title": "string (text)", // Titel aus Frontmatter
|
||||||
|
"type": "string (keyword)", // Typ (z.B. 'project')
|
||||||
|
"retriever_weight": "float", // Numerische Wichtigkeit (0.0-1.0)
|
||||||
|
"chunk_profile": "string", // Genutztes Profil (z.B. 'long')
|
||||||
|
"edge_defaults": ["string"], // Liste der aktiven Default-Kanten
|
||||||
|
"tags": ["string"], // Liste von Tags
|
||||||
|
"created": "string (iso-date)", // Erstellungsdatum
|
||||||
|
"updated": "integer", // Timestamp
|
||||||
|
"fulltext": "string (no-index)" // Gesamter Text (für Recovery)
|
||||||
|
}
|
||||||
|
|
||||||
|
### C.2 Chunk Payload (`mindnet_chunks`)
|
||||||
|
{
|
||||||
|
"chunk_id": "string (keyword)", // Format: {note_id}#c{index}
|
||||||
|
"note_id": "string (keyword)", // FK zur Note
|
||||||
|
"text": "string (text)", // Reintext für Anzeige (ohne Overlap)
|
||||||
|
"window": "string (text)", // Text + Overlap (für Embedding)
|
||||||
|
"ord": "integer", // Laufende Nummer (1..N)
|
||||||
|
"retriever_weight": "float", // Kopie aus Note (für Query-Speed)
|
||||||
|
"neighbors_prev": ["string"], // ID des Vorgängers
|
||||||
|
"neighbors_next": ["string"] // ID des Nachfolgers
|
||||||
|
}
|
||||||
|
|
||||||
|
### C.3 Edge Payload (`mindnet_edges`)
|
||||||
|
{
|
||||||
|
"edge_id": "string (keyword)", // Deterministischer Hash
|
||||||
|
"source_id": "string (keyword)", // Chunk-ID (Start)
|
||||||
|
"target_id": "string (keyword)", // Chunk-ID oder Note-Titel (Ziel)
|
||||||
|
"kind": "string (keyword)", // z.B. 'depends_on'
|
||||||
|
"scope": "string (keyword)", // Immer 'chunk' in v2.2
|
||||||
|
"rule_id": "string (keyword)", // Traceability: 'inline:rel', 'explicit:wikilink'
|
||||||
|
"confidence": "float", // 0.0 - 1.0
|
||||||
|
"note_id": "string (keyword)" // Owner Note ID (für Löschung)
|
||||||
|
}
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Anhang D: Environment Variablen
|
||||||
|
|
||||||
|
Diese Variablen steuern das Verhalten der Skripte und Container.
|
||||||
|
|
||||||
|
| Variable | Default | Beschreibung |
|
||||||
|
| :--- | :--- | :--- |
|
||||||
|
| `QDRANT_URL` | `http://localhost:6333` | URL zur Vektor-DB. |
|
||||||
|
| `QDRANT_API_KEY` | *(leer)* | API-Key für Absicherung (optional). |
|
||||||
|
| `COLLECTION_PREFIX` | `mindnet` | Namensraum für Collections (`{prefix}_notes` etc). |
|
||||||
|
| `MINDNET_TYPES_FILE` | `config/types.yaml` | Pfad zur Typ-Registry. |
|
||||||
|
| `MINDNET_RETRIEVER_CONFIG`| `config/retriever.yaml`| Pfad zur Scoring-Konfiguration. |
|
||||||
|
| `MINDNET_HASH_COMPARE` | `Body` | Vergleichsmodus für Import (`Body`, `Frontmatter`, `Full`). |
|
||||||
|
| `MINDNET_HASH_SOURCE` | `parsed` | Quelle für Hash (`parsed`, `raw`, `file`). |
|
||||||
|
| `MINDNET_HASH_NORMALIZE` | `canonical` | Normalisierung vor Hash (`canonical`, `none`). |
|
||||||
|
| `VECTOR_DIM` | `384` | Dimension der Embeddings (Modellabhängig). |
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Anhang E: Glossar
|
||||||
|
|
||||||
|
Zentrale Begriffe des Mindnet-Systems.
|
||||||
|
|
||||||
|
* **Callout-Edge:** Eine Kante, die durch einen Obsidian-Callout Block (`> [!edge]`) definiert wird. Dient für Listen.
|
||||||
|
* **Chunking:** Prozess des Zerlegens einer Notiz in kleinere, semantische Einheiten (Chunks).
|
||||||
|
* **Confidence:** Ein Wert (0.0-1.0), der angibt, wie sicher eine Kante ist. Explizite User-Eingaben haben 1.0, Defaults ~0.7.
|
||||||
|
* **Idempotenz:** Eigenschaft des Importers, bei mehrfacher Ausführung das exakt gleiche Ergebnis zu liefern (keine Duplikate).
|
||||||
|
* **Inline-Edge:** Eine Kante, die im Fließtext mittels `[[rel:type Ziel]]` definiert wird. Semantisch sehr stark.
|
||||||
|
* **Provenance:** Die Herkunft einer Information (z.B. "explicit" vs "rule" vs "inference").
|
||||||
|
* **Retriever:** Die Komponente (FastAPI), die Suchanfragen beantwortet und Scores berechnet.
|
||||||
|
* **Rule ID:** Ein String, der genau identifiziert, welche Code-Regel eine Kante erzeugt hat (z.B. `edge_defaults:project:depends_on`).
|
||||||
|
* **Vault:** Der lokale Ordner mit Markdown-Dateien. Die "Single Source of Truth".
|
||||||
|
* **Vector Search:** Suche basierend auf semantischer Ähnlichkeit (Embeddings) statt reiner Stichworte.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Anhang F: Workpackage Status (v2.2)
|
||||||
|
|
||||||
|
Status der Module gemäß Programmplan.
|
||||||
|
|
||||||
|
| WP | Titel | Status | Anmerkung |
|
||||||
|
| :--- | :--- | :--- | :--- |
|
||||||
|
| **WP01** | Knowledge Design | 🟢 Live | Typen, Frontmatter definiert. |
|
||||||
|
| **WP02** | Chunking Strategy | 🟢 Live | Profilbasiertes Chunking aktiv. |
|
||||||
|
| **WP03** | Edge Logic / Import | 🟢 Live | Neue Importer-Pipeline mit Provenance. |
|
||||||
|
| **WP04a**| Retriever Scoring | 🟢 Live | Hybrider Score (Semantik + Graph). |
|
||||||
|
| **WP04b**| Explanation Layer | 🟡 In Arbeit | API liefert Pfade, UI fehlt noch. |
|
||||||
|
| **WP04c**| Feedback Loop | 🔴 Geplant | Logging von User-Feedback. |
|
||||||
|
| **WP05** | Virtual Schema | 🟡 Teilw. | `types.yaml` aktiv, ACL fehlt. |
|
||||||
|
| **WP06** | Self-Healing | 🔴 Geplant | Auto-Fixing von Broken Links. |
|
||||||
|
| **WP08** | Self-Tuning | 🔴 Geplant | Auto-Adjustment der Gewichte. |
|
||||||
@@ -0,0 +1,143 @@
|
|||||||
|
# Mindnet v2.2 – Entwickler-Workflow
|
||||||
|
**Datei:** `DEV_WORKFLOW.md`
|
||||||
|
**Stand:** 2025-12-07
|
||||||
|
|
||||||
|
Dieses Handbuch beschreibt den Entwicklungszyklus zwischen **Windows PC** (IDE), **Raspberry Pi** (Gitea) und **Beelink** (Runtime/Server).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1. Die Architektur
|
||||||
|
|
||||||
|
* **Windows 11 (VS Code):** Hier schreibst du Code. **Nie** direkt auf `main` arbeiten!
|
||||||
|
* **Raspberry Pi (Gitea):** Der Tresor. Speichert den Code und verwaltet Versionen.
|
||||||
|
* **Beelink (Runtime):** Hier läuft die Software. Wir trennen strikt:
|
||||||
|
* **PROD (`~/mindnet`):** Läuft stabil auf `main`. **Port 8001**.
|
||||||
|
* **DEV (`~/mindnet_dev`):** Deine Spielwiese für Branches. **Port 8002**.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Der Zyklus: Von der Idee zum Release
|
||||||
|
|
||||||
|
### Phase 1: Entwicklung (Windows / VS Code)
|
||||||
|
|
||||||
|
Hier erstellst du die neue Funktion in einer sicheren Umgebung.
|
||||||
|
|
||||||
|
1. **Sicherstellen, dass Git bereit ist:**
|
||||||
|
* Öffne VS Code.
|
||||||
|
* Unten links in der blauen Leiste sollte der aktuelle Branch stehen (z.B. `main`).
|
||||||
|
|
||||||
|
2. **Branch erstellen (WICHTIG):**
|
||||||
|
* Klicke unten links auf den Branch-Namen (z.B. `main`).
|
||||||
|
* Wähle im Menü oben `+ Create new branch...`.
|
||||||
|
* Gib den Namen ein: `feature/was-ich-tue` (z.B. `feature/wp04b-explanation`).
|
||||||
|
* Drücke **Enter**.
|
||||||
|
|
||||||
|
3. **Sicherheits-Check:**
|
||||||
|
* Schau unten links: Steht dort jetzt `feature/wp04b-explanation`?
|
||||||
|
* **Nur wenn dort dein Feature-Branch steht, darfst du Code ändern!** Alles, was du jetzt speicherst, landet in diesem Branch.
|
||||||
|
|
||||||
|
4. **Coden:**
|
||||||
|
* Nimm deine Änderungen vor.
|
||||||
|
|
||||||
|
5. **Sichern & Hochladen:**
|
||||||
|
* Klicke links auf das **Source Control** Icon (Gabel-Symbol).
|
||||||
|
* Gib eine Nachricht ein: "feat: Add explanation layer logic".
|
||||||
|
* Klicke auf **Commit**.
|
||||||
|
* Klicke auf **Publish Branch** (oder "Sync Changes"), um den Branch zum Raspberry Pi (Gitea) zu senden.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### Phase 2: Testen (Beelink / `mindnet_dev`)
|
||||||
|
|
||||||
|
Hier prüfst du, ob dein neuer Code auf dem echten Server läuft, ohne die Produktion zu stören.
|
||||||
|
|
||||||
|
1. **Einloggen:**
|
||||||
|
`ssh user@<BEELINK-IP>`
|
||||||
|
|
||||||
|
2. **In die Werkstatt gehen:**
|
||||||
|
`cd /home/llmadmin/mindnet_dev`
|
||||||
|
|
||||||
|
3. **Code holen:**
|
||||||
|
```bash
|
||||||
|
git fetch
|
||||||
|
git checkout feature/wp04b-explanation
|
||||||
|
git pull
|
||||||
|
```
|
||||||
|
|
||||||
|
4. **Umgebung aktivieren (Venv):**
|
||||||
|
Damit Python die installierten Bibliotheken findet, musst du das Virtual Environment aktivieren:
|
||||||
|
```bash
|
||||||
|
source .venv/bin/activate
|
||||||
|
```
|
||||||
|
*(Dein Prompt sollte jetzt `(.venv) user@...` zeigen)*
|
||||||
|
|
||||||
|
5. **Abhängigkeiten prüfen:**
|
||||||
|
*(Nur nötig, wenn du neue Libraries in `requirements.txt` eingetragen hast)*
|
||||||
|
```bash
|
||||||
|
pip install -r requirements.txt
|
||||||
|
```
|
||||||
|
|
||||||
|
6. **Test-Server starten:**
|
||||||
|
**WICHTIG:** Nutze Port **8002** und das Dev-Prefix!
|
||||||
|
Stelle sicher, dass in `~/mindnet_dev/.env` steht: `COLLECTION_PREFIX="mindnet_dev"`.
|
||||||
|
|
||||||
|
```bash
|
||||||
|
uvicorn app.main:app --host 0.0.0.0 --port 8002
|
||||||
|
```
|
||||||
|
|
||||||
|
7. **Testen:**
|
||||||
|
Prüfe deine Änderung (z.B. Browser auf `http://<BEELINK-IP>:8002/docs` oder Smoke-Test Skript).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### Phase 3: Release (Gitea / Raspberry Pi)
|
||||||
|
|
||||||
|
Wenn der Test auf Port 8002 erfolgreich war:
|
||||||
|
|
||||||
|
1. Öffne Gitea im Browser.
|
||||||
|
2. Du solltest einen Hinweis sehen "feature/... had recent pushes".
|
||||||
|
3. Erstelle einen **Pull Request** (Dein Branch -> `main`).
|
||||||
|
4. **Merge** den Pull Request.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
### Phase 4: Deployment (Beelink / `mindnet`)
|
||||||
|
|
||||||
|
Jetzt bringen wir die Änderung in das Live-System (Port 8001).
|
||||||
|
|
||||||
|
1. **Deploy-Agent (Automatisch):**
|
||||||
|
Wenn dein `deploy.yml` aktiv ist, passiert das jetzt von selbst!
|
||||||
|
|
||||||
|
2. **Manuell (Falls nötig):**
|
||||||
|
```bash
|
||||||
|
cd /home/llmadmin/mindnet
|
||||||
|
git pull origin main
|
||||||
|
sudo systemctl restart mindnet-api
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Cheat Sheet: Die wichtigsten Befehle
|
||||||
|
|
||||||
|
| Wo? | Befehl | Was tut es? |
|
||||||
|
| :--- | :--- | :--- |
|
||||||
|
| **VS Code** | `Klick auf Branch-Namen` | Branch erstellen oder wechseln. |
|
||||||
|
| **VS Code** | `Sync Changes` | Lädt Code zu Gitea hoch. |
|
||||||
|
| **Beelink** | `cd ~/mindnet_dev` | Gehe in den Test-Ordner. |
|
||||||
|
| **Beelink** | `source .venv/bin/activate` | **Aktiviert Python-Umgebung.** |
|
||||||
|
| **Beelink** | `git fetch` | "Gibt es neue Branches auf Gitea?" |
|
||||||
|
| **Beelink** | `git checkout <name>` | Wechsle auf einen anderen Branch. |
|
||||||
|
| **Beelink** | `git pull` | Hol den neuesten Stand des aktuellen Branches. |
|
||||||
|
| **Beelink** | `uvicorn ... --port 8002` | Startet Test-Server (Dev). |
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Sicherheitsregeln
|
||||||
|
|
||||||
|
1. **Niemals** in `~/mindnet` (Prod-Ordner) experimentieren oder `git checkout` machen. Dieser Ordner bleibt immer auf `main`.
|
||||||
|
2. **Niemals** beide Umgebungen auf denselben `COLLECTION_PREFIX` zeigen lassen.
|
||||||
|
* Prod `.env`: `COLLECTION_PREFIX="mindnet"`
|
||||||
|
* Dev `.env`: `COLLECTION_PREFIX="mindnet_dev"`
|
||||||
|
3. **Port-Disziplin:**
|
||||||
|
* **PROD:** Port 8001
|
||||||
|
* **DEV:** Port 8002
|
||||||
@@ -0,0 +1,155 @@
|
|||||||
|
# Mindnet v2.2 – Developer Guide
|
||||||
|
**Datei:** `docs/mindnet_developer_guide_v2.2.md`
|
||||||
|
**Stand:** 2025-12-07
|
||||||
|
**Status:** **FINAL** (Konsolidiert WP02–WP04a)
|
||||||
|
**Quellen:** `mindnet_technical_architecture.md`, `Handbuch.md`, `docs_mindnet_retriever.md`, `mindnet_v2_implementation_playbook.md`.
|
||||||
|
|
||||||
|
> **Zielgruppe:** Entwickler:innen.
|
||||||
|
> **Zweck:** Anleitung zum Aufsetzen der Entwicklungsumgebung, Verständnis der Modulstruktur und Durchführung von Tests.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1. Projektstruktur
|
||||||
|
|
||||||
|
Der Code ist modular in `app` (Logik), `scripts` (CLI) und `config` (Steuerung) getrennt.
|
||||||
|
|
||||||
|
mindnet/
|
||||||
|
├── app/
|
||||||
|
│ ├── core/ # Kernlogik
|
||||||
|
│ │ ├── chunker.py # Text-Zerlegung
|
||||||
|
│ │ ├── derive_edges.py # Edge-Erzeugung (WP03 Logik)
|
||||||
|
│ │ ├── retriever.py # Scoring & Graph-Expansion (WP04 Logik)
|
||||||
|
│ │ ├── qdrant.py # DB-Verbindung
|
||||||
|
│ │ └── ...
|
||||||
|
│ ├── models/ # Pydantic DTOs (Request/Response)
|
||||||
|
│ ├── routers/ # FastAPI Endpoints
|
||||||
|
│ ├── services/ # Externe Dienste (LLM, Embeddings)
|
||||||
|
│ └── main.py # Entrypoint der API
|
||||||
|
├── config/ # YAML-Konfigurationen (Single Source of Truth)
|
||||||
|
│ ├── types.yaml # Import-Regeln
|
||||||
|
│ └── retriever.yaml # Scoring-Regeln
|
||||||
|
├── scripts/ # CLI-Tools (Import, Diagnose, Reset)
|
||||||
|
├── tests/ # Pytest Suite
|
||||||
|
└── vault/ # Dein lokaler Markdown-Content (Git-ignored)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Lokales Setup (Development)
|
||||||
|
|
||||||
|
### 2.1 Voraussetzungen
|
||||||
|
* **Python:** 3.10 oder höher.
|
||||||
|
* **Docker:** Für Qdrant.
|
||||||
|
* **Vault:** Ein Ordner mit Markdown-Dateien (z.B. `./mindnet_v2_test_vault` für Tests).
|
||||||
|
|
||||||
|
### 2.2 Installation
|
||||||
|
# 1. Repository klonen & Verzeichnis wechseln
|
||||||
|
git clone <repo> mindnet
|
||||||
|
cd mindnet
|
||||||
|
|
||||||
|
# 2. Virtual Environment erstellen
|
||||||
|
python3 -m venv .venv
|
||||||
|
source .venv/bin/activate
|
||||||
|
|
||||||
|
# 3. Abhängigkeiten installieren
|
||||||
|
pip install -r requirements.txt
|
||||||
|
|
||||||
|
### 2.3 Konfiguration (Environment)
|
||||||
|
Erstelle eine `.env` Datei im Root-Verzeichnis oder exportiere die Variablen.
|
||||||
|
|
||||||
|
# Qdrant Verbindung
|
||||||
|
QDRANT_URL="http://localhost:6333"
|
||||||
|
QDRANT_API_KEY="" # Leer lassen für lokal
|
||||||
|
|
||||||
|
# Mindnet Settings
|
||||||
|
COLLECTION_PREFIX="mindnet_dev"
|
||||||
|
MINDNET_TYPES_FILE="./config/types.yaml"
|
||||||
|
MINDNET_RETRIEVER_CONFIG="./config/retriever.yaml"
|
||||||
|
|
||||||
|
# Hash-Strategie (für Importer-Debugging)
|
||||||
|
MINDNET_HASH_COMPARE="Body"
|
||||||
|
MINDNET_HASH_SOURCE="parsed"
|
||||||
|
|
||||||
|
### 2.4 Dienste starten
|
||||||
|
Starten von Qdrant via Docker:
|
||||||
|
docker run -d --name mindnet_qdrant_dev -p 6333:6333 -p 6334:6334 qdrant/qdrant
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Core-Module & Entwicklung
|
||||||
|
|
||||||
|
### 3.1 Der Importer (`scripts.import_markdown`)
|
||||||
|
Dies ist das komplexeste Modul.
|
||||||
|
* **Einstieg:** `scripts/import_markdown.py` -> `main()`.
|
||||||
|
* **Idempotenz:** Der Importer muss mehrfach laufen können, ohne Duplikate zu erzeugen. Wir nutzen deterministische IDs (UUIDv5) basierend auf Dateipfaden/Titeln.
|
||||||
|
* **Debugging:** Wenn du am Importer arbeitest, nutze `--dry-run` oder `scripts/payload_dryrun.py`, um DB-Schreibvorgänge zu vermeiden.
|
||||||
|
|
||||||
|
### 3.2 Edge-Logik (`app.core.derive_edges`)
|
||||||
|
Hier wird entschieden, welche Kanten entstehen.
|
||||||
|
* **Erweiterung:** Wenn du neue Edge-Regeln (z.B. Regex-Parser) hinzufügst, tue dies hier.
|
||||||
|
* **Rule-ID:** Vergib zwingend eine eindeutige `rule_id` (z.B. `custom:my_rule`), damit die Herkunft nachvollziehbar bleibt.
|
||||||
|
|
||||||
|
### 3.3 Der Retriever (`app.core.retriever`)
|
||||||
|
Hier passiert das Scoring und die Graph-Expansion.
|
||||||
|
* **Gewichtung:** Hardcodiere niemals Gewichte (`0.5` etc.) im Code. Nutze `app.core.config.get_retriever_config()`, um `retriever.yaml` zu lesen.
|
||||||
|
* **Graph-Adapter:** Nutze `graph_adapter.expand()`, um Nachbarn zu laden. Vermeide direkte Qdrant-Point-Queries im Retriever-Code, um die Abstraktion zu wahren.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Tests & Debugging
|
||||||
|
|
||||||
|
Wir unterscheiden drei Test-Ebenen. Ein Pull Request sollte alle passieren.
|
||||||
|
|
||||||
|
### 4.1 Unit Tests (Pytest)
|
||||||
|
Für isolierte Logik (Parsing, Scoring).
|
||||||
|
pytest tests/test_retriever_basic.py
|
||||||
|
pytest tests/test_chunking.py
|
||||||
|
pytest tests/test_edges_all.py
|
||||||
|
|
||||||
|
### 4.2 Integration / Pipeline Tests
|
||||||
|
Prüfen den Datenfluss von Markdown bis Qdrant-JSON.
|
||||||
|
* **Payload Dryrun:** Prüft, ob `import_markdown` valide JSON-Objekte erzeugt, ohne in die DB zu schreiben. Essentiell bei Schema-Änderungen.
|
||||||
|
python3 -m scripts.payload_dryrun --vault ./mindnet_v2_test_vault
|
||||||
|
|
||||||
|
* **Edge Checks:** Prüft Graph-Invarianten (z.B. `next` muss reziprok zu `prev` sein).
|
||||||
|
python3 -m scripts.edges_full_check
|
||||||
|
|
||||||
|
### 4.3 Smoke Tests (E2E)
|
||||||
|
Prüfen das laufende System (API) gegen eine echte (lokale) Qdrant-Instanz.
|
||||||
|
# 1. API im Hintergrund starten
|
||||||
|
uvicorn app.main:app --port 8000 &
|
||||||
|
|
||||||
|
# 2. Smoke Test feuern
|
||||||
|
python scripts/test_retriever_smoke.py --query "Test" --mode hybrid --top-k 5
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Guidelines für Erweiterungen
|
||||||
|
|
||||||
|
### 5.1 Neuen Note-Typ hinzufügen
|
||||||
|
* **Nicht im Code!** Bearbeite `config/types.yaml`.
|
||||||
|
* Definiere `chunk_profile` und `retriever_weight`.
|
||||||
|
* Führe einen **Re-Import** durch, damit die Änderungen wirksam werden.
|
||||||
|
|
||||||
|
### 5.2 Schema-Änderungen
|
||||||
|
Wenn du Felder in `mindnet_notes` oder `mindnet_chunks` hinzufügst:
|
||||||
|
1. Passe `app/core/note_payload.py` bzw. `chunk_payload.py` an.
|
||||||
|
2. Aktualisiere `tests/assert_payload_schema.py`.
|
||||||
|
3. Führe `scripts/reset_qdrant.py` (Wipe) aus, um die Indizes neu anzulegen.
|
||||||
|
|
||||||
|
### 5.3 Neue API-Endpunkte
|
||||||
|
* Erstelle einen neuen Router in `app/routers/`.
|
||||||
|
* Nutze Pydantic Models aus `app/models/dto.py` für Request/Response.
|
||||||
|
* Registriere den Router in `app/main.py`.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Nützliche Einzeiler
|
||||||
|
|
||||||
|
**DB komplett zurücksetzen (Vorsicht!):**
|
||||||
|
python3 -m scripts.reset_qdrant --mode wipe --prefix "mindnet_dev" --yes
|
||||||
|
|
||||||
|
**Einen einzelnen File inspizieren (Parser-Sicht):**
|
||||||
|
python3 tests/inspect_one_note.py --file ./vault/MeinFile.md
|
||||||
|
|
||||||
|
**Warum wird mein File nicht importiert?**
|
||||||
|
python3 -m scripts.diagnose_changed --vault ./vault --all
|
||||||
@@ -0,0 +1,96 @@
|
|||||||
|
# mindnet Retriever (WP-04 / Step 4a) – Kurz-Dokumentation
|
||||||
|
|
||||||
|
## 1. Überblick
|
||||||
|
|
||||||
|
Der Retriever besteht aus:
|
||||||
|
|
||||||
|
- **Semantic Retriever** (`semantic_retrieve`)
|
||||||
|
- **Hybrid Retriever** (`hybrid_retrieve`)
|
||||||
|
- Qdrant-Backend (`*_chunks`, `*_edges`)
|
||||||
|
- optionaler Edge-Expansion über `graph_adapter.expand`
|
||||||
|
|
||||||
|
Die API nutzt das bestehende `/query`-Endpoint (FastAPI), das `QueryRequest` und `QueryResponse` aus `app.models.dto` verwendet.
|
||||||
|
|
||||||
|
## 2. Scoring-Formel
|
||||||
|
|
||||||
|
Pro Treffer werden folgende Komponenten geführt:
|
||||||
|
|
||||||
|
- `semantic_score` – direkt aus Qdrant (Cosine/Euclidean, je nach Collection)
|
||||||
|
- `retriever_weight` – aus Chunk-Payload (`types.yaml` / Frontmatter)
|
||||||
|
- `edge_bonus` – Bonus aus dem Subgraph (z. B. Zahl der eingehenden/ausgehenden Edges, Beziehungstypen)
|
||||||
|
- `centrality_bonus` – Bonus aus einer einfachen Zentralitäts-Heuristik im Subgraph
|
||||||
|
|
||||||
|
Aktuelle Formel (Step 4a):
|
||||||
|
|
||||||
|
```text
|
||||||
|
total_score = semantic_score * max(retriever_weight, 0.0)
|
||||||
|
+ edge_bonus
|
||||||
|
+ centrality_bonus
|
||||||
|
```
|
||||||
|
|
||||||
|
Die Sortierung der Ergebnisse erfolgt absteigend nach `total_score`.
|
||||||
|
|
||||||
|
## 3. Modi
|
||||||
|
|
||||||
|
### 3.1 Semantic Mode
|
||||||
|
|
||||||
|
- Funktion: `semantic_retrieve`
|
||||||
|
- Request-Feld `mode = "semantic"`
|
||||||
|
- Keine Edge-Expansion, kein Graph-Call.
|
||||||
|
- Kandidaten nur aus Vektorsuche in `<prefix>_chunks`.
|
||||||
|
|
||||||
|
### 3.2 Hybrid Mode
|
||||||
|
|
||||||
|
- Funktion: `hybrid_retrieve`
|
||||||
|
- Request-Feld `mode = "hybrid"`
|
||||||
|
- Schritte:
|
||||||
|
1. Semantische Chunk-Suche wie im Semantic Mode
|
||||||
|
2. Falls `expand.depth > 0` gesetzt ist:
|
||||||
|
- Seeds = `chunk_id` (Fallback: `note_id`) der Treffer
|
||||||
|
- Aufruf `graph_adapter.expand(client, prefix, seed_ids, depth, edge_types)`
|
||||||
|
- Ergebnis-Subgraph liefert `edge_bonus` und `centrality_bonus` pro Node
|
||||||
|
3. Scores werden nach obiger Formel kombiniert.
|
||||||
|
|
||||||
|
## 4. Request-Struktur (JSON)
|
||||||
|
|
||||||
|
Beispiel-Hybrid-Request:
|
||||||
|
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"mode": "hybrid",
|
||||||
|
"query": "embeddings und qdrant",
|
||||||
|
"top_k": 10,
|
||||||
|
"expand": {
|
||||||
|
"depth": 1,
|
||||||
|
"edge_types": ["references", "depends_on"]
|
||||||
|
}
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
Minimaler Semantic-Request:
|
||||||
|
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"mode": "semantic",
|
||||||
|
"query": "karate trainingsplan",
|
||||||
|
"top_k": 5
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
## 5. Smoke-Test
|
||||||
|
|
||||||
|
Für einen schnellen End-to-End-Test kann folgendes Skript verwendet werden:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
python scripts/test_retriever_smoke.py --query "karate" --mode hybrid --expand-depth 1 --top-k 5
|
||||||
|
```
|
||||||
|
|
||||||
|
Das Skript ruft `/query` auf, wertet Statuscode und JSON-Antwort aus und zeigt die Scores der Top-K-Treffer an.
|
||||||
|
|
||||||
|
## 6. Tests
|
||||||
|
|
||||||
|
Die wichtigsten Tests für den Retriever sind:
|
||||||
|
|
||||||
|
- `tests/test_retriever_basic.py` – Basisfunktion (Semantic + Hybrid)
|
||||||
|
- `tests/test_retriever_weight.py` – Einfluss von `retriever_weight` auf das Ranking
|
||||||
|
- `tests/test_retriever_edges.py` – Einfluss von Edge-/Centrality-Boni im Hybrid-Modus
|
||||||
+155
-188
@@ -1,249 +1,216 @@
|
|||||||
# mindnet – Knowledge Design
|
# mindnet – Knowledge Design
|
||||||
**Version:** 1.4.0 (aktualisiert 2025-10-06)
|
**Version:** 1.5.0 (aktualisiert 2025-11-09)
|
||||||
|
|
||||||
## 1. Gesamtziel und Systemverständnis
|
> Dieses Dokument beschreibt das Ziel, die Architektur, die Datenmodelle sowie die Regeln und Prozesse für den Aufbau von **mindnet** – einem persönlichen, lokal betriebenen Wissensnetz, das auf Markdown-Quellen, Graph-Beziehungen und Vektor-Suche basiert. Es soll die Persönlichkeit, Werte und Erfahrungen des Besitzers widerspiegeln und künftig Antworten generieren, die diese Perspektive authentisch berücksichtigen.
|
||||||
|
|
||||||
**mindnet** ist ein lokales Wissensnetzwerk, das alle meine Notizen, Projekte, Gedanken, Erfahrungen und Pläne als Markdown-Dateien speichert, automatisch importiert, semantisch in **Chunks** zerlegt und als **Graph-Struktur in Qdrant** ablegt.
|
|
||||||
Es ist die Grundlage für ein agentenfähiges, lokal betriebenes LLM-System, das meine Daten verknüpft, abfragt und erweitert.
|
|
||||||
|
|
||||||
**Zentrale Ziele**
|
|
||||||
- Vollständige Repräsentation persönlichen Wissens in strukturierter, maschinenlesbarer Form
|
|
||||||
- Reproduzierbare Verarbeitung: Import → Chunking → Embedding → Edges → Graph
|
|
||||||
- Verlustfreie Roundtrip-Fähigkeit (Import ⇄ Export)
|
|
||||||
- Erweiterbarkeit für Agenten, RAG-Retriever und semantische Suche
|
|
||||||
|
|
||||||
**Prinzipien**
|
|
||||||
- **Deterministisch:** IDs, Hashes und Edges wiederholbar
|
|
||||||
- **Portabel:** Markdown + YAML
|
|
||||||
- **Robust:** fehlertoleranter Parser
|
|
||||||
- **Idempotent:** keine Duplikate bei Re-Import
|
|
||||||
- **Erweiterbar:** neue Typen und Edge-Arten ohne Migration
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 2. YAML-Frontmatter-Schema
|
## 1. Ziel von mindnet
|
||||||
|
|
||||||
| Feld | Typ | Beschreibung |
|
**1.1 Zweck**
|
||||||
|-------|-----|--------------|
|
- mindnet dient als persönliches Wissensnetz, das Erfahrungen, Werte, Prinzipien, Ziele und prägenden Ereignisse langfristig strukturiert.
|
||||||
| `title` | string | Menschlich lesbarer Titel |
|
- Es ermöglicht spätere Einsichten in Entscheidungen und Entwicklungen und kann in Zukunft für die Familie (z. B. Kinder) eine nachvollziehbare Quelle sein.
|
||||||
| `id` | string | Eindeutige Note-ID (Slug) |
|
|
||||||
| `type` | enum | `concept`, `thought`, `experience`, `task`, `project`, `journal`, `person`, `meeting`, `milestone` |
|
|
||||||
| `status` | enum | `draft`, `active`, `done`, `archived` |
|
|
||||||
| `created` | date | ISO-Datum |
|
|
||||||
| `updated` | date | Letzte Änderung |
|
|
||||||
| `area` | string | Themen- oder Lebensbereich |
|
|
||||||
| `project` | string | Zugehöriges Projekt |
|
|
||||||
| `tags` | list | Strukturierte Tags (`area/…`, `topic/…`) |
|
|
||||||
| `depends_on` | list | IDs anderer Notizen |
|
|
||||||
| `assigned_to` | list | Beteiligte Personen |
|
|
||||||
| `embedding_exclude` | bool | Falls `true`, keine Embeddings |
|
|
||||||
| `hash_mode` | enum | Hash-Modus beim Import (`body`, `frontmatter`, `full`) |
|
|
||||||
| `priority` | enum/int | 1–5 oder `low` / `med` / `high` |
|
|
||||||
| `effort_min`, `due` | int/date | Aufwand / Termin |
|
|
||||||
| `aliases` | list | Alternative IDs |
|
|
||||||
| `lang` | string | ISO-Sprachcode |
|
|
||||||
| `source` | string | Herkunft / Referenzquelle |
|
|
||||||
|
|
||||||
**Pflichtfelder:** `title`, `id`, `type`, `status`, `created`
|
**1.2 Leitidee**
|
||||||
**Optionale Felder:** alle übrigen
|
- Statt einer reinen Dokumentablage wird Wissen durch **Knoten (Notes/Chunks)** und **Kanten (Edges)** vernetzt.
|
||||||
|
- Antworten sollen **persönlich** kontextualisiert werden (Perspektive, Konditionierung, Persönlichkeit).
|
||||||
|
|
||||||
|
**1.3 Langfristigkeit**
|
||||||
|
- Stabiler, zukunftsfähiger Entwurf; spätere Massenmigrationen sollen vermieden werden.
|
||||||
|
- Architektur unterstützt schrittweise Erweiterung (neue Quellen, neue Agenten, neue Regeln).
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 3. Dateinamen und Ordner
|
## 2. Zielarchitektur (High Level)
|
||||||
|
|
||||||
- Format: `YYYY-MM-DD_title.md` oder `slug.md`
|
- **Datenquellen:** Markdown-Vault (Obsidian-kompatibel), perspektivisch weitere Quellen (MediaWiki, PDFs, Web-Exporte, E-Mail-Auszüge).
|
||||||
- Strukturierte Ordner:
|
- **Import-Pipeline:** Parser → Frontmatter/Body → Chunking → Embedding → Qdrant (Notes/Chunks/Edges).
|
||||||
- `10_thoughts/`, `20_concepts/`, `30_projects/`, `40_experiences/`, …
|
- **Speicher:** Qdrant (Vektoren + Payload + Textindex), Dateien bleiben im Filesystem (Quelle ist Referenz).
|
||||||
- Alle Pfade relativ; Unterstriche statt Leerzeichen
|
- **Graph-Schicht:** Edges explizit modelliert (Typ, Richtung, Evidenz, Confidence); optionale abgeleitete Edges per Batch-Job.
|
||||||
|
- **Retriever/Composer:** Hybrid-Retrieval (Vektor + Filter + optional Volltext), Komposition zu Antwortkandidaten.
|
||||||
|
- **Erklärbarkeit:** Begründungspfade (Top-Chunks, Graph-Kette, Provenienz).
|
||||||
|
- **Schnittstellen:** REST/CLI, n8n-Glue, lokale LLM-Anbindung (Ollama).
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 4. Link- und Edge-Design
|
## 3. Collections in Qdrant
|
||||||
|
|
||||||
**Verlinkungen**
|
- `mindnet_notes` – Note-Metadaten (id, title, type, path, timestamps, tags, …).
|
||||||
- Wikilinks: `[[note-id]]` oder `[[Titel|note-id]]`
|
- `mindnet_chunks` – inhaltstragende Segmente inkl. Vektoren und Textindex.
|
||||||
- Automatische Edges aus Text und Frontmatter
|
- `mindnet_edges` – Beziehungen (src/dst, relation, direction, evidence, confidence, …).
|
||||||
|
- (optional) `mindnet_people` – strukturierte Personenobjekte (Eigen-/Fremdbezug).
|
||||||
**Edge-Typen in Qdrant**
|
|
||||||
|
|
||||||
| Typ | Bedeutung | Quelle | Scope |
|
|
||||||
|------|------------|--------|--------|
|
|
||||||
| `belongs_to` | Chunk → Note | intern | chunk |
|
|
||||||
| `prev` / `next` | Reihenfolge | intern | chunk |
|
|
||||||
| `references` | explizite Wikilinks | Text | chunk |
|
|
||||||
| `backlink` | Gegenkante zu `references` | abgeleitet | note |
|
|
||||||
| `depends_on` | YAML-Abhängigkeiten | YAML | note |
|
|
||||||
| `assigned_to` | YAML-Zuweisung | YAML | note |
|
|
||||||
| `unresolved` | Ziel fehlt (Stub) | abgeleitet | chunk |
|
|
||||||
|
|
||||||
**Edge-Schlüssel**
|
|
||||||
- `source_id`, `target_id`, `kind`, `scope`, `note_id`
|
|
||||||
- Dedup-Schlüssel: Kombination aus `(kind, source_id, target_id, scope)`
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 5. Chunking-Modell
|
## 4. Identitäten & IDs
|
||||||
|
|
||||||
**Chunk-Datenstruktur**
|
- **Deterministische IDs** für Notes (z. B. Namespace-basierte UUIDv5) und stabile, ableitbare IDs für Chunks/Edges.
|
||||||
| Feld | Beschreibung |
|
- ID-Stabilität ist Voraussetzung für Idempotenz (Re-Imports ohne Duplikate).
|
||||||
|-------|---------------|
|
|
||||||
| `note_id` | Zugehörige Note |
|
|
||||||
| `chunk_index` | Laufende Nummer |
|
|
||||||
| `text` | Originalabschnitt |
|
|
||||||
| `window` | Text + Overlap links/rechts |
|
|
||||||
| `overlap_left` | Länge des linken Overlaps |
|
|
||||||
| `overlap_right` | Länge des rechten Overlaps |
|
|
||||||
| `embedding` | 384-dimensionaler Vektor |
|
|
||||||
| `tokens` | Tokenanzahl (optional) |
|
|
||||||
|
|
||||||
**Chunking-Regeln (aus `chunking_strategy.md`)**
|
|
||||||
- Trennung nach Absätzen, Überschriften, Listen, Tabellen
|
|
||||||
- Token-Zielgröße 350–500 (max 600)
|
|
||||||
- Overlap: 30–40 % für semantische Kohärenz
|
|
||||||
- Overlap wird in `window` integriert, sodass `text ≠ window`
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 6. Hash-Strategie und Änderungsverfolgung
|
## 5. Frontmatter & Typen
|
||||||
|
|
||||||
**Zweck:** Nur bei realer Inhaltsänderung re-indexieren
|
- Pflichtfelder: `id`, `title`, `type`, `created`, `updated`, `tags`, `source_path`.
|
||||||
|
- Note-Typen (Auszug): `experience`, `principle`, `value`, `goal`, `role`, `persona`, `plan`, `project`, `journal`, `reference`, `translation`.
|
||||||
| Umgebungsvariable | Beschreibung |
|
- **types.yaml** definiert Regeln/Defaults je Typ und für Relationstypen (siehe Abschnitt 10).
|
||||||
|--------------------|--------------|
|
|
||||||
| `MINDNET_HASH_COMPARE` | Vergleichsquelle (`Body`, `Full`, `Frontmatter`) |
|
|
||||||
| `MINDNET_HASH_SOURCE` | Rohtext vs. geparst (`raw` / `parsed`) |
|
|
||||||
| `MINDNET_HASH_NORMALIZE` | Normalisierung (`canonical` / `none`) |
|
|
||||||
|
|
||||||
**Basismodi**
|
|
||||||
- `body` → Nur Textkörper
|
|
||||||
- `frontmatter` → Nur Metadaten
|
|
||||||
- `full` → Kombination
|
|
||||||
- Hash = SHA-256(canonicalized_input)
|
|
||||||
|
|
||||||
Bei Änderung: Re-Import, neue Embeddings, Edges werden aktualisiert.
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 7. Qdrant-Speicherstruktur
|
## 6. Chunking-Strategie
|
||||||
|
|
||||||
| Collection | Inhalt | Primärfelder | Embedding |
|
- Satz- bis Absatz-Chunks, moderate Überlappung; Meta-Felder verweisen auf Note/Quelle.
|
||||||
|-------------|---------|---------------|------------|
|
- Named Vectors (z. B. `content`, optional `title`, `tags`) ermöglichen hybride Scores.
|
||||||
| `mindnet_notes` | Notes mit Fulltext & Hash | `note_id` | optional |
|
|
||||||
| `mindnet_chunks` | Chunks mit Text, Window, Embedding | `chunk_id`, `note_id` | 384 d |
|
|
||||||
| `mindnet_edges` | Graphkanten | `edge_id`, `source_id`, `target_id` | — |
|
|
||||||
|
|
||||||
**Upsert-Strategie**
|
|
||||||
- Idempotente UUIDv5-IDs
|
|
||||||
- Keine Duplikate durch deterministische Signaturen
|
|
||||||
- `purge-before-upsert` zur Bereinigung
|
|
||||||
|
|
||||||
**Indizes**
|
|
||||||
- notes: `note_id`, `hash_signature`
|
|
||||||
- chunks: `note_id`, `chunk_index`
|
|
||||||
- edges: `(kind, source_id, target_id, scope)`
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 8. Fehler-Toleranz und Parser-Robustheit
|
## 7. Embeddings & Vektoren
|
||||||
|
|
||||||
- UTF-8 mit Fallback: ersetzt ungültige Bytes (`errors="replace"`)
|
- Einheitliche Metrik (cosine), reproduzierbares Embedding-Setup.
|
||||||
- Ignoriert Nullbytes, BOM, exotische Zeilenenden
|
- Konsistenz über Zeit durch Versionsfeld (`embedding_model`, `embedding_version`).
|
||||||
- Erkennt defekte oder leere YAML-Header und überspringt sie
|
|
||||||
- Logt Problemfälle (`read_markdown failed`, `make_note_payload returned non-dict`)
|
|
||||||
- Bei Fehlern: Import → warn → continue
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 9. Tests & Validierung
|
## 8. Volltext & Filter
|
||||||
|
|
||||||
**Integrationstests**
|
- Textindex auf `mindnet_chunks.body` für exakte Term/Operator-Queries.
|
||||||
- Roundtrip: Import → Export → Compare (`compare_vaults.py`)
|
- Payload-Filter zur schnellen Einschränkung (tags, types, time-buckets, visibility u. a.).
|
||||||
- Chunk-Integrität: `verify_chunks_integrity.py`
|
|
||||||
- Hash-Audit: `hash_reporter.py`
|
|
||||||
- Window-Vergleich: `check_chunks_window_vs_text.py`
|
|
||||||
|
|
||||||
**Erwartete Ergebnisse**
|
|
||||||
- Alle Notes werden erkannt
|
|
||||||
- `window ≠ text` bei > 60 % der Chunks
|
|
||||||
- Roundtrip-Vergleich liefert „OK“
|
|
||||||
- Edge-Anzahl entspricht Modell (belongs_to = #Chunks, next/prev ≈ #Chunks – 1)
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 10. Export & Roundtrip-Verhalten
|
## 9. Edges – Beziehungen
|
||||||
|
|
||||||
- `export_markdown.py` erzeugt identische Markdown-Dateien
|
- **Explizit**: Jede tatsächliche Beziehung wird als Kante gespeichert (kein Workaround).
|
||||||
- Schreibt YAML + Body in korrekter Reihenfolge
|
- Felder u. a.: `src_id`, `dst_id`, `relation`, `direction`, `confidence (0–1)`, `evidence` (Chunk-IDs), `created_at`, `updated_at`.
|
||||||
- Roundtrip-Prüfung (`compare_vaults.py`) validiert:
|
- **edge_defaults** liefern **Interpretations-Hints** (Gewichte, Symmetrie, Transitivität) und parametrisieren abgeleitete Edges; sie **ersetzen** keine Originalkanten.
|
||||||
- vollständigen Body
|
|
||||||
- unveränderte Hash-Signatur
|
|
||||||
- gleiche Chunkzahl
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 11. Graph-Schicht und WP-04-Integration
|
## 10. Regeln & Policies (types.yaml)
|
||||||
|
|
||||||
- Qdrant fungiert als Graph-Backend
|
- Per Typ/Relation:
|
||||||
- `graph/service.py` (WP-04): stellt API für Mehrhop-Abfragen bereit
|
- Default-Eigenschaften (Gewicht, Directedness, Symmetrie, Transitivität).
|
||||||
- Unterstützt:
|
- Scoring-Hooks für Graph-Kontext im Retriever.
|
||||||
- `expand(note_id, hops=2)`
|
- (später) Privacy-Hooks je Relation (Mindest-Visibility).
|
||||||
- `resolve_unresolved()`
|
|
||||||
- `neighbors(kind=…)`
|
|
||||||
- Grundlage für spätere **Retriever-Funktionen** (LLM / Agenten)
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 12. Agenten- und LLM-Integration
|
## 11. Retrieval & Ranking (Komposition)
|
||||||
|
|
||||||
**Retriever-Pipeline**
|
- Hybrid: Vektor-Score + Filter + optional BM25/Volltext.
|
||||||
1. Suche top-k Chunks (cosine distance)
|
- Zeitgewicht (Decays) und Graph-Kontext werden komponiert (Formel siehe 16.3).
|
||||||
2. Erweiterung um Edges (`references`, `backlinks`)
|
- Konfiguration über `.env`/`config.yaml` (gewichts- und halbwertszeit-basiert).
|
||||||
3. Kontext-Assembling via `window`-Text
|
|
||||||
4. Prompt-Generierung
|
|
||||||
|
|
||||||
**Agent-Use-Cases**
|
|
||||||
- Automatisches Tagging (`type`, `status`)
|
|
||||||
- Vorschläge für neue Edges
|
|
||||||
- Auflösen von `unresolved`-Referenzen
|
|
||||||
- Auto-Import externer Quellen (MediaWiki, PDFs, Webseiten)
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 13. Erweiterbarkeit
|
## 12. Erklärbarkeit
|
||||||
|
|
||||||
- Neue Edge-Typen: `inspired_by`, `relates_to`, `contradicts`
|
- „Warum-Pfad“: Top-Chunks mit Score-Zerlegung (Vektor/Time/Graph), Graph-Kette, Provenienz.
|
||||||
- Neue Note-Typen: `decision`, `resource`, `recommendation`
|
- Mehrschichtige Narrative (Kindheit/Erlebnisse, Werte/Prinzipien, Ziele/Leitbild, Gegenwart).
|
||||||
- Embedding-Engines austauschbar (MiniLM → LaBSE → E5)
|
|
||||||
- Versionierte Chunking-Strategien (`chunk_config.py`)
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 14. Qualitätssicherung und Best Practices
|
## 13. Betrieb & Sicherheit
|
||||||
|
|
||||||
- Validierung vor Upsert
|
- Lokal auf Single-Node starten (Backups via Snapshots).
|
||||||
- Keine Leer-Chunks
|
- Zugriff nur intern/Reverse-Proxy; Festplattenverschlüsselung OS-seitig.
|
||||||
- Vollständige Metadaten in Notes
|
- Migrationspfad zu Qdrant-Distributed (Shards, Replikation) einplanen.
|
||||||
- Tests in `tests/` automatisch ausführbar (`run_e2e_roundtrip.sh`)
|
|
||||||
- Ergebnis: „Roundtrip OK“ und `verify_chunks_integrity` = OK
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 15. Änderungsverlauf
|
## 14. Qualität & Monitoring
|
||||||
|
|
||||||
**v1.4.0 (2025-10-06)**
|
- Offline-Eval-Sets, Telemetrie (lokal), Drift-Checks, manuelle Reviews.
|
||||||
- Neu: `window` vs `text` Feld in `mindnet_chunks`
|
- Kennzahlen: Hit-Rate, Overlap, Quellen-Alter, Erklärungspfad-Nutzung.
|
||||||
- Neu: Hash-Modi (`body`, `frontmatter`, `full`) mit Env-Steuerung
|
|
||||||
- Neu: Baseline-Modus für Vergleich
|
|
||||||
- Parser → fehlertolerant (UTF-8 replace)
|
|
||||||
- Roundtrip-Test vollständig integriert
|
|
||||||
- Graph-Service und Mehrhop-Abfragen (WP-04-Vorbereitung)
|
|
||||||
- `purge-before-upsert` und `--note-scope-refs` Parameter ergänzt
|
|
||||||
|
|
||||||
**v1.3.0 (2025-09-09)**
|
|
||||||
- Hash-Normalisierung und Edge-Scope
|
|
||||||
- Roundtrip-Tests, Agenten-Integration
|
|
||||||
|
|
||||||
**v1.2.0 (2025-09-02)**
|
|
||||||
- Grundstruktur des Knowledge-Designs
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
|
## 15. Offene Punkte
|
||||||
|
|
||||||
|
- Ausdetaillierung `types.yaml` (Relationen, Hooks).
|
||||||
|
- UI-Oberfläche für Erklärpfade und Provenienz.
|
||||||
|
- Batch-Jobs für abgeleitete Edges.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 16. Ergänzungen 2025-11-09 (v1.5.0)
|
||||||
|
|
||||||
|
**Kontext:** Basierend auf den neuen Rahmenbedingungen (nur Deutsch; perspektivische externe Abfragen; einheitliche Vertraulichkeit mit Option auf feinere Stufen; Recency-Priorisierung als Default; Regeln später konfigurierbar; zunächst lokale Speicherung mit optionaler Migration; heutige Hardware, später skalierbar; hohe Erklärbarkeit mit mehreren Erklärungsebenen) werden folgende Entscheidungen und Erweiterungen getroffen. Alle bisherigen Inhalte bleiben gültig und werden **nicht** verändert.
|
||||||
|
|
||||||
|
### 16.1 Sprach- und Inhaltsrichtlinie (nur Deutsch)
|
||||||
|
- `lang: "de"` als verpflichtendes Feld in allen Note-, Chunk- und Edge-Payloads.
|
||||||
|
- Für spätere Mehrsprachigkeit **nicht** die Collection splitten, sondern ein Feld `lang` + optional `lang_original` behalten; Translation-Artefakte als eigener `type: translation` (verweisend auf `source_id`).
|
||||||
|
|
||||||
|
### 16.2 Vertraulichkeit & Sichtbarkeit
|
||||||
|
- Heute: einheitliche Stufe `visibility: "internal"`.
|
||||||
|
- Vorausschauend: reservierte Felder in allen Payloads
|
||||||
|
- `visibility`: `"public" | "internal" | "restricted"`
|
||||||
|
- `sensitivity`: Integer 0–3 (0 = unkritisch, 3 = hochsensibel)
|
||||||
|
- `acl`: Liste erlaubter Rollen/Personen-IDs (App-Layer erzwingt Filter vor Query).
|
||||||
|
- Access-Control erfolgt **im Applikations-Layer** mittels Qdrant-Payload-Filtern (`must: [ { key: "visibility", match: { any: [...] }}, ... ]`); Qdrant bleibt „dumm“ in Bezug auf ACL.
|
||||||
|
|
||||||
|
### 16.3 Recency-Modell & Ranking (konfigurierbar)
|
||||||
|
- Default: **Zeitnähe** priorisieren (sanfte Abwertung älterer Inhalte).
|
||||||
|
- Im Retrieval kombinieren wir:
|
||||||
|
1) Vektor-Score (cosine) aus Qdrant
|
||||||
|
2) Zeitgewicht `time_decay = exp( - ln(2) * age_days / half_life_days )`
|
||||||
|
3) Graph-Kontext aus Edges (z. B. Degree, Path-Hops zum Anker „Ich/Persona“)
|
||||||
|
- Konfigurierbare Gewichte (per `.env` oder `config.yaml`):
|
||||||
|
```text
|
||||||
|
FINAL_SCORE = w_vec * norm(vec_score)
|
||||||
|
+ w_time * time_decay
|
||||||
|
+ w_graph * graph_context_score
|
||||||
|
# Vorschlag: w_vec=0.70, w_time=0.20, w_graph=0.10; half_life_days=365
|
||||||
|
```
|
||||||
|
- Für Fragen, die „zeitlos“ sind, kann `half_life_days = inf` gesetzt werden (kein Decay).
|
||||||
|
|
||||||
|
### 16.4 Erklärbarkeit („Warum diese Antwort?“)
|
||||||
|
- Jeder Antwort wird ein **Erklärpfad** mitgegeben (optional im UI):
|
||||||
|
- Top-Chunks (mit Score-Zerlegung w_vec/w_time/w_graph)
|
||||||
|
- **Kausalpfad** im Graphen: `Note → Edge(relation, confidence) → Note …`
|
||||||
|
- **Provenienz** (Quelle, Erstellungszeit, letzte Änderung).
|
||||||
|
- Ein **Multi-Layer-Explanations**-Modul ordnet Beiträge zu: Kindheit/Erlebnisse, Werte & Prinzipien, aktuelle Ziele/Leitbild, Gegenwartskontext.
|
||||||
|
|
||||||
|
### 16.5 Qdrant-Schemata (Ergänzungen, rückwärtskompatibel)
|
||||||
|
- **Collections** bleiben: `mindnet_notes`, `mindnet_chunks`, `mindnet_edges` (+ `mindnet_people` falls noch nicht vorhanden).
|
||||||
|
- Gemeinsame Zusatzfelder (alle Payloads):
|
||||||
|
- `lang: "de"`
|
||||||
|
- `visibility`/`sensitivity`/`acl` (s. 16.2)
|
||||||
|
- `created_at` (ISO-8601), `updated_at` (ISO-8601), `age_days` (App-seitig berechnet)
|
||||||
|
- **Chunks**:
|
||||||
|
- Named-Vectors (z. B. `"content"`, optional `"title"`, `"tags"` für Hybrid-Scores).
|
||||||
|
- `text_index` auf `body` für BM25-ähnliche Volltextsuche (Qdrant-Textindex).
|
||||||
|
- `recency_group`: Jahr-Monat `YYYY-MM` (ermöglicht Pre-Filter für „letzte N Monate“).
|
||||||
|
- **Edges** (explizit, keine Workarounds):
|
||||||
|
- Felder: `src_id`, `dst_id`, `relation`, `direction`, `confidence` (0–1), `evidence` (Chunk-IDs), `created_at`, `updated_at`.
|
||||||
|
- **edge_defaults** bleiben als **Interpretations-Hints**: z. B. `default_weight`, `symmetry`, `transitivity`. Sie ersetzen **nicht** echte Kanten, sondern parametrisieren abgeleitete/zusätzliche Kantenbildung.
|
||||||
|
- Abgeleitete Edges: optionaler Batch-Job erzeugt *ergänzende* Kanten entlang `types.yaml`-Regeln (z. B. Backlinks, „inspired_by“ aus Zitaten), niemals statt der Originalkanten.
|
||||||
|
|
||||||
|
### 16.6 Regeln & Typen (konfigurierbar)
|
||||||
|
- `types.yaml` erweitert um:
|
||||||
|
- Relationstypen mit Default-Eigenschaften (`weight`, `directed`, `symmetric`, `transitive`).
|
||||||
|
- **Scoring-Hooks**: pro Relation optionaler Einfluss auf `graph_context_score`.
|
||||||
|
- **Privacy-Hooks**: pro Relation Minimal-Visibility (z. B. Beziehungen zu Personen sind mindestens `internal`).
|
||||||
|
|
||||||
|
### 16.7 Speicher- & Betriebsstrategie (heute lokal, später skalierbar)
|
||||||
|
- **Heute**: Single-Node Qdrant mit HNSW-Index, Text-Index und Payload-Filtern; regelmäßiges Backup (Snapshots).
|
||||||
|
- **Morgen**: Migrationspfad in **Qdrant-Distributed** (Shards, ggf. Replikation) bei Bedarf; Parameter-Gleichheit sichern (named-vectors, Metrik, HNSW-Param).
|
||||||
|
- **Sicherheit**: Zugriff nur über internes Netz/Reverse-Proxy, Auth vor Qdrant; Festplatten-Verschlüsselung auf OS-Ebene (z. B. LUKS).
|
||||||
|
|
||||||
|
### 16.8 Persona-Layer („meine Essenz“)
|
||||||
|
- Eigenständiger **Persona-Knoten** (z. B. Note `person/lars`), verbunden mit:
|
||||||
|
- Werten/Prinzipien, Leitbild, prägenden Erlebnissen, Zielen, Rollen.
|
||||||
|
- Jede Antwort kann gegen diesen Knoten **kontextualisiert** werden (Graph-Pfadnähe).
|
||||||
|
- Feld `persona_weight` in Chunks/Notes zur Priorisierung persönlicher Relevanz.
|
||||||
|
|
||||||
|
### 16.9 Evaluierung & Qualitätssicherung
|
||||||
|
- **Offline-Sets** aus echten Fragen (inkl. gewünschter Perspektiven) mit erwarteten Top-Quellen.
|
||||||
|
- **Telemetrie** (lokal): Query-Arten, Treffer-Overlaps, Zeitgewicht-Effekte, „Warum-Pfad“ genutzt/ignoriert.
|
||||||
|
- **Drift-Checks**: Anteil sehr alter vs. neuer Quellen in Antworten; manuelle Reviews.
|
||||||
|
|
||||||
|
### 16.10 Offene Punkte / Nächste Schritte
|
||||||
|
1) `types.yaml` um Relationseigenschaften erweitern (s. 16.6).
|
||||||
|
2) Retriever-Komposition inkl. Zeitgewicht (s. 16.3) implementieren.
|
||||||
|
3) Explanations-Pfad inkl. Provenienzoberfläche (s. 16.4) im UI.
|
||||||
|
4) Feld-Erweiterungen in Import-Pipelines (`lang`, `visibility`, Zeitfelder).
|
||||||
|
5) Optional: Batch-Job für abgeleitete Edges nach Regeln (ergänzend, nicht ersetzend).
|
||||||
@@ -0,0 +1,235 @@
|
|||||||
|
# Mindnet v2.2 – Fachliche Architektur
|
||||||
|
**Datei:** `docs/mindnet_functional_architecture_v2.2.md`
|
||||||
|
**Stand:** 2025-12-07
|
||||||
|
**Status:** **FINAL** (Integrierter Stand WP01–WP04a)
|
||||||
|
|
||||||
|
> Dieses Dokument beschreibt **was** Mindnet fachlich tut und **warum** – mit Fokus auf die Erzeugung und Nutzung von **Edges** (Kanten) zwischen Notizen/Chunks sowie die Logik des Retrievers. Die technische Umsetzung (Module, Flags, Schemas) wird im technischen Dokument detailliert.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 0) Zielbild & Grundprinzip
|
||||||
|
|
||||||
|
Mindnet wandelt Obsidian-Markdown-Notizen in einen **dynamischen Graphen aus Punkten und Kanten** um.
|
||||||
|
Die drei zentralen Artefakt-Sammlungen lauten:
|
||||||
|
|
||||||
|
- `mindnet_notes` – genau **eine** Note pro Markdown-Datei (Metadaten & Hashes)
|
||||||
|
- `mindnet_chunks` – semantische Teilstücke einer Note (Fenster/„Chunks“)
|
||||||
|
- `mindnet_edges` – gerichtete Beziehungen zwischen Knoten (Chunks/Notes)
|
||||||
|
|
||||||
|
Die Import-Pipeline erzeugt diese Artefakte **deterministisch** und **idempotent** (erneute Läufe überschreiben konsistent statt zu duplizieren). Die Import-Schritte sind: *parse → chunk → edge → upsert*.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1) Notizen & Chunks (fachliche Perspektive)
|
||||||
|
|
||||||
|
### 1.1 Notiz (Note)
|
||||||
|
- Repräsentiert eine fachliche Einheit (z. B. *„Vector DB Basics“*, *„KI-Projekt“*).
|
||||||
|
- Trägt Eigenschaften (Titel, Typ, Zeitstempel, optionale Policies).
|
||||||
|
- **Typ** (*type*) steuert u. a. Chunk-Profil und Default-Relationen (siehe §4).
|
||||||
|
- **retriever_weight** und **chunk_profile** werden systematisch an Note **und** Chunks gespiegelt, damit der Retriever beides nutzen kann.
|
||||||
|
|
||||||
|
### 1.2 Chunk
|
||||||
|
- Ausschnitt/Textfenster aus der Note, als eigenständiger Such-Anker.
|
||||||
|
- Jeder Chunk gehört **genau einer** Note.
|
||||||
|
- Chunks bilden eine Sequenz (1…N) – das ermöglicht *next/prev*.
|
||||||
|
- **Neu in v2.2:** Alle Kanten entstehen ausschließlich zwischen Chunks (Scope="chunk"), nie zwischen Notes direkt. Notes dienen nur noch als Metadatencontainer.
|
||||||
|
|
||||||
|
> **Wichtig:** Chunking-Profile (short/medium/long) kommen aus `types.yaml` (per Note-Typ), können aber lokal überschrieben werden. Die effektiven Werte werden bei der Payload-Erzeugung bestimmt.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2) Edges – fachliche Typen & Bedeutung
|
||||||
|
|
||||||
|
Edges kodieren Beziehungen. Sie sind **gerichtet** und werden in `mindnet_edges` gespeichert. Die Erzeugung folgt einer strengen Priorität: **Inline > Callout > Defaults > Struktur**.
|
||||||
|
|
||||||
|
### 2.1 Struktur-Kanten (Das Skelett)
|
||||||
|
- **belongs_to**: *Chunk → Note* (Zuordnung)
|
||||||
|
- **next / prev**: Kettenbeziehungen zwischen aufeinanderfolgenden Chunks derselben Note.
|
||||||
|
→ ermöglichen „lineares Weiterlesen“ oder Kontextpfade in Antworten.
|
||||||
|
Diese Kanten entstehen immer, unabhängig von Inhalten.
|
||||||
|
|
||||||
|
### 2.2 Inhalts-Kanten (explizit)
|
||||||
|
Hier unterscheidet v2.2 präzise zwischen verschiedenen Quellen der Evidenz:
|
||||||
|
|
||||||
|
1. **Explizite Inline-Relationen (Höchste Priorität):**
|
||||||
|
Im Fließtext notierte, semantisch qualifizierte Relationen.
|
||||||
|
* Syntax: `[[rel:depends_on Embeddings 101]]`
|
||||||
|
* Fachliche Aussage: "Hängt ab von", "Ähnlich zu".
|
||||||
|
* *rule_id*: `inline:rel`
|
||||||
|
* *confidence*: ~0.95
|
||||||
|
|
||||||
|
2. **Callout-Edges (Kuratierte Listen):**
|
||||||
|
Redaktionell gepflegte Listen am Ende einer Notiz (z.B. "Siehe auch").
|
||||||
|
* Syntax: `> [!edge] related_to: [[Vector DB Basics]]`
|
||||||
|
* *rule_id*: `callout:edge`
|
||||||
|
* *confidence*: ~0.90
|
||||||
|
|
||||||
|
3. **Wikilinks (Standard-Referenzen):**
|
||||||
|
Der klassische Obsidian-Link.
|
||||||
|
* Syntax: `[[Vector DB Basics]]`
|
||||||
|
* Typ: `references`
|
||||||
|
* *rule_id*: `explicit:wikilink`
|
||||||
|
* *confidence*: 1.0
|
||||||
|
|
||||||
|
> Alle expliziten Quellen (Wikilink, Inline-Rel, Callout) sind **Primärbelege**.
|
||||||
|
|
||||||
|
### 2.3 Typ-basierte Default-Kanten (Regelbasiert)
|
||||||
|
Jede Note hat einen *Typ* (z. B. `concept`, `project`, `profile`). In `config/types.yaml` definieren wir pro Typ **edge_defaults**, z. B.:
|
||||||
|
|
||||||
|
- `concept`: `["references","related_to"]`
|
||||||
|
- `project`: `["references","depends_on"]`
|
||||||
|
|
||||||
|
Regel: **Für jede gefundene explizite Referenz** (s. o.) werden **zusätzliche** Edges nach diesen Defaults erzeugt.
|
||||||
|
Beispiel: Ein *project* mit `edge_defaults=["depends_on"]` erzeugt zu *jedem* explizit referenzierten Ziel **zusätzlich** eine `depends_on`-Kante.
|
||||||
|
Diese Kanten tragen *provenance=rule* und eine **rule_id** der Form `edge_defaults:{note_type}:{relation}` sowie eine geringere Confidence (~0.7).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3) Edge-Payload – Felder & Semantik
|
||||||
|
|
||||||
|
Jede Kante hat mindestens:
|
||||||
|
|
||||||
|
- `kind` – Beziehungsart *(belongs_to, next, prev, references, related_to, depends_on, similar_to, …)*
|
||||||
|
- `scope` – `"chunk"` (Standard in v2.2)
|
||||||
|
- `source_id`, `target_id` – Quell-/Ziel-Knoten (Chunk-IDs oder Note-Titel bei unresolved Targets)
|
||||||
|
- `note_id` – **Owner-Note** (die Note, aus der die Kante stammt)
|
||||||
|
|
||||||
|
Erweiterte/abgeleitete Felder (WP03 Superset):
|
||||||
|
|
||||||
|
- `provenance` – `"explicit"` (Wikilink/Inline/Callout) oder `"rule"` (Typ-Defaults)
|
||||||
|
- `rule_id` – maschinenlesbare Regelquelle (z.B. `inline:rel`, `edge_defaults:project:depends_on`)
|
||||||
|
- `confidence` – 0.0–1.0; Heuristik zur Gewichtung im Scoring.
|
||||||
|
|
||||||
|
**Dedup-Schlüssel** (fachlich): Gleichlautende `(source_id, target_id, kind, scope, rule_id)` werden nicht mehrfach geschrieben.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4) Typ-Registry (`config/types.yaml`)
|
||||||
|
|
||||||
|
### 4.1 Zweck
|
||||||
|
- Steuert **Chunking-Profile** (`short|medium|long`) **pro Typ**
|
||||||
|
- Liefert **retriever_weight** (Note-/Chunk-Gewichtung im Ranking) **pro Typ**
|
||||||
|
- Definiert **edge_defaults** je Typ (s. o.)
|
||||||
|
|
||||||
|
Der Importer lädt die Registry aus `MINDNET_TYPES_FILE` oder nutzt Fallbacks. **Frontmatter-Overrides** für Profile werden in v2.2 weitgehend ignoriert zugunsten einer zentralen Governance in der YAML-Datei.
|
||||||
|
|
||||||
|
### 4.2 Beispiel (auslieferungsnah)
|
||||||
|
version: 1.0
|
||||||
|
types:
|
||||||
|
concept:
|
||||||
|
chunk_profile: medium
|
||||||
|
edge_defaults: ["references", "related_to"]
|
||||||
|
retriever_weight: 0.60
|
||||||
|
project:
|
||||||
|
chunk_profile: long
|
||||||
|
edge_defaults: ["references", "depends_on"]
|
||||||
|
retriever_weight: 0.97
|
||||||
|
|
||||||
|
**Auflösung im Importer**
|
||||||
|
- `effective_chunk_profile(note_type, registry)` → `"short|medium|long"|None`
|
||||||
|
- `effective_retriever_weight(note_type, registry)` → `float|None`
|
||||||
|
- Ergebnis wird in `note_payload` **und** `chunk_payloads` gespiegelt.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5) Der Retriever (Funktionaler Layer)
|
||||||
|
|
||||||
|
Der Retriever ist in v2.2 der zentrale Zugangspunkt zum Wissen. Er realisiert die **Hybride Suche**.
|
||||||
|
|
||||||
|
### 5.1 Scoring-Modell
|
||||||
|
Die Relevanz eines Treffers ergibt sich nicht mehr nur aus Textähnlichkeit, sondern aus einer gewichteten Formel:
|
||||||
|
|
||||||
|
total_score =
|
||||||
|
semantic_weight * semantic_score
|
||||||
|
+ edge_weight * edge_bonus
|
||||||
|
+ centrality_weight * centrality_bonus
|
||||||
|
+ type_weight * retriever_weight
|
||||||
|
|
||||||
|
* **semantic_score:** Vektorähnlichkeit (Qdrant).
|
||||||
|
* **retriever_weight:** Wichtigkeit des Typs (z.B. Projekte > Quellen).
|
||||||
|
* **edge_bonus:** Belohnung für Chunks, die im Kontext der Anfrage stark vernetzt sind (unter Berücksichtigung der *confidence*).
|
||||||
|
* **centrality_bonus:** Belohnung für Knoten, die zentrale Hubs im lokalen Graphen darstellen.
|
||||||
|
|
||||||
|
### 5.2 Erklärbarkeit (Explainability)
|
||||||
|
Der Retriever liefert **Begründungspfade**. Er gibt nicht nur Text zurück, sondern:
|
||||||
|
* `score_breakdown`: Warum ist dieser Chunk oben? (War es der Text oder der Graph?)
|
||||||
|
* `paths`: Über welche Kanten wurde dieser Chunk gefunden? (z.B. "Gefunden via `depends_on` von deiner aktuellen Projekt-Notiz").
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6) Confidence & Provenance – wozu?
|
||||||
|
|
||||||
|
Der Retriever kann Edges gewichten:
|
||||||
|
- **provenance**: *explicit* > *rule*
|
||||||
|
- **confidence**: numerische Feinsteuerung
|
||||||
|
- **retriever_weight (Note/Chunk)**: skaliert die Relevanz des gesamten Knotens
|
||||||
|
|
||||||
|
Eine typische Gewichtung (konfigurierbar in `retriever.yaml`) ist:
|
||||||
|
`explicit: 1.0`, `rule: 0.8`. Damit bevorzugt der Graph **kuratiertes Wissen** (explizit notierte Links) vor „erweiterten“ Default-Ableitungen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7) Semantik ausgewählter `kind`-Werte
|
||||||
|
|
||||||
|
- `references` – „Nutzt/erwähnt“; neutral, aber stützend für Kontext.
|
||||||
|
- `related_to` – Ähnlichkeit/Verwandtschaft (symmetrisch interpretierbar).
|
||||||
|
- `similar_to` – noch engere Ähnlichkeit; oft aus Inline-Rel (bewusst gesetzt).
|
||||||
|
- `depends_on` – fachliche Abhängigkeit (z. B. „Projekt X hängt von Y ab“).
|
||||||
|
- `belongs_to`, `next`, `prev` – Struktur.
|
||||||
|
|
||||||
|
> Symmetrische Relationen (z. B. `related_to`, `similar_to`) können **explizit** nur einseitig notiert sein, aber im Retriever beidseitig interpretiert werden.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 8) Frontmatter-Eigenschaften – Rolle & Empfehlung
|
||||||
|
|
||||||
|
Frontmatter-Eigenschaften (Properties) bleiben **minimiert**:
|
||||||
|
- **type** – steuert Typ-Defaults via Registry (Pflicht für differenziertes Verhalten).
|
||||||
|
- **tags** – für klassische Filterung.
|
||||||
|
- **retriever_weight / chunk_profile** – Sollten **nicht** manuell gesetzt werden (Best Practice: `types.yaml` nutzen).
|
||||||
|
- **links** – Veraltet. Bitte Links primär über Text (Wikilink/Inline/Callout) pflegen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 9) Lösch-/Update-Garantien (Idempotenz)
|
||||||
|
|
||||||
|
- Jede Note hat einen stabilen **note_id** (Frontmatter/Hash).
|
||||||
|
- Vor einem Upsert können *alte Chunks/Edges einer Note* gefiltert gelöscht werden (`note_id`-Filter) – das hält Collections sauber bei Re-Imports.
|
||||||
|
- Die Import-Skripte unterstützen Modi wie `--purge-before-upsert` und `--sync-deletes`, um den Graph sauber zu halten.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 10) Beispiel – Von Markdown zu Kanten (v2.2)
|
||||||
|
|
||||||
|
**Markdown (Auszug)**
|
||||||
|
# Relations Showcase
|
||||||
|
…
|
||||||
|
Wir nutzen [[rel:depends_on Qdrant Vektordatenbank]] für die Suche.
|
||||||
|
…
|
||||||
|
Siehe auch: [[Embeddings 101]]
|
||||||
|
|
||||||
|
> [!edge] related_to: [[Vector DB Basics]]
|
||||||
|
|
||||||
|
**Ergebnis (fachlich)**
|
||||||
|
1. `depends_on(Chunk→Qdrant)` mit `rule_id=inline:rel`, `confidence≈0.95`.
|
||||||
|
2. `references(Chunk→Embeddings 101)` mit `rule_id=explicit:wikilink`, `confidence=1.0`.
|
||||||
|
3. `related_to(Chunk→Vector DB Basics)` via Callout; `rule_id=callout:edge`, `confidence≈0.90`.
|
||||||
|
4. **Typ-Defaults:** Falls die Note vom Typ `project` ist, entstehen zusätzlich `depends_on`-Kanten zu den Zielen aus (2) und (3).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 11) Qualitäts- und Testkriterien (fachlich)
|
||||||
|
|
||||||
|
- **Keine Duplikate** gleicher `(src, relation, dst)` in der Collectionsicht (Dedup).
|
||||||
|
- **Explizite Links** werden vollständig materialisiert (*explicit_total*).
|
||||||
|
- **Typ-Defaults** ergänzen, aber überdecken nicht.
|
||||||
|
- **Retriever Smoke-Test:** Ein Query muss plausible Scores liefern, die den Einfluss von `edge_bonus` zeigen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 12) Referenzen (Projektdateien & Leitlinien)
|
||||||
|
|
||||||
|
- Import-Pipeline & Registry-Auflösung: `scripts/import_markdown.py`.
|
||||||
|
- Kantenbildung (V2-Logic): `app/core/derive_edges.py`.
|
||||||
|
- Typ-Registry: `config/types.yaml` & `TYPE_REGISTRY_MANUAL.md`.
|
||||||
|
- Retriever-Scoring: `app/core/retriever.py` & `wp04_retriever_scoring.md`.
|
||||||
@@ -0,0 +1,215 @@
|
|||||||
|
# Mindnet v2.2 – Technische Architektur
|
||||||
|
**Datei:** `docs/mindnet_technical_architecture_v2.2.md`
|
||||||
|
**Stand:** 2025-12-07
|
||||||
|
**Status:** **FINAL** (Integrierter Stand WP01–WP04a)
|
||||||
|
**Quellen:** `mindnet_technical_architecture.md`, `chunking_strategy.md`, `Handbuch.md`, `wp04_retriever_scoring.md`, `Überarbeitungshinweise_WP03.md`, `Überarbeitungshinweise_WP04.md`.
|
||||||
|
|
||||||
|
> **Ziel dieses Dokuments:**
|
||||||
|
> Vollständige, konsolidierte Beschreibung der aktuellen technischen Architektur von **Mindnet v2.2**. Es definiert die Datenstrukturen in Qdrant, die Verarbeitungspipelines (Importer, Chunker, Edges) und die Retrieval-Logik. Es bildet den **aktuellen Implementierungsstand** ab.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1. Systemüberblick
|
||||||
|
|
||||||
|
### 1.1 Architektur-Zielbild
|
||||||
|
Mindnet ist ein **persönliches Wissensnetz**. Technisch bedeutet das:
|
||||||
|
1. **Source:** Markdown-Notizen in einem Vault (Obsidian-kompatibel).
|
||||||
|
2. **Pipeline:** Ein Python-Importer transformiert diese in **Notes**, **Chunks** und **Edges**.
|
||||||
|
3. **Storage:** Speicherung in **Qdrant** (Vektor-Datenbank) in drei getrennten Collections.
|
||||||
|
4. **Service:** Eine FastAPI-Anwendung stellt Endpunkte für **Semantische** und **Hybride Suche** bereit.
|
||||||
|
|
||||||
|
Das System arbeitet **deterministisch** (stabile IDs) und ist **konfigurationsgetrieben** (`types.yaml`, `retriever.yaml`).
|
||||||
|
|
||||||
|
### 1.2 Verzeichnisstruktur & Komponenten
|
||||||
|
Die Codebasis ist modular aufgebaut.
|
||||||
|
|
||||||
|
/mindnet/
|
||||||
|
├── app/
|
||||||
|
│ ├── main.py # FastAPI Einstiegspunkt
|
||||||
|
│ ├── core/
|
||||||
|
│ │ ├── qdrant.py # Client-Factory & Connection
|
||||||
|
│ │ ├── qdrant_points.py # Low-Level Point Operations (Upsert/Delete)
|
||||||
|
│ │ ├── note_payload.py # Bau der Note-Objekte
|
||||||
|
│ │ ├── chunk_payload.py # Bau der Chunk-Objekte
|
||||||
|
│ │ ├── chunker.py # Text-Zerlegung (Profiling)
|
||||||
|
│ │ ├── edges.py # Edge-Datenstrukturen
|
||||||
|
│ │ ├── derive_edges.py # Logik der Kantenableitung (WP03)
|
||||||
|
│ │ └── retriever.py # Scoring & Graph-Expansion (WP04)
|
||||||
|
│ ├── models/ # Pydantic DTOs (QueryRequest, etc.)
|
||||||
|
│ └── routers/ # API Routen
|
||||||
|
├── config/
|
||||||
|
│ ├── types.yaml # Typ-Definitionen (Import-Zeit)
|
||||||
|
│ └── retriever.yaml # Scoring-Gewichte (Laufzeit)
|
||||||
|
├── scripts/
|
||||||
|
│ ├── import_markdown.py # Haupt-Importer CLI
|
||||||
|
│ ├── payload_dryrun.py # Diagnose: JSON-Generierung ohne DB
|
||||||
|
│ └── edges_full_check.py # Diagnose: Graph-Integrität
|
||||||
|
└── tests/ # Pytest Suite
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Datenmodell & Collections (Qdrant)
|
||||||
|
|
||||||
|
Das Datenmodell verteilt sich auf drei Collections, definiert durch `COLLECTION_PREFIX` (Standard: `mindnet`).
|
||||||
|
|
||||||
|
### 2.1 Notes Collection (`<prefix>_notes`)
|
||||||
|
Repräsentiert die Metadaten einer Datei.
|
||||||
|
* **Zweck:** Filterung, Metadaten-Haltung, Vererbung von Eigenschaften an Chunks.
|
||||||
|
* **Schema (Payload):**
|
||||||
|
|
||||||
|
| Feld | Datentyp | Beschreibung | Herkunft |
|
||||||
|
| :--- | :--- | :--- | :--- |
|
||||||
|
| `note_id` | Keyword | Stabile ID (UUIDv5 oder Slug). | Frontmatter |
|
||||||
|
| `title` | Text | Titel der Notiz. | Frontmatter |
|
||||||
|
| `type` | Keyword | Logischer Typ (z.B. `concept`). | `types.yaml` Resolver |
|
||||||
|
| `retriever_weight` | Float | Wichtigkeit im Retrieval. | `types.yaml` |
|
||||||
|
| `chunk_profile` | Keyword | Genutztes Chunking-Profil. | `types.yaml` |
|
||||||
|
| `edge_defaults` | List[Str] | Aktive Default-Relationen. | `types.yaml` |
|
||||||
|
| `tags` | List[Kw] | Tags zur Filterung. | Frontmatter |
|
||||||
|
| `updated` | Integer | Zeitstempel (z.B. YYYYMMDD...). | File Stats |
|
||||||
|
| `fulltext` | Text | Gesamter Inhalt (für Export/Rekonstruktion). | Body |
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
### 2.2 Chunks Collection (`<prefix>_chunks`)
|
||||||
|
Die atomaren Sucheinheiten.
|
||||||
|
* **Zweck:** Vektorsuche (Embeddings), Granulares Ergebnis.
|
||||||
|
* **Schema (Payload):**
|
||||||
|
|
||||||
|
| Feld | Datentyp | Beschreibung |
|
||||||
|
| :--- | :--- | :--- |
|
||||||
|
| `chunk_id` | Keyword | Deterministisch: `{note_id}#c{index:02d}`. |
|
||||||
|
| `note_id` | Keyword | Referenz zur Note. |
|
||||||
|
| `text` | Text | **Reiner Inhalt** (ohne Overlap). Anzeige-Text. |
|
||||||
|
| `window` | Text | **Kontext-Fenster** (mit Overlap). Embedding-Basis. |
|
||||||
|
| `ord` | Integer | Sortierreihenfolge (1..N). |
|
||||||
|
| `retriever_weight` | Float | Vererbt von Note. |
|
||||||
|
| `chunk_profile` | Keyword | Vererbt von Note. |
|
||||||
|
| `neighbors_prev` | List[Str] | ID des Vorgänger-Chunks. |
|
||||||
|
| `neighbors_next` | List[Str] | ID des Nachfolger-Chunks. |
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
### 2.3 Edges Collection (`<prefix>_edges`)
|
||||||
|
Gerichtete Kanten. Massiv erweitert in WP03 für Provenienz-Tracking.
|
||||||
|
* **Zweck:** Graph-Traversal, Kontext-Anreicherung.
|
||||||
|
* **Schema (Payload):**
|
||||||
|
|
||||||
|
| Feld | Datentyp | Beschreibung | Wertebereich (Bsp.) |
|
||||||
|
| :--- | :--- | :--- | :--- |
|
||||||
|
| `edge_id` | Keyword | Hash aus (src, dst, kind). | |
|
||||||
|
| `source_id` | Keyword | ID des Start-Chunks. | |
|
||||||
|
| `target_id` | Keyword | ID des Ziel-Chunks (oder Note-Titel). | |
|
||||||
|
| `note_id` | Keyword | Note, die diese Kante definiert. | |
|
||||||
|
| `kind` | Keyword | Art der Beziehung. | `references`, `depends_on`, `next` |
|
||||||
|
| `scope` | Keyword | Geltungsbereich. | Immer `"chunk"` (v2.2). |
|
||||||
|
| `rule_id` | Keyword | Herkunftsregel. | `explicit:wikilink`, `inline:rel` |
|
||||||
|
| `confidence` | Float | Vertrauenswürdigkeit (0.0-1.0). | 1.0, 0.95, 0.7 |
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Konfiguration
|
||||||
|
|
||||||
|
Die Logik ist ausgelagert in YAML-Dateien.
|
||||||
|
|
||||||
|
### 3.1 Typ-Registry (`config/types.yaml`)
|
||||||
|
Steuert den Import-Prozess.
|
||||||
|
* **Priorität:** Frontmatter > Pfad > Default.
|
||||||
|
* **Inhalt:**
|
||||||
|
```yaml
|
||||||
|
types:
|
||||||
|
concept:
|
||||||
|
chunk_profile: medium
|
||||||
|
edge_defaults: ["references", "related_to"]
|
||||||
|
retriever_weight: 0.60
|
||||||
|
```
|
||||||
|
|
||||||
|
### 3.2 Retriever-Config (`config/retriever.yaml`)
|
||||||
|
Steuert das Scoring zur Laufzeit (WP04a).
|
||||||
|
* **Inhalt:**
|
||||||
|
```yaml
|
||||||
|
scoring:
|
||||||
|
semantic_weight: 1.0
|
||||||
|
edge_weight: 0.7
|
||||||
|
centrality_weight: 0.5
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Import-Pipeline (Markdown → Qdrant)
|
||||||
|
|
||||||
|
Das Skript `scripts/import_markdown.py` orchestriert den Prozess.
|
||||||
|
|
||||||
|
### 4.1 Verarbeitungsschritte
|
||||||
|
|
||||||
|
1. **Discovery & Parsing:**
|
||||||
|
* Einlesen der `.md` Dateien. Hash-Vergleich (Body/Frontmatter) zur Erkennung von Änderungen.
|
||||||
|
2. **Typauflösung:**
|
||||||
|
* Laden der `types.yaml`. Bestimmen des effektiven Typs und der `edge_defaults`.
|
||||||
|
3. **Chunking:**
|
||||||
|
* Zerlegung via `chunker.py` basierend auf `chunk_profile` (z.B. `by_heading`, `short`, `long`).
|
||||||
|
* Trennung von `text` (Kern) und `window` (Embedding-Kontext).
|
||||||
|
4. **Kantenableitung (Edge Derivation):**
|
||||||
|
Die `derive_edges.py` erzeugt Kanten in strikter Reihenfolge:
|
||||||
|
1. **Inline-Edges:** `[[rel:depends_on X]]` → `kind=depends_on`, `rule_id=inline:rel`, `conf=0.95`.
|
||||||
|
2. **Callout-Edges:** `> [!edge] related_to: [[X]]` → `kind=related_to`, `rule_id=callout:edge`, `conf=0.90`.
|
||||||
|
3. **Explizite Referenzen:** `[[X]]` → `kind=references`, `rule_id=explicit:wikilink`, `conf=1.0`.
|
||||||
|
4. **Typ-Defaults:** Für jede Referenz werden Zusatzkanten gemäß `edge_defaults` erzeugt (z.B. `project` -> `depends_on`). `rule_id=edge_defaults:...`, `conf=0.7`.
|
||||||
|
5. **Struktur:** `belongs_to`, `next`, `prev` (automatisch).
|
||||||
|
5. **Upsert:**
|
||||||
|
* Schreiben in Qdrant. Nutzung von `--purge-before-upsert` für saubere Updates.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Retriever-Architektur & Scoring
|
||||||
|
|
||||||
|
Der Retriever (`app/core/retriever.py`) realisiert die Logik hinter `/query`.
|
||||||
|
|
||||||
|
### 5.1 Betriebsmodi
|
||||||
|
* **Semantic:** Reine Vektorsuche. Schnell.
|
||||||
|
* **Hybrid:** Vektorsuche + Graph-Expansion (Tiefe N) + Re-Ranking.
|
||||||
|
|
||||||
|
### 5.2 Scoring-Formel (WP04a)
|
||||||
|
Die Relevanzberechnung ist nun eine gewichtete Summe:
|
||||||
|
|
||||||
|
$$
|
||||||
|
TotalScore = (W_{sem} \cdot S_{sem} \cdot \max(W_{type}, 0)) + (W_{edge} \cdot B_{edge}) + (W_{cent} \cdot B_{cent})
|
||||||
|
$$
|
||||||
|
|
||||||
|
* **Komponenten:**
|
||||||
|
* $S_{sem}$: Semantic Score (Cosine Similarity).
|
||||||
|
* $W_{type}$: `retriever_weight` (aus Note/Chunk Payload).
|
||||||
|
* $B_{edge}$: Edge-Bonus (Summe der Konfidenzen eingehender relevanter Kanten).
|
||||||
|
* $B_{cent}$: Centrality-Bonus (im lokalen Subgraphen).
|
||||||
|
* **Gewichte ($W$):** Stammen aus `retriever.yaml`.
|
||||||
|
|
||||||
|
### 5.3 Graph-Expansion
|
||||||
|
Der Hybrid-Modus lädt dynamisch die Nachbarschaft der Top-K Vektor-Treffer ("Seeds") über `graph_adapter.expand`. Dies baut einen temporären `NetworkX`-Graphen im Speicher, auf dem Boni berechnet werden.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Indizes & Performance
|
||||||
|
|
||||||
|
Damit Qdrant performant bleibt, sind Payload-Indizes essenziell.
|
||||||
|
|
||||||
|
**Erforderliche Indizes:**
|
||||||
|
* **Notes:** `note_id`, `type`, `tags`.
|
||||||
|
* **Chunks:** `note_id`, `chunk_id`.
|
||||||
|
* **Edges:** `source_id`, `target_id`, `kind`, `scope`, `note_id`.
|
||||||
|
|
||||||
|
Validierung erfolgt über `tests/ensure_indexes_and_show.py`.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7. Offene Punkte / Known Limitations
|
||||||
|
|
||||||
|
1. **Multi-Target Inline-Relations:**
|
||||||
|
* `rel: similar_to [[A]] [[B]]` wird aktuell parser-seitig nicht unterstützt.
|
||||||
|
* Workaround: Zwei separate Inline-Links `[[rel:similar_to A]] [[rel:similar_to B]]`.
|
||||||
|
2. **Unresolved Targets:**
|
||||||
|
* Kanten zu Notizen, die noch nicht existieren, werden mit `target_id="Titel"` angelegt.
|
||||||
|
* Heilung durch `scripts/resolve_unresolved_references.py` möglich.
|
||||||
|
3. **Vektor-Konfiguration für Edges:**
|
||||||
|
* `mindnet_edges` hat aktuell keine Vektoren (`vectors = null`). Eine semantische Suche *auf Kanten* ist noch nicht möglich.
|
||||||
@@ -0,0 +1,365 @@
|
|||||||
|
# mindnet v2 – Implementierungs-Playbook & Handover (Side‑by‑Side zu v1)
|
||||||
|
*Stand:* 2025-11-10 08:03
|
||||||
|
*Autor:* ChatGPT (Projekt‑Handover)
|
||||||
|
*Zweck:* Vollständige, ausführbare Anleitung zur Weiterentwicklung von **mindnet** auf eine versionierte, testbare v2‑Architektur (neben v1), inklusive Prompt für den Folgethread, Akzeptanzkriterien, Dateiliste, Test‑ und Rollback‑Pläne.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 0) Kontext & Zielbild (kurz)
|
||||||
|
- **Mission:** Persönliches Wissensnetz, das langfristig die eigene Persönlichkeit, Erfahrungen und Entscheidungslogik abbildet; später nachvollziehbare Erklärungen für Familie/Nachwelt.
|
||||||
|
- **Heutiger Stand (v1):** `mindnet_notes` in Qdrant vorhanden; **Chunks** und **Edges** bisher nur teilweise/nicht konsistent; Edge‑Defaults („1 Dot“) vorhanden, aber Ziele teils nicht materialisiert. Importskripte: `import_markdown.py`, `edges.py` (historisch).
|
||||||
|
- **Ziel (v2):**
|
||||||
|
- **Collections:** `mindnet_notes_v2`, `mindnet_chunks_v2`, `mindnet_edges_v2` (saubere Payload‑Schemata + Indizes).
|
||||||
|
- **Chunker v2:** Block/Heading‑aware, Ziel 900–1200 Zeichen, Überlappung 120–180, deterministische `chunk_id`s.
|
||||||
|
- **Edge‑Builder v2:** Reihenfolge: **explicit → rule → default_resolved → default**; saubere `provenance`.
|
||||||
|
- **Importer‑Pipeline v2:** Parse → Chunk → Edge → Embeddings → Batch‑Upsert + Payload‑Indexpflege + Snapshots.
|
||||||
|
- **Policies:** Privacy/Recency/Type‑Gewichte als **Konfiguration** (YAML + JSON‑Schema), nicht hart im Code.
|
||||||
|
- **Observability:** FastAPI + OpenTelemetry (Tracing/Metrics); Import‑Reports (CSV/JSON).
|
||||||
|
- **Side‑by‑Side:** v2 **parallel** zu v1; kein Big‑Bang.
|
||||||
|
|
||||||
|
> **Warum so?** Qdrant‑Payload‑Indizes/Filter → schnelle, erklärbare Selektionen; Snapshots → betriebssicheres Rollback; OTel → Nachvollziehbarkeit; YAML/JSON‑Schema → Validierbarkeit & Stabilität.
|
||||||
|
|
||||||
|
### 0.1 Aktueller Implementierungsstand (2025-11-18)
|
||||||
|
|
||||||
|
- Es existiert eine produktive mindnet-Instanz mit den Collections:
|
||||||
|
- `${prefix}_notes`
|
||||||
|
- `${prefix}_chunks`
|
||||||
|
- `${prefix}_edges`
|
||||||
|
- Import-Pipeline:
|
||||||
|
- `scripts/import_markdown.py` erzeugt Notes, Chunks und Edges vollständig.
|
||||||
|
- `types.yaml` definiert per Note-Typ:
|
||||||
|
- `retriever_weight`
|
||||||
|
- `chunk_profile`
|
||||||
|
- `edge_defaults` (z. B. `depends_on`, `related_to`).
|
||||||
|
- Edges:
|
||||||
|
- Strukturkanten: `belongs_to`, `next`, `prev`
|
||||||
|
- Explizite Kanten aus Wikilinks: `kind="references"`, `rule_id="explicit:wikilink"`
|
||||||
|
- Typbasierte Default-Kanten aus `edge_defaults`: `rule_id="edge_defaults:<type>:<relation>"`
|
||||||
|
- Inline-Kanten im Format `[[rel:<relation> <Zielnote>]]` mit `rule_id="inline:rel"`
|
||||||
|
- alle Edges tragen eine `confidence` im Bereich `[0,1]` als Hinweis für spätere Ranking-Logiken.
|
||||||
|
- Tests:
|
||||||
|
- `tests/test_edges_smoke.py`, `tests/test_edges_all.py` und `scripts/edges_full_check.py` validieren Counts, Konsistenz (`belongs_to == chunks`, `next/prev`-Ketten, keine Duplikate) und Provenienz-Zählungen (`explicit`, `defaults`, `inline`, `structure`).
|
||||||
|
- Offene Punkte:
|
||||||
|
- Mehrere Ziele in einer Inline-Relation (`rel: similar_to [[A]] [[B]]`) sind noch nicht implementiert.
|
||||||
|
- Retrieval-Service nutzt die neuen Edges und Weights bisher nur teilweise; ein edge-bewusster Retriever ist als nächster Schritt geplant.
|
||||||
|
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1) Datenmodelle (Schemata, v2)
|
||||||
|
Die tatsächlichen JSON‑Schemata (2020‑12) werden im Repo abgelegt und in CI validiert.
|
||||||
|
|
||||||
|
### 1.1 note.schema.json
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"$schema": "https://json-schema.org/draft/2020-12/schema",
|
||||||
|
"$id": "https://example.org/mindnet/note.schema.json",
|
||||||
|
"type": "object",
|
||||||
|
"required": ["id", "title", "type", "privacy", "created", "hash_body"],
|
||||||
|
"properties": {
|
||||||
|
"id": { "type": "string", "pattern": "^[a-zA-Z0-9_-]+$" },
|
||||||
|
"title": { "type": "string", "minLength": 1 },
|
||||||
|
"type": { "type": "string" },
|
||||||
|
"privacy": { "type": "string", "enum": ["public","internal","private"] },
|
||||||
|
"created": { "type": "string", "format": "date-time" },
|
||||||
|
"modified": { "type": "string", "format": "date-time" },
|
||||||
|
"tags": { "type": "array", "items": { "type": "string" } },
|
||||||
|
"lang": { "type": "string", "default": "de" },
|
||||||
|
"source_path": { "type": "string" },
|
||||||
|
"source_collection": { "type": "string" },
|
||||||
|
"hash_body": { "type": "string" },
|
||||||
|
"hash_frontmatter": { "type": "string" },
|
||||||
|
"token_count": { "type": "integer", "minimum": 0 }
|
||||||
|
}
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
### 1.2 chunk.schema.json
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"$schema": "https://json-schema.org/draft/2020-12/schema",
|
||||||
|
"$id": "https://example.org/mindnet/chunk.schema.json",
|
||||||
|
"type": "object",
|
||||||
|
"required": ["chunk_id","note_id","text","ord"],
|
||||||
|
"properties": {
|
||||||
|
"chunk_id": { "type": "string", "pattern": "^[a-zA-Z0-9_-]+#c\d{4}$" },
|
||||||
|
"note_id": { "type": "string" },
|
||||||
|
"text": { "type": "string" },
|
||||||
|
"ord": { "type": "integer", "minimum": 0 },
|
||||||
|
"span_char_start": { "type": "integer", "minimum": 0 },
|
||||||
|
"span_char_end": { "type": "integer", "minimum": 0 },
|
||||||
|
"heading_path": { "type": "array", "items": { "type": "string" } },
|
||||||
|
"section_title": { "type": "string" },
|
||||||
|
"tokens_start": { "type": "integer", "minimum": 0 },
|
||||||
|
"tokens_end": { "type": "integer", "minimum": 0 },
|
||||||
|
"embeddings_version": { "type": "string" }
|
||||||
|
}
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
### 1.3 edge.schema.json
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"$schema": "https://json-schema.org/draft/2020-12/schema",
|
||||||
|
"$id": "https://example.org/mindnet/edge.schema.json",
|
||||||
|
"type": "object",
|
||||||
|
"required": ["edge_id","src_note_id","relation","provenance"],
|
||||||
|
"properties": {
|
||||||
|
"edge_id": { "type": "string" },
|
||||||
|
"src_note_id": { "type": "string" },
|
||||||
|
"src_chunk_id": { "type": "string" },
|
||||||
|
"dst_note_id": { "type": "string" },
|
||||||
|
"dst_chunk_id": { "type": "string" },
|
||||||
|
"relation": { "type": "string" },
|
||||||
|
"evidence_spans":{ "type": "array", "items": {"type":"object","properties":{"chunk_id":{"type":"string"},"span":[{"type":"integer"},{"type":"integer"}]]} },
|
||||||
|
"provenance": { "type": "string", "enum": ["explicit","rule","default_resolved","default"] },
|
||||||
|
"rule_id": { "type": "string" },
|
||||||
|
"confidence": { "type": "number", "minimum": 0, "maximum": 1 }
|
||||||
|
}
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
### 1.4 default_edge.schema.json
|
||||||
|
```json
|
||||||
|
{
|
||||||
|
"$schema": "https://json-schema.org/draft/2020-12/schema",
|
||||||
|
"$id": "https://example.org/mindnet/default_edge.schema.json",
|
||||||
|
"type": "object",
|
||||||
|
"required": ["src_note_id","relation","target_kind"],
|
||||||
|
"properties": {
|
||||||
|
"src_note_id": { "type": "string" },
|
||||||
|
"relation": { "type": "string" },
|
||||||
|
"target_kind": { "type": "string" },
|
||||||
|
"when": { "type": "string" },
|
||||||
|
"strength_hint":{ "type": "number", "minimum": 0, "maximum": 1 }
|
||||||
|
}
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2) Qdrant: Collections & Indizes (v2)
|
||||||
|
Anlegen **neben** v1:
|
||||||
|
- `mindnet_notes_v2` (Payload‑Index: `type, privacy, created, modified, tags, source_path`)
|
||||||
|
- `mindnet_chunks_v2` (Payload‑Index: `note_id, ord, heading_path`)
|
||||||
|
- `mindnet_edges_v2` (Payload‑Index: `src_note_id, dst_note_id, relation, provenance`)
|
||||||
|
|
||||||
|
> Snapshots für Backups/Restore einplanen (Runbook siehe unten).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3) Import‑Pipeline v2 – Module & Flags
|
||||||
|
- **Chunker v2** (`chunking/block_chunker.py`): `target_len=1000`, `overlap=150`, `respect_headings=True`, `min_chunk_len=600`, `max_chunk_len=1400`, `chunk_id = f\"{note_id}#c{ordinal:04d}\"`
|
||||||
|
- **Edge‑Builder v2** (`graph/edge_builder_v2.py`): Reihenfolge **explicit → rule → default_resolved → default**, `provenance` korrekt setzen.
|
||||||
|
- **Importer** (`scripts/import_markdown.py` erweitern oder `scripts/import_markdown_v2.py`):
|
||||||
|
Flags: `--schema v2`, `--chunker v2`, `--edges v2`, `--dry-run`, `--apply`, `--prefix "$COLLECTION_PREFIX"`.
|
||||||
|
|
||||||
|
**Beispiel‑Run (dry‑run):**
|
||||||
|
```bash
|
||||||
|
python3 -m scripts.import_markdown_v2 --vault ./vault --schema v2 --chunker v2 --edges v2 --dry-run --prefix "$COLLECTION_PREFIX"
|
||||||
|
```
|
||||||
|
|
||||||
|
**Apply:**
|
||||||
|
```bash
|
||||||
|
python3 -m scripts.import_markdown_v2 --vault ./vault --schema v2 --chunker v2 --edges v2 --apply --prefix "$COLLECTION_PREFIX"
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4) Policies (konfigurierbar, kein Hard‑Code)
|
||||||
|
- `policies/retrieval.schema.json` (JSON‑Schema) und `policies/retrieval.yaml`, z. B.:
|
||||||
|
```yaml
|
||||||
|
privacy_order: [private, internal, public]
|
||||||
|
recency_boost_half_life_days: 90
|
||||||
|
type_priority:
|
||||||
|
person: 1.2
|
||||||
|
event: 1.1
|
||||||
|
concept: 1.0
|
||||||
|
max_chunks_per_note: 8
|
||||||
|
edge_provenance_weights:
|
||||||
|
explicit: 1.0
|
||||||
|
rule: 0.8
|
||||||
|
default_resolved: 0.6
|
||||||
|
default: 0.2
|
||||||
|
rule_sets:
|
||||||
|
- id: "rules:types-v1"
|
||||||
|
enabled: true
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5) Observability & Reports
|
||||||
|
- **FastAPI + OpenTelemetry**: Traces um Phasen *parse/chunk/edge/upsert*; Metriken (Counter/Histogramme) pro Phase.
|
||||||
|
- **Import‑Report** je Lauf (CSV/JSON): counts für Notes/Chunks/Edges, Fehler, Dauer, Embedding‑Version.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6) Teststrategie
|
||||||
|
- **Gold‑Notizen** (3–5 repräsentative .md) mit erwarteten *Chunk‑Counts* und *Edge‑Sets*.
|
||||||
|
- **Regression:** fixer Soll‑Count (z. B. 171 ± 15 %) über Gesamt‑Vault; keine Duplikate `(src,relation,dst)`.
|
||||||
|
- **Dry‑Run vs Apply**: identische Counts, nur ohne Upserts.
|
||||||
|
- **Filter‑Smoke‑Tests:** Qdrant‑Filter nach `privacy`, `type`, `tags`, `created` funktionieren performant.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7) Akzeptanzkriterien (KPI)
|
||||||
|
1. **Chunk‑Qualität:** ≥ 90 % der Chunks enden an semantischen Grenzen; Ziel‑Länge 900–1200 Zeichen; deterministische IDs.
|
||||||
|
2. **Edge‑Kohärenz:** Keine Duplikate gleicher `(src,relation,dst)`; ≥ 95 % der expliziten Links materialisiert; `default` nur, wenn kein Ziel existiert.
|
||||||
|
3. **Filterbarkeit:** Queries nach `privacy/type/tags/created` performant (Payload‑Index vorhanden).
|
||||||
|
4. **Betriebsfestigkeit:** Telemetrie aktiv; fehlertoleranter Import; Qdrant‑Snapshot nach erfolgreichem Lauf.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 8) Roadmap in kleinen, testbaren Schritten
|
||||||
|
|
||||||
|
### Step 0 – Safeguards
|
||||||
|
- Qdrant‑Snapshot v1 erstellen + Restore‑Probe.
|
||||||
|
- ENV: `MINDNET_SCHEMA_VERSION=2` (Importer wird v2 schreiben, v1 bleibt unberührt).
|
||||||
|
|
||||||
|
### Step 1 – Schemata (nur Dateien)
|
||||||
|
- Ablage: `/schemas/note.schema.json`, `/schemas/chunk.schema.json`, `/schemas/edge.schema.json`, `/schemas/default_edge.schema.json`
|
||||||
|
- CI‑Job: `make schema-validate` (jsonschema).
|
||||||
|
- **Abnahme:** Validator grün auf 3 Gold‑Notizen.
|
||||||
|
|
||||||
|
### Step 2 – Qdrant v2‑Collections (Optional)
|
||||||
|
- Anlegen der 3 v2‑Collections + Payload‑Indizes.
|
||||||
|
- **Abnahme:** Filter‑Query liefert erwartbare Ergebnisse.
|
||||||
|
|
||||||
|
### Step 2a – Edge-Pipeline v1 stabilisieren (ERLEDIGT)
|
||||||
|
- Ziel: Vollständige Generierung von Struktur-, expliziten, typbasierten und Inline-Kanten in den bestehenden Collections `${prefix}_notes`, `${prefix}_chunks`, `${prefix}_edges`.
|
||||||
|
- Status: Implementiert und durch `tests/test_edges_smoke.py`, `tests/test_edges_all.py` und `scripts/edges_full_check.py` verifiziert.
|
||||||
|
|
||||||
|
|
||||||
|
### Step 3 – Chunker v2
|
||||||
|
- Implementierung & Flag `--chunker v2`.
|
||||||
|
- **Abnahme:** Chunk‑Counts ~ alt (≈171 ± 15 %), semantische Schnitte.
|
||||||
|
|
||||||
|
### Step 4 – Edge‑Builder v2
|
||||||
|
- Reihenfolge & `provenance` strikt umsetzen, `default_resolved` integrieren.
|
||||||
|
- **Abnahme:** erwartete Relationensätze auf Gold‑Notizen, keine Duplikate.
|
||||||
|
|
||||||
|
### Step 4a – Edge-bewusster Retriever
|
||||||
|
- Implementiere einen Retrieval-Service, der:
|
||||||
|
- Chunks über Vektor-Suche aus `${prefix}_chunks` holt,
|
||||||
|
- dazu passende Nachbar-Chunks (`next/prev`) und typrelevante Notizen (`edge_defaults`, Inline-Relationen, Wikilinks) über `${prefix}_edges` ergänzt,
|
||||||
|
- `retriever_weight` und `confidence` beim Scoring berücksichtigt.
|
||||||
|
- Liefere einen API-Endpoint `/mindnet/query` mit einem einfachen JSON-Response (Chunks + Begründung).
|
||||||
|
- Akzeptanz:
|
||||||
|
- mindestens ein Testfall mit dem Relations-Showcase-Vault,
|
||||||
|
- sichtbarer Einfluss von `edge_defaults` und Inline-Relationen auf die Ergebnisliste.
|
||||||
|
|
||||||
|
|
||||||
|
### Step 5 – Importer‑Pipeline v2
|
||||||
|
- `--schema v2` Side‑by‑Side; Batch‑Upserts; vollständige Payloads; Recency‑Boost Konfig **nur** in Policy.
|
||||||
|
- **Abnahme:** Dry‑Run/Apply‑Parität, Reports, Telemetrie‑Ereignisse sichtbar.
|
||||||
|
|
||||||
|
### Step 6 – Observability
|
||||||
|
- OTel‑Instrumentierung + `/import/status` + Reports.
|
||||||
|
- **Abnahme:** Traces & Metriken vorhanden.
|
||||||
|
|
||||||
|
### Step 7 – Snapshots & Runbook
|
||||||
|
- Snapshot nach Erfolg; Restore‑Dokument.
|
||||||
|
- **Abnahme:** Restore‑Probe erfolgreich.
|
||||||
|
|
||||||
|
### Step 8 – Policies
|
||||||
|
- `policies/retrieval.yaml` + JSON‑Schema; A/B‑Test (Policy ändern → Retrieval ändert sich ohne Reimport).
|
||||||
|
- **Abnahme:** Sichtbarer Effekt laut Testfall.
|
||||||
|
|
||||||
|
### Step 9 – Umschalten
|
||||||
|
- Abnahme‑Doku, KPI‑Delta dokumentiert; Alias/Flag‑Switch auf v2.
|
||||||
|
- **Abnahme:** Funktionale Gleichwertigkeit + Qualitätsgewinn.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 9) Dateien (neu/ändern)
|
||||||
|
**Neu:**
|
||||||
|
- `schemas/note.schema.json`
|
||||||
|
- `schemas/chunk.schema.json`
|
||||||
|
- `schemas/edge.schema.json`
|
||||||
|
- `schemas/default_edge.schema.json`
|
||||||
|
- `policies/retrieval.schema.json`
|
||||||
|
- `policies/retrieval.yaml`
|
||||||
|
- `chunking/block_chunker.py`
|
||||||
|
- `graph/edge_builder_v2.py`
|
||||||
|
- `docs/OPERATIONS.md` (Snapshots/Restore/Runbook)
|
||||||
|
- `tests/gold_notes/manifest.yaml` (+ 3–5 Notizen Kopien)
|
||||||
|
|
||||||
|
**Änderungen:**
|
||||||
|
- `scripts/import_markdown.py` **oder** `scripts/import_markdown_v2.py` neu (Flags `--schema/--chunker/--edges`).
|
||||||
|
- `edges.py` (falls weiterverwendet): auf **v2‑Edge‑Builder** migrieren oder auslaufen lassen.
|
||||||
|
- `types.yaml`: Regel‑Definitionen klarisieren (IDs, Bedingungen), **nicht** hart in Code.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 10) Beispiel‑Kommandos
|
||||||
|
```bash
|
||||||
|
# Step 2: Collections prüfen
|
||||||
|
curl -s http://127.0.0.1:6333/collections | jq
|
||||||
|
|
||||||
|
# Step 3: Chunker v2 (dry-run)
|
||||||
|
python3 -m scripts.import_markdown_v2 --vault ./vault --schema v2 --chunker v2 --edges v2 --dry-run --prefix "$COLLECTION_PREFIX"
|
||||||
|
|
||||||
|
# Step 5: Apply + Report
|
||||||
|
python3 -m scripts.import_markdown_v2 --vault ./vault --schema v2 --chunker v2 --edges v2 --apply --prefix "$COLLECTION_PREFIX" --report ./reports/import_$(date +%F_%H%M).json
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 11) Rollback
|
||||||
|
- v2‑Collections droppen (wenn Side‑by‑Side).
|
||||||
|
- Aus Snapshot wiederherstellen (v1).
|
||||||
|
- Flags zurück auf v1.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 12) Referenzen (offizielle Quellen)
|
||||||
|
- Qdrant – Collections, Payload‑Index, Filter: <https://qdrant.tech/documentation/>
|
||||||
|
- Qdrant – Snapshots/Backup: <https://qdrant.tech/documentation/guides/backup/>
|
||||||
|
- OpenTelemetry (Python/FastAPI): <https://opentelemetry.io/docs/instrumentation/python/>
|
||||||
|
- JSON‑Schema 2020‑12: <https://json-schema.org/>
|
||||||
|
- YAML 1.2: <https://yaml.org/spec/1.2.2/>
|
||||||
|
- Obsidian Frontmatter: <https://help.obsidian.md/Editing+and+formatting/Properties>
|
||||||
|
- Ollama CLI/API (lokale Modelle): <https://github.com/ollama/ollama>
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 13) **PROMPT für den neuen Chat (bitte exakt so einfügen)**
|
||||||
|
```
|
||||||
|
Rolle: Du bist mein Senior‑Entwickler & Architekt für mindnet. Arbeite strikt in kleinen, testbaren Schritten (Side‑by‑Side v2 neben v1). Liefere komplette Dateien als Downloads. Frage immer zuerst nach den **aktuellsten** Projektdateien, wenn du sie brauchst (z. B. import_markdown.py, edges.py, types.yaml), ändere keine Systemfunktion „workaround‑artig“ ohne die Gesamtwirkung zu prüfen.
|
||||||
|
|
||||||
|
Kontext (Kurzfassung):
|
||||||
|
- v1 hat nur mindnet_notes zuverlässig. Chunks/Edges sind inkonsistent/teilweise leer. Ziel: v2 mit drei Collections (notes/chunks/edges), neuem Chunker v2, Edge‑Builder v2 (explicit → rule → default_resolved → default), Policies (YAML), Observability (OTel), Snapshots. Kein Big‑Bang; v2 parallel zu v1.
|
||||||
|
- Siehe angehängte Datei **mindnet_v2_implementation_playbook.md** (Pfad/Download im Chat). Alles daraus ist verbindlich.
|
||||||
|
|
||||||
|
Deine ersten Aufgaben (Step‑by‑Step):
|
||||||
|
1) **Schemata anlegen (Step 1)**
|
||||||
|
- Erstelle die Dateien:
|
||||||
|
- schemas/note.schema.json
|
||||||
|
- schemas/chunk.schema.json
|
||||||
|
- schemas/edge.schema.json
|
||||||
|
- schemas/default_edge.schema.json
|
||||||
|
- Nutze die in der Playbook‑Datei vorgegebenen Strukturen als Basis.
|
||||||
|
- Liefere zusätzlich ein einfaches `Makefile`‑Ziel `schema-validate` (jsonschema via Python), plus `requirements.txt`.
|
||||||
|
- Output: komplette Dateien als Downloads + kurze Testanleitung.
|
||||||
|
|
||||||
|
2) **Qdrant v2‑Collections (Step 2)**
|
||||||
|
- Erzeuge die Collections + Payload‑Indizes.
|
||||||
|
- Liefere ein kleines Python‑Skript `tools/qdrant_bootstrap_v2.py`, das diese Anlage idempotent durchführt (inkl. Prüf‑Output).
|
||||||
|
|
||||||
|
3) **Chunker v2 (Step 3)**
|
||||||
|
- Implementiere `chunking/block_chunker.py` mit den im Playbook genannten Parametern.
|
||||||
|
- Teste gegen 3 Gold‑Notizen (liefere mini Test‑Harness in `tests/gold_notes/…`).
|
||||||
|
|
||||||
|
Arbeitsweise:
|
||||||
|
- Jede Aufgabe einzeln, mit klaren Akzeptanzkriterien (aus Playbook) und Download‑Artefakten.
|
||||||
|
- Keine parallelen Großumbauten.
|
||||||
|
- Immer deterministische IDs, idempotente Upserts.
|
||||||
|
|
||||||
|
Dateien, die ich dir anfänglich bereitstelle:
|
||||||
|
- **mindnet_v2_implementation_playbook.md** (diese Datei)
|
||||||
|
- **import_markdown.py** (aktuelle Version aus dem Projekt)
|
||||||
|
- **edges.py** (aktuelle Version aus dem Projekt)
|
||||||
|
- **types.yaml** (aktuelle Version)
|
||||||
|
|
||||||
|
Sage mir jeweils, welche Datei du als Nächstes brauchst. Beginne jetzt mit Aufgabe 1 (Schemata).
|
||||||
|
```
|
||||||
@@ -0,0 +1,191 @@
|
|||||||
|
# mindnet v2.2 – Pipeline Playbook
|
||||||
|
**Datei:** `docs/mindnet_pipeline_playbook_v2.2.md`
|
||||||
|
**Stand:** 2025-12-07
|
||||||
|
**Status:** **FINAL** (Konsolidiert aus WP02, WP03, WP04a)
|
||||||
|
**Quellen:** `mindnet_v2_implementation_playbook.md`, `Handbuch.md`, `chunking_strategy.md`, `docs_mindnet_retriever.md`, `wp04_retriever_scoring.md`.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1. Zweck & Einordnung
|
||||||
|
|
||||||
|
Dieses Playbook ist das zentrale operative Handbuch für die **mindnet-Pipeline**. Es beschreibt, wie Daten vom Markdown-Vault in den Wissensgraphen (Qdrant) gelangen und wie der Retriever konfiguriert und betrieben wird.
|
||||||
|
|
||||||
|
**Zielgruppe:** Dev/Ops, Tech-Leads.
|
||||||
|
**Scope:**
|
||||||
|
* **Ist-Stand (WP01–WP04a):** Markdown-Import, Chunking, Edge-Erzeugung, Hybrider Retriever.
|
||||||
|
* **Roadmap (Ausblick):** Self-Healing (WP06), Feedback-Loops (WP08).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Die Import-Pipeline (Runbook)
|
||||||
|
|
||||||
|
Der Import ist der kritischste Prozess. Er muss **deterministisch** und **idempotent** sein. Wir nutzen `scripts/import_markdown.py` als zentralen Entrypoint.
|
||||||
|
|
||||||
|
### 2.1 Der 12-Schritte-Prozess
|
||||||
|
Gemäß WP03-Spezifikation läuft der Import intern wie folgt ab:
|
||||||
|
|
||||||
|
1. **Markdown lesen:** Rekursives Scannen des Vaults.
|
||||||
|
2. **Frontmatter extrahieren:** Validierung von Pflichtfeldern (`id`, `type`, `title`).
|
||||||
|
3. **Typauflösung:** Bestimmung des `type` via `types.yaml` (Prio: Frontmatter > Pfad > Default).
|
||||||
|
4. **Note-Payload generieren:** Erstellen des JSON-Objekts für `mindnet_notes`.
|
||||||
|
5. **Chunking anwenden:** Zerlegung des Textes basierend auf dem `chunk_profile` des Typs.
|
||||||
|
6. **Inline-Kanten finden:** Parsing von `[[rel:...]]` im Fließtext.
|
||||||
|
7. **Callout-Kanten finden:** Parsing von `> [!edge]` Blöcken.
|
||||||
|
8. **Default-Edges erzeugen:** Anwendung der `edge_defaults` aus der Typ-Registry.
|
||||||
|
9. **Strukturkanten erzeugen:** `belongs_to` (Chunk->Note), `next`/`prev` (Sequenz).
|
||||||
|
10. **Chunks upserten:** Schreiben in Qdrant (`mindnet_chunks`).
|
||||||
|
11. **Edges upserten:** Schreiben in Qdrant (`mindnet_edges`).
|
||||||
|
12. **Diagnose:** Automatischer Check der Integrität nach dem Lauf.
|
||||||
|
|
||||||
|
### 2.2 Standard-Betrieb (Inkrementell)
|
||||||
|
Für regelmäßige Updates (z.B. Cronjob). Erkennt Änderungen via Hash.
|
||||||
|
|
||||||
|
export QDRANT_URL="http://localhost:6333"
|
||||||
|
export COLLECTION_PREFIX="mindnet"
|
||||||
|
|
||||||
|
# Import starten (Apply = Schreiben, Purge = Sauberer Upsert)
|
||||||
|
python3 -m scripts.import_markdown \
|
||||||
|
--vault ./vault \
|
||||||
|
--prefix "$COLLECTION_PREFIX" \
|
||||||
|
--apply \
|
||||||
|
--purge-before-upsert \
|
||||||
|
--sync-deletes
|
||||||
|
|
||||||
|
* `--apply`: Ohne dieses Flag läuft ein Dry-Run (nur Simulation).
|
||||||
|
* `--purge-before-upsert`: Löscht vor dem Schreiben einer Note ihre alten Chunks/Edges. Essentiell, um "Geister-Chunks" zu vermeiden, wenn Text gekürzt wurde.
|
||||||
|
* `--sync-deletes`: Entfernt Notizen aus Qdrant, die im Vault gelöscht wurden.
|
||||||
|
|
||||||
|
### 2.3 Full Rebuild (Clean Slate)
|
||||||
|
Notwendig bei Änderungen an `types.yaml` (z.B. neue Chunk-Größen) oder Embedding-Modellen.
|
||||||
|
|
||||||
|
# 1. Qdrant Collections löschen und neu anlegen (Wipe inkl. Schema)
|
||||||
|
python3 -m scripts.reset_qdrant --mode wipe --prefix "mindnet" --yes
|
||||||
|
|
||||||
|
# 2. Vollständiger Import aller Dateien
|
||||||
|
python3 -m scripts.import_markdown \
|
||||||
|
--vault ./vault \
|
||||||
|
--prefix "mindnet" \
|
||||||
|
--apply
|
||||||
|
|
||||||
|
### 2.4 Baseline-Builds & Hashing
|
||||||
|
Um unnötige Updates zu vermeiden, nutzt der Importer Hashes.
|
||||||
|
* **ENV `MINDNET_HASH_COMPARE`:** Steuert, was verglichen wird.
|
||||||
|
* `Body`: Nur Textänderungen triggern Update (Standard).
|
||||||
|
* `Full`: Auch Frontmatter-Änderungen (z.B. Tags) triggern Update.
|
||||||
|
* **Flag `--baseline-modes`:** Berechnet Hashes für alle Modi vor, um spätere Wechsel der Strategie ohne Massen-Update zu ermöglichen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Chunking & Payload-Aufbau
|
||||||
|
|
||||||
|
Das Chunking ist profilbasiert und typgesteuert.
|
||||||
|
|
||||||
|
### 3.1 Chunk-Profile
|
||||||
|
In `types.yaml` definiert. Standard-Profile (in `chunk_config.py` implementiert):
|
||||||
|
* `short`: Max 128 Tokens (z.B. für Logs, Chats).
|
||||||
|
* `medium`: Max 256 Tokens (z.B. für Konzepte).
|
||||||
|
* `long`: Max 512 Tokens (z.B. für Essays, Projekte).
|
||||||
|
* `by_heading`: Trennt strikt an Überschriften.
|
||||||
|
|
||||||
|
### 3.2 Payload-Felder
|
||||||
|
Jeder Chunk erhält zwei Text-Felder:
|
||||||
|
* `text`: Der reine Inhalt des Chunks (ohne Overlap). Wird dem Nutzer angezeigt.
|
||||||
|
* `window`: Der Inhalt plus Overlap zu Vorgänger/Nachfolger. Wird für das Embedding genutzt (besserer Kontext).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Edge-Erzeugung (Die V2-Logik)
|
||||||
|
|
||||||
|
In v2.2 entstehen Kanten nach strenger Priorität.
|
||||||
|
|
||||||
|
### 4.1 Prioritäten & Provenance
|
||||||
|
Der Importer setzt `provenance`, `rule_id` und `confidence` automatisch:
|
||||||
|
|
||||||
|
| Priorität | Quelle | Syntax (Bsp.) | Rule ID | Confidence |
|
||||||
|
| :--- | :--- | :--- | :--- | :--- |
|
||||||
|
| **1** | Inline | `[[rel:depends_on X]]` | `inline:rel` | ~0.95 |
|
||||||
|
| **2** | Callout | `> [!edge] related_to: [[X]]` | `callout:edge` | ~0.90 |
|
||||||
|
| **3** | Wikilink | `[[X]]` | `explicit:wikilink` | 1.00 |
|
||||||
|
| **4** | Default | *(via types.yaml)* | `edge_defaults:...` | ~0.70 |
|
||||||
|
| **5** | Struktur | *(automatisch)* | `structure:...` | 1.00 |
|
||||||
|
|
||||||
|
### 4.2 Typ-Defaults
|
||||||
|
Wenn in `types.yaml` für einen Typ `edge_defaults` definiert sind, werden diese **additiv** zu expliziten Links erzeugt.
|
||||||
|
* *Beispiel:* Note Typ `project` verlinkt `[[Tool A]]`.
|
||||||
|
* *Ergebnis:* Kante `references` (explizit) UND Kante `depends_on` (Default).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Retriever & Scoring
|
||||||
|
|
||||||
|
Der Retriever (`app/core/retriever.py`) kombiniert Signale zur Laufzeit.
|
||||||
|
|
||||||
|
### 5.1 Konfiguration (`retriever.yaml`)
|
||||||
|
Diese Datei steuert das Ranking. Änderungen wirken sofort (API-Neustart).
|
||||||
|
|
||||||
|
scoring:
|
||||||
|
semantic_weight: 1.0 # Vektor-Ähnlichkeit
|
||||||
|
edge_weight: 0.7 # Graph-Dichte Bonus
|
||||||
|
centrality_weight: 0.5 # Zentralitäts-Bonus
|
||||||
|
|
||||||
|
### 5.2 Scoring-Formel
|
||||||
|
total_score =
|
||||||
|
semantic_weight * semantic_score
|
||||||
|
+ edge_weight * edge_bonus
|
||||||
|
+ centrality_weight * centrality_bonus
|
||||||
|
+ type_weight * retriever_weight
|
||||||
|
|
||||||
|
* `retriever_weight`: Kommt aus dem Note-Payload (via `types.yaml`).
|
||||||
|
* `edge_bonus`: Summe der `confidence` aller relevanten Kanten im Subgraph.
|
||||||
|
|
||||||
|
### 5.3 Hybrider Modus
|
||||||
|
Der Request muss `mode="hybrid"` und `expand.depth > 0` setzen, damit der Graph genutzt wird.
|
||||||
|
* **Expand:** Lädt Nachbarn der Vektor-Treffer.
|
||||||
|
* **Re-Rank:** Berechnet Boni auf diesem lokalen Graphen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Quality Gates & Tests
|
||||||
|
|
||||||
|
Diese Tests garantieren die Stabilität der Pipeline.
|
||||||
|
|
||||||
|
### 6.1 Pflicht-Tests vor Commit
|
||||||
|
|
||||||
|
1. **Payload Dryrun (Schema-Check):**
|
||||||
|
Simuliert Import, prüft JSON-Schema Konformität.
|
||||||
|
|
||||||
|
python3 -m scripts.payload_dryrun --vault ./test_vault
|
||||||
|
|
||||||
|
2. **Full Edge Check (Graph-Integrität):**
|
||||||
|
Prüft Invarianten (z.B. `next` muss reziprok zu `prev` sein; keine verwaisten Kanten).
|
||||||
|
|
||||||
|
python3 -m scripts.edges_full_check
|
||||||
|
|
||||||
|
3. **Unit Tests:**
|
||||||
|
|
||||||
|
pytest tests/test_retriever_basic.py tests/test_retriever_edges.py
|
||||||
|
|
||||||
|
### 6.2 Smoke-Test (E2E)
|
||||||
|
Prüft am laufenden System, ob Semantik und Graph funktionieren.
|
||||||
|
|
||||||
|
python scripts/test_retriever_smoke.py \
|
||||||
|
--query "mindnet" \
|
||||||
|
--mode hybrid \
|
||||||
|
--expand-depth 1 \
|
||||||
|
--top-k 5
|
||||||
|
|
||||||
|
### 6.3 Roundtrip-Test (Datenverlust-Check)
|
||||||
|
Exportiert Qdrant zurück nach Markdown und vergleicht mit Original.
|
||||||
|
|
||||||
|
python3 -m scripts.export_markdown --out ./_export
|
||||||
|
python3 tests/compare_vaults.py --src ./vault --dst ./_export --focus body
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7. Ausblick & Roadmap
|
||||||
|
|
||||||
|
### 7.1 Self-Healing (WP06)
|
||||||
|
Geplant: Automatisierte Jobs, die `unresolved` Referenzen periodisch prüfen und heilen, wenn die Ziel-Note erstellt wurde. Aktuell manuell via `scripts/resolve_unresolved_references.py`.
|
||||||
|
|
||||||
|
### 7.2 Feedback-Logging (WP04c/WP08)
|
||||||
|
Geplant: Speicherung von User-Feedback zu Suchergebnissen, um `retriever.yaml` Gewichte mittelfristig automatisch zu justieren ("Self-Tuning").
|
||||||
@@ -0,0 +1,114 @@
|
|||||||
|
# Mindnet v2.2 – User Guide
|
||||||
|
**Datei:** `docs/mindnet_user_guide_v2.2.md`
|
||||||
|
**Stand:** 2025-12-07
|
||||||
|
**Status:** **FINAL** (Konsolidiert WP01–WP04a)
|
||||||
|
**Quellen:** `knowledge_design.md`, `wp04_retriever_scoring.md`, `Programmplan_V2.2.md`, `Handbuch.md`.
|
||||||
|
|
||||||
|
> **Willkommen bei Mindnet.**
|
||||||
|
> Dies ist dein persönliches Wissensnetzwerk. Im Gegensatz zu einer normalen Suche (wie Google Drive oder Spotlight), die nur Texte findet, "denkt" Mindnet mit. Dieser Guide zeigt dir, wie du das System nutzt.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1. Was Mindnet für dich tut
|
||||||
|
|
||||||
|
Mindnet ist ein **assoziatives Gedächtnis**. Es verbindet deine Notizen zu einem Graphen.
|
||||||
|
|
||||||
|
### 1.1 Mehr als nur Stichworte
|
||||||
|
Wenn du nach "Projekt Alpha" suchst, findet Mindnet nicht nur das Dokument mit diesem Titel. Es findet auch:
|
||||||
|
* **Abhängigkeiten:** "Technologie X wird benötigt" (weil sie verlinkt ist).
|
||||||
|
* **Entscheidungen:** "Warum nutzen wir X?" (weil eine Decision-Note existiert).
|
||||||
|
* **Ähnliches:** "Projekt Beta war ähnlich" (weil es strukturell verwandt ist).
|
||||||
|
|
||||||
|
### 1.2 Dein KI-Zwilling (Vision)
|
||||||
|
Mindnet speichert nicht nur Fakten, sondern deine **Perspektive**. Durch die Gewichtung von Typen (z.B. "Prinzipien sind wichtiger als Quellen") lernt das System, Antworten so zu priorisieren, wie du es tun würdest.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Gute Fragen an Mindnet stellen
|
||||||
|
|
||||||
|
Mindnet nutzt eine **Hybride Suche**. Das heißt, es schaut auf deine Worte (Semantik) und auf das Netzwerk (Graph).
|
||||||
|
|
||||||
|
### 2.1 Frage-Muster
|
||||||
|
Um gute Antworten zu erhalten, formuliere deine Anfragen präzise:
|
||||||
|
|
||||||
|
* **Faktensuche:** "Wie installiere ich Qdrant?"
|
||||||
|
* *Mindnet sucht:* Chunks mit technischer Anleitung. Hier gewinnt oft die reine Text-Ähnlichkeit.
|
||||||
|
* **Zusammenhänge:** "Womit hängt Projekt Alpha zusammen?"
|
||||||
|
* *Mindnet sucht:* Den Projekt-Knoten und folgt den Kanten (`depends_on`, `related_to`). Hier gewinnt der Graph.
|
||||||
|
* **Entscheidungen:** "Warum nutzen wir Vektordatenbanken?"
|
||||||
|
* *Mindnet sucht:* Notizen vom Typ `decision` oder `principle`. Hier gewinnt das Typ-Gewicht (`retriever_weight`).
|
||||||
|
|
||||||
|
### 2.2 Tipps für bessere Ergebnisse
|
||||||
|
1. **Nutze deine Sprache:** Verwende die Begriffe, die du auch in deinen Notizen benutzt hast.
|
||||||
|
2. **Kontext geben:** Statt nur "Qdrant" zu tippen (was alles finden würde), frage "Qdrant Setup für Mindnet", um den Kontext einzuschränken.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Ergebnisse interpretieren
|
||||||
|
|
||||||
|
Wenn Mindnet antwortet, siehst du oft mehr als nur Text. Du siehst eine **Begründung**.
|
||||||
|
|
||||||
|
### 3.1 Der Score (Warum ist das hier oben?)
|
||||||
|
Mindnet berechnet für jeden Treffer einen `total_score`. Dieser ist keine Magie, sondern Mathematik:
|
||||||
|
|
||||||
|
Score = (Text-Treffer) + (Wichtigkeit) + (Vernetzung)
|
||||||
|
|
||||||
|
* **Text-Treffer (Semantik):** Wie gut passen die Worte?
|
||||||
|
* **Wichtigkeit (Typ):** Ist die Quelle eine zentrale `decision` (hoch gewichtet) oder nur eine `source` (niedrig)? Ein Treffer in einer Entscheidung schlägt oft einen Treffer in einem Buch-Exzerpt.
|
||||||
|
* **Vernetzung (Edge Bonus):** Wird dieser Inhalt oft von anderen wichtigen Projekten referenziert? Ein "zentraler" Knoten wird bevorzugt.
|
||||||
|
|
||||||
|
### 3.2 Pfade (Der Kontext)
|
||||||
|
Oft zeigt Mindnet im Hintergrund (Explainability):
|
||||||
|
*"Gefunden via: Projekt Alpha -> depends_on -> Vektordatenbank"*
|
||||||
|
|
||||||
|
Das bedeutet: Dieser Treffer ist relevant, weil er eine **Abhängigkeit** deines aktuellen Projekts ist, auch wenn deine Suchworte vielleicht nicht exakt passen. Das ist der Moment, in dem Mindnet "mitdenkt".
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Neues Wissen beisteuern (Authoring)
|
||||||
|
|
||||||
|
Mindnet lebt von deinem Input. Du musst kein Techniker sein, um gutes Wissen zu designen. Du schreibst einfach Markdown.
|
||||||
|
|
||||||
|
### 4.1 Die Goldene Regel: "Verlinke semantisch"
|
||||||
|
Statt einfach nur `[[Link]]` zu schreiben, versuche zu sagen, *wie* es zusammenhängt. Das hilft dem Retriever später, den "Pfad" zu finden.
|
||||||
|
|
||||||
|
* Hängt es davon ab? -> `[[rel:depends_on Ziel]]`
|
||||||
|
* Ist es ähnlich? -> `[[rel:similar_to Ziel]]`
|
||||||
|
* Ist es eine Folge davon? -> `[[rel:caused_by Ziel]]`
|
||||||
|
|
||||||
|
### 4.2 Struktur hilft dem Chunker
|
||||||
|
Mindnet zerlegt deinen Text in Häppchen ("Chunks"). Hilf dabei:
|
||||||
|
* Verwende **Überschriften** (##), um Themen zu trennen.
|
||||||
|
* Schreibe **Absätze**, die einen Gedanken fassen.
|
||||||
|
* Vermeide endlose Textwüsten.
|
||||||
|
|
||||||
|
### 4.3 Typen nutzen
|
||||||
|
Setze im Frontmatter deiner Notizen den richtigen Typ.
|
||||||
|
* `type: project` -> Mindnet weiß: Das hat Aufgaben und Abhängigkeiten.
|
||||||
|
* `type: decision` -> Mindnet weiß: Das ist wichtig und begründet Dinge.
|
||||||
|
* `type: journal` -> Mindnet weiß: Das ist zeitgebunden und weniger wichtig für Grundsatzfragen.
|
||||||
|
|
||||||
|
**Beispiel:**
|
||||||
|
---
|
||||||
|
title: Entscheidung für Python
|
||||||
|
type: decision
|
||||||
|
---
|
||||||
|
Wir nutzen Python, weil es [[rel:solves AI Library Requirements]].
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Feedback & Lernen
|
||||||
|
|
||||||
|
Mindnet wird schlauer, wenn du es pflegst.
|
||||||
|
|
||||||
|
### 5.1 Ergebnis fehlt?
|
||||||
|
* Existiert die Notiz im Vault?
|
||||||
|
* Ist sie isoliert (keine Links)? Isolierte Notizen haben keinen Graph-Bonus und werden schlechter gefunden. **Verlinke sie!**
|
||||||
|
* Ist der Typ `source`? Dann ist das Gewicht niedrig (0.5). Wenn es deine eigene Meinung ist, ändere den Typ auf `concept` oder `experience`.
|
||||||
|
|
||||||
|
### 5.2 Falsches Ergebnis?
|
||||||
|
* Ist die Notiz veraltet? Setze `status: archived` (wenn du Filter konfiguriert hast) oder lösche sie.
|
||||||
|
* Wird ein Begriff falsch verstanden? Füge Synonyme oder eine Definition hinzu.
|
||||||
|
|
||||||
|
### 5.3 Ausblick (Roadmap)
|
||||||
|
In Zukunft (WP08) wirst du Ergebnisse direkt mit "Daumen hoch/runter" bewerten können. Mindnet passt dann seine Gewichte (`retriever.yaml`) automatisch an, um deine Präferenzen zu lernen.
|
||||||
@@ -0,0 +1,260 @@
|
|||||||
|
# WP-04 / Step 4a – Retriever Scoring & Konfiguration
|
||||||
|
|
||||||
|
Dieses Dokument beschreibt den aktuellen Stand (2025-11-30) der Scoring-Logik des mindnet-Retrievers in WP-04 / Step 4a.
|
||||||
|
Es dient als Referenz für:
|
||||||
|
|
||||||
|
- Nachvollziehbarkeit des Rankings
|
||||||
|
- Konfiguration und Feintuning (ohne Codeänderungen)
|
||||||
|
- spätere Automatisierung / „Selbstjustierung“ des Retrievers
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 1. Überblick
|
||||||
|
|
||||||
|
Der Retriever kombiniert drei Signalquellen zu einem einheitlichen Score:
|
||||||
|
|
||||||
|
1. **Semantik** – Vektorsuche über `mindnet_chunks`
|
||||||
|
2. **Typ-Gewichtung** – `retriever_weight` pro Note/Chunk (aus `types.yaml`)
|
||||||
|
3. **Graph-Boni** – `edge_bonus` und `centrality_bonus` aus dem Subgraph (Edges)
|
||||||
|
|
||||||
|
Die Berechnung erfolgt in `app/core/retriever.py` und ist über `config/retriever.yaml` konfigurierbar.
|
||||||
|
Die API stellt die Funktionalität über den `/query`-Endpoint (FastAPI) bereit.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 2. Datenbasis (Kurzüberblick)
|
||||||
|
|
||||||
|
### 2.1 Notes (`<prefix>_notes`)
|
||||||
|
|
||||||
|
Relevante Felder:
|
||||||
|
|
||||||
|
- note_id: keyword
|
||||||
|
- title: text
|
||||||
|
- type: keyword
|
||||||
|
- retriever_weight: float
|
||||||
|
- chunk_profile: keyword
|
||||||
|
- edge_defaults: keyword[]
|
||||||
|
- tags: keyword[]
|
||||||
|
- path: text
|
||||||
|
- fulltext: text
|
||||||
|
|
||||||
|
### 2.2 Chunks (`<prefix>_chunks`)
|
||||||
|
|
||||||
|
Relevante Felder:
|
||||||
|
|
||||||
|
- note_id: keyword
|
||||||
|
- chunk_id: keyword
|
||||||
|
- text: text
|
||||||
|
- window: text
|
||||||
|
- retriever_weight: float
|
||||||
|
- type: keyword
|
||||||
|
- path: text
|
||||||
|
- section: text
|
||||||
|
- neighbors_prev / neighbors_next
|
||||||
|
- chunk_profile: keyword
|
||||||
|
|
||||||
|
### 2.3 Edges (`<prefix>_edges`)
|
||||||
|
|
||||||
|
Relevante Felder:
|
||||||
|
|
||||||
|
- kind: keyword
|
||||||
|
- source_id: keyword
|
||||||
|
- target_id: keyword
|
||||||
|
- note_id: keyword
|
||||||
|
- confidence: float
|
||||||
|
- rule_id, provenance, edge_id, scope, relation, ref_text
|
||||||
|
|
||||||
|
Edges stammen stets aus der Import-/Edge-Pipeline (WP-03) und bilden die graphbasierte Grundlage des Retrievers.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Scoring-Formel (Retriever)
|
||||||
|
|
||||||
|
### 3.1 Eingangsgrößen
|
||||||
|
|
||||||
|
Für jeden Treffer gelten:
|
||||||
|
|
||||||
|
semantic_score – aus der Vektorsuche (Qdrant)
|
||||||
|
retriever_weight – typabhängiges Gewicht (aus types.yaml)
|
||||||
|
edge_bonus – aggregierter Graph-Bonus
|
||||||
|
centrality_bonus – Zentralitätsbonus aus dem Subgraph
|
||||||
|
|
||||||
|
### 3.2 Globale Gewichte (aus retriever.yaml)
|
||||||
|
|
||||||
|
Datei: `config/retriever.yaml`
|
||||||
|
Beispiel:
|
||||||
|
|
||||||
|
version: 1.0
|
||||||
|
|
||||||
|
scoring:
|
||||||
|
semantic_weight: 1.0 # W_sem
|
||||||
|
edge_weight: 0.7 # W_edge
|
||||||
|
centrality_weight: 0.5 # W_cent
|
||||||
|
|
||||||
|
Falls diese Datei fehlt, greifen ENV-basierte Defaults (`RETRIEVER_W_*`).
|
||||||
|
|
||||||
|
### 3.3 Formel
|
||||||
|
|
||||||
|
total_score =
|
||||||
|
W_sem * semantic_score * max(retriever_weight, 0.0)
|
||||||
|
+ W_edge * edge_bonus
|
||||||
|
+ W_cent * centrality_bonus
|
||||||
|
|
||||||
|
Bemerkungen:
|
||||||
|
|
||||||
|
- Negative `retriever_weight` werden abgefangen.
|
||||||
|
- Die rohen `edge_bonus` und `centrality_bonus` werden im API-/Smoke-Output angezeigt.
|
||||||
|
- Die Gewichte aus `retriever.yaml` beeinflussen **nur den total_score**, nicht die Anzeige.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Konfigurationsdateien
|
||||||
|
|
||||||
|
### 4.1 Typen-Registry (`types.yaml`)
|
||||||
|
|
||||||
|
Beispielauszug:
|
||||||
|
|
||||||
|
defaults:
|
||||||
|
retriever_weight: 1.0
|
||||||
|
chunk_profile: default
|
||||||
|
|
||||||
|
types:
|
||||||
|
types:
|
||||||
|
concept:
|
||||||
|
retriever_weight: 0.60
|
||||||
|
edge_defaults: ["references", "related_to"]
|
||||||
|
|
||||||
|
project:
|
||||||
|
retriever_weight: 0.97
|
||||||
|
edge_defaults: ["references", "depends_on"]
|
||||||
|
|
||||||
|
journal:
|
||||||
|
retriever_weight: 0.80
|
||||||
|
edge_defaults: ["references", "related_to"]
|
||||||
|
|
||||||
|
source:
|
||||||
|
retriever_weight: 0.50
|
||||||
|
edge_defaults: []
|
||||||
|
|
||||||
|
Diese Werte bestimmen, wie wichtig eine Note/Chunk **prinzipiell** für den Retriever ist.
|
||||||
|
|
||||||
|
### 4.2 Retriever-Konfiguration (`retriever.yaml`)
|
||||||
|
|
||||||
|
Beispiel:
|
||||||
|
|
||||||
|
version: 1.0
|
||||||
|
|
||||||
|
scoring:
|
||||||
|
semantic_weight: 1.0
|
||||||
|
edge_weight: 0.7
|
||||||
|
centrality_weight: 0.5
|
||||||
|
|
||||||
|
# Blueprint für spätere Edge-Feinsteuerung:
|
||||||
|
edge_types:
|
||||||
|
references: 0.20
|
||||||
|
depends_on: 0.18
|
||||||
|
related_to: 0.15
|
||||||
|
similar_to: 0.12
|
||||||
|
belongs_to: 0.10
|
||||||
|
next: 0.06
|
||||||
|
prev: 0.06
|
||||||
|
|
||||||
|
Die Datei befindet sich standardmäßig unter `config/retriever.yaml`.
|
||||||
|
Override per ENV:
|
||||||
|
|
||||||
|
MINDNET_RETRIEVER_CONFIG=/pfad/zur/datei.yaml
|
||||||
|
|
||||||
|
### 4.3 Aktive Gewichte auslesen
|
||||||
|
|
||||||
|
python - << 'PY'
|
||||||
|
from app.core.retriever import _get_scoring_weights
|
||||||
|
print(_get_scoring_weights())
|
||||||
|
PY
|
||||||
|
|
||||||
|
Beispielausgabe:
|
||||||
|
|
||||||
|
(1.0, 0.7, 0.5)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 5. Betriebsmodi
|
||||||
|
|
||||||
|
### 5.1 Semantikmodus (semantic)
|
||||||
|
|
||||||
|
Ablauf:
|
||||||
|
|
||||||
|
- Query-Vektor über embed_text()
|
||||||
|
- Qdrant-Suche über mindnet_chunks
|
||||||
|
- kein Subgraph → edge_bonus = centrality = 0
|
||||||
|
- total_score = W_sem * semantic_score * retriever_weight
|
||||||
|
|
||||||
|
### 5.2 Hybridmodus (hybrid)
|
||||||
|
|
||||||
|
Ablauf:
|
||||||
|
|
||||||
|
- Semantik wie oben
|
||||||
|
- falls expand.depth > 0:
|
||||||
|
- Subgraph-Berechnung über ga.expand()
|
||||||
|
- Ermittlung von edge_bonus und centrality_bonus
|
||||||
|
- total_score = kombinierte Formel aus Semantik + Graph
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 6. Tests
|
||||||
|
|
||||||
|
### Ausführung (Unit & Integration)
|
||||||
|
|
||||||
|
pytest tests/test_retriever_basic.py \
|
||||||
|
tests/test_retriever_weight.py \
|
||||||
|
tests/test_retriever_edges.py
|
||||||
|
|
||||||
|
pytest tests/test_query_unit.py \
|
||||||
|
tests/test_query_text_embed_unit.py
|
||||||
|
|
||||||
|
Tests decken ab:
|
||||||
|
|
||||||
|
- Semantiktreffer
|
||||||
|
- Typ-Gewichte
|
||||||
|
- Edge-Boni
|
||||||
|
- Hybridmodus / FastAPI-Endpunkt
|
||||||
|
|
||||||
|
### Smoke-Test
|
||||||
|
|
||||||
|
python tests/test_retriever_smoke.py \
|
||||||
|
--url "http://127.0.0.1:8001/query" \
|
||||||
|
--query "embeddings" \
|
||||||
|
--mode hybrid \
|
||||||
|
--expand-depth 1 \
|
||||||
|
--top-k 5
|
||||||
|
|
||||||
|
Beispielausgabe:
|
||||||
|
|
||||||
|
[1] note_id=...retriever-design
|
||||||
|
total=1.5054 (semantic=0.4038 edge=1.5910 centrality=0.0000)
|
||||||
|
|
||||||
|
Interpretation:
|
||||||
|
|
||||||
|
- `semantic`, `edge`, `centrality` = Rohwerte
|
||||||
|
- `total` = skaliert mit `retriever.yaml`
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7. Betriebs-Hinweise
|
||||||
|
|
||||||
|
### 7.1 Änderung der Gewichte
|
||||||
|
|
||||||
|
- retriever.yaml anpassen
|
||||||
|
- FastAPI/uvicorn neu starten
|
||||||
|
- Smoke-Test prüfen
|
||||||
|
|
||||||
|
### 7.2 Zielbild WP-04
|
||||||
|
|
||||||
|
Der jetzige Stand ermöglicht:
|
||||||
|
|
||||||
|
- transparente, konfigurierbare Score-Berechnung
|
||||||
|
- Kombination aus Semantik, Typwissen und Graphstruktur
|
||||||
|
- spätere agentenbasierte Selbstjustierung
|
||||||
|
- alternative Profile (z. B. „mehr Semantik“, „mehr Graph“)
|
||||||
|
|
||||||
|
Dieses Dokument dient als stabile Referenz für Entwickler, Tests und spätere Automatisierungsschritte.
|
||||||
|
|
||||||
+34
-8
@@ -1,9 +1,35 @@
|
|||||||
|
# --- API Server ---
|
||||||
|
fastapi>=0.116.1
|
||||||
|
uvicorn[standard]>=0.35.0
|
||||||
|
# httpx wird oft für Tests benötigt
|
||||||
|
httpx>=0.28.1
|
||||||
|
|
||||||
fastapi
|
# --- Datenbank ---
|
||||||
uvicorn[standard]
|
qdrant-client>=1.15.1
|
||||||
qdrant-client
|
|
||||||
sentence-transformers
|
# --- Datenmodelle & Validierung ---
|
||||||
torch
|
pydantic>=2.11.7
|
||||||
python-frontmatter
|
numpy>=2.3.2
|
||||||
tqdm
|
|
||||||
requests
|
# --- Markdown & Parsing (Hier fehlten Pakete!) ---
|
||||||
|
python-frontmatter>=1.1.0
|
||||||
|
# WICHTIG: Das fehlte und verursachte den Fehler
|
||||||
|
markdown-it-py>=3.0.0
|
||||||
|
# WICHTIG: Für types.yaml und retriever.yaml
|
||||||
|
PyYAML>=6.0.2
|
||||||
|
python-slugify>=8.0.4
|
||||||
|
|
||||||
|
# --- KI & Embeddings ---
|
||||||
|
sentence-transformers>=5.1.0
|
||||||
|
# Torch wird meist durch sentence-transformers geholt,
|
||||||
|
# aber wir listen es explizit für Stabilität
|
||||||
|
torch>=2.0.0
|
||||||
|
|
||||||
|
# --- Utilities ---
|
||||||
|
# WICHTIG: Damit .env Dateien gelesen werden
|
||||||
|
python-dotenv>=1.1.1
|
||||||
|
requests>=2.32.5
|
||||||
|
tqdm>=4.67.1
|
||||||
|
|
||||||
|
# --- Testing ---
|
||||||
|
pytest>=8.4.2
|
||||||
@@ -0,0 +1,116 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
tests/assert_payload_schema.py (compat v1.1)
|
||||||
|
|
||||||
|
Prüft, ob die erwarteten Payload-Indizes (payload_schema) auf den drei Collections vorhanden sind.
|
||||||
|
Kompatibel mit älteren qdrant-client Versionen (ohne with_payload_schema im Wrapper).
|
||||||
|
|
||||||
|
Collections & Pflichtfelder:
|
||||||
|
- mindnet_notes : note_id, type, title, updated, tags
|
||||||
|
- mindnet_chunks : note_id, chunk_id, index, type, tags
|
||||||
|
- mindnet_edges : note_id, kind, scope, source_id, target_id, chunk_id
|
||||||
|
|
||||||
|
Nutzung:
|
||||||
|
python3 -m tests.assert_payload_schema
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import json
|
||||||
|
import os
|
||||||
|
import sys
|
||||||
|
import urllib.error
|
||||||
|
import urllib.request
|
||||||
|
from typing import Any, Dict, List
|
||||||
|
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client, collection_names
|
||||||
|
|
||||||
|
REQUIRED = {
|
||||||
|
"notes": ["note_id", "type", "title", "updated", "tags"],
|
||||||
|
"chunks": ["note_id", "chunk_id", "index", "type", "tags"],
|
||||||
|
"edges": ["note_id", "kind", "scope", "source_id", "target_id", "chunk_id"],
|
||||||
|
}
|
||||||
|
|
||||||
|
def _safe_model_dump(obj: Any) -> Dict[str, Any]:
|
||||||
|
if hasattr(obj, "model_dump"):
|
||||||
|
return obj.model_dump()
|
||||||
|
if hasattr(obj, "dict"):
|
||||||
|
return obj.dict()
|
||||||
|
return obj if isinstance(obj, dict) else {}
|
||||||
|
|
||||||
|
def _cfg_base_url(cfg) -> str:
|
||||||
|
if getattr(cfg, "url", None):
|
||||||
|
return cfg.url.rstrip('/')
|
||||||
|
host = getattr(cfg, "host", None) or os.getenv("QDRANT_HOST") or "127.0.0.1"
|
||||||
|
port = getattr(cfg, "port", None) or os.getenv("QDRANT_PORT") or "6333"
|
||||||
|
return f"http://{host}:{port}"
|
||||||
|
|
||||||
|
def _http_get(url: str, api_key: str | None) -> Dict[str, Any]:
|
||||||
|
req = urllib.request.Request(url, method="GET")
|
||||||
|
if api_key:
|
||||||
|
req.add_header("api-key", api_key)
|
||||||
|
req.add_header("Authorization", f"Bearer {api_key}")
|
||||||
|
req.add_header("Accept", "application/json")
|
||||||
|
with urllib.request.urlopen(req, timeout=30) as resp:
|
||||||
|
data = resp.read()
|
||||||
|
return json.loads(data.decode("utf-8"))
|
||||||
|
|
||||||
|
def get_collection_payload_schema(client, cfg, name: str) -> Dict[str, Any] | None:
|
||||||
|
# 1) OpenAPI client mit Flag
|
||||||
|
try:
|
||||||
|
oc = getattr(client, "openapi_client", None)
|
||||||
|
if oc is not None and hasattr(oc, "collections_api"):
|
||||||
|
api = oc.collections_api
|
||||||
|
info = api.get_collection(collection_name=name, with_payload_schema=True)
|
||||||
|
d = _safe_model_dump(info)
|
||||||
|
return (d.get("result") or {}).get("payload_schema")
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
# 2) Wrapper (manche Versionen liefern Schema auch ohne Flag)
|
||||||
|
try:
|
||||||
|
info = client.get_collection(collection_name=name)
|
||||||
|
d = _safe_model_dump(info)
|
||||||
|
ps = (d.get("result") or {}).get("payload_schema")
|
||||||
|
if ps is not None:
|
||||||
|
return ps
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
# 3) Direkter HTTP-Call
|
||||||
|
try:
|
||||||
|
base = _cfg_base_url(cfg)
|
||||||
|
url = f"{base}/collections/{name}?with_payload_schema=true"
|
||||||
|
raw = _http_get(url, getattr(cfg, "api_key", None))
|
||||||
|
return (raw.get("result") or {}).get("payload_schema")
|
||||||
|
except Exception:
|
||||||
|
return None
|
||||||
|
|
||||||
|
def ensure_fields(schema: Dict[str, dict] | None, required: List[str]) -> Dict[str, bool]:
|
||||||
|
ks = set((schema or {}).keys())
|
||||||
|
return {k: (k in ks) for k in required}
|
||||||
|
|
||||||
|
def main():
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
client = get_client(cfg)
|
||||||
|
notes, chunks, edges = collection_names(cfg.prefix)
|
||||||
|
names = {"notes": notes, "chunks": chunks, "edges": edges}
|
||||||
|
|
||||||
|
report = {}
|
||||||
|
ok_all = True
|
||||||
|
for kind, col in names.items():
|
||||||
|
sch = get_collection_payload_schema(client, cfg, col)
|
||||||
|
checks = ensure_fields(sch, REQUIRED[kind])
|
||||||
|
ok = all(checks.values())
|
||||||
|
ok_all = ok_all and ok
|
||||||
|
report[kind] = {
|
||||||
|
"collection": col,
|
||||||
|
"ok": ok,
|
||||||
|
"missing": [k for k,v in checks.items() if not v],
|
||||||
|
"present": [k for k,v in checks.items() if v],
|
||||||
|
}
|
||||||
|
|
||||||
|
print(json.dumps({"prefix": cfg.prefix, "ok": ok_all, "report": report}, ensure_ascii=False, indent=2))
|
||||||
|
if not ok_all:
|
||||||
|
sys.exit(1)
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,102 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
scripts/diag_payload_indexes.py (compat v1.2)
|
||||||
|
|
||||||
|
Zeigt payload_schema je Collection; kompatibel mit älteren qdrant-client Versionen.
|
||||||
|
Strategie (in dieser Reihenfolge):
|
||||||
|
1) openapi_client.collections_api.get_collection(..., with_payload_schema=True)
|
||||||
|
2) client.get_collection(...)
|
||||||
|
3) HTTP GET /collections/{name}?with_payload_schema=true
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import json
|
||||||
|
import os
|
||||||
|
import urllib.request
|
||||||
|
import urllib.error
|
||||||
|
from typing import Any, Dict
|
||||||
|
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client, collection_names
|
||||||
|
|
||||||
|
|
||||||
|
def _safe_model_dump(obj: Any) -> Dict[str, Any]:
|
||||||
|
if hasattr(obj, "model_dump"):
|
||||||
|
return obj.model_dump()
|
||||||
|
if hasattr(obj, "dict"):
|
||||||
|
return obj.dict()
|
||||||
|
return obj if isinstance(obj, dict) else {}
|
||||||
|
|
||||||
|
|
||||||
|
def _cfg_base_url(cfg) -> str:
|
||||||
|
if getattr(cfg, "url", None):
|
||||||
|
return cfg.url.rstrip("/")
|
||||||
|
host = getattr(cfg, "host", None) or os.getenv("QDRANT_HOST") or "127.0.0.1"
|
||||||
|
port = getattr(cfg, "port", None) or os.getenv("QDRANT_PORT") or "6333"
|
||||||
|
return f"http://{host}:{port}"
|
||||||
|
|
||||||
|
|
||||||
|
def _http_get(url: str, api_key: str | None) -> Dict[str, Any]:
|
||||||
|
req = urllib.request.Request(url, method="GET")
|
||||||
|
if api_key:
|
||||||
|
req.add_header("api-key", api_key)
|
||||||
|
req.add_header("Authorization", f"Bearer {api_key}")
|
||||||
|
req.add_header("Accept", "application/json")
|
||||||
|
with urllib.request.urlopen(req, timeout=30) as resp:
|
||||||
|
data = resp.read()
|
||||||
|
return json.loads(data.decode("utf-8"))
|
||||||
|
|
||||||
|
|
||||||
|
def get_collection_payload_schema(client, cfg, name: str) -> Dict[str, Any] | None:
|
||||||
|
# Strategy 1: OpenAPI client with flag
|
||||||
|
try:
|
||||||
|
oc = getattr(client, "openapi_client", None)
|
||||||
|
if oc is not None and hasattr(oc, "collections_api"):
|
||||||
|
api = oc.collections_api
|
||||||
|
info = api.get_collection(collection_name=name, with_payload_schema=True)
|
||||||
|
d = _safe_model_dump(info)
|
||||||
|
return (d.get("result") or {}).get("payload_schema")
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
# Strategy 2: wrapper (manche Versionen liefern Schema auch ohne Flag)
|
||||||
|
try:
|
||||||
|
info = client.get_collection(collection_name=name) # kein with_payload_schema kwarg!
|
||||||
|
d = _safe_model_dump(info)
|
||||||
|
ps = (d.get("result") or {}).get("payload_schema")
|
||||||
|
if ps is not None:
|
||||||
|
return ps
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
# Strategy 3: direkter HTTP Call
|
||||||
|
try:
|
||||||
|
base = _cfg_base_url(cfg)
|
||||||
|
url = f"{base}/collections/{name}?with_payload_schema=true"
|
||||||
|
raw = _http_get(url, getattr(cfg, "api_key", None))
|
||||||
|
return (raw.get("result") or {}).get("payload_schema")
|
||||||
|
except Exception:
|
||||||
|
return None
|
||||||
|
|
||||||
|
|
||||||
|
def main():
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
client = get_client(cfg)
|
||||||
|
notes, chunks, edges = collection_names(cfg.prefix)
|
||||||
|
cols = [notes, chunks, edges]
|
||||||
|
out = []
|
||||||
|
for name in cols:
|
||||||
|
ps = get_collection_payload_schema(client, cfg, name)
|
||||||
|
# Vektorinfos (optional)
|
||||||
|
try:
|
||||||
|
info = client.get_collection(collection_name=name)
|
||||||
|
d = _safe_model_dump(info)
|
||||||
|
vectors = (d.get("result") or {}).get("vectors")
|
||||||
|
if isinstance(vectors, dict) and "config" in vectors:
|
||||||
|
vectors = vectors["config"]
|
||||||
|
except Exception:
|
||||||
|
vectors = None
|
||||||
|
out.append({"name": name, "vectors": vectors, "payload_schema": ps})
|
||||||
|
print(json.dumps({"prefix": cfg.prefix, "collections": out}, ensure_ascii=False, indent=2))
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,107 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# scripts/edges_dryrun.py
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
Dry-Run: Erzeuge Edges aus einem Vault **ohne** Qdrant-Upsert.
|
||||||
|
- Liest Markdown mit YAML-Frontmatter
|
||||||
|
- Chunking: einfacher Absatz-Chunker (Index + text)
|
||||||
|
- Kanten: nutzt app.core.edges.build_edges_for_note()
|
||||||
|
- Ausgabe: JSON pro Note mit Edge-Counts und 3 Beispiel-Payloads
|
||||||
|
|
||||||
|
Aufruf:
|
||||||
|
python3 -m scripts.edges_dryrun --vault ./vault
|
||||||
|
|
||||||
|
Optional:
|
||||||
|
--include-note-scope-refs # auch Frontmatter-Links (links[].target_id) als Note-Scope-Referenzen
|
||||||
|
|
||||||
|
Voraussetzungen:
|
||||||
|
- app/core/parser.py (read_markdown, normalize_frontmatter)
|
||||||
|
- app/core/edges.py (dieses Modul forwardet zur v2-Implementierung)
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import argparse
|
||||||
|
import json
|
||||||
|
import os
|
||||||
|
import re
|
||||||
|
from pathlib import Path
|
||||||
|
from typing import Dict, List, Optional
|
||||||
|
|
||||||
|
from app.core.parser import read_markdown, normalize_frontmatter
|
||||||
|
from app.core.edges import build_edges_for_note
|
||||||
|
|
||||||
|
def _iter_markdown(vault: str):
|
||||||
|
for p in Path(vault).rglob("*.md"):
|
||||||
|
if p.name.startswith("."): # ignore hidden
|
||||||
|
continue
|
||||||
|
yield p
|
||||||
|
|
||||||
|
def _simple_chunker(body: str, note_id: str, note_type: str) -> List[Dict]:
|
||||||
|
# Absatzbasiert, minimal ausreichend für Edges (window/text, chunk_id, ord, note_id, type)
|
||||||
|
paras = [s.strip() for s in re.split(r"\n{2,}", body or "") if s.strip()]
|
||||||
|
chunks = []
|
||||||
|
for i, t in enumerate(paras):
|
||||||
|
chunks.append({
|
||||||
|
"chunk_id": f"{note_id}#c{i:04d}",
|
||||||
|
"ord": i,
|
||||||
|
"text": t,
|
||||||
|
"note_id": note_id,
|
||||||
|
"type": note_type,
|
||||||
|
})
|
||||||
|
return chunks
|
||||||
|
|
||||||
|
def _fm_note_refs(fm: Dict) -> List[str]:
|
||||||
|
out = []
|
||||||
|
links = fm.get("links") or []
|
||||||
|
if isinstance(links, list):
|
||||||
|
for e in links:
|
||||||
|
if isinstance(e, dict):
|
||||||
|
tid = e.get("target_id")
|
||||||
|
if isinstance(tid, str) and tid.strip():
|
||||||
|
out.append(tid.strip())
|
||||||
|
return out
|
||||||
|
|
||||||
|
def main():
|
||||||
|
ap = argparse.ArgumentParser()
|
||||||
|
ap.add_argument("--vault", required=True)
|
||||||
|
ap.add_argument("--include-note-scope-refs", action="store_true")
|
||||||
|
args = ap.parse_args()
|
||||||
|
|
||||||
|
vault = args.vault
|
||||||
|
include_note_scope = args.include_note_scope_refs
|
||||||
|
|
||||||
|
report = []
|
||||||
|
for p in _iter_markdown(vault):
|
||||||
|
parsed = read_markdown(str(p))
|
||||||
|
if not parsed:
|
||||||
|
continue
|
||||||
|
fm = normalize_frontmatter(parsed.frontmatter or {})
|
||||||
|
note_id = fm.get("id") or p.stem
|
||||||
|
note_type = (fm.get("type") or "concept").lower()
|
||||||
|
chunks = _simple_chunker(parsed.body, note_id, note_type)
|
||||||
|
note_refs = _fm_note_refs(fm)
|
||||||
|
|
||||||
|
edges = build_edges_for_note(
|
||||||
|
note_id=note_id,
|
||||||
|
chunk_payloads=chunks,
|
||||||
|
note_level_refs=note_refs,
|
||||||
|
include_note_scope_refs=include_note_scope,
|
||||||
|
)
|
||||||
|
kinds = {}
|
||||||
|
for e in edges:
|
||||||
|
key = (e.get("relation") or e.get("kind") or "edge")
|
||||||
|
kinds[key] = kinds.get(key, 0) + 1
|
||||||
|
report.append({
|
||||||
|
"path": str(p),
|
||||||
|
"note_id": note_id,
|
||||||
|
"type": note_type,
|
||||||
|
"chunks": len(chunks),
|
||||||
|
"edges_total": len(edges),
|
||||||
|
"edges_by_kind": kinds,
|
||||||
|
"samples": edges[:3],
|
||||||
|
})
|
||||||
|
|
||||||
|
print(json.dumps(report, ensure_ascii=False, indent=2))
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,163 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
scripts/edges_full_check.py
|
||||||
|
Zählt und validiert Kanten in Qdrant. Erkennt folgende Rule-Gruppen:
|
||||||
|
- explicit_total: rule_id startswith "explicit:" (z.B. explicit:wikilink, explicit:note_scope)
|
||||||
|
- callout_total: rule_id == "callout:edge"
|
||||||
|
- inline_total: rule_id startswith "inline:" (z.B. inline:rel)
|
||||||
|
- defaults_total: rule_id startswith "edge_defaults:"
|
||||||
|
- structure: rule_id in {"structure:belongs_to","structure:order"}
|
||||||
|
|
||||||
|
Gibt zusätzlich:
|
||||||
|
- edges_by_kind (aggregiert)
|
||||||
|
- notes/chunks/edges Anzahlen
|
||||||
|
- multi_callout_detected: True, falls ein Chunk mehrere Callout-Ziele der gleichen Relation enthält
|
||||||
|
- per_note_checks: belongs_to == chunks, next == prev == (chunks-1)
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import json
|
||||||
|
from collections import Counter, defaultdict
|
||||||
|
from typing import Dict, Any, List, Tuple
|
||||||
|
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client
|
||||||
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
|
|
||||||
|
def _count_collection_points(client, name: str) -> int:
|
||||||
|
try:
|
||||||
|
res = client.count(collection_name=name, exact=True)
|
||||||
|
return res.count or 0
|
||||||
|
except Exception:
|
||||||
|
return 0
|
||||||
|
|
||||||
|
|
||||||
|
def _scroll_all(client, collection: str) -> List[Any]:
|
||||||
|
pts_all = []
|
||||||
|
offset = None
|
||||||
|
while True:
|
||||||
|
pts, offset = client.scroll(
|
||||||
|
collection_name=collection,
|
||||||
|
with_payload=True,
|
||||||
|
with_vectors=False,
|
||||||
|
limit=2048,
|
||||||
|
offset=offset,
|
||||||
|
)
|
||||||
|
pts_all.extend(pts or [])
|
||||||
|
if offset is None:
|
||||||
|
break
|
||||||
|
return pts_all
|
||||||
|
|
||||||
|
|
||||||
|
def _rule_group(rule_id: str) -> str:
|
||||||
|
if not rule_id:
|
||||||
|
return "unknown"
|
||||||
|
if rule_id == "callout:edge":
|
||||||
|
return "callout"
|
||||||
|
if rule_id.startswith("inline:"): # <—— wichtig für "inline:rel"
|
||||||
|
return "inline"
|
||||||
|
if rule_id.startswith("edge_defaults:"):
|
||||||
|
return "defaults"
|
||||||
|
if rule_id.startswith("explicit:"):
|
||||||
|
return "explicit"
|
||||||
|
if rule_id in ("structure:belongs_to", "structure:order"):
|
||||||
|
return "structure"
|
||||||
|
return "other"
|
||||||
|
|
||||||
|
|
||||||
|
def main() -> None:
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
client = get_client(cfg)
|
||||||
|
|
||||||
|
col_notes = f"{cfg.prefix}_notes"
|
||||||
|
col_chunks = f"{cfg.prefix}_chunks"
|
||||||
|
col_edges = f"{cfg.prefix}_edges"
|
||||||
|
|
||||||
|
# High-level counts
|
||||||
|
notes_n = _count_collection_points(client, col_notes)
|
||||||
|
chunks_n = _count_collection_points(client, col_chunks)
|
||||||
|
edges_pts = _scroll_all(client, col_edges)
|
||||||
|
edges_n = len(edges_pts)
|
||||||
|
|
||||||
|
# By kind / by rule group
|
||||||
|
by_kind = Counter()
|
||||||
|
group_counts = Counter()
|
||||||
|
callout_buckets: Dict[Tuple[str, str], int] = defaultdict(int) # (chunk_id, kind) -> n targets
|
||||||
|
per_note = defaultdict(lambda: {"chunks": 0, "belongs_to": 0, "next": 0, "prev": 0})
|
||||||
|
|
||||||
|
# Für per_note checks: chunks pro note_id aus mindnet_chunks laden
|
||||||
|
chunks_pts = _scroll_all(client, col_chunks)
|
||||||
|
chunks_by_note = Counter([p.payload.get("note_id") for p in chunks_pts if p.payload])
|
||||||
|
|
||||||
|
for p in edges_pts:
|
||||||
|
pl = p.payload or {}
|
||||||
|
kind = str(pl.get("kind") or pl.get("relation") or "edge")
|
||||||
|
rule_id = str(pl.get("rule_id") or "")
|
||||||
|
note_id = str(pl.get("note_id") or "")
|
||||||
|
chunk_id = str(pl.get("chunk_id") or "")
|
||||||
|
by_kind[kind] += 1
|
||||||
|
|
||||||
|
group = _rule_group(rule_id)
|
||||||
|
group_counts[group] += 1
|
||||||
|
|
||||||
|
# Multi-Callout-Erkennung: mehrere callout-Edges gleicher Relation aus demselben Chunk
|
||||||
|
if group == "callout" and chunk_id and kind:
|
||||||
|
callout_buckets[(chunk_id, kind)] += 1
|
||||||
|
|
||||||
|
# Per-note Strukturchecks
|
||||||
|
if note_id:
|
||||||
|
if kind == "belongs_to":
|
||||||
|
per_note[note_id]["belongs_to"] += 1
|
||||||
|
elif kind == "next":
|
||||||
|
per_note[note_id]["next"] += 1
|
||||||
|
elif kind == "prev":
|
||||||
|
per_note[note_id]["prev"] += 1
|
||||||
|
|
||||||
|
# set chunks count for per_note
|
||||||
|
for n_id, c in chunks_by_note.items():
|
||||||
|
per_note[n_id]["chunks"] = c
|
||||||
|
|
||||||
|
# final checks per note
|
||||||
|
per_note_checks = {}
|
||||||
|
for n_id, stats in per_note.items():
|
||||||
|
c = stats.get("chunks", 0)
|
||||||
|
bt = stats.get("belongs_to", 0)
|
||||||
|
nx = stats.get("next", 0)
|
||||||
|
pv = stats.get("prev", 0)
|
||||||
|
per_note_checks[n_id] = {
|
||||||
|
"chunks": c,
|
||||||
|
"belongs_to": bt,
|
||||||
|
"next": nx,
|
||||||
|
"prev": pv,
|
||||||
|
"checks": {
|
||||||
|
"belongs_to_equals_chunks": (bt == c),
|
||||||
|
"next_prev_match": (nx == pv == max(c - 1, 0)),
|
||||||
|
},
|
||||||
|
}
|
||||||
|
|
||||||
|
multi_callout_detected = any(v > 1 for v in callout_buckets.values())
|
||||||
|
|
||||||
|
out = {
|
||||||
|
"prefix": cfg.prefix,
|
||||||
|
"counts": {
|
||||||
|
"notes": notes_n,
|
||||||
|
"chunks": chunks_n,
|
||||||
|
"edges": edges_n,
|
||||||
|
"edges_by_kind": dict(by_kind),
|
||||||
|
"explicit_total": group_counts.get("explicit", 0),
|
||||||
|
"defaults_total": group_counts.get("defaults", 0),
|
||||||
|
"callout_total": group_counts.get("callout", 0),
|
||||||
|
"inline_total": group_counts.get("inline", 0),
|
||||||
|
"structure_total": group_counts.get("structure", 0),
|
||||||
|
},
|
||||||
|
"per_note_checks": per_note_checks,
|
||||||
|
"multi_callout_detected": bool(multi_callout_detected),
|
||||||
|
"has_duplicates": False, # dedupe passiert beim Upsert
|
||||||
|
}
|
||||||
|
print(json.dumps(out, ensure_ascii=False, indent=2))
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,340 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
"""
|
||||||
|
scripts/health_check_mindnet.py
|
||||||
|
|
||||||
|
Health-Check für den mindnet-Retriever-/Query-Endpoint.
|
||||||
|
|
||||||
|
Funktion:
|
||||||
|
- Führt POST-Requests auf /query in verschiedenen Modi aus (standard: semantic + hybrid).
|
||||||
|
- Prüft Status-Code, JSON-Struktur und Anzahl der Treffer.
|
||||||
|
- Kennzeichnet Probleme als:
|
||||||
|
- status="ok"
|
||||||
|
- status="warning" (z.B. Timeout)
|
||||||
|
- status="error" (harte Fehler wie HTTP-Fehler, JSON-Fehler etc.)
|
||||||
|
|
||||||
|
Exit-Code:
|
||||||
|
- Default (tolerant):
|
||||||
|
- overall_status = "ok" (inkl. warnings) → Exit-Code 0
|
||||||
|
- overall_status = "error" → Exit-Code 1
|
||||||
|
- Mit --strict:
|
||||||
|
- warnings werden wie errors behandelt → Exit-Code 1
|
||||||
|
|
||||||
|
Beispiele:
|
||||||
|
|
||||||
|
python scripts/health_check_mindnet.py \
|
||||||
|
--url http://127.0.0.1:8001/query \
|
||||||
|
--query "embeddings" \
|
||||||
|
--top-k 3
|
||||||
|
|
||||||
|
python scripts/health_check_mindnet.py \
|
||||||
|
--url http://127.0.0.1:8001/query \
|
||||||
|
--query "embeddings" \
|
||||||
|
--top-k 3 \
|
||||||
|
--timeout 15 \
|
||||||
|
--modes hybrid
|
||||||
|
|
||||||
|
# Strenger Modus (warnings → Exit-Code 1)
|
||||||
|
python scripts/health_check_mindnet.py --strict
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import argparse
|
||||||
|
import json
|
||||||
|
import socket
|
||||||
|
import sys
|
||||||
|
import time
|
||||||
|
import urllib.error
|
||||||
|
import urllib.request
|
||||||
|
from typing import Any, Dict, List
|
||||||
|
|
||||||
|
|
||||||
|
def _post_query(
|
||||||
|
url: str,
|
||||||
|
mode: str,
|
||||||
|
query: str,
|
||||||
|
top_k: int,
|
||||||
|
timeout: float,
|
||||||
|
) -> Dict[str, Any]:
|
||||||
|
"""
|
||||||
|
Führt einen POST auf den /query-Endpoint aus und gibt das dekodierte JSON zurück.
|
||||||
|
|
||||||
|
Raises:
|
||||||
|
urllib.error.URLError, urllib.error.HTTPError, RuntimeError
|
||||||
|
"""
|
||||||
|
payload = {
|
||||||
|
"mode": mode,
|
||||||
|
"query": query,
|
||||||
|
"top_k": top_k,
|
||||||
|
"expand": {
|
||||||
|
"depth": 1 if mode == "hybrid" else 0,
|
||||||
|
"edge_types": ["references", "belongs_to", "prev", "next"],
|
||||||
|
},
|
||||||
|
"ret": {
|
||||||
|
"with_paths": True,
|
||||||
|
"with_notes": True,
|
||||||
|
"with_chunks": True,
|
||||||
|
},
|
||||||
|
}
|
||||||
|
|
||||||
|
data = json.dumps(payload).encode("utf-8")
|
||||||
|
req = urllib.request.Request(
|
||||||
|
url=url,
|
||||||
|
data=data,
|
||||||
|
headers={"Content-Type": "application/json"},
|
||||||
|
method="POST",
|
||||||
|
)
|
||||||
|
|
||||||
|
start = time.monotonic()
|
||||||
|
with urllib.request.urlopen(req, timeout=timeout) as resp:
|
||||||
|
status_code = resp.getcode()
|
||||||
|
body = resp.read().decode("utf-8")
|
||||||
|
end = time.monotonic()
|
||||||
|
|
||||||
|
latency_ms = int((end - start) * 1000)
|
||||||
|
|
||||||
|
if status_code != 200:
|
||||||
|
raise RuntimeError(f"HTTP {status_code}: {body}")
|
||||||
|
|
||||||
|
try:
|
||||||
|
doc = json.loads(body)
|
||||||
|
except json.JSONDecodeError as exc:
|
||||||
|
raise RuntimeError(f"Antwort ist kein gültiges JSON: {exc}") from exc
|
||||||
|
|
||||||
|
if not isinstance(doc, dict):
|
||||||
|
raise RuntimeError("Antwort ist kein JSON-Objekt")
|
||||||
|
|
||||||
|
doc["_latency_ms"] = latency_ms
|
||||||
|
return doc
|
||||||
|
|
||||||
|
|
||||||
|
def _validate_response(
|
||||||
|
mode: str,
|
||||||
|
doc: Dict[str, Any],
|
||||||
|
min_results: int,
|
||||||
|
) -> Dict[str, Any]:
|
||||||
|
"""
|
||||||
|
Prüft die wichtigsten Invarianten des Query-Responses.
|
||||||
|
|
||||||
|
Rückgabe-Format:
|
||||||
|
|
||||||
|
{
|
||||||
|
"status": "ok" | "warning" | "error",
|
||||||
|
"message": str,
|
||||||
|
"latency_ms": int,
|
||||||
|
"used_mode": str,
|
||||||
|
"result_count": int
|
||||||
|
}
|
||||||
|
"""
|
||||||
|
latency_ms = int(doc.get("_latency_ms", -1))
|
||||||
|
used_mode = str(doc.get("used_mode", "unknown"))
|
||||||
|
results = doc.get("results", [])
|
||||||
|
|
||||||
|
if not isinstance(results, list):
|
||||||
|
return {
|
||||||
|
"status": "error",
|
||||||
|
"message": "results ist kein Array",
|
||||||
|
"latency_ms": latency_ms,
|
||||||
|
"used_mode": used_mode,
|
||||||
|
"result_count": -1,
|
||||||
|
}
|
||||||
|
|
||||||
|
result_count = len(results)
|
||||||
|
|
||||||
|
if result_count < min_results:
|
||||||
|
# Zu wenige Ergebnisse sind aus Sicht eines Health-Checks eher ein Error,
|
||||||
|
# da die Retrieval-Qualität nicht gewährleistet ist.
|
||||||
|
return {
|
||||||
|
"status": "error",
|
||||||
|
"message": f"zu wenige Ergebnisse: {result_count} < {min_results}",
|
||||||
|
"latency_ms": latency_ms,
|
||||||
|
"used_mode": used_mode,
|
||||||
|
"result_count": result_count,
|
||||||
|
}
|
||||||
|
|
||||||
|
sample_msg = "OK"
|
||||||
|
if result_count > 0:
|
||||||
|
first = results[0]
|
||||||
|
if not isinstance(first, dict):
|
||||||
|
sample_msg = "first result ist kein Objekt"
|
||||||
|
else:
|
||||||
|
# einfache Plausibilitätschecks (nur Zugriff, kein strikter Typcheck)
|
||||||
|
_ = first.get("note_id")
|
||||||
|
_ = first.get("chunk_id")
|
||||||
|
_ = first.get("total_score")
|
||||||
|
|
||||||
|
status = "ok" if sample_msg == "OK" else "warning"
|
||||||
|
return {
|
||||||
|
"status": status,
|
||||||
|
"message": sample_msg,
|
||||||
|
"latency_ms": latency_ms,
|
||||||
|
"used_mode": used_mode,
|
||||||
|
"result_count": result_count,
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
def run_health_check(
|
||||||
|
url: str,
|
||||||
|
query: str,
|
||||||
|
top_k: int,
|
||||||
|
timeout: float,
|
||||||
|
modes: List[str],
|
||||||
|
min_results: int,
|
||||||
|
) -> Dict[str, Any]:
|
||||||
|
"""
|
||||||
|
Führt den Health-Check für die angegebenen Modi aus.
|
||||||
|
"""
|
||||||
|
report: Dict[str, Any] = {
|
||||||
|
"url": url,
|
||||||
|
"query": query,
|
||||||
|
"top_k": top_k,
|
||||||
|
"timeout_s": timeout,
|
||||||
|
"checks": [],
|
||||||
|
"overall_status": "ok", # wird unten ggf. auf warning oder error gesetzt
|
||||||
|
}
|
||||||
|
|
||||||
|
overall_status = "ok"
|
||||||
|
|
||||||
|
for mode in modes:
|
||||||
|
entry: Dict[str, Any] = {
|
||||||
|
"mode": mode,
|
||||||
|
"status": "error",
|
||||||
|
"message": "",
|
||||||
|
}
|
||||||
|
try:
|
||||||
|
doc = _post_query(url=url, mode=mode, query=query, top_k=top_k, timeout=timeout)
|
||||||
|
validation = _validate_response(mode=mode, doc=doc, min_results=min_results)
|
||||||
|
entry.update(validation)
|
||||||
|
|
||||||
|
except urllib.error.HTTPError as exc:
|
||||||
|
entry["status"] = "error"
|
||||||
|
entry["message"] = f"HTTP-Fehler: {exc}"
|
||||||
|
entry["latency_ms"] = -1
|
||||||
|
entry["used_mode"] = mode
|
||||||
|
entry["result_count"] = -1
|
||||||
|
|
||||||
|
except urllib.error.URLError as exc:
|
||||||
|
# URLError kann u.a. socket.timeout enthalten.
|
||||||
|
lat = -1
|
||||||
|
entry["latency_ms"] = lat
|
||||||
|
entry["used_mode"] = mode
|
||||||
|
entry["result_count"] = -1
|
||||||
|
|
||||||
|
if isinstance(exc.reason, socket.timeout):
|
||||||
|
entry["status"] = "warning"
|
||||||
|
entry["message"] = f"Timeout (URLError/socket.timeout): {exc}"
|
||||||
|
else:
|
||||||
|
entry["status"] = "error"
|
||||||
|
entry["message"] = f"HTTP/Netzwerkfehler: {exc}"
|
||||||
|
|
||||||
|
except socket.timeout as exc:
|
||||||
|
# Direkter Timeout (falls nicht in URLError verpackt)
|
||||||
|
entry["status"] = "warning"
|
||||||
|
entry["message"] = f"Timeout (socket.timeout): {exc}"
|
||||||
|
entry["latency_ms"] = -1
|
||||||
|
entry["used_mode"] = mode
|
||||||
|
entry["result_count"] = -1
|
||||||
|
|
||||||
|
except Exception as exc: # noqa: BLE001
|
||||||
|
entry["status"] = "error"
|
||||||
|
entry["message"] = f"unerwarteter Fehler: {exc}"
|
||||||
|
entry["latency_ms"] = -1
|
||||||
|
entry["used_mode"] = mode
|
||||||
|
entry["result_count"] = -1
|
||||||
|
|
||||||
|
# overall_status bestimmen:
|
||||||
|
# - error > warning > ok
|
||||||
|
if entry["status"] == "error":
|
||||||
|
overall_status = "error"
|
||||||
|
elif entry["status"] == "warning" and overall_status == "ok":
|
||||||
|
overall_status = "warning"
|
||||||
|
|
||||||
|
report["checks"].append(entry)
|
||||||
|
|
||||||
|
report["overall_status"] = overall_status
|
||||||
|
return report
|
||||||
|
|
||||||
|
|
||||||
|
def parse_args(argv: List[str]) -> argparse.Namespace:
|
||||||
|
parser = argparse.ArgumentParser(
|
||||||
|
description="Health-Check für mindnet /query-Retriever",
|
||||||
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--url",
|
||||||
|
default="http://127.0.0.1:8001/query",
|
||||||
|
help="Vollständige URL des /query-Endpunkts (Default: %(default)s)",
|
||||||
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--query",
|
||||||
|
default="embeddings",
|
||||||
|
help="Test-Query für den Health-Check (Default: %(default)s)",
|
||||||
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--top-k",
|
||||||
|
type=int,
|
||||||
|
default=3,
|
||||||
|
help="Top-K für die Testabfrage (Default: %(default)s)",
|
||||||
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--timeout",
|
||||||
|
type=float,
|
||||||
|
default=5.0,
|
||||||
|
help="Timeout in Sekunden pro Request (Default: %(default)s)",
|
||||||
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--modes",
|
||||||
|
nargs="+",
|
||||||
|
default=["semantic", "hybrid"],
|
||||||
|
help="Zu prüfende Modi (Default: semantic hybrid)",
|
||||||
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--min-results",
|
||||||
|
type=int,
|
||||||
|
default=1,
|
||||||
|
help="Minimale Anzahl erwarteter Ergebnisse (Default: %(default)s)",
|
||||||
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--strict",
|
||||||
|
action="store_true",
|
||||||
|
help="Warnings als Fehler behandeln (overall_status=warning führt zu Exit-Code 1)",
|
||||||
|
)
|
||||||
|
return parser.parse_args(argv)
|
||||||
|
|
||||||
|
|
||||||
|
def main(argv: List[str]) -> int:
|
||||||
|
args = parse_args(argv)
|
||||||
|
|
||||||
|
report = run_health_check(
|
||||||
|
url=args.url,
|
||||||
|
query=args.query,
|
||||||
|
top_k=args.top_k,
|
||||||
|
timeout=args.timeout,
|
||||||
|
modes=args.modes,
|
||||||
|
min_results=args.min_results,
|
||||||
|
)
|
||||||
|
|
||||||
|
overall = report.get("overall_status", "error")
|
||||||
|
|
||||||
|
# Menschlich lesbare Zusammenfassung:
|
||||||
|
print(f"mindnet health: {overall}")
|
||||||
|
for c in report["checks"]:
|
||||||
|
mode = c.get("mode")
|
||||||
|
status = c.get("status")
|
||||||
|
latency = c.get("latency_ms")
|
||||||
|
result_count = c.get("result_count")
|
||||||
|
msg = c.get("message", "")
|
||||||
|
print(f" - {mode}: {status} (latency={latency} ms, results={result_count}) {msg}")
|
||||||
|
|
||||||
|
# JSON-Ausgabe (z.B. für n8n):
|
||||||
|
print(json.dumps(report, ensure_ascii=False))
|
||||||
|
|
||||||
|
if args.strict:
|
||||||
|
# strict: warning wird wie error behandelt
|
||||||
|
return 0 if overall == "ok" else 1
|
||||||
|
else:
|
||||||
|
# tolerant: nur echte errors führen zu Exit-Code 1
|
||||||
|
return 0 if overall in ("ok", "warning") else 1
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
raise SystemExit(main(sys.argv[1:]))
|
||||||
+237
-94
@@ -1,38 +1,25 @@
|
|||||||
#!/usr/bin/env python3
|
#!/usr/bin/env python3
|
||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
Script: scripts/import_markdown.py — Markdown → Qdrant (Notes, Chunks, Edges)
|
scripts/import_markdown.py
|
||||||
Version: 3.7.2
|
|
||||||
Datum: 2025-09-30
|
|
||||||
|
|
||||||
Kurzbeschreibung
|
Zweck
|
||||||
----------------
|
-----
|
||||||
- Liest Markdown-Dateien ein und erzeugt Notes/Chunks/Edges **idempotent**.
|
- Liest Markdown-Notizen aus einem Vault ein
|
||||||
- Änderungserkennung „Option C“: mehrere Hash-Varianten werden parallel in der Note
|
- Erzeugt Note-Payload, Chunk-Payloads (+ optionale Embeddings) und Edges
|
||||||
gespeichert (Feld `hashes` mit Schlüsseln `<mode>:<source>:<normalize>`). Der Vergleich
|
- Schreibt alles idempotent in Qdrant (Notes, Chunks, Edges)
|
||||||
nutzt NUR den aktuellen Modus-Key — ein Moduswechsel triggert keine Massenänderungen mehr.
|
- Integriert eine optionale Type-Registry (types.yaml), um z. B. chunk_profile
|
||||||
- „Erstimport-Fix“: Bei leerem Qdrant gilt Create-Fall automatisch als geändert.
|
und retriever_weight pro Notiz-Typ zu steuern.
|
||||||
- `--baseline-modes`: fehlende Hash-Varianten still nachtragen (nur Notes upserten).
|
|
||||||
- `--sync-deletes`: gezielte Lösch-Synchronisation (Dry-Run + Apply).
|
|
||||||
- `--only-path`: exakt **eine** Datei (Pfad) importieren — nützlich für Diagnosefälle.
|
|
||||||
|
|
||||||
Neu in 3.7.1/3.7.2
|
Wesentliche Fixes ggü. vorherigen fehlerhaften Ständen
|
||||||
------------------
|
------------------------------------------------------
|
||||||
- Chunk-Payloads: `window` (für Embeddings), `text` (überlappungsfrei, verlustfrei rekonstruierbar),
|
- `embed_texts` wird optional importiert und defensiv geprüft (kein NameError mehr)
|
||||||
`start/end/overlap_*`. Embeddings nutzen `window`.
|
- `effective_chunk_profile` / `effective_retriever_weight` und Registry-Helfer
|
||||||
- **3.7.2:** Edges-Fehler führen nicht mehr zum Abbruch der gesamten Note; Note/Chunks werden trotzdem geschrieben.
|
sind VOR `main()` definiert (kein NameError mehr)
|
||||||
|
- `retriever_weight` wird in Note- und Chunk-Payload zuverlässig gesetzt
|
||||||
Hash/Compare Konfiguration
|
- Robuste Kantenbildung; Fehler bei Edges blockieren Notes/Chunks nicht
|
||||||
--------------------------
|
- Korrekte Verwendung von `scroll_filter` beim Qdrant-Client
|
||||||
- Vergleichsmodus:
|
- `--purge-before-upsert` entfernt alte Chunks/Edges einer Note vor dem Upsert
|
||||||
--hash-mode body|frontmatter|full
|
|
||||||
oder ENV: MINDNET_HASH_MODE | MINDNET_HASH_COMPARE
|
|
||||||
- Quelle:
|
|
||||||
--hash-source parsed|raw (ENV: MINDNET_HASH_SOURCE, Default parsed)
|
|
||||||
- Normalisierung:
|
|
||||||
--hash-normalize canonical|none (ENV: MINDNET_HASH_NORMALIZE, Default canonical)
|
|
||||||
- Optional: --compare-text (oder ENV MINDNET_COMPARE_TEXT=true) vergleicht zusätzlich
|
|
||||||
den parsed Body-Text direkt.
|
|
||||||
|
|
||||||
Qdrant / ENV
|
Qdrant / ENV
|
||||||
------------
|
------------
|
||||||
@@ -40,6 +27,7 @@ Qdrant / ENV
|
|||||||
- COLLECTION_PREFIX (Default: mindnet), via --prefix überschreibbar
|
- COLLECTION_PREFIX (Default: mindnet), via --prefix überschreibbar
|
||||||
- VECTOR_DIM (Default: 384)
|
- VECTOR_DIM (Default: 384)
|
||||||
- MINDNET_NOTE_SCOPE_REFS: true|false (Default: false)
|
- MINDNET_NOTE_SCOPE_REFS: true|false (Default: false)
|
||||||
|
- MINDNET_TYPES_FILE: Pfad zu types.yaml (optional; Default: ./types.yaml)
|
||||||
|
|
||||||
Beispiele
|
Beispiele
|
||||||
---------
|
---------
|
||||||
@@ -67,6 +55,7 @@ from typing import Dict, List, Optional, Tuple, Any, Set
|
|||||||
from dotenv import load_dotenv
|
from dotenv import load_dotenv
|
||||||
from qdrant_client.http import models as rest
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
|
# --- Projekt-Imports ---
|
||||||
from app.core.parser import (
|
from app.core.parser import (
|
||||||
read_markdown,
|
read_markdown,
|
||||||
normalize_frontmatter,
|
normalize_frontmatter,
|
||||||
@@ -92,14 +81,110 @@ from app.core.qdrant_points import (
|
|||||||
upsert_batch,
|
upsert_batch,
|
||||||
)
|
)
|
||||||
|
|
||||||
|
# embeddings sind optional (z. B. im reinen Payload-Backfill)
|
||||||
try:
|
try:
|
||||||
from app.core.embed import embed_texts # optional
|
from app.core.embed import embed_texts # optional
|
||||||
except Exception:
|
except Exception: # pragma: no cover
|
||||||
embed_texts = None
|
embed_texts = None
|
||||||
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------
|
# ---------------------------------------------------------------------
|
||||||
# Helper
|
# Type-Registry (types.yaml) – Helper (robust, optional)
|
||||||
|
# ---------------------------------------------------------------------
|
||||||
|
|
||||||
|
def _env(name: str, default: Optional[str] = None) -> Optional[str]:
|
||||||
|
v = os.getenv(name)
|
||||||
|
return v if v is not None else default
|
||||||
|
|
||||||
|
def _load_json_or_yaml(path: str) -> dict:
|
||||||
|
import io
|
||||||
|
data: dict = {}
|
||||||
|
if not path or not os.path.exists(path):
|
||||||
|
return data
|
||||||
|
try:
|
||||||
|
import yaml # type: ignore
|
||||||
|
with io.open(path, "r", encoding="utf-8") as f:
|
||||||
|
data = yaml.safe_load(f) or {}
|
||||||
|
if not isinstance(data, dict):
|
||||||
|
return {}
|
||||||
|
return data
|
||||||
|
except Exception:
|
||||||
|
# YAML evtl. nicht installiert – versuche JSON
|
||||||
|
try:
|
||||||
|
with io.open(path, "r", encoding="utf-8") as f:
|
||||||
|
data = json.load(f)
|
||||||
|
if not isinstance(data, dict):
|
||||||
|
return {}
|
||||||
|
return data
|
||||||
|
except Exception:
|
||||||
|
return {}
|
||||||
|
|
||||||
|
def load_type_registry() -> dict:
|
||||||
|
# Reihenfolge: ENV > ./types.yaml (im aktuellen Arbeitsverzeichnis)
|
||||||
|
p = _env("MINDNET_TYPES_FILE", None)
|
||||||
|
if p and os.path.exists(p):
|
||||||
|
return _load_json_or_yaml(p)
|
||||||
|
fallback = os.path.abspath("./config/types.yaml") if os.path.exists("./config/types.yaml") else os.path.abspath("./types.yaml")
|
||||||
|
return _load_json_or_yaml(fallback)
|
||||||
|
|
||||||
|
def get_type_config(note_type: Optional[str], reg: dict) -> dict:
|
||||||
|
if not reg or not isinstance(reg, dict):
|
||||||
|
return {}
|
||||||
|
types = reg.get("types", {}) if isinstance(reg.get("types"), dict) else {}
|
||||||
|
if note_type and isinstance(note_type, str) and note_type in types:
|
||||||
|
return types[note_type] or {}
|
||||||
|
# Fallback: concept
|
||||||
|
return types.get("concept", {}) or {}
|
||||||
|
|
||||||
|
def resolve_note_type(requested: Optional[str], reg: dict) -> str:
|
||||||
|
if requested and isinstance(requested, str):
|
||||||
|
return requested
|
||||||
|
# Fallback wenn nichts gesetzt ist
|
||||||
|
types = reg.get("types", {}) if isinstance(reg.get("types"), dict) else {}
|
||||||
|
return "concept" if "concept" in types else (requested or "concept")
|
||||||
|
|
||||||
|
def effective_chunk_profile(note_type: str, reg: dict) -> Optional[str]:
|
||||||
|
"""Resolve chunk_profile for type or from defaults/global.
|
||||||
|
Accepts symbolic profiles: short|medium|long|default.
|
||||||
|
"""
|
||||||
|
cfg = get_type_config(note_type, reg)
|
||||||
|
prof = (cfg.get("chunk_profile") if isinstance(cfg, dict) else None)
|
||||||
|
if isinstance(prof, str) and prof:
|
||||||
|
return prof
|
||||||
|
# defaults fallbacks
|
||||||
|
for key in ("defaults", "default", "global"):
|
||||||
|
dcfg = reg.get(key) if isinstance(reg, dict) else None
|
||||||
|
if isinstance(dcfg, dict):
|
||||||
|
dprof = dcfg.get("chunk_profile")
|
||||||
|
if isinstance(dprof, str) and dprof:
|
||||||
|
return dprof
|
||||||
|
return "default"
|
||||||
|
|
||||||
|
def effective_retriever_weight(note_type: str, reg: dict) -> Optional[float]:
|
||||||
|
"""Resolve retriever_weight for type or defaults; returns float.
|
||||||
|
"""
|
||||||
|
cfg = get_type_config(note_type, reg)
|
||||||
|
w = (cfg.get("retriever_weight") if isinstance(cfg, dict) else None)
|
||||||
|
try:
|
||||||
|
if w is not None:
|
||||||
|
return float(w)
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
# defaults fallbacks
|
||||||
|
for key in ("defaults", "default", "global"):
|
||||||
|
dcfg = reg.get(key) if isinstance(reg, dict) else None
|
||||||
|
if isinstance(dcfg, dict):
|
||||||
|
dw = dcfg.get("retriever_weight")
|
||||||
|
try:
|
||||||
|
if dw is not None:
|
||||||
|
return float(dw)
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
return 1.0
|
||||||
|
|
||||||
|
|
||||||
|
# ---------------------------------------------------------------------
|
||||||
|
# Sonstige Helper
|
||||||
# ---------------------------------------------------------------------
|
# ---------------------------------------------------------------------
|
||||||
|
|
||||||
def iter_md(root: str) -> List[str]:
|
def iter_md(root: str) -> List[str]:
|
||||||
@@ -115,17 +200,15 @@ def iter_md(root: str) -> List[str]:
|
|||||||
out.append(p)
|
out.append(p)
|
||||||
return sorted(out)
|
return sorted(out)
|
||||||
|
|
||||||
|
|
||||||
def collections(prefix: str) -> Tuple[str, str, str]:
|
def collections(prefix: str) -> Tuple[str, str, str]:
|
||||||
return f"{prefix}_notes", f"{prefix}_chunks", f"{prefix}_edges"
|
return f"{prefix}_notes", f"{prefix}_chunks", f"{prefix}_edges"
|
||||||
|
|
||||||
|
|
||||||
def fetch_existing_note_payload(client, prefix: str, note_id: str) -> Optional[Dict]:
|
def fetch_existing_note_payload(client, prefix: str, note_id: str) -> Optional[Dict]:
|
||||||
notes_col, _, _ = collections(prefix)
|
notes_col, _, _ = collections(prefix)
|
||||||
f = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
f = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
||||||
points, _ = client.scroll(
|
points, _ = client.scroll(
|
||||||
collection_name=notes_col,
|
collection_name=notes_col,
|
||||||
scroll_filter=f,
|
scroll_filter=f, # wichtig: scroll_filter (nicht: filter)
|
||||||
with_payload=True,
|
with_payload=True,
|
||||||
with_vectors=False,
|
with_vectors=False,
|
||||||
limit=1,
|
limit=1,
|
||||||
@@ -134,7 +217,6 @@ def fetch_existing_note_payload(client, prefix: str, note_id: str) -> Optional[D
|
|||||||
return None
|
return None
|
||||||
return points[0].payload or {}
|
return points[0].payload or {}
|
||||||
|
|
||||||
|
|
||||||
def list_qdrant_note_ids(client, prefix: str) -> Set[str]:
|
def list_qdrant_note_ids(client, prefix: str) -> Set[str]:
|
||||||
notes_col, _, _ = collections(prefix)
|
notes_col, _, _ = collections(prefix)
|
||||||
out: Set[str] = set()
|
out: Set[str] = set()
|
||||||
@@ -158,7 +240,6 @@ def list_qdrant_note_ids(client, prefix: str) -> Set[str]:
|
|||||||
break
|
break
|
||||||
return out
|
return out
|
||||||
|
|
||||||
|
|
||||||
def purge_note_artifacts(client, prefix: str, note_id: str) -> None:
|
def purge_note_artifacts(client, prefix: str, note_id: str) -> None:
|
||||||
_, chunks_col, edges_col = collections(prefix)
|
_, chunks_col, edges_col = collections(prefix)
|
||||||
filt = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
filt = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
||||||
@@ -172,7 +253,6 @@ def purge_note_artifacts(client, prefix: str, note_id: str) -> None:
|
|||||||
except Exception as e:
|
except Exception as e:
|
||||||
print(json.dumps({"note_id": note_id, "warn": f"delete in {col} via filter failed: {e}"}))
|
print(json.dumps({"note_id": note_id, "warn": f"delete in {col} via filter failed: {e}"}))
|
||||||
|
|
||||||
|
|
||||||
def delete_note_everywhere(client, prefix: str, note_id: str) -> None:
|
def delete_note_everywhere(client, prefix: str, note_id: str) -> None:
|
||||||
notes_col, chunks_col, edges_col = collections(prefix)
|
notes_col, chunks_col, edges_col = collections(prefix)
|
||||||
filt = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
filt = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
||||||
@@ -187,50 +267,56 @@ def delete_note_everywhere(client, prefix: str, note_id: str) -> None:
|
|||||||
print(json.dumps({"note_id": note_id, "warn": f"delete in {col} failed: {e}"}))
|
print(json.dumps({"note_id": note_id, "warn": f"delete in {col} failed: {e}"}))
|
||||||
|
|
||||||
|
|
||||||
def _resolve_mode(val: Optional[str]) -> str:
|
# --- Neu: Existenz-Checks für Artefakte (fehlertoleranter Rebuild) ---
|
||||||
v = (val or os.environ.get("MINDNET_HASH_MODE") or os.environ.get("MINDNET_HASH_COMPARE") or "body").strip().lower()
|
|
||||||
if v in ("full", "fulltext", "body+frontmatter", "bodyplusfrontmatter"):
|
|
||||||
return "full"
|
|
||||||
if v in ("frontmatter", "fm"):
|
|
||||||
return "frontmatter"
|
|
||||||
return "body"
|
|
||||||
|
|
||||||
|
def _has_any_point(client, collection: str, note_id: str) -> bool:
|
||||||
|
"""Prüft, ob es mind. einen Punkt mit note_id in der Collection gibt."""
|
||||||
|
filt = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))])
|
||||||
|
pts, _ = client.scroll(
|
||||||
|
collection_name=collection,
|
||||||
|
scroll_filter=filt,
|
||||||
|
with_payload=False,
|
||||||
|
with_vectors=False,
|
||||||
|
limit=1,
|
||||||
|
)
|
||||||
|
return bool(pts)
|
||||||
|
|
||||||
def _env(key: str, default: str) -> str:
|
def artifacts_missing(client, prefix: str, note_id: str) -> Tuple[bool, bool]:
|
||||||
return (os.environ.get(key) or default).strip().lower()
|
"""Gibt (chunks_missing, edges_missing) zurück."""
|
||||||
|
_, chunks_col, edges_col = collections(prefix)
|
||||||
|
chunks_missing = not _has_any_point(client, chunks_col, note_id)
|
||||||
|
edges_missing = not _has_any_point(client, edges_col, note_id)
|
||||||
|
return chunks_missing, edges_missing
|
||||||
|
|
||||||
|
|
||||||
# ---------------------------------------------------------------------
|
# ---------------------------------------------------------------------
|
||||||
# Main
|
# Main
|
||||||
# ---------------------------------------------------------------------
|
# ---------------------------------------------------------------------
|
||||||
|
|
||||||
|
def _resolve_mode(m: Optional[str]) -> str:
|
||||||
|
m = (m or "body").strip().lower()
|
||||||
|
return m if m in {"body", "frontmatter", "full"} else "body"
|
||||||
|
|
||||||
def main() -> None:
|
def main() -> None:
|
||||||
load_dotenv()
|
load_dotenv()
|
||||||
ap = argparse.ArgumentParser()
|
|
||||||
ap.add_argument("--vault", required=True, help="Pfad zum Obsidian-Vault (Root-Ordner)")
|
ap = argparse.ArgumentParser(
|
||||||
ap.add_argument("--apply", action="store_true", help="Schreibt in Qdrant; ohne Flag nur Dry-Run")
|
prog="scripts.import_markdown",
|
||||||
ap.add_argument("--purge-before-upsert", action="store_true",
|
description="Importiert Markdown-Notizen in Qdrant (Notes/Chunks/Edges)."
|
||||||
help="Vor Upsert Chunks & Edges der GEÄNDERTEN Note löschen")
|
)
|
||||||
ap.add_argument("--note-id", help="Nur eine bestimmte Note-ID verarbeiten")
|
ap.add_argument("--vault", required=True, help="Pfad zum Vault (Ordner mit .md-Dateien)")
|
||||||
ap.add_argument("--only-path", help="Exakt diesen Markdown-Pfad verarbeiten (ignoriert --note-id)")
|
ap.add_argument("--only-path", help="Nur diese Datei verarbeiten (absolut oder relativ)")
|
||||||
ap.add_argument("--embed-note", action="store_true", help="Optional: Note-Volltext einbetten")
|
ap.add_argument("--apply", action="store_true", help="Schreibt nach Qdrant (sonst Dry-Run)")
|
||||||
ap.add_argument("--force-replace", action="store_true",
|
ap.add_argument("--purge-before-upsert", action="store_true", help="Alte Chunks/Edges der Note vorher löschen")
|
||||||
help="Änderungserkennung ignorieren und immer upserten (+ optional Purge)")
|
ap.add_argument("--force-replace", action="store_true", help="Note/Chunks/Edges unabhängig von Hash neu schreiben")
|
||||||
ap.add_argument("--hash-mode", choices=["body", "frontmatter", "full"], default=None,
|
ap.add_argument("--note-id", help="Nur Notes mit dieser ID verarbeiten (Filter)")
|
||||||
help="Vergleichsmodus (Body | Frontmatter | Full)")
|
ap.add_argument("--note-scope-refs", action="store_true", help="Note-scope References/Backlinks erzeugen")
|
||||||
ap.add_argument("--hash-normalize", choices=["canonical", "none"], default=None)
|
ap.add_argument("--hash-mode", help="body|frontmatter|full (Default body)")
|
||||||
ap.add_argument("--hash-source", choices=["parsed", "raw"], default=None,
|
ap.add_argument("--hash-source", help="parsed|raw (Default parsed)")
|
||||||
help="Quelle für die Hash-Berechnung (Default: parsed)")
|
ap.add_argument("--hash-normalize", help="canonical|none (Default canonical)")
|
||||||
ap.add_argument("--note-scope-refs", action="store_true",
|
ap.add_argument("--compare-text", action="store_true", help="Parsed fulltext zusätzlich direkt vergleichen")
|
||||||
help="(Optional) erzeugt zusätzlich references:note/backlink:note (Default: aus)")
|
ap.add_argument("--baseline-modes", action="store_true", help="Fehlende Hash-Varianten still nachtragen (Notes)")
|
||||||
ap.add_argument("--debug-hash-diff", action="store_true",
|
ap.add_argument("--sync-deletes", action="store_true", help="Qdrant->Vault Lösch-Sync (Dry-Run; mit --apply ausführen)")
|
||||||
help="(reserviert) optionaler Body-Diff")
|
|
||||||
ap.add_argument("--compare-text", action="store_true",
|
|
||||||
help="Parsed fulltext zusätzlich direkt vergleichen (über Hash hinaus)")
|
|
||||||
ap.add_argument("--baseline-modes", action="store_true",
|
|
||||||
help="Fehlende Hash-Varianten im Feld 'hashes' still nachtragen (Upsert NUR Notes)")
|
|
||||||
ap.add_argument("--sync-deletes", action="store_true",
|
|
||||||
help="Notes/Chunks/Edges löschen, die in Qdrant existieren aber im Vault fehlen (Dry-Run; mit --apply ausführen)")
|
|
||||||
ap.add_argument("--prefix", help="Collection-Prefix (überschreibt ENV COLLECTION_PREFIX)")
|
ap.add_argument("--prefix", help="Collection-Prefix (überschreibt ENV COLLECTION_PREFIX)")
|
||||||
args = ap.parse_args()
|
args = ap.parse_args()
|
||||||
|
|
||||||
@@ -241,6 +327,7 @@ def main() -> None:
|
|||||||
note_scope_refs = args.note_scope_refs or note_scope_refs_env
|
note_scope_refs = args.note_scope_refs or note_scope_refs_env
|
||||||
compare_text = args.compare_text or (_env("MINDNET_COMPARE_TEXT", "false") == "true")
|
compare_text = args.compare_text or (_env("MINDNET_COMPARE_TEXT", "false") == "true")
|
||||||
|
|
||||||
|
# Qdrant
|
||||||
cfg = QdrantConfig.from_env()
|
cfg = QdrantConfig.from_env()
|
||||||
if args.prefix:
|
if args.prefix:
|
||||||
cfg.prefix = args.prefix.strip()
|
cfg.prefix = args.prefix.strip()
|
||||||
@@ -248,9 +335,12 @@ def main() -> None:
|
|||||||
ensure_collections(client, cfg.prefix, cfg.dim)
|
ensure_collections(client, cfg.prefix, cfg.dim)
|
||||||
ensure_payload_indexes(client, cfg.prefix)
|
ensure_payload_indexes(client, cfg.prefix)
|
||||||
|
|
||||||
|
# Type-Registry laden (optional)
|
||||||
|
reg = load_type_registry()
|
||||||
|
|
||||||
root = os.path.abspath(args.vault)
|
root = os.path.abspath(args.vault)
|
||||||
|
|
||||||
# Dateiliste bestimmen
|
# Dateiliste
|
||||||
if args.only_path:
|
if args.only_path:
|
||||||
only = os.path.abspath(args.only_path)
|
only = os.path.abspath(args.only_path)
|
||||||
files = [only]
|
files = [only]
|
||||||
@@ -293,16 +383,15 @@ def main() -> None:
|
|||||||
|
|
||||||
processed = 0
|
processed = 0
|
||||||
for path in files:
|
for path in files:
|
||||||
# -------- Parse & Validate --------
|
|
||||||
try:
|
try:
|
||||||
parsed = read_markdown(path)
|
parsed = read_markdown(path)
|
||||||
|
if not parsed:
|
||||||
|
continue
|
||||||
except Exception as e:
|
except Exception as e:
|
||||||
print(json.dumps({"path": path, "error": f"read_markdown failed: {type(e).__name__}: {e}"}))
|
print(json.dumps({"path": path, "error": f"read_markdown failed: {type(e).__name__}: {e}"}))
|
||||||
continue
|
continue
|
||||||
if parsed is None:
|
|
||||||
print(json.dumps({"path": path, "error": "read_markdown returned None"}))
|
|
||||||
continue
|
|
||||||
|
|
||||||
|
# --- Frontmatter prüfen ---
|
||||||
try:
|
try:
|
||||||
fm = normalize_frontmatter(parsed.frontmatter)
|
fm = normalize_frontmatter(parsed.frontmatter)
|
||||||
validate_required_frontmatter(fm)
|
validate_required_frontmatter(fm)
|
||||||
@@ -315,7 +404,26 @@ def main() -> None:
|
|||||||
|
|
||||||
processed += 1
|
processed += 1
|
||||||
|
|
||||||
# -------- Build new payload (includes 'hashes') --------
|
# --- Type-Registry anwenden (chunk_profile / retriever_weight) ---
|
||||||
|
try:
|
||||||
|
note_type = resolve_note_type(fm.get("type"), reg)
|
||||||
|
except Exception:
|
||||||
|
note_type = (fm.get("type") or "concept")
|
||||||
|
fm["type"] = note_type or fm.get("type") or "concept"
|
||||||
|
|
||||||
|
prof = effective_chunk_profile(note_type, reg)
|
||||||
|
if prof:
|
||||||
|
fm["chunk_profile"] = prof
|
||||||
|
|
||||||
|
weight = effective_retriever_weight(note_type, reg)
|
||||||
|
if weight is not None:
|
||||||
|
try:
|
||||||
|
fm["retriever_weight"] = float(weight)
|
||||||
|
except Exception:
|
||||||
|
pass # falls FM string-inkonsistent ist
|
||||||
|
|
||||||
|
# --- Payload aufbauen (inkl. Hashes) ---
|
||||||
|
try:
|
||||||
note_pl = make_note_payload(
|
note_pl = make_note_payload(
|
||||||
parsed,
|
parsed,
|
||||||
vault_root=root,
|
vault_root=root,
|
||||||
@@ -324,15 +432,26 @@ def main() -> None:
|
|||||||
hash_source=src,
|
hash_source=src,
|
||||||
file_path=path,
|
file_path=path,
|
||||||
)
|
)
|
||||||
|
except Exception as e:
|
||||||
|
print(json.dumps({"path": path, "error": f"make_note_payload failed: {type(e).__name__}: {e}"}))
|
||||||
|
continue
|
||||||
|
|
||||||
if not note_pl.get("fulltext"):
|
if not note_pl.get("fulltext"):
|
||||||
note_pl["fulltext"] = getattr(parsed, "body", "") or ""
|
note_pl["fulltext"] = getattr(parsed, "body", "") or ""
|
||||||
|
|
||||||
|
# retriever_weight sicher in Note-Payload spiegeln (für spätere Filter)
|
||||||
|
if "retriever_weight" not in note_pl and fm.get("retriever_weight") is not None:
|
||||||
|
try:
|
||||||
|
note_pl["retriever_weight"] = float(fm.get("retriever_weight"))
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
|
||||||
note_id = note_pl.get("note_id") or fm.get("id")
|
note_id = note_pl.get("note_id") or fm.get("id")
|
||||||
if not note_id:
|
if not note_id:
|
||||||
print(json.dumps({"path": path, "error": "Missing note_id after payload build"}))
|
print(json.dumps({"path": path, "error": "Missing note_id after payload build"}))
|
||||||
continue
|
continue
|
||||||
|
|
||||||
# -------- Fetch old payload --------
|
# --- bestehenden Payload laden (zum Diff) ---
|
||||||
old_payload = None if args.force_replace else fetch_existing_note_payload(client, cfg.prefix, note_id)
|
old_payload = None if args.force_replace else fetch_existing_note_payload(client, cfg.prefix, note_id)
|
||||||
has_old = old_payload is not None
|
has_old = old_payload is not None
|
||||||
|
|
||||||
@@ -352,17 +471,28 @@ def main() -> None:
|
|||||||
changed = args.force_replace or (not has_old) or hash_changed or text_changed
|
changed = args.force_replace or (not has_old) or hash_changed or text_changed
|
||||||
do_baseline_only = (args.baseline_modes and has_old and needs_baseline and not changed)
|
do_baseline_only = (args.baseline_modes and has_old and needs_baseline and not changed)
|
||||||
|
|
||||||
# -------- Chunks / Embeddings --------
|
# --- Chunks + Embeddings vorbereiten ---
|
||||||
chunk_pls: List[Dict[str, Any]] = []
|
|
||||||
try:
|
try:
|
||||||
body_text = getattr(parsed, "body", "") or ""
|
body_text = getattr(parsed, "body", "") or ""
|
||||||
chunks = assemble_chunks(fm["id"], body_text, fm.get("type", "concept"))
|
chunks = assemble_chunks(fm["id"], body_text, fm.get("type", "concept"))
|
||||||
chunk_pls = make_chunk_payloads(fm, note_pl["path"], chunks, note_text=body_text)
|
chunk_pls: List[Dict[str, Any]] = make_chunk_payloads(fm, note_pl["path"], chunks, note_text=body_text)
|
||||||
except Exception as e:
|
except Exception as e:
|
||||||
print(json.dumps({"path": path, "note_id": note_id, "error": f"chunk build failed: {type(e).__name__}: {e}"}))
|
print(json.dumps({"path": path, "note_id": note_id, "error": f"chunk build failed: {type(e).__name__}: {e}"}))
|
||||||
continue
|
continue
|
||||||
|
|
||||||
vecs: List[List[float]] = [[0.0] * cfg.dim for _ in chunk_pls]
|
# retriever_weight auf Chunk-Payload spiegeln
|
||||||
|
if fm.get("retriever_weight") is not None:
|
||||||
|
try:
|
||||||
|
rw = float(fm.get("retriever_weight"))
|
||||||
|
for pl in chunk_pls:
|
||||||
|
# Feld nur setzen, wenn noch nicht vorhanden
|
||||||
|
if "retriever_weight" not in pl:
|
||||||
|
pl["retriever_weight"] = rw
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
|
||||||
|
# Embeddings (fallback: Nullvektoren)
|
||||||
|
vecs: List[List[float]] = [[0.0] * int(cfg.dim) for _ in chunk_pls]
|
||||||
if embed_texts and chunk_pls:
|
if embed_texts and chunk_pls:
|
||||||
try:
|
try:
|
||||||
texts_for_embed = [(pl.get("window") or pl.get("text") or "") for pl in chunk_pls]
|
texts_for_embed = [(pl.get("window") or pl.get("text") or "") for pl in chunk_pls]
|
||||||
@@ -370,10 +500,14 @@ def main() -> None:
|
|||||||
except Exception as e:
|
except Exception as e:
|
||||||
print(json.dumps({"path": path, "note_id": note_id, "warn": f"embed_texts failed, using zeros: {e}"}))
|
print(json.dumps({"path": path, "note_id": note_id, "warn": f"embed_texts failed, using zeros: {e}"}))
|
||||||
|
|
||||||
# -------- Edges (robust) --------
|
# --- Fehlende Artefakte in Qdrant ermitteln ---
|
||||||
|
chunks_missing, edges_missing = artifacts_missing(client, cfg.prefix, note_id)
|
||||||
|
|
||||||
|
# --- Edges (robust) ---
|
||||||
edges: List[Dict[str, Any]] = []
|
edges: List[Dict[str, Any]] = []
|
||||||
edges_failed = False
|
edges_failed = False
|
||||||
if changed and (not do_baseline_only):
|
should_build_edges = (changed and (not do_baseline_only)) or edges_missing
|
||||||
|
if should_build_edges:
|
||||||
try:
|
try:
|
||||||
note_refs = note_pl.get("references") or []
|
note_refs = note_pl.get("references") or []
|
||||||
edges = build_edges_for_note(
|
edges = build_edges_for_note(
|
||||||
@@ -385,10 +519,9 @@ def main() -> None:
|
|||||||
except Exception as e:
|
except Exception as e:
|
||||||
edges_failed = True
|
edges_failed = True
|
||||||
edges = []
|
edges = []
|
||||||
# WICHTIG: Wir brechen NICHT mehr ab — Note & Chunks werden geschrieben.
|
|
||||||
print(json.dumps({"path": path, "note_id": note_id, "warn": f"build_edges_for_note failed, skipping edges: {type(e).__name__}: {e}"}))
|
print(json.dumps({"path": path, "note_id": note_id, "warn": f"build_edges_for_note failed, skipping edges: {type(e).__name__}: {e}"}))
|
||||||
|
|
||||||
# -------- Summary --------
|
# --- Summary (stdout) ---
|
||||||
summary = {
|
summary = {
|
||||||
"note_id": note_id,
|
"note_id": note_id,
|
||||||
"title": fm.get("title"),
|
"title": fm.get("title"),
|
||||||
@@ -396,10 +529,12 @@ def main() -> None:
|
|||||||
"edges": len(edges),
|
"edges": len(edges),
|
||||||
"edges_failed": edges_failed,
|
"edges_failed": edges_failed,
|
||||||
"changed": changed,
|
"changed": changed,
|
||||||
|
"chunks_missing": chunks_missing,
|
||||||
|
"edges_missing": edges_missing,
|
||||||
"needs_baseline_for_mode": needs_baseline,
|
"needs_baseline_for_mode": needs_baseline,
|
||||||
"decision": ("baseline-only" if args.apply and do_baseline_only else
|
"decision": ("baseline-only" if args.apply and do_baseline_only else
|
||||||
"apply" if args.apply and changed else
|
"apply" if args.apply and (changed or chunks_missing or edges_missing) else
|
||||||
"apply-skip-unchanged" if args.apply and not changed else
|
"apply-skip-unchanged" if args.apply and not (changed or chunks_missing or edges_missing) else
|
||||||
"dry-run"),
|
"dry-run"),
|
||||||
"path": note_pl["path"],
|
"path": note_pl["path"],
|
||||||
"hash_mode": mode,
|
"hash_mode": mode,
|
||||||
@@ -409,7 +544,7 @@ def main() -> None:
|
|||||||
}
|
}
|
||||||
print(json.dumps(summary, ensure_ascii=False))
|
print(json.dumps(summary, ensure_ascii=False))
|
||||||
|
|
||||||
# -------- Writes --------
|
# --- Writes ---
|
||||||
if not args.apply:
|
if not args.apply:
|
||||||
continue
|
continue
|
||||||
|
|
||||||
@@ -425,21 +560,29 @@ def main() -> None:
|
|||||||
upsert_batch(client, notes_name, note_pts)
|
upsert_batch(client, notes_name, note_pts)
|
||||||
continue
|
continue
|
||||||
|
|
||||||
if not changed:
|
# Wenn nichts geändert und keine Artefakte fehlen → nichts zu tun
|
||||||
|
if not changed and not (chunks_missing or edges_missing):
|
||||||
continue
|
continue
|
||||||
|
|
||||||
if args.purge_before_upsert and has_old:
|
# Purge nur bei echten Änderungen (unverändert + fehlende Artefakte ≠ Purge)
|
||||||
|
if args.purge_before_upsert and has_old and changed:
|
||||||
try:
|
try:
|
||||||
purge_note_artifacts(client, cfg.prefix, note_id)
|
purge_note_artifacts(client, cfg.prefix, note_id)
|
||||||
except Exception as e:
|
except Exception as e:
|
||||||
print(json.dumps({"path": path, "note_id": note_id, "warn": f"purge failed: {e}"}))
|
print(json.dumps({"path": path, "note_id": note_id, "warn": f"purge failed: {e}"}))
|
||||||
|
|
||||||
|
# Note nur bei Änderungen neu schreiben
|
||||||
|
if changed:
|
||||||
notes_name, note_pts = points_for_note(cfg.prefix, note_pl, None, cfg.dim)
|
notes_name, note_pts = points_for_note(cfg.prefix, note_pl, None, cfg.dim)
|
||||||
upsert_batch(client, notes_name, note_pts)
|
upsert_batch(client, notes_name, note_pts)
|
||||||
if chunk_pls:
|
|
||||||
|
# Chunks schreiben, wenn geändert ODER vorher fehlend
|
||||||
|
if chunk_pls and (changed or chunks_missing):
|
||||||
chunks_name, chunk_pts = points_for_chunks(cfg.prefix, chunk_pls, vecs)
|
chunks_name, chunk_pts = points_for_chunks(cfg.prefix, chunk_pls, vecs)
|
||||||
upsert_batch(client, chunks_name, chunk_pts)
|
upsert_batch(client, chunks_name, chunk_pts)
|
||||||
if edges:
|
|
||||||
|
# Edges schreiben, wenn vorhanden und (geändert ODER vorher fehlend)
|
||||||
|
if edges and (changed or edges_missing):
|
||||||
edges_name, edge_pts = points_for_edges(cfg.prefix, edges)
|
edges_name, edge_pts = points_for_edges(cfg.prefix, edges)
|
||||||
upsert_batch(client, edges_name, edge_pts)
|
upsert_batch(client, edges_name, edge_pts)
|
||||||
|
|
||||||
|
|||||||
@@ -0,0 +1,119 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
scripts/ollama_tool_runner.py — Minimaler Tool-Caller für Ollama + mindnet
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
Führt den Tool-Call-Loop für mindnet_query / mindnet_subgraph aus.
|
||||||
|
Nutzt /tools/ollama (Schema) und deine FastAPI (/query, /graph).
|
||||||
|
ENV:
|
||||||
|
OLLAMA=http://127.0.0.1:11434
|
||||||
|
API_BASE=http://127.0.0.1:8000
|
||||||
|
MODEL=llama3.1
|
||||||
|
Nutzung:
|
||||||
|
python3 scripts/ollama_tool_runner.py "Frage an den Agenten"
|
||||||
|
Version:
|
||||||
|
0.1.0 (Erstanlage)
|
||||||
|
Stand:
|
||||||
|
2025-10-07
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
import os, sys, json, requests
|
||||||
|
|
||||||
|
OLLAMA = os.getenv("OLLAMA", "http://127.0.0.1:11434")
|
||||||
|
API_BASE = os.getenv("API_BASE", "http://127.0.0.1:8000")
|
||||||
|
MODEL = os.getenv("MODEL", "llama3.1")
|
||||||
|
|
||||||
|
def load_tools():
|
||||||
|
r = requests.get(f"{API_BASE}/tools/ollama", timeout=30)
|
||||||
|
r.raise_for_status()
|
||||||
|
return r.json()["tools"]
|
||||||
|
|
||||||
|
def call_model(messages, tools):
|
||||||
|
payload = {
|
||||||
|
"model": MODEL,
|
||||||
|
"messages": messages,
|
||||||
|
"tools": tools,
|
||||||
|
"stream": False,
|
||||||
|
"tool_choice": "auto",
|
||||||
|
}
|
||||||
|
r = requests.post(f"{OLLAMA}/api/chat", json=payload, timeout=180)
|
||||||
|
r.raise_for_status()
|
||||||
|
return r.json()
|
||||||
|
|
||||||
|
def execute_tool(name: str, arguments: dict):
|
||||||
|
if name == "mindnet_query":
|
||||||
|
# mappe expand_depth/edge_types auf /query-Body
|
||||||
|
body = {
|
||||||
|
"mode": "hybrid",
|
||||||
|
"top_k": int(arguments.get("top_k", 10)),
|
||||||
|
"expand": {
|
||||||
|
"depth": int(arguments.get("expand_depth", 1)),
|
||||||
|
"edge_types": arguments.get("edge_types") or ["references","belongs_to","prev","next"],
|
||||||
|
},
|
||||||
|
"filters": arguments.get("filters"),
|
||||||
|
}
|
||||||
|
if "query_vector" in arguments:
|
||||||
|
body["query_vector"] = arguments["query_vector"]
|
||||||
|
if "query" in arguments:
|
||||||
|
body["query"] = arguments["query"]
|
||||||
|
r = requests.post(f"{API_BASE}/query", json=body, timeout=120)
|
||||||
|
r.raise_for_status()
|
||||||
|
return r.json()
|
||||||
|
|
||||||
|
if name == "mindnet_subgraph":
|
||||||
|
params = {
|
||||||
|
"depth": int(arguments.get("depth", 1)),
|
||||||
|
}
|
||||||
|
edge_types = arguments.get("edge_types")
|
||||||
|
if edge_types:
|
||||||
|
# mehrfacher Query-Param 'edge_types' wird von requests automatisch gebaut
|
||||||
|
params["edge_types"] = edge_types
|
||||||
|
note_id = arguments["note_id"]
|
||||||
|
r = requests.get(f"{API_BASE}/graph/{note_id}", params=params, timeout=60)
|
||||||
|
r.raise_for_status()
|
||||||
|
return r.json()
|
||||||
|
|
||||||
|
raise ValueError(f"Unbekanntes Tool: {name}")
|
||||||
|
|
||||||
|
def main():
|
||||||
|
if len(sys.argv) < 2:
|
||||||
|
print("Usage: python3 scripts/ollama_tool_runner.py \"Deine Frage\"")
|
||||||
|
return 2
|
||||||
|
|
||||||
|
user_prompt = sys.argv[1]
|
||||||
|
tools = load_tools()
|
||||||
|
messages = [{"role": "user", "content": user_prompt}]
|
||||||
|
|
||||||
|
while True:
|
||||||
|
resp = call_model(messages, tools)
|
||||||
|
msg = resp.get("message") or {}
|
||||||
|
tool_calls = msg.get("tool_calls") or []
|
||||||
|
|
||||||
|
if not tool_calls:
|
||||||
|
# finale Antwort
|
||||||
|
print("\n=== Antwort ===\n")
|
||||||
|
print(msg.get("content", "").strip())
|
||||||
|
return 0
|
||||||
|
|
||||||
|
# Führe Toolcalls nacheinander aus
|
||||||
|
for tc in tool_calls:
|
||||||
|
name = tc["function"]["name"]
|
||||||
|
args = tc["function"].get("arguments") or {}
|
||||||
|
if isinstance(args, str):
|
||||||
|
try: args = json.loads(args)
|
||||||
|
except Exception: args = {"raw": args}
|
||||||
|
|
||||||
|
print(f"[tool] {name}({args})")
|
||||||
|
result = execute_tool(name, args)
|
||||||
|
|
||||||
|
# Übergib Toolresultat ans Modell zurück
|
||||||
|
messages.append({"role": "tool", "content": json.dumps(result), "name": name})
|
||||||
|
|
||||||
|
# füttere auch die originale Antwort (falls enthalten) in den Verlauf
|
||||||
|
if msg.get("content"):
|
||||||
|
messages.append({"role": "assistant", "content": msg["content"]})
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
sys.exit(main())
|
||||||
@@ -0,0 +1,115 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
scripts/payload_dryrun.py (zeigt, was VOR dem Upsert tatsächlich in den Payloads steht)
|
||||||
|
- KEIN Überschreiben der Note-Payload mehr
|
||||||
|
- types.yaml ist maßgeblich (gemäß app/core/note_payload.py & chunk_payload.py)
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
import argparse, os, json
|
||||||
|
from typing import Any, Dict, List, Optional
|
||||||
|
|
||||||
|
from app.core.parser import read_markdown, normalize_frontmatter, validate_required_frontmatter
|
||||||
|
from app.core.note_payload import make_note_payload
|
||||||
|
from app.core.chunker import assemble_chunks
|
||||||
|
from app.core.chunk_payload import make_chunk_payloads
|
||||||
|
try:
|
||||||
|
from app.core.derive_edges import build_edges_for_note
|
||||||
|
except Exception:
|
||||||
|
from app.core.edges import build_edges_for_note # type: ignore
|
||||||
|
|
||||||
|
def main():
|
||||||
|
ap = argparse.ArgumentParser()
|
||||||
|
ap.add_argument("--vault", required=True)
|
||||||
|
ap.add_argument("--note-id")
|
||||||
|
ap.add_argument("--with-edges", action="store_true")
|
||||||
|
args = ap.parse_args()
|
||||||
|
|
||||||
|
root = os.path.abspath(args.vault)
|
||||||
|
|
||||||
|
files: List[str] = []
|
||||||
|
for dp, _, fns in os.walk(root):
|
||||||
|
for fn in fns:
|
||||||
|
if fn.lower().endswith(".md"):
|
||||||
|
files.append(os.path.join(dp, fn))
|
||||||
|
files.sort()
|
||||||
|
|
||||||
|
for path in files:
|
||||||
|
parsed = read_markdown(path)
|
||||||
|
if not parsed:
|
||||||
|
continue
|
||||||
|
fm = normalize_frontmatter(parsed.frontmatter)
|
||||||
|
try:
|
||||||
|
validate_required_frontmatter(fm)
|
||||||
|
except Exception as e:
|
||||||
|
print(json.dumps({"path": path, "error": f"invalid frontmatter: {e}"}))
|
||||||
|
continue
|
||||||
|
|
||||||
|
if args.note_id and fm.get("id") != args.note_id:
|
||||||
|
continue
|
||||||
|
|
||||||
|
# Note-Payload exakt so, wie der Importer ihn baut (types.yaml maßgeblich)
|
||||||
|
note_pl = make_note_payload(parsed,
|
||||||
|
vault_root=root,
|
||||||
|
hash_mode="body",
|
||||||
|
hash_normalize="canonical",
|
||||||
|
hash_source="parsed",
|
||||||
|
file_path=path)
|
||||||
|
|
||||||
|
body_text = getattr(parsed, "body", "") or ""
|
||||||
|
chunks = assemble_chunks(fm["id"], body_text, fm.get("type","concept"))
|
||||||
|
|
||||||
|
chunk_note = {
|
||||||
|
"frontmatter": fm,
|
||||||
|
"id": fm.get("id"),
|
||||||
|
"type": fm.get("type"),
|
||||||
|
"title": fm.get("title"),
|
||||||
|
"path": note_pl.get("path") or path,
|
||||||
|
"note_id": note_pl.get("note_id"),
|
||||||
|
"tags": fm.get("tags"),
|
||||||
|
}
|
||||||
|
# make_chunk_payloads bestimmt Werte ebenfalls aus types.yaml (Frontmatter wird ignoriert)
|
||||||
|
chunk_pls = make_chunk_payloads(
|
||||||
|
chunk_note,
|
||||||
|
note_pl["path"],
|
||||||
|
chunks,
|
||||||
|
note_text=body_text,
|
||||||
|
types_cfg=None, # Loader aus Datei; kein Override von außen
|
||||||
|
file_path=path,
|
||||||
|
)
|
||||||
|
|
||||||
|
out = {
|
||||||
|
"note_id": note_pl.get("note_id") or fm.get("id"),
|
||||||
|
"title": fm.get("title"),
|
||||||
|
"type": fm.get("type"),
|
||||||
|
"note_payload": {
|
||||||
|
"retriever_weight": note_pl.get("retriever_weight"),
|
||||||
|
"chunk_profile": note_pl.get("chunk_profile")
|
||||||
|
},
|
||||||
|
"chunks_summary": {
|
||||||
|
"count": len(chunk_pls),
|
||||||
|
"first": [
|
||||||
|
{k: chunk_pls[i].get(k) for k in ("chunk_id","index","ord","retriever_weight","chunk_profile","neighbors_prev","neighbors_next")}
|
||||||
|
for i in range(min(3, len(chunk_pls)))
|
||||||
|
]
|
||||||
|
},
|
||||||
|
"path": note_pl.get("path")
|
||||||
|
}
|
||||||
|
|
||||||
|
if args.with_edges:
|
||||||
|
edges = build_edges_for_note(
|
||||||
|
note_id=note_pl.get("note_id") or fm.get("id"),
|
||||||
|
chunk_payloads=chunk_pls,
|
||||||
|
note_level_refs=note_pl.get("references") or [],
|
||||||
|
include_note_scope_refs=False,
|
||||||
|
)
|
||||||
|
kinds = {}
|
||||||
|
for e in edges:
|
||||||
|
k = (e.get("relation") or e.get("kind") or "edge")
|
||||||
|
kinds[k] = kinds.get(k, 0) + 1
|
||||||
|
out["edges_summary"] = {"total": len(edges), "by_kind": kinds}
|
||||||
|
|
||||||
|
print(json.dumps(out, ensure_ascii=False))
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
+29
-6
@@ -2,15 +2,18 @@
|
|||||||
# -*- coding: utf-8 -*-
|
# -*- coding: utf-8 -*-
|
||||||
"""
|
"""
|
||||||
Name: scripts/reset_qdrant.py
|
Name: scripts/reset_qdrant.py
|
||||||
Version: v1.1.1 (2025-09-05)
|
Version: v1.2.0 (2025-11-11)
|
||||||
Kurzbeschreibung:
|
Kurzbeschreibung:
|
||||||
Sicheres Zurücksetzen der Qdrant-Collections für EIN Projektpräfix. Das Skript
|
Sicheres Zurücksetzen der Qdrant-Collections für EIN Projektpräfix. Das Skript
|
||||||
ermittelt zunächst die tatsächlich betroffenen Collections und zeigt eine
|
ermittelt zunächst die tatsächlich betroffenen Collections und zeigt eine
|
||||||
Übersicht an. Anschließend wird der User um Bestätigung gebeten (interaktive
|
Übersicht an. Anschließend wird der User um Bestätigung gebeten (interaktive
|
||||||
Abfrage), bevor eine der beiden Aktionen ausgeführt wird:
|
Abfrage), bevor eine der Aktionen ausgeführt wird:
|
||||||
|
|
||||||
- wipe: Löscht die Collections komplett und legt sie gemäß Projekt-Defaults neu an
|
- wipe: Löscht die Collections komplett und legt sie gemäß Projekt-Defaults neu an.
|
||||||
- truncate: Löscht nur alle Points (Inhalte), behält die Collection-Settings
|
**Neu**: Danach werden *immer* die Payload-Indizes & Schema-Ergänzungen
|
||||||
|
über ensure_payload_indexes() idempotent eingerichtet (falls nicht mit --no-indexes deaktiviert).
|
||||||
|
- truncate: Löscht nur alle Points (Inhalte), behält die Collection-Settings.
|
||||||
|
**Neu**: Optional (Default) werden im Anschluss die Payload-Indizes geprüft/ergänzt.
|
||||||
|
|
||||||
Aufruf (aus Projekt-Root, im venv):
|
Aufruf (aus Projekt-Root, im venv):
|
||||||
python3 -m scripts.reset_qdrant --mode wipe [--prefix PREFIX] [--yes] [--dry-run]
|
python3 -m scripts.reset_qdrant --mode wipe [--prefix PREFIX] [--yes] [--dry-run]
|
||||||
@@ -21,9 +24,11 @@ Parameter:
|
|||||||
--prefix Collection-Prefix (Default: env COLLECTION_PREFIX oder 'mindnet')
|
--prefix Collection-Prefix (Default: env COLLECTION_PREFIX oder 'mindnet')
|
||||||
--yes Keine Rückfrage, direkt ausführen (CI/CD geeignet)
|
--yes Keine Rückfrage, direkt ausführen (CI/CD geeignet)
|
||||||
--dry-run Nur anzeigen, was passieren würde; nichts ändern
|
--dry-run Nur anzeigen, was passieren würde; nichts ändern
|
||||||
|
--no-indexes Überspringt den Schritt ensure_payload_indexes() (Standard: Indizes/Schema werden geprüft/ergänzt)
|
||||||
|
|
||||||
Umgebungsvariablen (optional):
|
Umgebungsvariablen (optional):
|
||||||
QDRANT_URL, QDRANT_API_KEY, COLLECTION_PREFIX, VECTOR_DIM (Default 384)
|
QDRANT_URL, QDRANT_API_KEY, COLLECTION_PREFIX, VECTOR_DIM (Default 384)
|
||||||
|
(Zusätzliche ENV für Named Vectors etc. werden innerhalb ensure_collections/ensure_payload_indexes berücksichtigt.)
|
||||||
|
|
||||||
Sicherheitsmerkmale:
|
Sicherheitsmerkmale:
|
||||||
- Betrachtet ausschließlich Collections des angegebenen Präfixes.
|
- Betrachtet ausschließlich Collections des angegebenen Präfixes.
|
||||||
@@ -34,6 +39,8 @@ Exitcodes:
|
|||||||
0 = OK, 1 = abgebrochen/keine Aktion, 2 = Verbindungs-/Konfigurationsfehler
|
0 = OK, 1 = abgebrochen/keine Aktion, 2 = Verbindungs-/Konfigurationsfehler
|
||||||
|
|
||||||
Changelog:
|
Changelog:
|
||||||
|
v1.2.0: ensure_payload_indexes() nach wipe/truncate standardmäßig ausführen (idempotent); --no-indexes Flag ergänzt.
|
||||||
|
v1.1.1: Stabilisierung & Preview (2025-09-05).
|
||||||
v1.1.0: Interaktive Bestätigung, --yes/--dry-run hinzugefügt, Preview der betroffenen Collections.
|
v1.1.0: Interaktive Bestätigung, --yes/--dry-run hinzugefügt, Preview der betroffenen Collections.
|
||||||
v1.0.0: Wipe/Truncate ohne Bestätigungsabfrage.
|
v1.0.0: Wipe/Truncate ohne Bestätigungsabfrage.
|
||||||
"""
|
"""
|
||||||
@@ -46,7 +53,13 @@ from typing import List
|
|||||||
from qdrant_client import QdrantClient
|
from qdrant_client import QdrantClient
|
||||||
from qdrant_client.http import models as rest
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
from app.core.qdrant import QdrantConfig, get_client, ensure_collections, collection_names
|
from app.core.qdrant import (
|
||||||
|
QdrantConfig,
|
||||||
|
get_client,
|
||||||
|
ensure_collections,
|
||||||
|
ensure_payload_indexes,
|
||||||
|
collection_names,
|
||||||
|
)
|
||||||
|
|
||||||
|
|
||||||
def resolve_existing_collections(client: QdrantClient, prefix: str) -> List[str]:
|
def resolve_existing_collections(client: QdrantClient, prefix: str) -> List[str]:
|
||||||
@@ -111,12 +124,13 @@ def wipe_collections(client: QdrantClient, all_col_names: List[str], existing: L
|
|||||||
|
|
||||||
|
|
||||||
def main():
|
def main():
|
||||||
ap = argparse.ArgumentParser(description="Wipe oder truncate mindnet-Collections in Qdrant (mit Bestätigung).")
|
ap = argparse.ArgumentParser(description="Wipe oder truncate mindnet-Collections in Qdrant (mit Bestätigung & Index-Setup).")
|
||||||
ap.add_argument("--mode", choices=["wipe", "truncate"], required=True,
|
ap.add_argument("--mode", choices=["wipe", "truncate"], required=True,
|
||||||
help="wipe = Collections löschen & neu anlegen; truncate = nur Inhalte löschen")
|
help="wipe = Collections löschen & neu anlegen; truncate = nur Inhalte löschen")
|
||||||
ap.add_argument("--prefix", help="Collection-Prefix (Default: env COLLECTION_PREFIX oder 'mindnet')")
|
ap.add_argument("--prefix", help="Collection-Prefix (Default: env COLLECTION_PREFIX oder 'mindnet')")
|
||||||
ap.add_argument("--yes", action="store_true", help="Ohne Rückfrage ausführen (CI/CD)")
|
ap.add_argument("--yes", action="store_true", help="Ohne Rückfrage ausführen (CI/CD)")
|
||||||
ap.add_argument("--dry-run", action="store_true", help="Nur anzeigen, was passieren würde; nichts ändern")
|
ap.add_argument("--dry-run", action="store_true", help="Nur anzeigen, was passieren würde; nichts ändern")
|
||||||
|
ap.add_argument("--no-indexes", action="store_true", help="Überspringt ensure_payload_indexes()")
|
||||||
args = ap.parse_args()
|
args = ap.parse_args()
|
||||||
|
|
||||||
# Qdrant-Konfiguration
|
# Qdrant-Konfiguration
|
||||||
@@ -155,13 +169,22 @@ def main():
|
|||||||
if args.mode == "wipe":
|
if args.mode == "wipe":
|
||||||
wipe_collections(client, all_col_names, existing)
|
wipe_collections(client, all_col_names, existing)
|
||||||
ensure_collections(client, cfg.prefix, cfg.dim)
|
ensure_collections(client, cfg.prefix, cfg.dim)
|
||||||
|
if not args.no_indexes:
|
||||||
|
ensure_payload_indexes(client, cfg.prefix)
|
||||||
print(f"Wiped & recreated (Prefix={cfg.prefix}): {all_col_names}")
|
print(f"Wiped & recreated (Prefix={cfg.prefix}): {all_col_names}")
|
||||||
|
if not args.no_indexes:
|
||||||
|
print("Payload-Indizes & Schema-Ergänzungen geprüft/ergänzt (ensure_payload_indexes).")
|
||||||
else:
|
else:
|
||||||
if not existing:
|
if not existing:
|
||||||
print("Keine existierenden Collections zum Truncaten gefunden. Beende ohne Aktion.")
|
print("Keine existierenden Collections zum Truncaten gefunden. Beende ohne Aktion.")
|
||||||
sys.exit(0)
|
sys.exit(0)
|
||||||
delete_all_points(client, existing)
|
delete_all_points(client, existing)
|
||||||
|
if not args.no_indexes:
|
||||||
|
# Auch nach truncate sicherstellen, dass neue/fehlende Indizes ergänzt werden
|
||||||
|
ensure_payload_indexes(client, cfg.prefix)
|
||||||
print(f"Truncated (deleted all points in): {existing}")
|
print(f"Truncated (deleted all points in): {existing}")
|
||||||
|
if not args.no_indexes:
|
||||||
|
print("Payload-Indizes & Schema-Ergänzungen geprüft/ergänzt (ensure_payload_indexes).")
|
||||||
|
|
||||||
|
|
||||||
if __name__ == "__main__":
|
if __name__ == "__main__":
|
||||||
|
|||||||
@@ -0,0 +1,109 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
scripts/wp04_smoketest.py — E2E-Schnelltest der WP-04 Endpunkte
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
- Holt exemplarisch einen Vektor aus {prefix}_chunks (falls verfügbar),
|
||||||
|
- ruft POST /query mit diesem Vektor auf,
|
||||||
|
- ruft GET /graph/<note_id> für die Top-Note auf,
|
||||||
|
- druckt Kurzresultate auf STDOUT.
|
||||||
|
|
||||||
|
Kompatibilität:
|
||||||
|
Python 3.12+, requests, qdrant-client
|
||||||
|
Version:
|
||||||
|
0.1.0 (Erstanlage)
|
||||||
|
Stand:
|
||||||
|
2025-10-07
|
||||||
|
Bezug:
|
||||||
|
WP-04 /query & /graph
|
||||||
|
Nutzung:
|
||||||
|
export QDRANT_URL="http://localhost:6333"
|
||||||
|
export MINDNET_PREFIX="mindnet"
|
||||||
|
python3 scripts/wp04_smoketest.py --api http://localhost:8000
|
||||||
|
Änderungsverlauf:
|
||||||
|
0.1.0 (2025-10-07) – Erstanlage.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
import os
|
||||||
|
import sys
|
||||||
|
import json
|
||||||
|
import argparse
|
||||||
|
import requests
|
||||||
|
from qdrant_client import QdrantClient
|
||||||
|
|
||||||
|
|
||||||
|
def get_any_chunk_vector(client: QdrantClient, prefix: str):
|
||||||
|
"""Holt eine beliebige Chunk-Vector/Note-ID-Kombi aus Qdrant (falls vorhanden)."""
|
||||||
|
col = f"{prefix}_chunks"
|
||||||
|
pts, _ = client.scroll(collection_name=col, limit=1, with_vectors=True, with_payload=True)
|
||||||
|
if not pts:
|
||||||
|
return None, None, None
|
||||||
|
p = pts[0]
|
||||||
|
vec = p.vector
|
||||||
|
payload = p.payload or {}
|
||||||
|
node_id = str(p.id)
|
||||||
|
note_id = payload.get("note_id")
|
||||||
|
return vec, node_id, note_id
|
||||||
|
|
||||||
|
|
||||||
|
def run(api_base: str, qdrant_url: str, prefix: str) -> int:
|
||||||
|
print(f"[i] API: {api_base}")
|
||||||
|
print(f"[i] Qdrant: {qdrant_url}")
|
||||||
|
client = QdrantClient(url=qdrant_url)
|
||||||
|
|
||||||
|
vec, node_id, note_id = get_any_chunk_vector(client, prefix)
|
||||||
|
if vec is None:
|
||||||
|
print("[!] Keine Chunks mit Vektoren gefunden. Bitte Import (WP-03) prüfen.")
|
||||||
|
return 2
|
||||||
|
|
||||||
|
print(f"[i] Beispiel-Chunk-ID: {node_id}, Note-ID: {note_id}")
|
||||||
|
print("[i] Rufe /query (hybrid) mit Beispielvektor auf ...")
|
||||||
|
|
||||||
|
q_payload = {
|
||||||
|
"mode": "hybrid",
|
||||||
|
"query_vector": vec, # 384d
|
||||||
|
"top_k": 5,
|
||||||
|
"expand": {"depth": 1, "edge_types": ["references", "belongs_to", "prev", "next"]},
|
||||||
|
}
|
||||||
|
r = requests.post(f"{api_base.rstrip('/')}/query", json=q_payload, timeout=60)
|
||||||
|
print(f"[i] /query Status: {r.status_code}")
|
||||||
|
if r.status_code != 200:
|
||||||
|
print(r.text)
|
||||||
|
return 3
|
||||||
|
|
||||||
|
data = r.json()
|
||||||
|
hits = data.get("results", [])
|
||||||
|
print(f"[i] Treffer: {len(hits)}")
|
||||||
|
for i, h in enumerate(hits, 1):
|
||||||
|
print(f" {i:02d}. node_id={h['node_id']} note_id={h.get('note_id')} total={h['total_score']:.3f}")
|
||||||
|
|
||||||
|
# Graph-Test (wenn Note-ID vorhanden)
|
||||||
|
gid = note_id or (hits[0].get("note_id") if hits else None)
|
||||||
|
if gid:
|
||||||
|
print(f"[i] Rufe /graph/{gid} ...")
|
||||||
|
r2 = requests.get(f"{api_base.rstrip('/')}/graph/{gid}?depth=1", timeout=60)
|
||||||
|
print(f"[i] /graph Status: {r2.status_code}")
|
||||||
|
if r2.status_code == 200:
|
||||||
|
g = r2.json()
|
||||||
|
print(f" Nodes: {len(g.get('nodes', []))}, Edges: {len(g.get('edges', []))}")
|
||||||
|
else:
|
||||||
|
print(r2.text)
|
||||||
|
|
||||||
|
print("[✔] Smoke-Test abgeschlossen.")
|
||||||
|
return 0
|
||||||
|
|
||||||
|
|
||||||
|
def main():
|
||||||
|
ap = argparse.ArgumentParser()
|
||||||
|
ap.add_argument("--api", default="http://localhost:8000", help="Basis-URL der FastAPI.")
|
||||||
|
args = ap.parse_args()
|
||||||
|
|
||||||
|
qdrant_url = os.getenv("QDRANT_URL", "http://127.0.0.1:6333")
|
||||||
|
prefix = os.getenv("MINDNET_PREFIX", "mindnet")
|
||||||
|
sys.exit(run(args.api, qdrant_url, prefix))
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,116 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
tests/assert_payload_schema.py (compat v1.1)
|
||||||
|
|
||||||
|
Prüft, ob die erwarteten Payload-Indizes (payload_schema) auf den drei Collections vorhanden sind.
|
||||||
|
Kompatibel mit älteren qdrant-client Versionen (ohne with_payload_schema im Wrapper).
|
||||||
|
|
||||||
|
Collections & Pflichtfelder:
|
||||||
|
- mindnet_notes : note_id, type, title, updated, tags
|
||||||
|
- mindnet_chunks : note_id, chunk_id, index, type, tags
|
||||||
|
- mindnet_edges : note_id, kind, scope, source_id, target_id, chunk_id
|
||||||
|
|
||||||
|
Nutzung:
|
||||||
|
python3 -m tests.assert_payload_schema
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import json
|
||||||
|
import os
|
||||||
|
import sys
|
||||||
|
import urllib.error
|
||||||
|
import urllib.request
|
||||||
|
from typing import Any, Dict, List
|
||||||
|
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client, collection_names
|
||||||
|
|
||||||
|
REQUIRED = {
|
||||||
|
"notes": ["note_id", "type", "title", "updated", "tags"],
|
||||||
|
"chunks": ["note_id", "chunk_id", "index", "type", "tags"],
|
||||||
|
"edges": ["note_id", "kind", "scope", "source_id", "target_id", "chunk_id"],
|
||||||
|
}
|
||||||
|
|
||||||
|
def _safe_model_dump(obj: Any) -> Dict[str, Any]:
|
||||||
|
if hasattr(obj, "model_dump"):
|
||||||
|
return obj.model_dump()
|
||||||
|
if hasattr(obj, "dict"):
|
||||||
|
return obj.dict()
|
||||||
|
return obj if isinstance(obj, dict) else {}
|
||||||
|
|
||||||
|
def _cfg_base_url(cfg) -> str:
|
||||||
|
if getattr(cfg, "url", None):
|
||||||
|
return cfg.url.rstrip('/')
|
||||||
|
host = getattr(cfg, "host", None) or os.getenv("QDRANT_HOST") or "127.0.0.1"
|
||||||
|
port = getattr(cfg, "port", None) or os.getenv("QDRANT_PORT") or "6333"
|
||||||
|
return f"http://{host}:{port}"
|
||||||
|
|
||||||
|
def _http_get(url: str, api_key: str | None) -> Dict[str, Any]:
|
||||||
|
req = urllib.request.Request(url, method="GET")
|
||||||
|
if api_key:
|
||||||
|
req.add_header("api-key", api_key)
|
||||||
|
req.add_header("Authorization", f"Bearer {api_key}")
|
||||||
|
req.add_header("Accept", "application/json")
|
||||||
|
with urllib.request.urlopen(req, timeout=30) as resp:
|
||||||
|
data = resp.read()
|
||||||
|
return json.loads(data.decode("utf-8"))
|
||||||
|
|
||||||
|
def get_collection_payload_schema(client, cfg, name: str) -> Dict[str, Any] | None:
|
||||||
|
# 1) OpenAPI client mit Flag
|
||||||
|
try:
|
||||||
|
oc = getattr(client, "openapi_client", None)
|
||||||
|
if oc is not None and hasattr(oc, "collections_api"):
|
||||||
|
api = oc.collections_api
|
||||||
|
info = api.get_collection(collection_name=name, with_payload_schema=True)
|
||||||
|
d = _safe_model_dump(info)
|
||||||
|
return (d.get("result") or {}).get("payload_schema")
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
# 2) Wrapper (manche Versionen liefern Schema auch ohne Flag)
|
||||||
|
try:
|
||||||
|
info = client.get_collection(collection_name=name)
|
||||||
|
d = _safe_model_dump(info)
|
||||||
|
ps = (d.get("result") or {}).get("payload_schema")
|
||||||
|
if ps is not None:
|
||||||
|
return ps
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
# 3) Direkter HTTP-Call
|
||||||
|
try:
|
||||||
|
base = _cfg_base_url(cfg)
|
||||||
|
url = f"{base}/collections/{name}?with_payload_schema=true"
|
||||||
|
raw = _http_get(url, getattr(cfg, "api_key", None))
|
||||||
|
return (raw.get("result") or {}).get("payload_schema")
|
||||||
|
except Exception:
|
||||||
|
return None
|
||||||
|
|
||||||
|
def ensure_fields(schema: Dict[str, dict] | None, required: List[str]) -> Dict[str, bool]:
|
||||||
|
ks = set((schema or {}).keys())
|
||||||
|
return {k: (k in ks) for k in required}
|
||||||
|
|
||||||
|
def main():
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
client = get_client(cfg)
|
||||||
|
notes, chunks, edges = collection_names(cfg.prefix)
|
||||||
|
names = {"notes": notes, "chunks": chunks, "edges": edges}
|
||||||
|
|
||||||
|
report = {}
|
||||||
|
ok_all = True
|
||||||
|
for kind, col in names.items():
|
||||||
|
sch = get_collection_payload_schema(client, cfg, col)
|
||||||
|
checks = ensure_fields(sch, REQUIRED[kind])
|
||||||
|
ok = all(checks.values())
|
||||||
|
ok_all = ok_all and ok
|
||||||
|
report[kind] = {
|
||||||
|
"collection": col,
|
||||||
|
"ok": ok,
|
||||||
|
"missing": [k for k,v in checks.items() if not v],
|
||||||
|
"present": [k for k,v in checks.items() if v],
|
||||||
|
}
|
||||||
|
|
||||||
|
print(json.dumps({"prefix": cfg.prefix, "ok": ok_all, "report": report}, ensure_ascii=False, indent=2))
|
||||||
|
if not ok_all:
|
||||||
|
sys.exit(1)
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,190 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
check_types_registry_edges.py
|
||||||
|
--------------------------------------------------
|
||||||
|
Prüft, ob die in config/types.yaml hinterlegten Default-Kanten
|
||||||
|
pro Note-Typ tatsächlich in der Qdrant *edges*-Collection auftauchen.
|
||||||
|
"""
|
||||||
|
import os, sys, json
|
||||||
|
from pathlib import Path
|
||||||
|
from typing import Dict, List, Optional, Tuple, Set
|
||||||
|
from dataclasses import dataclass, asdict
|
||||||
|
|
||||||
|
try:
|
||||||
|
import yaml # PyYAML
|
||||||
|
except Exception as e:
|
||||||
|
print(json.dumps({"error": f"PyYAML not installed: {e}"})); sys.exit(2)
|
||||||
|
|
||||||
|
try:
|
||||||
|
from qdrant_client import QdrantClient
|
||||||
|
from qdrant_client.http import models as rest # noqa: F401
|
||||||
|
except Exception as e:
|
||||||
|
print(json.dumps({"error": f"qdrant-client not installed: {e}"})); sys.exit(2)
|
||||||
|
|
||||||
|
@dataclass
|
||||||
|
class Cfg:
|
||||||
|
url: str
|
||||||
|
api_key: Optional[str]
|
||||||
|
prefix: str
|
||||||
|
notes: str
|
||||||
|
edges: str
|
||||||
|
types_file: Path
|
||||||
|
|
||||||
|
def _env_prefix() -> Optional[str]:
|
||||||
|
for k in ("COLLECTION_PREFIX", "MINDNET_PREFIX"):
|
||||||
|
v = os.environ.get(k, "").strip()
|
||||||
|
if v:
|
||||||
|
return v
|
||||||
|
return None
|
||||||
|
|
||||||
|
def _load_types_yaml(path: Path) -> Dict:
|
||||||
|
if not path.exists():
|
||||||
|
print(json.dumps({"warn": f"types.yaml fehlt: {path}. Fallback: keine Vorgaben."}))
|
||||||
|
return {}
|
||||||
|
try:
|
||||||
|
with path.open("r", encoding="utf-8") as f:
|
||||||
|
data = yaml.safe_load(f) or {}
|
||||||
|
return data if isinstance(data, dict) else {}
|
||||||
|
except Exception as e:
|
||||||
|
print(json.dumps({"warn": f"types.yaml defekt ({path}): {e}. Fallback: keine Vorgaben."}))
|
||||||
|
return {}
|
||||||
|
|
||||||
|
def _cfg_from_env(argv_prefix: Optional[str]) -> Cfg:
|
||||||
|
url = os.environ.get("QDRANT_URL", "http://127.0.0.1:6333").strip()
|
||||||
|
api_key = os.environ.get("QDRANT_API_KEY", "").strip() or None
|
||||||
|
prefix = (argv_prefix or _env_prefix() or "mindnet").strip()
|
||||||
|
notes = f"{prefix}_notes"
|
||||||
|
edges = f"{prefix}_edges"
|
||||||
|
types_path = Path(os.environ.get("TYPES_FILE", "config/types.yaml")).resolve()
|
||||||
|
return Cfg(url=url, api_key=api_key, prefix=prefix, notes=notes, edges=edges, types_file=types_path)
|
||||||
|
|
||||||
|
def _mk_client(cfg: Cfg) -> QdrantClient:
|
||||||
|
return QdrantClient(url=cfg.url, api_key=cfg.api_key, timeout=30.0)
|
||||||
|
|
||||||
|
def _scroll_all_notes(client: QdrantClient, notes_col: str) -> Dict[str, Dict]:
|
||||||
|
out = {}
|
||||||
|
offset = None
|
||||||
|
while True:
|
||||||
|
points, offset = client.scroll(
|
||||||
|
collection_name=notes_col,
|
||||||
|
scroll_filter=None, limit=256, offset=offset,
|
||||||
|
with_payload=True, with_vectors=False,
|
||||||
|
)
|
||||||
|
if not points:
|
||||||
|
break
|
||||||
|
for p in points:
|
||||||
|
payload = p.payload or {}
|
||||||
|
nid = payload.get("note_id") or payload.get("id") or payload.get("uid") or payload.get("slug")
|
||||||
|
if not nid:
|
||||||
|
nid = str(p.id)
|
||||||
|
out[str(nid)] = payload
|
||||||
|
return out
|
||||||
|
|
||||||
|
def _scroll_all_edges(client: QdrantClient, edges_col: str) -> List[Tuple[str, dict]]:
|
||||||
|
out = []
|
||||||
|
offset = None
|
||||||
|
while True:
|
||||||
|
points, offset = client.scroll(
|
||||||
|
collection_name=edges_col,
|
||||||
|
scroll_filter=None, limit=256, offset=offset,
|
||||||
|
with_payload=True, with_vectors=False,
|
||||||
|
)
|
||||||
|
if not points:
|
||||||
|
break
|
||||||
|
for p in points:
|
||||||
|
out.append((str(p.id), p.payload or {}))
|
||||||
|
return out
|
||||||
|
|
||||||
|
def _guess_src_note_id(ed_pl: dict) -> Optional[str]:
|
||||||
|
for k in ("src_note_id", "note_id", "src_id", "src"):
|
||||||
|
nid = ed_pl.get(k)
|
||||||
|
if nid:
|
||||||
|
return str(nid)
|
||||||
|
for k in ("src_ref", "from"):
|
||||||
|
nid = ed_pl.get(k)
|
||||||
|
if isinstance(nid, dict):
|
||||||
|
for kk in ("note_id", "id"):
|
||||||
|
if nid.get(kk):
|
||||||
|
return str(nid[kk])
|
||||||
|
elif isinstance(nid, str):
|
||||||
|
return nid
|
||||||
|
return None
|
||||||
|
|
||||||
|
def _edge_type(ed_pl: dict) -> Optional[str]:
|
||||||
|
for k in ("edge_type", "type", "rel", "relation"):
|
||||||
|
if ed_pl.get(k):
|
||||||
|
return str(ed_pl[k])
|
||||||
|
return None
|
||||||
|
|
||||||
|
def _cfg_to_jsonable(cfg: Cfg) -> dict:
|
||||||
|
d = asdict(cfg)
|
||||||
|
d["types_file"] = str(d.get("types_file"))
|
||||||
|
return d
|
||||||
|
|
||||||
|
def main(argv=None):
|
||||||
|
import argparse
|
||||||
|
ap = argparse.ArgumentParser()
|
||||||
|
ap.add_argument("--prefix", help="Collection-Prefix (mindnet, etc.)")
|
||||||
|
args = ap.parse_args(argv)
|
||||||
|
|
||||||
|
cfg = _cfg_from_env(args.prefix)
|
||||||
|
print(json.dumps({"cfg": _cfg_to_jsonable(cfg)}, ensure_ascii=False))
|
||||||
|
|
||||||
|
tr = _load_types_yaml(cfg.types_file)
|
||||||
|
types_def = (tr.get("types") if isinstance(tr, dict) else {}) or {}
|
||||||
|
print(json.dumps({"types_defined": list(types_def.keys())}, ensure_ascii=False))
|
||||||
|
|
||||||
|
client = _mk_client(cfg)
|
||||||
|
|
||||||
|
notes = _scroll_all_notes(client, cfg.notes)
|
||||||
|
print(json.dumps({"notes_count": len(notes)}, ensure_ascii=False))
|
||||||
|
|
||||||
|
edges = _scroll_all_edges(client, cfg.edges)
|
||||||
|
print(json.dumps({"edges_count": len(edges)}, ensure_ascii=False))
|
||||||
|
|
||||||
|
note_type = {}
|
||||||
|
for nid, pl in notes.items():
|
||||||
|
t = pl.get("type") or "concept"
|
||||||
|
note_type[str(nid)] = str(t)
|
||||||
|
|
||||||
|
seen = {}
|
||||||
|
counts = {}
|
||||||
|
|
||||||
|
for edge_pid, ed_pl in edges:
|
||||||
|
et = _edge_type(ed_pl)
|
||||||
|
if not et:
|
||||||
|
continue
|
||||||
|
src_nid = _guess_src_note_id(ed_pl)
|
||||||
|
if not src_nid:
|
||||||
|
continue
|
||||||
|
t = note_type.get(src_nid)
|
||||||
|
if not t:
|
||||||
|
continue
|
||||||
|
seen.setdefault(t, set()).add(et)
|
||||||
|
counts.setdefault(t, {}).setdefault(et, 0)
|
||||||
|
counts[t][et] += 1
|
||||||
|
|
||||||
|
expected = {}
|
||||||
|
for tname, tdef in types_def.items():
|
||||||
|
eddefs = (tdef or {}).get("edge_defaults") or []
|
||||||
|
expected[tname] = set([str(x) for x in eddefs if x])
|
||||||
|
|
||||||
|
for tname, exp in expected.items():
|
||||||
|
obs = seen.get(tname, set())
|
||||||
|
missing = sorted(list(exp - obs))
|
||||||
|
extra = sorted(list(obs - exp))
|
||||||
|
print(json.dumps({
|
||||||
|
"type": tname,
|
||||||
|
"expected_defaults": sorted(list(exp)),
|
||||||
|
"observed": sorted(list(obs)),
|
||||||
|
"missing": missing,
|
||||||
|
"extra": extra,
|
||||||
|
"counts": counts.get(tname, {}),
|
||||||
|
}, ensure_ascii=False))
|
||||||
|
|
||||||
|
if not expected:
|
||||||
|
print(json.dumps({"warn": "Keine Typ-Defaults in types.yaml gefunden (edge_defaults leer?)."}))
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,93 @@
|
|||||||
|
|
||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
import os, json, argparse, random
|
||||||
|
from typing import Any, Dict, List, Tuple, Optional
|
||||||
|
from qdrant_client import QdrantClient
|
||||||
|
|
||||||
|
def _get_prefix(explicit: Optional[str]) -> str:
|
||||||
|
return (explicit or os.environ.get("COLLECTION_PREFIX") or os.environ.get("MINDNET_PREFIX") or "mindnet").strip()
|
||||||
|
|
||||||
|
def _names(prefix: str) -> Dict[str,str]:
|
||||||
|
return {
|
||||||
|
"notes": f"{prefix}_notes",
|
||||||
|
"chunks": f"{prefix}_chunks",
|
||||||
|
"edges": f"{prefix}_edges",
|
||||||
|
}
|
||||||
|
|
||||||
|
def _scroll(client: QdrantClient, collection: str, *, limit=5, with_payload=True):
|
||||||
|
# Support both modern and older SDKs (filter vs scroll_filter)
|
||||||
|
try:
|
||||||
|
return client.scroll(collection_name=collection, limit=limit, with_payload=with_payload)
|
||||||
|
except TypeError as e:
|
||||||
|
# older signatures might accept scroll_filter kw, but if we passed none it's fine
|
||||||
|
return client.scroll(collection_name=collection, limit=limit, with_payload=with_payload)
|
||||||
|
|
||||||
|
def main():
|
||||||
|
ap = argparse.ArgumentParser()
|
||||||
|
ap.add_argument("--host", default=os.environ.get("QDRANT_HOST", "127.0.0.1"))
|
||||||
|
ap.add_argument("--port", default=int(os.environ.get("QDRANT_PORT", "6333")))
|
||||||
|
ap.add_argument("--prefix", default=None)
|
||||||
|
ap.add_argument("--limit", type=int, default=5)
|
||||||
|
ap.add_argument("--note-id", default=None)
|
||||||
|
args = ap.parse_args()
|
||||||
|
|
||||||
|
prefix = _get_prefix(args.prefix)
|
||||||
|
names = _names(prefix)
|
||||||
|
client = QdrantClient(host=args.host, port=args.port, prefer_grpc=False)
|
||||||
|
|
||||||
|
# Notes sample
|
||||||
|
try:
|
||||||
|
pts, _ = _scroll(client, names["notes"], limit=args.limit, with_payload=True)
|
||||||
|
except Exception as e:
|
||||||
|
print(json.dumps({"error": f"notes scroll failed: {type(e).__name__}: {e}", "collection": names["notes"]}))
|
||||||
|
return
|
||||||
|
|
||||||
|
sample = []
|
||||||
|
for p in pts:
|
||||||
|
pl = (p.payload or {})
|
||||||
|
sample.append({
|
||||||
|
"point_id": str(p.id),
|
||||||
|
"note_id": pl.get("note_id"),
|
||||||
|
"id": pl.get("id"),
|
||||||
|
"title": pl.get("title"),
|
||||||
|
"type": pl.get("type"),
|
||||||
|
"retriever_weight": pl.get("retriever_weight"),
|
||||||
|
"chunk_profile": pl.get("chunk_profile"),
|
||||||
|
})
|
||||||
|
print(json.dumps({"notes_sample": sample}, ensure_ascii=False))
|
||||||
|
|
||||||
|
# Pick a note to fetch chunks
|
||||||
|
target_note_id = args.note_id or None
|
||||||
|
if not target_note_id:
|
||||||
|
for s in sample:
|
||||||
|
if s.get("note_id"):
|
||||||
|
target_note_id = s["note_id"]
|
||||||
|
break
|
||||||
|
|
||||||
|
if not target_note_id:
|
||||||
|
print(json.dumps({"warn": "no note_id available to fetch chunks"}))
|
||||||
|
return
|
||||||
|
|
||||||
|
# Chunks for target note
|
||||||
|
try:
|
||||||
|
# pull a few chunks and filter client-side by note_id
|
||||||
|
pts, _ = _scroll(client, names["chunks"], limit=50, with_payload=True)
|
||||||
|
except Exception as e:
|
||||||
|
print(json.dumps({"error": f"chunks scroll failed: {type(e).__name__}: {e}", "collection": names["chunks"]}))
|
||||||
|
return
|
||||||
|
|
||||||
|
chunks = [{
|
||||||
|
"id": str(p.id),
|
||||||
|
"chunk_id": (p.payload or {}).get("chunk_id"),
|
||||||
|
"note_id": (p.payload or {}).get("note_id"),
|
||||||
|
"type": (p.payload or {}).get("type"),
|
||||||
|
"retriever_weight": (p.payload or {}).get("retriever_weight"),
|
||||||
|
"window_len": len((p.payload or {}).get("window") or ""),
|
||||||
|
"text_len": len((p.payload or {}).get("text") or ""),
|
||||||
|
} for p in pts if (p.payload or {}).get("note_id") == target_note_id][:5]
|
||||||
|
|
||||||
|
print(json.dumps({"target_note_id": target_note_id, "chunk_samples": chunks}, ensure_ascii=False))
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,6 @@
|
|||||||
|
# Sorgt dafür, dass 'app' als Paket importierbar ist,
|
||||||
|
# wenn pytest aus dem Repo-Root oder aus 'tests/' gestartet wird.
|
||||||
|
import os, sys
|
||||||
|
ROOT = os.path.abspath(os.path.join(os.path.dirname(__file__), ".."))
|
||||||
|
if ROOT not in sys.path:
|
||||||
|
sys.path.insert(0, ROOT)
|
||||||
@@ -0,0 +1,104 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
Kleine Diagnosehilfe für mindnet_edges.
|
||||||
|
|
||||||
|
Nutzung (aus Projektwurzel):
|
||||||
|
|
||||||
|
(.venv) python tests/diag_edges_for_note.py \
|
||||||
|
--note-id 20251130-relshow-embeddings-101
|
||||||
|
|
||||||
|
Optional:
|
||||||
|
|
||||||
|
--prefix mindnet
|
||||||
|
|
||||||
|
Ziel:
|
||||||
|
- Zeigt alle Edges aus der Collection <prefix>_edges,
|
||||||
|
die sich auf die angegebene note_id beziehen:
|
||||||
|
* note_id == NOTE
|
||||||
|
* oder source_id == NOTE
|
||||||
|
* oder target_id == NOTE
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import argparse
|
||||||
|
import os
|
||||||
|
import sys
|
||||||
|
from typing import List
|
||||||
|
|
||||||
|
# Projekt-Root (Ordner mit "app/") zum sys.path hinzufügen,
|
||||||
|
# damit "import app.core.qdrant" funktioniert, auch wenn das Script
|
||||||
|
# direkt aus tests/ gestartet wird.
|
||||||
|
THIS_DIR = os.path.dirname(os.path.abspath(__file__))
|
||||||
|
PROJECT_ROOT = os.path.dirname(THIS_DIR)
|
||||||
|
if PROJECT_ROOT not in sys.path:
|
||||||
|
sys.path.insert(0, PROJECT_ROOT)
|
||||||
|
|
||||||
|
from qdrant_client.http import models as rest # type: ignore
|
||||||
|
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client, collection_names
|
||||||
|
|
||||||
|
|
||||||
|
def fetch_edges_for_note(note_id: str, prefix: str | None, limit: int = 512) -> List[dict]:
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
if prefix:
|
||||||
|
cfg.prefix = prefix
|
||||||
|
|
||||||
|
client = get_client(cfg)
|
||||||
|
_, _, edges_col = collection_names(cfg.prefix)
|
||||||
|
|
||||||
|
conditions = []
|
||||||
|
for field in ("note_id", "source_id", "target_id"):
|
||||||
|
conditions.append(
|
||||||
|
rest.FieldCondition(
|
||||||
|
key=field,
|
||||||
|
match=rest.MatchValue(value=str(note_id)),
|
||||||
|
)
|
||||||
|
)
|
||||||
|
|
||||||
|
flt = rest.Filter(
|
||||||
|
should=conditions,
|
||||||
|
)
|
||||||
|
|
||||||
|
points, _ = client.scroll(
|
||||||
|
collection_name=edges_col,
|
||||||
|
scroll_filter=flt,
|
||||||
|
with_payload=True,
|
||||||
|
with_vectors=False,
|
||||||
|
limit=limit,
|
||||||
|
)
|
||||||
|
|
||||||
|
out: List[dict] = []
|
||||||
|
for p in points or []:
|
||||||
|
pl = dict(p.payload or {})
|
||||||
|
if pl:
|
||||||
|
out.append(pl)
|
||||||
|
return out
|
||||||
|
|
||||||
|
|
||||||
|
def main() -> None:
|
||||||
|
parser = argparse.ArgumentParser()
|
||||||
|
parser.add_argument("--note-id", required=True, help="Note-ID, z. B. 20251130-relshow-embeddings-101")
|
||||||
|
parser.add_argument("--prefix", default=None, help="Qdrant-Prefix (Default: aus ENV/QdrantConfig)")
|
||||||
|
args = parser.parse_args()
|
||||||
|
|
||||||
|
note_id = args.note_id
|
||||||
|
prefix = args.prefix
|
||||||
|
|
||||||
|
edges = fetch_edges_for_note(note_id, prefix)
|
||||||
|
print(f"Prefix: {prefix or '(aus ENV)'}")
|
||||||
|
print(f"Note-ID: {note_id}")
|
||||||
|
print(f"Gefundene Edges: {len(edges)}")
|
||||||
|
print("-" * 60)
|
||||||
|
|
||||||
|
for i, e in enumerate(edges, start=1):
|
||||||
|
print(f"[{i}] kind={e.get('kind')} confidence={e.get('confidence')}")
|
||||||
|
print(f" note_id = {e.get('note_id')}")
|
||||||
|
print(f" source_id= {e.get('source_id')}")
|
||||||
|
print(f" target_id= {e.get('target_id')}")
|
||||||
|
print()
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,56 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
scripts/diag_payload_indexes.py (v1.1)
|
||||||
|
|
||||||
|
Zeigt payload_schema (Indizes) je Collection.
|
||||||
|
WICHTIG: Einige Qdrant-Versionen liefern payload_schema nur, wenn
|
||||||
|
`with_payload_schema=true` gesetzt wird. Daher setzen wir das Flag explizit.
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
import argparse, json
|
||||||
|
from qdrant_client.http import models as rest
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client, collection_names
|
||||||
|
|
||||||
|
def compact_schema(ps: dict | None) -> dict:
|
||||||
|
if not isinstance(ps, dict):
|
||||||
|
return {}
|
||||||
|
out = {}
|
||||||
|
for k, v in ps.items():
|
||||||
|
if isinstance(v, dict) and "type" in v:
|
||||||
|
out[k] = v["type"]
|
||||||
|
else:
|
||||||
|
out[k] = v
|
||||||
|
return out
|
||||||
|
|
||||||
|
def main():
|
||||||
|
ap = argparse.ArgumentParser()
|
||||||
|
ap.add_argument("--raw", action="store_true")
|
||||||
|
args = ap.parse_args()
|
||||||
|
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
client = get_client(cfg)
|
||||||
|
notes, chunks, edges = collection_names(cfg.prefix)
|
||||||
|
|
||||||
|
cols = [notes, chunks, edges]
|
||||||
|
result = []
|
||||||
|
for name in cols:
|
||||||
|
info = client.get_collection(collection_name=name, with_payload_schema=True)
|
||||||
|
d = info.model_dump() if hasattr(info, "model_dump") else (info.dict() if hasattr(info, "dict") else info)
|
||||||
|
payload_schema = (d.get("result") or {}).get("payload_schema")
|
||||||
|
vectors = (d.get("result") or {}).get("vectors")
|
||||||
|
if isinstance(vectors, dict) and "config" in vectors:
|
||||||
|
vectors = vectors.get("config")
|
||||||
|
if args.raw:
|
||||||
|
result.append({"collection": name, "raw": d})
|
||||||
|
else:
|
||||||
|
result.append({
|
||||||
|
"name": name,
|
||||||
|
"vectors": vectors,
|
||||||
|
"payload_schema": compact_schema(payload_schema),
|
||||||
|
"segments_count": (d.get("result") or {}).get("segments_count"),
|
||||||
|
})
|
||||||
|
print(json.dumps({"prefix": cfg.prefix, "collections": result}, ensure_ascii=False, indent=2))
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,120 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
Diagnose für den Graph-Adapter (Subgraph) in mindnet.
|
||||||
|
|
||||||
|
Nutzung (aus Projektwurzel):
|
||||||
|
|
||||||
|
(.venv) python tests/diag_subgraph_for_note.py \
|
||||||
|
--note-id 20251130-relshow-embeddings-101 \
|
||||||
|
--depth 1
|
||||||
|
|
||||||
|
Optional:
|
||||||
|
|
||||||
|
--prefix mindnet
|
||||||
|
--edge-type references --edge-type related_to ...
|
||||||
|
|
||||||
|
Ziel:
|
||||||
|
- Ruft app.core.graph_adapter.expand(...) für eine gegebene note_id auf.
|
||||||
|
- Gibt edge_bonus und centrality_bonus für diese note_id aus.
|
||||||
|
- Zeigt zusätzlich einige Nachbarn und deren Boni.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import argparse
|
||||||
|
import os
|
||||||
|
import sys
|
||||||
|
from typing import List, Optional, Tuple
|
||||||
|
|
||||||
|
# sys.path anpassen, damit "import app...." aus tests/ funktioniert
|
||||||
|
THIS_DIR = os.path.dirname(os.path.abspath(__file__))
|
||||||
|
PROJECT_ROOT = os.path.dirname(THIS_DIR)
|
||||||
|
if PROJECT_ROOT not in sys.path:
|
||||||
|
sys.path.insert(0, PROJECT_ROOT)
|
||||||
|
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client # type: ignore
|
||||||
|
import app.core.graph_adapter as ga # type: ignore
|
||||||
|
|
||||||
|
|
||||||
|
def build_subgraph_for_note(
|
||||||
|
note_id: str,
|
||||||
|
prefix: Optional[str],
|
||||||
|
depth: int,
|
||||||
|
edge_types: Optional[List[str]] = None,
|
||||||
|
) -> Tuple[ga.Subgraph, str]:
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
if prefix:
|
||||||
|
cfg.prefix = prefix
|
||||||
|
|
||||||
|
client = get_client(cfg)
|
||||||
|
sg = ga.expand(client, cfg.prefix, [note_id], depth=depth, edge_types=edge_types)
|
||||||
|
return sg, cfg.prefix
|
||||||
|
|
||||||
|
|
||||||
|
def main() -> None:
|
||||||
|
parser = argparse.ArgumentParser()
|
||||||
|
parser.add_argument(
|
||||||
|
"--note-id",
|
||||||
|
required=True,
|
||||||
|
help="Note-ID, z. B. 20251130-relshow-embeddings-101",
|
||||||
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--depth",
|
||||||
|
type=int,
|
||||||
|
default=1,
|
||||||
|
help="Expansionstiefe (Default: 1)",
|
||||||
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--prefix",
|
||||||
|
default=None,
|
||||||
|
help="Qdrant-Prefix (Default: aus ENV/QdrantConfig)",
|
||||||
|
)
|
||||||
|
parser.add_argument(
|
||||||
|
"--edge-type",
|
||||||
|
action="append",
|
||||||
|
default=None,
|
||||||
|
help="Edge-Typ-Filter (kann mehrfach angegeben werden), z. B. --edge-type references",
|
||||||
|
)
|
||||||
|
args = parser.parse_args()
|
||||||
|
|
||||||
|
note_id = args.note_id
|
||||||
|
depth = max(0, int(args.depth))
|
||||||
|
prefix = args.prefix
|
||||||
|
edge_types = args.edge_type
|
||||||
|
|
||||||
|
sg, eff_prefix = build_subgraph_for_note(note_id, prefix, depth, edge_types=edge_types)
|
||||||
|
|
||||||
|
print(f"Prefix: {eff_prefix}")
|
||||||
|
print(f"Note-ID (Seed): {note_id}")
|
||||||
|
print(f"Depth: {depth}")
|
||||||
|
print(f"Edge-Types-Filter: {edge_types or '(keiner)'}")
|
||||||
|
print("-" * 60)
|
||||||
|
|
||||||
|
# Boni für die Seed-Note
|
||||||
|
eb = sg.edge_bonus(note_id)
|
||||||
|
cb = sg.centrality_bonus(note_id)
|
||||||
|
print(f"edge_bonus({note_id}) = {eb:.4f}")
|
||||||
|
print(f"centrality_bonus({note_id}) = {cb:.4f}")
|
||||||
|
print("-" * 60)
|
||||||
|
|
||||||
|
# Ein paar weitere Knoten anzeigen (falls vorhanden)
|
||||||
|
print("Beispiele weiterer Knoten mit Boni (max. 10):")
|
||||||
|
printed = 0
|
||||||
|
for node, edges in sg.adj.items():
|
||||||
|
if node == note_id:
|
||||||
|
continue
|
||||||
|
if printed >= 10:
|
||||||
|
break
|
||||||
|
eb2 = sg.edge_bonus(node)
|
||||||
|
cb2 = sg.centrality_bonus(node)
|
||||||
|
print(f"- node={node}")
|
||||||
|
print(f" edge_bonus={eb2:.4f} centrality={cb2:.4f}")
|
||||||
|
printed += 1
|
||||||
|
|
||||||
|
if printed == 0:
|
||||||
|
print("(keine weiteren Knoten im Subgraph registriert)")
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,57 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
dump_edges_payload_sample.py
|
||||||
|
-----------------------------------
|
||||||
|
Zeigt einige Beispiel-Payloads aus der {prefix}_edges Collection,
|
||||||
|
um Feldnamen (edge_type, src_note_id, src_id, etc.) zu verifizieren.
|
||||||
|
|
||||||
|
Nutzung:
|
||||||
|
python3 tests/dump_edges_payload_sample.py --prefix mindnet --n 10
|
||||||
|
"""
|
||||||
|
|
||||||
|
import os
|
||||||
|
import sys
|
||||||
|
import json
|
||||||
|
from pathlib import Path
|
||||||
|
|
||||||
|
try:
|
||||||
|
from qdrant_client import QdrantClient
|
||||||
|
except Exception as e:
|
||||||
|
print(json.dumps({"error": f"qdrant-client not installed: {e}"}))
|
||||||
|
sys.exit(2)
|
||||||
|
|
||||||
|
|
||||||
|
def main(argv=None):
|
||||||
|
import argparse
|
||||||
|
ap = argparse.ArgumentParser()
|
||||||
|
ap.add_argument("--prefix", default=os.environ.get("COLLECTION_PREFIX") or os.environ.get("MINDNET_PREFIX") or "mindnet")
|
||||||
|
ap.add_argument("--n", type=int, default=10)
|
||||||
|
args = ap.parse_args(argv)
|
||||||
|
|
||||||
|
url = os.environ.get("QDRANT_URL", "http://127.0.0.1:6333").strip()
|
||||||
|
api_key = os.environ.get("QDRANT_API_KEY") or None
|
||||||
|
edges = f"{args.prefix}_edges"
|
||||||
|
|
||||||
|
client = QdrantClient(url=url, api_key=api_key, timeout=30)
|
||||||
|
|
||||||
|
left = args.n
|
||||||
|
offset = None
|
||||||
|
while left > 0:
|
||||||
|
limit = min(left, 256)
|
||||||
|
pts, offset = client.scroll(
|
||||||
|
collection_name=edges,
|
||||||
|
scroll_filter=None,
|
||||||
|
limit=limit,
|
||||||
|
offset=offset,
|
||||||
|
with_payload=True,
|
||||||
|
with_vectors=False,
|
||||||
|
)
|
||||||
|
if not pts:
|
||||||
|
break
|
||||||
|
for p in pts:
|
||||||
|
print(json.dumps({"point_id": str(p.id), "payload_keys": list((p.payload or {}).keys()), "payload": p.payload}, ensure_ascii=False))
|
||||||
|
left -= len(pts)
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,89 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
tests/ensure_indexes_and_show.py (compat v1.0.1)
|
||||||
|
|
||||||
|
Erzwingt ensure_payload_indexes(...) und zeigt danach payload_schema je Collection.
|
||||||
|
Kompatibel mit qdrant-client Versionen ohne 'with_payload_schema' im Wrapper.
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import json
|
||||||
|
import os
|
||||||
|
import urllib.request
|
||||||
|
import urllib.error
|
||||||
|
from typing import Any, Dict
|
||||||
|
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client, ensure_payload_indexes, collection_names
|
||||||
|
|
||||||
|
|
||||||
|
def _safe_model_dump(obj: Any) -> Dict[str, Any]:
|
||||||
|
if hasattr(obj, "model_dump"):
|
||||||
|
return obj.model_dump()
|
||||||
|
if hasattr(obj, "dict"):
|
||||||
|
return obj.dict()
|
||||||
|
return obj if isinstance(obj, dict) else {}
|
||||||
|
|
||||||
|
|
||||||
|
def _cfg_base_url(cfg) -> str:
|
||||||
|
if getattr(cfg, "url", None):
|
||||||
|
return cfg.url.rstrip("/")
|
||||||
|
host = getattr(cfg, "host", None) or os.getenv("QDRANT_HOST") or "127.0.0.1"
|
||||||
|
port = getattr(cfg, "port", None) or os.getenv("QDRANT_PORT") or "6333"
|
||||||
|
return f"http://{host}:{port}"
|
||||||
|
|
||||||
|
|
||||||
|
def _http_get(url: str, api_key: str | None) -> Dict[str, Any]:
|
||||||
|
req = urllib.request.Request(url, method="GET")
|
||||||
|
if api_key:
|
||||||
|
req.add_header("api-key", api_key)
|
||||||
|
req.add_header("Authorization", f"Bearer {api_key}")
|
||||||
|
req.add_header("Accept", "application/json")
|
||||||
|
with urllib.request.urlopen(req, timeout=30) as resp:
|
||||||
|
data = resp.read()
|
||||||
|
return json.loads(data.decode("utf-8"))
|
||||||
|
|
||||||
|
|
||||||
|
def get_collection_payload_schema(client, cfg, name: str) -> Dict[str, Any] | None:
|
||||||
|
# Strategy 1: OpenAPI client with flag
|
||||||
|
try:
|
||||||
|
oc = getattr(client, "openapi_client", None)
|
||||||
|
if oc is not None and hasattr(oc, "collections_api"):
|
||||||
|
api = oc.collections_api
|
||||||
|
info = api.get_collection(collection_name=name, with_payload_schema=True)
|
||||||
|
d = _safe_model_dump(info)
|
||||||
|
return (d.get("result") or {}).get("payload_schema")
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
# Strategy 2: wrapper
|
||||||
|
try:
|
||||||
|
info = client.get_collection(collection_name=name)
|
||||||
|
d = _safe_model_dump(info)
|
||||||
|
ps = (d.get("result") or {}).get("payload_schema")
|
||||||
|
if ps is not None:
|
||||||
|
return ps
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
# Strategy 3: direct HTTP
|
||||||
|
try:
|
||||||
|
base = _cfg_base_url(cfg)
|
||||||
|
url = f"{base}/collections/{name}?with_payload_schema=true"
|
||||||
|
raw = _http_get(url, getattr(cfg, "api_key", None))
|
||||||
|
return (raw.get("result") or {}).get("payload_schema")
|
||||||
|
except Exception:
|
||||||
|
return None
|
||||||
|
|
||||||
|
|
||||||
|
def main():
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
client = get_client(cfg)
|
||||||
|
ensure_payload_indexes(client, cfg.prefix)
|
||||||
|
notes, chunks, edges = collection_names(cfg.prefix)
|
||||||
|
res = {}
|
||||||
|
for name in (notes, chunks, edges):
|
||||||
|
res[name] = get_collection_payload_schema(client, cfg, name)
|
||||||
|
print(json.dumps(res, ensure_ascii=False, indent=2))
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,122 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
scripts/test_retriever_smoke.py - einfacher Smoke-Test für den mindnet-Retriever
|
||||||
|
|
||||||
|
Zweck:
|
||||||
|
- Startet eine Query gegen die laufende FastAPI-Instanz
|
||||||
|
- Prüft, ob der /query-Endpunkt antwortet und sinnvolle Treffer liefert
|
||||||
|
- Gibt Top-K-Ergebnisse inkl. Scores auf stdout aus
|
||||||
|
|
||||||
|
Verwendung:
|
||||||
|
1) Stelle sicher, dass der mindnet-Service läuft, z. B.:
|
||||||
|
uvicorn app.main:create_app --factory --reload
|
||||||
|
|
||||||
|
2) Führe dieses Skript aus:
|
||||||
|
python scripts/test_retriever_smoke.py --query "karate" --mode hybrid
|
||||||
|
|
||||||
|
3) Optional:
|
||||||
|
python scripts/test_retriever_smoke.py --query "embeddings" --mode semantic --top-k 5
|
||||||
|
|
||||||
|
Hinweis:
|
||||||
|
- Standard-URL ist http://127.0.0.1:8000
|
||||||
|
- Endpoint ist /query (bestehender Router), der QueryRequest erwartet
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import argparse
|
||||||
|
import json
|
||||||
|
import sys
|
||||||
|
from typing import Any, Dict
|
||||||
|
|
||||||
|
import requests
|
||||||
|
|
||||||
|
|
||||||
|
def _build_payload(args: argparse.Namespace) -> Dict[str, Any]:
|
||||||
|
payload: Dict[str, Any] = {
|
||||||
|
"mode": args.mode,
|
||||||
|
"query": args.query,
|
||||||
|
"top_k": args.top_k,
|
||||||
|
}
|
||||||
|
if args.expand_depth is not None and args.expand_depth > 0:
|
||||||
|
expand: Dict[str, Any] = {"depth": args.expand_depth}
|
||||||
|
if args.expand_edge_types:
|
||||||
|
expand["edge_types"] = args.expand_edge_types
|
||||||
|
payload["expand"] = expand
|
||||||
|
return payload
|
||||||
|
|
||||||
|
|
||||||
|
def main(argv: list[str] | None = None) -> int:
|
||||||
|
parser = argparse.ArgumentParser(description="Smoke-Test für mindnet-Retriever (/query)")
|
||||||
|
parser.add_argument("--url", default="http://127.0.0.1:8000/query", help="Basis-URL des Query-Endpunkts")
|
||||||
|
parser.add_argument("--query", required=True, help="Text-Query für den Retriever")
|
||||||
|
parser.add_argument("--mode", choices=["semantic", "hybrid"], default="hybrid", help="Retrieval-Modus")
|
||||||
|
parser.add_argument("--top-k", type=int, default=5, help="Anzahl der gewünschten Treffer")
|
||||||
|
parser.add_argument("--expand-depth", type=int, default=0, help="Edge-Expansionstiefe (nur hybrid)")
|
||||||
|
parser.add_argument(
|
||||||
|
"--expand-edge-types",
|
||||||
|
nargs="*",
|
||||||
|
default=None,
|
||||||
|
help="Liste von Edge-Typen für die Expansion (z. B. references depends_on)",
|
||||||
|
)
|
||||||
|
|
||||||
|
args = parser.parse_args(argv)
|
||||||
|
|
||||||
|
payload = _build_payload(args)
|
||||||
|
|
||||||
|
try:
|
||||||
|
resp = requests.post(args.url, json=payload, timeout=10)
|
||||||
|
except Exception as exc: # pragma: no cover - Netzwerkfehler
|
||||||
|
print(f"[ERROR] HTTP-Request fehlgeschlagen: {exc}", file=sys.stderr)
|
||||||
|
return 1
|
||||||
|
|
||||||
|
if resp.status_code != 200:
|
||||||
|
print(f"[ERROR] Unerwarteter Statuscode: {resp.status_code}", file=sys.stderr)
|
||||||
|
print(resp.text, file=sys.stderr)
|
||||||
|
return 1
|
||||||
|
|
||||||
|
try:
|
||||||
|
data = resp.json()
|
||||||
|
except Exception as exc: # pragma: no cover - JSON-Fehler
|
||||||
|
print(f"[ERROR] Antwort ist kein gültiges JSON: {exc}", file=sys.stderr)
|
||||||
|
print(resp.text, file=sys.stderr)
|
||||||
|
return 1
|
||||||
|
|
||||||
|
print("=== mindnet Retriever Smoke-Test ===")
|
||||||
|
print(f"URL: {args.url}")
|
||||||
|
print(f"Mode: {args.mode}")
|
||||||
|
print(f"Query: {args.query!r}")
|
||||||
|
print(f"Top-K: {args.top_k}")
|
||||||
|
print()
|
||||||
|
|
||||||
|
results = data.get("results") or []
|
||||||
|
used_mode = data.get("used_mode")
|
||||||
|
latency_ms = data.get("latency_ms")
|
||||||
|
|
||||||
|
print(f"used_mode = {used_mode}, latency = {latency_ms} ms")
|
||||||
|
print(f"Treffer insgesamt: {len(results)}")
|
||||||
|
print()
|
||||||
|
|
||||||
|
for i, hit in enumerate(results, start=1):
|
||||||
|
note_id = hit.get("note_id")
|
||||||
|
node_id = hit.get("node_id")
|
||||||
|
total = hit.get("total_score")
|
||||||
|
sem = hit.get("semantic_score")
|
||||||
|
edge_bonus = hit.get("edge_bonus")
|
||||||
|
cent_bonus = hit.get("centrality_bonus")
|
||||||
|
src = hit.get("source") or {}
|
||||||
|
path = src.get("path")
|
||||||
|
section = src.get("section")
|
||||||
|
|
||||||
|
print(f"[{i}] note_id={note_id} node_id={node_id}")
|
||||||
|
print(f" total={total:.4f} (semantic={sem:.4f} edge={edge_bonus:.4f} centrality={cent_bonus:.4f})")
|
||||||
|
if path or section:
|
||||||
|
print(f" source: {path or '-'} :: {section or '-'}")
|
||||||
|
print()
|
||||||
|
|
||||||
|
return 0
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__": # pragma: no cover
|
||||||
|
raise SystemExit(main())
|
||||||
@@ -0,0 +1,71 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
scripts/show_edges_for_note.py
|
||||||
|
|
||||||
|
Zeigt Kanten einer Note (gefiltert nach kind/scope) in einer kompakten Form.
|
||||||
|
Aufrufbeispiele:
|
||||||
|
python3 -m scripts.show_edges_for_note --note-id 20251110-ollama-llm-9f0a12 --kinds references,next,prev --limit 10
|
||||||
|
python3 -m scripts.show_edges_for_note --title "Qdrant Vektordatenbank" --scope note
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
import argparse, json, os, sys
|
||||||
|
from typing import Dict, Any, List, Tuple
|
||||||
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client
|
||||||
|
|
||||||
|
def collections(prefix: str) -> Tuple[str, str, str]:
|
||||||
|
return f"{prefix}_notes", f"{prefix}_chunks", f"{prefix}_edges"
|
||||||
|
|
||||||
|
def find_note_by_title(client, prefix: str, title: str) -> str | None:
|
||||||
|
notes_col, _, _ = collections(prefix)
|
||||||
|
f = rest.Filter(must=[rest.FieldCondition(key="title", match=rest.MatchText(text=title))])
|
||||||
|
pts, _ = client.scroll(collection_name=notes_col, scroll_filter=f, with_payload=True, with_vectors=False, limit=1)
|
||||||
|
if not pts:
|
||||||
|
return None
|
||||||
|
return pts[0].payload.get("note_id")
|
||||||
|
|
||||||
|
def fetch_edges_for_note(client, prefix: str, note_id: str, kinds: List[str] | None, scope: str | None, limit: int) -> List[Dict[str, Any]]:
|
||||||
|
_, _, edges_col = collections(prefix)
|
||||||
|
must = [rest.FieldCondition(key="note_id", match=rest.MatchValue(value=note_id))]
|
||||||
|
if scope:
|
||||||
|
must.append(rest.FieldCondition(key="scope", match=rest.MatchValue(value=scope)))
|
||||||
|
if kinds:
|
||||||
|
must.append(rest.FieldCondition(key="kind", match=rest.MatchAny(any=kinds)))
|
||||||
|
f = rest.Filter(must=must)
|
||||||
|
pts, _ = client.scroll(collection_name=edges_col, scroll_filter=f, with_payload=True, with_vectors=False, limit=limit)
|
||||||
|
return [p.payload for p in pts]
|
||||||
|
|
||||||
|
def main():
|
||||||
|
ap = argparse.ArgumentParser()
|
||||||
|
ap.add_argument("--note-id")
|
||||||
|
ap.add_argument("--title")
|
||||||
|
ap.add_argument("--kinds", help="CSV: references,next,prev,belongs_to,backlink")
|
||||||
|
ap.add_argument("--scope", choices=["note","chunk"])
|
||||||
|
ap.add_argument("--limit", type=int, default=25)
|
||||||
|
args = ap.parse_args()
|
||||||
|
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
client = get_client(cfg)
|
||||||
|
|
||||||
|
nid = args.note_id
|
||||||
|
if not nid and args.title:
|
||||||
|
nid = find_note_by_title(client, cfg.prefix, args.title)
|
||||||
|
if not nid:
|
||||||
|
print(json.dumps({"error": f"note with title '{args.title}' not found"}))
|
||||||
|
sys.exit(2)
|
||||||
|
if not nid:
|
||||||
|
print(json.dumps({"error": "please provide --note-id or --title"}))
|
||||||
|
sys.exit(2)
|
||||||
|
|
||||||
|
kinds = None
|
||||||
|
if args.kinds:
|
||||||
|
kinds = [s.strip() for s in args.kinds.split(",") if s.strip()]
|
||||||
|
|
||||||
|
edges = fetch_edges_for_note(client, cfg.prefix, nid, kinds, args.scope, args.limit)
|
||||||
|
print(json.dumps({"note_id": nid, "count": len(edges), "edges": edges}, ensure_ascii=False, indent=2))
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,116 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
tests/test_edges_all.py
|
||||||
|
Ein knapper Integrationscheck:
|
||||||
|
- Es existieren Notes/Chunks/Edges
|
||||||
|
- Inline-Edges (rule_id startswith "inline:") werden erkannt
|
||||||
|
- Callout-Edges (rule_id == "callout:edge") werden erkannt
|
||||||
|
- Defaults (rule_id startswith "edge_defaults:") werden erkannt
|
||||||
|
- Strukturkanten stimmen (belongs_to == chunks; next == prev == chunks-1)
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import json
|
||||||
|
from collections import Counter, defaultdict
|
||||||
|
from typing import Dict, Any, List, Tuple
|
||||||
|
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client
|
||||||
|
|
||||||
|
|
||||||
|
def _scroll_all(client, collection: str):
|
||||||
|
pts_all = []
|
||||||
|
offset = None
|
||||||
|
while True:
|
||||||
|
pts, offset = client.scroll(
|
||||||
|
collection_name=collection,
|
||||||
|
with_payload=True,
|
||||||
|
with_vectors=False,
|
||||||
|
limit=2048,
|
||||||
|
offset=offset,
|
||||||
|
)
|
||||||
|
pts_all.extend(pts or [])
|
||||||
|
if offset is None:
|
||||||
|
break
|
||||||
|
return pts_all
|
||||||
|
|
||||||
|
|
||||||
|
def _rule_group(rule_id: str) -> str:
|
||||||
|
if not rule_id:
|
||||||
|
return "unknown"
|
||||||
|
if rule_id == "callout:edge":
|
||||||
|
return "callout"
|
||||||
|
if rule_id.startswith("inline:"): # <—— wichtig für inline:rel
|
||||||
|
return "inline"
|
||||||
|
if rule_id.startswith("edge_defaults:"):
|
||||||
|
return "defaults"
|
||||||
|
if rule_id.startswith("explicit:"):
|
||||||
|
return "explicit"
|
||||||
|
if rule_id in ("structure:belongs_to", "structure:order"):
|
||||||
|
return "structure"
|
||||||
|
return "other"
|
||||||
|
|
||||||
|
|
||||||
|
def main() -> None:
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
client = get_client(cfg)
|
||||||
|
|
||||||
|
col_notes = f"{cfg.prefix}_notes"
|
||||||
|
col_chunks = f"{cfg.prefix}_chunks"
|
||||||
|
col_edges = f"{cfg.prefix}_edges"
|
||||||
|
|
||||||
|
notes_n = client.count(collection_name=col_notes, exact=True).count
|
||||||
|
chunks_pts = _scroll_all(client, col_chunks)
|
||||||
|
edges_pts = _scroll_all(client, col_edges)
|
||||||
|
|
||||||
|
ok = True
|
||||||
|
|
||||||
|
# Basisbedingungen
|
||||||
|
if notes_n == 0 or len(chunks_pts) == 0 or len(edges_pts) == 0:
|
||||||
|
ok = False
|
||||||
|
|
||||||
|
# Gruppen zählen
|
||||||
|
g = Counter(_rule_group((p.payload or {}).get("rule_id", "")) for p in edges_pts)
|
||||||
|
structure = g.get("structure", 0)
|
||||||
|
explicit = g.get("explicit", 0)
|
||||||
|
inline = g.get("inline", 0)
|
||||||
|
callout = g.get("callout", 0)
|
||||||
|
defaults = g.get("defaults", 0)
|
||||||
|
|
||||||
|
if structure == 0:
|
||||||
|
ok = False
|
||||||
|
# mindestens eine der expliziten Varianten vorhanden
|
||||||
|
if (explicit + inline + callout) == 0:
|
||||||
|
ok = False
|
||||||
|
# defaults dürfen 0 sein, wenn types.yaml keine edge_defaults liefert – daher nur Info
|
||||||
|
|
||||||
|
# per-note checks
|
||||||
|
chunks_by_note = Counter([p.payload.get("note_id") for p in chunks_pts if p.payload])
|
||||||
|
belongs = Counter(
|
||||||
|
(p.payload or {}).get("note_id")
|
||||||
|
for p in edges_pts
|
||||||
|
if (p.payload or {}).get("kind") == "belongs_to"
|
||||||
|
)
|
||||||
|
nxt = Counter(
|
||||||
|
(p.payload or {}).get("note_id")
|
||||||
|
for p in edges_pts
|
||||||
|
if (p.payload or {}).get("kind") == "next"
|
||||||
|
)
|
||||||
|
prv = Counter(
|
||||||
|
(p.payload or {}).get("note_id")
|
||||||
|
for p in edges_pts
|
||||||
|
if (p.payload or {}).get("kind") == "prev"
|
||||||
|
)
|
||||||
|
|
||||||
|
for n_id, c in chunks_by_note.items():
|
||||||
|
if belongs.get(n_id, 0) != c:
|
||||||
|
ok = False
|
||||||
|
if (nxt.get(n_id, 0) != max(c - 1, 0)) or (prv.get(n_id, 0) != max(c - 1, 0)):
|
||||||
|
ok = False
|
||||||
|
|
||||||
|
print(json.dumps({"ok": ok, "notes_checked": len(chunks_by_note)}, ensure_ascii=False))
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,25 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
tests/test_edges_defaults_smoke.py
|
||||||
|
Aggregiert Edges je Relation (kind) in Qdrant zur schnellen Sichtprüfung.
|
||||||
|
Zeigt, ob typenbasierte edge_defaults-Relationen (z. B. depends_on/related_to) auftauchen.
|
||||||
|
"""
|
||||||
|
from __future__ import annotations
|
||||||
|
from collections import Counter
|
||||||
|
import json
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client
|
||||||
|
|
||||||
|
def main():
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
cl = get_client(cfg)
|
||||||
|
col = f"{cfg.prefix}_edges"
|
||||||
|
pts, _ = cl.scroll(collection_name=col, with_payload=True, with_vectors=False, limit=10000)
|
||||||
|
by_rel = Counter()
|
||||||
|
for p in pts:
|
||||||
|
rel = p.payload.get("kind") or p.payload.get("relation") or "edge"
|
||||||
|
by_rel[rel] += 1
|
||||||
|
print(json.dumps({"prefix": cfg.prefix, "relations": dict(by_rel)}, ensure_ascii=False))
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,133 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import json
|
||||||
|
import os
|
||||||
|
from collections import Counter, defaultdict
|
||||||
|
|
||||||
|
from qdrant_client.http import models as rest
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client
|
||||||
|
|
||||||
|
|
||||||
|
def _rel(pl: dict) -> str:
|
||||||
|
return pl.get("relation") or pl.get("kind") or "edge"
|
||||||
|
|
||||||
|
|
||||||
|
def _scroll(client, col):
|
||||||
|
pts = []
|
||||||
|
next_page = None
|
||||||
|
while True:
|
||||||
|
res, next_page = client.scroll(
|
||||||
|
collection_name=col,
|
||||||
|
with_payload=True,
|
||||||
|
with_vectors=False,
|
||||||
|
limit=1024,
|
||||||
|
offset=next_page,
|
||||||
|
)
|
||||||
|
pts.extend(res)
|
||||||
|
if next_page is None:
|
||||||
|
break
|
||||||
|
return pts
|
||||||
|
|
||||||
|
|
||||||
|
def main():
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
client = get_client(cfg)
|
||||||
|
prefix = os.environ.get("COLLECTION_PREFIX", cfg.prefix)
|
||||||
|
|
||||||
|
cols = {
|
||||||
|
"notes": f"{prefix}_notes",
|
||||||
|
"chunks": f"{prefix}_chunks",
|
||||||
|
"edges": f"{prefix}_edges",
|
||||||
|
}
|
||||||
|
|
||||||
|
# Index: notes -> title/type
|
||||||
|
notes_meta = {}
|
||||||
|
for p in _scroll(client, cols["notes"]):
|
||||||
|
pl = p.payload or {}
|
||||||
|
nid = pl.get("note_id")
|
||||||
|
if nid:
|
||||||
|
notes_meta[nid] = {
|
||||||
|
"title": pl.get("title", ""),
|
||||||
|
"type": pl.get("type", ""),
|
||||||
|
}
|
||||||
|
|
||||||
|
# chunks je note
|
||||||
|
chunks_by_note = defaultdict(int)
|
||||||
|
for p in _scroll(client, cols["chunks"]):
|
||||||
|
pl = p.payload or {}
|
||||||
|
nid = pl.get("note_id")
|
||||||
|
if nid:
|
||||||
|
chunks_by_note[nid] += 1
|
||||||
|
|
||||||
|
# edges je note
|
||||||
|
edges_by_note = defaultdict(list)
|
||||||
|
edges_all = _scroll(client, cols["edges"])
|
||||||
|
for p in edges_all:
|
||||||
|
pl = p.payload or {}
|
||||||
|
nid = pl.get("note_id")
|
||||||
|
if nid:
|
||||||
|
edges_by_note[nid].append(pl)
|
||||||
|
|
||||||
|
# pro note ausgeben
|
||||||
|
summary_edges = Counter()
|
||||||
|
total_chunks = 0
|
||||||
|
for nid in sorted(notes_meta.keys()):
|
||||||
|
meta = notes_meta[nid]
|
||||||
|
chunks = chunks_by_note.get(nid, 0)
|
||||||
|
total_chunks += chunks
|
||||||
|
|
||||||
|
kinds = Counter(_rel(pl) for pl in edges_by_note[nid])
|
||||||
|
summary_edges.update(kinds)
|
||||||
|
|
||||||
|
row = {
|
||||||
|
"note_id": nid,
|
||||||
|
"title": meta["title"],
|
||||||
|
"type": meta["type"],
|
||||||
|
"chunks": chunks,
|
||||||
|
"edges_by_kind": dict(kinds),
|
||||||
|
"checks": {
|
||||||
|
"belongs_to_equals_chunks": (kinds.get("belongs_to", 0) == chunks),
|
||||||
|
"next_prev_match": (kinds.get("next", 0) == kinds.get("prev", 0) == max(0, chunks - 1)),
|
||||||
|
"no_duplicate_edges": _no_dupes(edges_by_note[nid]),
|
||||||
|
},
|
||||||
|
}
|
||||||
|
print(json.dumps(row, ensure_ascii=False))
|
||||||
|
|
||||||
|
# Gesamtsummary
|
||||||
|
total_notes = len(notes_meta)
|
||||||
|
out = {
|
||||||
|
"prefix": prefix,
|
||||||
|
"summary": {
|
||||||
|
"notes": total_notes,
|
||||||
|
"chunks": total_chunks,
|
||||||
|
"belongs_to": summary_edges.get("belongs_to", 0),
|
||||||
|
"next": summary_edges.get("next", 0),
|
||||||
|
"prev": summary_edges.get("prev", 0),
|
||||||
|
"refs_chunk": summary_edges.get("references", 0),
|
||||||
|
"refs_note": summary_edges.get("references_note", 0),
|
||||||
|
"backlink": summary_edges.get("backlink", 0),
|
||||||
|
"dup_edges": 0, # per-Note geprüft
|
||||||
|
},
|
||||||
|
}
|
||||||
|
print(json.dumps(out, ensure_ascii=False))
|
||||||
|
|
||||||
|
|
||||||
|
def _no_dupes(pls):
|
||||||
|
seen = set()
|
||||||
|
for pl in pls:
|
||||||
|
key = (
|
||||||
|
str(pl.get("source_id") or ""),
|
||||||
|
str(pl.get("target_id") or ""),
|
||||||
|
str(pl.get("relation") or pl.get("kind") or ""),
|
||||||
|
str(pl.get("rule_id") or ""),
|
||||||
|
)
|
||||||
|
if key in seen:
|
||||||
|
return False
|
||||||
|
seen.add(key)
|
||||||
|
return True
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,74 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
"""
|
||||||
|
scripts/test_edges_smoke_fast.py — Zählung über /count (sehr schnell)
|
||||||
|
|
||||||
|
Verwendet Qdrant 'count' API je Note/Kind (anstatt scroll), dadurch sehr schnelle Ausführung.
|
||||||
|
Optionen:
|
||||||
|
--max-notes N : prüft nur die ersten N Notizen
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
import argparse, json
|
||||||
|
from typing import Dict, Any, List, Tuple
|
||||||
|
from qdrant_client.http import models as rest
|
||||||
|
|
||||||
|
from app.core.qdrant import QdrantConfig, get_client
|
||||||
|
|
||||||
|
KINDS = ["belongs_to", "next", "prev", "references", "backlink"]
|
||||||
|
|
||||||
|
def collections(prefix: str) -> Tuple[str, str, str]:
|
||||||
|
return f"{prefix}_notes", f"{prefix}_chunks", f"{prefix}_edges"
|
||||||
|
|
||||||
|
def list_note_ids(client, notes_col: str, max_notes: int | None) -> List[Dict[str, Any]]:
|
||||||
|
pts, _ = client.scroll(collection_name=notes_col, with_payload=True, with_vectors=False, limit=max_notes or 1024)
|
||||||
|
out = []
|
||||||
|
for p in pts or []:
|
||||||
|
pl = p.payload or {}
|
||||||
|
nid = pl.get("note_id") or pl.get("id")
|
||||||
|
if nid:
|
||||||
|
out.append({"note_id": nid, "title": pl.get("title"), "type": pl.get("type")})
|
||||||
|
return out
|
||||||
|
|
||||||
|
def count_points(client, col: str, filt: rest.Filter) -> int:
|
||||||
|
res = client.count(collection_name=col, count_filter=filt, exact=True)
|
||||||
|
return int(getattr(res, "count", 0))
|
||||||
|
|
||||||
|
def main():
|
||||||
|
ap = argparse.ArgumentParser()
|
||||||
|
ap.add_argument("--max-notes", type=int)
|
||||||
|
args = ap.parse_args()
|
||||||
|
|
||||||
|
cfg = QdrantConfig.from_env()
|
||||||
|
client = get_client(cfg)
|
||||||
|
notes_col, chunks_col, edges_col = collections(cfg.prefix)
|
||||||
|
notes = list_note_ids(client, notes_col, args.max_notes)
|
||||||
|
|
||||||
|
summary = {"notes": 0, "chunks": 0, "edges": 0}
|
||||||
|
for n in notes:
|
||||||
|
nid = n["note_id"]
|
||||||
|
summary["notes"] += 1
|
||||||
|
|
||||||
|
filt_note = rest.Filter(must=[rest.FieldCondition(key="note_id", match=rest.MatchValue(value=nid))])
|
||||||
|
chunk_cnt = count_points(client, chunks_col, filt_note)
|
||||||
|
summary["chunks"] += chunk_cnt
|
||||||
|
|
||||||
|
# counts per kind (edges)
|
||||||
|
by_kind: Dict[str, int] = {}
|
||||||
|
for k in KINDS:
|
||||||
|
f = rest.Filter(must=[
|
||||||
|
rest.FieldCondition(key="note_id", match=rest.MatchValue(value=nid)),
|
||||||
|
rest.FieldCondition(key="kind", match=rest.MatchValue(value=k)),
|
||||||
|
])
|
||||||
|
c = count_points(client, edges_col, f)
|
||||||
|
if c:
|
||||||
|
by_kind[k] = c
|
||||||
|
|
||||||
|
summary["edges"] += sum(by_kind.values())
|
||||||
|
line = {"note_id": nid, "title": n.get("title"), "type": n.get("type"), "chunks": chunk_cnt, "edges_by_kind": by_kind}
|
||||||
|
print(json.dumps(line, ensure_ascii=False))
|
||||||
|
|
||||||
|
print(json.dumps({"prefix": cfg.prefix, "summary": summary}, ensure_ascii=False))
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,67 @@
|
|||||||
|
import argparse
|
||||||
|
import requests
|
||||||
|
import json
|
||||||
|
import sys
|
||||||
|
|
||||||
|
def main():
|
||||||
|
parser = argparse.ArgumentParser(description="Testet die Explanation-Funktion des Retrievers.")
|
||||||
|
parser.add_argument("--url", default="http://localhost:8002/query", help="URL zum Query Endpoint")
|
||||||
|
parser.add_argument("--query", default="mindnet", help="Suchbegriff")
|
||||||
|
args = parser.parse_args()
|
||||||
|
|
||||||
|
payload = {
|
||||||
|
"mode": "hybrid",
|
||||||
|
"query": args.query,
|
||||||
|
"top_k": 1,
|
||||||
|
"explain": True, # Das neue Flag aus WP-04b
|
||||||
|
"expand": {
|
||||||
|
"depth": 1,
|
||||||
|
"edge_types": ["references", "belongs_to", "depends_on", "related_to"]
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
print(f"--- Sende Request an {args.url} ---")
|
||||||
|
try:
|
||||||
|
r = requests.post(args.url, json=payload)
|
||||||
|
r.raise_for_status()
|
||||||
|
data = r.json()
|
||||||
|
except Exception as e:
|
||||||
|
print(f"FEHLER: {e}")
|
||||||
|
sys.exit(1)
|
||||||
|
|
||||||
|
hits = data.get("results", [])
|
||||||
|
if not hits:
|
||||||
|
print("Keine Treffer gefunden.")
|
||||||
|
return
|
||||||
|
|
||||||
|
top_hit = hits[0]
|
||||||
|
print(f"\nTop Treffer: {top_hit.get('node_id')}")
|
||||||
|
print(f"Total Score: {top_hit.get('total_score'):.4f}")
|
||||||
|
|
||||||
|
# Explanation prüfen
|
||||||
|
expl = top_hit.get("explanation")
|
||||||
|
if not expl:
|
||||||
|
print("\n[FAIL] Keine 'explanation' im Response erhalten!")
|
||||||
|
sys.exit(1)
|
||||||
|
|
||||||
|
print("\n--- EXPLANATION LAYER ---")
|
||||||
|
|
||||||
|
bd = expl.get("breakdown", {})
|
||||||
|
print(f"Breakdown:")
|
||||||
|
print(f" Semantic Contribution: {bd.get('semantic_contribution', 0):.4f}")
|
||||||
|
print(f" Edge Contribution: {bd.get('edge_contribution', 0):.4f}")
|
||||||
|
print(f" Centrality Contribution: {bd.get('centrality_contribution', 0):.4f}")
|
||||||
|
print(f" Typ-Gewicht: {bd.get('node_weight', 0):.2f}")
|
||||||
|
|
||||||
|
print("\nReasons:")
|
||||||
|
for reason in expl.get("reasons", []):
|
||||||
|
kind = reason.get("kind", "").upper()
|
||||||
|
msg = reason.get("message", "")
|
||||||
|
impact = reason.get("score_impact")
|
||||||
|
impact_str = f" ({impact:+.4f})" if impact is not None else ""
|
||||||
|
print(f" [{kind}] {msg}{impact_str}")
|
||||||
|
|
||||||
|
print("\n[SUCCESS] Explanation Layer antwortet korrekt.")
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
@@ -0,0 +1,20 @@
|
|||||||
|
from fastapi.testclient import TestClient
|
||||||
|
from app.main import create_app
|
||||||
|
import app.core.graph_adapter as ga
|
||||||
|
|
||||||
|
def _fake_get_edges_for_sources(client, prefix, source_ids, edge_types=None, limit=2048):
|
||||||
|
note_id = source_ids[0]
|
||||||
|
return [
|
||||||
|
{"source_id":note_id,"target_id":f"{note_id}#c1","kind":"references","weight":0.2},
|
||||||
|
{"source_id":note_id,"target_id":f"{note_id}#c2","kind":"belongs_to","weight":0.1},
|
||||||
|
]
|
||||||
|
|
||||||
|
def test_graph_neighbors(monkeypatch):
|
||||||
|
monkeypatch.setattr(ga, "get_edges_for_sources", _fake_get_edges_for_sources, raising=False)
|
||||||
|
app = create_app()
|
||||||
|
with TestClient(app) as c:
|
||||||
|
r = c.get("/graph/TEST-NOTE?depth=1")
|
||||||
|
assert r.status_code == 200
|
||||||
|
g = r.json()
|
||||||
|
assert g["center_note_id"] == "TEST-NOTE"
|
||||||
|
assert g["stats"]["edge_count"] == 2
|
||||||
@@ -0,0 +1,11 @@
|
|||||||
|
from fastapi.testclient import TestClient
|
||||||
|
from app.main import create_app
|
||||||
|
|
||||||
|
def test_healthz_ok():
|
||||||
|
app = create_app()
|
||||||
|
with TestClient(app) as c:
|
||||||
|
r = c.get("/healthz")
|
||||||
|
assert r.status_code == 200
|
||||||
|
body = r.json()
|
||||||
|
assert body["status"] == "ok"
|
||||||
|
assert "qdrant" in body and "prefix" in body
|
||||||
@@ -0,0 +1,39 @@
|
|||||||
|
from fastapi.testclient import TestClient
|
||||||
|
from app.main import create_app
|
||||||
|
import app.services.embeddings_client as ec
|
||||||
|
import app.core.qdrant_points as qp
|
||||||
|
import app.core.graph_adapter as ga
|
||||||
|
|
||||||
|
def _fake_embed_text(text: str):
|
||||||
|
# Liefert stabilen 384-d Vektor ohne echtes Modell
|
||||||
|
return [0.01] * 384
|
||||||
|
|
||||||
|
def _fake_search_chunks_by_vector(client, prefix, vector, top=10, filters=None):
|
||||||
|
# einfache Hitliste
|
||||||
|
return [
|
||||||
|
("chunk:1", 0.9, {"note_id":"note:1","path":"a.md","section_title":"S1"}),
|
||||||
|
("chunk:2", 0.7, {"note_id":"note:2","path":"b.md","section_title":"S2"}),
|
||||||
|
("chunk:3", 0.5, {"note_id":"note:3","path":"c.md","section_title":"S3"}),
|
||||||
|
]
|
||||||
|
|
||||||
|
def _fake_get_edges_for_sources(client, prefix, source_ids, edge_types=None, limit=2048):
|
||||||
|
out=[]
|
||||||
|
for sid in source_ids:
|
||||||
|
out.append({"source_id":sid,"target_id":f"{sid}-x","kind":"references","weight":0.2})
|
||||||
|
return out
|
||||||
|
|
||||||
|
def test_query_with_text(monkeypatch):
|
||||||
|
# Patch Embedding + Qdrant-Aufrufe
|
||||||
|
monkeypatch.setattr(ec, "embed_text", _fake_embed_text)
|
||||||
|
monkeypatch.setattr(qp, "search_chunks_by_vector", _fake_search_chunks_by_vector)
|
||||||
|
monkeypatch.setattr(ga, "get_edges_for_sources", _fake_get_edges_for_sources, raising=False)
|
||||||
|
|
||||||
|
app = create_app()
|
||||||
|
with TestClient(app) as c:
|
||||||
|
payload = {"mode":"hybrid","query":"karate trainingsplan", "top_k":2,
|
||||||
|
"expand":{"depth":1,"edge_types":["references"]}}
|
||||||
|
r = c.post("/query", json=payload)
|
||||||
|
assert r.status_code == 200, r.text
|
||||||
|
body = r.json()
|
||||||
|
assert body["used_mode"] == "hybrid"
|
||||||
|
assert len(body["results"]) == 2
|
||||||
@@ -0,0 +1,38 @@
|
|||||||
|
from fastapi.testclient import TestClient
|
||||||
|
from app.main import create_app
|
||||||
|
import app.core.qdrant_points as qp
|
||||||
|
import app.core.graph_adapter as ga
|
||||||
|
|
||||||
|
def _fake_search_chunks_by_vector(client, prefix, vector, top=10, filters=None):
|
||||||
|
return [
|
||||||
|
("chunk:1", 0.8, {"note_id":"note:1","path":"a.md","section_title":"S1"}),
|
||||||
|
("chunk:2", 0.6, {"note_id":"note:2","path":"b.md","section_title":"S2"}),
|
||||||
|
("chunk:3", 0.4, {"note_id":"note:3","path":"c.md","section_title":"S3"}),
|
||||||
|
]
|
||||||
|
|
||||||
|
def _fake_get_edges_for_sources(client, prefix, source_ids, edge_types=None, limit=2048):
|
||||||
|
# Erzeuge ein paar Edges von den Seeds weg
|
||||||
|
out=[]
|
||||||
|
for sid in source_ids:
|
||||||
|
out.append({"source_id":sid,"target_id":f"{sid}->n1","kind":"references","weight":0.2})
|
||||||
|
out.append({"source_id":sid,"target_id":f"{sid}->n2","kind":"belongs_to","weight":0.1})
|
||||||
|
return out
|
||||||
|
|
||||||
|
def test_query_hybrid_with_monkeypatch(monkeypatch):
|
||||||
|
monkeypatch.setattr(qp, "search_chunks_by_vector", _fake_search_chunks_by_vector)
|
||||||
|
monkeypatch.setattr(qp, "get_edges_for_sources", _fake_get_edges_for_sources) # falls indirekt genutzt
|
||||||
|
# graph_adapter.expand ruft get_edges_for_sources via qp; wir patchen direkt dort:
|
||||||
|
monkeypatch.setattr(ga, "get_edges_for_sources", _fake_get_edges_for_sources, raising=False)
|
||||||
|
|
||||||
|
app = create_app()
|
||||||
|
with TestClient(app) as c:
|
||||||
|
payload = {"mode":"hybrid","query_vector":[0.0]*384,"top_k":2,
|
||||||
|
"expand":{"depth":1,"edge_types":["references","belongs_to"]}}
|
||||||
|
r = c.post("/query", json=payload)
|
||||||
|
assert r.status_code == 200, r.text
|
||||||
|
data = r.json()
|
||||||
|
assert data["used_mode"] == "hybrid"
|
||||||
|
assert len(data["results"]) == 2
|
||||||
|
# Scores absteigend
|
||||||
|
tots = [h["total_score"] for h in data["results"]]
|
||||||
|
assert tots[0] >= tots[1]
|
||||||
@@ -0,0 +1,64 @@
|
|||||||
|
from app.core import retriever as r
|
||||||
|
from app.models.dto import QueryRequest
|
||||||
|
import app.core.qdrant as qdr
|
||||||
|
import app.core.qdrant_points as qp
|
||||||
|
import app.services.embeddings_client as ec
|
||||||
|
|
||||||
|
|
||||||
|
class _DummyClient:
|
||||||
|
"""Minimaler Platzhalter für QdrantClient in Unit-Tests."""
|
||||||
|
pass
|
||||||
|
|
||||||
|
|
||||||
|
def _fake_get_client(cfg):
|
||||||
|
return _DummyClient()
|
||||||
|
|
||||||
|
|
||||||
|
def _fake_embed_text(text: str):
|
||||||
|
# Liefert stabilen Vektor; Größe ist für diesen Test egal,
|
||||||
|
# da search_chunks_by_vector ebenfalls gefaked wird.
|
||||||
|
return [0.0] * 16
|
||||||
|
|
||||||
|
|
||||||
|
def _fake_search_chunks_by_vector(client, prefix, vector, top=10, filters=None):
|
||||||
|
# einfache Hitliste in absteigender Score-Reihenfolge
|
||||||
|
return [
|
||||||
|
("chunk:1", 0.9, {"note_id": "note:1", "path": "a.md", "section_title": "S1"}),
|
||||||
|
("chunk:2", 0.7, {"note_id": "note:2", "path": "b.md", "section_title": "S2"}),
|
||||||
|
("chunk:3", 0.4, {"note_id": "note:3", "path": "c.md", "section_title": "S3"}),
|
||||||
|
]
|
||||||
|
|
||||||
|
|
||||||
|
def test_semantic_retrieve_basic(monkeypatch):
|
||||||
|
# Qdrant- und Embedding-Aufrufe faken
|
||||||
|
monkeypatch.setattr(qdr, "get_client", _fake_get_client)
|
||||||
|
monkeypatch.setattr(ec, "embed_text", _fake_embed_text)
|
||||||
|
monkeypatch.setattr(qp, "search_chunks_by_vector", _fake_search_chunks_by_vector)
|
||||||
|
|
||||||
|
req = QueryRequest(mode="semantic", query="karate trainingsplan", top_k=2)
|
||||||
|
resp = r.semantic_retrieve(req)
|
||||||
|
|
||||||
|
assert resp.used_mode == "semantic"
|
||||||
|
assert len(resp.results) == 2
|
||||||
|
|
||||||
|
# Scores absteigend sortiert
|
||||||
|
scores = [h.total_score for h in resp.results]
|
||||||
|
assert scores[0] >= scores[1]
|
||||||
|
# Korrekte Zuordnung von note_id und Quelle
|
||||||
|
assert resp.results[0].note_id == "note:1"
|
||||||
|
assert resp.results[0].source["path"] == "a.md"
|
||||||
|
|
||||||
|
|
||||||
|
def test_hybrid_retrieve_basic(monkeypatch):
|
||||||
|
# Qdrant- und Embedding-Aufrufe faken
|
||||||
|
monkeypatch.setattr(qdr, "get_client", _fake_get_client)
|
||||||
|
monkeypatch.setattr(qp, "search_chunks_by_vector", _fake_search_chunks_by_vector)
|
||||||
|
|
||||||
|
# Im Hybrid-Modus arbeiten wir im Step-1-Stand nur mit query_vector
|
||||||
|
req = QueryRequest(mode="hybrid", query_vector=[0.0] * 16, top_k=2)
|
||||||
|
resp = r.hybrid_retrieve(req)
|
||||||
|
|
||||||
|
assert resp.used_mode == "hybrid"
|
||||||
|
assert len(resp.results) == 2
|
||||||
|
scores = [h.total_score for h in resp.results]
|
||||||
|
assert scores[0] >= scores[1]
|
||||||
@@ -0,0 +1,74 @@
|
|||||||
|
from app.core import retriever as r
|
||||||
|
from app.models.dto import QueryRequest
|
||||||
|
import app.core.qdrant as qdr
|
||||||
|
import app.core.qdrant_points as qp
|
||||||
|
import app.core.graph_adapter as ga
|
||||||
|
import app.services.embeddings_client as ec
|
||||||
|
|
||||||
|
|
||||||
|
class _DummyClient:
|
||||||
|
pass
|
||||||
|
|
||||||
|
|
||||||
|
def _fake_get_client(cfg):
|
||||||
|
return _DummyClient()
|
||||||
|
|
||||||
|
|
||||||
|
def _fake_embed_text(text: str):
|
||||||
|
# Dimension ist egal, da wir search_chunks_by_vector faken
|
||||||
|
return [0.0] * 384
|
||||||
|
|
||||||
|
|
||||||
|
def _fake_search_chunks_by_vector(client, prefix, vector, top=10, filters=None):
|
||||||
|
# Drei Treffer mit identischem semantic_score und retriever_weight,
|
||||||
|
# aber unterschiedlichen Graph-Boni
|
||||||
|
return [
|
||||||
|
("chunk:1", 0.8, {"note_id": "note:1", "chunk_id": "c1", "path": "a.md", "section_title": "S1"}),
|
||||||
|
("chunk:2", 0.8, {"note_id": "note:2", "chunk_id": "c2", "path": "b.md", "section_title": "S2"}),
|
||||||
|
("chunk:3", 0.8, {"note_id": "note:3", "chunk_id": "c3", "path": "c.md", "section_title": "S3"}),
|
||||||
|
]
|
||||||
|
|
||||||
|
|
||||||
|
class _DummySubgraph:
|
||||||
|
def __init__(self, edge_scores, cent_scores):
|
||||||
|
self._edge = edge_scores
|
||||||
|
self._cent = cent_scores
|
||||||
|
|
||||||
|
def edge_bonus(self, node_id: str) -> float:
|
||||||
|
return self._edge.get(node_id, 0.0)
|
||||||
|
|
||||||
|
def centrality_bonus(self, node_id: str) -> float:
|
||||||
|
return self._cent.get(node_id, 0.0)
|
||||||
|
|
||||||
|
|
||||||
|
def _fake_expand(client, prefix, seeds, depth=1, edge_types=None):
|
||||||
|
# Wir gewichten c2 > c1 > c3
|
||||||
|
edge_scores = {"c1": 0.1, "c2": 0.5, "c3": 0.0}
|
||||||
|
cent_scores = {"c1": 0.05, "c2": 0.2, "c3": 0.0}
|
||||||
|
return _DummySubgraph(edge_scores, cent_scores)
|
||||||
|
|
||||||
|
|
||||||
|
def test_hybrid_retrieve_uses_edge_scores(monkeypatch):
|
||||||
|
# Qdrant-Client, Embeddings, Chunk-Suche und Graph-Expansion faken
|
||||||
|
monkeypatch.setattr(qdr, "get_client", _fake_get_client)
|
||||||
|
monkeypatch.setattr(ec, "embed_text", _fake_embed_text)
|
||||||
|
monkeypatch.setattr(qp, "search_chunks_by_vector", _fake_search_chunks_by_vector)
|
||||||
|
monkeypatch.setattr(ga, "expand", _fake_expand)
|
||||||
|
|
||||||
|
# expand.depth > 0 triggern, edge_types sind hier egal
|
||||||
|
req = QueryRequest(mode="hybrid", query="karate", top_k=3, expand={"depth": 1, "edge_types": ["references"]})
|
||||||
|
resp = r.hybrid_retrieve(req)
|
||||||
|
|
||||||
|
assert len(resp.results) == 3
|
||||||
|
|
||||||
|
# Da alle semantic_scores und retriever_weight gleich sind,
|
||||||
|
# bestimmt die Summe aus edge_bonus + centrality_bonus das Ranking.
|
||||||
|
first = resp.results[0]
|
||||||
|
second = resp.results[1]
|
||||||
|
third = resp.results[2]
|
||||||
|
|
||||||
|
assert first.note_id == "note:2" # c2 hat höchste Graph-Boni
|
||||||
|
assert second.note_id == "note:1"
|
||||||
|
assert third.note_id == "note:3"
|
||||||
|
|
||||||
|
assert first.total_score > second.total_score > third.total_score
|
||||||
@@ -0,0 +1,120 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
#
|
||||||
|
# test_retriever_smoke.py – End-to-End Smoke-Test für den mindnet Retriever
|
||||||
|
#
|
||||||
|
# Dieser Smoke-Test ist für manuelle End-to-End-Tests gedacht.
|
||||||
|
# Er wird NICHT automatisch von pytest ausgeführt.
|
||||||
|
#
|
||||||
|
# Empfohlener Speicherort: tests/test_retriever_smoke.py
|
||||||
|
#
|
||||||
|
# Aufrufbeispiele:
|
||||||
|
#
|
||||||
|
# python tests/test_retriever_smoke.py --query "embeddings" --mode semantic
|
||||||
|
#
|
||||||
|
# python tests/test_retriever_smoke.py \
|
||||||
|
# --query "embeddings" \
|
||||||
|
# --mode hybrid \
|
||||||
|
# --expand-depth 1 \
|
||||||
|
# --expand-edge-types references depends_on
|
||||||
|
#
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import argparse
|
||||||
|
import sys
|
||||||
|
from typing import Any, Dict
|
||||||
|
|
||||||
|
import requests
|
||||||
|
|
||||||
|
|
||||||
|
def _build_payload(args: argparse.Namespace) -> Dict[str, Any]:
|
||||||
|
payload: Dict[str, Any] = {
|
||||||
|
"mode": args.mode,
|
||||||
|
"query": args.query,
|
||||||
|
"top_k": args.top_k,
|
||||||
|
}
|
||||||
|
if args.expand_depth is not None and args.expand_depth > 0:
|
||||||
|
expand: Dict[str, Any] = {"depth": args.expand_depth}
|
||||||
|
if args.expand_edge_types:
|
||||||
|
expand["edge_types"] = args.expand_edge_types
|
||||||
|
payload["expand"] = expand
|
||||||
|
return payload
|
||||||
|
|
||||||
|
|
||||||
|
def main(argv: list[str] | None = None) -> int:
|
||||||
|
parser = argparse.ArgumentParser(description="Smoke-Test für mindnet-Retriever (/query)")
|
||||||
|
parser.add_argument("--url", default="http://127.0.0.1:8000/query", help="URL des Query-Endpunkts")
|
||||||
|
parser.add_argument("--query", required=True, help="Text-Query")
|
||||||
|
parser.add_argument("--mode", choices=["semantic", "hybrid"], default="hybrid")
|
||||||
|
parser.add_argument("--top-k", type=int, default=5)
|
||||||
|
parser.add_argument("--expand-depth", type=int, default=0)
|
||||||
|
parser.add_argument(
|
||||||
|
"--expand-edge-types",
|
||||||
|
nargs="*",
|
||||||
|
default=None,
|
||||||
|
help="Edge-Typen (z. B. references depends_on)",
|
||||||
|
)
|
||||||
|
|
||||||
|
args = parser.parse_args(argv)
|
||||||
|
payload = _build_payload(args)
|
||||||
|
|
||||||
|
try:
|
||||||
|
resp = requests.post(args.url, json=payload, timeout=10)
|
||||||
|
except Exception as exc:
|
||||||
|
print(f"[ERROR] HTTP-Request fehlgeschlagen: {exc}", file=sys.stderr)
|
||||||
|
return 1
|
||||||
|
|
||||||
|
if resp.status_code != 200:
|
||||||
|
print(f"[ERROR] Statuscode: {resp.status_code}", file=sys.stderr)
|
||||||
|
print(resp.text, file=sys.stderr)
|
||||||
|
return 1
|
||||||
|
|
||||||
|
try:
|
||||||
|
data = resp.json()
|
||||||
|
except Exception:
|
||||||
|
print("[ERROR] Ungültiges JSON:", resp.text, file=sys.stderr)
|
||||||
|
return 1
|
||||||
|
|
||||||
|
print("=== mindnet Retriever Smoke-Test ===")
|
||||||
|
print(f"URL: {args.url}")
|
||||||
|
print(f"Mode: {args.mode}")
|
||||||
|
print(f"Query: {args.query!r}")
|
||||||
|
print(f"Top-K: {args.top_k}")
|
||||||
|
print()
|
||||||
|
|
||||||
|
results = data.get("results") or []
|
||||||
|
print(f"used_mode: {data.get('used_mode')}")
|
||||||
|
print(f"latency: {data.get('latency_ms')} ms")
|
||||||
|
print(f"Treffer: {len(results)}")
|
||||||
|
print()
|
||||||
|
|
||||||
|
for i, hit in enumerate(results, start=1):
|
||||||
|
nid = hit.get("note_id")
|
||||||
|
cid = hit.get("node_id")
|
||||||
|
tot = hit.get("total_score")
|
||||||
|
sem = hit.get("semantic_score")
|
||||||
|
edge = hit.get("edge_bonus")
|
||||||
|
cen = hit.get("centrality_bonus")
|
||||||
|
src = hit.get("source") or {}
|
||||||
|
path = src.get("path")
|
||||||
|
sec = src.get("section")
|
||||||
|
|
||||||
|
print(f"[{i}] note_id={nid} node_id={cid}")
|
||||||
|
try:
|
||||||
|
print(
|
||||||
|
f" total={float(tot):.4f} "
|
||||||
|
f"(semantic={float(sem):.4f} edge={float(edge):.4f} centrality={float(cen):.4f})"
|
||||||
|
)
|
||||||
|
except Exception:
|
||||||
|
print(f" total={tot}, semantic={sem}, edge={edge}, centrality={cen}")
|
||||||
|
|
||||||
|
if path or sec:
|
||||||
|
print(f" source: {path or '-'} :: {sec or '-'}")
|
||||||
|
print()
|
||||||
|
|
||||||
|
return 0
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
raise SystemExit(main())
|
||||||
@@ -0,0 +1,48 @@
|
|||||||
|
from app.core import retriever as r
|
||||||
|
from app.models.dto import QueryRequest
|
||||||
|
import app.core.qdrant as qdr
|
||||||
|
import app.core.qdrant_points as qp
|
||||||
|
import app.services.embeddings_client as ec
|
||||||
|
|
||||||
|
|
||||||
|
class _DummyClient:
|
||||||
|
pass
|
||||||
|
|
||||||
|
|
||||||
|
def _fake_get_client(cfg):
|
||||||
|
return _DummyClient()
|
||||||
|
|
||||||
|
|
||||||
|
def _fake_embed_text(text: str):
|
||||||
|
# Dimension egal, da wir search_chunks_by_vector faken
|
||||||
|
return [0.0] * 384
|
||||||
|
|
||||||
|
|
||||||
|
def _fake_search_chunks_by_vector_weights(client, prefix, vector, top=10, filters=None):
|
||||||
|
# Zwei Treffer mit unterschiedlichem retriever_weight
|
||||||
|
return [
|
||||||
|
("chunk:low", 0.9, {"note_id": "note:low", "path": "low.md", "section_title": "S1", "retriever_weight": 0.2}),
|
||||||
|
("chunk:high", 0.8, {"note_id": "note:high", "path": "high.md", "section_title": "S2", "retriever_weight": 1.5}),
|
||||||
|
]
|
||||||
|
|
||||||
|
|
||||||
|
def test_retriever_weight_influences_ranking(monkeypatch):
|
||||||
|
# Konfiguration: Qdrant & Embedding faken
|
||||||
|
monkeypatch.setattr(qdr, "get_client", _fake_get_client)
|
||||||
|
monkeypatch.setattr(ec, "embed_text", _fake_embed_text)
|
||||||
|
monkeypatch.setattr(qp, "search_chunks_by_vector", _fake_search_chunks_by_vector_weights)
|
||||||
|
|
||||||
|
req = QueryRequest(mode="semantic", query="karate", top_k=2)
|
||||||
|
resp = r.semantic_retrieve(req)
|
||||||
|
|
||||||
|
assert len(resp.results) == 2
|
||||||
|
|
||||||
|
first = resp.results[0]
|
||||||
|
second = resp.results[1]
|
||||||
|
|
||||||
|
# Semantic Scores: 0.9 (low), 0.8 (high)
|
||||||
|
# Total Scores: 0.9 * 0.2 = 0.18 vs. 0.8 * 1.5 = 1.2 -> high sollte oben liegen
|
||||||
|
assert first.note_id == "note:high"
|
||||||
|
assert second.note_id == "note:low"
|
||||||
|
|
||||||
|
assert first.total_score > second.total_score
|
||||||
@@ -0,0 +1,13 @@
|
|||||||
|
from fastapi.testclient import TestClient
|
||||||
|
from app.main import create_app
|
||||||
|
|
||||||
|
def test_tools_ollama_schema():
|
||||||
|
app = create_app()
|
||||||
|
with TestClient(app) as c:
|
||||||
|
r = c.get("/tools/ollama")
|
||||||
|
assert r.status_code == 200
|
||||||
|
data = r.json()
|
||||||
|
assert "tools" in data and isinstance(data["tools"], list)
|
||||||
|
names = [t["function"]["name"] for t in data["tools"] if t.get("function")]
|
||||||
|
assert "mindnet_query" in names
|
||||||
|
assert "mindnet_subgraph" in names
|
||||||
@@ -0,0 +1,35 @@
|
|||||||
|
#!/usr/bin/env python3
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
|
||||||
|
import os, tempfile, textwrap
|
||||||
|
from app.core.type_registry import load_type_registry, resolve_note_type, get_type_config, effective_chunk_profile, profile_overlap
|
||||||
|
|
||||||
|
def test_defaults_when_missing():
|
||||||
|
# ensure default kicks in if file does not exist
|
||||||
|
reg = load_type_registry(os.path.join("config", "does_not_exist.yaml"))
|
||||||
|
assert reg.get("_using_defaults", False) is True
|
||||||
|
t = resolve_note_type(None, reg)
|
||||||
|
assert t == "concept"
|
||||||
|
cfg = get_type_config(t, reg)
|
||||||
|
assert cfg.get("chunk_profile") in ("medium", "long", "short")
|
||||||
|
|
||||||
|
def test_custom_file():
|
||||||
|
with tempfile.TemporaryDirectory() as td:
|
||||||
|
p = os.path.join(td, "types.yaml")
|
||||||
|
with open(p, "w", encoding="utf-8") as f:
|
||||||
|
f.write(textwrap.dedent('''
|
||||||
|
version: 1.0
|
||||||
|
types:
|
||||||
|
concept:
|
||||||
|
chunk_profile: medium
|
||||||
|
edge_defaults: ["references"]
|
||||||
|
retriever_weight: 1.0
|
||||||
|
task:
|
||||||
|
chunk_profile: short
|
||||||
|
edge_defaults: ["depends_on"]
|
||||||
|
retriever_weight: 0.8
|
||||||
|
'''))
|
||||||
|
reg = load_type_registry(p)
|
||||||
|
assert resolve_note_type("task", reg) == "task"
|
||||||
|
assert effective_chunk_profile("task", reg) == "short"
|
||||||
|
assert profile_overlap("short")[0] < profile_overlap("long")[0]
|
||||||
@@ -0,0 +1,25 @@
|
|||||||
|
---
|
||||||
|
title: Freund – November-Fahrplan (30 Tage)
|
||||||
|
id: freund-kanal-30tage-nov2025
|
||||||
|
type: project
|
||||||
|
status: active
|
||||||
|
created: 2025-10-31
|
||||||
|
updated: 2025-10-31
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags: [friend/new-circle, planning]
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
depends_on:
|
||||||
|
- freund-kanal-gewaltschutz-nov2025
|
||||||
|
- freund-kanal-tanzen-nov2025
|
||||||
|
---
|
||||||
|
|
||||||
|
# Kalender & Cadence
|
||||||
|
- **KW45 (Nov W1):** Gewaltschutz-Termin & Tanz-Slot festlegen; Einladungen verschicken.
|
||||||
|
- **KW46 (W2):** Infoabend Gewaltschutz #1 · Practice Night Tanz #1.
|
||||||
|
- **KW47 (W3):** Practice Night #2 · 4–6 **1:1-Gespräche**.
|
||||||
|
- **KW48 (W4):** Follow-ups & Retro; Dezember-Slots bestätigen.
|
||||||
|
|
||||||
|
# Minimal-Tracker (CSV)
|
||||||
|
date,event,type,people,new_contacts,1on1_scheduled,notes
|
||||||
@@ -0,0 +1,119 @@
|
|||||||
|
---
|
||||||
|
title: Freund – Kanal 1: Gewaltschutz **Mini-Kurs** (Nov 2025)
|
||||||
|
id: freund-kanal-gewaltschutz-minikurs-nov2025
|
||||||
|
type: project
|
||||||
|
status: active
|
||||||
|
created: 2025-10-31
|
||||||
|
updated: 2025-10-31
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags: [friend/new-circle, gewaltschutz, community, workshop, mini-course]
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
depends_on:
|
||||||
|
- leitbild-ziele-portfolio
|
||||||
|
- leitbild-rollen
|
||||||
|
- freund-kanal-30tage-nov2025
|
||||||
|
references:
|
||||||
|
- "/mnt/data/Lars- Mein Leitbild.pdf"
|
||||||
|
---
|
||||||
|
|
||||||
|
# Ziel & Zielgruppe
|
||||||
|
- **Ziel:** Über einen **nüchternen**, wertschätzenden **Mini-Kurs** (3×90′) neue Kontakte **auf Augenhöhe** gewinnen – für gute Gespräche, gemeinsame Werte und Anschluss an deinen neuen Freundeskreis (ohne Alkoholmilieu).
|
||||||
|
- **Zielgruppe (primär):** Erwachsene (Eltern, Lehrkräfte, Interessierte, **18+**).
|
||||||
|
*Optional (separat ankündigen):* Eltern+Teen (16–17) – sensibel, ohne Rollenspiele mit Übergriffigkeitsinhalten.
|
||||||
|
|
||||||
|
# Format (3×90′)
|
||||||
|
- **S1 – Bewusst & klar (Awareness & Haltung)**
|
||||||
|
*Outcome:* Teilnehmende können Situationen besser **lesen**, **Grenzen** spüren/zeigen und **klar ansprechen**.
|
||||||
|
**Ablauf:**
|
||||||
|
1) Warm-in & Werte (5′) – „Prävention ohne Angst“
|
||||||
|
2) Wahrnehmung & Distanz (20′) – Raum, Blick, Stimme
|
||||||
|
3) Grenzen setzen (20′) – „Stopp“, Körpersprache, Ich-Botschaft
|
||||||
|
4) Mini-Drills (30′) – Alltagsmikros: ÖPNV, Flur, Parkplatz (ohne Körperkontakt)
|
||||||
|
5) Reflexion & Transfer (15′) – persönlicher Boundary-Satz, Heimübung
|
||||||
|
|
||||||
|
- **S2 – Deeskalation & Ausstiege (Verbal & taktisch)**
|
||||||
|
*Outcome:* Teilnehmende **reduzieren Eskalation**, nutzen **sichere Ausstiege** und holen Hilfe.
|
||||||
|
**Ablauf:**
|
||||||
|
1) Kurzreview S1 (10′)
|
||||||
|
2) Deeskalationsleitfaden (25′) – Ton, Tempo, Wörter
|
||||||
|
3) Ausstiegsmuster (30′) – Positionswechsel, Tür-/Tresen-Taktik, „Buddy-Call“
|
||||||
|
4) Bystander-Optionen (15′) – sicher intervenieren
|
||||||
|
5) Plan A/B/C (10′) – persönlicher Ausstiegsplan
|
||||||
|
|
||||||
|
- **S3 – Alltag festigen (Routine & Netz)**
|
||||||
|
*Outcome:* Teilnehmende **verankern Routinen**, kennen **Fallbacks** und haben **nächste Schritte** (auch sozial).
|
||||||
|
**Ablauf:**
|
||||||
|
1) Warm-in & Qs (10′)
|
||||||
|
2) Alltagsszenarien (30′) – Feier/ÖPNV/Arbeit *ohne* Alkoholfokus
|
||||||
|
3) Ritual & Check (25′) – „Wenn-dann“-Pläne, Buddy-System, Notfallkontakte
|
||||||
|
4) Mikro-Netz (15′) – Einladungen zu **Walk & Talk**, **Buch/Essay-Abend**, **Tanzen**
|
||||||
|
5) Abschluss & Feedback (10′)
|
||||||
|
|
||||||
|
# Einladung (Kurztext, Copy-Paste)
|
||||||
|
**Gewaltschutz – Mini-Kurs (3×90′, alkoholfrei)**
|
||||||
|
Prävention ohne Angst: klare Grenzen, Deeskalation, sichere Ausstiege – alltagstauglich.
|
||||||
|
**Wann:** [Mi, 19:00–20:30 an: 12.11., 19.11., 26.11.] **/ Ort:** [Dojo/Vereinsraum, Adresse]
|
||||||
|
**Plätze:** max. 14 · **Kosten:** kostenlos
|
||||||
|
**Getränke:** Tee/Wasser (alkoholfrei)
|
||||||
|
**Anmeldung:** [E-Mail/Link] – kurze Nachricht reicht.
|
||||||
|
Ich freue mich auf gute Gespräche & ein starkes Netz. – Lars
|
||||||
|
|
||||||
|
# Orga & Material
|
||||||
|
- Raum: Stühle im Halbkreis, ggf. Matten (nicht nötig), gute Akustik; Schild „alkoholfrei“.
|
||||||
|
- Ausstattung: Flipchart/Marker, Timer, Wasser/Tee, **Feedback-Mini-Karte (3 Fragen)**, Teilnehmerliste.
|
||||||
|
- Sicherheit: **keine** aggressiven Rollenspiele; **kein** körperlicher Zwang; Inhalte trauma-sensibel; Notfallnummern sichtbar.
|
||||||
|
|
||||||
|
# Messung (verknüpft mit Nordstern „Freund – Neuaufbau“)
|
||||||
|
- **Leading:** ≥ **12 Anmeldungen**, **≥10** Teilnehmende gesamt, **≥6** 1:1-Folgetermine in 14 Tagen, **≥1** Mikro-Event-Einladung angenommen.
|
||||||
|
- **Lagging:** **≥2** neue starke Bindungen bis Jan 2026.
|
||||||
|
|
||||||
|
# Follow-up (≤48 h nach jedem Termin)
|
||||||
|
- Dankesmail + 1-Pager (3 Kernhebel)
|
||||||
|
- Einladungen: **Walk & Talk**, **Buch/Essay-Abend**, **Tanzen – Practice Night**
|
||||||
|
- 1:1-Einladungen an 2–4 passende Personen (Coffee/Walk)
|
||||||
|
|
||||||
|
# Checkliste (je Termin)
|
||||||
|
- [ ] Raum vorbereitet (Schild „alkoholfrei“)
|
||||||
|
- [ ] Teilnehmerliste / Einverständnis Foto **nein** (Standard: keine Fotos)
|
||||||
|
- [ ] Inhalte: Folien/Flipchart-Skizzen vorbereitet
|
||||||
|
- [ ] Wasser/Tee bereitgestellt
|
||||||
|
- [ ] Feedback-Karten & Stifte
|
||||||
|
- [ ] Timer, Notfallkontakte sichtbar
|
||||||
|
|
||||||
|
# ICS-Skelett (3 Events – Platzhalter anpassen)
|
||||||
|
BEGIN:VCALENDAR
|
||||||
|
VERSION:2.0
|
||||||
|
PRODID:-//Lars//Gewaltschutz-Minikurs//DE
|
||||||
|
BEGIN:VEVENT
|
||||||
|
UID:mini1-20251112T190000Z@lars
|
||||||
|
DTSTART:20251112T190000
|
||||||
|
DTEND:20251112T203000
|
||||||
|
SUMMARY:Gewaltschutz Mini-Kurs – Teil 1 (Prävention ohne Angst)
|
||||||
|
LOCATION:[Ort/Adresse]
|
||||||
|
DESCRIPTION:Awareness, Grenzen, Mini-Drills. Alkoholfrei.
|
||||||
|
END:VEVENT
|
||||||
|
BEGIN:VEVENT
|
||||||
|
UID:mini2-20251119T190000Z@lars
|
||||||
|
DTSTART:20251119T190000
|
||||||
|
DTEND:20251119T203000
|
||||||
|
SUMMARY:Gewaltschutz Mini-Kurs – Teil 2 (Deeskalation & Ausstiege)
|
||||||
|
LOCATION:[Ort/Adresse]
|
||||||
|
DESCRIPTION:Verbal deeskalieren, Ausstiege, Bystander-Optionen.
|
||||||
|
END:VEVENT
|
||||||
|
BEGIN:VEVENT
|
||||||
|
UID:mini3-20251126T190000Z@lars
|
||||||
|
DTSTART:20251126T190000
|
||||||
|
DTEND:20251126T203000
|
||||||
|
SUMMARY:Gewaltschutz Mini-Kurs – Teil 3 (Alltag festigen)
|
||||||
|
LOCATION:[Ort/Adresse]
|
||||||
|
DESCRIPTION:Wenn-dann-Pläne, Buddy-System, nächste Schritte.
|
||||||
|
END:VEVENT
|
||||||
|
END:VCALENDAR
|
||||||
|
|
||||||
|
# Risiken & Guardrails
|
||||||
|
- **Kein** „Heldentum“/Konfrontationsglorifizierung; Grenzen/Deeskalation vor „Technik“.
|
||||||
|
- **Kein** Körperkontakt ohne explizite Zustimmung; **Abbruch-Signal** definieren.
|
||||||
|
- **Keine** Minderjährigen ohne Begleitung (bei Eltern+Teen: separate Einladung, andere Beispiele).
|
||||||
|
- **Familienzeit schützen:** pünktlicher Start/Schluss; Nachklang maximal 20′.
|
||||||
@@ -0,0 +1,50 @@
|
|||||||
|
---
|
||||||
|
title: Freund – Kanal 1: Gewaltschutz-Workshop (Nov 2025)
|
||||||
|
id: freund-kanal-gewaltschutz-nov2025
|
||||||
|
type: project
|
||||||
|
status: active
|
||||||
|
created: 2025-10-31
|
||||||
|
updated: 2025-10-31
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags: [friend/new-circle, gewaltschutz, community, workshop]
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
depends_on:
|
||||||
|
- leitbild-ziele-portfolio
|
||||||
|
- leitbild-rollen
|
||||||
|
---
|
||||||
|
|
||||||
|
# Ziel
|
||||||
|
Über einen **niedrigschwelligen Gewaltschutz-Impuls** neue Kontakte auf Augenhöhe knüpfen (eltern-/gemeinwohlorientiert, nüchternes Umfeld), die zu **guten Gesprächen** und **weiteren Treffen** führen.
|
||||||
|
|
||||||
|
# Format (wähle 1)
|
||||||
|
- **A) Infoabend (75–90′, kostenlos)** – kurzer, starker Impuls, Q&A, Tee/Wasser.
|
||||||
|
- **B) Mini-Kurs (3×90′, 3 Wochen)** – kleine, konstante Gruppe (max. 14), mehr Bindung.
|
||||||
|
|
||||||
|
# Agenda (Beispiel Infoabend 90′)
|
||||||
|
1) Ankommen & Werte (5′) – „Warum Prävention ohne Angst“
|
||||||
|
2) Aufmerksamkeit & Grenzen (15′) – Wahrnehmung, Stimme, Haltung
|
||||||
|
3) Einfache Hebel (25′) – Distanz, klare Ansagen, Ausstiege
|
||||||
|
4) Alltagsszenarien (20′) – Schule/ÖPNV/Feier (alkoholfrei)
|
||||||
|
5) Q&A + Einladung zu weiterem Treffen (20′)
|
||||||
|
|
||||||
|
# Einladungstext (Kurzfassung, Copy-Paste)
|
||||||
|
Liebe Nachbar:innen und Eltern,
|
||||||
|
ich biete am **[Datum, Uhrzeit]** einen **kostenlosen Gewaltschutz-Infoabend (90′)** im **[Ort]** an. Es geht um **klare, alltagstaugliche Strategien** für Kinder/Jugendliche & Eltern – **ohne Angstmache, ohne Heldentum**.
|
||||||
|
👉 Inhalte: Wahrnehmung schärfen, Grenzen setzen, einfache Ausstiege.
|
||||||
|
Getränke: **Tee/Wasser**, **kein Alkohol**.
|
||||||
|
**Anmeldung:** [Kontakt/Link] – max. **20 Plätze**. Ich freue mich auf gute Gespräche!
|
||||||
|
– Lars
|
||||||
|
|
||||||
|
# Orga & Material
|
||||||
|
- Raum (Matten optional), Stühle im Halbkreis, Flipchart/Marker, Timer, Haftungshinweis.
|
||||||
|
- Teilnehmerliste, Namensschilder, Wasser/Tee, Feedback-Mini-Karte (3 Fragen).
|
||||||
|
|
||||||
|
# Messung (für „Freund“-Nordstern)
|
||||||
|
- **Leading:** ≥ **12 Anmeldungen**, **10+ Teilnehmende**, **≥4** Folge-1:1s in 14 Tagen.
|
||||||
|
- **Lagging:** **≥2** neue „starke Bindungen“ bis Jan 2026.
|
||||||
|
|
||||||
|
# Nachbereitung (innerh. 48 h)
|
||||||
|
- Dankesmail + 1-Pager (3 Kernhebel) + Einladung zu **Walk & Talk / Buch-Abend**.
|
||||||
|
- 1:1-Einladungen an 4–6 passende Kontakte (Coffee/Walk).
|
||||||
@@ -0,0 +1,46 @@
|
|||||||
|
---
|
||||||
|
title: Freund – Kanal 2: Tanzen (Nov 2025)
|
||||||
|
id: freund-kanal-tanzen-nov2025
|
||||||
|
type: project
|
||||||
|
status: active
|
||||||
|
created: 2025-10-31
|
||||||
|
updated: 2025-10-31
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags: [friend/new-circle, tanzen, sport, community]
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
depends_on:
|
||||||
|
- leitbild-ziele-portfolio
|
||||||
|
- leitbild-rollen
|
||||||
|
---
|
||||||
|
|
||||||
|
# Ziel
|
||||||
|
Über **körperliche Leichtigkeit + gute Gespräche** neue Kontakte auf Augenhöhe finden; Alkoholfreiheit, Respektkultur, klare Zeiten.
|
||||||
|
|
||||||
|
# Routen (wähle 1)
|
||||||
|
- **A) Bestehenden Kurs/Community beitreten** (z. B. **Swing/Lindy Hop** oder **Tango Argentino** – kommunikationsstark, community-orientiert, häufig alkoholfrei).
|
||||||
|
- **B) Eigene „Practice Night“ (60–90′, 1×/W)** – **Grundschritte + Balance + Musikgefühl**, offenes Ende mit Tee/Wasser.
|
||||||
|
- **C) „Dance & Mobility“ im Dojo (Monat)** – leichter Mix aus Rhythmus, Koordination, Dehnung.
|
||||||
|
|
||||||
|
# Kickoff-Plan (30 Tage)
|
||||||
|
- **W1:** Stil & Slot wählen; Raum sichern; 3-Zeiler Einladung schreiben.
|
||||||
|
- **W2:** Startabend #1 (60–90′): Warm-up, 2–3 Basics, Partnerwechsel, 15′ Gesprächsrunde.
|
||||||
|
- **W3:** Startabend #2; Interessentenliste pflegen; 1:1-Coffees anstoßen.
|
||||||
|
- **W4:** Retrospektive; feste Cadence (z. B. Mi 19:00) festziehen.
|
||||||
|
|
||||||
|
# Einladungstext (eigene Practice Night)
|
||||||
|
Lust auf **Tanzen ohne Druck**?
|
||||||
|
Am **[Datum, Uhrzeit]** startet eine **kleine Practice Night (60–90′)** in **[Ort]** – **Basics, Rhythmus, Balance**, viel Lachen, **ohne Alkohol**.
|
||||||
|
Alle Levels willkommen, Solo oder mit Partner:in.
|
||||||
|
Bringt saubere Schuhe/Strümpfe mit. Danach kurzer Tee-Talk.
|
||||||
|
**Anmeldung:** [Kontakt/Link] – **max. 16 Plätze**.
|
||||||
|
– Lars
|
||||||
|
|
||||||
|
# Messung
|
||||||
|
- **Leading:** **2 Startabende**, **≥12 Teilnehmende kumuliert**, **≥6** 1:1-Gespräche in 14 Tagen.
|
||||||
|
- **Lagging:** **≥2** neue, regelmäßige Mittänzer:innen im Kernkreis bis Jan 2026.
|
||||||
|
|
||||||
|
# Guardrails
|
||||||
|
- **Alkoholfrei**, respektvolle Ansprache, pünktlicher Start/Schluss (Familienzeit schützen).
|
||||||
|
- Keine „Lehrerrolle“ übernehmen – **Facilitator-Modus**: Raum bieten, nicht dominieren.
|
||||||
@@ -0,0 +1,91 @@
|
|||||||
|
---
|
||||||
|
title: Leitbild – Start-Experiment (14 Tage · R1–R7)
|
||||||
|
id: leitbild-start-experiment-2025-11-01
|
||||||
|
type: project
|
||||||
|
status: active
|
||||||
|
created: 2025-10-31
|
||||||
|
updated: 2025-10-31
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags: [experiment, rituale, NACh, tracker, review]
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
version: 1.0.0
|
||||||
|
depends_on:
|
||||||
|
- leitbild-rituale-system
|
||||||
|
- leitbild-review
|
||||||
|
- leitbild-ziele-portfolio
|
||||||
|
references:
|
||||||
|
- "/mnt/data/Lars- Mein Leitbild.pdf"
|
||||||
|
---
|
||||||
|
|
||||||
|
# Zweck
|
||||||
|
14-Tage-Testlauf, um die täglichen (R1–R3, R6), wöchentlichen (R5, R7) und 14-tägigen (R4) Rituale **unter realen Bedingungen** zu prüfen, Adhärenz zu messen und minimal zu tunen.
|
||||||
|
|
||||||
|
# Hypothesen
|
||||||
|
- **H1 (Ich-Pflege):** R1/R2/R3 erhöhen Ruhe/Klarheit spürbar (Ruhe-Ø **+2** Punkte; Spannungsgefühl **−2**; Stimmung-Ø **≥7/10**).
|
||||||
|
- **H2 (Vater):** R6 (1:1 Rohan) steigert Bindungsgefühl (Ø **+2** Punkte) und reduziert Konfliktlatenz.
|
||||||
|
- **H3 (Partner):** R5 (Tanzen) erhöht Nähe/Verbundenheit (Ø **≥8/10**) und senkt Reibungen bei Entscheidungen (über R4).
|
||||||
|
- **H4 (System):** Adhärenz **≥80 %** über alle täglich geplanten Rituale.
|
||||||
|
|
||||||
|
# Erfolgskriterien (DoD)
|
||||||
|
- **Adhärenz:** R1, R2, R3 jeweils **≥6/7** pro Woche; R6 **≥5/7** pro Woche.
|
||||||
|
- **Events:** R5 **≥1×/Woche**, R7 **≥1×/Woche**, R4 **falls fällig: 1×** in 14 Tagen.
|
||||||
|
- **Wirkung:** Ruhe-Ø **+2**, Spannungsgefühl **−2**, Stimmung-Ø **≥7/10**; Bindung Rohan **+2**.
|
||||||
|
|
||||||
|
# Protokoll
|
||||||
|
- **Start:** 2025-11-01 (Sa) · **Ende:** 2025-11-14 (Fr) · **Mid-Tune:** Tag 7 (2025-11-07).
|
||||||
|
- **Täglicher Ablauf (2–3′):** Tracker ausfüllen (siehe Tabellen unten).
|
||||||
|
- **Weekly Mini-Review (So/Mo):** Scoreboard füllen → 1 Decision Note.
|
||||||
|
- **Regel bei Ausfall:** **Mini-Reset ≤24 h** (kein „alles-egal“).
|
||||||
|
|
||||||
|
# NACh-Reminder (Kurzfassung)
|
||||||
|
- **R1** Meditation 20′ – *Trigger:* erster ruhiger 30′-Block – *Check:* Ruhe 1–10
|
||||||
|
- **R2** Mobility 10′ – *Trigger:* erste 10′ des Lunch – *Check:* Spannung Δ
|
||||||
|
- **R3** Journal – *Trigger:* bevor das Licht ausgeht – *Check:* Stimmung 1–10
|
||||||
|
- **R6** 1:1 Rohan 5′ – *Trigger:* nach Abendessen – *Check:* Bindung 1–10
|
||||||
|
- **R5** Tanzen So 17:00 (Backup Fr 20:00) – *Check:* Nähe 1–10
|
||||||
|
- **R7** 1:1 Rouven Sa 11:00 (Backup Mi 19:30) – *Check:* Nähe 1–10
|
||||||
|
- **R4** Familienrat So 14:00 (alle 2 Wochen; Backup Mo 19:00)
|
||||||
|
|
||||||
|
# Tages-Tracker (14 Tage)
|
||||||
|
date,weekday,R1_y_n,R1_calm_1_10,R2_y_n,R2_tension_delta,R3_y_n,mood_1_10,R6_rohan_y_n,bond_rohan_1_10,R5_tanzen_y_n,closeness_partner_1_10,R7_rouven_y_n,closeness_rouven_1_10,R4_familienrat_y_n,notes
|
||||||
|
2025-11-01,Sa,,,,,,,,,,,,,,"Starttag"
|
||||||
|
2025-11-02,So,,,,,,,,,,,,,,"R5 Tanzen 17:00; ggf. Weekly Mini-Review"
|
||||||
|
2025-11-03,Mo,,,,,,,,,,,,,,
|
||||||
|
2025-11-04,Di,,,,,,,,,,,,,,
|
||||||
|
2025-11-05,Mi,,,,,,,,,,,,,,"Backup-Slot R7 19:30 (falls Sa ausfiel)"
|
||||||
|
2025-11-06,Do,,,,,,,,,,,,,,
|
||||||
|
2025-11-07,Fr,,,,,,,,,,,,,,"Tag 7 – Mid-Tune"
|
||||||
|
2025-11-08,Sa,,,,,,,,,,,,,,"R7 1:1 Rouven 11:00"
|
||||||
|
2025-11-09,So,,,,,,,,,,,,,,"R5 Tanzen 17:00; R4 Familienrat 14:00 (falls fällig)"
|
||||||
|
2025-11-10,Mo,,,,,,,,,,,,,,"Weekly Mini-Review (Backup)"
|
||||||
|
2025-11-11,Di,,,,,,,,,,,,,,
|
||||||
|
2025-11-12,Mi,,,,,,,,,,,,,,"Backup-Slot R7 19:30 (falls Sa ausfiel)"
|
||||||
|
2025-11-13,Do,,,,,,,,,,,,,,
|
||||||
|
2025-11-14,Fr,,,,,,,,,,,,,,"Abschluss – 30′ Abschlussreview"
|
||||||
|
|
||||||
|
# Weekly Mini-Scoreboard (2 Wochen)
|
||||||
|
week_ending,R1_days,R2_days,R3_days,R6_days,R5_done_y_n,R7_done_y_n,bond_rohan_avg,closeness_partner_avg,closeness_rouven,notes
|
||||||
|
2025-11-02,,,,,, , , , "Woche 1 (kurz)"
|
||||||
|
2025-11-09,,,,,, , , , "Woche 2 (voll)"
|
||||||
|
|
||||||
|
# Mid-Tune (Tag 7 · 10 Minuten)
|
||||||
|
- **Fragen:**
|
||||||
|
1) *Was verhindert Adhärenz?* (Energie, Timing, Trigger, Umgebung)
|
||||||
|
2) *Welche 1 Mini-Änderung* steigert die Chance auf „y“ morgen?
|
||||||
|
- **Aktionen (Beispiele):** Meditationskissen sichtbar; Alarm „Lunch-10“; Journalkarte ans Bett; 20:30 Wecker für R6.
|
||||||
|
- **Festhalten:** eine **Decision Note** mit genau **einer** Systemänderung.
|
||||||
|
|
||||||
|
# Abschluss-Review (30 Minuten · 2025-11-14)
|
||||||
|
- **Fakten:** Adhärenz pro Ritual; Ø Ruhe/Spannung/Stimmung; Bindung Rohan.
|
||||||
|
- **Wertung:** Welche Rituale tragen die größte Wirkung? Welche NACh-Teile (Trigger/Aktion/Check) werden fixiert?
|
||||||
|
- **Entscheidung:**
|
||||||
|
- **Behalten:** R1–R3–R6 (und ggf. R5/R7/R4) mit kleinen Anpassungen
|
||||||
|
- **Start/Stop:** 1 neue Mikro-Gewohnheit **oder** 1 weglassen
|
||||||
|
- **Review-System:** `leitbild-review` KPIs ggf. anpassen
|
||||||
|
|
||||||
|
# Verknüpfungen
|
||||||
|
- **Basis & Details:** `leitbild-rituale-system`
|
||||||
|
- **Reviews & KPIs:** `leitbild-review`
|
||||||
|
- **Ziele/Nordsterne:** `leitbild-ziele-portfolio`
|
||||||
@@ -0,0 +1,159 @@
|
|||||||
|
---
|
||||||
|
title: Leitbild – Leitfaden (Betrieb & Rhythmus)
|
||||||
|
id: leitbild-ops-guide
|
||||||
|
type: concept
|
||||||
|
status: active
|
||||||
|
created: 2025-10-31
|
||||||
|
updated: 2025-10-31
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags: [leitbild, operating-guide, review, habits, nordsterne, mindnet]
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
depends_on:
|
||||||
|
- leitbild-text
|
||||||
|
- leitbild-rituale-system
|
||||||
|
- leitbild-review
|
||||||
|
- leitbild-ziele-portfolio
|
||||||
|
- leitbild-rollen
|
||||||
|
- leitbild-prinzipien
|
||||||
|
references:
|
||||||
|
- "/mnt/data/Lars- Mein Leitbild.pdf"
|
||||||
|
version: 1.0.0
|
||||||
|
---
|
||||||
|
|
||||||
|
# TL;DR – 80/20
|
||||||
|
- **Täglich 10–15′:** R1/R2/R3 (+ R6) ausführen & im Tracker abhaken; abends **3-Zeilen-Journal** notieren.
|
||||||
|
- **Wöchentlich 20–30′:** `leitbild-review` (Weekly) → Scoreboard füllen → **1 Decision Note** schreiben.
|
||||||
|
- **Monatlich 45–60′:** Roll-up + Top-3 Outcomes festlegen.
|
||||||
|
- **Quartalsweise 90′:** Nordsterne & Meilensteine prüfen, Kurs justieren.
|
||||||
|
|
||||||
|
Wenn gar nichts geht: **Mini-Reset ≤24 h** (kein „alles-egal“).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 1) Deine Karte – „Welche Datei wofür?“
|
||||||
|
- **`leitbild-text` (Kompass):** Kurz lesen, wenn du Richtung brauchst. *Wofür stehe ich? Was ist jetzt wichtig?*
|
||||||
|
- **`leitbild-rituale-system` (System):** NACh-Formeln, Trigger, Fallbacks, Tracker. *Ausführen & abhaken.*
|
||||||
|
- **`leitbild-review` (Steuerung):** Weekly/Monthly/Quarterly-Vorlagen, Scoreboards, Decision/Deviation Notes.
|
||||||
|
- **`leitbild-ziele-portfolio` (Ziele):** Nordsterne → Jahresziele → Milestones. *Nur bei echter Planarbeit öffnen.*
|
||||||
|
- **`leitbild-rollen` (Kontext):** Mission + Qualitätskriterien je Rolle. *Wenn Entscheidungen Rollen betreffen.*
|
||||||
|
- **`leitbild-prinzipien` / `leitbild-werte` (Why & How):** Wenn du Dilemmata klärst oder Leitplanken schärfst.
|
||||||
|
- **`leitbild-start-experiment-2025-11-01` (Pilot):** 14-Tage-Test – Logs & Mid-Tune.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 2) Dein Tag in 3 Mikro-Ankern (≤15 Minuten Netto)
|
||||||
|
**Morgens:**
|
||||||
|
- **R1 Meditation 20′** (oder Fallback ≤5′).
|
||||||
|
- *Gedanke (10 Sek.):* „Welche **eine Sache** zahlt heute **sichtbar** auf welchen **Nordstern** ein?“
|
||||||
|
|
||||||
|
**Mittags:**
|
||||||
|
- **R2 Mobility 10′** (erste 10′ des Lunch; Fallback ≤3′).
|
||||||
|
|
||||||
|
**Abends:**
|
||||||
|
- **R6 1:1 Rohan 5′** (nach dem Essen; Fallback: 3 Sätze).
|
||||||
|
- **R3 Journal** – 3 Zeilen: *1 gut · 1 gelernt · 1 nächster Schritt.*
|
||||||
|
- *Abhaken im Tracker* (in `leitbild-rituale-system`).
|
||||||
|
|
||||||
|
> **Hinweis:** R5 (Tanzen So 17:00) & R7 (Rouven Sa 11:00) sind **Termin-Rituale**. R4 (Familienrat So 14:00) alle 2 Wochen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 3) Weekly Review – SOP (20–30′, So Abend oder Mo früh)
|
||||||
|
1. **Scoreboard füllen** (aus `leitbild-review`, Tabelle „Weekly“). *Nur Fakten, keine Bewertung.*
|
||||||
|
2. **Kurz-Reflexion** (5 Fragen aus `leitbild-review` · 10′):
|
||||||
|
- Was war **wirksam** für einen Nordstern?
|
||||||
|
- Was **hinderte** Adhärenz (Energie/Timing/Scope)?
|
||||||
|
- Wo brauchte es **Repair** (ehrlich klären/entschuldigen)?
|
||||||
|
- 2–3 Momente von **Ruhe/Klarheit** – was wiederholen?
|
||||||
|
- **Anerkennung** (Partner/Kinder/Team).
|
||||||
|
3. **Fokus & Entscheidung** (5–10′):
|
||||||
|
- **Top-3 Fokus** kommender Woche (je 1 Zeile, Nordstern zuordnen).
|
||||||
|
- **Genau 1 Decision Note** anlegen (Titel, Entscheidung, Warum, Erfolgsmessung).
|
||||||
|
4. **Kalender checken**: R5/R7/R4 Slots bestätigt? Wenn nicht: **verschieben, nicht streichen**.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 4) Monthly Review – SOP (45–60′)
|
||||||
|
- **Monats-Scoreboard** (Roll-up) befüllen.
|
||||||
|
- **Rückblick**: Beste Entscheidung des Monats? Wo trugen Rituale auch an Low-Energy-Tagen? Welche Regel/Standard braucht Feinschliff?
|
||||||
|
- **Plan & Risiken**: Top-3 Outcomes (mit Messgröße), Risiken & Gegenmaßnahmen.
|
||||||
|
- **Decision Notes**: 1–2 Richtungsentscheide.
|
||||||
|
- **Ziel-/Milestone-Check** in `leitbild-ziele-portfolio` (nur falls nötig).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 5) Quarterly Review – SOP (90′)
|
||||||
|
- **Nordsterne-Check**: noch gültig? Welche 1–2 Metriken je Nordstern waren am prädiktivsten?
|
||||||
|
- **Strategie-Retro**: Keep/Start/Stop, System-Retro (Regeln/SLAs, Nein-Liste), Ritual-Tuning.
|
||||||
|
- **Kurskorrektur**: Meilensteine datieren/verschieben, 1–2 größere **Decision Notes**.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 6) Decision & Deviation – „Wie entscheide ich sauber?“
|
||||||
|
- **Decision Note**: Eine Seite, ein Vorgang. *Kontext → Optionen → Entscheidung (Warum) → Erfolgsmetrik → Review-Datum.*
|
||||||
|
- **Deviation („Schuldschein“)**: Wenn du bewusst von Regel/Prinzip abweichst. *Abweichung → Begründung → Impact → Repair → Next-Check.*
|
||||||
|
- Beide Vorlagen stehen in `leitbild-review` (eingrückte Templates), damit du sie kopieren kannst.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 7) Start-Experiment (14 Tage) nutzen
|
||||||
|
- **Täglich 2–3′**: Zeile im Tages-Tracker füllen (R1/R2/R3/R6 …).
|
||||||
|
- **Tag 7**: **Mid-Tune** – 1 kleine Systemänderung (z. B. Reminder, Cue, Fallback). **Als Decision Note festhalten.**
|
||||||
|
- **Tag 14**: **Abschlussreview** – Was behalten/ändern/streichen? *Version bump* in `leitbild-rituale-system`.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 8) Ordnung halten – Dateien, Edges, Versionen
|
||||||
|
- **Edges**: In jeder Note `depends_on`/`references` prüfen (v. a. `leitbild-text` ↔ Werte/Prinzipien/Rollen/Rituale/Review).
|
||||||
|
- **Versionen**: Bei jeder inhaltlichen Anpassung **version** + **Changelog** aktualisieren.
|
||||||
|
- **Archiv/Git**: Commit + Tag, z. B. `leitbild-text-1.0.0`, `review-0.1.0`, `rituale-0.5.2`.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 9) Optional: Kalender-Snippets (iCal, anpassbar)
|
||||||
|
BEGIN:VEVENT
|
||||||
|
SUMMARY:Weekly Review (Leitbild)
|
||||||
|
RRULE:FREQ=WEEKLY;BYDAY=SU;BYHOUR=19;BYMINUTE=30;BYSECOND=0
|
||||||
|
END:VEVENT
|
||||||
|
|
||||||
|
BEGIN:VEVENT
|
||||||
|
SUMMARY:Monthly Review (Leitbild)
|
||||||
|
RRULE:FREQ=MONTHLY;BYMONTHDAY=28;BYHOUR=18;BYMINUTE=0;BYSECOND=0
|
||||||
|
END:VEVENT
|
||||||
|
|
||||||
|
BEGIN:VEVENT
|
||||||
|
SUMMARY:Quarterly Review (Leitbild)
|
||||||
|
RRULE:FREQ=MONTHLY;INTERVAL=3;BYMONTHDAY=2;BYHOUR=09;BYMINUTE=00;BYSECOND=0
|
||||||
|
END:VEVENT
|
||||||
|
|
||||||
|
> Passe Tag/Uhrzeit an deine Slots an (oder lösche diesen Abschnitt, wenn du Kalender separat pflegst).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 10) Wenn Zeit & Energie knapp sind
|
||||||
|
- **Regel:** **„Weniger, dafür besser“** – Fallbacks **ziehen**, nicht auslassen.
|
||||||
|
- **Heute nur 1 Sache:** *Welche Mini-Aktion bringt den größten Schritt für **einen** Nordstern?*
|
||||||
|
- **Repair first:** Wenn etwas verletzt, **klären** (ehrlich, respektvoll).
|
||||||
|
- **Mini-Reset ≤24 h**: Ausfall bleibt **Ereignis**, wird **nicht** zur neuen Regel.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 11) Qualitätssicherung (Definition of Done)
|
||||||
|
- Weekly Review in Kalender absolviert; **1 Decision Note pro Woche** geschrieben.
|
||||||
|
- R1/R2/R3 **≥6/7**, R6 **≥5/7**, R5 **≥3/4**, R7 **≥1/1**, R4 **≥2/Monat**.
|
||||||
|
- Alle Anpassungen mit **Version + Changelog** dokumentiert.
|
||||||
|
- **Edges konsistent** (Backlinks zwischen Kompass, System, Review, Zielen, Rollen, Prinzipien).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 12) Quick-Open (Was öffne ich, wenn …?)
|
||||||
|
- **… ich mich verliere?** → `leitbild-text` (Kompass, 2 Minuten lesen).
|
||||||
|
- **… mein Tag klemmt?** → `leitbild-rituale-system` (NACh + Fallbacks, 1 Aktion jetzt).
|
||||||
|
- **… ich eine Entscheidung schiebe?** → `leitbild-review` → **Decision Note** anlegen.
|
||||||
|
- **… Haushalt/Regeln knirschen?** → R4 Familienrat (Agenda) + Deviation/Decision Note.
|
||||||
|
- **… ich Fokus brauche?** → Weekly Review „Top-3 Fokus“ erneut anschauen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
@@ -0,0 +1,133 @@
|
|||||||
|
---
|
||||||
|
title: Leitbild – Prinzipien
|
||||||
|
id: leitbild-prinzipien
|
||||||
|
type: concept
|
||||||
|
status: active
|
||||||
|
created: 2025-10-30
|
||||||
|
updated: 2025-10-30
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags:
|
||||||
|
- topic/prinzipien
|
||||||
|
- method/values-to-principles
|
||||||
|
- session/session2
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
version: 1.0.0
|
||||||
|
depends_on:
|
||||||
|
- leitbild-scope
|
||||||
|
- leitbild-werte
|
||||||
|
- leitbild-wertekompass
|
||||||
|
references:
|
||||||
|
- "/mnt/data/Lars- Mein Leitbild.pdf"
|
||||||
|
---
|
||||||
|
|
||||||
|
# Handlungsprinzipien (aus Top-5 Werten abgeleitet)
|
||||||
|
|
||||||
|
> **Tier 1 – Format je Prinzip:** Satz (aktiv) · 3 beobachtbare Signale · Grenzfall/Trade-off · Anti-Pattern-Wächterfrage
|
||||||
|
> **Tier 2 – Mikro-Prinzipien:** 1 Satz · 2 Signale · 1 Wächterfrage
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## P1 – Integrität
|
||||||
|
**Satz:** *Ich spiegele jede wichtige Entscheidung am Werte-Modell und dokumentiere unvermeidbare Abweichungen als „Schuldschein“ binnen 24 h im mindnet.*
|
||||||
|
|
||||||
|
**Beobachtbare Signale**
|
||||||
|
- Entscheidungsnotizen enthalten einen **Kompass-Check** (benannter Wert).
|
||||||
|
- Bei Abweichungen existiert binnen **24 h** eine **decision/exception-Note** („Schuldschein“) mit Begründung, Gültigkeit, Wiedergutmachung.
|
||||||
|
- Ich kann den **Wert hinter der Entscheidung** in **1 Satz** erklären; sonst kurze Vertagung.
|
||||||
|
|
||||||
|
**Grenzfall/Trade-off** Integrität ohne Rigidität – zügig entscheiden, ohne Perfektionismus.
|
||||||
|
**Wächterfrage** *Weiche ich aus **Bequemlichkeit** oder **Prestige** vom Werte-Modell ab? Ist der Schuldschein sauber begründet/befristet?*
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## P2 – Vertrauenswürdigkeit & Ehrlichkeit
|
||||||
|
**Satz:** *Ich kündige drohende Abweichungen von Zusagen **proaktiv vor Fristende** an, **verhandle offen** eine Alternative (Termin/Scope/Compensation) und **liefere die neue Zusage verlässlich**.*
|
||||||
|
|
||||||
|
**Beobachtbare Signale**
|
||||||
|
- Vor Fristende erfolgt **proaktive Info** mit Problem + realistischem Vorschlag.
|
||||||
|
- Die **neue Vereinbarung** ist dokumentiert (Termin/Scope/Compensation).
|
||||||
|
- Die **neue Zusage** wird ohne Nachhaken **on time** erfüllt.
|
||||||
|
|
||||||
|
**Grenzfall/Trade-off** Transparenz ohne Oversharing.
|
||||||
|
**Wächterfrage** *Verschweige ich aus Konfliktvermeidung oder **schönige** ich Fakten?*
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## P3 – Disziplin (Selbstführung)
|
||||||
|
**Satz:** *Ich bin mir selbst gegenüber meinen Vorhaben und Plänen **konsequent**; **unangenehme Tätigkeiten** gehe ich **rechtzeitig** an und **schiebe sie nicht auf**.*
|
||||||
|
|
||||||
|
**Beobachtbare Signale**
|
||||||
|
- **Prioritäten** sind im Kalender sichtbar und werden **vor** Opportunitäten abgearbeitet.
|
||||||
|
- **Unangenehme Aufgaben** erhalten einen **klaren Startpunkt** und beginnen ohne Last-Minute-Hektik.
|
||||||
|
- **Selbst-Fristen** halte ich ein oder ich **re-committe** frühzeitig (siehe P2).
|
||||||
|
|
||||||
|
**Grenzfall/Trade-off** Konsequenz ohne Selbstüberforderung; **Regeneration** bleibt geschützt.
|
||||||
|
**Wächterfrage** *Weiche ich gerade aus **Bequemlichkeit/Müdigkeit** meinem Plan aus?*
|
||||||
|
|
||||||
|
### P3a – Disziplin (Ausprägung: Familienregeln)
|
||||||
|
**Satz:** *Ich setze **wenige klare Regeln** ruhig und **zeitnah** durch, nachdem ich **Bedürfnisse geprüft** habe; Konsequenzen sind **angekündigt** und **verhältnismäßig**.*
|
||||||
|
|
||||||
|
**Beobachtbare Signale**
|
||||||
|
- **Angekündigte Durchsetzungen** (z. B. „in 10 Minuten…“) erfolgen **zum genannten Zeitpunkt**.
|
||||||
|
- Bei Abweichungen nutzen wir den **Familienrat**: Abweichung benennen · **kurzfristige Aufgaben** festlegen · **ohne Beschämung**.
|
||||||
|
- **Elementare Bedürfnisse** gehen vor Dogma; Konsequenzen bleiben **respektvoll** (Bezug: *Respekt*, *Gerechtigkeit*).
|
||||||
|
|
||||||
|
**Grenzfall/Trade-off** Konsequenz vs. Empathie; **keine** dogmatische Strenge gegen Grundbedürfnisse.
|
||||||
|
**Wächterfrage** *Weiche ich aus **Mitleid/Bequemlichkeit** meiner Ansage aus – oder kippe ich in **Starrheit**?*
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## P4 – Gerechtigkeit & Fairness
|
||||||
|
**Satz:** *Ich entscheide nach **klaren, transparenten Maßstäben**, höre **beide Seiten** und mache **begründete Ausnahmen** sichtbar – **ohne** Macht-/Wissensvorsprung auszunutzen.*
|
||||||
|
|
||||||
|
**Beobachtbare Signale**
|
||||||
|
- **Steelman** der stärksten Gegenposition in **1 Satz**.
|
||||||
|
- **Regeln gelten für alle**; **Ausnahmen** sind **begründet & dokumentiert** (Kontext/Bedarf).
|
||||||
|
- **Konsequenzen** sind **angekündigt** und **verhältnismäßig**.
|
||||||
|
|
||||||
|
**Grenzfall/Trade-off** Gleichbehandlung vs. Bedarfsgerechtigkeit – Transparenz entscheidet.
|
||||||
|
**Wächterfrage** *Würde ich diese Entscheidung **akzeptieren**, wenn ich die **andere Person** wäre?*
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## P5 – Respekt
|
||||||
|
**Satz:** *Ich antworte erst, wenn ich **verstanden** habe; ich **würdige Mühe/Prozess**, vermeide Abwertung und behandle **jeden** als gleichwertig.*
|
||||||
|
|
||||||
|
**Beobachtbare Signale**
|
||||||
|
- **Aktives Zuhören** + **Steelman** vor der Antwort.
|
||||||
|
- **Sprache ohne Abwertung**; Verhalten ≠ Person.
|
||||||
|
- **Würdigung**: Einsatz/Fortschritt wird konkret benannt.
|
||||||
|
|
||||||
|
**Grenzfall/Trade-off** Respekt ohne Harmoniesucht; Grenzen bleiben klar.
|
||||||
|
**Wächterfrage** *Reagiere ich auf **Annahmen** statt auf **Verständnis**?*
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# Tier 2 – Mikro-Prinzipien („on deck“, 12 Monate)
|
||||||
|
|
||||||
|
### MP1 – Fürsorge & Familienbindung
|
||||||
|
**Mikro-Prinzip:** *Ich schenke **tägliche Präsenz** (≥5′ bewusster Kontakt) und **schütze** unsere **wöchentliche Familienzeit** als Termin mit hoher Verbindlichkeit.*
|
||||||
|
**Signale:** (1) **Bewusster Kontaktmoment/Tag** (ohne Handy) · (2) **Fixes Wochenritual** findet statt/ist rechtzeitig neu terminiert.
|
||||||
|
**Wächterfrage:** *Ersetze ich gerade **Nähe** durch **Organisation**?*
|
||||||
|
|
||||||
|
### MP2 – Klarheit & Struktur
|
||||||
|
**Mikro-Prinzip:** *Ich formuliere „**Wer macht was bis wann**“ und halte **Mindeststandards sichtbar**.*
|
||||||
|
**Signale:** (1) Aufgaben haben **Owner + Fälligkeit** · (2) **Haushalts-Mindeststandards** sind sichtbar/auffindbar.
|
||||||
|
**Wächterfrage:** *Ist das für **alle** verständlich & auffindbar?*
|
||||||
|
|
||||||
|
### MP3 – Lernorientierung
|
||||||
|
**Mikro-Prinzip:** *Ich kultiviere **Neugier und Begeisterungsfähigkeit**: Ich wähle bewusst ein **aktuelles Interessensgebiet**, das ich **durchdringe und erlerne**.*
|
||||||
|
**Signale:** (1) Pro Quartal ein **Deep-Dive-Thema** im mindnet (mit Leitfragen) · (2) **Wöchentliche Lernnotiz** + **monatlicher Teach-back**.
|
||||||
|
**Wächterfrage:** *Verwechsele ich gerade **Sammeln** mit **Lernen** – wo ist die **Anwendung**?*
|
||||||
|
|
||||||
|
### MP4 – Großzügigkeit
|
||||||
|
**Mikro-Prinzip:** *Ich teile **Zeit/Wissen/Anerkennung** **ohne Bilanzdenken** – **im richtigen Maß**.*
|
||||||
|
**Signale:** (1) **Konkrete Anerkennung** 1×/Tag · (2) **Energiegrenzen** (Schlaf/Training) werden **nicht** geopfert.
|
||||||
|
**Wächterfrage:** *Dient meine Großzügigkeit dem **System** – oder verbrenne ich mich?*
|
||||||
|
|
||||||
|
### MP5 – Mut
|
||||||
|
**Mikro-Prinzip:** *Ich spreche **Unangenehmes früh & respektvoll** an und setze nötige **Neins**.*
|
||||||
|
**Signale:** (1) **Heikle Themen** innerhalb **24 h** adressiert · (2) **Klartext in 1–2 Sätzen**, ohne Abwertung.
|
||||||
|
**Wächterfrage:** *Weiche ich gerade aus **Bequemlichkeit** – oder spreche ich es an?*
|
||||||
@@ -0,0 +1,209 @@
|
|||||||
|
---
|
||||||
|
title: Leitbild – Review-System (Weekly · Monthly · Quarterly)
|
||||||
|
id: leitbild-review
|
||||||
|
type: meeting/journal
|
||||||
|
status: active
|
||||||
|
created: 2025-10-31
|
||||||
|
updated: 2025-10-31
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags: [review, scoreboard, retro, habits, cadence, decision-notes]
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
version: 0.1.0
|
||||||
|
depends_on:
|
||||||
|
- leitbild-ziele-portfolio
|
||||||
|
- leitbild-rituale-system
|
||||||
|
- leitbild-rollen
|
||||||
|
- leitbild-prinzipien
|
||||||
|
references:
|
||||||
|
- "/mnt/data/Lars- Mein Leitbild.pdf"
|
||||||
|
- mgmt-kpi-alignment-2026q1
|
||||||
|
- ai-enablement-roadmap
|
||||||
|
---
|
||||||
|
|
||||||
|
# Zweck
|
||||||
|
Ein klares, leichtgewichtiges Review-System für deine Nordsterne und Rituale.
|
||||||
|
Cadence: **Weekly (20–30′)** · **Monthly (45–60′)** · **Quarterly (90′)**.
|
||||||
|
Prinzipien: **Fakten zuerst (Scoreboard)** → **kurze Reflexion** → **eine Entscheidung je Fokus** → **Decision Note**.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 0) Cadence & Verantwortungen
|
||||||
|
- **Weekly (So oder Mo):** Ich allein. Daten aus `leitbild-rituale-system` (R1–R5) & den Nordstern-KPIs.
|
||||||
|
- **14-tägig (So 14:00):** Familienrat *light* (siehe `leitbild-rituale-system`, R4).
|
||||||
|
- **Monthly:** Ich + (sofern sinnvoll) Sushi für Partner-/Familien-Themen.
|
||||||
|
- **Quarterly:** Ich (Strategie) + Einbindung relevanter Stakeholder (z. B. Co-Trainer, Management für KPIs).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 1) Weekly Review (Template) · 20–30 Minuten
|
||||||
|
**Ablauf (Timebox):** 1) **Scoreboard** (10′) · 2) **Reflexion** (10′) · 3) **Fokus & Decision Note** (5–10′).
|
||||||
|
|
||||||
|
## 1.1 Scoreboard (Woche)
|
||||||
|
> Trage die Zahlen ein; **keine Bewertung** bevor die Fakten stehen.
|
||||||
|
|
||||||
|
| Dimension | KPI (Lead/Lag) | Ziel | Ist | Ampel |
|
||||||
|
|---|---|---:|---:|:--:|
|
||||||
|
| **Ich-Pflege** | R1 Meditation Tage/W | ≥6 | | |
|
||||||
|
| | R2 Mobility Tage/W | ≥6 | | |
|
||||||
|
| | R3 Journal Tage/W | ≥6 | | |
|
||||||
|
| | Ernährungstage im Plan (histamin-/glutenbewusst) | ≥6 | | |
|
||||||
|
| | Monitoring-Logs (Gewicht/Taille/BP) | 1×/W | | |
|
||||||
|
| **Vater** | 1:1-Tage je Sohn | ≥5 | | |
|
||||||
|
| | Konsequenzen-Quote (zeitnah, fair) | ≥90% | | |
|
||||||
|
| | Haushalts-Standards im Soll (Ablagen/Böden/Küche) | ≥80% | | |
|
||||||
|
| | Bewegungseinheiten (Familie) | ≥2 | | |
|
||||||
|
| **Partner** | Load-Check (10′ durchgeführt) | 1× | | |
|
||||||
|
| | Paar-Ritual R5 (Tanzen) | ≥3/4 | | |
|
||||||
|
| | Konflikte ≤48 h geklärt | ≥90% | | |
|
||||||
|
| **Karate & Gewaltschutz** | Curriculum/Plan aktualisiert | 1× | | |
|
||||||
|
| | Trainer-Pipeline Touches (Scouting/Co-Teach/Peer) | ≥3/W | | |
|
||||||
|
| **Freund (Neuaufbau)** | Neue Kontakte qualifiziert | ≥2/Monat → ~0.5/W | | |
|
||||||
|
| | 1:1-Gespräche | ≥4/Monat → ~1/W | | |
|
||||||
|
| | Mikro-Event geplant/abgehalten | ≥1/Monat | | |
|
||||||
|
| **Berufsrolle (AI-first)** | OTQ (On-time-quality, grob) | ≥90% | | |
|
||||||
|
| | AI-Use-Log gepflegt (je Deliverable) | 100% | | |
|
||||||
|
| | Asset-Progress (Prompt/Playbook/Dataset) | ≥0.5/W | | |
|
||||||
|
|
||||||
|
> Hinweis: Monatliche KPIs (z. B. neue Freunde/1:1/Mikro-Event, Karate-Events, AI-Assets, Clinics) werden **unten** zusätzlich monatlich verdichtet.
|
||||||
|
|
||||||
|
## 1.2 Reflexion (kurz)
|
||||||
|
- **Wirksam:** Was hat diese Woche **messbar** einen Nordstern vorangebracht?
|
||||||
|
- **Hindernis:** Was hat Adhärenz verhindert (Energie, Kontext, unklare Entscheidung, Scope-Creep)?
|
||||||
|
- **Integrität & Repair:** Wo wich ich von Werten/Prinzipien ab? Habe ich repariert (z. B. ehrliche Klärung/Entschuldigung)?
|
||||||
|
- **Energie:** Wo lagen 2–3 Momente echter Ruhe/Klarheit? Was davon will ich wiederholen?
|
||||||
|
- **Beziehungen:** Eine Anerkennung (Partner/Kinder/Team).
|
||||||
|
|
||||||
|
## 1.3 Fokus & Decision Note
|
||||||
|
- **Top-3 Fokus der nächsten Woche** (eine Zeile je Punkt; Nordstern zuordnen)
|
||||||
|
- **Eine Entscheidung jetzt** (z. B. Nein sagen, Termin blocken, Experiment starten) → **Decision Note** ausfüllen.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 2) Monthly Review (Template) · 45–60 Minuten
|
||||||
|
**Ablauf:** 1) **Monats-Scoreboard** (15′) · 2) **Rückblick** (15′) · 3) **Plan & Risiken** (15–30′).
|
||||||
|
|
||||||
|
## 2.1 Monats-Scoreboard (Roll-up)
|
||||||
|
| Dimension | KPI | Ziel/Monat | Ist | Ampel |
|
||||||
|
|---|---|---:|---:|:--:|
|
||||||
|
| **Ich-Pflege** | ≥8/12 Monate mit ≥4 Lead-Routinen/Woche | on track? | | |
|
||||||
|
| | Arzt/Check-up/Lab (falls fällig) | Soll | | |
|
||||||
|
| **Vater** | Quartalsprojekt-Fortschritt (Qx) | on track | | |
|
||||||
|
| | Medienregel-Compliance Wochen | ≥80% | | |
|
||||||
|
| **Partner** | Paar-Rituale durchgeführt | ≥3/4 | | |
|
||||||
|
| | Konflikte ≤48 h geklärt | ≥90% | | |
|
||||||
|
| **Karate & Gewaltschutz** | Events (KaraGames/Camp/Offen) | ≥1–3/Jahr | | |
|
||||||
|
| | Trainer-Pipeline: Interessenten | ≥6/Jahr | | |
|
||||||
|
| | Mentees aktiv | ≥4/Jahr | | |
|
||||||
|
| | Co-Teachings/Mentee | ≥8/Jahr | | |
|
||||||
|
| | Peer-Reviews | ≥2/Jahr | | |
|
||||||
|
| **Freund (Neuaufbau)** | Neue Kontakte | ≥2 | | |
|
||||||
|
| | 1:1-Gespräche | ≥4 | | |
|
||||||
|
| | Mikro-Events | ≥1 | | |
|
||||||
|
| **Berufsrolle (AI-first)** | AI-Assets erstellt | ≥2/Quartal | | |
|
||||||
|
| | Clinics (A2) durchgeführt | ≥2/Monat (Ø≥4.5/5) | | |
|
||||||
|
| | Research: Insight/Deep-Dive | 1/Monat · 1/Q | | |
|
||||||
|
| | Stakeholder-NPS (intern) | ≥8/10 | | |
|
||||||
|
|
||||||
|
## 2.2 Rückblick (Kernfragen)
|
||||||
|
- **Was war die beste Entscheidung des Monats – und warum?**
|
||||||
|
- **Wo haben Rituale getragen (auch an Low-Energy-Tagen)?**
|
||||||
|
- **Welche Regel/Standard im Haushalt braucht Feinschliff?**
|
||||||
|
- **Welche Beziehung habe ich sichtbar gestärkt (wie genau)?**
|
||||||
|
- **Was lasse ich bewusst weg (WIP-Limit)?**
|
||||||
|
|
||||||
|
## 2.3 Plan & Risiken
|
||||||
|
- **Monat: Top-3 Outcomes** (mit Messgröße)
|
||||||
|
- **Risiken & Anti-Pattern** (Overcommitment, Perfektionismus, Kontextwechsel) → Gegenmaßnahme (eine Zeile).
|
||||||
|
- **Entscheidung(en)** → **Decision Note**.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 3) Quarterly Review (Template) · 90 Minuten
|
||||||
|
**Ablauf:** 1) **Nordsterne-Check** (30′) · 2) **Strategie-Retro** (30′) · 3) **Kurskorrektur & Commit** (30′).
|
||||||
|
|
||||||
|
## 3.1 Nordsterne-Check (2026–2029)
|
||||||
|
- **Bleiben die 6 Nordsterne gültig?** (Vater · Ich-Pflege · Karate & Gewaltschutz (+ Traineraufbau) · Partner · Freund (Neuaufbau) · Berufsrolle AI-first)
|
||||||
|
- **Messung (Lead/Lag):** Welche 1–2 Metriken je Nordstern waren am stärksten prädiktiv?
|
||||||
|
- **Jahresziele 2026:** On-track? Wo droht Verzug?
|
||||||
|
- **Meilensteine:** Termine halten oder verschieben?
|
||||||
|
|
||||||
|
## 3.2 Strategie-Retro (Was lernen wir?)
|
||||||
|
- **Keep/Start/Stop:** Was behalten, beginnen, beenden?
|
||||||
|
- **System-Retro:** Wo fehlt Klarheit (Regeln/Standards/SLAs), wo fehlen Grenzen (Nein-Liste)?
|
||||||
|
- **Ritual-Tuning:** Welche NACh-Formeln anpassen (Trigger, Fallback, Check)?
|
||||||
|
- **AI-first (Beruf):** Welche Assets/Guardrails fehlen, um Reuse & Compliance zu erhöhen?
|
||||||
|
|
||||||
|
## 3.3 Kurskorrektur & Commit
|
||||||
|
- **Neue/angepasste Meilensteine** (Datum, Owner, Messung)
|
||||||
|
- **Monats-Cadence aktualisieren**
|
||||||
|
- **Decision Notes** für Kern-Kurswechsel
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 4) Entscheidung & Abweichung – Vorlagen
|
||||||
|
|
||||||
|
## 4.1 Decision Note (ein Vorgang = eine Seite)
|
||||||
|
title: Decision Note – <kurzer Titel>
|
||||||
|
date: <YYYY-MM-DD>
|
||||||
|
context: <Worum geht es, warum jetzt?>
|
||||||
|
options:
|
||||||
|
- <Option A – Pros/Cons>
|
||||||
|
- <Option B – Pros/Cons>
|
||||||
|
decision: <getroffene Entscheidung + Warum>
|
||||||
|
owner: <Name>
|
||||||
|
review_date: <YYYY-MM-DD> # optional
|
||||||
|
linked_nordstern: <id oder name>
|
||||||
|
success_metric: <Wie messen wir die Wirksamkeit?>
|
||||||
|
|
||||||
|
## 4.2 „Schuldschein“ – bewusste Abweichung von Regel/Prinzip
|
||||||
|
title: Deviation Note – <Regel/Prinzip>
|
||||||
|
date: <YYYY-MM-DD>
|
||||||
|
deviation: <Wovon bin ich abgewichen?>
|
||||||
|
reasoning: <Begründung / Kontext>
|
||||||
|
impact: <Risiken / Kosten>
|
||||||
|
repair: <Konkreter Repair-Schritt (z. B. ehrliche Info/Entschuldigung)>
|
||||||
|
next_check: <Datum für kurze Wirksamkeitskontrolle>
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 5) Erfassungs-CSV (für Sheets/Obsidian)
|
||||||
|
|
||||||
|
## 5.1 Weekly Log (eine Zeile pro Woche; Mo–So)
|
||||||
|
week_ending,meditation_days,mobility_days,journal_days,nutrition_days,monitoring_done,one_on_one_days_rohan,one_on_one_days_rouven,consequence_rate,household_standards_ok_percent,family_movement_sessions,load_check_done,couple_dance_done,conflicts_resolved_48h,karate_pipeline_touches,friends_new_contacts,friends_one_on_ones,friends_micro_event,otq_percent,ai_use_log_complete,asset_progress_flag,notes
|
||||||
|
2025-11-02,6,6,6,6,y,5,5,0.9,0.85,2,y,y,0.9,3,1,1,n,0.95,y,y,""
|
||||||
|
|
||||||
|
## 5.2 Monthly Roll-up
|
||||||
|
month,meditation_adherence,mobility_adherence,journal_adherence,mini_resets,quartalsprojekt_familie_status,media_rules_weeks_ok,couple_ritual_count,conflict_48h_rate,karate_events,f_trainer_interessenten,f_mentees,co_teachings_per_mentee,peer_reviews,friends_new_contacts,friends_one_on_ones,friends_micro_events,ai_assets,clinics_done,clinics_avg_rating,research_insight,research_deep_dive,stakeholder_nps,notes
|
||||||
|
2025-11,0.86,0.86,0.86,2,on_track,0.8,3,0.9,1,2,2,1,3,5,1,2,2,4.7,y,n,8.2,""
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 6) Kurz-Prompts für die Review (Copy-Paste)
|
||||||
|
- **Weekly – Fokus finden:**
|
||||||
|
„Angenommen, ich darf **nur eine Sache** kommende Woche richtig gut machen: **Welche** bringt die größte Wirkung für **welchen Nordstern**? Was ist die **nächste sichtbare Aktion**?“
|
||||||
|
- **Repair vorziehen:**
|
||||||
|
„Wen habe ich (auch unabsichtlich) verletzt/übergangen? Wie repariere ich es **diese Woche** respektvoll & klar?“
|
||||||
|
- **Nein sagen:**
|
||||||
|
„Welche Anfrage blockiert meine Nordsterne? Wie formuliere ich ein **wertschätzendes Nein** mit Alternativen?“
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 7) Verknüpfungen
|
||||||
|
- **Rituale & Checks:** `leitbild-rituale-system` (R1–R5, NACh, Tracker)
|
||||||
|
- **Ziele/Nordsterne:** `leitbild-ziele-portfolio` (Version **1.0.0**)
|
||||||
|
- **Werte & Prinzipien:** `leitbild-werte`, `leitbild-prinzipien`
|
||||||
|
- **Rollen:** `leitbild-rollen`
|
||||||
|
- **Externe Abhängigkeit:** `mgmt-kpi-alignment-2026q1` (Savings-KPI; Berufsrolle A2)
|
||||||
|
- **AI-Guardrails:** `ai-enablement-roadmap`
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 8) Nutzungshinweise
|
||||||
|
- **Erst Fakten, dann Gefühl:** Scoreboard füllen **vor** der Reflexion.
|
||||||
|
- **Klein halten:** Pro Review **eine** Decision Note reicht.
|
||||||
|
- **Kein „alles-egal“:** Bei Ausfall **Mini-Reset ≤24 h** (siehe Rituale).
|
||||||
|
- **Archiv:** Jede Weekly/Monthly/Quarterly-Review als eigene Meeting-Note (Backlink auf diese Master-Note).
|
||||||
|
|
||||||
|
---
|
||||||
@@ -0,0 +1,149 @@
|
|||||||
|
---
|
||||||
|
title: Leitbild – Rituale & Systeme
|
||||||
|
id: leitbild-rituale-system
|
||||||
|
type: project
|
||||||
|
status: active
|
||||||
|
created: 2025-10-31
|
||||||
|
updated: 2025-10-31
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags: [rituale, habits, NACh, recovery, ich-pflege, journal, familienrat, paar-ritual, tanzen, vater, 1on1]
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
version: 0.5.2
|
||||||
|
depends_on:
|
||||||
|
- leitbild-ziele-portfolio
|
||||||
|
- leitbild-prinzipien
|
||||||
|
- leitbild-rollen
|
||||||
|
references:
|
||||||
|
- "/mnt/data/Lars- Mein Leitbild.pdf"
|
||||||
|
- leitbild-review
|
||||||
|
---
|
||||||
|
|
||||||
|
# Ziel
|
||||||
|
Ein kleines, verlässliches Ritualsystem für Recovery & Alltag – täglich:
|
||||||
|
- R1: 20′ Meditation
|
||||||
|
- R2: 10′ Flexibilität/Mobility
|
||||||
|
- R3: Abends Journal
|
||||||
|
- R6: 5′ 1:1 mit Rohan
|
||||||
|
|
||||||
|
sowie 14-tägig:
|
||||||
|
- R4: Familienrat light (30–45′)
|
||||||
|
|
||||||
|
und wöchentlich:
|
||||||
|
- R5: Paar-Ritual – Tanzen (45–60′)
|
||||||
|
- R7: 1:1 mit Rouven (20–30′)
|
||||||
|
|
||||||
|
Alle Rituale mit NACh-Formel (Nächste Aktion + Trigger + Check), Fallbacks und klarer Messung.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# DAILY RITUALE
|
||||||
|
|
||||||
|
## R1 – Meditation (Zazen) · 20 Minuten
|
||||||
|
NACh-Formel
|
||||||
|
- Trigger (fest): erster ruhiger 30′-Block des Tages
|
||||||
|
- Backup-Trigger: direkt nach dem ersten Heißgetränk
|
||||||
|
- Aktion: Timer 20′ → aufrecht sitzen → Atem zählen (1–10; bei Abschweifen zurück auf 1)
|
||||||
|
- Check: R1 abhaken; Ruhe-Skala 1–10
|
||||||
|
- Umgebung/Cues (fix): Sitzkissen sichtbar am Sitzplatz; Handy-Fokus „Zazen“; Kopfhörer/NC optional
|
||||||
|
Low-Energy-Fallback (≤5′): 60 Atemzüge oder 2× 4-7-8
|
||||||
|
|
||||||
|
## R2 – Flexibilität/Mobility · 10 Minuten
|
||||||
|
NACh-Formel
|
||||||
|
- Trigger (fest): die ersten 10′ der Mittagspause
|
||||||
|
- Backup-Trigger: nach dem ersten >60′-Computerblock
|
||||||
|
- Aktion (ca. 10′): Cat-Cow 60″ · Hüftbeuger-Lunge L/R 45″ · „Open Book“ BWS L/R 45″ · Hamstrings 60″ · Waden L/R 45″ · 5 Zwerchfellzüge
|
||||||
|
- Check: R2 abhaken; Spannungsgefühl 1–10 (vor/nach)
|
||||||
|
Low-Energy-Fallback (≤3′): 1× „Open Book“ je Seite + 5 Atemzüge in Bauchlage
|
||||||
|
|
||||||
|
## R3 – Abendliches Journal · 1 Seite (oder 3 Zeilen)
|
||||||
|
NACh-Formel
|
||||||
|
- Trigger (fest): bevor das Licht ausgeht
|
||||||
|
- Backup-Trigger: direkt nach dem Zähneputzen
|
||||||
|
- Aktion (Template): Wirksam heute (3) · Anerkennung (1 Satz) · Fokus morgen (1 Entscheidung)
|
||||||
|
- Check: R3 abhaken; Stimmung 1–10
|
||||||
|
- Umgebung/Cues (fix): Journal + Stift griffbereit am Bett
|
||||||
|
Low-Energy-Fallback (≤60″): 3-Zeilen-Journal („1 gut · 1 gelernt · 1 nächster Schritt“)
|
||||||
|
|
||||||
|
## R6 – 1:1 mit Rohan · 5 Minuten
|
||||||
|
NACh-Formel
|
||||||
|
- Trigger (fest): direkt nach dem Abendessen (nach Abdecken/Abspülen)
|
||||||
|
- Backup-Trigger: 20:30 Erinnerung, falls Abendessen zerfleddert
|
||||||
|
- Aktion: Mini-Spot (Sofa/Schreibtisch/kurzer Gang) – 2 Fragen: „Was war heute gut?“ · „Was machen wir morgen?“ (ggf. 1 Mini-Aufgabe)
|
||||||
|
- Check: R6 abhaken; Bindungsgefühl 1–10
|
||||||
|
Low-Energy-Fallback (≤120″): 3-Satz-Check-in: „1 gut · 1 schwierig · 1 für morgen“
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# WÖCHENTLICHE RITUALE
|
||||||
|
|
||||||
|
## R5 – Paar-Ritual Tanzen · 45–60 Minuten
|
||||||
|
NACh-Formel
|
||||||
|
- Trigger (fest): Sonntag, 17:00
|
||||||
|
- Backup-Trigger: Freitag, 20:00
|
||||||
|
- Aktion: Ankommen (5′) · Warm-up (5′) · Tanzen (30–40′) · Cool-down + 1 Anerkennung (5′)
|
||||||
|
- Check: R5 abhaken; Nähe/Verbundenheit 1–10
|
||||||
|
Low-Energy-Fallback (15–20′): „Slow Walk & Talk“ oder „2 Songs Wohnzimmer“ oder „gemeinsames Stretching“
|
||||||
|
|
||||||
|
## R7 – 1:1 mit Rouven · 20–30 Minuten
|
||||||
|
NACh-Formel
|
||||||
|
- Trigger (festgelegt): Samstag, 11:00 (Walk & Talk oder gemeinsames Projekt)
|
||||||
|
- Backup-Trigger: Mittwoch, 19:30 (nach dem Abendessen)
|
||||||
|
- Aktion (Beispiel): 5′ Check-in · 10–20′ Walk & Talk/Projekt (seine Wahl) · Abschlussfrage: „Wobei wünschst du dir Unterstützung – und was machst du als Nächstes?“
|
||||||
|
- Check: R7 abhaken; Nähe/Verbundenheit 1–10
|
||||||
|
Low-Energy-Fallback (≤5′): kurzer Türrahmen-Check-in (3 Fragen à 1 Satz)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# 14-TÄGIGES RITUAL
|
||||||
|
|
||||||
|
## R4 – Familienrat light · 30–45 Minuten
|
||||||
|
NACh-Formel
|
||||||
|
- Trigger (fest): jeder 2. Sonntag, 14:00 (direkt nach dem Mittagessen)
|
||||||
|
- Backup-Trigger: Montag, 19:00 (dieselbe Woche)
|
||||||
|
- Aktion (Agenda, timeboxed): Check-in (5′) · Anerkennung (5′) · Regeln/Standards (10′) · Woche voraus (10′) · Projekte/Medien (5′) · Entscheidungen (5′, schriftlich)
|
||||||
|
- Check: Mini-Protokoll im Vault; Klärung ≤48 h offener Punkte
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# MESSUNG & ZIELE
|
||||||
|
- Wöchentlich: R1 ≥6/7 · R2 ≥6/7 · R3 ≥6/7 · R6 ≥5/7 · R7 ≥1/1 · R5 ≥3/4
|
||||||
|
- 14-tägig: R4 ≥2/Monat (~26/Jahr); Klärung ≤48 h in ≥90 %; Protokollquote 100 %
|
||||||
|
- Quartal (Ich-Pflege): ≥8/12 Monate mit ≥4 Lead-Routinen/Woche erfüllt
|
||||||
|
- Relapse-Shield: Ausfall ⇒ Mini-Reset ≤24 h (kein „alles-egal“)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# TRACKER (Beispiele)
|
||||||
|
Daily Log (eine Zeile je Tag)
|
||||||
|
date,R1_meditation_y_n,R1_calm_1_10,R2_mobility_y_n,R2_tension_delta,R3_journal_y_n,mood_1_10,R6_1on1_rohan_y_n,bond_rohan_1_10,R5_couple_dance_y_n,closeness_1_10,R4_familienrat_y_n,decisions_logged_y_n,notes
|
||||||
|
2025-11-02,y,7,y,-2,y,8,y,8,y,8,,,"Paar-Ritual #1"
|
||||||
|
2025-11-09,y,7,y,-1,y,8,y,9,y,9,y,y,"Familienrat #1 (14:00)"
|
||||||
|
|
||||||
|
Weekly Roll-up (eine Zeile je Woche; Mo–So)
|
||||||
|
week_ending,R1_days,R2_days,R3_days,R6_days,R5_done_y_n,R7_done_y_n,bond_rohan_avg,bond_rouven,household_standards_ok_percent,conflicts_resolved_48h,notes
|
||||||
|
2025-11-09,6,6,6,6,y,y,8,7,0.85,0.9,""
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# INTEGRATION & ANKER
|
||||||
|
- Vater: R6 (Rohan täglich) + R7 (Rouven samstags) stützen 1:1-KPI
|
||||||
|
- Partner: R5 stärkt Nähe & Kommunikation; R4 reduziert Reibung via klare Entscheidungen
|
||||||
|
- Ich-Pflege: R1/R2/R3 als direkte Lead-KPIs; Journal (R3) enthält 1 Anerkennungssatz/Tag
|
||||||
|
- Review: Wöchentliche/14-tägige Summen → leitbild-review (Weekly/Monthly/Quarterly)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# RISIKEN & GUARDRAILS
|
||||||
|
- Überperfektionierung: 20′ ≠ 0′ – bei Zeitknappheit Fallback nutzen
|
||||||
|
- Cheat-Day-Falle: Kein „alles-egal“ – Mini-Reset ≤24 h
|
||||||
|
- Gesundheit: Mobility schmerzfrei; ggf. Übungen tauschen
|
||||||
|
- Familie: Keine Beschämung; 1:1 ist Qualitätszeit, nicht Verhör
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
# CHANGELOG
|
||||||
|
- 0.5.2: Standard-Cues fixiert (R1: Sitzkissen sichtbar; R3: Journal + Stift am Bett)
|
||||||
|
- 0.5.1: R7 auf Samstag 11:00 (Backup Mi 19:30)
|
||||||
|
- 0.5.0: R7 (Rouven) hinzugefügt; R6 (Rohan) täglich etabliert
|
||||||
@@ -0,0 +1,249 @@
|
|||||||
|
---
|
||||||
|
title: Leitbild – Rollenlandkarte
|
||||||
|
id: leitbild-rollen
|
||||||
|
type: concept
|
||||||
|
status: active
|
||||||
|
created: 2025-10-30
|
||||||
|
updated: 2025-10-31
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags: [topic/rollen, method/role-mission, area/personal_development]
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
version: 1.2.0
|
||||||
|
depends_on:
|
||||||
|
- leitbild-scope
|
||||||
|
- leitbild-werte
|
||||||
|
- leitbild-prinzipien
|
||||||
|
references:
|
||||||
|
- "/mnt/data/Lars- Mein Leitbild.pdf"
|
||||||
|
---
|
||||||
|
|
||||||
|
# Rollenlandkarte
|
||||||
|
|
||||||
|
## Rollenübersicht
|
||||||
|
- Vater (Söhne: **Rouven (18)**, **Rohan (15)**)
|
||||||
|
- Partner (Sushi)
|
||||||
|
- **Berufsrolle (Umbrella): Advisor/Research Lead & Ausbilder**
|
||||||
|
- A1: Leiter Recherche (Deutschland)
|
||||||
|
- A2: Global Lead IT-Kostenreduzierung
|
||||||
|
- A3: Ausbilder (Trainee-Programm)
|
||||||
|
- Karate- & Gewaltschutztrainer (ca. 80 Kinder) · **Erweitertes Feld: Traineraufbau & Multiplikation**
|
||||||
|
- Freund (soziales Umfeld)
|
||||||
|
- Ich-Pflege (Gesundheit, Meditation, Sport)
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Vater
|
||||||
|
**Mission (Kern, 3 Sätze):**
|
||||||
|
Ich bin als Vater **verlässlich präsent** und schaffe **jeden Tag echte Nähe**.
|
||||||
|
Ich **führe ruhig und konsequent**: wenige klare Regeln, fair angekündigte, verhältnismäßige Konsequenzen – **mit Blick auf Bedürfnisse**.
|
||||||
|
Ich **stärke Selbstwirksamkeit, Neugier, Sport und Charakter**, damit meine Söhne verantwortungsvolle, empathische und widerstandsfähige junge Männer werden.
|
||||||
|
|
||||||
|
**Ausprägungen je Sohn (Fokus):**
|
||||||
|
- **Rouven (18)** – *Übergang in die Erwachsenenrolle*: Ownership für Entscheidungen & Finanzen; berufliche Orientierung aktiv gestalten; Beiträge im Haushalt verbindlich; Austausch auf Augenhöhe (Klartext ohne Abwertung).
|
||||||
|
- **Rohan (15)** – *Bindung & Struktur*: tägliche Nähe und gemeinsames Projekt (z. B. Smart-Home-Assistent); faire, verlässliche Regeln & Medienbalance; soziale Integration und Selbstwert stärken.
|
||||||
|
|
||||||
|
**Qualitätskriterien (verbindlich):**
|
||||||
|
- **Nähe & Präsenz:** täglich ≥ **5 Min 1:1** + **wöchentliches Ritual** (fixer Termin oder rechtzeitig neu terminiert).
|
||||||
|
- **Faire Führung:** **angekündigte** Durchsetzungen erfolgen **zum Zeitpunkt**; Bedürfnisse vorher **geprüft** (Bezug: *Respekt*, *Gerechtigkeit*).
|
||||||
|
- **Entwicklung:** je Sohn **Quartalsprojekt** mit klarer Rolle & Abschluss; **Teach-back** mind. 1×/Monat.
|
||||||
|
- **Kommunikation:** Konflikte werden innerhalb **48 h** adressiert; vor Antworten **Steelman** der Gegensicht.
|
||||||
|
- **Ordnung & Standards (explizit):**
|
||||||
|
- **Ablageflächen & Böden frei** von Dingen, die dort nicht hingehören.
|
||||||
|
- **Küche morgens komplett aufgeräumt.**
|
||||||
|
- **Kein sichtbarer Dreck** (sichtbare Flächen).
|
||||||
|
|
||||||
|
**Aktuelles Quartalsprojekt (Dokumentationsstand):**
|
||||||
|
- **Präferiert:** *Smart-Home-Assistent für Rohans Zimmer* (Voice-Steuerung).
|
||||||
|
- **Fallback:** *Game/Mod-Design/Koop-Projekt*.
|
||||||
|
- **Guardrail:** Vater **dominiert nicht** – Rollen/Schritte gemeinsam festlegen.
|
||||||
|
|
||||||
|
**Grenzen / Nein-Liste:**
|
||||||
|
- Keine **Beschämung/Anschreien**; Verhalten ≠ Person.
|
||||||
|
- Keine **externen Zusatz-Verpflichtungen** zulasten Familienzeit (Ausnahmen gemeinsam beschließen).
|
||||||
|
- Kein **„Rettungsmodus“**, der Eigenverantwortung ersetzt (natürliche, faire Konsequenzen).
|
||||||
|
- Keine **ad-hoc Regeldiskussionen** im Stress – stattdessen Termin/Familienrat.
|
||||||
|
|
||||||
|
**Stakeholder-Landkarte:**
|
||||||
|
- **Primär:** Rouven, Rohan
|
||||||
|
- **Sekundär:** Sushi (Co-Führung Haushalt/Regeln), Schule/Verein(e)
|
||||||
|
- **Schnittstellen/Erwartungen:** Verlässliche Erreichbarkeit, transparente Regeln, respektvolle Kommunikation
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Partner
|
||||||
|
**Mission (2 Sätze):**
|
||||||
|
Wir führen unseren Alltag **als Team**: klare Zuständigkeiten, **faire Lastverteilung** und **respektvolle Kommunikation**; Konflikte klären wir **zeitnah**.
|
||||||
|
Ich bin **verlässlich, zärtlich und präsent**; ich **erkenne Sushis gesundheitliche Situation an**, schütze **unsere Energie** durch gute **Grenzen** und **gemeinsame Rituale**.
|
||||||
|
|
||||||
|
**Qualitätskriterien (verbindlich):**
|
||||||
|
- **Faire Lastverteilung (Weekly Load-Check):** 1×/Woche **10 Min** Abgleich „Was ist zu viel/zu wenig?“ – Anpassung sofort.
|
||||||
|
- **Energie schützen:** **Ruhefenster** + **Medizin-/Thermie-Bedürfnisse** werden **vor** Terminen eingeplant (Kalender sichtbar).
|
||||||
|
- **Rituale & Nähe:** Mind. **1 Paar-Ritual/Woche** (Spaziergang, Tee, Serie) – **rechtzeitig neu terminiert**, nicht ersatzlos gestrichen.
|
||||||
|
- **Wertschätzung konkret:** **Täglich 1 Satz** Anerkennung (Fakt + Wirkung), möglichst im Moment.
|
||||||
|
|
||||||
|
**Grenzen / Nein-Liste:**
|
||||||
|
- **Kein Retter-Modus:** Ich übernehme Sushis Aufgaben **nicht automatisch**; Unterstützung = **Enablement**.
|
||||||
|
- **Keine Schuldzuweisung/Abwertung**; bei Eskalation **Time-out** (max. 30 Min) + **Rückkehrzeit** vereinbaren.
|
||||||
|
- **Keine ungeplanten Zusatzverpflichtungen** zulasten Paar-Ritual/Medizin-Terminen; Änderungen **nur gemeinsam**.
|
||||||
|
|
||||||
|
**Stakeholder-Landkarte:**
|
||||||
|
- **Primär:** Sushi
|
||||||
|
- **Sekundär:** Rouven, Rohan
|
||||||
|
- **Schnittstellen/Erwartungen:** Ärzt:innen/Therapie, Familienrat/Kalender – **sichtbare Planung** & **verbindliche Absprachen**
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Berufsrolle (Umbrella): Advisor/Research Lead & Ausbilder
|
||||||
|
**Mission (2 Sätze):**
|
||||||
|
Ich liefere **wirksame Ergebnisse** aus einem Guss: **evidenzbasiert** (Research), **wert-/kostenorientiert** (IT-Kostenreduzierung) und **menschenzentriert** (Ausbildung).
|
||||||
|
Ich **priorisiere wenige Initiativen**, halte **Zusagen**, skaliere Wirkung durch **Wissensteilung** und **klare Standards**.
|
||||||
|
|
||||||
|
**Globale Qualitätskriterien (verbindlich):**
|
||||||
|
- **Priorisierung & Fokus:** Quartals-OKRs (max. 3) je Unterverantwortung; **Wochen-Top-3** sichtbar.
|
||||||
|
- **Lieferzuverlässigkeit:** Zusagen **on time/quality ≥ 90 %**; Abweichungen **vor Fristende** re-committet.
|
||||||
|
- **Evidenz-Standard:** Outputs mit **Quellen, Annahmen, Rechenwegen** (reproduzierbar).
|
||||||
|
- **Wissensskalierung:** je Quartal **≥ 2 wiederverwendbare Assets** (Playbook/Template/Script).
|
||||||
|
- **Stakeholder-Kommunikation:** **monatliches Steering** je Unterverantwortung (No-Surprises).
|
||||||
|
|
||||||
|
**Grenzen / Nein-Liste (verbindlich):**
|
||||||
|
- **Kein Overcommitment**: Keine Zusage ohne Zeitfenster/Owner.
|
||||||
|
- **Kein „Slideware ohne Boden“**: Keine Empfehlung ohne Daten/Validierung.
|
||||||
|
- **Kein Hero-Modus**: Nachhaltige Pace > kurzfristige Glanzleistung.
|
||||||
|
- **Keine stillen Scope-Changes**: Änderungen **transparent** und **schriftlich**.
|
||||||
|
|
||||||
|
**Stakeholder-Landkarte:**
|
||||||
|
- **Primär:** interne Auftraggeber/Accounts, Trainees, Research-Team
|
||||||
|
- **Sekundär:** Offering-/Delivery-Leads, Practice-Heads, Vertrieb
|
||||||
|
- **Schnittstellen/Erwartungen:** klare Auftragsklärung, definierte SLAs, Assets im Wissenssystem
|
||||||
|
|
||||||
|
### A1 – Leiter Recherche (Deutschland)
|
||||||
|
**Mission:**
|
||||||
|
Wir liefern für D-Themen **schnelle, belastbare Einsichten** und **wiederverwendbare Bausteine**, die Entscheidungen **beschleunigen**.
|
||||||
|
|
||||||
|
**Kern-KPIs (3–4):**
|
||||||
|
- **Briefing-SLA**: Standard-Anfragen **≤ 5 AT**; Ad-hoc **≤ 2 AT** je nach Komplexität.
|
||||||
|
- **Publikations-Cadence**: **1 Insight/Monat** (Short) + **1 Deep-Dive/Quartal**.
|
||||||
|
- **Reuse-Quote**: ≥ **50 %** der Outputs werden **mind. 2×** wiederverwendet.
|
||||||
|
- **Stakeholder-NPS intern**: **≥ 8/10** je Quartal.
|
||||||
|
|
||||||
|
**Mini-Grenzen:** keine „Copy-Paste-Trends“ ohne Quelle; keine Veröffentlichung ohne **Peer-Check**.
|
||||||
|
|
||||||
|
### A2 – Global Lead IT-Kostenreduzierung
|
||||||
|
**Mission:**
|
||||||
|
Ich befähige globale Accounts, **nachhaltig IT-Kosten zu senken** (Opex/Capex) **ohne** Wertverlust – via **Playbooks, Coaching und Leuchtturm-Cases**.
|
||||||
|
|
||||||
|
**Kern-KPIs (3–4):**
|
||||||
|
- **Playbook-Adoption**: **≥ 5 Accounts/Quartal** nutzen Module/Checklists.
|
||||||
|
- **Savings-Pipeline**: **≥ € X Mio/Quartal** qualifizierte Maßnahmen (Summe aus Accounts).
|
||||||
|
- **Case-Library**: **2 neue Case-Cards/Quartal** (Problem → Hebel → €-Effekt → Lessons).
|
||||||
|
- **Enablement**: **≥ 2 Clinics/Monat** (60–90′) mit Ratings **≥ 4.5/5**.
|
||||||
|
|
||||||
|
**Mini-Grenzen:** keine Einspar-Claims ohne **Baseline/Annahmen**; keine „One-size-fits-all“-Rezepte.
|
||||||
|
|
||||||
|
### A3 – Ausbilder (Trainee-Programm)
|
||||||
|
**Mission:**
|
||||||
|
Ich sichere **schnelle Lernkurven** und **hohe Anschlussfähigkeit**: klare **Skill-Roadmaps**, viel **Praxis**, **wertschätzendes Feedback**.
|
||||||
|
|
||||||
|
**Kern-KPIs (3–4):**
|
||||||
|
- **Abschluss/Placement-Rate**: **≥ 95 %** regulär platziert.
|
||||||
|
- **Evaluation**: Trainee-Zufriedenheit **≥ 4.6/5**; Teach-back-Quote **100 %**.
|
||||||
|
- **Skill-Checkpoints**: **monatliche Assessments** (Rubrics), **Remediation-Plan** für Gaps **≤ 2 Wochen**.
|
||||||
|
- **Mentoring**: **1:8** Mentor:Coachee-Ratio **oder besser**.
|
||||||
|
|
||||||
|
**Mini-Grenzen:** kein Unterricht ohne **klaren Outcome**; kein Feedback ohne **Beispiel + nächster Schritt**.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Karate- & Gewaltschutztrainer
|
||||||
|
**Mission (3 Sätze):**
|
||||||
|
Ich vermittle **Freude an Bewegung** und lebe **Budo-Werte** vor; ich baue **Charakter, Respekt und Teamgeist** – auf und neben der Matte.
|
||||||
|
Ich **führe klar & freundlich**: sichere, entwicklungsgerechte Trainings mit **transparenten Reifegradpfaden**, fairer Wettkampf und **gute Feedbackkultur**.
|
||||||
|
Ich **schaffe ein reiches Erfahrungsumfeld für Kinder** (neue, kreative Angebote – auch **außerhalb des Vereins**), **achte auf das Kindeswohl**, bilde mich kontinuierlich fort und **trage maßgeblich zur Vereinsentwicklung** bei.
|
||||||
|
|
||||||
|
**Qualitätskriterien (verbindlich):**
|
||||||
|
- **Didaktik & Progression:** **Reifegradpfad** sichtbar (Quartalsziele je Gruppe), differenzierte Übungen, klare Erfolgskriterien.
|
||||||
|
- **Erlebnisformate & soziale Wirkung:** Mind. **2–3 Sonderangebote/Jahr** (z. B. KaraGames, Camps, Waldtage) + **1–2 offene/soziale Angebote** außerhalb des Vereins.
|
||||||
|
- **Fortbildung & Qualität:** Mind. **2 Lehrgänge/Jahr** (Karate/Gewaltschutz/Kinderschutz); Hospitationen/Peer-Reviews im Trainerteam (≥ 2/Jahr).
|
||||||
|
- **Kindeswohl & Sicherheit:** Gelebtes **Schutzkonzept** (Ansprechperson, Einverständnisse, Notfallplan), **sichere Progression**, Stop-Signal wird respektiert.
|
||||||
|
|
||||||
|
**Grenzen / Nein-Liste (verbindlich):**
|
||||||
|
1) **Keine Beschämung/Anschreien**, kein öffentliches Bloßstellen; Verhalten ≠ Person.
|
||||||
|
3) **Keine problematischen Rollenspiele** (z. B. sexualisierte Gewalt) mit Minderjährigen; Inhalte **trauma-sensibel**.
|
||||||
|
4) **Keine Privat-Chats mit Minderjährigen** außerhalb offizieller Kanäle/Zeiten.
|
||||||
|
5) **Keine Übernahme zusätzlicher Vereinsaufgaben** zulasten Familienzeit ohne bewusste Neupriorisierung.
|
||||||
|
|
||||||
|
**Stakeholder-Landkarte:**
|
||||||
|
- **Primär:** Kinder/Jugendliche
|
||||||
|
- **Sekundär:** Eltern/Erziehungsberechtigte, Trainerteam, Vereinsvorstand, Kinderschutz-Beauftragte:r
|
||||||
|
- **Partner:** Schulen/Einrichtungen, Jugendamt/Präventionsstellen, Turnier-/Lehrgangsorganisationen
|
||||||
|
|
||||||
|
### Erweitertes Feld – Traineraufbau & Multiplikation
|
||||||
|
**Ziel:** Ein **skalierbares, sicheres und wertebasiertes** System, das Mitglieder vom **Potenzial** bis zum **eigenständigen Lead-Trainer** entwickelt – ohne Familienzeit zu gefährden.
|
||||||
|
|
||||||
|
**Pfad (Level & Kriterien):**
|
||||||
|
- **S1 Shadowing (4–6 Einheiten):** Beobachten, Sicherheits-/Dojo-Rituale. *Exit:* Kinderschutz-Briefing + Mini-Rolle (Aufwärmen) sicher angeleitet.
|
||||||
|
- **S2 Co-Teaching (8–10 Einheiten):** Teile der Stunde übernehmen. *Exit:* klare Sprache, wertschätzendes Feedback, sichere Durchführung.
|
||||||
|
- **S3 Teil-Lead (≥6 Einheiten):** Planung & Leitung von Einheitsteilen nach Reifegradpfad. *Exit:* Rubric **≥ „gut“**, Sicherheits-Check bestanden.
|
||||||
|
- **S4 Lead (laufend):** Ganze Stunde leiten; Elternkommunikation; Event-Mitarbeit. *Erhalt:* **2 Peer-Reviews/Jahr**, Fortbildung.
|
||||||
|
|
||||||
|
**Curriculum-Module:** Didaktik Basics · Reifegradpfade · Sicherheit & Kinderschutz · Kommunikation & Feedback · Budo-Werte & Dojo-Rituale · Event-Organisation · Reflexion/Teach-back.
|
||||||
|
|
||||||
|
**Mentoring & Review:** jedem Mentee **Mentor** zuordnen; **Monats-Check-in (30′)**; **Coach-the-Coach quartalsweise (90′)**; **Rubric** steuert Level-Up.
|
||||||
|
|
||||||
|
**Qualitätskriterien (Traineraufbau):**
|
||||||
|
- **Pipeline aktiv:** **≥6 Interessenten/Jahr**, **≥4 aktive Mentees** (S1–S3).
|
||||||
|
- **Level-Ups:** **≥2 neue Leads/Jahr (S4)**, Retention **≥80 %**.
|
||||||
|
- **Co-/Lead-Abdeckung:** **≥30 %** der Einheiten mit Co-/Lead-Unterstützung.
|
||||||
|
- **Peer-Reviews & Lehrgänge:** **≥2 Peer-Reviews/Jahr** je (Co-)Trainer; **≥2 Lehrgänge/Jahr** im Team.
|
||||||
|
- **Kommunikation:** Onboarding-Handout aktuell; **2 Eltern-Infos/Jahr**; Anfragen **≤72 h** beantwortet.
|
||||||
|
|
||||||
|
**Grenzen (Traineraufbau):**
|
||||||
|
- **Mentor-Ratio** maximal **1:3**; keine Übernahme zulasten **Familienzeit**.
|
||||||
|
- **Kinderschutz vor Tempo:** kein Level-Up ohne bestandenen Sicherheits-/Kommunikations-Check.
|
||||||
|
- **Keine Privat-Chats** mit Minderjährigen; Kontakt nur über offizielle Kanäle/Zeiten.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Freund
|
||||||
|
**Mission (2 Sätze):**
|
||||||
|
Ich bin **verlässlich und loyal**: halte bewusst **Kontakt**, bin in wichtigen Momenten **da** und feiere die Erfolge meiner Freunde.
|
||||||
|
Ich pflege **verbindende Erlebnisse & Rituale** (Sport/Natur/Kochen) und bin in **Krisen erreichbar**, ohne Familie/Erholung zu gefährden.
|
||||||
|
|
||||||
|
**Qualitätskriterien (verbindlich):**
|
||||||
|
- **Kontakt-Cadence:** Mind. **1 aktiver Ping/Monat** pro **Kernfreund** (Call/Message/Treffen).
|
||||||
|
- **Wichtige Momente:** Bei Geburtstagen/Meilensteinen/Krisen reagiere ich **innerhalb 24–48 h** mit passendem Signal (Anruf/Karte/Hilfe).
|
||||||
|
- **Rituale & Erlebnisse:** **1 gemeinsames Erlebnis/Quartal** pro Kernfreund (oder kleines Duo-Event).
|
||||||
|
- **Klartext mit Herz:** Bei heiklen Themen: **zuhören → spiegeln → 1 ehrlicher Impuls**, ohne zu überfahren.
|
||||||
|
- **Grenzen wahren:** **Familien-/Erholungszeit geschützt**; Hilfe nur, wenn **tragfähig** (Ersatztermin anbieten).
|
||||||
|
|
||||||
|
**Grenzen / Nein-Liste (verbindlich):**
|
||||||
|
1) **Kein Gossip/Lästern** über Abwesende; Kritik **direkt & respektvoll** oder gar nicht.
|
||||||
|
2) **Keine Vertraulichkeiten weitergeben**; sensiblen Content nur mit ausdrücklicher Zustimmung teilen.
|
||||||
|
3) **Kein „Ja“ ohne Kapazität** – lieber **Nein/Später** mit klarem Vorschlag (Termin/Scope).
|
||||||
|
5) **Kein „Retter-Modus“**: Hilfe = **Enablement**, Notfallhilfe **befristet** (klarer Rahmen).
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Ich-Pflege
|
||||||
|
**Mission:**
|
||||||
|
Ich pflege **Körper, Geist und Herz** bewusst, damit ich langfristig **gesund, präsent und leistungsfähig** für Familie, Beruf und Dojo bleibe.
|
||||||
|
|
||||||
|
**Qualitätskriterien (verbindlich):**
|
||||||
|
- **Kraft (Kieser – Reha-Bridge):** Zielzustand **2–3×/Woche**, 8–10 Geräte, **4-2-4-2**, **1 Satz**; **+5 %** Progress, wenn sauber möglich.
|
||||||
|
**Solange verletzt:** 2×/W **schmerzfreie Reha/Physio-Übungen** (isometrisch/mobilisierend gemäß Freigabe); bei Wiedereinstieg: **Woche 1–2: ~50 % Last**, **Woche 3–4: ~60–70 %**, dann regulär.
|
||||||
|
- **Karate & Bewegung:** **2 Einheiten/Woche** oder **≥ 150 min** moderat; **Alltagsbewegung sichtbar** (aktive Wege/Schritte).
|
||||||
|
- **Meditation & Mobility:** **4×/Woche** 10–20 Min **Zazen + Dehnen**.
|
||||||
|
- **Ernährung (Histamin/Gluten achtsam):** **80/20 mediterran**, täglich **Gemüse ≥ 2 Portionen**, **Fisch 1–2×/W**, rotes Fleisch **≤ 1×/W**, **2 L Wasser**.
|
||||||
|
- **Monitoring & Check-ups:** **Wöchentlich** kurz **Gewicht/Taille/BP** notieren; **halbjährlich** Labor/Arzt-Check; Anpassungen im mindnet dokumentieren.
|
||||||
|
|
||||||
|
**Grenzen / Nein-Liste (verbindlich):**
|
||||||
|
- **Kein Training „durch Schmerz“** (akuter Schmerz = Abbruch/Reha-Variante).
|
||||||
|
- **Keine „Cheat Days“ bei der Essenskontrolle; keine „Jetzt bin ich drüber – dann ist sowieso alles egal“-Einstellung.**
|
||||||
|
- **Kein Überspringen von 2 Regenerationstagen hintereinander**, wenn Erschöpfungssignale da sind.
|
||||||
|
|
||||||
|
**Stakeholder-Landkarte:**
|
||||||
|
- **Primär:** ich selbst
|
||||||
|
- **Sekundär:** Ärzt:innen/Physio, Karate-Trainer:innen, Kieser-Studio
|
||||||
|
- **Schnittstellen/Erwartungen:** Reha-Plan/Trainingsplan sichtbar, Termine im Kalender, Monitoring im mindnet
|
||||||
@@ -0,0 +1,51 @@
|
|||||||
|
---
|
||||||
|
title: Leitbild – Scope (Session 0, final)
|
||||||
|
id: leitbild-scope
|
||||||
|
type: concept
|
||||||
|
status: active
|
||||||
|
created: 2025-10-30
|
||||||
|
updated: 2025-10-30
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags:
|
||||||
|
- area/personal_development
|
||||||
|
- topic/leitbild
|
||||||
|
- method/scope
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
version: 1.1.0
|
||||||
|
depends_on:
|
||||||
|
- leitbild-vorgehensmodell-2025
|
||||||
|
references:
|
||||||
|
- "/mnt/data/Lars- Mein Leitbild.pdf"
|
||||||
|
---
|
||||||
|
|
||||||
|
## Schlüsselpunkte (Session 0 – konsolidiert, 15 Punkte)
|
||||||
|
1. **Auslöser & Kontext:** Schicksalsschlag (Glioblastom der Partnerin) → innerer Kurswechsel; neue Dreifachrolle (Research-Lead DE, Global IT-Cost, Trainee-Ausbilder).
|
||||||
|
2. **Familienphase:** Söhne 18 & 15; der Jüngere braucht Bindung, Halt und klare, faire Grenzen.
|
||||||
|
3. **Leitbild-Zweck:** Strategischer Alltagskompass (Entscheiden, Priorisieren, Grenzen); Messlatte für spätere Routinen — **keine** Operativ-Checkliste.
|
||||||
|
4. **Vater-Legacy:** Präsenz in Krisen · Gerechtigkeit · Führen durch Vorbild; Vertrauen stärkt Selbstwirksamkeit & positives Menschenbild.
|
||||||
|
5. **Partner-Leitbild:** Standhaft + annehmend + klar in Pflichten; **klare Zuständigkeiten ohne Überlastung** – Energie fließt in Aufgaben, nicht in Reibung.
|
||||||
|
6. **Beruf-Legacy:** Zielbild-Denken, Lernoffenheit, Vision; Wissen großzügig teilen; hohe Akzeptanz & spürbare Lernkurven als Ausbilder/Coach.
|
||||||
|
7. **Trainer-Legacy:** Freude an Bewegung; gelebte Budo-Werte; Resilienz durch Praxis.
|
||||||
|
8. **Wertekern:** **Integrität** (Meta-Wert) & **Vertrauenswürdigkeit/Ehrlichkeit** (*Wort gilt*; bei Abweichung offene Korrektur & Entschuldigung).
|
||||||
|
9. **Rote Linien:** (#3) Fairness – Macht/Kompetenz nicht ausnutzen · (#5) keine bequemen Entscheidungen gegen Kernprinzipien · **Reparatur-Garantie** (#8) binnen 24 h.
|
||||||
|
10. **Ich-Pflege (Haltung):** Innere Balance durch Meditation, Sport, Ernährung, Vorsorge, Neugier/Begeisterungsfähigkeit.
|
||||||
|
11. **Spannungsfelder & Hebel:** (1) Ordnung/Haushalt ↔ Zeit/Energie · (2) Respekt/Regeln ↔ Widerstand der Kinder · (3) unterschiedliche Rollenerwartungen; **größter Hebel:** gelebte Verantwortungsverteilung.
|
||||||
|
12. **Offenheit & Tabus:** Leitbild grundsätzlich teilbar; **privat** bleiben intime Motive/Herkünfte. Ziele & Visionen sind offen – Verletzlichkeit wird akzeptiert.
|
||||||
|
13. **90-Tage-Checks:** Familie (≥3 Kontakte/Woche + ≥1 Wochenendaktivität), Beruf (≥90 % Routine pünktlich; ≥10/12 Freitage Zero-Routine-Backlog), Ich-Pflege (≥4×/Woche Meditation+Dehnung ≥10′).
|
||||||
|
14. **Nein-Liste (Quartal):** Keine zusätzlichen Karate-Trainings zulasten der Familie; keine Standard-Übernahme von Sushis Aufgaben (nur echte Notlage, befristet).
|
||||||
|
15. **Haushalt/Ordnung – Mindeststandard & Reaktion:**
|
||||||
|
- **Mindeststandard:** Ablageflächen/Böden frei von Fremdgegenständen; Küche morgens aufgeräumt; **kein sichtbarer Dreck**.
|
||||||
|
- **Reaktion (Prinzip):** **Familienrat** statt Schuldzuweisung; Abweichung **respektvoll benennen**, **kurzfristige Aufgaben** festlegen; Stimmungsschutz als Leitlinie.
|
||||||
|
|
||||||
|
### Entscheidungsfokus (nächste 4 Wochen)
|
||||||
|
- **Vater–Sohn-Projekt (Profil):** Hybrid *Bauen + Doku*; **Rohan = Owner**, Vater = **Coach**.
|
||||||
|
**Leitbildsatz (collab):** „**Rohan ist Owner, ich bin Coach; Keyboard-Regel 90/10; ich frage, bevor ich erkläre.**“
|
||||||
|
**Erfolgssignale:** (a) Rohan initiiert Gespräche/Impulse, (b) wählt Projektarbeit häufiger statt Social Media.
|
||||||
|
**12-Wochen-Meilenstein:** von Rohan zu definieren (bei Projektstart festhalten).
|
||||||
|
- **Rituale (strategisch):** Grundset persönlicher (Ich-Pflege) und gemeinsamer (Familie) Rituale definieren; Operativierung später.
|
||||||
|
|
||||||
|
### Kompass-Formel (Entscheiden) + „Schuldschein“-Mechanik
|
||||||
|
- **Kompass-Formel:** „**Ich spiegle jede wichtige Entscheidung am Werte-Modell und priorisiere nach meinen Kernwerten.**“
|
||||||
|
- **Ausnahme („Schuldschein“):** „**Wenn ich abweiche, dokumentiere ich schriftlich einen Schuldschein** (Abweichung, Begründung, Dauer, Wiedergutmachung); **Einbindung ins mindnet** & Review.“
|
||||||
@@ -0,0 +1,84 @@
|
|||||||
|
---
|
||||||
|
title: Leitbild – Werte (Top-5)
|
||||||
|
id: leitbild-werte
|
||||||
|
type: concept
|
||||||
|
status: active
|
||||||
|
created: 2025-10-30
|
||||||
|
updated: 2025-10-30
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags:
|
||||||
|
- topic/werte
|
||||||
|
- method/values-inventory
|
||||||
|
- area/personal_development
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
version: 1.0.0
|
||||||
|
depends_on:
|
||||||
|
- leitbild-scope
|
||||||
|
references:
|
||||||
|
- "/mnt/data/Lars- Mein Leitbild.pdf"
|
||||||
|
---
|
||||||
|
|
||||||
|
# Werte – Top-5 (Priorität für 12 Monate)
|
||||||
|
|
||||||
|
> Ziel: Präzise Definitionen, beobachtbare Verhaltensanker, Frühwarnsignale/„Nicht-so“-Grenzen (Anti-Muster) und je ein Mikro-Experiment **für später**.
|
||||||
|
> Priorität: 1 **Integrität** · 2 **Vertrauenswürdigkeit/Ehrlichkeit** · 3 **Disziplin** · 4 **Gerechtigkeit & Fairness** · 5 **Respekt**
|
||||||
|
|
||||||
|
## 1) Integrität
|
||||||
|
**Definition:** Ich handle **vorhersagbar principled** nach meinem Werte-Modell; **mein Wort gilt** – auch unter Druck.
|
||||||
|
**So zeigt es sich (Anker):**
|
||||||
|
- Entscheidungen werden **am Werte-Modell gespiegelt** (Kompass-Check).
|
||||||
|
- **Keine bequemen Entscheidungen** gegen Kernprinzipien (#5).
|
||||||
|
- **Schuldschein-Mechanik** bei unvermeidbarer Abweichung (transparent, befristet, Wiedergutmachung).
|
||||||
|
**Frühwarnsignale:** Rigidität, moralischer Ton, fehlende situative Milde.
|
||||||
|
**Überdrehungs-Risiko:** Moralismus statt Führung.
|
||||||
|
**Mikro-Experiment (für später):** 4 Wochen „Kompass-Log“: 2×/Woche eine Entscheidung kurz am Werte-Modell dokumentieren.
|
||||||
|
|
||||||
|
## 2) Vertrauenswürdigkeit & Ehrlichkeit
|
||||||
|
**Definition:** **Wort gilt**; wenn äußere Umstände es verhindern, **spreche ich es offen an** und entschuldige mich.
|
||||||
|
**So zeigt es sich (Anker):**
|
||||||
|
- Zusagen sind **verlässlich**; Ausnahmen werden **proaktiv** erklärt.
|
||||||
|
- **Keine Vorteilslüge**; Fakten werden nicht „geschönt“.
|
||||||
|
- **24h-Reparatur** bei Verstößen (#8).
|
||||||
|
**Frühwarnsignale:** Überharter Umgang mit eigenen Fehlern; zu viel Offenheit in sensiblen Kontexten.
|
||||||
|
**Überdrehungs-Risiko:** Verletzende Direktheit; Vertrauensbruch durch unbedachte Transparenz.
|
||||||
|
**Mikro-Experiment (für später):** „Vertrauens-Echo“: 1×/Woche kurzes Feedback (Familie/Team) zur Verlässlichkeit einholen.
|
||||||
|
|
||||||
|
## 3) Disziplin
|
||||||
|
**Definition:** **Ich halte zugesagte Standards und Regeln verlässlich ein und setze sie fair durch – auch wenn es unbequem ist.**
|
||||||
|
**So zeigt es sich (Anker):**
|
||||||
|
- **Wenige klare Regeln** werden **ruhig & konsequent** durchgesetzt (ohne Drama).
|
||||||
|
- **Mindeststandards Haushalt** werden konsistent eingefordert (Familienrat statt Schuldzuweisung).
|
||||||
|
- **Wichtiges vor Bequemem**: priorisierte Aufgaben vor Opportunitäten.
|
||||||
|
**Frühwarnsignale:**
|
||||||
|
- Ich **vergesse** zugesagte Durchsetzungen („Ich sammle das Handy in 10 Min ein“) und lasse es dann.
|
||||||
|
- Ich **setze Konsequenzen nicht um** – aus **Mitleid** oder **Bequemlichkeit**.
|
||||||
|
**Nicht-so-Grenze:** **Ich stelle dogmatische Disziplin nicht über die elementaren Bedürfnisse von Menschen (Kinder, Ehefrau, andere) und sorge dafür, dass niemand verletzt wird.**
|
||||||
|
**Überdrehungs-Risiko:** Starrheit, Beziehungskälte, Mikromanagement, Selbstüberforderung.
|
||||||
|
**Mikro-Experiment (für später):** 2 Wochen „Konsequenz-Minireview“: 2×/Woche 3 Sätze zu einer durchgesetzten/verschobenen Regel (fair? bequem? gelernt?).
|
||||||
|
|
||||||
|
## 4) Gerechtigkeit & Fairness
|
||||||
|
**Definition:** Ich **behandle Menschen und Situationen nach klaren, transparenten Maßstäben**; ich **nutze keinen Macht-/Wissensvorsprung aus** und balanciere **Gleichbehandlung** mit **Bedarfsgerechtigkeit**.
|
||||||
|
**So zeigt es sich (Anker):**
|
||||||
|
- **Regeln gelten für alle** – auch für mich; **Ausnahmen** werden **begründet & transparent** gemacht.
|
||||||
|
- **Konsequenzen sind verhältnismäßig und angekündigt**; keine impulsiven Strafen.
|
||||||
|
- In Konflikten **höre ich beide Seiten**, fasse das stärkste Gegenargument fair zusammen (*Steelman*), **entscheide nach Prinzipien**.
|
||||||
|
**Frühwarnsignale:** „Hauptsache Ruhe“ statt fairer Konsequenz; Parteilichkeit aus Erschöpfung.
|
||||||
|
**Überdrehungs-Risiko:** Pedantischer Formalismus; **Gleichmacherei**; Härte ohne Kontext.
|
||||||
|
**Bezug zu roten Linien:** Entspricht **#3** (Macht/Kompetenz nicht ausnutzen).
|
||||||
|
**Mikro-Experiment (für später):** 2 Wochen „Fairness-Double-Check“ (Rollenwechsel-Frage & Bedarfs-Transparenz notieren).
|
||||||
|
|
||||||
|
## 5) Respekt
|
||||||
|
**Definition:** **Ich erkenne jeden Menschen als unbedingt wertvoll und gleichwertig an.** Ich würdige **Bemühen und Prozess** – auch wenn Ergebnisse **nicht meinen Vorstellungen** entsprechen. Ich handle respektvoll und **erwarte** respektvollen Umgang.
|
||||||
|
**So zeigt es sich (Anker – deine Auswahl):**
|
||||||
|
- **Sprache ohne Abwertung** (kein Beschämen/Schreien); ich benenne Verhalten, nicht den Menschen.
|
||||||
|
- **Aktives Zuhören & Steelman:** Ich fasse erst die Sicht des anderen fair zusammen, bevor ich antworte.
|
||||||
|
- **Würdigung von Mühe & Prozess** (besonders bei den Kindern): Ich anerkenne Einsatz, nicht nur Ergebnis.
|
||||||
|
**Nicht-so-Grenzen:**
|
||||||
|
- **Ich antworte nicht**, ohne zuvor **wirklich verstanden** zu haben (keine Antworten auf Annahmen).
|
||||||
|
- **Ich akzeptiere andere Meinungen und Sichtweisen.**
|
||||||
|
- **Ich mache keine Unterschiede** aufgrund von Andersartigkeit.
|
||||||
|
**Frühwarnsignale:** Sarkasmus/Augenrollen; Unterbrechen; genervter Ton; Vergleiche/Etiketten; Handy im Gespräch.
|
||||||
|
**Überdrehungs-Risiko:** Harmoniesucht/Vermeidung; Grenzen verwässern, um „nett“ zu bleiben.
|
||||||
|
**Mikro-Experiment (für später):** 2 Wochen „Respekt-Check“: 1 Gespräch/Tag bewusst präsent führen (kein Handy, Steelman in 1 Satz), am Ende 1 Würdigungs-Satz.
|
||||||
@@ -0,0 +1,71 @@
|
|||||||
|
---
|
||||||
|
title: Leitbild – Wertekompass (vollständig)
|
||||||
|
id: leitbild-wertekompass
|
||||||
|
type: concept
|
||||||
|
status: active
|
||||||
|
created: 2025-10-30
|
||||||
|
updated: 2025-10-30
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags:
|
||||||
|
- topic/werte
|
||||||
|
- method/values-compass
|
||||||
|
- area/personal_development
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
version: 0.2.0
|
||||||
|
depends_on:
|
||||||
|
- leitbild-werte
|
||||||
|
- leitbild-scope
|
||||||
|
references:
|
||||||
|
- "/mnt/data/Lars- Mein Leitbild.pdf"
|
||||||
|
---
|
||||||
|
|
||||||
|
# Wertekompass – vollständige Übersicht
|
||||||
|
|
||||||
|
> Zweck: **Arbeitsinventar** aller relevanten Werte.
|
||||||
|
> Nutzung: Der **Leitbild-Text** führt die **Top-5** (kurz & verbindlich); dieser **Kompass** dokumentiert zusätzlich **Unterstützungswerte** mit Kurzdefinition & Wächterfrage.
|
||||||
|
|
||||||
|
## Tier 1 – Kernwerte (Top-5, verbindlich)
|
||||||
|
1. **Integrität** – Ich handle vorhersagbar principled; mein Wort gilt.
|
||||||
|
2. **Vertrauenswürdigkeit & Ehrlichkeit** – Zusagen sind verlässlich; Abweichungen kläre ich offen.
|
||||||
|
3. **Disziplin** – Ich halte zugesagte Standards/Regeln verlässlich ein und setze sie fair durch – auch wenn es unbequem ist.
|
||||||
|
4. **Gerechtigkeit & Fairness** – Klare, transparente Maßstäbe; kein Macht-/Wissensvorsprung wird ausgenutzt.
|
||||||
|
5. **Respekt** – Jeder Mensch ist unbedingt wertvoll/gleichwertig; ich würdige Mühe & Prozess.
|
||||||
|
> Details zu Definitionen, Ankern, Frühwarnsignalen & „Nicht-so“-Grenzen stehen in `leitbild-werte`.
|
||||||
|
|
||||||
|
## Tier 2 – Unterstützungswerte **on deck** (12 Monate)
|
||||||
|
> Deine Auswahl (konsolidiert & prioritätsneutral)
|
||||||
|
|
||||||
|
- **Fürsorge & Familienbindung (konsolidiert)**
|
||||||
|
*Kurz:* Ich bin ansprechbar, sehe Bedürfnisse und stärke Bindung aktiv.
|
||||||
|
*Anker:* Wöchentliche gemeinsame Qualitätszeit & kleine Würdigungen.
|
||||||
|
*Wächterfrage:* Habe ich diese Woche **Präsenz** gezeigt – nicht nur „Anwesenheit“?
|
||||||
|
|
||||||
|
- **Klarheit & Struktur**
|
||||||
|
*Kurz:* Wenige Regeln, klare Zuständigkeiten, einfache Standards – sichtbar in Raum & Sprache.
|
||||||
|
*Anker:* „Wer macht was bis wann“ + sichtbare Mindeststandards (Haushalt).
|
||||||
|
*Wächterfrage:* Ist das für alle **verständlich & auffindbar**?
|
||||||
|
|
||||||
|
- **Lernorientierung**
|
||||||
|
*Kurz:* Neugierig bleiben, bewusst experimentieren, Lerngewinne teilen.
|
||||||
|
*Anker:* „Teach-back“ als Standard (Familie/Team).
|
||||||
|
*Wächterfrage:* Was habe ich diese Woche **gelernt** und **geteilt**?
|
||||||
|
|
||||||
|
- **Großzügigkeit**
|
||||||
|
*Kurz:* Zeit/Wissen/Anerkennung teilen – im richtigen Maß.
|
||||||
|
*Anker:* Anerkennung gezielt und konkret aussprechen.
|
||||||
|
*Wächterfrage:* Dient meine Großzügigkeit dem **System** – oder verbrenne ich mich?
|
||||||
|
|
||||||
|
- **Mut**
|
||||||
|
*Kurz:* Unangenehmes respektvoll ansprechen; nötige Neins setzen.
|
||||||
|
*Anker:* „Klartext in 1–2 Sätzen, respektvoll, ohne Abwertung.“
|
||||||
|
*Wächterfrage:* Weiche ich gerade aus **Bequemlichkeit** – oder spreche ich es an?
|
||||||
|
|
||||||
|
## Tier 2 – weitere Kandidaten (Reserve)
|
||||||
|
- **Verantwortung (Ownership)** – in Reserve, falls im Jahresverlauf relevanter wird.
|
||||||
|
|
||||||
|
## Arbeitsregeln für den Wertekompass
|
||||||
|
- **Änderungslog:** Anpassungen hier → Review im `leitbild-review`.
|
||||||
|
- **Wertkonflikte:** Priorisierung folgt **Tier-Reihenfolge** (Top-5 vor „on deck“); Ausnahmen via **Schuldschein** (`decision/exception`).
|
||||||
|
- **Öffentlich/Privat:** Leitbild-Text ist teilbar; intime Motive bleiben privat hier/im Journal.
|
||||||
@@ -0,0 +1,228 @@
|
|||||||
|
---
|
||||||
|
title: Leitbild – Ziele-Portfolio (Nordsterne komplett)
|
||||||
|
id: leitbild-ziele-portfolio
|
||||||
|
type: project
|
||||||
|
status: active
|
||||||
|
created: 2025-10-30
|
||||||
|
updated: 2025-10-31
|
||||||
|
area: personal_development
|
||||||
|
project: leitbild_refresh_2025
|
||||||
|
tags: [topic/ziele, method/objectives, scope/nordsterne]
|
||||||
|
lang: de
|
||||||
|
source: coach/leitbild
|
||||||
|
version: 1.0.0
|
||||||
|
depends_on:
|
||||||
|
- leitbild-rollen
|
||||||
|
- leitbild-prinzipien
|
||||||
|
- leitbild-text
|
||||||
|
- ai-enablement-roadmap
|
||||||
|
- mgmt-kpi-alignment-2026q1
|
||||||
|
references:
|
||||||
|
- "/mnt/data/Lars- Mein Leitbild.pdf"
|
||||||
|
- leitbild-review
|
||||||
|
---
|
||||||
|
|
||||||
|
# Ziele-Portfolio (Nordsterne)
|
||||||
|
|
||||||
|
> Struktur pro Nordstern: **Warum (Impact)** · **Was (Outcome)** · **Wie (Strategie/Initiativen)** · **Messung** *(Leading/Lagging)* · **Jahresziel 2026** · **Meilensteine 2026**.
|
||||||
|
> **Hinweis:** Alle Messpunkte fließen in `leitbild-review` (Woche/Monat/Quartal) ein.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Nordstern: Vater (2026–2029)
|
||||||
|
|
||||||
|
**Nordstern-Satz:**
|
||||||
|
Bis 2029 bin ich für Rouven und Rohan ein **verlässlich präsenter, ruhiger und gerechter** Vater; unsere **tägliche Nähe** und **respektvolle Führung** geben beiden **Halt und Selbstvertrauen**. Beide sind **eigenverantwortlich, sportlich aktiv, sozial eingebunden**; pro Quartal entsteht ein **Vater-Sohn-Projekt**; die **Mediennutzung** ist im Familienrat geregelt.
|
||||||
|
|
||||||
|
**Warum (Impact):** Stabilität, Selbstwirksamkeit, Charakterwachstum; friedliches, klares Familienklima.
|
||||||
|
|
||||||
|
**Was (Outcome):**
|
||||||
|
- Verlässliche Alltagsnähe (tägliche 1:1-Momente).
|
||||||
|
- Faire Führung mit wenigen, sichtbaren Regeln und zeitnaher Durchsetzung.
|
||||||
|
- Haushalts-Mindeststandards sichtbar: *Ablagen/Böden frei · Küche morgens aufgeräumt · kein sichtbarer Dreck*.
|
||||||
|
- Regelmäßige Projekte, Bewegung und soziale Einbindung.
|
||||||
|
|
||||||
|
**Wie (Strategie/Initiativen):**
|
||||||
|
1) **Nähe & Rituale:** Täglich ≥5′ 1:1 je Sohn; Wochenritual fix/neu terminiert.
|
||||||
|
2) **Faire Führung:** Regeln sichtbar; Konsequenzen **zeitnah** nach Bedürfnis-Check.
|
||||||
|
3) **Standards sichtbar:** Check morgens; kurze Aufgabenverteilung.
|
||||||
|
4) **Projekte:** **1/Q** je/mit Sohn; Kickoff + Retro.
|
||||||
|
5) **Bewegung/Soziales:** ≥2 Bewegungseinheiten/Woche; Begleitung zu Gruppen/Events.
|
||||||
|
6) **Medienbalance:** Familienrat: Kontingent + Monitoring ohne Beschämung.
|
||||||
|
|
||||||
|
**Messung**
|
||||||
|
- *Leading:* 1:1 **≥5 Tage/W**; Wochenritual **≥48/52**; **Konsequenzen-Quote ≥90 %**; Standards **≥80 %**; Bewegung **≥75 %** der Wochen; Medienregeln **≥80 %** Wochen.
|
||||||
|
- *Lagging:* **4/4** Quartalsprojekte; Konflikte **≤48 h** geklärt (≥90 %); Bindungsindex (Monat 1–10) **Ø ≥8** je Sohn.
|
||||||
|
|
||||||
|
**Jahresziel 2026:** 1:1 **≥5/7**, **4 Projekte**, Standards **≥80 %**, Medien **≥80 %**, Bewegung **≥75 %** der Wochen.
|
||||||
|
|
||||||
|
**Meilensteine 2026:** M1 **Jan 31** Regeln/Standards sichtbar · M2 **Mär 31** Projekt Q1 · M3 **Jun 30** Q2 · M4 **Sep 30** Q3 · M5 **Dez 15** Q4 + Jahresretro.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Nordstern: Ich-Pflege (2026–2029)
|
||||||
|
|
||||||
|
**Nordstern-Satz:**
|
||||||
|
Ich bin **belastbar, schmerzfrei trainierbar und mental ruhig**: **2–3×/W** Kraft/Bewegung, **4×/W** Meditation & Mobility, **histamin-/glutenbewusste Ernährung ohne „Cheat Days“**, ausreichend Schlaf, Monitoring & Check-ups.
|
||||||
|
|
||||||
|
**Warum (Impact):** Energie und Präsenz für Familie, Beruf, Dojo; nachhaltige Gesundheit.
|
||||||
|
|
||||||
|
**Was (Outcome):** Reha→Training, stabile Routinen, Ernährungspraxis ohne „alles-egal“-Fallen, Monitoring.
|
||||||
|
|
||||||
|
**Wie (Strategie/Initiativen):**
|
||||||
|
1) **Kieser/Reha-Bridge:** progressiv (4-2-4-2; +5 % bei sauberer WH).
|
||||||
|
2) **Bewegung:** ≥150 min/W moderat (Karate/Walk/Bike).
|
||||||
|
3) **Zazen & Mobility:** **4×/W** 10–20′.
|
||||||
|
4) **Ernährung:** 80/20 mediterran; **keine Cheat Days**; Fallback-Mahlzeiten + Einkaufsroutine.
|
||||||
|
5) **Schlaf:** fester „Lights-out“-Korridor; keine Screen-Marathons.
|
||||||
|
6) **Monitoring/Medizin:** wöch. Gewicht/Taille/BP; halbjährl. Labor/Arzt; Journal.
|
||||||
|
7) **Relapse-Shield:** Abweichung ⇒ **Mini-Reset ≤24 h**.
|
||||||
|
|
||||||
|
**Messung**
|
||||||
|
- *Leading:* Kraft/Reha **≥2×/W**; Bewegung **≥150 min/W (≥75 % Wochen)**; Zazen/Mobility **≥4×/W (≥40/52)**; Ernährung **≥6/7 Tage/W**; Hydration **≥5/7**; Monitoring **≥45/52**.
|
||||||
|
- *Lagging:* Schmerzfrei trainierbar **spätestens Q3/2026**; Energie-Ø **≥8/10**; Check-ups **2/Jahr**.
|
||||||
|
|
||||||
|
**Jahresziel 2026:** **8/12** Monate mit ≥4 Lead-Routinen erfüllt; Reha→Volltraining bis **Q3**; Monitoring **≥45/52**.
|
||||||
|
|
||||||
|
**Meilensteine 2026:** M1 **Jan 15** Baseline+Fallbacks · M2 **Feb 15** Reha-Compliance ≥70 % · M3 **Apr 30** 60–70 % Last · M4 **Jun 30** Volltraining · M5 **Sep 30** Check-up · M6 **Nov 30** Jahresretro.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Nordstern: Karate & Gewaltschutz (inkl. Traineraufbau) (2026–2029)
|
||||||
|
|
||||||
|
**Nordstern-Satz:**
|
||||||
|
Mein Trainingsangebot steht für **Freude an Bewegung**, **gelebte Budo-Werte** und **Kindeswohl**: **klare Reifegradpfade**, **sichere Progression**, **starke Feedbackkultur**. Jährlich **2–3 Erlebnisformate** + **1–2 soziale/offene Angebote**. Ein **verlässliches Traineraufbau-System** (S1 Shadowing → S4 Lead) skaliert Qualität und Kapazität.
|
||||||
|
|
||||||
|
**Warum (Impact):** Charakterbildung, Teamgeist, sichere Bewegung; soziale Wirkung über den Verein; skalierbares Trainerteam.
|
||||||
|
|
||||||
|
**Was (Outcome):** Lernpfade & Assessments, Kinderschutz, Erlebnisformate, Elternkommunikation, Trainer-Pipeline.
|
||||||
|
|
||||||
|
**Wie (Strategie/Initiativen):**
|
||||||
|
1) **Didaktik/Progression:** Pfad je Gruppe, Quartalsziele, **Micro-Assessments/Monat**.
|
||||||
|
2) **Kinderschutz:** Schutzkonzept aktuell; **Stop-Signal-Drill ≥1×/Monat**; Doku.
|
||||||
|
3) **Erlebnisformate:** **2–3/Jahr** (KaraGames/Camp/Wald) + **1–2** offen/sozial.
|
||||||
|
4) **Kommunikation:** Onboarding-Handout; **2 Elterninfos/Jahr**; Feedbackkanal.
|
||||||
|
5) **Traineraufbau:** Scouting → Infoabend → Mentoring (Monat) → **Co-Teaching** → Peer-Reviews → **Teil-Lead/Lead**; Einsatzplan.
|
||||||
|
6) **Fortbildung:** **≥2 Lehrgänge/Jahr** + **≥2 Hospitationen/Jahr**.
|
||||||
|
|
||||||
|
**Messung**
|
||||||
|
- *Leading:* Pfade **quartalsaktualisiert**; **Stop-Signal** **≥1×/Monat**; **≥3 Events/Jahr**; Pipeline: **≥6 Interessenten/Jahr**, **≥4 Mentees**, **≥8 Co-Teachings/Mentee**, **≥2 Peer-Reviews/Jahr**.
|
||||||
|
- *Lagging:* **≥2 neue Leads/Jahr**, Retention **≥80 %**; **≥30 %** Einheiten von Co/Lead abgedeckt; Feedback **Ø ≥4.5/5**; **0** meldepflichtige Unfälle.
|
||||||
|
|
||||||
|
**Jahresziel 2026:** Curriculum & Rubric live; **≥6 Interessenten**, **≥4 Mentees**, **≥2 neue Leads**; **≥30 %** Co/Lead-Abdeckung; **Coach-the-Coach 4×**.
|
||||||
|
|
||||||
|
**Meilensteine 2026:** M1 **Feb 15** Curriculum/Rubric & Infoabend · M2 **Mär 31** Shadowing live · M3 **Jun 30** Co-Teaching+Peer-Review #1 · M4 **Sep 30** Teil-Lead/Offen-Event · M5 **Nov 30** Leads+Peer-Review #2.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Nordstern: Partner (2026–2029)
|
||||||
|
|
||||||
|
**Nordstern-Satz:**
|
||||||
|
Wir führen unseren Alltag ** als Team** mit **klaren Zuständigkeiten**, **fair verteilter Last** und **wertschätzender Kommunikation**. **Paar-Rituale** sind verbindlich, **Konflikte** klären wir **≤48 h**; **Energie & Gesundheit** sind geschützt.
|
||||||
|
|
||||||
|
**Warum (Impact):** Stabiler, freundlicher Paar-Alltag; weniger Reibung, mehr Nähe; bessere Familienunterstützung.
|
||||||
|
|
||||||
|
**Was (Outcome):**
|
||||||
|
- **Rollen-/Aufgabenmatrix** sichtbar und gelebt; Monats-Review.
|
||||||
|
- **Weekly Load-Check (10′)**; klare Neupriorisierung.
|
||||||
|
- **Paar-Ritual** wöchentlich, Monats-Date.
|
||||||
|
- **Gesundheit/Rest** im Kalender first-class.
|
||||||
|
- **Konflikt-Hygiene:** Steelman · Time-out ≤30′ (mit Rückkehrzeit) · Klärung ≤48 h.
|
||||||
|
|
||||||
|
**Wie (Strategie/Initiativen):**
|
||||||
|
1) **Team-Board & SLAs** (Küche, Wäsche …).
|
||||||
|
2) **Load-Check** (Kalenderabgleich, Überlast sichtbar, Entscheidung jetzt).
|
||||||
|
3) **Rituale:** 1×/W 60–90′; Monats-Date; tägliche Anerkennung (1 Satz).
|
||||||
|
4) **Schutz:** Rest-Fenster blocken; med. Termine nie streichen, nur verschieben.
|
||||||
|
5) **Konflikt-Hygiene:** Steelman, Time-out ≤30′, Klärung ≤48 h; **Decision Notes**.
|
||||||
|
6) **Familienrat light:** 1×/Monat Regeln/Termine mit den Söhnen.
|
||||||
|
|
||||||
|
**Messung**
|
||||||
|
- *Leading:* Load-Check **≥48/52**; Paar-Ritual **≥45/52**; Anerkennung **≥5/7 Tage/W**; med. Termine **0 gestrichen**; Klärung **≤48 h** in **≥90 %**; ungeplante Zusagen **≤2/Monat**.
|
||||||
|
- *Lagging:* Fairness-/Zufriedenheitsindex **Ø ≥8/10**; Stress/Energie-Trend ↑; Paar-Ritual-Kontinuität **≥85 %**; **0** verpasste med. Termine ohne Re-Terminierung.
|
||||||
|
|
||||||
|
**Jahresziel 2026:** Matrix live; Cadence stabil (Load-Check ≥48×; Paar-Ritual ≥45×; Date ≥10×); Konflikt-Klärung **≥90 %** ≤48 h.
|
||||||
|
|
||||||
|
**Meilensteine 2026:** M1 **Jan 15** Matrix/Standards & Kalender-Sichtbarkeit · M2 **Jan 31** Rituale fix · M3 **Mär 31** Q1-Review · M4 **Jun 30** Midyear · M5 **Sep 30** Q3 · M6 **Nov 30** Jahresretro.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Nordstern: Freund – **Neuaufbau, wertebasiert** (2026–2029)
|
||||||
|
|
||||||
|
**Nordstern-Satz:**
|
||||||
|
Bis 2029 habe ich einen **neuen Freundeskreis auf Augenhöhe** aufgebaut: **konstruktiv, intellektuell und/oder sportlich**, mit **gemeinsamen Interessen**, **guten Gesprächen**, **Verlässlichkeit**, **gegenseitiger Unterstützung** und **emotionaler Nähe** – **ohne alkoholzentrierte Milieus**.
|
||||||
|
|
||||||
|
**Warum (Impact):** Inspirierendes, tragfähiges Netz; Energie & Resilienz; stimmige Wertepassung.
|
||||||
|
|
||||||
|
**Was (Outcome):**
|
||||||
|
- **Kernkreis 6–10 Personen** definiert & gepflegt.
|
||||||
|
- **2–3 Mikro-Rituale/Clubs** (Laufen, Buch/Essay, Maker/Smart-Home).
|
||||||
|
- **Kontakt-Cadence** & **Mikro-Events** etabliert.
|
||||||
|
- **Filter:** Integrität, Respekt, Lernorientierung; kein Alkohol-Milieu.
|
||||||
|
|
||||||
|
**Wie (Strategie/Initiativen):**
|
||||||
|
1) **Kanäle:** Sport (Lauf/Wandern, Karate-Erwachsene), Tech/Maker (Home-Assistant/ESP32), Buch/Essay, Gemeinwohl (Gewaltschutz), berufl. low-stakes Salon.
|
||||||
|
2) **Pipeline/Filter:** Interessentenliste; 90-Tage-Zyklus (Erstkontakt → 1:1 → Mikro-Event → Fit-Check).
|
||||||
|
3) **Mikro-Events (Monat):** Walk & Talk, Buch-Impuls, Maker-Saturday, Kata & Coffee.
|
||||||
|
4) **Rituale/Clubs:** Running (W), Buch/Essay (M), Maker-Lab (M).
|
||||||
|
5) **Beziehungs-Hygiene:** Ask-before-advice, Vertraulichkeit, Grenzen/Familienzeit.
|
||||||
|
|
||||||
|
**Messung**
|
||||||
|
- *Leading:* **≥2** qualifizierte neue Kontakte/Monat; **≥4** 1:1/Monat; **≥1** Mikro-Event/Monat; **≥2** Clubs aktiv; 90-Tage-Follow-ups **≥80 %**.
|
||||||
|
- *Lagging:* Kernkreis **≥6 bis 12/2026**, **6–10 stabil bis 2029**; **≥4** starke Bindungen bis 12/2026; Beziehungsqualität **Ø ≥8/10**; ungelöste Konflikte >48 h **≤2/Jahr**.
|
||||||
|
|
||||||
|
**Jahresziel 2026:** **3 Kanäle aktiv**, **2 Clubs** gegründet, **12 Mikro-Events**, **≥24 Erstkontakte**, **≥40 1:1s**, **≥4 starke Bindungen**, Kernkreis **≥6**.
|
||||||
|
|
||||||
|
**Meilensteine 2026:** M1 **Jan 31** Kanäle/Filter & 10 Namen · M2 **Mär 31** Buch-Club+Running gestartet · M3 **Jun 30** Maker-Lab + 12 1:1s · M4 **Sep 30** Kernkreis ≥6 · M5 **Nov 30** 10 Mikro-Events kumuliert.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Nordstern: Berufsrolle (Umbrella) – **AI-first & lernorientiert** (2026–2029)
|
||||||
|
|
||||||
|
**Nordstern-Satz:**
|
||||||
|
In meiner Rolle als **Advisor/Research Lead & Ausbilder** arbeite ich konsequent **AI-first**: **evidenzbasierte Einsichten**, **nachhaltige IT-Kostenreduktion ohne Wertverlust** und **steile Lernkurven** – **verlässlich, reproduzierbar, menschenzentriert, compliant**.
|
||||||
|
|
||||||
|
**Warum (Impact):** Mehr Wirkung/Tempo, bessere Entscheidungen, entlastete Kapazität – ohne Hero-Modus und ohne Familienzeit zu kompromittieren.
|
||||||
|
|
||||||
|
**Was (Outcome):**
|
||||||
|
- **AI-Arbeits-System** (Priorisierung, Guardrails, Reviews, Use-Logs) ist sichtbar und gelebt.
|
||||||
|
- **A1/A2/A3** nutzen KI **rollenangemessen** (Research-Pipelines, Savings-Analytik, Curriculum).
|
||||||
|
- **Assets/Reuse** statt Einmal-Outputs (Prompt-Kits, Playbooks, Checklisten, Datasets).
|
||||||
|
|
||||||
|
**Wie (Strategie/Initiativen – cross-cutting):**
|
||||||
|
1) **AI-OS v1:** ≤3 OKRs/Säule; Weekly Top-3; Decision-Notes; keine stillen Scope-Changes.
|
||||||
|
2) **Guardrails & Compliance:** Datenschutz/IP; Quellen/Annahmen offen; Hallu-Checks; Human-in-the-loop.
|
||||||
|
3) **A1 Research:** Retrieval/Synthese; **1 Insight/Monat**, **1 Deep-Dive/Quartal** (AI-gestützt, reproduzierbar).
|
||||||
|
4) **A2 IT-Kosten:** Savings-Scanner & Playbooks; **Clinics ≥2/Monat** (Ø ≥4.5/5).
|
||||||
|
5) **A3 Ausbildung:** **AI-Curriculum** (Literacy, Prompts, Cases, Ethik), Rubrics, Teach-back.
|
||||||
|
6) **Assetisierung/Reuse:** **≥2 AI-Assets/Quartal**, Reuse-Quote ↑.
|
||||||
|
|
||||||
|
**Messung (bis Management-Abgleich ohne harte Business-Zahlen)**
|
||||||
|
- *Leading:* OTQ **≥90 %**; **AI-Use-Log je Deliverable**; **Assets ≥2/Quartal**; **Clinics ≥2/Monat (Ø ≥4.5/5)**; Research-Cadence erfüllt; **monatliches Steering** A1/A2/A3.
|
||||||
|
- *Lagging:* **Stakeholder-NPS intern ≥8/10**; **Savings-Pipeline KPI = TBD mit Management**; Placement-Rate (A3) **≥95 %**, Evaluation **≥4.6/5**; **Research-Reuse ≥50 %**.
|
||||||
|
|
||||||
|
**Jahresziel 2026:** Q1 **KPI-Rahmen** mit Management fixiert; **AI-OS v1** live; **≥8 AI-Assets/Jahr**; Cadence erfüllt; Case-Library aufgebaut.
|
||||||
|
|
||||||
|
**Meilensteine 2026:** M1 **Jan 31** KPI/Guardrails frei · M2 **Mär 31** Q1-Review · M3 **Jun 30** Mid-Year (AI-OS v1→v1.1) · M4 **Sep 30** Q3-Review · M5 **Nov 30** Jahresretro.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## Risiken & Guardrails (global, Kurzverweis)
|
||||||
|
- **Overcommitment, Perfektionismus, Kontextwechselkosten** → siehe `leitbild-risiken-anti-patterns`.
|
||||||
|
- **KI & Compliance** → `ai-enablement-roadmap` Guardrails befolgen.
|
||||||
|
|
||||||
|
---
|
||||||
|
---
|
||||||
|
release:
|
||||||
|
version: 1.0.0
|
||||||
|
date: 2025-10-31
|
||||||
|
status: frozen
|
||||||
|
notes:
|
||||||
|
- Content-Freeze aller Nordsterne inkl. KPIs & Meilensteine 2026
|
||||||
|
- AI-first Berufsrolle verankert; Savings-KPI bewusst externalisiert
|
||||||
|
- Review-Verknüpfung & Risiko-Log referenziert
|
||||||
|
external_dependencies:
|
||||||
|
- id: mgmt-kpi-alignment-2026q1
|
||||||
|
scope: "Savings-KPI (A2) gemeinsam mit Management festlegen"
|
||||||
|
target_date: 2026-03-31
|
||||||
|
---
|
||||||
Loaded 100 of 137 files, more files were not shown because too many files have changed in this diff.
Show more
Reference in new issue
Block a user