mindnet/docs/03_Technical_References/03_tech_data_model.md
2025-12-16 18:46:11 +01:00

4.3 KiB

doc_type audience scope status version context
technical_reference developer, architect database, qdrant, schema active 2.7.0 Exakte Definition der Datenmodelle (Payloads) in Qdrant und Index-Anforderungen.

Technisches Datenmodell (Qdrant Schema)

1. Collections & Namenskonvention

Mindnet speichert Daten in drei getrennten Qdrant-Collections. Der Prefix ist via ENV COLLECTION_PREFIX konfigurierbar (Default: mindnet).

Das System nutzt folgende drei Collections:

  • {prefix}_notes: Metadaten der Dateien.
  • {prefix}_chunks: Vektorisierte Textsegmente.
  • {prefix}_edges: Gerichtete Graph-Kanten.

2. Note Payload (mindnet_notes)

Repräsentiert die Metadaten einer Markdown-Datei (1:1 Beziehung).

JSON-Schema:

{
  "note_id": "string (keyword)",       // UUIDv5 (deterministisch) oder Slug
  "title": "string (text)",            // Titel aus Frontmatter
  "type": "string (keyword)",          // Logischer Typ (z.B. 'project', 'concept')
  "retriever_weight": "float",         // Effektive Wichtigkeit (Frontmatter > Type > Default)
  "chunk_profile": "string",           // Effektives Profil (Frontmatter > Type > Default)
  "edge_defaults": ["string"],         // Liste der aktiven Default-Kanten
  "tags": ["string"],                  // Liste von Tags aus Frontmatter
  "aliases": ["string"],               // Synonyme für Discovery (WP-11)
  "created": "string (iso-date)",      // Erstellungsdatum
  "updated": "integer",                // Timestamp (File Modification Time)
  "fulltext": "string (no-index)",     // Gesamter Text (nur für Recovery/Export)
  
  // NEU in v2.7: Multi-Hash für flexible Change Detection
  "hashes": {
    "body:parsed:canonical": "string", // Hash nur über den Text-Body
    "full:parsed:canonical": "string"  // Hash über Text + Metadaten (Tags, Title, Config)
  }
}

Erforderliche Indizes: Es müssen Payload-Indizes für folgende Felder existieren:

  • note_id
  • type
  • tags

3. Chunk Payload (mindnet_chunks)

Die atomare Sucheinheit. Enthält den Vektor.

Vektor-Konfiguration:

  • Modell: nomic-embed-text
  • Dimension: 768
  • Metrik: Cosine Similarity

JSON-Schema:

{
  "chunk_id": "string (keyword)",      // Format: {note_id}#c{index} (z.B. 'abc-123#c01')
  "note_id": "string (keyword)",       // Foreign Key zur Note
  "type": "string (keyword)",          // Kopie aus Note (Denormalisiert für Filterung)
  "text": "string (text)",             // Reintext für Anzeige (ohne Overlap)
  "window": "string (text)",           // Text + Overlap (Basis für Embedding)
  "ord": "integer",                    // Laufende Nummer (1..N) für Sortierung
  "retriever_weight": "float",         // Geerbt von Note (für schnelles Re-Ranking)
  "chunk_profile": "string",           // Geerbt von Note (für Debugging/Filtering)
  "neighbors_prev": ["string"],        // ID des Vorgängers (Linked List)
  "neighbors_next": ["string"],        // ID des Nachfolgers
  "section": "string",                 // Pfad/Überschrift, zu der der Chunk gehört
  "source_path": "string"              // Relativer Pfad zur Datei
}

Erforderliche Indizes: Es müssen Payload-Indizes für folgende Felder existieren:

  • note_id
  • chunk_id
  • type

4. Edge Payload (mindnet_edges)

Gerichtete Kanten zwischen Knoten. Stark erweitert in v2.6 für Provenienz-Tracking.

JSON-Schema:

{
  "edge_id": "string (keyword)",       // Deterministischer Hash aus (src, dst, kind)
  "source_id": "string (keyword)",     // Chunk-ID (Start)
  "target_id": "string (keyword)",     // Chunk-ID oder Note-Titel (bei Unresolved)
  "kind": "string (keyword)",          // Beziehungsart (z.B. 'depends_on')
  "scope": "string (keyword)",         // Immer 'chunk' (Legacy-Support: 'note')
  "note_id": "string (keyword)",       // Owner Note ID (Ursprung der Kante)
  
  // Provenance & Quality (WP03/WP15)
  "provenance": "keyword",             // 'explicit', 'rule', 'smart', 'structure'
  "rule_id": "string (keyword)",       // Traceability: 'inline:rel', 'explicit:wikilink', 'smart:llm'
  "confidence": "float"                // Vertrauenswürdigkeit (0.0 - 1.0)
}

Erforderliche Indizes: Es müssen Payload-Indizes für folgende Felder existieren:

  • source_id
  • target_id
  • kind
  • scope
  • note_id