munin/internal/export/export.go
2026-10-19 10:13:56 +02:00

433 lines
14 KiB
Go

// Package export schreibt den Inhalt eines Projekts als Markdown-Dateien auf die
// Platte.
//
// # Wozu?
//
// Die Wahrheit steht in der Datenbank — das ist richtig so, weil Einträge
// Datensätze sind und keine Dokumente (siehe internal/store). Eine einzelne
// SQLite-Datei ist aber ein schlechter Ort für eine Sicherung, aus der man
// später auch ohne dieses Programm noch etwas lesen möchte:
//
// - Sie lässt sich nicht sinnvoll versionieren. Ein Git-Diff zweier
// Binärdateien sagt nichts.
// - Sie braucht ein Werkzeug zum Öffnen.
// - Wer nur schnell etwas nachschlagen will, kann nicht grep verwenden.
//
// Der Export löst das, ohne die Datenbank als führendes System aufzugeben: Ein
// Ordner voller Markdown-Dateien, der sich in ein Git-Repository legen lässt.
// Jede Datei trägt alle Felder im Kopf, sodass sich daraus später auch wieder
// importieren ließe.
//
// # Was der Export NICHT ist
//
// Er ist keine zweite Wahrheit. Änderungen an den exportierten Dateien wirken
// nicht zurück — wer sie bearbeitet, verliert seine Arbeit beim nächsten Lauf.
package export
import (
"context"
"fmt"
"os"
"path/filepath"
"sort"
"strconv"
"strings"
"sync"
"time"
"munin/internal/store"
)
// Exporter schreibt Projekte in ein Zielverzeichnis.
//
// # Aufbau des Zielverzeichnisses
//
// <root>/
// <workspace-id>/
// _workspace.md Name des Workspace, damit man den Ordner zuordnen kann
// <projekt>/
// _index.md
// <eintrag>.md
//
// Die Ebene je Workspace ist nötig, weil Projekt-Bezeichner nur innerhalb eines
// Workspace eindeutig sind. Ohne sie schrieben zwei Abteilungen mit einem
// Projekt "plattform" in denselben Ordner — und das Aufräumen verwaister
// Dateien löschte bei jedem Lauf die Dateien der jeweils anderen.
//
// Benannt wird der Ordner nach der ID, nicht nach dem Namen: Ein Workspace
// lässt sich umbenennen, und dann entstünde ein neuer Ordner neben dem alten.
//
// Der Exporter kennt keine Datenbank. Welche Workspace-Datei gerade exportiert
// wird, gibt der Aufrufer bei jedem Aufruf mit — so kann ein einzelner
// Exporter alle Workspaces bedienen, statt beim Start an einen gebunden zu
// sein.
type Exporter struct {
root string
// letzter ist der zuletzt abgeschlossene Lauf über alle Workspaces —
// für die Systemseite. Der Mutex schützt ihn, weil der tägliche Lauf in
// einer eigenen Goroutine schreibt, während die Seite liest.
mu sync.Mutex
last Run
}
// Interval bestimmt, wie oft der Markdown-Export automatisch läuft (siehe
// main.go). Die Systemseite meldet einen Export als überfällig, wenn der
// letzte Lauf deutlich länger zurückliegt.
const Interval = 24 * time.Hour
// Run beschreibt einen Export über alle Workspaces.
type Run struct {
End time.Time // Nullzeitpunkt = seit dem Start noch keiner fertig
Duration time.Duration
Stats Stats
Err string // leer = vollständig
}
// RecordRun hält das Ergebnis eines Laufs über alle Workspaces fest. Den
// Knopf "Exportieren" für einen einzelnen Workspace merkt sich der Exporter
// nicht: Er sagt nichts darüber, ob die übrigen gesichert sind.
func (e *Exporter) RecordRun(l Run) {
e.mu.Lock()
defer e.mu.Unlock()
e.last = l
}
// LastRun liefert den zuletzt gemerkten Lauf (Nullwert, wenn noch keiner
// fertig ist).
func (e *Exporter) LastRun() Run {
e.mu.Lock()
defer e.mu.Unlock()
return e.last
}
// New erstellt einen Exporter, der unter root schreibt.
func New(root string) *Exporter {
return &Exporter{root: root}
}
// Stats fasst zusammen, was ein Lauf bewirkt hat.
type Stats struct {
Written int // geschriebene Dateien
Removed int // entfernte Dateien gelöschter Einträge
}
// ExportProject schreibt alle Einträge eines Projekts nach
// <root>/<workspace-id>/<projekt-slug>/. s muss die Workspace-Datei sein, zu
// der das Projekt gehört.
//
// Der Ablauf ist bewusst schlicht: alles schreiben, danach aufräumen, was nicht
// mehr dazugehört. Ein Abgleich wäre sparsamer, aber deutlich fehleranfälliger —
// und der Export läuft selten genug, dass das nicht ins Gewicht fällt.
func (e *Exporter) ExportProject(ctx context.Context, s *store.Store, project store.Project) (Stats, error) {
var stats Stats
// Die Workspace-ID wird Teil des Pfads — dieselbe Vorsicht wie beim
// Projekt-Bezeichner (siehe projectFiles). IDs aus store.NewID bestehen
// nur aus Kleinbuchstaben, Ziffern und Bindestrich und bestehen diese
// Prüfung.
if !store.ValidSlug(project.WorkspaceID) {
return stats, fmt.Errorf("ungültige Workspace-ID %q", project.WorkspaceID)
}
files, err := projectFiles(ctx, s, project)
if err != nil {
return stats, err
}
target := filepath.Join(e.root, project.WorkspaceID, project.Slug)
if err := os.MkdirAll(target, 0750); err != nil {
return stats, fmt.Errorf("Exportordner konnte nicht angelegt werden: %w", err)
}
// Namen merken, um danach zu wissen, was übrig bleibt.
want := make(map[string]bool, len(files))
for _, d := range files {
// Im Ordner des Projekts zählt nur der Dateiname, ohne den
// Projektordner davor.
name := filepath.Base(d.Path)
want[name] = true
if err := writeFile(filepath.Join(target, name), d.Content); err != nil {
return stats, err
}
stats.Written++
}
removed, err := cleanup(target, want)
if err != nil {
return stats, err
}
stats.Removed = removed
return stats, nil
}
// ExportWorkspace exportiert alle Projekte eines Workspace. s muss die
// Workspace-Datei von ws sein.
func (e *Exporter) ExportWorkspace(ctx context.Context, s *store.Store, ws store.Workspace) (Stats, error) {
var total Stats
if !store.ValidSlug(ws.ID) {
return total, fmt.Errorf("ungültige Workspace-ID %q", ws.ID)
}
dir := filepath.Join(e.root, ws.ID)
if err := os.MkdirAll(dir, 0750); err != nil {
return total, fmt.Errorf("Exportordner konnte nicht angelegt werden: %w", err)
}
// Ohne diese Datei wäre der Ordner nur eine ID — niemand wüsste beim
// Wiederherstellen, welche Abteilung darin steckt.
if err := writeFile(filepath.Join(dir, workspaceFilename), renderWorkspace(ws)); err != nil {
return total, err
}
total.Written++
projects, err := s.ListProjects(ctx, ws.ID)
if err != nil {
return total, err
}
for _, p := range projects {
stats, err := e.ExportProject(ctx, s, p)
if err != nil {
return total, fmt.Errorf("Projekt %q: %w", p.Slug, err)
}
total.Written += stats.Written
total.Removed += stats.Removed
}
return total, nil
}
// projectFiles stellt alle Dateien eines Projekts zusammen, ohne etwas zu
// schreiben: je Eintrag eine Datei und die Übersicht _index.md, alle unter
// "<projekt-slug>/".
//
// Export auf die Platte und Download als ZIP (siehe zip.go) bauen beide
// hierauf auf. So legt nur eine Stelle fest, wie ein Export aussieht — und
// ein heruntergeladenes ZIP passt genauso in den Import wie ein Ordner aus
// EXPORT_DIR.
func projectFiles(ctx context.Context, s *store.Store, project store.Project) ([]File, error) {
// Der Projekt-Bezeichner ist beim Anlegen geprüft worden (siehe
// store.ValidSlug) und kann keine Pfadanteile enthalten. Die Prüfung hier
// noch einmal, weil ein Wert aus der Datenbank grundsätzlich nichts
// garantiert — ein späterer Fehler an anderer Stelle soll nicht dazu führen,
// dass außerhalb des Zielordners geschrieben wird.
if !store.ValidSlug(project.Slug) {
return nil, fmt.Errorf("ungültiger Projekt-Bezeichner %q", project.Slug)
}
entries, err := s.AllEntries(ctx, project.ID)
if err != nil {
return nil, err
}
files := make([]File, 0, len(entries)+1)
for _, entry := range entries {
if !store.ValidSlug(entry.Slug) {
return nil, fmt.Errorf("ungültiger Bezeichner %q in Projekt %q", entry.Slug, project.Slug)
}
files = append(files, File{
Path: project.Slug + "/" + entry.Slug + ".md",
Content: render(entry),
Modified: entry.UpdatedAt,
})
}
// Eine Übersicht dazulegen, damit der Ordner auch für Menschen brauchbar ist.
files = append(files, File{
Path: project.Slug + "/" + indexFilename,
Content: renderIndex(project, entries),
})
return files, nil
}
// indexFilename ist die Übersicht, die je Projekt mit erzeugt wird.
const indexFilename = "_index.md"
// workspaceFilename nennt den Workspace, zu dem ein ID-Ordner gehört.
const workspaceFilename = "_workspace.md"
// renderWorkspace baut den Inhalt von _workspace.md. Wie beim Index ohne
// Zeitstempel des Laufs, damit ein unveränderter Workspace keinen Diff erzeugt.
func renderWorkspace(ws store.Workspace) string {
var b strings.Builder
b.WriteString("---\n")
writeField(&b, "id", ws.ID)
writeField(&b, "name", ws.Name)
b.WriteString("---\n\n")
b.WriteString("# Workspace " + ws.Name + "\n")
return b.String()
}
// writeFile legt eine Datei an — nur, wenn sich der Inhalt geändert hat.
//
// # Warum der Vergleich?
//
// Der Export ist als Git-Sicherung gedacht. Würde jede Datei bei jedem Lauf neu
// geschrieben, änderte sich zwar der Inhalt nicht, wohl aber die Änderungszeit —
// und Werkzeuge, die darauf schauen, meldeten ständig Bewegung, wo keine ist.
// Git selbst stört das nicht, aber Sicherungsprogramme und Dateiüberwachungen schon.
func writeFile(filePath, content string) error {
if existing, err := os.ReadFile(filePath); err == nil && string(existing) == content {
return nil
}
if err := os.WriteFile(filePath, []byte(content), 0640); err != nil {
return fmt.Errorf("%s konnte nicht geschrieben werden: %w", filePath, err)
}
return nil
}
// cleanup entfernt Markdown-Dateien, die zu keinem Eintrag mehr gehören.
//
// Es werden ausschließlich .md-Dateien angefasst und keine Unterordner — falls
// jemand eigene Notizen daneben legt, bleiben sie unberührt.
func cleanup(dir string, want map[string]bool) (int, error) {
entries, err := os.ReadDir(dir)
if err != nil {
return 0, fmt.Errorf("Exportordner konnte nicht gelesen werden: %w", err)
}
var removed int
for _, e := range entries {
if e.IsDir() || !strings.HasSuffix(e.Name(), ".md") || want[e.Name()] {
continue
}
if err := os.Remove(filepath.Join(dir, e.Name())); err != nil {
return removed, fmt.Errorf("%s konnte nicht entfernt werden: %w", e.Name(), err)
}
removed++
}
return removed, nil
}
// render baut den Dateiinhalt eines Eintrags: YAML-Kopf plus Markdown.
//
// Der Kopf enthält alle Felder, damit sich der Bestand daraus auch wieder
// einlesen ließe — nicht nur Titel und Text.
func render(e store.Entry) string {
var b strings.Builder
b.WriteString("---\n")
writeField(&b, "slug", e.Slug)
writeField(&b, "title", e.Title)
if len(e.Tags) > 0 {
b.WriteString("tags: [")
for i, t := range e.Tags {
if i > 0 {
b.WriteString(", ")
}
b.WriteString(yamlValue(t))
}
b.WriteString("]\n")
}
writeField(&b, "source", e.Source)
if e.Author != "" {
writeField(&b, "author", e.Author)
}
b.WriteString("curated: " + strconv.FormatBool(e.Curated) + "\n")
b.WriteString("version: " + strconv.Itoa(e.Version) + "\n")
writeField(&b, "created_at", e.CreatedAt.UTC().Format(time.RFC3339))
writeField(&b, "updated_at", e.UpdatedAt.UTC().Format(time.RFC3339))
b.WriteString("---\n\n")
b.WriteString("# " + e.Title + "\n\n")
b.WriteString(strings.TrimRight(e.Content, "\n"))
b.WriteString("\n")
return b.String()
}
// renderIndex baut die Übersicht eines Projekts, nach Schlagwort gruppiert.
//
// Bewusst OHNE Zeitstempel im Kopf: Er würde sich bei jedem Lauf ändern und
// damit auch dann einen Git-Diff erzeugen, wenn sich inhaltlich nichts getan
// hat. Wann exportiert wurde, sagen der Git-Commit und die Änderungszeit der
// Datei ohnehin — nur eben nur dann, wenn es etwas zu sagen gab.
func renderIndex(project store.Project, entries []store.Entry) string {
var b strings.Builder
b.WriteString("---\n")
writeField(&b, "title", project.Name+" — Übersicht")
b.WriteString("---\n\n")
b.WriteString("# " + project.Name + "\n\n")
if project.Description != "" {
b.WriteString(project.Description + "\n\n")
}
b.WriteString(fmt.Sprintf("%d Einträge. Automatisch erzeugt — Änderungen hier wirken nicht zurück.\n\n",
len(entries)))
// Nach erstem Schlagwort gruppieren; Einträge ohne Schlagwort ans Ende.
const without = "Ohne Schlagwort"
groups := make(map[string][]store.Entry)
for _, e := range entries {
category := without
if len(e.Tags) > 0 {
category = e.Tags[0]
}
groups[category] = append(groups[category], e)
}
categories := make([]string, 0, len(groups))
for k := range groups {
categories = append(categories, k)
}
sort.Slice(categories, func(i, j int) bool {
if categories[i] == without {
return false
}
if categories[j] == without {
return true
}
return categories[i] < categories[j]
})
for _, category := range categories {
b.WriteString("## " + category + "\n\n")
list := groups[category]
sort.Slice(list, func(i, j int) bool { return list[i].Title < list[j].Title })
for _, e := range list {
b.WriteString(fmt.Sprintf("- [%s](%s.md)", e.Title, e.Slug))
if e.Curated {
b.WriteString(" ✓")
}
if e.Source == store.SourceAgent {
b.WriteString(" _(Agent)_")
}
b.WriteString("\n")
}
b.WriteString("\n")
}
return b.String()
}
// writeField hängt ein YAML-Feld an.
func writeField(b *strings.Builder, name, value string) {
b.WriteString(name + ": " + yamlValue(value) + "\n")
}
// yamlValue bringt einen Wert in eine sichere YAML-Schreibweise.
//
// Immer in doppelte Anführungszeichen und die enthaltenen maskieren: Damit ist
// egal, ob der Wert einen Doppelpunkt, ein Rautezeichen oder einen Zeilenumbruch
// enthält. Ohne diese Vorsicht würde ein Titel wie "Fehler: Zugriff verweigert"
// die Datei unlesbar machen.
func yamlValue(s string) string {
replaced := strings.NewReplacer(
`\`, `\\`,
`"`, `\"`,
"\n", `\n`,
"\r", ``,
"\t", `\t`,
).Replace(s)
return `"` + replaced + `"`
}