cleanup db and added embedding coroutine
This commit is contained in:
@@ -2,16 +2,19 @@ package main
|
||||
|
||||
import (
|
||||
"context"
|
||||
"errors"
|
||||
"log/slog"
|
||||
"os"
|
||||
"time"
|
||||
|
||||
tea "charm.land/bubbletea/v2"
|
||||
"git.estatecloud.org/radumaco/souvenir/config"
|
||||
"git.estatecloud.org/radumaco/souvenir/db/embed"
|
||||
"git.estatecloud.org/radumaco/souvenir/db/history"
|
||||
"git.estatecloud.org/radumaco/souvenir/llm"
|
||||
ui "git.estatecloud.org/radumaco/souvenir/ui"
|
||||
)
|
||||
|
||||
|
||||
func main() {
|
||||
ctx := context.Background()
|
||||
config, err := config.Load(".config.json")
|
||||
@@ -28,6 +31,10 @@ func main() {
|
||||
os.Exit(1)
|
||||
}
|
||||
defer db.Close()
|
||||
es, _ := setupEmbedding(config, logger)
|
||||
if es != nil {
|
||||
defer es.Close()
|
||||
}
|
||||
|
||||
p := tea.NewProgram(ui.InitialModel(ctx, *config, *db))
|
||||
if _, err := p.Run(); err != nil {
|
||||
@@ -35,3 +42,46 @@ func main() {
|
||||
os.Exit(1)
|
||||
}
|
||||
}
|
||||
|
||||
func setupEmbedding(cfg *config.Config, logger *slog.Logger) (*embed.EmbedStore, error) {
|
||||
ctx, cancel := context.WithCancel(context.Background())
|
||||
defer cancel()
|
||||
embedder := llm.NewEmbedder(cfg.Embedding)
|
||||
embedStore, err := embed.NewEmbedStore(ctx, cfg.Db, *embedder)
|
||||
if err != nil {
|
||||
logger.Error("Could not initialize embedder", "error", err)
|
||||
return nil, err
|
||||
}
|
||||
ticker := time.NewTicker(time.Duration(cfg.Embedding.Interval) * time.Minute)
|
||||
go func() {
|
||||
defer ticker.Stop()
|
||||
for {
|
||||
select {
|
||||
case <-ctx.Done():
|
||||
return
|
||||
case <-ticker.C:
|
||||
runEmbedding(ctx, embedStore, logger)
|
||||
}
|
||||
}
|
||||
}()
|
||||
return embedStore, nil
|
||||
}
|
||||
|
||||
func runEmbedding(ctx context.Context, em *embed.EmbedStore, logger *slog.Logger) error {
|
||||
convs, err := em.GetConversationsToEmbed(ctx)
|
||||
if err != nil {
|
||||
logger.Error("Could not get conversations to embed", "error", err)
|
||||
return err
|
||||
}
|
||||
var errs []error
|
||||
for _, conv := range convs {
|
||||
if err := em.EmbedConversation(ctx, conv); err != nil {
|
||||
logger.Error("Could not embed conversation", "conversation_id", conv, "error", err)
|
||||
errs = append(errs, err)
|
||||
}
|
||||
}
|
||||
if errs != nil {
|
||||
return errors.Join(errs...)
|
||||
}
|
||||
return nil
|
||||
}
|
||||
|
||||
Reference in New Issue
Block a user