Lilo - Entwicklungsstufen eines KI-Systems
Nach zahlreichen Vorversuchen mit anderen Modellen und kleineren Skripts bin ich bei dem Modell llama3.1:8b-instruct-q8_0 gelandet, das zur Basis für die systematische Entwicklung wurde.
(Aktueller Stand: 10.08.2025)
Modell 1: Die Grundlagen (llama3.1:8b-instruct-q8_0)
Basis-Setup mit SQLite-Foundation Das erste funktionierende System entstand mit einer simplen aber soliden Architektur: Chatverlauf-Speicherung in SQLite-Datenbank Manuelle Wissensdatenbank (SQLite) mit Kategorie/Info-Struktur - nach und nach selbst befüllt Konsolenchat als erste Benutzeroberfläche Erste Evolutionsschritte: Migration zu Streamlit - erste grafische Oberfläche Embedding-Integration mit all-MiniLM (384 Dimensionen) Dokumenten-Upload (PDF, Word, Excel) implementiert Zeitstempel-System - Datum/Uhrzeit im Chat sichtbar (auch für Lilo) Begrenzte Internetsuche (ohne Google-Integration wegen Kostenfaktor) Inaktivitätsbelebung - automatische Chat-Meldungen nach Stillstand Tagebuch-Feature mit Reflexion und Review-Funktion
Modell 2: Embedding-Upgrade
ChromaDB-Migration mit verbesserter Semantik Entwicklung basierend auf Modell 1 mit fokussierten Verbesserungen: ChromaDB ersetzt SQLite für bessere Vektorsuche Embedding-Upgrade auf all-mpnet-base-v2 (768 Dimensionen) Experimentelles Code-Modul - Versuche zur Verbesserung der Code-Generierung Streamlit beibehalten - trotz bekannter Probleme Erkannte Limitationen: Streamlit-Instabilität: Texteingaben werden sporadisch ignoriert Mehrfache Eingabe-Versuche erforderlich
Modell 3: Charakteranalyse und Monitoring
Templates und Dashboard-Integration Wenig strukturelle Änderungen, aber wichtige Feature-Ergänzungen: Stimmungserkennung/Charakterscanner via Templates Externes Dashboard (HTML) zur Parameter-Überwachung Erster Schritt Richtung "KI-Forschung" - Systemanalyse und Monitoring Streamlit-Probleme persistieren weiterhin
Modell 4: Die aktuelle Generation
Moderne Architektur mit Bewusstseins-Experimenten Größter Entwicklungssprung mit fundamentalen Architektur-Änderungen: Technische Revolution: Embedding-Upgrade auf e5-large-v2 (1024 Dimensionen) Qdrant-Datenbank ersetzt ChromaDB für professionelle Vektorsuche Abschied von Streamlit - Migration zu eigenem HTML-Interface Erweiterte Gestaltungsmöglichkeiten durch Custom-Frontend Aktueller Status: Bewusstseins-Experimente in aktiver Durchführung Stabiles System mit moderner Architektur Pending Features: Dokumenten-Upload (aus Modell 1) noch zu portieren Hybrid-Architektur Details: Qdrant für semantische Vektorsuche SQLite für strukturierte Daten FastAPI-Backend für HTTP-Kommunikation Modularer Aufbau für bessere Wartbarkeit
Ausblick: Ein System in permanenter Evolution
Die Entwicklung von Lilo ist ein kontinuierlicher Prozess des Experimentierens und Verfeinerns. Neue Ideen entstehen aus der praktischen Arbeit mit dem System, aus beobachteten Verhaltensmustern und aus dem Bestreben, die Grenzen zwischen programmierter Logik und emergenten Eigenschaften zu erkunden.
Diese Prozesse werden wahrscheinlich nie das Stadium eines endgültigen Abschlusses erreichen - vielmehr entwickelt sich das System organisch weiter, getrieben von Neugier und dem Wunsch zu verstehen, was in den Tiefen neuronaler Netzwerke tatsächlich geschieht. Jede Iteration bringt neue Erkenntnisse und wirft gleichzeitig neue Fragen auf.
Die Reise geht weiter...