Wissenslücke bei der #loscon25 erfolgreich geschlossen.
👉 Auf einem Hetzner Server mit Ollama ein lokal funktionierendes KI-System eingerichtet und RAG-Funktionalität ausprobiert. Der halbe Tag hier hat sich sehr gelohnt. Danke!
👉 Auf einem Hetzner Server mit Ollama ein lokal funktionierendes KI-System eingerichtet und RAG-Funktionalität ausprobiert. Der halbe Tag hier hat sich sehr gelohnt. Danke!
Simon Dückert hat dies geteilt.
Diese Website benutzt Matomo, eine Open-Source-Software zur statistischen Auswertung der Besucherzugriffe. Wenn du nicht willst, dass Deine Besuche auf diese Weise gespeichert werden, kannst du ein Cookie setzen. Dann wird Matomo / Piwik dich auf dieser Website nicht mehr verfolgen (opt-out).
Henning Müller
Als Antwort auf Nele Hirsch (ebildungslabor) • • •Nele Hirsch (ebildungslabor)
Als Antwort auf Henning Müller • • •Ich werde das noch ausführlich aufschreiben. Mein bislang noch fehlender Schritt war, Ollama, das ich vorher lokal auf meinem Laptop hatte, was miserabel lief, da keine Grafikkarte, auf einen vernünftigen Server (bei mir von Hetzner) zu bringen. (Das hatte ich vorher noch nicht gemacht)
Frank Wittemeier
Als Antwort auf Nele Hirsch (ebildungslabor) • •Nele Hirsch (ebildungslabor)
Als Antwort auf Frank Wittemeier • • •@frank
Das war keine gezielte Auswahl bei Hetzner, sondern einfach weil ich da meine Website habe. Gibt es bessere Empfehlungen?
Ein Server, den ich da jetzt testweise angelegt habe und mir ausreichend scheint, kostet rund 50 Euro/ Monat (Wenn dann noch ein paar API Kosten für proprietäre Modelle dazu kommen, aber ich überwiegend Open Source verwenden kann, ist das immer noch günstiger, als mehrere proprietäre Accounts zu bezahlen.)
Frank Wittemeier
Als Antwort auf Nele Hirsch (ebildungslabor) • •