- Registriert
- 25. Jan. 2016
- Beiträge
- 5.580
- Reaktionspunkte
- 602
- Punkte
- 214
Ich habe mir die Synology AI Console eingerichtet und als Datenbasis dafür die Docker-Container Ollama und Open WebUI laufen und Open WebUI mit der AI Console verknüpft. Das läuft soweit ganz gut und man kann innerhalb der Synology Groupware diverse Inhalte erstellen lassen, z.B. in Mailplus ein Anschreiben an eine Versicherung übver Änderung oder Kündigung, Formelvorschläge im Tabellentool, Textvorlagen in Worddateien wie in Mailplus usw.
Dockercontainer und Datenbasis sollte aber besser auf SSD / NVMe laufen. sonst ist das etwas lahm. Zudem halte ich die +Modelle schon ziemlich grenzwertig dafür, mindestens XS oder besser für ein flüssiges Arbeiten und ansonsten noch gut RAM dafür, wenn das Ganze mal in Wallung kommt. Wenn da noch andere Container und VMs laufen, sind da 32 GB zu wenig und 64 GB sollten das schon sein. Wobei die Grösse des RAMs noch stark vom verwendeten Modell abhängt, je nach Modellgrösse können auch ein paar 100 GB RAM anfallen..
Dockercontainer und Datenbasis sollte aber besser auf SSD / NVMe laufen. sonst ist das etwas lahm. Zudem halte ich die +Modelle schon ziemlich grenzwertig dafür, mindestens XS oder besser für ein flüssiges Arbeiten und ansonsten noch gut RAM dafür, wenn das Ganze mal in Wallung kommt. Wenn da noch andere Container und VMs laufen, sind da 32 GB zu wenig und 64 GB sollten das schon sein. Wobei die Grösse des RAMs noch stark vom verwendeten Modell abhängt, je nach Modellgrösse können auch ein paar 100 GB RAM anfallen..
Zuletzt bearbeitet:
