Synology AI Console - Nun ist die KI auch bei Synology angekommen

[geimist]

Aber man muss sie nicht nutzen. Finde ich aber auch derzeit nicht nachvollziehbar.

 

[patrickn]

Muss man wirklich nicht.
DS223:





Vermutlich weiß Synology langsam selbst nicht mehr was sie treiben

 

[luxdunkel]

Die Betaphase für die AI Konsole, MailPlus Server, MailPlus und Office ist beendet. Ich habe OpenAI angebunden und stelle fest, dass es nicht mehr als Spielerei ist.

 

[niklas]

War auch enttäuscht.... anstatt etwas in Office zu erstellen, gabs von AI nur eine Anleitung wie ich das machen kann.....

 

[Online78]

Hallo, also ich bin KI gengenüber auch skeptisch. Wäre aber offen dafür lokal ein llm laufen zu lassen, falls sich dies einbinden lässt. Habe aus Neugier jedoch mal die AI Console installiert und ein Update von MailserverPlus und MailPlus gemacht. Folgendes lässt sich berichten:

• MailPlus 3.4 läuft nur mit laufender AI Console.
• AI Console muss installiert sein und laufen, aber es braucht keine einzige Verbindung mit einem AI Modell, damit MailPlus ohne Probleme läuft.

Erkenntnisse:

• Im Moment könnte ich damit leben, dass ich AI Console installieren und laufen lassen muss, ohne das ich eine Verbindung zu einem Modell herstelle.

Offene Fragen:

• Macht AI Console etwas im Hintergrund was ich nicht will? Analyse oder so?
• Kann ich ein eigenens LLM Modell auf der Synology laufen lassen (wenn es eine potente ist?)

Kann dazu jemand was sagen?
Danke und Gruss online78

 

[akoerber]

Ich möchte mailplus ohne die ai console verwenden. Gibt es eine Möglichkeit dazu - etwa durch ein Zurück zu einer vorhergehenden Version?
Auch "Synology Office" braucht die ai console

 

[geimist]

Solange du die AI Console nicht konfigurierst und mit einer KI-Anbieter-API verknüpfst, hast das keine Auswirkung.
Nutze lieber aktuelle Software mit gefixten Bugs.

 

[FR_NAS]

Offene Fragen:

• [...]
• Kann ich ein eigenens LLM Modell auf der Synology laufen lassen (wenn es eine potente ist?)

Das würde mich auch interessieren, gibt es dazu Erfahrungen, ob man das mit einem schlanken Modell lokal hinbekommen könnte?

 

[luxdunkel]

Mit der neuesten Version der AI-Console sehr gut möglich.

 

[weyon]

Läuft das Ki Model nativ auf dem NAS, also lokal ohne unterstützung durch das Internet? Dann wäre das Model ja ewig langsam bei den CPUs und iGPU welche Synology verbaut.

 

[luxdunkel]

Das ist theoretisch möglich - aber unendlich langsam. Ich hatte es auf einer 1621+ versucht, mit einer Anfrage war Sie Stundenlang beschäftigt, und zu nichts mehr anderes in der Lage. Bei mir läuft das LLM auf meinem Desktop Rechner mit relativ potenter GPU & CPU sowie ausreichend RAM, im lokalem Netzwerk freigeben.

 

[weyon]

Was bringt es dann wenn es nur theoretisch möglich ist aber an der Langsamkeit scheitert? Wer baut schon in sein NAS eine 4090 ein ;-)

 

[Kachelkaiser]

Wie so oft bei solchen Sachen, es wird gemacht weil man es kann, Sinn steckt oft nicht dahinter

 

[Benie]

Das ist theoretisch möglich - aber unendlich langsam.

Nicht umsonst plant UGREEN zb. ihr neues KI NAS iDX6011 64GB RAM mit einer Intel Core 5 125H CPU und in der Pro Version soll sogar noch eine stärkere verbaut werden.

 

[luxdunkel]

Was bringt es dann wenn es nur theoretisch möglich ist aber an der Langsamkeit scheitert? Wer baut schon in sein NAS eine 4090 ein ;-)

Mein Ziel war es, ein LLM Modell mit der AI Console und Mail Plus zu verwenden. Unter dem Strich braucht man es nicht, am Ende ist es eine schöne Spielerei. Dass das mit dem LLM auf einer DS nicht klappt, versteht sich von selbst. Testen musste ich es trotzdem.

 

[Andy+]

in der Pro Version soll sogar noch eine stärkere verbaut werden

Es ist ein Intel Core Ultra 7 255H mit 16 Kernen und 16 Threads mit einer Taktrate von bis zu 5,1 GHz und 96 TOPS und übertrifft er den Intel-Core-Ultra-Prozessor 125H um das mehrfache. Das Basissystem verwendet den Intel Core Ultra 5 125H mit 14 Kernen und 18 Threads bei 4,5 GHz.

Ich finde aber beide NAS auch jetzt schon im Kickstarter als zu teuer und wenn man den geplanten Marktpreis sieht, fragt man sich, wer das kaufen soll, wenn es vom UGOS pro als OS mal abgesehen, für deutlich weniger Aufwand im Grunde dasselbe gibt. Nennen wir mal Aoostart WRT Max, Minisforum N5 pro und dergleichen NAS mit schnellen Desktopprozessoren.

 

[Benie]

Danke, für das ergänzen. Hatte da die genaue Bezeichnung grad nicht zur Hand.
Selbst warte ich auf die iDX6011 64GB Pro. Wobei ich mir noch nicht ganz sicher bin ob ich sie kaufe. Aber wie Du schon angesprochen hast, wenn dann nur zum Kickstarter Preis.

 

[Andy+]

wenn dann nur zum Kickstarter Preis

Das war auch meine Überlegung.

 

[plang.pl]

Wer baut schon in sein NAS eine 4090 ein ;-)

Wenn ich mir gewisse Custom-Desings so ansehe, ist eher die Frage, ob man sein NAS in eine 4090 baut

Neue Modelle dann 2028: RTX6090 + Intel Celeron aus dem Jahr 2015. Gewaltige KI-Power mit dem besten Kernel-Unterbau des vergangenen Jahrhunderts