Blog/Címke
5 cikk ezzel a címkével: Self-hosting, a legújabbal kezdve. Mindegyik forrásokra épül, gyakorló szakembereknek írva.
LLMOps és értékelés
·10 perc olvasás
Saját LLM a GDPR miatt: mikor kell, mennyi GPU-memória kell a nyílt modellekhez, az EU-s árak 2026 októberében és a break-even millió tokenenként.
MI-ügynökök
·8 perc olvasás
A Temporal tartós workflow-ként futtat ügynökfutásokat: újrapróbálások, jóváhagyások és időzítők túlélik az összeomlást. Költség, adatvédelem, mikor ne.
LLMOps és értékelés
·7 perc olvasás
Nyomok, judge-metrikák, promptverziók és optimalizáló egy Apache 2.0 platformon. Saját szerveren ingyen, a Pro felhő havi 19 dollár, az USA-ban hosztolt.
MI-ügynökök
·12 perc olvasás
Az E2B minden ügynökfutást saját Firecracker microVM-ben futtat, pauzával és másodpercalapú számlázással. Hol illik be, és hol ér véget az önhosztolás?
LLMOps és értékelés
·10 perc olvasás
A Langfuse MIT-licencű platform LLM-nyomokhoz, promptverziókhoz és kísérletekhez. Mibe kerül a saját telepítés, mennyi a usage-alapú ár, és hol veszít?