Seldon
Att få en modell att fungera på egen dator är en sak. Att låta tusen användare anropa den varje timme, byta version utan avbrott och märka när träffsäkerheten börjar glida är något annat. Seldon packar modellen som en tjänst i ett kluster, mäter svarstider och träffar, och låter dig köra två versioner parallellt för att jämföra. Delar av plattformen är öppen källkod, resten säljs. För ett UF-företag är det här överkurs. Värt att känna till ändå, om någon i gruppen siktar vidare mot arbete med AI, eftersom driftfrågorna är det som skiljer ett skolprojekt från en produkt.
Vad det är
Seldon är till för att sätta maskininlärningsmodeller i drift och hålla koll på hur de beter sig. Riktar sig till team som redan tränat en modell och behöver köra den stabilt för riktiga användare. Delar av plattformen är öppen källkod.
Guider som nämner verktyget
Ingen guide nämner verktyget ännu.
- Driftform
- Server/VPS
- Kategori
- AI och LLM
- Webbplats
- seldon.io