MLOps – DI modelių diegimas ir priežiūra
Padedame DI ir mašininio mokymosi modelius iš bandymų perkelti į kasdienį darbą: su automatizuotu diegimu, stebėsena ir valdysena.
- Vodafone grupės įmonė
- 20 metų Lietuvoje
- Atsakome per 1 darbo dieną
Vodafone grupės dalis, 20 metų LietuvojeKą apima MLOps paslauga
Paspauskite kortelę – pamatysite, ką tiksliai darome.
DI pagrindo sukūrimas
Darbo aplinkos, duomenų prieigos ir skaičiavimo resursai duomenų mokslininkams Azure ar AWS.
Automatizuotas modelių kelias
Mokymo, testavimo ir diegimo CI/CD: nuo kodo pakeitimo iki veikiančio modelio.
Modelių ir duomenų versijos
Kiekvieno modelio, duomenų rinkinio ir rezultatų kilmės sekimas.
Stebėsena
Tikslumo, duomenų nukrypimų, modelio senėjimo ir našumo stebėsena su įspėjimais.
DI valdysena
Prieigos teisės, šališkumo patikros, sprendimų paaiškinamumas ir dokumentacija auditui.
Diegimas prie duomenų šaltinio
Modelių diegimas IoT ir edge įrenginiuose, kai sprendimai turi būti priimami vietoje.
MLOps – DI modelių diegimas ir priežiūra
DI modelį išbandyti nesudėtinga. Sunkiau jį paleisti taip, kad jis veiktų patikimai, būtų atnaujinamas ir neprarastų tikslumo keičiantis duomenims.
MLOps – tai DevOps principai DI modeliams: versijų valdymas, automatinis mokymas ir diegimas, kokybės testai ir nuolatinė stebėsena. Kuriame šiuos procesus Azure Machine Learning, Amazon SageMaker ir Kubernetes aplinkose.
Pasirūpiname ir tuo, ko dažnai pritrūksta: duomenų ir modelių kilmės sekimu, nukrypimų (drift) ir šališkumo stebėsena, prieigos teisėmis ir dokumentacija auditui.
Kodėl DI modeliams reikia MLOps
Turite DI pilotą, kurio niekaip nepavyksta paleisti į darbą? Įvertinkime, ko trūksta.
Iš bandymų į kasdienį darbą
Pilotas tampa veikiančiu sprendimu, o ne lieka prezentacijoje.
Patikimi rezultatai
Modelio kokybė stebima ir atnaujinama, kai keičiasi duomenys.
Atsekamumas
Aišku, kuris modelis, su kokiais duomenimis ir kada priėmė sprendimą.
Kaip diegiame MLOps
Aiškus procesas be staigmenų: kiekviename etape žinote, kas daroma, kas atsakingas ir kada bus rezultatas.
Įvertinimas
Esamų modelių, duomenų ir komandos darbo eigos peržiūra
Platformos paruošimas
Darbo aplinkos, saugyklos ir prieigos teisės Azure ar AWS
Automatizavimas
Mokymo, testavimo ir diegimo CI/CD bei modelių registras
Stebėsena ir valdysena
Kokybės ir nukrypimų stebėsena, įspėjimai, dokumentacija ir priežiūra
Skaylink grupės patirtis
Skaylink grupės DI komanda kuria DI pagrindus, MLOps procesus ir DI valdysenos modelius, o modelius diegia ir IoT bei edge įrenginiuose. Grupė AWS aplinkoje sukūrė teksto analizės sprendimą, kuris kasdien apdoroja milijonus įrašų ir randa tendencijas.
Lietuvoje MLOps derinamas su AI transformacijos projektais: pradedame nuo DI galimybių, o MLOps užtikrina, kad sprendimas veiktų ilgai.
Ką verta žinoti prieš pradedant
Atsakymai į klausimus, kuriuos DevOps ir kūrimo komandos mums užduoda dažniausiai.
01Kuo MLOps skiriasi nuo DevOps?
DevOps automatizuoja programinės įrangos kūrimą ir diegimą. MLOps papildomai valdo duomenis, modelių mokymą ir jų kokybės pokyčius laikui bėgant.
02Ar MLOps reikia, jei naudojame tik ChatGPT ar Copilot?
Paprastai ne. MLOps aktualus, kai kuriate ar pritaikote savo modelius, pvz., prognozėms, anomalijų paieškai ar dokumentų analizei.
03Kokias platformas naudojate?
Azure Machine Learning, Amazon SageMaker, Kubernetes ir atvirojo kodo įrankius, pvz., MLflow, pagal Jūsų aplinką.
04Kas yra modelio nukrypimas (drift)?
Tai situacija, kai realūs duomenys pasikeičia ir modelis ima klysti dažniau. Stebėsena tai pastebi ir signalizuoja apie poreikį modelį permokyti.
05Kaip MLOps susijęs su AI transformacija?
AI transformacija padeda rasti ir įgyvendinti DI sprendimus, o MLOps užtikrina, kad jie patikimai veiktų ir būtų prižiūrimi.
Susijusios paslaugos
Dažnai užsakomos kartu – viena komanda, viena sutartis.
Pradėkime nuo DI modelių įvertinimo
Papasakokite, kokius DI modelius kuriate ar naudojate ir kas trukdo juos paleisti. Pasiūlysime, nuo ko pradėti.
- ParašoteUžtenka kelių sakinių apie situaciją.
- 30 min. pokalbisAptariame tikslus ir esamą aplinką.
- Aiškus pasiūlymasGaunate planą, terminus ir kainą.
