DI konsultacijos verslui: kaip pasirinkti tinkamą diegimo sprendimą?
Dirbtinio intelekto diegimo konsultacijos padeda nustatyti, kokio techninio sprendimo iš tikrųjų reikia įmonei. Ne kiekvienai užduočiai būtina kurti individualią DI sistemą ar automatizuotą agentą. Promptas.LT kartu su DI inžinieriais ir partneriais vertina esamus įrankius, duomenų šaltinius, integravimo galimybes ir numatomą naudą. Pagal darbo proceso pobūdį galime pasiūlyti naudoti jau turimą programinę įrangą, pritaikyti esamą DI platformą arba svarstyti individualaus sprendimo kūrimą.
Kada pakanka paruošto DI įrankio, o kada reikia individualios sistemos?
Sprendimo pasirinkimą lemia užduoties pobūdis, duomenų prieinamumas ir reikalingos integracijos. Jei darbuotojui reikia parengti dokumento santrauką, dažnai pakanka standartinio DI įrankio. Jeigu sistema turi ieškoti informacijos vidinėse duomenų bazėse, apdoroti didelius dokumentų kiekius arba atlikti veiksmus kitose programose, gali prireikti papildomo techninio sprendimo.
DI sprendimų pasirinkimo matrica
| Verslo poreikis | Svarstomas sprendimas | Ką reikia patikrinti |
|---|---|---|
| Darbuotojai rengia tekstus, santraukas ir analizuoja nedidelius dokumentus. | Standartinė DI platforma, pavyzdžiui, ChatGPT, Microsoft Copilot, Claude ar Gemini. | Ar turimos licencijos suteikia reikalingas funkcijas ir ar leidžiama apdoroti pasirinktus duomenis? |
| Reikia rasti atsakymus į klausimus, naudojant įmonės dokumentus ir žinių bazę. | DI asistentas su dokumentų paieška ir prieiga prie patvirtintų informacijos šaltinių. | Ar dokumentai tinkamai sutvarkyti, aktualūs ir prieinami pagal darbuotojų teises? |
| Reikia automatiškai apdoroti informaciją ir perduoti rezultatą kitai sistemai. | Programų integracija, automatizavimo platforma arba individualus sprendimas naudojant API. | Ar sistemos palaiko integracijas, kokie veiksmai leidžiami ir kur reikalingas žmogaus patvirtinimas? |
| Reikia reguliariai analizuoti struktūruotus duomenis ar rengti ataskaitas. | Esama analitikos sistema, taisyklėmis pagrįsta automatizacija arba DI papildyta analizė. | Ar užduočiai apskritai būtinas generatyvinis DI, ar pakanka įprastų duomenų apdorojimo priemonių? |
Mūsų rekomendacija – nepradėti nuo sudėtingiausio sprendimo. Jeigu reikiamą funkciją jau turi įmonėje naudojama platforma, pirmiausia vertiname galimybę ją pritaikyti. Individualus programavimas pagrįstas tada, kai standartinės priemonės neatitinka konkrečių techninių, funkcinių ar duomenų apsaugos reikalavimų.
Kaip DI asistentą galima sujungti su įmonės dokumentais ir duomenimis?
Įmonės DI asistentas gali naudoti vidinius dokumentus, jeigu pasirinkta platforma suteikia tinkamas integravimo ir prieigos valdymo galimybes. Tam nebūtinai reikia iš naujo mokyti kalbos modelį su visais įmonės failais. Vienas iš techninių variantų – informacijos paieška dokumentuose ir rastų ištraukų pateikimas DI modeliui atsakymo rengimo metu.
Kas yra RAG ir kada jis naudingas?
RAG (angl. Retrieval-Augmented Generation) – tai atsakymų generavimo metodas, papildantis kalbos modelio užklausą iš išorinių šaltinių atrinkta informacija.
Tokį metodą verta svarstyti, kai darbuotojai nuolat ieško techninių charakteristikų, produktų aprašymų, procedūrų ar kitų duomenų dideliame dokumentų rinkinyje.
Priklausomai nuo pasirinktos architektūros ir naudojamų platformų, dokumentai gali likti įmonės valdomoje saugykloje, o DI sistema naudotų tik užklausai reikalingą informaciją. Tačiau tai nėra automatinė visų RAG sprendimų savybė: duomenų perdavimo, indeksavimo, saugojimo ir prieigos sąlygas būtina įvertinti atskirai.
Ką būtina įvertinti prieš suteikiant DI prieigą prie dokumentų?
Dirbant su SharePoint, OneDrive, CRM, ERP ar kita vidine sistema svarbu nustatyti:
- Duomenų šaltinius: kuriuose aplankuose, duomenų bazėse ar sistemose laikoma atsakymams reikalinga informacija.
- Prieigos teises: ar naudotojas turi teisę matyti konkrečius dokumentus ir ar pasirinkta integracija išsaugo šiuos apribojimus.
- Duomenų aktualumą: kaip atskiriamos galiojančios dokumentų versijos nuo pasenusių.
- Atsakymų patikrinamumą: ar sistema gali nurodyti informaciją pagrindžiantį dokumentą arba jo dalį.
- Duomenų tvarkymą: kur perduodamas užklausos turinys, kiek laiko jis saugomas ir kokios paslaugų teikėjo sąlygos taikomos.
Jeigu naudotojas neturi prieigos prie dokumento įprastoje sistemoje, DI integracija neturėtų suteikti galimybės apeiti šio apribojimo. Todėl techninę architektūrą vertiname kartu su įmonės IT ir duomenų valdymo reikalavimais.
Kokius veiksmus galima patikėti DI agentui, o kuriuos turi patvirtinti žmogus?
DI agento savarankiškumas turi priklausyti nuo atliekamų veiksmų rizikos. Informacijos paieška ar dokumento juodraščio rengimas skiriasi nuo užsakymo patvirtinimo, kliento duomenų pakeitimo arba mokėjimo inicijavimo. Kuo didesnės galimos klaidos pasekmės, tuo svarbesni prieigos apribojimai, veiksmų registravimas ir žmogaus patvirtinimas.
Praktiškai atskiriame tris situacijas.
Informaciniai, parengiamieji ir vykdomieji veiksmai
Informacinės užduotys. DI ieško informacijos, lygina dokumentus arba rengia santrauką. Tokiu atveju svarbiausia užtikrinti teisingus šaltinius ir galimybę patikrinti atsakymą.
Parengiamieji veiksmai. DI sudaro komercinio pasiūlymo projektą, užpildo ataskaitos juodraštį arba parengia duomenų failą importui. Prieš naudojant rezultatą jį peržiūri atsakingas darbuotojas.
Veiksmai išorinėse sistemose. DI gali inicijuoti įrašų keitimą, pranešimų siuntimą ar kitas operacijas tik pagal suteiktas teises ir patvirtintą veiksmų logiką. Finansiniams, teisiniams arba kitiems reikšmingų pasekmių turintiems veiksmams rekomenduojame numatyti papildomą patvirtinimą.
JAV Nacionalinio standartų ir technologijų instituto (NIST) 2024 m. paskelbtame dokumente AI Risk Management Framework: Generative Artificial Intelligence Profile išskiriamos generatyvinio DI rizikos, įskaitant klaidingų, bet įtikinamai pateikiamų atsakymų generavimą. Todėl diegiant DI svarbu vertinti ne vien modelio gebėjimus, bet ir galimas jo klaidų pasekmes verslo procesui.
Šaltinis: NIST AI 600-1, 2024.
Kaip patikrinti, ar sukurtas DI sprendimas tinkamas naudoti įmonėje?
DI sistemos demonstracija dar neįrodo, kad sprendimas tinkamas kasdieniam darbui. Prieš jį priimant reikia patikrinti, kaip sistema veikia su tipinėmis, sudėtingomis ir netinkamai suformuluotomis užklausomis. Kartu su klientu galime aptarti priėmimo kriterijus, pagal kuriuos būtų vertinamas tikslumas, patikimumas ir integracijos veikimas.
Keturi DI sprendimo priėmimo kriterijai
- Atsakymų tikslumas. Patikrinkite, ar sistema teisingai naudoja šaltinių informaciją ir neišgalvoja trūkstamų duomenų.
- Prieigos kontrolė. Įsitikinkite, kad skirtingas teises turintys naudotojai gauna tik jiems leidžiamą informaciją.
- Integracijos patikimumas. Patikrinkite, ar duomenys tinkamai perduodami tarp sistemų ir ar klaidingi įrašai neatliekami automatiškai.
- Darbo nauda. Palyginkite užduoties atlikimo laiką, tikslumą ir reikalingų rankinių taisymų skaičių prieš diegimą bei po jo.
Vertinimui galima parengti kontrolinių užklausų rinkinį. Pavyzdžiui, pasirenkama 20 realiai pasitaikančių situacijų: įprasti klausimai, dviprasmiškos užklausos, pasenusių duomenų atvejai ir bandymai gauti informaciją be reikiamų teisių. Tai iliustracinis testavimo mastas, o ne universalus standartas.
Prieš testavimą būtina sutarti, kurie rezultatai laikomi priimtinais ir kokios klaidos neleidžia sistemos pradėti naudoti. Vertinimo kriterijus pritaikome projekto pobūdžiui, o ne vienodai taikome visiems DI sprendimams.
Kas sudaro DI diegimo projekto biudžetą?
DI diegimo kaina priklauso ne tik nuo programavimo darbų. Į bendrą projekto biudžetą gali patekti sistemų integravimas, duomenų paruošimas, testavimas, platformų licencijos ir vėlesnė techninė priežiūra. Todėl prieš priimant sprendimą svarbu atskirti vienkartines kūrimo išlaidas nuo nuolatinių naudojimo sąnaudų.
Promptas.LT pateikiamuose projekto apimties orientyruose mažam DI diegimo projektui numatoma apie 50 specialistų darbo valandų, o vidutinio dydžio projektui – apie 100 valandų. Tai preliminarūs darbų apimties pavyzdžiai, o ne fiksuota kiekvieno projekto trukmė ar kaina.
Kokias išlaidas rekomenduojame vertinti atskirai?
- Vienkartinius darbus: poreikių analizę, techninį projektavimą, programavimą, integracijas ir testavimą.
- Paslaugų naudojimą: DI modelių API užklausas, programinės įrangos licencijas ir duomenų apdorojimo infrastruktūrą.
- Priežiūrą: klaidų taisymą, atnaujinimus, dokumentų indeksų priežiūrą bei prisitaikymą prie trečiųjų šalių API pakeitimų.
- Vidinius įmonės išteklius: darbuotojų laiką, skirtą reikalavimams derinti, duomenims parengti ir rezultatams patikrinti.
Jeigu sprendimas sumažina rankinio darbo kiekį, jo ekonominę naudą galima vertinti pagal sutaupytas darbo valandas ir faktines naudojimo sąnaudas. Tačiau tokio skaičiavimo rezultatas priklauso nuo realių įmonės duomenų: ne kiekvienas sutaupytas darbo laikas automatiškai virsta tiesioginiu finansiniu sutaupymu.
Galutinę projekto sąmatą ir darbų apimtį deriname individualiai, kai aiškūs funkciniai reikalavimai, integracijos ir atsakomybės ribos.
Kada įmonei pakanka DI konsultacijos arba darbuotojų mokymų?
Jeigu organizacija dar nėra apsisprendusi, kokias technologijas naudoti, nebūtina iš karto užsakyti programavimo darbų. Kartais didžiausia kliūtis yra ne techninių galimybių trūkumas, o darbuotojų įgūdžiai, netinkamai pasirinktos licencijos ar nepakankamai aiškiai apibrėžta užduotis.
Jeigu reikia pasirinkti tinkamus DI įrankius, pradėkite nuo konsultacijos ir konkrečių naudojimo scenarijų įvertinimo.
Jeigu įrankiai jau prieinami, tačiau darbuotojai jų neišnaudoja, rekomenduojame pirmiausia apsvarstyti specializuotus DI mokymus įmonės darbuotojams.
Jeigu komanda moka naudotis DI, bet nori įvaldyti sudėtingesnes užduotis, tinkamas pasirinkimas gali būti praktinės ChatGPT ir DI dirbtuvės.
Jeigu reikia nuolatinio duomenų apsikeitimo su verslo sistemomis arba automatizuotų veiksmų, vertiname individualios integracijos ir programavimo poreikį.
Šitaip galime pasiūlyti proporcingą sprendimą, neįtraukdami nereikalingų techninių darbų į projekto apimtį.
Dažniausi klausimai apie individualius DI sprendimus
Prieš užsakant individualų DI projektą įmonėms dažniausiai reikia išsiaiškinti tris dalykus: ar galima naudoti jau turimus dokumentus, ar būtina programuoti naują sistemą ir kas prižiūrės sprendimą po įdiegimo. Šiuos klausimus rekomenduojame išspręsti dar rengiant techninę užduotį.
Ar įmonės dokumentai gali likti SharePoint arba OneDrive saugykloje?
Taip, tam tikros integracijos leidžia naudoti dokumentus jų neperkeliant į naują pagrindinę saugyklą, tačiau tai priklauso nuo pasirinktos architektūros.
Techninio vertinimo metu reikia nustatyti, kaip veiks dokumentų paieška, indeksavimas, prieigos teisių patikra ir informacijos perdavimas DI modeliui. Negalima automatiškai daryti prielaidos, kad visi duomenys liks tik pradinėje sistemoje.
Ar DI asistentui sukurti būtina programuoti?
Ne visada. Kai kurios platformos suteikia galimybę kurti asistentus be individualaus programavimo.
Tačiau jei asistentas turi atlikti veiksmus kitose sistemose, naudoti nestandartines integracijas ar atitikti specifinius saugumo reikalavimus, gali prireikti API integravimo ir papildomos programinės įrangos.
Kas atsakingas už DI sistemos priežiūrą po jos įdiegimo?
Atsakomybę už techninę priežiūrą, sistemos atnaujinimus ir incidentų valdymą būtina nustatyti projekto sutartyje.
Prieš pradedant darbus rekomenduojame atskirai susitarti dėl techninės dokumentacijos, administravimo teisių, prieigos prie naudojamų paskyrų, klaidų šalinimo tvarkos ir galimų papildomų darbų įkainių. Priežiūros apimtis neturėtų būti numanoma vien iš pradinės diegimo kainos.
Kokios informacijos reikia pirminiam DI diegimo galimybių įvertinimui?
Norėdami gauti tikslingą DI konsultaciją, pateikite vieną ar kelis darbo procesus, kuriuos norėtumėte pakeisti. Svarbu aprašyti dabartinį jų vykdymą, naudojamas sistemas, apdorojamų duomenų pobūdį ir laukiamą rezultatą. Toks aprašymas padės nustatyti, ar tinkamas standartinis DI įrankis, ar reikalinga individuali integracija.
Pirminiam pokalbiui rekomenduojame pasiruošti:
- Aprašykite konkretų darbo procesą, kurį norite supaprastinti arba automatizuoti.
- Nurodykite naudojamas programas ir duomenų saugyklas.
- Įvardykite pageidaujamą rezultatą bei jo kokybės reikalavimus.
- Pažymėkite duomenų prieigos, konfidencialumo ir saugumo apribojimus.
- Pateikite preliminarų biudžetą ir pageidaujamą įgyvendinimo laikotarpį, jeigu jie jau nustatyti.
Promptas.LT kartu su DI specialistais ir partneriais gali įvertinti pateiktą užduotį bei aptarti tolesnį konsultavimo ar techninio įgyvendinimo formatą.
Susisiekite: info@promptas.lt arba +370 613 70 574.
