DI haliucinacijos: nematoma rizika, kuri kainuoja brangiai

Autorius: Tomas Staniulis, DI konsultantas

Jei jūsų verslas jau naudoja dirbtinio intelekto (DI) įrankius, tikimybė, kad patyrėte ir neigiamų pasekmių, viršija 50 procentų. Štai 2025 metų lapkritį „McKinsey“ publikuotas tyrimas „State of AI“ parodė, kad net 51 proc. organizacijų, kurios naudojo DI savo veikloje, susidūrė su realia žala – reputacine, operacine ar teisine.

Panikuoti neverta. Situacija – normali. Penktadienis, spaudžia terminas, darbuotojas surenka promptą ChatGPT – „Paruošk trumpą paaiškinimą klientui, trumpai, profesionaliai“ – gauna atsakymą per kelias sekundes ir „forwardina“ jį klientui. Klientas, gavęs neteisingą informaciją, supyko ir atšaukė užsakymą.

Ir čia nebe taip svarbu, ar DI suklydo. Svarbiau: ar žmogus peržiūrėjo atsakymą, kuris iškeliavo klientui? Pripažinkime patys sau – didžiausia DI rizika nėra akivaizdi klaida. Blogiausia tai, kad atsakymas atrodo pakankamai geras, kad būtų siunčiamas nepatikrintas.

Kas yra DI haliucinacija?

DI haliucinacija versle – tai nėra absurdiškas pramanas. Kontekste ji gali net neišsiskirti. Tai gali būti netikra citata, neegzistuojantis teisės aktas, „išgalvotas“ šaltinis, sklandžiai pateiktas, bet nepagrįstas teiginys ir t.t. Lygiai taip pat gali būti klaidingas skaičius, netikslus paskaičiavimas ar perdėm optimistinė prognozė.

Plačiau žiūrėkite: Dirbtinio intelekto haliucinacijos 

Kartoju ir kartosiu: ChatGPT ne „žino“, nes jis neturi sąmonės. Jo pagrindinė užduotis – statistiškai nuspėti, koks žodis atsakyme turėtų eiti sekantis. Apie 95 proc. atvejų jis pataiko, iki 5 proc. atvejų – ne. „Tai DI klysta?” – klausia žmonės mokymų metu. Taip, klysta.

Ir problema ne ta, kad DI atsakymas neteisingas. O ta, kad mes, žmonės, juo aklai pasitikime. Kodėl skamba įtikinamai? Todėl, kad algoritmo pagrindinis tikslas – įtikti vartotojui.

Tyrimai rodo, kad vien vertimas į skirtingas kalbas gali lemti iki 19 proc. klaidų. Jei duomenų šaltinis yra anglų kalba, o mes klausiame gimtąja kalba ir prašome atsakymo lietuviškai, įvyks mažiausiai du vertimo ciklai – užklausos ir atsakymo. Taigi atsitiktinių klaidų skaičius dar padvigubės. Todėl reikia tikrinti duomenis, logiką, sintaksę, stilistiką ir gramatiką – kad išvengtume klaidų, kurių mirgėte marga DI „parengtuose“ atsakymuose.

Metas suprasti, kad iš „kūrėjų“ amžiaus įžengėme į „klaidų ieškotojų“ amžių. Mes gyvename simuliacijų ir „fake“ aplinkoje. O tai reiškia, kad vis didesnę dalį savo laiko praleisime ne kurdami kaip įpratę, o fiksuodami ir taisydami dirbtinio proto paliktas klaidas.

Kodėl tai aktualu būtent verslui?

Versle klaida lemia daug. Dažnai ji būna ta vienintelė. Prarastas klientas. Nepasirašytas kontraktas. Netesybos. Nuostoliai. Antstoliai.

Be to, klaidos plinta. Vienas netikslus sakinys papuola į pasiūlymą, vidinį dokumentą, mokymų skaidrę ar komunikacijos šabloną. Po mėnesio niekas nebeprisimena, iš kur tai atsirado.

„McKinsey“ duomenimis, apie 30 proc. organizacijų kaip dažniausią neigiamą AI pasekmę įvardija netikslumą – dažniau nei saugumo ar privatumo problemas. Mažas netikslumas, kuris pagal drugelio efektą suduoda smūgį kitoje pasaulio pusėje. 

Taip, DI sparčiai tobulėja, bet tai neišsprendžia esmės. Net ir patys pažangiausi DI modeliai nežino tikrų jūsų sprendimo sąnaudų ir kainų, nežino, kur bus panaudotas ką tik sugeneruotas dokumentas, ir neatsako už pasekmes. 

Todėl taisyklė paprasta: net ir labai geras DI reikalauja mokytis juo naudotis. Turime mokytis kontroliuoti haliucinacijas.

Kaip sumažinti haliucinacijas?

Pridėkite žemiau pateiktus promptus prie užduočių, kurias teikiate ChatGPT, ir jūsų atsakymų kokybė patobulės.

1. „Jei neaišku – klausk“ protokolas
   Promptas: „Jei mano užklausa neaiški ar trūksta duomenų, pateik 1–3 tikslinančius klausimus. Nepridėk detalių, kurių nenurodžiau.“
   Nauda: Sustabdo spėliojimą ir reikšmingai sumažina netikslumus.
2. Atskirk faktus nuo spėjimų
   Promptas: „Atskirk FAKTUS (paremti duomenimis) ir SPĖJIMUS (prielaidos, interpretacijos). Kiekvieną spėjimą aiškiai paženklink.“
   Nauda: Neleidžia spėjimams būti pateiktiems kaip faktams.
3. Neprigalvok duomenų
   Promptas: „Nekurk skaičių, datų, procentų, teisinių nuorodų ar statistikos. Jei informacijos trūksta, aiškiai tai nurodyk.“
   Nauda: Apsaugo nuo kritinių haliucinacijų, susijusių su skaičiais, citatomis ir teisės aktais.
4. Jei nesi tikras – pasakyk
   Promptas: „Jei dėl informacijos nesi tikras, parašyk „nesu tikras“ ir įvardyk neapibrėžtumą. Nespėliok.“
   Nauda: Modelis aiškiai pripažįsta ribas vietoj fikcijos kūrimo.
5. Naudok tik tai, kas pateikta
   Promptas: „Atsakyk tik remdamasis mano pateikta informacija. Jei reikia išorinių duomenų, pirmiausia paklausk.“
   Nauda: Atsakymai lieka užduoties rėmuose, sumažėja improvizacija ir klaidos.

Sisteminis promptas haliucinacijų valdymui

(Rekomenduojama įsikelti į sistemines nuostatas)

• Jei trūksta informacijos ar kyla neaiškumų, pirmiausia pateik patikslinimo klausimus.
• Neprigalvok faktų, skaičių, datų, statistikos ar citatų.
• Naudok tik mano pateiktą informaciją arba plačiai pripažintas bendrąsias žinias.
• Aiškiai atskirk FAKTUS ir SPĖJIMUS.
• Jei nesi tikras, parašyk „nesu tikras“ vietoje spėjimo.
• Kiekvieną prielaidą aiškiai paženklink kaip SPĖJIMAS.
• Prieš pateikdamas galutinį atsakymą, įvardyk galimas silpnąsias vietas ar nepagrįstus teiginius.

Linksmų Kalėdų ir 2026-ųjų metų atrandant naujas DI galimybes!

Norite išmokti kurti geresnius promptus? Registruokitės į mokymus.

Autorius: Tomas Staniulis, DI konsultantas

© Bet koks šio straipsnio kopijavimas, platinimas ar republikavimas be rašytinio autoriaus sutikimo yra draudžiamas.