Kas notiek, kad AI sāk pieņemt lēmumus, balstoties uz uzņēmuma datiem?

Lēmums var būt pareizs brīdī, kad tas tiek pieņemts, un tomēr pēc dažām nedēļām uzņēmumam radīt zaudējumus.

Vienā no mūsu projektiem cenu speciālists, ievadot akciju ERP sistēmā, aizmirsa norādīt vienu lauku - akcijas beigu datumu.

Akcijas cena turpināja darboties arī pēc tam, kad akcijai bija jābeidzas. Neviens šo periodu nepagarināja. Sistēma vienkārši turpināja piemērot cenu tieši tā, kā tā bija konfigurēta. Uzņēmums vairākas nedēļas šiem produktiem guva mazāku bruto peļņu, nekā bija plānots. Problēma kļuva redzama tikai tad, kad noliktavā beidzās preces.

Tas nav stāsts tikai par cilvēka kļūdu. Tas parāda ko svarīgāku: automatizēts lēmums var turpināt darboties arī tad, kad apstākļi, kuros tas bija pareizs, jau ir mainījušies.

AI šo risku rada daudz lielākā ātrumā un mērogā.

Kāpēc lēmums var turpināt darboties arī tad, kad tas vairs nav piemērots?

Cilvēks lēmumu parasti pārbauda brīdī, kad tas tiek pieņemts.

Šajā gadījumā cenu speciālists pārbaudīja akcijas cenu pirms tās ievadīšanas, bet nepamanīja lauku, kas noteica akcijas beigu datumu. Pēc tam sistēmai nebija iemesla šo lēmumu apšaubīt. Cena bija derīga, produkts bija derīgs un akcija bija derīga. Procesā nebija paredzēta pārbaude, vai sākotnējie nosacījumi joprojām ir spēkā.

Ar AI vadītiem lēmumiem situācija var kļūt vēl sarežģītāka.

Modelis var nepārtraukti ģenerēt un piemērot lēmumus tūkstošiem gadījumu. Katram no tiem vairs nav cilvēka pārbaudes brīža. Automatizācija noņem pauzi, kurā cilvēks dažkārt pamana, ka situācija ir mainījusies.

Kur parādās pirmais signāls?

Parasti ne pašā lēmumā.

Cenu piemērā katrs atsevišķais pārdošanas darījums izskatījās pareizs. Akcijas cena sistēmā bija spēkā. Pasūtījums tika apstrādāts. Tehniska kļūda neparādījās.

Signāls parādījās citur - krājumos.

Preces tika pārdotas ātrāk, nekā bija plānots, bet uzņēmums no tām guva mazāku peļņu, nekā bija paredzēts. Kad noliktavā beidzās krājumi, problēmas sākotnējais cēlonis jau bija vairākas nedēļas vecs.

Šāda problēma nav tikai teorētiska. Recenzētā Scientific Reports pētījumā tika analizētas 128 modeļa un datu kopas kombinācijas četrās jomās. 91% gadījumu tika konstatēta modeļa veiktspējas pasliktināšanās laika gaitā.

Tas rada būtisku biznesa risku: sistēma var turpināt ģenerēt rezultātus, kamēr mainās saistība starp šiem rezultātiem un aktuālo situāciju.

Ko praksē nozīmē saglabāt cilvēku lēmumu pieņemšanas procesā?

Tas nenozīmē, ka cilvēkam jāapstiprina katrs automātiskais lēmums. Tādā gadījumā automatizācijas ieguvums lielā mērā pazustu.

Praktiskāka pieeja ir iepriekš noteikt konkrētus apstākļus, kuros sistēmai jāiedarbina pārbaude.

Cenu piemērā tāds nosacījums ir akcija bez beigu datuma. Sistēma varētu to pamanīt uzreiz pēc akcijas ievadīšanas, nevis gaidīt, līdz pēc vairākām nedēļām parādās problēma noliktavā.

Tas pats princips attiecas uz AI lēmumiem. Uzņēmums var:

• regulāri pārbaudīt noteiktu daļu automātisko lēmumu;
• salīdzināt lēmuma pamatā esošos pieņēmumus ar tā rezultātiem;
• noteikt robežvērtības, pie kurām nepieciešama cilvēka iesaiste;
• automātiski atzīmēt situācijas, kurās dati ir novecojuši vai rezultāti sāk būtiski atšķirties no sagaidītā.

Piemēram:

• akcijai nav norādīts beigu datums;
• prognoze balstās uz pārāk seniem datiem;
• modeļa kļūdas līmenis pārsniedz noteikto robežu;
• automātiskais lēmums atkārtoti rada rezultātu ārpus sagaidītā diapazona.

Mērķis ir vienkāršs: pārvietot pārbaudi tuvāk lēmuma pieņemšanas brīdim, nevis gaidīt, kad problēma parādīsies kā biznesa rezultāts.

Kas mainās, kad AI pieņem tūkstošiem lēmumu?

Risks nav tajā, ka AI pēkšņi sāks pieņemt visus lēmumus nepareizi. Būtiskākas ir lēmumu skaits un ātrums, kādā tie tiek piemēroti.

Cilvēks, kurš pieņem desmit lēmumus dienā, rada desmit iespējas pārbaudei. Sistēma, kas pieņem tūkstošiem lēmumu, rada pavisam citu uzraudzības uzdevumu.

Tāpēc kontrole pār AI vadītu procesu kļūst par paša lēmumu pieņemšanas procesa sastāvdaļu. Uzņēmumam iepriekš jāzina:

• ko sistēma drīkst izlemt;
• kādi apstākļi aktivizē cilvēka pārbaudi;
• kādi dati un pieņēmumi ir lēmuma pamatā;
• kuri biznesa rezultāti jāuzrauga pēc lēmuma pieņemšanas.

Pretējā gadījumā automatizācija var padarīt novecojušu pieņēmumu ļoti efektīvu - tas vienkārši tiks piemērots ātrāk un lielākā apjomā.

Tātad - kas notiek, kad AI sāk pieņemt lēmumus, balstoties uz uzņēmuma datiem?

Lēmumi turpina tikt pieņemti arī tad, kad mainās apstākļi, uz kuriem tie balstīti.

Cenu piemērs parāda, ka šī problēma pastāv arī bez AI: viens trūkstošs lauks bija pietiekams, lai sistēma turpinātu piemērot derīgu instrukciju ilgi pēc tam, kad tai vajadzēja beigties.

AI šo problēmu nerada. Tas palielina lēmumu skaitu un samazina laiku, kurā uzņēmums var pamanīt, ka sākotnējais lēmums vairs darbojas tā, kā paredzēts.

Tāpēc pirms nākamo biznesa lēmumu nodošanas AI ir vērts iepriekš definēt trīs lietas:

Ko sistēmai jāpārbauda automātiski? Kas aktivizē cilvēka iesaisti? Un kurš biznesa rezultāts parādīs, ka lēmums vairs nedarbojas, kā paredzēts?

Jo dārgākā AI kļūda var nebūt nepareizs lēmums. Tā var būt pareizi izpildīta instrukcija, kas turpinās darboties arī pēc tam, kad tā vairs nav pareiza uzņēmumam.