Krista Caune, Beatrise Lukšēvica: Mākslīgā intelekta akts – kā tas ietekmēs uzņēmumus un to darbību?

Arī slavenā amerikāņu autora Aizeka Azimova grāmata “Es, robots”, kas izdota 1950. gadā un uz kuras pamata tika uzņemta filma ar aktieri Vilu Smitu galvenajā lomā, iezīmēja tobrīd tālo nākotni 2035. gadā, kurā darbojas cilvēkiem līdzīgi roboti, kas apdraud cilvēces eksistenci.

Filmā atspoguļotās cilvēku bailes no mākslīgā intelekta var likt aizdomāties par tā straujo un nekontrolēto attīstību un iespējamo ietekmi uz cilvēces nākotni. Šobrīd šī tālā nākotne straujiem soļiem kļūst par mūsu ikdienas realitāti.

Pēc trīs gadu ilgām diskusijām 2024. gada 13. martā Eiropas Parlaments pieņēma Mākslīgā intelekta aktu jeb MI Regulu. Šajā ziņā Eiropas Parlaments ir rīkojies ļoti apsteidzoši un pieņēmis pasaulē pirmo visaptverošo mākslīgā intelekta tiesisko regulējumu.

MI Regulā norādītais regulas mērķis ir uzlabot iekšējā tirgus darbību un veicināt uz cilvēku orientēta un uzticama mākslīgā intelekta ieviešanu, vienlaikus nodrošinot augsta līmeņa veselības aizsardzību, drošību, pamattiesību aizsardzību, tostarp, demokrātijas, valsts tiesību aizsardzību un vides aizsardzību pret mākslīgā intelekta sistēmu kaitīgo ietekmi. Gandrīz kā cita starpā, beigās norādīts, ka tās mērķis ir arī atbalstīt inovācijas.

Tādējādi pirmšķietami varētu šķist, ka MI Regulas galvenais pieņemšanas apsvērums ir aizsardzība pret mākslīgā intelekta kaitīgo ietekmi un tikai pakārtots mērķis ir inovāciju attīstība. Šī raksta ietvaros centīsimies noskaidrot, ko aptver MI Regula un vai tās galvenais mērķis patiešām ir mākslīgā intelekta iespējami radītā kaitējuma novēršana, ar mērķi preventīvi aizsargāt sabiedrību un, iespējams, pat savā ziņā inovāciju attīstību ierobežošana. Vai tomēr tas ir Eiropas Savienības izvēlēts ceļš uz drošu un atbildīgu mākslīgā intelekta attīstību, kā arī inovāciju veicināšanu.

Mākslīgā intelekta pielietojums uzņēmējdarbībā kļūst ar vien plašāks – tas tiek pielietots tādās jomās kā tirdzniecība, produktu optimizācija, uzskaite, loģistika, viedtālruņu ražošana, transports, medicīna, lauksaimniecība u.c.

Arī tādi pasaules lielie uzņēmumi kā "Amazon" (viens no pasaulē lielākajiem e-komercijas uzņēmumiem) un FedEx (pasaules līderis loģistikas pakalpojumu jomā) izmanto vispārējā pielietojuma mākslīgo intelektu (general-purpose AI), piemēram, preču pieprasījuma prognozēšanai un loģistikas maršrutu optimizēšanai.

Vienlaikus, tehnoloģiju uzņēmumi kā "Microsoft" jau ievērojami plaši izmanto MI sistēmas, kā piemēru var minēt "Microsoft Copilot" sistēmu.

Lai gan MI Regula vēl nav izgājusi tās spēkā stāšanās oficiālo kārtību, jau šobrīd ir iespējams aplūkot, ko šīs regulas pieņemšana nozīmēs uzņēmumiem, to uzņēmējdarbībai, kā arī tehnoloģiju attīstībai kopumā. Lai nodrošinātu MI Regulas prasību izpildi, tajā ir noteikti arī soda mehānismi par MI Regulas pienākumu neievērošanu, tostarp līdz pat 35 miljonu eiro apmērā un pat lielāki, ja uzņēmuma vispasaules apgrozījums pārsniedz šo summu.

MI Regulas tvērums

MI Regula definē, kas ir uzskatāma par MI sistēmu, kā arī MI sistēmas klasificē atkarībā no to radītā riska. MI Regula nosaka saskaņotus noteikumus šo sistēmu laišanai tirgū, nodošanai ekspluatācijā un lietošanai ES. Vienlaikus tā nostiprina aizliegtas MI prakses, paredz īpašas prasības augsta riska MI sistēmām un pienākumus šādu sistēmu operatoriem, kā arī paredz pārskatāmības (transparency) noteikumus atsevišķām MI sistēmām un vispārējās nozīmes MI modeļu laišanai tirgū (piemēram, ChatGPT un Gemini), kā arī noteikumus par tirgus uzraudzību.

Vienlaikus MI Regula sniedz iespējas MVU, kā arī jaunuzņēmumiem (start-up) inovāciju attīstībai mākslīgā intelekta jomā, piemēram, nodrošinot tā sauktās “regulatīvās smilškastes”.

Taču MI Regula neattieksies uz MI sistēmām, kuru vienīgais mērķis ir zinātniskā izpēte un attīstība, kā arī uz jebkādām izpētēm, testiem un attīstības aktivitātēm pirms MI sistēmas nonāk tirgū (izņemot, ja MI sistēma tiek testēta reālajā pasaulē).

Atkarībā no MI sistēmas lomas un riska līmeņa, tā uzliek tirgus dalībniekiem dažādus pienākumus un atbildību. Interesanti, ka saskaņā ar MI Regulu tieši pats uzņēmums pirmšķietami noteiks MI sistēmas risku.

Uz ko attiecas MI Regula?

Lai gan MI Regulas darbība potenciāli var ietekmēt jebkuru personu, kas atrodas ES, tās juridiskais tvērums jo sevišķi ietekmēs ES iekšējā tirgus dalībniekus. Proti, MI Regula, neatkarīgi, vai uzņēmējdarbības vieta atrodas vai neatrodas ES, attieksies uz pakalpojumu sniedzējiem, kas ES vienotajā tirgū laiž MI produktus un pakalpojumus. Tajā skaitā prasības attieksies uz MI sistēmu vai vispārēja pielietojuma MI modeļu nodošanu ekspluatācijā, MI sistēmu ieviesējiem, MI sistēmu nodrošinātājiem un ieviesējiem, MI sistēmu importētājiem un izplatītājiem, produktu ražotājiem, kas laiž tirgū vai nodod ekspluatācijā MI sistēmu kopā ar savu produktu un vārdu vai preču zīmi, kā arī uz pakalpojumu sniedzēju pilnvarotajiem pārstāvjiem.

Iedomāsimies, piemēram, uzņēmumu no Silīcija ielejas, kurš izveidojis MI sistēmu, kuru vēlas pārdot Eiropā vai uzņēmumu Itālijā, kas vēlas savā uzņēmumā ieviest MI sistēmu, lai optimizētu uzņēmumā veicamās darbības – neatkarīgi no tā, kur MI sistēma tiek izstrādāta, ja tā tiek pielietota ES, tai būs jāatbilst MI Regulai. Turklāt arī, ja uzņēmuma, kas atrodas trešajā valstī, MI sistēmas radīto rezultātu izmanto ES, arī šajā gadījumā tam jāatbilst MI Regulā noteiktajam. Tātad MI Regulas darbības tvērums ir ļoti plašs un pat uzņēmumiem ārpus ES būs pienākums ievērot MI Regulas noteikumus. Tieši šī iemesla dēļ daudzi ārpus ES esošie uzņēmumi varētu apsvērt darbības turpināšanu ES.

Nepieļaujama MI prakse

MI Regula paredz nepieļaujamu MI praksi jeb aizliegtas MI sistēmas, kas rada nepieļaujami augstu risku. Tādas ir sistēmas, kas apdraud cilvēktiesības, tai skaitā veic biometrisko kategorizāciju pēc sensitīvām cilvēku iezīmēm (dzimuma, rases, etniskās piederības, pilsonības statusa, reliģijas, politiskās orientācijas) vai balstoties uz cilvēku sociālo uzvedību vai zināmām, paredzamām rakstura iezīmēm, izmanto manipulatīvas vai maldinošas metodes, izmanto personas vai personu grupu neaizsargātību (vecums, invaliditāte, sociālais stāvoklis u.c.), veic personas sejas emociju atpazīšanu darba vietās un izglītības iestādēs (izņemot medicīnas un drošības apsvērumu dēļ), veic sejas attēlu iegūšanu (scraping of facial images) no interneta vai videonovērošanas kamerām, lai izveidotu sejas atpazīšanas datu bāzes u.c.

Augsta riska MI sistēmas

Attiecībā uz Augsta riska MI sistēmām, MI Regula nosaka visvairāk pienākumus, jo tās rada īpašu risku cilvēka pamattiesību aizskārumam (piemēram, dzīvībai, drošībai u.c.). Tām galvenokārt ir jānodrošina risku pārvaldības sistēma, jāuztur lietošanas dati (use logs), datu kvalitāte un droša to pārvalde, jābūt pieejamai detalizētai tehniskajai dokumentācijai, pilnīgai, pareizai un skaidrai informācijai, cilvēka pārraudzībai, jāatbilst precizitātei, robustumam un kiberdrošībai. Atsevišķas MI augsta riska sistēmas būs jāreģistrē ES speciāli izveidotā datu bāzē (kura tiks pārvaldīta no Eiropas Komisijas puses) pirms šī sistēma tiek laista tirgū vai nodota ekspluatācijā.

Tā kā MI sistēmu ir jāmonitorē visu tās pastāvēšanas laiku, Augsta riska MI sistēmu nodrošinātājiem būs pienākums veikt virkni darbību, lai MI sistēma atbilstu Regulas prasībām. Tajā skaitā būs jāizveido kvalitātes kontroles sistēma, jāizveido un jāuztur tehniskā dokumentācija, jāglabā automātiski ģenerētus ierakstus (automatically generated logs), jāinformē par MI sistēmu neatbilstību, jāveic korektīvas darbības, kā arī jāsadarbojas ar atbildīgajām iestādēm.

Par augsta riska sistēmām tiks atzītas tādas, kuras sevī ietver MI tehnoloģiju, kuru izmanto, piemēram, kritiskajā infrastruktūrā (transporta un datu pārraides sistēmās, ūdensapgādē, enerģētikā u.c.), būtiskiem privātiem un sabiedriskiem pakalpojumiem (piemēram, lai novērtētu veselības aprūpes saņemšanas iespēju, kredītu izsniegšanu u.c.), izglītībā, nodarbinātībā, tieslietu jomā (pierādījumu novērtēšana) u.c.

Iedzīvotājiem būs tiesības iesniegt sūdzības un saņemt paskaidrojumus par lēmumiem, kuru pamatā ir augsta riska MI sistēmas, kas ietekmē viņu tiesības.

Papildus var norādīt, ka uzņēmumiem ir pieejami atsevišķi MI Regulas atbilstības rīki, ko izveidojušas kompānijas, lai noskaidrotu, vai uzņēmuma MI sistēma ir uzskatāma par augsta riska MI sistēmu un kādi pienākumi no MI Regulas tam varētu izrietēt. Piemēram, viens no tādiem pieejams šeit: EU AI Act Compliance Checker | EU Artificial Intelligence Act.

Ierobežota un minimāla riska MI sistēmas

MI Regula netieši paredz arī ierobežota un minimāla riska sistēmas, paredzot, ka tām būs jānodrošina atsevišķu sistēmu pārredzamība, piemēram, izmantojot tādas MI sistēmas kā tērzēšanas roboti jeb chat bots būs pienākums informēt cilvēkus par to, ka konkrētā persona sarunājas ar MI, lai cilvēks var pieņemt izsvērtu lēmumu, vai vēlas turpināt komunicēt ar MI, vai tā vietā pieprasīt sarunu ar cilvēku. Arī MI radītajam tekstam jābūt marķētam kā mākslīgi radītam jeb ģenerētam.

Savukārt minimāla riska MI sistēmu gadījumā MI Regula atļauj brīvu MI sistēmas lietošanu. Tas ietver tādas lietojumprogrammas kā ar MI sistēmu palīdzību veidotas videospēles, inventarizācijas pārvaldības sistēmas vai surogātpasta filtrus, kas arī šobrīd veido lielāko daļu no MI sistēmām ES.

Vispārējā pielietojuma MI sistēmas

MI Regula atsevišķi regulē arī vispārēja pielietojuma (general-purpose) MI sistēmas, ko jau šobrīd plaši izmanto tādi uzņēmumi kā Amazon un FedEx, kā arī pie vispārējā pielietojuma MI sistēmām pieder arī šobrīd popularitāti guvušais ChatGPT.

Vispārējā pielietojuma MI sistēma ir tāda, kas ir apmācīta ar lielu datu apjomu, ir vispārīga, spēj kompetenti veikt plašu, dažādu uzdevumu klāstu neatkarīgi no veida. Uz šīm sistēmām MI Regula paredz pienākumu dokumentācijai, pārredzamībai, ieskaitot nepieciešamību atbilst ES autortiesību likumiem un attiecībā uz tām ir jāpublicē detalizēti kopsavilkumi par apmācībās izmantoto saturu. Jaudīgākiem vispārējās nozīmes MI modeļiem, kas varētu radīt sistēmiskus riskus, tiks izvirzītas papildu prasības, tostarp modeļu novērtēšana, sistēmisko risku novērtēšana un mazināšana un ziņošana par incidentiem. Turklāt mākslīgiem vai manipulētiem attēliem, audio vai video saturam (“dziļviltojumi” jeb deep fakes) ir jābūt skaidri un nepārprotami marķētiem.

MI Regula un inovācijas

MI Regula tiek vērtēta neviennozīmīgi, proti, daudzi uzņēmumi uzskata, ka atbilstības procedūras, kas noteiktas MI Regulā, nevis veicinās inovāciju attīstības procesu, bet gluži pretēji – to aizkavēs. Kā pamatojums šīm bažām ir tas, ka uzņēmumiem, kas vēlēsies radīt, lietot, importēt, vai kā citādi izmantot MI sistēmas, būs jāiegulda laiks un līdzekļi ne tikai MI sistēmu izstrādē, ieviešanā vai uzturēšanā, bet arī ikdienā jāveic MI sistēmas novērtēšana atbilstoši MI Regulas noteikumiem, rezultātā paralēli radot ievērojamu administratīvo un finansiālo slogu.

Vienlaikus pastāv bažas, ka ES izstrādātais regulējums nespēs pilnvērtīgi attīstīties kopā ar straujo MI un ar to saistīto tehnoloģiju attīstību, jo patlaban nav viennozīmīgi iespējams paredzēt MI tehnoloģiju attīstības tendences un potenciālās problēmas. Tāpat arī vērā ņemams ir fakts, ka MI jomas attīstību globāli lielā mērā nosaka ASV, nevis ES, kas šo nozari proaktīvi cenšas regulēt.

Lieliem, starptautiskiem uzņēmumiem (īpaši tehnoloģiju jomā esošiem uzņēmumiem), kuri jau ilgus gadus strādā ar MI un ar to saistītām tehnoloģijām, jau šobrīd ir izstrādātas dažādas iekšējās procedūras, vadlīnijas un sistēmas, kas sekmīgāk un ātrāk palīdzēs ieviest MI Regulas prasības. Taču citiem uzņēmumiem MI Regulas prasību ievērošana būs izaicinājums, lai ieviestu un sakārtotu iekšējo kvalitātes sistēmu, nodrošinātu nepārtrauktu kontroli un dokumentu sistēmu atbilstoši ES noteiktajām prasībām.

Lai gan daudzi uzņēmumi MI Regulu uztver kā kārtējo birokrātisko instrumentu ES līmenī, kas sarežģīs un apgrūtinās MI attīstības ātrumu, MI Regula paredz arī mehānismus, lai atbalstītu un veicinātu inovāciju attīstību. Piemēram, MI Regulā ieviestas tā saucamās “regulatīvās smilškastes”, kuru pamatmērķis ir nodrošināt kontrolētu vidi MI izstrādes modelēšanai, lai tādējādi atvieglotu un veicinātu inovācijas MI jomā. Regulatīvajās smilškastēs būs iespēja dalībvalsts kompetento iestāžu kontrolētā uzraudzībā uz noteiktu laiku attīstīt, testēt un apstiprināt inovatīvas MI sistēmas pirms to laišanas tirgū. Tādējādi ar šī mehānisma palīdzību ES papildus būs iespējams nodrošināt inovāciju attīstību MI jomā.

Latvijai ar kompetento iestāžu starpniecību būs jānodrošina vismaz vienas MI “regulatīvās smilškastes” izveide divu gadu laikā kopš MI Regulas spēkā stāšanās. “Regulatīvās smilškastes” ir paredzētas, lai ieviestu arī īpašus pasākumus, kas samazinātu normatīvo slogu un atbalstītu MVU un jaunuzņēmumus (start-up). Kā inovācijas veicināšanas mehānisms MI Regulā minēta arī informēta piekrišana piedalīties MI sistēmu testēšanā īstajā dzīvē ārpus MI “regulatīvajām smilškastēm”.

Sodi par MI Regulas prasību neizpildi

Viens no MI Regulas ieviešanas būtiskiem aspektiem, protams, ir atbildība par MI Regulā noteikto pienākumu pārkāpumiem.

Kādos gadījumos un cik lieli naudas sodi tiek paredzēt par MI Regulas prasību neievērošanu?

Tomēr attiecībā uz MVU un jaunuzņēmumiem (start-up) par MI Regulas noteikumu pārkāpumiem ir paredzēti samērīgāki naudas sodu apmēri, ņemot vērā to ekonomisko dzīvotspēju. 

Turpmākie ieviešanas soļi

Lai gan MI Regula ir pieņemta, vēl palikusi tās formālā apstiprināšana, un tā stāsies spēkā 20 dienas pēc tās publicēšanas Oficiālajā Vēstnesī, kas, visticamāk, paredzams šī gada aprīlī vai maijā. MI Regulas ieviešana notiks pakāpeniski 2 gadu periodā līdz pilnai tās spēkā stāšanās dienai. Vismaz vienai “regulatīvajai smilškastei” katrā dalībvalstī būs jābūt izveidotai līdz šai dienai.

Attiecībā uz MI sistēmu aizliegumiem MI Regula būs attiecināma sešus mēnešu pēc tās spēkā stāšanās, bet uz vispārējās nozīmes MI sistēmām un sodiem tā tiks attiecināta vienu gadu pēc MI Regulas spēkā stāšanās. Savukārt pārējā daļā, tajā skaitā attiecībā uz augsta riska MI sistēmām, MI Regula būs attiecināma tikai trīs gadus pēc tās spēkā stāšanās. Lai veicinātu MI Regulas pareizu piemērošanu, paredzēts izstrādāt īpašus prakses kodeksus.

Lai gan MI Regula šķiet izaicinoša uzņēmumiem, tomēr to būtu jāuzlūko kā daļu no lielāka globāla un neizbēgama attīstības ceļa uz uzticamu un atbildīgu MI izmantošanu. Periodā līdz MI Regulas pilnīgai attiecināmībai, uzņēmumiem ir piemērotākais laiks, lai jau savlaicīgi un pilnvērtīgi sagatavotos jaunajam posmam savā uzņēmējdarbībā un nodrošinātu atbilstību MI Regulai.