Europos DI aktas artimiausiais metais taps vienu svarbiausių teisės dokumentų technologijų sektoriui, tiesiogiai paliesiančiu ir Lietuvos verslus.
Jo reikalavimai apims ne tik didžiąsias platformas, bet ir startuolius, programų kūrėjus bei įmones, kurios savo produktuose ar paslaugose naudoja DI sprendimus.
Kas yra Europos DI aktas?
Europos DI aktas yra visai Europos Sąjungai taikomas reglamentas, nustatantis vienodas taisykles, kaip galima kurti ir naudoti DI sistemas.
Jo tikslas – skatinti inovacijas, bet kartu užtikrinti saugumą, skaidrumą ir pagrindinių teisių apsaugą.
Reglamentas remiasi rizikos lygių logika.
DI sprendimai skirstomi į minimalios, ribotos, didelės ir nepriimtinos rizikos kategorijas, nuo kurių priklauso ir skirtingi reikalavimai.
Nepriimtinos rizikos sistemoms, pavyzdžiui, socialinio vertinimo pagal elgesį modeliams, bus taikomas visiškas draudimas.
Didelės rizikos sistemoms, naudojamoms, tarkime, įdarbinimo ar kreditingumo vertinimui, numatyti griežti saugumo, duomenų ir dokumentavimo standartai.
Kuriuos Lietuvos verslus tai palies?
Su DI aktu susidurs ne tik specializuotos technologijų bendrovės, kuriančios pačias DI sistemas.
Reikalavimai palies ir tas įmones, kurios DI integruoja į vidinius procesus ar siūlomas paslaugas.
Jei įdarbinimo platforma naudoja automatizuotą kandidatų atranką, ji gali būti priskirta didelės rizikos kategorijai.
Elektroninių parduotuvių rekomendacijų sistemos, klientų aptarnavimo pokalbių robotai ar išmani analitika dažnai pateks į ribotos rizikos sritį.
DI aktas bus aktualus ir gamybos, logistikos, draudimo, sveikatos priežiūros, finansų, švietimo sektoriams.
Kuo daugiau sprendimų automatizuojama ir deleguojama algoritmams, tuo didesnė tikimybė, kad reikės laikytis naujų taisyklių.
Pagrindiniai reikalavimai didelės rizikos sistemoms
Didelės rizikos DI sistemų kūrėjai ir naudotojai turės įrodyti, kad jų sprendimai yra saugūs, patikimi ir nediskriminuojantys.
Numatomi aiškūs reikalavimai mokymo duomenims, testavimui ir rizikų vertinimui.
Įmonės turės dokumentuoti, kaip veikia jų DI modeliai, kokius duomenis jie naudoja ir kokių rezultatų galima tikėtis.
Bus privaloma turėti žmogaus priežiūros mechanizmus, užtikrinti galimybę sustabdyti sistemą ar ją apeiti, kai to reikia.
Didelės rizikos sistemoms taip pat bus reikalinga registracija specialiame Europos Sąjungos duomenų banke.
Tai reiškia papildomą teisinę ir administracinę naštą, bet kartu didesnį pasitikėjimą rinkoje, jei reikalavimai bus įvykdyti.
Kaip pasiruošti Lietuvos įmonėms?
Pirmas žingsnis – aiškiai įsivertinti, ar įmonė naudoja DI, ir jei taip, kokios tai sistemos ir kam jos taikomos.
Daug verslų DI laiko tik „išmanais algoritmais“, tačiau teisine prasme tai jau gali būti DI sistema.
Reikėtų susidaryti visų naudojamų technologijų žemėlapį ir pagal DI akto rizikos kategorijas bent preliminariai įvertinti jų statusą.
Šis pirmasis auditas padės suprasti, ar reikės papildomų investicijų į saugumą, dokumentaciją ar vidines procedūras.
Teisininkai ir technologijų specialistai rekomenduoja anksti įtraukti ir duomenų apsaugos pareigūnus ar atsakingus darbuotojus.
DI aktas glaudžiai susijęs su asmens duomenų apsauga, todėl Reglamento dėl asmens duomenų apsaugos ir DI reikalavimus teks suderinti.
Ką tai reiškia startuoliams?
Lietuvos startuoliams DI aktas gali tapti ir iššūkiu, ir konkurenciniu pranašumu.
Griežtesni reikalavimai reiškia papildomas sąnaudas, tačiau laikantis taisyklių bus lengviau įžengti į kitų Europos Sąjungos šalių rinkas.
Startuoliams patariama nuo pat pradžių kurti produktus taip, kad jie atitiktų būsimas taisykles.
Jei DI skaidrumas, duomenų kokybė ir žmogaus priežiūra bus numatyti jau projektavimo etape, vėliau išvengiama brangių pataisymų.
Investuotojai taip pat vis dažniau klausia, ar įmonės produktai yra parengti atitikčiai naujam reglamentui.
Tad ankstyvas pasirengimas gali tapti svarbiu argumentu derybose dėl finansavimo.
Kokios rizikos ir naudos vartotojams?
Vartotojams DI aktas turėtų suteikti daugiau skaidrumo ir kontrolės.
Pavyzdžiui, naudojant tekstų generavimo ar vaizdų kūrimo sistemas, jie dažniau bus aiškiai informuojami, kad sąveikauja su DI.
Asmenys turės daugiau galimybių ginčyti sprendimus, kurie buvo priimti remiantis DI, jei jie paveikia teises ar interesus.
Įmonėms tai reikš pareigą aiškiau paaiškinti automatizuotų sprendimų logiką ir suteikti apeliacijos galimybę.
Verslui tai papildomas darbas, bet kartu proga didinti klientų pasitikėjimą ir ryškiau parodyti, kad technologijos naudojamos atsakingai.
Lietuvos rinkoje, kur pasitikėjimas naujomis sistemomis dar formuojasi, tai gali tapti svarbiu konkurenciniu veiksniu.
