SpravodajstvoTechnológieVeda a výskum

AKTUÁLNE: Európska únia prijala dôležitý zákon o AI. Bude regulovať umelú inteligenciu, ako sa môže používať!

Európsky parlament chce novým zákonom chrániť práva občanov a zároveň zabezpečiť bezpečný vývoj tejto technológie.

Umelá inteligencia v posledných rokoch zažila obrovskú explóziu a jej schopnosti v nadchádzajúcich rokoch porastú ešte výraznejšie. Experti sú na jednu stranu touto technológiou fascinovaní, no popri tom si uvedomujú aj to, že potrebujeme určité pravidlá, ktoré by kontrolovali jej vývoj. Európsky parlament v tomto smere prijal prelomový Akt o umelej inteligencii, ktorý má zaistiť bezpečný vývoj umelej inteligencie.  

Cieľom prijatého zákona je chrániť základné práva, demokraciu, právny štát a environmentálnu udržateľnosť pred vysokorizikovou umelou inteligenciou, píše portál Európskeho parlamentu. V praxi tento zákon zakáže používanie umelej inteligencie spôsobom, ktorý by ohrozil práva občanov. Znamená to, že umelá inteligencia sa nebude môcť používať na vytváranie databáz tvárí, biometrickú kategorizáciu, čítanie emócií alebo na vytvorenie systému sociálneho bodovania. Zároveň sa nebude môcť používať ani umelá inteligencia, ktorá manipuluje ľudské správanie alebo zneužíva zraniteľnosť ľudí.  

Odoberajte Vosveteit.sk cez Telegram a prihláste sa k odberu správ

Ďalšou veľkou obavou je to, ako by sa umelá inteligencia mohla použiť na policajné účely. V tomto smere sa často skloňujú prediktívne funkcie. Tie by dokázali v praxi predpovedať zločin ešte pred tým, ako sa naozaj stane. Na to používajú matematiku a prediktívnu analytiku, pričom sledujú niekoľko rôznych faktorov. Pochopiteľne, aj takéto používanie umelej inteligencie zákon zakazuje, no aj napriek tomu sa umelá inteligencia môže využívať na policajné účely v krajných a nevyhnutných prípadoch.  

Ako píše portál Európskeho parlamentu, využiť umelú inteligenciu na identifikáciu podozrivého v reálnom čase sa dovoľuje len v úzko vymedzených situáciách. Policajné zložky ju môžu použiť len ak spĺňajú prísne záruky. Identifikácia v reálnom čase môže prebiehať ak sa jej použitie časovo a geograficky ohraničí a súd na ňu vopred vydal súdny príkaz. Medzi situácie, kedy je biometrická identifikácia pomocou AI prípustná je pátranie po nezvestných osobách alebo predchádzanie teroristickým útokom.  

Vysokorizikové AI musí kontrolovať človek

Zákon ďalej ujasňuje aj používanie vysokorizikovej umelej inteligencie. Ide o AI modely, ktoré majú pracovať v dôležitých odboroch, napríklad zdravotnom, bezpečnostnom, vzdelávacom, bankovom alebo pri nábore do zamestnania. Za vysokorizikovú sa považuje aj umelá inteligencia v súdnictve, pri riadení migrácie a hraníc a v demokratických procesoch. Tu sa musia posúdiť a znížiť riziká. Rovnako sa musia viesť záznamy o používaní a zabezpečiť ich transparentnosť a presnosť. Na túto umelú inteligenciu musí dozerať človek.  

Občania budú mať zákonom garantované právo podávať sťažnosti na umelú inteligenciu. Popri tom dostanú právo na vysvetlenie rozhodnutí, ktoré vykonali vysokorizikové systémy umelej inteligencie. 

“Konečne máme prvý záväzný zákon na svete o umelej inteligencii, ktorý má znížiť riziká, vytvárať príležitosti, bojovať proti diskriminácii a priniesť transparentnosť. Vďaka Parlamentu budú v Európe zakázané neprijateľné praktiky umelej inteligencie a budú chránené práva pracovníkov a občanov,” vyjadril sa Spoluspravodajca Výboru pre vnútorný trh, Brando Benifei.  

Európska únia chce nielen kontrolovať umelú inteligenciu, no zároveň podporiť jej vývoj a zabezpečiť, aby v tejto oblasti bola lídrom. EÚ však novým zákonom zabezpečuje ochranu základných práv človeka, ktoré dokážu AI systémy veľmi ľahko ohroziť.  

Prihláste sa k odberu správ z Vosveteit.sk cez Google správy
Tagy
Zobraziť komentáre
Close
Close