Ochrana demokracie a právneho štátu. Europoslanci schválili prísnejšie pravidlá pre umelú inteligenciu

Európsky parlament schválil prísnejšie pravidlá v oblasti regulácie umelej inteligencie v Európskej únii. Odstránil tým poslednú prekážku pred ich oficiálnym vstupom do platnosti.

13.03.2024 13:50
debata
IDE O PENIAZE - Umelá inteligencia
Video
Kde má umelá inteligencia (AI) najväčší potenciál? V investovaní, v bankovníctve, poisťovníctve, v realitách? Vie odhadnúť vývoj na akciových trhoch lepšie ako človek? Kto bude zodpovedný, ak nám AI zle poradí a prídeme o peniaze? Budeme sa raz v bankách baviť iba s robotmi? Budú vďaka umelej inteligencii naše peniaze pod väčšou ochranou, alebo pribudne podvodov? Hrozí, že vďaka AI, ktorá za nás bude vykonávať finančné operácie a rozhodnutia, zlenivieme a naša finančná gramotnosť sa zníži? / Zdroj: TV Pravda

Za nariadenie o regulácii umelej inteligencie (UI) zahlasovalo 523 poslancov, 46 bolo proti a 49 sa zdržalo hlasovania.

Cieľom nariadenia je chrániť základné práva, demokraciu, právny štát a environmentálnu udržateľnosť pred vysokorizikovou umelou inteligenciou a zároveň podporovať inovácie a zabezpečiť vedúcu úlohu EÚ v tejto oblasti.

V nariadení sa stanovujú povinnosti pre umelú inteligenciu na základe jej potenciálnych rizík a vplyvu.

Nové pravidlá zakazujú používať aplikácie UI, ktoré ohrozujú práva občanov. Týka sa to systémov biometrickej kategorizácie založených na citlivých charakteristikách, necieleného extrahovania podôb tváre z internetu alebo videozáznamov z bezpečnostných kamier na tvorbu databáz na rozpoznávanie tvá­rí.

umela inteligencia Čítajte aj Keď sa umelá inteligencia vymkne spod kontroly. Četbot DPD začal nadávať zákazníkom

Zakázané bude aj rozpoznávanie emócií na pracovisku či v škole, sociálne bodovanie či prediktívne vykonávanie policajných funkcií, ak je založené výlučne na profilovaní osoby alebo posudzovaní jej charakteristík. Nebude sa môcť používať ani UI, ktorá manipuluje ľudské správanie alebo zneužíva zraniteľnosť ľudí.

Používanie systémov biometrickej identifikácie na presadzovanie práva je zakázané s výnimkou detailne vymenovaných a úzko vymedzených situácií. Biometrická identifikácia sa môže používať len vtedy ak je takéto použitie časovo a geograficky obmedzené a bolo k nemu vydané súdne alebo správne povolenie. Môže sa to týkať pátrania po nezvestných osobách alebo predchádzania teroristickým útokom.

Umelá inteligencia / AI / Čítajte aj Nová doba a nové hrozby? Umelá inteligencia sa už dokáže aj sama naklonovať

Povinnosti sa stanovia aj pre iné vysokorizikové systémy UI, ktoré sa používajú v kritickej infraštruktúre, vzdelávaní a odbornej príprave, ale aj pri nábore do zamestnania či v kľúčových súkromných a verejných službách ako sú zdravotníctvo a bankovníctvo. A aj v určitých systémoch presadzovania práva, pri riadení migrácie a hraníc, v súdnictve a v demokratických procesoch, napríklad na ovplyvňovanie volieb.

Pri takýchto systémoch bude povinné posúdiť a znížiť riziká, viesť záznamy o používaní, zabezpečiť ich transparentnosť ako aj ľudský dohľad.

Občania budú mať právo podávať sťažnosti na systémy UI, ako aj právo získať vysvetlenie rozhodnutí založených na vysokorizikových systémoch umelej inteligencie, ktoré ovplyvňujú ich základné práva.

Deepfake Čítajte aj Neverte už ani vlastným očiam. Deepfake kradne hercom a politikom ich pravú tvár

Europoslanci podporili, aby umelé alebo zmanipulované obrázky, audio nahrávky alebo videá (deepfakes) boli jasne označené.

Členské štáty budú povinné zabezpečiť, aby mohli malé a stredné podniky a startupy ešte pred uvedením svojich produktov na trh vyvíjať a trénovať inovatívnu umelú inteligenciu v experimentálnych regulačných prostrediach a testovať ju v reálnych podmienkach.

Nariadenie ešte musí musí formálne schváliť aj Rada EÚ (členské štáty) a očakáva sa, že bude prijaté pred koncom volebného obdobia. Zákon nadobudne účinnosť 20 dní po zverejnení v Úradnom vestníku EÚ a začne sa uplatňovať 24 mesiacov po nadobudnutí účinnosti.

Facebook X.com debata chyba Newsletter
Viac na túto tému: #Európsky parlament #umelá inteligencia #AI