Európsky parlament (EP) preto chce, aby aj umelá inteligencia bola pod kontrolou človeka, aby bola etická a dôveryhodná. Taktiež, aby neohrozovala základné ľudské slobody a bezpečnosť človeka. V stredu europoslanci schválili začiatok európskej regulácie AI.
Čo to v praxi znamená? Chcú nastaviť pravidlá dôveryhodnej a etickej umelej inteligencie, aby tak zaručili jej bezpečné a transparentné používanie v praxi, tak, aby bolo v súlade so základnými ľudskými právami aj s hodnotami Európskej únie (EÚ).
Čítajte viac S umelou inteligenciou som sa rozprávala o smrti, hororoch aj o záhoráčtine
EP prijal Akt o umelej inteligencii s masívnou väčšinou: 499 poslancov hlasovalo za a 28 proti. Teraz budú nasledovať rokovania o konečnej podobe zákona aj v jednotlivých členských štátoch.
„Pre fungovanie umelej inteligencie potrebujeme pravidlá. EÚ bude prvá, kto také pravidlá prijme, a preto sa na nás teraz díva celý svet. Nová legislatíva musí zabezpečiť, aby boli systémy umelej inteligencie uvádzané na trh EÚ bezpečné a aby rešpektovali existujúce právne predpisy, základné práva a hodnoty únie," upozornila europoslankyňa Lucia Ďuriš Nicholsonová.
Pravidlá sa riadia rizikom použitia a stanovujú povinnosti pre poskytovateľov a používateľov v závislosti od úrovne rizika, ktoré umelá inteligencia môže vytvárať. Zakázať chcú systémy umelej inteligencie s neprijateľnou úrovňou rizika. Medzi ne patria systémy diaľkovej biometrickej identifikácie, policajné systémy, ktoré dokážu predpovedať správanie, ako aj nástroje na rozpoznávanie emócií.
Výzva na šesťmesačnú pauzu vo vývoji umelej inteligencie
Začiatkom apríla miliardár Elon Musk a skupina odborníkov na umelú inteligenciu vyzvala na šesťmesačnú pauzu vo vývoji výkonnejších systémov ako GPT-4 od OpenAI. Tvrdia, že ak bude vývoj pokračovať tak rýchlo ako doteraz, vyplývajú z neho potenciálne riziká pre spoločnosť. Spoločnosť OpenAI, ktorá spadá pod Microsoft, predstavila štvrtú verziu programu jazykového modelu umelej inteligencie GPT (generatívny predtrénovaný transformátor, pozn. red.), ktorý svet ohromil tým, že dokázal spracovať ľudskú konverzáciu, dokáže skladať piesne či písať dizertačné práce, scenáre či ľúbostné listy.
Nová verzia programu dokáže okrem jazyka pracovať aj s obrázkami a má väčšiu schopnosť spracovávať podrobnejšie pokyny. „Výkonné systémy umelej inteligencie by sa mali vyvíjať len vtedy, keď si budeme istí, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné,“ uvádza sa v liste inštitútu Future of Life (Budúcnosť života, pozn. red).
Manipulácie z krajiny draka
Umelá inteligencia ponúka veľa možností, ako je napríklad vytváranie virtuálnych asistentov pomáhajúcich ľuďom s každodenným životom, dokáže nájsť lepšie liečebné postupy alebo identifikovať spotrebiteľské trendy na sociálnych sieťach.
Ako súčasť digitálneho pokroku ľuďom pomáha pri lekárskej diagnostike, zefektívňuje prácu, umožňuje šetriť energie, manažment dopravy či rôzne iné inteligentné riešenia. AI sa používa aj pri marketingu, čo vyvoláva etické obavy napríklad v prípade algoritmov zameraných na ovplyvnenie politických rozhodnutí, ako to údajne urobila Cambridge Analytica počas amerických volieb a hlasovania o vystúpení Veľkej Británie z EÚ. Podľa únie je v takom kontexte dôležité rozumieť tomu, ako algoritmy fungujú a mať ich pod kontrolou.
Uznesenie EP však nenadobudne okamžitú platnosť. Najskôr sa tak stane v roku 2026. Úplne zakázané bude používanie AI, ktoré spadá pod neakceptovateľné riziko. Teda niečo, čo priamo ohrozuje bezpečnosť, zdravie a slobodu človeka. Patrí sem napríklad umelá inteligencia na rozpoznávanie tvárí či medicínske biometrické dáta.
Europoslankyňa Miriam Lexmann (KDH) priblížila, ako sa počas pandémie v budovách EP objavili zariadenia na meranie teploty. Tie zároveň mohli byť použité na biometriu tváre a zariadenia pochádzali z Číny, pričom nebolo možné zistiť, či spracovávajú biometrické údaje. Lexmann však ako príklad zneužívania technológie uvádza Čínu, kde slúži na kontrolu obyvateľstva. No tvárovú biometriu využívajú aj mobilné telefóny a nie sú novinkou ani na štadiónoch, kde slúžia na identifikáciu vandalov. „AI je dobrý sluha, ale zlý pán,“ upozornila.
Medzi AI s vysokým rizikom patria napríklad autonómne autá či algoritmy sociálnych sietí. S väčším používaním AI sa objavujú aj nové morálne problémy a právne otázky. Napríklad také, že kto pri nehode autonómneho auta nesie zodpovednosť. EP zdôrazňuje, že zodpovednosť musí niesť vždy len človek, pretože akýkoľvek tretí subjekt, inteligentný či neinteligentný, nemôže mať právnu zodpovednosť. „Použitie GPT je rôzne, no hlavne musí chrániť duševné zdravie a ľudské práva,“ zdôraznila Lexmann.
EÚ taktiež zvažuje povinný zákaz pre členské štáty používať v ich sieťach infraštruktúru 5G od spoločností, ktoré by mohli predstavovať bezpečnostné riziko. Je medzi nimi aj čínska spoločnosť Huawei. Tento krok je reakciou na rastúce obavy Bruselu. Huawei, ZTE a čínska vláda tvrdenia o špionáži odmietajú. Vo Švédsku však už stihli, kvôli obavám o bezpečnosť štátu, zakázať pôsobenie Huawei. „Huawei nikdy nespôsobil ani najmenšiu hrozbu pre švédsku kybernetickú bezpečnosť a nikdy to neurobí,“ uviedla firma vo vyhlásení.
Šachový automat z 18. storočia
Nie priamo umelá inteligencia, ale snaha o inteligentný stroj sa objavila už v 18. storočí, keď vynálezca Wolfgang von Kempelen pochádzajúci z Bratislavy skonštruoval stroj „Turek“. So svojím falošným šachovým automatom schopným poraziť aj tých najschopnejších vyzývateľov. S Turkom precestoval celú Európu a porážal aj zdatných šachistov. Stroj porazil v Berlíne Fridricha II. a v roku 1808 aj Napoleona. „Automat“ fungoval s použitím magnetov a inteligenciu mu dodával vstavaný živý šachista. ZDROJ: EP, wiki
Ekonomika pozornosti
Algoritmy sledujú ľudské správanie a vzorce. Na ich základe navrhujú užívateľom lákavejší obsah. Čím viac času strávi používateľ napríklad na Facebooku, Instagrame alebo TikToku, tým viac peňazí tieto spoločnosti zarobia. Problém spočíva v tom, že na ich základe môžu vznikať rôzne druhy závislosti a sociálne siete vťahujú ľudí do „ideologických bublín“. Sociálne médiá, ktoré sa snažia neustále upútavať pozornosť, nazýva Lexmann „ekonomikou pozornosti“.
Europoslankyňa upozornila, že AI vie byť zneužívaná na manipuláciu verejnej mienky s cieľom ovplyvňovať nálady obyvateľstva. Takto môže byť zneužitá na manipuláciu volieb. Preto vám ponúkajú obsah, ktorý by sa vám mal na základe prieskumu ich algoritmov páčiť. Ak teda užívateľ vyhľadáva konšpiračné teórie, kanály sociálnych médií mu začnú ponúkať obsah tohto druhu. Čoskoro tak bude používateľov obklopovať len obsah, ktorý jeho videnie sveta len upevňuje. „Nie sú nastavené parametre na to, aby sa nešírili dezinformácie či nelegitímny obsah,“ priblížila Lexmann.
Sú však využitia AI, ktoré nemajú priamy vplyv na spoločnosť, ale zľahčujú každodenný život. Aj navigácia v mapách, ktorá vie vybrať najlepšiu cestu do cieľa či spamový filter elektronickej pošty, ktorý automaticky vykonáva triedenie nechcenej pošty, je AI. Tieto vymoženosti spadajú do tretej kategórie – umelá inteligencia s limitovaným rizikom.
Hybridným hrozbám sa rozsiahlo venuje aj programové vyhlásenie vlády Ľudovíta Ódora a ministerstvo vnútra zriadilo výbor hybridné hrozby. Ten má za úlohu priraviť opatrenia pre zvyšovanie odolnosti štátu a súčasne bude zodpovedný za identifikáciu rizík, ktoré môžu Slovensko ohrozovať..
Kto to všetko ustráži?
Na Slovensku by tak do roku 2026 mala vzniknúť agentúra, ktorá by hybridné hrozby pokrývala, nateraz to je Rada pre vysielanie a retransmisiu. Na slovenskom trhu je však podľa experta na reguláciu AI Juraja Čorbu mimoriadny nedostatok kvalifikovaných ľudí.
V jednotlivých členských štátoch by mali vzniknúť regulačné úrady. Dnes túto úlohu na Slovensku zastupuje Rada pre vysielanie a retransmisiu. Na slovenskom trhu je mimoriadny nedostatok kvalifikovaných ľudí. „Je o nich bitka aj v privátnom, nie to ešte vo verejnom sektore. Aj preto sme sa zamerali na to, aby sme na európskej úrovni podporili tvorbu elementárnych predpokladov pre fungujúce verejné inštitúcie," priblížil pre Pravdu expert na reguláciu AI Juraj Čorba.
Je presvedčený, že ak má byť európska legislatíva zmysluplná, optimálne by mala byť rovnako uplatňovaná v celej EÚ. „Keďže v týchto systémoch ide o sekundy, musíme byť pripravení konať okamžite, keď sa objaví nejaké riziko alebo incident,“ ozrejmil.
Že nejde len o strašenie o budúcnosti ľudstva, potvrdzuje aj generálny tajomník OSN António Guterres, ktorý tvrdí, že umelá inteligencia sa rizikami vyrovná jadrovej vojne, pretože „umelá inteligencia predstavuje pre ľudstvo existenčnú hrozbu, ktorá sa vyrovná riziku jadrovej vojny. Tieto varovania musíme brať vážne“.
Nie je to však len o hrozbách. AI dokáže aj tvoriť umenie. Napríklad Paul McCartney vo vysielaní stanice BBC uviedol, že použil umelú inteligenciu na vytvorenie „poslednej nahrávky Beatles“. Program v piesni dotvorí hlas speváka Johna Lennona, ktorý zomrel v roku 1980.