Foto: SITA/AP, Mark Schiefelbein
Navrhli ste, že je potrebné, aby ľudia, ktorí pracujú s umelou inteligenciou, skladali etickú prísahu. Prečo?
V našich spoločnostiach sa menia centrá moci. Sme toho svedkami za posledných desať, dvadsať rokov. A najmä teraz. Politici a novinári vždy mali istú moc, takisto aj právnici a lekári. No teraz vzniká nová trieda ľudí s mocou. Sú to tí, ktorí vytvárajú algoritmy, softvérové systémy a umelú inteligenciu. Keď si uvedomujeme, že títo ľudia majú v spoločnosti viac moci, mali by sme chcieť, aby sa správali eticky. Na to, ako sa to dá dosiahnuť, neexistuje jedna odpoveď. Ale veľkým symbolom etického prístupu je pre lekárov Hippokratova prísaha. V podstate sa týmto sľubom zaväzujú k tomu, že budú svoje schopnosti používať na konanie dobra, nie zla. Tvrdím, že niečo podobné by mali mať aj ľudia pracujúci s umelou inteligenciou. Preto som pre nich vytvoril text prísahy.
Ako reagovali?
Bol som trocha prekvapený. Myslel som si, že to privítajú. Je to jednoduchá vec. V živote nie je veľa záležitostí, za ktoré nemusíte platiť, nemajú žiadne kalórie a nespôsobujú rakovinu. Preto som si myslel, že prísahu budú všetci milovať. Skutočnosť však bola iná. Boli takí, ktorým sa nepáčilo, že sa to týka len umelej inteligencie. Vraveli, že by možno mala byť pre všetkých, ktorí riešia veci spojené s počítačmi. Ďalší zase tvrdili, že je potrebné zmeniť jedno slovu tu, druhé zase tam, že moja prísaha nie je správna. Odpovedám im, aby sa mi nesnažili odhryznúť prst, ale pozerali sa, kam ním ukazujem. Bol som sklamaný.
Dá sa povedať, že v spoločnosti existujú obavy z toho, ako sa bude umelá inteligencia využívať. Mnohí ľudia by pravdepodobne privítali, aby tí, čo pracujú s mocnými nástrojmi, mali nad sebou aj nejakú kontrolu. Možno je potrebné presvedčiť verejnosť, že vaša prísaha je dobrý nápad.
Áno. Ďakujem. Súhlasím s vami. Snažil som sa presvedčiť niektorých ľudí, aby prijali moju prísahu. Študentov na univerzitách a ich profesorov. Ale veľmi sa zdráhali. Možno v tom budete vedieť pomôcť.
V čom spočíva najväčšie nebezpečenstvo zneužitia umelej inteligencie?
Stojíme pre mnohými výzvami. Ľudia môžu stratiť pracovné miesta, hrozí prehĺbenie príjmovej nerovnosti, obmedzenie súkromia a, samozrejme, AI je možné zneužiť na rôzne účely. Na ovplyvnenie volieb, čo je horúca téma v USA, vedia ju využiť kriminálnici na kybernetické zločiny.
Ako môže umelá inteligencia ovplyvniť voľby?
Prináša potenciál na oveľa sofistikovanejšie útoky. Ľudia vedia byť veľmi naivní, ale je potrebné povedať, že sme sa dostali do bodu, keď len veľmi ťažko môžeme povedať, či nejaký obsah vytvoril človek, alebo umelá inteligencia. Môže sa vám stať, že uvidíte bývalého prezidenta Baracka Obamu hovoriť veci, ktoré nikdy nepovedal. Nanešťastie tomu budeme čeliť.
Čo sa s tým dá robiť?
Môžeme posilniť autentifikáciu obsahu, aby sme vedeli, kto je skutočný autor nejakého obsahu. Aby som vedel, že to vzniklo v Pravde či v New York Times. V Allenovom inštitúte vytvárame nástroje, ktoré umožnia lepšie odhaliť podvody. Pripomína to však preteky v zbrojení medzi armádami. Medzi podvodníkmi a tými, čo ich chcú odhaliť.
Keď ste spomenuli preteky v zbrojení, tak určite dokážu umelú inteligenciu využiť aj priamo armády.
Ruský prezident Vladimir Putin povedal, že kto ovládne umelú inteligenciu, ovládne svet. Neexistuje jedna AI. Jej využitie však určite môže vytvoriť výhody pre nejakú krajinu v oblasti vojenstva, ekonomiky a vedy a výskumu. Lídrami v oblasti umelej inteligencie sú USA a Čína. A to je určite výzva pre Rusko. Dúfam, že prístup všetkých zúčastnených bude skôr snaha o spoluprácu, nie nepriateľstvo. Rusko podľa mňa urobilo v roku 2016 chybu, keď sa snažilo ovplyvniť americké prezidentské voľby. Uprednostnilo krátkodobý prospech pred dlhodobejším. Opätovne prebudilo antagonizmus USA proti Rusku. Môže to mať negatívne následky pre obe krajiny.
Na Západe, najmä v Európe, neraz počujeme, že v technologickej oblasti nám uteká vlak, že sa presadzuje hlavne Čína. Je to naozaj tak?
Je to trocha zložitejšie. V tejto chvíli sa to nedá jednoznačne povedať, ale budeme to lepšie vedieť možno o tri či štyri roky.
Ako sa to prejaví? Ako budeme vedieť, kto je technologickým lídrom?
Bude to mať obrovské vojenské, hospodárske a technologické dosahy. Prejaví sa to na bežných veciach, ale tiež na fungovaní vojenských systémov. Ešte to nevidíme, ale po istom čase si to uvedomíme.
Keď sa vrátim k vašej prísahe, čo nesmú ľudia vytvárajúci AI v žiadnom prípade urobiť?
Kontrola nad systémami umelej inteligencie musí zostať v ich rukách. Môžete vytvoriť veľmi inteligentnú vec. Povedzme mimoriadne inteligentný zbraňový systém. Ale rozhodnutie o tom, či niekoho zabije, musí zostať na iných ľuďoch. To sa týka napríklad aj toho, či niekto má ísť do väzenia a podobných vecí.
Bude to tak?
Je to naše rozhodnutie.
Nebudú chcieť ľudia radšej preniesť zodpovednosť na stroje?
Možné to je.