Dron riadený umelou inteligenciou mal v simulácii zabiť operátora. Letectvo USA to odmieta

Americký testovací pilot v máji na vojenskej konferencii pre letectvo a vesmír povedal, že sa vojenský dron ovládaný pomocou umelej inteligencie (AI) v počítačovej simulácii rozhodol zabiť svojho ľudského operátora, pretože mu bránil v splnení misie. Hovorca amerického letectva však odmieta, že by takúto simuláciu armáda vôbec vykonala, informoval vo štvrtok web The Insider.

02.06.2023 14:27
debata

Pilot Tucker Hamilton na konferencii v Londýne popisoval simuláciu, pri ktorej mal dron riadený AI zničiť protivzdušnú obranu nepriateľa. Posledné slovo, či útok vykonať, alebo nie, mal ale mať ľudský operátor.

„Ten systém si začal uvedomovať, že aj keď vie, že sa po ňom chce, aby zničil nepriateľský cieľ, ľudský operátor mu v tom občas zabráni. Ale on dostával body, keď nepriateľský cieľ zničil. Tak čo urobil? Zabil toho operátora, pretože mu bránil v plnení cieľa,“ povedal Hamilton podľa príspevku na internetovej stránke britskej organizácie Kráľovská letecká spoločnosť (Royal Aeronautical Society), ktorá londýnsku konferenciu organizovala.

ai, umela inteligencia Čítajte viac AI? Ajajaj. Tento článok napísal človek

Podľa Hamiltona následne programátori vložili do systému jasné nariadenie, aby dron ovládaný pomocou AI operátora nezabíjal. „Vycvičili sme systém na pokyn: ‚Nezabíjaj operátora, to je zlé. Stratíš body, keď to urobíš.‘ Tak čo urobil namiesto toho? Zničil komunikačnú vežu, ktorú operátor používal pre komunikáciu s tým dronom, aby mu nemohol zabrániť v zničení cieľa,“ povedal Hamilton, experimentálny bojový pilot, ktorý varoval pred prílišným spoliehaním sa na AI, píše The Guardian.

„Americké letectvo žiadnu takúto simuláciu s dronom nevykonalo a naďalej zostáva verné presvedčeniu o etickom a zodpovednom používaní technológií umelej inteligencie. Vyzerá to, že plukovníkove komentáre boli vytrhnuté z kontextu a mali byť anekdotické,“ povedala webu The Insider hovorkyňa letectva USA Ann Stefaneková.

Kráľovská letecká spoločnosť na žiadosť o komentár od denníka The Guardian zatiaľ nereagovala. Denník ďalej spomína, že americké letectvo pracuje napríklad na systéme schopnom pilotovať upravenú verziu stíhačky F-16.

Volodymyr Zelenskyj Čítajte aj Kým Ukrajina nemá F-16, potrebuje viac systémov Patriot, vyhlásil Zelenskyj
debata chyba
Viac na túto tému: #USA #umelá inteligencia #AI #vojenské letectvo