Gal: Nie sme tak ďaleko, aby sa ľudstvo muselo báť umelej inteligencie

Inteligencia, s ktorou sa ľudia stretávajú pri komunikácii s bankami, telekomunikačnými operátormi či inými službami na internete, nemá potenciál dopĺňať človeka, ale ho nahrádzať.

321
321

Bratislava 24. júna (TASR) – Hoci sa čoraz viac hovorí o umelej inteligencii, k tomu, aby sme ju skutočne vyvinuli, sme ešte ďaleko. Inteligencia, s ktorou sa ľudia stretávajú pri komunikácii s bankami, telekomunikačnými operátormi či inými službami na internete, nemá potenciál dopĺňať človeka, ale ho nahrádzať.

Rôzne typy robotov však nateraz určite nenahradia ľudí, ktorí vykonávajú málokvalifikované alebo, naopak, vysokokvalifikované profesie. V rozhovore v rámci multimediálneho projektu TASR Osobnosti: tváre, myšlienky to povedala izraelská vedkyňa a výskumníčka v oblasti umelej inteligencie Danit Gal.

-Vo svojich výskumoch sa zaoberáte umelou inteligenciou. Ako ďaleko sa pokročilo pri vývoji tejto technológie?-
Nie sme tak ďaleko, ako by sa mohlo zdať. V podstate umelá inteligencia ešte stále neexistuje. Už v 50-tych a 60-tych rokoch minulého storočia existovali aplikácie, ktoré sa dokázali učiť a zdokonaľovať. Napríklad, môžem zmieniť hru šach s počítačom, ktorý sa učil postupne na vlastných chybách. Na výraznejší a rýchlejší prelom nám chýbajú dve podmienky. Viac financií, pretože mnoho vyvinutých aplikácií nemá komerčné využitie, a druhou sú silnejšie a výkonnejšie počítače. Existujú nápady, no nedajú sa zrealizovať pre ich nedostatočný výkon. To, čo v súčasnosti vidíme, je len zdokonaľovanie spomínaných objavov z minulého storočia. Nejde preto o skutočnú umelú inteligencie, ale o nižšie štádium vývoja, ktorý by som nazvala rozšírenou inteligenciou. V ojedinelých prípadoch vidíme isté náznaky umelej inteligencie. Príkladom je počítačový program Alphazero. Ten sa dokáže učiť nielen z vlastných hier, ale aplikovať aj riešenia z iných partií, ktoré sú archivované na internete. Používa však spôsob učenia, ktorý je veľmi odlišný od ľudského.

-To znamená, že s rozšírenou inteligenciou sa stretávame prakticky denne. Keď komunikujeme so svojou bankou, tak v dialógovom okienku sa nerozprávame so živým pracovníkom banky, ale s robotom a podobne…-
Áno, no je dôležité si uvedomiť, že rozšírená inteligencia nie je doplnkom k ľudskej práci, ale ju priamo nahrádza. Dokáže vykonávať činnosti ako ľudia, no nerobí ich lepšie. Pokiaľ by išlo o umelú inteligenciu odlišnú od ľudskej, dokázala by nás dopĺňať, pretože by vedela vytvoriť viac hodnôt, viac nápadov.

-V súčasnosti vidíme analýzy a diskusie o zavádzaní robotov do výroby, teda rozšírenej inteligencie, ktorá dokáže nahradiť ľudí. Preto sa objavujú obavy zo straty pracovných miest…-
Tie obavy sa týkajú najmä pracovníkov v stredných pozíciách, vo výrobe, pri účtovníctve, pretože táto rozšírená inteligencia sa nedokáže uplatniť vo vysokokvalifikovaných a, paradoxne, aj vo veľmi nízkokvalifikovaných profesiách. Nahradiť robotom ľudí, ktorí zametajú ulice, nie je ziskové, a preto k tomu nedochádza. Rovnako ani ľudí, ktorí vytvárajú komplexné stratégie, alebo sú na vysokých manažérskych pozíciách – tí sa nemusia báť konkurencie zo strany súčasných robotov. Tie dokážu robiť na výbornej úrovni len jednu činnosť. Ak sa dostaneme do štádia, že vytvoríme inteligenciu, ktorá bude zosieťovaná a bude ťažiť z vedomia a skúseností mnohých podobných entít a inteligencií, v tej chvíli budú v ohrození aj vysoké manažérske pozície. Mimo ohrozenia zrejme ostanú nízkokvalifikované profesie, ktoré sa komerčne neoplatí nahradiť.

-A čo autonómne autá, s ktorými začínajú experimentovať automobilky, tie takisto ešte nie sú umelou, ale len rozšírenou inteligenciou?-
Áno. Na to, aby ste mohli viesť auto, musíte sa to naučiť. Podobne sa to musí naučiť aj robot, ktorý by to robil za vás. Na rozdiel od človeka by sa to mohol naučiť rýchlejšie, no tak ďaleko ešte nie sme.

-Ktoré krajiny sú priekopníkmi vo vývoji umelej inteligencie, ktoré sú najďalej?-
Jednoznačne, USA. V tesnom závese za nimi je Čína, ktorá do tejto sféry veľa investuje a plánuje jej strategický rozvoj. Potom sú krajiny, ktoré majú veľký výskumný potenciál pre vývoj umelej inteligencie, no nie je ich až tak vidno. Napríklad Japonsko, Veľká Británia, Nemecko či Izrael. USA sú však lídrom najmä preto, že dokážu pritiahnuť množstvo talentov z celého sveta a využívať ich schopnosti.

-To je dôvod, prečo EÚ zaostáva v tejto oblasti?-
EÚ dopláca na to, že prichádza o množstvo šikovných výskumníkov, a tiež na absenciu väčšej a dôslednejšej strategickej podpory vlád jednotlivých členských štátov. Na úspešný výskum potrebujete mať vytvorené podmienky a podhubie škôl, akademických organizácií, vývojových pracovísk a firiem. Žiadny úspech sa nezjaví len tak z ničoho nič. Potrebujete napríklad vysoký výkon počítačov, a ten stojí značné prostriedky. Dostatočná štátna podpora výskumu a vývoja je nevyhnutnosťou. Toto v Európe chýba. Pritom EÚ má kvalitné školy, ľudský potenciál i ďalšie zdroje. Verím, že časom dokáže prelomiť dominanciu USA a Číny, ktorá v oblasti umelej inteligencie nie je ideálnym scenárom.

-Vývoj umelej inteligencie však prináša nové otázky z oblasti filozofie či etiky o možnosti a potrebe jej regulácie. Ktoré z nich považujete za najnaliehavejšie?-
Etické diskusie, ktoré už vidíme, sú veľmi dôležité. Vidím v nich však dva problémy. Prvým je, že nie sú dostatočne komplexné a aplikovateľné na celom svete. Cítiť v nich západný spôsob nazerania na svet a to mi prekáža. Západné hodnoty nie sú v plnej miere kompatibilné s mnohými krajinami Ázie, Afriky i Latinskej Ameriky. Druhým dôvodom je nejednotné nazeranie na hodnoty a pravidlá, ktoré by nemali entity s umelou inteligenciou porušovať. Bez toho nedokážeme vytvoriť technológiu s umelou inteligenciou, ktorá by spĺňala určité základné etické minimum. Nie je totiž jednoduché definovať nejaké univerzálne platné pravidlá a hodnoty. Jednotlivé národy sa v tomto líšia.

-No dobre, ale isté základné rámce už sformuloval v roku 1942 spisovateľ Isaac Asimov. Tri zákony robotiky, ktoré hovoria, že robot nesmie ublížiť človeku, alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené. Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom. Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom. Tie sa nedajú vziať ako základ etických pravidiel?-
Asimov bol nepochybne výborný spisovateľ aj vizionár. Pravidlá, ktoré sformuloval, sú základom pre nejaký etický kódex, no len veľmi všeobecným. Robot nesmie ublížiť človeku, dobre, to je fajn, ale ako zabezpečíme, že autonómne autá nespôsobia dopravnú nehodu a nezabijú pri tomto nešťastí aj ľudí. Teoreticky taký princíp znie veľmi dobre, no v praxi ho nie je jednoduché uplatniť. Stroje nie sú neomylné. Programujú ich ľudia, ktorí sa môžu mýliť a potom robia chyby aj stroje a pri nich môžu ublížiť. Predsedám panelu, ktorý vyvíja štandard P7009 na zabránenie chybovosti a zlyhania autonómnych a poloautonómnych systémov a vidím, aká je to náročná úloha.

-Máme sa pri umelej inteligencií obávať scenára z filmov Terminátor alebo Ja, robot, kde ľudská inteligencia čelí hrozbe vyhladenia zo strany tej umelej?-
Určite nie. Dokážeme vytvoriť inteligenciu bez toho, aby mala nejaké vedomie, čo by som preferovala, a tam nemôže nastať scenár, že by sa nám veci vymkli spod kontroly.

-Čo môžeme očakávať v oblasti umelej inteligencie v najbližšom desaťročí?-
Oblasť umelo vytvorenej inteligencie sa stane čoraz viac súčasťou našich životov. Očakávam čoraz viac kreativity pri jej využívaní. Takisto si myslím, že v najbližšom desaťročí dospejeme k spomínanej sieťovej inteligencii. To by fungovala tak, že jedna entita dokáže hrať šach, druhá šoférovať auto a svoje poznatky si vedia vymeniť, čím sa naučia nové vedomosti aj z ďalšej oblasti. Toho sa určite dočkáme v najbližšej dekáde.

Rozhovor s Danit Galovou je súčasťou multimediálneho projektu Osobnosti: tváre, myšlienky, v rámci ktorého prináša TASR každý týždeň rozhovory, fotografie a videá osobností slovenského, európskeho i svetového politického, spoločenského, ekonomického, športového a kultúrneho života.

Join the Conversation