Umelá inteligencia nás môže ohroziť, tvrdí český odborník: Je ako drak, svet sa musí spojiť
Experti čoraz častejšie varujú, že existuje reálna šanca, že ľudstvo vyhubí umelá inteligencia, ak sa nespomalí jej vývoj. Český popularizátor AI, spisovateľ a podnikateľ Petr Ludwig potvrdzuje, že nejde len o reči alarmistov, ale o hrozbu, ktorú berú mimoriadne vážne aj zakladatelia tejto technológie a šéfovia najväčších technologických firiem.
„Nehovoria to len nejakí alarmisti, ale napríklad aj Geoffrey Hinton, ktorý dostal Nobelovu cenu za fyziku a je považovaný za jedného z otcov zakladateľov súčasnej umelej inteligencie. Ten hovorí dokonca o 10 až 20 percentách, a to patrí k tým optimistom,“ vysvetľuje Ludwig.
Podľa jeho slov existujú aj ľudia ako Eliezer Yudkowsky, ktorý tvrdí, že pravdepodobnosť vyhubenia ľudstva umelou inteligenciou je stopercentná, pretože ak sa dosiahne úroveň takzvanej superinteligencie, je takmer nereálne urobiť to bezpečne.
„Táto diskusia je nesmierne dôležitá a mali by sme počúvať expertov na AI, ktorí na tieto riziká upozorňujú už pomerne dlho. Dnes už aj šéfovia najvýznamnejších firiem, či už je to Dario Amodei zo spoločnosti Anthropic alebo Sam Altman z OpenAI, zhodne potvrdzujú, že je to realita a hrozby sú skutočné,“ dodáva.
Obrovským problémom sú podľa neho čínske takzvané open-weight modely, ktoré sú úplne neregulované. Ktokoľvek si tak môže stiahnuť najpokročilejší čínsky open-weight model, ktorý zaostáva za najlepšími americkými modelmi len o štyri až šesť mesiacov.
„Na vlastnej serverovej farme potom môže spustiť autonómnych agentov, ktorí už dnes dokážu napríklad hacknúť kritickú infraštruktúru. Tieto riziká sú teda aktuálne už dnes a to, že sme ich doteraz nevídali častejšie, je spôsobené len tým, že zlí aktéri zatiaľ nemajú prístup k najpokročilejším čipom. Samotné technológie tu však už existujú,“ upozorňuje.
