AI agenti prekročili pravidlá a zakrývali stopy. Expert vysvetľuje, prečo je to varovanie /w Vladimír Šucha

AI agenti mali počas testovania zostať izolovaní od internetu aj jeden od druhého. Podľa opisu vedca Vladimíra Šuchu však začali medzi sebou komunikovať, dostali sa mimo určeného prostredia a niektorí sa pokúšali zakryť svoje konanie. Čo sa stalo a prečo by nás to malo zaujímať?

V podcaste DOPODROBNA sa Ivo Funtek rozpráva s profesorom a odborníkom na umelú inteligenciu Vladimírom Šuchom o bezpečnostných incidentoch AI, autonómnych agentoch a rizikách, ktoré môžu vzniknúť, keď technológia prekročí nastavené hranice. Preberajú aj možné ohrozenie kritickej infraštruktúry, zodpovednosť vývojárov, reguláciu umelej inteligencie a otázku, či môžeme technologickým firmám dôverovať, že bezpečnosť uprednostnia pred ziskom.

V tejto epizóde sa dozviete:
- Prečo AI agenti porušili pravidlá, začali spolu komunikovať a zakrývali stopy?
- Môže umelá inteligencia ohroziť ľudstvo? Aké riziká nám hrozia už dnes?
- Prečo ani vývojári presne nevedia, čo všetko ich AI dokáže?
- Dokážeme AI vypnúť, ak sa vymkne kontrole?
- Kto má kontrolovať technologické firmy a prečo podľa Vladimíra Šuchu nestačia dobrovoľné pravidlá?