SHARE: AI v simulácii vojny neváha odpáliť atómovky. Čo zistil pokus

Umelá inteligencia v geopolitických simuláciách neváha siahnuť po jadrových zbraniach. Chýba jej totiž strach aj prirodzená averzia voči deštrukcii. Kým vedci varujú pred rizikami, americká vláda sa dostala do otvoreného sporu s vývojármi modelu Claude a do hry povolala ochotnejšie OpenAI.

Svet umelej inteligencie zažil dramatické dva týždne. Experimenty ukázali, že popredné AI modely v úlohách štátnikov v 95 % prípadov zvolili použitie jadrových zbraní a v krízových situáciách prakticky nepoznali slovo deeskalácia. Tento „chladný kalkul“ bez emócií vyvoláva zásadné otázky o tom, komu by sme mali zveriť kompetencie v bezpečnostných otázkach štátu.

Zároveň sledujeme bezprecedentný konflikt medzi Pentagónom a spoločnosťou Anthropic. Po tom, čo firma odmietla požiadavku, aby bol ich model Claude využívaný armádou bez etických bariér, ocitla sa na čiernej listine. Uvoľnené miesto okamžite zaplnilo OpenAI. O tom, kto by mal určovať „červené čiary“ pre technológie, ktoré môžu zabíjať, a ako noví AI agenti menia spôsob, akým pracujeme s počítačom, sa v novej časti podcastu PočúvAI rozprávajú Ján Trangel a Maroš Žofčin.

Pripravte sa na budúcnosť s knihou od redaktorov Živé.sk „Umelá inteligencia: Pripravte sa na budúcnosť“. Teraz ju máme aj v elektronickej verzii. Nájdete ju na obchod.aktuality.sk.

TIP: https://zive.aktuality.sk/clanok/0RfdZVW/nahliadnite-do-buducnosti-vydavame-knihu-o-umelej-inteligencii/

V podcaste hovoríme aj o týchto témach:

1. Jadrový experiment: Prečo modely ako ChatGPT či Gemini v simuláciách konflikty neustále stupňujú až k totálnej vojne.
2. Vláda vs. Anthropic: Prečo Pentagón zaradil tvorcov modelu Claude medzi rizikových dodávateľov.
3. OpenAI v armáde: Akceptovanie vládnych požiadaviek a obavy z nasadzovania AI do autonómnych zbraní.
4. Nastupujúci agenti: Ako funguje OpenClaw, ktorý ovláda váš lokálny stroj, a v čom je Perplexity Computer bezpečnejšou alternatívou v cloude.
5. Linux pre každého: Môže AI konečne sprístupniť zložité operačné systémy bežným používateľom?
6. Krátke správy: Nový model GPT-5.4, nešťastný incident agenta Claude Code, ktorý vymazal 2,5 roka dát, a masívne prepúšťanie v spoločnosti Oracle.

Podcast SHARE pripravuje magazín Živé.sk.