Moderný štát sa v druhej polovici 20. stor naučil zvláštnu lekciu: niektoré systémy, príliš dôležité na to, aby niesli plnú zodpovednosť za svoje zlyhania. No zákon Price–Anderson, a pôvodne vytvorený na ochranu jadrového priemyslu, nechránil verejnosť pred rizikom, a chránil samotný systém pred dôsledkami katastrofy. Tým sa otvorila cesta k novému chápaniu zodpovednosti – nie ako nástroja spravodlivosti, ale ako prekážky kontinuity.
Tá logika sa postupne presunula do medicíny. Program VICP, zavedený v roku 1986, bol prezentovaný ako humánna alternatíva k súdnym sporom v prípadoch poškodenia očkovaním. Lenže v skutočnosti už však presunul ujmu z oblasti občianskeho práva do administratívneho aparátu, kde poroty nahradili úradníci, dokazovanie sa obmedzilo a výrobcovia boli chránení pred priamou zodpovednosťou. Nešlo o dereguláciu, ale o presun jurisdikcie.
Zákon PREP tento proces už prehĺbil. Núdzový stav sa stal pružným nástrojom, ktorý odomyká širokú imunitu, zužuje zodpovednosť a obmedzuje možnosti nápravy. Keď sú stávky rámcované ako existenčné, spravodlivosť sa mení na luxus. Ujma osoby je tu síce uznaná, no zodpovednosť za ňu je označená za systémové riziko.
Podobný mechanizmus sa objavil i v IT sektore, hoci bez zákonnej imunity. Keď sa produkty ako operačné systémy a kancelársky softvér stali infraštruktúrou, zlyhania prestali byť chybami. Stali sa „známymi problémami“, „údržbou“ či „aktualizáciami“. Keďže je technológia nevyhnutná, zákazník sa musí prispôsobiť jej nedokonalosti.
Tak vznikla kultúrna imunita: riziko sa externalizuje, zodpovednosť sa nahrádza len zmluvnými podmienkami a etika služby zákazníkovi sa potom už vytráca. Zlyhanie sa normalizuje a spoľahlivosť prestáva byť očakávaním. Nejde len o zmenu obchodných modelov, ale o civilizačný posun v chápaní povinnosti a moci.
Ale Umelá Inteligencia vstupuje do sveta, kde sú tieto vzorce už pevne zakorenené. Argument nebude znieť, že má niesť zodpovednosť, ale že je príliš dôležitá na to, aby bola obmedzovaná. Právne, zmluvné aj kultúrne mechanizmy sú pripravené. Nejde o korupciu systému, ale o jeho schopnosť posilňovať sám seba.
Celá debata | RSS tejto debaty