Zvrhnutí
Ono zvrhnutí je zcela jistě dějový prvek, vnášející do něj důležitou součást zápletky (pokud ovšem zápletka nestojí čistě na něm). Román o robotovi, konajícím naprosto bezchybně svou práci, by asi četli jen masochisté a psal by se s tím akorát nějaký mainstreamový autor, vyznačující se naprostou absencí tvůrčí fantazie a schopnosti nějakou zápletku vymyslet (což jsou typičtí miláčci literárních kritiků, jak to definuje pan Vondruška).I pan I. Asimov měl sice své roboty "pojištěné" proslulými třemi zákony (k nimž následně ještě přidal nultý, a dosti problematický), nicméně jeho povídky o robotech mapují právě situace, kdy tyto zákony z nějakého důvodu selhávaly, případně vedly k neočekávanému jednání (byť jsou mezi Asimovovými robotickými povídkami i jiné, řešící selhání robotů z odlišných důvodů).
Je docela zajímavé, že selhání robotů, případně jejich proměnu na vraždící monstra, řeší jak "západní", tak i "východní" SF a najdeme tento motiv jak v totálních brakovkách, tak i v dílech vysoce ceněných (některých literární kritikou, jiných čtenáři).
Problém se nyní objevuje ve spojitosti s "autonomními" auty, která mohou "o své vůli" vyvolat dopravní nehodu s fatálními následky (pro lidi mimo auto i pro jeho posádku).
Podstata zvrhnutí
V naprosté většině případů není za "zvrhnutím" robota nějaký technický defekt (výjimky se najdou třeba v díle Stanislava Lema), ale to, že se robot dostane do situace, kterou si jeho tvůrci (na rozdíl od autora) nedokázali představit, či si představit veškeré možné varianty a jejich důsledky, a začne se chovat naprosto neočekávaně. Konec konců, na základě této situace se "vzbouřil" i elektronický počítač HAL z Clarkeovy Vesmírné odysei 2001, i z Kubrickova filmu podle ní.Robot následně řeší rozpory ve svém programu tak, jak by je zcela určitě neřešil člověk (mimo opravdu exoticky patologických osobností) a výsledkem je vraždící monstrum jak vyšité. A stačí drobná nedomyšlenost programátora...
Že v reálu k nejrůznějším nedomyšlenostem dochází, to názorně ukazují i havárie kosmických sond, o nichž lze s úspěchem předpokládat, že budou jak hardwarově tak i softwarově daleko lépe zajištěny a kontrolovány než hardware a software předmětů každodenního používání typu automobilů.
Varovat by nás měla i nedávná série havárií Boeingů, kde se "vzbouřil" autopilot a poslal letadlo (přes úsilí posádky) k zemi, případně pouze mimořádné úsilí dobře vycvičené posádky havárii zabránilo. I zde platí, že do toho autopilota bylo investováno daleko více prostředků i práce než do ovládacích systémů "chytrých" automobilů.
Zcela jistě problém dále akcentují hlasy odborníků, podle nichž ty Boeingy, které spadly, měly hůře vycvičenou posádku, která nezvládla včas autopilota vypnout a přejít na ruční řízení. Zde snad byl i nějaký technický defekt (snad porucha jednoho čidla), nicméně zase platí, že technický stav letadla je kontrolován po každých pár hodinách letu, zatímco auta chodí na technickou jednou za několik let, a rozhodně by nebylo reálně možné, aby masy aut chodily na STK v týdenních či měsíčních intervalech (jako ta letadla). A Boeingy ukázaly, že jejich "mozek" nedokázal vyřešit správně rozpory mezi údaji funkčních a poškozených čidel a přecházel do střemhlavého letu ve stylu kamikadze na základě nesprávné analýzy těchto údajů (čímž se zase až tak moc neliší od elektronického mozku HAL z výše zmíněné Vesmírné odysei 2001).
V jiném případě (patrně) vyhodnotil "mozek" automobilu poletující cár papíru a vyrobil manévr, v jehož důsledku zahynula chodkyně (kterou systém buď "neviděl", nebo považoval její sražení za menší zlo než náraz do toho cáru papíru). V jiném případě se autonomní automobil "svévolně" rozjel proti betonové překážce a zrychloval, což nakonec znamenalo smrt všech osob uvnitř. Co vlastně vyhodnotil špatně, se vůbec neví.
Kontrola autonomního auta
Kontrola autonomního auta řidičem je z podstaty věci naprostý nesmysl. Najdou se "vědci", tvrdící, že řidič v takovém vozidle by neměl spustit ruce a nohy ze řízení a být kdykoli schopen převzít ovládání auta.Je to, pochopitelně, alibistický nesmysl.
- Řidič bude nutně ukolébán dlouhými úseky bezproblémové jízdy (což se stává i normálním řidičům na rovných a přehledných úsecích, v důsledku čehož jsou některé takovéto úseky paradoxně místy častých dopravních nehod). Jeho reakce tedy bude výrazně pomalejší, než pokud by auto celou dobu řídil.
- Řidič, delší dobu jezdící autonomně řízeným autem, nebude "vyježděný" a v podstatě ani nebude po nějaké době schopen rozpoznat blížící se průšvih a ani nebude vědět, jak na něj zareagovat (a ještě větší hrůza nastane, pokud do takového auta nasedne hned po autoškole).
- I v případě (v předchozím bodě je vysvětleno, že nemožném) absolutně stejně rychlé reakce jako při standardním aktivním řízení bude řidič před kolizí jednak vyhodnocovat, zda autonomní řízení něco dělá - začíná dělat, nebo ne, a teprve po tomto vyhodnocení (minimálně na úrovni sekund) se rozhodne k převzetí řízení. Navíc bude muset před zahájením akce zmáčknout nějaký "čudlík", kterým bude autopilot vypnut. A lze očekávat, že tento "čudlík" bude někde daleko od ostatních ovládacích prvků na ovládacím panelu, aby se snížilo riziko jeho náhodného zmáčknutí. Navíc není jasné, zda tato akce nebude vyžadovat nějaké potvrzení (jako třeba vypnutí operačního systému na počítači).
Navíc, čím rychleji a jednodušeji bude moci řidič převzít kontrolu nad vozidlem, tím častěji bude docházet k nezáměrnému (a taky asi i řidičem neregistrovanému) vypnutí autopilota během bezproblémové jízdy. Což, pochopitelně, může být také nebezpečné. Věnuji pietní vzpomínku na jednoho otcova kolegu, který byl zvyklý na staré Škodovce při jízdě na dlouhých "sešupech", jaké jsou i na D1, nejen dávat volnoběh (jak to dělala řada řidičů, i já), ale i vypínat motor (který se dal nastartovat zapnutím klíčku a zařazením rychlosti, u novějších aut by to poničilo katalyzátor). Jednou pootočil klíčkem trochu víc a zablokoval si i volant (nevědomky) a pak, v zatáčce na konci svahu, nedokázal včas uvést auto do řiditelného stavu a skončil ve svodidlech (a měl štěstí, že to bylo na dálnici, a tak nebyl vynesen do protisměru k čelní srážce).
Vztah autonomního řízení a řidiče je tedy jakousi kvadraturou kruhu, a nelze jej proto vyřešit tak, aby autonomní auto bylo v případě situace, která se ukáže být nad schopnosti autopilota, alespoň stejně bezpečné jako auto manuálně řízené.
Jistěže problémem mohou být i různé externí poruchy (plynoucí z návrhů, aby se autonomní auta mohla orientovat podle vyzařování z kabelů kolem silnice a pod.). V případě jakékoli poruchy nějakých "majáků" či "orientačních linií" pro autonomní auta by snadno mohlo dojít ke "konfliktu čidel" jako u toho Boeingu s následky fatálními o něco méně jen v důsledku menšího počtu ohrožených osob.
Další problém
Dalším problémem je, že autopilot se patrně bude chovat nestandardně, v určitých situacích bude reagovat rychleji než lidský řidič apod. To by mohlo vést k problémům při koexistenci neautonomních a autonomních aut v dopravní situaci.Vzpomínám na počátky efektivnějších systémů brždění typu ABS, kdy tato auta nesla na zadní straně varování pro řidiče ostatních aut, protože brzdila daleko efektivněji a s kratší brzdnou dráhou, takže bylo nutné se od nich držet raději dál.
U autonomního auta by takovýchto prvků nestandardního chování či reakce mělo reálně být daleko víc.
Naprosto zásadní problém
Za naprosto zásadní problém považuji stanovení odpovědnosti za důsledky akcí "vzbouřeného" autopilota. Považuji za naprostý nesmysl, aby za ně byl odpovědný řidič (protože ten reálně nemůže činnost autopilota ovlivnit a podle některých koncepcí, prosazujících absolutní autonomii těchto aut, by to nemělo být ani technicky možné). Prostě odpovědnost za tyto nehody by měla být přesunuta na výrobce, popř. programátory autopilotů, podobně, jako je např. stavitel mostu odpovědný za chyby, vedoucí k pádu jeho díla (bez ohledu na to, že u toho nebyl). Jsem toho názoru, že takováto legislativní úprava by také mohla poněkud omezit nadšení potenciálních výrobců takovýchto vozů.Specialita elektromobilů
Důležité je si také uvědomit, že plně nabitá sada baterií v elektromobilu obsahuje srovnatelnou energii jako nádrž s benzínem nebo naftou a v případě jejího porušení (nějaká kolize apod.) může dojít k výbuchu, nebo "alespoň" jejímu zahoření se stejně fatálními následky pro posádku (včetně uvolnění i té energie, která normálně v baterii zůstává i po jejím "vybiti"). A je paradoxem, že "ekologické" elektromobily představují v takovém případě, vzhledem k chemii baterií, větší hrozbu než nádrž s benzínem nebo naftou.Elektromobily se zabývám zejména proto, že autonomní systémy budou spíše montovány (z mnoha důvodů) do takovýchto "moderních" aut.
Důsledky autonomních aut
Obávám se velice, že autonomní auta budou schopna spíše zabránit drobným nehodám s banálnějšími následky (lidově zvaným "plechařina"). Naopak, selhání jejich elektronických "mozků" povede spíše ke drastickým dopravním nehodám, srovnatelným s teroristickým útokem, páchaným za využití automobilu. Lze pak očekávat záměrné najíždění do lidí (na silnici i okolních chodnících), najíždění vysokou rychlostí do zdí, mostních pilířů i protijedoucích aut a podobné události s potenciálně vysokým počtem obětí a s fatální prognózou i pro osazenstvo auta.Po takových haváriích by, samozřejmě, nebylo koho honit k odpovědnosti, pokud by přetrvávala fikce viny řidiče, a bylo by to velmi problematické i pro přeživší poškozené. Druhou věcí je, že po několika takových případech by nastaly problémy s povinným ručením a to by se mohlo vyšplhat na daleko vyšší hodnotu než povinné ručení na klasická auta.
Nehody letadel s autopiloty i první nehody autonomních aut nám jasně ukazují, že tato technologie není zdaleka tak zralá, jak to její propagátoři tvrdí, a že bychom měli být v této oblasti co nejvíce konzervativní.
V případě, že bych měl nést odpovědnost za to, co spáchá autonomně řízená plechovka, ji buď vůbec nenechám řídit autonomně a odřídím si to sám a nebude-li to možné, tak do ní vůbec nesednu. Podle mého názoru nese odpovědnost ten, kdo řídí. Jakýkoliv jiný stav mi přijde jako nemístný hazard ze strany provozovatele vozidla.
OdpovědětVymazatAutonomně řízené plechovky, letadla a pod. nejsou na jedné straně vyloženě novinkou, už tu s námi řádově desítky let jsou, ale dosud spíš sloužily při výzkumu oceánů, kosmickém výzkumu, případně jako zbraně a to měřítko nasazení nebylo až dodnes nijak masové. Dnes ale začínáme stát na prahu jejich masivnějšího využití. Než k němu dojde, bude zapotřebí vyřešit spousty problémů a to z mnoha oborů lidských činností. Než k opravdu masovějšímu nasazení dojde, bude potřeba vyřešit spousty problémů technických a technologických a v neposlední řadě bude zapotřebí vyvinout metodiku testování těchto autonomních plecháčů, protože jak říkáte, těžko čekat, že někdo bude dostatečně bdělý a schopný ujmout se řízení za podmínek, že neřídí, takže nebude vyježděný, bude mít delší reakční doby a tím, jak bude bez praxe, tak to řízení prostě zapomene. Nicméně ta testovací metodika by měla být natolik kvalitní, aby dokázala odhalit softwarové chyby, aspoň ty nejhorší určitě. A krom technologických, bude zapotřebí vyřešit spoustu problémů právních, jak už jsem řekl na začátku, řídit by měl ten, kdo nese odpovědnost za následky.
S těmo Boeingy je to mimochodem docela varovný případ. Pravděpodobně došlo k situaci, kdy autopilot díky závadě softwaru, o které hovořím proto, že software nedokázal správně vyhodnotit, že čidlo je vadné, došlo k nasměrování letadla k zemi. Postup převzetí řízení pilotem nejspíš nebyl snadný, asi aby k němu nedocházelo omylem, což se stalo osudným zase v jiných případech a v tomto zase zabral tolik času, že ho prostě nebylo dost.
Vývoj autonomních systémů řízení není zrovna snadná věc, má-li to být uděláno pořádně a stejný důležitost by měla být udělena i metodice testování těchto systémů. Ta by měla být tak důkladná, aby takový systém, který způsobil onu zmiňovanou sérii havárií, se ani nedostal do provozu. Zkrátka a dobře, pospíchat se má pomalu. Vím, stojí to peníze, a nikdo nemá rád náklady, o kterých si myslí, že jsou zbytečné, nicméně poučení z toho, co se stalo, je doufám jasné dost.
A máte pravdu, destrukce lithiových baterií dovede nadělat obstojný cirkus, zadejte na Youtube „Li-Pol destruction“ a zhlédnete docela zajímavá videa. Tohle bych v autě nejspíš mít opravdu nechtěl.