Veliko ljudi na tem planetu je izredno skeptičnih glede uporabe avtonomno delujočih vozil v javnem prometu, čeprav naj bi takšna vozila v bodočnosti občutno znižala število smrtnih žrtev na naših cestah. Ta ljudski odpor je v resnici precej manj iracionalen (nerazumen) kot ga opisujejo zagovorniki avtonomno delujočih vozil …
Tako meni Thomas Hillenbrand, leta 1972 rojeni nemški novinar in pisatelj, ki piše predvsem za znane nemške medije kot so: Handelsblatt, Spiegel Online, Financial Times Deutschland, Business Punk in Wired Deutschland, znan pa je tudi kot avtor številnih nemških knjig na temo znanstvene fantastike. V teh dneh so pri enem izmed znanih nemških medijev objavili prispevek, kjer odgovarja in komentira aktualno dogajanje na področju avtonomno delujočih vozil. Hillenbrand pravi, da se sodobni ljudje bojimo številnih stvari. Nedavno izvedena raziskava, ki so jo pred odmevno nesrečo Uberjevega avtonomno delujočega vozila (v nesrečo je bilo vpleteno 'najvarnejše vozilo na svetu' v obliki 'SUV lokomotive' znamke Volvo …) v Arizoni izvedli strokovnjaki nemškega inštituta TNS Emnid je pokazala, da je med populacijo vprašanih Nemcev in Nemk 58 odstotkov takšnih, ki se bojijo zastrupitve s hrano. 56 odstotkov vprašanih, ki so sodelovali v tej raziskavi, se najbolj boji naravnih katastrof, kar 84 odstotkov vprašanih pa 'drgeta' ob ideji glede vožnje z avtonomno delujočim vozilom.
Od kje izvira množična zavrnitev avtonomno delujočih vozil? To je povezano z našim spreminjajočim se razumevanjem in odnosom do tehnologije. V preteklosti je bil stroj samo kos uporabnega železa, ki je na začetku industrijske dobe samo sikal in ropotal, se pogosto pokvaril in občasno tudi eksplodiral. Danes so stroji tihi, veliko bolj čisti in skoraj brez težav. Če pa je s temi stroji kaj narobe ob vsakodnevni uporabi, ljudje ob tem po navadi 'skočimo do stropa'. To lahko dokažemo s psihološkimi eksperimenti. Raziskovalci ob tem navajajo pojav, ki je znan kot "zavračanje algoritma", ker ljudje (napačno) domnevajo, da so stroji popolni. Takoj ko njihova nepravilnost postane očitna, kot sedaj v primeru Uberjevega avtonomno delujočega avtomobila, ljudje (lažno) domnevajo, da lahko oni delajo bolje od strojev. Napake strojev so neizprosno kritizirane, vendar pa so lastne napake ljudi nemudoma racionalizirane in odpuščene: »Tudi jaz sem imel nesrečo. Toda zdaj vem, kaj sem takrat naredil narobe.«
Poleg tega psihološkega bloka pa morda obstaja še en razlog, zakaj ljudje večinoma nasprotujemo uvedbi avtonomnih avtomobilov. Gre za nekakšno kulturno nelagodje, ki ga mnogi od nas instinktivno čutijo, vendar ga ne moremo imenovati. Ideja v ozadju tega zavedanja je, da z uvedbo avtonomno delujočega avtomobila prečkamo rdečo črto v odnosu med človekom in strojem. Že nekaj časa se premikamo proti tej liniji. Toda šele sedaj, ob smrti 49-letne kolesarke v ZDA, ki ob srečanju pri 60 km/h s švedsko 'SUV kravo' ni imela nobenih možnosti (morda bi preživela, če bi jo 'nasadil' normalen osebni avtomobil z občutno nižjo masko hladilnika in posledično nižje nameščenim pokrovom motorja …) za preživetje, se nekoliko bolj zavedamo, kaj to pomeni. Ljudje že več let nadzorujemo stroje. Umetna inteligenca izračunava naše bonitetne ocene, v koledarju vnaša naše rezervacije letov, ve, kje smo parkirali. Vse to pa je samo uvod v 'veliki finale'. Trenutno gre za majhne stvari, majhna vprašanja in majhne odločitve. Sedaj, ko se ob pomoči umetne inteligence že ubadamo s pomembnejšimi vprašanji, pa to v nas podzavestno vnaša nemir. Že pred 40 leti nas je pisatelj Joseph Weizenbaum o tem trenutku opozoril v svoji knjigi z naslovom "Moč računalnikov in impotenca razumnosti". Ni važno, kako pameten je stroj, eden izmed človeških pionirjev umetne inteligenca ob tem pravi, da se stroj lahko vedno samo odloči, medtem ko ima človek vedno možnost izbire.
Weizenbaum pravi, da se algoritme v računalnikih lahko resnično programira tako, da zagotavljajo pomembne reakcije za veliko scenarijev. Toda računalnik nikoli ne more sprejemati moralnih odločitev. In zato, po apelu Weizenbauma, nikoli ne smemo pustiti strojem, da bi resnično sami lahko sprejemali pomembne odločitve. Žal smo sedaj že na dobri poti, da bomo popolnoma ignorirali Weizenbaumov nasvet, ker računalnikom že predajamo nadzor nad nekaterimi zelo pomembnimi odločitvami. Celo takrat, ko bo umetna inteligenca res v stanju, da vozi avtomobile bolje kot ljudje, se bo umetna inteligenca občasno znašla v situaciji, ki se v filozofski etiki omenja kot 'tramvajski problem'. Miselni filozofski eksperiment poteka takole: Mestni tramvaj brez voznika, ki gori, drvi proti množici, ki se nahaja na enem izmed tirov. Obstaja pa stikalo, tako da lahko tramvaj preusmerite na drugi tir, na katerem stoji samo ena oseba. V katero smer boste sprogramirali krmilo tramvaja? Boste raje obrnili glavo vstran in pustili toku dogodkov, da poteka 'samodejno'? Kako prenesete to filozofsko misel o tramvaju v nova serijska vozila znamk kot so Audi, BMW, Mercedes-Benz in Volvo, kjer vas že snubijo s serijskimi modeli, ki so trenutno samo delno pripravljeni ('polavtomatiki') za samodejno vožnjo? Bo avtonomno delujoče vozilo omenjenih avtomobilskih znamk v podobnem scenariju raje povozilo babico na vozičku ali otroka s skirojem? Nemogoče je programirati vse možne scenarije, ki se vam lahko zgodijo ob vožnji z avtomobilom. V mnogih primerih se bo računalnik moral sam in zelo hitro odločiti, in to na podlagi podatkov senzorjev in statističnih vrednosti, ki temeljijo na izkušnjah s strojnim učenjem (machine learning).
Seveda velja ob tem poudariti tudi to, da nikjer ni zapisano, da bi se človeški vozniki v določenih situacijah lahko obnesli bolje od umetne inteligence. Weizenbaum poudarja predvsem to, da smo računalnikom s tem, ko se bližamo avtonomni bodočnosti na področju transporta, prepustili odločanje o življenju in smrti. Te serijske 'licence za ubijanje', ki smo jo že podelili avtonomno delujočim avtomobilom, ne dobijo niti ameriška brezpilotna letala (dron), ker je v ozadju še vedno vojak, ki mora v slučaju, ko je to potrebno, odobriti 'kill decision'. Ob tem pa ne pozabite naslednjega vala avtonomno delujočih vozil, ki bo vključeval tudi kmetijsko in gradbeno mehanizacijo, posledično bo možnost, da se znajdete na merku kakšnega avtonomno delujočega vozila še toliko večja. Ključno vprašanje ob tem pa je, če smo s tem, ko smo avtonomno delujočim avtomobilom že podelili 'licenco za ubijanje', že izgubili tudi kontrolo nad našimi življenji …
Na to, da bomo kmalu živeli v popolnoma drugačnem svetu, nas opominja mrtva 49-letna kolesarka iz ZDA, ki jo je ubilo vozilo, ki je po mnenju neresnih novinarjev neverjetno varno, vendar ob tem pozabijo omeniti, da je varno samo za tiste, ki so v trenutku nesreče v takšnem štirikolesnem 'bunkerju', za vse ostale udeležence v javnem prometu so ogromne 'SUV krave' smrtno nevarne, razen seveda za tovornjake.
