Isesõitvate sõidukite otsustusprotsessid liiklus- ja ohuolukordades ning sellega seotud eetilised aspektid.: Difference between revisions

From ICO wiki
Jump to navigationJump to search
Andpos (talk | contribs)
Andpos (talk | contribs)
Line 63: Line 63:
...<br>
...<br>
<br>
<br>
'''Häkkimisoht ja muu pahatahtlik tegevus'''<br>
'''Häkkimisoht'''<br>
Isejuhtivate sõidukite tõhusamaks toimimiseks on hea neid võrku ühendada, et hankida näiteks reaalaja liiklusinfot või teha kriitilisi uuendusi tarkvarale. Kuid võrku ühendatud sõidukid või seadmed võivad kergesti langeda küberkurjategevuse sihtmärgiks, kui turvameetmetes esineb puudujääke.<br>
Isejuhtivate sõidukite tõhusamaks toimimiseks on hea neid võrku ühendada, et hankida näiteks reaalaja liiklusinfot või teha kriitilisi uuendusi tarkvarale. Kuid võrku ühendatud sõidukid või seadmed võivad kergesti langeda küberkurjategevuse sihtmärgiks, kui turvameetmetes esineb puudujääke.<br>
2015. aastal turvateadurid Charlie Miller ja Chris Valasek demonstreerisid Black Hat turvakonverentsil Las Vegases kuidas nad omandasid kaugkontrolli 2014. aasta Jeep Cherokee üle <ref>IOActive, [https://ioactive.com/pdfs/IOActive_Remote_Car_Hacking.pdf "Remote Exploitation of an Unaltered Passenger Vehicle"], 2015</ref>, olles võimelised saatma sõiduki kontrollvõrgustikule (CAN) oma kontrollsõnumeid. Teiste sõnadega said nad diivanil istudes arvuti klahvivajutuste abil pöörata sõitva masina rooli, seda pidurdada, lülitada raadio helitugevus maksimumile ning keelata juhtpaneeli nuppude toime jne. Turvaaugu avastuse tulemusena kutsus Fiat Chrysler Automobiles tehasesse tagasi ligikaudu 1.4 miljonit sõidukit. Ka USA sideoperaator Sprint blokeeris võrgusuhtluse selle pordi kaudu, mille vahendusel see kaugkontroll võimalikuks osutus. Antud sõiduk ei olnud küll isesõitev, kuid juhtum tõestab, et igasugune uus tehnoloogiline lahendus tuleb uute avastamata turvaaukudega.<br>  
2015. aastal turvateadurid Charlie Miller ja Chris Valasek demonstreerisid Black Hat turvakonverentsil Las Vegases kuidas nad omandasid kaugkontrolli 2014. aasta Jeep Cherokee üle <ref>IOActive, [https://ioactive.com/pdfs/IOActive_Remote_Car_Hacking.pdf "Remote Exploitation of an Unaltered Passenger Vehicle"], 2015</ref>, olles võimelised saatma sõiduki kontrollvõrgustikule (CAN) oma kontrollsõnumeid. Teiste sõnadega said nad diivanil istudes arvuti klahvivajutuste abil pöörata sõitva masina rooli, seda pidurdada, lülitada raadio helitugevus maksimumile ning keelata juhtpaneeli nuppude toime jne. Turvaaugu avastuse tulemusena kutsus Fiat Chrysler Automobiles tehasesse tagasi ligikaudu 1.4 miljonit sõidukit. Ka USA sideoperaator Sprint blokeeris võrgusuhtluse selle pordi kaudu, mille vahendusel see kaugkontroll võimalikuks osutus. Antud sõiduk ei olnud küll isesõitev, kuid juhtum tõestab, et igasugune uus tehnoloogiline lahendus tuleb uute avastamata turvaaukudega.<br>  
Georgia Tehnoloogiainstituudi teadlane Skanda Vivek viis läbi uurimuse, mille tulemusena leidis, et 10% kompromiteeritud sõidukeid tipptunnil Manhattanil võib halvimal juhul tähendada kogu linnaosa liikluse seismajäämist, millega koheselt saab kannatada hädaabiteenuste kättesaadavus. Kuna mõnede autotootjate autod just moodustavadki ligikaudu 10% linna liiklusest, siis neil tootjatel on just suurem vastutus kanda erinevate võrkude ja süsteemide rakendamisel, et turvaaugu leidmisel oleks mõjutatud vaid osa tervikust.<ref>ScienceDaily, [https://www.sciencedaily.com/releases/2019/03/190304121519.htm "The first look at how hacked self-driving cars would affect New York City traffic"], March 4, 2019</ref><br>
Georgia Tehnoloogiainstituudi teadlane Skanda Vivek viis läbi uurimuse, mille tulemusena leidis, et 10% kompromiteeritud sõidukeid tipptunnil Manhattanil võib halvimal juhul tähendada kogu linnaosa liikluse seismajäämist, millega koheselt saab kannatada hädaabiteenuste kättesaadavus. Kuna mõnede autotootjate autod just moodustavadki ligikaudu 10% linna liiklusest, siis neil tootjatel on just suurem vastutus kanda erinevate võrkude ja süsteemide rakendamisel, et turvaaugu ilmnemisel oleks mõjutatud vaid osa tervikust.<ref>ScienceDaily, [https://www.sciencedaily.com/releases/2019/03/190304121519.htm "The first look at how hacked self-driving cars would affect New York City traffic"], March 4, 2019</ref><br>
<br>
<br>
'''Võimalikud terviseriskid elektromagnetkiirgusest'''<br>
'''Võimalikud terviseriskid elektromagnetkiirgusest'''<br>

Revision as of 18:03, 25 April 2020

LEHT ON VALMIMISEL

Sissejuhatus

  täitja: Lennart


Tehnoloogia: Isesõitvate sõidukite autonoomsuse tasemed

  täitja: Lennart


Tehnoloogia: Isesõitvate sõidukite tehnoloogia areng

  täitja: Andre


Isesõitvate sõidukite sotsiaal-majanduslikud aspektid

Liiklusohutus

  täitja: Andre

Keskkonnasäästlikkus

  täitja: Tanel

Majandus- ja Kommunikatsiooniministeeriumi liiklusohutusprogramm aastateks 2016-2025 paneb rõhku ka keskkonnasäästlikkusele.
Liiklusohutuse eesmärkide saavutamiseks keskendutakse kolmele peamisele liiklusohutust mõjutavale valdkonnale. Valdkond „Vastutustundlik ja ohte tajuv liikleja“ keskendub kõigi liikluses osalejate ohutust väärtustavate hoiakute ja alalhoidliku liikluskäitumise kujundamisele. Valdkond „Ohutu keskkond“ hõlmab ohutumat ja tõhusamat liikuvust, mis on sotsiaalselt vastuvõetav ja keskkonnasäästlik ning erinevate aastaaegade liikluseripärasid arvestav. Valdkond „Ohutu sõiduk“ näeb ette ohutumate sõidukite kasutamise liikluses.
Liikluskorraldus peab kujunema lihtsaks ja arusaadavaks, sobituma keskkonda, vähendama liiklusstressi ning aitama vältida liiklemisel vigu. Meetmega tõhustatakse liikluskorralduse projekteerimist, teostamist ning järelevalvet. Töötatakse välja lahendused, mis tagavad vajadustele vastava selge ja üheselt mõistetava liikluskorralduse, sh ka ehitusobjektil. Liiklemise sujuvamaks, ohutumaks ning keskkonnasäästlikumaks muutmiseks hakatakse liikluskorralduses enam rakendama intelligentsete transpordisüsteemide (edaspidi ITS) võimalusi.
ITS-i arendused aitavad liikluses orienteeruda, liigelda sujuvamalt, soodsamalt, säästlikumalt ning vahetades andmeid ja teavet sõidukite või sõidukite ja taristu vahel. See võimaldab muuta tervikliku liiklussüsteemi sujuvamaks, arusaadavamaks, säästlikumaks ja ohutumaks. Liiklemise sujuvamaks, ohutumaks ning keskkonnasäästlikumaks muutmiseks hakatakse liikluskorralduses rakendama ITS-i võimalusi. Võetakse kasutusele üleeuroopaline sõidukist automaatselt hädaabiteate edastamise süsteem eCall. Suure liiklussagedusega maanteel ning linnatänaval arendatakse dünaamilist liikluskorraldust. See hõlmab liikleja reaalajas teavitamist ja hoiatamist liiklus-, tee- ja ilmastikuoludest ning eelnevast sõltuva kiirusrežiimi kehtestamist. Vajadusel ka liikluse ümbersuunamist. Lisaks vahetult taristule paigaldatavale juhitavale liikluskorraldusvahendile täiendatakse liikluspiirangutest ja liiklustakistustest teavitamise tehnilisi lahendusi. ITS-i lahenduste kaudu soodustatakse ühistranspordi kasutamist. Hinnatakse ITS-i rakendustest tulenevaid riske ja vajadusel kavandatakse leevendusabinõud. [1]
Sõidukite automatiseerimine ja nende omavahel suhtlemine võimaldab säästa keskkonda, säästes kütust ja optimeerides sõiduki liikumist. Isesõitvad sõidukid on võimelised kiirendama ja pidurdama efektiivsemalt, seeläbi vähendades energia raiskamist, mis tekib mittevajalikust kiiruse muutmisest. Siiski, kuna arvatakse, et mugavam liikumine isesõitvate sõidukitega paneb inimesi rohkem sõitma, siis see võib suurenenud sõitude hulga tõttu üles kaaluda automatiseerimisest tuleneva keskkonnasäästu. Veelgi enam, kui isesõitvate sõidukitega sõites saavad inimeses tegeleda millegi muuda, näiteks õppida, töötada või mängida, siis nad võivad soovida elada töökohast kaugemal. [2]

Kuna on tõenäoline, et isesõitvate sõidukite kasutamisel langeks ka liiklusõnnetuste arv märkimisväärselt, siis annaks keskkonnasäästu ja energia säästu ka ohutusvarustuse tootmise ja avarii testide vähendamine. Lisaks isesõitvatele sõidukitele saaks kombineerida ka liiklusmärkide muutumist vastavalt liiklusolukorrale, et vähendada foori taga seismist või eelistada suuremat hulka kõrvalteel liikuvaid sõidukeid mõne üksiku peateel liikuva ees. Paljud isesõitvad sõidukid on tehtud elektri jõul liikuvad ja see ei tähenda, et need automaalselt vähendaksid energia kasutamist, kuid kindlasti vähendavad heitgaase ja õhusaastet. [3]

Mobility as a Service (MaaS)

  täitja: Tanel

Mobiilsus Teenusena/ Mobility-as-a-Service (MaaS) kirjeldab transpordi teenust, kus inimesel ei pea olema isiklikku sõiduvahendit vaid see teenus hõlmab nii avalikke kui ka erasektori transporditeenuseid. Reisi planeerimisel saab kasutaja valida odavuse, kiiruse või mugavuse järgi endale sobiva transpordiviisi.[4]

Läbimurre isesõitvate autode alal on vaid algus: See viis, kuidas me liigume punktist A punkti B on tervenisti muutumas, luues uue personaalse liikumise ökosüsteemi. Kui Netflix-i ärimudelit rakendada linnatranspordile, kuidas see võiks muuta linnaelanike liikumisviisi? See küsimus on ambitsioonika initsiatiivi keskmes, mis leiab aset Soome pealinnas Helsingis, mis on seadnud aasta 2025 sihiks teha ebavajalikuks igal elanikul oma isikliku auto pidamine. Alates aastast 2016, on Helsingi inimesed saanud kasutada rakendust nimega Whim, millega saab kasutada ja planeerida kogu linnasisest transporti - ronge, taksosid, busse, autojagamist või jalgratta jagamist ja selle eest samas rakenduses maksta. Rakenduse kasutajad saavad sisestada sihtkoha ja valida oma soovitud liikumisviisi sinna jõudmiseks. Kui ükski üksik transpordi viis ei võimalda sihtkohta jõudmist, siis pakub rakendus erinevate viiside kombinatsiooni. Helsingi visioon esindab revolutsiooni mobiilsuses (MaaS). Selle idee tuumaks on digitaalne platvorm, milles on integreeritud reisi planeerimine, broneerimine, elektrooniline piletisüsteem ja makselahendus, mis kehtib nii avalikus kui erasektori teenuste kombinatsioonile. See on oluliselt erinev sellest, mis viisil on enamus linnade transport siiani toiminud. Selle asemel, et otsida, broneerida ja maksta iga transpordiviisi eest eraldi, MaaS platvormid võimaldavad kasutajatel planeerida ja broneerida uksest-ukseni liikumist ainult ühte rakendust kasutades. Mis hoogustab MaaS globaalset huvi? Sellel kui Helsingi on kasvava MaaS huvi keskmes, ei ole see linn kaugeltki üksi. Pariis, Eindhoven, Göteborg, Montpellier, Viin, Hannover, Las Vegas, Los Angeles, Denver, Singapur ja Barcelona on kõik katsetanud pilootprojekti kohalikku versiooni, mis on hõlmanud P2P platvorme ja ka kombineeritud süsteeme, mis hõlmab avaliku ja erasektori transporti. Järjepideva linnastumise tõttu läheb suurlinnade liiklus järjest tihedamaks ja ummikud sagedasemaks ja suuremaks.

MaaS edukuses mängib suurt rolli erinevate osapoolte koos tööle panek. Erasektori osalised võivad liituda kasumi saamise eesmärgil, riigiametid võivad otsida lahendusi üldrahvalike probleemide lahendamiseks (liiklusõnnetused, tootlikkus, õhu kvaliteet, ökoloogiline jalajälg). Osalisi saadab edu vaid siis, kui nad koostööd teevad. Mõned platvormid sellegipoolest hõlmavad nii avalikku kui erasektorit ja kasutavad ühist platvormi. Vähesed platvormid võimaldavad erinevate transpordiliikide eest maksmist ühe maksena.

Veel kaugemasse tulevikku vaadates, tõenäoliselt hakkab MaaS hõlmama ka autonoomseid, ilma juhita sõidukeid. Singapur on alustanud ilma juhita takso testimisega, Uber testib juhita autosid Pittsburgh-is. Tokyo sihiks on seatud 2020 Olümpiaks panna tööle isesõitvad bussid. Kuigi autonoomsete sõidukite tehnoloogia on alles välja arenemas, on sellel paljulubav tulevik. Autonoomsete sõidukite tehnoloogia ei ole veel valmis massikasutuseks, kuna on mitmed takistused, seaduste, turvalisuse, veakindluse, andmete kasutuse ja privaatsuse näol. Siiski arvatakse, et aastaks 2040 reisitakse umbes 80 protsenti linnasisestest miilidest (jagatud)autonoomsete sõidukitega. Paljud suuremad autotootjad on alustanud juhita autode arendamist ja Ford ja BMW on teavitanud oma püüdlusest alustada juba aastal 2021 masstootma autosid autonoomse sõidujagamisteenuse tarbeks. [5]

Riskid ja ohud isesõitvate sõidukite kasutusele võtmisel

  täitja: Andreas

Turvastandardite puudumine
Isesõitvate autode puhul on tegu viimase kümnendi reguleerimata tööstusega - erinevad autotootjad alles alustavad selles valdkonnas ning turvanõuded on seega välja töötamata. Võistlus erinevate tootjate vahel on üles kuumenemas ning kasutatud tehnoloogia olemus ei ole täielikult läbipaistev. Autonoomsed lisad rakendatakse kui juhtimisabina, ent auto sõidab hoolimata sellest kas juht hoiab käsi roolil või mitte. Teiste sõnadega toimub eksperimenteerimine inimeste peal, et täiustada autode autonoomset võimekust. Enamus liiklusõnnetuste juhtumitest üritatakse põhjendada inimeksimusega[6] ning kuna surmaga lõppevate juhtumite arv on siiski madal, siis ei ole poliitilised võimud antud tööstusele põhjalikku tähelepanu veel pööranud.

Keerulised liiklussõlmed ja inimliiklejad kui oht
...

Elektroonikarikked ilmastikunähtustest
...

Häkkimisoht
Isejuhtivate sõidukite tõhusamaks toimimiseks on hea neid võrku ühendada, et hankida näiteks reaalaja liiklusinfot või teha kriitilisi uuendusi tarkvarale. Kuid võrku ühendatud sõidukid või seadmed võivad kergesti langeda küberkurjategevuse sihtmärgiks, kui turvameetmetes esineb puudujääke.
2015. aastal turvateadurid Charlie Miller ja Chris Valasek demonstreerisid Black Hat turvakonverentsil Las Vegases kuidas nad omandasid kaugkontrolli 2014. aasta Jeep Cherokee üle [7], olles võimelised saatma sõiduki kontrollvõrgustikule (CAN) oma kontrollsõnumeid. Teiste sõnadega said nad diivanil istudes arvuti klahvivajutuste abil pöörata sõitva masina rooli, seda pidurdada, lülitada raadio helitugevus maksimumile ning keelata juhtpaneeli nuppude toime jne. Turvaaugu avastuse tulemusena kutsus Fiat Chrysler Automobiles tehasesse tagasi ligikaudu 1.4 miljonit sõidukit. Ka USA sideoperaator Sprint blokeeris võrgusuhtluse selle pordi kaudu, mille vahendusel see kaugkontroll võimalikuks osutus. Antud sõiduk ei olnud küll isesõitev, kuid juhtum tõestab, et igasugune uus tehnoloogiline lahendus tuleb uute avastamata turvaaukudega.
Georgia Tehnoloogiainstituudi teadlane Skanda Vivek viis läbi uurimuse, mille tulemusena leidis, et 10% kompromiteeritud sõidukeid tipptunnil Manhattanil võib halvimal juhul tähendada kogu linnaosa liikluse seismajäämist, millega koheselt saab kannatada hädaabiteenuste kättesaadavus. Kuna mõnede autotootjate autod just moodustavadki ligikaudu 10% linna liiklusest, siis neil tootjatel on just suurem vastutus kanda erinevate võrkude ja süsteemide rakendamisel, et turvaaugu ilmnemisel oleks mõjutatud vaid osa tervikust.[8]

Võimalikud terviseriskid elektromagnetkiirgusest
Kuna ühiskond näeb tulevikus autonoomsete elektriautode massilist kasutust, siis võiks tänapäeva hirmu tõttu riskina ka välja tuua elektromagnetilisest kiirgusest (EMK) põhjustatud terviseprobleemid. Kuigi kõik tänapäeva sõidukid tekitavad kiirgust, siis on selle tasemed massilise elektroonika ja mitmete akude tõttu elektriautodes kõrgemad. Siiski erinevad uuringud on leidnud, et kiirgustase elektriautodes jääb alla piirnormide ja on ohutu arvestades inimese teisi igapäevaseid kokkupuuteid[9][10][11]. Muidugi ei tasu unustada, et mõned inimesed on või arvavad olevat tundlikumad EMK suhtes, seega võib see neil põhjustada peavalu, väsimust, unetust jne.

Autonoomsete sõidukite juriidilised aspektid

  täitja : Aleksandra

Autonoomsete sõidukite juriidilised aspektid on tänapäeval äärmiselt aktuaalne valdkond, mis vajab kaardistust ja reguleerimist. Õiguspoliitiliselt võib temaatikale olla erinevaid lähenemisi, kuid teaduslikud uuringud on kindlalt ühel meelel – esile kerkivad tehnoloogiad muudavad ühiskonna ilmet. Kui igas kodus ja ettevõttes saab olema autonoomne robot, mõjutab see ühiskonda oluliselt, sest inimesed hakkavad töötama ja elama koos ja koostöös keerulise tehnoloogiaga. Seega lisaks isejuhtivate sõidukite reguleerimise võimalustele ja vajadustele on küsimus laiem, sest isejuhtivus ei ole omane ainult SAE 4 ja 5 sõidukile, vaid ka muule intelligentsele tehnoloogiale. Juriidilise poole pealt on üheks oluliseks takistuskiviks asjaolu, et tehnoloogiat, mida tahetakse reguleerida, ei eksisteeri hetkel väljaspool laboriruume või antud tehnoloogia ei ole kättesaadav. Arvestada tuleb kindlasti sellega, et tänapäeval areneb tehnoloogia pöörase kiirusega. 2018. aastal tootis inimkond andmeid rohkem kui inimkonna kogu senise ajaloo jooksul kokku. Teaduse tase tõusis märkimisväärselt just algoritmide ning neurovõrkudel põhinevate süsteemide valdkonnas. See omakorda tähendab, et tehnoloogiad, mis on täna kättesaadavad vaid laborite seinte vahel, saavad suurema tõenäosusega juba lähitulevikus ka tavainimestele kättesaadavaks. Nad muutuvad järjest autonoomsemateks ja intelligentsemateks. Eelkõige seisab olemasolev õigus silmitsi väljakutsetega seoses inimväärikuse, eetika ja vastutusega. Innovatsioon pole ainult tehniline arendus, mille tulemusest kujuneb ühiskondlik väärtus, vaid ka tõsine seadusandlusele suunatud töö, mis on paljude jaoks märkamatu. Targad „masinad“ vajavad mitte vähem targemaid seadusi. Enne kui asuda seadusmuudatuste kallale, tuleks juristidel otsustada, kas tehisintellekti ja robotitega seonduv valdkond nõuab positiivse õiguse muutmist või piisab tehnoloogiliste muutustega tegelemiseks olemasolevast normistikust. Tsiviilõiguses tuleb küsida, kas on vajalik kontseptuaalne muudatus alates süüst, vastutusest ja eetilisest etteheidetavusest teole, kus puudub inimeksimus või kellele tegu ning tegevusetus üldse omistada. Seadusandlikud küsimused on tänapäeval põhiliseks takistuseks autonoomsete sõidukite loomise efektiivseks lahenduseks terves maailmas. Autonoomse transpordi valdkonna seaduslik regulatsioon omab nii edukaid kui ka nurjunud näiteid. NHTSA (National Highway Traffic Safety Administration) võrdväärtustas ametlikult 2016. aastal inimjuhti elektroonse süsteemiga, mis juhib autonoomset sõidukit Google. Antud otsus välistab põhilist takistust autonoomstete sõidukite arendamises. Enamuse riikide seadusandlus keelab hetkel täielikult ära autonoomsete sõidukite kasutusele võtmist ühiskasutatavatel sõiduteedel. EL riikides on vastu võetud erandlikud seadusandlikud aktid autonoomsete sõidukite osas. Näiteks vastavalt EL-i 1. jaanuari 2016 direktiividele 347/2012 ja 351/2012 peavad kõik EL-is registreeritud või kasutatavad veokid olema varustatud spetsiaalsete liiklusohutust tagavate süsteemidega. EL direktiiv nr 347/2012 näeb ette kõigi uute veokimudelite kohustusliku varustamise Lane Keeping Assist’iga (sõiduradade hoidmise abisüsteem) ja AEB-ga (automaatne hädapidurdus) alates 1. novembrist 2018.

Seadusandluses on kõige rohkem ette jõudnud USA, kus on vastu võetud üksikud seadusandlikud aktid autonoomsete sõidukite testimise ja liikumise osas (nt Florida, Nevada, Michigan). Arizonases üritati vastu võtta seadus, mis reguleerib autonoomse sõiduki kasutamist riigi maanteedel. Samas ei suudetud lahendada probleemi, kes peaks vastutama sellise sõiduki osalusel toimunud õnnetuse põhjustamise eest: auto omanik, tehnoloogiat arendanud ettevõte või autot tootnud või siis müünud tootja. California võimud avalikustasid 2015. aastal autonoomsete sõidukite suhtes esialgsed eeskirjad. Nimetatud eeskirjade kohaselt peaksid autonoomsete sõidukite juhid vastutama liikluseeskirjade rikkumiste eest, olenemata sellest, kas nad olid sõiduki roolis või mitte. Eeskirjad nõuavad autojuhtidelt vajadusel täielikku valmisolekut oma auto üle kontrolli ülevõtmiseks. See kujutab endast potentsiaalselt probleemi nt Alphabet ettevõte jaoks, kuna selle loodud autonoomse sõiduki prototüübil polnud esialgselt rooli ega pedaale. Venemaa seadusandjad tegid ettepaneku lubada üldkasutatavatel teedel autonoomseid sõidukeid kasutada vaid juhul, kui sõiduki salongis asub ka juht, kes vajadusel saab juhtimisprotsessi ümber lülitada manuaalsele režiimile. Autonoomseid sõidukeid puudutavas eelnõus on vastus põhiküsimusele: kes peaks vastutama autonoomse sõiduki osalusel toimunud liiklusõnnetuse eest, kas auto omanik, tehisintellekti süsteemi välja töötanud ettevõte või autot tootnud ja müünud autotootja. Venemaal langeb vastutus liiklusõnnetuse eest täielikult autonoomse sõiduki juhile. Kuidas aga vastutust õigesti ja proportsionaalselt jagada? Venemaa „Tomashevskaja ja partnerid“ intellektuaalomandi ja infotehnoloogia valdkonna õigusnõustaja Roman Yankovsky sõnul pakutakse probleemi võimaliku lahendusena autonoomsete sõidukite vastutuskindlustust ehk vahendaja kasutuselevõttu omaniku ja autonoomse sõiduki osas: näiteks isejuhiavate sõiduktie müügist täiendava spetsiaalse fondi loomine. Samuti on olemas võimalused sõidukisse spetsiaalsete seadmete paigaldamiseks, et registreerida juhi toimingud ja määrata kahjude osas maksete jaotuse proportsioonid. Kriminaalvastutus on mõnevõrra erinev, kus täielikult autonoomse sõiduki omanik ei ole tekitatud kahju korral juhtunud liiklusõnnetuses alati süüdi. Süü tehakse kindlaks vastavalt isejuhitavate sõidkite arendamise ja ekspluateerimise reeglite kohaselt: kui neid reegleid ei rikutud, tunnistatakse surm õnnetusjuhtumiks ja vastutust ei tule, kui rikuti – tunnistatakse rikkuja kuriteos süüdi. Kõik hakkab olenema seadussätete täpsest sõnastusest. Samuti ühe võimaliku lahendusena on autonoomsete sõidukite tootmisega seotud ettevõtete vabatahtlik kahju hüvitamise algatus isegi juhul, kui autonoomne sõiduk polnud liiklusõnnetuses süüdi. Roman Yankovsky peab silmas olukorda, kui nt jalakäija ületab teed selleks mitte ettenähtud kohas ning autonoomne sõiduk ei jõua õigeaegselt piduradada ning sõidab temale otsa, tekitades vigastusi. Õiguslikus mõttes langeb vastutus süüdi olevale poolele ehk jalakäijale. Arvestades eetilisi ning moraalseid tõekspidamisi, on autonoomse sõiduki arendajast ettevõttel õigus maksta kannatanule kompensatsioon ning olla vastutulelik isegi juhul, kui ettevõte pole liiklusõnnetuses süüdi. See ainult kinnitab antud ettevõte prestiiži ja staatust ühiskonnas.

Ka Suurbritannias on põhiküsimuseks – kes kannab juriidilist vastutust sõidukit juhitava tehisintellekti algoritmi tegevuse eest. 2018. aastal startis seal kolmeaastane uuring seoses autonoomsete sõidukite juurutamisega ning sellega seotud juriidiliste aspektidega. Antud uuringu tulemustele tuginedes otsustavad eksperdid, mis seadusandlikud muudatused on vajalikud selleks, et riiklikul tasandil reguleerida robotmasinate kasutusele võtmist. Hetkel ei anna briti võimud isegi lootust asjaolule, et autonoomses sõidukis puudub rool ja pedaalid ning juhi kohal valitseb „tühjus“. Ametnikud arutavad vaid seda, kuidas jaotada kriminaal- ja tsiviilvastutust autonoomse sõidukiga liiklusõnnetuse puhul. Järelikult käib arutlus maksimaalselt neljanda astme autonoomse sõiduki juurutamise ümber. Viienda astme autonoomsete sõidukite kasutusele võtt on Suurbritannias täielikult välistatud. Läbi viidud uuringu tulemusena sõnastatakse uued kuriteo koosseisud, nt küber-sissemurdmine autonoomse sõiduki juhtimissüsteemidesse. BMW tegevdirektor Ian Robertson kommenteeris olukorda järgnevalt: „Arvan, et pärast selle teema uurimist ütlevad valitsused või seadusandjad, et täielikult autonoomseid sõidukeid ei tohi mingil juhul avalikele teedele lubada.“ I. Robertson’i arvates jõuavad samale järeldusele kõigi riikide ametivõimud, kes hetkel mõtlevad autonoomse transpordi kasutuselevõtmisele.

Ka Eestis Riigikantselei strateegiabüroo tellimusel viidi läbi (käivitati 2016. aasta septembris) isejuhtivate sõidukite ekspertrühma raames analüüs, mille üheks eesmärgiks oli Eesti seadusandluse kohandamine ja vajaliku järelevalve korraldamine isejuhtivate sõidukite kasutamise võimaldamiseks Eesti teedel ja tänavatel. Analüüs käsitles tulevikutehnoloogiaid (SAE tase 4 ja 5), mis on alles väljatöötamisel. Samas juba praegu on müügis sõidukid, mis on varustatud autonoomset režiimi võimaldavate juhiabi süsteemidega, mille kasutamiseks on juhid valmis ja tõenäoliselt seda ka juba teevad (SAE tase 2). Paraku jätab EV-s kehtiv õigus need juhid kaitseta, kuna nad vastutavad juhtimise eest olenemata sellest, kas sõiduk sõitis isejuhtivas režiimis (täielik kontroll auto üle oli antud tehnoloogiale) või mitte. Analüüsi tulemusena leiti, et põhi-eesmärgiks ei saa kindlasti olla pelgalt seadusandluse kohandamine ja isejuhtivate sõidukite kasutuselevõtt, vaid et edasine õigusloomealane tegevus nimetatud valdkonnas peaks looma Eesti riigi ja inimeste jaoks uue kvaliteedi. Antud analüüsis on pööratud enim tähelepanu üldseaduste muutmise ning robootika spetsiifilise regulatsiooni loomisele, samuti keskenduvad regulatiivsed lahendusettepanekud liiklusõiguse spetsiifikale. Hetkel on isejuhtivate sõidukite (SAE tasemed 4 ja 5) peamiseks üldkasutatavatel teedel liiklemise takistuseks juhi (ja tegeliku kontrolli) puudumine. Väga oluline on käsitleda tehnoloogilisi termineid ja nende tähendust, kuid robootika ja tehisintellekti valdkonnas valitseb terminoloogiline segadus, mille on võimatu arutelu, sest arusaam vaatlusalusest objektist on erinev. Analüüsis on lahendusettepanekuna “isejuhtiva sõiduki“ ja „operaatori“ legaaldefinitsioonide sisseviimine. Definitsioonid on lahti seletatud järgmiselt: Isejuhtiv sõiduk - mootorsõiduk, millesse on autonoomne tehnoloogia sisse integreeritud. Operaator - isik, kes istub juhiistmel või kui selline isik puudub, on operaator isik või robot, kes põhjustab autonoomse tehnoloogia rakendumise/tööle hakkamise. Seega opereerib isejuhtivat sõidukit operaator (isik) või intelligentne robot tingimusel, et tema tegevus, kontroll ja järelevalve on kooskõlas rahvusvaheliste konventsioonidega ning defineeritud ka eriseaduses, nt robootikaseaduses. Autonoomset sõidukit võib alati juhtida ka vahetu juht kui selline sõiduviis on sisse lülitatud. Analüüsis on lahti kirjutatud neli erinevat stsenaariumi koos põhiprobleemidega, millele on toodud välja vastavad lahendusettepanekud. Erinevate ekspertide koostöö tulemusena valiti välja kõige sobivam stsenaarium, mis on tulevikuvaatega, ning koostati vastava seaduseelnõu väljatöötamiskavatsus. Peamiselt seisis eksperdite ning juristide ees küsimus, kas reguleerida pelgalt isejuhtivate sõidukite testimise ja kasutuselevõtuga seonduvat või käsitleda isejuhtivaid sõidukeid kui autonoomseid intelligentseid sõidukeid ning reguleerida kogu uut tehnoloogiat ja sellega seotud isejuhtivust kompleksselt. Kuna iseõppivast tehnoloogiast saab lähitulevikus osa inimeste igapäevaelust siis on tähtis leida võimalikult lihtne ja selge regulatiivne lahendus. Samuti on tehtud ettepanek robootikaseaduse loomiseks ning isejuhtivate sõidukite „intelligentseteks robotiteks“ ja erimõistega „robot-agendiks“ nimetamiseks. 15. oktoober 2019 sai E-Eesti nõukogu ülevaate isejuhtivate sõidukite hetkeseisust ja perspektiivist, kus jõuti tõdemusele, et kui isejuhtivate sõidukite testimine Eesti avalikel teedel on juba seadustatud ja toimib, siis laiema õigusruumi kohaldamiseks on vajalik ära oodata kratiseaduse jõustumist, mis paralleelselt tehisintellekti kasutamise kõrval kaitseks ka inimest. „Kehtiva seaduse järgi vastutab oma tegevuse eest liikluses sõiduki juht,“ kirjeldab E-Eesti nõukogu tööd juhtinud peaminister Jüri Ratas ning lisab, et reguleerimata on vastutus aga isejuhtiva auto otsuste eest. Nn kratiseaduse eelnõuga, kuhu on isejuhtivaid sõidukeid puudutav regulatsioon samuti lisatud, tuleb justiitsministeerium välja 2020. aasta keskpaigas.

Õigusloome seisukohalt on väga tähtis jõuda järeldusele kas autonoomsete sõidukitega, tehisintellekti ja robotitega seonduv valdkond nõuab täielikult positiivse õiguse muutmist või piisab tehnoloogiliste muutustega tegelemiseks juba olemasolevatest seadusandlikest aktidest ja kehtivast normistikust. Tsiviilõiguse vaateväljast tuleb otsustada, kas seadustes on vajalik ulatuslik muudatus alates süüst, vastutusest ja eetilisest etteheidetavusest teole, kus puudub inimeksimus või kellele tegu või tegevusetus üldse omistada. Selge on see, et uus tehnoloogia ei saa areneda õigusliku teadmatuse keskkonnas. Samas tuleb tehisintellekti valdkonda reguleerida nii vähe kui võimalik ja nii palju kui vajalk. Sekkumine õigusaktidesse peab olema õigustatud vaid juhul, kui ühiskondlik või tehnoloogiline muutus on tõepoolest nõutav ja vajalik. Tuleb hoiduda liigsest reguleerimisest, mis viib innovaatilisuse ja selguse asemel kaootiliste tulemusteni. Üheks võimalikuks alternatiiviks, mille üle on õigus- ja tehnoloogiakirjanduses asutud aktiivselt arutlema, on autonoomse intelligentse roboti käsitamine teatud juhtudel inimese (või juriidilise isiku) agendina. Sel juhul antakse robotile nii õigusvõime kui ka piiratud teovõime. Antud variant oleks nii sotsiaalselt, äriliselt kui ka poliitiliselt kasulik. Robootika valdkonnas tuleb tsiviilõiguse norme reguleerida ja kaaluda võimalust luua robotitele eraldi õiguslik staatus selleks, et vähemalt kõige keerukamad autonoomsed robotid omaksid elektroonilise isiku staatust eraldi õiguste ja kohustustega, sh hüvitada nende tekitatud kahju ja rakendada elektroonilist isiksust juhtudel, kus robotid teevad autonoomseid otsuseid või suhestuvad muul viisil iseseisvalt kolmandate isikutega. Eesti õigus sisaldab instituute, mis lubaksid analoogia alusel anda intelligentsele autonoomsele robotile õiguse (ja sellega kaasnevad kohustused) oma omanikku ja valdajat esindada. Alternatiivina mistahes esindamisõiguse andmisele võib vaadelda robotipidaja tahteavalduse kehtivust mistahes tagajärgede eest, mille toob kaasa autonoomse intelligentse roboti kasutamine. Küsimuseks on olukorrad, kus tehing tehakse roboti vahendusel. Kuidas hinnata intelligentse roboti tehtud tehinguid, kus ei ole lahatud inimese õigusliku tagajärje tahe? Õigusliku tagajärje tahet pole võimalik tuletada, sest me ei tea ette võimalikke õiguslikke tagajärgi ja tehisintellekti puhul ei tea inimene/ostja igas olukorras tulemust/tehingut ette. Konkretiseerimatuse põhjusel ei ole tegemist ka tahteavaldusega vaikimise või tegevusetuse kaudu. Seega ei sobitu intelligentse roboti abil/vahendusel tehtud tehing ühegi TsÜS § 68 lõigetes 2–4 toodud tahteavalduse liigi alla.

Tehingute sõlmimise võimalusi roboti abil/vahendusel saab liigitada järgmiselt:

  • Esindamine kõrgetasemeliste robotite puhul. Kehtiv õigus ei võimalda robotil esindaja olla, sest esindaja saab olla õigus- ja teovõimeline isik. Robot-agendi all mõeldakse intelligentset robotit, kes teatud tingimuste täitmisel omandab piiratud õigus- ja/või teovõime. Samas ei ole robot-agent võrdsustatud ei eseme ega isikuga, vaid olenevalt vajadusest kohaldatakse talle eseme või isiku kohta sätestatut TsÜSi mõttes. Intelligentne robot, kellele ei ole omistatud piiratud õigus- ja/või teovõimet, on käsitatav esemena (sh suurema ohu allikana, tuues kaasa süüta vastutuse selle valdajale).
  • Uue tahteavalduse liigi loomine, mis hõlmaks tahteavalduse tegemise roboti vahendusel ning selle autonoomia piirides. Intelligentse roboti kaudu saab tema omanik või valdaja anda nõusoleku tehingu tegemiseks TsÜSi ja VÕSi mõttes. Intelligentne robot on käsitatav asjana, millele kohaldatakse teatud juhtudel looma kui asja käsitlevaid sätteid eesmärgiga tunnustada intelligentse roboti autonoomset, kontrollimatut ja iseõppivat osa, tagades sellega ühetaolise lepingu- ja deliktiõiguse.
  • Robootikaseaduse loomine, kus oleks defineeritud intelligentse roboti mõiste, intelligentse roboti tootja ja pidaja õigused, kohustused ja vastutus. Antud lahenduse kohaselt ei ole robotipidajal võimalust lubada intelligentsele robotile õigus- ja/või teovõimet ega tahteavalduste tegemise võimalust TsÜS ja VÕS mõttes.
  • Olemasoleva õiguse juurde jäämine (de lege lata tegutsemine). Eesti õigusaktide kohandamine kitsalt üksnes mootorsõidukitega seoses (nt liiklusseadus, selle rakendusaktid, karistusseadustik jt).

Peamiselt on küsimus selles, kas on vajadus reguleerida ainult isejuhtivate sõidukite testimise ja kasutuselevõtuga seonduvat või ollakse valmis käsitleda isejuhtivaid sõidukeid kui autonoomseid intelligentseid sõidukeid ehk iseõppival tehnoloogial põhinevaid roboteid. Kas reguleeritakse kogu uut tehnoloogiat ja isejuhtivust kompleksselt. Iseõppiv tehnoloogia saab lähitulevikus osaks inimeste igapäevaelust, seega on oluline harjuda mõttega uuest normaalsusest ning leida sellele võimalikult lihtne ja selge regulatiivne lahendus. Selleks et vältida iga uue tehnoloogia loomisel ja kasutuselevõtul uue regulatsiooni igakordset spetsiifilist loomist, tuleks koostada konkreetselt robotite valdkonda käsitlev regulatsioon (robootikaseadus) ning nimetada isejuhtivaid sõidukeid üldmõistega „intelligentne robot“. Olles riigi ja ühiskonnana varajane omaksvõtja, on Eestil võimalus olla teerajaja konkreetse tehnoloogia rolli mõtestamises ühiskonnas ja majanduses. [12] [13] [14] [15] [16] [17] [18] [19] [20] [21] [22] [23]

Isesõitvate sõidukite otsustusprotsessid liiklus- ja ohuolukordades

  täitja: Andreas

Et sõita inimesest paremini on isesõitvad masinad varustatud erinevate kaamera, GPS, ultraheli, radari ja kallimate lidari sensoritega, mis annavad parema taju sellest, mis liikluses toimub, kui inimesel seda endal on. Enamus autodest juba kasutavad erinevaid kaameraid ja radareid juhi- ja parkimisabi näol ning tagavad isegi madalamad autonoomsuse tasemed. Täisautonoomsuse tarbeks on aga lidarid, mis kiirete nähtamatute laserisignaalide abil moodustavad punktipilved ümbruskonda jäljendavas kolmemõõtmelises ruumis. Kõikide nende sensorite sisendandmed saadetakse tehisintellekti keskprotessorile kombineerimiseks ja töötlemiseks, millega saadakse 360-kraadine ülevaade, mis sõiduki ümber toimub. Selles ülevaates tehakse kindlaks näiteks erinevad tehis- ja inimobjektid, nende distants ja kaugus. Nende andmete põhjal tagatakse ka rajavahetuse otsuse ohutus sarnaselt nagu pimenurga hoiatusandur tavalistes sõiduautodes.

Tehisintellekti abil suudavad isesõitvad sõidukid tuvastada ja reageerida keskkonnale reaalajas. Selline intellekt kasutab sügavnärvivõrgustiku (DNN - Deep Neural Network) mudeleid, mis lihtsamas tähenduses koosnevad matemaatiliste algoritmide jadadest. DNN inspiratsiooniks on inimaju, mis on võimeline ise õppima. Seega õpetatakse mudelile objektide samastamist ja eristamist selle asemel, et iga objekti kõikvõimalikud iseärasused arvutiprogrammis ära defineerida. Aga nagu iga inimene on erinev ja spetsialiseerub mingitele kindlatele eesmärkidele elus, siis on ka mudelid oma kindla ülesandega ning turvalisuse mõttes ka kohati kattuvad. Et kui üks närvivõrgustiku mudel ei tuvasta mingit konkreetset objekti, siis on ikkagi võimalus, et teine tuvastab. Otstarbe järgi võiks välja tuua rajaleidjaid ja objektituvastajaid. Rajaleidjateks on võrgustikud, mis tuvastavad kogu tee ruumi, teekattemärgistust sõiduteel, sõidukist eespoolset sõidetavat rada jms. Objektituvastajateks aga võrgustikud, mis tuvastavad teisi sõidukeid, jalakäijaid, valgusfoore ning liiklusmärke, eraldi valgusfooride värve ja liiklusmärkide tüüpe, ning veel ristmikke ja peatumisolukordi.

Peale tuvastusalgoritmide on vaja probleemide lahendamiseks ka võimsaid otsustusalgoritme põhieesmärgiga jõuda efektiivselt punktist A punkti B vältides liiklusõnnetusi. Õnnetused ja ohuolukorrad tekivad aga kahel peamisel põhjusel - viletsad otsused või sensorid ei tuvasta. Kuna isesõitvad sõidukid on endiselt arenev valdkond, siis tarkvaras esineb tihti palju puudujääke, kui tuleb arvestada inimkaasliikleja võimaliku käitumisega. Näiteks uue arvestamata ohu korral vähendatakse sõiduki kiirust kuni peatumiseni ja lihtsalt oodatakse ohu möödumist, kuigi tegelikult tuleks edasi jälgida ka seismisest tulenevaid ohte. 2017. aasta novembris oli Las Vegases olukord, kus uhiuus isesõitev buss sattus liiklusõnnetusse esimese kahe tunni jooksul[24]. Buss tuvastas ees tagurdava veoki ja otsustas seisma jääda, kuid veokijuht tagurdas üha lähemale ning ei näinud paigale tarretunud bussi. See õnnetus oleks ilmselt ära jäänud, kui buss oleks osanud ka tagurdada või vähemasti signaali anda. Palju kurvem inimeluga lõppenud õnnetus oli aga 2016. aastal Floridas, kus Tesla mudel S sõitis sisse maanteele keeravale veoki haagisele [25]. Õnnetuse hetkel sõitis sõiduk kiirusega 119km/h ning Tesla sõnul nii juht kui sõiduk ei märganud teele keeravat veokit. Nimelt toodi põhjuseks, et sõiduki sensorid ei suutnud vahet teha eredal taeval ja valgel haagisel. Tesla on rõhutanud, et tegu ei ole täisautonoomse lisaga, vaid pigem juhiabiga ning et enne õnnetust oli sõiduk korduvalt juhti hoiatanud, et too hoiaks käed roolil.

Sensorid koguvad toored andmed, närvivõrgustikud loovad nende põhjal ettekujutuse keskkonnaruumist, tuvastatud sündmused edastatakse otsustusprotsessi, mis valib kõikvõimalikest manöövritest teostatava ja sobivaima. Teostatav on manööver, mis on ohutu ja liiklusreeglitega kooskõlas. Sobivaim on aga üks teostavatest manöövritest, mille valimisel lähtutakse selle efektiivsusest, ökonoomsusest, mugavusest jm. Kuna igat manöövrit on võimalik sooritada lõpmatul erineval viisil, näiteks erineva trajektooriga, siis tehakse manöövri välja selgitamisel hulganisti simulatsioone arvestades ka võimalike juhuslike sündmustega. Kuna trajektoore läbitakse ajas, siis tehakse ka ennustavaid kalkulatsioone, näiteks arvutatakse välja erinevate sündmuste tõenäosus järgneva 6-10 sekundi jooksul. Kuigi täpsemad otsustusprotsessi meetodid on tootjate puhul varieeruvad ja on pigem ärisaladus, on siiski tehtud mitmeid erinevaid teaduslikke uurimistöid, mis võivad sisaldada lõplikke olekumasinaid (finite state machine), Markovi otsustusprotsessi (Markov decision process), mänguteooriat (game theory), stiimulõpet (reinforcement learning) jm.

Olenemata kasutatud otsustamismeetoditest või viimasel tasemel riistvarast, jääb keeruliseks probleemiks siiski inimliikleja mõistmine, näiteks jalakäijate ja ratturite käežestide interpreteerimine. Samuti ohuolukorras eetiliste otsuste langetamine nagu õnnetuse vältimiseks liiklusreeglite rikkumine või väljapääsmatus olukorras ühe elu teise üle kaalumisel. Inimliikleja mõistmiseks teadlased Massachusettsi Tehnoloogiainstituudi (MIT) arvutiteaduste ja intelligentsi laboris (CSAIL) arendavad tehisintellektisüsteemi[26], mis liigitaks liiklejad nende sotsiaalse isiksuse järgi, et parendada isesõitva auto otsustamisvõimekust keerulistes oludes. Need isiksuseliigid on isetu, isekas ja koostöövalmilik. Selle projekti üks näidiseesmärkidest on anda autole võimekus rada vahetada tihedas linnaliikluses või lasta seda teisel liiklejal teha. Tuvastades missugune liikleja on egoistlik saaks varakult planeerida võimalikke ohte vältivaid otsuseid. Lisaks liiklejate liigitamisele arendavad mõned tootjad nagu BMW ja Audi sõidukitevahelist kommunikatsiooni intelligentsemaks liiklemiseks[27]. Sellise suhtluse abil saavad autod kiiremini võimaluse sõidurada vahetada või vältida tagant sissesõitu kui eesmine auto on planeerinud äkkpidurduse sooritada.

Kokkuvõte

Kasutatud materjalid

  1. Liiklusohutusprogramm 2016-2025,[1]
  2. Self-driving car, [2]
  3. https://blueandgreentomorrow.com/, [3]
  4. Wikipedia, [4]
  5. [5]
  6. ScienceDaily, "Public blame accidents on drivers more than their automated cars when both make mistakes", October 28, 2019
  7. IOActive, "Remote Exploitation of an Unaltered Passenger Vehicle", 2015
  8. ScienceDaily, "The first look at how hacked self-driving cars would affect New York City traffic", March 4, 2019
  9. Bio Electro Magnetics 34(2), "ELF magnetic fields in electric and gasoline-powered vehicles.", 2013
  10. IEEE Transactions on Electromagnetic Compatibility, "Magnetic Field Exposure Assessment in Electric Vehicles", 2014
  11. Consumer Reports News, "Mythbuster: EMF levels in hybrids", 2010
  12. 1. Riigikantselei, Ekspertrühma lõppraport „Isejuhitavate sõidukite ajastu algus“ 2018
  13. Juridica 1/2019, Karmen Turk, Maarja Pild, „Kratiga või kratita – see on küsimus. Robotitest ja tehisintellektist tsiviilõiguslikult“, lk 43-55.
  14. Vabariigi Valitsus, Isejuhtivad sõidukid ootavad seadusemuudatust, 15. oktoober 2019
  15. R. Liive, "Maanteeamet on teedele lubanud kaks isejuhtivat sõidukit”
  16. V. Filonenko, „Беспилотные автомобили получат особые права“
  17. A. Tšernogorov, „Нам нужно менять законодательство для беспилотных авто“
  18. A. Smirnov, „Власти никогда не разрешат полностью беспилотные автомобили“
  19. R. Yankovski, J. Bekljanko, J. Iriskina, „Будущее беспилотников: мифы и этический выбор“
  20. J. Ljaštšenko, Актуальные проблемы авиации и космонавтики. Правовой аспект использования беспилотных аппаратов в России, lk 612-614
  21. O. Aksamentov, „Беспилотникам подрезали крылья: вступил в силу обновленный Воздушный кодекс“
  22. M.Kyriakidis, Transportation Research Part F: Traffic Psychology and Behaviour, 2015, Public opinion on automated driving: Results of an international questionnaire among 5000 respondents. Abstract.
  23. Nathalie Nevejans, Study on European Civil Law Rules in Robotics, PE 571.379, Euroopa Liit, 2016.
  24. The Conversation, "Redefining ‘safety’ for self-driving cars", November 28, 2017
  25. LA Times, "Tesla car on Autopilot warned driver 7 times before fatal crash, safety regulator says", June 20, 2017
  26. MIT News, "Predicting people's driving personalities", November 18, 2019
  27. CNET, "5G could make self-driving cars smarter and commutes safer", August 27, 2019
  /igaüks lisab juurde kasutatud allikad ja viited nendele/

1. http://moralmachine.mit.edu/
2. https://www.nature.com/articles/d41586-018-07135-0
3. https://www.theverge.com/2018/10/24/18013392/self-driving-car-ethics-dilemma-mit-study-moral-machine-results
4. https://www.roboticsbusinessreview.com/unmanned/unmanned-ground/infographic-can-self-driving-cars-make-moral-decisions/
5. https://phys.org/news/2019-01-self-driving-cars-moral.html
6. https://www.newyorker.com/science/elements/a-study-on-driverless-car-ethics-offers-a-troubling-look-into-our-values
7. https://www.nvidia.com/en-us/self-driving-cars/drive-labs/
8. https://www.sciencedirect.com/science/article/pii/S0968090X15003447