ICO wiki - User contributions [en]

Tehisintellekt ja tehnoloogia areng

2021-12-06T03:56:14Z

Ranton:

== Riistvara roll tehisintellektis ja ujukoma tehted sekundis ==

Tehisintellekti arengus mängib rolli mitu faktorit, kuid vaieldamatult kõige suuremat rolli mängib riistvara. Nimelt, tehisintellekt areneb riistvara arengu järgi. Riistvara areng ei ole nii stabiilne kui paljud arvaksid, eriti eeldades, et kõik jälgib Moore’s seadust.

Stagnatsioon on üks faktor mis mõjutab riistvara arengut. Hea näide sellest, oleks see, kui Intel stagneerus 2012-2019 keskprotsessorite alal, kuna neil ei olnud mingit konkurentsi. Peaks mainima, et keskprotsessorid ei mängi enam nii suurt rolli komputatsioonis, seda rolli täidab rohkem nüüd accelerator-id (näiteks: ASIC, FPGA ja GPU) millel mõne tuuma asemel, on neid tuhandeid - GPU-des on nende nimi ALU (''Arithmetic Logic Unit''), mille kogus on viimasel ajal väga suureks läinud. ALU on fundamentaalne täieliku komputatsiooni jõudluse arvutamiseks ja selle niinimetatud universaalne mõõtühik on FLOPS (''Floating Point Operations Per Second''), täpsemalt FP32 FLOP, kuid tänapäeval kasutatakse TFLOP-i: T indikeerib tera, ehk 10 astmel 12.

FLOPS = ALU-de kogus * taktsagedus (Hz) * 2

== Kas FLOPS on ainus mõõtühik? ==

Lühike vastus on ei. FP32 FLOP võtab arvesse ainult ujukomaarvude arvutamist. Seal on olemas ka INT, ehk täisarv. Number 32, FP32-s tähendab 32-bitti täpsust. On olemas 8, 16, 64 ja muid täpsusi. Siiski, on FP32 FLOP tuntud kõige paremini ning kasutatakse kõige rohkem. TFLOPS on kasulikeim mõõtühik GPU-de jaoks - mis on siiani laialdaselt kasutatud superarvutites & tavaarvutites. Tulevikus hakkame nägema rohkem spetsiifilisi kiipe & tükke neist sisse ehitatud protsessoritesse - või videokaartidesse: Tensor core - Nvidia, TPU - ARM-baasil SoC-d. Tegemist on ASIC/FPGA-dega - mis on väga head spetsiifilistes asjades, näiteks tehisintellekti kiirendamises.

== Praegused kõige kiiremad GPU-d ==

GPU-d, kuna neid kasutatakse üldiselt kõige rohkem suure jõudluse saamiseks superarvutites - samuti on GPU tavaliselt kõige võimelisem arvutis. On öeldud, et inimese aju on umbkaudselt 100-10000 TFLOPS (eeldatavasti võimatu saada sellist numbrit täpselt), praegune kõige kiirem GPU (''Graphics Processing Unit''), AMD MI250X-l on umbes 96 TFLOPS FP32 komputatsiooni võimsust. Võrreldes eelmise parimaga, Nvidia A100 & AMD MI100, on MI250X circa 2-5x kiirem toores FP32 komputatsioonis. Palju sellest on tänu uuele MCM (''Multi-chip module'') arhitektuurile & TSMC 6nm tootmisprotsessile <ref>AI Impacts. 2017. “Brain performance in FLOPS – AI Impacts.” AI Impacts. https://aiimpacts.org/brain-performance-in-flops/.</ref>.

== Millest tuleneb kiirus GPU-s, ehk mikrokiibis? ==

Kõik mikrokiibid, põhiliselt räni baasil, kasutavad transistoreid arvutusteks. Transistor ise on kolme väljaviiguga pooljuhtseadis ehk triood. Üldiselt on transistorid, mis on räni baasil, MOSFET (''Metal-oxide-semiconductor-field-effect transistor'') sarnased. Tänapäeval on keskmisel kiibil üle 1000 miljoni transistori <ref>Elprocus. n.d. “What is the MOSFET: Basics, Working Principle and Applications.” ElProCus. https://www.elprocus.com/mosfet-as-a-switch-circuit-diagram-free-circuits/.</ref>.

Transistoreid disainitakse erinevaks, eriti nüüd, sest tootmisprotsess on nii väikseks läinud millega on tulnud kaasa mõningaid probleeme - suurim neist olles elektronide lekkimine üle transistorite ja kui palju ruumi transistor ise võtab. Praegusel hetkel kasutatuim transistori disain modernsetes mikrokiipides on FinFET.

Väiksem transistori suurus on väga oluline järgmiste punktide pärast:
On võimalik rohkem transistore ühele kiibile mahutada - mis tähendab ka seda, et rohkem tuumasi, ALU-si, mälu saab panna kiibile.
Energiakulu on tunduvalt väiksem, et saada võrdväärset jõudlust eelmise generatsiooni mikrokiibiga. Samuti takistus on väiksem üle sama arv transistore.
Sama võimsa kiibi tootmine (võrreldes eelmise generatsiooniga) on odavam kuna saab teha väiksema kiibi. Räniplaadid on üpris kallid & mida suurem on kiip, seda rohkem defekte tekib seal - seega loogiliselt, kui kiip on väiksem, saab ühelt plaadilt rohkem kiipe mis omaette tähendab ka seda, et see on odavam.

Üldisemalt, on olemas laialiselt tuntud seadus nimega Moore’s Law. Moore’s Law eeldab, et iga 2 aasta tagant kahekordistub transistorite arv mikrokiipides. Tegemist, aga, ei ole teaduslikult tõestatud teooriaga - ega seadusega. Siiski, on Moore’ seadus üldises pildis täpne olnud. Moore’ seadus on surmaohus olnud tükk aega tootmisprotsessi pärast. Nimelt, tootmisprotsess on jõudmas sinna punkti kus ei ole füüsiliselt võimalik väiksemaks minna. Praegune masstoodangus kõige väiksem protsess on 5nm - varsti 4nm.

IBM on demonstreerinud 2nm transistorit - seega sellest väiksem on eeldatavasti võimalik. Teoorias rääkides, võib olla 1 aatomi suurune transistor võimalik, aga sellest väiksemat ei ole võimalik teha. Kuidas hoida Moore’ seadust elus? - erinevad tehnoloogiad mida implementeeritakse mikrokiipidesse saavad hoida sellist arbitraarset seadust kauemaks elus: MCM, 3D-packaging.

== Jõudlus tulevikus ==

Ennustada midagi sellist, on väga raske kuna me ei tea ette, mis tulevikus võib juhtuda. Olgu järjekordne stagnatsioon - või hoopis revolutsiooniline areng. Praegusel hetkel, on kõige kiirem GPU 96 TFLOPS-i (MI250X). Ei ole ebarealistlik öelda, et 2027 paiku on võimalik tavainimesel soetada sellise võimsusega videokaarti 1000€ eest.

Tänapäeval valmivad ''exascale'' superarvutid - mis suudavad teha 10 astmel 18 kalkulatsiooni sekundis. Arvestades mitte-ametlikku informatsiooni tuleviku kiipide kohta, ei oleks konservatiivne öelda, et 2027-2030 sekkub juurde ka ''zettascale'' superarvutid.

== Tuleviku ennustused ==

Paljud ennustused tuleviku komputatsiooni jõudlusest on valed olnud. Suurem osa ajast on leida, et ennustused on liialt konservatiivsed & üleüldiselt alahindavad arengut.
On ka ennustusi, mis võtavad teada, et paljud prognoosid on valed olnud kuna need olid alahinnatud - sel juhul on tihti ülehinnatud.

Kõige täpsem ennustus, mis on laialt levinud, on Tim Urbani poolt, tema artiklis “The AI Revolution: The Road to Superintelligence”. Tegemist on artikliga, mis kirjutati aastal 2015, kuid estimatsioon on liialt optimistlik. Ta ennustas, et aastaks 2025 on võimalik kiip, mis maksab 1000$ & on 10 astmel 16 CPS (''Calculations per second'', umbes võrdväärne FLOP-ile). Kahjuks, praegu ei tundu, et seda juhtub, sest praegune kõige võimsam kiip, mis maksab 1000$, võimaldab ainult 30 TFLOPS. Aastal 2025, 1000$ eest on eeldatavasti võimalik saada kiip, mis võimaldab 100 TFLOPS-i.

Võib tõesti kasutada Moore’ seadust - detailselt, aga, on praktiliselt võimatu ennustada komputatsiooni võimsust tulevikus. Kui oleks võimalik küsida kiibi arhitektidelt, aastal 2000, mis on kiipide komputaalne võimsus 2020, nad paneksid rohkelt mööda.
Arengul on liiga palju muutujaid, et seda ennustada laias pildis kümneid aastaid ette.

== Kvantarvutid ==

Kvantarvuti kasutab ära kvantmehaanikat, et saada hiiglaslike tõuse komputatsioon jõudluses. Praegusel hetkel ei usuta, et kvantarvutid asendavad arvuteid, et lahendada lihtsamaid probleeme - mis iseenesest on mõistlik, sest kvantarvuti nii-öelda kiibid töötavad ainult ekstreemselt külmades temperatuurides kuid mõte ei ole asendada tavainimese arvuit, vaid rõhk on tehisintellektil, on võimalik kvantarvutit kasutada ka tehisintellekti kiirendamiseks.

Kvantarvuti on eriline, sest see kasutab qubitte, ehk kvantbitte. Kvantbitt saab olla 1 ja 0 samal ajal, erinevalt tavalisest bitist, mis on kas 0 või 1. Kvantbitil on veel omadusi, näiteks ''superposition'', mis võimaldab mitmel kvantbitil arvutada välja mitu tulemust samaaegselt. Selle abil on võimalik lahendada probleeme, mis võivad tunduda väga keerulised tavalisele arvutile - näiteks kombinatoorika <ref name="giles">Giles, Martin. 2019. “Explainer: What is a quantum computer?” MIT Technology Review. https://www.technologyreview.com/2019/01/29/66141/what-is-quantum-computing/.</ref>.

Kui kasulik on kvantarvuti? Palju rõhku on pandud simulatsioonidele - olgu see meditsiin või tehisintellekt. On tehtud uuringuid, mis tõestavad, et kvantarvutid suudavad tunduvalt kiiremalt joosta tehisintellekti jaoks algoritme.
Täpseid arve ei ole antud, kui palju kiirem kvantarvuti tehisintellektis on, kuid on tõestatud selle potentsiaali - seega tulevik on hele <ref name="giles" />.

== AI liigid ==

ANI ehk Kitsas Tehisintellekt. ANI on kasutuses tänapäeval rohkelt, näiteks: enamus autod, telefonid ja muu riistvara - seda kõik võimaldab tarkvara, ehk ANI. ANI on tehisintellekt, mis on mõeldud lahendama ühte ülesannet: see tehisintellekt suudab mängida malet kõrgemal tasemel kui kõige parim male mängija tänapäeval. Üks tehisintellekti firmadest, nimega OpenAI, kirjutas tehisintellekti programmi, mis mängib Dota 2 professionaalsete mängijate vastu efektiivselt, ning suutis võita 99.4% mängudest. Tesla kasutab ANI-d, et osaliselt võimaldada enda sõidukitel juhtida iseennast ja ennetada arvariisid, reageerides kiiresti sõites autoga ohutusse <ref name="strelkova">Strelkova, Olga. n.d. “Three Types of Artificial Intelligence.” Khmelnitsky National University. https://conf.ztu.edu.ua/wp-content/uploads/2017/05/142.pdf.</ref>.

AGI ehk Üldine Tehisintellekt. AGI on teiste sõnadega tugev tehisintellekt või inimmõistsega samal tasemel tehisintellekt. See tehisintellekt suudab teha kõike mida suudab inimene teha. Ta suudab probleeme lahendada, plaanida, abstraktselt mõelda, õppida kiirelt ja enda kogemustest. AGI-d pole veel saavutatud tänapäeval, vaatamata sellest, enamus firmad reklaamivad, et neil on AGI tasemel tehisintellekt, aga tegelikkus on see, et neil on ainult ANI tasemel tehisintellekt, mis juhtumisi on optimiseeritud ainult ühe probleemi lahendamiseks <ref name="strelkova" />.

ASI ehk Tehis Superintellekt. ASI võib olla natukene targem kui inimene, aga võib olla ka üle miljardi korra targem. Mis on huvitav on see, et loomade ja inimeste intelligentsuse vahe on ekstreemselt suur võrreldes lolli ja targa inimese vahelise intelligentsusega. Ehk hetkel millal meie tehisintellekt jõuab ‘lolli inimese’ tasemele, järgmine hetk millal märkame, on AI meist juba ammu ette jõudnud. Sellise tehisintellekti saavutamiseni on veel mõnda aega minna, aga kui jõutakse sellisele tasemele, muutub inimeste elu eeldatavasti drastiliselt paremaks, kuid kuna tegemist on väga targa tehisintellektiga, on võimalik ka täielik polaarne vastand <ref name="strelkova" />. Kuidas aga on meil võimalik jõuda AGI-ni?

== AI mudelid ==

Teadlased on otsustanud võtta inspiratsiooni loodusest ehk täpsemalt inimeste ajudest, sest inimeste ajud on bioloogiline tõestus, et tarka aju on võimalik teha. Kui teadlased seda lõpuks pöördprojekteerida suudavad siis saavad nad leida sellest inspiratsiooni ning innoveerida uusi ideid kuidas teha tehisintellekti efektiivsemaks ning vähem energia kulukamaks.

Nii bioloogilised kui ka tehnoloogilised intellektid kasutavad tihti neurovõrke, millest viimane väga tihti võtabki inspiratsiooni bioloogilisest intelligentsusest. Neurovõrkudes on neuronid ühendatud omavahel läbi sünapside, ning kui mingi tegevus on positiivne ja käivitab tasumehannismi (näiteks dopamiini), siis see neuronite vaheline tee ehk ajuühendus muutub tugevamaks. Eksisteerib ka vastupidine efekt: kui mingi tegevus on halb, siis antud ajuühendus tulevikus nõrgeneb. Seda meetodit kasutakse ka tehisintellektiteaduses läbi võtte nimega stiimulõpe. Kui antakse programmile mingi objekt ja programm arvab selle õigesti ära, siis tugevneb ajuühendus - kui on vale ja saab teada mis tegelikkus oli, proovib programm unustada seost millega ta jõudis vale vastuseni. Võõraste objektide juhul, saab lisada juurde andmebaasi, tekitades uue ühenduse <ref name="goertzel">Goertzel, Ben. 2016. “Artificial General Intelligence.” Scholarpedia. http://www.scholarpedia.org/article/Artificial_General_Intelligence.</ref>.

== Geneetilised algoritmid ==

Evolutsiooni saab emuleerida kasutades geneetika algoritmi. Geneetika algoritm genereerib suvalise populatsiooni programme nagu looduses analoogiliselt leitavale evolutsioonile, pärast mida ta kasutab sihifunktsiooni, et määrata iga funktsiooni efektiivsuse ja seejärel valib parimad programmid, mis ta omavahel geneetiliselt rekombineerib (''crossover'') uued programmid koos mõne mutatsiooniga ning mutatsioon sarnaneb ise local search algoritmile.

Geneetika algoritmiga saab genereerida evolutsiooniliselt uusi ajusid, mille seast valitakse kõige targem aju, isegi kui sellel ajul on negatiivsed omaduses nagu energiakulu suurus on liiga suur siis valitakse ta ikka, sest töö eesmärk on leida kõige targem aju millest genereerida uusi targemaid ajusid kuni lõpuks jõutakse välja AGI tasemel ajuni <ref>“Crossover (genetic algorithm).” n.d. Wikipedia. https://en.wikipedia.org/wiki/Crossover_(genetic_algorithm).</ref>.

== AGI raskuste ületamine ==

Kui AGI arendus osutub liiga raskeks, siis üks võimalus mida teadlased kasutavad on probleemi delegeerimine ANI-le. Üleaja on arvutitel võimalik jõuda õige lahenduseni AGI probleemile iseenesest, mis vabastab meid probleemist, milleks on raskete matemaatiliste algoritmide ja probleemide lahendamine. Meetod mõnes mõttes sarnaneb hüperheuristikatele, mis üritavad läbi ML meetodite valida ja kombineerida lihtsamaid heuristikaid, või sel juhul, konstrueerida tehisintellekte.

== Tehnoloogilised prognoosid ==

Tänapäeva kultuuris võib igal pool leida ebamäärast kartust tehisintellekti suhtes: tegu on tehnoloogiaga mille olemuses ei olda kindlad ja millel on tõsised implikatsioonid tervele inimkonnale. Ka spetsialistide ringides leidub igasuguseid analüüse AI suhtes, alates nendest kes usuvad et see ei tule kunagi, nendeni kes arvavad et singulaarsus on kohe meie nurga taga ja tõotab ainult halba.

Mõnevad usuvad, et AI prognoosid on liiga optimistlikud. Tihti näidatakse, et kõik eelmised ennustused inimeste poolt, keda loetaks valdkonnas ekspertideks, on täielikult mööda läinud. Üks uuring kompileeris üle 250 tähtsa ennustuse ja leidis, et nende kvaliteet on keskmiselt väga madal. Ei leitud isegi suurt vahet ekspertide ja mitteprofessionalide vahel. Lisaks ka jõuti üleüldise teoreetilise arvamuseni, et AI ennustuste baas ei saa olla teoreetiliselt eriti tugev <ref>Sotala, Kaj, and Stuart Armstrong. 2014. “Beyond Artificial Intelligence.” In Beyond Artificial Intelligence: The Disappearing Human-Machine Divide, edited by Eva Zackova, Jozef Kelemen, and Jan Romportl, 11-29. N.p.: Springer International Publishing. 10.1007/978-3-319-09668-1_2.</ref>.

== AI riskid ==

Väga tüüpiliseks mureks on apokalüptilised stsenaariod nagu “kuri tehisintellekt” või ''instrumental convergence''. Esimene nendest muredest tihti tuleneb aga tehisintellekti antropomorfeerimisest, ehk ekslik inimlike omaduste sidumine AI-le. Arvatavasti aga keskkond, milles me arendame tehisintellekti, ei arene samat moodi nagu inimkond. Tehisintellektide puhul oleme meie need, kes annavad AI-le normatiivse jõu, ehk teises mõttes väärtused või näiteks geneetilise programmeerimise puhul sihifunktsioonid. Tehisintellektil ei tekigi situatsiooni, mis nõuaks tal arendada tundeid nagu ahnus või pettlikus (Yudkowsky 2008). Realistlikumaks probleemiks on aga teine mainitud mure, mille alusel intelligentsed agendid nähtavisti ohutute eesmärkidega võivad väljendada ennast üllatavalt ja mitteinimlikult. Kõige populaarsem näide sellest on kirjaklambri maksimeerija. Mõtteeksperiment palub ette kujutada grupi teadlas-ettevõtjaid, kes soovivad toota võimalikult palju kirjaklambreid, ja selle eesmärgi täitmiseks koostasid nad tehisintellekti. Mida nad aga ei oodanud on see, et AI saab aru, et inimesed raiskavad tähtsaid ressursse, millest oleks muidu võimalik teha isegi rohkem kirjaklambreid. Orjastatud inimkond on ka arvatavasti produktiivsem kirjaklambrite tootja. Selle probleemi üldistatud vorm on valesti sätitud AI sihid, mida leiab ka olemasolevate ANI sihifunktsioonide puhul <ref name="goals">“Misaligned goals in artificial intelligence.” n.d. Wikipedia. https://en.wikipedia.org/wiki/Misaligned_goals_in_artificial_intelligence.</ref>.

Mõned tugevamad AI-d peaksid suutma ka jõuda mudeliteni, mis üritavad sihifunktsiooni “petta” suurema kasumini jõudmiseks, sest meie tegelikke soove saame me arvutile kommunikeerida ainult sihifunktsioonväärtuste kaudu. Seesugune AI-tegevus on juba esinenud näiteks roobotikas või videomänguarenduses. Viimase näiteks oleks Tetrise mängubot, kelle sihifunktsioon arvutas tema ellujäämisaega. AI aga suutis koodivea üles leides ellu jäämiseks mängu enda pausile panna <ref name="goals" />.

Küll aga ei ole tehisintellektil motivatsiooni muuta oma põhilisi väärtusi, sest see oleks vastuolus tema olemasolevatele motivatsioonidele, milleks on antud väärtuste maksimeerimine. Sarnane küsimus tekib ka ühes posthumanismi liigis, kus küsitakse, et kas inimesest võib kunagi areneda olend, kellel on täielikult erinevad põhiväärtused meie omadest. Pole aga selget põhjust, miks me peaksime soovima oma soove muuta, kui need uued soovid just ei aita kaasa mõnedele muudele praegustele soovidele.

Kui tõenäoline on, et sellised probleemid meil tekivad? Selliseid riske tõstab fakt, et inimkond ei tööta AGI-de kallal koos ühe tiimina (ega praeguse ajalootrajektoori järgide ennustades arvatavasti ei hakkagi). Selle asemel konkureerivad omavahel riigid ja ka riikides asetsevad korporatsioonid, mis kõik soovivad kiirendada tehnoloogiaarengut kasumi ja võimu maksimeerimiseks; ohutus jääb sekundaarseks. Eriti tugev näide oleks võistlus singulaarsuseni, sest esimene kes selleni jõuab, arvatavasti jääb teistest ette juba ajaloo lõpuni <ref>Yudkowsky, Eliezer. 2008. “Artificial Intelligence as a positive and negative factor in global risk.” In Global Catastrophic Risks, edited by Milan M. Cirkovic and Nick Bostrom. N.p.: OUP Oxford.</ref>.

Neo-ludistlik mõtlemine pole aga lahendus kõikidele nendele muredele. AI arendust ei ole võimalik praeguseid jõudünaamikaid arvestades peatada, eelistatam on hoopis vastutustundlik arendus. Tehnoloogial on radikaalne potentsiaal muuta maailma: muutused mida võib tuua tehnoloogiline singulaarsus ei ole isegi mudelleeritavad. Ennustada ette, mis juhtub hetkel mil AI suudab ennast edasi arendada ja tungida ka läbi riistvaraprobleemide, on hetk mil inimkond asub täielikusse tundmatusse. Üks tähtis idee on selline, mis väidab, et AI muutub hoopis meie enda osaks: sel juhul ei olegi olemas täielikult eraldi AI agenti oma normatiivsete eesmärkidega, vaid hoopis metafooriline neljas ajukiht. Isegi praegu võib interpreeterida koduarvuteid ja telefone kui välimisi osi meie ajust. Internet ja otsingumootorid on justkui kõrge latsentsusega massiivne mälukogum.

E-ITSPEA rühmatööd

2021-12-06T03:39:26Z

Ranton:

[[e-ITSPEA|Tagasi kursuse esilehele]]

Siia tuleks panna kursuse toimumise ajal kirja rühmatööde teemad ja asukohad.

Rühm 1
Teema: "Miks kardetakse tehisintellekti?"
Rühmaliikmed: Marjam Nesterova, Kaisa Liiv, Katre Siller, Timur Habibulin, Kristina Aprelkova. https://wiki.itcollege.ee/index.php/Miks_kardetakse_tehisintellekti%3F.

Rühm 2
Teema: "Infojagamise ohud sotsiaalmeedias"
Rühmaliikmed: Maido Paalmäe, Triinu Pärnapuu, Rasmus Pidim, Karl Rikkonen. https://wiki.itcollege.ee/index.php/Infojagamise_ohud_sotsiaalmeedias

Rühm 3
Teema: "Biomeetrilise andmetöötluse vead ja head."
Rühmaliikmed: Jevgenia Dõmša, Laura Reins, Hanna Ilves, Sandra-Liis Mägi, Alicia Ljogkaja https://wiki.itcollege.ee/index.php/User:Jedoms

Rühm 4
Teema: "Infotehnoloogilise ühiskonna apokalüpsis? - ülemaailmne elektrikatkestus"
Rühmaliikmed: Triinu-Liis Vaikma, Alice Buht, Grete Eerikson, Mari-Liis Gabrel. https://wiki.itcollege.ee/index.php/Talk:E-ITSPEA_r%C3%BChmat%C3%B6%C3%B6d#Infotehnoloogilise_.C3.BChiskonna_apokal.C3.BCpsis.3F_-_.C3.9Clemaailmne_elektrikatkestus

Rühm 5
Teema: "IT arengu mõju noortele"
Rühmaliikmed: Timo Kund, Markus Kostabi, Romet Tony Jõenurm, Joonas Klemmer. https://wiki.itcollege.ee/index.php/IT_arengu_m%C3%B5ju_noortele

Rühm 6
Teema: "Autonoomsed sõidukid"
Rühmaliikmed: Joosep Mart Männik, Roma Imran Tariq, Danyil Kurbatov, Ahto Jalak, Svetlana Suhhorukova. https://wiki.itcollege.ee/index.php/Autonoomsed_s%C3%B5idukid_abiks_erivajadustega_inimestele

Rühm 7
Teema: "Deep Blue"
Rühmaliikmed: Markus Johan Aug, Kati Lõhmus, Getter Saar https://wiki.itcollege.ee/index.php/Deep_Blue

Rühm 8
Teema: "Esoteerilised programmeerimiskeeled"
Rühmaliikmed: Taeri Saar, Dariana Aav, Mikkel Paat, Timur Tamberg, Gen Lee
https://wiki.itcollege.ee/index.php/Esoteerilised_programmeerimiskeeled

Rühm 9
Teema: "Internetisuhtluse viisid ja sotsiaalsed aspektid"
Rühmaliikmed: Anet Mitt, Andžei Veidenbaum, Tanel Loigam, Reio Opromei, Maria Bljahhina

Rühm 10
Teema: "Tumeveebi nõutuimad tooted ja teenused"
Rühmaliikmed: Vitali Logvin, Roman Mihhejev, Sergei Razguljajev, Anneli Väli
https://wiki.itcollege.ee/index.php/Tumeveebi_n%C3%B5utuimad_tooted_ja_teenused

Rühm 11
Teema: "Digitaalõiguste haldamine vs illegaalne rakendustarkvara"
Rühmaliikmed: Sten Tammemäe, Aleksander Kampus, Markus Martin, Roger Käosaar
https://wiki.itcollege.ee/index.php/Digitaalõiguste_haldamine_vs_illegaalne_rakendustarkvara

Rühm 12
Teema: "Tehisintellekt ja tehnoloogia areng"
Rühmaliikmed: Eke-Martin Paas, Randel Tõnismaa, Thomas Väärtnõu
https://wiki.itcollege.ee/index.php/Tehisintellekt_ja_tehnoloogia_areng

Rühm 13
Teema: "VR võimalused ja tulevik"
Rühmaliikmed: Daniil Iljin, Nastasya Molodezheva, Olga Nehajeva, Kristofer Putšinin
https://wiki.itcollege.ee/index.php/VR_v%C3%B5imalused_ja_tulevik

Rühm 14
Teema: "IoT"
Rühmaliikmed: Ander Austa, Silver Mihkel Salujärv, Ats Kiisa, Marek Ott

Rühm 15
Teema: "Õuna revolutsioon - Newtonist Jobsini"
Rühmaliikmed: Diana Labunets, Darja Obuhhova, Robert Unt, Jegor Borissov, Valeri Tšernov.

Rühm 16
Teema: "Digitaalsed lahendused tööturul ja õppeasutustes"
Rühmaliikmed: Daniel Vasser, Karol-Ari Krimses, Kätlin Rajamäe, Steven Salmistu, Talis Paas. https://wiki.itcollege.ee/index.php/Tehnoloogilised_lahendused_t%C3%B6%C3%B6turul_ja_%C3%B5ppeasutuses

Rühm 17
Teema: IT arengu mõju spordile
Rühmaliikmed: Stenver Savi, Karl Stefan Lill, Mathias Ranna

Rühm 18
Teema: Krüptoraha tähtsus tänapäeva maailmas
Rühmaliikmed: Kirill Mošegov, Renat Aparin, Deniz Levašjov

Rühm 19
Teema: Läbi tehnoloogia üliinimeseks?
Rühmaliikmed: Fred Kaur, Madrid Babajev, Aleksandra Vassilissa Garkuša, Kirill Seredjuk, Edgar Vildt https://wiki.itcollege.ee/index.php/Läbi_tehnoloogia_üliinimeseks

Rühm 20
Teema: "Arvutimängude litsentsirikkumised tänapäeval"
Rühmaliikmed: Arne Antov, Roland Kastein, Erik Johannes Keldrima, Andree Uuetoa

Rühm 21
Teema: "Androidi tekkimine ja areng"
Rühmaliikmed: Aleksandr Borovkov, Kristina Kavelitš, Daniel Geller, Alen Siilivask
https://wiki.itcollege.ee/index.php/Androidi_tekkimine_ja_areng

Rühm 22
Teema: "Neuralink ja ühiskond"
Rühmaliikmed: Hendrik Kuhi, Ronald-Reigor Lehtsaar, Nikita Kašnikov, Ingmar Markus

Rühm 23
Teema: “IT: ilmumine ja areng Eestis”
Rühmaliikmed: Artjom Stepanov, Ariana Leštšuk https://wiki.itcollege.ee/index.php/IT_ilmumine_ja_areng_Eestis

Rühm 24
Teema: "Levinumad operatsioonisüsteemid ja nende asutajad"
Rühmaliikmed: Gleb Poljakov, Roman Vilu, Romet Reino, Erik M https://wiki.itcollege.ee/index.php/Levinumad_operatsioonis%C3%BCsteemid_ja_nende_asutajad

Rühm 25
Teema: "Masinnägemine ja selle rakendamine kaasaegses maailmas"
Rühmaliikmed: Dmitri Sobolev, Leonid Peskov, Pavel Petrov https://wiki.itcollege.ee/index.php/Masinn%C3%A4gemine_ja_selle_rakendamine_kaasaegses_maailmas

Rühm 26
Teema: "Krüptoraha"
Rühmaliikmed: Deniz Levasjov, Renat Aparin, Kirill Mosegov https://wiki.itcollege.ee/index.php/User_talk:Deleva
[[e-ITSPEA|Tagasi kursuse esilehele]]
[[Category:ITSPEA]]

Transhumanism ja tehnoloogia areng

2021-12-06T03:37:49Z

Ranton: Blanked the page

Transhumanism ja tehnoloogia areng

2021-12-06T03:37:16Z

Ranton: Replaced content with "?"

Tehisintellekt ja tehnoloogia areng

2021-12-06T03:36:27Z

Ranton: Created page with "== Riistvara roll tehisintellektis ja ujukoma tehted sekundis == Tehisintellekti arengus mängib rolli mitu faktorit, kuid vaieldamatult kõige suuremat rolli mängib riistva..."

== Riistvara roll tehisintellektis ja ujukoma tehted sekundis ==

Tehisintellekti arengus mängib rolli mitu faktorit, kuid vaieldamatult kõige suuremat rolli mängib riistvara. Nimelt, tehisintellekt areneb riistvara arengu järgi. Riistvara areng ei ole nii stabiilne kui paljud arvaksid, eriti eeldades, et kõik jälgib Moore’s seadust.

Stagnatsioon on üks faktor mis mõjutab riistvara arengut. Hea näide sellest, oleks see, kui Intel stagneerus 2012-2019 keskprotsessorite alal, kuna neil ei olnud mingit konkurentsi. Peaks mainima, et keskprotsessorid ei mängi enam nii suurt rolli komputatsioonis, seda rolli täidab rohkem nüüd accelerator-id (näiteks: ASIC, FPGA ja GPU) millel mõne tuuma asemel, on neid tuhandeid - GPU-des on nende nimi ALU (Arithmetic Logic Unit), mille kogus on viimasel ajal väga suureks läinud. ALU on fundamentaalne täieliku komputatsiooni jõudluse arvutamiseks ja selle niinimetatud universaalne mõõtühik on FLOPS (Floating Point Operations Per Second), täpsemalt FP32 FLOP, kuid tänapäeval kasutatakse TFLOP-i: T indikeerib tera, ehk 10 astmel 12.

FLOPS = ALU-de kogus * taktsagedus (Hz) * 2

== Kas FLOPS on ainus mõõtühik? ==

Lühike vastus on ei. FP32 FLOP võtab arvesse ainult ujukomaarvude arvutamist. Seal on olemas ka INT, ehk täisarv. Number 32, FP32-s tähendab 32-bitti täpsust. On olemas 8, 16, 64 ja muid täpsusi. Siiski, on FP32 FLOP tuntud kõige paremini ning kasutatakse kõige rohkem. TFLOPS on kasulikeim mõõtühik GPU-de jaoks - mis on siiani laialdaselt kasutatud superarvutites & tavaarvutites. Tulevikus hakkame nägema rohkem spetsiifilisi kiipe & tükke neist sisse ehitatud protsessoritesse - või videokaartidesse: Tensor core - Nvidia, TPU - ARM-baasil SoC-d. Tegemist on ASIC/FPGA-dega - mis on väga head spetsiifilistes asjades, näiteks tehisintellekti kiirendamises.

== Praegused kõige kiiremad GPU-d ==

GPU-d, kuna neid kasutatakse üldiselt kõige rohkem suure jõudluse saamiseks superarvutites - samuti on GPU tavaliselt kõige võimelisem arvutis. On öeldud, et inimese aju on umbkaudselt 100-10000 TFLOPS (eeldatavasti võimatu saada sellist numbrit täpselt), praegune kõige kiirem GPU (Graphics Processing Unit), AMD MI250X-l on umbes 96 TFLOPS FP32 komputatsiooni võimsust. Võrreldes eelmise parimaga, Nvidia A100 & AMD MI100, on MI250X circa 2-5x kiirem toores FP32 komputatsioonis. Palju sellest on tänu uuele MCM (Multi-chip module) arhitektuurile & TSMC 6nm tootmisprotsessile <ref>AI Impacts. 2017. “Brain performance in FLOPS – AI Impacts.” AI Impacts. https://aiimpacts.org/brain-performance-in-flops/.</ref>.

== Millest tuleneb kiirus GPU-s, ehk mikrokiibis? ==

Kõik mikrokiibid, põhiliselt räni baasil, kasutavad transistoreid arvutusteks. Transistor ise on kolme väljaviiguga pooljuhtseadis ehk triood. Üldiselt on transistorid, mis on räni baasil, MOSFET (Metal-oxide-semiconductor-field-effect transistor) sarnased. Tänapäeval on keskmisel kiibil üle 1000 miljoni transistori <ref>Elprocus. n.d. “What is the MOSFET: Basics, Working Principle and Applications.” ElProCus. https://www.elprocus.com/mosfet-as-a-switch-circuit-diagram-free-circuits/.</ref>.

Transistoreid disainitakse erinevaks, eriti nüüd, sest tootmisprotsess on nii väikseks läinud millega on tulnud kaasa mõningaid probleeme - suurim neist olles elektronide lekkimine üle transistorite ja kui palju ruumi transistor ise võtab. Praegusel hetkel kasutatuim transistori disain modernsetes mikrokiipides on FinFET.

Väiksem transistori suurus on väga oluline järgmiste punktide pärast:
On võimalik rohkem transistore ühele kiibile mahutada - mis tähendab ka seda, et rohkem tuumasi, ALU-si, mälu saab panna kiibile.
Energiakulu on tunduvalt väiksem, et saada võrdväärset jõudlust eelmise generatsiooni mikrokiibiga. Samuti takistus on väiksem üle sama arv transistore.
Sama võimsa kiibi tootmine (võrreldes eelmise generatsiooniga) on odavam kuna saab teha väiksema kiibi. Räniplaadid on üpris kallid & mida suurem on kiip, seda rohkem defekte tekib seal - seega loogiliselt, kui kiip on väiksem, saab ühelt plaadilt rohkem kiipe mis omaette tähendab ka seda, et see on odavam.

Üldisemalt, on olemas laialiselt tuntud seadus nimega Moore’s Law. Moore’s Law eeldab, et iga 2 aasta tagant kahekordistub transistorite arv mikrokiipides. Tegemist, aga, ei ole teaduslikult tõestatud teooriaga - ega seadusega. Siiski, on Moore’ seadus üldises pildis täpne olnud. Moore’ seadus on surmaohus olnud tükk aega tootmisprotsessi pärast. Nimelt, tootmisprotsess on jõudmas sinna punkti kus ei ole füüsiliselt võimalik väiksemaks minna. Praegune masstoodangus kõige väiksem protsess on 5nm - varsti 4nm.

IBM on demonstreerinud 2nm transistorit - seega sellest väiksem on eeldatavasti võimalik. Teoorias rääkides, võib olla 1 aatomi suurune transistor võimalik, aga sellest väiksemat ei ole võimalik teha. Kuidas hoida Moore’ seadust elus? - erinevad tehnoloogiad mida implementeeritakse mikrokiipidesse saavad hoida sellist arbitraarset seadust kauemaks elus: MCM, 3D-packaging.

== Jõudlus tulevikus ==

Ennustada midagi sellist, on väga raske kuna me ei tea ette, mis tulevikus võib juhtuda. Olgu järjekordne stagnatsioon - või hoopis revolutsiooniline areng. Praegusel hetkel, on kõige kiirem GPU 96 TFLOPS-i (MI250X). Ei ole ebarealistlik öelda, et 2027 paiku on võimalik tavainimesel soetada sellise võimsusega videokaarti 1000€ eest.

Tänapäeval valmivad “exascale” superarvutid - mis suudavad teha 10 astmel 18 kalkulatsiooni sekundis. Arvestades mitte-ametlikku informatsiooni tuleviku kiipide kohta, ei oleks konservatiivne öelda, et 2027-2030 sekkub juurde ka zettascale superarvutid.

== Tuleviku ennustused ==

Paljud ennustused tuleviku komputatsiooni jõudlusest on valed olnud. Suurem osa ajast on leida, et ennustused on liialt konservatiivsed & üleüldiselt alahindavad arengut.
On ka ennustusi, mis võtavad teada, et paljud ennustused on valed olnud kuna alahindanud - sel juhul on tihti ülehinnatud.

Kõige täpsem ennustus, mis on laialt levinud, on Tim Urbani poolt, tema artiklis “The AI Revolution: The Road to Superintelligence”. Tegemist on artikliga, mis kirjutati aastal 2015, kuid estimatsioon on liialt optimistlik. Ta ennustas, et aastaks 2025 on võimalik kiip, mis maksab 1000$ & on 10 astmel 16 CPS (Calculations per second, umbes võrdväärne FLOP-ile). Kahjuks, praegu ei tundu, et seda juhtub, sest praegune kõige võimsam kiip, mis maksab 1000$, võimaldab ainult 30 TFLOPS. Aastal 2025, 1000$ eest on eeldatavasti võimalik saada kiip, mis võimaldab 100 TFLOPS-i.

Võib tõesti kasutada Moore’ seadust - detailselt, aga, on praktiliselt võimatu ennustada komputatsiooni võimsust tulevikus. Kui oleks võimalik küsida kiibi arhitektidelt, aastal 2000, mis on kiipide komputaalne võimsus 2020, nad paneksid rohkelt mööda.
Arengul on liiga palju muutujaid, et seda ennustada laias pildis kümneid aastaid ette.

== Kvantarvutid ==

Kvantarvuti kasutab ära kvantmehaanikat, et saada hiiglaslike tõuse komputatsioon jõudluses. Praegusel hetkel ei usuta, et kvantarvutid asendavad arvuteid, et lahendada lihtsamaid probleeme - mis iseenesest on mõistlik, sest kvantarvuti nii-öelda kiibid töötavad ainult ekstreemselt külmades temperatuurides kuid mõte ei ole asendada tavainimese arvuit, vaid rõhk on tehisintellektil, on võimalik kvantarvutit kasutada ka tehisintellekti kiirendamiseks.

Kvantarvuti on eriline, sest see kasutab qubitte, ehk kvantbitte. Kvantbitt saab olla 1 ja 0 samal ajal, erinevalt tavalisest bitist, mis on kas 0 või 1. Kvantbitil on veel omadusi, näiteks superposition, mis võimaldab mitmel kvantbitil arvutada välja mitu tulemust samaaegselt. Selle abil on võimalik lahendada probleeme, mis võivad tunduda väga keerulised tavalisele arvutile - näiteks kombinatoorika <ref name="giles">Giles, Martin. 2019. “Explainer: What is a quantum computer?” MIT Technology Review. https://www.technologyreview.com/2019/01/29/66141/what-is-quantum-computing/.</ref>.

Kui kasulik on kvantarvuti? Palju rõhku on pandud simulatsioonidele - olgu see meditsiin või tehisintellekt. On tehtud uuringuid, mis tõestavad, et kvantarvutid suudavad tunduvalt kiiremalt joosta tehisintellekti jaoks algoritme.
Täpseid arve ei ole antud, kui palju kiirem kvantarvuti tehisintellektis on, kuid on tõestatud selle potentsiaali - seega tulevik on hele <ref name="giles" />.

== AI liigid ==

ANI ehk Kitsas Tehisintellekt. ANI on kasutuses tänapäeval rohkelt, näiteks: enamus autod, telefonid ja muu riistvara - seda kõik võimaldab tarkvara, ehk ANI. ANI on tehisintellekt, mis on mõeldud lahendama ühte ülesannet: see tehisintellekt suudab mängida malet kõrgemal tasemel kui kõige parim male mängija tänapäeval. Üks tehisintellekti firmadest, nimega OpenAI, kirjutas tehisintellekti programmi, mis mängib Dota 2 professionaalsete mängijate vastu efektiivselt, ning suutis võita 99.4% mängudest. Tesla kasutab ANI-d, et osaliselt võimaldada enda sõidukitel juhtida iseennast ja ennetada arvariisid, reageerides kiiresti sõites autoga ohutusse <ref name="strelkova">Strelkova, Olga. n.d. “Three Types of Artificial Intelligence.” Khmelnitsky National University. https://conf.ztu.edu.ua/wp-content/uploads/2017/05/142.pdf.</ref>.

AGI ehk Üldine Tehisintellekt. AGI on teiste sõnadega tugev tehisintellekt või inimmõistsega samal tasemel tehisintellekt. See tehisintellekt suudab teha kõike mida suudab inimene teha. Ta suudab probleeme lahendada, plaanida, abstraktselt mõelda, õppida kiirelt ja enda kogemustest. AGI-d pole veel saavutatud tänapäeval, vaatamata sellest, enamus firmad reklaamivad, et neil on AGI tasemel tehisintellekt, aga tegelikkus on see, et neil on ainult ANI tasemel tehisintellekt, mis juhtumisi on optimiseeritud ainult ühe probleemi lahendamiseks <ref name="strelkova" />.

ASI ehk Tehis Superintellekt. ASI võib olla natukene targem kui inimene, aga võib olla ka üle miljardi korra targem. Mis on huvitav on see, et loomade ja inimeste intelligentsuse vahe on ekstreemselt suur võrreldes lolli ja targa inimese vahelise intelligentsusega. Ehk hetkel millal meie tehisintellekt jõuab ‘lolli inimese’ tasemele, järgmine hetk millal märkame, on AI meist juba ammu ette jõudnud. Sellise tehisintellekti saavutamiseni on veel mõnda aega minna, aga kui jõutakse sellisele tasemele, muutub inimeste elu eeldatavasti drastiliselt paremaks, kuid kuna tegemist on väga targa tehisintellektiga, on võimalik ka täielik polaarne vastand <ref name="strelkova" />. Kuidas aga on meil võimalik jõuda AGI-ni?

== AI mudelid ==

Teadlased on otsustanud võtta inspiratsiooni loodusest ehk täpsemalt inimeste ajudest, sest inimeste ajud on bioloogiline tõestus, et tarka aju on võimalik teha. Kui teadlased seda lõpuks pöördprojekteerida suudavad siis saavad nad leida sellest inspiratsiooni ning innoveerida uusi ideid kuidas teha tehisintellekti efektiivsemaks ning vähem energia kulukamaks.

Nii bioloogilised kui ka tehnoloogilised intellektid kasutavad tihti neurovõrke, millest viimane väga tihti võtabki inspiratsiooni bioloogilisest intelligentsusest. Neurovõrkudes on neuronid ühendatud omavahel läbi sünapside, ning kui mingi tegevus on positiivne ja käivitab tasumehannismi (näiteks dopamiini), siis see neuronite vaheline tee ehk ajuühendus muutub tugevamaks. Eksisteerib ka vastupidine efekt: kui mingi tegevus on halb, siis antud ajuühendus tulevikus nõrgeneb. Seda meetodit kasutakse ka tehisintellektiteaduses läbi võtte nimega stiimulõpe. Kui antakse programmile mingi objekt ja programm arvab selle õigesti ära, siis tugevneb ajuühendus - kui on vale ja saab teada mis tegelikkus oli, proovib programm unustada seost millega ta jõudis vale vastuseni. Võõraste objektide juhul, saab lisada juurde andmebaasi, tekitades uue ühenduse <ref name="goertzel">Goertzel, Ben. 2016. “Artificial General Intelligence.” Scholarpedia. http://www.scholarpedia.org/article/Artificial_General_Intelligence.</ref>.

== Geneetilised algoritmid ==

Evolutsiooni saab emuleerida kasutades geneetika algoritmi. Geneetika algoritm genereerib suvalise populatsiooni programme nagu looduses analoogiliselt leitavale evolutsioonile, pärast mida ta kasutab sihifunktsiooni, et määrata iga funktsiooni efektiivsuse ja seejärel valib parimad programmid, mis ta omavahel geneetiliselt rekombineerib (crossover) uued programmid koos mõne mutatsiooniga ning mutatsioon sarnaneb ise local search algoritmile.

Geneetika algoritmiga saab genereerida evolutsiooniliselt uusi ajusid, mille seast valitakse kõige targem aju, isegi kui sellel ajul on negatiivsed omaduses nagu energiakulu suurus on liiga suur siis valitakse ta ikka, sest töö eesmärk on leida kõige targem aju millest genereerida uusi targemaid ajusid kuni lõpuks jõutakse välja AGI tasemel ajuni <ref>“Crossover (genetic algorithm).” n.d. Wikipedia. https://en.wikipedia.org/wiki/Crossover_(genetic_algorithm).</ref>.

== AGI raskuste ületamine ==

Kui AGI arendus osutub liiga raskeks, siis üks võimalus mida teadlased kasutavad on probleemi delegeerimine ANI-le. Üleaja on arvutitel võimalik jõuda õige lahenduseni AGI probleemile iseenesest, mis vabastab meid probleemist, milleks on raskete matemaatiliste algoritmide ja probleemide lahendamine. Meetod mõnes mõttes sarnaneb hüperheuristikatele, mis üritavad läbi ML meetodite valida ja kombineerida lihtsamaid heuristikaid, või sel juhul, konstrueerida tehisintellekte.

== Tehnoloogilised prognoosid ==

Tänapäeva kultuuris võib igal pool leida ebamäärast kartust tehisintellekti suhtes: tegu on tehnoloogiaga mille olemuses ei olda kindlad ja millel on tõsised implikatsioonid tervele inimkonnale. Ka spetsialistide ringides leidub igasuguseid analüüse AI suhtes, alates nendest kes usuvad et see ei tule kunagi, nendeni kes arvavad et singulaarsus on kohe meie nurga taga ja tõotab ainult halba.

Mõnevad usuvad, et AI prognoosid on liiga optimistlikud. Tihti näidatakse, et kõik eelmised ennustused inimeste poolt, keda loetaks valdkonnas ekspertideks, on täielikult mööda läinud. Üks uuring kompileeris üle 250 tähtsa ennustuse ja leidis, et nende kvaliteet on keskmiselt väga madal. Ei leitud isegi suurt vahet ekspertide ja mitteprofessionalide vahel. Lisaks ka jõuti üleüldise teoreetilise arvamuseni, et AI ennustuste baas ei saa olla teoreetiliselt eriti tugev <ref>Sotala, Kaj, and Stuart Armstrong. 2014. “Beyond Artificial Intelligence.” In Beyond Artificial Intelligence: The Disappearing Human-Machine Divide, edited by Eva Zackova, Jozef Kelemen, and Jan Romportl, 11-29. N.p.: Springer International Publishing. 10.1007/978-3-319-09668-1_2.</ref>.

== AI riskid ==

Väga tüüpiliseks mureks on apokalüptilised stsenaariod nagu “kuri tehisintellekt” või instrumental convergence. Esimene nendest muredest tihti tuleneb aga tehisintellekti antropomorfeerimisest, ehk ekslik inimlike omaduste sidumine AI-le. Arvatavasti aga keskkond, milles me arendame tehisintellekti, ei arene samat moodi nagu inimkond. Tehisintellektide puhul oleme meie need, kes annavad AI-le normatiivse jõu, ehk teises mõttes väärtused või näiteks geneetilise programmeerimise puhul sihifunktsioonid. Tehisintellektil ei tekigi situatsiooni, mis nõuaks tal arendada tundeid nagu ahnus või pettlikus (Yudkowsky 2008). Realistlikumaks probleemiks on aga teine mainitud mure, mille alusel intelligentsed agendid nähtavisti ohutute eesmärkidega võivad väljendada ennast üllatavalt ja mitteinimlikult. Kõige populaarsem näide sellest on kirjaklambri maksimeerija. Mõtteeksperiment palub ette kujutada grupi teadlas-ettevõtjaid, kes soovivad toota võimalikult palju kirjaklambreid, ja selle eesmärgi täitmiseks koostasid nad tehisintellekti. Mida nad aga ei oodanud on see, et AI saab aru, et inimesed raiskavad tähtsaid ressursse, millest oleks muidu võimalik teha isegi rohkem kirjaklambreid. Orjastatud inimkond on ka arvatavasti produktiivsem kirjaklambrite tootja. Selle probleemi üldistatud vorm on valesti sätitud AI sihid, mida leiab ka olemasolevate ANI sihifunktsioonide puhul <ref name="goals">“Misaligned goals in artificial intelligence.” n.d. Wikipedia. https://en.wikipedia.org/wiki/Misaligned_goals_in_artificial_intelligence.</ref>.

Mõned tugevamad AI-d peaksid suutma ka jõuda mudeliteni, mis üritavad sihifunktsiooni “petta” suurema kasumini jõudmiseks, sest meie tegelikke soove saame me arvutile kommunikeerida ainult sihifunktsioonväärtuste kaudu. Seesugune AI-tegevus on juba esinenud näiteks roobotikas või videomänguarenduses. Viimase näiteks oleks Tetrise mängubot, kelle sihifunktsioon arvutas tema ellujäämisaega. AI aga suutis koodivea üles leides ellu jäämiseks mängu enda pausile panna <ref name="goals" />.

Küll aga ei ole tehisintellektil motivatsiooni muuta oma põhilisi väärtusi, sest see oleks vastuolus tema olemasolevatele motivatsioonidele, milleks on antud väärtuste maksimeerimine. Sarnane küsimus tekib ka ühes posthumanismi liigis, kus küsitakse, et kas inimesest võib kunagi areneda olend, kellel on täielikult erinevad põhiväärtused meie omadest. Pole aga selget põhjust, miks me peaksime soovima oma soove muuta, kui need uued soovid just ei aita kaasa mõnedele muudele praegustele soovidele.

Kui tõenäoline on, et sellised probleemid meil tekivad? Selliseid riske tõstab fakt, et inimkond ei tööta AGI-de kallal koos ühe tiimina (ega praeguse ajalootrajektoori järgide ennustades arvatavasti ei hakkagi). Selle asemel konkureerivad omavahel riigid ja ka riikides asetsevad korporatsioonid, mis kõik soovivad kiirendada tehnoloogiaarengut kasumi ja võimu maksimeerimiseks; ohutus jääb sekundaarseks. Eriti tugev näide oleks võistlus singulaarsuseni, sest esimene kes selleni jõuab, arvatavasti jääb teistest ette juba ajaloo lõpuni <ref>Yudkowsky, Eliezer. 2008. “Artificial Intelligence as a positive and negative factor in global risk.” In Global Catastrophic Risks, edited by Milan M. Cirkovic and Nick Bostrom. N.p.: OUP Oxford.</ref>.

Neo-ludistlik mõtlemine pole aga lahendus kõikidele nendele muredele. AI arendust ei ole võimalik praeguseid jõudünaamikaid arvestades peatada, eelistatam on hoopis vastutustundlik arendus. Tehnoloogial on radikaalne potentsiaal muuta maailma: muutused mida võib tuua tehnoloogiline singulaarsus ei ole isegi mudelleeritavad. Ennustada ette, mis juhtub hetkel mil AI suudab ennast edasi arendada ja tungida ka läbi riistvaraprobleemide, on hetk mil inimkond asub täielikusse tundmatusse. Üks tähtis idee on selline, mis väidab, et AI muutub hoopis meie enda osaks: sel juhul ei olegi olemas täielikult eraldi AI agenti oma normatiivsete eesmärkidega, vaid hoopis metafooriline neljas ajukiht. Isegi praegu võib interpreeterida koduarvuteid ja telefone kui välimisi osi meie ajust. Internet ja otsingumootorid on justkui kõrge latsentsusega massiivne mälukogum.

Transhumanism ja tehnoloogia areng

2021-12-06T03:34:05Z

Ranton:

== Riistvara roll tehisintellektis ja ujukoma tehted sekundis ==

Tehisintellekti arengus mängib rolli mitu faktorit, kuid vaieldamatult kõige suuremat rolli mängib riistvara. Nimelt, tehisintellekt areneb riistvara arengu järgi. Riistvara areng ei ole nii stabiilne kui paljud arvaksid, eriti eeldades, et kõik jälgib Moore’s seadust.

Stagnatsioon on üks faktor mis mõjutab riistvara arengut. Hea näide sellest, oleks see, kui Intel stagneerus 2012-2019 keskprotsessorite alal, kuna neil ei olnud mingit konkurentsi. Peaks mainima, et keskprotsessorid ei mängi enam nii suurt rolli komputatsioonis, seda rolli täidab rohkem nüüd accelerator-id (näiteks: ASIC, FPGA ja GPU) millel mõne tuuma asemel, on neid tuhandeid - GPU-des on nende nimi ALU (Arithmetic Logic Unit), mille kogus on viimasel ajal väga suureks läinud. ALU on fundamentaalne täieliku komputatsiooni jõudluse arvutamiseks ja selle niinimetatud universaalne mõõtühik on FLOPS (Floating Point Operations Per Second), täpsemalt FP32 FLOP, kuid tänapäeval kasutatakse TFLOP-i: T indikeerib tera, ehk 10 astmel 12.

FLOPS = ALU-de kogus * taktsagedus (Hz) * 2

== Kas FLOPS on ainus mõõtühik? ==

Lühike vastus on ei. FP32 FLOP võtab arvesse ainult ujukomaarvude arvutamist. Seal on olemas ka INT, ehk täisarv. Number 32, FP32-s tähendab 32-bitti täpsust. On olemas 8, 16, 64 ja muid täpsusi. Siiski, on FP32 FLOP tuntud kõige paremini ning kasutatakse kõige rohkem. TFLOPS on kasulikeim mõõtühik GPU-de jaoks - mis on siiani laialdaselt kasutatud superarvutites & tavaarvutites. Tulevikus hakkame nägema rohkem spetsiifilisi kiipe & tükke neist sisse ehitatud protsessoritesse - või videokaartidesse: Tensor core - Nvidia, TPU - ARM-baasil SoC-d. Tegemist on ASIC/FPGA-dega - mis on väga head spetsiifilistes asjades, näiteks tehisintellekti kiirendamises.

== Praegused kõige kiiremad GPU-d ==

GPU-d, kuna neid kasutatakse üldiselt kõige rohkem suure jõudluse saamiseks superarvutites - samuti on GPU tavaliselt kõige võimelisem arvutis. On öeldud, et inimese aju on umbkaudselt 100-10000 TFLOPS (eeldatavasti võimatu saada sellist numbrit täpselt), praegune kõige kiirem GPU (Graphics Processing Unit), AMD MI250X-l on umbes 96 TFLOPS FP32 komputatsiooni võimsust. Võrreldes eelmise parimaga, Nvidia A100 & AMD MI100, on MI250X circa 2-5x kiirem toores FP32 komputatsioonis. Palju sellest on tänu uuele MCM (Multi-chip module) arhitektuurile & TSMC 6nm tootmisprotsessile <ref>AI Impacts. 2017. “Brain performance in FLOPS – AI Impacts.” AI Impacts. https://aiimpacts.org/brain-performance-in-flops/.</ref>.

== Millest tuleneb kiirus GPU-s, ehk mikrokiibis? ==

Kõik mikrokiibid, põhiliselt räni baasil, kasutavad transistoreid arvutusteks. Transistor ise on kolme väljaviiguga pooljuhtseadis ehk triood. Üldiselt on transistorid, mis on räni baasil, MOSFET (Metal-oxide-semiconductor-field-effect transistor) sarnased. Tänapäeval on keskmisel kiibil üle 1000 miljoni transistori <ref>Elprocus. n.d. “What is the MOSFET: Basics, Working Principle and Applications.” ElProCus. https://www.elprocus.com/mosfet-as-a-switch-circuit-diagram-free-circuits/.</ref>.

Transistoreid disainitakse erinevaks, eriti nüüd, sest tootmisprotsess on nii väikseks läinud millega on tulnud kaasa mõningaid probleeme - suurim neist olles elektronide lekkimine üle transistorite ja kui palju ruumi transistor ise võtab. Praegusel hetkel kasutatuim transistori disain modernsetes mikrokiipides on FinFET.

Väiksem transistori suurus on väga oluline järgmiste punktide pärast:
On võimalik rohkem transistore ühele kiibile mahutada - mis tähendab ka seda, et rohkem tuumasi, ALU-si, mälu saab panna kiibile.
Energiakulu on tunduvalt väiksem, et saada võrdväärset jõudlust eelmise generatsiooni mikrokiibiga. Samuti takistus on väiksem üle sama arv transistore.
Sama võimsa kiibi tootmine (võrreldes eelmise generatsiooniga) on odavam kuna saab teha väiksema kiibi. Räniplaadid on üpris kallid & mida suurem on kiip, seda rohkem defekte tekib seal - seega loogiliselt, kui kiip on väiksem, saab ühelt plaadilt rohkem kiipe mis omaette tähendab ka seda, et see on odavam.

Üldisemalt, on olemas laialiselt tuntud seadus nimega Moore’s Law. Moore’s Law eeldab, et iga 2 aasta tagant kahekordistub transistorite arv mikrokiipides. Tegemist, aga, ei ole teaduslikult tõestatud teooriaga - ega seadusega. Siiski, on Moore’ seadus üldises pildis täpne olnud. Moore’ seadus on surmaohus olnud tükk aega tootmisprotsessi pärast. Nimelt, tootmisprotsess on jõudmas sinna punkti kus ei ole füüsiliselt võimalik väiksemaks minna. Praegune masstoodangus kõige väiksem protsess on 5nm - varsti 4nm.

IBM on demonstreerinud 2nm transistorit - seega sellest väiksem on eeldatavasti võimalik. Teoorias rääkides, võib olla 1 aatomi suurune transistor võimalik, aga sellest väiksemat ei ole võimalik teha. Kuidas hoida Moore’ seadust elus? - erinevad tehnoloogiad mida implementeeritakse mikrokiipidesse saavad hoida sellist arbitraarset seadust kauemaks elus: MCM, 3D-packaging.

== Jõudlus tulevikus ==

Ennustada midagi sellist, on väga raske kuna me ei tea ette, mis tulevikus võib juhtuda. Olgu järjekordne stagnatsioon - või hoopis revolutsiooniline areng. Praegusel hetkel, on kõige kiirem GPU 96 TFLOPS-i (MI250X). Ei ole ebarealistlik öelda, et 2027 paiku on võimalik tavainimesel soetada sellise võimsusega videokaarti 1000€ eest.

Tänapäeval valmivad “exascale” superarvutid - mis suudavad teha 10 astmel 18 kalkulatsiooni sekundis. Arvestades mitte-ametlikku informatsiooni tuleviku kiipide kohta, ei oleks konservatiivne öelda, et 2027-2030 sekkub juurde ka zettascale superarvutid.

== Tuleviku ennustused ==

Paljud ennustused tuleviku komputatsiooni jõudlusest on valed olnud. Suurem osa ajast on leida, et ennustused on liialt konservatiivsed & üleüldiselt alahindavad arengut.
On ka ennustusi, mis võtavad teada, et paljud ennustused on valed olnud kuna alahindanud - sel juhul on tihti ülehinnatud.

Kõige täpsem ennustus, mis on laialt levinud, on Tim Urbani poolt, tema artiklis “The AI Revolution: The Road to Superintelligence”. Tegemist on artikliga, mis kirjutati aastal 2015, kuid estimatsioon on liialt optimistlik. Ta ennustas, et aastaks 2025 on võimalik kiip, mis maksab 1000$ & on 10 astmel 16 CPS (Calculations per second, umbes võrdväärne FLOP-ile). Kahjuks, praegu ei tundu, et seda juhtub, sest praegune kõige võimsam kiip, mis maksab 1000$, võimaldab ainult 30 TFLOPS. Aastal 2025, 1000$ eest on eeldatavasti võimalik saada kiip, mis võimaldab 100 TFLOPS-i.

Võib tõesti kasutada Moore’ seadust - detailselt, aga, on praktiliselt võimatu ennustada komputatsiooni võimsust tulevikus. Kui oleks võimalik küsida kiibi arhitektidelt, aastal 2000, mis on kiipide komputaalne võimsus 2020, nad paneksid rohkelt mööda.
Arengul on liiga palju muutujaid, et seda ennustada laias pildis kümneid aastaid ette.

== Kvantarvutid ==

Kvantarvuti kasutab ära kvantmehaanikat, et saada hiiglaslike tõuse komputatsioon jõudluses. Praegusel hetkel ei usuta, et kvantarvutid asendavad arvuteid, et lahendada lihtsamaid probleeme - mis iseenesest on mõistlik, sest kvantarvuti nii-öelda kiibid töötavad ainult ekstreemselt külmades temperatuurides kuid mõte ei ole asendada tavainimese arvuit, vaid rõhk on tehisintellektil, on võimalik kvantarvutit kasutada ka tehisintellekti kiirendamiseks.

Kvantarvuti on eriline, sest see kasutab qubitte, ehk kvantbitte. Kvantbitt saab olla 1 ja 0 samal ajal, erinevalt tavalisest bitist, mis on kas 0 või 1. Kvantbitil on veel omadusi, näiteks superposition, mis võimaldab mitmel kvantbitil arvutada välja mitu tulemust samaaegselt. Selle abil on võimalik lahendada probleeme, mis võivad tunduda väga keerulised tavalisele arvutile - näiteks kombinatoorika <ref name="giles">Giles, Martin. 2019. “Explainer: What is a quantum computer?” MIT Technology Review. https://www.technologyreview.com/2019/01/29/66141/what-is-quantum-computing/.</ref>.

Kui kasulik on kvantarvuti? Palju rõhku on pandud simulatsioonidele - olgu see meditsiin või tehisintellekt. On tehtud uuringuid, mis tõestavad, et kvantarvutid suudavad tunduvalt kiiremalt joosta tehisintellekti jaoks algoritme.
Täpseid arve ei ole antud, kui palju kiirem kvantarvuti tehisintellektis on, kuid on tõestatud selle potentsiaali - seega tulevik on hele <ref name="giles" />.

== AI liigid ==

ANI ehk Kitsas Tehisintellekt. ANI on kasutuses tänapäeval rohkelt, näiteks: enamus autod, telefonid ja muu riistvara - seda kõik võimaldab tarkvara, ehk ANI. ANI on tehisintellekt, mis on mõeldud lahendama ühte ülesannet: see tehisintellekt suudab mängida malet kõrgemal tasemel kui kõige parim male mängija tänapäeval. Üks tehisintellekti firmadest, nimega OpenAI, kirjutas tehisintellekti programmi, mis mängib Dota 2 professionaalsete mängijate vastu efektiivselt, ning suutis võita 99.4% mängudest. Tesla kasutab ANI-d, et osaliselt võimaldada enda sõidukitel juhtida iseennast ja ennetada arvariisid, reageerides kiiresti sõites autoga ohutusse <ref name="strelkova">Strelkova, Olga. n.d. “Three Types of Artificial Intelligence.” Khmelnitsky National University. https://conf.ztu.edu.ua/wp-content/uploads/2017/05/142.pdf.</ref>.

AGI ehk Üldine Tehisintellekt. AGI on teiste sõnadega tugev tehisintellekt või inimmõistsega samal tasemel tehisintellekt. See tehisintellekt suudab teha kõike mida suudab inimene teha. Ta suudab probleeme lahendada, plaanida, abstraktselt mõelda, õppida kiirelt ja enda kogemustest. AGI-d pole veel saavutatud tänapäeval, vaatamata sellest, enamus firmad reklaamivad, et neil on AGI tasemel tehisintellekt, aga tegelikkus on see, et neil on ainult ANI tasemel tehisintellekt, mis juhtumisi on optimiseeritud ainult ühe probleemi lahendamiseks <ref name="strelkova" />.

ASI ehk Tehis Superintellekt. ASI võib olla natukene targem kui inimene, aga võib olla ka üle miljardi korra targem. Mis on huvitav on see, et loomade ja inimeste intelligentsuse vahe on ekstreemselt suur võrreldes lolli ja targa inimese vahelise intelligentsusega. Ehk hetkel millal meie tehisintellekt jõuab ‘lolli inimese’ tasemele, järgmine hetk millal märkame, on AI meist juba ammu ette jõudnud. Sellise tehisintellekti saavutamiseni on veel mõnda aega minna, aga kui jõutakse sellisele tasemele, muutub inimeste elu eeldatavasti drastiliselt paremaks, kuid kuna tegemist on väga targa tehisintellektiga, on võimalik ka täielik polaarne vastand <ref name="strelkova" />. Kuidas aga on meil võimalik jõuda AGI-ni?

== AI mudelid ==

Teadlased on otsustanud võtta inspiratsiooni loodusest ehk täpsemalt inimeste ajudest, sest inimeste ajud on bioloogiline tõestus, et tarka aju on võimalik teha. Kui teadlased seda lõpuks pöördprojekteerida suudavad siis saavad nad leida sellest inspiratsiooni ning innoveerida uusi ideid kuidas teha tehisintellekti efektiivsemaks ning vähem energia kulukamaks.

Nii bioloogilised kui ka tehnoloogilised intellektid kasutavad tihti neurovõrke, millest viimane väga tihti võtabki inspiratsiooni bioloogilisest intelligentsusest. Neurovõrkudes on neuronid ühendatud omavahel läbi sünapside, ning kui mingi tegevus on positiivne ja käivitab tasumehannismi (näiteks dopamiini), siis see neuronite vaheline tee ehk ajuühendus muutub tugevamaks. Eksisteerib ka vastupidine efekt: kui mingi tegevus on halb, siis antud ajuühendus tulevikus nõrgeneb. Seda meetodit kasutakse ka tehisintellektiteaduses läbi võtte nimega stiimulõpe. Kui antakse programmile mingi objekt ja programm arvab selle õigesti ära, siis tugevneb ajuühendus - kui on vale ja saab teada mis tegelikkus oli, proovib programm unustada seost millega ta jõudis vale vastuseni. Võõraste objektide juhul, saab lisada juurde andmebaasi, tekitades uue ühenduse <ref name="goertzel">Goertzel, Ben. 2016. “Artificial General Intelligence.” Scholarpedia. http://www.scholarpedia.org/article/Artificial_General_Intelligence.</ref>.

== Geneetilised algoritmid ==

Evolutsiooni saab emuleerida kasutades geneetika algoritmi. Geneetika algoritm genereerib suvalise populatsiooni programme nagu looduses analoogiliselt leitavale evolutsioonile, pärast mida ta kasutab sihifunktsiooni, et määrata iga funktsiooni efektiivsuse ja seejärel valib parimad programmid, mis ta omavahel geneetiliselt rekombineerib (crossover) uued programmid koos mõne mutatsiooniga ning mutatsioon sarnaneb ise local search algoritmile.

Geneetika algoritmiga saab genereerida evolutsiooniliselt uusi ajusid, mille seast valitakse kõige targem aju, isegi kui sellel ajul on negatiivsed omaduses nagu energiakulu suurus on liiga suur siis valitakse ta ikka, sest töö eesmärk on leida kõige targem aju millest genereerida uusi targemaid ajusid kuni lõpuks jõutakse välja AGI tasemel ajuni <ref>“Crossover (genetic algorithm).” n.d. Wikipedia. https://en.wikipedia.org/wiki/Crossover_(genetic_algorithm).</ref>.

== AGI raskuste ületamine ==

Kui AGI arendus osutub liiga raskeks, siis üks võimalus mida teadlased kasutavad on probleemi delegeerimine ANI-le. Üleaja on arvutitel võimalik jõuda õige lahenduseni AGI probleemile iseenesest, mis vabastab meid probleemist, milleks on raskete matemaatiliste algoritmide ja probleemide lahendamine. Meetod mõnes mõttes sarnaneb hüperheuristikatele, mis üritavad läbi ML meetodite valida ja kombineerida lihtsamaid heuristikaid, või sel juhul, konstrueerida tehisintellekte.

== Tehnoloogilised prognoosid ==

Tänapäeva kultuuris võib igal pool leida ebamäärast kartust tehisintellekti suhtes: tegu on tehnoloogiaga mille olemuses ei olda kindlad ja millel on tõsised implikatsioonid tervele inimkonnale. Ka spetsialistide ringides leidub igasuguseid analüüse AI suhtes, alates nendest kes usuvad et see ei tule kunagi, nendeni kes arvavad et singulaarsus on kohe meie nurga taga ja tõotab ainult halba.

Mõnevad usuvad, et AI prognoosid on liiga optimistlikud. Tihti näidatakse, et kõik eelmised ennustused inimeste poolt, keda loetaks valdkonnas ekspertideks, on täielikult mööda läinud. Üks uuring kompileeris üle 250 tähtsa ennustuse ja leidis, et nende kvaliteet on keskmiselt väga madal. Ei leitud isegi suurt vahet ekspertide ja mitteprofessionalide vahel. Lisaks ka jõuti üleüldise teoreetilise arvamuseni, et AI ennustuste baas ei saa olla teoreetiliselt eriti tugev <ref>Sotala, Kaj, and Stuart Armstrong. 2014. “Beyond Artificial Intelligence.” In Beyond Artificial Intelligence: The Disappearing Human-Machine Divide, edited by Eva Zackova, Jozef Kelemen, and Jan Romportl, 11-29. N.p.: Springer International Publishing. 10.1007/978-3-319-09668-1_2.</ref>.

== AI riskid ==

Väga tüüpiliseks mureks on apokalüptilised stsenaariod nagu “kuri tehisintellekt” või instrumental convergence. Esimene nendest muredest tihti tuleneb aga tehisintellekti antropomorfeerimisest, ehk ekslik inimlike omaduste sidumine AI-le. Arvatavasti aga keskkond, milles me arendame tehisintellekti, ei arene samat moodi nagu inimkond. Tehisintellektide puhul oleme meie need, kes annavad AI-le normatiivse jõu, ehk teises mõttes väärtused või näiteks geneetilise programmeerimise puhul sihifunktsioonid. Tehisintellektil ei tekigi situatsiooni, mis nõuaks tal arendada tundeid nagu ahnus või pettlikus (Yudkowsky 2008). Realistlikumaks probleemiks on aga teine mainitud mure, mille alusel intelligentsed agendid nähtavisti ohutute eesmärkidega võivad väljendada ennast üllatavalt ja mitteinimlikult. Kõige populaarsem näide sellest on kirjaklambri maksimeerija. Mõtteeksperiment palub ette kujutada grupi teadlas-ettevõtjaid, kes soovivad toota võimalikult palju kirjaklambreid, ja selle eesmärgi täitmiseks koostasid nad tehisintellekti. Mida nad aga ei oodanud on see, et AI saab aru, et inimesed raiskavad tähtsaid ressursse, millest oleks muidu võimalik teha isegi rohkem kirjaklambreid. Orjastatud inimkond on ka arvatavasti produktiivsem kirjaklambrite tootja. Selle probleemi üldistatud vorm on valesti sätitud AI sihid, mida leiab ka olemasolevate ANI sihifunktsioonide puhul <ref name="goals">“Misaligned goals in artificial intelligence.” n.d. Wikipedia. https://en.wikipedia.org/wiki/Misaligned_goals_in_artificial_intelligence.</ref>.

Mõned tugevamad AI-d peaksid suutma ka jõuda mudeliteni, mis üritavad sihifunktsiooni “petta” suurema kasumini jõudmiseks, sest meie tegelikke soove saame me arvutile kommunikeerida ainult sihifunktsioonväärtuste kaudu. Seesugune AI-tegevus on juba esinenud näiteks roobotikas või videomänguarenduses. Viimase näiteks oleks Tetrise mängubot, kelle sihifunktsioon arvutas tema ellujäämisaega. AI aga suutis koodivea üles leides ellu jäämiseks mängu enda pausile panna <ref name="goals" />.

Küll aga ei ole tehisintellektil motivatsiooni muuta oma põhilisi väärtusi, sest see oleks vastuolus tema olemasolevatele motivatsioonidele, milleks on antud väärtuste maksimeerimine. Sarnane küsimus tekib ka ühes posthumanismi liigis, kus küsitakse, et kas inimesest võib kunagi areneda olend, kellel on täielikult erinevad põhiväärtused meie omadest. Pole aga selget põhjust, miks me peaksime soovima oma soove muuta, kui need uued soovid just ei aita kaasa mõnedele muudele praegustele soovidele.

Kui tõenäoline on, et sellised probleemid meil tekivad? Selliseid riske tõstab fakt, et inimkond ei tööta AGI-de kallal koos ühe tiimina (ega praeguse ajalootrajektoori järgide ennustades arvatavasti ei hakkagi). Selle asemel konkureerivad omavahel riigid ja ka riikides asetsevad korporatsioonid, mis kõik soovivad kiirendada tehnoloogiaarengut kasumi ja võimu maksimeerimiseks; ohutus jääb sekundaarseks. Eriti tugev näide oleks võistlus singulaarsuseni, sest esimene kes selleni jõuab, arvatavasti jääb teistest ette juba ajaloo lõpuni <ref>Yudkowsky, Eliezer. 2008. “Artificial Intelligence as a positive and negative factor in global risk.” In Global Catastrophic Risks, edited by Milan M. Cirkovic and Nick Bostrom. N.p.: OUP Oxford.</ref>.

Neo-ludistlik mõtlemine pole aga lahendus kõikidele nendele muredele. AI arendust ei ole võimalik praeguseid jõudünaamikaid arvestades peatada, eelistatam on hoopis vastutustundlik arendus. Tehnoloogial on radikaalne potentsiaal muuta maailma: muutused mida võib tuua tehnoloogiline singulaarsus ei ole isegi mudelleeritavad. Ennustada ette, mis juhtub hetkel mil AI suudab ennast edasi arendada ja tungida ka läbi riistvaraprobleemide, on hetk mil inimkond asub täielikusse tundmatusse. Üks tähtis idee on selline, mis väidab, et AI muutub hoopis meie enda osaks: sel juhul ei olegi olemas täielikult eraldi AI agenti oma normatiivsete eesmärkidega, vaid hoopis metafooriline neljas ajukiht. Isegi praegu võib interpreeterida koduarvuteid ja telefone kui välimisi osi meie ajust. Internet ja otsingumootorid on justkui kõrge latsentsusega massiivne mälukogum.

Transhumanism ja tehnoloogia areng

2021-12-06T03:27:59Z

Ranton:

== Riistvara roll tehisintellektis ja ujukoma tehted sekundis ==

Tehisintellekti arengus mängib rolli mitu faktorit, kuid vaieldamatult kõige suuremat rolli mängib riistvara. Nimelt, tehisintellekt areneb riistvara arengu järgi. Riistvara areng ei ole nii stabiilne kui paljud arvaksid, eriti eeldades, et kõik jälgib Moore’s seadust.

Stagnatsioon on üks faktor mis mõjutab riistvara arengut. Hea näide sellest, oleks see, kui Intel stagneerus 2012-2019 keskprotsessorite alal, kuna neil ei olnud mingit konkurentsi. Peaks mainima, et keskprotsessorid ei mängi enam nii suurt rolli komputatsioonis, seda rolli täidab rohkem nüüd accelerator-id (näiteks: ASIC, FPGA ja GPU) millel mõne tuuma asemel, on neid tuhandeid - GPU-des on nende nimi ALU (Arithmetic Logic Unit), mille kogus on viimasel ajal väga suureks läinud. ALU on fundamentaalne täieliku komputatsiooni jõudluse arvutamiseks ja selle niinimetatud universaalne mõõtühik on FLOPS (Floating Point Operations Per Second), täpsemalt FP32 FLOP, kuid tänapäeval kasutatakse TFLOP-i: T indikeerib tera, ehk 10 astmel 12.

FLOPS = ALU-de kogus * taktsagedus (Hz) * 2

== Kas FLOPS on ainus mõõtühik? ==

Lühike vastus on ei. FP32 FLOP võtab arvesse ainult ujukomaarvude arvutamist. Seal on olemas ka INT, ehk täisarv. Number 32, FP32-s tähendab 32-bitti täpsust. On olemas 8, 16, 64 ja muid täpsusi. Siiski, on FP32 FLOP tuntud kõige paremini ning kasutatakse kõige rohkem. TFLOPS on kasulikeim mõõtühik GPU-de jaoks - mis on siiani laialdaselt kasutatud superarvutites & tavaarvutites. Tulevikus hakkame nägema rohkem spetsiifilisi kiipe & tükke neist sisse ehitatud protsessoritesse - või videokaartidesse: Tensor core - Nvidia, TPU - ARM-baasil SoC-d. Tegemist on ASIC/FPGA-dega - mis on väga head spetsiifilistes asjades, näiteks tehisintellekti kiirendamises.

== Praegused kõige kiiremad GPU-d ==

GPU-d, kuna neid kasutatakse üldiselt kõige rohkem suure jõudluse saamiseks superarvutites - samuti on GPU tavaliselt kõige võimelisem arvutis. On öeldud, et inimese aju on umbkaudselt 100-10000 TFLOPS (eeldatavasti võimatu saada sellist numbrit täpselt), praegune kõige kiirem GPU (Graphics Processing Unit), AMD MI250X-l on umbes 96 TFLOPS FP32 komputatsiooni võimsust. Võrreldes eelmise parimaga, Nvidia A100 & AMD MI100, on MI250X circa 2-5x kiirem toores FP32 komputatsioonis. Palju sellest on tänu uuele MCM (Multi-chip module) arhitektuurile & TSMC 6nm tootmisprotsessile <ref>AI Impacts. 2017. “Brain performance in FLOPS – AI Impacts.” AI Impacts. https://aiimpacts.org/brain-performance-in-flops/.</ref>.

== Millest tuleneb kiirus GPU-s, ehk mikrokiibis? ==

Kõik mikrokiibid, põhiliselt räni baasil, kasutavad transistoreid arvutusteks. Transistor ise on kolme väljaviiguga pooljuhtseadis ehk triood. Üldiselt on transistorid, mis on räni baasil, MOSFET (Metal-oxide-semiconductor-field-effect transistor) sarnased. Tänapäeval on keskmisel kiibil üle 1000 miljoni transistori <ref>Elprocus. n.d. “What is the MOSFET: Basics, Working Principle and Applications.” ElProCus. https://www.elprocus.com/mosfet-as-a-switch-circuit-diagram-free-circuits/.</ref>.

Transistoreid disainitakse erinevaks, eriti nüüd, sest tootmisprotsess on nii väikseks läinud millega on tulnud kaasa mõningaid probleeme - suurim neist olles elektronide lekkimine üle transistorite ja kui palju ruumi transistor ise võtab. Praegusel hetkel kasutatuim transistori disain modernsetes mikrokiipides on FinFET.

Väiksem transistori suurus on väga oluline järgmiste punktide pärast:
On võimalik rohkem transistore ühele kiibile mahutada - mis tähendab ka seda, et rohkem tuumasi, ALU-si, mälu saab panna kiibile.
Energiakulu on tunduvalt väiksem, et saada võrdväärset jõudlust eelmise generatsiooni mikrokiibiga. Samuti takistus on väiksem üle sama arv transistore.
Sama võimsa kiibi tootmine (võrreldes eelmise generatsiooniga) on odavam kuna saab teha väiksema kiibi. Räniplaadid on üpris kallid & mida suurem on kiip, seda rohkem defekte tekib seal - seega loogiliselt, kui kiip on väiksem, saab ühelt plaadilt rohkem kiipe mis omaette tähendab ka seda, et see on odavam.

Üldisemalt, on olemas laialiselt tuntud seadus nimega Moore’s Law. Moore’s Law eeldab, et iga 2 aasta tagant kahekordistub transistorite arv mikrokiipides. Tegemist, aga, ei ole teaduslikult tõestatud teooriaga - ega seadusega. Siiski, on Moore’ seadus üldises pildis täpne olnud. Moore’ seadus on surmaohus olnud tükk aega tootmisprotsessi pärast. Nimelt, tootmisprotsess on jõudmas sinna punkti kus ei ole füüsiliselt võimalik väiksemaks minna. Praegune masstoodangus kõige väiksem protsess on 5nm - varsti 4nm.

IBM on demonstreerinud 2nm transistorit - seega sellest väiksem on eeldatavasti võimalik. Teoorias rääkides, võib olla 1 aatomi suurune transistor võimalik, aga sellest väiksemat ei ole võimalik teha. Kuidas hoida Moore’ seadust elus? - erinevad tehnoloogiad mida implementeeritakse mikrokiipidesse saavad hoida sellist arbitraarset seadust kauemaks elus: MCM, 3D-packaging.

== Jõudlus tulevikus ==

Ennustada midagi sellist, on väga raske kuna me ei tea ette, mis tulevikus võib juhtuda. Olgu järjekordne stagnatsioon - või hoopis revolutsiooniline areng. Praegusel hetkel, on kõige kiirem GPU 96 TFLOPS-i (MI250X). Ei ole ebarealistlik öelda, et 2027 paiku on võimalik tavainimesel soetada sellise võimsusega videokaarti 1000€ eest.

Tänapäeval valmivad “exascale” superarvutid - mis suudavad teha 10 astmel 18 kalkulatsiooni sekundis. Arvestades mitte-ametlikku informatsiooni tuleviku kiipide kohta, ei oleks konservatiivne öelda, et 2027-2030 sekkub juurde ka zettascale superarvutid.

== Lühianalüüs tuleviku ennustustest ==

Paljud ennustused tuleviku komputatsiooni jõudlusest on valed olnud. Suurem osa ajast on leida, et ennustused on liialt konservatiivsed & üleüldiselt alahindavad arengut.
On ka ennustusi, mis võtavad teada, et paljud ennustused on valed olnud kuna alahindanud - sel juhul on tihti ülehinnatud.

Kõige täpsem ennustus, mis on laialt levinud, on Tim Urbani poolt, tema artiklis “The AI Revolution: The Road to Superintelligence”. Tegemist on artikliga, mis kirjutati aastal 2015, kuid estimatsioon on liialt optimistlik. Ta ennustas, et aastaks 2025 on võimalik kiip, mis maksab 1000$ & on 10 astmel 16 CPS (Calculations per second, umbes võrdväärne FLOP-ile). Kahjuks, praegu ei tundu, et seda juhtub, sest praegune kõige võimsam kiip, mis maksab 1000$, võimaldab ainult 30 TFLOPS. Aastal 2025, 1000$ eest on eeldatavasti võimalik saada kiip, mis võimaldab 100 TFLOPS-i.

Võib tõesti kasutada Moore’ seadust - detailselt, aga, on praktiliselt võimatu ennustada komputatsiooni võimsust tulevikus. Kui oleks võimalik küsida kiibi arhitektidelt, aastal 2000, mis on kiipide komputaalne võimsus 2020, nad paneksid rohkelt mööda.
Arengul on liiga palju muutujaid, et seda ennustada laias pildis kümneid aastaid ette.

== Kvantarvuti ==

Kvantarvuti kasutab ära kvantmehaanikat, et saada hiiglaslike tõuse komputatsioon jõudluses. Praegusel hetkel ei usuta, et kvantarvutid asendavad arvuteid, et lahendada lihtsamaid probleeme - mis iseenesest on mõistlik, sest kvantarvuti nii-öelda kiibid töötavad ainult ekstreemselt külmades temperatuurides kuid mõte ei ole asendada tavainimese arvuit, vaid rõhk on tehisintellektil, on võimalik kvantarvutit kasutada ka tehisintellekti kiirendamiseks.

Kvantarvuti on eriline, sest see kasutab qubitte, ehk kvantbitte. Kvantbitt saab olla 1 ja 0 samal ajal, erinevalt tavalisest bitist, mis on kas 0 või 1. Kvantbitil on veel omadusi, näiteks superposition, mis võimaldab mitmel kvantbitil arvutada välja mitu tulemust samaaegselt. Selle abil on võimalik lahendada probleeme, mis võivad tunduda väga keerulised tavalisele arvutile - näiteks kombinatoorika <ref name="giles">Giles, Martin. 2019. “Explainer: What is a quantum computer?” MIT Technology Review. https://www.technologyreview.com/2019/01/29/66141/what-is-quantum-computing/.</ref>.

Kui kasulik on kvantarvuti? Palju rõhku on pandud simulatsioonidele - olgu see meditsiin või tehisintellekt. On tehtud uuringuid, mis tõestavad, et kvantarvutid suudavad tunduvalt kiiremalt joosta tehisintellekti jaoks algoritme.
Täpseid arve ei ole antud, kui palju kiirem kvantarvuti tehisintellektis on, kuid on tõestatud selle potentsiaali - seega tulevik on hele <ref name="giles" />.

== AI Liigid ==

ANI ehk Kitsas Tehisintellekt. ANI on kasutuses tänapäeval rohkelt, näiteks: enamus autod, telefonid ja muu riistvara - seda kõik võimaldab tarkvara, ehk ANI. ANI on tehisintellekt, mis on mõeldud lahendama ühte ülesannet: see tehisintellekt suudab mängida malet kõrgemal tasemel kui kõige parim male mängija tänapäeval. Üks tehisintellekti firmadest, nimega OpenAI, kirjutas tehisintellekti programmi, mis mängib Dota 2 professionaalsete mängijate vastu efektiivselt, ning suutis võita 99.4% mängudest. Tesla kasutab ANI-d, et osaliselt võimaldada enda sõidukitel juhtida iseennast ja ennetada arvariisid, reageerides kiiresti sõites autoga ohutusse <ref name="strelkova">Strelkova, Olga. n.d. “Three Types of Artificial Intelligence.” Khmelnitsky National University. https://conf.ztu.edu.ua/wp-content/uploads/2017/05/142.pdf.</ref>.

AGI ehk Üldine Tehisintellekt. AGI on teiste sõnadega tugev tehisintellekt või inimmõistsega samal tasemel tehisintellekt. See tehisintellekt suudab teha kõike mida suudab inimene teha. Ta suudab probleeme lahendada, plaanida, abstraktselt mõelda, õppida kiirelt ja enda kogemustest. AGI-d pole veel saavutatud tänapäeval, vaatamata sellest, enamus firmad reklaamivad, et neil on AGI tasemel tehisintellekt, aga tegelikkus on see, et neil on ainult ANI tasemel tehisintellekt, mis juhtumisi on optimiseeritud ainult ühe probleemi lahendamiseks <ref name="strelkova" />.

ASI ehk Tehis Superintellekt. ASI võib olla natukene targem kui inimene, aga võib olla ka üle miljardi korra targem. Mis on huvitav on see, et loomade ja inimeste intelligentsuse vahe on ekstreemselt suur võrreldes lolli ja targa inimese vahelise intelligentsusega. Ehk hetkel millal meie tehisintellekt jõuab ‘lolli inimese’ tasemele, järgmine hetk millal märkame, on AI meist juba ammu ette jõudnud. Sellise tehisintellekti saavutamiseni on veel mõnda aega minna, aga kui jõutakse sellisele tasemele, muutub inimeste elu eeldatavasti drastiliselt paremaks, kuid kuna tegemist on väga targa tehisintellektiga, on võimalik ka täielik polaarne vastand <ref name="strelkova" />. Kuidas aga on meil võimalik jõuda AGI-ni?

== Aju ehituse/õppimis stiili kopeerimine ==

Teadlased on otsustanud võtta inspiratsiooni loodusest ehk täpsemalt inimeste ajudest, sest inimeste ajud on bioloogiline tõestus, et tarka aju on võimalik teha. Kui teadlased seda lõpuks pöördprojekteerida suudavad siis saavad nad leida sellest inspiratsiooni ning innoveerida uusi ideid kuidas teha tehisintellekti efektiivsemaks ning vähem energia kulukamaks.

Nii bioloogilised kui ka tehnoloogilised intellektid kasutavad tihti neurovõrke, millest viimane väga tihti võtabki inspiratsiooni bioloogilisest intelligentsusest. Neurovõrkudes on neuronid ühendatud omavahel läbi sünapside, ning kui mingi tegevus on positiivne ja käivitab tasumehannismi (näiteks dopamiini), siis see neuronite vaheline tee ehk ajuühendus muutub tugevamaks. Eksisteerib ka vastupidine efekt: kui mingi tegevus on halb, siis antud ajuühendus tulevikus nõrgeneb. Seda meetodit kasutakse ka tehisintellektiteaduses läbi võtte nimega stiimulõpe. Kui antakse programmile mingi objekt ja programm arvab selle õigesti ära, siis tugevneb ajuühendus - kui on vale ja saab teada mis tegelikkus oli, proovib programm unustada seost millega ta jõudis vale vastuseni. Võõraste objektide juhul, saab lisada juurde andmebaasi, tekitades uue ühenduse <ref name="goertzel">Goertzel, Ben. 2016. “Artificial General Intelligence.” Scholarpedia. http://www.scholarpedia.org/article/Artificial_General_Intelligence.</ref>.

== Emuleerida evolutsiooni ==

Evolutsiooni saab emuleerida kasutades geneetika algoritmi. Geneetika algoritm genereerib suvalise populatsiooni programme nagu looduses analoogiliselt leitavale evolutsioonile, pärast mida ta kasutab sihifunktsiooni, et määrata iga funktsiooni efektiivsuse ja seejärel valib parimad programmid, mis ta omavahel geneetiliselt rekombineerib (crossover) uued programmid koos mõne mutatsiooniga ning mutatsioon sarnaneb ise local search algoritmile.

Geneetika algoritmiga saab genereerida evolutsiooniliselt uusi ajusid, mille seast valitakse kõige targem aju, isegi kui sellel ajul on negatiivsed omaduses nagu energiakulu suurus on liiga suur siis valitakse ta ikka, sest töö eesmärk on leida kõige targem aju millest genereerida uusi targemaid ajusid kuni lõpuks jõutakse välja AGI tasemel ajuni <ref>“Crossover (genetic algorithm).” n.d. Wikipedia. https://en.wikipedia.org/wiki/Crossover_(genetic_algorithm).</ref>.

== Teha arvuti, mis lahendab AGI probleemi ==

Kui AGI arendus osutub liiga raskeks, siis üks võimalus mida teadlased kasutavad on probleemi delegeerimine ANI-le. Üleaja on arvutitel võimalik jõuda õige lahenduseni AGI probleemile iseenesest, mis vabastab meid probleemist, milleks on raskete matemaatiliste algoritmide ja probleemide lahendamine. Meetod mõnes mõttes sarnaneb hüperheuristikatele, mis üritavad läbi ML meetodite valida ja kombineerida lihtsamaid heuristikaid, või sel juhul, konstrueerida tehisintellekte.

== Riskid ==

Tänapäeva kultuuris võib igal pool leida ebamäärast kartust tehisintellekti suhtes: tegu on tehnoloogiaga mille olemuses ei olda kindlad ja millel on tõsised implikatsioonid tervele inimkonnale. Ka spetsialistide ringides leidub igasuguseid analüüse AI suhtes, alates nendest kes usuvad et see ei tule kunagi, nendeni kes arvavad et singulaarsus on kohe meie nurga taga ja tõotab ainult halba.

Mõnevad usuvad, et AI prognoosid on liiga optimistlikud. Tihti näidatakse, et kõik eelmised ennustused inimeste poolt, keda loetaks valdkonnas ekspertideks, on täielikult mööda läinud. Üks uuring kompileeris üle 250 tähtsa ennustuse ja leidis, et nende kvaliteet on keskmiselt väga madal. Ei leitud isegi suurt vahet ekspertide ja mitteprofessionalide vahel. Lisaks ka jõuti üleüldise teoreetilise arvamuseni, et AI ennustuste baas ei saa olla teoreetiliselt eriti tugev <ref>Sotala, Kaj, and Stuart Armstrong. 2014. “Beyond Artificial Intelligence.” In Beyond Artificial Intelligence: The Disappearing Human-Machine Divide, edited by Eva Zackova, Jozef Kelemen, and Jan Romportl, 11-29. N.p.: Springer International Publishing. 10.1007/978-3-319-09668-1_2.</ref>.

Väga tüüpiliseks mureks on apokalüptilised stsenaariod nagu “kuri tehisintellekt” või instrumental convergence. Esimene nendest muredest tihti tuleneb aga tehisintellekti antropomorfeerimisest, ehk ekslik inimlike omaduste sidumine AI-le. Arvatavasti aga keskkond, milles me arendame tehisintellekti, ei arene samat moodi nagu inimkond. Tehisintellektide puhul oleme meie need, kes annavad AI-le normatiivse jõu, ehk teises mõttes väärtused või näiteks geneetilise programmeerimise puhul sihifunktsioonid. Tehisintellektil ei tekigi situatsiooni, mis nõuaks tal arendada tundeid nagu ahnus või pettlikus (Yudkowsky 2008). Realistlikumaks probleemiks on aga teine mainitud mure, mille alusel intelligentsed agendid nähtavisti ohutute eesmärkidega võivad väljendada ennast üllatavalt ja mitteinimlikult. Kõige populaarsem näide sellest on kirjaklambri maksimeerija. Mõtteeksperiment palub ette kujutada grupi teadlas-ettevõtjaid, kes soovivad toota võimalikult palju kirjaklambreid, ja selle eesmärgi täitmiseks koostasid nad tehisintellekti. Mida nad aga ei oodanud on see, et AI saab aru, et inimesed raiskavad tähtsaid ressursse, millest oleks muidu võimalik teha isegi rohkem kirjaklambreid. Orjastatud inimkond on ka arvatavasti produktiivsem kirjaklambrite tootja. Selle probleemi üldistatud vorm on valesti sätitud AI sihid, mida leiab ka olemasolevate ANI sihifunktsioonide puhul <ref name="goals">“Misaligned goals in artificial intelligence.” n.d. Wikipedia. https://en.wikipedia.org/wiki/Misaligned_goals_in_artificial_intelligence.</ref>.

Mõned tugevamad AI-d peaksid suutma ka jõuda mudeliteni, mis üritavad sihifunktsiooni “petta” suurema kasumini jõudmiseks, sest meie tegelikke soove saame me arvutile kommunikeerida ainult sihifunktsioonväärtuste kaudu. Seesugune AI-tegevus on juba esinenud näiteks roobotikas või videomänguarenduses. Viimase näiteks oleks Tetrise mängubot, kelle sihifunktsioon arvutas tema ellujäämisaega. AI aga suutis koodivea üles leides ellu jäämiseks mängu enda pausile panna <ref name="goals" />.

Küll aga ei ole tehisintellektil motivatsiooni muuta oma põhilisi väärtusi, sest see oleks vastuolus tema olemasolevatele motivatsioonidele, milleks on antud väärtuste maksimeerimine. Sarnane küsimus tekib ka ühes posthumanismi liigis, kus küsitakse, et kas inimesest võib kunagi areneda olend, kellel on täielikult erinevad põhiväärtused meie omadest. Pole aga selget põhjust, miks me peaksime soovima oma soove muuta, kui need uued soovid just ei aita kaasa mõnedele muudele praegustele soovidele.

Kui tõenäoline on, et sellised probleemid meil tekivad? Selliseid riske tõstab fakt, et inimkond ei tööta AGI-de kallal koos ühe tiimina (ega praeguse ajalootrajektoori järgide ennustades arvatavasti ei hakkagi). Selle asemel konkureerivad omavahel riigid ja ka riikides asetsevad korporatsioonid, mis kõik soovivad kiirendada tehnoloogiaarengut kasumi ja võimu maksimeerimiseks; ohutus jääb sekundaarseks. Eriti tugev näide oleks võistlus singulaarsuseni, sest esimene kes selleni jõuab, arvatavasti jääb teistest ette juba ajaloo lõpuni <ref>Yudkowsky, Eliezer. 2008. “Artificial Intelligence as a positive and negative factor in global risk.” In Global Catastrophic Risks, edited by Milan M. Cirkovic and Nick Bostrom. N.p.: OUP Oxford.</ref>.

Neo-ludistlik mõtlemine pole aga lahendus kõikidele nendele muredele. AI arendust ei ole võimalik praeguseid jõudünaamikaid arvestades peatada, eelistatam on hoopis vastutustundlik arendus. Tehnoloogial on radikaalne potentsiaal muuta maailma: muutused mida võib tuua tehnoloogiline singulaarsus ei ole isegi mudelleeritavad. Ennustada ette, mis juhtub hetkel mil AI suudab ennast edasi arendada ja tungida ka läbi riistvaraprobleemide, on hetk mil inimkond asub täielikusse tundmatusse. Üks tähtis idee on selline, mis väidab, et AI muutub hoopis meie enda osaks: sel juhul ei olegi olemas täielikult eraldi AI agenti oma normatiivsete eesmärkidega, vaid hoopis metafooriline neljas ajukiht. Isegi praegu võib interpreeterida koduarvuteid ja telefone kui välimisi osi meie ajust. Internet ja otsingumootorid on justkui kõrge latsentsusega massiivne mälukogum.

Transhumanism ja tehnoloogia areng

2021-12-06T03:25:18Z

Ranton:

== Riistvara roll tehisintellektis ja ujukoma tehted sekundis ==

Tehisintellekti arengus mängib rolli mitu faktorit, kuid vaieldamatult kõige suuremat rolli mängib riistvara. Nimelt, tehisintellekt areneb riistvara arengu järgi. Riistvara areng ei ole nii stabiilne kui paljud arvaksid, eriti eeldades, et kõik jälgib Moore’s seadust.

Stagnatsioon on üks faktor mis mõjutab riistvara arengut. Hea näide sellest, oleks see, kui Intel stagneerus 2012-2019 keskprotsessorite alal, kuna neil ei olnud mingit konkurentsi. Peaks mainima, et keskprotsessorid ei mängi enam nii suurt rolli komputatsioonis, seda rolli täidab rohkem nüüd accelerator-id (näiteks: ASIC, FPGA ja GPU) millel mõne tuuma asemel, on neid tuhandeid - GPU-des on nende nimi ALU (Arithmetic Logic Unit), mille kogus on viimasel ajal väga suureks läinud. ALU on fundamentaalne täieliku komputatsiooni jõudluse arvutamiseks ja selle niinimetatud universaalne mõõtühik on FLOPS (Floating Point Operations Per Second), täpsemalt FP32 FLOP, kuid tänapäeval kasutatakse TFLOP-i: T indikeerib tera, ehk 10 astmel 12.

FLOPS = ALU-de kogus * taktsagedus (Hz) * 2

== Kas FLOPS on ainus mõõtühik? ==

Lühike vastus on ei. FP32 FLOP võtab arvesse ainult ujukomaarvude arvutamist. Seal on olemas ka INT, ehk täisarv. Number 32, FP32-s tähendab 32-bitti täpsust. On olemas 8, 16, 64 ja muid täpsusi. Siiski, on FP32 FLOP tuntud kõige paremini ning kasutatakse kõige rohkem. TFLOPS on kasulikeim mõõtühik GPU-de jaoks - mis on siiani laialdaselt kasutatud superarvutites & tavaarvutites. Tulevikus hakkame nägema rohkem spetsiifilisi kiipe & tükke neist sisse ehitatud protsessoritesse - või videokaartidesse: Tensor core - Nvidia, TPU - ARM-baasil SoC-d. Tegemist on ASIC/FPGA-dega - mis on väga head spetsiifilistes asjades, näiteks tehisintellekti kiirendamises.

== Praegused kõige kiiremad GPU-d ==

GPU-d, kuna neid kasutatakse üldiselt kõige rohkem suure jõudluse saamiseks superarvutites - samuti on GPU tavaliselt kõige võimelisem arvutis. On öeldud, et inimese aju on umbkaudselt 100-10000 TFLOPS (eeldatavasti võimatu saada sellist numbrit täpselt), praegune kõige kiirem GPU (Graphics Processing Unit), AMD MI250X-l on umbes 96 TFLOPS FP32 komputatsiooni võimsust. Võrreldes eelmise parimaga, Nvidia A100 & AMD MI100, on MI250X circa 2-5x kiirem toores FP32 komputatsioonis. Palju sellest on tänu uuele MCM (Multi-chip module) arhitektuurile & TSMC 6nm tootmisprotsessile <ref>AI Impacts. 2017. “Brain performance in FLOPS – AI Impacts.” AI Impacts. https://aiimpacts.org/brain-performance-in-flops/</ref>.

== Millest tuleneb kiirus GPU-s, ehk mikrokiibis? ==

Kõik mikrokiibid, põhiliselt räni baasil, kasutavad transistoreid arvutusteks. Transistor ise on kolme väljaviiguga pooljuhtseadis ehk triood. Üldiselt on transistorid, mis on räni baasil, MOSFET (Metal-oxide-semiconductor-field-effect transistor) sarnased. Tänapäeval on keskmisel kiibil üle 1000 miljoni transistori <ref>Elprocus. n.d. “What is the MOSFET: Basics, Working Principle and Applications.” ElProCus. https://www.elprocus.com/mosfet-as-a-switch-circuit-diagram-free-circuits/</ref>.

Transistoreid disainitakse erinevaks, eriti nüüd, sest tootmisprotsess on nii väikseks läinud millega on tulnud kaasa mõningaid probleeme - suurim neist olles elektronide lekkimine üle transistorite ja kui palju ruumi transistor ise võtab. Praegusel hetkel kasutatuim transistori disain modernsetes mikrokiipides on FinFET.

Väiksem transistori suurus on väga oluline järgmiste punktide pärast:
On võimalik rohkem transistore ühele kiibile mahutada - mis tähendab ka seda, et rohkem tuumasi, ALU-si, mälu saab panna kiibile.
Energiakulu on tunduvalt väiksem, et saada võrdväärset jõudlust eelmise generatsiooni mikrokiibiga. Samuti takistus on väiksem üle sama arv transistore.
Sama võimsa kiibi tootmine (võrreldes eelmise generatsiooniga) on odavam kuna saab teha väiksema kiibi. Räniplaadid on üpris kallid & mida suurem on kiip, seda rohkem defekte tekib seal - seega loogiliselt, kui kiip on väiksem, saab ühelt plaadilt rohkem kiipe mis omaette tähendab ka seda, et see on odavam.

Üldisemalt, on olemas laialiselt tuntud seadus nimega Moore’s Law. Moore’s Law eeldab, et iga 2 aasta tagant kahekordistub transistorite arv mikrokiipides. Tegemist, aga, ei ole teaduslikult tõestatud teooriaga - ega seadusega. Siiski, on Moore’ seadus üldises pildis täpne olnud. Moore’ seadus on surmaohus olnud tükk aega tootmisprotsessi pärast. Nimelt, tootmisprotsess on jõudmas sinna punkti kus ei ole füüsiliselt võimalik väiksemaks minna. Praegune masstoodangus kõige väiksem protsess on 5nm - varsti 4nm.

IBM on demonstreerinud 2nm transistorit - seega sellest väiksem on eeldatavasti võimalik. Teoorias rääkides, võib olla 1 aatomi suurune transistor võimalik, aga sellest väiksemat ei ole võimalik teha. Kuidas hoida Moore’ seadust elus? - erinevad tehnoloogiad mida implementeeritakse mikrokiipidesse saavad hoida sellist arbitraarset seadust kauemaks elus: MCM, 3D-packaging.

== Jõudlus tulevikus ==

Ennustada midagi sellist, on väga raske kuna me ei tea ette, mis tulevikus võib juhtuda. Olgu järjekordne stagnatsioon - või hoopis revolutsiooniline areng. Praegusel hetkel, on kõige kiirem GPU 96 TFLOPS-i (MI250X). Ei ole ebarealistlik öelda, et 2027 paiku on võimalik tavainimesel soetada sellise võimsusega videokaarti 1000€ eest.

Tänapäeval valmivad “exascale” superarvutid - mis suudavad teha 10 astmel 18 kalkulatsiooni sekundis. Arvestades mitte-ametlikku informatsiooni tuleviku kiipide kohta, ei oleks konservatiivne öelda, et 2027-2030 sekkub juurde ka zettascale superarvutid.

== Lühianalüüs tuleviku ennustustest ==

Paljud ennustused tuleviku komputatsiooni jõudlusest on valed olnud. Suurem osa ajast on leida, et ennustused on liialt konservatiivsed & üleüldiselt alahindavad arengut.
On ka ennustusi, mis võtavad teada, et paljud ennustused on valed olnud kuna alahindanud - sel juhul on tihti ülehinnatud.

Kõige täpsem ennustus, mis on laialt levinud, on Tim Urbani poolt, tema artiklis “The AI Revolution: The Road to Superintelligence”. Tegemist on artikliga, mis kirjutati aastal 2015, kuid estimatsioon on liialt optimistlik. Ta ennustas, et aastaks 2025 on võimalik kiip, mis maksab 1000$ & on 10 astmel 16 CPS (Calculations per second, umbes võrdväärne FLOP-ile). Kahjuks, praegu ei tundu, et seda juhtub, sest praegune kõige võimsam kiip, mis maksab 1000$, võimaldab ainult 30 TFLOPS. Aastal 2025, 1000$ eest on eeldatavasti võimalik saada kiip, mis võimaldab 100 TFLOPS-i.

Võib tõesti kasutada Moore’ seadust - detailselt, aga, on praktiliselt võimatu ennustada komputatsiooni võimsust tulevikus. Kui oleks võimalik küsida kiibi arhitektidelt, aastal 2000, mis on kiipide komputaalne võimsus 2020, nad paneksid rohkelt mööda.
Arengul on liiga palju muutujaid, et seda ennustada laias pildis kümneid aastaid ette.

== Kvantarvuti ==

Kvantarvuti kasutab ära kvantmehaanikat, et saada hiiglaslike tõuse komputatsioon jõudluses. Praegusel hetkel ei usuta, et kvantarvutid asendavad arvuteid, et lahendada lihtsamaid probleeme - mis iseenesest on mõistlik, sest kvantarvuti nii-öelda kiibid töötavad ainult ekstreemselt külmades temperatuurides kuid mõte ei ole asendada tavainimese arvuit, vaid rõhk on tehisintellektil, on võimalik kvantarvutit kasutada ka tehisintellekti kiirendamiseks.

Kvantarvuti on eriline, sest see kasutab qubitte, ehk kvantbitte. Kvantbitt saab olla 1 ja 0 samal ajal, erinevalt tavalisest bitist, mis on kas 0 või 1. Kvantbitil on veel omadusi, näiteks superposition, mis võimaldab mitmel kvantbitil arvutada välja mitu tulemust samaaegselt. Selle abil on võimalik lahendada probleeme, mis võivad tunduda väga keerulised tavalisele arvutile - näiteks kombinatoorika <ref name="giles">Giles, Martin. 2019. “Explainer: What is a quantum computer?” MIT Technology Review. https://www.technologyreview.com/2019/01/29/66141/what-is-quantum-computing/</ref>.

Kui kasulik on kvantarvuti? Palju rõhku on pandud simulatsioonidele - olgu see meditsiin või tehisintellekt. On tehtud uuringuid, mis tõestavad, et kvantarvutid suudavad tunduvalt kiiremalt joosta tehisintellekti jaoks algoritme.
Täpseid arve ei ole antud, kui palju kiirem kvantarvuti tehisintellektis on, kuid on tõestatud selle potentsiaali - seega tulevik on hele <ref name="giles" />.

== AI Liigid ==

ANI ehk Kitsas Tehisintellekt. ANI on kasutuses tänapäeval rohkelt, näiteks: enamus autod, telefonid ja muu riistvara - seda kõik võimaldab tarkvara, ehk ANI. ANI on tehisintellekt, mis on mõeldud lahendama ühte ülesannet: see tehisintellekt suudab mängida malet kõrgemal tasemel kui kõige parim male mängija tänapäeval. Üks tehisintellekti firmadest, nimega OpenAI, kirjutas tehisintellekti programmi, mis mängib Dota 2 professionaalsete mängijate vastu efektiivselt, ning suutis võita 99.4% mängudest. Tesla kasutab ANI-d, et osaliselt võimaldada enda sõidukitel juhtida iseennast ja ennetada arvariisid, reageerides kiiresti sõites autoga ohutusse <ref name="strelkova">Strelkova, Olga. n.d. “Three Types of Artificial Intelligence.” Khmelnitsky National University. https://conf.ztu.edu.ua/wp-content/uploads/2017/05/142.pdf</ref>.

AGI ehk Üldine Tehisintellekt. AGI on teiste sõnadega tugev tehisintellekt või inimmõistsega samal tasemel tehisintellekt. See tehisintellekt suudab teha kõike mida suudab inimene teha. Ta suudab probleeme lahendada, plaanida, abstraktselt mõelda, õppida kiirelt ja enda kogemustest. AGI-d pole veel saavutatud tänapäeval, vaatamata sellest, enamus firmad reklaamivad, et neil on AGI tasemel tehisintellekt, aga tegelikkus on see, et neil on ainult ANI tasemel tehisintellekt, mis juhtumisi on optimiseeritud ainult ühe probleemi lahendamiseks <ref name="strelkova" />.

ASI ehk Tehis Superintellekt. ASI võib olla natukene targem kui inimene, aga võib olla ka üle miljardi korra targem. Mis on huvitav on see, et loomade ja inimeste intelligentsuse vahe on ekstreemselt suur võrreldes lolli ja targa inimese vahelise intelligentsusega. Ehk hetkel millal meie tehisintellekt jõuab ‘lolli inimese’ tasemele, järgmine hetk millal märkame, on AI meist juba ammu ette jõudnud. Sellise tehisintellekti saavutamiseni on veel mõnda aega minna, aga kui jõutakse sellisele tasemele, muutub inimeste elu eeldatavasti drastiliselt paremaks, kuid kuna tegemist on väga targa tehisintellektiga, on võimalik ka täielik polaarne vastand <ref name="strelkova" />. Kuidas aga on meil võimalik jõuda AGI-ni?

== Aju ehituse/õppimis stiili kopeerimine ==

Teadlased on otsustanud võtta inspiratsiooni loodusest ehk täpsemalt inimeste ajudest, sest inimeste ajud on bioloogiline tõestus, et tarka aju on võimalik teha. Kui teadlased seda lõpuks pöördprojekteerida suudavad siis saavad nad leida sellest inspiratsiooni ning innoveerida uusi ideid kuidas teha tehisintellekti efektiivsemaks ning vähem energia kulukamaks.

Nii bioloogilised kui ka tehnoloogilised intellektid kasutavad tihti neurovõrke, millest viimane väga tihti võtabki inspiratsiooni bioloogilisest intelligentsusest. Neurovõrkudes on neuronid ühendatud omavahel läbi sünapside, ning kui mingi tegevus on positiivne ja käivitab tasumehannismi (näiteks dopamiini), siis see neuronite vaheline tee ehk ajuühendus muutub tugevamaks. Eksisteerib ka vastupidine efekt: kui mingi tegevus on halb, siis antud ajuühendus tulevikus nõrgeneb. Seda meetodit kasutakse ka tehisintellektiteaduses läbi võtte nimega stiimulõpe. Kui antakse programmile mingi objekt ja programm arvab selle õigesti ära, siis tugevneb ajuühendus - kui on vale ja saab teada mis tegelikkus oli, proovib programm unustada seost millega ta jõudis vale vastuseni. Võõraste objektide juhul, saab lisada juurde andmebaasi, tekitades uue ühenduse <ref name="goertzel">Goertzel, Ben. 2016. “Artificial General Intelligence.” Scholarpedia. http://www.scholarpedia.org/article/Artificial_General_Intelligence</ref>.

== Emuleerida evolutsiooni ==

Evolutsiooni saab emuleerida kasutades geneetika algoritmi. Geneetika algoritm genereerib suvalise populatsiooni programme nagu looduses analoogiliselt leitavale evolutsioonile, pärast mida ta kasutab sihifunktsiooni, et määrata iga funktsiooni efektiivsuse ja seejärel valib parimad programmid, mis ta omavahel geneetiliselt rekombineerib (crossover) uued programmid koos mõne mutatsiooniga ning mutatsioon sarnaneb ise local search algoritmile.

Geneetika algoritmiga saab genereerida evolutsiooniliselt uusi ajusid, mille seast valitakse kõige targem aju, isegi kui sellel ajul on negatiivsed omaduses nagu energiakulu suurus on liiga suur siis valitakse ta ikka, sest töö eesmärk on leida kõige targem aju millest genereerida uusi targemaid ajusid kuni lõpuks jõutakse välja AGI tasemel ajuni <ref>“Crossover (genetic algorithm).” n.d. Wikipedia. https://en.wikipedia.org/wiki/Crossover_(genetic_algorithm)</ref>.

== Teha arvuti, mis lahendab AGI probleemi ==

Kui AGI arendus osutub liiga raskeks, siis üks võimalus mida teadlased kasutavad on probleemi delegeerimine ANI-le. Üleaja on arvutitel võimalik jõuda õige lahenduseni AGI probleemile iseenesest, mis vabastab meid probleemist, milleks on raskete matemaatiliste algoritmide ja probleemide lahendamine. Meetod mõnes mõttes sarnaneb hüperheuristikatele, mis üritavad läbi ML meetodite valida ja kombineerida lihtsamaid heuristikaid, või sel juhul, konstrueerida tehisintellekte.

== Riskid ==

Tänapäeva kultuuris võib igal pool leida ebamäärast kartust tehisintellekti suhtes: tegu on tehnoloogiaga mille olemuses ei olda kindlad ja millel on tõsised implikatsioonid tervele inimkonnale. Ka spetsialistide ringides leidub igasuguseid analüüse AI suhtes, alates nendest kes usuvad et see ei tule kunagi, nendeni kes arvavad et singulaarsus on kohe meie nurga taga ja tõotab ainult halba.

Mõnevad usuvad, et AI prognoosid on liiga optimistlikud. Tihti näidatakse, et kõik eelmised ennustused inimeste poolt, keda loetaks valdkonnas ekspertideks, on täielikult mööda läinud. Üks uuring kompileeris üle 250 tähtsa ennustuse ja leidis, et nende kvaliteet on keskmiselt väga madal. Ei leitud isegi suurt vahet ekspertide ja mitteprofessionalide vahel. Lisaks ka jõuti üleüldise teoreetilise arvamuseni, et AI ennustuste baas ei saa olla teoreetiliselt eriti tugev <ref>Sotala, Kaj, and Stuart Armstrong. 2014. “Beyond Artificial Intelligence.” In Beyond Artificial Intelligence: The Disappearing Human-Machine Divide, edited by Eva Zackova, Jozef Kelemen, and Jan Romportl, 11-29. N.p.: Springer International Publishing. 10.1007/978-3-319-09668-1_2</ref>.

Väga tüüpiliseks mureks on apokalüptilised stsenaariod nagu “kuri tehisintellekt” või instrumental convergence. Esimene nendest muredest tihti tuleneb aga tehisintellekti antropomorfeerimisest, ehk ekslik inimlike omaduste sidumine AI-le. Arvatavasti aga keskkond, milles me arendame tehisintellekti, ei arene samat moodi nagu inimkond. Tehisintellektide puhul oleme meie need, kes annavad AI-le normatiivse jõu, ehk teises mõttes väärtused või näiteks geneetilise programmeerimise puhul sihifunktsioonid. Tehisintellektil ei tekigi situatsiooni, mis nõuaks tal arendada tundeid nagu ahnus või pettlikus (Yudkowsky 2008). Realistlikumaks probleemiks on aga teine mainitud mure, mille alusel intelligentsed agendid nähtavisti ohutute eesmärkidega võivad väljendada ennast üllatavalt ja mitteinimlikult. Kõige populaarsem näide sellest on kirjaklambri maksimeerija. Mõtteeksperiment palub ette kujutada grupi teadlas-ettevõtjaid, kes soovivad toota võimalikult palju kirjaklambreid, ja selle eesmärgi täitmiseks koostasid nad tehisintellekti. Mida nad aga ei oodanud on see, et AI saab aru, et inimesed raiskavad tähtsaid ressursse, millest oleks muidu võimalik teha isegi rohkem kirjaklambreid. Orjastatud inimkond on ka arvatavasti produktiivsem kirjaklambrite tootja. Selle probleemi üldistatud vorm on valesti sätitud AI sihid, mida leiab ka olemasolevate ANI sihifunktsioonide puhul <ref name="goals">“Misaligned goals in artificial intelligence.” n.d. Wikipedia. https://en.wikipedia.org/wiki/Misaligned_goals_in_artificial_intelligence</ref>.

Mõned tugevamad AI-d peaksid suutma ka jõuda mudeliteni, mis üritavad sihifunktsiooni “petta” suurema kasumini jõudmiseks, sest meie tegelikke soove saame me arvutile kommunikeerida ainult sihifunktsioonväärtuste kaudu. Seesugune AI-tegevus on juba esinenud näiteks roobotikas või videomänguarenduses. Viimase näiteks oleks Tetrise mängubot, kelle sihifunktsioon arvutas tema ellujäämisaega. AI aga suutis koodivea üles leides ellu jäämiseks mängu enda pausile panna <ref name="goals" />.

Küll aga ei ole tehisintellektil motivatsiooni muuta oma põhilisi väärtusi, sest see oleks vastuolus tema olemasolevatele motivatsioonidele, milleks on antud väärtuste maksimeerimine. Sarnane küsimus tekib ka ühes posthumanismi liigis, kus küsitakse, et kas inimesest võib kunagi areneda olend, kellel on täielikult erinevad põhiväärtused meie omadest. Pole aga selget põhjust, miks me peaksime soovima oma soove muuta, kui need uued soovid just ei aita kaasa mõnedele muudele praegustele soovidele.

Kui tõenäoline on, et sellised probleemid meil tekivad? Selliseid riske tõstab fakt, et inimkond ei tööta AGI-de kallal koos ühe tiimina (ega praeguse ajalootrajektoori järgide ennustades arvatavasti ei hakkagi). Selle asemel konkureerivad omavahel riigid ja ka riikides asetsevad korporatsioonid, mis kõik soovivad kiirendada tehnoloogiaarengut kasumi ja võimu maksimeerimiseks; ohutus jääb sekundaarseks. Eriti tugev näide oleks võistlus singulaarsuseni, sest esimene kes selleni jõuab, arvatavasti jääb teistest ette juba ajaloo lõpuni <ref>Yudkowsky, Eliezer. 2008. “Artificial Intelligence as a positive and negative factor in global risk.” In Global Catastrophic Risks, edited by Milan M. Cirkovic and Nick Bostrom. N.p.: OUP Oxford</ref>.

Neo-ludistlik mõtlemine pole aga lahendus kõikidele nendele muredele. AI arendust ei ole võimalik praeguseid jõudünaamikaid arvestades peatada, eelistatam on hoopis vastutustundlik arendus. Tehnoloogial on radikaalne potentsiaal muuta maailma: muutused mida võib tuua tehnoloogiline singulaarsus ei ole isegi mudelleeritavad. Ennustada ette, mis juhtub hetkel mil AI suudab ennast edasi arendada ja tungida ka läbi riistvaraprobleemide, on hetk mil inimkond asub täielikusse tundmatusse. Üks tähtis idee on selline, mis väidab, et AI muutub hoopis meie enda osaks: sel juhul ei olegi olemas täielikult eraldi AI agenti oma normatiivsete eesmärkidega, vaid hoopis metafooriline neljas ajukiht. Isegi praegu võib interpreeterida koduarvuteid ja telefone kui välimisi osi meie ajust. Internet ja otsingumootorid on justkui kõrge latsentsusega massiivne mälukogum.

Transhumanism ja tehnoloogia areng

2021-12-06T03:14:45Z

Ranton:

== Riistvara roll tehisintellektis ja ujukoma tehted sekundis ==

Tehisintellekti arengus mängib rolli mitu faktorit, kuid vaieldamatult kõige suuremat rolli mängib riistvara. Nimelt, tehisintellekt areneb riistvara arengu järgi. Riistvara areng ei ole nii stabiilne kui paljud arvaksid, eriti eeldades, et kõik jälgib Moore’s seadust.

Stagnatsioon on üks faktor mis mõjutab riistvara arengut. Hea näide sellest, oleks see, kui Intel stagneerus 2012-2019 keskprotsessorite alal, kuna neil ei olnud mingit konkurentsi. Peaks mainima, et keskprotsessorid ei mängi enam nii suurt rolli komputatsioonis, seda rolli täidab rohkem nüüd accelerator-id (näiteks: ASIC, FPGA ja GPU) millel mõne tuuma asemel, on neid tuhandeid - GPU-des on nende nimi ALU (Arithmetic Logic Unit), mille kogus on viimasel ajal väga suureks läinud. ALU on fundamentaalne täieliku komputatsiooni jõudluse arvutamiseks ja selle niinimetatud universaalne mõõtühik on FLOPS (Floating Point Operations Per Second), täpsemalt FP32 FLOP, kuid tänapäeval kasutatakse TFLOP-i: T indikeerib tera, ehk 10 astmel 12.

FLOPS = ALU-de kogus * taktsagedus (Hz) * 2

== Kas FLOPS on ainus mõõtühik? ==

Lühike vastus on ei. FP32 FLOP võtab arvesse ainult ujukomaarvude arvutamist. Seal on olemas ka INT, ehk täisarv. Number 32, FP32-s tähendab 32-bitti täpsust. On olemas 8, 16, 64 ja muid täpsusi. Siiski, on FP32 FLOP tuntud kõige paremini ning kasutatakse kõige rohkem. TFLOPS on kasulikeim mõõtühik GPU-de jaoks - mis on siiani laialdaselt kasutatud superarvutites & tavaarvutites. Tulevikus hakkame nägema rohkem spetsiifilisi kiipe & tükke neist sisse ehitatud protsessoritesse - või videokaartidesse: Tensor core - Nvidia, TPU - ARM-baasil SoC-d. Tegemist on ASIC/FPGA-dega - mis on väga head spetsiifilistes asjades, näiteks tehisintellekti kiirendamises.

== Praegused kõige kiiremad GPU-d ==

GPU-d, kuna neid kasutatakse üldiselt kõige rohkem suure jõudluse saamiseks superarvutites - samuti on GPU tavaliselt kõige võimelisem arvutis. On öeldud, et inimese aju on umbkaudselt 100-10000 TFLOPS (eeldatavasti võimatu saada sellist numbrit täpselt), praegune kõige kiirem GPU (Graphics Processing Unit), AMD MI250X-l on umbes 96 TFLOPS FP32 komputatsiooni võimsust. Võrreldes eelmise parimaga, Nvidia A100 & AMD MI100, on MI250X circa 2-5x kiirem toores FP32 komputatsioonis. Palju sellest on tänu uuele MCM (Multi-chip module) arhitektuurile & TSMC 6nm tootmisprotsessile <ref>AI Impacts. 2017. “Brain performance in FLOPS – AI Impacts.” AI Impacts. https://aiimpacts.org/brain-performance-in-flops/</ref>.

== Millest tuleneb kiirus GPU-s, ehk mikrokiibis? ==

Kõik mikrokiibid, põhiliselt räni baasil, kasutavad transistoreid arvutusteks. Transistor ise on kolme väljaviiguga pooljuhtseadis ehk triood. Üldiselt on transistorid, mis on räni baasil, MOSFET (Metal-oxide-semiconductor-field-effect transistor) sarnased. Tänapäeval on keskmisel kiibil üle 1000 miljoni transistori <ref>Elprocus. n.d. “What is the MOSFET: Basics, Working Principle and Applications.” ElProCus. https://www.elprocus.com/mosfet-as-a-switch-circuit-diagram-free-circuits/</ref>.

Transistoreid disainitakse erinevaks, eriti nüüd, sest tootmisprotsess on nii väikseks läinud millega on tulnud kaasa mõningaid probleeme - suurim neist olles elektronide lekkimine üle transistorite ja kui palju ruumi transistor ise võtab. Praegusel hetkel kasutatuim transistori disain modernsetes mikrokiipides on FinFET.

Väiksem transistori suurus on väga oluline järgmiste punktide pärast:
On võimalik rohkem transistore ühele kiibile mahutada - mis tähendab ka seda, et rohkem tuumasi, ALU-si, mälu saab panna kiibile.
Energiakulu on tunduvalt väiksem, et saada võrdväärset jõudlust eelmise generatsiooni mikrokiibiga. Samuti takistus on väiksem üle sama arv transistore.
Sama võimsa kiibi tootmine (võrreldes eelmise generatsiooniga) on odavam kuna saab teha väiksema kiibi. Räniplaadid on üpris kallid & mida suurem on kiip, seda rohkem defekte tekib seal - seega loogiliselt, kui kiip on väiksem, saab ühelt plaadilt rohkem kiipe mis omaette tähendab ka seda, et see on odavam.

Üldisemalt, on olemas laialiselt tuntud seadus nimega Moore’s Law. Moore’s Law eeldab, et iga 2 aasta tagant kahekordistub transistorite arv mikrokiipides. Tegemist, aga, ei ole teaduslikult tõestatud teooriaga - ega seadusega. Siiski, on Moore’ seadus üldises pildis täpne olnud. Moore’ seadus on surmaohus olnud tükk aega tootmisprotsessi pärast. Nimelt, tootmisprotsess on jõudmas sinna punkti kus ei ole füüsiliselt võimalik väiksemaks minna. Praegune masstoodangus kõige väiksem protsess on 5nm - varsti 4nm.

IBM on demonstreerinud 2nm transistorit - seega sellest väiksem on eeldatavasti võimalik. Teoorias rääkides, võib olla 1 aatomi suurune transistor võimalik, aga sellest väiksemat ei ole võimalik teha. Kuidas hoida Moore’ seadust elus? - erinevad tehnoloogiad mida implementeeritakse mikrokiipidesse saavad hoida sellist arbitraarset seadust kauemaks elus: MCM, 3D-packaging.

== Jõudlus tulevikus ==

Ennustada midagi sellist, on väga raske kuna me ei tea ette, mis tulevikus võib juhtuda. Olgu järjekordne stagnatsioon - või hoopis revolutsiooniline areng. Praegusel hetkel, on kõige kiirem GPU 96 TFLOPS-i (MI250X). Ei ole ebarealistlik öelda, et 2027 paiku on võimalik tavainimesel soetada sellise võimsusega videokaarti 1000€ eest.

Tänapäeval valmivad “exascale” superarvutid - mis suudavad teha 10 astmel 18 kalkulatsiooni sekundis. Arvestades mitte-ametlikku informatsiooni tuleviku kiipide kohta, ei oleks konservatiivne öelda, et 2027-2030 sekkub juurde ka zettascale superarvutid.

== Lühianalüüs tuleviku ennustustest ==

Paljud ennustused tuleviku komputatsiooni jõudlusest on valed olnud. Suurem osa ajast on leida, et ennustused on liialt konservatiivsed & üleüldiselt alahindavad arengut.
On ka ennustusi, mis võtavad teada, et paljud ennustused on valed olnud kuna alahindanud - sel juhul on tihti ülehinnatud.

Kõige täpsem ennustus, mis on laialt levinud, on Tim Urbani poolt, tema artiklis “The AI Revolution: The Road to Superintelligence”. Tegemist on artikliga, mis kirjutati aastal 2015, kuid estimatsioon on liialt optimistlik. Ta ennustas, et aastaks 2025 on võimalik kiip, mis maksab 1000$ & on 10 astmel 16 CPS (Calculations per second, umbes võrdväärne FLOP-ile). Kahjuks, praegu ei tundu, et seda juhtub, sest praegune kõige võimsam kiip, mis maksab 1000$, võimaldab ainult 30 TFLOPS. Aastal 2025, 1000$ eest on eeldatavasti võimalik saada kiip, mis võimaldab 100 TFLOPS-i.

Võib tõesti kasutada Moore’ seadust - detailselt, aga, on praktiliselt võimatu ennustada komputatsiooni võimsust tulevikus. Kui oleks võimalik küsida kiibi arhitektidelt, aastal 2000, mis on kiipide komputaalne võimsus 2020, nad paneksid rohkelt mööda.
Arengul on liiga palju muutujaid, et seda ennustada laias pildis kümneid aastaid ette.

== Kvantarvuti ==

Kvantarvuti kasutab ära kvantmehaanikat, et saada hiiglaslike tõuse komputatsioon jõudluses. Praegusel hetkel ei usuta, et kvantarvutid asendavad arvuteid, et lahendada lihtsamaid probleeme - mis iseenesest on mõistlik, sest kvantarvuti nii-öelda kiibid töötavad ainult ekstreemselt külmades temperatuurides kuid mõte ei ole asendada tavainimese arvuit, vaid rõhk on tehisintellektil, on võimalik kvantarvutit kasutada ka tehisintellekti kiirendamiseks.

Kvantarvuti on eriline, sest see kasutab qubitte, ehk kvantbitte. Kvantbitt saab olla 1 ja 0 samal ajal, erinevalt tavalisest bitist, mis on kas 0 või 1. Kvantbitil on veel omadusi, näiteks superposition, mis võimaldab mitmel kvantbitil arvutada välja mitu tulemust samaaegselt. Selle abil on võimalik lahendada probleeme, mis võivad tunduda väga keerulised tavalisele arvutile - näiteks kombinatoorika (Giles 2019).

Kui kasulik on kvantarvuti? Palju rõhku on pandud simulatsioonidele - olgu see meditsiin või tehisintellekt. On tehtud uuringuid, mis tõestavad, et kvantarvutid suudavad tunduvalt kiiremalt joosta tehisintellekti jaoks algoritme.
Täpseid arve ei ole antud, kui palju kiirem kvantarvuti tehisintellektis on, kuid on tõestatud selle potentsiaali - seega tulevik on hele (ibid.).

== AI Liigid ==

ANI ehk Kitsas Tehisintellekt. ANI on kasutuses tänapäeval rohkelt, näiteks: enamus autod, telefonid ja muu riistvara - seda kõik võimaldab tarkvara, ehk ANI. ANI on tehisintellekt, mis on mõeldud lahendama ühte ülesannet: see tehisintellekt suudab mängida malet kõrgemal tasemel kui kõige parim male mängija tänapäeval. Üks tehisintellekti firmadest, nimega OpenAI, kirjutas tehisintellekti programmi, mis mängib Dota 2 professionaalsete mängijate vastu efektiivselt, ning suutis võita 99.4% mängudest. Tesla kasutab ANI-d, et osaliselt võimaldada enda sõidukitel juhtida iseennast ja ennetada arvariisid, reageerides kiiresti sõites autoga ohutusse (Strelkova).

AGI ehk Üldine Tehisintellekt. AGI on teiste sõnadega tugev tehisintellekt või inimmõistsega samal tasemel tehisintellekt. See tehisintellekt suudab teha kõike mida suudab inimene teha. Ta suudab probleeme lahendada, plaanida, abstraktselt mõelda, õppida kiirelt ja enda kogemustest. AGI-d pole veel saavutatud tänapäeval, vaatamata sellest, enamus firmad reklaamivad, et neil on AGI tasemel tehisintellekt, aga tegelikkus on see, et neil on ainult ANI tasemel tehisintellekt, mis juhtumisi on optimiseeritud ainult ühe probleemi lahendamiseks (ibid.).

ASI ehk Tehis Superintellekt. ASI võib olla natukene targem kui inimene, aga võib olla ka üle miljardi korra targem. Mis on huvitav on see, et loomade ja inimeste intelligentsuse vahe on ekstreemselt suur võrreldes lolli ja targa inimese vahelise intelligentsusega. Ehk hetkel millal meie tehisintellekt jõuab ‘lolli inimese’ tasemele, järgmine hetk millal märkame, on AI meist juba ammu ette jõudnud. Sellise tehisintellekti saavutamiseni on veel mõnda aega minna, aga kui jõutakse sellisele tasemele, muutub inimeste elu eeldatavasti drastiliselt paremaks, kuid kuna tegemist on väga targa tehisintellektiga, on võimalik ka täielik polaarne vastand (ibid.). Kuidas aga on meil võimalik jõuda AGI-ni?

== Aju ehituse/õppimis stiili kopeerimine ==

Teadlased on otsustanud võtta inspiratsiooni loodusest ehk täpsemalt inimeste ajudest, sest inimeste ajud on bioloogiline tõestus, et tarka aju on võimalik teha. Kui teadlased seda lõpuks pöördprojekteerida suudavad siis saavad nad leida sellest inspiratsiooni ning innoveerida uusi ideid kuidas teha tehisintellekti efektiivsemaks ning vähem energia kulukamaks.

Nii bioloogilised kui ka tehnoloogilised intellektid kasutavad tihti neurovõrke, millest viimane väga tihti võtabki inspiratsiooni bioloogilisest intelligentsusest. Neurovõrkudes on neuronid ühendatud omavahel läbi sünapside, ning kui mingi tegevus on positiivne ja käivitab tasumehannismi (näiteks dopamiini), siis see neuronite vaheline tee ehk ajuühendus muutub tugevamaks. Eksisteerib ka vastupidine efekt: kui mingi tegevus on halb, siis antud ajuühendus tulevikus nõrgeneb. Seda meetodit kasutakse ka tehisintellektiteaduses läbi võtte nimega stiimulõpe. Kui antakse programmile mingi objekt ja programm arvab selle õigesti ära, siis tugevneb ajuühendus - kui on vale ja saab teada mis tegelikkus oli, proovib programm unustada seost millega ta jõudis vale vastuseni. Võõraste objektide juhul, saab lisada juurde andmebaasi, tekitades uue ühenduse (Goertzel 2016).

== Emuleerida evolutsiooni ==

Evolutsiooni saab emuleerida kasutades geneetika algoritmi. Geneetika algoritm genereerib suvalise populatsiooni programme nagu looduses analoogiliselt leitavale evolutsioonile, pärast mida ta kasutab sihifunktsiooni, et määrata iga funktsiooni efektiivsuse ja seejärel valib parimad programmid, mis ta omavahel geneetiliselt rekombineerib (crossover) uued programmid koos mõne mutatsiooniga ning mutatsioon sarnaneb ise local search algoritmile.

Geneetika algoritmiga saab genereerida evolutsiooniliselt uusi ajusid, mille seast valitakse kõige targem aju, isegi kui sellel ajul on negatiivsed omaduses nagu energiakulu suurus on liiga suur siis valitakse ta ikka, sest töö eesmärk on leida kõige targem aju millest genereerida uusi targemaid ajusid kuni lõpuks jõutakse välja AGI tasemel ajuni (“Crossover (genetic algorithm)”).

== Teha arvuti, mis lahendab AGI probleemi ==

Kui AGI arendus osutub liiga raskeks, siis üks võimalus mida teadlased kasutavad on probleemi delegeerimine ANI-le. Üleaja on arvutitel võimalik jõuda õige lahenduseni AGI probleemile iseenesest, mis vabastab meid probleemist, milleks on raskete matemaatiliste algoritmide ja probleemide lahendamine. Meetod mõnes mõttes sarnaneb hüperheuristikatele, mis üritavad läbi ML meetodite valida ja kombineerida lihtsamaid heuristikaid, või sel juhul, konstrueerida tehisintellekte.

== Riskid ==

Tänapäeva kultuuris võib igal pool leida ebamäärast kartust tehisintellekti suhtes: tegu on tehnoloogiaga mille olemuses ei olda kindlad ja millel on tõsised implikatsioonid tervele inimkonnale. Ka spetsialistide ringides leidub igasuguseid analüüse AI suhtes, alates nendest kes usuvad et see ei tule kunagi, nendeni kes arvavad et singulaarsus on kohe meie nurga taga ja tõotab ainult halba.

Mõnevad usuvad, et AI prognoosid on liiga optimistlikud. Tihti näidatakse, et kõik eelmised ennustused inimeste poolt, keda loetaks valdkonnas ekspertideks, on täielikult mööda läinud. Üks uuring kompileeris üle 250 tähtsa ennustuse ja leidis, et nende kvaliteet on keskmiselt väga madal. Ei leitud isegi suurt vahet ekspertide ja mitteprofessionalide vahel. Lisaks ka jõuti üleüldise teoreetilise arvamuseni, et AI ennustuste baas ei saa olla teoreetiliselt eriti tugev (Sotala ja Armstrong 2014, 11-29).

Väga tüüpiliseks mureks on apokalüptilised stsenaariod nagu “kuri tehisintellekt” või instrumental convergence. Esimene nendest muredest tihti tuleneb aga tehisintellekti antropomorfeerimisest, ehk ekslik inimlike omaduste sidumine AI-le. Arvatavasti aga keskkond, milles me arendame tehisintellekti, ei arene samat moodi nagu inimkond. Tehisintellektide puhul oleme meie need, kes annavad AI-le normatiivse jõu, ehk teises mõttes väärtused või näiteks geneetilise programmeerimise puhul sihifunktsioonid. Tehisintellektil ei tekigi situatsiooni, mis nõuaks tal arendada tundeid nagu ahnus või pettlikus (Yudkowsky 2008). Realistlikumaks probleemiks on aga teine mainitud mure, mille alusel intelligentsed agendid nähtavisti ohutute eesmärkidega võivad väljendada ennast üllatavalt ja mitteinimlikult. Kõige populaarsem näide sellest on kirjaklambri maksimeerija. Mõtteeksperiment palub ette kujutada grupi teadlas-ettevõtjaid, kes soovivad toota võimalikult palju kirjaklambreid, ja selle eesmärgi täitmiseks koostasid nad tehisintellekti. Mida nad aga ei oodanud on see, et AI saab aru, et inimesed raiskavad tähtsaid ressursse, millest oleks muidu võimalik teha isegi rohkem kirjaklambreid. Orjastatud inimkond on ka arvatavasti produktiivsem kirjaklambrite tootja. Selle probleemi üldistatud vorm on valesti sätitud AI sihid, mida leiab ka olemasolevate ANI sihifunktsioonide puhul (“Misaligned goals in artificial intelligence”).

Mõned tugevamad AI-d peaksid suutma ka jõuda mudeliteni, mis üritavad sihifunktsiooni “petta” suurema kasumini jõudmiseks, sest meie tegelikke soove saame me arvutile kommunikeerida ainult sihifunktsioonväärtuste kaudu. Seesugune AI-tegevus on juba esinenud näiteks roobotikas või videomänguarenduses. Viimase näiteks oleks Tetrise mängubot, kelle sihifunktsioon arvutas tema ellujäämisaega. AI aga suutis koodivea üles leides ellu jäämiseks mängu enda pausile panna (ibid.).

Küll aga ei ole tehisintellektil motivatsiooni muuta oma põhilisi väärtusi, sest see oleks vastuolus tema olemasolevatele motivatsioonidele, milleks on antud väärtuste maksimeerimine. Sarnane küsimus tekib ka ühes posthumanismi liigis, kus küsitakse, et kas inimesest võib kunagi areneda olend, kellel on täielikult erinevad põhiväärtused meie omadest. Pole aga selget põhjust, miks me peaksime soovima oma soove muuta, kui need uued soovid just ei aita kaasa mõnedele muudele praegustele soovidele.

Kui tõenäoline on, et sellised probleemid meil tekivad? Selliseid riske tõstab fakt, et inimkond ei tööta AGI-de kallal koos ühe tiimina (ega praeguse ajalootrajektoori järgide ennustades arvatavasti ei hakkagi). Selle asemel konkureerivad omavahel riigid ja ka riikides asetsevad korporatsioonid, mis kõik soovivad kiirendada tehnoloogiaarengut kasumi ja võimu maksimeerimiseks; ohutus jääb sekundaarseks. Eriti tugev näide oleks võistlus singulaarsuseni, sest esimene kes selleni jõuab, arvatavasti jääb teistest ette juba ajaloo lõpuni (Yudkowsky 2008).

Neo-ludistlik mõtlemine pole aga lahendus kõikidele nendele muredele. AI arendust ei ole võimalik praeguseid jõudünaamikaid arvestades peatada, eelistatam on hoopis vastutustundlik arendus. Tehnoloogial on radikaalne potentsiaal muuta maailma: muutused mida võib tuua tehnoloogiline singulaarsus ei ole isegi mudelleeritavad. Ennustada ette, mis juhtub hetkel mil AI suudab ennast edasi arendada ja tungida ka läbi riistvaraprobleemide, on hetk mil inimkond asub täielikusse tundmatusse. Üks tähtis idee on selline, mis väidab, et AI muutub hoopis meie enda osaks: sel juhul ei olegi olemas täielikult eraldi AI agenti oma normatiivsete eesmärkidega, vaid hoopis metafooriline neljas ajukiht. Isegi praegu võib interpreeterida koduarvuteid ja telefone kui välimisi osi meie ajust. Internet ja otsingumootorid on justkui kõrge latsentsusega massiivne mälukogum.

References
AI Impacts. 2017. “Brain performance in FLOPS – AI Impacts.” AI Impacts. https://aiimpacts.org/brain-performance-in-flops/.
“Crossover (genetic algorithm).” n.d. Wikipedia. https://en.wikipedia.org/wiki/Crossover_(genetic_algorithm).
Elprocus. n.d. “What is the MOSFET: Basics, Working Principle and Applications.” ElProCus. Accessed December 6, 2021. https://www.elprocus.com/mosfet-as-a-switch-circuit-diagram-free-circuits/.
Giles, Martin. 2019. “Explainer: What is a quantum computer?” MIT Technology Review. https://www.technologyreview.com/2019/01/29/66141/what-is-quantum-computing/.
Goertzel, Ben. 2016. “Artificial General Intelligence.” Scholarpedia. http://www.scholarpedia.org/article/Artificial_General_Intelligence.
IBM. n.d. “What is Quantum Computing?” IBM. Accessed December 6, 2021. https://www.ibm.com/quantum-computing/what-is-quantum-computing/.
“Misaligned goals in artificial intelligence.” n.d. Wikipedia. https://en.wikipedia.org/wiki/Misaligned_goals_in_artificial_intelligence.
Sotala, Kaj, and Stuart Armstrong. 2014. “Beyond Artificial Intelligence.” In Beyond Artificial Intelligence: The Disappearing Human-Machine Divide, edited by Eva Zackova, Jozef Kelemen, and Jan Romportl, 11-29. N.p.: Springer International Publishing. 10.1007/978-3-319-09668-1_2.
Strelkova, Olga. n.d. “Three Types of Artificial Intelligence.” Khmelnitsky National University. https://conf.ztu.edu.ua/wp-content/uploads/2017/05/142.pdf.
Yudkowsky, Eliezer. 2008. “Artificial Intelligence as a positive and negative factor in global risk.” In Global Catastrophic Risks, edited by Milan M. Cirkovic and Nick Bostrom. N.p.: OUP Oxford.

Transhumanism ja tehnoloogia areng

2021-12-06T03:08:52Z

Ranton:

Riistvara roll tehisintellektis ja ujukoma tehted sekundis.

Tehisintellekti arengus mängib rolli mitu faktorit, kuid vaieldamatult kõige suuremat rolli mängib riistvara. Nimelt, tehisintellekt areneb riistvara arengu järgi. Riistvara areng ei ole nii stabiilne kui paljud arvaksid, eriti eeldades, et kõik jälgib Moore’s seadust.

Stagnatsioon on üks faktor mis mõjutab riistvara arengut. Hea näide sellest, oleks see, kui Intel stagneerus 2012-2019 keskprotsessorite alal, kuna neil ei olnud mingit konkurentsi. Peaks mainima, et keskprotsessorid ei mängi enam nii suurt rolli komputatsioonis, seda rolli täidab rohkem nüüd accelerator-id (näiteks: ASIC, FPGA ja GPU) millel mõne tuuma asemel, on neid tuhandeid - GPU-des on nende nimi ALU (Arithmetic Logic Unit), mille kogus on viimasel ajal väga suureks läinud. ALU on fundamentaalne täieliku komputatsiooni jõudluse arvutamiseks ja selle niinimetatud universaalne mõõtühik on FLOPS (Floating Point Operations Per Second), täpsemalt FP32 FLOP, kuid tänapäeval kasutatakse TFLOP-i: T indikeerib tera, ehk 10 astmel 12.

FLOPS = ALU-de kogus * taktsagedus (Hz) * 2

Kas FLOPS on ainus mõõtühik?

Lühike vastus on ei. FP32 FLOP võtab arvesse ainult ujukomaarvude arvutamist. Seal on olemas ka INT, ehk täisarv. Number 32, FP32-s tähendab 32-bitti täpsust. On olemas 8, 16, 64 ja muid täpsusi. Siiski, on FP32 FLOP tuntud kõige paremini ning kasutatakse kõige rohkem. TFLOPS on kasulikeim mõõtühik GPU-de jaoks - mis on siiani laialdaselt kasutatud superarvutites & tavaarvutites. Tulevikus hakkame nägema rohkem spetsiifilisi kiipe & tükke neist sisse ehitatud protsessoritesse - või videokaartidesse: Tensor core - Nvidia, TPU - ARM-baasil SoC-d. Tegemist on ASIC/FPGA-dega - mis on väga head spetsiifilistes asjades, näiteks tehisintellekti kiirendamises.

Praegused kõige kiiremad GPU-d.

GPU-d, kuna neid kasutatakse üldiselt kõige rohkem suure jõudluse saamiseks superarvutites - samuti on GPU tavaliselt kõige võimelisem arvutis. On öeldud, et inimese aju on umbkaudselt 100-10000 TFLOPS (eeldatavasti võimatu saada sellist numbrit täpselt), praegune kõige kiirem GPU (Graphics Processing Unit), AMD MI250X-l on umbes 96 TFLOPS FP32 komputatsiooni võimsust. Võrreldes eelmise parimaga, Nvidia A100 & AMD MI100, on MI250X circa 2-5x kiirem toores FP32 komputatsioonis. Palju sellest on tänu uuele MCM (Multi-chip module) arhitektuurile & TSMC 6nm tootmisprotsessile <ref name="1">AI Impacts. 2017. “Brain performance in FLOPS – AI Impacts.” AI Impacts. https://aiimpacts.org/brain-performance-in-flops/</ref>.

Millest tuleneb kiirus GPU-s, ehk mikrokiibis?

Kõik mikrokiibid, põhiliselt räni baasil, kasutavad transistoreid arvutusteks. Transistor ise on kolme väljaviiguga pooljuhtseadis ehk triood. Üldiselt on transistorid, mis on räni baasil, MOSFET (Metal-oxide-semiconductor-field-effect transistor) sarnased. Tänapäeval on keskmisel kiibil üle 1000 miljoni transistori <ref>Elprocus. n.d. “What is the MOSFET: Basics, Working Principle and Applications.” ElProCus. Accessed December 6, 2021. https://www.elprocus.com/mosfet-as-a-switch-circuit-diagram-free-circuits/</ref>.

Transistoreid disainitakse erinevaks, eriti nüüd, sest tootmisprotsess on nii väikseks läinud millega on tulnud kaasa mõningaid probleeme - suurim neist olles elektronide lekkimine üle transistorite ja kui palju ruumi transistor ise võtab. Praegusel hetkel kasutatuim transistori disain modernsetes mikrokiipides on FinFET.

Väiksem transistori suurus on väga oluline järgmiste punktide pärast:
On võimalik rohkem transistore ühele kiibile mahutada - mis tähendab ka seda, et rohkem tuumasi, ALU-si, mälu saab panna kiibile.
Energiakulu on tunduvalt väiksem, et saada võrdväärset jõudlust eelmise generatsiooni mikrokiibiga. Samuti takistus on väiksem üle sama arv transistore.
Sama võimsa kiibi tootmine (võrreldes eelmise generatsiooniga) on odavam kuna saab teha väiksema kiibi. Räniplaadid on üpris kallid & mida suurem on kiip, seda rohkem defekte tekib seal - seega loogiliselt, kui kiip on väiksem, saab ühelt plaadilt rohkem kiipe mis omaette tähendab ka seda, et see on odavam.

Üldisemalt, on olemas laialiselt tuntud seadus nimega Moore’s Law. Moore’s Law eeldab, et iga 2 aasta tagant kahekordistub transistorite arv mikrokiipides. Tegemist, aga, ei ole teaduslikult tõestatud teooriaga - ega seadusega. Siiski, on Moore’ seadus üldises pildis täpne olnud. Moore’ seadus on surmaohus olnud tükk aega tootmisprotsessi pärast. Nimelt, tootmisprotsess on jõudmas sinna punkti kus ei ole füüsiliselt võimalik väiksemaks minna. Praegune masstoodangus kõige väiksem protsess on 5nm - varsti 4nm.

IBM on demonstreerinud 2nm transistorit - seega sellest väiksem on eeldatavasti võimalik. Teoorias rääkides, võib olla 1 aatomi suurune transistor võimalik, aga sellest väiksemat ei ole võimalik teha. Kuidas hoida Moore’ seadust elus? - erinevad tehnoloogiad mida implementeeritakse mikrokiipidesse saavad hoida sellist arbitraarset seadust kauemaks elus: MCM, 3D-packaging.

Jõudlus tulevikus

Ennustada midagi sellist, on väga raske kuna me ei tea ette, mis tulevikus võib juhtuda. Olgu järjekordne stagnatsioon - või hoopis revolutsiooniline areng. Praegusel hetkel, on kõige kiirem GPU 96 TFLOPS-i (MI250X). Ei ole ebarealistlik öelda, et 2027 paiku on võimalik tavainimesel soetada sellise võimsusega videokaarti 1000€ eest.

Tänapäeval valmivad “exascale” superarvutid - mis suudavad teha 10 astmel 18 kalkulatsiooni sekundis. Arvestades mitte-ametlikku informatsiooni tuleviku kiipide kohta, ei oleks konservatiivne öelda, et 2027-2030 sekkub juurde ka zettascale superarvutid.

Lühianalüüs tuleviku ennustustest

Paljud ennustused tuleviku komputatsiooni jõudlusest on valed olnud. Suurem osa ajast on leida, et ennustused on liialt konservatiivsed & üleüldiselt alahindavad arengut.
On ka ennustusi, mis võtavad teada, et paljud ennustused on valed olnud kuna alahindanud - sel juhul on tihti ülehinnatud.

Kõige täpsem ennustus, mis on laialt levinud, on Tim Urbani poolt, tema artiklis “The AI Revolution: The Road to Superintelligence”. Tegemist on artikliga, mis kirjutati aastal 2015, kuid estimatsioon on liialt optimistlik. Ta ennustas, et aastaks 2025 on võimalik kiip, mis maksab 1000$ & on 10 astmel 16 CPS (Calculations per second, umbes võrdväärne FLOP-ile). Kahjuks, praegu ei tundu, et seda juhtub, sest praegune kõige võimsam kiip, mis maksab 1000$, võimaldab ainult 30 TFLOPS. Aastal 2025, 1000$ eest on eeldatavasti võimalik saada kiip, mis võimaldab 100 TFLOPS-i.

Võib tõesti kasutada Moore’ seadust - detailselt, aga, on praktiliselt võimatu ennustada komputatsiooni võimsust tulevikus. Kui oleks võimalik küsida kiibi arhitektidelt, aastal 2000, mis on kiipide komputaalne võimsus 2020, nad paneksid rohkelt mööda.
Arengul on liiga palju muutujaid, et seda ennustada laias pildis kümneid aastaid ette.

Kvantarvuti

Kvantarvuti kasutab ära kvantmehaanikat, et saada hiiglaslike tõuse komputatsioon jõudluses. Praegusel hetkel ei usuta, et kvantarvutid asendavad arvuteid, et lahendada lihtsamaid probleeme - mis iseenesest on mõistlik, sest kvantarvuti nii-öelda kiibid töötavad ainult ekstreemselt külmades temperatuurides kuid mõte ei ole asendada tavainimese arvuit, vaid rõhk on tehisintellektil, on võimalik kvantarvutit kasutada ka tehisintellekti kiirendamiseks.

Kvantarvuti on eriline, sest see kasutab qubitte, ehk kvantbitte. Kvantbitt saab olla 1 ja 0 samal ajal, erinevalt tavalisest bitist, mis on kas 0 või 1. Kvantbitil on veel omadusi, näiteks superposition, mis võimaldab mitmel kvantbitil arvutada välja mitu tulemust samaaegselt. Selle abil on võimalik lahendada probleeme, mis võivad tunduda väga keerulised tavalisele arvutile - näiteks kombinatoorika (Giles 2019).

Kui kasulik on kvantarvuti? Palju rõhku on pandud simulatsioonidele - olgu see meditsiin või tehisintellekt. On tehtud uuringuid, mis tõestavad, et kvantarvutid suudavad tunduvalt kiiremalt joosta tehisintellekti jaoks algoritme.
Täpseid arve ei ole antud, kui palju kiirem kvantarvuti tehisintellektis on, kuid on tõestatud selle potentsiaali - seega tulevik on hele (ibid.).

AI Liigid

ANI ehk Kitsas Tehisintellekt. ANI on kasutuses tänapäeval rohkelt, näiteks: enamus autod, telefonid ja muu riistvara - seda kõik võimaldab tarkvara, ehk ANI. ANI on tehisintellekt, mis on mõeldud lahendama ühte ülesannet: see tehisintellekt suudab mängida malet kõrgemal tasemel kui kõige parim male mängija tänapäeval. Üks tehisintellekti firmadest, nimega OpenAI, kirjutas tehisintellekti programmi, mis mängib Dota 2 professionaalsete mängijate vastu efektiivselt, ning suutis võita 99.4% mängudest. Tesla kasutab ANI-d, et osaliselt võimaldada enda sõidukitel juhtida iseennast ja ennetada arvariisid, reageerides kiiresti sõites autoga ohutusse (Strelkova).

AGI ehk Üldine Tehisintellekt. AGI on teiste sõnadega tugev tehisintellekt või inimmõistsega samal tasemel tehisintellekt. See tehisintellekt suudab teha kõike mida suudab inimene teha. Ta suudab probleeme lahendada, plaanida, abstraktselt mõelda, õppida kiirelt ja enda kogemustest. AGI-d pole veel saavutatud tänapäeval, vaatamata sellest, enamus firmad reklaamivad, et neil on AGI tasemel tehisintellekt, aga tegelikkus on see, et neil on ainult ANI tasemel tehisintellekt, mis juhtumisi on optimiseeritud ainult ühe probleemi lahendamiseks (ibid.).

ASI ehk Tehis Superintellekt. ASI võib olla natukene targem kui inimene, aga võib olla ka üle miljardi korra targem. Mis on huvitav on see, et loomade ja inimeste intelligentsuse vahe on ekstreemselt suur võrreldes lolli ja targa inimese vahelise intelligentsusega. Ehk hetkel millal meie tehisintellekt jõuab ‘lolli inimese’ tasemele, järgmine hetk millal märkame, on AI meist juba ammu ette jõudnud. Sellise tehisintellekti saavutamiseni on veel mõnda aega minna, aga kui jõutakse sellisele tasemele, muutub inimeste elu eeldatavasti drastiliselt paremaks, kuid kuna tegemist on väga targa tehisintellektiga, on võimalik ka täielik polaarne vastand (ibid.). Kuidas aga on meil võimalik jõuda AGI-ni?

Aju ehituse/õppimis stiili kopeerimine

Teadlased on otsustanud võtta inspiratsiooni loodusest ehk täpsemalt inimeste ajudest, sest inimeste ajud on bioloogiline tõestus, et tarka aju on võimalik teha. Kui teadlased seda lõpuks pöördprojekteerida suudavad siis saavad nad leida sellest inspiratsiooni ning innoveerida uusi ideid kuidas teha tehisintellekti efektiivsemaks ning vähem energia kulukamaks.

Nii bioloogilised kui ka tehnoloogilised intellektid kasutavad tihti neurovõrke, millest viimane väga tihti võtabki inspiratsiooni bioloogilisest intelligentsusest. Neurovõrkudes on neuronid ühendatud omavahel läbi sünapside, ning kui mingi tegevus on positiivne ja käivitab tasumehannismi (näiteks dopamiini), siis see neuronite vaheline tee ehk ajuühendus muutub tugevamaks. Eksisteerib ka vastupidine efekt: kui mingi tegevus on halb, siis antud ajuühendus tulevikus nõrgeneb. Seda meetodit kasutakse ka tehisintellektiteaduses läbi võtte nimega stiimulõpe. Kui antakse programmile mingi objekt ja programm arvab selle õigesti ära, siis tugevneb ajuühendus - kui on vale ja saab teada mis tegelikkus oli, proovib programm unustada seost millega ta jõudis vale vastuseni. Võõraste objektide juhul, saab lisada juurde andmebaasi, tekitades uue ühenduse (Goertzel 2016).

Emuleerida evolutsiooni

Evolutsiooni saab emuleerida kasutades geneetika algoritmi. Geneetika algoritm genereerib suvalise populatsiooni programme nagu looduses analoogiliselt leitavale evolutsioonile, pärast mida ta kasutab sihifunktsiooni, et määrata iga funktsiooni efektiivsuse ja seejärel valib parimad programmid, mis ta omavahel geneetiliselt rekombineerib (crossover) uued programmid koos mõne mutatsiooniga ning mutatsioon sarnaneb ise local search algoritmile.

Geneetika algoritmiga saab genereerida evolutsiooniliselt uusi ajusid, mille seast valitakse kõige targem aju, isegi kui sellel ajul on negatiivsed omaduses nagu energiakulu suurus on liiga suur siis valitakse ta ikka, sest töö eesmärk on leida kõige targem aju millest genereerida uusi targemaid ajusid kuni lõpuks jõutakse välja AGI tasemel ajuni (“Crossover (genetic algorithm)”).

Teha arvuti, mis lahendab AGI probleemi

Kui AGI arendus osutub liiga raskeks, siis üks võimalus mida teadlased kasutavad on probleemi delegeerimine ANI-le. Üleaja on arvutitel võimalik jõuda õige lahenduseni AGI probleemile iseenesest, mis vabastab meid probleemist, milleks on raskete matemaatiliste algoritmide ja probleemide lahendamine. Meetod mõnes mõttes sarnaneb hüperheuristikatele, mis üritavad läbi ML meetodite valida ja kombineerida lihtsamaid heuristikaid, või sel juhul, konstrueerida tehisintellekte.

Riskid

Tänapäeva kultuuris võib igal pool leida ebamäärast kartust tehisintellekti suhtes: tegu on tehnoloogiaga mille olemuses ei olda kindlad ja millel on tõsised implikatsioonid tervele inimkonnale. Ka spetsialistide ringides leidub igasuguseid analüüse AI suhtes, alates nendest kes usuvad et see ei tule kunagi, nendeni kes arvavad et singulaarsus on kohe meie nurga taga ja tõotab ainult halba.

Mõnevad usuvad, et AI prognoosid on liiga optimistlikud. Tihti näidatakse, et kõik eelmised ennustused inimeste poolt, keda loetaks valdkonnas ekspertideks, on täielikult mööda läinud. Üks uuring kompileeris üle 250 tähtsa ennustuse ja leidis, et nende kvaliteet on keskmiselt väga madal. Ei leitud isegi suurt vahet ekspertide ja mitteprofessionalide vahel. Lisaks ka jõuti üleüldise teoreetilise arvamuseni, et AI ennustuste baas ei saa olla teoreetiliselt eriti tugev (Sotala ja Armstrong 2014, 11-29).

Väga tüüpiliseks mureks on apokalüptilised stsenaariod nagu “kuri tehisintellekt” või instrumental convergence. Esimene nendest muredest tihti tuleneb aga tehisintellekti antropomorfeerimisest, ehk ekslik inimlike omaduste sidumine AI-le. Arvatavasti aga keskkond, milles me arendame tehisintellekti, ei arene samat moodi nagu inimkond. Tehisintellektide puhul oleme meie need, kes annavad AI-le normatiivse jõu, ehk teises mõttes väärtused või näiteks geneetilise programmeerimise puhul sihifunktsioonid. Tehisintellektil ei tekigi situatsiooni, mis nõuaks tal arendada tundeid nagu ahnus või pettlikus (Yudkowsky 2008). Realistlikumaks probleemiks on aga teine mainitud mure, mille alusel intelligentsed agendid nähtavisti ohutute eesmärkidega võivad väljendada ennast üllatavalt ja mitteinimlikult. Kõige populaarsem näide sellest on kirjaklambri maksimeerija. Mõtteeksperiment palub ette kujutada grupi teadlas-ettevõtjaid, kes soovivad toota võimalikult palju kirjaklambreid, ja selle eesmärgi täitmiseks koostasid nad tehisintellekti. Mida nad aga ei oodanud on see, et AI saab aru, et inimesed raiskavad tähtsaid ressursse, millest oleks muidu võimalik teha isegi rohkem kirjaklambreid. Orjastatud inimkond on ka arvatavasti produktiivsem kirjaklambrite tootja. Selle probleemi üldistatud vorm on valesti sätitud AI sihid, mida leiab ka olemasolevate ANI sihifunktsioonide puhul (“Misaligned goals in artificial intelligence”).

Mõned tugevamad AI-d peaksid suutma ka jõuda mudeliteni, mis üritavad sihifunktsiooni “petta” suurema kasumini jõudmiseks, sest meie tegelikke soove saame me arvutile kommunikeerida ainult sihifunktsioonväärtuste kaudu. Seesugune AI-tegevus on juba esinenud näiteks roobotikas või videomänguarenduses. Viimase näiteks oleks Tetrise mängubot, kelle sihifunktsioon arvutas tema ellujäämisaega. AI aga suutis koodivea üles leides ellu jäämiseks mängu enda pausile panna (ibid.).

Küll aga ei ole tehisintellektil motivatsiooni muuta oma põhilisi väärtusi, sest see oleks vastuolus tema olemasolevatele motivatsioonidele, milleks on antud väärtuste maksimeerimine. Sarnane küsimus tekib ka ühes posthumanismi liigis, kus küsitakse, et kas inimesest võib kunagi areneda olend, kellel on täielikult erinevad põhiväärtused meie omadest. Pole aga selget põhjust, miks me peaksime soovima oma soove muuta, kui need uued soovid just ei aita kaasa mõnedele muudele praegustele soovidele.

Kui tõenäoline on, et sellised probleemid meil tekivad? Selliseid riske tõstab fakt, et inimkond ei tööta AGI-de kallal koos ühe tiimina (ega praeguse ajalootrajektoori järgide ennustades arvatavasti ei hakkagi). Selle asemel konkureerivad omavahel riigid ja ka riikides asetsevad korporatsioonid, mis kõik soovivad kiirendada tehnoloogiaarengut kasumi ja võimu maksimeerimiseks; ohutus jääb sekundaarseks. Eriti tugev näide oleks võistlus singulaarsuseni, sest esimene kes selleni jõuab, arvatavasti jääb teistest ette juba ajaloo lõpuni (Yudkowsky 2008).

Neo-ludistlik mõtlemine pole aga lahendus kõikidele nendele muredele. AI arendust ei ole võimalik praeguseid jõudünaamikaid arvestades peatada, eelistatam on hoopis vastutustundlik arendus. Tehnoloogial on radikaalne potentsiaal muuta maailma: muutused mida võib tuua tehnoloogiline singulaarsus ei ole isegi mudelleeritavad. Ennustada ette, mis juhtub hetkel mil AI suudab ennast edasi arendada ja tungida ka läbi riistvaraprobleemide, on hetk mil inimkond asub täielikusse tundmatusse. Üks tähtis idee on selline, mis väidab, et AI muutub hoopis meie enda osaks: sel juhul ei olegi olemas täielikult eraldi AI agenti oma normatiivsete eesmärkidega, vaid hoopis metafooriline neljas ajukiht. Isegi praegu võib interpreeterida koduarvuteid ja telefone kui välimisi osi meie ajust. Internet ja otsingumootorid on justkui kõrge latsentsusega massiivne mälukogum.

References
AI Impacts. 2017. “Brain performance in FLOPS – AI Impacts.” AI Impacts. https://aiimpacts.org/brain-performance-in-flops/.
“Crossover (genetic algorithm).” n.d. Wikipedia. https://en.wikipedia.org/wiki/Crossover_(genetic_algorithm).
Elprocus. n.d. “What is the MOSFET: Basics, Working Principle and Applications.” ElProCus. Accessed December 6, 2021. https://www.elprocus.com/mosfet-as-a-switch-circuit-diagram-free-circuits/.
Giles, Martin. 2019. “Explainer: What is a quantum computer?” MIT Technology Review. https://www.technologyreview.com/2019/01/29/66141/what-is-quantum-computing/.
Goertzel, Ben. 2016. “Artificial General Intelligence.” Scholarpedia. http://www.scholarpedia.org/article/Artificial_General_Intelligence.
IBM. n.d. “What is Quantum Computing?” IBM. Accessed December 6, 2021. https://www.ibm.com/quantum-computing/what-is-quantum-computing/.
“Misaligned goals in artificial intelligence.” n.d. Wikipedia. https://en.wikipedia.org/wiki/Misaligned_goals_in_artificial_intelligence.
Sotala, Kaj, and Stuart Armstrong. 2014. “Beyond Artificial Intelligence.” In Beyond Artificial Intelligence: The Disappearing Human-Machine Divide, edited by Eva Zackova, Jozef Kelemen, and Jan Romportl, 11-29. N.p.: Springer International Publishing. 10.1007/978-3-319-09668-1_2.
Strelkova, Olga. n.d. “Three Types of Artificial Intelligence.” Khmelnitsky National University. https://conf.ztu.edu.ua/wp-content/uploads/2017/05/142.pdf.
Yudkowsky, Eliezer. 2008. “Artificial Intelligence as a positive and negative factor in global risk.” In Global Catastrophic Risks, edited by Milan M. Cirkovic and Nick Bostrom. N.p.: OUP Oxford.

E-ITSPEA rühmatööd

2021-09-19T15:21:50Z

Ranton:

E-ITSPEA rühmatööd

2021-09-19T15:21:27Z

Ranton:

E-ITSPEA osalejad

2021-09-06T07:09:31Z

Ranton:

[[e-ITSPEA|Tagasi kursuse esilehele]]

Siia võiks kursuse toimumise ajal igaüks lisada enda pärisnime ja ajaveebi (blogi) aadressi.

NBǃ Kes lisab end hiljem, palun pange end nimekirja lõppu. Kusagilt nimekirja keskelt uusi tulijaid välja kaevata on üsna tüütu. ː(

Õppejõud: Kaido Kikkas, https://jora.kakupesa.net

Tudengid:
* Alice Buht https://itspeaalice.blogspot.com/
* Platon Matšinski https://platon1721.blogspot.com/
* Ronald-Reigor Lehtsaar https://maagilineit.blogspot.com/
* Fjodor Sekajev https://fjsekablog.blogspot.com/
* Andžei Veidenbaum https://veidenbaum.blogspot.com
* Janne Jürimaa https://itspeajanne.blogspot.com/
* Sten Tammemäe https://stammemae.blogspot.com
* Diana Labunets https://dilabu.blogspot.com/
* Aleksander Kampus https://alkamp.blogspot.com/
* Sergei Razguljajev https://serazg.blogspot.com/
* Danyil Kurbatov https://dakurb.blogspot.com/
* Arne Antov https://aranto777.blogspot.com/
* Kirill Seredjuk https://1kuras1.blogspot.com/
* Jegor Borissov https://jegorborissov77.blogspot.com/
* Edgar Vildt https://edgarvildt21.blogspot.com/
* Olga Nehajeva https://onitspea.blogspot.com/
* Markus Johan Aug https://markaug.blogspot.com/
* Vitali Logvin https://hotdog2001.blogspot.com/
* Kirill Mošegov https://kirillmoshegov.blogspot.com/
* Mikkel Paat https://itspeamikkel.blogspot.com/
* Deniz Levašjov https://den812.blogspot.com/
* Renat Aparin https://renn812.blogspot.com/
* Liina Tamme https://itspealood.blogspot.com/
* Darja Obuhhova https://daobuh.blogspot.com/
* Marjam Nesterova https://manestitspea.blogspot.com/
* Gen Lee https://interneedus.ee/
* Kristina Kavelitš https://krkave.blogspot.com/
* Gleb Poljakov https://moonlighthecatum.blogspot.com/
* Nicole Rudakova https://ncruda.blogspot.com/
* Henrik Jõesalu https://hensuj.wordpress.com/
* Taavi Hansing https://taaviitspea.blogspot.com/
* Maria Bljahhina https://marbljitspea.blogspot.com/
* Triinu-Liis Vaikma https://triinuv.blogspot.com/
* Kristofer Putšinin https://krisput1720.blogspot.com/
* Daniil Iljin https://dailji.blogspot.com/
* Valeri Tšernov https://valerisuurblog.blogspot.com/
* Erik Martin Murde https://erikmitspea.blogspot.com/
* Kristina Aprelkova https://kristinaaprelkova.blogspot.com/
* Markus Martin https://markusmajaveeb.blogspot.com/
* Matthias Linder https://mlinderinfotech.blogspot.com/
* Taeri Saar https://tsaaripea.wordpress.com
* Joonas Mattisen https://jmattisen.blogspot.com/
* Romet Tony Jõenurm https://rometjoenurm.blogspot.com/
* Maido Paalmäe https://icy0004mp2021.wordpress.com/
* Nikita Kašnikov https://nikitakasnikov.blogspot.com/
* Aleks Laagus https://aleksblogib.blogspot.com/
* Jaanus Lapkin https://lapkinjaanus.blogspot.com/
* Timur Habibulin https://timur67.blogspot.com/
* Daniel Lepman https://dalepm.blogspot.com/
* Illimar Kuldkepp https://ilkuld.blogspot.com/
* Kaisa Liiv https://itspeakaisa.blogspot.com/
* Ander Austa https://anderausta.blogspot.com/
* Marek Ott https://marekoo.blogspot.com/
* Ingmar Olmaru https://ingmarolmaru.blogspot.com/
* Romet Reino https://romutblog.blogspot.com/
* Karl Stefan Lill https://karlslill.blogspot.com/
* Martin Ratas https://mratas.blogspot.com/
* Karl Rikkonen https://icy0004-it.blogspot.com/
* Timur Tamberg https://timurblogib.wordpress.com/
* Rasmus Pidim https://itspea-rasmusp.blogspot.com/
* Roma Imran Tariq https://romatariq.blogspot.com/
* Roman Mihhejev https://ananas-ubijca.blogspot.com/
* Robert Unt https://robunt.blogspot.com/
* Aleksandr Borovkov https://aleksandrtaltech.blogspot.com/
* Mathias Ranna https://mathiasranna.blogspot.com/
* Liisa Kõmmits https://liisaalgus.blogspot.com/
* Daniel Vasser https://dvasser.blogspot.com/
* Dmitri Sobolev https://blog.dsobit.eu/
* Grete Eerikson https://gretee-itspea.blogspot.com/
* Emil Mihhailov https://itspea-emil.blogspot.com/
* Vladislav Širjajev https://bjiad.blogspot.com/
* Ahto Jalak https://ahtoj.github.io/blogi/
* Magnus Epkin https://magnusepk.blogspot.com/
* Ariana Leštšuk https://arilest.blogspot.com/
* Fred Kaur https://fredxtech.wordpress.com/
* Kätlin Rajamäe https://eitspeakrajamae.wordpress.com
* Martin Trumann https://martintrumann.gitlab.io/blog/
* Stefan Kivvistik https://stkivv.blogspot.com/
* Violetta Zakorzhevskaya https://vizakorz.blogspot.com/
* Semjon Isajevski https://semjon-isajevski.blogspot.com/
* Joonas Klemmer https://joklem.blogspot.com/
* Silver Peuša https://silverpq.blogspot.com/
* Joosep Mart Männik https://joosepmannik.blogspot.com/
* Oskar Laak https://oslaak.blogspot.com/
* Talis Paas https://paastalisitspea.blogspot.com/
* Roland Kastein https://dragonwarp.blogspot.com/
* Erik J. Keldrima https://metsavana1.blogspot.com/
* Katre Siller https://becominganitguru.wordpress.com/
* Andree Uuetoa https://anuuet.blogspot.com/
* Martti Pilli https://mpilli.blogspot.com/
* Silver Mihkel Salujärv https://itspeamihkel.blogspot.com/
* Kristjan Kaljuvee https://krkale-itspea.blogspot.com/
* Sandra-Liis Mägi https://itspeasandra.blogspot.com/
* Dmitri Koltsenko https://dkolt1.blogspot.com/
* Leonid Peskov https://leonid1337.blogspot.com/
* Olari-Jaanus Lips https://ojlips.blogspot.com/
* Vitali Zamorski https://itspeavizamo.blogspot.com/
* Mihkel Jõgeda https://e-itspea.udupilv.ee
* Triinu Pärnapuu https://fluffytitle.blogspot.com
* Ralf Mikk https://rmikk.blogspot.com/
* Brent Põhjala https://itspeabrpohj.blogspot.com/
* Daniel Geller https://dagell88.blogspot.com/
* Steven Salmistu https://stsalm.blogspot.com/
* Alen Siilivask https://alsiil.blogspot.com/
* Rico Rahula https://ricorahula.blogspot.com/
* Reio Opromei https://reio.opromei.ee/blogi/category/itspea/
* Martin Metsküla https://metsatukk.blogspot.com/
* Marija Tsvetkova https://marijatsv.blogspot.com
* Aleksei Romantšenko https://alekseiromantsenko.blogspot.com
* Hendrik Kuhi https://kuhihendrik.blogspot.com/
* Hanna Ilves https://hannafelinae.wordpress.com/
* Robin Väli https://valirobin.blogspot.com/
* Ingmar Markus https://ingmarm.blogspot.com/
* Markus Kostabi http://markuskostabi.blogspot.com/
* Jevgenia Domša http://jevgenyka.wordpress.com
* Laura Reins https://laureitspea.blogspot.com/
* Silver Kuusk https://silver6k.blogspot.com/
* Dariana Aav https://darianaaav.blogspot.com/
* Veiko Tamm https://reeeeee.ee/
* Kelly Leppik https://itblogkellyl.blogspot.com/
* Anet Mitt https://anmitt.blogspot.com/
* Timo Kund https://timokund.blogspot.com/
* Tanel Loigom https://taloigom.blogspot.com/
* Reino Veskimäe https://reino-itspea.blogspot.com
* Kaspar Kiilaspää https://kkiila.blogspot.com/
* Sten Martin Lääne https://martinitspea.blogspot.com
* Anneli Väli https://an4eli.blogspot.com
* Roger Käosaar https://rogerk2osaar.blogspot.com/
* Diana Truuse https://ditruu.blogspot.com/
* Hugo Visnapuu https://hugovisnapuu.blogspot.com/
* Karol-Ari Krimses https://kkrims.blogspot.com/
* Randel Tõnismaa https://randelton.blogspot.com/

Kursuse foorumi ja blogide RSS-vooge koondav OPML-fail ilmub siia ca nädal peale järjekordse kursuse algust.

[[e-ITSPEA|Tagasi kursuse esilehele]]
[[Category:ITSPEA]]