Neural Network (Chat GPT) - Revision history

Angrun: /* Experimental Setup */

2023-05-12T04:51:25Z

Experimental Setup

← Older revision		Revision as of 07:51, 12 May 2023
Line 156:		Line 156:
	<ref>https://arxiv.org/pdf/2001.09977.pdf</ref>		<ref>https://arxiv.org/pdf/2001.09977.pdf</ref>

	= ~~Experimental Setup~~ =		= Katse seadistus =

	== ~~Description of benchmark datasets used for evaluation and metrics used for that~~ ==		== Hinnangu saamiseks kasutatud võrdluste andmekogumite kirjeldus ja selleks kasutatud mõõdikud ==

	ChatGPT jõudluse hindamiseks oli põhjalikult ära valitud etalonne andmekogum. Need andmekogumid loodi nii, et need hõlmaksid vestluspõhise AI erinevaid aspekte, sealhulgas üldteadmisi, arutlusvõimet ja konteksti mõistmist. Benchmark'id hõlmasid selliseid ülesandeid nagu küsimustele vastamine, kokkuvõtete tegemine ja dialoogipõhised suhtlused. Datasets valiti nii, et need esindaksid reaalseid väljakutseid ning hõlmasid erinevaid valdkondi ja keelelisi stiile. <ref>https://arxiv.org/pdf/2303.07992.pdf</ref>		ChatGPT jõudluse hindamiseks oli põhjalikult ära valitud etalonne andmekogum. Need andmekogumid loodi nii, et need hõlmaksid vestluspõhise AI erinevaid aspekte, sealhulgas üldteadmisi, arutlusvõimet ja konteksti mõistmist. Benchmark'id hõlmasid selliseid ülesandeid nagu küsimustele vastamine, kokkuvõtete tegemine ja dialoogipõhised suhtlused. Datasets valiti nii, et need esindaksid reaalseid väljakutseid ning hõlmasid erinevaid valdkondi ja keelelisi stiile. <ref>https://arxiv.org/pdf/2303.07992.pdf</ref>
Line 164:		Line 164:
	ChatGPT toimivuse arvuliseks hindamiseks kasutati mitmeid hindamismõõdikuid. Nende mõõdikute eesmärk oli mõõta mudeli võimaluste erinevaid aspekte, sealhulgas täpsust, pinnalisust ja relevantsust. Nagu oli juba eelnevalt mainitud, hindamisprotsessis kasutatavad tavalised mõõdikud hõlmasid perplexity, BLEU-d ja ROUGE. Need mõõdikud andsid väärtuslikku teavet mudeli keele genereerimise, mõistmise ja üldise jõudluse kohta. <ref>https://arxiv.org/pdf/2303.04048.pdf</ref>		ChatGPT toimivuse arvuliseks hindamiseks kasutati mitmeid hindamismõõdikuid. Nende mõõdikute eesmärk oli mõõta mudeli võimaluste erinevaid aspekte, sealhulgas täpsust, pinnalisust ja relevantsust. Nagu oli juba eelnevalt mainitud, hindamisprotsessis kasutatavad tavalised mõõdikud hõlmasid perplexity, BLEU-d ja ROUGE. Need mõõdikud andsid väärtuslikku teavet mudeli keele genereerimise, mõistmise ja üldise jõudluse kohta. <ref>https://arxiv.org/pdf/2303.04048.pdf</ref>

	== ~~Details of experiments conducted to evaluate~~ ChatGPT~~'s performance and the discussion of the results~~ ==		== Üksikasjad ChatGPT jõudluse hindamiseks läbi viidud katsete kohta ja tulemuste arutelu ==

	Viidi läbi rida katseid, et põhjalikult hinnata ChatGPT töövõimsust erinevate ülesannete ja stsenaariumide lõikes. Need katsed hõlmasid nii kvalitatiivset kui ka kvantitatiivset analüüsi. Kvalitatiivsed hinnangud hõlmasid inimesed-hindajaid, kes suhtlesid ChatGPT-ga ja andsid mudeli vastustele subjektiivset tagasisidet. Kvantitatiivsed hindamised viidi läbi võrdlusandmete kogumite abil, kus mudeli väljundeid võrreldi etloonvastustega. Katsetes mõistei ka erinevaid viisi seadistusmeetodeid ja hüperparameetrite valimine, et optimeerida mudeli jõudlust. <ref>https://www.sciencedirect.com/science/article/pii/S2542504823000192</ref>		Viidi läbi rida katseid, et põhjalikult hinnata ChatGPT töövõimsust erinevate ülesannete ja stsenaariumide lõikes. Need katsed hõlmasid nii kvalitatiivset kui ka kvantitatiivset analüüsi. Kvalitatiivsed hinnangud hõlmasid inimesed-hindajaid, kes suhtlesid ChatGPT-ga ja andsid mudeli vastustele subjektiivset tagasisidet. Kvantitatiivsed hindamised viidi läbi võrdlusandmete kogumite abil, kus mudeli väljundeid võrreldi etloonvastustega. Katsetes mõistei ka erinevaid viisi seadistusmeetodeid ja hüperparameetrite valimine, et optimeerida mudeli jõudlust. <ref>https://www.sciencedirect.com/science/article/pii/S2542504823000192</ref>

Vnikif at 21:23, 11 May 2023

2023-05-11T21:23:42Z

← Older revision		Revision as of 00:23, 12 May 2023
Line 158:		Line 158:
	= Experimental Setup =		= Experimental Setup =

	== Description of benchmark datasets used for evaluation ==		== Description of benchmark datasets used for evaluation and metrics used for that ==

	~~== Description of evaluation metrics ==~~		ChatGPT jõudluse hindamiseks oli põhjalikult ära valitud etalonne andmekogum. Need andmekogumid loodi nii, et need hõlmaksid vestluspõhise AI erinevaid aspekte, sealhulgas üldteadmisi, arutlusvõimet ja konteksti mõistmist. Benchmark'id hõlmasid selliseid ülesandeid nagu küsimustele vastamine, kokkuvõtete tegemine ja dialoogipõhised suhtlused. Datasets valiti nii, et need esindaksid reaalseid väljakutseid ning hõlmasid erinevaid valdkondi ja keelelisi stiile. <ref>https://arxiv.org/pdf/2303.07992.pdf</ref>

	~~== Details of experiments conducted to evaluate~~ ChatGPT~~'s performance ==~~		ChatGPT toimivuse arvuliseks hindamiseks kasutati mitmeid hindamismõõdikuid. Nende mõõdikute eesmärk oli mõõta mudeli võimaluste erinevaid aspekte, sealhulgas täpsust, pinnalisust ja relevantsust. Nagu oli juba eelnevalt mainitud, hindamisprotsessis kasutatavad tavalised mõõdikud hõlmasid perplexity, BLEU-d ja ROUGE. Need mõõdikud andsid väärtuslikku teavet mudeli keele genereerimise, mõistmise ja üldise jõudluse kohta. <ref>https://arxiv.org/pdf/2303.04048.pdf</ref>

	== ~~Discussion~~ of the results ~~obtained from the experiments~~ ==		== Details of experiments conducted to evaluate ChatGPT's performance and the discussion of the results ==

			Viidi läbi rida katseid, et põhjalikult hinnata ChatGPT töövõimsust erinevate ülesannete ja stsenaariumide lõikes. Need katsed hõlmasid nii kvalitatiivset kui ka kvantitatiivset analüüsi. Kvalitatiivsed hinnangud hõlmasid inimesed-hindajaid, kes suhtlesid ChatGPT-ga ja andsid mudeli vastustele subjektiivset tagasisidet. Kvantitatiivsed hindamised viidi läbi võrdlusandmete kogumite abil, kus mudeli väljundeid võrreldi etloonvastustega. Katsetes mõistei ka erinevaid viisi seadistusmeetodeid ja hüperparameetrite valimine, et optimeerida mudeli jõudlust. <ref>https://www.sciencedirect.com/science/article/pii/S2542504823000192</ref>

			Katsetest saadud tulemused näitasid ChatGPT suurepärast võimet luua loogilisi ja relevantseid vastuseid. Mudel näitas kõrget kõne taset ja suutlikkust mõista paljusid küsimusi ja neile täpselt vastata. Ta sai suurepäraselt hakkama faktiteadmist nõudvate ülesannetega ja näitas arutlusvõimet. Kummati, juhtus vahel ka mõne stsenaariumide puhul piiranguid, näiteks mitmetähenduslike päringute käsitlemisel või konkreetsete ja kokkuvõtlike vastuste andmisel. Hindamisprotsessis välja selgitati võimalikud valdkonnad, mida tuleks parandada, mida saaks lahendada praeguse uurimistööga ning mudeliarhitektuuri ja õpetamismeetodite täiustamise kaudu. Üldiselt andsid katsed väärtuslikku teavet ChatGPT toimivuse kohta ja sillutasid teed vestluspõhise AI edasistele edusammudele. <ref>https://pubmed.ncbi.nlm.nih.gov/36865204/</ref>

	= Kokkuvõte =		= Kokkuvõte =

Mariiv: /* ChatGPT Architecture */

2023-05-10T15:36:08Z

ChatGPT Architecture

← Older revision		Revision as of 18:36, 10 May 2023
Line 155:		Line 155:

	<ref>https://arxiv.org/pdf/2001.09977.pdf</ref>		<ref>https://arxiv.org/pdf/2001.09977.pdf</ref>

	~~== Discussion of the conversational datasets used to fine-tune ChatGPT ==~~


	= Experimental Setup =		= Experimental Setup =

Mariiv: /* Two-stage training meetodi üksikasjad */

2023-05-10T15:34:50Z

Two-stage training meetodi üksikasjad

← Older revision		Revision as of 18:34, 10 May 2023
Line 142:		Line 142:

	== Two-stage training meetodi üksikasjad ==		== Two-stage training meetodi üksikasjad ==
			ChatGPT koolitusprotsess koosneb kaheetapilisest lähenemisviisist, mis hõlmab mudeli eelkoolitamist suurel hulgal tekstiandmetel ja seejärel vestlusandmete peenhäälestamist. See kaheetapiline lähenemine on loomuliku keele töötlemisel levinud tava ja on näidatud, et see parandab keelemudelite toimivust konkreetsete ülesannete puhul.

			1. etapp: eelkoolitus suure hulga tekstiandmete kohta
			Koolituse esimeses etapis treenitakse ChatGPT-d suurel hulgal tekstiandmetel, kasutades GPT eelkoolituse protseduuri muudetud versiooni. Koolituse eelkorpus koosneb mitmekesisest tekstiandmetest, sealhulgas veebilehtedest, raamatutest ja artiklitest. Eelkoolituse eesmärk on maksimeerida tõenäosust ennustada tekstijada järgmist sõna. See koolituseelne etapp võimaldab ChatGPT-l õppida üldist arusaama keele struktuurist ja mustritest.

			2. etapp: vestlusandmete peenhäälestus
			Koolituse teises etapis kohandatakse ChatGPT-d vestlusandmetele, et parandada selle toimivust vestlusreaktsiooni genereerimise ülesannetes. Peenhäälestuskorpus koosneb suurest hulgast vestlusandmetest, nagu sotsiaalmeedia platvormide vestluslogid, veebifoorumid ja klienditeeninduse suhtlus. Peenhäälestuse ajal õpetatakse mudelit looma vastavaid vastuseid, näiteks vestlusroti vestluses kasutaja sõnumit.

			Peenhäälestusprotsess koosneb kahest etapist: eel- ja peenhäälestus. Eelhäälestuse etapis treenitakse mudelit suurel kiire vastuse paaride andmekogumil, kasutades keele modelleerimise eesmärgi muudetud versiooni. Peenhäälestuse etapis peenhäälestatakse mudelit veelgi väiksema kiire vastuse paaride andmekogumil, kasutades järjestamisel põhinevat kadufunktsiooni. See järjestuspõhine kadufunktsioon tagab, et mudel genereerib kvaliteetseid vastuseid, mis on kontekstiliselt sobivad ja sidusad.

			ChatGPT-s kasutatav kaheetapiline koolitusmeetod võimaldab mudelil õppida nii üldisi keelemustreid kui ka konkreetseid vestluskeele mustreid. On näidatud, et selline lähenemine parandab keelemudelite toimivust vestlusreaktsiooni genereerimise ülesannetes ja on loomuliku keele töötlemisel tavaline tava.

			<ref>https://arxiv.org/pdf/2001.09977.pdf</ref>

	== Discussion of the conversational datasets used to fine-tune ChatGPT ==		== Discussion of the conversational datasets used to fine-tune ChatGPT ==

Angrun at 15:34, 10 May 2023

2023-05-10T15:34:23Z

← Older revision		Revision as of 18:34, 10 May 2023
Line 157:		Line 157:


	= ~~Conclusion~~ =		= Kokkuvõte =

	~~== Summary of key contributions of ChatGPT ==~~

	~~== Discussion of potential applications of~~ ChatGPT ==		ChatGPT on OpenAI poolt välja töötatud loomuliku keele töötluse (NLP) tehisintellekt, mis põhineb GPT-3.5 arhitektuuril. ChatGPT on võimeline vastama küsimustele, tõlkima keeli, looma jutukesi ja palju muud.

	~~== Limitations of the study and directions for future research ==~~		ChatGPT peamised panused on:

			1. Suur maht: ChatGPT on üks suurimaid NLP mudeleid, mida on loodud. See sisaldab ligikaudu 6 miljardit parametrit, mis võimaldab sellel tõhusalt toimida paljudes erinevates NLP ülesannetes.

			2. Üldine tõhusus: ChatGPT on üks tõhusamaid NLP mudeleid, mis on loodud. Seda saab kasutada erinevate ülesannete jaoks, sealhulgas masintõlge, küsimuste-vastuste genereerimine, teksti loomine ja palju muud.

			3. Võimekus: ChatGPT on võimeline looma inimesele sarnaseid vastuseid erinevatele küsimustele, tõlkima erinevaid keeli ja looma loomulikke jutukesi. See muudab selle väga kasulikuks paljudes erinevates rakendustes, sealhulgas klienditeeninduses ja õpetamises.

			4. Töökindlus: ChatGPT on väga töökindel ja suudab tõhusalt toimida ka siis, kui talle antakse suuremahulisi ja keerukaid ülesandeid.

			5. Kiirus: ChatGPT suudab tõhusalt töötada ka suurel kiirusel, mis muudab selle väga kasulikuks rakendustes, mis nõuavad kiiret vastust, nagu näiteks klienditeenindus.

			6. Arendajatele kättesaadavus: ChatGPT on kättesaadav mitmes erinevas vormis, sealhulgas Pythoni teegi kujul, mis muudab selle arendajatele kergesti kasutatavaks.



	= Viited =		= Viited =

Mariiv: /* Details of the two-stage training approach */

2023-05-10T15:33:32Z

Details of the two-stage training approach

← Older revision		Revision as of 18:33, 10 May 2023
Line 141:		Line 141:
	<ref>https://arxiv.org/pdf/2001.09977.pdf</ref>		<ref>https://arxiv.org/pdf/2001.09977.pdf</ref>

	== ~~Details of the two~~-stage training ~~approach~~ ==		== Two-stage training meetodi üksikasjad ==

	== Discussion of the conversational datasets used to fine-tune ChatGPT ==		== Discussion of the conversational datasets used to fine-tune ChatGPT ==

Angrun at 15:31, 10 May 2023

2023-05-10T15:31:24Z

← Older revision		Revision as of 18:31, 10 May 2023
Line 144:		Line 144:

	== Discussion of the conversational datasets used to fine-tune ChatGPT ==		== Discussion of the conversational datasets used to fine-tune ChatGPT ==


	= Experimental Setup =		= Experimental Setup =
Line 155:		Line 156:
	== Discussion of the results obtained from the experiments ==		== Discussion of the results obtained from the experiments ==


	~~= Results and Analysis =~~

	~~== Presentation of experimental results ==~~

	~~== Comparison of ChatGPT with existing state-of-the-art models ==~~

	~~== Analysis of ChatGPT's performance in different conversational settings ==~~

	~~== Discussion of strengths and limitations of ChatGPT ==~~

	= Conclusion =		= Conclusion =

Mariiv: /* Description of ChatGPT's modifications to GPT */

2023-05-10T15:30:28Z

Description of ChatGPT's modifications to GPT

← Older revision		Revision as of 18:30, 10 May 2023
Line 129:		Line 129:
	Üldiselt on GPT arhitektuur muutnud loomuliku keele töötlemist ja avanud uusi võimalusi vestlusliku AI valdkonnas uurimis- ja arendustegevuseks.		Üldiselt on GPT arhitektuur muutnud loomuliku keele töötlemist ja avanud uusi võimalusi vestlusliku AI valdkonnas uurimis- ja arendustegevuseks.

	== ~~Description of~~ ChatGPT~~'s modifications to~~ GPT ==		== ChatGPT GPT muudatuste kirjeldus ==
			Kuigi GPT näitas muljetavaldavaid tulemusi erinevate keeleülesannete puhul, ei olnud see loodud spetsiaalselt vestlusvastuste genereerimiseks. Seetõttu muutsid OpenAI teadlased GPT arhitektuuri, et luua ChatGPT, mis on spetsiaalselt vestlusvastuste genereerimiseks loodud mudel.

			ChatGPT jaoks mõeldud GPT-s tehtud muudatused hõlmavad koolituskorpuse muudatusi, peenhäälestustehnikaid ja arhitektuuri muudatusi. Esiteks koosnevad ChatGPT jaoks kasutatavad koolitusandmed suurtest vestlusandmetest, nagu sotsiaalmeedia platvormide vestluslogid, veebifoorumid ja klienditeeninduse suhtlus. Need vestlusandmed võimaldavad mudelil paremini mõista, kuidas inimesed vestluskontekstis suhtlevad, mis aitab luua loomulikumaid ja inimlikumaid vastuseid.

			Teiseks kasutab ChatGPT täiustatud peenhäälestustehnikat, mida nimetatakse "dialoogilaadse vastuse genereerimiseks", mis hõlmab vastuse genereerimist antud viipale ja seejärel selle vastuse lisamist viipale, et luua uus viip-vastuse paar. Seejärel täpsustatakse mudelit nende paaride puhul, kasutades keele modelleerimise eesmärgi muudetud versiooni. See peenhäälestustehnika aitab mudelil õppida looma vestluskontekstis sidusamaid ja kontekstuaalselt sobivamaid vastuseid.

			Lõpuks sisaldab ChatGPT arhitektuuri muudatusi, näiteks vestluse tähelepanu mehhanismi lisamist, mis võimaldab mudelil vastuse genereerimisel keskenduda vestluse ajaloo teatud osadele. See tähelepanumehhanism aitab mudelil luua kontekstuaalselt sobivamaid vastuseid ja parandab selle üldist jõudlust vestlusvastuste genereerimise ülesannetes.

			Üldiselt on ChatGPT GPT arhitektuuris tehtud muudatused andnud mudeli, mis on spetsiaalselt loodud loomulike ja inimlike vestlusreaktsioonide genereerimiseks. Mudel on näidanud muljetavaldavaid tulemusi erinevatel vestlusvastuste genereerimise ülesannete võrdlusalustel ja seda saab kasutada mitmesugustes rakendustes, nagu vestlusrobotid ja virtuaalsed assistendid.
			<ref>https://arxiv.org/pdf/2001.09977.pdf</ref>

	== Details of the two-stage training approach ==		== Details of the two-stage training approach ==

Mariiv: /* Introduction to ChatGPT */

2023-05-10T15:27:06Z

Introduction to ChatGPT

← Older revision		Revision as of 18:27, 10 May 2023
Line 64:		Line 64:
	Üldiselt on selge vajadus spetsiaalselt vestlusreaktsiooni genereerimiseks loodud mudelite järele. Kuigi generatiivsed eelkoolitusmudelid on loomuliku keele töötlemise ülesannete puhul näidanud märkimisväärset lubadust, ei suuda nad vestluskeskkonnas kontekstuaalselt sobivaid vastuseid luua. Sellised mudelid nagu transformaatoril põhinev vestlusmudel, HRED-mudel ja ChatGPT on olulised sammud selle piirangu lahendamisel.		Üldiselt on selge vajadus spetsiaalselt vestlusreaktsiooni genereerimiseks loodud mudelite järele. Kuigi generatiivsed eelkoolitusmudelid on loomuliku keele töötlemise ülesannete puhul näidanud märkimisväärset lubadust, ei suuda nad vestluskeskkonnas kontekstuaalselt sobivaid vastuseid luua. Sellised mudelid nagu transformaatoril põhinev vestlusmudel, HRED-mudel ja ChatGPT on olulised sammud selle piirangu lahendamisel.

	== ~~Introduction to~~ ChatGPT ==		== Sissejuhatus ChatGPT-sse ==

			Generative Pre-trained Transformer 3 (GPT-3) on OpenAI poolt välja töötatud kaasaegne keelemudel, mis on muutnud loomuliku keele töötlemise (NLP) valdkonna. <ref>https://arxiv.org/abs/2005.14165</ref> See on näidanud muljetavaldavat jõudlust mitmesuguste keeleülesannete puhul, sealhulgas keele tõlkimine, küsimustele vastamine ja teksti lõpetamine. <ref>https://openai.com/blog/better-language-models/</ref> Üks GPT-3 kõige huvitavamaid rakendusi on vestluspõhise AI valdkonnas, kus seda on kasutatud vestlusrobotite ja vestlusagentide väljatöötamiseks, mis suudavad genereerida inimesele sarnaseid vastuseid. <ref>https://arxiv.org/abs/2005.14165</ref>

			ChatGPT on GPT-3 spetsiaalne rakendus, mis on peenhäälestatud vestlusvastuste genereerimiseks. <ref>https://arxiv.org/abs/1909.05858</ref> See on spetsiaalselt loodud erinevate vestlusstsenaariumide jaoks sobivate vastuste genereerimiseks, sealhulgas vestlus, klienditeenindus ja tehniline tugi. Treenides suurel hulgal vestlusandmete andmestikul, suudab ChatGPT õppida loomulikus keeles mustreid ja genereerida kontekstiliselt sobivaid ja keeleliselt õigeid vastuseid.

			Selles artiklis anname ülevaate ChatGPT-st ja selle arhitektuurist. Arutame koolitusprotsessi, mida kasutatakse GPT-3 peenhäälestamiseks vestlusvastuse genereerimiseks, ja tõstame esile mõned väljakutsed, mis tekivad selle ülesande jaoks keelemudelite koolitamisel. Vaatame üle ka vestluspõhise AI praegused tipptasemed ja uurime, kuidas ChatGPT sellesse maastikku sobib. Lõpuks arutame mõningaid ChatGPT võimalikke rakendusi ja selle mõju vestlusliku AI valdkonnale.

	= Sarnased tööd =		= Sarnased tööd =

Angrun at 15:25, 10 May 2023

2023-05-10T15:25:59Z

← Older revision		Revision as of 18:25, 10 May 2023
Line 94:		Line 94:
	Lisaks võib hindamise keeruliseks teha asjaolu, et vestlusrobotid peavad vastama erinevat tüüpi küsimustele, mis nõuavad erinevat stiili ja teadmisi. Mõned küsimused võivad olla suunatud faktidele, samas kui teised võivad olla rohkem seotud emotsioonide ja suhete loomisega. Seetõttu on oluline hinnata mudelite tulemuslikkust erinevatel tasanditel, sealhulgas vastuste kvaliteet, grammatika ja stiil.		Lisaks võib hindamise keeruliseks teha asjaolu, et vestlusrobotid peavad vastama erinevat tüüpi küsimustele, mis nõuavad erinevat stiili ja teadmisi. Mõned küsimused võivad olla suunatud faktidele, samas kui teised võivad olla rohkem seotud emotsioonide ja suhete loomisega. Seetõttu on oluline hinnata mudelite tulemuslikkust erinevatel tasanditel, sealhulgas vastuste kvaliteet, grammatika ja stiil.

	== ~~Analysis of limitations of existing models~~ ==		== Olemasolevate mudelite piirangute analüüs ==

			Masinõpe on toonud viimastel aastatel kaasa suuri edusamme mitmesugustes valdkondades nagu pildituvastus ja loomuliku keele töötlemine. Siiski on kaasaegsetel masinõppemudelitel oma piirangud, mida tuleb arvestada.

			Esimene piirang, mida tuleks mainida, on mudeli loomiseks kasutatava andmekogumi kvaliteet. Kui mudeli treenimiseks kasutatakse puudulikku või väheste näidetega andmekogumit, võib see põhjustada mudeli alajahtumist <ref>Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.</ref>. See tähendab, et mudel on liiga kitsas ja ei suuda ennustada uute andmete põhjal korralikult. Selle probleemi vältimiseks on oluline valida õige andmekogum, mis sisaldab piisavalt andmeid, et mudel saaks laiemat pilti õppida.

			Teine piirang on mudeli tõhusus ja töökiirus. Mõned masinõppemudelid on väga keerulised ja nende treenimine võtab palju aega ning nende kasutamine reaalajas võib olla võimatu. Näiteks väga suure sügava õppe mudeli rakendamine mobiilseadmes ei pruugi olla võimalik. Seega on oluline valida mudel, mis sobib konkreetseks kasutuseks ja arvestada ka töökiirusega.

			Kolmas piirang on mudeli üldistatavus. Kui mudel on treenitud konkreetsele andmekogumile, võib selle üldistamine teistele andmekogumitele olla keeruline. Üldistatavuse probleemi vältimiseks on vaja mudelit treenida mitmesuguste andmekogumite peal ja vältida liiga spetsiifiliste omaduste kasutamist.

			Neljas piirang on mudeli selgus ja interpretatiivsus. Mõned mudelid, eriti sügava õppe mudelid, võivad olla keerulised ja raskesti interpreteeritavad. See tähendab, et on raske mõista, kuidas mudel jõudis oma ennustuse või otsuse juurde. Sellised mudelid võivad olla ohtlikud, kui neid kasutatakse otsuste tegemiseks meditsiinilises või finantsvaldkonnas. Seetõttu on oluline kaaluda mudeli selgust ja interpreteeritavust enne selle kasutamist.