Iti0210lab12 - Redigeerimiste ajalugu

PriitJ: /* Närvivõrgu treenimine sklearn paketiga */

2019-11-26T17:05:27Z

Närvivõrgu treenimine sklearn paketiga

←Vanem redaktsioon		Redaktsioon: 26. november 2019, kell 19:05
60. rida:		60. rida:

	Huvitavad parameetrid:		Huvitavad parameetrid:
	* <code>max_iter</code> - mitu treenimise "epohhi" tehakse. Vähem on kiirem, aga ~~kaalud~~ ei pruugi konvergeeruda.		* <code>max_iter</code> - mitu treenimise "epohhi" tehakse. Vähem on kiirem, aga mudeli parameetrid ei pruugi konvergeeruda.
	* <code>hidden_layer_sizes</code> - annab närvivõrgu struktuuri. Toodud näites on ühe peidetud kihiga (10 sõlme) struktuur. Sisendite ja väljundite arv leitakse automaatselt treeningandmete pealt.		* <code>hidden_layer_sizes</code> - annab närvivõrgu struktuuri. Toodud näites on ühe peidetud kihiga (10 sõlme) struktuur. Sisendite ja väljundite arv leitakse automaatselt treeningandmete pealt.

	Katseta peidetud kihtide arvu ja ~~suurusega~~.		Katseta peidetud kihtide arvu, suuruse ja treeningiteratsioonide arvu muutmisega.

	[http://scikit-learn.org/stable/modules/generated/sklearn.neural_network.MLPClassifier.html Muud parameetrid].		[http://scikit-learn.org/stable/modules/generated/sklearn.neural_network.MLPClassifier.html Muud parameetrid].

PriitJ: /* Katsetamine */

2019-11-26T17:00:24Z

Katsetamine

←Vanem redaktsioon		Redaktsioon: 26. november 2019, kell 19:00
95. rida:		95. rida:
	from imageio import imread		from imageio import imread

	bla = imread("test1_28.bmp", ~~mode~~='L')		bla = imread("test1_28.bmp", pilmode='L')
	X = np.reshape(bla, (1,28*28)) / 255.0		X = np.reshape(bla, (1,28*28)) / 255.0
	print(X.shape)		print(X.shape)

PriitJ: /* Ettevalmistus */

2019-11-26T16:51:11Z

Ettevalmistus

←Vanem redaktsioon		Redaktsioon: 26. november 2019, kell 18:51
32. rida:		32. rida:
	X_test, y_test = mnist_reader.load_mnist('', kind='t10k')		X_test, y_test = mnist_reader.load_mnist('', kind='t10k')
	</pre>		</pre>

			* <code>X_train</code> - treeningpildid (60000x784 massiiv, iga pilt on 784 pikslit)
			* <code>y_train</code> - pildi klassifikaator (0-9)
			* <code>X_test</code> - testpildid klassifitseerimiseks
			* <code>y_test</code> - testpildi õige klassifikatsioon, et kontrollida närvivõrgu väljundi õigsust

	== Närvivõrgu treenimine <code>sklearn</code> paketiga ==		== Närvivõrgu treenimine <code>sklearn</code> paketiga ==

PriitJ – 26. november 2019, kell 16:45

2019-11-26T16:45:06Z

←Vanem redaktsioon		Redaktsioon: 26. november 2019, kell 18:45
3. rida:		3. rida:
	== Sissejuhatus ==		== Sissejuhatus ==

	~~Kasutame <code>sklearn</code> paketi~~ närvivõrgu ~~implementatsiooni, et tuvastada piltidelt objekte (täpsemalt 10-t erinevat tüüpi riideesemeid ja aksessuaare)~~.		Selle ülesande eesmärgiks on katsetada närvivõrgu treenimist. Ülesandes teeme objektituvastust pildilt.

	~~Lubatud on kasutada ka enda valitud masinõppe~~ paketti.		Endale sobiv närvivõrk vali ise, juhendi näited kasutavad <code>sklearn</code> paketti.

	Kõigepealt treenime närvivõrgu, kasutades [https://github.com/zalandoresearch/fashion-mnist Fashion-MNIST] andmestikku. See sisaldab 60000 rasterformaadis pilti treenimiseks ning 10000 samas formaadis pilti testimiseks.		Kõigepealt treenime närvivõrgu, kasutades [https://github.com/zalandoresearch/fashion-mnist Fashion-MNIST] andmestikku. See sisaldab 60000 rasterformaadis pilti treenimiseks ning 10000 samas formaadis pilti testimiseks.
12. rida:		12. rida:

	== Ettevalmistus ==		== Ettevalmistus ==

			Vali endale sobiv närvivõrgu implementatsioon:

			* [https://scikit-learn.org/stable/ scikit-learn]. Kõige lihtsam: on Anacondas juba sees, kõik näited on sellega tehtud. Miinus: närvivõrkude tegemiseks väga piiratud.
			* [https://www.tensorflow.org/guide/keras/overview Keras]. Suht lihtne kasutada.
			* [https://pytorch.org/ PyTorch].
			* [http://deeplearning4j.org/ Deeplearning4j]. Java.

			Andmed:

	# Loe läbi [https://github.com/zalandoresearch/fashion-mnist#why-we-made-fashion-mnist "Why we made Fashion-MNIST"].		# Loe läbi [https://github.com/zalandoresearch/fashion-mnist#why-we-made-fashion-mnist "Why we made Fashion-MNIST"].
24. rida:		33. rida:
	</pre>		</pre>

	== Närvivõrgu treenimine ==		== Närvivõrgu treenimine <code>sklearn</code> paketiga ==

			Kui kasutad muud paketti, uuri selle juhendit ja näiteid Internetist ([https://www.tensorflow.org/tutorials/keras/classification Keras],[https://www.marktechpost.com/2019/07/30/introduction-to-image-classification-using-pytorch-to-classify-fashionmnist-dataset/ PyTorch]).

	Kasutame mitmekihilist ''perceptron'' tüüpi närvivõrku ([http://scikit-learn.org/stable/modules/neural_networks_supervised.html dokumentatsioon]).		Kasutame mitmekihilist ''perceptron'' tüüpi närvivõrku ([http://scikit-learn.org/stable/modules/neural_networks_supervised.html dokumentatsioon]).
45. rida:		56. rida:
	Huvitavad parameetrid:		Huvitavad parameetrid:
	* <code>max_iter</code> - mitu treenimise "epohhi" tehakse. Vähem on kiirem, aga kaalud ei pruugi konvergeeruda.		* <code>max_iter</code> - mitu treenimise "epohhi" tehakse. Vähem on kiirem, aga kaalud ei pruugi konvergeeruda.
	* <code>hidden_layer_sizes</code> - annab närvivõrgu struktuuri. Toodud näites on ühe peidetud kihiga struktuur ~~(sisendite~~ ja väljundite arv ~~on fikseeritud treeningandmetega)~~.		* <code>hidden_layer_sizes</code> - annab närvivõrgu struktuuri. Toodud näites on ühe peidetud kihiga (10 sõlme) struktuur. Sisendite ja väljundite arv leitakse automaatselt treeningandmete pealt.

	~~Kas leiad närvivõrgu struktuuri, mis annab testandmete pealt suurema täpsuse?~~		Katseta peidetud kihtide arvu ja suurusega.

	[http://scikit-learn.org/stable/modules/generated/sklearn.neural_network.MLPClassifier.html Muud parameetrid].		[http://scikit-learn.org/stable/modules/generated/sklearn.neural_network.MLPClassifier.html Muud parameetrid].
76. rida:		87. rida:
	<pre>		<pre>
	import numpy as np		import numpy as np
	from scipy.misc import imread		#from scipy.misc import imread
			from imageio import imread

	bla = imread("test1_28.bmp", mode='L')		bla = imread("test1_28.bmp", mode='L')
	X = np.reshape(bla, (1,28*28)) / 255.0		X = np.reshape(bla, (1,28*28)) / 255.0
	print(X.shape)		print(X.shape)
			</pre>

			[sklearn]
			<pre>
	print(clf.predict(X))		print(clf.predict(X))
	</pre>		</pre>
87. rida:		103. rida:

	Klassifikaatorite [https://github.com/zalandoresearch/fashion-mnist#labels tähendused].		Klassifikaatorite [https://github.com/zalandoresearch/fashion-mnist#labels tähendused].
			<!--
	== Esitamine ==		== Esitamine ==

PriitJ: /* Katsetamine */

2018-04-26T11:37:30Z

Katsetamine

←Vanem redaktsioon		Redaktsioon: 26. aprill 2018, kell 13:37
62. rida:		62. rida:
	== Katsetamine ==		== Katsetamine ==

	Otsi Google pildiotsinguga sobivaid pilte ja konverteeri need 28x28, ''grayscale'' formaati. Pane tähele kuidas MNIST-Fashion treeningandmetes on kujundid esitatud: taust on must ja objektid on heledad, seetõttu on tõenäoliselt vajalik inverteerimine.		Otsi Google pildiotsinguga sobivaid pilte (umbes 5-15 tk) ja konverteeri need 28x28, ''grayscale'' formaati. Pane tähele kuidas MNIST-Fashion treeningandmetes on kujundid esitatud: taust on must ja objektid on heledad, seetõttu on tõenäoliselt vajalik inverteerimine.

	Enne:		Enne:

PriitJ – 26. aprill 2018, kell 09:02

2018-04-26T09:02:56Z

←Vanem redaktsioon		Redaktsioon: 26. aprill 2018, kell 11:02
87. rida:		87. rida:

	Klassifikaatorite [https://github.com/zalandoresearch/fashion-mnist#labels tähendused].		Klassifikaatorite [https://github.com/zalandoresearch/fashion-mnist#labels tähendused].

			== Esitamine ==

			Esita:
			* oma programmikood
			* testpildid
			* lühike kommentaar tulemuste kohta (eraldi failis või programmikoodi juures)

			Kui faile on palju, pane need .zip (vm levinud formaadis) arhiivi.

PriitJ: /* Närvivõrgu treenimine */

2018-04-22T14:31:44Z

Närvivõrgu treenimine

←Vanem redaktsioon		Redaktsioon: 22. aprill 2018, kell 16:31
46. rida:		46. rida:
	* <code>max_iter</code> - mitu treenimise "epohhi" tehakse. Vähem on kiirem, aga kaalud ei pruugi konvergeeruda.		* <code>max_iter</code> - mitu treenimise "epohhi" tehakse. Vähem on kiirem, aga kaalud ei pruugi konvergeeruda.
	* <code>hidden_layer_sizes</code> - annab närvivõrgu struktuuri. Toodud näites on ühe peidetud kihiga struktuur (sisendite ja väljundite arv on fikseeritud treeningandmetega).		* <code>hidden_layer_sizes</code> - annab närvivõrgu struktuuri. Toodud näites on ühe peidetud kihiga struktuur (sisendite ja väljundite arv on fikseeritud treeningandmetega).

			Kas leiad närvivõrgu struktuuri, mis annab testandmete pealt suurema täpsuse?

	[http://scikit-learn.org/stable/modules/generated/sklearn.neural_network.MLPClassifier.html Muud parameetrid].		[http://scikit-learn.org/stable/modules/generated/sklearn.neural_network.MLPClassifier.html Muud parameetrid].

PriitJ: /* Katsetamine */

2018-04-22T14:26:55Z

Katsetamine

←Vanem redaktsioon		Redaktsioon: 22. aprill 2018, kell 16:26
66. rida:		66. rida:
	[[Image:Ifi6057lab12_before.jpg\|240px\|kott]]		[[Image:Ifi6057lab12_before.jpg\|240px\|kott]]

	Pärast:		Pärast (märkus: testis on kasutatud BMP formaati, wiki seda ei toeta):

	[[Image:Ifi6057lab12_after.~~bmp~~\|kott, 28x28]]		[[Image:Ifi6057lab12_after.jpg\|kott, 28x28]]

	Proovime laadida ja klassifitseerida. Pildifail tuleks saada ühemõõtmelise massiivi kujule ning iga piksli väärtus normaliseerida samuti kui treenimisel.		Proovime laadida ja klassifitseerida. Pildifail tuleks saada ühemõõtmelise massiivi kujule ning iga piksli väärtus normaliseerida samuti kui treenimisel.

PriitJ: /* Katsetamine */

2018-04-22T14:24:07Z

Katsetamine

←Vanem redaktsioon		Redaktsioon: 22. aprill 2018, kell 16:24
83. rida:		83. rida:

	Märkus: <code>predict()</code> meetod tahab parameetrina sisendite massiivi ja annab vastuseks ka klasside massiivi. Antud näites on aga üks pilt ja seega mõlema massiivi pikkuseks 1.		Märkus: <code>predict()</code> meetod tahab parameetrina sisendite massiivi ja annab vastuseks ka klasside massiivi. Antud näites on aga üks pilt ja seega mõlema massiivi pikkuseks 1.

			Klassifikaatorite [https://github.com/zalandoresearch/fashion-mnist#labels tähendused].

PriitJ: /* Närvivõrgu treenimine */

2018-04-22T14:23:05Z

Närvivõrgu treenimine

←Vanem redaktsioon		Redaktsioon: 22. aprill 2018, kell 16:23
46. rida:		46. rida:
	* <code>max_iter</code> - mitu treenimise "epohhi" tehakse. Vähem on kiirem, aga kaalud ei pruugi konvergeeruda.		* <code>max_iter</code> - mitu treenimise "epohhi" tehakse. Vähem on kiirem, aga kaalud ei pruugi konvergeeruda.
	* <code>hidden_layer_sizes</code> - annab närvivõrgu struktuuri. Toodud näites on ühe peidetud kihiga struktuur (sisendite ja väljundite arv on fikseeritud treeningandmetega).		* <code>hidden_layer_sizes</code> - annab närvivõrgu struktuuri. Toodud näites on ühe peidetud kihiga struktuur (sisendite ja väljundite arv on fikseeritud treeningandmetega).

			[http://scikit-learn.org/stable/modules/generated/sklearn.neural_network.MLPClassifier.html Muud parameetrid].

	Põhimõtteliselt on võimalik kiiruse huvides ka treeningandmete suurust vähendada, aga lõplik treenimine tuleks kindlasti teha täisandmete pealt.		Põhimõtteliselt on võimalik kiiruse huvides ka treeningandmete suurust vähendada, aga lõplik treenimine tuleks kindlasti teha täisandmete pealt.