Posts

Šta dalje: knjige, kursevi i radovi

-
Veštačka inteligencija od nule Dodatak · Šta dalje Kurs je dao sliku celine. Odavde se ide u dubinu, i pravac zavisi od toga šta te je najviše zanimalo — širi kontekst, unutrašnjost mehanizma, pravljenje sopstvenih stvari, ili matematički temelji. Spisak je namerno kratak. Bolje je pročitati tri stvari do kraja nego imati listu od trideset. Linkove ne navodim jer prebrzo trunu. Sve navedeno se nalazi pretragom po naslovu i autoru, a uz besplatno dostupne naslove to piše. I. Šira slika, bez matematike Melanie Mitchell — Artificial Intelligence: A Guide for Thinking Humans Najbolji jedan naslov ako želiš da produbiš ono što je ovaj kurs samo skicirao. Autorka je istraživač koja piše trezveno, bez oduševljenja i bez straha, i posebno je dobra u objašnjavanju zašto sistemi otkazuju baš tamo gde otkazuju. Brian Christian — The Alignment Problem Cela knjiga o onome što je u osmoj lekciji stalo u jedan odeljak: šta se dešava kada sistem savršeno ispuni merilo koje mu je z...
Post a Comment
Read more

Okruženje za vežbe

-
Veštačka inteligencija od nule Dodatak · Okruženje za vežbe Ovaj dodatak treba samo onome ko želi da radi vežbe. Kurs se čita bez ijedne linije koda i nijedna lekcija ne zavisi od toga da li je prethodna vežba urađena. Uz to, svaka vežba ima prvi deo koji se radi olovkom i papirom. I ako nikada ne otvoriš računar, ti delovi te vode kroz sve što je bitno. I. Dva puta U pregledaču, bez instalacije. Google Colab je sveska koja se otvara u brauzeru, traži samo Google nalog i dolazi sa svim bibliotekama koje su nam potrebne. Za ovaj kurs je to preporučeni put i nema nikakvu ozbiljnu manu. Na svom računaru. Ima smisla ako radiš sa podacima koji ne smeju napolje, ako često nemaš internet, ili ako ti je ionako namera da se ovim baviš duže. Traži pola sata podešavanja. Ako se dvoumiš, kreni od pregledača. Prelazak na lokalno je kasnije lak, obrnuto takođe. II. Rad u svesci Sveska se sastoji od ćelija — jedne sadrže kod, druge tekst. Ćelija se pokreće posebno, a ono što...
Post a Comment
Read more

Pojmovnik veštačke inteligencije

-
Veštačka inteligencija od nule Dodatak · Pojmovnik Svi pojmovi iz kursa na jednom mestu, azbučnim redom, sa po jednom rečenicom objašnjenja i linkom na lekciju u kojoj se obrađuju detaljno. Ova stranica se dopunjava. Ako ti neki termin fali, ostavi ga u komentaru. A Adam — postupak koji tokom treninga sam podešava veličinu koraka, umesto da ona bude stalna. Lekcija 3 Aktivaciona funkcija — pregib na izlazu neurona, bez kog bi cela mreža, koliko god duboka, bila jedna jedina prava. Lekcija 5 Arhitektura — raspored i povezanost neurona, koju bira čovek, za razliku od parametara koje pronalazi trening. Lekcija 1 C Curenje podataka — situacija u kojoj u trening uđe podatak kojeg u stvarnoj upotrebi neće biti, pa rezultat ispadne lažno dobar. Lekcija 4 D Dropout — nasumično isključivanje dela neurona tokom treninga, da se mreža ne bi oslonila na jedan jedini put kroz sebe. Lekcija 5 Dubina — broj slojeva u mreži; u praksi se isplati više od širine. Lekci...
Post a Comment
Read more

Gde modeli otkazuju i šta to znači

-
Veštačka inteligencija od nule Lekcija 8 · Gde modeli otkazuju i šta to znači Sklopili smo celu sliku — od prave kroz oblak tačaka do modela koji piše tekst. Ostalo je ono zbog čega se sve to i uči: gde ta mašinerija otkazuje. Ova lekcija nije moralni dodatak na kraju tehničkog kursa. Svaka slabost o kojoj će biti reči direktna je posledica onoga što smo opisali u prethodnih sedam lekcija. Halucinacije slede iz zadatka pogađanja nastavka. Pristrasnost sledi iz učenja pravilnosti iz podataka. Neprozirnost sledi iz zamene pravila parametrima. Ko razume mehanizam, ove slabosti ne doživljava kao iznenađenje niti kao kvar koji će neka sledeća verzija ukloniti. I. Halucinacije Model uverljivo navede propis koji nikada nije donet, citira rad sa savršeno uobičajenim naslovom i izmišljenim autorom, ili napiše broj koji zvuči tačno. Ne pravi se da zna — u njegovom svetu ništa se posebno nije dogodilo. Vratimo se na sedmu lekciju. Model bira verovatan nastavak teksta. Izmišl...
Post a Comment
Read more

Transformeri: pažnja i sve što iz nje sledi

-
Veštačka inteligencija od nule Lekcija 7 · Transformeri: pažnja i sve što iz nje sledi Prethodna lekcija je stala na jednoj mani. Reč dobija svoje mesto na mapi značenja jednom zauvek, pa kosa u rečenici o frizeru i kosa u rečenici o košenju dele isti spisak brojeva — negde na sredini, gde nije tačan ni za jedno. Rešenje zvuči očigledno: neka mesto reči zavisi od rečenice u kojoj stoji. Mehanizam koji to izvodi zove se pažnja , a arhitektura sagrađena oko njega transformer . Od tog jednog poteza, opisanog u radu iz 2017. godine, potiče praktično sve što se danas naziva veštačkom inteligencijom. Ovo je najduža lekcija u kursu i ima dva dela. Prvi objašnjava mehanizam, drugi kako se od mehanizma dolazi do asistenta koji odgovara na pitanja. Slobodno ih čitaj u dva navrata. PRVI DEO · MEHANIZAM I. Šta je trebalo rešiti Do 2017. tekst se obrađivao redom, reč po reč. Model bi pročitao reč, ažurirao svoje unutrašnje stanje, pa prešao na sledeću — otprilike kao čovek ko...
Post a Comment
Read more

Reprezentacije: od piksela do značenja

-
Veštačka inteligencija od nule Lekcija 6 · Reprezentacije: od piksela do značenja Prethodna lekcija je ostavila otvoreno pitanje: šta unutrašnji slojevi mreže rade? Znamo kako se podešavaju, ali ne i šta u njima na kraju stoji. Odgovor je najzanimljivija stvar u celom kursu. Slojevi grade sopstveni jezik za opisivanje ulaza — postepen niz sve apstraktnijih pojmova, koji niko nije zadao i koji se u mreži pojavio sam. Taj jezik se zove reprezentacija . Ista ideja, primenjena na tekst, dovodi do nečega još čudnijeg: do toga da značenje reči postane mesto u prostoru , a poređenje značenja običan račun rastojanja. Na tome počiva sve što danas rade jezički modeli. I. Sirov ulaz ne znači ništa Slika je za računar spisak brojeva — koliko je koja tačka svetla. Nijedan od tih brojeva sam po sebi ne govori ništa. Nema u njemu ni ivice, ni oblika, ni mačke. Sve to postoji tek u odnosima među hiljadama tačaka. Pre dubokog učenja, taj jaz je premošćivao čovek. Stručnjaci su smiš...
Post a Comment
Read more