Audio zapis razgovora:

Transkript razgovora:

Ivan Minić:​ Moj današnji gost u Pojačalu je moj dragi prijatelj Goran S. Milovanović i ovo je treći put da je on u Pojačalu. Međutim, pre dve godine kada smo pričali, AI i sve što ga okružuje bio je tek nešto sa čime svi mi eksperimentišemo. U ove dve godine postao je važan deo našeg svakodnevnog rada, a postao je i razlog ili, čini mi se, češće izgovor kompanija za smanjenje broja radnika, otpuštanje, povećanje profitabilnosti i sve ostalo. E, to je bila idealna prilika i povod da se skupimo i da malo popričamo o svemu tome. Da čujete i naše uglove, da čujete šta mislimo da ima smisla, šta nema i da dobijete neku vrstu, nisam siguran da li je to savet, ali neku vrstu našeg razmišljanja i smernica kako bismo mi, a kako biste možda mogli i vi da učinite sve da budete manje zamenljivi ili idealno nezamenjivi u celoj ovoj priči. Uživajte. 

Ako imate svoj biznis, ili planirate da ga pokrenete online, ovo može da vam bude baš korisno. Orion telekom ima novu Web Hosting ponudu, sa paketima za različite potrebe: od manjih sajtova, blogova i portfolija, pa do većih projekata i više sajtova. Uz odabrane pakete trenutno važi i 30% popusta, a ono što je posebno korisno jeste da uz hosting dobijate i alat za samostalnu izradu sajta. Tu je AI Sitejet Builder, pa bez programiranja i bez tehničkog znanja možete sami da napravite i objavite svoj sajt.Uz to, dobijate i ono što je važno da sajt stvarno radi kako treba — brzinu, sigurnost i stabilan hosting, kao i .rs domen uz odabrane pakete. Ako želite jednostavniji i povoljniji put do sajta, posetite oriontelekom.rs ili se obratite direktno na biznis.prodaja@oriontelekom.rs

Redovni slušaoci i gledaci Pojačala već dobro znaju da je naš partner već nekoliko godina kompanija Epson i posebno smo im zahvalni na tome. Epson je japanska tehnološka kompanija sa dugom istorijom razvoja i inovacija, a prethodnih decenija bili su vrlo fokusirani na očuvanje životne sredine. Možda je upravo to i razlog što svake godine inoviraju najviše u domenu projektora i štampača za razne namene i već 20 godina proizvode zvanično najbolje projektore na svetu. Što se tiče štampe, od malih post štampača za svakodnevnu upotrebu u maloprodajama preko kućnih office rešenja pa do onih velikih za industrijsku upotrebu, Epson štampači su lideri u svakom od ovih segmenata. A osim izuzetno kvalitetnog otiska, nude i uštitu električne energije kao i zaštitu životne sredine od pakovanja do načina na koji se dopunjavaju i načina na koji se održavaju. Ukoliko ste zainteresovani za nešto ovako, sve informacije možete pronaći na sajtu www.epson.rs

Od nedavno sam postao urednik i autor na portalu NašaMreža. U pitanju je portal za preduzetnike gde možete pronaći mnogo zanimljivih i korisnih informacija o svim pitanjima koje muče vlasnike biznisa u Srbiji. Među autorima možete videti mnoge od mojih gostiju iz prethodnih epizoda, pa topla preporuka da posetite našamreža.rs.

Za slučaj da želite da nas podržite vi individualno, možete da posetite link na platformi Buymeacoffee i tu možete kupiti mesečnu pretplatu ili jednokratno donirati neki iznos koji želite. Hvala vam unapred na tome. 

Ivan Minić: Prošlo je neko vreme od kada smo se prethodni put okupili u ovom sastavu da kritikujemo društvo, mlade, veštačku inteligenciju, ljude, an ženeral, i to kako planeta ide dođavola. Pa je bilo zgodno da nakon skoro dve godine sednemo ponovo i da malo popričamo o svemu tome jer, istini za volju, u ove dve godine se dosta toga desilo. Uh, istini za volju, u ove dve godine vrlo je teško reći da neko ko želi da bude relevantan i konkurentan može to da radi a da ni na koji način ne koristi makar, ovaj, ChatGPT. A svakako i kroz sve što se dešava, hteli ne hteli, nametnuto nam je da imamo, ovaj, interakciju, jer mnogi od velikih sistema sada već svim korisnicima daju i tu mogućnost da i ako guglaš nešto, prvo će ti izaći AI prilagođeni odgovor koji je Gemini za tebe napravio, pa onda sve ostalo. Da kažemo, način na koji koristimo tehnologiju, način na koji interagujemo sa tehnologijom se drastično promenio. Uh, i zbog toga, gospodin Goran je ponovo sa nama, ovaj, u u ulozi, uh, jednog, uh, čoveka sa velikim iskustvom, jednog starijeg gospodina, koji je ovde došao da mi smatramo. Da ne budem ja najveći drkadžija i da mi smatramo, a ja ću da smatram ovako, ovaj, paušalno, a on će da smatra na naučnoj osnovi.

Goran S. Milovanović: Tako je. Kao što si, ovaj, počeo razgovor, je l’ sada kad su već stvari posle dve godine tu, sada pred kraj. Primakle se dođavola. Znači… Sada pred kraj cele priče da podvučemo crtu i da vidimo da vidimo, ovaj, koja je to trajektorija kojom je sve išlo dođavola, pa da. Ovaj, sada se čini da bar po pitanju toga što danas sve zovemo AI tehnologije i svega toga što je u kontinuitetu sa promenom tih skraćenica koja se ubrzano desilo ovih 15 godina od to Data Science, Advanced Analytics, Big Data eskaliralo je, ja moram priznati, mnogo brže nego što sam ja ili stvarno mislim zapravo bilo ko očekivao, ovaj, preko tog Machine Learning-a u sad AI priču koja počiva na svemu tome. Ovaj, jeste sada je, kao što si opisao, u stvari ušlo u fazu kada ta tehnologija sada više sama prodire u sve strane. Nije pitanje nekog posebnog korisnika, posebnog čoveka hoće da ustane i da sada nekako uđe u to. Nema potrebe da ulaziš u to, jer je kroz sve najrazličitije servise, Google Search kao odličan primer, to, ta stvar došla do nas. Ovaj, a nadajmo se da nije došla po nas. Mislim, to je onako takođe bitna stvar. I čak zapravo odrednica, fraza koja polako počinje da se koristi u raspravama o distribuciji radne snage, poslova, ko šta radi i tako dalje, koja, ovaj, glasi da zapravo dobro razmislite ukoliko vam se čini da ste u nekom poslu koji može da bude automatizovan. Mada se ja nadam da ću u toku našeg razgovora moći dobro da relativizujem šta to znači, da pokažem da to je samo reč, a do realnosti i do ostvarenja se dolazi teže. Kaže: „Dobro razmislite da li je vreme da postanete osoba koja koristi AI, da slučajno ne postanete osoba koju koristi AI.” Mada nas sve koristi pomalo na razne načine.

Ivan Minić: Mislim, ima onaj servis, dobio mi je skoro Slavko, mislim nije ni skoro, sad već ima par meseci. Onaj servis Rent a Human, gde AI može da zakupi čoveka da uradi to što treba da se uradi u fizičkom svetu.

Goran S. Milovanović: Sve ide po planu.

Ivan Minić: Što jeste onako da kažemo, idilično. I ima dosta ljudi koji u suštini samo žele da urade ono što im se kaže. Ne žele da u bilo kom trenutku uključe kogniciju u taj proces.

Goran S. Milovanović: To je fenomenalno, ovaj, i to je, ovaj, da, to je interesantno je to realan servis za sada. Ovaj, jeste, to se, zapravo govorimo o nečemu sasvim, da kažem, friškom, to je nešto što se desilo u prethodnih nekoliko nedelja ili meseci. Kao i kod svih takvih stvari, znaš, uvek će biti potrebno neko vreme da vidimo da li je to nakupilo toliko star-ova na GitHub-u i toliki followership koji ima zbog toga što realno nešto znači, realno vredi, ili jednostavno bio dobar momenat u dobroj, na dobroj visini talasa, pa su ljudi sad krenuli, „vau, vidi šta je ovo interesantno”, pa imaš tamo milion followera i ostalo. A zasnovano na nekoj toj logici, „OK, ta stvar ima sve, ali nema ruke i noge, mislim znaš, oči i to”. Još uvek. Polako. Ovaj, još uvek ne prizivaj. Ali, ovaj, i da, jednostavno možeš da imaš, mislim, znaš, server koji zadaje zadatak, sad traži, OK, meni sad samo treba neko stvarno da ode samo po slugu i fizički donese tu kesu sa mlekom. Dobićeš 10 dinči za to, znaš, klikni, pa polako da vidimo. I pojava takvih stvari ukazuje onako na stvarno daje neku, znaš, onako mračnu distopijsku perspektivu, ali opet kažem, samo ako nas to oduševi, dođe stvarno grubo pojednostavljenje, dođe mnogo jednostavnije nego što zapravo stvar jeste. Ovaj, u celoj priči o transformaciji rada i organizacije života kroz, kroz AI. Generalno, ono što jeste, hajde da kažem, ne, ne znam koji je pravi izraz, mislim da li je pravi izraz zadivljujuće ili zastrašujuće, možda pre zastrašujuće, jeste takav jedan servis u kome zapravo AI sistemi mogu je li, da draftuju real human beings, prave ljude i kažu: „OK, sad stvarno moraš ti da uradiš, ja ću da te platim, je l’ OK”, jer završavam posao za drugog real human being-a koji mene plaća. To jest troši. Ovaj, to postaje realnost, je l’? E sad, to su, kažem, one stvari koje su lomovi psihološki čovečanstva kada se dešava, prodiranje novih tehnologija i tih stvari. Da projekti, poslovi, ideje, koji su stvarno bili nezamislivi pre toga ili bili zamislivi kao oblik fantazije, science fictiona i tako nečega, sad počinju da postaju opipljivi. Da kažeš: „Da, mislim, u nekoj dimenziji ovo bi, i ovo bi moglo da radi.” Ali, moram da kažem, ovaj, prethodnih pa tako recimo, ne znam, prethodnih godinu dana, uh, nekako je ceo taj proces kod mene reaktivirao stara neka moja interesovanja u studijama tih, kako se to zove, socijetalnih efekata tehnologije. Počeo sam ponovo kao pre 20 i nešto godina kad se bavio time, da da sistematski pratim i razmišljam o tome: „Hajde da sistematizujemo, da vidimo šta se stvarno dešava sa ovom AI pričom.” I moji zaključci su stvarno, uh, znaš kako, prvo, mi još učimo da koristimo te tehnologije. To kako će izgledati upotreba AI na kraju balade, proći će mnogo vremena pre nego što mi to razumemo. Drugo, mnogi use cases su zamislivi. Ali kad pokušaš da ih izvedeš u praksi, stvarno efikasno i napraviš od njih stvarne poslovne procese, radne procese, shvatiš da se suočavaš sa jednom gomilom problema koji još nisu rešivi do kraja. I treća stvar, priča o tome AI displacement, disruption, ljudi gube poslove, automatizuju se cele pozicije i tako dalje. Ta priča je prenagljena, diže preveliku paniku i uopšte u ovom trenutku nije relevantna na taj način da neko ustane i kaže: „Mene će sutra zameniti AI ili mene će u zadnjih narednih šest meseci zameniti AI.”

Ivan Minić: Zanimljivo je, pre, ovaj, nekoliko nedelja bio mi je gost moj dragi prijatelj, Nikola Pejović Dica i pričali smo o njegovoj vizuri svega ovoga kao čoveka koji je u finansijama i koji posmatra sve to sa nekim pogledom od 10.000 metara, gde u principu vidiš tržišna kretanja. Vidiš neke trendove. Vidiš da se dešava ono što se, ha, ako ćemo iskreno, uvek dešavalo. Firme koje dobro posluju, procene da treba da otpuste neki broj ljudi, umesto da dobiju neku vrstu društvene osude zbog toga, oni dobijaju nagradu na berzi. A društvena osuda, mislim koga briga za društvenu osudu ako dobijaš nagradu na berzi. I onda imamo te situacije da ono, razni neki igrači kroz vrlo tendenciozne i vrlo, uh, često i grube objave objavljuju kako mi smo pola workforce-a zamenili ovim. Često pitanje koje tu stoji je, a dobro, a šta je uopšte vaš proizvod pošto ja ne znam ni na čemu su ovi ljudi radili. I onda shvatiš da je to vrlo problematična stvar iza. Meni se čini, a to je negde i Nikola komentarisao, da iako očigledno kriza za određene profile poslova jako postoji i sigurno. Ono, ako ste radili u administraciji u tradicionalnom smislu toga šta je administracija, gde prekucavate neke račune, da, više ne postoji nikakva potreba verovatno za vama. Da. Ali u skoro svim ostalim slučajevima nije to baš tako kao što izgleda. Neke stvari jesu, ali to je ona stara priča koju smo imali i sa prethodnim ciklusom industrijske revolucije, gde su ljudi i ima ta priča za za General Motors, ovaj, gde su ljudi po svaku cenu pokušavali da automatizuju sve, pa nisu dobili ništa, jer su dobili samo multiplikator haosa, jer je njihov proces bio haos.

AI I POSAO: PANIKA ILI REALNOST?

Goran S. Milovanović: Problem je u tome što su procesi tehnološke transformacije, je li, mislim, poslovnih procesa, ekonomije, društava u celini, ti su procesi dugotrajniji nego što mi mislimo, znaš. Trenutno se dešava, kako da kažem, znaš, trenutno smo zapanjeni magijom, onim magijskim aspektom jedne tehnologije o kojem je nekad govorio Arthur C. Clarke, je l’, sa, ovaj, tom opservacijom da je, je li, ono, svaka dovoljno napredna tehnologija koja donosi budućnost, znači ona koju mi sad u ovom trenutku ne vidimo kad se pojavi, nama bi u prošlosti delovala bukvalno kao magijski aspekt, je l’? Jednom sam to, mislim, baš u razgovoru sa tobom u Pojačalu pominjao ti, da sada pustiš ChatGPT, Claude ili bilo šta od toga tamo srednjovekovnim misticima koji su se bavili kabalom i tako dalje, oni bi ljudi reagovali sa bukvalno, to je to. Ovi su ostvarili kontakt sa Bogom, ono što smo mi hteli u našim. Sigurno bi to zaključili, je l’? Naravno, u međuvremenu se desilo mnogo racionalnijih stvari, otkriće naučnog racionalizma, mehanika, hemija, sve živo, pa mi danas znamo da to nije to. Ali kad se pojave takve stvari, pogotovo ovakve tehnologije koje su kako se to kaže, kognitivne, simuliraju naše mentalne funkcije i tako dalje. Da, onda smo svi „vau”, mislim „gledaj bre ovo”. I sad, znaš, to pokreće dozu entuzijazma, ushićenja, oduševljenja, ali isto tako pokreće i dozu paranoje. Znaš, ozbiljno, mislim, dozu jedne paranoje. Ne kliničke paranoje, nego neku vrstu socijalne paranoje. Pokupiće nas, završiće posao sa nama, da li je ovo sledeći korak u evoluciji, novoj planeti, mi postajemo apsolutni, nema nas i to… Da, slušaj. 

Ivan Minić: Matrix je lepo prikazao da ćemo mi biti baterije. 

Goran S. Milovanović: Jeste, da. Ali, gledaj, i dalje je sci-fi film. Mislim, OK. I dalje je samo opomena. Ono što hoću da kažem u odnosu na na tu priču. Gledaj, uh, pre svega, hajde da da da počnemo staloženo od toga. Vidi, uh, zamena nekih profesija, odnosno jednostavno da kažeš ukidanje nekih profesija, je nešto što kontinuirano postoji kroz kompletnu istoriju ekonomije. Sad što je banalnih primera milion imam, diskutovali smo ih, razvoj železnice u industrijskoj revoluciji, razvoj, otkriće motora sa unutrašnjim sagorevanjem, proizvodnja kola, odoše kočijaši. Mislim, kočijaši postaju romantična kategorija i tako dalje.

Ivan Minić: Meni je jedan od najlepših primera bio zapravo onaj, o kome sam dosta čitao jer me je zainteresovalo, početkom ovog veka, odnosno prethodnog, je l’, 1900. i neke godine šta je bilo najunosnije zanimanje u jednom delu sveta. Kitolovci i ljudi koji su se bavili time, dakle, izvlačenjem,

Goran S. Milovanović: Nisam imao predstavu. Dobro.

Ivan Minić: Izvlačenjem ulja i masti i tako dalje iz.

Goran S. Milovanović: Jasno.

Ivan Minić: I kao, samo jedne godine više nije bilo potrebe za tim zato što smo ovladali tehnologijama koje su nam omogućile da to dobijemo na drugom mestu mnogo jednostavnije.

Goran S. Milovanović: Industrijska ulja ovakva i onakva.

Ivan Minić: I to je to.

Goran S. Milovanović: E.

Ivan Minić: I kao što, znaš,

Goran S. Milovanović: Gledaj primer koji si počeo da o kome si počeo da da pričaš, ono bank tellers, je l’, znači bankarski službenici. E ali sad gledaj, ovo je vrlo zanimljivo. Je l’ bankarskog službenika, da li njega eliminiše AI tehnologija? Pa nije. Evo kod nas u Beogradu pogledaj privatne banke. OK? Nemaš ih više. Ja u koju god filijalu da sad ne pravim reklamu moje banke uđem je l’, koja god to banka bila je l’. Znači šta, gospodine, mi više nemamo uslugu na šalteru. Nema, mislim, znaš, to jedino ako si došao da pričaš milion evra kojih nemam, mislim je l’, onda ćeš da dobiješ uslugu u kancelariji. Nemamo više uslugu na šalteru, imate aplikaciju, imate digitalizovane, ovaj, spremne bankomate, sve ćete te operacije završavaju tamo. U tome nema trunke, dok ne govorimo o nekom virtuelnom asistentu, a pitanje je koliko se koriste. Znaš, nema trunke AI tehnologije. Je l’, to je njega je skinula digitalizacija po sebi. Ovaj talas AI tehnologije, takođe preti mnogim profesijama, ali ja moram odmah da budem otvoren s tim. Uh, u principu i dalje govorimo zapravo o ne preterano kvalifikovanim mestima. Ne preterano kvalifikovanim mestima koja su, po mom mišljenju, u savremenoj ekonomiji, i to uključujući i savremenu srpsku ekonomiju, u kakvom god da ona sad ona stanju bila, uopšte i nisu bila radna mesta za kojima je neko, a pogotovo ne mlad čovek koji ulazi u profesionalni život, bio nešto preterano lud za tim da bude na takvim radnim mestima, nego ih je verovatno uzimao kao: „Da, OK, ovo ću da radim neko vreme dok nešto ne smislim šta ću pametnije sa sobom pa idem dalje.” Uh, to je otprilike, znaš, klasa poslova koje, vidiš, toliko su rutinske prirode. Oni sad obuhvataju to, mentalne operacije, kognitivne operacije. To je novo. Je l’ OK, to je novo. Banalno, znaš, ono, prepisati neki broj, razumeš, imaš ono, ne znam, napisano nešto rukopisom i sad ti moraš da uradiš ovo. OK, da, mislim, fotografišeš, daš ChatGPT-ju Claudeu, ja koliko vidim, to u 99,999, mnogo devetki posto slučajeva radi posao. Ti popuniš neki formular koji ti treba. Pitanje za bilo koga, ako, ako, ako je ovo bilo u opisu vašeg radnog mesta, stvarno koliko ste ozbiljno hteli da zadržite to radno mesto, je l’? Gde naravno, vulnerabilnost je vezana za ljude koji ne mogu iz bilo kojih razloga, ali iz bilo kojih razloga ne mogu da rade ništa drugo. Ili su jedva došli do tako nečega. I to je činjenica, takvi ciklusi tehnološke transformacije, oni su uvek imali kolateralne posledice po neke ljude koji jednostavno lete, razumeš? I onda moraju da se prekvalifikuju ili se ne prekvalifikuju i tako dalje. Ali, priče, samo celinu da završim. Znači, priče o tome koje su danas atraktivne, aktuelne i koje treba da se pričaju, ali za koje nisam siguran koliko su realne. Zameniće kreativnu industriju sleva na desno, ne znam, čitave kategorije muzičara, dizajnera i tako dalje gube poslove, programeri gube poslove. Bukvalno mislim da, doslovce mislim, samo može da dođe do izvesne restrukturacije, koliko čega treba, koliko čega treba, je l’? A do toga što se zove automatizacija, znači da mi potpuno ovako eliminišemo neku, neku profesiju koja stvarno zahteva neke više mentalne sposobnosti čoveka, to, moj stav trenutno je da to apsolutno ne dolazi u obzir. Mislim, ne, ne, nema šanse da će se desiti. Na stranu vremenska skala koliko treba za takve stvari kad se dešavaju, o tome možemo možda, možda kasnije.

Ivan Minić: Uh, moj utisak jeste zapravo da, uh, najugroženiji ljudi u toj celoj postavci jesu ljudi koji ne žele da se liše svog komfora. A u principu, u zoni komfora se ne dešava ništa što je zanimljivo. Mi imamo to, taj trend, nažalost, mentalitetski ovde, da ljudi vole da, ako im odgovara ili ako im, uh, ako su OK sa tim, znači možda nisu zadovoljni, ali im je dovoljno dobro da se ne bi cimali, ovaj, da žele da ostanu 10, 20, 30 godina na istom poslu i da vide to kao neku vrstu subscriptiona koji dobijaju mesečno, a rade koliko moraju i to je to. Ne ulazim u to da li je to ispravno ili nije, preduzetnik sam, samim tim mislim da takve stvari nisu ispravne i da je to razlog zašto je društvo u problemu, ali, bottom line je da, uh, u većini slučajeva mi upravo pričamo o poslovima za koje je trening koji je potreban minimalan.

Goran S. Milovanović: Tako je.

Ivan Minić: I ako je trening koji je potreban minimalan, ne mora da se pojavi AI, može da se pojavi bilo ko. Mi smo prvo imali talas ljudi iz zemalja trećeg sveta koje su ovde došle da potraže sreću, pa tek je onda došao AI.

Goran S. Milovanović: Da. I to, opet da se podsetimo da da prijem tog talasa, ovaj, radnika iz zemalja trećeg sveta koji dolaze ovde da pokušaju da reše svoje tamo teške ekonomske situacije, ovaj, nije napravio ne znam kakav krš na tržištu rada Srbije. Zašto? Pa izvini čekaj, to svi znamo, potpuno je jasno, je l’? Uh, već smo ušli u zonu da smo ekonomija u kojoj imaš gomilu poslova koje ljudi nisu hteli više da rade.

Ivan Minić: Tako je.

Goran S. Milovanović: Gradsko saobraćajno preduzeće je bilo u manjku vozača i pre nego što su došli ljudi, kako smo se izrazili sada iz trećeg sveta da počnu da rade taj posao. Je l’? Pa sad vi pričajte o tome šta god hoćete, to je de facto činjenica. Ne sećam se da sam video radničke demonstracije, „vratite nam poslove u GSP” ili već, znaš, u, OK kao raznosača i tako dalje, je l’? Ovaj, znači sve to da kažem, ima svoje. Većina, znaš kako je to interesantno, to je ekonomija jedna racionalna nauka, bez obzira na to što svet se bazira samo delimično na racionalnim, ovim, stvarima, ali na kraju ti omogućava da kad uradiš analizu stvari, vidiš da sve pod izvesnim ograničenjima leži na svoje mesto. Odnosno retko kad ćeš videti da se nešto desilo, uh, što čemu nećeš naći objašnjenje. Najčešće ćeš videti, da, ovo vam se desilo jer ste se namestili da vam se desi. Pa sad dobro ili loše, ali nađu se razlozi zašto, zašto ga ima. Uh, ogroman je kontrast, čini mi se. Čini mi se da je ogroman kontrast danas, uh, ne samo vezano, evo mi smo diskusiju započeli o tome, tržište rada, alokacija posla, šta se dešava, ta tema od koje svi sada strepe, uveravam vas, ali potpuno neopravdano, zamenljivosti, šta će da bude, kako će da bude, s tim stvarno take it easy. Ali, ogroman je kontrast ne samo u toj diskusiji, nego uopšte o nekom nekoj toj javnoj raspravi o AI, shvatanju posledica njenih po društvo, kulturu, pojedinca i to, koju zapravo vidimo u digitalnoj javnosti, je l’, a onoga što otkrivaju čak i naučne studije i trezveniji pogledi vezani za zapravo stvarnu empirijsku realnost šta se i kako se dešava, je l’? 

OTKAZI U IT INDUSTRIJI: SRBIJA VS. SAD

Goran S. Milovanović: Uh, sleva na desno kad pogledaš, evo domen koji je meni najbliži, a tebi nedaleko, je l’? Software inženjering, development, te stvari. Ovaj, vidi. Znači, trenutno, evo dok sada baš dok ti ja vodim ovu diskusiju, u prethodnim nedeljama, je l’? Izuzetno je aktuelna koja priča? Izuzetno je aktuelna priča o tome da se gube kilotone mesta i poslova u IT industriji. OK? Dešava se u našoj zemlji, nažalost. Ne znam da li ste primetili, dešava se u SAD i to se dešava u SAD galopirajućim tokom koji je naravno mnogo veća ekonomija pa i mnogo jači kod nas, je l’? A interesantno je kako ljudi dosta toga vezuju za AI transformation.

Ivan Minić: Ali vidi, uh, s jedne strane imamo to, sa druge strane imamo i opravdanje zašto neki ljudi to povezuju, posebno oni koji nisu u toj priči. Zato što su u mnogo velikom procentu slučajeva opravdanja kompanija za layoffs to.

Goran S. Milovanović: Tako je, tako je, tako je. To sam hteo kao upravo da povežem sa time. Preduhitrio si, odlično, mislim tu priču. To je sad, to je sad marketing na kvadrat, da ga nazovemo tako. Mislim, to je sad propaganda na kvadrat. Razlozi. Realni razlozi. Zašto se dešava u Srbiji? Zašto se dešava u SAD? Jedno s drugim nema blage veze. Odmah ti kažem, nikakve blage veze nema. Vidi. Uh, Meta otpušta oko 20.000 radnika. Postoje najave i od otpuštanja Oracle i tako dalje. Uh, razlog za to jeste AI. Ali razlog za to nije AI automatizacija poslova. Čak ni ono što se zove komplementarna upotreba tehnologije, to jest da jednog radnika ti učiniš, ne znam, koliko puta produktivnijim time što ćeš mu dati AI. To se by the way dešava, to ćemo da pričamo, to je realan proces. Ali ništa od ta dva nisu razlozi, a jeste AI. Nego su razlozi zato što hyperscalers danas u industriji, tih pet velikih koji sad, ovaj, ulažu u ceo, celu AI infrastrukturu, čitaj data centre koji treba da to pruži kao ekstremno skaliranu uslugu, je l’? Su blago meni isplanirali, ako ne grešim, nešto oko 600 milijardi dolara investicije do 2030. godine u data centre. Odmah da ti kažem, i to pa nadrealno. Ni sami ne znaju kako će to da izvedu. Mislim, verovatno. 

Ivan Minić: Ni NVIDIA ne zna kako će to da proizvede.

Goran S. Milovanović: Ma kakvi, mislim već postoji kenclovanja, planiranih data centara i tako dalje. To je tema za odvojenu diskusiju, to šta se tamo dešava je stvarno lom. Mislim, je l’? Lom kosmičke prirode gde je Srbija u jednoj dalekoj vangalaktskoj orbiti, blage veze nema sa nama, niti može da nas uhvati, niti ima ikakve konsekvence na nas. Ti ljudi sada tamo dobijaju poslove. U poslovanju svake od tih kompanija, plate su ogroman, ovaj, procenat troškova, ogroman, je l’? Dosta para se štedi tu. Oni moraju da investiraju u izgradnju data centara. To je strategijski potez.

Ivan Minić: Da bi ostali konkurentni u tom njihovom ekosistemu.

Goran S. Milovanović: Doslovce, strategijski potez, nema nikakve blage veze s time. „Zašto ste otpustili 20.000 ljudi?” Pošto jedan sa Anthropic Cloud kodom ili Cursorom programira se trojicu pa sam izračunao da mogu, je nula objašnjenje za to što se desilo. Ne, objašnjenje je zato što im treba kešina da bi išli u kapitalne investicije, isplanirali su ogromne kapitalne investicije za izgradnju data centara. To je zašto se tamo gube poslovi. Druga stvar. Druga stvar. Od 2020. godine do danas, znači zadnjih evo pet i po da kažemo je l’, OK. Uh, uh, IT sektor u USA je izgubio preko 900.000 poslova, skoro milion. Pa mislim, čekaj, ne postoji samo AI na ovom svetu. Prva činjenica, tokom korone je bilo prezapošljavanje. To je karakteristično i za Beograd i za Srbiju. Je l’, OK. Mnoge mogu da po… da, da, u našoj zajednici podsetim na to kako se zapošljavalo u tom periodu, je l’?

Ivan Minić: Lopatom, je l’ OK.

Goran S. Milovanović: Konačno možemo te soft skills protiv, molim vas, samo da ne ispadne nešto da nekog ocenjujem, naprotiv, ja mislim da su neke ekstremno bitne da budu tu, ali je druže, zapošljavaš i onda zapošljavaš i ono i šta treba i šta ne treba, da se razumemo. Prvo su napravili to. Onda druga stvar, ako se setimo 2022. godine negde u februaru, ako se dobro setim, Volođa je odlučio da ratuje, je l’, OK. To je dovelo do jedne ekonomske disrupcije na neku malu inflaciju koja je već korona napravila. A već je to bila briga, hoće to da se sredi. OK. I onda da vam đavo ne da mira, na kraju imamo happening sa Iranom, koji traje i koji će tek da napravi krš. Već ga je napravio, je l’? Znači, prosto je ekonomsko okruženje, uopšte nije zgodno samo po sebi, čime god se bavio, od uzgoja banana do veštačke inteligencije.

Ivan Minić: Plus, računaj da se i u tih pet godina desilo i to da je Silicon Valley Bank i još nekoliko banaka koje su bile vrlo opredeljene ka ulaganju u inovacije, u R&D, u startupe, a da ne pričam šta se sve dešavalo i na blockchain sceni i sa tim ljudima koji su tu bili kriptomilijarderi kroz razne vrste exchange-a i sličnih, ovaj, platformi, koji su svi u tih par godina bankrotirali, završili iza rešetaka, ispostavili se kao neka vrsta prevare i tako dalje. I onda i to što je, ti si mogao u jednom periodu, mi smo im postali realno preskupi, ali u jednom periodu si ti mogao sebi da priuštiš ako si ozbiljna firma napolju, da uzmeš ovde 20, 30, 50 inženjera da ti rade nekakav remote R&D, pa nešto ako, ako bilo šta naprave, tebi super, jer je taj trošak tebi bio ovde kao da imaš pet ljudi tamo. Nešto će napraviti sigurno. Ali to su sve nice to have stvari.

Goran S. Milovanović: Tako je. 

Ivan Minić: To su non-essential workers.

Goran S. Milovanović: To su bukvalno kocke u koje ulaziš kad sebi možeš da dopustiš i kažeš „mogu da izgubim novome, ali ako dobijem, vau, mislim znaš, e onda dođu vremena kad to više nije kad je trošak, nemoj pusti”.

Ivan Minić: I imaš taj momenat koji vrlo često, ovaj, ljudi kod nas, uh, romantizuju, uh, zapošljavanje preduzetnika, frilensera, kroz preduzetnički oblik i tako dalje. Zašto neko tebe uzima kao preduzetnika? Zašto neko tebe uzima kao subcontraktora umesto kao zaposlenog? Zato što kao subcontraktora može da te odseče u bilo kom trenutku bez obzira na to kakav ugovor imate. Znači, OK, nije bez obzira na to kakav ugovor imate, ali u radnom sporu i u ovakvom sporu gde ćete vi, ovaj, pregovarati o poslovno tehničkoj, odnosno suditi se o poslovno tehničkoj saradnji. U radnom sporu gotovo uvek je zaštićen radnik.

Goran S. Milovanović: Pogotovo u našem zakonodavstvu, praktično ti ne može ništa.

Ivan Minić: A ovde je postavka potpuno drugačija i takva je da, OK, svi dobijaju neku vrstu fleksibilnosti, sve to ima svoje, ali kao bottom line iz ugla kompanije ja mogu u bilo kom trenutku ovo da odsečem i to je to.

Goran S. Milovanović: Tako je. To su dilovi koji se apsolutno ulaze. Ali, da nas možda vratim na ovaj tok vezan za tu priču o tome efekti AI, sad šta se dešava, job displacement i ostalo. Dakle, prva stvar, jeste, trenutno čitate, vesti svi živi, cela scena komentariše packove u USA, leti na sve strane, packovi kod nas leti na sve strane. Znači, prvo u USA, još uvek nema nikakve veze sa AI automatizacijom, AI kao komplementarnom tehnologijom koja diže produktivnost jednih i onda drugi postaju apsolutni. It’s not happening.

Ivan Minić: Čak možda u USA ima više smisla da je AI uslov u tradicionalnim industrijama za to nego u IT-u.

Goran S. Milovanović: To sam hteo da kažem, na to i o tome ćemo da diskutujemo. Gde će te, zapravo gde će taj displacement prvo da se desi kada bude počeo da se dešava uopšte. Srpska priča je nešto sasvim drugo. Mislim, to da se razumemo koliko god nam teško palo, nama ljudi loše ide. Znači, tu uopšte nema, tek kod nas trunke nema toga. Da se otpuštanje u IT sektoru dešavaju zbog toga što neko kroz AI automatizuje stvari. To ne znači da to naši, naši programeri, naše agencije, naše kompanije ne rade. Rade. Ja ne znam više, iskreno rečeno, pre neki dan mi reče drugar, ovaj, baš iz moje oblasti machine learning inženjer i tako dalje. Neko vreme se nismo videli, neformalno se vidimo u nekim drugim okolnostima, pomenemo vibe kod, Anthropic, Claude, čovek mi lepo kaže, pa ne sećam se kad sam zadnji put napisao liniju koda čoveče, mislim je l’? OK. Dobro, OK for people koji znaju šta rade i mislim, pomaže, nije pitanje. Ali, gledaj sad, šta hoću da kažem. Tek u Srbiji to nisu razlozi. U Srbiji se to dešava, nama ljudi loše ide. Loše nam ide iz milion razloga, je l’? Jedan je taj što smo mala zemlja koja se nalazi u talasu ekonomske krize koja podseća da liči na ono što se dešavalo u 30-im godinama XX veka. Ekonomisti sada pišu niste, nismo ni svesni vrata čega smo otvorili. Pogotovo od kad je počelo da se dešava, kažem, žurka oko Ormuškog moreuza koja je šta god da je, da ne donosimo sudove, je l’, se pokazala očigledno komplikovanijom igrom nego što je neko mogao da pretpostavi. I sad ima posledice razne, uključujući što je jedan od leyera posledice po te planove za gradnju, za izgradnju data centara, je l’? I sad je tu interesantno, 600 milijardi će da se nađe za to. Vidi, uh, propustiću nekoga, ali Amazon kroz AWS, Microsoft, Alphabet, Meta, Oracle. OK, tih pet samo. Na to dodaj Teslu i zaboravio sam koju još kompaniju, kažem uvek ću zaboraviti nekog velikog. I ima ih Magnificent Seven. Oni su ti sada trenutno 30, 30% S&P 500 indeksa.

Ivan Minić: Nvidia.

Goran S. Milovanović: Nvidia, bravo. Samo, uvek ću u nabranju da zaboravim. 30% S&P. Svi ostalih 400 i tamo kompanija je drugačiji rep ovako. Izvuci odatle Teslu i Nvidiju, uzmi ove kako ih zovu hyperscalers, tih pet koji sad moraju da izgrade data centre da podrže prodaju i da podrže opštu dostupnost AI tehnologije. Njihov, njihov kepeks, njihove, njihova kapitalna potrošnja planirana da bi izgradili data centre koji planiraju 2030. godine je četiri puta veća od javnog energetskog sektora SAD. Samo Amazon je sam veći od tog sektora. Amazon sam je veći od tog sektora. Zamisli, javni energetski sektor SAD. Te pumpe, te destilerije, te stanice, tu logistiku, svi, kolika kapitalna izdanja ti moraš da imaš za to da bi vrteo tu stvar. Sad imaš jednog od tih pet igrača koji je sam veći od njih, a njih kad staviš zajedno su četiri puta veći od toga. Kažu da je to trenutno najveći, najveći transformativni efekat koji je AI ikada zapravo koji uopšte napravio do sada i kažu da se to, ne kažu, sve ekonomske studije to kažu ekonomisti u svojim naučnim radovima kaže ni u istoriji ekonomije se nije desilo. Da imaš takvu koncentraciju. Kaže, to se nije desilo u istoriji ekonomije. Nikada, kaže, čak ni ono u vreme ono highlight bank i tamo 20-ih, 30-ih godina, nije koncentracija bila takva. I sad pri tome ima tu raznih drugih konsekvenci šta i kako se desilo. Znaju zašto se to desilo. Zato što da bi uopšte ušao u takvu transformaciju ekonomsku, ti si već morao da imaš kapital koji to uopšte može da uradi. Znači, nije, nije moglo da bude kao sa strujom, kao sa naftom. Jedan krene, pa znaš od 10 malih, jedan uspe da skalira, pa kupuje ostale, pa polako i to. Ne, ovde su jednostavno pretpostavke, tiket za ulazak u igru je bio da si ti već ovoliki, je l’? I onda je to dovelo do toga. Znači, trenutno najveći transformativni efekat na ekonomiju se dešava usled planova za upotrebu i buduću kreaciju, buduće stvaranje vrednosti od AI, je l’? I nalazi se u tako kosmičkim zonama para da se uopšte na nas ovako svakodnevno, kako da ti kažem, jako, jako se malo preslikava da kažem na na naše neposredne živote. Transformativni ciklus, ciklus koji se sad da se vratimo sa druge strane priče, sa makro para na tvoje i moje mikro pare, naše živote, živote drugih profesionalaca i toga, kako da ti kažem, ovaj, drugi deo industrijske revolucije je najčešće se za taj primer uzima elektrifikacija. Vrlo zanimljiv fenomen. Ovaj, uh, zamena Steam Engine parne mašine, elektromotorom, OK. Koliko je bilo potrebno da prođe vremena od kada se elektrifikacija proizvodnih procesa, znači sad ne pričamo ono civic infrastructure, osvetljenje po stanovima i to. Ne, ne, nego jednostavno u fabrici, fabrici, je l’? Znači industrijski proizvodni procesi. Koliko vremena je prošlo od kada struja počinje da ulazi u fabrike na zapadu do toga da se efekat elektrifikacije stvarno vidi na računima i da ljudi kažu: „Da, ovo je radilo posao”? Pa oko generacije radnika, odnosno oko 40 godina. Oko 40 godina. Zašto? Nisu znali da je koriste. Ja mislim da je dobra analogija koju možemo da povučemo sada, mi kažemo mi verovatno, imam milion primera koje mogu da ti dam da je to stvarno tako trenutno. Mi verovatno sad još uvek, mi imamo tehnologiju, još uvek ne znamo kako. Za šta ćemo u stvari da je koristimo da bude stvarno korisna. Počelo je s time da se, znaš, logično, stiže elektromotor koji je efikasniji. Izvučeš parnu mašinu, kako se zove, ovaj, ubaciš kao modul elektromotor koji sad vuče onu jednu traku i sad ta traka prenosi mehaničku silu dalje i radi nešto u fabrici. Kog đavola je moralo da traje 40 godina, al’ trajalo je 40 godina. Dok naravno jedan genije koga svi znamo, Henry Ford, nije shvatio, ovaj, „a šta da napravimo nekoliko manjih elektromotora ovako?” I onda imamo više traka koje možeš kompleksno da povežeš pa izvodiš kompleksnije operacije i konačno smisli ono što se zove konvejer iliti proizvodna traka. Generacija radnika, 40 godina. Edisonova elektrana je prva je nešto oko 1880, Ford ti je oko 1920. godine.

Ivan Minić: Dobro, vidi, ali tu imaš jednu stvar koja je koja je vrlo, vrlo realna. Možda se sad taj proces ubrzao, možda to sada neće biti 40 nego 10 godina, jer sve jeste četiri, pet puta brže, ali činjenično stanje je da i uh, da su stvari fundamentalno drugačije bile za generaciju koja je u uzrastu od 15, 20 godina došla prvi put u kontakt sa računarima i tehnologijom.

Goran S. Milovanović: To je tačno.

Ivan Minić: Generaciju koja je sa sedam godina došla prvi put u kontakt, generaciju koja je rođena sa tehnologijom.

Goran S. Milovanović: Tako je.

Ivan Minić: Generaciju koja je došla u kontakt sa konektivitijem globalnim kao što je internet u 20 godina, u 10 i u rođena sa tim. Način na koji razmišljaš o tim stvarima se fundamentalno menja. Mislim, naši ljudi i dan danas kažu: „Mi ovo ovako radimo 30 godina, to nema potrebe da se menja.” I, mislim, postoje slučajevi u kojima to možda jeste tačno, ali su vrlo retko, ovaj…

Goran S. Milovanović: Retko kad su u pravu.

Ivan Minić: Vrlo retko su u pravu. Zašto bi menjao nešto što ti radi? Moraš da vidiš primer na kome će ti neko vrlo egzaktno pokazati da može bolje. Moraš da mu poveruješ. Moraš da se uveriš u to. A to sve zahteva neko vreme. Znaš.

JUNIORSKE POZICIJE I AI U KODIRANJU

Goran S. Milovanović: Već neko vreme, ovaj, se između ostalog poslovno već bavim, ovaj, AI transformacijama. I u nekom periodu od sad, sad ne samo reklamiram, će to probati da formalizujem i ponudim kao standardnu vrstu usluge za privredne subjekte, ovako, onako. I iskustvo se akumulira. Ovaj, sa svim entuzijazmom koji se kretao od jeseni 2022. kad se pojavio ChatGPT, slobodan za upotrebu, prvi API-s. I normalno, logična ideja: „Hajde gradimo softver na tome, šta ćeš drugo da radiš, naravno, OK, našli smo, našli smo naftu, sad mi imamo pumpe, pravimo gumu, plastiku, šta ti treba, je l’, pokrećemo svet.” Uh, četiri, skoro četiri godine razvoja, sad smo na nivou agenti, swormovi agenta, orkestracija, sistemi koji koriste background knowledge sa ovim onim, je l’? Sworm različitih agenta, jedan koristi jedan LLM, drugi LLM, ovaj kritikuje onoga, imamo automatizaciju rezonovanja, šaralo, svačeg ima. Razvoj je krenuo i stigao do neke tačke. I sad čovek bi rekao: „Da, ovo se sad, ovo su production ready tehnologije, nije, nije pitanje više uopšte, je l’.” Vidi, pa ja mislim da je razmera 50, 50% čini mi se intuitivno za sada. Biznis slučajeva, biznis cases, problema koje sam video, koje stvarno vidiš: „Da, e OK, ovo sa primenom generativnih AI se, automatizuje ili postaje komplementarno nečijem radu, čini ga zaista efikasnijim, ne smara ga više, gubi manje vremena, može da se fokusira na druge stvari ili potpuno nešto automatizuje.” To je možda 50% slučajeva. U 50% slučajeva sam video pokušaj primena i učestvovao u njima. Znači bilo je prosto: „Hajde da probamo ovo da uradimo”, gde je obostrani zaključak i moj i klijenta bio: „Ne, ovo je više glavobolja nego, nego rešenje.” Znaš. Mislim, ovo možemo na silu pa da ti izađeš i kažeš javno: „AI u kompaniji”, ali realno za tebe kad uzmeš da radiš ovaj posao, ovo što ćemo ti ja kao da automatizujemo, se završava time da tebe u stvari glava boli više i moraš više da misliš, a teže i manje da misliš o tome. 

Ivan Minić: Moram više da ga popravljam nego da ga napravim od nule.

Goran S. Milovanović: Jeste, tako. Tako da, znaš, zato kažem, znači ta, voleo bih, mislim stvarno jedan od ciljeva danas mi je za pa i ljude koji slušaju Pojačalo, ovaj, znaš, ozbiljno treba spustiti loptu sa paranojom kako si se izrazio i sa panikom oko toga, ova stvar sad ide i ono, čekamo da nas automatizuje, hajde zdravo, potrajaće. Druga stvar jeste realna. Ovaj, hajde opet dok smo i dalje u toj temi, da kažeš ono o radu, naravno, pre, mislim, kako da ti kažem, aktuelni trenutak je trenutak u kom se gube poslovi u IT sceni. Aktuelni trenutak je trenutak koji traje duže vremena od toga u kome je junioru da dođe do pozicije, pa to je potpuni pakao postao, da junior dođe do pozicije, je l’? Hajde kažem, ima smisla, korisno je, ljudski je odgovorno da diskutujemo te stvari. Vidi, ono što se dešava stvarno jeste da na primer, ako pogledaš baš IT profesije i ako pogledaš taj inženjerski aspekt u njima, jer te firme ne žive samo od toga, je l’? Ima mnogo toga što im treba. Ovaj, IT industrija uopšte, e, tu je razlika počela da se pravi i tu već ima ozbiljnih empirijskih studija, uglavnom američki ekonomista koji pokazuju zašto i kako. Odnosno, jasno se u zadnjih tri, četiri godine od kad postoje generativne AI tehnologije, jasno se empirijski, procentualno vidi trend da je sve manje i manje zapošljavanja ljudi na entry level pozicijama, da je sve teže i teže zaposliti nekoga ko je recent graduate, sad završio šta god, computer science, inženjering, go bono i to. Da se suprotno tome, suprotno tome na seniorskim pozicijama plate rastu i zapravo postoji procentualni por… relativni porast zapošljavanja, zapošljavanja seniora. E, to je možda jedina, mislim, naravno usled čega da se, usled vibe kodinga, usled toga što, a da, usled toga, na stranu prediktivno kodiranje, ono što radi Kopilot, i tu stvarno ima životinja, kao što su Kursor, kao što je Klod Kod, koji je izašao u prethodnih 72 časa ili tako nešto, zaboravio sam kako se zove startap koji je uspešno obrisao produkcionu bazu, sad je vrištanje od smeha, da, stići ćemo i do toga, ovaj, vrištanje od smeha po Linkdinu i po internetu, obrisana je produkciona baza, i onda je posle uljudno objasnio kao dete, onako, u osnovnoj školi, pa nisam pročitao, mislim, pročitao sam sekjuriti protokol, ali ga nisam baš pratio do kraja, mislim, ljudi nisu svesni koliko mora da se pazi, ovaj, šta se s tim radi, jer od tog izvinjenja suzica nije pomogla, pretpostavljaš. Ajde, vratićemo se na to. Ali gledaj, realnost je sledeća, to su koding agenti i prediktivno kodiranje, znači, ono što radi, ne znam, GitHab Kopilot i slični sistemi, Kodium koji je džabe, čak, jako koristan. E, vidi, to u rukama odgovornog čoveka sa dobrim znanjem stvarno podiže produktivnost. 

Ivan Minić: Drastično ubrzava..

Goran S. Milovanović: nije za svakog, nije za svakog. 

Ivan Minić: Ja mislim da je, uh, ne ne želim da zvuči uvredljivo iako će sigurno neko to protumačiti na taj način, ali suština negde jeste da za mnogu tu decu, a uglavnom su bila deca, koja su dolazili kao juniori u firme sa minimalnim znanjem ili ponekad i bez znanja su se snalazili. Mi smo imali jako dobre plate za glorifikovane daktilografe.

Goran S. Milovanović: Na stranu i to.

Ivan Minić: Kodiranje onoga što su ono juniori koji rade web, frontend i slično radili je u suštini tehnološki trivijalno.

Goran S. Milovanović: Tako je. Za nekoga ko je ko je prošao dovoljno.

Ivan Minić: U najboljem slučaju mi pričamo o prevodiocu…

Goran S. Milovanović: Tako je. Između dva jezika. Za nekoga ko je ko je prošao obrazovanje koje treba da prođe, to bi trebalo da su bili taskovi koji su ono, immediate da ovo može da se uradi, je l’. A i kako ti kažem i pre pre AI imaš ti Stack Overflow pa copy paste, pa mislim testiraš pa radi i to je to.

Ivan Minić: Pa naravno. Mislim i uh činjenica je da alati decenijama unazad evoluiraju ka tome da tebi bude lakše da radiš neke stvari. Znaš, onog trenutka, prvi put kad sam video ono code highlighter-e koji ti kažu gde ti je taj apostrof koji si propustio jer ga nećeš videti na…

Goran S. Milovanović: Već te je ubrzalo 30 posto.

Ivan Minić: Ubrzalo te. I nije samo što te je ubrzalo, nego kad dođeš do problema to nije sedam dana pakla, nego je to tri minuta jer vidiš najčešće gde je. U uh zašto insistiram na tome? Zato što uh smo došli u situaciju da su softverski inženjeri bili jedini inženjeri koji su na ceni na skali. Jer ti ne možeš da budeš, mislim, vrlo su retki slučajevi da ti imaš mašinskog inženjera koji će reći da je mašinski inženjer, koji ne zna ništa. Softverskog inženjera koji ne zna ništa ćeš naći u svakoj firmi bez ikakvih problema.

Goran S. Milovanović: Nažalost hoćeš, to je tačno. Mislim gledaj, ako hoćeš da mi kažeš da su, hajde da pođemo od toga, da su juniorske pozicije već bile eksponirane riziku ovako ili onako, jesu. I sad, znaš, kad si eksponiran riziku, kad tad će jedna stvar da se desi koja će da napravi taj problem, je l’. Ali, vidi, mislim ja dve stvari imam. Prva stvar, pravedno je reći jedno, a to je, mislim, mi smo juniore i uzimali da bismo ih obrazovali i izgradili u nekoga, je l’? Znači gledaj, mislim pre 20 godina, ja nisam radio mislim pre 20 i nešto godina, ja nisam radio u IT industriji. Radio sam profesionalno neke, bio sam više u akademskom svetu sam radio, profesionalno sam radio neke druge stvari. Mi smo tada znali da kad tebi dolazi neki mladi istraživač i ulazi u marketinšku agenciju, pa nema, mislim prvih šest meseci do godinu dana taj uči posao, razumeš? Znači ima tu jedna stvar, a to je, juniori su u firmama, u svakom zanatu, u svakom poslu, u svakoj profesiji formiraju da bi preuzimali nešto dalje. To je jedno što moramo da shvatimo. Znači zaposleni junior kao tabač koda je nešto što si morao da znaš šta kupuješ s time. Ovde je stvarno jedini možda, da kažem, realan i sada empirijski prepoznatljiv efekat AI-a automatizacija i komplementarnost, da kažem dve stvari. Al hajde da kažem ekonomski termini su, ako je automatizacija, onda profesija leti. Mislim, pozicija leti, je l’? Ako je ono što kažu komplementarna upotreba tehnologije, to znači samo dohvatiti nekoga, učiniti produktivnijim.

Ivan Minić: Amplifikat.

Goran S. Milovanović: Što onda može da ima posledice ukinjanja drugih pozicija. I to se ovde dešava, je l’. To je realno. To je realno. Realno u smislu reči da sada, uh, opet ponavljam, odgovoran i vrlo oprezan mali tim ljudi sa tim alatkama stvarno završava posao koji je recimo radio tim od tri puta više ljudi.

Ivan Minić: Bez problema.

Goran S. Milovanović: Ovaj, prethodno. To je realnost, je l’. Dva problema prave. Prvi problem koji je ljudski, objektivan problem jeste što sada usled toga, usled i druge stvari, ali i usled toga entry-level pozicije, juniori jako teško dolaze do poslova. A ne možeš ti da izađeš toj deci da kažeš, mislim ono, znaš vas je previše školovano. To je problem sada, da se razumemo.

Ivan Minić: Vidi, da se razumemo.

Goran S. Milovanović: Sećam se kad pogledaš statistički, ekonomija kaže šta je problem? Školovalo vas se ih tonu. Pa da, ali ko je znao njima da kaže sada će se pojaviti jedna stvar koja će da ovo iščisti. Upisujte nešto drugo.

Ivan Minić: Ja verujem da kada si mlad treba da pratiš šta se dešava i da se upravljaš u skladu sa tim. U imaj u vidu i to i ja sam spreman da stanem iza toga maksimalno da velika većina ljudi, od seniora do interna, nije obrazovana za to uopšte. Što su se ljudi priučeno bavili time…

Goran S. Milovanović: To je i onda su radili neke stvari…

Ivan Minić: Bilo je i toga. U međuvremenu.

Goran S. Milovanović: Tako je.

AI KAO ALAT ZA UČENJE I PERSONALIZACIJU

Ivan Minić: Tako je. Opet ono što sam rekao kao malopre, taj konformizam i komforna pozicija iz koje se žalimo na situaciju koja se dešava. Znaš to ti je ona priča kao sa tvojim ovaj formalno gledano ovaj obrazovanja kolegama. Koliko treba psihoterapeuta da se zameni sijalica?

Goran S. Milovanović: Tako je.

Ivan Minić: A jedan, ali sijalica mora da želi da bude zamenjena. E tako i ovo. Da li jedan junior može da postane senior? Ukoliko ima predispozicije da zaista ima kapaciteta i sve ostalo, zapravo može relativno brzo.

Goran S. Milovanović: To je to.

Ivan Minić: Ali to je na njemu. Nije na okruženju.

Goran S. Milovanović: Tako je. To je drugi aspekt ove tehnologije što ti omogućava da učiš mnogo brže nego pre. To mislim da je jedan od najpozitivnijih transformativnih aspekata je taj, brzina učenja, dostupnost znanja.

Ivan Minić: Ne samo da učiš. To je meni bilo genijalno. Zapravo skoro sam pričao i sa jednim startupom na tu temu pa mi je interesantno. Nije samo stvar u tome, znači svako može da sedne i da uči brže neke stvari. Evo ljudi masovno menjaju Duolingo za Chat GPT jer kao brže uče jezik. Kako god, meni je sovica previše slatka da bih ja sad to obrisao, je l’. Takav sam čovek. Volim okrugle životinje. Ovaj, ali bottom line negde jeste zašto mislim da je fantastično? Možeš da učiš na svoj način.

Goran S. Milovanović: Uključujući ostale.

Ivan Minić: Sedam sedmoro dece koja su drugačija će naučiti istu stvar ali će to biti prilagođeno svakom detetu. Svako dete će dobiti onaj ugao koji je…

Goran S. Milovanović: Koji je njemu potreban.

Ivan Minić: Da li je to sad, mislim lupiću, da li je to više auditivno, da li je to više kroz primere, da li je to da se razloži inženjerski na kraju dana kako stvari funkcionišu. Ali ti ćeš moći da stigneš na isti cilj tako što će alat da ti omogući da dobiješ ono što je prilagođeno tebi.

Goran S. Milovanović: Da. Različitim putevima bi postaje cela stvar postaje zbog toga sve fleksibilnija i fleksibilnija. Mislim to je mogućnosti personalizacije postaju nezapamćene.

Ivan Minić: Ali hajde da da se ne fokusiramo toliko na na IT jer jeste, to je nama domicilna industrija, ali…

Goran S. Milovanović: To je, to je…

Ivan Minić: Ima toga.

Goran S. Milovanović: Samo pre pre nego što, izvini, samo da ima jedna stvar na koju nas sada ekonomisti opominju, kaže jedna jedna stvar u gepu koji je nastao o kojoj se ne vodi računa. A to je ovaj, uh, milion razloga ima zašto je formiran senior plus tehnologija u malom timu sada rešenje. Ima ono što se zove tacit knowledge. Prosto, video je više, propao je, ono što kažu eksperti, ko je zašto ekspert? Pa propao je više puta od vas sva vremena i zna gde su stranputice, zna kad se vuče ručna i šta sve treba da se radi i to. Ali jedna stvar se ne uzima u obzir, a to je ovaj naš senior isto ovako puni godine i to. Neko jednog dana mora da dođe na njegovo mesto. Tako da, znaš, ne investirati u mladost je po mom mišljenju greška, a zapošljavati kao što je bilo zapošljavano do sada je više nemoguće. Je l’. Ne kažem da im je situacija laka, ali to je. Izvini, prosto mi je trebalo odigra se samo da, znaš, završimo ovu, ovaj deo sa vezan za, za rad i pogotovo IT industriju.

Ivan Minić: Dobro. Ja bih ciklus IT-a možda predstavio na ovaj način. Softveri koji su razvijani 70-ih godina u nekim slučajevima i dalje rade besprekorno.

Goran S. Milovanović: Ne u nekim slučajevima. Mislim u mnogim slučajevima.

Ivan Minić: U nekim slučajevima i dalje rade, a ako rade rade besprekorno. Zašto? Zato što su ih pisali neki ljudi koji su bili ozbiljni naučnici, a usput su se bavili programiranjem.

Goran S. Milovanović: Jednom su to napisali kako treba i sledeće pisanje nije bilo potrebno.

Ivan Minić: I može da se vrti na bilo čemu.

Goran S. Milovanović: Da. Zdravo, doviđenja.

Ivan Minić: E sad, ono, na na komadu silikona. Ne mora da ima nikakav čip na sebi.

Goran S. Milovanović: Da. Sad si me podsetio si me na na na sad je mislim već slavno ovaj, jedna od mojih omiljenih XKCD-jevih ovih karikatura…

Ivan Minić: Da, da, da.

Goran S. Milovanović: Kad je mangup napravio, obožavam ga, koliko je inteligentan, mislim to je neverovatno, znači, kad je napravio celu skalameriju ono, your AI orchestration layer, kontrola satelita, ovo ono, ispod machine learning modules, complex data set, i cela ovakva arhitektura, skalamerija. I sad tu počiva na pilonima, to je tvoj data lake, data center. I sad malo kao, znaš ono u kafani kad podmećeš parče, parče novine jer se sto klati, malo ovako parčence stoji. Znaš i ispod kako se zove, ovaj, znaš, kaže Linux C++ lib managed by Timothy from Minnesota.

Ivan Minić: Ne, dobro, mislim, ima i ona šala da je cela svetska ekonomija oslonjena na Excel, što nije daleko od istine. Da se gomila servisa koje mi danas ovaj i dalje koristimo ispod svega da ljudi pri tom nisu ni svesni da je pisano u Cobol-u. A poslednja osoba koja je koja je pisala Cobol ima 75 godina.

Goran S. Milovanović: Da. Nemoj, ćuti, pa to su ti moje nade uložene za ovaj, moj ovaj, blisko penzioni i post penzioni plan. To mi je, čoveče, ono kilo tone nepisanog R koda u pharma, finansijama i ne znam gde. Razumeš, ovaj, je l’? I onda ćete ga lepo zaboraviti. Znaš?

Ivan Minić: Ali imali smo taj momenat i taj ciklus koji kaže na početku su to radili neki izuzetni ljudi, za izuzetne stvari i to je moralo da radi uvek i moralo je da radi tačno. Onda smo imali to OK, sad se širimo ka generalnoj populaciji. Onda je generalna populacija krenula da pravi i to što je krenulo da pravi je uglavnom tehnički, iz ugla optimizacije, performansa i svega bilo đubre. Nekad je radilo dobar posao, nekad nije radilo, ali niko nije vodio računa o tome da to treba da radi optimizovano.

Goran S. Milovanović: To.

Ivan Minić: Gde smo sada došli do toga da svako može da napravi aplikaciju i niko više ne zna da li to radi kako treba.

Goran S. Milovanović: Uf, uf, uf. Čekaj. Mislim, ne, ne, pa nisam siguran da se slažem ni sa jednom ni sa drugom tvrdnjom. Prvo, svako može da napravi aplikaciju. Koliko ih znaš koji su, OK. Mnogo više nego što bi trebalo.

Ivan Minić: Dobro.

Goran S. Milovanović: Ali koji su stvarno krenuli sa zero knowledge i rekli sad ću ja da napravim aplikaciju, ko je Anthropic Claude. Hoćeš?

Ivan Minić: Ne kroz Claude, ali kroz Laravel ili kroz nešto, napravi mi šta god.

Goran S. Milovanović: Nešto. Da. Ovaj. A i druga stvar, to testirati mislim lakše je to radi ne radi. Ali ovaj pazi, ko god je probao Anthropic Claude, prediktivno kodiranje, sve to, sve su to super stvari. Razumeš, je l’? A dva problema. Jedan je opšti problem vezan za ovu klasu veštačke inteligencije sistema koje mi imamo. To je nešto o čemu ja insistiram treće pojačalo za redom, ja mislim. A to je mi koristimo tu skraćenicu AI kao da smo mi rešili stvarno fundamentalni problem, naučni problem veštačke inteligencije. A nismo. 

Ivan Minić: Mi koristimo samo statistički model.

Goran S. Milovanović: Ne, ne, generativni AI treba zvati generativnim AI, on podrazumeva jednu vrlo specifičnu klasu i jedan vrlo specifičan domen kognitivnih funkcija koji je dao odliku i čoveku, u kojem su te mašine sada zapravo bolje od nas, tako da, ako nekog usrećuje da kažemo da smo stvorili superinteligencije. Jeste, u rešavanju kvizova i statističkom učenju, što je, hajde da ne licitiram, ali petina stvari koje ova mašina ovde, koju nam je dala biologija, stvarno može da radi, mislim, da se razumemo. Znači, veoma korisno. Ali to pitanje, to je kao, to je AI. Ne, mi to samo zovemo AI za potrebe industrije marketinga. Inače, daleko smo od toga da smo rešili problem. Vidim, dve stvari. Jedna stvar, ono što ste rekli, fundamentalni problem koji je ostao. Danas ovaj problem, nekada je to bio problem kojim smo se bavili mi, kognitivni naučnici, i znali šta to znači. Danas je to problem za koji svaki softverski inženjer koji to koristi zna šta je. Zove se Alignment Problem. Problem poravnanja. Alignment problem jeste ti ćeš napisati specifikaciju softvera koji ti treba, je l’ OK? Sada evo u poslednje vreme, spec kit se pojavio, ovaj, to je GitHub, pazimo, je l’. To ti je sada layer koji ide iznad Anthropic Claude koda, koji kaže nemoj ti da pišeš prompt inženjering za Antropic, za Claude code, je l’ OK? Ne, nego imaš konvencije po kojima ti napišeš projekat, specifikaciju. Kao firma, sedne menadžment i kaže evo, idemo operativni menadžment. Specifikacija softvera koji treba da se razvije, daš programerima, oni ga razviju. Ti ovo daš Claude kodu, kada napraviš, ovaj ga sistem iznad njega, on ga prompt inženjeriše da to napravi po specifikaciji, je l’ OK? Dobro, super. Uh, broj intervencija ručnih koje čovek mora da napravi da reka ne bi izletela iz toka i da bi šta god bio proizvod, servis, usluga, komad softvera koji pravi na kraju stvarno bio ono što je on imao u glavi kad je počeo da radi je toliki da meni mnogi ljudi koji to svakodnevno rade kažu, sve šta ja znam, ponekad pomislim da uzmem to i da istapam tu stvar na ruke. Da mu podelim lokalno poslove i kažem e ovde neće da zezne. Napiši mi metod koji ima ovaj input i ovaj output, ovu pravu funkciju sa ovim. Daj mi to, molim te, spusti u codebase. I sad si skloni. Sad ja pišem pipeline i sve ostalo i to. Alignment. Jako je teško napraviti… U ljudskoj komunikaciji postoje mnoge stvari koje sagovornici i u grupi i samo kao nas dvojica sada na primer, mnoge stvari se podrazumevaju, mnoge stvari su latentne. Razumeš, latentne, prosto pretpostavljamo nešto jedni o drugima, svrha ovog razgovora, način na koji pričamo. Banalna ilustracija. Ti ja snimamo podcast, to će biti u medijima, biće javno. Ja se, govoreći sa tobom i slušajući tebe, ni ne očekujem da ćeš ti sa mnom pričati kao da ti ja sedim u kafani uz pivo. Iako razgovor vrlo vrlo sličan kod nas dvojice, nema, ja ti ne bih rekao od prvog pojačala, nekako ti imamo taj fluid i to ide. Ali, znaš, generalno, ljudi, ljudski sagovornici generalno mnogo podrazumevamo u toj komunikaciji. To što je podrazumevano, neizgovoreno, a ima efekta na to kakav je tok informacija u sistemu, znaš, mašina to mora da vidi. Ako hoćeš da ti se ponaša tako. Znači ako hoćeš da je napraviš ljudskom. Jedini način je nema kod nje podrazumevanja. Kod nje to prosto tekst koji to objašnjava postoji, ili tekst koji to objašnjava ne postoji. Ako ga neko nije stavio negde, razumeš, i u nadi da ga ona razume na isti način na koji ga sagovornici u tvom timu softver inženjera podrazumevaju kad vi pričate o tome. The process goes astray. Jednostavno više nije, nije pod kontrolom. I onda napravi mi to i to. Kapiram to skroz. Sedi, sipi pivo, ta, ta, ta, ta, ta, ta, ta, ta. Odeš ti to podigneš, pogledaš. Dobro, vidim da, u suštini tako zarez ali ovo promeni, ovo promeni, ovo promeni, ovo promeni. A sad te razumem super, sedi. Tras, tras, tras, tras, tras.

Ivan Minić: Odlična ideja.

Goran S. Milovanović: To da ne počinjemo, to ti molim. E to je jedan od glavnih mojih razloga, by the way, digresije. Jedan od glavnih mojih razloga migracije sa ChatGPT-a na Claude je. Znači svi ti sistemi imaju one svoje preambule kako se zovu u prompt inženjeringu. To je natreniran je model i sad iza prompt inženjeri, kompanije sednu i sad njemu daju protokol i kažu e slušaj mislim ti si super, jedna stvar. Koštao si boga oca, razumeš? Treba da pričaš sa živim ljudima, zarađuješ pare, je l’? Budi pristojan. Ne navedi na samoubistvo. Ne znam šta i sad. I u jednom trenutku ti vidiš kako su OpenAI počeli da preteruju. Znaš, pa ne, ali znaš, to sa 4GPT-a mi je potpuno postalo onako, sleazy, znaš, kao šta god, ono, znaš, predložiš, razumeš, kao, da li možda, evo, pasulj da li posle 25 minuta, šta misliš, da krkajem jednu-dve kašike senfa u njega? Odlična ideja, fenomenalno, vidi, možda se neće uklopiti u ukus pasulja, a onda mi se sviđa kreativni način kako razmišljaš o tome, mislim, ono, da, ljudi…

Ivan Minić: Pričam ono…

Goran S. Milovanović: Mislim, ono, daj ljudi…

Ivan Minić: Generalno komuniciram na srpskom, ali svaki put kad bi napisao nešto tako, ja samo zamišljam u glavi ono, uh britanskog starog batlera koji kaže: “Marvelous idea!”

Goran S. Milovanović: Ma to ti kažem, e ali upravo to, da da da.

Ivan Minić: To je to.

Goran S. Milovanović: A hoće da se obesi istovremeno, ali kao znaš, njegov posao je takav, da ti to kaže svakog.

Ivan Minić: Da. Ono kao, ideja je super. Zapalimo baštu. Odmah, ovog trenutka.

Goran S. Milovanović: Jeste, to je nebitno. Ozbiljno, mislim, ali kažem, svi su to primetili. Svi su to primetili. Imam nekoliko drugara koji su, da kažem i dalje su, ja već duže vremena neku nisam u neposrednim hands on pozicijama. Programiram za dušu i research projekte, al znaš kad napravim proof of concept i onda ima ko to radi, ko radi to dalje. Imam gomilu mislim ono, dosta bliskih prijatelja i kolega koji imaju neposredno iskustvo da i dalje svaki dan im je to posao da proizvode codebase, je l’, mislim. I ovaj iz njihovih iskustava ljudi mi kažu broj intervencija koje imam da bih se ja sa tom stvari objasnio. Na kraju šta mi treba da dobijemo, kaže čoveče to nije ništa manje puno radno vreme od onoga koje sam imao pre. Naravno, naravno, ubrzanje samo. To što ti možeš na primer za isto vreme da uradiš sve uz njegove brljotine da uradiš pet iteracija, a za to ti je prethodno trebalo tri dana i u ta tri dana dva i po juniora, jedan i po, to je ono što je napravilo razliku. Što kažu dobro, u krajnjoj liniji ako me ne mrzi ja ću to s njim da guram, na kraju ćemo mi to napraviti, napraviće šta treba. Pritom, skloni su da prave codebaseove koje su jako teško održivi. Jako teško održivi. Znači prosto kad ga napišeš, vidiš, pogledaš celu stvar i kažeš OK, mislim daš nekome, dovedeš treću stranu, kažeš evo ti ovaj codebase, baci pogled. Ti ćeš da ga održavaš jednog dana. Ljudi se uglavnom vraćaju sa pitanjem ono: “What the fuck?” Mislim, ono to je, ko god može neko da mi objasni šta se šta se ovde dešava, je l’? Naravno, pazi, ti sve to možeš da doteraš. Nisu ovo sada greške. Hoću da kažem, nije daleko je, daleko je od neke slike koja kaže, treba mi website, dođeš Claude code-u da napravi mi website. Ako ti treba template website koji će uvek da izgleda isto za Peru, Miku i Lazu sa različitim logotipom, da, taj smo problem rešili.

Ivan Minić: Da, ono, napravi mi landing page, napraviće ti landing page.

Goran S. Milovanović: Napravi mi landing page, dobićeš ga. Ali bilo šta što je, da kažem, malo ozbiljnije, softversko inženjerstvo, razvijaš neki proizvod koji treba da bude diferenciran, treba da ti da nove feature i to.

Ivan Minić: Veća lopata. i dalje je veća lopata. Samo da se dogovorimo.

Goran S. Milovanović: Pomaže, vrhunska je stvar, ali ko god misli da je to lezi lebe da te jedem i da s time znaš ono nema posla oko toga, grešite ljudi, ima posla oko toga itekako, je l’? Ima posla oko toga itekako. Tako da, kažem, znači to je kao onaj primer koji sam ti dao. Slučajevi koje vidim do sada u tim use cases-ima kad me ljudi pitaju hajde da ovo automatizujemo, unapredimo i tako dalje. Najozbiljnije mislim da je moje direktno iskustvo, jedno 50% slučajeva su rešivi, ovako mislim OK. I onda stvarno vidiš da u redu, ovo stvarno možemo da sredimo, ovo će Geminaj da radi umesto tebe ili ili šta god tamo stavimo. Siguran sam da da je druga polovina slučajeva koje sam video, možemo na silu, biće tu neki AI. Ti nećeš morati da uradiš ovo, ćeš uvek morati da paziš ovome i ovome o čemu prethodno nisi pazio i onda se dogovorimo, ljudi kažu ma đavola da ga nosim, mislim pusti da ja pre ću da nastavim da radim ovako. Šta, u šta to vodi? Jedno je pitanje da li nama trebaju bolje veštačke inteligencije nego što što imamo? Da, trebaju nam. Koje? One koje mnogo uspešnije rešavaju alignment problem. Koje su to veštačke inteligencije? To su one koje nauka još nema da ti da. E to je problem. Što ovo što sad imamo generativne bazirane na tim takozvanim transformer arhitekturama, to je i dalje, to je moćno, to je ingeniozno, to je i dalje sve asocijativno mišljenje i razumevanje. Fale mu krupni komadi nečega što mi možemo da radimo, je l’. Te druge koje bi dobro legle, koje se najčešće raspravljaju u paradigmi takozvanih kako se to neuro-simboličkih veštačkih inteligencija, na tome se mnogo radi, ali niko još nema rešenje. A daleko od toga da ima neko rešenje koje bi bilo stvarno primenljivo i da kaže OK, ovo sada stvarno radi. Mislim neki sistemi, ali na ovako velikoj skali kao ove koje sad koristimo, ne. To je jedan odgovor, znači da nam trebaju bolje veštačke inteligencije, da po mogućstvu, je l’. Ovaj. Uh. Druga strana, da kažem, ovaj, te medalje je ona koju ekonomisti koje čitam baš intenzivno moram da priznam prethodnih meseci, jer uglavnom ta lopta kod njih na terenu, rade se istraživanja, pišu se hipoteze i ovaj testira šta se dešava sa tom tehnološkom transformacijom. To je nekako uvek u dvorištu ekonomista tehnološka transformacija. Ima fascinantnih ljudi, tekstova, razmišljanja zaista. Druga stvar koju učim je upravo ta. Znaš, prosto, vidi mislim, mi moramo, mi smo otkrili tehnologiju, ali ko god misli da je otkrićem tehnologije su otkrivene sve njene primene, greši. Nije tako. Jednostavno treba vremena da prođe dok mi razumemo kako ćemo mi stvarno te stvari da koristimo, je l’. Da bismo postigli tu optimalnost, tu uštedu vremena, taj komfor, svu tu uštedu koju nama zapravo ovaj ta tehnologija obećava. Trenutno smo još u fazi fascinacije, je l’. Ali svi kažu, gde god pročitaš videćeš mislim je l’ kompanije, izveštaji razni pišu o tome, kaže još uvek se bore, bore ti na engleskom they struggle da nađu pravu business value primena toga.

EKONOMIJA AI: CENA TOKENA I STARTAP ZAMKE 

Ivan Minić: Vidi, ja sad tu hoću da dodam još jedan layer problema za koji mislim da je zaista važan. Ha, hajde po strani to što su ljudi čim su dobili neku novu ovaj neko novo sokoćalo koje radi nešto, su prebacili svoje kognitivne procese sokoćalu i ne koriste mozak više uopšte. Ali hajde manje više, to to je za ljude i nije važno, ljudi su i onako ovaj, je l’ i virus. To isto iz Matrixa. Ali ono što ja vidim kao jako veliki problem na koji gotovo niko ne obraća pažnju, to je da smo se mi sada navikli da je nama sad lepo, komforno nam je. Većina koja ima iole kakvu pripremu primenu plaća plaćeni ChatGPT, ili plaća Claude, ili plaća Gemini, nije ni važno, neko plaća i više njih. Sve je to super. Koristimo ih realno svakodnevno, počinje da nervira kad ti neko odgovara na mailove i ti vidiš da ih je izgenerisao, a nije ih napisao. OK. Najsmešnije je kad se svađaju dva kopilota mailovima, to je ekstra. Ovaj, ali ono što istraživanja takođe kažu, a ljudi ignorišu, baš konkretno za Claude je bilo pre možda mesec dana, prosečan Claude korisnik koji ima pretplatu od 20 dolara, košta 180 dolara u resursima mesečno. Znači to je prosečan korisnik. Mi smo heavy useri. Ne želim da znam koliko mi košta. Zaboravi. I sad mi se navikavamo da je to nešto što će što nam je dostupno. Imamo čak i te slučajeve kao što je ono, Dubai je obezbedio svim stanovnicima besplatan premium, šta god. Super, OK, imaju viška para, nije to ni neke pare na taj broj ljudi, sve u redu. Ali to ne košta toliko.

Goran S. Milovanović: To je problem. To je, to je, to je, to je, to je jedan od krucijalnih zapravo problema ekonomije AI-a koje se sad nalazi pred nama i svi su toga svesni. Ovaj. Pre neki dan pročitam procenu, ako uzmeš ono što sam pominjao na početku, znači koliki su planirane sada, kolika je planirana kapitalna potrošnja, da se izgrade, da se izgrade resursi koji obezbeđuju taj, dalje obezbeđuju proces, mislim je l’, data centri, kaže se tako. Sa tom projekcijom, sa svojim investicijama, uh, tokeni bi do dve da bi se ispunili poslovni planovi, da bi recimo sadašnje velike kompanije, OpenAI, Anthropic i to, da bi oni postali profitabilni stvarno, 2030. godine, cena tokena moraće da poraste, pazi sad ovo, nekoliko redova veličina. Pod nekoliko mislim na pet, šest. Nekoliko redova veličina. Dobro, mislim pazi sad, to je estimate koji se odnosi samo na to, znaš ono što kažu everything else equal. Znači ništa drugo se ne desi, morali biste toliko da povećate cenu tokena da biste stigli do toga. Uh, prošle godine deo, dobar deo mog govora na Machine Learning Conference onoj tradicionalnoj koju držimo u Subotici ovaj sa drugarima iz InspiraHub-a, sam posvetio upravo tome i posvetio govor tome da opomenem uh, ljude koji danas imaju ideju osnivanja startupa čiji će proizvod biti nešto što će koristiti third party, third party LLM, third party JNU i tako dalje.

Ivan Minić: Mozak. Third party mozak.

Goran S. Milovanović: Da. Znači, to su, postoji čak i posprdno ime u industriji za te pokušaje koje se zove wrapper.

Ivan Minić: Da.

Goran S. Milovanović: Samo wrapuješ nešto. Ovo je Anthropic Claude, ili ovo je ChatGPT okolo su API-i i ti sad spakuješ prompt inženjering pametnije nego što korisnik može sam ili ga mrzi. Što je OK, to su sve poslovne prilike, ljude su lenji, ljude mrzi, kupiće, mislim, je l’. Ima ima mnogo uspešnih softvera, aplikacija koje to rade, ali su imale, ima mnogo uspešnih kompanija i aplikacija koje stvarno rade tako, koje koriste to kao third party. Ali eto, to je interesantno, to su sve one koje su već imale value i prodavale se jako dobro i pre nego što je stigao AI. Znaš, ti kad u Adobe ubaciš mislim podršku JNU, on je i dalje Adobe Photoshop, dizajner ga je kupovao i pre i bez toga. Oni su samo ti si samo upgradeovao njegove feature. Ali da upozorim ljude na to, znači ideja da ćeš napraviti startup jako popularno prethodnih nekoliko godina, po svih pet miliona hakaton i ne znam ne znam čega, šta se dešava u toj hype industriji, ali se dešava mnogo toga što je glupo, moram da priznam. I naivno. Ovaj, ljudi predstavljaju te projekte, e, i onda gledaj sad ovde ide ChatGPT API, mi smo uradili ovo, razumeš, i sad ti imaš neku tu strukturu, rešavaš neki problem u HR-u, u turizmu, ne znam čemu. Ali ga suštinski rešavaš tako što tvoj softver zapravo umesto tog korisnika formuliše prompt, šalje njemu, vraća se nazad i on ima odgovor. Specijalizovani virtuelni asistent, bla, bla, bla. Ja sam rekao ljudi to je katastrofalno rizičan i najverovatnije straightforward pogrešan biznis model u koji možete da dođete. Zašto? Zato što će to da ti third party procesira tokene. U jednom trenutku, prvo skalirovati ti posao, ako budeš imao te sreće, udarićeš u osobe iz Anthropic-a i OpenAI-ja koji će doći i reći ti: “Probili ste konačni tier koji ste imali. Idemo sada na Enterprise.”

Ivan Minić: Enterprise deal.

Goran S. Milovanović: Kad budeš čuo koje su cifre, strava i užas. Anthropic i OpenAI, ako ne grešim, ih ne navode. Ja sam našao pricing, ja negde mislim za AWS Bedrock što je Amazonova priča o tome, Amazonov servis koji te povezuje sa ovim. Cifre su, uši otpadaju koliko to košta. Pritom, sa sadašnjim stanjem stvari u industriji tih velikih igrača koji stvarno hoće to, data centri, oni guraju modele, njihovo je i tako dalje. Budući rentijeri, je l’? To je to, rentijerska ekonomija nastaje tu. U pitanju je uvek kod svake tehnološke transformacije, prvo pitanje je ko se namešta na rentu? Oni se nameštaju na rentu, ono što ima. Čiji je stvarno Claude, čiji je stvarno ChatGPT? Oni tom brzinom spaljuju keš, investicije u borbi za to tržište, u borbi za korisnike. Da je ozbiljno, ali sad se ne šalim uopšte, oni nije ono, u novinama je. Čitajte, samo čitajte, mislim, prosto šta, pratite. Umesto da pratite, ne znam ono, petominutnog Peru koji objašnjava šta AI radi, uzmite čitajte nešto ozbiljno, MIT Tech Review, šta god hoćeš. E, ozbiljno je pitanje kako će se oni sa tom računicom uopšte provući do te 2030-te ako ne budu udarili u problem i ranije.

Ivan Minić: Ali jednu stvar koju vidim koja možda ne mora da bude ni na koji način tačna, ali prosto mislim iz tradicionalnih biznisa to negde vodim kao kao ideju, a to je da u najvećem procentu slučajeva za stvari koje su na tom nivou skale i masovnosti najdalje što imaš je duopol. Nema mesta za sve igrače.

Goran S. Milovanović: Vidi, to mora se desiti, to je potpuno jasno. Znači, u nekom, u nekom trenutku, da, hajde, tvoje procene, duopol, da li će tu biti eventualno mesta za još nekoga, ili će biti, a u stvari će neki biti u korelaciji tipa Majkrosoft i Open AI. Da li su, odmah pitanje, ali to je jedan entitet u toj igri, ili su to dva entiteta u toj igri. Evo, sad pričamo, ja ne znam kada tačno je sad to bilo, nije ni bitno, danas je 29. april, da li je vest od juče, prekjuče, jer je vrlo skora. Saznalo se da Open AI nije ispunio svoja poslovna očekivanja od 2025. godine. Valuacija je, mislim da je Vašington žurnal, mislim tačno da je objavljeno, na šta je naravno Altman reagovao i rekao, to je klikbejt što oni pišu i tako dalje, ali znaš, cifre ne lažu.

Goran S. Milovanović: Da, cifre ne lažu, razumeš? Valuacija je pala za nekoliko milijardi odmah. Ovaj, i već ima sudova koji kažu OpenAI koji pokušava već svih ovih nekoliko godina da svojom profitabilnošću nekako pokaže da su investicije u njih zaista opravdane, u smislu reči, čekaj. Ma, da, modeli su sve bolji i bolji. Da, tehnologija prodire na sve strane, svi klinci hoće to da rade, sve je to super, ali to još nije novac. Znači sve ukazuje na to, ali to još nije novac, nema profita. Ako uložimo još 600 milijardi u data centre, ova industrija 2030. postaje profitabilna, plus još ako dignemo cenu tokena za 200, 300 hiljada puta, ona postaje profitabilna. To se u mojoj knjizi zove ozbiljan rizik i da l’ treba moje pare pomenem negde drugde. Tako da treba da budemo jasni. Pa svesni jedne stvari. Prvo, propasti neće. Vrlo je jasno. Too big to fail. Već je do sada potrošeno toliko, već je do sada investirano toliko. Druga stvar, postalo je postalo je geostrateško pitanje. Postalo je ozbiljno geostrateško pitanje.

Ivan Minić: Mislim, mi pri tom uopšte ne komentarišemo šta rade žuti ljudi.

Goran S. Milovanović: To ti kažem, znači.

Ivan Minić: A žuti ljudi rade svašta.

Goran S. Milovanović: Rade svašta. Znači, imaš Kinu sa druge strane, imaš tu trku. Znači to uopšte nije pitanje ni u jednom trenutku da li će cela United States da ustane i kaže ne damo ovu stvar, daj da šta god je bilo. This game stays. Znači neće propasti, je l’. Ali sa stanovišta toga koliko će da košta u budućnosti, ja sam na primer ubeđen u jednu stvar, a to je ovo što mi sada koristimo, čak i mi koji to plaćamo, to je za džabe. To to trenutno slobodno može da se shvati, ti živiš u eri besplatne AI koje neće trajati beskonačno. Uh, Suno, uh, to je generativna muzika.

Ivan Minić: Mhm.

Goran S. Milovanović: Je l’? I to ima konkurenciju ali sitnu. Ali sitnu.

Ivan Minić: Ne može da se poredi ništa sa…

Goran S. Milovanović: Ne može. Oni kidaju i u principu to je to, je l’. Gledaj. Ovaj, Suno je prošle godine uh, morao da, mislim morao, na njihovu sreću da kažem tako, oni su dobar dil napravili, ali oni su popili svoju verziju ovaj, New York Times protiv OpenAI spora koji treba ove godine, još nije razrešen, to ćemo da vidimo, to može isto da bude istorijska stvar, treba videti kako će se završiti na kraju taj spor. Ali dogovor Warner i Suno je, čini se dao mota dobiti za to. Uh, Suno će tokom 2026. Suno će, a ja u engleski deprecate, pogasiti sve svoje do sada postojeće modele koje su trenirali bez da su ikog pitali odakle ti ta muzika? Pirate Bay. Hm, zanimljivo. Ovaj odakle tamo i tako dalje. Sve u svemu, to će sve pogasiti, imaju dogovor sa Warnerom koji će im sve to dati i reći OK sad kršte na evo ti podaci o svemu ostalom. Gde će morati da naprave, kako se zove, ovaj, deal sa umetnicima koji su na Warner-u i da im kažu OK, možete opt out da se na vašem ne trenira proizvodu muzičkom. Ili ćete dobiti neku kešinu od toga što ćete biti deo trening seta, čime se prilično rešava jedna velika neravnoteža koja se tu pojavila, jedan pravičan protest muzičara diljem sveta oko toga. Čekaj mislim, znaš. Slično kao New York Times i OpenAI. Ali, se tim ugovorom, s tim ugovorom, Suno, to im je tražio Warner i rekao to je ograničili su se na to, download pesama samo za plaćene korisnike. Znači, pazi. Naravno da kad se prave takvi dilovi, neko bre čoveče tu iza razmišlja o profitabilnosti i sedi i kaže dobro dobro. A i ovo tvoje besplatno, to tvoje besplatno, to besplatno baki. Završili smo s ovom pričom, je l’. To je samo kad te vidim da si naplatio, je l’ OK? Tad može da bude download. Ovo ostalo mogu se igraju po svojim telefonima, puštaju jedni drugima to u školi ili ne znam gde, i završili smo s tim. Uh, vrlo brzo, vrlo brzo se krećemo ka periodu kada će vrlo verovatno će upotreba AI sistema, cena tokena da kažemo tako, ko god je ti sastavio po paketu ili po potrošnji ne znam, vrlo brzo će ta cena morati da krene ozbiljno da ti ide gore. Ja čak mislim da će se desiti nešto drugo da ćemo dobiti limite. Da će jednostavno biti OK, mislim vidi, mogu da ti prodam paket, paket ti je takav i takav, je l’ OK? I to ti je što ti je. Taj ti paket košta toliko. To kad si potrošio, završili smo. A da bi ti ja to prodao nešto više ili tako dalje, Enterprise deal, blago meni, možeš da spustiš svoje milione kod mene i da radimo. I zato što je disparitet između, razlika između cene prodajne, OK, i toga koliko se potroši na to je potpuno neverovatno. Znači potpuno je neverovatno. I to opet kažem nisu nagađanja. Evo ovih dana se pojavljuju vesti koje govore o tome, OpenAI koji su inače u krizi. U krizi su prvo njih je Anthropic po valuaciji ovaj prešišao skorije.

Ivan Minić: Oni su u identitetskoj u krizi.

Goran S. Milovanović: Identitetskoj, to je možda najbolji način da se opiše. Identitetski su u krizi. Jasno, više nisu ni sami sigurni šta je taj chatbot koga prave i zašto. Anthropic se tu, moram da priznam, mnogo više definisao, napravio Claude i rekao, to je Claude, Claude radi tako i Claude zvuči tako. Tačka. Možemo samo da ga poboljšavamo tako. Oni su pokazali se konzistentnim. Privlače sada više korisnika. Probili su trilionsku valuaciju pre neki dan.

Ivan Minić: Pa i može se reći gledajući sa strane da kompanija OpenAI ne pomaže kad njihov CEO izađe nešto kaže jer s one strane on čovek…

Goran S. Milovanović: Tona stran.

Ivan Minić: Nije baš, mislim…

Goran S. Milovanović: Tona stran.

Ivan Minić: Onako… Deluje kao čovek s kojim sve možeš da se dogovoriš. A ja nisam siguran da takav čovek treba da ima takvo oružje u ruci.

Goran S. Milovanović: Tako je. Moj dragi Onion, ovaj, fantastičan, ovaj, fantastičan post na Instagramu pre, pre, pre par nedelja sa Sam Altman-om, sa OpenAI, koji kao zaključak priče kaže, ovaj, je li ljudi, je li vi ponekad imate te noćne more u kojima vas čitave buduće generacije preklinju u suzama da promenite kurs stvari? Znaš, ovi su geniji, meni uvek bili, mislim, znaš, ali to je, kaže, imate vi, kaže, te noćne more kako, kaže, budućnost je šansa da vas preklinje prosto, kaže, da promenite kurs, ovaj. Tako da, da, jeste. Ovaj, i da, možeš da kažeš OpenAI je u nekoj vrsti identitetske krize. Nije tu jasno. Mada opet neće ni to, Microsoft će stati iza njih, neće to isto propasti.

Ivan Minić: Ne, ali vrlo lako može da se desi ono što, što se i onako neki komentarišu da to može da bude, će u jednom trenutku Microsoft samo usisati to.

Goran S. Milovanović: Može i to da se desi.

Ivan Minić: Videćemo.

Goran S. Milovanović: U svoju priču.

PRIVATNOST PODATAKA I AI

Ivan Minić: Šta je meni zanimljivo i šta bih hteo da i ti iskomentarišeš, jer, uh, mislim da si i kroz posao imao prilike da se s time susretneš. Uh, jedna od bitnih stvari koja je postala tema jeste to deljenje svojih podataka sa modelima i kako to baš nije može malo i da ne bude zgodno ponekad, je l’? I imamo ljude koji su se odlučili da za tako neke osetljive stvari dižu lokalne modele da se s njima nešto rade, a imamo to da dobar deo Evrope kroz stvari koje se dešavaju prethodnih meseci forsira to da se ili radi lokalno ili da se koristi Mistral ili da se na neki način ono, governance tih podataka stavi pod kontrolu.

Goran S. Milovanović: Pa gledaj, ovaj, vidi, uh, pravni deo problematike, mislim, ja nisam specijalista za to. To je onako mislim prilično prekomplikovana jedna stvar. Nisam čovek koji nije pročitao AI Act. Mada opet mislim, 50% njegovog sadržaja nisam razumeo jer je visokoformalizovan pravno-tehnički jezik nego sam posle čitao siže, prepričavanje, objašnjavanje, objasnio sebi negde onako najbitnije tačke, tako da vidim da razumem o čemu se tu radi. To bih ostavio pravnicima da diskutuju jer to je njima i posao i profesija i i ekspertiza u krajnjoj liniji. Uh, moj pogled na stvari. Gledaj ovako. Zavisi od toga šta ti je s tim zapravo hoćeš da radiš, je l’. Šta su za tebe privatni podaci koje ti hoćeš da da zaštitiš? Je l’. Ovaj. Čak ni kad radim, a radim recimo sada dosta, na nekim R&D projektima o kojima razmišljam kao nečemu što je moja buduća investicija, nešto što bi kažem ovo me interesuje da vidim da li ovo može da se napravi, da li iz ovoga mogu da izađem sa proizvodom ili uslugom koja ozbiljno znaš pravi neki profit i to. Nemam nikakav problem da sav kod, sve ideje i sve ostalo podelim sa ne znam, u mom slučaju Anthropic Claude-om da kažem tako eto. Iz kog razloga? Sad ću ti reći iz kog razloga. Da je verovatnoća da će on nekom drugom korisniku da reprodukuje baš moje ideje, na način na koji sam ih ja baš video i radio na njima je stvarno infinitezimalna. Shvataš. Kako se to desilo da je reprodukovao skoro identične pa članke iz New York Timesa, što je New York Timesu zapravo dalo osnovu da tuži OpenAI. Znači, OpenAI je reagovao na tu tužbu i rekao pa to je transformativan proces. Znači on uči iz New York Timesa. Razumeš, on ne kopira vaše članke, onda su oni doneli ovako i tražili sudijama i mislim da će ovi odobriti, ako već nisu odobrili pregled logova. I da kažu ne ne ne, vi ćete videti čitave paragrafe iz New York Timesa u odgovoru ChatGPT-a koje se razlikuju možda za zarez ili tako nešto. Tu su ih nagazili gadno, da. U taj proces što može gadno da se završi po po OpenAI, to je… Mislim da neće, ali da se završi kako je New York Times to zamislio, on je mogao ključ u bravu da stavi ovako ljude. Mislim gotovo je. Zato mislim da se neće završiti tako. Ali gle, šansa da znaš model sa kojim radiš tako nešto, nešto od tih velikih stvari, Claude, ChatGPT, da on stvarno da to negde likuje, stvari za koje ti kažeš pa ovo su bile moje poslovne ideje, ja to ne bih voleo da da ode negde dok ja ne razrešim šta s time, one su infinitezimalne. Mislim minimalne i to je to. U paranoji da će Anthropic da pokradu moje poslovne ideje nisam pošto imaju svoje koje ja nemam. Znaš i u krajnjoj liniji da sam ja igrač tog ranga, došli bi oni kod mene. Znaš dečko, 500k San Francisco, dođi kod nas, mislim, je l’. Ovaj. Šta su to podaci koje ti hoćeš da zaštitiš? Gledaj. Znaš, već 20, 30 godina život na internetu, ljudi znaju moje ime, prezime, imaju moje fotografije, znaju u koje klubove u Beogradu ima izlazim, ima taj jedan jedini gde se cepa jazz u gradu pa sam tamo. Mislim ono, tonu stvari ima sa mnom priče, razgovora, ima krolera koji idu po socijalnim mrežama, razumeš, pa šta je bilo na Twitteru, vam. Svi smo mi eksponirani tome. Svi mi smo eksponirani tome. Znači mi smo u nekom trenutku počeli da živimo naše digitalne identitete, prilično pristali na to da je dobar deo stvari public, hteo ne hteo, znaš. Tako da druga stvar oko koje nemam neku paranoju, to je ta. Razumeš? Čega ono kao imam da se brinem? Pa, kad sad iskreno da ti kažem, ovaj… Da li bi negde storovao, ne znam, moje kreditne kartice? Pa bih. Mislim znaš, pa na Google Pay-u su već ne znam koliko godina, plaćaju stvari umesto mene, je l’? A… Mislim ako su ljudi koji voze large language models te veličine i takve kompanije kao što su OpenAI, Anthropic, Claude u stanju da budu toliko non-aware od cyber security pa da to kod njih radi drugačije, šta bi to bio problem? Ne vidim kako bi to mogao da bude problem.

AI KAO EMOCIONALNI SAGOVORNIK: GRANICE I RIZICI

Goran S. Milovanović: Tako da, glede, ja lično nisam… Lično, kažem, ovo je moj stav, i nije preporuka ni za slušaoce, ni za tebe, ni za koga, ponaša se kao ja. Ja sam tu prilično opušten. Ali slušaj sad. Šta ne radim sa velikim jezičkim modelima? Šta mi ne pada na pamet da radim sa njima? To je, ne znam, da diskutujem, uh, odnose između mene i moje starije ćerke u pubertetu, koja ima 15 godina i počinje da uči o životnim relacijama i svetu i tako dalje, i gde se naravno kao i svaki otac ili njena majka plašim za rizike kojima će biti, ovaj, eksponirana, a ne znaš kako detetu da objasniš te stvari i kako se osećaš oko toga i kako se to dete oseća. To za mene uopšte nisu razgovori koji se vode sa nečime što je od silikona. Shvataš, mislim koliko god bilo moćno i pametno. Ne zato što se opet plašim da će to nešto negde tu da reprodukuje. Who cares. Nego iz prostog razloga što uopšte ne ne vidim da da je razgovor sa tehnologijom bilo kojom nešto što meni može da bude, da kažem, da ja mogu da na neki način imam benefit neki od toga.

Ivan Minić: Ali vidi, mnogo ljudi je krenulo na tu stranu.

Goran S. Milovanović: Jeste. I mislim ja iskreno moram da ti kažem da sam time onako iznenađen, a možda i nisam u krajnjoj liniji. Kad razmislim o tome i kao psiholog i generalno kao čovek, je l’. Jeste. Takve stvari se dešavaju. Imaš sada tonu aplikacija koje su se ono reklamiraju, znaš, your ideal AI girlfriend. Mislim, znaš, i šiba mi na Instagramu stalno tu priču. Znaš i sad je meni zaprepašćujuće. Ja ne znam, to je to su razlike između ljudi. Mislim, ne znam, ne znam u kom u koju stranu ćemo odvesti ovaj razgovor ako krenemo tamo. Što kažu ukusima ne treba raspravljati. Mislim znaš, ali opet s druge strane da ti kažem nešto, mislim ej ako ti imaš AI generated digitalnu, digitalnu žensku osobu čiji se posao sastoji u tome da ti se reklama ti ponavlja, kaže, ne ne, to što ti tražiš je sasvim OK. Kaže, a gledali smo istu, je l’? You are not needy, it’s perfectly fine, it’s OK, it’s not strange i tako dalje. Ja se mislim, čekaj da vidim ovako, ok, da, to je ta stereotipni razgovor, ali čekaj da vidimo, ako, mislim, u kom problemu je lik, kako me možeš da prodaš tako nešto.

Ivan Minić: Mislim, a stvarno, mislim imam mnogo ljudi u raznim problemima.

Goran S. Milovanović: E zato sam rekao, znaš, ne znam u kom pravcu ide, ide, ide razgovor tu, jer da, lepo si ti sve oformio, mislim mnogo ljudi ima mnogo problema. Ko sam ja da sudim i da, znaš, se bavim time. Ali ljudi, mislim, znaš, uh, za takve stvari da mi koristimo generativne AI i da sad impersonalizuju nešto što bi trebalo da budu zaista bitne uloge drugih ljudi u našim životima. OK, mnogi problemi ljudski, psihološki, ovakvi i onakvi su vezani za probleme upravo u toj mreži role playing-a. Ko igra koju ulogu u čijem životu. Aman idite kod živog čoveka, razgovarajte o tome pobogu. Mislim najgora, najveća budalaština od odluke koju čovek može da donese i da potroši my cent sebe i svog vremena na to da taj problem počne da rešava sa animiranim avatarom i velikim jezičkim modelom iza. Mislim, znaš, i zato kažem, kad si mi postavio to pitanje, ja sam dosta lično, onako, dosta se nonšalantno, ja se inače na internetu ponašam dosta nonšalantno. Imam gomila mojih prijatelja…

Ivan Minić: To znam.

Goran S. Milovanović: Ja, gomila mojih prijatelja koji mi kaže, ono, pa nebitno stavove koje delim, što je druga stvar, to je ja bih i čoveku isto rekao to u kafani, što mu kažem na LinkedIn-u ili na Facebook-u, to je stojim iza mojih reči. Znaš, imam stavove ali stojim i za toga bre brate, znaš, to je. Ali hoću za zato znaš nema razloga da se krijem, ali hoću da kažem drugu stvar. A to je ovaj uh, znaš jednostavno nonšalantan sam u zaštiti tih podataka jer kažem sebi a ti prosto znam šta delim i kažem sebi a ti ne možeš podeliti ništa što tebi može da donese grubo grubo gledano ti donese finansijske ili pravne probleme, so I don’t care. Znaš, mislim, naravno odavno sam savladao veštinu da ne odgovaram na mailove Nigerijskog princa. Mislim al to smo valjda savladali, znaš.

Ivan Minić: Znam da nismo. Znam. Ne, meni je strašno što zapravo se ono godinama se ne objavljuju statistike. A ja bih baš voleo da se objave statistike koliko ljudi izgubi novac svake godine, ali.

Goran S. Milovanović: Mogu samo da ti zamislim jednu stvar. Šibicari postoje od pre Rimskog carstva. Znaš ono, kutica i gde je? Od pre Rimskog carstva. Hajde da se ne lažemo, viđaju se na ulicama Rima, New Yorka i Zelenog Venca ovaj podjednako u 2026. godini. I neko se zakači. Razumeš?

Ivan Minić: I neće AI zameniti.

Goran S. Milovanović: Pa nije bitno, zeznuće ti za male pare, ali neverovatno, znači koji je to stepen ono, znaš, mislim nešto imaš veštinu koja je tu 3.000 godina veštinom prevare, ona je tu. Znaš, to što ja kažem kad se začudim za Nigerijskog princa i mailove, razumeš, iz 90-ih, onda sednem i kažem sebi ma daj bre mislim ovo je, ovo je ništa mislim je l’? Kako da kažem, moj stav prema tom pitanju je lično, nisam, nisam u nekoj paranoji, ne čak ono, moji nivoi zaštite su profi nivoi zaštite, svakako mislim je l’ i preko toga ne vidim neku paranoju oko toga. Međutim moj odnos i moja upotreba generativnih veštačkih inteligencija, velikih jezičkih modela, svega toga je takva da oni nikad od mene ne čuju nešto što za što ja mislim da uopšte nije ni odgovarajuće da podelim sa nečime, podelim quote, a quote sa nekom gomilom tokena, ovaj u ne znam, trilijardi parametara neuronskih mreža. Znaš, da se počnemo da se bavimo tim problemima sa njima i privatnošću sa njima, to je ljudi čitajte Ničea, mislim znaš što kaže znaš ako ako dovoljno vremena provedeš zureći u ambis, ambis za uzvrat počne da zuri u tebe. Je l’ to bi trebalo da bude dovoljno ilustrativno oko toga šta znači ovaj posmatrati Gen AI kao devojku, dečka, najboljeg prijatelja i psihijatra. I ja bih birao ljudsko biće za te stvari.

KINESKI AI, MISTRAL I EVROPSKA SCENA 

Ivan Minić: Hoću opet da te da te da te vratim na ovu priču sa ostalim igračima u celoj priči. Ono što je što je meni interesantno, OK, jeste to da Kinezi rade to što rade. To izgleda jako zanimljivo, impresivno. Niko ne zna šta je ispod, ali kad se pojavi i kad izbace update svi se krste par nedelja. To da. Imamo tu priču sa sa Evropom i sa tim da Evropa želi da kada i koliko može kontroliše da se stvari obrađuju u Evropi po nekakvim pravilima koje je postavila firma iz Evrope. Mistral je tu napravio priličan breakthrough prethodnih ono godinu, dve jer inicijalno ja sam u nekom trenutku testirao zbog nekog projekta, to je bilo užasno. To je bilo potpuno neupotrebljivo. Sad je to sasvim OK. OK, naravno, nemaš neke napredne mogućnosti koje imaš ovamo, ali za to što ti treba, a suštinski se svodi na obradu teksta, u većini slučajeva, radi to prilično lepo.

Goran S. Milovanović: Može.

Ivan Minić: Ono što se meni čini da da da je neka budućnost jesu specijalizovane priče. Profilisane priče ka konkretnim stvarima. Dakle, ne kao što smo pričali i u prethodnim epizodama o tome da za neke stvari ti ne trebaju veliki jezički modeli nego ti trebaju mali jezički modeli koje možeš da vrtiš na lokalu i da radi dobar posao. E tako isto za neke specifične profilisane stvari ti ne treba nešto što troši za tvoj odgovor 50 MW, Tako je. nego nešto što može da pinpointuje tvoj odgovor i da ti da ti komentar.

Goran S. Milovanović: To što ti govoriš, to je nešto što inženjeri koji neposredno rade u primeni takve stvari ovaj meni kažu u razgovorima svako malo, to je ti ako nameravaš na ozbiljno skaliranje nekog nekog posla, nekog app-a, nekog servisa koji će izlaziti i voditi neku generativnu iati danas, skoro nužno zbog stvari o kojima smo već govorili, skoro nužno ti ideš na small language model koji ti specijalizuješ ovaj da rešava taj task, uzimaš nešto iz open source-a i baviš se projektom toga da ga fine tuneuješ koliko možeš, prompt inženjerišeš iza koliko možeš, okružiš nekom bazom znanja da ima neki kontekst i da ti rešava problem koji hoćeš da rešiš. Iz diskutovanih razloga, a to je što skalira li ti cela stvar, odeš na enterprise deal je l’? Gotova priča. Tako da ta specijalizacija je taj pravac, to će sigurno ići. Uh nisam tehnički detaljno pratio dokle su stigli s time, ali vidim da se vrte u opticaju, ono što kažu small language models. Ne moraju oni da budu small, ti ako imaš infrastrukturu da se razmahneš, lako ćeš ti njega da napraviš na large language model, je l’? Ali vidim, Qwen i ostale stvari da se dešava ovaj i da sve više i više se krećemo ka tome da ćeš ti moći na nekom, aj sad da li je consumer hardware ili nije ili je nešto veličinu ulaganja koju možeš da izdržiš, moći da poteraš jednu stvar kako se zove, koju ćeš specijalizovati i koja će praviti neki neki biznis value. A bez toga da se iza nalazi third party provider koji košta ne znam koliko novaca i tokena. Još to nije, moje neke analize koje su mnogo više već godinama su vezane za znaš biznis aspekt, koliko to košta i šta to na kraju izručuje. Uh, nikome u prethodnih tri godine još nisam savetovao da se radi to. Da se prelazi na to. Uh da kažemo hajde idemo, dižemo naš LLM, SLM, kako ćeš god da ga zoveš na našoj infrastrukturi i tako dalje. Jer za bilo koje potrebe skaliranja i to je i dalje preskupo. I to je i dalje preskupo. U kom smislu reči? U smislu reči uh ti možeš danas da poteraš na jačem laptopu nešto od tih stvari. Je l’ OK. Uh možeš da ga poteraš i sa izvesnom nekom brzinom inferencije koja će biti da kažemo prihvatljiva, ali to si ti jedan korisnik. OK, kul je. Mislim znaš to je, no business je l’? Sad ako hoćemo da imamo 500.000, 50.000 korisnika, hardware iza će i dalje morati da bude prilično jak i onda kad uradiš analizu, kad uradiš računicu shvatiš da ti je ulaganje u cloud infrastrukturu, potrošnju i to, gde god da si, Amazon, Azure, nešto, ovaj ili ulaganje u fiziku u metal što se kaže i to, i dalje preveliko da bi ta stvar bila nešto isplativija. Međutim, ono što je poznato u poslu, a to je pa onako svi ovi jači servisi, jače aplikacije koje voze neki AI poznatije, mislim ne moraš krenuti šta radi Robo support u Atlassian-u to jest Giru Bitbucketu, šta radi Fireflies i tako dalje. Tu ima oslanjanja i na third party moćne modele. Tu se cela stvar orkestrira tako da kompleksnije zahteve na primer pa se nadaš da su oni ređi, je l’? Njih proveravaš sa nečime što je zverčine kao što je neki ChatGPT jači ili Antropic Cloud jači i slično, je l’? OK, pa recimo njih iskoristiš da to parsiraš u jednostavnije zahteve koje onda daš nekim proprietary modelima koje si fine tunevao za njih koji su ti u kući. Znači vidi se da se koriste ti hibridni modeli. Ali ovaj, da na oruk kreneš i napraviš uh stvarno ali gle, kako da kažem, uh kako da se izrazim? Da napraviš uh uh, plausibilan, da napraviš poslovni model vozeći svoj LLM lokalno koji skalira i radi nešto, je l’ OK? To i dalje nije uopšte mala investicija i malo novca.

LOKALNI MODELI, SPECIJALIZACIJA I HIBRIDNE ARHITEKTURE

Ivan Minić: Ja sam video neke zanimljive primene ovaj koje su razvijali neki moji drugari. Jedno je da kažemo ono bazični call centar na engleskom koji na mašini koja je jedan klasičan server od 1.500 EUR ovaj ono čelik, vezan na neku, neki internet. Ovaj bez problema vrte 400, 500 konkurentnih poziva, što je prilično lepo. Ali opet, engleski, pojednostavljeno, video sam neke primene koje su mnogo naprednije, ali one se vrte u u nekom ozbiljnijem okruženju. Ali ono što sam zapravo čime sam se uh u poslednje vreme od primera koje sam video najviše oduševio jeste jedan alat koji je razvio kolega koji sve obrađuje lokalno. I onda to što ima od podataka strukturirano, posloženo, opisano kako treba pošalje konkretno ChatGPT-u da mu napravi od toga narativ, da izgeneriše sve što je potrebno za sam ovaj, pitanje generisanja nekih reporta.

Goran S. Milovanović: To je poznat workflow.

Ivan Minić: To je projekat.

Goran S. Milovanović: I to mnogo lepo radi i troši jako malo tokena u suštini.

Ivan Minić: To je projekat jedan od projekata ovaj da sad ne specifikujem s kim, kako i šta na kome sam radio od jeseni 24. i celu 2025. ili od ili jao matorim pa zaboravljam ili od proleća jer je tu negde polovina 25. zapravo pa sve ove za sada ili tako nešto. Je projekat koji je imao tu strukturu. Znači da smo upravo je bila doneta vrlo svesna arhitekturna odluka oko toga. Ovo je deterministički deo projekta. Ovde mi radimo Python kod kombinacija, mi proizvodimo promptove deterministički, tako što bukvalno koristimo delove nekog rečnika koje smo ono hardkodovali, pravim pravimo promptove tako što ono radimo konkatenaciju stringova u Pythonu, formatiram ga i tako dalje. A gde zapravo large language model se koristi samo u poslednjoj fazi da kaže odgovor ovog procesiranja, ako ja ovo pokažem korisniku, malo vajda, je l’ OK. Ali ako ga dam velikom jezičkom modelu, što me onda ne košta puno i kažem napravi mi samo non-technical narativ od ovoga, je l’ OK, razumeš i vrati mi to, onda u toj fazi ide. Ma ima znaš, pazi oni imaju mislim zilijardu tu primena postoji pametnih i imaš ti tu opcije kako da se izvučeš i kako da uštediš i kako da minimizuješ i to. Zato kažem ono još od početka razgovora, to je stvar koju sam počeo da shvatam prethodnih prethodnih nedelja možda i meseci, nedelja najviše. A to je ovaj, mi još uvek učimo da koristimo te tehnologije.

Ivan Minić: E vidi ja sam…

Goran S. Milovanović: Još uvek učimo. Još uvek je, još uvek nismo otkrili, nije se kako da kažem nije se ustalio način na koji mi to koristimo. Još uvek istražujemo, još uvek ima zahteva koje ono probamo da uradimo i shvatimo ne, daj ljudi mislim ovo neće ići sa ovime, je l’? A još uvek se traži šta je pravi modalitet, gde kada, u kom delu, kog poslovnog procesa će oni biti najupotrebljiviji i raditi stvarno posao.

Ivan Minić: Vidi, ima raznih naučnih radova. Ima nekih koji su pisani, posebno Americi to vole, koji su pisani tako da ti je milina da ga čitaš. Ako ti je iole bliska tematika, to ti je kao dobra knjiga. A ima i onih koji nisu tako pisani. I onda kad nisu tako pisani, a kad meni to nije dovoljno blisko, ja to lepo ubacim i kažem hajde mi objasni ovo kao debilu i on to uradi sjajno. Jer kao jednostavno kao treba mi da saznam sve što treba, ali brate šansa da ja ispovezujem sve…

Goran S. Milovanović: Zato ti kažem nešto, ako uzmeš i pogledaš recimo sada, što sam siguran da radiš, ti više ne poznajem praktično čoveka koji to ne radi. Znaš ti kada pogledaš ovaj deep research modalitet ChatGPT-a, je l’? Odnosno ono što ti je, Claude će ti se praktično, makar Claude Desktop će ti se, mislim Claude generalno, on će ti se praktično ponašati tako u co-work modu ako uđeš tamo, je l’ OK. Znači to je ono složena, strukturirana pretraga interneta, razumeš sa onim rekurzivnim ispucavanjem query-ja, modifikacijom query-ja, kako prima rezultate i ostalo. Čoveče, pa budimo realni, znači on ti uradi, to je ono što smo u marketingu se nekad zvalo ako ti uopšte i postoji desk research, je l’, desk research. To je ono desk, čovek čita novine i pravi slagalicu i donese, ovo znamo o tim stvarima ili ovo se nalazi tu i tu. OK, znaš, znači sad radimo ga online od kad smo na netu, je l’? Znaš, ti kad pogledaš, pazi, on daje vrhunski desk research koji ti automatizuješ ekstra lako i da ga za ono uraditi to in no time. Je l’? Znači meni je potpuni refleks postao da kad recimo imam neku ideju, dođem do neke ideje, što se nažalost kod mene često dešava, ovaj, uh, uh i onda lepo sednem i kažem OK, šta treba da znam? Šta treba da znam? Znači šta bi trebalo da proučim? Pre, pre pojave takve, ovih tehnologija, dani bi mi bili potrebni da ja stignem do sumarija tog nivoa kvaliteta, da sednem i kažem pročitam ovih sedam, osam strana, proverim te i te izvore, vidim šta je, proberem iz toga, znači dalja direkcija za moje učenje i istraživanje je ova, je l’ OK? Ovo me ne interesuje, ova priča mi ne pliva, ova priča mi pliva. Uh ti te stvari dobiješ sa njima in no time, ovako. I to na nivou kvaliteta kao da je neko ko je radio taj desk research se veoma, veoma onako ozbiljno elaborirano potrudio da ti donese na sto stvarne informacije koje ti trebaju. Znaš, mislim pazi, ne reci da nije za rad. Razumeš, mislim jeste. Ja pogledam kažem Boga pitaj, meni dva, tri dana pretrage interneta, copy, pastea po Word dokumentima, piši pot poglavlja, organizuj u bitno, nebitno i ostalo bi meni bilo ručno potrebno da uradim. Znaš, kreneš od toga masa ljudi, to je upotreba sada kod mase ljudi. God tona ljudi sa kojima razgovaram koji znam i kažu da bre, to mi je ono osnovna stvar mi je strukturirani online search izveštaj koji mi radi za neke stvari preko, preko ovoga. Do drugih stvari. Znači već je kako da kažem, mislim znaš uopšte ne možemo mi da pričamo o tome da l’ je to korisno ili nije. Te su stvari ekstra korisne. Ono čemu ja kažem kad kažem još nismo naučili da koristimo te tehnologije. Govorim o nečemu što je strateškog karaktera. Ne na nivou pojedinca. Naučili smo, učimo još, igramo se i ko zna šta ćemo još. Strateškog je karaktera, mi još nismo u kompletnoj ekonomiji kao takvi shvatili gde je njima pravo mesto. Razumeš? Gde je njima pravo mesto? I šta je template? Šta je template koji kaže, u fabrici takvoj i takvoj oni rešavaju to, u fabrici ovakvoj i onakvoj rešavaju to, u poslovnom procesu tog i tog tipa rešavaju te i te stvari. To još nemamo. To još nemamo. Mi smo još uvek u velikoj igri, je l’? Gradi data centre, gradi kapacitete. To će postati, to je buduća, već sada je, to je buduća renta te ekonomije. Šta je sledeći nivo? Agenti i orkestracija agenata. Da, naravno, znači sad se to standardizuje, to će biti neki mid level, je l’ OK? Šta znamo da mora da se izgradi? A ogroman je problem i nije izgrađen, uglavnom nije izgrađen, na vrlo retkim slučajevima. To je ono što se zovu semantic layer. Odnosno, ovo je ovo su informacije o nečijem poslovanju nad kojima taj AI treba da radi. Je l’ OK? Ovo ovde je taj AI sistem ili njegovi agenti i orkestracija agenata, je l’ OK? Uh najčešće informacije o nečijem poslovanju nisu odgovarajućem formatu da ovaj njih može optimalno da koristi. Nisu. Tu postoji veština koja se zove knowledge engineering, postoji proizvod koji se zove semantic layer. To je ono kad kažu znaš vektorske baze čuvene, je l’? Vektorska baza je tehnologija, to znamo da napravimo. A šta ti stavljaš u nju i kako organizovano? E to je mnogo ozbiljniji deo posla. I moram da kažem, tu je dobar bottleneck jer taj posao moraju ljudi da rade. Tu mora ljudski ekspert da prođe, razumeš? Samo ljudski, jer ovaj neće moći to da reši. Zašto? Pa nije mu dato znanje u formatu kojima njemu odgovara. Kad kažem format ne mislim JPEG ili JSON. Razumeš? Ne, ne, ne, nego bukvalno kako je to napisano, podeljeno po paragrafe, nije podeljeno.

Ivan Minić: Ma mislim, to je ono šta je razlika između informacije i uvida.

Goran S. Milovanović:  Tako je, bukvalno. E e tako je. AI zna da uradi semantic search sa nekim queryjem, razumeš? Al da li su tebi informacije napisane tako da taj query može da ih nađe? Razumeš, o tome se radi, je l’? Korelacija ne znači kauzalnost.

Ivan Minić: Da, od toga…

Goran S. Milovanović: To je, to je priča. Znači još uvek, još uvek se nije, nije se to setlovalo do kraja. Kao ona priča koju smo pomenuli o elektrifikaciji, kažem ne daju je džabe u istoriji ekonomije kao primer. Danas tebi i meni, čoveče, pa tako trivijalno upaliti i ugasiti svetlo, sve živo radi na struju. Fabrike i pitaš se znaš ti da koristite struju, fabrike će te steri napolje, tu hapsi, ko je šizofren, gubi se bre s tim. Si lud, je l’? Naravno da znamo, ali morate da shvatite da su postojala vremena kad čovečanstvo nije znalo da upotrebi struju do kraja. Nije znalo. I da je potrajalo 40 godina dok neko nije shvatio kako distribuirati te resurse, gde priključiti, na šta, šta sve tu može da se uradi da ta struja počne da se vidi kao profitabilna.

Ivan Minić: Ma vidi, ne moramo da uopšte bežimo od struje. Možemo da se držimo struje. Ti imaš situaciju ono, sve je više elektro automobila koji su došli na ovo tržište brendova koji to prodaju. Je l’ to postala tema globalno? Jeste. Je l’ postoje zemlje u kojima je masa ljudi se u prethodnih 10 godina konvertovalo u tom smeru. Jeste. Šta je razlika između nas i tih zemalja? Platežna moć? Nije samo platežna moć.

Goran S. Milovanović: Ne, nije samo platežna moć, naravno.

Ivan Minić: Ne postoji infrastruktura.

Goran S. Milovanović: Tako je.

Ivan Minić: Znači ti ako ideš, evo opet, prijatelj, nedavno smo pričali, dobili su Škodu Enyaq, službeno, divan auto, oduševljeni su. Samo jedan problem. U tom modelu koji su oni dobili, koji je entry level, ali košta 60-ak hiljada evra, uh, domet je 250 km. Što znači da ako idu do Niša, nije sigurno da će da stignu do Niša.

Goran S. Milovanović: Tako je.

Ivan Minić: A da li ima između gde da se napuni? Ima negde, ali nemaš 15 pumpi, nego imaš jednu kao opciju. I ako propustiš nju, ti si u problemu.

AI I KREATIVNE INDUSTRIJE: MUZIKA

Goran S. Milovanović: Pa to je najveći ovaj zapravo da kažem najveća konsekvenca za sve u celini do koje dovodi AI transformacija, ako ćemo tako da zovemo. To je taj proces, zovi ga kako god hoćeš. Mislim taj prosto proces te tehnološke revolucije ove koja se sada dešava. A to je što će ona dopunski amplifikovati i pojačati razlike koje već postoje.

Ivan Minić: Tako je.

Goran S. Milovanović: Hoće. I to je zapravo, to je ogroman problem. Znači prvo da se opet kažem, vratim na nešto što smo diskutovali. Istorija ekonomije ne poznaje tako koncentraciju ovaj u investicija u jednu tehnološku transformaciju koja se desila ikada u istoriji kao što se dešava sada. Opet kažem, jasni su preduslovi. To je moralo da bude tako zato što je u pitanju transformacija i uvođenje tehnologije za koje su potrebni resursi koje je samo nekoliko na planeti imalo. Ti ako danas pogledaš AI igru. Vidi, mislim, bez namere da sudim oštro, ali mi smo an honorable mention. I ništa više od toga. OK. Mi pričamo o SAD i Kini. Mi pričamo o supersili kakva je Rusija, koja nema na mapi te priče. Nema ih na mapi te priče. OK. Ostali, pa ne možemo da pomislimo da imamo resurse da uđemo u tu igru uopšte. Znači ne možemo da pomislimo da imamo resurse da uđemo u tu igru. To je jednostavno za zemlju veličine Srbije. Za to za Švedsku bre nezamislivo, ne znam nas. Je l’? Znači prva stvar, sada će još oštrije će dovesti do razvoja, do do do do pojačavanja razlika koje postoje u svetu, odnosno onih koje postoje. Takođe će to uraditi i sa radnom snagom. Samo što je ono što kažem zašto kažem ljudima, jer toliko je ta diskusija hot da je neverovatno automatizovaće nas, smeniće nas, što sam ja učio da sviram instrument 20 godina kad sad ima ovo što pravi muziku i tako dalje. Take it easy. Ti transformativni procesi, prvo Bog otac ne zna kako će da se završe na kraju. To je jedna stvar. A druga stvar, ti transformativni procesi idu polako. Idu polako. Neće tebe, retko koga, retko ko će iz naše generacije, retko ko će doživeti, ne samo u Srbiji nego u SAD, a u Srbiji sasvim sigurno. Retko koja osoba će doživeti izgubio sam posao zbog AI-ja. Baš retko koja osoba. Znači to, kažem i to verovatno će biti u pitanju pozicije za koje će biti, e daj ovo što sam radio u call centru i onako sam ga radio, nisam znao šta pametnije drugo da radim. Mada, znaš, jer ne ne može, ti procesi jednostavno uzimaju vremena. Uzimaju vremena, nisu u pitanju pojedinci, u pitanju su čitave organizacije, mislim. Nije nešto što se desi preko noći. Tako da bih za to stvarno ljudima rekao take it easy s time. Držite raspravu o AI-ju u kafani, možemo da pričamo o tome da l’ je to ljudsko, nije ljudsko, šta će da uradi, kako će da uradi, kako menja značenje ljubavi, kreativnosti, muzike, bilo čega. To je super, ali shvatite da je to još uvek u domenu filozofske rasprave, je l’? E sad, ima, ima stvari koje će se realno dešavati, razumeš, je l’? To je, ti si video u kreativnim industrijama rasprava je mislim onolika. Znaš. E sad, tu bih imao svoje da kažem što im se možda i ne bi dopalo, a mislim nije nerealno. Uh, vidiš, na primer ono što zovu srednji sloj muzičara, da kažeš o muzičkoj industriji. Znači to nisu top performeri koji zahvaljujući svom top performansu izvode bilo koji muzički žanr o kom govorimo.

Ivan Minić: Mediori?

Goran S. Milovanović: Mediori.

Ivan Minić: Da, recimo.

Goran S. Milovanović: Nisu, nisu top-top bendovi koji imaju, znaš, ugovore sa lejbelima, znaš ono, pune hale, vrte, prodaju mnogo i tako dalje. Ali nisu ni nivo, recimo, entuzijasta kao što sam ja koji eto sviram, volim da sviram, a živim od nečega drugog i tako dalje. Te dve kategorije su izgleda neugrožene. Ovo između, to jeste. Ali gledaj o čemu mi tu govorimo. Gledaj o čemu govorimo. Mi govorimo o sledećoj stvari. Govorimo o poslovima kao što su da neko sedi i radi u Logic Pro, Q-Base, Ableton Live, šta god hoćeš. Uglavnom tako, sa nekim medijem najčešće i pravi elektronsku muziku koja je zapravo stock music kao što je ono što je stock photo. To je stvar koja ide, znaš, for španije što su bili nekad, je l’? Mislim, ovaj to je znači muzika za reklame, for commercials, background music.

Ivan Minić: Ma i to ako hoćeš da imaš reklamu koju pamtiš, pamtiš je po pesmi koja je čudo.

Goran S. Milovanović: O tome da ne pričamo.

Ivan Minić: A 90% je to je background music koji je elevator music.

Goran S. Milovanović: Je l’ beše u Pepsi-ju, sad si mi postavio, je l’ beše u Pepsi-ju u ovoj kampanji bila Michael Jackson-a vrtila Diana? Je l’ tako bilo?

Ivan Minić: Ja mislim da jeste.

Goran S. Milovanović: Ja mislim da je bio Pepsi, čoveče. Tu reklamu ne možeš da ne zapamtiš tako nešto. Tu se razumemo. Da, mislim ono briljantnu reklamu nećeš napraviti s time. Ali slušaj, tu i tamo ti treba za neku pozadinu, neki forum, for sa laganim ambijentalnim nešto, to napraviš, Tom Abeltonom ovako sednemo za jedno popodne, jedan instrument nam ne treba. 20 takvih možemo da napravimo, je l’? Ali slušaj, neki ljudi su to pravili i živeli od toga i prodavali to, je l’ OK? E mali problem se sastoji u tome što sada stvar kao što je Suno ili bilo šta od njegovih konkurenata zatvara to polje. Zatvara to polje. Procena je da će u narednim godinama, procena je da će u narednim godinama oko 20% streamovane muzike biti AI generisano. Čak se i distributeri bore protiv toga. Pazi, znaš šta kaže Spotify? Spotify kaže oko 20 ili 20, ne znam sad ja i pamćenje cifara, al’ 20 i 20 nešto posto uh upstream muzike koji nama uploaduju je sada generativna AI, OK? Ali recimo Spotify ima filtere i kaže uspeli smo da od toga da samo oko pola % puštene muzike bude to, je l’ OK? Zašto? Jer bore se protiv toga da royalties, na novac od puštanja da generativni AI ne počnu da skupljaju kako se zovu od pravih autora, je l’? I onda se radi na tome, mislim dosta. YouTube, oni imaju policy od pre nekoliko meseci. Kaže možete da uploadujete koliko god hoćete generativnog sadržaja. Nemamo problem nikakav s time. Nema monetizacije generativnog sadržaja. Znači može, napravite vi ako vam je drago, vi uploadujte. YouTube ne dozvoljava monetizaciju od toga. Bandcamp, Bandcamp se dobro, manje ljudi zna šta je to, jer Bandcamp je baš platforma za promociju pravih autora, bendova i tako dalje. Bandcamp je, oni imaju zero tolerance policy. Oni su rekli OK, možda vas i nećemo uloviti. Ali nađemo li vas da ste postovali generativni sadržaj na Bandcamp, to vam je to što ste imali od naloga i završili smo priču. A Bandcamp nije beznačajan kanal preko koga bendovi, izvođači dolaze do toga. I sad gledaj, znači mi moramo da shvatiš jednu stvar. Znači ja znam, znaš, muzičare ozbiljne, školovane koje su u nekim potpuno drugim žanrovima, umetnički, pa su imali albume, čija je sajt zarada bila da sedi i ono što kažu kad se zezaju, kažu kuckači muzike, je l’, na sede, prave takve stvari i tu prodaju. Taj biznis će AI da im uzme, je l’ OK, da se shvatiš. To je u 90% slučajeva zapravo uzimanje nekome eliminacija nečijih sporednih prihoda. Srećom ne glavnih, ali sigurno ima i dosta ljudi čiji su to bili glavni prihodi. Molim lepo, to je tačna svaka tehnološka transformacija ima neke svoje žrtve pa će da ima i ova. Mislim to da budemo da budemo na čisto, to će se desiti, je l’? Međutim, ima u svemu tome i stvari koje koje me teraju na drugačija razmišljanja. Znaš. A ovo nije moje konkretno. Uh jedan onako jedan američki fusion gitarista koji ima neki kanal na Instagramu i na Facebook-u i tako non-stop diskutuje muziku i namerno je iritantan, džek je, vidi se da to radi za promociju svog benda. Ma što je sve OK, u redu, svako ima neki svoj marketing, on ima svoj. I ulazi u raspravu vezanu za Gen AI u muzici i to. I čovek je ispričao jednu jako zanimljivu priču koja se meni stvarno dopala i kaže vidi ovako, čujem kaže ovaj uh tonu ljudi koji su u digitalnoj produkciji muzike i elektronici takođe kako kukaju stigle generativni AI sad se stream neki za techno ili za ovo i za ono pravi ovako, skoro da je neprepoznatljivo, uskoro će biti potpuno neprepoznatljivo i to vrhunski muzičari neće moći da kaže je l’ ovo je l’ ovo stvarno radio čovek, pogotovo u elektronskoj muzici. A ne a polako, simulacija analogne ne možeš da shvatiš dokle su stigli. Mislim to je, to je to je da zineš mislim. OK, može još da se negde oseti, razumeš, ali što kaže jedan moj kolega u tom kažem ispeglaće oni to, ne brinem se ja. Te sitnice će da ispeglaju. I kaže lik ovako, vidi šta je interesantno. Kaže čujem gomilu ljudi iz digitalne produkcije i kukaju, stigla AI, gubimo poslove, ne možemo sad će ljudi sami sebi da pišu muzike za reklame, džinglove, ovo, ono i to. I kaže vidi ovako, kaže sećam te se. Dobro te se sećam. Kaže nekada je tu sedeo čovek, ponekad školovan sedam, osam godina u nekoliko oblasti fizike, u akustici, u ljudskoj percepciji, sa minimum nešto muzičkog obrazovanja u studiju sa opremom koja je nekada mogla da vredi i više miliona. I izvodio neverovatne stvari sa čitavim timom ljudi da bi stvorio vrhunsku muziku za koju su mu sami muzičari priznavali da je ta produkcija sama po sebi umetnost i umetnički doprinos. Ti si onaj što je došao sa laptopom sa Q-base-om i Ableton Live-om i Logic Pro čim god hoćeš i počistio si ga ovo za neko godina. Kaže sad kažeš došla je Gen AI koja čisti tebe. Zato što si sa good enough počistio excellence. Kaže vidi nešto mi nije žao. Znači u svemu tome ima, znaš, raznih strana. Ako postoje oblasti, a postoje oblasti u kojima generativne AI tehnologije sada stvarno počinju da potiskuju ljude koji će naravno iz interesa i to je sasvim opravdano da ustanu kažu ček bre moramo se dogovoriti malo oko ovoga ljudi ja lede jedem, jedem leba od ovoga, je l’? Znaš kako, čovek mora da ti postavi ozbiljno pitanje ako tebe AI tako lako kopira, koje su to kreativne industrije? Zašto smo mi to tebe školovali? Da budeš novi Miles Davis? Da budeš novi Bach? Da našoj deci objasniš gde su neke prave vrednosti ili da sediš i praviš ovako po ceo dan. To zamisli može Gen AI da radi. Pa ti vidi ako si nekad mislio da si stvarno muzičar zbog toga nisi, jer te je ovaj tako lako skinuo. Ja stvarno to ne mogu da nazovem, ne znam kojim nivoom excellence-a. Je l’? Što ne znači da nemam razumevanja za ekonomsku situaciju u kojoj se ljudi dovode. Razumeš, imam i mora da se razmišlja o tome. Ovi ugovori koji se, kako se sada potpisuju sa Sunom kao generatorom i Warnerom, oni će zaštititi neke, ali nažalost neće zaštititi sve. Ko će zaštititi male indie izdavače? Neće niko. I to je tačno neko lepo opisao. Kaže vi možete da ulazite u pravne procese, u suđenja sa njima, je l’? Ako imate para da uđete u suđenja sa njima. Znaš, je l’ proces može da te košta mnogo više od onoga što ćeš na kraju dobiti, što znači da su nečiji kreativni proizvodi stvarno ovako izloženi na vetru kako hoćeš i oni mogu da ih pokupe i kažu ovaj neće da se buni. Zašto? Spusti ruke. Nemaš ni snage da se buniš. Hajde ode. A veliki igrači će svoje, one koje stvarno hoće da zaštite, njih će zaštititi i reći njima daješ neki revenue i kraj priče. Znači dosta je, dosta je komplikovana situacija. Ono što mislim da je dobro je iz toga sam počeo to sa čime možda možemo i da nekako zaokružujemo diskusiju. Stigli smo konačno u te vode koje smo hteli u nekom planu kreativnosti i tome. Vidi, jeste da generativne, generativne tehnologije, generativni AI sada potiskuju neke, neke oblasti kreativne industrije. Ima stvari koje ne mogu da pipnu, to se razumemo, ali ali potiskuju negde. Vidi, uh, ako to bude impuls da Homo sapiens u priči ustane i kaže vidi is that the best you can do? I okrene se ponovo sa proizvodnje good enough ka proizvodnji nečega što je excellent, da l’ ćemo koristiti termin proizvodnja uopšte za to, ne znam, ali hajde, je l’ OK? To će biti dobro. Shvatimo to kao challenge i kažemo dobro mislim OK, hajde sad da pokažemo šta mi stvarno možemo. Šta je ta transformativna kreativnost za koju i dalje tvrdim sposobno je samo ovo stvorenje od krvi i mesa, taj taj čovek dok ova stvar tome ne može da priđe. Ako pokrene ljude ka tome, to će biti pozitivna posledica. Shvatiš? Ako sednemo i kažemo ovo je, kao što nažalost gomila ljudi to shvata, živi taj san. Jao, stižu ove AI. Znači sad ću moći stvarno da sedim i ne radim ništa, a da kaplje neka parica preko. Što je nažalost dobro poznata inercija čovečanstva. Ljudi, onda se i vi i vaša radna mesta ozbiljno spremate za suicid. Šta da vam kažem? Do vas je, morate da se pokrenete, da kažete daj da vidim, da uradim nešto da se ta situacija promeni. Znači vrši pritisak na ljude. To je meni jasno. Neke nažalost, mogu da razumem i nepravedno dovodi u ekonomski problematične stvari, je l’? Opet koje kažem mogu da se malo problematizuju, da se postavi pitanje, vidi, ako je toliko sklono lako, lako sklono automatizaciji, where’s the value in it? Znaš, mislim možda juče postojala, a danas je više nema. Razumeš? Pa to znači ja sam pre 20 godina napravio pogrešan karijerni izbor. Pa mislim nažalost da. Ali to još uvek ne znači da ti iz njega ne možeš da uradiš nešto što je.

Ivan Minić: Pa da, mislim te igre mislim. Vidi…Mislim, mi smo, mi smo svedoci, živimo u društvu u kome se ključna tranzicija desila pre 35 godina, koja se i dalje nije adaptirala na tu tranziciju. Znači mi i dalje pričamo priču o nekakvom, OK, možda ne toliko ekstremno, ali pričamo priču o nekom državnom poslu, pričamo priču o ideji da može da se radi manje, a živi bolje. I ja ne kažem, nije da to ne postoji i nije da, mislim, ako imaš sreće u životu, onda ništa nije bitno. To s jedne strane, da. Ali ne možeš da se kladiš da ćeš imati sreće.

Goran S. Milovanović: Ne možeš, o tome je poenta.

Ivan Minić: To je to.

Goran S. Milovanović: To je to što podelu karata niko ne zna. Ti treba da budeš spreman da sa svojom podelom karata uradiš najbolje što možeš. A koje su ti karte?

Ivan Minić: I treba da budeš spreman znaš ono, evo pre neki dan sam pričao pred pred jednim malo širim auditorijumom u kome su mahom mladi ljudi i samim tim što su došli da to slušaju verovatno su više motivisani od proseka da se iscimaju oko nečega. Ali suština je, mi ne bismo da se cimamo. Kad ćeš da se cimaš? Ako nećeš da se cimaš sa 20 godina, pa kad ćeš da se cimaš?

Goran S. Milovanović: Ne samo to, nego onda si stvarno ako ako hoćeš taj položaj i to što ti kažeš neću da se cimam. Pa ti si eksponiran svakom riziku konstantno. Ti si samo, to je to je onda samo u pitanju osoba koja je prihvatila ono, znači živim život, sedim ovde i računam, znaš šta je dobro, što je verovatnoća da meteorit padne baš na mene, nikakva. Razumeš? E sad slušaj da ti kažem, jeste nikakva. A na nekoga će da padne. E sad, to je ponovo, znaš, kakav ti je odnos prema riziku i prijatnim stvarima? A mi nismo kultura koja je zgodna za to. To da se razumemo. Znaš, to je stvar koja me do iznemoglosti, e neću više da kažem nervirala u, nervira u Srbiji, nego u prošlom vremenu nervirala. Ja sam pre jedno 10 godina stekao zen jednu poziciju moju lično, razumeš, sve je rekao dobro, hoćete tako, vi gurajte tako. Tako ja ću braću i sestre drugačije, mislim da je tako bolje. Koje se odnosi na to koliki je preduzetnički duh, koliko su ljudi spremni i za promenu karijere i za nagle preokrete i za rizike i za investiciju i za propadanje investicije i tako dalje. A ja mislim da su ako ovo nisu vremena koja nas uče da to tako treba, ja vam onda ne znam koja su, je l’? Stvarno ne znam koja su. Ako je ova transformacija koja se dešava i sav ovaj pritisak i sve promene sa ovim tehnologijama kojima ne samo AI, sve što se desilo ti ako uzmeš od pojave interneta do sada. Znaš, pa to je magnificant poglavlje čovečanstva da se razumemo, mislim bez zezanja, je l’? I ako te, ako to nekog nije, znaš, zamislilo i reklo, koliko bre imam opcija u ovom svetu da ja nešto trebam da probam nešto da uradim u njemu. Nego vodi ka tome da mi pre koliko, pre dve, tri godine ponovo imamo nalaz empirijska istraživanja, da l’ to, ja mislim da li je to radila Krovna organizacija mladih ili neko drugi, nije ni bitno ko. Shvataš da je tebi bre na anketi studenti Beogradskog univerziteta odgovore tamo sa 75%, šta je najbolja stvar, what to do? Ma jao, javno preduzeće ili državni posao, čoveče, mirna Bačka. E suočiš se sa tom činjenicom, onda sedneš i kažeš sebi, vidi šta mi radimo. Šta mi radimo? E. Što više čovek odbija da razmatra okolnosti, promene oko sebe, pa bez obzira da li ti pritisci bili na njega pozitivni ili negativni, i manje reflektuje o tome, to se više eksponira tome da neki od tih rizika počnu da utiču na njegovim životom više nego što on utiče na tim životom. Ako vam je drago, izvolite. Znaš, ja sam birao neki drugi put i to je valjda i razlog što sam treći put gost podkasta. I delom.

DEVSCIFY I PLANOVI ZA OBRAZOVANJE

Ivan Minić: Uh, za kraj. Uh, mislim da može da bude interesantno. Ti si jedan od ljudi koji su, odnosno ti si da kažemo pokretač toga, ali si okupio oko sebe tim ljudi u prethodnoj deceniji uh, gde ste kroz Data Kolektiv i neke stvari koje si tu radio, obrazovali celu jednu generaciju ljudi koji su se bavili podacima, mašinskim učenjem, danas AI-jem i tako dalje. Uh u periodu prethodnih nekoliko godina to je bilo na neki način u nekoj senci. Više si se bavio konkretnim projektima, manje si se bavio edukacijom. Specijalizovano za firme, konsultantski, naravno, ali hajde da kažemo nije bilo toliko redovno onih otvorenih treninga i slično. Uh da. Pričali smo o tome da ćeš sada da se vratiš u tu priču, ali na jedan malo drugačiji način. Šta je plan, šta je ideja?

Goran S. Milovanović: Pa vidi, mislim, gledaj, prva stvar, ovaj, uh, bila je u međuvremenu, između naša dva razgovora, ovog i prethodnog, bila je jedna velika moja inicijativa koja je privukla dosta interesovanja, to je bio projekat Devscify, koji se zvao, gde sam ja praktično otvorio sve do tadašnje kurseve i obuke, ovaj Data Kolektiva sam ih otvorio besplatno. Odmah da se razumemo, znači sve i do tada održani kursevi i obuke koje je Data Kolektiv već 10 godina će biti iduće godine formirao i pravio, to su uvek bilo u open source-u. Na stranu besplatni kursevi koje sam snimio sa Startitom, sa sa sa sa USAID-om na projektu, pokreni se za, smo radili zajedno, je l’? Ovaj, tako da uvek je to bilo dostupno, a ja sam naplaćivao moje prisustvo i moj rad. Onda sam prethodne godine pokušao da pokrenem taj Devscify sa jednom mojom mislim, starim mojim snom o tome da polaznici sami nikada ne treba da ne treba, ne da nikad ne moraju da plaćaju moje kurseve, nego da možemo da nađemo neki način finansiranja toga gde oni zapravo samo to koriste, uče nešto od mene, a to zapravo bude finansirano sa strane sa potpuno pomiren s time da ću ja na tome zarađivati mnogo manje kad bude dolazio novac sa strane nego tako nešto. Nisam uspeo to do kraja da izvučem, mislim s jedne strane zbog mojih angažmana, vreme je moralo da ide na drugu stranu, s druge strane moram da pričam o jednom mom malog i razočarenja u u zajednicu kojoj sam prethodnih 10-ak godina toliko dao, ne velikog, ali malog u sloju ljudi koji su mogli da doprinesu tako što bi oni besplatno predavali zajedno sa mnom takve programe makar u početku, koju čija je reakcija bila da nemaju nameru da se cime oko tako nečega što se rekao dobro. Nije OK od community-ja uzimate, a community-ju ne vraćate. To je, to je moj stav. Uh, trenutno, trenutno, uh, dat kolektiv ima konsultantske aktivnosti koje prosto uvek je imala, OK? To je jedna stvar. Trenutno, trenutno, trenutno treninge, profesionalne treninge imam nameru u narednom periodu da vrlo verovatno 90% ako ne i totalno preorijentišem ka ljudima koji nisu tech people. Koji nisu tech people. Uh, vidi. Pogotovo sada sa dostupnošću i agenskog kodiranja i prediktivnog kodiranja i kopilota i svega toga. I pogotovo sa i generativnim AI da ti sebi možeš za bilo koju tehnologiju ako imaš neko elementarno obrazovanje za programera, softverskog inženjera, data scientista ili tako nešto, ti možeš sebi čoveče u nekoliko paragrafa prompta da napraviš tutora koji će te sprovesti i objasniti kompletnu celu Python biblioteku koja ti treba da nešto radiš. Mislim ili napraviti sebi tutorijal da naučiš taj i taj matematički model koji se koristi u mašinskom učenju i to. Ja mislim da stem people sada postaju toliko toliko samoodrživi, razumeš? Nisam siguran da više ima potrebe da ja učestvujem na taj način u tome, je l’? Ono što me sada mnogo više interesuje, pritom se poklapa i sa interesovanjem koje sam dobio i sa nekim zahtevima koje sam dobio jeste da to preorijentišem ka non-tech people. Je l’? Ka ljudima koji recimo moraju ili treba da rešavaju neke analitičke probleme, čak i koji su okruženi ljudima koji su analisti, je l’ OK? Ali kojima treba razgovor i obuka o tome kako se pitanje postavlja, kojima treba objašnjenje toga kad tebi analitičar ako si dobar i radiš sa njim kaže tu i tu stvar, si ti siguran do kraja da razumeš šta to znači? Da li razumeš jezik u kome se to govori? Da li razumeš kako se ti problemi analiziraju? Da li ti razumeš da mapiranje insights, odnos koji postoji između insights koji ti je neko, da li da l’ ti ga je doneo Antropic Cloud ili ti ga je doneo živi analitičar na stranu, ali insight koji imaš i odluka koju donosiš nisu vezani jedan na jedan nego zapravo postoji izuzetno složen odnos između te stvari koji najčešće implicira da ćeš ovu stvar morati da pitaš pet puta na pet različitih načina da bi shvatio koju odluku donosiš i šta radiš. To je u skladu i sa mojim, ne neću se nego nazvati istraživanjem tržišta jer je spontano, nisam ja istraživao nikakvo tržište nego su ljudi dolazili kod mene i popričali, razgovarali, razumeš? I shvatio da postoje potrebe za tako nečim. Tako da mislim da ću se sada onako taj deo sa edukacijama i treninzima poprilično preorijentisati ka non-tech people. Bez obzira radili u tek okruženju ili ne. Ali ka nekome ko ne sprema se da postane machine learning inženjer, data scientist, analitičar konkretno, što su, imam i takvih treninga još uvek i potrebe za njima ima, ali to mi je bilo 90% orijentacija. Sad mislim da će se orijentisati više na ovu stranu. U krajnjoj liniji, pazi mislim, ako su stigle tehnologije koje mogu sada sa mnogo nižim entry level da automatizuju neke od tih stvari, je l’? Shvatiš, onda je potpuno jasno, ljudi, hajde onda da naše umne kapacitete više usmerimo ka ovim stvarima koje su kvalitativne prirode koje Bogu hvala još ne možemo da automatizujemo, pa da se bavimo time. Ponoviću, meni je žao zbog nezavršenosti tog Devscify programa. Tu je interesovanje bilo stotine ljudi su se prijavile na to. I ja sam tu krenuo da radim sa ljudima, ulagao moje vreme, pravio grupe koje su mogle da budu upravljive, pa 30 ljudi maksimalno, je l’ i to. Međutim, ja sam sve vreme tražio ili da nađem spoljne izvore, mislim ne samo finansiranje ne bi to rešilo, ali ja sam sa 10 prstiju ne bih mogao da iznosim te stvari. I onda sam imao sam onako i pozive i pričao sa kolegama, nije bitno, mislim je l’ o tome, ali nisam naišao na interesovanje ljudi da kažu OK, hajde da probamo da učinimo to stvarno besplatnim za sve i da idemo da radimo s time, pa sam u jednom trenutku morao da stanem. I taj program koji je bio potpuno besplatan za ono, otvoren za koga, za građane Srbije, ko god hoće javi se i dođi, s tim sam morao da stanem. I dalje mi je velika želja da nađem modalitet i da nađem novac, da tako nešto pokrenem i da kažem, evo ga, sve što radim, je l’ OK. Tebe kao krajnjeg korisnika ne košta ništa. Hoćeš da učiš, moje zadovoljstvo, nadam se i tvoje, dođi i radimo. Ako budem uspeo to nekako da znaš, da rešim tu, tu, tu kocku i da vidim kako to može da radi, to bi me, to bi me baš radovalo. Ali u prvom turnusu je moralo da stane i da sačeka bolja vremena.

Ivan Minić: Nažalost mislim da je u nekom drugom trenutku za naše lokalno tržište to pokrenuto, mislim da bi imalo veću šansu, ali mislim da je ovaj period prethodne i ove godine užasno težak i. To da ne počinjemo.

Goran S. Milovanović: To je ona priča gde imaš ljude koji bi možda, koji možda i razumeju, koji bi možda i podržali, ali se trenutno bave svojim problemima i ti problemi ih obuzimaju potpuno, a sad je potpuno devastiran.

Ivan Minić: Sad je loše. Sad, sad je, sad je jako loše. Sad, sad je poprilično situacija to što kažeš da svako prvo mora da reši svoj problem pa da vidi šta će dalje.

Goran S. Milovanović: Ali dobro, slušaj ljudi, doći će bolja vremena. Znaš. Znali smo mi i ranije i gore i lošije. Bilo je i većih problema pa ih nismo rešili.

Ivan Minić: Pa ih nismo rešili, tako je. Hvala ti puno na razgovoru.

Goran S. Milovanović: Uvek zadovoljstvo.

Ivan Minić: Nije bilo mnogo depresivno. Bilo onako mislim realno umereno do znatno. Hvala vam što ste nas slušali. Nadam se da vam je bilo interesantno. Ispratite sve što gospodin radi. Ispatite i informacije koje deli jer često se u njima nalaze neki vrlo zanimljivi uvidi koji koji možda mogu da vam znače. To je ono u životu možete da čitate šta vam je servirano, a možete i da se okružite ljudima koji filtriraju te informacije za vas pa vam daju nešto što je ipak malo interesantnije i ipak malo proverenije i ne morate baš da pročitate sve jer ćete od svega da poludite. To bi bilo to. Mi se vidimo ponovo naredne nedelje.