Vlastiti hardver, pametni routeri i agenti u dvije minute: Što za Infobip znači “AI-first”

Ugovorima s liderima poput OpenAI-ja i Anthropica, vlastitim Nvidia hardverom te kompanijskom kulturom Infobip pokazuje da se vrhunska AI rješenja mogu graditi iz Hrvatske

Ulaskom u prestižni Agentic AI Foundation uz bok Googlea i OpenAI-ja, vodnjanski jednorog Infobip potvrdio je status jednog od ključnih igrača u razvoju budućih AI standarda. Kombinacijom vlastite infrastrukture, izravnog pristupa najnaprednijim modelima te razvojem internih sustava koji drastično smanjuju troškove, kompanija je stvorila okruženje u kojem čak 90% zaposlenika svakodnevno koristi i gradi AI alate.

Time je domaćim inženjerima omogućeno kreiranje produkcijskih rješenja globalnog dosega u samo dvije minute, dokazujući da za rad na samom vrhu tehnološke revolucije više nije potrebno odlaziti u Silicijsku dolinu. Ervin Jagatić, direktor za razvoj umjetne inteligencije u Infobipu, dao nam je priliku nakratko “zaviriti” u njihov način rada i implementacije AI-ja na svim razinama…

Nedavno ste se pridružili Agentic AI Foundationu kao jedina tvrtka iz regije, uz imena poput OpenAI-ja i Googlea. U kojim ćete radnim skupinama konkretno sudjelovati i što očekujete od toga?

Članstvo u Agentic AI Foundationu Infobipu omogućuje izravan doprinos razgovorima o tome kako bi se AI agenti trebali razvijati i primjenjivati u budućnosti. U inicijativi sudjeluje gotovo 150 organizacija, a rad je organiziran kroz sedam tehničkih skupina koje se bave različitim izazovima – od sigurnosti, identiteta i pouzdanosti agenata do njihova rada kroz dulje vremenske periode, primjene u digitalnoj trgovini i regulatornih pitanja.

Ervin Jagatić

Naši se inženjeri uključuju u rad tih skupina kroz razmjenu iskustava i sudjelovanje u razvoju tehničkih prijedloga. U nekim skupinama radi se na katalogiziranju postojećih specifikacija i pronalaženju najboljih kombinacija za cjelovita rješenja, dok će se u drugima razvijati nove specifikacije i prijedlozi. Posebno su nam važne teme sigurnosti, pouzdanosti i dugoročnog izvršavanja zadataka, koje su izravno povezane s razvojem vlastitih rješenja poput Infobipova AgentOS-a i MCP servera.

U rad skupina možemo prenijeti i iskustva iz razvoja AI proizvoda za lokalna tržišta, uključujući izazove povezane s podrškom i kvalitetom modela za različite jezike. Kod tema koje se odnose na regulativu možemo pridonijeti i perspektivom lokalnih i europskih zakonodavnih okvira.

Od članstva očekujemo da ćemo zajedno s vodećim tehnološkim kompanijama, open-source zajednicom i drugim sudionicima ekosustava pridonijeti smanjenju fragmentacije u razvoju AI agenata te oblikovanju zajedničkih, sigurnih i interoperabilnih temelja za njihovu primjenu. Istodobno, razmjena iskustava omogućit će našim inženjerima da sudjeluju u oblikovanju budućih standarda, a znanja stečena kroz taj rad dijelit ćemo s partnerima i tehnološkom zajednicom u regiji.

Što u praksi za vaše inženjere u Hrvatskoj znači mogućnost rada na frontier modelima čim izađu na tržište, slijedom ugovora s OpenAI-jem i Anthropicom?

U AI svijetu “brzina je valuta”. Izravni ugovori s liderima poput Anthropica i OpenAI-ja omogućuju nam da skratimo vremenski odmak između pojave novih modela i njihove primjene u stvarnim sustavima.

Naša je prednost u tome što naši inženjeri u Hrvatskoj i svijetu imaju pristup modelima i funkcionalnostima koji još nisu globalno dostupni. Tako mogu među prvima istraživati njihove mogućnosti, testirati ih u stvarnim, globalno skalabilnim sustavima te procijeniti njihovu vrijednost za korisnike. Umjesto da o novim mogućnostima uče tek iz dokumentacije ili primjera s drugih tržišta, naši timovi stječu neposredno iskustvo i razvijaju znanja koja pridonose njihovu profesionalnom rastu.

Za Infobip to znači mogućnost ranog prepoznavanja područja u kojima novi modeli donose stvarnu vrijednost, kao i pravodobne odluke o tome kada je bolje primijeniti drugi model ili razviti vlastito rješenje.

Za razliku od većine tvrtki koje se oslanjaju isključivo na cloud, Infobip koristi vlastiti Nvidia hardver. Zašto vam je ta razina kontrole nad infrastrukturom važna?

Infobip koristi vlastiti lokalni Nvidia hardver za pokretanje otvorenih modela, paralelno s API-jima vanjskih pružatelja, jer to timovima daje veću kontrolu nad performansama, latencijom, troškom i načinom implementacije. To je vrsta izravnog pristupa fizičkoj infrastrukturi koju si većina kompanija ne može priuštiti, a upravo ona pokazuje da se i iz Hrvatske može graditi ozbiljan tehnološki sloj za umjetnu inteligenciju, a ne samo koristiti tuđe alate. To nam je posebno važno jer možemo birati između različitih načina implementacije, ovisno o konkretnom scenariju. Za neke je slučajeve najbolji izbor vanjski API, dok je za druge važnije imati lokalno pokretanje otvorenog modela i veću kontrolu nad podacima, latencijom, troškom ili performansama. Takva kombinacija vlastite infrastrukture i vanjskih modela daje našim inženjerima prostor da arhitekturu prilagode problemu, umjesto da se svaki problem prilagođava jednom pružatelju usluge.

Razvili ste interni pametni usmjerivač (router) modela. Možete li nam objasniti što je to i koje su prednosti takvog pristupa?

Interni model router je sustav na razini kompanijskog pristupnog sloja za velike jezične modele koji za svaki zahtjev bira najprikladniji model. Pri tome uzima u obzir kvalitetu, cijenu i konkretan slučaj upotrebe. To znači da se svaki zahtjev ne šalje automatski najmoćnijem i najskupljem modelu, nego se odabire model koji za dani zadatak pruža najbolji omjer kvalitete i troška. U jednoj internoj evaluaciji takav je pristup doveo do zamjene modela koja je bila 12 puta jeftinija uz usporedivu kvalitetu. Takav sustav cijeloj organizaciji omogućuje jednostavnije i svakodnevno korištenje različitih AI modela, bez praktičnih ograničenja koja bi nastala kada bi se svi zahtjevi oslanjali na jedan model ili isti način implementacije.

Koliko je takva optimizacija važna za održivost AI projekata na razini cijele kompanije?

U Infobipu vjerujemo da pristup AI alatima za zaposlenike treba biti tretiran kao osnovna radna infrastruktura, a ne kao ograničeni resurs. Prije dvadesetak godina nitko nije postavljao pitanje koliko sati dnevno zaposlenik može koristiti računalo – danas postavljamo isto pitanje o umjetnoj inteligenciji, i odgovor mora biti jednako jednostavan: bez limita.

Konkurentska prednost u ovoj eri neće dolaziti od toga tko ima pristup najnaprednijim AI modelima, već od toga tko svojim ljudima omogućuje da taj pristup koriste slobodno, svakodnevno i bez birokratskog trenja. Zato ulažemo u infrastrukturu koja omogućava upravo to – kombinaciju globalnih partnerstava s vodećim AI kompanijama i vlastitih, suverenih kapaciteta – kako bismo tu slobodu učinili održivom, a ne samo deklarativnom.

Naš cilj nije da AI bude privilegija odabranih timova, nego alat koji je toliko integriran u svakodnevni rad da o njemu prestanemo razmišljati kao o posebnom resursu – baš kao što danas ne razmišljamo o pristupu Internetu ili računalu.

Kažete da vaši inženjeri mogu objaviti produkcijskog AI agenta u samo dvije minute. Kako ste postavili arhitekturu i sigurnosne mehanizme da bi se to obavilo bez stvaranja tehničkog duga?

Interna platforma omogućuje inženjerima da produkcijskog AI agenta izrade i objave u približno dvije minute koristeći postojeće komponente i standardizirani način rada. Brzina proizlazi iz toga što se za svaki novi slučaj ne mora iznova postavljati cijela infrastruktura, nego se mogu iskoristiti već dostupni alati, vještine, dodaci i druge komponente platforme. To ne znači da se zaobilaze potrebne provjere, nego da je velik dio ponavljajućeg posla već ugrađen u platformu. Dijeljeni MCP alati, više od 33 produkcijska poslužitelja alata, ponovno iskoristive vještine i dodaci te interni marketplaceovi omogućuju timovima da nadograđuju postojeći ekosustav umjesto da svaki put kreću od nule. Na taj način cilj nije samo brzo izraditi prototip, nego omogućiti ponovljivu i učinkovitu objavu AI rješenja u produkciji, uz korištenje zajedničke interne platforme i postojećih standarda.

Koliko, zapravo, u AI-first kompaniji, zaposlenici koriste AI?

Brojke najbolje opisuju tu stvarnost. U Infobipu više ne govorimo o sporadičnom korištenju, već o potpuno transformiranom načinu rada. Na razini cijele kompanije imamo 90 posto usvajanja Claudea, pri čemu imamo preko 1.600 mjesečno aktivnih graditelja koji na platformi aktivno stvaraju nova rješenja. Naša interna AI platforma drži stabilnost od 99,4% dostupnosti, što je u rangu najkritičnijih produkcijskih telekomunikacijskih sustava. Također, brojimo više od 625 zaposlenika koji su praktično sudjelovali u internim AI hackathonima koji su rezultirali s čak 155 rješenja. Ekosustav dodatno podupiru 73 MCP-a, više od 33 produkcijska poslužitelja alata, 79 ponovno iskoristivih vještina i dodataka te 17 aktivnih internih marketplaceova.

Kako ste postigli tako visoku razinu prihvaćanja među zaposlenicima?

Korištenje AI-ja definirali smo kao jedan od prioriteta za sve zaposlenike. Svatko je za ovu godinu dobio zadatak osposobiti se za rad s AI alatima te do kraja godine pokazati na koji je način njima povećao vlastitu produktivnost. Uz takvo jasno usmjerenje osigurali smo i snažnu podršku. Zaposlenicima smo omogućili pristup najnaprednijim alatima, interno razvili edukacije i osigurali vrijeme za njihovo pohađanje. Organizirali smo i desetke hackathona na kojima su se timovi bavili konkretnim scenarijima iz vlastitog rada.

Cijeli proces pratili su intenzivna interna komunikacija, snažna podrška menadžmenta i interni centar izvrsnosti – tim stručnjaka zadužen za to da različitim odjelima pomogne pronaći najkorisnije načine primjene AI-ja u svakodnevnom radu.

Važno je i to što korištenje AI-ja nismo promatrali samo kao individualnu vještinu, nego kao dio zajedničke graditeljske kulture. Zaposlenici, a posebno developeri, nisu samo korisnici gotovih alata – od njih očekujemo da grade vlastita rješenja i dijele ih s drugima. Važnu ulogu u tome imaju i AI Championsi. Danas ih imamo više od 115, raspoređenih u više od 20 odjela, pa se znanje i primjeri dobre prakse šire i izvan centralnog AI tima.

Što biste izdvojili kao glavnu poruku mladim inženjerima i tehničkoj zajednici u Hrvatskoj – kako graditi AI rješenja globalne razine bez odlaska iz zemlje?

Poruka je vrlo jasna: vrijeme geografskih ograničenja u vrhunskom inženjerstvu je iza nas. Više ne morate ići u Silicijsku dolinu da biste radili na najnovijim Nvidia arhitekturama ili imali izravan pristup modelima OpenAI-ja i Anthropica.

Infobipov primjer pokazuje da se iz Vodnjana, Zagreba ili bilo kojeg drugog ureda u Hrvatskoj može razvijati AI ekosustav s globalnim dosegom. Ključno je da mladi inženjeri ne ostanu samo korisnici tuđih API-ja, nego da razvijaju duboko razumijevanje arhitekture sustava, infrastrukture, optimizacije, sigurnosti i korisničkog iskustva.

Prilike i resursi za rad na tehnologijama globalne razine danas postoje i u Hrvatskoj. Na novim je generacijama da prihvate graditeljski mentalitet i usude se razvijati rješenja za cijeli svijet. U Infobipu uvijek tražimo inženjere i graditelje koji ne žele samo promatrati AI revoluciju sa strane, već sudjelovati u stvaranju proizvoda i sustava koji mogu imati globalni doseg i stvarnu vrijednost za korisnike.