Povjerenje u agentične alate: Naučene lekcije iz GitLaba

Povjerenje u agentične alate: Što smo naučili od naših korisnika

Kako razvoj umjetne inteligencije postaje sve sofisticiraniji, pitanje povjerenja u agentične alate — alate koji mogu samostalno obavljati zadatke — postaje ključno. U GitLabu smo proveli niz istraživanja s korisnicima kako bismo bolje razumjeli njihove potrebe, brige i razmišljanja o korištenju takvih alata unutar DevSecOps procesa.

Korisnici žele da agentični alati budu korisni, ali ujedno i da imaju nadzor nad njihovim ponašanjem. Povjerenje se ne stvara automatski s moćnijim značajkama — ono se gradi kroz transparentnost, konzistentnost i mogućnost korisničke kontrole.

Tri ključna uvida iz istraživanja su:

• Povjerenje se gradi vremenom: Novi korisnici su skeptični, a povjerenje se razvija samo ako alat dosljedno donosi točne i korisne rezultate.
• Korisnici žele kontekst: Prikazivanje izvora podataka i logike koja stoji iza prijedloga alata povećava osjećaj kontrole i povjerenja.
• Potrebne su opcije za nadzor: Automatske akcije trebaju uvijek imati mogućnost pregleda, zaustavljanja ili poništavanja od strane korisnika.

Na temelju ovih uvida, u GitLabu nastavljamo poboljšavati naše AI i agentične značajke. S fokusom na sigurnost, prijeko potrebnu transparentnost i jasno prikazano ponašanje, želimo razviti alate koji korisnicima olakšavaju rad bez gubitka nadzora ili uvida.

Kao odabrani GitLab partner u Hrvatskoj, Sloveniji, Srbiji, Makedoniji, Crnoj Gori, Ujedinjenom Kraljevstvu i drugim tržištima, IDEA GitLab Solutions nudi sveobuhvatne konzultantske usluge, kao i podršku pri licenciranju i implementaciji GitLab rješenja.

• GitLab 18.6 je stigao: Fokus na AI, sigurnost i produktivnost
• Vodiči i resursi za Agentic AI u GitLabu
• GitLab 18.4: Novi AI-native razvoj s automatizacijom i uvidima
• Sigurni razvoj maloprodajnih aplikacija uz GitLab
• Zašto je neovisnost poduzeća ključni faktor u modernom DevSecOps pristupu