Umetna inteligenca (UI) hitro spreminja način dela, komuniciranja in odločanja ter podjetjem prinaša pomembne priložnosti za večjo produktivnost in avtomatizacijo. Hkrati pa njena vse večja razširjenost odpira novo vprašanje: kako ohraniti zaupanje v sisteme, podatke in digitalne vsebine.
Do nedavnega smo lahko predpostavljali, da so digitalni sistemi zanesljivi, vsebine pristne, organizacije pa imajo nadzor nad svojimi informacijskimi okolji. Razmah umetne inteligence te predpostavke postavlja pod vprašaj. Zaradi vse večje avtonomije AI-sistemov, hitrega razvoja generativne umetne inteligence ter porasta ponarejenih vsebin postaja vse težje presoditi, kaj je resnično in komu lahko zaupamo.
Notranji izziv: porast »shadow AI«
Podjetja pospešeno uvajajo rešitve umetne inteligence, pogosto pa zaposleni uporabljajo tudi neuradna AI-orodja brez vednosti ali odobritve organizacije. Ta pojav, znan kot shadow AI, je prisoten že v več kot 90 % organizacij.
Čeprav zaposleni takšna orodja večinoma uporabljajo z namenom hitrejšega dela, to zmanjšuje pregled nad uporabo podatkov, otežuje upravljanje tveganj ter odpira vprašanja odgovornosti, varnosti in skladnosti z zakonodajo.
Upad zaupanja potrošnikov
Poleg organizacij se z izzivom zaupanja srečujejo tudi uporabniki. Napredek tehnologije omogoča ustvarjanje izjemno prepričljivih lažnih slik, videoposnetkov in drugih digitalnih vsebin, ki jih ljudje vse težje ločijo od pristnih.
Raziskave kažejo, da le približno 40 % potrošnikov umetni inteligenci zaupa kot viru informacij, kar 70 % pa jih ne zaupa podjetjem, da bodo njihove podatke pri uporabi AI obdelovala odgovorno.
Trije ključni izzivi zaupanja v AI
Za vzpostavitev zaupanja morajo organizacije nasloviti tri ključna področja:
- Zaupanje v AI-agente, ki samostojno izvajajo naloge in sprejemajo odločitve, pri čemer morajo biti jasno določeni njihova identiteta, pooblastila in odgovornost.
- Zaupanje v AI-modele, ki zahtevajo zaščito pred zlorabami, manipulacijami, uhajanjem podatkov ter zagotavljanje njihove celovitosti skozi celoten življenjski cikel.
- Zaupanje v digitalne vsebine, kjer je treba uporabnikom omogočiti preverjanje izvora, pristnosti in morebitnih sprememb vsebine.
Kriptografsko preverljivo zaupanje
Podjetje DigiCert zato razvija pobudo AI Trust, katere cilj je uveljaviti preverljivo digitalno zaupanje tudi na področju umetne inteligence. Rešitev temelji na uporabi preverjenih kriptografskih tehnologij za:
- preverjanje identitete AI-agentov,
- zagotavljanje integritete AI-modelov,
- potrjevanje pristnosti digitalnih vsebin s standardom C2PA.
Takšen pristop omogoča sledljivost, večjo transparentnost in dokazljivo zanesljivost delovanja sistemov umetne inteligence.
Zaupanje kot konkurenčna prednost
Podjetja, ki bodo umetno inteligenco uvajala skupaj z učinkovitimi mehanizmi za zagotavljanje zaupanja, bodo lažje izkoristila njene poslovne prednosti ter hkrati zmanjšala varnostna, regulatorna in ugledna tveganja.
V prihodnosti tako ne bo več dovolj zgolj uvajati umetne inteligence – ključnega pomena bo, da bodo njeno delovanje, odločitve in ustvarjene vsebine preverljive, transparentne in vredne zaupanja.