Åtte grep for ansvarlig og trygg bruk av kunstig intelligens

Fra idé til produksjon

Stadig flere norske virksomheter ønsker å bruke kunstig intelligens (KI) for å effektivisere prosesser, ta bedre beslutninger og nå nye målgrupper. Med KI-agentenes fremvekst øker forventningene til innovasjon og verdiskaping – men mange initiativer stopper på idé- eller pilotstadiet.

– Uten produksjon, ingen gevinst, sier Wenche Karlstad. Hun understreker at utfordringene sjelden er tekniske, men handler om usikkerhet rundt teknologiens virkemåte, styring og risiko.

KI-governance er et lederansvar

Personvern, datakvalitet, skjevhet i modeller og risiko for feilbruk er vanlige bekymringer. Karlstad mener at ansvarlig KI-bruk må forankres i toppledelsen:

– Dette er ikke kun et ansvar for IT- eller juridisk avdeling. Det krever kompetanseheving også i styrerommet.

Sikkerhet krever innsikt – ikke frykt

Maja Legernæs ser at flere vurderer å flytte data tilbake til egne servere (on-prem) på grunn av geopolitisk usikkerhet og nye reguleringer.

– Når sikkerhet brukes som argument mot KI og sky, handler det ofte om utrygghet – ikke reell sikkerhet. Sky og KI kan faktisk styrke sikkerheten og åpne for innovasjon.

Hun advarer mot å fokusere ensidig på dataenes fysiske plassering, da det kan svekke fleksibilitet og kontroll.

Kompetanse er nøkkelen til sikker KI-bruk

EU-lovgivning og kommende reguleringer krever systematisk opplæring på alle nivåer.

– Du får ikke sikker KI-bruk uten både KI- og sikkerhetsopplæring, sier Legernæs.

Karlstad trekker frem to eksempler:

Et svindelforsøk mot DNB i Singapore, der KI ble brukt til å etterligne ledelsen i et videomøte, og offentlig saksbehandling med generativ KI, der hallusinerte kilder ble brukt som beslutningsgrunnlag.

– Teknologien er ikke alltid den største risikoen – det er ofte vi mennesker, sier hun.

Vivictas rammeverk for ansvarlig KI-ledelse

Vivicta har utviklet et rammeverk med tiltak for trygg KI-innovasjon:

1. Definer mål og innovasjonsområder

Forankre KI i forretningsstrategien og planlegg for produksjon og skalering.

2. Etisk forankring og opplæring

Sørg for at både ledere og ansatte forstår ansvarlig KI-bruk.

3. Oversikt over digitale eiendeler og KI-systemer

Kartlegg data, applikasjoner, systemer og ressurser.

4. Kjennskap til dataflyt og sensitivitet

Hvor er dataene? Hvem har tilgang?

6. Risikovurdering og tiltak

Identifiser trusler og iverksett relevante kontroller.

7. Kryptering, backup og gjenoppretting

Test at backup faktisk fungerer.

8. Leverandørstyring og jurisdiksjon

Vit hvem du samarbeider med og hvilket regelverk som gjelder.

Tillit og ansvar

– Vi må ikke skape frykt rundt KI, men tillit, sier Karlstad.

– Og den bygger vi med innsikt, struktur og kompetanse, legger Legernæs til.

Med riktig retning og opplæring kan KI bidra til innovasjon, bedre tjenester og smartere beslutninger – uten å gå på akkord med sikkerheten.

– KI kan faktisk styrke sikkerheten – hvis den brukes riktig, avslutter Legernæs.