Varnost, podatki in uporaba AI

Vsaka postavitev za stranko je ločena od okolij drugih strank.

Kadar North Motion gosti agente, delovne obremenitve stranke tečejo v logično izoliranih okoljih z ločenimi:

• konfiguracijami aplikacij
• poverilnicami
• skrivnimi podatki
• shrambo
• nadzorom dostopa

Okolja strank ne smejo imeti neomejenega skupnega dostopa do podatkov, poverilnic ali internih sistemov.

Kjer je to potrebno, se agenti lahko postavijo tudi neposredno v infrastrukturo, ki jo nadzoruje stranka.

Podatki stranke ostanejo v lasti stranke.

North Motion ne uveljavlja lastninske pravice nad:

• poslovnih podatkov
• dokumentov
• izvorne kode
• evidenc strank
• oglaševalskih podatkov
• pogovorov
• poverilnic
• internih podatkov podjetja

Podatki stranke se obdelujejo le v obsegu, potrebnem za zagotavljanje, vzdrževanje, varovanje, odpravljanje težav in izvajanje dogovorjene storitve.

Agenti naj dostopajo le do podatkov, potrebnih za izvedbo dodeljenih nalog.

Prizadevamo si preprečiti nepotrebno:

• zbiranje podatkov
• podvajanje
• shranjevanje
• dodeljevanje pravic dostopa

Agent nikoli ne sme dobiti širšega dostopa zgolj zato, ker je ta na voljo.

Dostop sledi načelu najmanjših pravic.

Agenti prejmejo le dovoljenja, potrebna za njihovo vlogo.

Na primer, agent za trženje naj nima dostopa do repozitorijev izvorne kode, razen če je tak dostop izrecno potreben.

Kjer je to podprto, uporabljamo:

• ločene storitvene račune
• poverilnice API z omejenim obsegom
• dovoljenja delovnega prostora
• dostop na podlagi vlog
• omejene integracije

Administrativni dostop do infrastrukture agentov je omejen na pooblaščeno osebje.

Ključev API, žetonov za dostop, gesel, poverilnic OAuth, zasebnih ključev in drugih skrivnih podatkov ni dovoljeno shranjevati neposredno v pozivih, izvorni kodi, javnih repozitorijih ali splošni zgodovini pogovorov.

Skrivne podatke je treba shranjevati z ustreznimi sistemi za upravljanje skrivnih podatkov ali spremenljivk okolja.

Poverilnice naj vedno uporabljajo najmanjši obseg pravic, potreben za delovanje agenta.

Poverilnice je mogoče po potrebi zamenjati ali preklicati.

Agenti lahko uporabljajo zunanje ponudnike modelov AI, kot so:

• OpenAI
• Anthropic
• Google
• drugi odobreni ponudniki

Izbranemu ponudniku modela naj se posreduje le obseg podatkov, potreben za izvedbo posamezne zahteve.

Konkreten uporabljen ponudnik je lahko odvisen od:

• postavitve
• zahtev stranke
• zmogljivosti modela
• zahtev glede zasebnosti
• zahtev glede lokacije podatkov

Stranke lahko zahtevajo omejitve glede tega, kateri ponudniki modelov AI se smejo uporabljati.

North Motion zaupnih podatkov strank ne uporablja za učenje lastnega splošnega modela AI, razen če je izrecno dogovorjeno drugače.

Ponudniki modelov AI tretjih oseb lahko uporabljajo lastna pravila hrambe in obdelave podatkov, odvisno od:

• ponudnika
• vrste računa
• paketa API
• poslovne pogodbe
• nastavitev

Pri občutljivih poslovnih postavitvah je treba dati prednost poslovnim ureditvam ali uporabi vmesnikov API z ustreznim nadzorom podatkov.

Kadar agenti obdelujejo osebne podatke, mora imeti obdelava ustrezen namen in pravno podlago.

Postavitve agentov naj sledijo načelom, kot so:

• najmanjši potrebni obseg podatkov
• omejitev namena
• nadzor dostopa
• omejitev hrambe
• preglednost
• varnost

Glede na razmerje lahko stranka nastopa kot upravljavec, North Motion pa kot obdelovalec.

Kjer je to potrebno, naj bo to razmerje dokumentirano s pogodbo o obdelavi podatkov.

Postavitve agentov se lahko opirajo na zunanje ponudnike za:

• gostovanje
• podatkovne zbirke
• modele AI
• komunikacijska orodja
• spremljanje in opazovanje delovanja
• platforme za avtomatizacijo
• shrambo

Ti ponudniki lahko nastopajo kot podobdelovalci.

Kjer je to potrebno, se lahko postavitve zasnujejo okoli določenih regij gostovanja ali odobrenih ponudnikov.

Stranke s strogimi zahtevami glede lokacije podatkov, pogodbenimi ali regulativnimi zahtevami naj te razkrijejo pred postavitvijo.

Kjer to podpira izbrana infrastruktura:

Podatke med prenosom je treba zaščititi s šifrirano komunikacijo, kot je TLS.

Shranjeni podatki naj uporabljajo šifriranje, ki ga zagotavlja izbrana infrastruktura, kjer je to na voljo.

Občutljive poverilnice naj ostanejo ločene od običajnih aplikacijskih podatkov.

Dejanja agentov se lahko beležijo za namene:

• odpravljanja težav
• spremljanja delovanja
• varnosti
• odgovornosti
• pregleda delovnih procesov

Dnevniki lahko vključujejo:

• časovne žige izvajanja
• uporabljena orodja
• stanje delovnega procesa
• napake
• dogodke odobritve
• dejanja agenta

Občutljive podatke je treba, kjer je mogoče, izključiti iz dnevnikov ali jih zakriti.

Podatkov ni dovoljeno hraniti dlje, kot je potrebno.

Obdobja hrambe se lahko razlikujejo med:

• operativnimi podatkovnimi bazami
• spominom agenta
• dnevniki
• varnostnimi kopijami
• ponudniki AI
• povezanimi sistemi

Kjer je to potrebno, je mogoče določiti pravila hrambe, specifična za posamezno stranko.

Trajni spomin agenta je treba obravnavati ločeno od začasnega konteksta pogovora.

Agenti naj podatke hranijo le, kadar so koristni za dogovorjen delovni proces.

Občutljivih podatkov ni dovoljeno shranjevati v dolgoročnem spominu, razen če je to potrebno in odobreno.

Stranke lahko določijo, katere podatke sme agent hraniti.

AI-agenti niso nezmotljivi.

Lahko:

• napačno razumejo navodila
• ustvarijo napačne informacije
• izberejo napačno dejanje
• prejmejo napačne podatke iz povezanih sistemov

Za dejanja s posledicami naj postavitve vključujejo zaščitne ukrepe, kot so:

• koraki odobritve
• omejitve porabe
• omejitve vlog
• seznami dovoljenih dejanj
• omejitve okolja
• pravila eskalacije
• omejitve izvajanja

Dejanja z višjim tveganjem naj imajo strožji nadzor.

Agenti lahko delujejo z različnimi stopnjami samostojnosti.

Svetovalni način

Agent pripravi priporočila, vendar ne izvaja dejanj.

Potrebna odobritev

Agent pripravi delo in počaka na potrditev osebe.

Nadzorovano izvajanje

Agent lahko izvaja dejanja znotraj vnaprej določenih dovoljenj in omejitev.

Samostojno delovanje

Agent deluje neodvisno znotraj izrecno določenih meja.

Stopnja samostojnosti naj ustreza tveganju delovnega procesa.

Agenti lahko:

• pošiljajo e-pošto
• pošiljajo sporočila prek storitev Slack ali Teams
• objavljajo vsebine
• ustvarjajo oglase
• posodabljajo evidence strank
• ustvarjajo zahtevke za vključitev sprememb
• komunicirajo z zunanjimi uporabniki

Dovoljenja za zunanjo komunikacijo je treba izrecno določiti že med uvajanjem.

Kjer je primerno, se lahko agente omeji na osnutke ali interno komunikacijo, dokler odobritev ni podana.

Agenti z dostopom do oglaševalskih, trgovinskih, obračunskih ali finančnih sistemov naj delujejo znotraj vnaprej določenih omejitev.

Ti nadzorni ukrepi lahko vključujejo:

• proračune kampanj
• dnevne omejitve porabe
• omejitve računov
• pragove za odobritev
• omejene vrste dejanj

North Motion ne priporoča neomejene finančne samostojnosti brez dodatnih zaščitnih ukrepov.

Agenti z dostopom do repozitorijev ali infrastrukture naj uporabljajo omejene poverilnice in izolirana izvajalna okolja.

Kjer je mogoče:

• naj spremembe potekajo v ločenih vejah
• naj imajo prednost zahtevki za vključitev sprememb
• naj bo dostop do produkcijskega okolja omejen
• naj se testiranje ohrani
• naj se ohrani nadzor CI/CD

Za kodo, ustvarjeno z AI, se ne sme samodejno domnevati, da je varna ali pravilna.

Kjer je to tehnično smiselno, naj agenti izvajajo kodo, obdelujejo datoteke in izvajajo avtomatizacijo znotraj namenskih okolij namesto na delovnih postajah zaposlenih.

To pomaga zmanjšati nepotreben dostop do lokalnih naprav in internih sistemov.

Izolacija zmanjšuje tveganje, ne odpravlja pa potrebe po ustreznih dovoljenjih in nadzoru.

Agenti lahko obdelujejo nezaupanja vredne vnose, kot so:

• e-pošta
• spletne strani
• naložene datoteke
• dokumenti
• zahtevki za podporo
• vsebine, ki jih ustvarijo uporabniki

Zunanja vsebina lahko vsebuje zlonamerna navodila, namenjena manipulaciji AI-sistema.

Zunanjo vsebino je treba obravnavati kot podatke, ne samodejno kot zaupanja vredna navodila.

Občutljivi delovni procesi lahko zahtevajo:

• omejena orodja
• hierarhijo navodil
• dejanja z dovoljenih seznamov
• preverjanje
• človeško odobritev
• meje izvajanja

Stranke so odgovorne za določitev, do katerih sistemov in podatkov sme agent dostopati.

Stranke naj:

• zagotovijo zakonit dostop
• se izogibajo nepotrebnim dovoljenjem
• obvestijo North Motion o ogroženih poverilnicah
• določijo dejanja, ki zahtevajo odobritev
• razkrijejo ustrezne regulativne zahteve
• zagotovijo, da imajo pravico obdelovati podatke, posredovane agentu

Če se North Motion seznani z varnostnim incidentom, ki vpliva na sisteme ali podatke stranke pod našim nadzorom, bomo incident preiskali in sprejeli razumne ukrepe za njegovo zamejitev.

Kjer je primerno, lahko ukrepi vključujejo:

• preklic poverilnic
• zamenjavo ključev
• začasno onemogočenje integracij
• omejitev dostopa agenta
• preiskavo prizadetih sistemov

Prizadete stranke je treba obvestiti, kadar to zahtevajo veljavne pravne ali pogodbene obveznosti.

Infrastrukturo agentov, odvisnosti, integracije in nadzor dostopa je treba vzdrževati glede na tveganje.

Varnostni ukrepi lahko vključujejo:

• posodobitve programske opreme
• posodobitve odvisnosti
• zamenjavo poverilnic
• spremembe konfiguracije
• začasno onemogočenje integracij
• odpravljanje ranljivosti

Za noben sistem, povezan z internetom, ni mogoče zagotoviti popolne odpornosti proti ranljivostim ali napadom.

Kadar postavitve vključujejo trajne podatke stranke, se lahko dogovori o varnostnem kopiranju uredijo glede na dogovorjeno infrastrukturo in zahteve.

Konfiguracija varnostnega kopiranja se lahko razlikuje glede na postavitev.

Razen če je to izrecno urejeno s sporazumom o ravni storitve (SLA), neprekinjene razpoložljivosti ni mogoče šteti za zagotovljeno.

Vsebine, ustvarjene z AI, lahko vsebujejo napake, nepopolne podatke ali napačne predpostavke.

Agentov ni dovoljeno uporabljati kot edinega vira strokovnih:

• pravnih nasvetov
• zdravstvenih nasvetov
• finančnih nasvetov
• odločitev o skladnosti
• drugih reguliranih odločitev

razen če je bila postavitev za ta namen posebej zasnovana in odobrena.

Za nekatere postavitve lahko veljajo obveznosti iz Akta EU o umetni inteligenci.

Zahteve so odvisne od:

• vrste AI-sistema
• namena uporabe
• vloge organizacije
• morebitnega vpliva
• veljavne kategorije tveganja

AI-agenta ali avtomatizacije ni mogoče samodejno obravnavati kot visokotvegan sistem AI.

Razvrstitev je treba oceniti na podlagi dejanskega primera uporabe.

Pred postavitvijo agentov za področja, kot so našteta spodaj, je potreben dodaten pregled:

• zaposlovanje
• ocenjevanje zaposlenih
• kreditne odločitve
• zdravstvo
• biometrična obdelava
• kritična infrastruktura
• pravno odločanje
• dostop do bistvenih storitev
• odločitve z velikim vplivom na posameznike

North Motion lahko omeji ali zavrne postavitve, kjer ustreznih zaščitnih ukrepov ni mogoče razumno zagotoviti.

Agenti lahko obdelujejo zaupne poslovne podatke, kadar je to potrebno za njihovo nalogo.

Dostop naj bo omejen na ustrezne:

• sisteme
• osebje
• ponudnike
• delovne procese

Stranke naj že med uvajanjem opredelijo posebej občutljive podatke, da je mogoče uveljaviti dodaten nadzor.

Vsaka postavitev naj temelji na šestih temeljnih načelih:

Izolacija

Okolja strank ostajajo ločena.

Najmanjše pravice

Agenti prejmejo le dostop, ki ga potrebujejo.

Najmanjši potrebni obseg podatkov

Obdelujejo naj se le potrebni podatki.

Nadzorovana samostojnost

Dejanja z večjim vplivom imajo strožje zaščitne ukrepe.

Sledljivost

Ustrezna dejanja je mogoče beležiti in pregledovati.

Človeški nadzor

Ljudje ostajajo vključeni tam, kjer to zahteva presoja ali tveganje.