Autors: Abdel El Amrani, Produktu līnijas vadītājs, Genetec, Inc.
Aizvien pieaug interese par mākslīgā intelekta (MI) ieviešanu fiziskās drošības jomā, jo komandas vēlas ieviest tehnoloģiskos risinājumus, lai nodrošinātu ātrāku un gudrāku darbību. Tajā pašā laikā ir mainījusies diskusija par MI. Tagad uzmanības centrā ir ne tikai efektivitātes palielināšana, bet arī bažas par atbildību un uzticēšanos.
Saskaņā ar Genetec ziņojumu "Fiziskās drošības stāvoklis 2026", MI tika ierindots starp galvenajām prioritātēm līdzās piekļuves kontrolei un videonovērošanai. Tomēr aptuveni 40% no vairāk nekā 7 000 aptaujātajiem fiziskās drošības vadītājiem pauda bažas par to, kā MI sistēmas izmanto viņu datus. Tūlīt aiz šīm bažām sekoja arī raizes par iespējamu ļaunprātīgu izmantošanu - 36 %.
Iespējams, šo pretrunu varat pamanīt arī savā organizācijā. Pastāv cerības, ka MI var palīdzēt darbības nodrošināšanā, taču vienlaikus tiek saprasts, ka MI rada riskus. Lai panāktu līdzsvaru starp šiem diviem aspektiem, ir nepieciešama rūpīga ieviešana un atbilstošas politikas.
Augstākas likmes prasa augstākus standartus
Mākslīgais intelekts spēj ātri pamanīt atšķirību un paziņot par notikumu drošības komandai
Lielākā daļa MI lietojumprogrammu fiziskās drošības jomā ir saistītas ar automatizāciju. Pamata piemēri ietver notikumu izraisīšanu, trauksmes signālu filtrēšanu un klasificēšanu, kā arī ātrāku meklēšanu video un notikumu datos. Šīs lietojumprogrammas risina pastāvīgās drošības problēmas, kas saistītas ar pārāk lielu trokšņu daudzumu un pārāk mazu kontekstu. Mākslīgais intelekts uzņemas daļu darba, samazinot viltus trauksmes (kas veido pārslodzi operatoriem), un pievienojot kontekstu atlikušajiem notikumiem.
Piemēram, kāds, kas loiterē pie ieejas, var nebūt ievērojams notikums. Savukārt kāds, kas loiterē un mēģina pagriezt durvju rokturus, ir prioritārs notikums. MI spēj ātri pamanīt atšķirību un paziņot par notikumu drošības komandai. Pēc tam operators var apstiprināt problēmu un noteikt turpmākos soļus. MI palīdz operatoram koncentrēties uz būtisko, nevis aizstāj viņa spriedumu.
Augstāks uzraudzības standarts
Lai gan šie pielietojumi uzlabo operatoru efektivitāti, tie ir jāievieš atbildīgi. Neatbildīga mākslīgā intelekta izmantošana fiziskajā drošībā ir kas vairāk nekā vienkārši neērtības. Tas rezultāti ietekmē drošību un aizsardzību, tāpēc mākslīgā intelekta lietojumprogrammas fiziskās drošības jomā prasa augstākus uzraudzības standartus.
Šo uzraudzību bieži dēvē par „cilvēka iesaistīšanos procesā”, taču, iespējams, piemērotāks apzīmējums būtu „eksperta iesaistīšanās procesā”. Personai, kas pārbauda rezultātu, ir nepieciešamas zināšanas, lai to apšaubītu, izvērtētu kontekstā un, ja nepieciešams, atceltu.
Kā ieviest atbildīgu mākslīgo intelektu
Atbildīga MI ieviešana sākas ar to, ka ir jānosaka, kādās jomās MI var radīt pievienoto vērtību tieši jūsu organizācijai.
Mākslīgais intelekts vislabāk darbojas kā rīks ar konkrētu uzdevumu - Kāda ir problēma? Kas jāatrisina? Kādi izaicinājumi kavē komandas darbu? Sāciet ar problēmu identificēšanu, pēc tam virzieties atpakaļ uz risinājumu. Pretējā gadījumā jūs varat ieviest tehnoloģiju, kas pilnībā neatbilst jūsu vajadzībām.
Tālāk ir jādefinē parametrus attiecībā uz AI izmantošanu jūsu komandā. Precīzi dokumentējiet, ko MI drīkst un ko nedrīkst darīt jūsu darbības ietvaros. Informācijā jāiekļauj, kurus lietošanas gadījumus esat apstiprinājuši, kādiem datiem sistēma var piekļūt un kā tiek eskalētas problēmas. Nosakot šos elementus, jūsu komandai būs skaidras vadlīnijas par to, kad MI rīki ir daļa no jūsu drošības procedūrām un kādiem mērķiem tie tiek izmantoti.
Starpnozaru ikmēneša sanāksmes
Tā kā MI var rīkoties neparedzami, ir lietderīgi sagatavoties gadījumam, ja kaut kas tomēr noiet greizi. Pat labi izstrādāts modelis galu galā novirzīsies no saviem sliekšņiem. Tieši šeit savu lomu spēlē pārvaldība. Pārvaldība ir tas, kas nodrošina atbildīgas MI ilgtspēju laika gaitā. Tā nosaka pārskatīšanas ciklus, kas ļauj atklāt problēmu, pirms tā izraisa incidentu.
Ar MI saistītā pārvaldība ietver datu privātumu, atbildību un regulējumu. Svarīgs ir juridiskās, atbilstības nodrošināšanas, kiberdrošības un IT komandu ieguldījums. Šo grupu apvienošana sākas ar kaut ko tik vienkāršu kā starpnozaru ikmēneša sanāksmes, lai pārskatītu lietošanas gadījumus un jaunus izaicinājumus. Apsveriet arī sadarbību ar citiem ražotājiem, integrētājiem un gala lietotājiem visā jūsu ekosistēmā. Tādējādi jūs izveidosiet kopīgus standartus, kas ļauj diagnosticēt problēmas.
Atbildīga mākslīgā intelekta izmantošana kā prakse, nevis kā projekts
Atbildīga MI izmantošana drošības jomā nav vienkārši uzdevums ai projekts, kuru atzīmē ar "Pabeigts". Tā ir nepārtraukta prakse, jo īpaši tagad, kad atbilstības prasības kļūst arvien stingrākas. Un tā kā atklājas arvien vairāk ar MI saistītu drošības risku, valdības izstrādā tiesību aktus, lai regulētu to, kā organizācijas var attīstīt un ieviest MI tehnoloģijas.
Mērķis ir aizsargāt indivīdu tiesības un veidot uzticību, netraucējot tehnoloģisko attīstību.
Noteiktā riska kategorija
Piemēram, Eiropas Savienības (ES) 2024. gada MI likums nosaka pienākumus dažādām MI lietojumprogrammām atbilstoši to identificētajai riska kategorijai. Šīs prasības ietver atbilstošu riska novērtējumu un riska mazināšanas pasākumu izstrādi, augstas kvalitātes apmācības datu kopu izmantošanu, lai samazinātu neobjektivitāti, kā arī detalizētas dokumentācijas par modeļiem nodošanu pārvaldes iestādēm pēc nepieciešamības. Piemēram, ASV vairāki štati jau ir ieviesuši tiesību aktus par MI izmantošanu, un tiek apspriesti arī valsts līmeņa tiesību akti.
Organizācijas var sākt ar dokumentētu procesu ieviešanu attiecībā uz vadlīnijām un pārvaldību:
- veikt riska novērtējumus: izvērtēt, kā konkrēta procesa automatizācija var ietekmēt kritiskās sistēmas vai drošības protokolus;
- identificēt nekritiskas lietojumprogrammas: sākt ar MI ieviešanu procesos, kas nav būtiski jūsu vissvarīgākajām darbībām, lai novērstu būtiskus uzņēmējdarbības traucējumus;
- prioritizēt uz cilvēku orientētu dizainu: nodrošināt, ka MI lietojumprogrammas vienmēr sniedz cilvēkiem informāciju, kas nepieciešama, lai pieņemtu labākos lēmumus;
- projektējiet, ņemot vērā izskaidrojamību: nodrošiniet, lai MI lēmumus varētu izskaidrot un izsekot, lai iesaistītais eksperts vajadzības gadījumā varētu tos apšaubīt, pārbaudīt vai atcelt;
- paplašiniet datu aizsardzības stratēģijas: piemērojiet kiberdrošības pasākumus un labāko praksi MI risinājumiem, tostarp regulāras revīzijas un sistēmas atjauninājumus;
- izvēlieties uzticamus piegādātājus: sadarbojieties ar piegādātājiem, kuri ievēro atbildīgas MI principus, ņemot vērā aizspriedumus, datu aizsardzību un kiberdrošību.
Fiziskās drošības galvenais pīlārs
Nozare pamazām vienojas par kopīgiem standartiem mākslīgā intelekta pārvaldībā. Tās ir labas ziņas tiem, kas šo tehnoloģiju ievieš jau agrīnā stadijā un vēlas veidot nozari, nevis tikai reaģēt uz tās izmaiņām. MI potenciālās pielietojuma iespējas drošības jomā ir aizraujošas, taču, attīstoties šai tehnoloģijai, pieaug arī riski.
Stingra pārvaldība veido uzticību, kas ir fiziskās drošības galvenais pīlārs. Atbildīga MI izmantošana šo uzticību aizsargā un palīdz to vēl vairāk stiprināt. Sāciet ar mērķu definēšanu, drošības pasākumu ieviešanu un atbildības struktūru izveidi, lai atbalstītu atbildīgu MI tehnoloģiju izmantošanu savā organizācijā.