Bank of England njofton për përdorimin e AI në inxhinieri
Bank of England prezanton iniciativën Frontier AI për të përmirësuar ndarjen e informacionit në fushën e inxhinierisë përmes inteligjencës artificiale.
Fotografia: Bank of England
Bank of England ka publikuar një përmbledhje të diskutimeve nga Frontier AI Information Sharing Forum (FAISF) lidhur me përdorimin praktik të AI të avancuar në fushën e mbrojtjes kibernetike.
Sipas Bank of England, efektiviteti i AI në mbrojtjen kibernetike nuk varet vetëm nga qasja në modelin bazë, por edhe nga mënyra se si është ndërtuar dhe menaxhuar mjedisi rreth tij, i njohur si 'harness'.
Ky mjedis përfshin mjete, rrjedha pune, kontrolle, të dhëna dhe ambiente operacionale që përcaktojnë mënyrën e përdorimit të modelit AI dhe ndihmojnë në përkthimin e kapaciteteve të tij në rezultate të verifikueshme dhe të përdorshme nga ekipet e sigurisë dhe inxhinierisë.
Raporti thekson se përfitimet nga AI e avancuar varen shumë nga dizajni i këtij mjedisi mbështetës, duke përfshirë mënyrën e organizimit të mjeteve, rrjedhave të punës, kontrollit të aksesit dhe integrimit me platformat ekzistuese të sigurisë dhe inxhinierisë.
Dizajni i mjedisit rreth AI-së dhe përbërësit e tij
Bank of England shpjegon se 'harness' është një koleksion i mjeteve dhe proceseve që rrethojnë modelin AI dhe përcaktojnë mënyrën e përdorimit të tij në mbrojtjen kibernetike.
Ky mjedis ndihmon në përcaktimin e informacionit që i jepet modelit, detyrave që ai kryen, mënyrës së verifikimit të rezultateve dhe mënyrës së dërgimit të gjetjeve tek ekipet përkatëse.
Ekzistojnë qasje të ndryshme për ndërtimin e këtyre mjediseve, duke përfshirë mjete të zhvilluara brenda organizatës, platforma të ofruara nga shitësit, zgjidhje të menaxhuara nga palë të treta dhe komponentë me burim të hapur.
Çdo qasje ka avantazhet dhe kufizimet e veta, dhe shpesh përdorimi i një kombinimi të tyre mund të ofrojë fleksibilitet më të madh dhe integrim më të mirë me proceset ekzistuese të sigurisë.
Menaxhimi i informacionit dhe siguria në përdorimin e AI-së
Një sfidë kryesore është vendosja e kufizimeve për informacionin që modeli AI dhe mjedisi i tij mund të aksesojnë, për të ruajtur konfidencialitetin dhe sigurinë e të dhënave organizative.
Efektiviteti i modelit varet nga cilësia dhe relevanca e kontekstit organizativ që i jepet, si kodi burimor, informacioni për asetet dhe mjediset, arkitektura e sigurisë dhe të dhëna të tjera kontekstuale.
Megjithatë, është thelbësore të menaxhohet rreziku i ekspozimit të informacionit të ndjeshëm, duke përdorur qasje të diferencuara për klasifikimin, sigurimin e furnizuesve dhe kufizimin e aksesit në të dhëna të caktuara.
Përdorimi i mjediseve të izoluar, sandbox apo të ngjashme me ato prodhuese ndihmon në marrjen e përfitimeve të sigurisë pa rritur rrezikun operacional apo keqpërdorimin e mundshëm të AI-së.
Kontrollet dhe shkallëzimi i përdorimit të AI-së
Organizatat po eksplorojnë mënyra për të integruar kontrolle të ndryshme brenda mjedisit të AI-së dhe në ambientet ku operon, për të siguruar përdorim të sigurt dhe të kontrolluar.
Këto përfshijnë kufizime në përdorim, kontroll të aksesit të përdoruesve, izolim rrjeti, ndarje të ambienteve, monitorim, rrjedha miratimi dhe rregulla për ndërveprim me sistemet.
Një sfidë tjetër është aftësia për të verifikuar, prioritarizuar dhe adresuar gjetjet e AI-së në një shkallë që nuk mbingarkon ekipet e inxhinierisë dhe sigurisë.
Për këtë arsye, modelet operative që bashkojnë ekspertizën e ekipeve të ndryshme si red teaming, inxhinieri softuerike, arkitektura e sigurisë dhe njohuritë për AI janë të rëndësishme për suksesin e përdorimit të AI-së në mbrojtjen kibernetike.
Më shumë për këtë temë
Evropë
Horizontet e reja të aseteve digjitale: sfidat ligjore dhe tregtare
Evropë
Bank of England publikon minutat e Taskforcës për Harmonizimin e Raportimit të Transaksioneve dhe Pas-trade në Korrik 2026
Evropë