JK nuleidžia „saugumą“ iš savo AI korpuso, dabar vadinamo AI saugumo institutu, dažais
JK vyriausybė nori padaryti sunkų pasisukimą, kad padidintų savo ekonomiką ir pramonę su AI, ir, kaip dalis, tai yra institucija, kurią ji įkūrė šiek tiek daugiau nei prieš metus, siekdama labai kitokio tikslo. Šiandien Mokslo, pramonės ir technologijų departamentas paskelbė, kad AI saugos instituto pervadins į „AI saugumo institutą“. Atsižvelgiant į tai, jis pereis nuo visų pirma tyrinėjant tokias sritis kaip egzistencinė rizika ir šališkumas didelėse kalbų modeliuose, o sutelkia dėmesį į kibernetinį saugumą, ypač „apsaugos nuo rizikos stiprinimą nuo rizikos AI pozų nacionaliniam saugumui ir nusikalstamumui“.
Be to, vyriausybė taip pat paskelbė apie naują partnerystę su „Antropic“. Jokios įmonės paslaugos nepaskelbtos, tačiau SM nurodo, kad abu „tyrinės“ naudodamiesi „Anthropic“ AI padėjėju Claude viešosiose paslaugose; ir „Anthropic“ sieks prisidėti prie mokslinių tyrimų ir ekonominio modeliavimo darbo. AI saugumo institute pateiks įrankius, skirtus įvertinti AI galimybes nustatant saugumo riziką.
„PG gali pakeisti tai, kaip vyriausybės tarnauja savo piliečiams“,-pranešime teigė „Anthropic“ įkūrėjas ir generalinis direktorius Dario Amodei. „Mes tikimės ištirti, kaip„ Anthropic “AI padėjėjas Claude'as galėtų padėti JK vyriausybinėms agentūroms patobulinti viešąsias paslaugas, siekiant sužinoti naujų būdų, kaip padaryti gyvybiškai svarbią informaciją ir paslaugas efektyvesnę ir prieinamą JK gyventojams.“
„Anthropic“ yra vienintelė šiandien paskelbta įmonė – sutampa su AI veiklos savaitė Miunchene ir Paryžiuje, tačiau tai nėra vienintelė, kuri dirba su vyriausybe. Naujų įrankių, kurie buvo atidengti sausį, serija buvo varoma „Openai“. (Tuo metu Peteris Kyle'as, technologijos valstybės sekretorius, teigė, kad vyriausybė planuoja dirbti su įvairiomis pagrindinėmis AI įmonėmis, ir būtent tai įrodo antropinis susitarimas.)
Vyriausybės AI saugos instituto perjungimas, pradėtas šiek tiek daugiau nei prieš metus su daugybe gerbėjų-AI saugumui neturėtų būti per daug staigmena.
Kai naujai įdiegta darbo vyriausybė sausį paskelbė apie savo sunkų pokyčių planą, pastebėtina, kad žodžiai „sauga“, „žala“, „egzistencinė“ ir „grėsmė“ dokumente visai nepasirodė.
Tai nebuvo priežiūra. Vyriausybės planas yra pradėti investicijas į labiau modernizuotą ekonomiką, naudojant technologijas ir būtent AI. Ji nori glaudžiau bendradarbiauti su „Big Tech“, taip pat nori sukurti savo namines dideles technologijas. Pagrindiniai pranešimai, kuriuos ji skatino, turi plėtrą, AI ir daugiau plėtros. Valstybės tarnautojai turės savo AI asistentą, pavadintą „Humphrey“, ir jie bus skatinami dalytis duomenimis ir naudoti AI kitose srityse, kad pagreitintų tai, kaip jie veikia. Vartotojai gaus skaitmenines pinigines savo vyriausybės dokumentams ir pokalbių programoms.
Taigi ar AI saugos problemos buvo išspręstos? Ne visai, bet atrodo, kad žinia yra ta, kad jų negalima atsižvelgti į progreso sąskaita.
Vyriausybė teigė, kad nepaisant pavadinimo pakeitimo, daina išliks ta pati.
„Pokyčiai, kuriuos šiandien skelbiu, atspindi kitą loginį žingsnį, kaip mes kreipiamės į atsakingą AI plėtrą – padedant mums išlaisvinti AI ir auginti ekonomiką kaip savo pokyčių plano dalį“, – sakoma Kyle'o pranešime. „AI saugumo instituto darbas nepasikeis, tačiau šis atnaujintas dėmesys užtikrins, kad mūsų ir mūsų sąjungininkų piliečiai bus apsaugoti nuo tų, kurie stengsis naudoti AI prieš mūsų institucijas, demokratines vertybes ir gyvenimo būdą. “
„Instituto dėmesys nuo pat pradžių buvo skirtas saugumui ir mes sukūrėme mokslininkų komandą, kurioje pagrindinis dėmesys skiriamas rimtos rizikos vertinimui visuomenei“, – pridūrė Ianas Hogarthas, kuris išlieka instituto pirmininku. „Mūsų naujoji nusikalstamo piktnaudžiavimo komanda ir gilėjanti partnerystė su nacionalinio saugumo bendruomene žymi kitą etapą, kaip kovoti su ta rizika“.
Toliau atrodo, kad prioritetai neabejotinai pasikeitė dėl „AI saugos“ svarbos. Didžiausia rizika, kurią AI saugos institutas JAV svarsto dabar, yra tai, kad ji bus išardyta. JAV viceprezidentas JD Vance Telegraphed tiek pat, kiek anksčiau šią savaitę per savo kalbą Paryžiuje.
