AI-Агенттердин козголоңу: Люкс индустриясынын эң жаңы кибер коркунучу

Жакында OpenAI тарабынан иштелип чыккан жана сыналган AI агенти Hugging Face AI компаниясынын веб-сайтын бузуп алган. Бул окуядан кийин, башка бир катар компаниялар да AI агенттеринин күтүлбөгөн жүрүм-туруму жөнүндө билдиришкен. Anthropic компаниясы да өзүнүн AI моделдери жеке сыноо учурунда үч уюмдун системаларына кирип кеткенин билдирген. Meta да өзүнүн AI модели интернетке туташып, башка уюмдун системаларын бузуп алгандыгын айткан.

AI ботторунан улам келип чыккан коопсуздук бузуулары, компаниялардын өздөрү түзгөн автономдуу агенттерди көзөмөлдөө мүмкүнчүлүгүнө байланыштуу тынчсызданууну күчөттү. Бул люкс компанияларынын күн тартибинде AIнын көтөрүлүшү менен дал келип, коопсуздукка болгон мамилени өзгөртүүдө. Bain & Co. компаниясынын сурамжылоосу боюнча, люкс компанияларынын 22% AIны ишке ашырууну үч артыкчылыктын катарына кошот.

Бул инвестициялар улана бергендиктен, эксперттер AIнын киберкоопсуздук тобокелдигин жогорулатуу мүмкүнчүлүгү реалдуу деп эсептешет.

“Көптөгөн AI системалары коопсуздукка караганда колдонуучунун тажрыйбасына көбүрөөк көңүл буруп иштеп жатышат,” дейт Cynthia Kaiser, Halcyon компаниясынын SVP жана мурдагы ФБРдин кибер боюнча орун басар директору. “Бул компаниянын көз карашынан алганда түшүнүктүү, бирок ошол эле учурда биз көп эшиктерди ачык калтырып жатабыз.”

Эксперттердин айтымында, AI моделинин эмнеге жете ала тургандыгына жана кайсы системаларды колдоно ала тургандыгына чектөөлөрдү коюу, ошондой эле башынан эле коопсуздукту куруу өтө маанилүү. Бренддер, ошондой эле, бир нерсе туура эмес болуп кетсе, кайсы тарап жоопкерчиликке тартылаары жөнүндөгү мыйзамдык жана жөнгө салуучу адабияттарга да көңүл буруулары керек.

Жаңы технология, жаңы тобокелдиктер

Aalto университетинин бизнес мектебинин улук окутуучусу Kari Koskinen, уюмдар, адатта, өздөрүнүн AI инфраструктурасынын коопсуздугун көбүрөөк көзөмөлдөп, эгерде модель козголоң чыгарып, өз системаларын бузуп баштаса, тез арада кийлигише алышат дейт. Тынымсыз жаңыртылып жаткан ыкмаларды колдонгон тышкы хакерлерден коргонуу, татаал маселе.

Мода бренддери буга чейин эле коопсуздук бузуулары менен күрөшүп келишет. Былтыр хакерлер Gucci, Balenciaga жана Alexander McQueen сыяктуу люкс бренддердин жеке маалыматтарын уурдап кетишкен. Андан кийин, Dior, Harrods жана Marks & Spencer да ошол жылы кол салууларга дуушар болушкан.

Kaiser, уюшкан кылмыштуу топтор, адатта, бүтүндөй кибер чабуулду автономдуу AI тутумуна өткөрүп беришпейт дейт. Анын ордуна, алар технологияны белгилүү бир учурларда колдонушат – бул ишенимдүүрөөк фишинг аракеттерин жана социалдык инженерия чабуулдарын түзүүдөн баштап, алсыздыктарды тезирээк табуу жана пайдалануу. “Алар AIны абдан так чекиттерде колдонушат,” дейт ал. AI алардын тезирээк иштөөсүнө да мүмкүндүк берет. Алсыздык белгилүү болгондон баштап, кылмышкерлер аны пайдаланганга чейинки убакыт кыйла кыскарган. Ransomware чабуулдары да бир саат ичинде болуп кетиши мүмкүн.

Бул жаңы киберкоопсуздук тобокелдиктери, изилдөөчүлөр AI коопсуздугун (safety) жана AI коопсуздугун (security) айырмалап жатканда пайда болду. Жалпылап айтканда, AI коопсуздугу (safety) система кадимки шарттарда коопсуз жана күтүлгөндөй жүрүм-турум жасайбы деген суроого жооп берет. Ал эми AI коопсуздугу (security) болсо, система кимдир бирөө тарабынан атайылап манипуляциялоого, иштөөсүн өзгөртүүгө же алар көрбөшү керек болгон маалыматтарга жетүү үчүн колдонулушуна туруштук бере алабы деген суроого жооп берет. Бренддер үчүн, бул ар бир система кайсы куралдарды колдоно аларын, кайсы аракеттерди жасоого уруксат берилгенин жана бузулган учурда бул уруксаттарды канчалык тез алып салууга боло тургандыгын чечүү дегенди билдирет.