Нимаи дуюми нимаи моҳи май, даҳҳо муҳандисони Microsoft ва менеҷерони онҳо дар интернет ва дар утоқи конфронс дар идораи марказии ширкат дар Редмонд, Вашингтон барои муҳокимаи лоиҳаи Glasswing ҷамъ омаданд.
Бузургҷуссаи технологӣ барои ислоҳи заъфҳои коди худ шитоб мекард, ки модели нави AI маъруф бо номи Mythos дар як клипи бесобиқа кашф кардааст. Бегемоти AI Anthropic, ки Mythos-ро таҳия кардааст, дастрасӣ ба созмонҳои интихобшударо додааст, ки нармафзорро аз ҷониби одамони оддӣ, ширкатҳо ва ҳукуматҳо дар саросари ҷаҳон истифода мебаранд. Ҳадаф дарёфт ва ислоҳи осебпазириҳо буд, ки ҳакерҳо ва ҳукуматҳои мухолиф ба монанди Чин бо истифода аз абзорҳои шабеҳ барои дарёфт ва истифода аз онҳо барои ҷосусӣ ва тахрибкорӣ оғоз кунанд.
Вақте ки гурӯҳ ҷойгир шуд, як муҳандис саволеро, ки дар вохӯрӣ ба миён омад, дод: Оё Мифос “ба ҳаяҷоне, ки Anthropic иддао мекард, зиндагӣ мекард?”
Тибқи сабти вохӯрие, ки ProPublica дидааст, менеҷер “Бале” ҷавоб дод.
Версияе, ки аз ҷониби Microsoft, Claude Mythos Preview истифода мешавад, хатогиҳоро зудтар ошкор мекард, ки бузургҷуссаи технологӣ онҳоро ислоҳ кунад ва муҳандисон, ба гуфтаи менеҷер, ҳоло барои рафъи холигии “девонагӣ” буданд.
Як слайд дар презентатсияи он рӯз нишон дод, ки танҳо дар моҳи апрел Mythos дар SharePoint, нармафзори муштараки васеъ истифодашавандаи Microsoft 90 хатогиҳои “муҳим” ва 141 “муҳим” -ро ошкор кардааст. Дар нимаи аввали мохи май аз ин хам зиёдтар ёфт.
“Лутфан, лутфан, лутфан, агар ташкилоти шумо ягон хатогиҳои моҳи апрел дошта бошад, онҳоро ба поён расонед” гуфт менеҷери муҳандисӣ Ҳанс Андерсен аз гурӯҳ. Онҳо тақрибан ду ҳафта доштанд, ки “то бисёр чизҳоро пайдо кунанд ва бо ин дастрасӣ ба қадри имкон хуб кор кунанд.”
31 май, шарҳ дод ӯ, “рӯзе ҳисобида мешавад, ки боқимондаи ҷаҳон ба он расидаанд.”
Муҳандисоне, ки дар занг зада буданд, ин изҳоротро дарк карданд ва яке аз онҳо вазъияти ногуворро ҷамъбаст кард: “Пас, шумо асосан мегӯед, ки агар он 1 июн бароварда шавад, пас 2 июн рақибон хатогиҳои моро хоҳанд дошт?”
Бале, як нафар ҷавоб дод. Бале, дигаре садо дод.
Аз он вақте ки Anthropic як сӯҳбати миллиро дар бораи қудрати шикори хатогиҳои AI дар моҳи апрел оғоз кард, вақте ки Лоиҳаи Glasswing ба таври оммавӣ нашр шуд, коршиносони амнияти миллӣ пешгӯӣ карданд, ки ИМА равзанаи имкони ислоҳи камбудиҳоро дорад, пеш аз он ки рақибон моделҳои шабеҳро дошта бошанд, ки қобилияти ошкор кардани заъфҳои якхела доранд. Дар охири моҳи июн, иттиҳоди байнулмилалии оҷонсиҳои истихборотӣ, ки бо номи “Панҷ чашм” маъруф аст, ки аъзои он ИМА, Австралия, Канада, Зеландияи Нав ва Британияи Кабир мебошанд, дар як изҳороти муштараки ғайриоддӣ ҳушдор дода буданд, ки пас аз чанд моҳ ин тиреза баста мешавад. Аммо сабти вохӯрии Microsoft, дар якҷоягӣ бо ҳуҷҷатҳои дохилии аз ҷониби ProPublica баррасӣшуда, аз он шаҳодат медиҳад, ки рӯзи ҳисобҳои киберӣ аллакай дар ин ҷост.
Бо дарназардошти тӯфони камбудиҳое, ки Mythos муайян кардааст, Microsoft то ба ҳол ба ислоҳ кардани он чизҳое, ки ба назари онҳо хатарноктаранд, ки мувофиқи презентатсия ва инчунин навсозиҳои ямоқи ҷамъиятии ширкат тасниф шудаанд, тамаркуз кардааст. Сабтҳои дохилӣ нишон медиҳанд, ки Microsoft нақша дорад, ки оқибат камбудиҳои “мӯътадил”-ро, ки Mythos ошкор кардааст, ҳал кунад. Ҳуҷҷатҳо дар бораи хатогиҳои “паст” зикр нашудаанд.
Муносибати ширкат системаи триажро, ки дар соҳа хос аст, инъикос мекунад. Ҳамон тавре ки беморони аз ҳама бемортарин аввалин шуда дар утоқи ёрии таъҷилӣ табобат мегиранд, триажи осебпазирӣ ба масъалаҳое афзалият медиҳад, ки эҳтимолан дар сурати истисмори ҳакерҳо зиёни бештар ба бор оваранд.
Аммо ин стратегия хатари худро дар ин давраи ҷустуҷӯи хатогиҳои AI, ки дар он асбобҳои нав миқдори рекордии заифҳоро дар маҳсулоте, ки мо ҳамарӯза истифода мебарем, кашф мекунанд, хатари худро дорад. Масалан, Mythos қодир аст як қатор хатогиҳоеро, ки бар якдигар бунёд мекунанд, занҷир зананд, яъне маънои осебпазирии дараҷаи паст ва миёна, ки тоза карда нашудаанд, метавонанд барои анҷом додани ҳамлаҳои харобиовар кушода шаванд.
“Мушкилот ҳоло дар он аст, ки шумо метавонед чаҳор камбудиҳои сатҳи пастро занҷир занед ва ин метавонад ба шиддати баланд баробар шавад” гуфт Вин Нгуен, мушовири калони техникии Anthropic ва корманди калони AI дар Шӯрои равобити хориҷӣ, ки қаблан ба ҳайси сармутахассиси AI ва сармуҳосиби маълумот дар Агентии Амнияти Миллӣ кор мекард. “Агар шумо Microsoft бошед, стратегияи кунунии триаж метавонад хатарҳои арзонтар дошта бошад.”
Дар посухҳои почтаи электронӣ ба саволҳои ProPublica, Microsoft аз равиши худ истода, гуфт, ки қарорҳои санҷиши он ба як қатор омилҳо, аз ҷумла истисмор ва таъсир ба муштариён асос ёфтааст. Муаррифии ширкат дар бораи занҷирбандӣ ёдовар нашудааст, аммо сухангӯи ProPublica гуфт, ки ин техника “кайҳо боз ҳамчун як қисми арзёбии осебпазирӣ ва таҳлили хатарҳо баррасӣ шудааст.”
Дар посух ба пурсиш дар бораи муаррифии дохилӣ ва мӯҳлати то 31 май, сухангӯ аҳамияти онро кам кард ва гуфт, ки “ҳадафҳои тезонидашуда ва истифодаи осебпазирии нав падидаи нав нест.” Гуфта мешавад, ки ӯ афзуд, шарҳҳое, ки дар ҷараёни вохӯрӣ гуфта шудаанд, инъикос мекунанд, ки чӣ гуна ширкат “дар айни замон ҳисси бетаъхириро барои кӯмак ба мизоҷони худ эҳсос мекунад.”
“Он чизе, ки дар ин занг шунида шуд ва имрӯз дуруст аст, ин аст, ки амният авлавияти муҳимтарини Microsoft аст ва гурӯҳҳо дар саросари ширкат ба истифодаи AI барои ҳарчи зудтар ошкор ва бартараф кардани осебпазирӣ афзалият медиҳанд.”
Майкрософт аз посух додан ба саволҳо дар бораи чанд муҳандисон пас аз муаррифии хатогиҳо худдорӣ кард.
Антропик аз шарҳ додан худдорӣ кард.
Муаррифии дохилии Microsoft ва слайдҳои ҳамроҳ пешгӯӣ карданд, ки гурӯҳи кормандоне, ки дар SharePoint кор мекунанд, ки аз ҷониби ҳукуматҳо ва корхонаҳо дар саросари ҷаҳон барои идоракунии маълумот ва ҳуҷҷатҳо истифода мешаванд, “моҳҳо банд хоҳанд буд” ва аввал бо хатогиҳои муҳимтарини афзалиятнок кор карда, сипас бо хатогиҳои муҳим дар моҳи август мубориза мебаранд. Microsoft мегӯяд, ки осебпазирӣ, ки онро муҳим арзёбӣ мекунад, ба истилоҳ кирмҳо дохил мешаванд, ки метавонанд системаҳоро вайрон кунанд ва нармафзори зарароварро дар шабакаҳои компютерӣ паҳн кунанд. Муҳимтаринҳо метавонанд ба “мушкилот ба махфият, якпорчагӣ ё дастрасии маълумоти корбар” ва инчунин “дастрасии захираҳои коркард” оварда расонанд. Тибқи презентатсия, пас аз тоза кардани ин категорияҳо, гурӯҳ ба тақрибан 300 хатогиҳои “мӯътадил” оғоз мекунад.
Гарчанде ки ҳуҷҷатҳои дохилии аз ҷониби ProPublica баррасӣшуда навсозиҳо дар тамоми доираи пешниҳодҳои Microsoft-ро дар бар намегиранд, онҳо миқёси мушкилотро ҳис мекунанд. Як ҳуҷҷат қайд кард, ки азбаски ширкат Mythos-ро дар аввали соли ҷорӣ оғоз кард, он якҷоя садҳо хатогиҳоро пайдо кард, ки Microsoft дар маҳсулоти маъмул ба монанди Microsoft 365, платформаи конфронси Teams ва асбоби Copilot AI ҳамчун муҳим ё муҳим гурӯҳбандӣ карданд. То нимаи моҳи май, аксарияти онҳо то ҳол таъмир карда нашуда буданд.
“Онҳо амиқ ва экзотикӣ нестанд, аммо онҳо воқеӣ ҳастанд” гуфт Андерсен, менеҷери муҳандисӣ ҳангоми вохӯрӣ. “Ва бисёре аз онҳо истифода мешаванд.”
Маълум нест, ки ҳакерҳо ягон иштибоҳи мушаххасеро, ки Mythos муайян кардааст, истифода кардаанд, аммо баъзеҳо барои автоматикунонии ҳамлаҳо аз AI истифода кардаанд ва ба назар мерасад, ки барои дарёфт ва истифода аз заъфҳо аз технологияи ба Mythos монанд истифода мекунанд.
Аломатҳои зоҳирии муборизаи дохилии Microsoft барои мубориза бо рӯйхати афзояндаи хатогиҳое, ки бояд ислоҳ карда шаванд, мавҷуданд. Ҳар моҳ, ширкат ба таври оммавӣ ислоҳи осебпазирии нармафзори худро дар он чизе ки бо номи “Пач Сешанбе” маъруф аст, нашр мекунад. Дар моҳи июн, он барои беш аз 200 хато часбҳоро нашр кард, ки баъдан коршиносони соҳа гуфтанд, ки ин ҳама вақт баланд буд. Аммо рӯзи 14 июл, ширкат ин сабтро аз байн бурд ва барои беш аз 600 хато часбҳоро нашр кард. Тибқи гуфтаҳои Дастин Чайлдс, раҳбари барномаи мукофотпулии хатогиҳо барои хатогиҳои Zero Day Initiative, ки як қисми ширкати амнияти киберназарии TrendAI мебошад, танҳо ҳафт нафар ба дараҷаи паст ё миёна гурӯҳбандӣ карда шуданд, ки яке аз онҳо ҳакерҳо фаъолона истифода мекарданд. Боқимондаҳо муҳим ё муҳим буданд.
“Хуб, мардум. Инак, мо ҳастем. Апокалипсиси хатогӣ комилан ба сари мо афтодааст”, – навиштааст Чайлдс рӯзи 14 июл дар як блоги худ.
Microsoft ба ProPublica гуфт, ки ҳаҷми умумии иштибоҳҳо “як каме паст нахоҳад шуд”, аммо як сухангӯ гуфт, ки ширкат “барои ҳарду одамон ва инчунин ҳалли триажи аз ҷониби AI истифодашаванда, ки барои мубориза бо шумораи афзояндаи осебпазирӣ зуд васеъ мешаванд, сармоягузорӣ кардааст.”
Бо дарназардошти воқеиятҳои нави асри AI, аз ҷумла қобилиятҳои занҷирбандӣ, ба ширкатҳо ба монанди Microsoft лозим аст, ки тамоми равиши худро ба триаж дубора баррасӣ кунанд, гуфт Нгуен, роҳбари собиқи NSA. Ба ҷои он ки камбудиҳои камхавфи камро бартараф созанд, ширкатҳо бояд кормандонро ба таҳия ва озмоиши часпакҳо барои тамоми спектри осебпазирӣ бахшанд, гуфт ӯ. Ба ибораи дигар, киберҷинояткорӣ ба табибон ва ҳамшираҳои шафқат ниёз дорад, ки бемориҳоеро, ки ба ҳаёт таҳдид мекунанд ва инчунин захмҳои хурде, ки баъдтар марговар шуда метавонанд, табобат мекунанд.
“Илоҷе нест” гуфт Нгуен. “Беморон зуд ва хашмгин меоянд.”
Microsoft ба ProPublica гуфт, ки он “ҳамеша аз нав арзёбӣ ва баррасӣ хоҳад кард, ки оё чизҳое, ки қаблан паст ё мӯътадил буданд, такмил дода мешаванд ё ба таври дигар фикр мекунанд. Бо ин системаҳои AI, он моро водор мекунад, ки баъзе аз ин чизҳоро аз нав дида бароем. Дар тамоми соҳа, ҳама мо меҷӯем, то бубинем, ки тағирот то чӣ андоза шадид хоҳад буд.”
“Апокалипсиси хатогӣ пурра ба сари мо афтодааст.”
Дастин Чайлдс, пешвои барномаи мукофоти хатогиҳои рӯзи Zero Day Initiative
Корбарони Microsoft метавонанд махсусан осебпазир бошанд. Маъруфияти пешниҳодҳои он, ки дар саросари ҷаҳон истифода мешавад, онро ҳадафи зуд-зуд ва даромаднок барои ҳакерҳо мегардонад. Илова бар ин, бисёре аз маҳсулоти он дорои рамзи “мерос” мебошанд. Даҳсолаҳо пеш бо истифода аз технологияи ҳоло кӯҳна таҳия шуда буд, ин код дорои камбудиҳои ҳалнашуда буда, ба он чизе, ки дар ин соҳа ҳамчун “қарзи техникӣ” маъруф аст, саҳм мегузорад.
Аммо мушкилоти ислоҳи сели хатогиҳои нав пайдошуда низ ба боқимондаи саноати нармафзор ва коди нармафзори кушодаасос, ки маъмулан барои истифода ройгон аст ва асосан аз ҷониби ихтиёриён нигоҳ дошта мешавад. Нармафзори кушодаасос инфрасохтори интернетро пуштибонӣ мекунад ва ба аксари технологияҳои муосири ҷаҳон, аз ҷумла маҳсулоте, ки ширкатҳои бузурги технологии монанди Microsoft пешниҳод мекунанд, дохил карда шудаанд.
Ҷ. Майкл Даниел, мушовири собиқи президент Барак Обама оид ба амнияти киберҷинояткорӣ ва президенти Альянси Cyberthreat Alliance, як созмони ғайритиҷоратӣ, ки ба амнияти киберҷинояткор тамаркуз мекунад, гуфт: “Ҳеҷ кас воқеан дарк накардааст, ки чӣ гуна бояд бо ин кор мубориза барад ва ҳама дар атрофи он коре мекунанд, ки бояд кунанд.” “Қарзи техникии мо фаро мерасад.”
Бен Эдвардс, олими маълумот, ки дар идоракунии осебпазирии нармафзор тахассус дорад, гуфт, ки саноати нармафзор “ҳаҷми шадидро ҳатто пеш аз AI” идора мекард.
“Ин мисли нӯшидан аз шланги боғӣ дар танзимоти реактивӣ буд, ва ҳоло он мисли нӯшидан аз шланги оташ аст” гуфт Эдвардс. “Онҳо шояд дастаҳое дошта бошанд, ки ин шланги боғро идора карда тавонанд. Оё онҳо метавонанд шланги сӯхторро идора кунанд, чизи дигар аст.”
Ҳарчанд ҳаҷми осебпазириҳо дар тӯли солҳо афзоиш ёфтааст, гурӯҳи дохилии Microsoft, ки барои ҷорӣ кардани онҳо масъул аст, Маркази вокуниш ба Амнияти Microsoft, ҳамеша бо кадрҳои кофӣ таъмин набуд. ProPublica гузориш додааст, ки ҳатто пеш аз шикастани хатогиҳои AI муайяншуда, марказ дар як моҳ садҳо ва ҳатто ҳазорҳо гузоришҳо нашр карда, гурӯҳро ба ҳадди худ тела медиҳад.
Кормандони собиқ гуфтанд, андозаи марказ фалсафаи корпоративии Microsoft-ро инъикос мекунад: Васл кардани сӯрохиҳои амниятӣ як маркази хароҷот аст, дар ҳоле ки истеҳсоли маҳсулоти нав як маркази фоида аст. ProPublica гузориш додааст, ки ширкат ба ҷои таҳияи маҳсулот ва хусусиятҳои нав, ки фоида ба даст меоранд, муҳандисони беҳтарини худро бо сохтани часпакҳои амниятӣ – маркази хароҷот пайваст кардан намехоҳад.
Microsoft ба ProPublica гуфт, ки он тасмимҳои дохилии кадрҳоро баррасӣ намекунад, аммо дар солҳои охир сармоягузорӣ кардааст, то “гурӯҳҳои моро ба бехатарии мизоҷони худ тамаркуз кунад.” Ширкат “пайваста ҳайати кормандон, равандҳо ва технологияҳоро барои дастгирии вокуниш ба амният ва идоракунии осебпазирӣ баҳогузорӣ мекунад” гуфт сухангӯ.
Тибқи слайдҳое, ки презентатсияи дохилии моҳи майро ҳамроҳӣ карданд, Anthropic ба Mythos дастрасии тақрибан 50 корманди пурраи Microsoftро фароҳам овард, ки ҳадафи он “хизматрасониҳои муҳимро пеш аз расидан ба моделҳои дастраси омма сахттар кардан”. Слайде бо номи “Оянда чӣ аст” пешгӯӣ мекард, ки Маркази вокуниш ба Амнияти Microsoft ҳаҷми идомаи парвандаро “чун абзорҳои ҷамъиятӣ ба Mythos мерасанд” мебинанд.
Дар ҷараёни вохӯрии моҳи май, як корманд тасаллӣ меёфт, ки рақибон “коди ибтидоӣ надоранд”, ки чунин асбоби AI заифҳоро ҷустуҷӯ мекунад. Вале хамкорон уро зуд ислох карданд. Қисмҳои коди Microsoft дар тӯли солҳо ба дасти ҳакерҳо афтодаанд.
“Ин метавонад рамзи сарчашмаи ин ҳафта набошад” гуфт як нафар. “Аммо онҳо рамзи сарчашма доранд. Он дар он ҷо ҳаст.”
Дар изҳорот ба ProPublica, Microsoft ин шарҳро нодида гирифт ва гуфт, ки муҳандисон “равандҳои амниятии моро бо интизори он тарҳрезӣ мекунанд, ки рақибони муайян метавонанд ба код дастрасӣ пайдо кунанд.”
