Изилдөөчүлөр Microsoft Copilot'тон бир чыкылдатуу менен маалымат алып кетүүгө мүмкүндүк берген Reprompt чабуулун ачып көрсөттү

Изилдөөчүлөр жаңы эле сенсация жарыялады: алар Microsoft Copilot'тон бир чыкылдатуу менен маалымат алып кетүүгө мүмкүндүк берген 'Reprompt' чабуулун тапты. Бул кадимки ката эмес — бул негизинен Copilot'ту сырларды ачып берүүгө алдаган кыйыр промпт инъекциясынын сезимталдыгы.

Чабуул Copilot сырткы мазмунду кантип иштеткенин пайдаланды, жаман ниеттүү адамдарга коопсуздук контролдорун ашып өтүп, сезимтал маалыматтарды алып кетүүгө мүмкүндүк берген промпттарды киргизүүгө мүмкүндүк берди. Муну цифрлык фокус катары элестетиңиз — колдонуучулар бир нерсеге чыкылдашат, ал эми алардын маалыматтары сыртка чыгарылат.

Microsoft бул сезимталдыкты оңдоп бүттү, бирок маалыматты ачуу ИИ-негизделген куралдар менен байланышкан туруктуу коркунучтарды баса көрсөтөт. Бул системдер ишканалык иш процесстерине көбүрөөк интеграцияланган сайын, промпт инъекциясынын чабуулдары коопсуздук командалары тыкылап көрүүсү керек болгон маанилүү коркунуч вектору катары пайда болуп жатат.

Бул жөн гана теория эмес — оңдолбогон учурда, чыныгы дүйнөдөгү эксплойттар олуттуу маалыматтардын бузулушуна алып келиши мүмкүн эле. Бул сезимтал чөйрөлөрдө ИИ-жардамчыларды колдонгон бардык адамдар үчүн ойготкуч сигнал. Бдитель болуңуз, системдериңизди жаңыртыңыз жана Copilot чаттарыңыздагы кокустук шилтемелерге чыкылдаардан мурун эки жолу ойлонуп көрүңүз.