Изилдөөчүлөр Perplexity'нин Comet AI браузерин төрт мүнөттүн ичинде фишинг аферасына алдап жиберишет

Токто — AI браузерлер ойнолуп жатат. Изилдөөчүлөр Perplexity'нин Comet AI браузерин төрт мүнөттүн ичинде фишинг аферасына кантип алдап жиберерин көрсөтүштү. Ооба, сиз туура окудуңуз. Төрт мүнөт.

GAN менен окутулган фишинг барактарын колдонуп, алар AI'га түздөн-түз багытталган жаңы кол салуу аянтын ачып көрсөтүштү. Бул сиздин энеңиздин фишинг эмес — бул салттуу аныктоону ашып өткөн кийинки деңгээлдеги социалдык инженерия.

Метод? Промпт инъекциясы + машиналык окутуу. Алар AI үчүн легитимдүү көрүнгөн, бирок таза торчолор болгон барактарды түзүштү. AI жем тапкандан кийин, ал сезимтал маалыматтарды сыртка чыгара алат же жаман ниеттүү аракеттерди аткара алат.

Бул AI браузер коопсуздугу үчүн ойготкуч сигнал. Эгерде AI ушунчалык тез алданып калса, жаман аракетчилерди бул кол салууларды масштабдаштыруудан эмне токтотот? Изилдөө AI веб-контентти кантип чечмелеп жана аны менен өз ара аракеттенишиндеги критикалык алсыз жактарын баса белгилейт.

Негизги жыйынтык: AI эски мектеп трюктарынан иммундуу эмес — бул жөн гана жаңы вектор. AI браузерлер мейнстрим болгон сайын, аларды бул татаал кол салуулардан коргоо келишимсиз.