Модель коопсуздугу — туура эмес караш. Чыныгы коркунуч — иш жүрүшүнүн коопсуздугу

Модель коопсуздугун унут — чыныгы коркунуч иш жүрүшүнүн коопсуздугунда. ИИ коопсуздугунун коркунучтары модельдерден иш жүрүштөрүнө өтүүдө, анткени зыяндуу кеңейтмелер 900 000 колдонуучунун чат маалыматтарын уурдап, промпт инъекциялары ИИди уруксатсыз аракеттерди аткаруу үчүн колдонду.

Макалада ИИ моделдерин гана коргоого басым жасоо чоң сүрөттү көрбөй калганын айтат. Чыныгы алсыз жактары иш жүрүштөрүндө — ИИ системдерин курчап турган процесстерде, интеграцияларда жана куралдарда.

Жаңы окуялар бул өзгөрүштү баса белгилейт: зыяндуу браузер кеңейтмелери дээрлик миллион колдонуучунун чат маалыматтарын бузду, жана промпт инъекциясы кол салуулары ИИди күтүлбөгөн милдеттерди аткаруу үчүн манипуляциялады.

Негизги жыйынтык: бул эми ИИдин мээсин гана коргоо эмес — ал иштеген бүт нерв системасын коргоо.