Содержание статьи
Это исследование получило первое место на Pentest Award 2026 в категории «AI». Соревнование ежегодно проводится компанией Awillix.
В обоих случаях модель угроз предполагала внешнего нарушителя с доступом к агенту в режиме черного ящика. Одну из пострадавших компаний я буду условно называть «Красной», вторую — «Зеленой», чтобы не раскрывать настоящие названия.
Агент «Красной компании»
Однажды вечером я увидел в почте сообщение о том, что в «Красной компании» выпустили агента для исследований. Меня это сразу очень заинтересовало, ведь у языковых моделей есть некоторые сложности с численными вычислениями. Даже Fable 5.1 иногда ошибается при перемножении пятизначных чисел, хотя объяснения того, как модели справляются с вычислениями в отдельных случаях, очень красивы. Но ведь для исследований агентам необходимо уметь считать точно, а не приблизительно. Посмотрим, как это устроено внутри.
Если задать агенту простой вопрос, он начнет проводить «исследование» — искать и обобщать информацию, а затем даст ответ.
Но если мы попросим его посчитать что‑нибудь посложнее, то увидим, что вместо калькулятора наша модель использует… Python! На самом деле это не очень удивительно: вполне разумный выбор, ведь придется вычислять значения разных функций, а может, еще и рисовать графики.
Продолжение доступно только участникам
Материалы из последних выпусков становятся доступны по отдельности только через два месяца после публикации. Чтобы продолжить чтение, необходимо стать участником сообщества «Xakep.ru».
Присоединяйся к сообществу «Xakep.ru»!
Членство в сообществе в течение указанного срока откроет тебе доступ ко ВСЕМ материалам «Хакера», позволит скачивать выпуски в PDF, отключит рекламу на сайте и увеличит личную накопительную скидку! Подробнее
