Криптоуравнение. Решаем нелинейную задачу валидации лицензий и обходим ловушки обфускатора

Мы уже рас­смат­ривали в пре­дыду­щих стать­ях стан­дар­тные крип­тоал­горит­мы или их модифи­кации, одна­ко быва­ют слу­чаи, ког­да и самопис­ный алго­ритм ста­новит­ся хорошей раз­минкой для моз­гов, даже если он реали­зован на зауряд­ном дот­нетов­ском бей­сике. В сво­ей статье «Зо­лотой клю­чик. Раз­бира­ем на при­мере прин­цип соз­дания кей­генов» я уже рас­ска­зывал, как раз­работ­чики защища­ют прог­раммы при помощи генера­ции лицен­зион­ных клю­чей, а так­же о том, как самому соз­давать подоб­ные генера­торы.

Мы изу­чали и сов­сем прос­той слу­чай, и вари­ант не осо­бо про­думан­ной мо­дифи­кации стан­дар­тно­го крип­тоал­горит­ма. Одна­ко недав­но я стол­кнул­ся с хит­рой реали­заци­ей про­вер­ки кода про­дук­та вооб­ще без исполь­зования стан­дар­тных алго­рит­мов.

Итак, усло­вие задачи: име­ется некая прог­рамма, и для ее акти­вации необ­ходим код, который зависит от име­ни поль­зовате­ля. При вво­де пра­виль­ного кода акти­вация прог­раммы перехо­дит на сле­дующий этап, если ввес­ти неп­равиль­ный — пре­рыва­ется.

Прог­рамма впол­не зауряд­ная, написа­на на VB.NET, не исполь­зует никаких серь­езных про­тек­торов, весь код на виду, хотя control flow слег­ка обфусци­рован, веро­ятно каким‑то прос­тым самопис­ным обфуска­тором:

По­это­му на пер­вых шагах все прос­то: прог­рамма лег­ко заг­ружа­ется в отладчик dnSpy и поз­воля­ет себя отла­живать, бла­года­ря чему мы быс­тро находим мес­то валида­ции product code по име­ни поль­зовате­ля.

Ко­неч­но, было бы прос­то замеча­тель­но, если бы на мес­те выделен­ного выраже­ния ока­залось равенс­тво типа f(Name)==ProductKey. Тог­да бы мы прос­то ревер­сирова­ли фун­кцию и получи­ли готовый алго­ритм пре­обра­зова­ния име­ни в ключ. Но не тут‑то было: если вни­матель­но всмот­реть­ся в код, то мы получа­ем хит­рое крип­тоурав­нение упро­щен­ного вида:

Как видишь, основная беда зак­люча­ется в том, что пер­вые пять групп ProductCode вхо­дят в обе час­ти урав­нения, а зна­чит, его при­дет­ся решать. Еще силь­нее нагоня­ет жути, что резуль­таты фун­кций спра­ва и сле­ва — это длин­нющие стро­ки из десятич­ных цифр, вдо­бавок раз­ные по дли­не. Код этих фун­кций под обфуска­цией выг­лядит страш­новато, осо­бен­но фун­кция Lenstr, в которой при бли­жай­шем рас­смот­рении каким‑то обра­зом учас­тву­ет еще и текущее вре­мя.