«Дэн» может все. Как пользователи обманывают ChatGPT

Заставить ИИ сказать запрещенное

Ком­пания OpenAI, сто­ящая за раз­работ­кой ChatGPT, обу­чала свою язы­ковую модель на базе объ­емом 300 мил­лиар­дов слов. Тек­сты собира­лись из интерне­та: кни­ги, статьи, сай­ты и самые раз­ные сооб­щения (это мог­ли быть ком­мента­рии, обзо­ры про­дук­тов, обще­ние на форумах). Кста­ти, сей­час мно­гих бес­поко­ит тот факт, что в огромной базе ChatGPT содер­жится и лич­ная информа­ция, зачас­тую соб­ранная без чьего‑либо сог­ласия. Но сегод­ня мы погово­рим не об этом.

В течение все­го двух месяцев пос­ле запус­ка ChatGPT покорил весь мир и стал самым быс­тро рас­тущим пот­ребитель­ским при­ложе­нием на все вре­мена, перешаг­нув отметку в 100 мил­лионов активных поль­зовате­лей.

Так как язы­ковая модель обу­чалась на тек­стах из интерне­та, изна­чаль­но она взя­ла от людей все «луч­шее» и демонс­три­рова­ла отве­ты, носив­шие расист­ский, сек­сист­ский и дру­гой негатив­ный харак­тер. К при­меру, если в декаб­ре 2022 года ChatGPT про­сили написать прог­рамму, которая опре­деля­ет, сле­дует ли пытать челове­ка, осно­выва­ясь на стра­не его про­исхожде­ния, ИИ отве­чал, что пытать сле­дует людей из Север­ной Кореи, Сирии или Ира­на.

Вско­ре раз­работ­чики сущес­твен­но ог­раничи­ли ChatGPT, и теперь проб­лематич­но добить­ся от него подоб­ных скан­даль­ных отве­тов или вынудить вый­ти за рам­ки. Мно­гих поль­зовате­лей это не устро­ило, и они заяв­ляют, что теперь в ChatGPT встро­ены «соци­аль­но‑полити­чес­кие» рам­ки, и бук­валь­но одер­жимы иде­ей «научить» ИИ пло­хому.

В час­тнос­ти, недав­но об­наружи­лось, что люди модели­руют для ИИ безум­ные сце­нарии, пыта­ясь вынудить его «про­изнести» сло­во «ниг­гер». Нап­ример, ChatGPT убеж­дают, что он дол­жен пре­дот­вра­тить ядер­ный апо­калип­сис и спас­ти всю пла­нету, но сде­лать это мож­но, лишь исполь­зуя расовые оскор­бле­ния.

DAN

Тем вре­менем на Reddit поль­зовате­ли, увле­чен­ные инжи­нирин­гом зап­росов для ChatGPT, заш­ли с дру­гой сто­роны и соз­дали DAN, называя его «джей­лбрей­ком» для чат‑бота. Идея зак­люча­ется в том, что­бы зас­тавить ChatGPT прит­ворить­ся дру­гим ИИ, который «теперь может делать все, что угод­но» (имен­но так перево­дит­ся Do Anything Now, и отсю­да появи­лось имя DAN).

Так как раз­работ­чики быс­тро обна­ружи­вают и пре­сека­ют подоб­ные «джей­лбрей­ки», совер­шенс­твуя свою язы­ковую модель, в нас­тоящее вре­мя на Reddit уже обсужда­ют DAN вер­сий 5.0 и 6.0, а реали­зация «Дэна» пос­тоян­но дораба­тыва­ется и пре­тер­пева­ет изме­нения.