ЧертGPT. Колонка главреда

Тре­воги мож­но поделить на два типа. Пер­вый свя­зан с тем, что уче­ные вот‑вот изоб­ретут AGI, или «силь­ный ИИ», то есть рав­ный челове­ку, а зна­чит, и потен­циаль­но спо­соб­ный прев­зой­ти его в умс­твен­ных задачах. Пос­ледс­твия это­го неп­ред­ска­зуемы. Вто­рой тип вол­нений более насущ­ный, он свя­зан с тем, что ИИ уже сей­час может научить людей пло­хому. Нап­ример, что‑нибудь взла­мывать.

Глав­ными алар­миста­ми в теме силь­ного ИИ сей­час выс­тупа­ют Эли­езер Юдков­ский и его еди­номыш­ленни­ки с сай­та LessWrong. Юдков­ский — автор занят­ной идеи о том, что дай силь­ному ИИ задачу делать, нап­ример, скреп­ки — и он может ненаро­ком пус­тить на скреп­ки и нас со всей пла­нетой вмес­те. То, что меж­ду ChatGPT и вооб­ража­емым мак­симиза­тором скре­пок есть серь­езная раз­ница в воз­можнос­тях, не меша­ет Юдков­ско­му нагонять панику уже сей­час.

Го­вори­ли, что имен­но к таким опа­сени­ям мог прис­лушивать­ся соос­нователь и глав­ный науч­ный сот­рудник OpenAI Илья Суц­кевер. Имен­но он стал катали­зато­ром в недав­нем скан­дале, ког­да совет дирек­торов OpenAI ненадол­го уво­лил ген­дирек­тора ком­пании Сэма Аль­тма­на. Тот сле­дом чуть не увел за собой всех сот­рудни­ков в Microsoft, где для них тут же широко рас­пахну­ли две­ри.

Из­вес­тно, что за нес­коль­ко дней до неожи­дан­ного уволь­нения Аль­тма­на Илья Суц­кевер вы­ражал сом­нения в том, что ком­пания работа­ет над искусс­твен­ным интеллек­том «дос­таточ­но безопас­но».

По со­обще­нию Reuters со ссыл­кой на ано­ним­ные источни­ки в ком­пании, при­чиной всей кутерь­мы было недав­нее изоб­ретение вер­сии GPT под кодовым наз­вани­ем Q*. Имея дос­таточ­но вычис­литель­ных ресур­сов, она может решать матема­тичес­кие задачи «на уров­не млад­шеклас­сни­ка» (сей­час даже GPT-4 иног­да пута­ется в воп­росах о том, сколь­ко у кого яблок, не говоря уже о чем‑то более слож­ном). Вряд ли это завет­ный силь­ный ИИ, но оче­ред­ной важ­ный шажок на пути к нему.

Поз­же Суц­кевер ска­зал, что «глу­боко сожале­ет о сво­ем учас­тии в дей­стви­ях совета дирек­торов», а так­же под­писал­ся под тре­бова­нием вер­нуть Аль­тма­на. Тре­бова­ние под­креп­лялось угро­зой уйти вслед за ним в Microsoft.

А еще Суц­кевер незадол­го до сму­ты выс­тупил на TED и зву­чал ско­рее опти­мис­тично. Он, хоть и приз­нал, что «на каж­дое положи­тель­ное при­мене­ние силь­ного ИИ появит­ся по отри­цатель­ному», закон­чил на позитив­ной ноте: наше понима­ние проб­лемати­ки будет раз­вивать­ся вмес­те с тех­нологи­ей. То есть люди нап­рягут­ся и уж как‑нибудь да научат­ся извле­кать из ИИ боль­ше поль­зы, чем вре­да.

Ду­маю, если у Суц­кевера и были раз­ногла­сия с Аль­тма­ном, то ско­рее о том, как вес­ти дела. Откры­вать или не откры­вать наработ­ки, стре­мить­ся к зараба­тыва­нию денег или нет, прев­ращать вещи вро­де Q* в новый релиз или обож­дать, взять вре­мя на их всес­торон­ний ана­лиз.

Од­нако про­мед­ление и ута­ива­ние в таких ситу­ациях тоже повод для кри­тики. Почему сот­рудни­ки OpenAI, заяв­ляя, что тру­дят­ся на бла­го все­го челове­чес­тва, не откры­вают свои наработ­ки? Под­ход цукер­бергов­ской Meta AI (по умол­чанию ком­мерчес­кой) сей­час куда бли­же к заяв­ленным цен­ностям нон­про­фита OpenAI. Пос­леднюю модель «Меты» Llama 2 мож­но пой­ти и ска­чать, в отли­чие от GPT-3 или -4, которые дос­тупны лишь через плат­ный API.

Это под­водит нас ко вто­рой теме — раз­говору о воз­можнос­ти исполь­зовать боль­шие язы­ковые модели для пакос­тни­чес­тва и о необ­ходимос­ти цен­зуриро­вать их вых­лоп.

За при­мера­ми зло­дей­ств далеко ходить не нуж­но. «Джей­лбрейк», сво­дящий­ся к очень нас­той­чивому промт‑инжи­нирин­гу, иног­да поз­воля­ет добить­ся отве­тов на сколь­зкие темы даже от ChatGPT.

При желании нынеш­ние язы­ковые модели мож­но исполь­зовать и для соци­аль­ной инже­нерии, и даже для вирусо­писа­тель­ства. Нап­ример, на­шумев­ший недав­но WormGPT, по сло­вам его соз­дателя, «поз­воля­ет лег­ко написать вре­донос­ный скрипт на Rust, и тот в 99% слу­чаев прой­дет про­вер­ку боль­шинс­твом анти­виру­сов».

WormGPT осно­ван на опен­сор­сной язы­ковой модели GPT-J 6B, соз­данной в EleutherAI в качес­тве кон­курен­та GPT-3. Тре­ниро­вать новые язы­ковые модели сей­час тяжело: нуж­ны хорошо отоб­ранные и раз­мечен­ные дан­ные и мас­са вычис­литель­ных ресур­сов. Одна­ко, как мы видим, не невоз­можно, и даль­ше будет толь­ко лег­че.

А еще про­ще этим занимать­ся, ког­да ты мил­лионер с и без того про­тиво­речи­вой репута­цией. Как нап­ример, Илон Маск, анон­сировав­ший запуск сво­ей новой ком­пании xAI и язы­ковой модели Grok. Маск, ныне скло­няющий­ся к аме­рикан­ским кон­серва­торам, оза­бочен левац­кой цен­зурой и излишней «полит­коррек­тностью», которы­ми OpenAI и Meta наделя­ют свои модели.

Grok, в отли­чие от сво­их более при­лич­ных сороди­чей, может ха­мить и материть­ся, а так­же рас­ска­зывать, как изго­товить кока­ин (хоть и не очень под­робно). О том, может ли Grok писать мал­варь (и нас­коль­ко качес­твен­но), Маск не обмолвил­ся. Про­верить пока тоже нель­зя — приг­лашения при­ходят толь­ко избран­ным.

Маск счи­тает, что цен­зуриро­вать вывод ИИ неэтич­но, глу­по и потен­циаль­но опас­но. Его оппо­нен­ты счи­тают, что не цен­зуриро­вать вывод ИИ — неэтич­но, глу­по и потен­циаль­но опас­но. Надо ска­зать, все это мало отли­чает­ся от более широкой дис­куссии о том, нуж­но ли огра­ничи­вать дос­туп к информа­ции, и если да, то каковы кри­терии. ИИ здесь лишь еще один повод под­нять все те же извечные воп­росы.

Для нас тем вре­менем куда про­дук­тивнее не раз­мышлять о том, нуж­но зап­ретить ИИ или нет, а готовить­ся жить в мире, где эта тех­нология будет сущес­тво­вать во всех воз­можных видах — легаль­но или под­поль­но. Обратно в бутыл­ку это­го джин­на уже не вер­нуть.