Слоп подан! Колонка главреда

Для при­мера кри­тики мож­но взять недав­нее ви­део с канала Kurzgesagt, который уже мно­го лет пуб­лику­ет прек­расные ролики на науч­но‑популяр­ную темати­ку.

Ав­торы говорят, что изна­чаль­но позитив­но отно­сились к ИИ, но теперь тре­вожат­ся: слоп заполо­нит интернет и (пос­коль­ку ИИ не может не косячить) най­ти под­линную информа­цию будет невоз­можно.

Вых­лопа ИИ в интерне­те дей­стви­тель­но ста­новит­ся все боль­ше. К тек­стам и кар­тинкам недав­но добави­лось видео, и TikTok уже пол­нится сге­нери­рован­ными рил­сами. Более того — вов­сю идет тес­тирова­ние его ана­логов, где все ролики — сге­нери­рован­ные. Да, поль­зовате­ли о таком никог­да не про­сили, но раз­ве это ког­да‑то оста­нав­ливало тех­ничес­кие ком­пании?

Во­обще, любая дос­таточ­но револю­цион­ная тех­нология рож­дает страх перед неиз­вес­тностью («шок будуще­го», как его окрестил Тоф­флер). Дви­жимые им люди уда­ряют­ся в мак­симализм и друж­но пред­река­ют апо­калип­тичес­кие сце­нарии. Как это быва­ет, прек­расно показал Олег Афо­нин в статье «Стра­шил­ки и ужа­сы ИИ», срав­нив ситу­ацию с шорохом, который ког­да‑то навели элек­три­чес­кие лам­почки.

Уже даже слыш­но зна­мени­тое «По­думай­те о детях!». Что, если детиш­ки нас­мотрят­ся ИИ‑сло­па и... Я даже зат­рудня­юсь ска­зать, что даль­ше. И перес­танут отли­чать реаль­ность от выдум­ки?

Да, вред от сге­нери­рован­ных видео опре­делен­но воз­можен — толь­ко не от «сло­па», а от реалис­тичных под­делок, неот­личимых от нас­тоящих съемок. Показы­вая видео несущес­тву­ющих событий, мож­но, нап­ример, пытать­ся управлять общес­твен­ным мне­нием в сво­их инте­ресах. Про­верять пой­дут далеко не все.

По­доб­ные опас­ности есть у любых тех­нологий. Не будем в оче­ред­ной раз вспо­минать, сколь­ко людей гиб­нет от авто­моби­лей, — это уже ста­ло общим мес­том. Вок­руг пол­но при­меров того, как люди справ­ляют­ся с опас­ностя­ми новых откры­тий: пос­мотри на розет­ки, нап­ример, или на газовую пли­ту.

Или вспом­нить пер­вых физиков‑ядер­щиков, которые неиз­бежно облу­чались в ходе экспе­римен­тов. Да и не толь­ко физики! В 1920-х годах в обув­ных магази­нах ста­ли появ­лять­ся рен­тге­нов­ские аппа­раты для прос­вечива­ния сто­пы. Кли­енты серь­езно облу­чить­ся не успе­вали, а вот про­дав­цы, работав­шие с аппа­ратом целыми дня­ми, получа­ли нас­тоящие ожо­ги.

По­надо­билось некото­рое вре­мя, преж­де чем фри­воль­ное облу­чение рен­тге­ном ока­залось зап­рещено. ИИ‑слоп бла­года­ря интерне­ту рас­простра­няет­ся шире и быс­трее, но, по край­ней мере, от него не будет рака кожи.

Че­лове­чес­тво за свою исто­рию научи­лось обра­щать­ся со мно­жес­твом раз­ных вещей — от ядо­витых ягод и гри­бов до высоко­го нап­ряжения, опас­ных газов, раз­ных видов излу­чений и про­чих чудес физики. Неуже­ли теперь нас погубят какие‑то дерь­мовые ролики в соц­сетях?

Ин­тернет дав­но нуж­дает­ся в механиз­мах завере­ния под­линнос­ти. Тема ИИ‑сло­па приш­ла на сме­ну обсужде­нию фей­кньюсов, и генера­тив­ные модели — лишь оче­ред­ная тех­нология, дела­ющая под­делки дос­тупнее. При­думать механизм их обез­вре­жива­ния — вот нас­тоящая задача.

В X.com, нап­ример, успешно работа­ют community notes — помет­ки, которы­ми сооб­щес­тво соп­ровож­дает сом­нитель­ные выс­казыва­ния (и откро­вен­ное вранье), ког­да такие пос­ты рас­простра­няют­ся слиш­ком широко. Внут­ри эти помет­ки ус­тро­ены инте­рес­ным обра­зом.

Community notes — это при­мер так называ­емо­го мос­тового механиз­ма, или брид­жинга. Соц­сети дав­но уме­ют сор­тировать груп­пы людей по их взгля­дам. Если на какую‑то информа­цию вдруг жалу­ются люди из воюющих групп, зна­чит, перед нами точ­но вранье.

Это, безус­ловно, не панацея, и нуж­ны новые, еще более мощ­ные механиз­мы. При­мер с помет­ками в твит­тере ско­рее показы­вает, что раз­витие в этом нап­равле­нии воз­можно.

Но это всё высокие материи. Недоволь­ные сло­пом поль­зовате­ли обыч­но раз­дра­жены не реализ­мом под­делки, а наобо­рот: их под­ташни­вает от сге­нери­рован­ных видео, где реаль­ность при­чуд­ливо пла­вит­ся. Дви­жения людей неес­тес­твен­ны, пред­меты и час­ти тела могут исче­зать и появ­лять­ся, а в мел­кие детали луч­ше не всмат­ривать­ся, что­бы они не начали всмат­ривать­ся в тебя. В общем, зло­вещая долина от края до края.

И вот тут, мне кажет­ся, вол­новать­ся вооб­ще не о чем. Наобо­рот: запом­ни этот пери­од и сох­раняй ролики. Будем потом показы­вать вну­кам, как смеш­но и убо­го в двад­цатые годы выг­лядели сге­нери­рован­ные видео.

Пер­вый ролик, где Уилл Смит поедал спа­гет­ти (точ­нее, сли­вал­ся с ними в пла­вящем мозг вих­ре сло­па), датиро­ван мар­том 2023 года. Не прош­ло и трех лет, и ней­рон­ки могут изоб­разить эту тра­пезу так, что не отли­чишь от кад­ров из филь­ма.

Да, сей­час ИИ пос­тоян­но оши­бает­ся, косячит, потом изви­няет­ся и с невоз­мутимым видом косячит сно­ва. Но дол­го ли это прод­лится? Через сколь­ко лет модели будут не глу­пее сред­него поль­зовате­ля интерне­та?

Воз­можно, и хит­роум­ные механиз­мы под­линнос­ти изоб­ретать не при­дет­ся: проб­лема со вре­менем сама переро­дит­ся в решение.