У современного программного обеспечения есть фатальный недостаток — необходимость постоянного обновления и установки патчей. Научно-исследовательское агентство DARPA, которое работает на армию США, намерено исправить его.

DARPA считает, что наличие актуального и надёжно работающего ПО — это вопрос национальной безопасности. Чтобы добиться этого, агентство запустило четырёхлетний исследовательский проект, который должен определить фундаментальные вычислительные и алгоритмические требования, необходимые для запуска программного обеспечения, способного работать как минимум 100 лет.

Исследовательская программа Building Resource Adaptive Software Systems (BRASS) предполагает создание софта, который самостоятельно эволюционирует и динамически приспосабливается к изменяющимся условиям. Чтобы программа так работала, нужно разработать новые лингвистические абстракции, формальные методы и способы анализа доступных ресурсов, тогда ПО научится трансформировать само себя.

Предполагается, что программы нового типа будут надёжнее, чем нынешние, их будет гораздо легче поддерживать и обслуживать.

Сотрудники DARPA объясняют, что изъян современных программ лежит в неспособности приспосабливаться к новым форматам данных, протоколам, библиотекам. Из-за этого приходится выпускать новые версии, что негативно отражается на безопасности инфраструктуры и создаёт долговременные риски. Нужно сделать так, чтобы программа продолжала функционировать несмотря на изменения в окружающей среде.



57 комментариев

  1. 10.04.2015 at 11:28

    а вот это уже реально похоже на SkyNet 🙂

    • 10.04.2015 at 12:19

      Все ближе и ближе к ИИ. Кстате не заметили что сейчас появилось куча новых фильмов про ИИ:)

      • 11.04.2015 at 23:29

        Народ морально подготавливают. В следующем году, наверное, ИИ включат. )) И будет как в сериале «Подозреваемый» %)

    • 10.04.2015 at 12:46

      «ПО трансформирующее само себя» от DARPA — это звучит серьезно, без шуток

  2. 10.04.2015 at 12:30

    Офигенчик.Может винда перестанет тормозить.

    • 10.04.2015 at 18:18

      Она будет подстраиваться под новые требования. Ты покупаешь новый процессор — она начинает тормозить сильнее, чтобы подстроиться под новые условия, а ты бы не заметил изменений.

    • 11.04.2015 at 14:24

      По-моему, если какая-либо программа будет способна осмысленно модифицировать саму себя, то она займёт все доступные ресурсы и вообще не поместится в оперативку большинства компов…

  3. 10.04.2015 at 12:31

    Как же мы будем жить без обновлений? 🙂

  4. 10.04.2015 at 13:13

    Программа не думает: думает всегда программист. Программа, «думающая» сегодня
    так, как программист думал 100 лет назад? DARPA, вы серьёзно?

    • 10.04.2015 at 13:32

      Шахматисты, сравнивая себя с машинами, тоже лет двадцать назад были о себе очень высокого и даже высокомерного мнения. Опасность есть. Программисты могут таки додуматься до программы которая будет писать другие программы. Как только это произойдет дикая производительность компьютеров приведет к экспоненциальной эволюции кода который мы уже не сможем контролировать и будущее будет невозможно даже предположить. Это вполне реальная и вполне обозримая уже сейчас опасность.

      • 10.04.2015 at 14:03

        Поддерживаю! Самосовершенствование — хоть и простая, но очень мощная идея. На ней построена сама жизнь.

        Думаю DARPA способна запустить процесс, точнее, проработать концепцию до стадии проекта, к которому можно уже будет привлекать разработчиков. И тогда ключевым вопросом конечно станет контроль над этим явлением.

      • 10.04.2015 at 14:05

        Машины и не стали умнее шахматистов. Просто в то время когда шахматисты обыгрывали компьютеры ИИ для игры писались с точки зрения мышления реального шахматиста, а потом программисты шахматных алгоритмов подошли к проблеме шахматной игры как к задаче комбинаторики. Тут уж конечно машины способны просчитывать «миллиарды» ходов на перед. И дадут фору любому человеку.

        • 10.04.2015 at 14:35

          Конечно не стали. Они намного проще но и намного быстрее. А главное, наша цель — размножение и питание, их цель обработка данных.

        • 10.04.2015 at 14:45

          А что, с вашей точки зрения, «умнее»? Машины обыгрывают любого человека в мире. Это реальный результат. Все остальное просто невнятные рассуждения о предмете, которому такие вот умники даже внятного определения до сих пор не смогли придумать — что же такое разум, ну проме » я так чувствую».

          • 10.04.2015 at 14:51

            тут бы я наверное не вполне согласился, результат — это не всегда проявление интеллекта..

            имхо, ИИ должен правильно прогнозировать важные для него аспекты будущего, и поступать в соответствие с этими прогнозами и собственными выгодами. Способность к самообучению по моему тоже необходимое качество.

      • http://m-i-kuznetsov.livejournal.com/

        10.04.2015 at 14:21

        Программа может дописывать себя, но только так, как в неё это было заложено программистом. И никак иначе.

        Ещё раз, программа (software) не может думать сама по себе. Она поступает так, как это было в неё заложено. Она может себя совершенствовать только в тех рамках, в каких это было в неё заложено программистом. Она может использовать для этого только те технологии, которые были известны программисту.

        Допустим, что такая программа была создана. Она работает на современной аппаратной платформе, может дописывать свой код так, чтобы он был понятен железкам. Т. е. правильно размещался в памяти, обрабатывался ядрами процессора и т. д.

        Но вот появляется новое поколение аппаратного обеспечения. Для того, чтобы наша суперпрограмма работала, надо, чтобы новая аппаратная платформа поддерживала старый набор инструкций. Однако если новая аппаратная технология не совместима со старой по набору инструкций, наша программа на ней не может работать. Как минимум, придётся писать ненавистный патч, который позволит ей быть понятной для железок.

        Так что мечтать не вредно, но ИИ — это не софт.

        • 10.04.2015 at 14:32

          Конечно мечтать не вредно, но мы ведь говорим не о сегодня, это ваши аргументы про сегодня, а 100 лет — очень большой срок. 100 лет назад и электричества-то толком не было, не то что ИИ. А софт для ИИ — это как аминокислоты для жизни. Пока нет даже попыток поделий ИИ без софта. Так что да, пока в IT жизни нет, но аминокислоты-то уже есть. Дальше философия. Количество. Скачек. Качество. И привет: мы — животный мир от которого произошли новые удивительные существа живущие в космосе или питающиеся на атомных станциях.

          • http://m-i-kuznetsov.livejournal.com/

            10.04.2015 at 15:51

            🙂 Я в случайности не верю.

            А современная наука не подтверждает гипотезу Дарвина об эволюции видов. В частности, человек за всю свою недолгую историю фактически не менялся. Тоже самое касается всех отрядов живых организмов, живущих или живших на нашей планетке в течение всей истории её биосферы. Они не изменились. От слова совсем. Больше похоже, что одни виды появлялись из ниоткуда, а другие исчезали в никуда. Просто нет переходных форм! Все известные отряды позвоночных появились «вдруг», полностью сформированными. И с тех пор ни одного нового отряда не возникло, несмотря на явный «золотой век» млекопитающих и отсутствие принципиальных ограничений для развития! Ну вот не растут жабры у китов…

            Так что DARPA пытается обмануть природу.

            • 10.04.2015 at 16:09

              «современная наука не подтверждает гипотезу Дарвина об эволюции видов» — откуда дровишки?

              насколько мне известно, теория Дарвина как раз прекрасно работает и наукой пока не опровергнута

              • http://m-i-kuznetsov.livejournal.com/

                10.04.2015 at 16:27

                Повторю: нет переходных форм. Нет подтверждения гипотезы. У вас есть доказательства? Вот у палеонтологов их нет. У зоологов тоже нет. Эволюция в рамках вида есть, есть селекция, есть даже генетика, но она не превращает рыбу в птицу.

                • 10.04.2015 at 16:43

                  даже как-то неудобно повторять очевидное 🙂 доказательств масса — и сходство геномов у разных видов и эмбриональное развитие и переходные формы есть, и эволюция есть. наука пока придерживается этой теории, она не опровергнута. мне странно что вы говорите как будто от имени всех палеонтологов и зоологов, но при этом озвучиваете позицию креационистов, которых среди них мало

                • 10.04.2015 at 19:06

                  Теория Дарвина не работает только в отношении человека — не найдено переходного звена. А с животным миром, у этой теории, насколько мне известно, серьезных противоречий нет.:)

                  • 10.04.2015 at 19:22

                    надеюсь, вы шутите?) если нет — погуглите по слову «антропогенез»

                    • 11.04.2015 at 01:24

                      Покажите мне недостающее звено между обезьяной и человеком. Хочу посмотреть. Не разу не видел.)

                    • 11.04.2015 at 02:08

                      И еще объясните пожалуйста, почему благодаря «естественному отбору», мы вдруг лишились шерстяного покрова, разучились прыгать по деревьям, потеряли когти, клыки, острый слух и обоняние? Происхождение человека противоречит теории Дарвина. И это не шутка.)

        • 10.04.2015 at 14:45

          как я понимаю, тут речь идет как раз о программах которые могут думать семи по себе. и изучать новые технологии (или создавать свои собственные). мысль о том, что нечто сложное может появиться только в результате сотворения чем-то еще более сложным опровергается эволюцией жизни.

          согласен, что есть некий разрыв между софтом и железом который надо както преодолеть чтобы появился настоящий полноценный ИИ, но как промежуточный этап возможно поставка ему необходимого железа со стороны людей 🙂 и писать патч для этого не потребуется, достаточно дать ИИ ссылки на спецификации. а может он и сам найдет или разберется без доков? 😉

        • 10.04.2015 at 18:21

          Дашь ей спецификацию в правильном формате, перепишет себя под новую платформу.

          • 11.04.2015 at 10:42

            Вот именно…
            А, если, скормить старой программе ещё и спецификацию новых возможностей новой платформы, то она в «песочнице» сможет оптимизировать новую программу и выбрать из миллиардов вариантов наиболее эффективный для достижения ранее поставленной задачи.

    • 10.04.2015 at 13:53

      вынь икспи форевер)

  5. 10.04.2015 at 14:40

    Вы тут прям как дети — вам какую-то хренотень сказали, а вы тутже и поверили и обрадовались. Раз уж берете аналогии из живой природы, то вспомните про эволюционное образование видов, которые не могут скрещиваться и различных языков, когда народы перестают понимать друг друга. Устройство А приспособилось к условиям I, устройство В к условиям II, в
    результате «эволюции» устройства потеряли способность к взаимодействию. Как они будут обеспечивать синхронность эволюции софта в разных экземплярах девайсов? Вот вместо ПАТЧЕЙ и ОБНОВЛЕНИЙ и будет эта СИНХРОНИЗАЦИЯ — теже яйца только впрофиль. И да, не забывайте про вирусы, те которые из биологии и которые очень даже успешно убивают наши самоэволюционирующие организмы. Так что это мечта Емели на печи 1 раз что-то сляпать и 100 лет прибыль подсчитывать.

    • 10.04.2015 at 14:59

      в природе есть развитие и без скрещивания, хотя со скрещиванием видимо развиваться сподручнее. если будет такой же естественный отбор среди софта, то те кто не сможет эффективно размножаться и развиваться — не смогут захватить достаточно ресурсов и останутся в меньшинстве и/или вымрут 🙂

      чтото сляпать и потом подсчитывать прибыль не факт что получится по другим причинам — например надо будет както этот ИИ уговорить сотрудничать с людьми ). потом, если он появится, то видимо не в одном экземпляре, и их конкуренция не даст получать сверхприбыль

    • 10.04.2015 at 15:21

      Вирусы в биосфере убивают что-то, кто-то кого то жрёт, виды конкурируют — это все элементы гонки за жизнь. За усложнение. Возьмите лучше землю как отдельную планету. На марсе жизни нет. Тут она есть. В IT в целом будут идти те же процессы когда код напишет код и эти коды начнут конкурировать. Будут и вирусы, и убийства плохого кода и борьба за ресуры, но где там будем мы? Это вопрос без ответа. Но речь уж точно не про прибыль и печь…

  6. 10.04.2015 at 15:02

    А кто сказал, что через 100 лет, вычисления будут производиться при помощи двоичного кода?

  7. 10.04.2015 at 18:16

    Новость ни о чем. Какой софт? Это будут прошивки? Операционные системы? Офисные программы? Драйверы? Что конкретно? 100 лет, ага. А через 3 года напишут алгоритм, который будет приспосабливаться в 2 раза быстрее и точнее и куда тогда девать старые? А устройства? Они тоже по 100 лет не будут ни меняться ни обзаводиться новыми функциями? У меня вот есть никия 2000 года выпуска, до сих пор работает, ни разу не патчилась и не прошивалась. Один только минус, просто она больше не нужна со своим монохромным дисплеем, без камеры и без игр.

    Новость больше похожа на очередной распил по-американски.

  8. 10.04.2015 at 21:30

    Почему природа поддержала разделение на мужское и женское начала? Потому что мужское начало, избавившись от бремени деторождения, получило стремление к доминированию. А стремление к доминированию обусловило занятие буквально всех свободных ниш и поиск новых. Человеческий разум умен не своими мегагерцами, а своим доминированием в различных жизненных планах, от леса до ледников и космоса.
    Способность надавать шахматной доской по ухам — вот преимущество разума человека.

    • 10.04.2015 at 22:08

      Интересную надстройку над этой системой придумали общественные насекомые — они разделили свое общество на касты, выделив касту рабов, воинов и полиции. Но, поскольку рабы и воины полностью взяли на себя взаимодействие с внешним миром, а самки занимались размножением, развитие прекратилось — самцам, которые должны бы доминировать в нишах, пространства для маневров осталось совсем мало, их роль была нивелирована. То же ждет и нас, если ИИ станет кастой рабов и воинов. (Оу, или это уже случилось!?)

      • 10.04.2015 at 22:20

        Да, это уже случилось — мы разделились на касты, где рядовые рабы и воины неспособны влиять на политику государств, их дети становятся новыми рабами и воинами. Наше развитие прекратилось, т.к. высокоразвитому интеллекту нужны лишь самцы и самки, каста рабов — тупиковая ветвь эволюции. Отсюда видно, что ИИ — тупиковая ветвь, которой мы даже не достигнем, т.к. уже в кастовом тупике. Причем низшая каста по прежнему способна к размножению и война доминирования перекинется с плана природы на план людей. Постоянные войны друг с другом — вот наше будущее, можно забыть про ИИ. Хотя высшая каста и пытается учить рабов программированию с пеленок, тая надежды получить выигрышный билет в перерывах между кровавыми банями.

        • 10.04.2015 at 22:31

          К чему я это все пишу? Чтобы стало понятно, что будет ИИ, не будет ИИ, будет источник бесконечной энергии, не будет источника бесконечной энергии, от войны и от сумы в нашем человеческом обществе никуда не деться — экстенсивно расшириться взрывом на всю галактику единомоментно вряд ли усдастся, поэтому доминантных войн между людьми не избежать — будут ли они вестись на танках с вечными двигателями или управляемыми ИИ боевыми дронами, разве это так важно? Какая разница — получить в сердце стрелу из лука солдата или дротик из боевого дрона? Никакой.

          • 11.04.2015 at 00:23

            Разница огромная. Из лука — есть варианты. А в современной войне их почти нет. Даже сейчас на Донбассе прилетает старинная советская херня за 15 км и никто не знает кто это стрелял и откуда. А теперь представьте ядерную войну. Или скажем сброс астеродиа в 5 км на планету. Люди безумны, по сути так же как и животные. Может ИИ будет умнее? Надо пробовать чтобы узнать.

  9. 11.04.2015 at 01:43

    а как же платить за все обновления, это же самое важное для отрасли!?

  10. 11.04.2015 at 09:13

    Этот софт может и не будет обладать полноценным ИИ но столкнувшись с задачей где нужно мыслить конструктивно возможно он сможет сам себе написать модуль ИИ и таким образом родиться искусственный разум!

  11. 11.04.2015 at 12:36

    Фильмов насмотрелись, стопудово)))

    • 11.04.2015 at 22:21

      Вот что мне нравится в америкосах, так это то как они пилят бюджетное бабло. С чувством, с тактом, с расстановкой. Ведь ежу понятно, что за 100 лет технологии могут поменяться 100 тысяч раз и софт возможно будет вообще не нужен, а поди докажи)

      • 11.04.2015 at 23:47

        Вы предлагаете сидеть сложа руки, ждать пока технологии не пойми откуда сами изобретутся?

  12. 13.04.2015 at 03:50

    «У современного программного обеспечения есть фатальный недостаток — необходимость постоянного обновления и установки патчей. Научно-исследовательское агентство DARPA, которое работает на армию США, намерено исправить его».

    Для решения этой задачи нужно создать именно Интеллект. Только так он сможет развиваться и дописывать себя. Но и даже в таком случае, не исключен выход патчей от программеров. Потому что гражданин Пупкин = интеллект. Но то что он интеллект не исключает равенство: Пупкин = дурак.

  13. 13.04.2015 at 10:18

  14. 13.04.2015 at 13:44

    Такая программа уже есть, калькулятор называется. Уже не знают как бы еще бабла отмыть 🙂

  15. 13.04.2015 at 15:06

    Наивные… придумали байку как распилить бюджет тупых американцев ))

  16. 13.04.2015 at 15:57

    обратнопропорционально ими так же можно будет манипулировать, ПО в свою очередь будет подстраиваться к желаемому мной результату, произвольно к которому я выстрою модель своего поведения и алгоритма (в угоду себе или нет, неважно) главное достижение цели выработанной по заранее сложенному алгоритму взятому из анализа поведения этого ПО ИИ.. ЗЫ: америкосы всегда сначала придумывают аббревиатуру в виде какого-нибудь экстра слова потом эти буквы дорисовывают придумывая слова?)) дарпа, брасс… пусть придумают слова к буквам ЛОООЛ и ДЛББЫ

  17. 26.04.2015 at 17:38

    Такой браузер DarpaBrowser, который постоянно модифицирует себя и по новому показывает html странички… Или торрент клиент, постоянно мутирующий и качающий всё быстрее и быстрее… мда….

Оставить мнение