Рональд Аркин из Технологического института Джорджии работает над созданием
автономных боевых роботов, руководствующихся в своих действиях моральными и
этическими принципами.
Дистанционно управляемые роботизированные устройства давно не новость и
достаточно часто используются в военных операциях, однако наука и техника уже
дошли до такой стадии, что вот-вот начнут появляться и боевые роботы, способные
действовать самостоятельно. Аркин уверен, что прежде чем это произойдёт, следует
хорошо подумать над возможностью наделить эти механизмы дополнительными
"этическими" алгоритмами.
Д-р Аркин не считает, что автономные "терминаторы" смогут вести себя
безукоризненно с точки зрения морали, однако безусловно способны превзойти в
этом живых солдат. Учёный при этом ссылается на опрос солдат и матросов,
участвовавших в боевых действиях в Ираке: лишь немногим более половины из них
считают, что с гражданскими лицами следует обходиться уважительно, в то время
как 17% склонны видеть в них повстанцев, а более трети опрошенных в некоторых
случаях допускают применение пыток.
В настоящее время Аркин моделирует поведение отягощённых моральными устоями
роботов-солдат на компьютере. Компьютерные модели уже сейчас способны, например,
отказаться от уничтожения цистерны с горючим, стоящей рядом с кладбищем,
поскольку от взрыва могут пострадать мирные жители. При этом исследователь
признаёт, что реализовать алгоритмы, которые позволили бы роботам распознавать
раненых или воспринимать сигналы вроде белого флага, будет сложно. Но эти
сложности для него не важны — важно то, какими функциями автономных роботов
следует наделять, а какими нет. И решать эти вопросы человечество должно уже
сейчас. При этом Аркин не расстроится, если "терминаторы" вовсе будут запрещены.
