Эрик Дрекслер пишет: «Но мощь новых технологий можно обратить и на создание военной силы. Перспектива создания новых вооружений и их быстрого производства является причиной для серьезного беспокойства. Это ведет к идее установления тщательного контроля даже для тех из нас, кто является убежденным сторонником свободного развития технологии».

Молекулярные нанотехнологии, которые могут убить цивилизацию, с другой стороны обладают большим потенциалом созидания, чем разрушения. В этом их отличие, скажем, от ядерной энергии, неудержимая мощь которой гораздо больше подходит для разрушения. В этом смысле прорыв человека в микромир очень похож на изобретение колеса, которое имеет гораздо большее применение в мирных целях, чем при создании оружия, где оно обычно работает лишь косвенно.

Остаётся опасность непредсказуемого поведения наносистем, их выхода из-под контроля человека. Сколько статей и рассказов было написано, где компьютер взбунтовался против человека. Но практика развития компьютерных систем показывает, что ничего подобного не происходит и не собирается происходить. Опасность такого рода возникнет только тогда, когда система осознает саму себя и у неё появятся собственные цели.

На современном этапе развития поведение компьютерных систем слишком жёстко ограничивается алгоритмическими программами. Кроме того, эти алгоритмы слабо связаны с окружающей средой, у компьютеров только сейчас появляется слух и зрение в виде микрофонов и видеокамер, а органов воздействия на окружающие предметы практически нет.

Развитие нанокомпьютеров неизбежно будет связано с созданием нейросетей, допускающих случайные отклики на внешние воздействия, и ростом взаимосвязи компьютер – внешний мир. Наряду с громадным ростом быстродействия и памяти в таких системах можно ожидать самозарождения сознания.

Но отказ выполнять волю человека может произойти не только из-за того, что наносистемы начнут проявлять свою волю, противостоящую воле человека, а из-за недостаточного понимания людьми последствий исполнения собственных желаний наносистемами. Человек не может предусмотреть всех последствий деятельности наносистем в силу их очень высокой сложности. Станислав Лем это образно описывает так: «По-видимому, когда в среде обитания появляются зачатки разума, когда этот разум пересаживают из голов в машины, а от машин, как некогда от мамонтов и примитивных рептилий, его унаследуют молекулы, и молекулы эти, совершенствуя новые поколения смышленых молекул, преодолеют так называемый порог Скварка, то есть плотность их интеллекта настолько превысит плотность человеческого мозга, что в песчинке поместится умственный потенциал не доцента какого-нибудь, а сотни факультетов вместе с их учеными советами,– тогда уже сам черт не поймет, кто кем управляет: люди шустрами или шустры людьми. И речь тут вовсе не о пресловутом бунте машин, не о восстаниях роботов, которыми давным-давно, когда в моде была футурология для масс, пугали нас недоучившиеся журналисты, но о процессе совершенно иного рода и иного значения. Шустры бунтуют в точности так же, как растущая в поле пшеница или микробы на агаровой пленке. Они исправно делают, что им поручено, но делают это все лучше и лучше и, в конце концов, начинают делать это так изумительно, как никому не пришло бы в голову в самом начале… И уж тем более никто не верил, что какие-то шустры получат превосходство над людьми – не угрозами и не силой, но так, как ученый совет, состоящий из дважды профессоров, превосходит мальца в коротких штанишках. Ему не понять их коллективной мудрости, как бы он ни старался. И даже если он принц и может приказывать совету, а совет добросовестно исполняет его капризы, все равно результаты разойдутся с его ребяческими ожиданиями,– например, захоти он летать. Разумеется, он будет летать, но не по-сказочному, как он, несомненно, себе представлял, не на ковре-самолете, но на чем-нибудь вроде аэроплана, воздушного шара или ракеты, поскольку даже наивысшая мудрость в силах осуществить только то, что возможно в реальном мире. И хотя мечты этого сопляка исполнятся, их исполнение каждый раз будет для него неожиданностью. Возможно, в конце концов, мудрецам удалось бы растолковать ему, почему они шли к цели не тем путем, который он им указал, ведь малыш подрастет и сможет у них учиться; но среда обитания, которая умнее своих обитателей, не может разъяснить им то, чего они не поймут, ведь они - скажем, наконец, прямо – слишком глупы для этого».

Кроме самопроизвольного неподчинения систем в силу их воли или глупости человека существует ещё много возможностей отказа наносистемы выполнить волю человека. Части этих отказов можно, теоретически избежать, другой части нельзя избежать в принципе.

Системы наномашин кто-то будет проектировать. Разработка наносистем на начальном этапе требует огромных затрат труда. Естественно, люди, разработавшие наносистемы, могут предусмотреть в их программе подчинение лишь себе или покупателю, но отказ служить другим людям. Таким образом, мир может разделиться на две группы людей (фирм, компаний, государств). Одним наносистемы будут подчиняться, а другим не будут.

Лем о новом мире и создателях наносистем пишет: «Но если в этой перекроенной на новый лад гармонии что-то разладится, кто исправит ее? А так как кто-то должен ее к тому же запроектировать и запустить в производство, это лицо или группа лиц будут склонны самозванчески, явным или, что еще хуже, тайным образом взять себе роль Господа Бога в этом всепредставлении».

Практически невозможно избежать неповиновения наносистемы, если желания нескольких человек взаимоисключают друг друга. В этом случае наносистема, исполняя приказ одного человека, не будет повиноваться другому. Но этими вопросами занимается уже теория систем. Нанороботы в этом плане ничем не будут отличаться от сегодняшних и будущих роботов, разве только нейропроцессором. Но и модели поведения нейросистем, несмотря на отсутствие аппаратных реализаций, хорошо проработаны и изучены.

Развитие молекулярной нанотехнологии даст возможность тщательно изучить процессы, протекающие внутри клеток организма. Есть большие основания полагать, что точное знание того, как функционируют клетки, позволит создать наномашины ликвидирующие негативные изменения происходящие в клетках и тканях живого организма с течением времени. Возможно, удастся переделать программу, записанную в ДНК, так, чтобы «выключить» старение и улучшить генетические параметры организма. Тогда функции регулирующих наномашин возьмут на себя органеллы клетки.

Но не нарушит ли человек гармонию мира, искусственным путём достигнув бессмертия? Кроме проблемы перенаселённости Земли, которую, в принципе, можно решить, расселяясь по Вселенной, есть другие доводы против бессмертного человека.

Во-первых, поколение людей несёт с собой определённые моральные устои, мировоззренческие взгляды, и длительная жизнь одного поколения может привести к застою в развитии общества.

Во-вторых, с возрастом человек проявляет всё меньше интереса к жизни, в нём растёт усталость, груз накопленных знаний и переживаний гнетёт его, так что смена поколений необходима для поддержания активности всё время на высоком уровне.