Технологические прорывы последних лет в робототехнике, генной инженерии и нанотехнологиях несут реальную угрозу роду человеческому, ставят его под угрозу исчезновения – таков исходный тезис Анатолия Мерцалова в его тревожных размышлениях о будущем Homo sapiens.
Компьютерная наука стремится создать искусственный интеллект, создать робота, способного не только заменить, но и превзойти человека. В названной триаде источников опасностей робототехника самый старый, однако, каковы бы ни были достижения, компьютерная наука до сих пор не создала ничего онтологически равного интеллекту естественному, ничего, что можно было бы называть интеллектом без кавычек. Ни один компьютер не способен правильно решить задачу номер 1 из «Задачника» Григория Остера (пожарных учат надевать штаны за 5 секунд; сколько штанов наденет пожарный за 3 минуты?). И как бы ни возрастала вычислительная мощь компьютеров, хоть по закону Мура, хоть в миллион раз быстрее, положение не изменится, искусственный разум будет лишь асимптотически приближаться к разуму рядового человека, и никогда он не перейдет границу, качественно отделяющую его от человеческого мозга, ибо разумность не сводится к вычислительным способностям. Человек по отношению к компьютеру всегда будет, как Бог по отношению к творению.
Да, все больше и больше человеческих функций передается роботам, и делается это именно потому, что роботы при их выполнении показывают гораздо лучшие результаты, чем люди. Но почему из этого надо делать вывод, что роботам может быть передана любая человеческая функция? Не в смысле — согласимся ли мы отдать им все до конца, а в смысле — возможно ли будет такое когда-либо вообще. Ну, скажите, сможет ли когда-нибудь какой-нибудь робот делать журнал «Знание — сила» лучше, чем сейчас это делает человеческий коллектив? Пусть даже не лучше, а вообще делать, и не обязательно «ЗС», хоть какой-нибудь журнал, не говоря уж о создании нового журнала и вообще чего-либо нового? Да, роботам передаются человеческие функции. Но именно передаются. Ни один робот до сих пор самостоятельно не взял на себя какую-либо функцию, не начал выполнять функцию, не предусмотренную заранее к выполнению тем, кто этому роботу что-то передал. И никогда в будущем робот-горничная не начнет сам по себе выполнять функцию гувернантки. Роботы не могут сейчас и никогда в будущем не смогут усилием собственной воли повести себя иначе, чем хотелось бы их создателям. Вычислительные способности и воля — разные вещи. Так что бунт кибернетических устройств человечеству не грозит. А кто не верит — с того талер.
Получается, что нет проблемы? Роботы не вытеснят нас? Есть проблема! Вытеснят! В том случае, если человек живет для того, чтобы работать. Тогда, действительно, машины смогут принимать все решения без участия человека. И если роботы трудятся лучше человека, тогда, в самом деле, зачем он вообще нужен? Как говорится, по определению. Кроме того, в отличие от роботов, человеку нужно свою способность к труду ежедневно восстанавливать. И в этом случае, действительно, что-то надо будет делать с человеком — что-то такое, более или менее гуманное.
Если же человек работает для того, чтобы жить, в чем тогда проблема? Роботы трудятся лучше — вот и замечательно, пусть себе трудятся. С нами, как мы, лучше нас, вместо нас. А мы будем жить! Будем создавать журналы, как «Знание — сила», читать их, будем смеяться над шутками Григория Остера. Будем думать, какие бы еще функции не грех бы спихнуть на роботов, будем — шутки ради — придумывать новые функции специально для них, убогоньких.
Ну, а в самом деле, зачем живет человек? Какой человек? Конкретно имя, явка, фамилия! Или иначе, по другому Григорию — Горину — смотря, где живет, одно дело здесь, у нас, в Смоленской губернии, другое дело в Рязанской («Формула любви»). Действительно, есть люди, живущие, чтобы работать. И не просто отдельные индивидуумы. Без малого пять веков назад Кальвином были провозглашены императивы, на основе которых сформировалась цивилизация живущих ради труда. (Кстати, на эту тему наверняка есть что сказать Кириллу Ефремову, рассуждавшему в номере № 7 «ЗС» о сакральной ценности труда как такового.) Так что же с ними делать? А ничего не делать! Хотят работать — и пусть себе работают. Объяснил же чемпион мира, что прогресс компьютеров не обессмыслит игру в шахматы для людей: играют же любители, зная, что есть на свете мастера, а те играют, не смущаясь знанием, что есть чемпион посильнее их.
Что же до непредвиденного поведения машин, то это если не авария из-за неисправности, то результат ошибки проектировщика. Непредусмотренное, но в то же время целесообразное поведение машины — вещь невероятная. Однако суть обсуждаемой проблемы, как я понимаю, — не угроза аварий или цена ошибок проектировщиков. Опасности со стороны генной инженерии и нанотехнологий имеют совершенно иную природу. Являются ли ядерная и водородная бомбы примером того, как наука и технология выходят из-под власти человека? Еще ни одна вообще бомба не взорвалась по своей воле ввиду отсутствия у нее таковой (опять же не об авариях речь). На каждое конкретное применение любой бомбы была санкция какого-то конкретного человека. Так о каком выходе из-под какого контроля речь? Микроскопические роботы будут без раздумий выполнять указания военных или террористов, уничтожая людей? И кто же будет виновен? Микророботы или военные и террористы? Люди уничтожают людей по своей, людской воле. При чем тут наука, при чем здесь технология? Они дают средства уничтожения? Так и голая природа их дает — палки и камни. Разруха не в клозетах, а в головах.
Нужны ли мы будущему? Людовик XIV считал, что государство — это он. Будущее — это кто? Кому мы нужны или не нужны? Наверное, сам вопрос должен быть другим: нужны ли мы будем друг другу? На вопрос, зачем живут люди, еще как-то можно ответить — в том смысле, что, мол, каждый человек живет за чем-то своим. Но вот объяснить, почему именно этот человек живет ради поиска истины, а конкретно тот ради накопления богатства, третий ради власти над себе подобным и т.д. — не удивлюсь, если никто даже и не брался это объяснить.
Опасность не в науках и технологиях. И не в безответственности ученых и технологов. Обвинять их во всех бедах, которыми оборачивается научно-технический прогресс, значит сваливать с больной головы на здоровую. Ответствен ли кузнец за то, что кто-то выкованным им ножом зарезал человека? Не ковать ножи? А чем резать хлеб? И разве не найдет убийца, чем заменить отсутствующий нож? Могут ли историки науки припомнить хоть одно абсолютно злое открытие? Но значит ли это, что ученые свободны от какой-либо ответственности за последствия использования своих открытий? Формально это так и есть. Но неправда, что мы вступили в новый век, не думая об этической стороне научных исследований, об ответственности за последствия научных открытий. Разве что к концу ХХ века притупилась острота таких размышлений. А задумывались над этим люди с очень давних пор. Среди причин, почему средневековые маги держали в глубочайшей тайне свои исследования, было и понимание опасности попадания их результатов в невежественные, безнравственные, преступные, наконец, руки (головы!). Конечно, не каждый, и даже не каждый десятый из причастных к науке думает и обсуждает. К сожалению, не каждый. И только ли прямо причастные к науке или технологии должны думать и обсуждать?
Анатолий Мерцалов
