№ 17/17

Алгебра совести

Рассказ о знаменитой книге «Алгебра совести», открывающий перед читателем сокровенный смысл нового научного подхода

Вторым изданием вышла моя книга «Алгебра совести». Если бы я говорил о ней в Америке, говорил бы совсем не так, как я должен сделать это здесь, потому что моя душа выкрашена в два цвета, она звездно-полосатая, в соответствии с жизненным опытом. Поэтому давайте я сначала попробую сказать так, как я говорил бы в Америке.

Те из вас, которые преподают, могут сделать как минимум четыре специальных курса по этой книге.

Первый курс, который по ней можно читать, связан главным образом с этическими системами. Я думаю, книга может быть использована для студентов, начиная с третьего года обучения, но также — ранее — для продвинутых студентов.

Второй курс требует несколько более серьезной подготовки.

Я думаю, эта книга была бы интересна студентам философских факультетов, можно было бы провести несколько интересных дискуссий, связанных с тем, как люди принимают решения в условиях моральных систем.

Наконец, третий курс. Он носит более специальный характер и связан скорее с математическими аспектами этой работы. Часть курса должна быть посвящена рефлексивным моделям, их связи с самореференцией, а другая часть — с динамическими системами, с тем, как производить моделирование субъективного выбора в нелинейном случае.

Другое использование этой книги состоит в том, что она может быть полезна специалистам по искусственному интеллекту.

Как вы знаете, проблема морального выбора становится основной в ряде прикладных разработок, и поэтому специалисты могли бы найти много интересного: как сопрягать имеющиеся материалы с моделями агента, в частности с военными моделями, торгового агента, а также сервисными системами, обслуживающими вычислительные центры.

Вот примерно так я бы рассказывал об этой книге в Америке. Идейная часть заняла бы гораздо меньше времени, потому что людям некогда и люди хотят знать, каким образом эта вещь может быть использована.

Здесь же я хочу рассказать об идеях, которые есть в этой книге, и о ее замысле.

Как возник этот замысел?

Я эмигрировал в 1974 году в Америку. И моральные проблемы меня совершенно не интересовали. Если вы откроете книгу «Конфликтующие структуры», то увидите, как мало моральных вопросов, которые я пытался там развернуть. Это скорее некоторые интеллектуальные структуры по описанию рамок для принятия решений субъектом. Рефлексивные синдромы, которые позволяют, как мне кажется, представлять те вещи, которые трудно проговаривать без них.

Не знаю, всем ли известно: эмигрировать из Советского Союза было довольно трудно. Мне это удалось, потому что моя жена — еврейка. Я получил разрешение на эмиграцию. Но в Израиль я не поехал, поехал в Америку.

А для тех, кто ехал в Америку, путь лежал через Австрию. Эмиграция была такая. Сначала попадали в Вену. Из Вены эмигрантов поездом посылали в Рим, и все ждали разрешения той или иной страны.

В 1974 году еще только началась эмиграция, еще не было никаких правил, мы ничего не знали.

И в Риме я очень жестоко отравился. Меня «скорая помощь» в беспамятном состоянии доставила в госпиталь Святого Евгения, госпиталь для бедных. Я попал в огромную палату, где были человек двадцать, все в тяжелом положении. Они умирали. Многие из них умерли. Я был в плохой форме и очень слаб, и за мной ухаживали два больных человека. Один был фашистом. И воевал под Сталинградом. А второй был коммунистом. И тоже воевал под Сталинградом. Оба были в плену в Советском Союзе, оба выжили. И вот эти двое, фашист и коммунист, оказались в каком-то смысле самыми близкими мне людьми. Я вдруг понял, что перед лицом смерти меня совершенно не волнуют политические взгляды этих людей. Тем более что они разговаривали между собой, и ясно было, что и их совершенно не интересуют политические идеи.

В этот момент возникло некоторое прозрение, что существует нечто более глубокое, чем политические взгляды людей.

Я должен сделать здесь маленькую поправку. Это было не религиозное чувство, скорее открытие инженера: вот мы все так устроены, наша конструкция такова, что наши политические взгляды, наши дискуссии в какой-то момент оказываются несущественными и управляют нами скрытые от нас силы, те, которые обычно многих из нас не интересуют. Я стал подумывать о том, что же это за силы? И главная мысль сводилась к тому, что есть нечто «автоматоподобное», то, что мной не управляется.

Я потом поясню, почему обращение к Богу, хотя я достаточно религиозный человек, по этому вопросу было бы совершенно неинтересно. Потому прежде всего, что ничего не объяснило бы, высокими словами объяснить такие состояния невозможно. Но вот эта мысль у меня тлела.

Потом мы эмигрировали в Америку. Было трудное устройство, плохое знание языка, непонятный мир вокруг. Надо было адаптироваться. На первых порах удалось устроиться помощником преподавателя русского языка в университете в Лос-Анджелесе. Я продолжал свои размышления.

И вот у меня как-то возникла одна конструкция. Я расскажу без всякой математики о ней. Бывают, вы знаете, такие карикатуры, когда в голове у человека нарисован человечек, в его голове — еще человечек и т.д. Такие карикатуры часто встречаются. И вот мысль, которая возникла, заключалась в том, что такие картинки могут быть использованы одним необычным образом — как вычислительные схемы.

Если некоторые числа (на самом деле это — не числа!) поставить в соответствие каждой такой мордочке и предположить, что эти мордочки связаны некоторыми функциями, можно сразу построить очень простую психологическую модель человеческого существа. Просчитать всю эту картинку — это будет некоторый акт поведения. Тот просчет, который относится к картине, как-то описывает образ себя, а просчет, относящийся к образу другого человека, — что человек думает о другом.

Но я сразу же понял, что вот такая, на самом деле, банальная эвристическая интерпретация, когда мы предполагаем какие-то рациональные рассуждения, оказалась базовой. Стало ясно, что эти «вычисления внутри» есть некоторые порождения внутренних эмоций. Это вторая идея, которая была заложена. И наконец, третья: необходимо найти правильные «функции». Я сейчас чуть-чуть расскажу об интуитивном подходе. (Я не хотел тратить жизнь на возможный подход: заниматься математикой, придумывать функции, как это делается очень часто. Дальше возникают интересные теоремы, которые можно доказывать и которые в конце концов выбрасываются, потому что не объясняют что-то в реальных отношениях.) Я поставил задачу найти те единственные функции, потому что если эта идея верна, то вряд ли здесь есть большой набор функций. Это — интуитивно. Самонаблюдение и дискуссии с одним приятелем, очень религиозным человеком, в конце концов привели к некоторой гипотезе, какими именно эти «функции» могут быть.

Первая модель была чисто булевой. Что это значит? Значения переменных — значения этих мордочек: «1» и «0». Интерпретация была «этической»: «1» соответствует «выбору добра», а «0» — «выбору зла».

Вычисления, которые соответствуют выбору, — те же самые правила: «положительный образ» — «1», а «0» — в вычислении картинки, которая нарисована в голове другого, дает картину страданий…

Дальнейшие размышления привели к мысли, что возникает не одно, а два «соответствия»! «Так» и как раз «наоборот»! Тут у меня возникло математическое ощущение, что могут быть два различных алгоритма. Вернее, две различные интерпретации одного и того же алгоритма: одна операция (для одних людей) соответствует конфронтации и та же самая операция (для других людей) — наоборот.

Так возникла идея двух этических систем. Оказалось, что эти операции несимметричны вот в каком смысле: если предположить, что субъект обладает способностью произвести выбор отношения, то при выборе одной из этих операций его образ всегда был «лучше», чем при выборе другой. Это означало, что, выбрав одну из этих операций, он будет подниматься в собственных глазах, а выбрав другую, не будет. Итак, теорема: если он поднимается в собственных глазах, выбрав это отношение с другим человеком, то он сам становится «лучше», то есть формула чаще выдает «единицы», чем в том случае, когда он выбирает другую операцию. И в этот момент мне стало более или менее ясно, что это — некая важная формула, что существуют две этические системы, и «машина» вообще никак не связана с какими бы то ни было практическими проблемами, с которыми связана активность субъекта! Что в этом отношении выбор диктуется не «пользой», не какими-то «стремлениями», а только регуляцией образа самого себя, стремлением повысить этический статус образа себя.

При этом возникла еще одна теорема. Оказалось, субъект поднимается в собственных глазах, выбирая другое отношение: если мы просчитаем всю ситуацию в голове субъекта, то она реже принимает значение «1». Итак, в результате выясняется: выбирая другое отношение, он создает «плохую» ситуацию! Он помещает себя в плохую ситуацию, также стремясь подняться в собственных глазах. А это естественно интерпретировать как некий формальный аналог «жертвенного поведения».

Это совершенно новая идея, потому что жертвенное поведение обычно рассматривается как альтруистическое. То есть жертва осуществляется «во имя» близкого человека, идеи, внешнего духа… А здесь оказывается, что единственный смысл жертвенного поведения заключается в том, чтобы гасить негативные импульсы в образе себя, то есть напрашивается гипотеза, что человек старается минимизировать чувство вины. Естественно интерпретировать эти «импульсы» как импульсы вины.

И вот история с бумажными человечками как раз и есть литературное пояснение к тому механизму, который был в этой модели. Это отражение. Не то что я сначала придумал эту историю, а потом стал искать какие-то формализмы, ей соответствующие. Нет. Как наиболее ясно и достаточно компактно объяснить вот эту идею? Один герой поднимается в собственных глазах, когда он идет на жертвенный союз, другой поднимается, когда он идет на жертвенный конфликт.

Представим, например: субъект мог уменьшить свои страдания, и для этого он должен был бы выбирать иное отношение. И сразу возникла картинка, обладатель которой ценой минимизации стремится попасть в лучшую ситуацию, но при этом ухудшает свой образ.

Наконец, выяснилось: есть еще два типа (модели) персонажей. Первый — это «святой». Это субъект, который идет на жертву, однако при последующих актах рефлексии видит себя не идущим на жертву, а исполняющим свой долг, работу. А следующий оказался «лицемер». Это субъект, который не идет на жертву, а только видит себя идущим на нее.

Теперь возникает гипотеза: нужно просчитать статусы индивидов, обладающих этими свойствами. Оказалось, что они упорядочились по своему статусу. Наивысший статус — у «святого», потом — у «героя», следующий — у «обывателя» и потом — у «лицемера». Оказалось даже возможно промерить статусы!

Довольно быстро я написал книгу. За четыре месяца.

Владимир Лефевр

Обзор книг

  • Мы и наше здоровье
  • Мастер дела не боится.
  • В.Я. Александров: от тайн клетки — к мудрости жизни
    Сборник, который мы здесь представляем, включает воспоминания друзей и соратников Владимира Яковлевича. Два из них мы публикуем ниже с некоторыми сокращениями.
  • Около Эко…
    «У нас есть законы, которые обязательны для каждого; они стали критериями идентификации граждан. И я считаю, что мы не должны от них отступать».
  • Толкинисты, вперед!
    Земляне познакомились со Средиземьем в 1937 году, когда появилась первая книга Джона Рональда Руэла Толкина «Хоббит». Cказочная история о походе семерых гномов за драгоценностями к дракону получила какое-то необычное очарование прежде всего потому, что главным экспертом - взломщиком по извлечению сокровищ стал хоббит по имени Бильбо Бэггинс.
  • Задача философии — мир придумать
    На совместном счету двух философов — они печатаются под общим псевдонимом Александр Зорич — уже шестнадцать романов, действие которых происходит в альтернативных мирах.
  • Не сдаваться — ни в коем случае!
    Он запомнился ей уходящим к упряжке собак со своим напарником. Стройный, веселый, что-то рассказывал, жестикулируя. Яркое солнце сверкало в непокорной шевелюре и бороде, а одежда, даже экспедиционная, мешковатая, сидела элегантно, и был он аристократически красив...
  • Как работает мышление?
    Признаться, корявый этот заголовок есть попытка напрямую перевести заглавие нашумевшей книги известного американского лингвиста и психобиолога Стивена Пинкера, которое по-английски звучит «How the Mind Works».
  • Уроки Натана
    «Каждый пишет, как он слышит, каждый слышит, как он дышит, как он дышит, так и пишет». Строка поэта (стихотворение Булата Окуджавы «Я пишу исторический роман») на вид простая — емка и многозначна. Невозможно не передать в слове свое дыхание, но вполне передать его невозможно трудно.
  • Доколе будем терпеть глумление над нами?…
    Кажется, никогда за всю историю отечественного книгопечатания на читателя не обрушивалась такая лавина книг. Книги по истории в этом лавинном потоке занимают не последнее место. Однако обилие не радует.
  • Вид с Лубянки
    В пяти синих книгах (1-й и 4-й тома в двух частях каждый и 2-й том), охватывающих 1922-1924 и 1926 годы, читатель найдет полную подборку (насколько они вообще сохранились в архиве ФСБ) ежемесячных обзоров ОГПУ о политическом и социально-экономическом положении в стране.
  • Коллаборационисты: палачи и жертвы
    Последняя книга М.И. Семиряги стала итогом его многолетних исследований такого сложного феномена Второй мировой войны, как коллаборационизм. Это — первая работа в нашей стране, где он рассмотрен столь подробно и на весьма обширном, часто архивном материале.
  • Короли и медведи
    Мифы народов мира… Все эти Астарты, Свароги, Кетцалькоатли, Симурги… На первый взгляд — хаос. Однако сделано немало попыток упорядочить его. Среди них — интереснейшая книга Ариэля Голана «Миф и символ»
  • Думайте сами, решайте сами…
    Американцу Дейлу Карнеги было всего 7 лет от роду, когда в России вышла книга англичанина Джона Леббока «The use of life». Имя автора этого бестселлера конца XIX века сегодня мало кому известно. А ведь он принадлежал к числу замечательных людей.
  • Свидетельства обвиненных
    Книга Юрия Финкельштейна «Свидетели обвинения» посвящена предыстории разгрома, его центральному пункту — процессу над Тухачевским, Якиром, Уборевичем и другими генералами, а также ближним и дальним последствиям.
  • Братья Стругацкие! Что узнает о вас генерация NEXT?
    Вокруг книг Стругацких, в значительной степени определивших «лицо» нескольких поколений, сложилась целая культура. Эта культура многогранна — от естественного восхищения книгами Стругацких до исследования их творчества
  • Послание XXI веку
    Как знак наступающих перемен, как пророчество и послание XXI веку прозвучала в мире жизнь выдающегося человека, Н.В. Тимофеева-Ресовского.
  • Трагическое заблуждение академика Вавилова. Ученые признают Лысенко за своего
    Судьба генетики — без сомнения, самая трагическая страница в истории советской науки. Одна из наиболее темных страниц в ней — время возвышения Лысенко, когда квалифицированные ученые и в первую очередь Николай Вавилов могли и должны были закрыть этому монстру дорогу в науку.
  • Контрамоты пишут учебники
    Два наших героя — Леонид Кацва и Александр Скобов — опубликовали два интересных учебника по одному периоду недавней (или уже давней?) российской истории: с 1917 по 1940 год. Очень хочется сравнить эти книги, чтобы постичь корни различий среди наших историков-просветителей.
  • Круглый стол «Серп и рубль: консервативная модернизация в СССР»
    Во-первых, из книги следует вывод о невозможности коммунистического реванша в нашей стране, если речь идет не о каких-то кратковременных политических успехах коммунистов, которые нельзя полностью исключить, а о долговременной тенденции исторического развития страны
  • «Беседы о Дубне научной»
    Приводимые нами фрагменты относятся к 80-м годам. В ту пору журналисты еженедельника искали рубрики, компенсирующие «отработку» — подготовку дежурных материалов, служивших на потребу дня.