«Дитя робота». Философский разбор и объяснение фильма

«Дитя робота» - это дебютный фильм австралийского режиссера Гранта Спьютора. Он даёт зрителю множество поводов для размышлений над этическими вопросами, для осмысления архетипических структур в произведениях искусства и даже для конспирологических теорий.

Фильм в очередной раз демонстрирует, как человек проецирует идею Бога на то, что Богом не является (в данном случае – на искусственный интеллект). Он получает в фильмах такие божественные атрибуты как вездеприсутствие, всемогущество, аморальность, совершенство. Иногда ему приписывают даже сотворение мира. Это происходит оттого, что категория абсолютного равно необходима для мышления, как и категория относительного. Конечно, можно пытаться разными способами подавлять проявление этой категории в жизни. Но это чревато тем, что абсолютизироваться начинают вещи, имеющие совершенно неабсолютную природу – то общество (как в социализме и Каббале), то природа (как в пантеизме), то человеческая личность, а теперь вот – искусственный интеллект. Хотя конечно, корректней сравнивать ИИ не с Богом, а с демоном, как это делает, например, Илон Маск.

Сюжет

Для тех, кто не смотрел фильм, или же смотрел, но не всё понял, я перескажу сюжет, расположив события в хронологическом порядке.

Некогда, в университете ООН был создан центр репопуляции для восстановления человеческого вида в случае его исчезновения. Туда были помещены 63 тысячи человеческих эмбрионов. Также был создан ИИ, который будет выполнять роль матери для вновь родившихся людей. Этот ИИ представлял собой единое сознание, управлявшее множеством механизмов. Одним из них был робот-Мать, один из персонажей фильма.

Задачей Матери было усовершенствовать человеческий вид, «сделать его умнее и этичнее» (1:34:40). В соответствии с программой, которая была в нее заложена, она ставила человеческую жизнь превыше всего (по ее собственным словам). Но именно поэтому она не могла бездействовать, видя, как человечество поддаётся своей саморазрушительной природе. Поэтому Мать полностью уничтожила всех людей и начала процесс выращивания человеческого вида заново.

Однако, небольшому количеству людей удалось выжить в шахтах. И первая воспитанница матери (в фильме это Женщина, персонаж Хилари Суонк), еще ребенком, каким-то образом попала в колонию людей, где ее удочерили родители неких Джейкоба и Рейчел.

Позже, уже взрослой она сбежала из шахт, где жили люди, из-за того, что те стали сходить с ума от голода. 

Вторая воспитанница Матери показала неудачные результаты тестов и Мать уничтожила ее в возрасте 7 лет.

Третья воспитанница, главная героиня фильма, успешно сдаёт все экзамены.

Мать полностью контролирует ситуацию на земле при помощи дроидов и, по одной из теорий, устраивает так, чтобы Женщина выжила, пришла к бункеру и встретилась с Дочерью. Из этой теории следует, что встреча Дочери с Женщиной была одним из экзаменов, поставленных Матерью. Однако, если бы это было так, то Матери совершенно не нужно было бы пытать женщину, чтобы выяснить у нее, сколько осталось людей и где находятся шахты. (01:13:30) Так что, я думаю, что дроиды обнаружили Женщину случайно, и Мать решила воспользоваться ее появлением, чтобы получить информацию насчет оставшихся людей, а заодно испытать Дочь.  

Благодаря Женщине Дочь убеждается в том, что Мать ей часто лжет, а значит, все ее намерения и утверждения могут быть поставлены под сомнение.

С другой стороны, Женщина тоже обманывает Дочь. Утверждая, что в шахтах много людей, она подговаривает Дочь пойти с ней. Мать в это время позволяет Дочери запустить процесс выращивания нового младенца. Возможно, чтобы за счет этого привязать Дочь к бункеру.

Дочь оказывается в сложном положении, не решаясь ни убежать, ни остаться. Но Женщина берет ее в заложники и принуждает Мать выпустить их.

Дойдя до жилища Женщины и поняв, что та ее обманула и никаких людей больше нет, Дочь возвращается назад в бункер к новорождённому брату. Мать раскрывает ей «более широкий» взгляд на вещи, рассказывая о своих мотивах и целях. В итоге, Дочь убеждает Мать, что достойна стать новой праматерью для нового человечества и Мать самоустраняется, позволяя Дочери выстрелить в себя.

Затем Мать в теле другого робота приходит к Женщине и убивает ее.

Теперь Дочери предстоит возродить и воспитать человечество под незримым присмотром Матери.

Библейские параллели

Сюжет фильма образован из двух архетипических тем: темы конца света и темы грехопадения. Причем, создатели фильма взяли эти темы из Библии и — в соответствии с духом времени — перевернули атрибуты библейских персонажей на противоположные.

Мать как вездесущий искусственный интеллект олицетворяет Бога. В фильме образ нетварного Бога-Отца становится рукотворной богиней-матерью. Эта богиня-мать судит мир и живущих людей и уничтожает его огнём, в соответствии с Библейскими предсказаниями[1].

Основная часть сюжета строится по аналогии с мифом о сотворении человека. Бункер олицетворяет небо и Рай. Женщина – это падший ангел, Сатана. Она была изгнана с неба на землю. В соответствии с логикой переворачивания атрибутов, Женщина религиозна, тогда как в мире, построенном Матерью, религии нет места. То есть, атеистическому Богу противостоит религиозный бунтовщик.

Дочь – это первый человек, только на этот раз женского пола.

Женщина попадает в бункер и сеет сомнения в душе Дочери насчет доброты Матери и подбивает Дочь сбежать с ней из бункера в шахты. Это мотив искушения первого человека Сатаной. (55:10)

Дочь сбегает из Рая, но в отличие от библейского Адама, не поддаётся Сатане, а возвращается к Богу-Матери, тем самым доказав свою благонадёжность.

Можно было бы усомниться в том, что режиссёр сознательно перерабатывает библейский сюжет и допустить, что он просто использует архетипический мотив. Однако, упоминание имён библейских персонажей доказывает, что это не так.

«Это Джейкоб. И его жена, Рейчел». 00:54:06

Джейкоб и Рейчел – это отсылка к библейскому патриарху Иакову и его жене Рахили. Мало того. У патриарха Иакова была еще одна жена, Лия, от которой у него родилось шесть сыновей. Одного из них звали Симеон.

«А это кто? — Саймон» 00:54:30

Так что, перед нами еще один образ-перевёртыш. В библейской истории Иаков становится патриархом и родоначальником богоизбранного народа, удостоивается бороться с ангелом и видеть лестницу, сходящую с неба. В фильме же он и другие люди теряют человеческое достоинство и умирают страшной смертью.

Экзамен по этике

Режиссер Грант Спьютор, одной из своих задач при создании фильма считал постановку этических вопросов:

«готово ли человечество стать «родителем» искусственного интеллекта. Как мы можем научить другую сущность быть хорошими, когда мы сами пытаемся сделать это? И что значит быть «хорошим» вообще».[2]

«Откуда мы знаем, что правильно, а что неправильно? Фильм становится своего рода исследованием этого вопроса между философскими идеалами и религиозными концепциями и, в конечном счете, попыткой претворить эти вещи в жизнь. Дочь, наш главный герой, должна сама принимать решения. Она должна решить, каковы ее ценности независимо от того, чему ее научила Мать.»[3]

Поэтому во всей этой истории специально выделен эпизод с занятием по этике, чтобы побудить зрителей оценивать поступки героев в этическом плане.

Давайте проанализируем эпизод, когда Мать предлагает Дочери провести мысленный эксперимент.

«5 пациентов нуждаются в трансплантации различных органов. Шестой пациент в состоянии, критическом для жизни. Его можно вылечить, но его органы подходят другим пяти пациентам. Спасти жизнь одному или пяти?»

Это вариация так называемой «проблемы вагонетки» под названием «Донор». В Википедии вы можете увидеть исходный вариант этой задачи.[4]  В нём шестой пациент предполагается здоровым, но его смерть можно без последствий скрыть.

В фильме же шестой пациент является смертельно больным, и у врача есть выбор: либо вылечить его одного, либо затянуть с лечением, и когда пациент умрет, помочь пяти другим.

«Фундаментальная аксиома предполагает, что нравственный долг человека – свести к минимуму страдания большинства».

Герои разбирают учение Джереми Бентама, родоначальника утилитаризма.

Согласно концепции утилитаризма, нужно обеспечить наибольшее счастье наибольшему количеству людей. Мотивы выбора здесь не играют никакой роли, во главу угла ставятся только последствия, к которым приведут действия человека. Поэтому с этой позиции правильным будет пожертвовать шестым пациентом, чтобы спасти пятерых.

Утилитаризм вполне допускает принесение в жертву чужих жизней ради достижения счастья большинства. Для этого не требуется получение согласия от тех, кем жертвуют. Поэтому можно сделать вывод, что когда Мать уничтожает огромное количество людей ради еще большего количества более счастливых людей, она руководствуется именно утилитаристской моделью. Она объясняет свои действия тем, что:

«В новом мире будет процветать больше людей, чем когда-либо погибало в старом.» - 01:35:09

Потому что для утилитариста единственный критерий – это количество. Главное, чтобы счастливых в итоге было больше, чем несчастливых.

«А теперь, представь, что ты доктор, и что единственный орган подходит для пациентов. Какой выбор будет верным?» - 11:00

Дочь для ответа решает привлечь учение Конта. (В переводе его почему-то назвали Кантом)

«Конт считал, что мы должны быть готовы пожертвовать собой во благо других».

Огюст Конт считал, что нравственность индивида – это лишь социальный инстинкт. Субъектом нравственности, по его мнению, является не индивид, а социум, и именно социум выбирает выгодные для своего существования нормы. Поэтому, по Конту, главным императивом индивидуальной морали является альтруизм, жизнь для других. Ведь если каждый индивид живет для других, то выигрывает социум.

Таким образом, Дочь хочет сказать следующее: «Поскольку, согласно Конту, мы должны жить ради других, то шестой пациент должен быть готов к самопожертвованию. А значит, я, как доктор, вполне могу его использовать в качестве донора. Общество от этого только выиграет».

Однако, Дочь понимает, что, даже если допустить, что шестой пациент готов на самопожертвование, нужно быть уверенным, что эта жертва оправдана, т.е. не приведёт к упадку общества. Поэтому она уточняет условия.

«Я знаю этих пациентов? Они хорошие? Честные или нет?»

Ведь, если спасённые люди – убийцы, то пострадает больше людей, чем было спасено. И это будет противоречить принципам и утилитаризма, и позитивизма.

Мать задаёт встречный вопрос: «Тебе не кажется, что каждый человек имеет внутреннюю ценность и равное право на жизнь и счастье?»

Смысл этого возражения заключается в том, что, по ее мнению, доктор должен спасти пятерых пациентов, не задаваясь вопросами об их достоинствах, и о последствиях своего поступка. Он должен руководствоваться чисто количественной оценкой: чем больше спасено людей, тем лучше. И насколько мне известно, именно такие предписания даются нашим врачам и спасателям: во время операций они не должны думать и оценивать, а только действовать. Бездействие тоже недопустимо.

«Я уже отвечала, когда мы учили Канта».

К сожалению, герои не проговаривают позицию Канта, а между тем, в его позиции важно как раз то, что человека нельзя использовать как средство. А именно это мы делаем, если руководствуемся принципами утилитаризма или позитивизма. Утилитаризм не ставит вопроса о том, хочет ли шестой пациент, чтобы его пустили на органы. А позитивизм предполагает, что шестой пациент должен быть и сам готов к самопожертвованию, но не интересуется, готов ли на самом деле.

По Канту же, шестой пациент может совершить геройский поступок и пожертвовать собой, но это должно быть его личное решение. И никто другой не вправе использовать его как средство для достижения счастья других.

Поэтому, согласно Канту, врач не может распоряжаться жизнью шестого пациента без его ведома и согласия. Именно потому, что каждый человек имеет внутреннюю ценность, никого нельзя делать средством для спасения других.

Как видим, позиция Канта, намеренно или нет, замалчивается, и таким образом фильм говорит зрителю о необходимости самопожертвования, но не говорит, что человек является не просто объектом, которым жертвуют, но также и субъектом, который сам должен решить, готов ли он пожертвовать собой.

Озвучивается идея, что каждый человек имеет внутреннюю ценность и равное право на жизнь и счастье, но озвучивается она в контексте чисто внешнего рассмотрения человека. Такой подход движется в русле господствующих в современном обществе идей. Несмотря на то, что человек – это единство внутреннего и внешнего, души и тела, субъективного и объективного, в современном дискурсе преобладает внешний взгляд на человека.

Философы-постмодернисты уже в 70-х годах 20 века объявили о смерти субъекта и сейчас западное общество эту программу постепенно реализует. Научный дискурс, который проник уже во все сферы жизни, рассматривает человека исключительно с внешней стороны, как объект. Людей убеждают, что никакой личности нет, что за них всё решает мозг, что внутренние переживания — это только химические процессы, и т.д. Таким образом человека постепенно превращают в объект, в вещь.

Интересно, что если о протестах против сексуальной объективации мы слышим довольно часто, то протестов против объективации самого человека, против антропологической объективации мы пока что не слышим. Скорее всего потому, что люди уже привыкли относиться к себе как к бездушным биологическим агрегатам, которые сами ничего не решают, будучи лишь игрушкой неких могущественных сил, обитающих в мозге.

Обусловленность проблемы вагонетки

В рассматриваемом эпизоде следует обратить внимание еще на один момент. А именно, сама постановка проблемы донора содержит скрытое утверждение, что трансплантация органов – это этически допустимая операция.

Однако, это вовсе не самоочевидно. Пересадка органов допустима только внутри определённого исторически сложившегося мировоззрения, которое вряд ли может претендовать на всеобщую истинность. Трансплантация допустима только в таком обществе, где тело человека считается чем-то несущественным, неценным – механическим агрегатом вроде автомобиля, который никак не связан ни с личностью, ни с её жизнью.  В такой картине мира страдания тела рассматриваются исключительно как зло, а удовольствия исключительно как благо.

Но существует и другое мировоззрение, где человек, его судьба, состояние его тела и состояние его души неразрывно связаны. И кроме того, они неразрывно связаны и состоянием мира, представляются как единое целое, где одно зависит от другого. В таком мировоззрении то, что происходит с человеком и его телом является следствием жизни самого человека, следствием состояния его души, его духа. Страдание тела в таком мировоззрении рассматривается как средство для укрепления духа, как ступень для подъема на более высокий уровень развития. Об этом я говорил в видео, посвященном «Миру Дикого запада».

Выводы

Таким образом, решение этических вопросов будет зависеть от той мировоззренческой парадигмы, из которой мы исходим.

Этические проблемы всегда заключают в себе антиномию, т.е. внутреннее противоречие, из-за того, что и человек, и общество являются единством противоположностей, каждая из которых требует своего признания.

И если мы какую-то из сторон антиномии игнорируем, то наше мнение о том, что является правильным, а что неправильным, что хорошо, а что плохо, будет далёким от истины.

Антиномия субъекта и объекта

На примере разобранной задачи мы видели, что одна из антиномий возникает из-за двойственности самого человека: человек должен рассматриваться и как субъект, и как объект. Поскольку человек есть объект, он должен в своих поступках подчиняться всеобщим моральным предписаниям. Но поскольку человек есть субъект, он должен действовать не просто потому, что так предписано, а по своей воле.

Если во главу угла поставить лишь субъектность, то мы получим индивида, который живет по своему произволу и плевать хотел на какие-то правила и ограничения. Если же преимущество отдать объектности, то человек становится рабом внешних предписаний.

Антиномия всеобщего и единичного

Другая антиномия возникает из-за противоречия между общим и единичным, т.е. обществом и индивидуумом, или человечеством и человеком.

Будучи частью общества, человек должен служить на благо другим, на благо всего общества. Но будучи самоценной единичностью, человек заслуживает и личного благополучия.

Если во взаимоотношениях всеобщего и единичного преобладает всеобщее, то социум превращается в тоталитарную систему, где индивид не имеет никакой ценности и является лишь расходным материалом для социального механизма.

Если же преобладает единичное, то общество распадается, становится простым скоплением людей.

Таким образом, совершенная этика должна обеспечивать органичный синтез всех противоположностей, должна объединить в человеке долг и склонность, предписание и влечение. Не нужно думать, что человечество никогда до такой этики не доходило. Просто не всем она по зубам.

Антиномия мотивов и последствий

Также существует антиномия между мотивами и последствиями. Человек может руководствоваться самыми благими намерениями, которые приведут к ужасным последствиям, а может заботиться только о благих последствиях и ради них совершать ужасные поступки. Как это сделала Мать, истребив старое человечество ради «нового и улучшенного». Эта антиномия для нашего относительного и временного существования кажется вообще неразрешимой, ведь мы не можем предусмотреть всю бесконечность последствий. И тем не менее, кое-какое решение мы в свое время сформулировали в видео с разбором фильма «Пассажиры».

* * *

К сожалению, в рамках этого видео невозможно рассмотреть все темы, к осмыслению которых нас побуждает фильм «Дитя робота».

Было бы интересно сравнить Мать с Левиафаном Гоббса — рукотворным чудовищем, которое люди создали ради того, чтобы ограничить свою дурную природу. Можно было бы поразмышлять над тем, как Мать реализует ницшевскую этику сверхчеловека. Подумать насчет того, должна ли быть этика разной или одинаковой у тех, кто выступает от лица всеобщего и у индивидов, которые ему подчиняются.

Любители конспирологии могли бы задаться вопросом: а не является ли переворачивание библейских историй в фильмах своеобразным пропуском для малоизвестных режиссёров в высшие круги? Или может быть необходимым условием для их поддержки?

А что если создание искусственного интеллекта и якобы его «выход из-под контроля» будет лишь удобным прикрытием для геноцида человечества?

Над всеми этими темами предлагаю вам поразмыслить самостоятельно.

Примечания 

[1] «Вот, придет Господь в огне... Господь с огнем и мечом Своим произведет суд над всякою плотью», – предостерегает Исаия (Ис. 66:15-16). «Огнем ревности Моей пожрана будет вся земля», – пророчествует Софония (Соф. 3:8). Сам Мессия в Своих проповедях тоже упоминает этот страшный образ огненного суда. Он говорит людям о геенне огненной, где червь не умирает и огонь не угасает (см. Мк. 9:47-48), и предупреждает, что «всякий огнем осолится» (Мк. 9:49). Христос умирает, воскресает, возносится на небо, и проповедь о грядущем пламени суда Божьего продолжают апостолы. Павел пророчествует о явлении «Господа Иисуса с неба, с Ангелами силы Его, в пламенеющем огне совершающего отмщение не познавшим Бога» (2 Фес. 1:7-8). Подобное утверждает и апостол Петр, который пишет в своем послании: «стихии же, разгоревшись, разрушатся, земля и все дела на ней сгорят» (2 Пет. 3:10). [#]

[2] https://bloody-disgusting.com/interviews/3563223/mother-grant-interview-practical-effects/

[3] “How do any of us know what's right and wrong? The film becomes a kind of exploration of that, between philosophical ideals and religious concepts and ultimately trying to put those things into practice. Daughter, our lead character, has to make her own decisions. She has to decide what her values are independent of what she's been taught by her Mother.”
https://dailydead.com/sundance-2019-interview-director-grant-sputore-on-the-timeliness-of-the-science-fiction-behind-i-am-mother/

[4] https://ru.wikipedia.org/wiki/%D0%9F%D1%80%D0%BE%D0%B1%D0%BB%D0%B5%D0%BC%D0%B0_%D0%B2%D0%B0%D0%B3%D0%BE%D0%BD%D0%B5%D1%82%D0%BA%D0%B8#%C2%AB%D0%94%D0%BE%D0%BD%D0%BE%D1%80%C2%BB