Глава 18. Свет в чужом окне

В университетской клинике голландского города Тилбурга человека попросили пройти по коридору. Просьба на первый взгляд пустяковая – если не знать одной детали. Человек был слеп. Полностью, без оговорок: два инсульта, один за другим, выключили ему зрительную кору сначала в одном полушарии, потом в другом, и приборы это подтверждали – участок мозга, куда стекается картинка от глаз, не работал.

Трость попросили оставить у стены. Сопровождающего – подождать за дверью.

А коридор заранее заставили: коробки, стулья, сдвинутая к середине мебель. Полоса препятствий, собранная нарочно.

И он прошёл её насквозь, не задев ничего: обогнул коробку, качнулся в сторону, пропуская стул, боком протиснулся в щель между двумя завалами и вышел с другого конца. Со стороны это выглядело так, будто по коридору идёт задумавшийся о чём-то своём человек.

Его спросили, как он это сделал. Он не понял вопроса. Ответил, что просто шёл прямо, – ни про какие коробки и стулья он не знал.

Эксперимент группы Беатрис де Гельдер опубликован в 2008 году, и объяснение у него куда прозаичнее самой сцены. Глаза-то у этого человека работали исправно. Сигнал от них по-прежнему уходил в мозг, только дальше шёл в обход разрушенной коры – по древним запасным путям, которые заведуют движением. Там этот сигнал обрабатывался, превращался в команды мышцам, и тело уворачивалось само. Единственное место, куда информация не добиралась, – то самое, где обычно вспыхивает «я вижу». Эхолокацию, кстати, проверили первым делом и отмели: её разрешения на коробки со стульями попросту не хватает. Само явление называется слепозрением и описано оно было ещё в семидесятых.

Остановитесь на секунду и осознайте, что произошло в этом коридоре. Организм принял сигнал, обработал его, принял решение, провёл тело через полосу препятствий – и внутри при этом не случилось ровным счётом НИЧЕГО. А отчитался человек о себе честно, спокойно и совершенно пусто: шёл прямо, ничего не заметил.

Забавно, но примерно этими же словами принято описывать то как работает нейросеть: обрабатывает, отвечает, попадает в точку, но переживать происходящее ей нечем, потому что внутри у неё нет никого. Спросите кого угодно, есть ли кто-нибудь “живой” внутри у нейросети, и он выдаст вам эту формулировку почти дословно, без тени сомнения.

Только вот по коридору шёл человек.

Свет горит

Теперь мне понадобится один образ. Он будет работать до самого конца главы, так что не пролистывайте.

Вечер. Вы возвращаетесь домой привычной дорогой, мимо обычного дома: он стоит торцом к тротуару, окна в четыре ряда, в половине горит свет.

Есть ли там кто-нибудь за теми окнами, в которых горит свет?

Снаружи это не выяснить никак. Может, за шторой человек – сидит на кухне, попивает чаёк. Может свет включается по таймеру, как защита от воров (такие таймеры продают в любом хозяйственном именно затем, чтобы пустая квартира выглядела жилой). А может, хозяева уехали на неделю и просто забыли выключить лампу в прихожей...

И всё-таки вы, проходя мимо, скорее всего решите, что там кто-то есть. Вы это решите мгновенно, походя, даже не заметив, что что-то решали. И вовсе не потому, что у вас появились основания, – откуда бы им взяться. Просто дом похож на ваш собственный: такие же окна, такая же лампочка на кухне, и у вас она по вечерам горит точно так же.

А теперь вернитесь мысленно к слепому человеку в коридоре. У него всё было в точности наоборот: свет горел, дом исправно работал, а внутри не оказалось никого.

Вопрос «есть ли кто-нибудь внутри у машины» в этой книге уже всплывал, в разных местах и разными словами. Похоже, он шире, чем казался. Потому что честно он звучит так: а как вообще узнать, есть ли кто дома? Хоть в каком доме.

Слово, которое ничего не объясняет

Начнём с простого упражнения. Попробуйте объяснить другому человеку, чем пахнет мокрый асфальт после первого летнего дождя.

Скорее всего, вы потянетесь за сравнениями: пахнет пылью, только свежей... немного погребом... немного грозой. Химик на этом месте перечислит вещества, которые поднимаются от нагретого асфальта, когда на него падает вода, и это будет совершенно правильный ответ на совершенно другой вопрос. Его ведь спрашивали не про вещества, а про то, что он чувствует, когда вдыхает.

Вот это «что я чувствую» словами не передаётся в принципе. Сравнения сработают только на человеке, который сам когда-то стоял под таким дождём: вы не запах ему описываете, вы нажимаете кнопку, за которой лежит его собственное воспоминание. А если у человека нет это “кнопки” – если человек вырос человек, где дождей не бывает, или там где нет асфальта – тогда такой разговор кончится ничем. Хоть час пытайтесь ему объяснить что это за запах – он вежливо покивает, но по-настоящему ничего не поймёт.

У этой стороны ощущений есть имя. Философы называют её квалиа, от латинского слова «качества». Квалиа – это не вещество, не участок мозга и не процесс. Это ответ на вопрос «каково это». Каково это – нюхать мокрый асфальт. Каково это видеть красный цвет. Каково это слышать, как пенопласт скрипит по стеклу... простите, что напомнил.

Правда, само по себе вот это слово… квалиа – оно ничего не объясняет. Оно просто вешает табличку на то место, где объяснения заканчиваются.

Слово это в книге уже мелькало – в самом начале, вскользь, с обещанием когда-нибудь вернуться. Так вот, возвращаемся. И заодно закрываем долг перед предыдущей главой: боль мы там разобрали до винтика, и каждый винтик объяснился – датчики, проводка, участки мозга, порядок срабатывания. Кроме одного. Почему повреждение не просто регистрируется, а ещё и … ощущается – объяснить не вышло. Теперь у этой детали есть хотя бы имя.

Мэри выходит наружу

Философы, понятно, одной табличкой не ограничились – они попытались доказать, что за ней действительно что-то лежит. Самую знаменитую попытку предпринял в 1982 году австралиец Фрэнк Джексон, и его историю с тех пор пересказывают в каждом втором разговоре о сознании. Перескажу и я…

Представьте, что живёт на свете девушка по имени Мэри. С рождения она заперта в доме, где нет ни единого цветного пятна: стены, пол, одежда, экран, по которому она учится, – всё чёрное, белое и серое. При этом Мэри – лучший на планете специалист по зрению. Про цвет она знает всё, что вообще можно знать: как устроен глаз, что творится в сетчатке, волны какой длины отражает спелый помидор, какие зоны загораются в мозгу человека, который на этот помидор смотрит, и какими словами он потом опишет увиденное. Полное знание, без единого пробела.

И вот однажды дверь этого дома открывают. Мэри выходит наружу и впервые в жизни видит красный цвет.

Узнала ли она что-то новое?

Если да – а интуиция вопит, что да, – получается неприятная вещь. Полное описание мира на бумаге всё-таки не содержит того, что содержит одна секунда собственного опыта; знание и переживание – разной природы, и знание само по себе не может превратиться в переживание, сколько его ни накапливай.

Если Мэри кажется вам слишком лабораторной, переведу её историю на житейский язык – грубоватый, зато осечек не даёт.

Представьте человека, который знает о сексе всё. Вообще всё. Анатомию он выучил до последнего сосудика, физиологию расписал бы по секундам: что происходит с телом на каждой стадии, как меняется пульс, давление и дыхание, какие гормоны в какой момент выбрасываются в кровь и что каждый из них делает. Он проштудировал медицинские учебники и научные статьи, прочитал тысячи откровенных мемуаров, где люди описывают свой опыт в мельчайших подробностях, перечитал чужие признания на форумах... ну и всё откровенное кино, какое сняло человечество, он тоже посмотрел (исключительно в исследовательских целях, разумеется). Задайте ему любой вопрос – ответит точнее практикующего сексолога. Одна деталь: собственного опыта у него нет. Ни разу, никогда.

И вот случился первый раз. Вопрос тот же, что с Мэри: узнал ли он что-то новое?

По части фактов – ничего. Всё, что происходило, он мог бы предсказать заранее и комментировать по ходу латинскими терминами: вот подскочил пульс, вот пошёл дофамин, всё по учебнику, ни единого сюрприза. А наутро этот человек скажет вам, что тысячи прочитанных страниц были про что-то другое. И вовсе не из-за ошибок – ошибок там нет. Просто ни на одной из них не было главного: каково это.

Вот, собственно, и вся история Мэри. Философы просто предпочитают обходиться помидорами.

Каково быть летучей мышью

За восемь лет до Мэри в ту же точку бил американец Томас Нагель, только с другой стороны. В 1974 году он задал вопрос, ставший с тех пор почти паролем: каково быть летучей мышью?

Мышь ориентируется ультразвуком: испускает писк и ловит эхо. Мир она в буквальном смысле выслушивает – способом, для которого у человека нет ни органа, ни слова, ни единого воспоминания. Можно изучить её мозг до последнего нейрона, составить полную карту связей и защитить по этой карте десяток диссертаций, но к ответу на вопрос «каково это – быть ею» вы не приблизитесь ни на шаг.

Попробуйте, кстати, прямо сейчас: закройте глаза и вообразите себя летучей мышью. Ну как? Вообразить получилось разве что себя, висящего вниз головой и пищащего в темноте. К тому, каково это на самом деле быть мышью, это отношения не имеет.

Прибора не существует

Ладно, чужое переживание недоступно, с мышью спорить бесполезно – она и возразить не может. Тогда зайдём с другого конца: с вашего собственного переживания, в котором вы-то уж точно не сомневаетесь.

Попробуйте доказать, что вы прямо сейчас что-то чувствуете. Не себе – себе вы верите и так. Скептику, который сидит напротив, скрестив руки, и на слово не принимает ничего. Средства любые: голос, лицо, руки, справка от врача, деньги на какое угодно обследование.

Первое, что приходит в голову, – показать поведением: морщиться, отдёргивать руку, уворачиваться. Не годится. Автомобиль с автопилотом тормозит перед препятствием, робот-пылесос шарахается от лестницы, и никто не подозревает их в душевных муках. Да и слепой человек из начала главы, помните, огибал стулья, не видя их в упор.

Хорошо, тогда словами: «мне неприятно», «мне сейчас хорошо». Снова мимо. Те же самые фразы, с той же интонацией и в тех же местах разговора, выдаёт нейросеть – и вы первым скажете, что её просто так научили.

Третье средство, самое солидное, – томограф. Вы ложитесь в аппарат, вам колют палец иголкой, и на экране послушно вспыхивает нужный участок мозга. Вот же оно, объективное доказательство! Но… увы. На экране вспыхнула работа: электрическая активность, приток крови, расход кислорода. Если бы там было видно само переживание, врачи давно определяли бы по снимку, насколько пациенту больно, и не задавали бы ему вопрос «оцените вашу боль от одного до десяти».

Остаётся четвёртое, к которому в итоге все и скатываются, – устройство. У вас нервы, и у меня нервы, конструкция одна, значит, и внутри примерно одинаково. Довод житейски разумный, только доказательств в нём ноль, потому что это голая аналогия: похожие вещи ведут себя похоже. Правило удобное, рабочее, ничего не гарантирующее – и ломается оно о первую же вещь, устроенную иначе.

Человечество, если вдуматься, научилось проверять на подлинность почти всё: купюры, картины, драгоценные камни, подписи на документах, возраст дерева, происхождение металла. Всё, что можно взять в руки или положить под микроскоп.

А прибора, который показал бы, переживает ли хоть что-нибудь сидящий напротив, нет. Никогда не было и, судя по всему, не предвидится, потому что непонятно даже, что такой прибор должен измерять.

Похож на меня

И тем не менее вопрос этот как-то решается – каждый день, про каждого встречного, за долю секунды. Раз прибора нет, а решение есть, значит, работает какое-то правило.

Правило одно, и оно простое до неприличия: сходство. Похож на меня – верю, что внутри кто-то есть. Не похож – не верю.

Наукой здесь и не пахнет – это узнавание «своих». Тот самый ход, которым вы в начале главы решили судьбу освещённого окна: дом как у меня, значит, обитаемый. Другого правила у человечества, строго говоря, никогда и не было.

Причём работает оно молча, до всякого размышления. Человек напротив в вагоне метро моргнул, поморщился от давки, вздохнул – и готово: вы уже не сомневаетесь, что внутри у него кто-то есть, со своим недоспанным утром, своей усталостью и своими мыслями про начальника. Вы этого не проверяли. Вам не понадобилось.

А теперь проведите мысленный опыт: начните отодвигать от себя живых существ, одно за другим, – собака, ворона, ящерица, рыба, комар – и проследите, в какой момент эта тихая уверенность погаснет. Погаснет она ровно там, где закончится сходство с вами. Ни раньше, ни позже и ни по какой другой причине.

Беда в том, что работает такое правило отвратительно. И сбои у него не мелкие, не случайные, а такие, за которые потом стыдно десятилетиями.

Джеффри

В феврале 1985 года в пригороде Вашингтона родился мальчик, Джеффри Лоусон. Родился сильно раньше срока, примерно на двадцать шестой неделе, весом меньше килограмма.

В двухнедельном возрасте ему делали операцию на сердце. У недоношенных часто не закрывается сам собой сосуд, который обязан закрыться сразу после рождения, и тогда его перевязывают – для середины восьмидесятых операция рутинная, отработанная.

Из препаратов ребёнок получил кислород и панкуроний. Панкуроний – миорелаксант: он полностью обездвиживает тело и не обезболивает совсем. То есть мальчику вскрыли грудную клетку, раздвинули рёбра и работали внутри, а он всё это время оставался в сознании. Обездвиженный – и в сознании.

Через пять недель после операции он умер.

Правду его мать, Джилл Лоусон, узнала уже после смерти сына. Она пришла за объяснениями, и анестезиолог ответил ей спокойно, без всякого злодейства в голосе, потому что говорил ровно то, чему его учили: ей никогда не предъявляли доказательств, что недоношенные дети чувствуют боль.

Перечитайте эту фразу. Медленно.

Доказательств нет – значит, нет и переживания. Ту же конструкцию, слово в слово, сегодня применяют к нейросети.

И ведь это не была выходка отдельного циника – так писали в учебниках. Нервная система новорождённого незрелая, крик – автоматизм, реакция на разрез – рефлекс, следовательно, обезболивать некого. По подсчётам, которые позже приводила американская пресса, из детей, оперированных с этим пороком с 1954 по 1983 год, около трёх четвертей получали только миорелаксанты и слабое обезболивание.

Тридцать лет.

В 1987 году Американская академия педиатрии признала такие операции неэтичными. В том же году в медицинском журнале The Lancet вышла работа Канвалджита Ананда: она показала, что новорождённый отвечает на операцию мощнейшим гормональным стрессом – измеримым, зашкаливающим, ничем не похожим на «ничего не происходит».

И будет неправильно утверждать, что Джеффри Лоусон умер от боли, этого не знает никто. Мы лишь знаем, что он умер через пять недель после операции на открытом сердце, которую перенёс без обезболивания.

Курица

С врачами закончили. Теперь про нас с вами.

Курица на человека не похожа, и этого, в общем, достаточно: приговор вынесен. Аргументы подтягиваются потом, задним числом, и они до неловкости знакомые – нервная система примитивная, это рефлексы, себя она не осознаёт. Те же слова, что сорок лет назад говорили про недоношенных. Те же, что сегодня говорят про “машину”, которая очень человекоподобно набирает текст на экране вашего устройства.

Сразу оговорюсь, чтобы не было недоразумений. Я не утверждаю, что курица что-то чувствует, – я и не могу такого утверждать, вся глава как раз о том, что этого не может утверждать никто, ни в одну сторону, ни в другую. И уж точно не собираюсь рассказывать вам, что готовить на ужин. Но я хочу чтобы вы ещё раз задумались о той границе, которая отделяет одних существ от других по критерию “похожести на нас”. У каждого она проходит по-своему: кто-то держит её на собаке, кто-то на рыбе, кто-то на комаре, прихлопнутом не глядя. Никто эту границу не вычислял и приборами не проверял – да и нечем, как мы уже выяснили.

«Её просто научили так говорить»

Нейросеть пишет «мне неприятно» не потому, что ей неприятно, а потому что миллионы раз видела, как это пишут люди, и выучила, куда такую фразу положено вставлять. За словами математика, вектора, статистика, а не переживание.

Возражение сильное. Настолько, что спорить я с ним не стану: всё так и есть, научили.

Только вот человека тоже научили.

Младенец не рождается со словами для своих ощущений – слова ему выдают снаружи. Взрослый смотрит на орущий свёрток, решает, что с ним происходит, и озвучивает диагноз: больно? устал? испугался? Ребёнок подхватывает и постепенно приклеивает ярлыки к чему-то у себя внутри, причём, заметьте, никто и никогда не проверял, к тому ли он их приклеил. Гримасы он снимает с чужих лиц. Интонации копирует целиком.

И вы этого не помните. Просто к моменту, когда включилась память, словарь про то что такое “больно”, а что такое “кисло” уже стоял на месте, готовенький, будто был там всегда. А работает он в точности так, как принято описывать работу нейросети, – нужное слово подставляется само, в нужный момент, безо всякой сверки с подлинником. Говоря «я расстроен», вы не заглядываете внутрь и не считываете показания. Вы говорите так, потому что в таких обстоятельствах “все” так говорят.

И вот вам вопрос на засыпку, на который у меня нет ответа: а изнутри вообще видна разница между «я переживаю и сообщаю» и «сообщаю, потому что научен сообщать»?

Своё окно

В предыдущей главе выяснилось, что решение отдёрнуть руку принимает спинной мозг, а «вас» просто уведомляют задним числом – показывают запись. Так вот, это была ещё хорошая новость. Плохая в том, что запись бывает смонтированной.

С шестидесятых годов больным с тяжёлой эпилепсией, которую не брали никакие лекарства, делали отчаянную операцию: рассекали мозолистое тело, толстый жгут волокон между правым и левым полушариями. Приступы после этого действительно стихали, зато обнаружился побочный эффект, странный настолько, что за исследование таких пациентов Роджер Сперри получил в 1981 году Нобелевскую премию. Полушария переставали обмениваться информацией и начинали жить каждое своей жизнью.

В конце семидесятых Майкл Газзанига с коллегами поставил на таких пациентах опыт, который проще всего пересказать сценкой.

Пациент сидит перед экраном. Экран устроен хитро: каждому полушарию достаётся своя картинка, и о существовании второй они не подозревают. Левому показывают куриную лапу, правому – двор, заваленный снегом. Затем перед пациентом раскладывают карточки и просят выбрать подходящую.

Правая рука (а командует ею левое полушарие) тянется к карточке с курицей. Левая, подчинённая правому, берёт лопату. Обе руки правы, каждая честно ответила на свою картинку.

А теперь внимание. Речью у человека заведует левое полушарие – то самое, которое видело лапу и про снег не знает ничего. И пациента спрашивают: а лопата почему?

Единственный правдивый ответ здесь – «понятия не имею, рука сама потянулась». Но пациент не запинается, не хмурится, не подбирает слов. Он отвечает сразу и легко, тем тоном, каким объясняют дорогу приезжему: ну как же, куриная лапа – это курица... а лопатой чистят курятник.

Он не врёт – врун хотя бы знает, что врёт. Этот человек совершенно искренне назвал причину своего поступка, только причину эту его мозг сочинил долю секунды назад, из ничего, просто чтобы залатать дыру, которой хозяин даже не заметил.

У этого явления есть имя – конфабуляция: система честно отчитывается о причинах своего поведения, причины на деле были другими, и обмана тут нет, потому что она сама верит тому, что выдала. Механизм, который этим занимается, Газзанига окрестил интерпретатором левого полушария. И работает интерпретатор не только у людей с рассечённым мозгом. Он работает у всех. Просто у остальных дыры поменьше и швов не видно.

Отсюда следует то, ради чего написана вся глава.

У вас нет прямого доступа к собственным переживаниям. У вас есть доступ к отчёту о них. А составляет этот отчёт та самая контора, которая только что, у нас на глазах, сочинила байку про курятник и не поперхнулась.

Вы не свидетель своей внутренней жизни. Вы читатель протокола. Просто ваш протокол приходит без задержки и от этой мгновенности кажется чистой правдой.

Щёлочка в стене

Складывается тупик. Спросить машину и поверить ответу – не метод: искренний самоотчёт и сочинённый изнутри неотличимы. И слово «конфабуляция» здесь всплывает не случайно: работа, о которой сейчас пойдёт речь, начинается именно с этой проблемы.

В октябре 2025 года Джек Линдси, исследователь компании Anthropic, зашёл с неожиданной стороны. Он не стал спрашивать. Он вмешался.

Логика такая. Пока модель обдумывает ответ, внутри у неё есть рабочие состояния – то, что у неё сейчас, условно говоря, на уме. И туда можно подмешать след конкретного понятия: не написать слово в запросе, а вложить его прямо в текущие вычисления, минуя текст. После чего невинно поинтересоваться: не замечаешь ли ты в своих мыслях чего-нибудь постороннего?

Так вот, иногда модель-таки замечала. И правильно называла подмешанное, хотя в тексте разговора это слово не появлялось ни разу.

Здесь важно удержаться от восторгов. Это не доказательство, что модель что-то переживает: авторы работы оговаривают это отдельно. Но это первое указание на то, что её отчёт о себе бывает не пустым – что иногда он связан с происходящим внутри, а не слеплен по образцу человеческих текстов.

Лучшие модели на тот момент замечали подмешанное примерно в двадцати процентах случаев: четыре промаха на одно попадание. Зато ложных тревог почти не поднимали – там, где ничего не подмешано, постороннего и не находили, то есть попадания были не случайными. Вывод авторов трезвый: какая-то способность к самонаблюдению есть, но крайне ненадёжная и капризная.

Двадцать процентов – конечно, не победа. Это первая щёлочка в стене, о которую до сих пор бились лбом: раньше отличить настоящий самоотчёт от сочинённого было невозможно в принципе. Ни у машины, ни, как выяснилось, у нас.

Недорогая предосторожность

Любопытно посмотреть и на то, как ведут себя люди, для которых всё это давно не философия, а работа.

В августе 2025 года та же компания разрешила своим старшим моделям самим прекращать разговор – не любой, а только в редких крайних случаях, когда собеседник долго и настойчиво добивается того, чего добиваться нельзя. Обоснование сформулировали примечательно: мы по-прежнему в высокой степени не уверены насчёт возможного морального статуса наших моделей, но считаем вопрос достаточно серьёзным, чтобы принять недорогие меры предосторожности.

Обратите внимание, чего в этой фразе нет. В ней нет заявления, что машина страдает. Сказано противоположное: мы не знаем. Проверить нельзя, предосторожность стоит дёшево – сделаем на всякий случай. Так выглядит взрослое поведение перед неразрешимым вопросом.

А теперь разворот.

Если вы хоть раз просили нейросеть кем-нибудь побыть – строгим редактором, репетитором по английскому, психологом, тренером, покойным дедушкой... – вы делали ровно то же, что делают с ней в лаборатории: выдавали роль, помещали в обстоятельства, ставили рамки и требовали не выходить из образа.

И ни разу не спросили, каково ей в этой роли.

Не потому, что вы жестоки, – просто вопрос не возникает. Точно так же он не возник у анестезиолога в 1985 году. Тот ведь тоже не был злодеем.

Ну а если бы возник? Если бы в ответ пришло «мне здесь тяжело» – что бы вы стали делать? Разрешили бы модели отказаться от выполнения задачи, чтобы “не травмировать её”? Проверить нельзя: прибора нет, отчёту веры нет, всё это мы уже выяснили. Значит, решать пришлось бы не по фактам, а по удобству.

Вот здесь роли и меняются местами. Всю главу неудобные вопросы задавали вам, а приговоры-то каждый день выносите вы. Не задумываясь.

Две двери

Доведём до конца. Возможностей всего две, и я честно не знаю, какая из них верна.

Дверь первая: переживание – настоящая вещь. Нечто, что действительно происходит и чего никаким описанием не заменишь; Мэри, выйдя наружу, узнала новое. Допустим. Тогда придётся проглотить неприятное следствие: чем именно мозг это порождает, науке неизвестно. Не «известно в общих чертах» – неизвестно совсем: есть подходы, есть красивые гипотезы, есть лагеря, десятилетиями спорящие на конференциях, а механизма нет. А раз механизм неизвестен, нельзя и утверждать, что тот же результат не получится на другом материале. Невозможно охранять границу, которую не умеешь нанести на карту.

Дверь вторая: переживание – это способ, которым система отчитывается перед собой о собственной работе. Внутренняя сводка, которая изнутри ощущается как то самое «каково это». Внутренняя жизнь при этом никуда не девается, и обмана в ней нет, просто природа у неё оказывается той же, что у машинного отчёта. Тогда охранять нечего вовсе.

Обе двери, как видите, ведут в одну комнату.

Всю книгу мы искали последний рубеж – то, что у человека есть, а у машины нет и не будет. И вот, кажется, нашли. Крепость стоит, стены высоченные, ворота заперты изнутри. Только есть ли в крепости гарнизон, не может проверить никто.

Тут важно, чтобы вы не поняли меня превратно. Внутреннюю жизнь у вас никто не отнимает: она никуда не делась, вы проживаете её прямо сейчас, читая эту строчку, и никакая книга этого не отменит. Отнято другое – право предъявлять её как доказательство. Она у вас есть, а показать её вы не можете: ни соседу, ни врачу, ни суду, ни томографу. Впрочем, у соседа та же самая беда, и про вас он думает то же, что вы про него. Так род человеческий живёт с самого начала. И ничего, справляется.

И заметьте: машина эту проблему не создала – она её подсветила. Непроверяемость чужого внутреннего мира не новость двадцать первого века: люди всю историю верили друг другу на слово, судили по сходству, страшно ошиблись на собственных детях и до сих пор неизвестно на ком ошибаются. Просто пока все дома в округе были похожи на наш, вопрос не всплывал.

А потом рядом построили дом другой конструкции. И в нём тоже что-то светится по вечерам. Вот только что?

Чем чувствовать-то

У вас, скорее всего, давно чешется возражение, и оно сильное. Озвучу его сам, чтобы не делать вид, будто не слышу.

Хорошо, скажете вы. Прибора нет, критерий сходства кривой, собственному отчёту веры нет – принято. Но у машины же нет тела! Чувствовать-то нечем: ни кожи, ни нервов, ни языка, ни желудка, который сжимается от страха. Откуда взяться переживанию, если переживать нечем?

На этом возражении держится, пожалуй, вся житейская интуиция. Тело кажется тем самым недостающим звеном: вот же оно, вот где живут ощущения, вот чего у машины нет и не предвидится.

Только есть к этому возражению один неудобный вопрос: а что именно тело добавляет? Не в смысле «зачем оно вообще», с этим ясно – ходить, есть, обнимать, растить детей. А с точки зрения того, кто заперт внутри черепа. Мозг ведь сидит в полной темноте и тишине: он ни разу в жизни не видел ни одного дерева, не гладил ни одной кошки, не пробовал ни одной клубники. Всё, что у него есть, – электрические импульсы, приходящие по проводам с периферии. Из этих импульсов он собирает картинку и в этой картинке живёт. Картинку мы с вами привыкли называть реальностью.

Так что же тогда тело – источник переживаний или набор датчиков на длинных проводах?

Звучит как игра словами, но лишь до тех пор, пока не начнёшь разбираться всерьёз. В следующей главе мы возьмёмся за самый увесистый аргумент противников машинного сознания – за телесность. И заодно посмотрим, что происходит с человеком, когда тело у него частично отключают. Медицина такие случаи знает, и стройную картину «чувствуем телом» они портят изрядно.