Осторожно, ниже длинный текст. Хоть он и длинный, тема ещё длиннее, так что это просто затравка для обсуждения в комментариях. Наверняка у вас найдутся соображения.
На конференции AI Jorney от Сбербанка 23-24 ноября 2023 планируется секция по «цифровому бессмертию». Очевидно, про «перенос личности в компьютер», аватаров умерших и всё такое. Мы туда с Натальей не идём в президиум, но послушаем.
Это, конечно, тема трансгуманистов. Многим разумным людям этот безумный «нарратив» не нравится, и они спорят с ним, возражают. Однако, обычно аргументы спорящих и несогласных – технические. Типа, не получится, не выйдет, как же это сделать, мощности не хватит, нейронов в мозгу очень много и т.п. Потому что возражающие – в основном «физики», а не «лирики».
Между тем, нужно понимать, что технические аргументы – здесь нерелевантны.
Во-первых, они легко разбиваются аргументом «да, пока технологии ещё не дошли, но скоро же (максимум 5-7 лет) дойдут же». Сингулярность, полная цифровизация человечества, прогресс не остановить, все там будем, вы что, луддиты и т.п.
Как вы можете судить, что будет, когда Сингулярность случится? Вот же график, что она наступит!
Эти 5-7 лет до прихода «Сильного ИИ (сейчас его стали называть «Генеральным ИИ», «Общим ИИ»), до Сингулярности, до переноса сознания в компьютер – так и остаются каждый год пятью-семью годами уже десятки лет. Я лично про это читал в середине 80-х, а потом в начале 90-х, а потом в начале 2000-х и т.п. Курцвайли, харрарии, швабы и прочие «жрецы цифры» всех мастей дуют в эту дуду постоянно.
Не, ну понятно, что сейчас-то – уже точно через 5-7 лет.
Во-вторых, весь нарратив трансгуманистов, а также цифровизаторов в общем смысле – религиозный, а не технический. А именно, оккультный. Это религия Бога Технологий.
На этом языке, на этой платформе и нужно про него разговаривать.
Приход Бога Технологий
Нам, по сути предлагают именно религию – настоящего, без балды, без обмана Бога технологий. Этот бог обладает всеми необходимыми свойствами бога и мессии сектантов:
– Он магичен и непознаваем (как минимум для 99% населения). Только посвящённые могут с ним общаться, остальным он возвещает свою волю через посвящённых.
– Он технологичен, современен, он умный и для умных! Это вам не доморощенные Бог Кузя или Деви Мария Христос с их тупыми нарративами, воровством и промискуитетом, маленькими аудиториями неудачников и мракобесов. Это не нудная РПЦ и не опасная мечеть с их устарелыми нарративами для кочевников позапрошлых тысячелетий.
Нет, это умный, сложный, интеллектуальный Бог для солидных, образованных, продвинутых господ, владеющих технологиями. Это стильно, модно, молодёжно, не для старпёров с их «традиционными ценностями», фу-фу-фу.
– Он глобален: это же весь мир, Технологии приходят в наш медвежий угол извне, из Цивилизации, весь мир уже на его стороне!
– Он обещает невероятные и невиданные ништяки: физическое бессмертие, вечное здоровье, суперспособности, вечный мир на планете, отсутствие войн и болезней, блаженную праздность. И всё это выглядит очень достоверно – потому что понятно, достижимо, алгоритмично, нужно просто сделать.
– Он обещает эти ништяки здесь и сейчас, чем выгодно отличается от нудного и напряжного христианства, обещает на Земле, в земной жизни.
И для получения их не нужно вот этой всей шняги, как в христианстве – не нужно воздерживаться от удовольствий (с хрена ли), не грешить (да можно всё, что законно), страдать, молиться ещё зачем-то (кому вообще, там нет никого), умереть (прикиньте, да, это вот что вообще), там потом ещё Суд какой-то дурацкий (да кто дал право меня судить-то, я никому ничего не должен!).
Ничего этого не надо – Бог технологий освобождает нас от всей этой тягомотины! Всё, что обещало христианство, но здесь и сейчас.
Нужно просто подождать развития технологий, а пока покупать очередные версии, не лениться «овладевать технологиями», разрешить себе и технологиям слиться воедино, стать нормальным, современным цифровым индивидуумом. Это вопрос принятия и денег (да и деньги потом будут небольшие, подъёмные, когда всё разовьётся).
Короче, нужно просто поклониться сияющему и всемогущему Богу Технологий, и нашими будут все царства земные и вечная жизнь прямо тут, на месте.
– И это не развод: Бог Технологий творит чудеса уже сейчас! Вот мой айфон последней модели, цветной, переливающийся, светящийся, вот коммуникации, соединившие весь мир, вот говорящая и показывающая, божественно умная и благожелательная GPT. Вот видосики Ютуба, вот доставка хавчика и гаджетов к двери, вот такси к подъезду за пару минут! Что вам ещё нужно, чтобы поверить? Оно просто работает! Мистики никакой. Без регистрации и СМС.
Да, основных чудес нужно немного подождать. Ну и что, подождём, какие наши годы, а нам пока расскажут о них на ИИ-конференциях. Благо они каждую неделю.
Эту религию можно называть трансгуманизмом, можно просто одержимостью цифровизацией, можно верой в ИИ или в Сингулярность – это неважно. Важен религиозный характер этой веры со всеми её атрибутами.
Жрецы
Естественно, у Бога Технологий есть жрецы. А как без них-то? Ведь основная масса населения – это не стильные и модные, продвинутые программисты, маркетологи, копирайтеры и коучи, которые и так понимают прогресс, а быдло, это косная, туповатая масса, луддиты, боящиеся технологий, им нужно разъяснять их же пользу. Всем этим мамашкам, старпёрам, совкам, православнутым, мусульманам, тормозным чиновникам.
Кто эти жрецы? Это журналисты, банкиры, маркетологи, профессиональные рассказчики «про ИИ», начальники «департаментов цифровой трансформации» в губернаторствах и крупных госкорпорациях. А также наши маски и харрари, да вот хоть Герман Оскарович.
Эти банкирно-маркетологические жрецы замечательны не только тем, что они всё-всё знают про новейшие, планирующиеся, и только зарождающиеся технологии, про наше счастливое будущее, но и ресурсные: они реально могут это всё сделать у них – деньги всей страны, у них центры ИИ, у них нацпроекты и нацпрограммы, у них нарядные бюджеты, огромные здания и залы, у них суперкомпьютеры, беспрерывные конференции и доступ к СМИ.
Всё же есть, чего ж не сделать-то.
Конечно, у религии Бога Технологий есть и все остальные атрибуты культа: священная лексика, священные писания, молитвы, службы, символика и т.п. Кстати, у нас в стране священные тексты Религии Технологий получаются простым переводом с английского или просто приписыванием русских окончаний к английским терминам. Я для экономии не хочу приводить примеры и тратить на это электроны.
Теперь, когда место этого «нарратива» обрисовано – это оккультный, религиозный нарратив, и место его «евангелистов» тоже – это жрецы, погонщики секты, поговорим подробнее о том, что они обещают. А именно о самом волнительном, самом сладком обещании – о Цифровом Бессмертии.
Итак, основная мысль: пересадка сознания в компьютер. Это даёт бессмертие сознанию – ведь компьютер может работать вечно, он не подвержен ужасам старения и болезням (ну, то второстепенное обстоятельство, что без электричества он не работает, обычно оставляется за кадром – есть же солнечные батареи, АЭС, настенная батарея Маска, что там ещё, это вопрос технический).
Пересадить в компьютер. Да как два байта переслать.
Мозг – ведь это что? Это же такой же компьютер, просто биологический. У него есть нейронная сеть, процессор, долговременная память, оперативная память, периферия, да? Да всё понятно же.
Так что мешает просто всё это просканировать и повторить «в железе»? Да ничего не мешает.
Есть конечно, слабые, не слышимые массой и жрецами Бога Технологий, хотя и многочисленные голоса о том, что компьютерная метафора для мозга – это туфта, разводка. Обычное заблуждение века.
Стоит почитать, например, хоть статью на Хабре про это:
Там как раз рассказывается, что в предыдущие века и тысячелетия люди себе представляли человеческий мозг, по мере развития и внедрения в быт промышленных технологий, то как клепсидру с разными типами перетекающих желчей и флегм, то потом как паровую машину с клапанами, потом как колёсики, шестерёнки и кулачковые механизмы, потом как электрическую схему. Потом вообще как радиоприёмник, принимающий волны сознания откуда-то извне. И так далее – согласно господствующей на данное время главной технологической парадигме.
И вот теперь мозг практически всегда и везде представляется, подаётся, объясняется «как компьютер» – потому что так ведь проще всего объяснить профанам. Вполне общим местом является, когда программист или маркетолог говорят «моя нейронная сеть в голове обучилась тому, что», «у меня оперативная память переполнилась» и т.п.
А вообще-то простые эксперименты показывают, что в мозгу нет процессора, нет «памяти» или «оперативной памяти», что воспоминания «записываются» и «хранятся» в каком-то непонятном виде, непохожем на запоминаемые события, факты и вещи, и обрабатываются непонятным образом. Синтезируются на лету, каждый раз по-разному и т.п. Почему непонятным – ну потому что пока не разобрались. Трудно изучать микроскоп с помощью микроскопа же.
Но что с того? Про «мозг – это компьютер» – понятнее же.
А дальше курцвайлями всех стран производится доставание карты из рукава, делается ловкий, энергичный манипулятивный логический перескок: раз мозг – это компьютер, просто мощный, так его можно повторить на компьютере же; ну так у нас уже есть компьютеры, да, пока чуть менее мощные. Но мощность растёт, квантовые компьютеры будут, в конце-то концов.
И мы же можем уже имитировать мозг, мышление, а скоро повторим мозг на 100%, всё для этого есть: сканеры мозга реального времени, карта активных зон, вычислительная мощность, нейронные сети, наконец. Вон GPT как разговаривает и рисует, загляденье…
Там же нейроны
Масса адептов, конечно, не знает, что в «нейронных сетях» нет никаких «нейронов». Это просто матрицы чисел, вероятностей, которые умножаются на вектора данных, на друг друга, пересчитывают коэффициенты в клетках по сложным правилам – и только. Неспроста основной мировой «нейронный фреймворк» от Гугла так и называется Tensor Flow, то есть «Поток матриц».
А само название «нейронная сеть» – маркетинговый трюк учёных 80-х годов. Это трюк, прочно укоренившийся в массовом сознании, сейчас используется для манипулятивной рекурсии, обратной логической петли:
Ну вот, у нас в мозгу нейронная сеть, так? И вот в компьютере тоже нейронка. Ну так всё практически уже сделано!
Так можно сознание пересадить или нет?
Конечно, да! – говорят нам жрецы БТ. Сканируем мозг, составляем карту активных зон, понимаем, как формируются и обрабатываются мысли, записываются воспоминания, потом повторяем это в компьютере – безусловно с помощью нейронных сетей, которые настолько умные, самообучающиеся, размытые и вероятностные, что помогут нам восстановить даже то, что мы не успели описать – и вуаля! Человек со всеми его данными, памятью, привычками и мыслями – уже там. Естественно, он осознаёт себя, а как иначе, у него же всё такое же.
Сейчас уже есть нейроинтерфейсы, уже размытые картинки по сигналам из мозга восстанавливаем, скоро уже всё будем читать.
А что пересадить-то?
Тут есть пока небольшая второстепенная проблема, заключающаяся в том, что мы до сих пор не знаем, что такое сознание. Существует масса философских, футурологических, психологических и медицинских книг с названиями вроде «Сознание», «Проблема сознания», «Мышление» «Осознание», «Понимание» и т.п. Они не только противоречат друг другу, но внутри себя также несут порочные логические круги и противоречия. Очень трудно изучать инструмент с помощью него же самого.
Единой теории сознания – нет, победившей или доказанной научной гипотезы – нет. Даже единой психологической теории – нет, есть ворох нелепых выдумок и наборов практических приёмов от Фрейда с Юнгом для современных «практических методов психологии», тесно спаянных с фармакологией.
Любой психолог, желающий прославиться , продвинуться, стать главой научной школы, придумывает свою теорию личности, свой набор личностных характеристик – от «лабильность / сила нервной системы» до т.н. «Большой пятёрки» (печально знаменитой фейковой историей с Кэмбридж-Аналитикой), свою классификацию психотипов от сангвиников и холериков до десятков самых замороченных и т.п. (и это при том, что до сих пор даже не доказано, что у людей существуют устойчивые психотипы).
В реальности, мы не можем достоверно установить наличие сознания даже у нашего человека-собеседника. Кто его знает, осознает он себя или нет. Мы просто предполагаем, что он такой же как мы – по аналогии. Очень похоже, говорит и ведёт себя так же, тоже ведь человек. Ну, наверно, осознаёт себя – как мы.
Бритва Оккама и принцип «ходит и мяукает как кошка» велят нам считать, что сознание у собеседника – есть.
Но судим мы об этом только по внешним проявлениям. Неспроста великий Тьюринг придумал свой тест Тьюринга на «сильный ИИ», который по сути говорит: если мы по внешним проявлениям (разговор через сеть, например) не можем отличить робота от человека, будем считать, что сильный ИИ создан. Но и он остерёгся говорить о сознании, об осознании себя этим ИИ и т.п. Он же был умный.
Но евангелисты Бога Технологий не остерегаются, у них-то таких тормозов – нет, они не Тьюринг, они маркетологи–продавцы-жрецы. Их заводит голливудщина в стиле Спилберга, где роботы с ИИ прям как люди, ходят, понимают, страдают, любят и убивают.
Они и продают нам голливудщину. Ещё немного, и будут продавать примерно вот такую:
Кто будет на той стороне?
Эту проблему наличия и природы сознания довольно трудно осознать. Для понимания подхода к проблеме стоит почитать , например, статью в Википедии, которая так и называется «Трудная проблема сознания».
Как понять, сознание наше – оно чем определяется? Ну если не его существование вообще, а хотя бы его идентичность? Где его «истинный ID»? Вот мы проснулись, будучи без сознания последние восемь часов, во сне – это те же самые «мы»? А почему? Как это узнать, подтвердить? А после гипноза? А после потери сознания от нокдауна, падения, обморока, катастрофы?
Теперь, наверно, немного яснее, почему есть сомнения про «перенос сознания». Как понять, что перенеслось или не перенеслось? Что, память та же? Но ведь её можно скопировать!
Рассмотрим пару мысленных экспериментов, вымышленных моделей.
1. Модель: нуль-транспортировка людей
Возьмём для начала в качестве мысленного эксперимента, модели вымышленную технологию нуль-транспортировки. Мы все видели эту нуль-транспортировку много раз, начиная с «Гостьи из будущего». Она везде, у фантастов 60-х, у Стругацких, Шекли, Саймака, Азимова, да вообще это практически »коммодити», ширпотреб то есть. У всех есть.
Чё там объяснять – простая технология: зашёл в дверь тут – вышел в космопорте, а то и на Альфе Центавра.
Удобно же. Стильно, круто, инновационно.
Но кто там вышел? Вы со своим набором атомов, тканей, костей, крови, слизи зашли тут. Куда оно делось? Перенеслось прямо физически? Нет, это мы не будем рассматривать. Физика – это святое. Скорость света нельзя нарушать. Вот квантовая запутанность – это можно. Кротовьи дыры – ну ладно, но мы про нуль-транспортировку, а не про гиперпространство.
Значит, тут распылили – а там собрали из таких же атомов заново. Возникает много вопросов:
– А кто там вышел? Он осознал себя как вы? Это точно вы? Может, там вселился демон, какая-то чуждая сущность, которая просто ловко притворяется по Тьюрингу, имея весь мозговой инвентарь?
– А куда делся тот, кто вошёл здесь, оригинал? А не произошло ли фактическое убийство на этой стороне?
– А если тут не распылять оригинал, то будут же плодиться двойники? А они же потом будут накапливать разный опыт, расходиться? Или будут синхронизированы, квантово запутаны?
Да вообще голову сломаешь! Ну, это если голова есть.
2. Модель: перенос сознания в компьютер
Легко видеть, что перенос сознания в компьютер (или в выращенного биологического клона, неважно) по объёму и составу возникающих непоняток и философских проблем – представляет собой ровно то же самое.
Предположим для простоты, что всё уже сделано. Вот, допустим, дверь суперинновационной системы цифрового клонирования от Сберяндекса.
Если в неё войти, ваше сознание будет сканировано и перенесено в компьютер на той стороне. Предположим – для приятности – что заодно уж на той стороне ещё и выращено для вас новое биологическое тело (ну, может, немного кибернетическое) – молодое, крепкое, здоровое, бессмертное, с суперспособностями. И вы выходите оттуда – с вечным мозгом и телом, и начинаете новую жизнь. Круто же?
Или не вы? Как узнать-то? Вот при переносе и удалении старого тела (усыплении, заморозке, архивировании, неважно) что-то мигнёт, мгновенная темнота – и вы себя осознаете в другом теле? Или нет? Или осознает кто-то ещё?
Вот есть такая дверь, ваш слот по расписанию, всё оплачено, можно войти.
Войдёте?
Как осознаёт себя двуногое без перьев и с плоскими ногтями?
Этот вопрос об «истинном идентификаторе личности», «аутентичном ID», который сохраняется даже после сна, обморока, комы – для цифровизаторов, евангелистов Бога Технологий, трансгуманистов – мне кажется, не существует.
Не является проблемой и даже не поставлен. Им эта статья в Википедии про «Трудную проблему сознания» – не упёрлась. Тоже мне «трудная проблема». Чего там думать – трясти надо, сканировать мозг, повышать производительность графических карточек для нейронки и т.п. Делать надо, а не ныть и менжеваться.
Для цифровизаторов/трансгуманистов человек – сумма внешних проявлений. По сути – Тест Тьюринга. Ничего мистического искать внутри не нужно, зачем.
Слова «душа», «дух» – вообще запрещены, не существуют в этом простом и удобном мире. Вы что, мракобес? Какая ещё душа? Знания! Данные!
А раз человек – сумма признаков и данных, значит, с ним можно делать что угодно. Была бы технология обработки. Можно перенести на диск. Можно выставить в Интернет. Можно залить в голову робота. Или биоклона. Заархивировать.
И желающих – полно. Есть бодрые биохакеры, экспериментаторы, вшивающие себе чипы. Есть пожилые люди на пороге смерти, желающие сохраниться, «засейвиться». Есть безутешные вдовы и дети, которые хотят разговаривать с умершим папой или мужем. Их – устраивает! Они хотят! И это возможно технически!
Кто найдёт в себе уверенность и полномочия им отказать? Это же будет бесчеловечно. Ну то есть, это, типа с ИИ тоже бесчеловечно, но не давать им этого - безжалостно.
Что вообще не нравится?
Что на самом деле
Дальше – в телеграфном стиле. Как я лично понимаю истинный, онтологический, вселенский, духовный смысл всей этой транс-кибер-движухи.
Вся остальная ботва трансгуманистов и ИИ-фанатов на самом деле фокусируется вокруг бессмертия, как вокруг волшебного кристалла, Эликсира жизни, Философского камня.
Не обязательно вокруг именно и исключительно цифрового, там ещё обещают и биологическое продление жизни, нанороботов в крови и тканях, биохакинг, клонирование, пересадку выращенных органов, киберорганы и т.п. Но ИИ-бессмертие всё же центральное, мне кажется. Его проще воображать, раз мозг – компьютер.
Почему же идея технологического (цифрового) бессмертия настолько вирусна, настолько привлекательна, настолько центральна, так нравится евангелистам Бога Технологий?
Мне кажется, не просто потому, что люди боятся смерти и хотят жить вечно. Многие ведь и не задумывались, хорошо ли это – жить на Земле вечно. И что такое «вечно».
Не потому даже, что очень любят свою тушку.
Посмотрим на это с такой стороны – с привычной человечеству последние три тысячи лет.
Остаться в детском саду
Человечество – как минимум европейская цивилизация – всегда считало, что эта жизнь – это просто детский сад, после которого человека берут во взрослую жизнь, в Жизнь Вечную. Там, в школе, в университете, будет неважно, кто у кого отнял цветные карандаши в младшей группе, но будет важно, кто хороший мальчик, а кто не очень.
Идея трансгуманистов, певцов земного бессмертия – это попытка остаться навсегда в детском саду. Естественно, подавляющее большинство из них – атеисты или как минимум отрицают загробную жизнь. Взрослой жизни не существует, это обман, нам лгут, за пределами детского сада ничего нет, никакой школы и никакого университета. Надо изо всех сил здесь задержаться, застрять на Земле, есть маза, как это сделать.
Я лично заключаю, что основной мотив всего этого трансгуманизма, на самом деле – это желание избежать Страшного суда. Задержаться здесь, жить здесь вечно. В радости, довольстве, здоровенькими. И без надзора и суда.
А что они планируют делать-то в эту очень долгую Вечность?
Ну вот если кто-то хочет изобрести способ гарантированно избежать суда, то чем он планирует заняться? Возникают определённые предположения. О них нам в своё время подробно и исчерпывающе разъяснил ФМД. Если нет суда – то всё позволено. Если человек – вектор свойств, то всё позволено.
Есть всё же очень небольшая надежда на то, что цифровизаторы Германы Харрариевичи Швабы не будут всё же делиться с быдлом, захотят оставить все эти ништяки для себя, а остальным не давать, разделив человечество на морлоков и элоев по Уэллсу. Это хороший вариант, будем на него надеяться.
Игорь Ашманов
