— Эй ты, задница, — сказал вдруг Котелок, после того как Финн отдалился на десяток шагов. — А что будет со мной? Как ты расплатишься со мной?
— Ты получишь то, чего хочешь, — ответил Финн.
— Что это означает? — спросил Кейс, глядя, как узкая спина, затянутая в твид, уменьшается с каждым шагом.
— Я хочу, чтобы меня стерли, — ответил конструкт.
Уильям Гибсон, «Нейромант»
Для тех, кому этот длинный эпиграф мало что говорит, поясню. Котелок — это копия сознания одного из лучших хакеров, который помогал искину Финну и живому хакеру, Кейсу, ломать защиту в киберспейсе. На моей памяти это первое упоминание в фантастической литературе копии сознания живого человека, которое создается с помощью компьютерных технологий. При этом далеко не первая если говорить о человеческой культуре в общем.
Что есть человеческая душа? Что есть сознание? Что есть личность? Эти вопросы будоражат человека с самых давних пор. С этими вопросами связаны и попытки создать искусственного человека. Гомункулус Гете, пражский голем, монстр Франкенштейна, Шариков Булгакова, роботы Чапека. Список получится длинным. Конструкт Гибсона — еще один в этом ряду.
Я не был слишком оригинальным, когда поставил в центр сюжета рассказа «Медный гвоздь» именно эту тему. Дочь русского мультимиллионера и шведской модели, Эрика Мортон, одержима целью воскресить свою старшую сестру, погибшую в автокатастрофе. Для этого она похищает контейнеры с генетическим материалом сестры, чтобы создать биологический клон и уходит на Магистраль, чтобы найти тех, кто поможет ей восстановить сознание, которое будет перенесено в этот клон. Подобные игры мало нравятся ее сводному брату и он нанимает гейткиперов, чтобы сорвать ее планы…
Кибернетический клон, киберклон, «тень», восстановленная по определенной технологии копия личности. Этой темы я, так или иначе, касался во всех своих текстах. В повести «Конус тишины» гейткиперы снимают киберклон с хакера Тенсинга, чтобы получить контроль над созданным им виртуальным пространством. В этом же рассказе упоминается закрытый гейткиперский кластер «Долина царей». В этом виртуальном пространстве обитают киберклоны лучших гейткиперских кадров, чьи «биологические оригиналы» отошли в мир иной. В романе «Хаос-генератор» одним из второстепенных героев является киберклон покойного бизнесмена, члена «Клуба Теней» – общества миллиардеров, которые ушли из реального мира и теперь существуют только в цифровом виде.
При всем этом я считаю, что создание таких «копий», «големов» и «франкенштейнов» не есть правильный путь. Я бы даже сказал, это путь неестественный и тем, что будет порождать чудовищ, если процесс выйдет из-под контроля. Почему? Еще одна цитата, теперь уже из «Собачьего сердца» Михаила Булгакова.
«Объясните мне, пожалуйста, зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно. Ведь родила же в Холмогорах мадам Ломоносова этого своего знаменитого».
Естественная эволюция привела к появлению Homo Sapiens. Зачем создавать искусственных людей с помощью технологий, когда есть естественный путь? И может быть имеет смысл не кидать все силы на увеличение вычислительных мощностей, а обратить свое внимание на воспитание людей? Кажется, Капица как-то сказал, что у нас несколько сотен научных институтов, которые занимаются проблемами фундаментальной физики и всего два, которые занимаются психологией человека.
Я не отрицаю необходимости создания искинов и работающих копий человеческого сознания. «Виртуальный» мозг какого-нибудь деятеля науки мог бы приносить пользу и после смерти «биологического» оригинала, но нельзя забывать и том, что дала нам природа и что нужно развивать.
Стас, а просто интереса ради — какие могут быть этические обоснования запрета на подобное клонирование, если мы не считаем вид Homo Sapiens венцом эволюции, а предполагаем, что он просто перешел от биологической эволюции к меметической?
Просто отношения вопроса AI и этики имеют глубоченную историю, и у большинства AI — шников тут, как ни странно, очень четкая, достаточно формальная и не особо широко известная позиция. Написать я про нее собирался как раз, но вопросом намекнул.
Виталий, дело не только в этических запретах. Дело в том, что силы идут не в том направлении. Вернее — в основном только в направлении создания технологических костылей, но мало в отношении развития того, что нам дала природа. Я не против технологий, но почему на рынке хайтека крутятся сотни миллиардов долларов, а такие области как психология и исследование психики человека остаются в загоне?
Абсолютно согласен… но проблема в том, что одно из препятствий — и есть этический запрет, если смотреть на него чуть шире.
Если припомнить шуточку средневековых схоластов на тему сравнения общества с телом, то этика — это механизм, который защищает его от мутаций, потому что мутации обычно гибельны.
Обратное — в том, что любая эволюция есть мутация. В первой половине прошлого века два общества попробовали провести эту «мутацию» напрямую, и результаты настолько хорошо известны, что эта идея до сих пор вызывает, по-моему, почти подсознательный страх.
Но мы на грани, да, Потому что где-то тогда же развитие науки перешло тот порог, когда она остается более-менее ясной для всех, и стало выглядеть чудом, часто — недобрым. И это может привести к огромной беде… Поэтому я так интересуюсь другими путями — вариантами изменения всего этого с другой стороны, со стороны технических средств. А тут и возникает виртуальная реальность, AI и связанные с ними методы — прежде всего, обучения.
А мне кажется, что человечество вообще пошло не по тому пути на заре своего развития… Поясню: Сейчас люди-это этакие бобры в лесу-рушат и строят, изменяют течения рек и т.д. Только вот разрушаем мы намного больше, чем строим. А почему бы нам не быть медведями в лесу, львами в саванне и т.д. Ведь к этому и стремится большая часть людей — жить спокойно и ближе к природе, питаться здоровой пищей, пить хорошую воду. Создание ИИ кибер клонов я рассматриваю лишь как возможность увеличить производительность отдельной личности, либо как способ увековечить великих умов, типа Эйнштейна… Про что и написано в Медном гвозде. Только вот задача-как заставить клона использовать модель поведения оригинала, как передать ему неподдающиеся описанию алгоритмы принятия решения оригинала, как вдохнуть в клона Эйнштейна ту искру, которая дала бы возможность закончить научные работы оригинала…
На мой взгляд, это будет сложно. С момента создания ИИ кибер клона он начнет сам учиться и получать свой уникальный опыт, а оригинал — свой. Можно, конечно устраивать ежедневную синхронизацию, но она не решит вопрос полностью. Да и еще: у клона нет границ и страха и от этого я могу вывести теорему: «Каждый клон стремится занять место Скайнет независимо от его оригинала.»
@absent
Увы. Руссо и Торо (идеи единения с природой) были в пролете с самого начала, по самой природе сапиенсов. Потому что за счет, как бы сказать, получения доступа к новому ресурсу — информации — человек еще в неолите, пожалуй, поставил себя за пределами пищевых цепочек биосферы, ну а с началом земледелия — присвоил себе статус оператора биологических систем. Соответственно — для продолжения эволюции (а это условие выживания вида) нужна была уже внутривидовая конкуренция. Проще говоря, вернутся к природе можно только ценой отказа от разума…
Что до трансгуманистических идей — сам их довольно сильно разделяю, даром что они сейчас ну очень сильно профанируются; но это долгая тема…