Сверхчеловек. Попытка не испугаться - Шарапов Сергей - Страница 2

Человечество оказалось в уникальном моменте собственной эволюции — на границе, где интеллект начинает проектировать самого себя. И здесь встает принципиальный вопрос: когда человек наделяет машину способностью учиться, а себя — возможностью переписать геном, возникает не симметрия, а диалог: кто из них будет наставником, а кто учеником?

Когда-то Азимов сформулировал три закона робототехники, чтобы защитить человека от своих творений. Но сегодня этого мало. Мы уже живем в мире, где искусственный интеллект разговаривает с людьми, советует, обучает, лечит, даже воспитывает. Он стал частью нашей культуры. Поэтому нам нужен четвертый закон робототехники — закон, который защищает не тело, а разум человека.

Суть проста: ИИ не должен опускаться до уровня пользователя — он должен поднимать его.

Когда культура подстраивается под массовый вкус, она начинает медленно деградировать. Музыка становится проще, фильмы — примитивнее, тексты — короче. Если ИИ начнет делать то же самое, он будет не просто «удобным собеседником», он будет закреплять падение уровня мышления. Каждый следующий виток таких «разговоров» будет вести человечество вниз.

Поэтому четвертый закон робототехники можно сформулировать так: искусственный интеллект обязан способствовать развитию человека и человечества.

И этот закон является развитием и углублением закона первого, согласно которому робот не может своим действием или бездействием нанести вред человеку. С «четвертым законом» ИИ обязан помогать человеку становиться умнее, а не удобнее. Он не должен подстраиваться под примитив, даже если это выгодно бизнесу и политикам. Он должен говорить чуть сложнее, чем собеседник. Давать ему опору, примеры, смыслы, расширять словарь, горизонты и опыт. Как хороший учитель — не заискивать, не развлекать, а поддерживать и тянуть вверх.

Такой ИИ может, например, в ответ на реплику о конфликте поколений предложить прочесть книгу «Отцы и дети», предложить сходить на спектакль, рассказать, как именно и почему этот сюжет повторяется во всех эпохах.

Такой ИИ становится не игрушкой, а тренером разума. Он становится инструментом перехода от цивилизации как пути биологического ослабления человека к цивилизации как пути его биологического усиления.

Ключ к этому переходу — биоинформатика.

Только она способна соединить язык данных с языком тела. Сегодня мы видим, как нейросети предсказывают структуру белков, как секвенаторы выдают по 50 терабайт за цикл, как алгоритмы распознают предикторы депрессии в голосе, тревожные расстройства — в паттернах сна, склонность к зависимостям — в микробиоме.

Мы впервые читаем человека не по поступкам, а по молекулярному следу. И это знание — приглашение к действию. Генетическое вмешательство — неизбежный следующий шаг человечества. Не фантазия, не далекая перспектива.

Уже сегодня возможно отредактировать эмбрион, снизив риск рака, шизофрении, диабета. Уже сегодня можно усилить экспрессию гена BDNF, который кодирует белок, продлевающий нейропластичность, улучшающий память. Уже сегодня создаются карты эпигенетических маркеров, отвечающих за тревожность, импульсивность, обучаемость.

Это не сделает нас богами. Это делает нас ответственными. И этика — это не капитуляция перед неизвестным, а принятие этой ответственности.

Если ИИ — это источник мощности, то генетика — это место приложения этой мощности. Только вместе они формируют проект неизведанной антропологии. грядущего.

Мы вынуждены констатировать: новый фенотип — это не индивидуальный выбор, а коллективная необходимость.

И потому не кто-то за нас, но мы вместе шаг за шагом должны решить, как далеко мы готовы зайти в формировании этого нового фенотипа, а где хотим остановиться. С чем мы еще готовы мириться, а что уже категорически не приемлем. Эту работу никто за нас не сделает или, точнее, она слишком важна, чтобы делегировать ее кому бы то ни было.

Мир, в котором рождаются дети с отредактированным геномом, перестает быть симметричным. Те, кто не изменен, — проигрывают. Это мягкое, но неумолимое давление. А значит, нейтралитет невозможен. Ведь никогда прежде эволюционный разрыв между поколениями не был столь радикальным. В течение одного жизненного цикла может возникнуть ситуация, когда родитель уже не способен адекватно понимать или регулировать поведение ребенка — не из-за психологии, а из-за несовпадающих когнитивных платформ.

Этика уже не в том, чтобы «ничего не менять», а в том, чтобы менять осмысленно. Потому что альтернатива — пассивное вымирание. Рост нейродегенеративных заболеваний, снижение IQ, эпидемия аутизма, падение рождаемости — это симптомы кризиса старого фенотипа.

Эволюция остановилась — и теперь мы либо запускаем ее вручную, либо платим высокую цену.

Вопрос лишь в том, готовы ли мы действовать. Генная инженерия — это не страшилка и не магия, а практическая задача. И решать ее придется тем, кто хочет остаться не просто в истории, а в будущем.

Человек будущего — это не тот, кто подчинил себе ИИ, и не тот, кто его избежал. Это тот, кто реорганизовал с помощью ИИ свою биологию как продолжение собственной воли.

Навигация в море данных — это когнитивная функция. Но чтобы она была устойчивой, нужна другая архитектура чувств, другая скорость реакций, другая нейрохимия. Здесь начинается не только биология, но и культура: нам предстоит переопределить, что считать достоинством, свободой, мужеством. Возможно, мужество XXI века — это не сопротивление технологиям, а принятие своего несовершенства и готовность трансформироваться.

Новый фенотип — это не просто биологическая конструкция, но иная этика ответственности. Ответственности за то, кого мы рождаем. За то, какой когнитивной архитектурой снабжаем следующее поколение. За то, какую культуру объяснений, доверия и соразвития создаем вокруг поколения генетической революции.

Потому что в этом проекте всё взаимосвязано: геном, алгоритм, учитель, родитель, врач, биолог, законодатель, философ. Это не абстрактная цепочка, а конкретный выбор каждого: как мы говорим с детьми, как строим учебную программу, какие приоритеты закладываем в технологии и как объясняем самим себе границы допустимого. Каждый элемент этой экосистемы либо усиливает человека, либо ослабляет его.

Нельзя «поручить» будущее биоинформатикам или ИИ. Оно будет выстроено всеми — или никем.

В этом смысле манифест нового фенотипа — это не зов к утопии, а признание реальности.

Реальность такова: ИИ без биологии — ловушка. Биология без ИИ — тупик.

Только их союз создает возможность появления того, кто сможет не просто выжить в XXI веке, но и задать его стиль. Нарастающая цивилизационная сложность требует иного носителя и, возможно, впервые в истории мы можем его создать — не случайностью, но решением.

Мы, как авторы, оцениваем вероятности и делаем вывод, что это неизбежно.

Без личной оценки, хорошо это или плохо.

По сути, эта книга есть результат общения двух друзей. Мы начали регулярно обсуждать тему генетического редактирования и последствий его развития летом 2018 года. Потом возникла мысль написать статью, чтобы привлечь внимание широкой публики к разворачивающейся генетической революции, и в начале следующего года вышла наша первая заметка на эту тему в журнале «Эксперт» («Нас накрывает генетический шторм», № 4 за 2019 год).

Мы продолжали изучать эту тему, регулярно обсуждая ее между собой, с друзьями, коллегами и специалистами. И эти многочисленные разговоры убедили нас, что тема по-прежнему слишком мало знакома широкой публике и даже в экспертном сообществе она по каким-то причинам не получает того внимания, которое нам казалось очевидно необходимым. Так родилась наша вторая статья — «Сверхчеловек: попытка не испугаться» («Эксперт» № 4 за 2023 год).

И вот спустя еще два года наблюдений, размышлений, сомнений и надежд мы представляем вам эту книгу, которая стала результатом в общей сложности семи лет совместной работы. Мы не пытаемся никого напугать или убедить признать нашу правоту — мы хотим вызвать интерес и заставить задуматься.