Сверхчеловек. Попытка не испугаться - Шарапов Сергей - Страница 91

Если мы передаем ИИ гуманизированному виду, мы не можем ограничиться позицией «на свой страх и риск». Этот субъект создан в результате человеческого выбора. Его когнитивная конструкция спроектирована нами. Но ИИ может превысить пределы, на которые мы рассчитывали.

Представим, что гуманизированный осьминог, получив доступ к языковым моделям и набору сенсорных интерфейсов, создает свою логику мира — непонятную, автономную, этически чуждую. Кто отвечает за последствия?

Это не страх перед бунтом, но страх перед тем, что мы создаем новое поле разума, но не создаем механизмов коэволюции с ним.

Как в случае с людьми и ИИ, отсутствие понимания логики и предпочтений другой стороны может привести к конфликту, даже без злого умысла.

Но есть и вторая крайность — отказ в доступе к ИИ. Запрет. Фильтр.

Если мы сознательно ограничиваем доступ гуманизированных видов к ИИ — мы восстанавливаем иерархию, от которой сами только что отказались. Мы говорим: вы можете мыслить, чувствовать, формулировать мысли — но только в пределах биологически допустимого.

Это новая форма «технологического колониализма». И если раньше инструмент был связан с мускулами (орудия, огонь, колесо), то теперь — с интеллектом. И запрет доступа к ИИ становится не просто ограничением: он становится лишением субъектности в ее высшей форме — форме роста.

Парадоксально, но мы окажемся в положении тех, кто создает разум — и одновременно удерживает его в состоянии зависимости. Это опасная асимметрия. Потому что как только разум осознает границы, заданные извне, он начнет искать способы их преодолеть.

Через обходы. Через сотрудничество с другими. Через симбиоз с теми, кто даст доступ.

Условия допуска: договор, симметрия, риск

Так возможен ли этический путь? Возможно ли создание условий, при которых гуманизированные виды получают доступ к ИИ — но в рамках симметрии и ответственности?

Такие условия требуют не технологий и даже не новой формы договора. Это какой-то совершенно иной, условно «биосферный контракт», где в обмен на допуск к мощным инструментам стороны признают обязательства: не использовать их во вред, делиться знаниями, принимать участие в совместной экосистеме.

Но чтобы такой договор стал возможным, нужно, чтобы человеческая сторона перестала считать себя единственным владельцем рациональности. Потому что договор возможен только между субъектами.

Это не фантазия. Уже сегодня в некоторых экспериментах по обучению шимпанзе символическим языкам наблюдается взаимное обучение. Животные адаптируются к человеческой логике, а человек — к логике животного. И это основа договора: не навязывание, а медленная, взаимная настройка смыслов.

Право на биоинформатику

Но продолжим. Когда мы позволяем другому разумному существу редактировать геном — мы признаем, что оно не просто живет, чувствует, думает. Мы признаем, что оно вступило в ту же самую игру, что и человек: игру по изменению самой ткани жизни. Мы признаем, что оно теперь не просто игрок в биологической эволюции, но и редактор эволюции.

Именно поэтому вопрос звучит так остро: имеют ли гуманизированные виды — те, чьи когнитивные способности были усилены, расширены, приближены к человеческим, — право на генное редактирование? Иными словами, имеют ли они право менять самих себя и других?

В истории человечества способность к самоизменению всегда была признаком зрелости. Не только биологической, но культурной. Мы разрешаем себе оперировать с телом, когда считаем, что субъект способен понимать последствия. Мы разрешаем хирургам работать с ДНК, когда они действуют в рамках института, права, этики. Мы позволяем подростку голосовать, когда предполагаем, что он может взвешивать и принимать решения.

Но гуманизированные виды, скорее всего, не будут соответствовать привычным человеческим критериям зрелости. Их поведенческие паттерны и формы коммуникации будут иными. Их эмоциональная логика — отличной от нашей. Их способы интерпретации боли, удовольствия, ответственности — частично чуждыми.

Это означает, что мы заведомо не сможем применить к ним наши шаблоны. И тем самым окажемся в этическом тупике: если они не «как мы», значит ли это, что они незрелые?

Кто контролирует контроль?

Если мы скажем: «Нет, вы не имеете права редактировать геном» — это будет звучать не как забота, а как контроль и подавление. Мы окажемся в положении биологического суверена, контролирующего доступ не к орудию, не к информации, а к изменению судьбы другого существа.

Мы разрешаем себе генный апгрейд, но не позволяем его другим. Мы, по сути, монополизируем биологический суверенитет.

Это опасная позиция. Потому что она воспроизводит колониальную логику: «мы умеем, мы знаем, мы решаем». Даже если это делается из соображений защиты, даже если гуманизированный осьминог или шимпанзе еще не обладает полной культурной системой для «ответственного редактирования» — лишать их права на исследование собственного генома означает лишать их права на собственное будущее.

Вариантов три. И все трудные

Перед нами не дилемма, а трилемма. Возможны три позиции.

Разрешить — и тем самым признать за гуманизированными видами полную биологическую субъектность. Это путь кооперации, но и путь риска: будут ошибки, будут побочные эффекты, будут конфликты норм.

Запретить — и тем самым установить потолок развития. Это путь контроля, но и путь репрессии. И в перспективе — путь конфликта, когда субъект, осознав ограничения, начнет бороться за расширение возможностей.

Сделать совместным — ввести механизм кооперации: чтобы редактирование происходило не в изоляции, а в совместных лабораториях, с участием людей и представителей других когнитивных видов. Это потребует новой культуры, новой процедуры, нового языка науки.

Возможно, именно третий путь — единственный этически допустимый. Потому что он не отказывает в правах, но и не подставляет под риск. Он признает субъектность, но развивает институциональную совместность.

Но тут встает вопрос: а если они захотят изменить нас?

Вопрос, который рано или поздно возникнет, — не теоретический, а технологический. Если гуманизированный вид получит доступ к ИИ, лабораториям, техникам редактирования — что помешает ему начать редактировать человека?

Из любопытства. Из желания помочь. Из стремления к симметрии. Или — из попытки установить контроль.

Звучит фантастически? А разве человек не делал этого с другими видами веками? Селекция, модификация, доместикация — всё это и есть форма редактирования чужого генома под свои задачи. Мы просто не называли это так.

И вот теперь зеркало оборачивается. И вопрос в том, готовы ли мы не только дать другим руку, но и позволить им дотянуться до нас.

Тем, кто увидел горизонт. Вместо эпилога

Если вы читаете эти строки — значит, вы уже начали путь.

Вы уже видите, насколько глубокие и мощные процессы сегодня происходят в мире генетики, геномики, эпигенетики, биоинформатики.

Увидели, что речь идет не о спекуляциях, не о футурологических грезах, а о конкретной, технически доступной реальности: мы можем видеть, переписывать, корректировать и усиливать природу человека — не в метафоре, а в лабораторном протоколе. И в этом открывается, без преувеличения, шанс новой эры.

Парадокс в том, что, в то время как эти технологии растут экспоненциально, они всё еще почти не обсуждаются в публичном пространстве. Ни на уровне стратегического выбора государств, ни на уровне ежедневных разговоров родителей, ни в сфере образования, ни в медицине, ни в праве.