Охота на электроовец. Большая книга искусственного интеллекта - Марков Сергей Николаевич - Страница 303

Конечно, все эти трудности преодолимы, хотя всякий раз, когда развитие технологии предполагает необходимость дать ответ на существующие вызовы, почти всегда возникает хор пессимистов, спешащих заявить: «Этот барьер не преодолеть!» В действительности история науки показывает, что в большинстве случаев непреодолимые препятствия существуют только в головах людей. В исследовательских лабораториях уже сейчас создаются новые модели машинного обучения, в том числе более вычислительно эффективные и менее требовательные к объёмам используемых данных. Продолжается и прогресс в области вычислительной техники, в том числе и в создании специализированных устройств для задач машинного обучения. Стремясь поддержать исследователей, государства во всём мире ищут способы упростить доступ к данным для учёных. Продолжается развитие краудсорсинговых платформ. Всё это значит, что прогресс в области машинного решения творческих задач будет продолжаться и уже в ближайшем будущем нас ждёт множество новых результатов и удивительных открытий.

7 Легенда о големе: ИИ, захватывающий мир

Тема опасности ИИ красной нитью проходит через многие популярные статьи, посвящённые достижениям науки и технологий в этой области. Один из надёжных способов привлечь внимание человека — напугать его, поэтому для деятелей искусства, журналистов и блогеров тема опасности ИИ вряд ли в ближайшее время потеряет актуальность. Конечно, можно было бы попробовать просто отмахнуться от этой проблемы как от назойливой мухи, признав, что просто невозможно вычерпать океан чепухи, высказанной на эту тему в публичном пространстве. Наверное, примерно так же Архимед пытался отмахнуться от римского легионера, мешавшего ему решать важную математическую задачу. Если верить этой легенде, такое отношение к опасностям не сулит ничего хорошего. Кроме того, всегда существует риск выплеснуть с грязной водой ребёнка. Применение продвинутых технологий нередко сопряжено со вполне реальными, а не выдуманными рисками. Изменение производственного уклада в истории человечества нередко приводило к социальным катаклизмам. Войны, в ходе которых находили применение многие новинки науки и техники, приводили к массовому истреблению людей. Выходит, страхи, порождаемые мыслями об угрозах, таящихся в новых технологиях, не всегда были такими уж беспочвенными? Давайте попробуем разобраться в этом вопросе.

7.1 Насколько опасен ИИ?

7.1.1 История человеческих страхов перед машинами

Интересно, что страхи людей перед «умными машинами» возникли задолго до того, как человечеству удалось приблизиться к возможности их создания.

Знаменитая легенда о големе имеет истоки в раннем иудаизме. В Талмуде (трактат «Сангедрин» [‏סנהדרין‏‎], от греч. συνέδριον — собрание) создание голема [גולם] является одним из этапов создания человека: «В первый час собрал Всевышний прах со всей Земли. Во второй час — сделал голема (грубую форму). В третий — оформил части тела. В четвёртый — вдохнул в него душу…» и так далее[3048].

Создание голема (как прислуги для работы по дому) в XI в. приписывают еврейскому поэту и философу Шломо бен Иехуде ибн Гвиролю, а в конце XII – начале XIII в. в трактате «Секреты таинств» (רזייא סודי, Sodei Razaya)[3049], написанном раввином Элеазаром бен Иудой бен Калонимосом из Вормса, приводится самое раннее письменное руководство по созданию голема.

Но наиболее известна история (впервые встречающаяся в анонимном манускрипте первой половины XVII в.) о том, как рабби Элияху бен Аарон Иегуда из Хелма создал голема. Начертанное на лбу глиняного существа слово «эмет» (אמת, в переводе с иврита — «истина») оживляло голема, а для «отключения» нужно было стереть первую букву алеф — тогда «эмет» превращалось в «мет» (מת, что означает «мёртвый»)[3050], [3051]. Созданный рабби голем всё увеличивался и увеличивался в размерах, и тогда создатель испугался, что голем может уничтожить весь мир, и стер букву алеф, но не успел вовремя отскочить в сторону. Голем обрушился на рабби и убил его (согласно другому варианту легенды лишь травмировал, оставив на лице шрам).

По другой версии, для оживления голема использовался тетраграмматон (четырёхбуквенное непроизносимое имя бога), который нужно было написать на листе бумаги и либо поместить в рот голема, либо приложить ко лбу, тем самым оживив его. Именно поэтому рабби Элияху и получил почётное имя Ба’ал-Шем («владеющий именем», «шем» [‏השם‏‎] значит «имя», это одно из слов, используемое для замены тетраграмматона). Это «канонический» способ оживления голема — им же пользовался и ибн Гвироль.

Также создание голема приписывается мыслителю и мистику Йехуде Лёву бен Бецалелю из Праги и другим авторитетным раввинам[3052].

Голем был не единственным огромным боевым человекоподобным роботом в человеческой мифологии. За тысячи лет до него воображение древних греков будоражили сказания о гигантском бронзовом роботе Талосе, искусственной женщине Пандоре и их создателе боге Гефесте.

«Наша способность представлять искусственный интеллект восходит к древним временам, — говорит историк античной науки Адриенна Майор. — Задолго до того, как технический прогресс сделал возможными самодвижущиеся устройства, идеи о создании искусственной жизни и роботов были исследованы в древних мифах».

Впервые темы искусственного интеллекта, роботов и самодвижущихся объектов появляются в работах древнегреческих поэтов Гесиода и Гомера, которые жили где-то между 750 и 650 гг. до н. э. История Талоса, которую Гесиод впервые упомянул около 700 г. до н. э., представляет собой одну из самых ранних концепций робота.

Миф описывает Талоса как гигантского бронзового человека, построенного Гефестом, греческим богом изобретений и кузнечного дела. Зевс, царь греческих богов, поручил Талосу защитить остров Крит от захватчиков. Талос трижды в день обходил остров дозором и бросал валуны в приближающиеся вражеские корабли (не в этом ли мифе черпал вдохновение Пушкин, рассказывая о дружине Черномора, охранявшей остров царевича Гвидона?).

Сквозь тело гиганта — от головы до одной из ног — проходила вена, несущая таинственный божественный источник жизни, который греки называли ихором. Другой древний текст, поэма «Аргонавтика» (Ἀργοναυτικά), датируемый III в. до н. э., описывает, как колдунья Медея победила Талоса, вынув медный гвоздь на его лодыжке, в результате чего ихор вытек из вены — и жизнь оставила гиганта.

Ещё один пример мифического искусственного существа — Пандора, первое упоминание о которой встречается в «Теогонии» Гесиода. Хотя более поздние версии мифа изображают Пандору невинной женщиной, которая неосознанно открыла ящик со злом, у Гесиода Пандора — это злая искусственная женщина, созданная Гефестом и посланная по приказанию Зевса на землю, чтобы наказать людей за похищение огня.

По словам Майор, «можно утверждать, что Пандора была своего рода ИИ-агентом. Её единственная миссия заключалась в том, чтобы проникнуть в человеческий мир и открыть сосуд с несчастьями».