Охота на электроовец. Большая книга искусственного интеллекта - Марков Сергей Николаевич - Страница 320

• • Энергетика.

• • Транспортная инфраструктура.

• Здравоохранение:

• • Увеличение числа медучреждений, докторов, младшего медперсонала.

• • Продвинутая профилактика.

• R&D:

• • Сервисы и продукты на базе ИИ.

• • Биотехнологии.

• • Чистые технологии и переработка.

• Искусство:

• • Цифровое искусство.

• • Искусство, создаваемое при помощи ИИ.

Конечно, найдутся люди, которые скажут, что не всякий человек способен стать программистом, медиком или учёным, однако не стоит переоценивать влияние «природной предрасположенности». Предки многих современных специалистов, работающих в высокотехнологических отраслях, ещё несколько поколений назад не умели читать и писать. Любознательность и желание учиться формируются у детей в раннем возрасте, и это может создать впечатление, что они являются врождёнными. Однако в большинстве случаев врождённые факторы могут быть с лихвой перекрыты как положительным, так и негативным влиянием среды. В пользу этого свидетельствует вся история развития человеческого общества. Несмотря на это, мы до сих пор выделяем ничтожные ресурсы на воспитание и образование подрастающего поколения. Как изменился бы мир, если бы на воспитание и образование детей в странах третьего мира выделялись средства, сопоставимые с военными бюджетами развитых стран? Педагог, работающий с детьми в детском саду или начальной школе, чаще всего куда более низкооплачиваемый специалист, чем преподаватель старших классов или высшей школы. Однако цена педагогических ошибок, допущенных в раннем возрасте ребёнка, чрезвычайно высока. Нелюбознательный ребёнок, которому взрослые отбили всякое желание познавать окружающий мир и заниматься творческим трудом, во взрослом возрасте становится обузой общества. И несмотря на этот очевидный факт, правительства во всём мире принимают абсолютно недостаточные усилия для того, чтобы сделать воспитание и образование детей качественным и доступным для всех слоёв населения. Как следствие, после взросления плохо обученных детей правительства тратят значительно большие деньги на их встраивание в общество, то есть борются с последствиями своей недальновидной политики.

А если бы развитые страны помогли странам третьего мира улучшить образование и воспитание детей, то это помогло бы решить проблемы терроризма и религиозного фундаментализма в мировом масштабе, что в конечном счёте обошлось бы человечеству дешевле, чем нынешняя борьба с терроризмом.

Как выясняется при детальном рассмотрении, технологическая безработица парадоксальным образом носит вовсе не технологический характер. Дело не в том, что в мировой экономике недостаточно сфер, в которых человеческий труд был бы востребован. Проблема заключается не в «бесчеловечных технологиях», отнимающих у людей их рабочие места, а в том, как сами люди распределяют общественные ресурсы. Как мне кажется, общество, создающее «бессмысленную занятость» на фоне дефицита специалистов во множестве сфер, требует серьёзных изменений.

7.4 Цифровой тайный суд и другие проблемы алгоритмического общества

Пока философы ведут споры о проблеме сверхразума, наш мир незаметно вступил в эру прикладного ИИ — всё больше и больше решений в обществе принимается при помощи различных математических моделей, созданных обычно при помощи методов машинного обучения. Какие специфические проблемы присущи этому алгоритмическому миру, если, конечно, они вообще есть? Этой проблемой в последние годы занимается ряд исследователей, имена которых, к сожалению, не столь широко известны, как имена Илона Маска или Ника Бострома. Фундаментальная работа по систематизации подводных камней алгоритмического общества была осуществлена американской исследовательницей Кэти О’Нил в книге, которая в русском переводе получила название «Убийственные большие данные. Как математика превратилась в оружие массового поражения» (Weapons of Math Destruction: How big data increases inequality and threatens democracy[3173], дословный перевод: «Средства математического поражения: как большие данные увеличивают неравенство и угрожают демократии»[3174]).

Пройдёмся по проблемам, на которые обращает внимание О’Нил.

1. Проблема закрытости. Положим, что вы представитель какой-либо массовой профессии. В момент, когда вы устраиваетесь на работу, ваша анкета, скорее всего, будет оцениваться при помощи математической модели, призванной отсеять заведомо неподходящих кандидатов. С тем же самым вы столкнётесь, подавая заявку на кредит и во многих других ситуациях. Однако такая система может содержать в себе определённые дефекты. Кроме того, дефекты могут содержать данные, введённые в систему, а также данные о вас, полученные из других информационных систем (например, клиенты российских банков нередко сталкиваются с ошибочными блокировками своих счетов из-за некорректного сопоставления их с лицами, в отношении которых суд принял решение о блокировке). Ввиду вышеизложенного принятое моделью решение вполне может оказаться ошибочным.

Поскольку подобные модели широко используются в весьма важных областях, то по силе влияния на жизнь человека решение такой модели может быть вполне сопоставимо с вердиктом суда. В исследовании профессора Бруклинской школы права (Brooklyn Law School) Фрэнка Паскуале эта проблема названа проблемой «цифрового тайного суда» [Digital star chamber][3175], [3176]. Паскуале детально анализирует её в своей книге «Общество чёрного ящика: секретные алгоритмы, которые контролируют деньги и информацию» (The Black Box Society: The Secret Algorithms That Control Money and Information»)[3177], приводя показательные примеры.

Например, бывший водитель Uber по имени Мансур дал весьма пугающее описание своих взаимоотношений с работодателем. Вначале компания пыталась убедить его взять кредит на покупку нового автомобиля под очень высокий процент, а затем она неожиданно стала снимать в свою пользу всё большую часть дохода водителя. Но самым возмутительным Мансуру показалось то, что Uber может прекратить работу с ним, если его рейтинг окажется ниже отметки 4,7 (что может случиться, если несколько пассажиров поставят ему минимальную оценку). При этом подобное решение никак нельзя будет оспорить, и даже личное общение с сотрудниками Uber осуществить невозможно: все коммуникации производятся при помощи автоматических текстовых сообщений и электронных писем.