Без бюрократии. Часть II

Технологии искусственного интеллекта в управлении
Ян Авриль

Что, если само понятие “бюрократия” изжило себя, и будущее государственного управления лежит вне чиновничества?

Технологические достижения XXI века делают излишним, а значит, ненужным чиновничество как особый класс “решал”, живущий по своим законам и заботящийся прежде всего о своих собственных интересах. Бюрократия не просто неэффективна — она становится тормозом развития, всё более громоздкой и всё менее эффективной структурой, с которой уже невозможно совладать.

В 2017–2018 годах разработкам в области искусственного интеллекта в государственном и муниципальном управлении был придан статус нацпроекта в целой череде стран, от Индии до Мексики. Тема того, как правительства должны использовать современные ИИ-технологии для управления, часто поднималась на Всемирном экономическом форуме и на других престижных встречах. При этом размытость определения ИИ и усиливающийся хайп вокруг этого понятия не способствовали действительно серьёзному обсуждению последствий централизованного внедрения этих технологий для общества.

Что представляет собой искусственный интеллект в системах управления?

На сегодняшний момент ИИ представляет из себя комплекс нейросетей, вычислительных облаков, компьютерного оборудования и инфраструктуры, а также конечных агентов, связанных с потребителями, мелкими и крупными компаниями и государством. Технологиями, основанными прежде всего на машинном обучении, уже пользуются домовладельцы, владельцы мобильных телефонов и других гаджетов, автомобилисты, корпорации, оптимизирующие бизнес-процессы, и государственные агентства, работающие так или иначе с большими данными.

Если смотреть на ИИ глазами пользователя, то это чёрный ящик, который несёт удобства и комфорт и берёт на себя ведение обременительных дел. 

Для капитанов индустрии ИИ — это чёрный ящик, который как по волшебной палочке структурирует, сегментирует и при помощи алгоритмов удешевляет бизнес-процессы. 

Ключевым моментом для бюрократии является вопрос ответственности, которую та старается с себя снять, не освобождая, разумеется, себя от бремени хороших стабильных зарплат, бонусов и привилегий.

Чиновники уже поняли (возможно, подсознательно), что ИИ — это чёрный ящик, принимающий решения, которые до него принимали люди, и за которые этим людям приходилось нести ответственность. Эти решения не верифицируемы и не подлежат исправлению, но, как уверяют крупные международные корпорации вроде Google и Amazon, они эффективнее.

При этом чиновники, как и большинство тех, кто соприкасается с ИИ, находятся в плену антропоцентризма, считая, что “мы” всегда сможем программировать и управлять ИИ. Даже не обсуждается мысль о том, что ИИ уже сегодня — часть нашего коллективного разума, который может быть разрушительным (пример такого коллективного разума — биржа или нацистское государство).

Грядущие перемены: проблемы ИИ

Вскоре алгоритмы ИИ будут определять многие аспекты нашей жизни, от нашего поведения в автомобиле до исполнения наших прав и обязанностей как граждан государства. Более того, они будут заниматься и вопросами наказания нас за то, что мы не соблюдаем законы, в написании и принятии которых ИИ через некоторое время будет принимать самое активное участие. Уже сейчас вам как водителю может прийти штраф за превышение скорости, хотя ваш автомобиль стоял в это время в гараже. Доказать свою невиновность с каждым годом будет всё труднее, ибо ИИ, как известно, не ошибается. Бюрократия будет принимать законы таким образом, чтобы обезопасить себя от последствий, оставляя всё меньше и меньше лазеек для оспаривания наказаний. Уже сейчас говорится о том, что ИИ, обобщая и анализируя большие данные, скоро будет самостоятельно распознавать в зародыше социальные проблемы и автономно разрабатывать законодательство, чтобы их предотвратить. Уже звучат голоса, которые провозглашают это как новое, прогрессивное лицо демократии в мире, который таким образом избавится от бедности и будет готов встретить во всеоружии любые невзгоды.

Однако уже сейчас эксперты обращают внимание на вопросы, которые могут перевести ИИ из категории решения в категорию проблемы.

Во-первых, ИИ, основанный сегодня прежде всего на машинном обучении, то есть прошлом опыте, закрепляет стереотипы и только усиливает предвзятость своих выводов. Это доказало применение технологий искусственного интеллекта в работе правоохранительных органов США, где на основании прежнего опыта ИИ третировал районы, населённые беднотой и чернокожими, совсем по-другому, чем районы, населённые белыми, что привело к новым виткам насилия и не снижению преступности, а её росту. 

Во-вторых, централизованное внедрение ИИ создаёт большие проблемы с компьютерной безопасностью, ибо программы подвержены вирусным атакам. В случае заражения реакция “чёрных ящиков” ИИ непредсказуема. 

В-третьих, будет нарастать конфликт интересов, связанный с тем, что крупные компании-разработчики алгоритмов заинтересованы в том, чтобы продать больше своих услуг. Поэтому они могут сознательно строить свои алгоритмы для собственного коммерческого продвижения, а чиновники не смогут разобраться в “чёрном ящике”, который они принимают. 

В-четвертых, большинство чиновников просто некомпетентно в работе с ИИ и не понимает, как работают и как устроены высокие технологии. В итоге чиновники не смогут правильно регулировать деятельность компаний-поставщиков услуг.

И, наконец, технократы уверены, что новые технологии искусственного интеллекта могут решить любую проблему, включая социальные. Например, ИИ в развитых странах уже активно внедряется в службы занятости, в медицинское страхование и начисление пенсий. Что ведёт к ошибкам и порождает новые проблемы, которые сильнее старых — о чём шла речь в начале статьи. 

Выход в децентрализации

Представим себе систему управления воздушным трафиком, которая отслеживает в реальном времени все взлеты, посадки и местонахождение всех воздушных судов, составляет всё время меняющуюся карту, знает, где расположены аэродромы, радары, где какие самолеты могут летать и где не могут. Эта система представляет из себя децентрализованную сеть и сопряжена с другими системами — прогнозов погоды, заказов билетов и так далее. Она принимает решения, обязательные для исполнения экипажами воздушных судов, которые сами всё больше переходят на автоматическое управление и тоже представляют из себя очень сложные системы. Всё больше и больше такие децентрализованные системы будут управляться при помощи искусственного интеллекта, при этом принципы функционирования сети будут определяться человеческими законодателями: ведь на кону каждую секунду в прямом смысле стоят жизни десятков тысяч людей.

А теперь представим себе, что аналогичным образом можно построить систему государственного управления. Ясно, что для того, чтобы соответствовать меняющимся вызовам и запросам, она должна быть гибкой, а для этого нужно будет привнести в неё немалую долю самоуправления. В качестве прообраза можно взять социальную сеть, которая будет постоянно обновлять саму себя и которая, во избежание дрейфа к контролю со стороны немногих, должна быть децентрализованной.

Человечество уже создало очень сложные сети и вполне готово выйти на более демократичный и более эффективный уровень управления, чем тот, который имеется сейчас.

Децентрализованные сети, впрочем, основаны на блокчейне, которому повредил излишний хайп, связанный со спекуляциями биткойном и другими криптовалютами. Но эти спекуляции и состояния, которые многие трейдеры потеряли на криптовалютах, никак не отменяют фундаментальных качеств блокчейна, которые могут быть использованы в управлении, причём в управлении людьми, от имени людей и для людей. Речь идёт о прозрачности работы сетей, о проверяемости любых действий, и, самое главное — о работающем механизме консенсуса. Уже есть примеры платформ, которые сделали децентрализованное управление главным принципом своей работы — и хотя такие из них, как, например, EOS, столкнулись при этом с проблемами, системы доказали свою жизнеспособность. 

Критики называют среди недостатков блокчейна невозможность отменить “ошибочную” операцию. Алгоритмы консенсуса делают ошибки сети невозможными, хотя, конечно, возможны человеческие ошибки того, кто этой сетью пользуется. Но под соусом исправления “ошибок” часто скрывается стремление банков и финансовых структур установить полный контроль над всеми мировыми трансакциями и денежными потоками — и быть способными отменить любую неугодную операцию. 

Конечно, непросто перенести на государственную деятельность практику работы децентрализованных систем, которые ещё находятся на начальной стадии развития и явно требуют доработки. Но разработка технологий управления на базе искусственного интеллекта заняла куда большее время — и мы видим при этом, что фундаментальные вопросы, которые задавались в отношении искусственного разума ещё на заре кибернетики — такими мыслителями, как Норберт Винер или Станислав Лем — до сих пор остались без ответа.

Это внушает беспокойство в том числе и потому, что развитие технологий искусственного интеллекта ведётся всё более закрыто крупными транснациональными компаниями, стремящимися к монополии на рынке, и государствами, которые хотят обладать “идеальным оружием” для установления полного превосходства. Нужно открыть эти исследования для экспертного сообщества и общества в целом, кроме того, хорошо бы сделать эти исследования и разработки максимально интернациональными. Если бы политиков действительно заботил мир во всём мире, нашлась бы здесь и серьёзная роль для Организации Объединённых Наций.

Децентрализованные сети, с другой стороны, прозрачны и подконтрольны, а их разработка настолько интернациональна, насколько это можно себе представить. 

Вполне возможно разработать децентрализованную структуру на блокчейне, которая сможет взять на себя в режиме реального времени самый сложный функционал исполнительной власти, то есть всех государственных агентств. Такая структура будет прозрачной, проверяемой и распределённой, то есть устойчивой к атакам. Это резко облегчит задачи управления и самоуправления, при этом возникнут дополнительные возможности, например, моделирования результатов предлагаемых решений при помощи искусственного интеллекта. Демократия станет ближе к народу, многие решения, особенно касающиеся местных проблем, люди смогут принимать прямо на референдумах по месту жительства. Законодательная деятельность на региональном и национальном уровне никуда не денется — но народные представители смогут принимать более информированные решения и реагировать на возникающие проблемы гораздо быстрее. 

Игорь Шнуренко

При копировании или перепечатке материалов активная индексируемая ссылка на сайт fitzroymag.com обязательна.

0 0 оценка
Оцените статью
Подписаться
Уведомление о
0 Комментариев
Inline Feedbacks
View all comments

Вам также может понравиться