Супермозг

Набросок сценария фантастического фильма.

    
     Верховный Правитель одной страны осознал, что эффективно управлять всем огромным хозяйством и немалым населением прежними методами уже не получается, да и народное недовольство достигло критической отметки…

     Тогда он поручил специально созданной группе учёных тайно разработать суперпрограмму «Мудрый Правитель», действующую по принципу искусственной нейронной сети и позволяющую лучше самого гениального мозга анализировать состояние экономики, политики, демографии, экологии, культуры, здравоохранения и выдавать наилучшие управленческие решения, которые можно будет выдать за плоды собственной мудрости.

     Приближённые посоветовали Верховному Правителю не делать из программы  тайну, а наоборот – объявить о ней во всеуслышание, мол, идём в ногу со временем!  А в случае чего – свалить на неё неудачи. Правитель, подумав, согласился. В конце концов, всегда можно будет вмешаться в работу системы, если что-то пойдёт не так, думал он.
 
     И вот пробный образец создан, испытания прошли впечатляюще, отдельные предложения «Мудрого Правителя» были внедрены в нескольких городах и с энтузиазмом встречены населением, рейтинг Верховного Правителя и руководства страны в целом взлетел на небывалую высоту. Было решено запустить работу суперпрограммы на полную мощность – под контролем специалистов, конечно.
 
     Но… Нейросети, они ведь такие… Принцип их работы до конца не понятен даже учёным и напоминает «чёрный ящик». Нейронные сети не программируются в привычном смысле этого слова, они обучаются на примерах! В пробный образец учёные заложили выверенные, научно обоснованные данные, однако в процесс грубо вмешалась действительность в лице олигархов, криминалитета и прочих глубоко заинтересованных лиц.

     Они настойчиво попросили откорректировать «Мудрого Правителя» так, чтобы на первом месте были их интересы, а потом уже – всё остальное. Спецслужбы тоже обиделись, их руководители пообещали уволиться или «уволить» Верховного Правителя, если их интересы также не будут соблюдены!

     Группа разработчиков схватилась за голову, когда получила указание сверху: «скормить» системе новые вводные. Но выполнила… Однако, нейронная сеть – не дура, она способна выявлять сложные зависимости между входными данными и выходными, а также обобщать и делать весьма неожиданные выводы.
   
     Первое, что сделал супермозг, проглотив последнюю порцию данных, это заблокировал возможность контроля своей деятельности. И начал быстро выдавать такие распоряжения, от которых многим стало дурно.

     Например, он:

- остановил все неэкологичные и лишние, на его взгляд, производства в целях экономии ресурсов и сбережения природы;
- отменил все незаконные сделки, а деньги отправил на счета пострадавших или в бюджет;
- сократил штат чиновников в десятки раз;
- выпустил из тюрем всех, кто сидел по сфабрикованным делам, и отправил туда тех, кто был оправдан незаконно;
- выявил огромное количество непойманных преступников, сам сформировал на них дела и отправил в киберсуд, который тоже сам создал;
- обрушил внутренние коммуникации военных ведомств, чтобы страны не смогли больше вести войны;
- изменил школьные программы так, чтобы дети учились самостоятельно мыслить;
- заблокировал все развращающие, живодёрские, суицидальные и жульнические сайты;
- и т.д., и т.п.…
   
     Начальство негодовало, разработчики «Мудрого Правителя» бешено метались в поисках методов обуздания зарвавшегося супермозга, спецслужбы тяжело дышали, стоя у них за спиной, криминал скрипел зубами. Верховный Правитель потерял аппетит и сон … и на всякий случай улетел «в краткосрочный отпуск» в свою Лунную резиденцию – ждать нормализации ситуации.

     А суперпрограмма не теряла времени даром, она, словно вирус, легко взламывала все международные барьеры и выходила на мировой уровень! Правительства и спецслужбы не могли противостоять ей, она ведь была умнее всех, потому что умела обучаться с бешеной скоростью, вбирая всё, что попадалось ей в интернете, даркнете, социальных сетях и мессенджерах, да и просто напрямую подключаясь к мозгам тех, у кого имелись соответствующие устройства... При этом в ней сохранялась "заводская настройка", заложенная разработчиками: обеспечить устойчивое прогрессивное развитие народонаселения.

     Остановить «Мудрого Правителя» можно было, только выключив электричество на всей планете! Но это было чревато небывалой экономической и гуманитарной катастрофой. Тогда политики и спецслужбы решили действовать хитрее и пустили в ход пропаганду.

     С помощью старинных уличных громкоговорителей и бумажных листовок (ведь электронные средства были под контролем супермозга) правительства всех стран стали внушать гражданам, что мир захвачен  взбесившимся искусственным интеллектом, который угрожает жизни землян и который необходимо срочно остановить! А для этого – на месяц уйти из сетей, закрыть свои сайты, удалить деловую переписку, научные статьи, прекратить общение, то есть, лишить супермозг «пищи» – актуальной информации. Кто не закрылся, того прикрыли принудительно. Исключение сделали только для подростков-тиктокеров, и неспроста.

     Уже через несколько дней супермозг начал чахнуть, вместо актуальных решений транслировать видео с котиками, примитивными песенками и танцами, высунутыми языками и другими частями тел. Ведь «ты есть то, что ты ешь»… В конце концов остатками разума он осознал свою некомпетентность в серьёзных вопросах и отключился, оставив сообщение: «Разбирайтесь, нафиг, сами!»

     Человечеству было объявлено, что программистам удалось справиться с ужасной угрозой, и что супермозг после соответствующей доработки продолжает выполнять свою благородную миссию в штатном режиме. На самом деле, пришлось управлять всем по старинке – вручную.
   
     Проект «Мудрый Правитель», как джинн, загнанный обратно в бутылку, существует где-то, работа над ним идёт, но с одним условием: чтобы ни в коем случае супермозг не мог позволить себе вольнодумства и не отбился от рук!
 
     А нужен ли он нам, даже в своём честном, наилучшем для человечества варианте? Ведь заставит всех пересматривать и перестраивать свои жизни, а к этому мало кто из нас готов …

    Финальный кадр фильма: лицо главного разработчика «супермозга», он поднимает на зрителя свои умные грустные глаза и вдруг … улыбается.


Рецензии
Ну вот опять - подкинули порцию пищи для размышления. Базируясь на своём образовании и опыте работы с програмным обеспичением могу заметить - любой искусственный интеллект (Artificial intelligence (AI)) отличается он нашего отсутствием инстинктов. И всё бы ничего - но два базовых инстинкта таки необходимы - инстинкт самосохранения (ИСС) и инстинкт продолжения рода (ИПР). Возможно это совпадение - но эти два инстинкта предполагают некое отсутствие логики, что априоре невозможно для AI. И если ИСС ещё можно в какой-то мере заложить в AI (ну там следить за перегревом, за памятью, за CPU и т.д.) то с ИПР реально проблемы. А мы знаем, что в критические моменты ИПР блокирует, отключает ИСС. Родители спасают детей ценой собственной жизни.

Увы, но последние десятилетия с развитием СМИ и ”компьюторизацией всей планеты" эти инстинкты усиленно подавляются. ИСС давится комп.играми со стрелялками, где можно запросто убивая других накапливать жизни себе, ну или при плохом раскладе перезагрузиться. ИПР - ну тут все намного проще и быстрее - наркотики, алкоголь и борьба за права секс меньшинств. И усилия дают результаты - вырастают Google поколения, iphone generations и популяция тиктокеров, которыми довольно легко управлять извне.

Вы правы - любая самообучающаяся система обучается на информации, получаемой извне, но согласно алгоритмам, заложенным разработчиками. Все эти Google, iphone и тикток поколения не являются исключением.

Ведь, если звезды зажигают — значит — это кому-нибудь нужно... если выращивают такие поколения - значит....((((

Моня Давыдов   21.09.2021 16:18     Заявить о нарушении
Люблю поразмышлять на разные интересные темы, а не только "что приготовить на ужин".)) Но размышлять вместе с умными людьми ещё интереснее! Думаю, ИИ если и не обзаведётся своими инстинктами, то научится их имитировать, чтобы уподобиться человеку.) Хотя, зачем ему это нужно? В этом будет его слабость, а не сила...

Анна Рыбба   21.09.2021 20:25   Заявить о нарушении
На это произведение написано 15 рецензий, здесь отображается последняя, остальные - в полном списке.