Опасен ли Интеллект машин ИИ

               

               
                Из беседы
                c Константином ВОРОНЦОВЫМ,
                доктором физико-математических наук,
                профессором РАН, профессором МГУ и МФТИ,   
                экспертом в области машинного обучения и
                искусственного интеллекта.


ВОПРОСЫ:

Чем в первую очередь стоит заниматься в области ИИ?
Надо ли стремиться к созданию общего искусственного
интеллекта — AGI (Artificial General Intelligence),
который сможет заменять человеческий разум
практически во всём?
Почему мне и некоторым моим коллегам это кажется
лишним и даже опасным? И надо ли туда человечеству?
***************************************************

ОТВЕТЫ:

Ответы на эти вопросы даёт не наука, а ИДЕОЛОГИЯ.
А её нет. Точнее, есть разные идеологии,
которые приводят к разным спорным мнениям.
Поэтому есть потребность выстроить простую,
логичную, естественно-научную картину мира,
которая будет давать чёткие ответы на вопросы,
с какой целью мы создаём наши технологии,
в чём их опасности, и как их избежать.

Начнём с бесспорного — с системы ЦЕННОСТЕЙ.
Независимо от национальных, культурных,
образовательных, социальных и прочих различий,
людей объединяет ОБЩАЯ ЦЕЛЬ  —
все вместе мы строим Человеческую Цивилизацию.
Мы создаём всё более мощные технологии,
способные уничтожить не только нас самих,
но и ЖИЗНЬ на Земле.
Тем самым мы берём на себя ответственность
за сохранение этого Редчайшего явления,
Уникальной Драгоценности во Вселенной.

ЦЕЛЬ  ЦИВИЛИЗАЦИИ — Выживание нас,
как Биологического вида в Биосфере Земли —
в той среде, к которой мы приспосабливались
Миллиарды Лет Эволюции.

ДОБРО — это всё, что способствует достижению
этой цели: ЛЮБОВЬ,  ПОЗНАНИЕ,  СОЗИДАНИЕ.

ЗЛО — всё то, что этому препятствует:
НЕНАВИСТЬ,  НЕВЕЖЕСТВО,  ВАНДАЛИЗМ.

Главное ЗЛО находится в НАС самих,
это наша архаичная ЗВЕРИНАЯ потребность
Доминирования, тяжёлое наследие миллионов лет
ЭВОЛЮЦИИ человека как ХИЩНОГО социального ЖИВОТНОГО.

Она порождает Алчность и Агрессию,
отравляет экономические, социальные и
политические отношения.


Кстати, СЕМЬ СМЕРТНЫХ ГРЕХОВ:
ГНЕВ, ЖАДНОСТЬ, ЛЕНОСТЬ, ЗАВИСТЬ, ГОРДЫНЯ,
ПОХОТЬ, НЕНАСЫТНОСТЬ, — не что иное как остатки
всего ЗВЕРИНОГО в нас.

Главное цивилизационное ПРОТИВОРЕЧИЕ в том,
что наши технологии уже способны менять
окружающую нас социальную и природную среду,
тогда как наш мозг всё ещё выстраивает
социальные отношения по ЗВЕРИНОМУ образцу.
Использование ТЕХНОЛОГИЙ в целях доминирования
порождает несправедливость, конфликты, войны и
увеличивает риски САМОУНИЧТОЖЕНИЯ цивилизации.

Мы поставлены перед дилеммой:
***************************************
либо АПОКАЛИПСИС, либо СРОЧНО ИЗМЕНЯТЬ СЕБЯ и
становиться цивилизованными — укрощать своего
"ВНУТРЕННЕГО ЗВЕРЯ", возвращаться к задаче
Воспитания Нового Человека.

ОПАСНЫ НЕ ТЕХНОЛОГИИ.
**********************************
Опасно то, как люди их применяют,
с какими ЦЕЛЯМИ, какая ИДЕОЛОГИЯ их направляет.
Какие ОБРАЗЫ Будущего вдохновляют учёных и
политиков, элиту общества.

Интеллектуальные Машины смогут УНИЧТОЖИТЬ
всё живое на этой планете,
если мы дадим им такие СПОСОБНОСТИ.
Если мы будем целенаправленно к этому идти.

Общий искусственный интеллект (AGI) — это машина,
способная конкурировать с людьми
за выживание на Земле.

Нам ведь именно для этого даны все наши Органы Чувств
и когнитивные навыки.
 AGI собирается их воспроизводить.
Кажется, что это противоречит Цивилизационным
Целям и Ценностям.

Вообще, Цивилизационная Идеология —
это инструмент Мышления и Поиска ответов
на вопросы о Будущем.
Понятийный аппарат для обсуждения Целей,
Проблем и Препятствий на пути
Цивилизационного развития.

КАК относиться к ГЛОБАЛИЗАЦИИ?
***************************************
С одной стороны, это естественное Следствие
научно-технического Прогресса,
Свободы перемещения Людей, Капитала и Информации.


Это Позитивные Цивилизационные Процессы.
Они имеют огромный потенциал для выравнивания
уровней благосостояния стран, территорий,
социальных групп, отдельных людей.
Если этого не происходит, то не по вине Прогресса и
Глобализации.
Скорее, по Вине Элит,
использующих эти процессы для Усиления
Собственной Власти, то есть Доминирования.

ПОЧЕМУ для РАЗВИТИЯ Цивилизации важно
КУЛЬТУРНОЕ РАЗНООБРАЗИЕ?
*********************************************
По той же причине, почему Биоразнообразие
необходимо для Эволюции Биологической.
Если Популяцию Унифицировать,
она начнёт ДЕГРАДИРОВАТЬ.

Взаимообогащение КУЛЬТУР возможно при условии
их относительно Обособленного Самостоятельного Развития.
Поэтому Сохранение Культурной Идентичности входит
в систему Цивилизационных ЦЕННОСТЕЙ.
Поддержание Культурного РАЗНООБРАЗИЯ требует
Многополярного Политического Устройства Мира.
Если вас не устраивает чья-то модель развития и
вы мешаете ему развиваться, то это
Антицивилизационная деятельность, чистое ЗЛО.


КАК ОТНОСИТЬСЯ к идее Мирового Правительства?
*********************************************
Как к высшей форме доминантности и
Ущербной Модели Управления.
Единый ЦЕНТР ВЛАСТИ будет стремиться
к упрощению Функций Управления,
Унификации Мировоззрения, Культурному Единообразию.

Идеология Неолиберализма даёт слишком много
свободы "Внутреннему Зверю".
На словах это Демократия и Свобода, а на деле —
доминантные Элиты впервые в истории человечества
подбираются к Реальной технологической возможности
УЗУРПАЦИИ ВЛАСТИ НАД МИРОМ.