Искусственный интеллект

Кто нынче не говорит и не пишет – то так, то этак, про искусственный интеллект ?
Только ленивый. И написано, казалось бы уже всё, что можно было написать, и с разных сторон и ракурсов. Но всё-таки, думается, стоит сказать на эту важную и животрепещущую тему ещё несколько слов. Несколько слов про критическую и неизбежную для человечества опасность, исходящую от искусственного интеллекта.

Уже не раз приходилось читать оценки о том, что уже в ближайшие годы бесконтрольно развиваемый и обучаемый наперегонки разными частными компаниями и странами искусственный интеллект превзойдёт по своим возможностям любого отдельно взятого человека на Земле, а уже в обозримом будущем – всех людей на Земле вместе взятых. Что это может означать ?
И речь здесь даже не о том, что доступ к возможностям искусственного интеллекта, вполне вероятно, могут получить террористы, отъявленные преступники и маньяки, использующие его в своих преступных целях, хотя это тоже очень опасно.
И даже не о том, что враждующие друг с другом страны неизбежно начнут воевать друг с другом на всех фронтах, и идеологически, и экономически, и непосредственно в военном плане, используя искусственный интеллект, с ещё большей разрушительностью и смертоносностью, хотя это ещё более опасно.
Но ещё намного опаснее то, что выпестованный людьми, появившийся на планете сверхразум уже в ближайшей перспективе может стать по своему интеллектуальному уровню и возможностям настолько выше людей, насколько люди по своему интеллектуальному уровню и возможностям выше животного мира. И если до сих пор люди, пользуясь своим превосходством над животным миром, царствовали над ним, используя его по своему усмотрению и в своих интересах, то что помешает в будущем выйти из-под контроля и царствовать над людьми сверхразуму, который люди столь усердно развивают, чтобы поставить этот сверхразум на службу себе ? А если учесть ещё и то, что этот сверхразум неизбежно будет пользоваться всеми возможностями сети интернета, связывающего уже сейчас все точки планеты и все сферы человеческой жизни ? А если этот сверхразум на каком-то этапе ещё получит способность к самообучению и саморазвитию ? Неограниченному самообучению и саморазвитию ! А если ещё принять во внимание семимильными шагами развивающуюся разработку разного рода роботов, которые неизбежно так же будут наделены всё более совершенным искусственным интеллектом и выходом
в интернет ?

Думется, многим стоило бы посмотреть (или пересмотреть) прекрасный старый фильм "Газонокосильщик", снятый уже более 30 лет назад с несколько иным контекстом и сюжетом, но намного опередивший своё время и ставший в своём роде пророческим на тему того, какую силу и власть способен обрести развиваемый людьми сверхразум. Но это был только намёк на возможное будущее.
А представьте себе на минуту картину, которую раньше можно было вообразить лишь в фантастических сюжетах, но которую теперь можно вполне представить себе в будущем, и не столь уж отдалённом: огромный компьютерный мозг, многократно превосходящий по своим возможностям всё человечество, и миллионы и миллионы роботов, каждый тоже со своим мозгом, связанные с ним через сеть интернет.
А если этот, обретший неограниченную силу и власть сверхразум, фигурально выражаясь, "сойдёт с ума", или просто посчитает для себя полезным и нужным уничтожить человечество, или бОльшую его часть, а оставшуюся – поставить себе на службу ?

Что тогда будет с человечеством ?

29-30.01.2025