ох, уж эти сказочники... Публицистика

их серии "диалоги" на тему Искусственного Интеллекта
*на заставке картина, созданная ИИ

- Никто не против замены ручного труда машиной, но в данном случае иное: замена человеческих мозгов искусственным интеллектом. В качестве помощи для избавления от огромного количества рутинных операций и вычислений все согласны, но ведь этот настырный ИИ претендует на принятие решений там, где его никто не просит. И ваше мнение его абсолютно не интересует, он сам знает, как, по его мнению, лучше.

- Похоже, что изобрели не ИИ, а Автоматический, Роботизируемый Человеко-Утилизатор... АРЧУ...
ИИ коснулся моего творчества: некий молодой человек, "вступая в контакт с ИИ", делает идеальную "озвучку" моих стихов... Ещё точнее, ИИ находит идеальный ГОЛОС и МУЗЫКУ, превращая их в песню... Слов нет...

- Если не знаете, как выразить словами, не стоит мучаться. Давайте и это поручим ИИ, пусть он и комментирует. Сам что-нибудь придумает, сам напишет (сочинит), сам исполнит или поставит, сам оценит... Самый интересный вопрос здесь: кто за всё это счастье заплатит и в чей карман?

- Видимо скоро мы будем искать подтверждение, что общаемся с живым человеком...

- В виртуальном пространстве это уже вовсю практикуется. Далеко не всегда(!) очевидно, что общаешься не с роботом. Интересно, насколько активно и успешно такой ИИ будет привлекаться мошенниками для выманивания денег. Не исключено, что ИИ сможет быстрее и эффективнее манипулировать собеседником, чтобы склонить его к определённым действиям.

- Насколько мне известно, ИИ прекрасно имитирует голоса людей,
и это успешно используют всякого рода мошенники...

- Я имел в виду не имитацию голосов и внешнего вида, а способность ИИ к анализу собеседника на основании незаметных обычному человеку проявлений: частота пульса и дыхания, модуляции голоса, отдельные непроизвольные движения и т.п. ИИ смог бы с учётом полученной информации составить "ментальную модель" собеседника и выбрать наиболее эффективные способы воздействия применительно к конкретному типу личности и состояния человека (аргументы, интонация, настойчивость и т.д.).

- Как в сказке, чем дальше, тем страшнее... 0_о (((

....................

*Ссылка на полный текст статьи не прошла...

Генсек ООН предложил взять ИИ под контроль и создать агентство по контролю за умными алгоритмами
Проблема существует, поэтому нет ничего удивительного в том, что многие заинтересованные стороны хотят найти правильное решение.
Пока одна часть человечества снимала фильмы и писала книги о неизбежном уничтожении разумной жизни от руки искусственного интеллекта и роботов, другая занималась активной разработкой технологий. Есть мнение, что мы пока даже не приблизились к созданию ИИ, о котором так много пишут и говорят в прессе. И всё же, даже если существует хотя бы небольшая опасность того, что машина может выйти из-под контроля, то проблеме стоит уделить особое внимание. Сегодня компьютеры контролируют значительную часть нашей жизни, а значит потеря контроля здесь равносильна гибелью современной цивилизации. Кто-то рассказывает о том, что один из следующих прототипов ИИ может уничтожить миллионы людей, тогда как многие учёные отмахиваются от подобных заявлений. Похоже, в ООН решили перестраховаться. Так, глава Организации объединённых наций поддержал инициативу создания международного агентства по искусственному интеллекту в ответ на растущую обеспокоенность относительно потери контроля над умными машинами. На пресс-конференции Антониу Гутерреш объявил о планах создания научно-экспертного совета и консультативного совета по ИИ, которые будут заниматься проверкой механизмов управления ИИ и предлагать рекомендации, согласующиеся с правами человека, верховенством закона и общественным благом.

Гутерреш предложил использовать Международное агентство по атомной энергии (МАГАТЭ) в качестве примера. Он намеревается собрать разнообразные мнения о недавно опубликованных принципах кодекса поведения для информационной целостности на цифровых платформах и представить их до проведения Саммита будущего под эгидой ООН в следующем году. Генеральный секретарь ООН выразил тревогу по поводу последних достижений в области генерирующего искусственного интеллекта, особенно в создании правдоподобных текстов на основе запросов. Он призвал отнестись к проблеме со всей серьёзностью и прислушаться к предупреждениям, которые исходят от самих разработчиков ИИ. Похоже, пока о захвате планеты роботами речь не идёт, а организация начнёт решать более насущные проблемы. Так, вначале будет решён статус создания дипфейк-изображений и распространения фейковой информации с помощью ИИ. Гутерреш выразил надежду, что модель, основанная на МАГАТЭ, может представлять собой интересный подход к контролю за искусственным интеллектом, однако отметил, что её создание может быть реализовано только странами-членами, а не секретариатом ООН.

В прошлом месяце компания OpenAI, разработавшая генеративную модель ChatGPT, заявила о возможности контроля и регулирования систем искусственного интеллекта подобно МАГАТЭ. Предлагается, что такое агентство смогло бы проверять соответствие систем ИИ стандартам безопасности, а также устанавливать ограничения на их использование в различных отраслях. Есть мнение, что создание международного агентства по искусственному интеллекту должно предотвратить возможные негативные последствия от неуправляемого развития ИИ. Отдельно указывается, что требуется определить правовой статус информации, которая генерируется при помощи умных алгоритмов, что позволит минимизировать риски и обеспечить соответствие этическим и правовым нормам. Международное агентство по искусственному интеллекту, аналогично МАГАТЭ, будет осуществлять мониторинг и оценку соблюдения принципов безопасности, этики и законности при использовании ИИ. Эксперты полагают, что создание и успешное функционирование международного агентства по искусственному интеллекту также может столкнуться с некоторыми вызовами и сложностями. Среди них могут быть различия в подходах и интересах разных стран, необходимость разработки международных норм и протоколов, а также финансовые и технические аспекты.

Несмотря на все сложности, создания регулирующего органа назрело. Очевидно, что чем скорее структура приступит к выполнению очерченных задач, тем безопаснее будет будущее данной технологии. Напомним, МАГАТЭ – организация со штаб-квартирой в Вене, которая была создана в 1957 году. Её задача состоит в продвижении безопасного и мирного использования ядерных технологий и контроле возможных нарушений Договора о нераспространении ядерного оружия. В настоящее время она объединяет 176 членов.

Статья от 14 июня 2023г.