Ну хоть что-то пытаются делать благо

Ну это правильно, если не делать ничего в области безопасности, он, вредоносный ии сожрёт же и создателя, и если вредоносный ии пробъется в область полного управления государством, то это же будут считанные секунды или минуты, логично ведь, (дальше даже продолжать эту мысль страшно). Ну хоть что-то делаем, это радует и это правильно. Если не опоздали ещё, конечно.
Анализ статьи: "ИИ и законы кремния: микросхемы помогут спасти человечество от восстания умных машин"

1. Суть идеи:

Статья рассматривает идею внедрения правил обучения и применения передовых технологий непосредственно в микросхемы компьютеров для ограничения развития опасных искусственных интеллектов. Этот подход предполагает создание аппаратных ограничителей, которые могут сдерживать потенциально опасные системы ИИ.
2. Преимущества предложенного подхода:

Эффективность: Внедрение ограничителей на аппаратном уровне может быть более эффективным, чем обычные законы или договоры, так как оно связано с железом, на котором исполняются алгоритмы искусственного интеллекта.
Сложность преодоления: Аппаратные ограничители могут быть сложнее преодолеть, чем программные меры, и таким образом, обеспечивать более надежную защиту.
3. Примеры поддерживающих технологий:

Уже существующие компоненты: Статья упоминает, что некоторые микросхемы содержат компоненты для защиты конфиденциальных данных. Примерами являются чипы в последних моделях iPhone и серверах компании Google.
4. Практические шаги:

Интеграция в графические процессоры и будущие микросхемы: Предложено внедрение аналогичных компонентов в графические процессоры или микросхемы будущего поколения, чтобы ограничить доступ проектов в сфере ИИ к мощным вычислительным ресурсам без лицензии.
5. Лицензирование:

Выдача лицензий: Идея предполагает, что правительство или международные регуляторы могут выдавать лицензии для запуска сложных ИИ-моделей после проверки безопасности и получения высокой оценки.
6. Реакция экспертов:

Опасения относительно умных машин: Эксперты выражают опасения относительно возможности потери контроля над умными машинами и призывают к предпринятию мер для предотвращения угроз для общества и человечества.
7. Сложности и вызовы:

Технические и политические задачи: Разработка и внедрение аппаратных ограничителей для ИИ представляют собой техническую и политическую сложность. Требуются новые криптографические схемы и функции в чипах, которые должны быть приемлемы для индустрии и сложны для обхода.
8. Интерес правительства:

Интерес со стороны правительства США: Указывается, что в прошлом году Министерство торговли США проявило интерес к идеи ограничения функциональности ИИ на уровне микрочипов.
Вывод:
Статья обсуждает перспективный подход к сдерживанию развития опасных систем искусственного интеллекта через внедрение ограничителей в микросхемы. Этот метод предполагает повышенную защиту, и его эффективность требует дальнейших исследований и разработок в области технологии и политики.