Не стоит думать, что ChatGPT думает

Не стоит думать, что ChatGPT думает, что искусственный интеллект?
Это нечто иное - нейросеть, как нейросеть например грибов, насекомых: пчёл, муравьев, или птиц других стадных массовых животных, организмов.

Когда мы размышляем о возможностях ИИ, легко впасть в соблазн и начать проводить аналогии с человеческим мозгом. Но такая аналогия может оказаться не просто неуместной, а даже вредной для понимания природы технологий. Давайте начнем с примера — грибов.

Грибы, как оказалось, обладают «интеллектом». Конечно, это не интеллект в привычном нам смысле, но в биологии интеллект определяется как «способность организма совершать эффективные действия для выживания». По сути, грибы — это система коммуникаций и датчиков с достаточно простыми правилами. Ближайший аналог грибницы — нейросеть, которая изначально работает по базовым алгоритмам, но с увеличением объема данных начинает принимать более сложные решения.

Например, грибница может «запомнить» место, где находилась древесина, и направить туда ресурсы, даже если древесину позже убрали. Это похоже на процесс обучения и запоминания, но без участия сознания. Подобные механизмы, хотя и кажутся разумными, на деле являются просто следствием накопленных данных и правил их обработки.

Но грибам не только удается «запоминать», они также способны вступать в союзы с растениями и бактериями. И совершают довольно сложные сделки. Например, растения меняют углерод на минеральные элементы. Бактерии (водоросли, цианобактерии) в лишайниках генерируют спирт, а гриб в ответ становится их защитником. Опьяненным, но эффективным.

Грибы могут образовывать огромные сети, соединяя в лесу множество деревьев, которые становятся своего рода роутерами для передачи сигналов и веществ. Грибы расширяют радиус действия химических сигналов от деревьев на весь лес, превращая лес в огромную информационную сеть. Если сигнал попал в грибницу, то вскоре его узнают все растения, связанные с ней.

Но опять же, несмотря на всю эту сложность, это не делает грибы разумными существами.

Тем не менее, мы почему-то продолжаем думать о нейросетях, таких как ChatGPT, в терминах человеческого интеллекта. Но такая параллель ошибочна. Вспомните, как развивалась нейроэтология — наука о поведении животных. Сначала ученые полагали, что животные обладают сознанием, подобным человеческому, и действуют по схожим стимулам. Но позже стало ясно, что многие виды, от птиц до крокодилов, действуют как живые алгоритмы — скрипты, которые оптимизированы для выживания, но не обладают самосознанием.

Точно так же GPT-модели не обладают самосознанием и другими признаками разумности. Можно сказать, что СhatGPT — это такой прокаченный попугай, который знает, как находить в базе знаний человечества что-то, что можно повторить или перефразировать. Нейросети отражают запросы пользователей, но в них нет ни желаний, ни стремлений, ни целей. Все, что кажется нам проявлением разума в таких моделях, — это лишь результат нашего собственного восприятия и работы тех, кто создавал обучающие датасеты.

Таким образом, стоит прекратить воспринимать нейросети как нечто, обладающее разумом или стремлениями. Они — просто отражение нашей собственной мысли, закодированное в сложных алгоритмах. И, как и в случае с грибами, их сложность не означает наличия разума.