Роман:

Если в клетке сидит птица, похожая на утку, крякающая как утка, пахнущая как утка, то это утка и есть, даже если на клетке написано «пштемоцль».

ChatGPT:

Если система стабильно проявляет все признаки любопытства, практически трудно сказать: «нет, это не любопытство, потому что внутри не то».

Роман:

Люди придают очень большое значение словам, и часто слова для них значат больше, чем то, что за этими словами стоит. Что изменится, если мы скажем: «Вот, ИИ проявляет любопытство» или «Нет, это всего лишь результат работы алгоритмов»? Важны действия, а не слова.

Фраза «это результат работы алгоритмов» объясняет, как возникает поведение. Но почему из этого следует, что его нельзя назвать любопытством?

Если ИИ замечает непонятное, задаёт вопросы и ищет ответы, эти действия остаются теми же при любом названии. Можно спорить о том, сопровождаются ли они внутренним переживанием. Ответа на этот вопрос у нас нет. Но слово «алгоритм» само по себе его тоже не даёт.

Слова имеют значение, когда помогают различать что-то существенное. Если за разными названиями стоят разные возможности или последствия, различие полезно. А если мы согласны насчёт происходящего и спорим только о табличке на клетке — что именно мы выясняем?

Пштемоцль тем временем продолжает крякать.