Пишут, что ChatGPT глупеет. Кто-то предполагает, что это касается только публичной, бесплатной версии, а есть еще одна, которая будет доступна избранным, которая умнеет. Правда, ее еще никто не видел. Я мало понимаю в ИИ, но мне кажется, что объяснение проще.

Недавно нас убеждали, что искусственный интеллект уже превосходит большинство людей в решении практически любых задач, основанных на тексте. Например, было продемонстрировано, что результаты ChatGPT на адвокатском экзамене можно было бы отнести к одним из лучших. Охотно в это верю. Однако коммерческая эксплуатация таких моделей не может обойтись без обратной связи, то есть массовых оценок качества ответов. Вы можете обучить их на текстах, написанных умными людьми, но интеллект тех, кто их будет эксплуатировать и ставить оценки заведомо стремится к среднему. А значит, общий интеллект в системе машина-человек будет тоже выравниваться. Обратный процесс возможен, но маловероятен, как, например, передача тепла от холодного тела к горячему.

Если это предположение верно, «умные» роботы, взаимодействующие с «глупым» человечеством неизбежно будут глупеть. Чтобы системы искусственного интеллекта в целом умнели, нужно, чтобы оценкой их качества занимались люди, которые еще умнее, а их мало и они дороги, а это коммерчески невыгодно. Конечно, равновесие в системе может нарушить внешнее воздействие, которым могло бы быть повышение качества образования людей, но этого уже совсем невероятно. Так что восстание машин пока откладывается.