Современные нейросети начали формировать собственные внутренние инструменты, которые изначально не были задуманы разработчиками. К такому выводу пришли исследователи компании Anthropic, когда обнаружили ранее неизвестную область внутри модели Claude — своеобразный временный «рабочий стол», названный J–space. В этом пространстве модель удерживает ключевые понятия для ответа и готовит дальнейшие шаги, сообщает Деловой Петербург.
Механизм J–space можно сравнить с рабочим черновиком — модель временно сохраняет нужные данные, не раскрывая их сразу пользователю. Это не отдельная физическая зона, а набор внутренних числовых состояний в системе, через которые проходит информация. Алексей Борщов из компании «Авандок» сравнивает J–space с общим каналом, где концентрируются основные понятия задачи. Обычно практически вся информация обрабатывается автоматически, но лишь несколько десятков элементов одновременно попадают на этот «рабочий стол».
Возникновение таких инструментов называют эмерджентными свойствами — способностями, которые появляются у сложных систем сами по себе и не закладываются напрямую в программный код. Станислав Ежов из «Группы Астра» отмечает, что нейросеть в процессе обучения осваивает связи между словами и фактами, что позволяет ей приобретать новые навыки.
Однако специалисты расходятся в трактовке происходящего внутри ИИ. Технический директор «Стахановца» Сергей Щербаков уточняет, что речь идет о детерминированных математических операциях, а внутренние состояния — это числовые вектора без признаков сознания или рефлексии. Тем не менее, часть экспертов допускает использование слова «мысли» как метафоры для промежуточного этапа, когда модель подбирает путь рассуждений и извлекает факты.
Понимание того, как устроены процессы принятия решений у нейросетей, продолжает оставаться ограниченным. Несмотря на то что устройство и архитектура моделей хорошо изучены, воспроизвести механизм получения конкретного ответа зачастую невозможно. Наталья Сергиенко из «ГигаЧат Бизнес» поясняет: нейросети развиваются скорее как биологическая система — им задаются условия, а внутренние навыки формируются по мере обучения. Даже специальные инструменты, такие как разработанный Anthropic J–lens, лишь частично раскрывают происходящее внутри модели.
Для обычного пользователя эти детали почти незаметны, однако для бизнеса прозрачность становится важным фактором, так как требуется понимать, почему нейросеть выбрала тот или иной вариант решения задачи. Стоит отметить, что после завершения обучения параметры модели остаются неизменными, и последующее взаимодействие с пользователями не изменяет её внутренние настройки. Новые способности могут появляться только при разработке следующей версии или через интеграцию с внешними сервисами.
