Ученые из Университета Бар-Илан (Израиль) выяснили, что обучение в мозге происходит не за счет создания новых нейронных путей, а за счет усиления существующих связей. Исследование, опубликованное в журнале Physica A, проверило эту гипотезу на искусственных нейросетях, обучавшихся языковым задачам. Эту информацию сообщает сайт Phys.org.
По мере увеличения объема данных модели становились значительно лучше в обучении. Однако сети могли терять примерно одинаковую долю связей (синапсов) без заметного ухудшения производительности. Это означает, что улучшение обучения не требовало расширения сети — оно достигалось более эффективной настройкой уже существующих компонентов. «В биологическом мозге количество нейронов остается примерно постоянным, и нет доказательств механизма крупномасштабной перестройки топологии сети во время обучения», — отметил Янир Харель, магистрант и первый автор работы. Таким образом, и человеческий мозг, и современные системы ИИ могут обязаны своей способностью к обучению не росту архитектуры, а постоянной настройке внутренних связей.