Исследование опубликовал журнал PLOS Computational Biology
Искусственные нейронные сети перезаписывают ранее изученные задачи при последовательном обучении. Это явление более известно, как катастрофическое забывание.
Учёные отметили, что мозг человека учится непрерывно. Он лучше всего работает, когда обучение чередуется с периодами сна.
ИИ может достигать сверхчеловеческой производительности во многих областях. Несмотря на эти достижения, он терпит неудачу в последовательном обучении.
Но люди и животные обладают замечательной способностью непрерывно учиться и получать новые знания. Учёные предположили, что сон играет важную роль в памяти и обучении, позволяя спонтанно активировать ранее изученные шаблоны памяти. Тогда и появилась идея создать похожее на сон состояние для ИИ.
Вместо обычных нейронных сетей они использовали спайковую нейронную сеть, имитирующую мозг человека. Изначально у неё было катастрофическое забывание.
Позже учёные стали чередовать обучение новым задачам с автономной реактивацией, похожей на биологический сон человека.
Подобная тактика помогла смягчила катастрофическое забывание. Это явление помогло ИИ выполнять старые и новые задачи, так как ранее изученные знания не пересекались с приобретёнными.