5.3.6 Нейроморфные системы типа I. Исследования мозга и принцип STDP
Конечно, успехи, достигнутые в области обучения традиционных искусственных нейронных сетей при помощи метода обратного распространения ошибки, создают соблазн применить этот же метод при обучении импульсных сетей. Импульсная версия метода обратного распространения ошибки показала свою жизнеспособность — сегодня импульсные сети, обученные при помощи этого метода, лишь незначительно уступают в точности традиционным нейронным сетям.
Однако для достоверной симуляции мозга нужно использовать методы, аналогичные тому, что происходит собственно в мозге. Одна из проблем заключается в том, что современной науке неизвестны бесспорные физиологические аналоги метода обратного распространения ошибки. Если вам хочется позлить нейрофизиолога, заведите с ним дискуссию о методе обратного распространения ошибки в мозге, но хочу сразу предупредить, что за последствия этой авантюры я не несу никакой ответственности. Ввиду этого пришлось искать для обучения импульсных сетей методы, для которых всё-таки обнаруживаются аналоги в физиологии. В конечном счёте эта одиссея завершилась успехом, и сегодня таковые нам известны. Более того, выяснилось, что в ряде экспериментов они не слишком уступают методу обратного распространения ошибки[1607], а при правильно подобранных параметрах могут оказаться даже более эффективными.
В первую очередь речь идёт о процессе, получившем название «синаптическая пластичность, зависящая от времени импульса» (Spike-timing-dependent plasticity, STDP). Это биологический процесс, который регулирует силу связей между нейронами на основе относительной синхронизации входного и выходного потенциалов конкретного нейрона.
Сам термин «синаптическая пластичность» был введён польским психиатром и нейрофизиологом Ежи Конорским для обозначения долгосрочных изменений эффективности синаптических связей в результате кратковременных изменений синаптической активности. В настоящее время значение этого термина расширилось и теперь включает не только изменение эффективности, но также вырастание новых и активацию ранее неактивных синапсов[1608].
В чём же особенность такого механизма синаптической пластичности, как STDP?
Если импульсы, поступающие через некоторый входной синапс нейрона, имеют тенденцию возникать непосредственно перед срабатыванием нейрона, то этот конкретный синапс получает положительное подкрепление, усиливающее соответствующую связь. Если же входные импульсы имеют тенденцию возникать уже после срабатывания нейрона, то соответствующий входной синапс получает отрицательное подкрепление и соответствующая синаптическая связь ослабляется. Нетрудно заметить, что STDP является дальнейшим развитием идеи хеббовского обучения.
Уже полстолетия назад большинство нейробиологов считало утверждение о том, что синаптическая пластичность обеспечивает физиологическую основу для обучения и памяти, практически самоочевидным. Но, несмотря на почти всеобщее признание этой точки зрения, экспериментальных доказательств было найдено не так уж много. Одним из первых стала новаторская работа[1609] Эрика Кандела, опубликованная в 1965 г. В ней Канделу и его коллегам удалось продемонстрировать прямую связь между синаптической пластичностью и изменением поведения морского беспозвоночного Aplysia californica.
В 1973 г. канадский исследователь Морис Тейлор предположил, что если бы синапсы, для которых импульс предшествующего нейрона (пресинаптический) чаще происходил непосредственно перед импульсом следующего нейрона (постсинаптическим), усиливались (хеббовское обучение), а синапсы, для которых это условие не соблюдалось, — ослаблялись (антихеббовское обучение), то данный механизм позволил бы объяснить эффективное кодирование образов мозгом[1610]. Однако работа Тейлора, как и диссертация Вербоса, не была в то время замечена коннекционистским сообществом.
Процесс, соответствующий хеббовскому обучению в биологических и импульсных нейронных сетях, в наши дни обычно называют долговременной потенциацией (ДВП, Long-term potentiation, LTP), а антихеббовскому обучению — долговременной депрессией (ДВД, Long-term depression, LTD).
Долговременная потенциация в живом организме открыта норвежским учёным Терье Лёмо в 1966 г. в ходе опытов на гиппокампе кроликов. Первая научная статья с описанием процесса ДВП опубликована[1611] Лёмо совместно с британским нейробиологом Тимоти Блиссом в 1973 г.
Хотя Лёмо и Блиссу и удалось обнаружить само явление долговременной потенциации, скудность экспериментальных данных не позволила им с уверенностью говорить о конкретных биохимических механизмах, лежащих в основе этого эффекта. Однако ряд важных предположений, подтвердившихся в будущем, они всё же сделали. Для того чтобы лучше понять их, давайте более подробно рассмотрим устройство синапса.
Как мы уже знаем, нервные клетки имеют обычно несколько отростков. Напомним, что разветвлённые тонкие отростки нейронов называются дендритами. Именно дендрит является «входом» нейрона, через который он получает электрические импульсы от других клеток. Если рассмотреть дендрит типичного нейрона под микроскопом, на нём можно заметить множество коротких отростков (обычно грибовидной формы), называемых «дендритными шипиками» [spines]. Тонкая ножка шипика называется «дендритной шейкой» [spine neck], а утолщение на конце шипика — «головкой» [spine head]. Вообще говоря, дендритные шипики не всегда имеют грибовидную форму. Специалисты по морфологии нейронов способны разглядеть, помимо грибовидных шипиков, также «протошипики», «тонкие шипики», «пеньковые шипики», «разветвлённые шипики» и даже загадочные «филоподии», но мы постараемся всё-таки избежать погружения в пучины знаний о дендритных шипиках. Достаточно отметить, что большая часть синапсов расположена именно на них.
Синаптическая щель разделяет участки мембран (оболочек) двух нейронов. При этом участок мембраны со стороны аксона называется пресинаптической мембраной, а со стороны дендрита — постсинаптической. Синапсы разделяют на электрические и химические. Электрические синапсы характеризуются очень узким просветом между пресинаптической и постсинаптической мембранами (менее 4 нм) и наличием специальных каналов, пересекающих обе мембраны. Через эти каналы клетки могут обмениваться ионами и небольшими молекулами. Электрические синапсы способны очень быстро передавать сигнал, но не способны усиливать его. Электрические синапсы обычно двунаправленны, то есть нервный импульс может проходить по ним в обоих направлениях. Но нас больше интересуют более сложные, химические синапсы. Зазор между пресинаптической и постсинаптической мембранами в них может составлять порядка 20–40 нм. Постсинаптическая мембрана химического синапса оснащена набором рецепторов — белковых структур, реагирующих на присоединение к ним молекул определённого химического вещества и вызывающих в результате этого некоторые изменения внутри клетки. Самый распространённый способ вызвать эти изменения используют так называемые ионотропные рецепторы, открывающие в ответ на присоединение к ним определённой молекулы ионный канал, что приводит к возникновению перетока ионов сквозь постсинаптическую мембрану.
Мы не будем углубляться в разновидности рецепторов (их десятки) и детали их работы (они весьма поучительны и разнообразны) и отметим лишь, что в соответствии с доминирующими в наши дни представлениями наиболее важную роль в ДВП играют так называемые NMDA-рецепторы (ионотропные рецепторы глутамата, связывающие N-метил-D-аспартат). Это довольно интересные молекулярные машины, в основе работы которых лежит несколько занятных химических механизмов. В неактивированной форме канал рецептора закрыт ионом магния или цинка. Они покидают просвет канала при деполяризации постсинаптической мембраны. Для того чтобы ионный канал начал функционировать, две молекулы глутамата (глутаминовой кислоты, также называемой 2-аминопентандиовой кислотой) из синаптической щели должны соединиться со специальным участком рецептора (так называемым участком (сайтом) связывания глутамата [glutamate binding site]), а две молекулы глицина, или D-серина, должны соединиться с участком связывания глицина. В открытом состоянии канал, при наличии соответствующей разницы потенциалов, допускает приток положительно заряженных ионов натрия (а также, в небольших количествах, кальция) в клетку и отток из неё положительно заряженных ионов калия.
