суббота, 15 августа 2015 г.

Бионический нейрон

Реализуемая в проекте модель бионического нейрона разработана доктором биологических наук, профессором В.Б.Вальцевым.

http://www.keldysh.ru/pages/cgraph/articles/dep20/publ2009/scor_system.pdf

http://ailab.ru/resources/downloads/doc_view/134-obzor-sushchestvuyushchikh-modelej-nejronov-pdf

Нейрон – элемент нейронной сети. Каждый нейрон имеет входы и выходы. Входы бывают нескольких типов: возбуждение, регуляция, память, торможение, запрет. Текущее состояние нейрона определяется текущим потенциалом и текущим порогом. Нейрон способен принимать и испускать импульсы. Текущее состояние нейрона меняется со временем. Если подача на входы импульсов отсутствует, то значение текущего потенциала стремится к нулю по экспоненциальному закону: t P t P t e − ∆⋅ = − ⋅ α ( ) ( )1 , где (2.1) P(t) – текущее значение потенциала, P(t − )1 – значение потенциала в момент времени (t-1), α – коэффициент затухания потенциала, ∆t – время, прошедшее с момента, когда потенциал был равен P(t − )1 . 15 При этом значение текущего порога со временем стремится к некоторому постоянному значению, называемому порогом покоя. Порог покоя – величина, большая нуля: 0 0 T(t) (T(t )1 T ) e T a t = − − ⋅ + − ∆ , где (2.2) T(t) – текущее значение порога, T(t-1) - значение порога в момент времени (t-1), T0 - порог покоя, α – коэффициент затухания порога, ∆t – время, прошедшее с момента, когда потенциал был равен T(t-1). Потенциал нейрона ограничен величинами Pmin и Pmax соответственно снизу и сверху (Pmin≤ 0; Pmax>0). Порог ограничен сверху величиной Tmax, снизу – величиной Tmin (причём, 0 ≥Tmin > T0 > Tmax). Ограничения потенциала и порога учитываются при расчёте эффекта от поступившей импульсации. Принимать сигналы (импульсы) нейрон может с помощью входов. Каждый вход нейрона характеризуется весовым коэффициентом W (вес входа). Импульсы, поступая на вход нейрона, изменяют его текущее состояние. Эффект от импульса определяется типом входа, на который он поступил, весом этого входа, а также текущим состоянием нейрона. На рисунке 2 представлена модель бионического нейрона, где 1 - вход возбуждения, 2 - вход регуляции, 3 - вход памяти, 4 - вход запрета, 5 - вход торможения, 6 - выход (синапс) нейрона. Рис.2. – Модель бионического нейрона Одиночный импульс, пришедший на вход нейрона типа возбуждение, повышает величину потенциала нейрона на некоторое значение: P = P’ + H, где (2.3) P – текущее значение потенциала, P’ – прежнее значение потенциала, H – величина изменения потенциала; зависит от потенциала и меняется по закону: H = W·f(P’), где (2.4) W – вес синапса, по которому пришёл импульс, f(P) – функция, лежащая в области значений от нуля до единицы, и: f(P≤0)=1, f(P) стремится к нулю при P стремящемся к Рmax. На сегменте, где Р больше нуля, функция f(P) может быть определена как: f(P)= | | max | | P P P e − . (2.5) Таким образом: если нейрон не возбуждён (потенциал равен нулю), то импульс увеличивает значение потенциала на величину, равную весу входа. Продолжительная периодическая импульсация поднимает потенциал «ступеньками», высота которых убывает с возрастанием самого потенциала. Высота ступенек становится равной нулю, когда потенциал достигает предельного максимального значения Pmax. При данном задании функции, потенциал может превышать максимальное значение на величину, пренебрежимо малую. 16 Если на вход возбуждения нейрона последовательно подавать импульсы так, чтобы либо их частота, либо вес входа компенсировали коэффициент затухания потенциала, то потенциал будет ступенчато возрастать. Подобным образом ведёт себя вход торможение. Однако его роль заключается в уменьшении потенциала на величину H, которая рассчитывается аналогично: P = P’ - H, где (2.6) P’ – прежнее значение потенциала, H – величина, которая меняется по закону: H = W·f(-P’), (2.7) где W – вес синапса, по которому пришёл импульс. В данном случае аргумент взят со знаком минус, при этом в роли ограничителя выступает Pmin: f(P)= | | | min| | | P P P e − . (2.8) Если на вход торможения нейрона последовательно подавать импульсы так, чтобы либо их частота, либо вес входа компенсировали коэффициент затухания потенциала (с обратным знаком), то потенциал будет ступенчато убывать. Изменение значений порога осуществляется импульсацией на входы регуляции и запрета. Импульс, поступивший на вход регуляции, уменьшает значение порога на величину H, которая рассчитывается аналогично по формулам (2.6), (2.7) и (2.8). Соответственно запрет увеличивает значение порога на величину H и вычисляется аналогично по формулам (2.3), (2.4) и (2.5). Особенным образом работает вход памяти. Аналогично возбуждению он увеличивает потенциал, но приращение потенциала теперь зависит не только от веса входа, но также от текущего состояния коэффициента обученности. Коэффициент обученности в отличие от веса меняет своё значение динамически в процессе работы нейронной сети. Он может принимать значения в диапазоне от 0 до 1. Приращение потенциала рассчитывается по формуле: H = µ·W·f(|P’|), где (2.9) µ - коэффициент обученности, W – вес синапса, по которому пришёл импульс, f(P) – функция, вычисляемая по формуле (2.5). Если µ = 0, то вход считается необученным – в этом случае импульсация на этот вход не оказывает никакого влияния на состояние нейрона. Максимально обученный вход (µ = 1) работает аналогично входу возбуждения с весом W, пока значение µ снова не изменится (уменьшится). Обучение, переобучение, разобучение – механизмы, регулирующие значение µ и, как следствие, работу входов памяти нейрона. Обучение входа – увеличение µ на некоторую постоянную величину ∆µ+ (очевидно меньшую единицы), так называемую, способность к обучению. Эта величина неизменна и зафиксирована в значении ∆µ+ = 0,2. Обучение происходит при одновременном выполнении условий: 1) на данный вход поступил сигнал, 2) сигнал на вход памяти был подкреплён сигналом с входа возбуждения (сигнал на возбуждение должен прийти не позже, чем через время ∆T), 3) значение порога в этот момент было меньше, чем T0 – порог покоя (что возможно только при наличии регулирующей импульсации). Переобучение – уменьшение µ, происходит в тех случаях, когда сигнал, поступивший на вход памяти, не был подкреплён последующим сигналом на вход возбуждения, или не сопровождался регулирующей импульсацией (при этом T ≥ T0 ). В этой ситуации значение µ уменьшится на величину ∆µ-. 17 Таким образом, вход памяти отличается от входа возбуждения умением менять значимость своего вклада в общий потенциал в зависимости от характера импульсации. Помимо общей для всех типов входов весовой характеристики W и частных характеристик входов типа Память (µ, ∆µ+, ∆µ-) каждый вход также характеризуется величиной Delay. Delay определяет задержку поступления импульсации с одного нейрона на другой. В модели это реализуется следующим образом: каждый вход запоминает импульс, поступивший на него, но эффект от него рассчитывает лишь спустя время Delay. Для большинства функций и процессов сети, параметр Delay может не понадобиться, поэтому значение этого параметра по умолчанию выставляется в ноль. Генерация импульсов происходит, если величина ∆Ω положительна: ∆Ω = P – T, (2.10) То есть потенциал превысил порог. Частота генерации импульсов зависит от ∆Ω линейно: w = w’ + k∆Ω, где (2.11) w – частота импульсации, w’ – минимальная частота, k – коэффициент пропорциональности. Ограничения на частоту импульсации вытекают из верхнего ограничения на потенциал и нижнего ограничения на порог (Pmax, Tmin). Математическая модель составлялась на основе знаний о работе реального биологического нейрона, с некоторыми принятыми упрощениями. Так как топология сетей для бионической модели не определена то, несмотря на потери времени на разработку структуры, есть возможность построить наиболее оптимальную и гибкую систему, с возможностью добавления новых модулей, расширяющих возможность сети. Так же, в связи с высоким уровнем формализации бионического нейрона, имеется возможность исследовать алгоритм функционирования сети и гарантировать реакцию системы на любые воздействия, что в формальных нейронных сетях не всегда возможно. Существенное отличие бионического нейрона от формальных моделей, даёт основания полагать, что дальнейшее исследование данной модели и построение на её основе нейронных сетей приведёт к расширению применения нейротехнологий в различных областях человеческой деятельности [8]

Мемы&медиавирусы

Loading...