November 2008 – Lehrertag

Stochastische Prozesse und

Neurobiologie – wie kann man das
Membranpotential in einem Neuron
beschreiben?

Reinhard Höpfner
Institut für Mathematik
Universität Mainz

www.mathematik.uni-mainz.de/∼hoepfner
hoepfner@mathematik.uni-mainz.de
 im Rahmen des Projekts

Stochastische Modelle
für die Übermittlung von Information
in grossen Systemen von Neuronen

zusammen mit den Projektpartnern

H. Luhmann and W. Kilb, Institut für Physiologie,

Universität Mainz

K. Brodda and R. Höpfner, A stochastic model and a functional central limit

theorem for information processing in large systems of neurons. Journal of Math-
ematical Biology 52, 439-457 (2006)
R. Höpfner, On a set of data for the membrane potential in a neuron. Mathe-
matical Biosciences 207, 275–301 (2007)
R. Höpfner, Membranpotentiale und stochastische Prozesse. Forschungsmagazin
der Johannes-Gutenberg-Universität Mainz, im Druck (2008)
 I.A : The set of data (cf. Höpfner ’07)

from W. Kilb and H. Luhmann, Inst. of Physiology, Univ. of Mainz

1
20
0
[mV]
−20
−40
−60

0 10 20 30 40 50 60
[sec]

fig. 1: membrane potential in one neuron under different experimen-

tal conditions: a pyramidal neuron, in a cortical slice preparation in
vitro, different levels of potassium (K) in different experiments

K stimulates networking activities of all neurons in the slice

I.B : Fragen :

wie kann man das hier beobachtete Membranpotential zwischen

sukzessiven Spikes beschreiben ? Hier zwei Ausschnitte:
ausschnitt aus zelle 3 level 8 (10 mM K)

−43
−44
−45
[mV]
−46
−47
−48

20 22 24 26 28
[sec]

ausschnitt aus zelle 3 level 10 (15 mM K)

−34
−35
−36
[mV]
−37
−38
−39

20 22 24 26 28
[sec]

offensichtlich deutlich verschieden (bei gleicher Skalierung der Fen-

ster) – aber wie fasst man den Unterschied ?
I.C : More about our data :

10 experiments:

higher K levels: neuron emits (few and isolated) spikes:

• level 8: 10 mM of K, one spike
• level 9: 12 mM of K, 18 spikes
• level 10: 15 mM of K, 8 spikes

lower K levels j = 1, . . . , 7:
• level j: j+2 mM of K, no emission of spikes

in every experiment:

total time under observation 60 sec, with time step

∆ := 0.006 sec (i.e. 100001 measurements)

membrane potential measured in mV

formal accuracy 0.001 mV (but: last decimal certainly unreliable)
I.D : Zur Funktionsweise des Neurons

Erläutere

i) Aufbau des Neurons:

• Dendriten, Soma, Axon

• Synapsen
• eingehende spike trains
• Membranpotential
• Excitationsschwelle und ausgehende spike trains

ii) Schema der Informationsverarbeitung:

• Postsynaptische Potentiale
• Additivität
• exponentielles Abklingen

iii) Spikes und spike trains

• typische Gestalt eines einzelnen Spikes

• ein Beispiel für spike trains
II : Stochastische Differentialgleichungen / Diffusionsprozesse
/ Brownsche Bewegung

Erläutere approximativ und heuristisch:

ein Diffusionsprozess ist ein stochastischer Prozess

X = (Xt)t≥0 ,
welcher mit geeigneten deterministischen Funktionen
x −→ b(x) ’Trend’, ’Drift’
x −→ σ(x) ’Volatilität’
und einer Brownschen Bewegung
W = (Wt)t≥0
eine stochastische Differentialgleichung
dXt = b(Xt) dt + σ(Xt) dWt , t ≥ 0
löst. Die Brownsche Bewegung ist das Grundmodell für
eine trendfreie Zufallsfluktuation.

Die Funktion σ 2(·) heisst Diffusionskoeffizient.

Typische Pfade der Brownschen Bewegung sehen etwa so aus:

10
0
−10

0 5 10 15 20 25 30
5 verschiedene Pfade der Brownschen Bewegung

Eigenschaften der Brownschen Bewegung:

• Start in 0 zur Zeit 0

• Zuwachs Wt − Ws über das Zeitintervall ]s, t] ist
unabhängig von der ’Vergangenheit bis zur Zeit s’
und verteilt nach N (0, t − s)
• Pfade stetig, aber ’unendlich zittrig’
(nirgends differenzierbar, Totalvariation = +∞)
Eine stochastische Differentialgleichung
• verstärkt / dämpft die reine Zufallsfluktuation
• baut einen Trend ein
beides abhängig vom aktuellen Zustand des Prozesses
X = (Xt)t≥0 .

Approximativ:
• wähle ’infinitesimal kleinen’ Zeitschritt ∆ > 0
• betrachte Zeitgitter ti := i∆, i = 0, 1, 2, . . .
• fixiere Startwert x0
definiere sukzessiv fortschreitend für i = 0, 1, 2, . . .
X(i+1)∆ := Xi∆
|{z} + b(Xi∆) · ∆
| {z }
aktueller Zustand Trend


+ σ(Xi∆) · W(i+1)∆ − Wi∆
| {z } | {z }
Faktor reine Zufallsfluktuation

als gute Approximation an die Lösung einer stochastischen

Differentialgleichung
Exakt: das stochastische Integral bezüglich der Brown-
schen Bewegung wurde von K. Ito (≈1940) definiert:

unter gewissen Voraussetzungen an

Drift b(·) und Volatilität σ(·)
existiert eine eindeutige Lösung
X = (Xt)t≥0
für die stochastische Differentialgleichung
dXt = b(Xt) dt + σ(Xt) dWt , t ≥ 0 .

Aus dieser Lösung erhält man b(·) und σ 2(·) zurück via
 
Xt+h − Xt
b(x) = lim E | Xt = x
h↓0 h
 2 !
Xt+h − Xt
σ 2(x) = lim E √ | Xt = x .
h↓0 h
III.A: Nichtparametrische Schätzer für Drift und Diffusions-
koeffizient

Modellannahme: man beobachtet den Verlauf des Pfades eines

Diffusionsprozesses

dXt = b(Xt) dt + σ(Xt ) dWt

zu diskreten Zeitpunkten i∆, i = 1, 2, . . . (∆ klein): Daten

(+) Xi∆ , i = 1, 2, . . . .

Drift und Diffusionskoeffizient

x → b(x) , x → σ 2 (x)

seien unbekannte C 1–Funktionen.

Ziel: approximative Rekonstruktion von Drift und Diffu-

sionskoeffizient aus den Daten (+)

i) Gitter von Punkten a1 , . . . , aℓ im Wertebereich der Daten (+)

ii) Schätzer σb2(a) für σ 2 (a) und bb(a) für b(a) aus Daten (+)
iii) ’Wolke’ von Punkten
   
b2
ai , σ (ai) , ai , bb(ai )
i=1,...,ℓ i=1,...,ℓ

iv) zeichnet sich in dieser Punktwolke eine klare Gestalt ab ?

Kernschätzer für Diffusionskoeffizient und Drift:

im Punkt a ∈ IR, mit Kern K(·) und Bandbreite h > 0

PI−M   X 2
Xi∆ −a (i+M )∆ −Xi∆
i=0 K h
√
∆·M
σb2(a) := PI−M  
Xi∆ −a
i=0 K h

PI−M   X 
Xi∆ −a (i+M )∆ −Xi∆
i=0 K h ∆·M
bb(a) :=  
PI−M Xi∆ −a
i=0 K h

mit I von Grössenordnung ∆1 (oder grösser)

und einem geeigneten Vielfachen M der Schrittweite ∆

Motivation s.o.: für feste Zeiten s ≥ 0 gilt

 2 !
X − X
σ 2(a) = lim E √t s
| Xs = a
t↓s t−s
 
Xt − Xs
b(a) = lim E | Xs = a .
t↓s t−s
Einstellungen für unseren Satz von Membranpotentialdaten:

Kern: Rechteckkern, Dreieckkern

1 2
(möglich aber auch z.B. K(x) = √1 e− 2 x Standardnormaldichte)
2π

Bandbreite h = 0.01 (←֓ Messgenauigkeit im Datensatz)

∆ = 0.006 vorgegeben aus Datensatz

Vielfaches M = 20 der Schrittweite ∆ (←֓ ’microstructure noise’)

Woran orientiert sich diese Wahl ?

i) Praktisch aus den Daten: Stabilität der Punktwolke unter

moderater Variation von h und M

ii) Theoretischer Hintergrund: Konvergenzsätze

unter Bedingungen an die Asymptotik von M ∆ und h
III.B : Bemerkungen zu Konvergenzsätzen

hier nur für Schätzung des Diffusionskoeffizienten

(֒→ Florens-Zmirou ’93, ֒→ Hoffmann ’99, ’01, Reiss ’07)

Sei M fest, sei I = ⌊ ∆1 ⌋. Angenommen, wir wären frei,

∆ und h gekoppelt gegen 0 schrumpfen zu lassen:
 1

(AS1) h ↓ 0 , [M∆] ↓ 0 , h = o [M∆] 3

dann hätten wir unter (AS1) Straffheit reskalierter Schätzfehler

v
uI−M   
uX X − a
t K
i∆ b2 2
σ (I,∆,M,h) (a) − σ (a)
i=0
h

mit einer zufälligen Rate

I−M
X  
Xi∆ − a
(INF) K ’Anzahl der Aufenthalte nahe a’
i=0
h

Interpretiere (INF) als ’Information über σ 2 (a), . . . in den Daten’

(Zusammenhang mit der Lokalzeit ’local time’ des Diffusionsprozesses in a)

Unsere Einstellungen imitieren (AS1) – bei durch die Daten vorgegebenem ∆ =

0.0006 und nicht verkleinerbarem h = 0.01 – durch eine Wahl von M, welche
1
[M∆] + h · [M∆]− 3

klein macht.
 IV: Auswertung der Membranpotentialdaten

in demselben Neuron ‘Zelle 3’ unter verschiedenen Versuchsbedin-

gungen (K-Bad ֒→ Netzwerkaktivität) drei verschiedene Typen von
Diffusionsprozessen:
10

10

10
3A 4A 5A
8

8
sigma^2(.) estimated

sigma^2(.) estimated

sigma^2(.) estimated
6

6
4

4
2

2
0

0
−39 −38 −37 −36 −62 −61 −60 −59 −51 −50 −49 −48 −47
[mV] [mV] [mV]
10

10

10
3B 4B 5B
5

5
drift b(.) estimated

drift b(.) estimated

drift b(.) estimated

0

0
−5

−5

−5
−10

−10

−10

−39 −38 −37 −36 −62 −61 −60 −59 −51 −50 −49 −48 −47
[mV] [mV] [mV]

stets Drift a → b(a) linear mit negativer Steigung (Bilder unten)

Diffusionskoeffizient a → σ 2 (a) deutlich verschieden (Bilder oben)

linke Spalte: Level 10 (unter 15 mM K): a → σ 2 (a) linear mit positiver Steigung;
mittlere Spalte: Level 3 (unter 5 mM K): a → σ 2 (a) konstant in a;
rechte Spalte: Level 7 (unter 9 mM K): a → σ 2 (a) ’schüsselförmig”
 IV.A: Example ’level 10’ (15 mM of K+ )

a membrane potential of CIR type (Cox-Ingersoll-Ross ’85, Ikeda and Watanabe

’89; application as ’model neuron’ starting with Lansky and Lanska ’87)
30

30

30
3A 3B 3C
25

25

25
sigma^2(.) estimated

sigma^2(.) estimated

sigma^2(.) estimated
20

20

20
15

15

15
10

10

10
5

5
0

0
−40 −39 −38 −37 −36 −35 −40 −39 −38 −37 −36 −35 −40 −39 −38 −37 −36 −35
[mV] [mV] [mV]
20

20

20
3E 3F 3G
10

10

10
drift b(.) estimated

drift b(.) estimated

drift b(.) estimated

0

0
−10

−10

−10
−20

−20

−20
−40 −39 −38 −37 −36 −35 −40 −39 −38 −37 −36 −35 −40 −39 −38 −37 −36 −35
[mV] [mV] [mV]
−30

•
800

spikes (truncated)
••••
• 3D 3H
−32

•
’local time’ (8) for h=0.01

•• • •
• • •• •
600

••• •• • •
••••••••••••••••• • •
−34

••• • • • ••••••• • •
••••••• • •••••••••••••••• •• ’pulses’
[mV]

••••••••• •• •• •••••• •••

400

• •••••••
••••••• ••••••••••••••••• •
−36

•
• •••• •
••••••• •••• ••
••••••••
••••
• ••••••••• •
200

••••
• ••• ••• •
−38

•••••••• •• ••• ••• •

•••••• • ••••••••••••••••
•••••••••• •• •••••••••••••••
••••• •
••••••••••••• • •••••••••••••••••••••••••••••••••••••••••
•
• •
• •
• •••
•• •••• ••
−40

•
• • • •••
• •• •• •
••••••••••••••••••••••• •••••••••••• •••
• •
••
0

−40 −39 −38 −37 −36 −35 0 10 20 30 40 50 60

[mV] [sec]

figure 3: diffusion coefficient and drift estimated in ’level 10’ (8

spikes) based on segments of the membrane potential between suc-
cessive spikes (we exclude ’large’ neighbourhoods of the spike times)
estimate σ 2 (a) and b(a) only at points a where ’local time’ (i.e.
’number of visits near a’ defined as in (INF)) is large:
> 25 in 3A+3E, > 100 in 3B+3F, > 300 in 3C+3G,
for such a, plot clouds of points (a, σb2(a)) or (a, b(a)).

figure 3D: shows shape of ’local time’ as a function of a: expect

to find the most reliable estimates for σ 2 (a) and b(a) when a is
between ≈ −38.5 mV and ≈ −36.5 mV

diffusion coefficient: figure 3C (’local time’ > 300): lin. regression

(∗) x −→ 2.23(x − µX
0 ) , µX
0 := −39.75

justified by correlation coefficient ρ = 0.93

correlation coefficient and regression line (∗) remain almost unchanged if we con-
sider only points a having ’local time’ > 500

figures 3A+3B: some convexity for a-values in the interval (−36.5, −35) mV
in 3B (’local time’ > 100): the best quadratic approximation is
x −→ 4.13 + 1.77(x + 38.10)2

drift: figure 3G (’local time’ > 300): linear regression

(∗∗) x −→ −4.97(x − µX
1 ), µX
1 := −37.31

justified by correlation coefficient ρ = 0.92

correlation coefficient and regression line (∗∗) remain almost unchanged in figure
3F (points a having ’local time’ > 100)
CIR interpretation of ’level 10’ (15 mM of K+)
based on the regression lines of figures 3C+3G:

µX
0 := zero of regression line for diffusion coefficient ≈ −40
µX
1 := zero of regression line for the drift ≈ −37.5
2
γ := slope of regression line for diffusion coefficient ≈ 2
β := abs(slope of regression line for the drift) ≈ +5

then by (∗) and (∗∗), the SDE for the membrane potential (away
from the spike times) would be
q
X
dXt = −β (Xt − µ1 ) dt + γ (Xt − µX 0 ) ∨ 0 dWt , X0 ≈ µX1

which after transformation

ξ := X − µX
0 , α := β(µX X
1 − µ0 ) = 12.13

takes the standard CIR form

p
dξt = (α − β ξt ) dt + γ ξt ∨ 0 dWt

since 2α >> γ 2, the process ξ never attains 0, and is ergodic with

invariant law
2α 2β
Γ( , ) ≈ Γ(10.87, 4.46)
γ2 γ2
Indeed, this Gamma law provides a very good fit to the (correctly
rescaled) occupation time plot of figure 3D:
 •

0.8
comparing occupation time
figure 3D to the density
Gamma( 10.87 , 4.47 )
level 10 •
•
shifted by −39.75
−40
• •• •
•• • •• •
• •
0.6

• ••
•• • • •
’local time’ (8) for h=0.01

•
• ••••••••• •• • •
•• •
••• • •• • •• • •
• •• • •• •
•• •
• •••• • ••••••• •••• •
• •••• • •
• •• •• •• •••• ••
0.4

••• • • •••• •
• •• • • • • ••
•• • • ••••••••••••• •
• ••• • •
••• ••
•••
• •• • •••• ••
• •• • •••••••
•• • • •• ••••
0.2

••••
•••••• • • • •• •
•• •••••••• •
•• • •• •
••••• • • •••••••••••••
• ••••••• • • •••••••••
•• •• ••••• •• ••••••••••••••••••••••••• •• •••
••••••••••••••••
•
• •
••••••••••••••••• •• ••••••••••••••••••••••••••• ••••
•
•
•• • • • • •
• • ••••••••••••••••• •• ••
• •••••••••••••••••••••••••••••••••••• ••
••••••••••••••••••••••• • •• •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••
0.0

−40 −38 −36 −34

[mV]

not all levels of this neuron yield pictures as clear as ’level 10’ ...
 12
IV.B: Example ’level 3’ (5 mM of K+)

12

12
5A 5B 5C
10

10

10
sigma^2(.) estimated

sigma^2(.) estimated

sigma^2(.) estimated
8

8
6

6
4

4
2

2
0

0
−63 −62 −61 −60 −59 −58 −63 −62 −61 −60 −59 −58 −63 −62 −61 −60 −59 −58
[mV] [mV] [mV]
10

10

10
5E 5F 5G
drift b(.) estimated

drift b(.) estimated

drift b(.) estimated

5

5
0

0
−5

−5

−5
−10

−10

−10
−63 −62 −61 −60 −59 −58 −63 −62 −61 −60 −59 −58 −63 −62 −61 −60 −59 −58
[mV] [mV] [mV]

• •
1000

−58

•
• •
• 5D 5H
•
•••••••••
’local time’ (8) for h=0.01
800

•
••• •
−59

• •••••• •• •
••• • • ••
•• •
• •••• •
600

•••••••
[mV]
−60

•• •• •
• ••••••••• •
• •••••• ••
• ••••• •
400

• •••• • •• •••••
• ••
−61

•••• •• •••• • • • • • ••• • •

•
••••••••••••••••••••••• • • • •••••••••
200

••••••• •••• • •• ••••••••••

••••••• • • •••••••
• •••••••••••
−62

• •
•••••••• ••••••••••••••••
•••••••••••••••• •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••
0

−62 −61 −60 −59 −58 0 10 20 30 40 50 60

[mV] [sec]

figure 5 (with 5A – 5G constructed in analogy to 3A – 3G)

in good approximation: an Ornstein-Uhlenbeck type neuron

diffusion coeffient constant ≈ 2; drift linear with negative slope

in figure 5G (’local time’ > 300): slope ≈ 3.5, corr. coeff. −0.85
for ’local time’ > 500 (not shown), slope ≈ 5, corr. coeff. −0.92

obvious from figure 5H: ∃ problem with time homogeneity

 15
IV.C: Example ’level 7’ (9 mM of K+)

15

15
8A 8B 8C
sigma^2(.) estimated

sigma^2(.) estimated

sigma^2(.) estimated
10

10

10
5

5
0

0
−51 −50 −49 −48 −47 −51 −50 −49 −48 −47 −51 −50 −49 −48 −47
[mV] [mV] [mV]

8E 8F 8G
5

5
drift b(.) estimated

drift b(.) estimated

drift b(.) estimated

0

0
−5

−5

−5
−10

−10

−10
−51 −50 −49 −48 −47 −51 −50 −49 −48 −47 −51 −50 −49 −48 −47
[mV] [mV] [mV]
−46
1500

8D 8H
−47

••• •
’local time’ (8) for h=0.01

•
•
1000

−48

• • • ••••
••••••••••••• •
•• •
• • ••• •
• ••••• • ••••
[mV]
−49

•• •
•• •• •••• •
•• • •••
500

• ••
••••• ••••••••
−50

•••••••• ••••
••
•• ••••
• ••••••
•
•• •••••••••••• ••••••••••
−51

• •••••••••••• • •••• ••
••• • • • • ••
••••••••••••••••••••••••••• •••••••••••• •
•••••••••••••••••••• • ••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••
0

−51 −50 −49 −48 −47 0 10 20 30 40 50 60

[mV] [sec]

figure 8 (with 8A –8G constructed in analogy to 3A – 3G)

a new ’bowl shaped’ type :

quadratic diffusion coefficient, drift linear with negative slope
quadratic centred at ≈ zero of the drift
invariant laws: of type t-distributions, symmetric

good approximation for membrane potential around −49 mV

problems of time homogeneity in the first part of the time interval
 IV.D: Comparing the different levels

different features (CIR, OU, ’bowl shaped’) are observed on the

same neuron, under different experimental conditions (level of K+)
here: diffusion coefficient est. at points a with ’local time’ > 300

11A 11B 11C

8

8
sigma^2(.) estimated

sigma^2(.) estimated

sigma^2(.) estimated
6

6
4

4
2

2
level 1 level 3 level 2 level 4
0

0
−64 −63 −62 −61 −60 −64 −63 −62 −61 −60 −60 −59 −58 −57 −56
[mV] [mV] [mV]

11D 11E 11F

8

8
sigma^2(.) estimated

sigma^2(.) estimated

sigma^2(.) estimated
6

6
4

4
2

level 5 level 6 2 level 7

0

−58 −57 −56 −55 −54 −53 −54 −53 −52 −51 −50 −51 −50 −49 −48 −47
[mV] [mV] [mV]

11G 11H 11K

8

8
sigma^2(.) estimated

sigma^2(.) estimated

sigma^2(.) estimated
6

6
4

4
2

level 8 level 9 level 10

0

−47 −46 −45 −44 −43 −42 −41 −40 −39 −38 −37 −40 −39 −38 −37 −36 −35
[mV] [mV] [mV]

CIR type: in all levels with spike emission (11 G–K), and in ’level 6’ (11 E);
OU type: ’level 3’ (11 A); ’bowl shaped’ type: ’level 5’ and ’level 7’ (11 D+F)

serious problems of non- time homogeneity in some levels (e.g. ’level 1’, level ’4’)
 IV.E: Choice of bandwidth and of forward step size

estimators in the above figures had

• increments in the m.pot. of step size M∆, M = 20
• bandwidth h = 0.01
in fact, using M = 10, 20, 40 and h = 0.007, 0.01, 0.013 does not
change the pictures much
6

6
level 3 : h = 0.007 level 3 : h = 0.01 level 3 : h = 0.013
10A 10B 10C
5

5
sigma^2(.) estimated

sigma^2(.) estimated

sigma^2(.) estimated
4

4
3

3
2

2
1

1
0

0
−63 −62 −61 −60 −59 −58 −63 −62 −61 −60 −59 −58 −63 −62 −61 −60 −59 −58
[mV] [mV] [mV]
6

6
5

5
sigma^2(.) estimated

sigma^2(.) estimated

sigma^2(.) estimated
4

4
3

3
2

10D 10E 10F

1

level 7 : h = 0.007 level 7 : h = 0.01 level 7 : h = 0.013

0

−51 −50 −49 −48 −47 −51 −50 −49 −48 −47 −51 −50 −49 −48 −47
[mV] [mV] [mV]
6

10G 10H 10K

5

5
sigma^2(.) estimated

sigma^2(.) estimated

sigma^2(.) estimated
4

4
3

3
2

2
1

level 6 : h = 0.007 level 6 : h = 0.01 level 6 : h = 0.013

0

−54 −53 −52 −51 −50 −54 −53 −52 −51 −50 −54 −53 −52 −51 −50
[mV] [mV] [mV]

stability under (moderate) change of M is important to make sure that modelling

the m.pot. by a stochastic process of diffusion type makes sense (our neuron:
M = 5 too small, start to see ’microstructure noise’; M = 80, 100 too large)