1. MULTIDISCIPLINARNOST MATEMATIČKOG MODELIRANJA
BIOTEHNIČKE
ZNANOSTI
MATEMATIČKE
ZNANOSTI
RAČUNARSKE
ZNANOSTI

2. Srž matematičkog modela M je određivanje matematičko-statističkih relacija kojima se povezuje skup izlaznih veličina Y, one su zavisne veličine, o skupu nezavisnih ulaznih veličina X. X Y M
Y=M(X)
Shematski prikaz matematičkog modela M kojim se ulaznim veličinama X pridružuje skup izlaznih veličina Y.

3. Ulazne veličine Izlazne veličine Procesni prostor X Y P
kauzalnost
Slika: Shematski prikaz prvog koraka modeliranja kojim se procesni prostor P temeljem svrhovitosti sustava i kauzalnosti veličina razdvaja u skupove ulaznih X i izlaznih veličina Y.

4. Metodologija i struktura matematičkog modela može biti vrlo različita i najčešće je određena prirodom istraživanog kemijsko inženjerskog sustava, njegove svrhovitosti i cilja matematičkog modeliranja. Na primjer, navedimo samo neke vrste matematičkih modela s obzirom na njihovu matematičku strukturu:
- jednadžba regresijskog pravca,
- multivarijantni linearni regresijski modeli (MIMO)
- autoregresijski linearni modeli (MISO)
- regresijski polinomi,
- regresijski modeli glavnih komponenata (PLS,PCR),
- obične diferencijalne jednadžbe,
parcijalne diferencijalne jednadžbe,
- neuronske mreže,
- modeli neizrazite logike,
- stohastički modeli, itd.

5. Modeli se mogu razlikovati prema svojoj svrhovitoj namjeni, na primjer za istraživanje:
- biokemijskog mehanizma i kinetike
- fenomena prijenosa tvari i energije
- uvećanja od laboratorijskog do industrijskog mjerila
- upravljanje procesa
- optimiranje procesa, itd.
Zajednička svrha matematičkih modela je da omogućuju eksperimentiranje s modelom u svrhu istraživanja.
Drugim riječima, model mora vjerno reproducirati vladanje realnog procesa u područje njegove primjene.
Osnovni metodološki postupak istraživanja primjenom modela naziva se simuliranje procesa ili sustava. Simulacija modelom je podržana računalnim programima („software“) kojima se omoguće učinkovito računanje vrijednosti izlaznih veličina, prikladan grafički prikaz i statistička analiza rezultata simulacije.

6. Xp Xk Yp Yk
simulacija M
Shematski prikaz simulacije procesa kojom se istražuje prostor skupa ulaznih veličina X veličina od početne Xp za t=0 do konačne vrijednosti Xk za t=tk i posljedice ovih promjena u skupu izlaznih veličina Y od početne Yp za t=0 do konačne Yk za t=tk.

7. Matematički modeli imaju središnju ulogu u upravljanju procesa povratnom vezom ili spregom („feedback control“). Smisao upravljanja procesa je odrediti promjene ulaznih manipulativnih (podesivih) veličina kojima se može kompenzirati pore­mećaj izlaznih veličina kao posljedica utjecaja poremećaja okoline na proces X M Y
M-1 δX δY
Da bi se odredile potrebne promjene ulaznih veličina za zadane poremećaje izlaznih veličina potrebno je koristiti inverzni matematički model M-1, tako da se dobije

8. Određivanje inverznog matematičkog M-1 modela nije uvijek moguće provesti na eksplicitan način na osnovu modela procesa M, na primjer u općem slučaju je nemoguće invertirati model dan u prostoru stanja s sustavom običnih ili parcijalnih diferencijalnih jednadžbi.
Za tu svrhu se najčešće koriste aproksimativni linearni modeli čiji parametri su određeni za pojedina lokalna područja prostora ulaznih veličina.
Također su u tu svrhu često primjenjuju i modeli s neuronskim mrežama te modeli s neizrazitom logikom.

9. Upravljanje procesa matematičkim modelima
(MPC, Model Predictive Control)

13. Modeling techniques applied in biochemical engineering
Steady state single input-single output regression x y
y=f(b,x)
Unsteady state discrete single input single output ARMA
Unsteady state continuous single input single output

14. Multivariate PLR modelsx1 y1 x2
y=f(b,x1,x2··xm) y2 xm yn
Steady state linear multivariate model multiple input – single output
Partial linear regression (PLR) multiple input single output
Si+3
Konveksni skup {X,Y} Si
Si+2
Si+1 y x

15. Modeliranje u prostoru stanja
Matematički modeli biokemijsko inženjerskih procesa (sustava) najčešće se izvode iz slijedećih fundamentalnih prirodnih zakona sačuvanja sljedećih ekstenzivnih veličina: masa tvari, energija i količina gibanja.
Ovi prirodni zakoni se primjenjuju kao vremenski promjenljivih bilanci u obliku promjena pripadnih intenzivnih veličina koncentracije, temperature i brzine gibanja izraženih u obliku sustava običnih (ODJ) ili parcijalnih diferencijalnih jednadžbi (PDJ).
Modeli koji su opisani ODJ izvode se apstrakcijom kojom se prostorna raspodjela fizikalnih i biokemijskih veličina zanemari, i promjena stanja proces se promatra kao da se zbiva u materijalnoj točci. Oni se nazivaju koncentriranim modelima („lumped models“) i najčešće se koriste u procesima u kojima postoji intenzivno miješanje kojim se homogenizira raspodjela koncentracija i temperature u procesnom prostoru.
Tipičan primjer je idealan protočan kemijski reaktor (PKR).

16. M
Procesni prostor
ulazni tok
izlazni tok
T(t)
c(t)
modeliranje
Shematski prikaz apstraktnog procesa kojim se realni procesni prostor modelom usredotočenih veličina, na primjeru kojem se prostorne raspodjele temperature i koncentracije tvari koncentrirane u materijalnoj točci opisane samo vremenski zavisnim veličinama T(t) i c(t).

17. Najvažnije, a ujedno i najkritičnije su prva i zadnja faza kada se odlučuje o izboru skupova ulaznih i izlaznih veličina uključenih u model, i zadnja faza kada se mora rigoroznim testovima ispitati validacija modela.
Opća značajka matematičkog modeliranja je iteracijska priroda pojedinih faza na osnovu rezultata validacije cjelokupnog modela. Sve faze tijekom razvoja matematičkog modela se preispituju u odnosu na svrhovitost modela koja se validira. Mogućnosti izbora matematičkog modela su vrlo velike, i najčešće se u prvoj fazi modeliranja pretpostavlja klasa mogućih modela koji se onda međusobno uspoređuju dok se ne postigne najprikladniji izbor.
Moguće klase modela, koje se najčešće slikovito opisuju i rangiraju prema karakteru informacija integriranih u model, od modela „crne kutije“ („black box“) preko „sivih modela“ („gray box“) do modela „bijele kutije“ („white box“) modela.

18. razina fundamentalnih znanja o sustavu kompleksnost sustava
Grafički prikaz odnosa razine fundamentalnih znanja o modeliranom sustavu i njegovoj kompleksnosti i metodologije modeliranja od modela „bijele“ do modela „crne“ kutije.
„white box models“
ODJ PDJ DAE
razina fundamentalnih znanja o sustavu
kompleksnost sustava
„grey box models“
ARMA, ARMAX,PLS
fuzzy logic
„black box models“
ANN

19. Space of modeling methods
Boolean networks
Process calculi
Petri Nets
continuous ↔ discrete
stochsim
BaN
A large variety of modeling methods is presently available for researchers interested in biological pathways and networks. Before delving into the details of particular approaches it is useful to overview the full spectrum of methods. Early approach to modeling biological systems which dates back to works of Jacob, Monod, Volterra and Lotka is almost entirely based on the formalism of differential equations, both ordinary and in partial derivatives. This mechanistic and quantitative approach is firmly based on foundations of physics and chemical kinetics. More recently, significant interest has been paid to the use and development of stochastic methods which allow to investigate noise in biological systems.
In the past decades significant effort has also been put into the development of qualitative and symbolic methods of modeling. In the early 70s Kaufmann and Glass had developed formalism of Boolean networks to predict qualitative behavior of gene networks. Later, several more computer science methods, such as Petri Nets and Bayesian networks, were adopted for the analysis of biological systems. Process calculi is even more recent addition to this collection.
ODE
qualitative ↔ quantitative
mechanistic ↔ symbolic

20. Klasifikacija analitičkih („white box“) modela

23. Dimenzija, parametri i složenost matematičkog modela
Kako konceptualno odrediti “optimalni” model ?

24. Validacija matematičkog modela
Grafički prikaz ulazno izlaznih podataka {X,Y} podijeljenih u dva skupa za modeliranje SM i validaciju modela SV.

25. Grafički prikaz ulazno izlaznih podataka {X,Y}podijeljenih u tri disjunktna skupa za modeliranje SM, optimiranje parametara modela SO i validaciju modela SV.

26. Neki statistički kriteriji validacije modela
Linearni Pearsonov koeficijent korelacije

27. Populacijski Pearsonov koeficijent korelacije
Koeficijent korelacije određen na osnovu n uzoraka ulazno izlaznih podataka
Za usporedbu različitih modela koji se razlikuju prema broju parametara u modelu potrebno je korigirati koeficijent korelacija s obzirom na broj parametara („adjusted Pearson correlation“).

28. Koeficijent determinacije modela
Koeficijent determinacije se služi kao mjera točnosti predikcije modela
Ukupna disperzija eksperimentalnih podataka
Ukupna disperzija podataka predikcije modela
“Lack of fit” : SStot - SSreg
ANOVA analiza “lack of fit” za model
Replikacije eksperimenta i “analytical error”

29. Ukupna disperzija razlika između eksperimentalnih podataka i predikcija modela (modelom neobjašnjena disperzija)
Koeficijent determinacije
Za linearne modele koeficijent determinacije jednak je kvadratu Pearsonov-og koeficijenta korelacije
Za usporedbu dvaju modela s različitim brojem parametara koristi se prilagođeni koeficijent determinacije gdje je n broj uzoraka a p je broj parametara u modelu

30. Fisherov omjer (test)
Statistički se testira omjer varijanci modela i eksperimentalnih podataka
Raspodjela gustoće vjerojatnost Fisherove slučajne veličine definirana je stupnjevima slobode varijanci u brojniku i nazivniku. Posebno je važno pri testiranju modela odrediti značajnost omjera varijanci analitičke greške iz pokusa ponavljanja i varijance pogreške modela

31. „Cross validation”
Postupak procjene prediktivnosti modela kada nije na raspolaganju nezavisan set podataka za validaciju. Validacija se provodi eliminiranjem jednog po jednog uzorka iz skupa za modeliranje i uzastopno se ponavljanja određivanje parametara modela i analiza pogreške predikcije. Rezultati analize trebaju ukazati da li je model robustan na izostanak pojedinih uzorka i da li postoji dominant uzorak koji bitno utječe na model.

32. Modeli osnovnih bilanci
Osnovne bilance su: bilance tvari, energije i količine gibanja x y z S V
normala na
površinu S n f
ulazni fluks f
izlazni fluks f
Bilance se postavljaju za dio trodimenzionalnog prostora (x,y,z) omeđenog površinom S i obujma V. Površina je orijentirana tako da je u svakoj točci na površini definiran jedinična normala n.

33. U promatrani dio prostora iz okoline se prenose tvari, energija i količina gibanja ulaznim tokovima (fluksovima fA) i iz promatranog prostora u okolinu se izlaznim tokovima (fluksovima f) prenose tvari, eneregija i količina gibanja. x y z S V
normala na
površinu S n f
ulazni fluks f
izlazni fluks f
Oznakom A je označena veličina stanja (količina tvari, energija i količina gibanja) čija bilanca je određena ulaznim i izlaznim tokovima i promjenama zbog kemijske ili biokemijske transformacije.

34. Integralni (odnosi se na cjelokupni promatrani volumen) opći oblik bilance je
promjena akumulacije A
ulazno/izlazni tokovi A
(bio) kemijska pretvorba A
Primijenimo Green-ov teorem kojim se površinski integral zamjenjuje volumnim
„nabla“ operator

35. Primjenom Green-ovog teorema dobije se opći diferencijalni oblik bilance stanja A gdje je vektor položaja točaka unutar promatranog volumena a vrijeme je t
Značajke bilance:
parcijalna diferencijalna jednadžba
raspodijeljene veličine stanja A u promatranom prostoru
nestacionarna bilanca
nelinearna (najčešća nelinearnost je kinetika brzine (bio)/kemijske transformacije
potrebno je zadati početne uvjete stanja A po obujmu V
potrebno je zadati rubne uvjete na površini S
rješavanje je numeričkim postupkom primjenom računala

36. početni uvjet određuje stanje u promatranom sustavu u trenutku t = 0
Rubni uvjeti imaju tri osnovna oblika:
1) kontinuitet veličine stanja A na plohi S između promatranog sustava i okoline (von Neumanov rubni uvjet)
Stanje A u promatranom sustavu na površini S jednako je stanju AS u okolini na graničnoj plohi S

37. 2) kontinuitet gradijenta na graničnoj plohi (Dirichletov rubni uvjet)
3) kontinuitet fluksa (Danckwerts-ov rubni uvjet)

38. Pojedinačne bilance
Bilanca kapljevine ili plina
ρ je gustoća kapljevine, ρ= ρ(T), ili plina ρ= ρ(T,p)
Bilanca tvari za A za primjer (bio)kemijskog reaktora
Laplace-ov operator

39. Bilanca količine gibanja (Navier-Stokes-ova jednadžba protjecanja plina i kapljevine)

40. Primjeri modela biološke razgradnje otpadne tvari
ulazni tok A
izlazni tok A
Biološki proces razgradnje A
A + X X + P
A je otpadna tvar (“polutant”)
X je biomasa (mješovita mikrobna zajednica) “mixed culture”
P je produkt biološke razgradnje

41. Model s usredotočenim veličinama stanja
xul
A + X X+ P x O2
Stehiometrijska bilanca
Algebarska stehiometrijska bilanca

42. Kinetika procesa
Pretpostavke: Michaelis-Menten + Monod
Veličine stanja: A, O2 , X, h (razina)
Parametri modela
Fizikalni:
protok q, površina presjeka S, ulazna koncentracija Au,topivost kisika O2* ,
Volumni koeficijent prijenosa kisika kla
Biološki: vmax, KA, KO2

43. Bilanca kapljevine
Bilanca polutanta
Bilanca biomase
Bilanca otopljenog kisika
Bilanca produkta

44. Početni uvjeti
Simulacija dinamike procesa:
Berkeley Madonna software (vježbe)
Diskusija: monitoring procesa, upravljanje procesa

45. Model s raspodijeljenim veličinama stanja
Bazen za biološku obradu otpadne (komunalne) vode
aeracija O2
otpadna voda
obrađena voda
Sul
Sizl V1 V2 Vi VN
Model cijevnog reaktora

46. BioWin Simulator jedno-stupnjevitog procesa
Influent: ulazni tok sirove (neobrađene) vode
Primarni clarifier: primarni taložnik
Primary sludge: primarni (ulazni) mulj
Aero basin: bioreaktor s aktivnim muljem
Ideal clarifier: taložnik-separator aktivnog mulja
WAS: (wasted active sludge) otpadni aktivni mulj
Effluent: obrađena (izlazna) voda

47. Kontinuirane nestacionarne bilance
Bilanca za polutant S
Bilanca za biomasu X
Bilanca za kisik

48. Početni uvjeti
Ulazni rubni uvjeti
Iz povratnog toka
Izlazni rubni uvjeti

49. Model s diskretnom raspodjelom stanja
Biološka razgradnja i
i+1
i-1
i-ti odjeljak Vi O2
Ulazni tokovi u odjeljak i
Izlazni tokovi u odjeljak i

50. Diskretne bilance kao sustav običnih diferencijalnih jednadžbi ODE
Bilanca polutanta u i-tom odjeljku
Bilanca biomase u i-tom odjeljku
Bilanca kisika u i-tom odjeljku
Početni uvjeti
Računalni software:

51. CFD (Computational Fluid Dynamics) model
Numerička metoda konačnih elemenata (“finite elements”)
Prostor u kojem se odvija proces podijeli se u veliki broj elemenata (“finite elements”) za koje se bilance rješavaju numerički polinomnom aproksimacijom i primjenom metode kolokacija.
Primjer mreže konačnih elemenata na plohi
Primjer mreže konačnih elemenata diskretizacijom cijevi
Interpolacijski polinomi se određuju iz uvjeta kontinuiteta funkcije (stanja procesa) i prve derivacije u čvornim te uz uvjet isčezavanja reziduuma bilance u središnjoj toči svakog pojedinog elementa.

52. Aproksimacija veličine stanja S u prostoru V4
S(x,y,z) 3 1 2 V
N su “basis” ili “shape” funkcije, na primjer linearne FEM
N funkcije su predeterminirane u skladu s globalnim svojstvima sustava (npr. geometrijom, kontinuitetom), Si su nepoznanice

53. Linearne bazične (“shape”) funkcije u jednoj dimenziji
Ni(x) 1 x x1 x1 x1 x1 x1 x1 x1
Duomo Florence

54. Modeliranje reakcijskih sustava
Na primjer, složeni sustav reakcija u atmosferi
ili sustav metaboličkih reakcija u pojedinoj stanici ili mješovitoj kulturi stanica

55. Tools for simulation of kinetic models
BioSpice
V-CELL
M-Cell
E-CELL
SBW
CellX/Karyote
COPASI
Dizzy
DBsolve
SBToolbox
project size
PySCeS
MesoRD
JDesigner/Jarnak
Kinetikit
JigCell
BioNetS
Due to the greatly increased interest of physicists, mathematicians and computer scientists in biological applications, the last decade has seen an explosion in the number and variety of simulation tools that perform kinetic modeling of biopathways. Only a selection (hopefully representative) of these tools is shown on the slide. While some of them are relatively small and specialized applications written often by a single author, others are large enterprise projects that involve multiinstitutional collaborations and large teams of developers. BioSpice and Systems Biology Workbench are example of meta-applications or, more technically, brokers that provide connectivity for large numbers of applications that can share information through the broker. Most of the modern software provides both deterministic and stochastic methods while some applications (e.g., BioNetS and Dizzy) were designed specifically. Some of the larger applications also provide capability to simulate spatially distributed kinetic models with M-Cell and MesoRD being unique as tools specifically designed to enable stochastic spatially distributed simulations. Here are other factors to consider when choosing a particular modeling tool: 1) does it read and write SBML 2) is it a part of a larger software (SBW, Matlab, Matematica, BioSpice) 3) does it provide graphic input interface 4) does it have a large selection of simulation techniques 5) does it offer additional functions like SNA, MCA, etc analyses and constant optimization 6) is it regularly maintained and updated.
XPPAUT
Narrator
Cellware
deterministic ↔ stochastic

56. S usredotočeni “lumped” model Primjeri: vježbe Berkely Maddona
prostor reakcija
prostor bilanci S
M reakcija r1 r2 r3 rM
N supstanci
bilanca A1
bilanca A2
bilanca A3
bilanca AN
Primjeri: vježbe Berkely Maddona

57. r1 r2 r3 rN-1 rN Analiza regulacije metaboličkih puteva
(MCA Metabolic Control Analysis) r1 r2 r3
rN-1 rN S S1 S2 S3 SN P
reakcija signal aktivacija inhibicija
Slika: Shematski prikaz niza serijskih transformacijama snaznakama regulacije
aktivacijom i inhibicijom (interakcija metabolit enzim)

58. Smisao istraživanja je analiza „ograničenja“ koje određuje maksimalni moguću brzinu reakcije, tok J, transformacije S u P.
S P J
Zbog složenosti regulacije nije moguće izolirati jednu reakciju kao „usko grlo“, jer se ograničenje toka J mijenja koncentracijom supstrata S, i koncentracijama metabolita si, odnosno „usko“ grlo mijenja svoj položaj u nizu reakcija zavisno od raspodjele koncentracija supstrata i svih metabolita.
Zato je potrebno primijeniti sustavske značajke (odgovorne za cjelokupni sustav reakcija i metabolita) u svrhu analize regulacije metaboličkih reakcija.

59. Da bi se analiza pojednostavila, ograničava se na uvjete celularne „homeostaze“ (održavanje stalnih uvjeta u živoj stanici), odnosno formalno matematički na uvjete stacionarnog stanja sustava reakcija. Stacionarnost implicira jednakost svih reakcija, nema dinamičkih promjena akumulacije pojedinih metabolita, a koncentracije supstrata S i P su stalne. Ispituje se utjecaj koncentracije pojedinih enzima na tok J. Promjenom koncentracije pojedinog enzima dolazi do redistribucije metabolita, i mijenja se stacionarni tok od S do P.
Koeficijenti regulacije toka („flux control coefficient“)
Koeficijenti elastičnosti („elasticities“)
Koncentracijski koeficijenti regulacije

60. Modeliranje intracelularnih tokova (MFA) metabolic flux analysis
Modeliranje intracelularnih tokova, odnosno unutar-staničnih reakcija, zasniva se na primjeni modela bilance tvari u složenom sustavu enzimskih reakcija na osnovi poznavanja stehiometrijskih odnosa pojedinih reakcija. Modelom se obuhvaćaju i tokovi (transmembranske reakcije) izmjene tvari između stanice i okoline. Uz aktivne mehanizme prijenosa tvari kroz staničnu membranu (enzimske reakcije) u model su uključeni i pasivni (fizikalni) mehanizmi prijenosa, npr. prijenos difuzijom. Opći prikaz modela je na slici 1. r1 r2 r3
qu1
qu2
qi1
qi2
qi3
qi4
model intracelularnih reakcija
qu1
qu2
qi1
qi2
qi3
qi4
Slika 1. Sustavski prikaz modela intracelularnih reakcija. Brzine intracelularnih reakcije označene su s rj, specifični ulazni tokovi su quj, izlazni specifični tokovi su qij.

61. Ciljevi istraživanja MFA su:
istražiti aktivnost pojedinih metaboličkih reakcija za različite uvjete u bioreaktoru (koncentracije supstrata, temperatura, pH ..),
istražiti teoretske moguće posljedice planiranih genetičko inženjerskih zahvata (npr. posljedice unosa novih gena, izbacivanje ("knock out") pojedinih, povećanje kopija pojedinih gena, ..),
utvrditi mehanizam regulacije metabolizma

62. Uz ove pretpostavke bilanca tvari postaje bilanca intracelularnih tokova dana kao linearni sustav jednadžbi (osnovna jednadžba za analizu intracelularnih tokova „metabolic flux analysis“ MFA) glasi: S P1 P3 P2 A B s p1 p2 p3 r1 r2 r3 r4 r5 qs
qp1
qp2
qp3

63. Stoichiometric Matrix
Different approaches to the analysis of network topology have been developed on the basis of chemical kinetics. Central to these methods is the concept of the stoichiometric matrix (SM) N which describes connectivity and stoichiometry of the reaction network. The power of the approaches based on the analysis of the SM is in the fact that a number of qualitative conclusions can be made regarding the properties of the network irregardless of the detailed definition of reaction fluxes which are usually complex nonlinear functions of the species concentrations. On the contrary, introduction of the SM results in a linear relationship between the time derivative of the vector of m species concentrations and the vector of n reaction fluxes. To ensure that all reaction fluxes are non-negative, reversible reactions are often represented as two opposite reaction fluxes following works of Bruce Clarke.
Hofmeyr et al., Kinetics, Control and Regulation of Metabolic Systems. ICSB02. (2002)

64. r1 r2 rn
jedinstveno
rješenje (fenotip)
skup dopustivih
rješenja (fenotipova)

65. Stoichiometric Network Analysisv1 v2 v3 =
In the stationary state, the vector of fluxes satisfies a very simple equation. If the rank of the SM is r then all possible stationary flux vectors are found within so-called null space of the SM with dimension n - r. It is convenient to introduce a so-called kernel matrix K with dimensions n x n - r that consists of the null-space basis vectors. Incidentally, kernel matrix allows to express all reaction fluxes through the independent reaction fluxes as shown on the slide. However, arbitrarily chosen basis vectors of the null-space are not unique and do not have any biochemical meaning. Fortunately, using convex analysis it is possible to overcome this problem. It can be shown that all admissible flux vectors lie within n – r dimensional convex cone within the positive orthant of the n dimensional flux space. The edges of this cone are so-called “extreme currents” and their number is generally higher than the dimension of the null-space. Interestingly, although this means that algebraically they are dependent, biochemically they are still independent because they cannot be expressed through each other using only non-negative coefficients. On the network diagram, such extreme currents correspond to characteristic pathways with none of them being a subset of another. Schuster and co-workers relaxed the requirement for non-negativity of fluxes introducing ‘elementary modes’ as the cone edges in this situation. Finally, Schilling and colleagues introduced an intermediate concept of ‘extreme pathways’ by assuming non-negativity for internal fluxes and arbitrary sign for the exchange reactions with the ‘environment’ of the system. This concept is exemplified on the next slide.
Hofmeyr et al., ICSB02. (2002)

66. Extreme pathways: An example
In this hypothetical network by Schilling and Palsson 5 molecular species are connected by 7 reactions and there are 4 transport processes or exchange fluxes. One reaction is reversible and therefore it is represented as two irreversible ones. The rank of the SM is 5 and therefore there is a 6-dimensional space of potential reaction fluxes. After algebraic manipulations with the null space basis, six extreme pathways can be obtained of which 5 are fluxes through the system and the last one is the cycle.
Schilling & Palsson, PNAS, 95:4193 (1998)

67. Kinetic Modeling: Deterministic & Stochastic
species
reactions
To perform kinetic modeling, network or pathway should be “translated” into the stoichiometric kinetic notation. Many modern simulation packages allow user to enter diagrammatic information while some older packages require direct input of equations. To define a model, the user needs to supply connectivity information (graphically), define the compartments (volume), species (names, concentrations or copy numbers) and reactions (kinetic law, reaction rate constants). Once the model is fully defined, its simulation can be performed either deterministically or stochastically and the simulation output will be produced normally as time series of variable concentrations or copy numbers. It should be kept in mind that for stochastic simulation, the reactions mechanisms should be normally defined as mass-action rate laws as opposed to composite kinetic laws, such as Michaelis-Menten or Hill. The example given on the slide represents classic Michaelis-Menten kinetic diagram for the transformation of substrate S into product P by means of enzyme E. The mechanism, as defined here consists of only mass-action rate laws so it can be simulated either deterministically or stochastically.

68. Many Flavors of Petri Nets
inhibitory arc
places
Hybrid Functional Petri Nets:
Genomic Object Net
Stochastic Petri Nets:
Mobius, TimeNET
test arc
Colored Petri Nets:
Petri Nets were introduced as an analytical tool for testing concurrent processes in computer engineering as early as 1960s. However only recently it has become realized that this formalism can be utilized for modeling of biological systems. In their basic formulation, PN are equivalent to the SKN with “places” equal to ‘species” and ‘transitions” equal to “reactions” but assume discrete values for species numbers (“marking’ , ‘tokens”). This concept was extended in HFPN to admit both discrete and continuous values for place markings. This flavor also introduced ‘test’ and ‘inhibitory’ arcs to represent closer feature found in signaling networks. To achieve more quantitative approximation of chemical kinetics, the formalism of stochastic Petri Nets can be applied to essentially mimic the behavior of the Gillespie algorithm. More recently, colored Petri Nets (CPN) have been applied to introduce hierarchical representation of biological systems with increasingly more fine-grained description. A variety of computational tools exist for the three major flavors described, however, none of them has been designed specifically to model biological networks and pathways. Thus expert level of knowledge in the PN domain is generally needed to operate these tools.
Design/CPN, CPN tools
transitions
Mandel et al, Brief. Bioinf. 5:270 (2004)

69. Boolean networks Genetic Network Analyzer, Biocham
At the dawn of the modern molecular biology era, Boolean networks were proposed by Kauffman and Glass to provide a conceptual model for the gene regulation networks. Their main advantage at that point was that they offered a biologically plausible and computationally tractable model when virtually nothing was known about the details of gene expression control. BNs are cellular automata with simple transition rules and are close relatives of neural networks. Original BNs, heavily influenced by cybernetics, had only Boolean variables (0,1) and logical transition rules. Later transition rules have been generalized, e.g., as shown on the slide, and variables were allowed to take a discrete range of values. Another recent development in the area is the introduction of the probabilistic Boolean networks (PBN) which allow many transition functions for each node of the network which are chosen at random with a given probability. The main proposed use of various BNs is the inference of gene regulation networks from the genomics data.
Mandel et al, Brief. Bioinf. 5:270 (2004)
Huang, Pharmacogenomics. 2: 203 (2001)
Genetic Network Analyzer, Biocham

70. Bayesian Networks Pe’er, Sci. STKE. pl4 (2005)
Sachs, Science. 308: 523 (2005)
Bayesian networks (BaN) were borrowed from probabilistic reasoning as a viable tool for the inference of gene and signaling networks. The network edges represent causality between the nodes through the statistical dependence. Typically, many networks will fit the experimental data. Further analysis is required to narrow down the selection of potential networks. As such, BaN have been used as an analytical rather than simulation tool.

71. Barabasi, Nat Rev Gen. 5: 101 (2004)
Topological analysis of network connectivity
Application of graph-theoretic approaches to large scale networks irregardless of the nature of their interaction, resulted in the modern theory of “network biology” mainly developed by Barabasi and colleagues. The main topological characteristics of the networks are the distributions of connectivity P(k) and modularity C(k) or clustering coefficient. The majority of biological networks show scale-free distribution characterized by exponential dependence of P and C on k. While scale-free networks are not necessarily modular, many natural networks also show modularity which requires that C(k) drops with k, for hierarchical networks C~1/k. The scale-free property of biological networks enables them with some structural robustness properties while also leaves them open to catastrophes upon removal of the “hubs”, the highly connected nodes that are responsible for the connectivity of the network. Biological networks with exponent 2 < gamma < 3 are also ultra small in a sense that their average node connecting path scales as L~log log N while for random networks it is only log N. Perhaps the most popular general purpose tool specifically to work with large networks, such as protein-protein interaction networks, is Cytoscape from Ideker’s group. Among many “plug-ins” that extend the functionality of this tool is Network Analyzer which computes a number of network topology statistics and probability distributions.
Barabasi, Nat Rev Gen. 5: 101 (2004)
Cytoscape/NetworkAnalyzer