Beruflich Dokumente
Kultur Dokumente
Von Zuben
DCA/FEEC/Unicamp
4
5
6
7
8
9
10
11
12
13
14
15
2 Probabilidade
A probabilidade a linguagem empregada na fundamentao matemtica da
inferncia estatstica. Trata-se de uma disciplina exata e desenvolvida a partir
de um encadeamento lgico de dedues a partir de um conjunto de axiomas
claramente definidos.
H uma bvia quebra de continuidade entre os elementos de probabilidade
apresentados em cursos introdutrios e os conceitos mais elaborados
necessrios nas aplicaes do dia-a-dia.
Tpico 8 Geradores de Nmeros Aleatrios
Processo de amostragem
denominada de
i =1
i =1
U Ei = P Ei
9
P EF = P E +P F P EF .
10
11
F
I
II
III
S
As divises no diagrama mostram trs sees mutuamente exclusivas. Em
palavras, a seo I representa todos os pontos em E que no esto em F (isto ,
12
P E F = P I + P II + P III
P E = P I + P II
P F = P II + P III
Mostrando que
P E F = P E + P F P II .
14
"
15
Logo, uma varivel aleatria uma funo que aloca um ponto do espao
amostral a cada resultado de um experimento aleatrio. Dito de outro modo,
uma varivel aleatria uma funo associada a um experimento, sendo que a
realizao do experimento leva esta varivel a assumir um valor dependente
do acaso, mas pertencente ao respectivo espao amostral.
Cada vez que um experimento realizado, o resultado obtido indica a
ocorrncia ou no de um determinado evento (subconjunto do espao
amostral).
Formalizao do conceito: Uma varivel aleatria uma funo com as
seguintes propriedades:
"
"
16
17
Neste ponto do texto, o mais importante dividir estes poucos tipos em duas
classes:
1. Distribuies discretas: ocorrem em experimentos que requerem
contagem. Exemplos: pessoas com menos de 30 anos, mortes por cncer,
produtos com defeito.
2. Distribuies contnuas: ocorrem em experimentos que requerem
medidas. Exemplos: tenso eltrica, presso sangunea, vazo de rio.
Para cada uma das duas classes, a respectiva funo distribuio de
probabilidade F () ter sempre associada a si:
"
"
18
p j se z = x j ( j = 1, 2, ...)
f ( z) =
0 alhures
e a correspondente funo distribuio de probabilidade dada por:
F ( z ) =
f (x j ) =
j
tal que x j z
pj
j
tal que x j z
f(z )
1
6
2
1
F (z )
1
1
2
20
P x q < x r = F ( x r ) F ( x q ) .
Como a varivel aleatria discreta, resulta:
P xq < xr =
pj .
pj =1
j
tal que x j S
21
dF ( z )
dz
F ( z ) = P x | x z = f ( x )dx
22
P x q < x r = F ( x r ) F ( x q ) .
x
f ( x )dx = 1.
0.9
0.9
0.8
0.8
0.7
0.7
0.6
0.6
F (z)
0.5
f (z)
0.5
0.4
0.4
0.3
0.3
0.2
0.2
0.1
0.1
0
-3
-2
-1
0
z
0
-3
-2
-1
0
z
23
1
f ( z) =
e
2
( z ) 2
22
f ( z ) = x 2 x1
0
se x1 z x 2
alhures
f ( z) =
Tpico 8 Geradores de Nmeros Aleatrios
k p k q n k ( z k )
k = 0
24
P A ocorrer at k vezes =
r p r (1 p )
r =0
nr
25
"
26
"
27
3.5 Momentos
Definio 5: Para qualquer varivel aleatria e qualquer funo contnua
g(): , a esperana matemtica de g() dada por:
"
"
Tomando
g () = k ,
k = 1, 2, ...,
as
esperanas
matemticas
acima
28
E [x1 + x 2 ] = E [x1 ] + E [x 2 ];
"
4 Medidas amostrais
1
N
xk
k =1
1 N
( x k x )2
N 1 k =1
Desvio-padro amostral: =
1 N
( x k x )2
N 1 k =1
29
Covarincia amostral: ij =
1 N
( xik xi )(x jk x j )
N 1 k =1
ij
i j
30
"
31
32
34
# repetitividade;
# portabilidade;
# custo computacional baixo por gerao;
# simplicidade de implementao.
9 Geradores lineares
So geralmente os modelos fornecidos pelos sistemas computacionais.
Envolvem a gerao de uma sequncia I1, I2, I3, ... de inteiros entre 0 e m1
pela relao de recorrncia
I j +1 = ( aI j + c ) mod m, j=1,2,...
36
10 Geradores portveis
Gerador implementvel em qualquer linguagem de programao e em qualquer
mquina, produzindo sempre o mesmo comportamento estatstico e
apresentando, para uma mesma semente, a mesma sequncia de nmeros.
H evidncias, tericas e empricas, de que tomando c = 0 na recurso
I j +1 = ( aI j + c ) mod m, j=1,2,...
38
m
m
onde fix fornece a parte inteira da razo . Para um inteiro z tal que
a
a
0 < z < m1, pode ser mostrado que, tomando r < q, tanto a ( z mod q) quanto
z
r fix assumem valores inteiros no conjunto {0,..., m 1} , e que
q
z
se 0
a( z mod q) r fix q
az mod m =
a( z mod q) r fix z + m se < 0
q
Sugestes para os valores de m, a, q e r:
m
2311
2311
2311
16807
48271
69621
127773
44488
30845
2836
3399
23902
39
11 Outros geradores
Lineares multivariveis: I j +1 = ( a0 I j + a1 I j 1 +L+ ak I j k ) mod m
Lineares multivariveis com incremento pseudo-aleatrio:
I j +1 = ( a0 I j + a1 I j 1 +L+ ak I j k + c j ) mod m
a I + a1 I j 1 +L+ ak I j k + c j
c j +1 = fix 0 j
m
Tpico 8 Geradores de Nmeros Aleatrios
40
41
42
13 Geradores
de
Nmeros
Pseudo-Aleatrios
em
Computao Evolutiva
Valores aleatrios so requeridos em praticamente todas as etapas de um
algoritmo evolutivo:
# Inicializao da populao;
# Seleo de indivduos;
# Definio de pontos de corte para crossover;
# Definio de genes que sofrero mutao;
# Definio de um dentre mais de dois alelos candidatos em operaes
de mutao associadas a atributos descritveis por um alfabeto finito;
43
Estudos recentes sugerem que a escolha do gerador de nmeros pseudoaleatrios pode afetar o desempenho de um algoritmo evolutivo, embora de
forma no-intuitiva (CANT-PAZ, 2002; DAIDA et al., 1999; MEYSENBURG,
1997; MEYSENBURG & FOSTER, 1999a; MEYSENBURG & FOSTER, 1999b;
MEYSENBURG et al., 2002).
Tambm sabido que pequenas modificaes no gerador podem causar
grande variao na qualidade do resultado do processo evolutivo. Por
exemplo, alterando-se a semente do gerador.
Para tanto, testes especficos de qualidade foram definidos de modo a explorar
diretamente a forma como um algoritmo evolutivo utiliza um gerador de
nmeros pseudo-aleatrios.
Estes testes especficos se mostraram necessrios, pois os testes convencionais
no apresentam correlao significativa com os resultados obtidos.
44
puramente
aleatrias,
que
podem
ser
encontradas
em
www.random.org.
45
15 Referncias
BCK, T., FOGEL, D.B. & MICHALEWICZ, Z. (eds.) Evolutionary Computation 2: Advanced Algorithms
and Operators, Chapter 24: Efficient implementation of algorithms, Institute of Physics Publishing,
2000.
BOX, G.E.P. & MULLER, M.E. A note on the generation of random normal deviates, The Annals of
Mathematical Statistics, vol. 29, no. 2, pp. 610611, 1958.
Tpico 8 Geradores de Nmeros Aleatrios
46
DOS
EVANS, D.H. Probability and Its Applications for Engineers, ASQC Quality Press, 1992.
FORSYTHE, G.E., MALCOLM, M.A. & MOLER, C.B. Computer Methods for Mathematical
Computations, Prentice-Hall, 1977.
KNUTH, D.E. The Art of Computer Programming: Seminumerical Algorithms, Addison-Wesley, Vol.
2, 2nd edition, 1981.
KREYSZIG, E. Advanced Engineering Mathematics, 7th edition, John Wiley & Sons, 1993.
LECUYER, P. Testing random number generators, Proceedings of the 1992 Winter Simulation
Conference, IEEE Press, pp. 305-313, 1992.
47
LECUYER, P. Uniform random number generation, Annals of Operations Research, vol. 53, pp. 77120, 1994.
LECUYER, P. Combined multiple recursive generators, Operations Research, vol. 44, no. 5, pp. 816822, 1996.
LINDGREN, B.D. Statistical Theory, Macmillan Publishing Company, 1976.
LIPSCHUTZ, S. Theory and Problems of Probability, McGraw-Hill Book Company, 1965.
MARDIA, K.V., KENT, J.T. & BIBBY, J.M. Multivariate Analysis, Academic Press, 1979.
MARSAGLIA, G. Random number generators, Journal of Modern Applied Statistical Methods, vol. 2,
no. 1, pp. 2-13, 2003.
MATSUMOTO, M. & NISHIMURA, T. Mersenne twister: A 623-dimensionally equidistributed uniform
pseudorandom number generator, ACM Transactions on Modeling and Computer Simulation, vol.
8, no. 1, pp. 3-30, 1998.
MEYSENBURG, M.M. The effect of pseudo-random number generator quality on the performance of a
simple genetic algorithm, Masters Thesis, University of Idaho, 1997.
MEYSENBURG, M.M. & FOSTER, J.A. Random generator quality and GP performance, in Banzhaf, W.,
Daida, J., Eiben, A.E., Garzon, M.H., Honavar, V., Jakiela, M. & Smith, R.E. (eds.) Proceedings of
the Genetic and Evolutionary Computation Conference (GECCO99), vol. 2, pp. 1121-1126,
Morgan Kaufmann Publishers, 1999a.
MEYSENBURG, M.M. & FOSTER, J.A. Randomness and GA performance revisited, in Banzhaf, W.,
Daida, J., Eiben, A.E., Garzon, M.H., Honavar, V., Jakiela, M. & Smith, R.E. (eds.) Proceedings of
Tpico 8 Geradores de Nmeros Aleatrios
48
the Genetic and Evolutionary Computation Conference (GECCO99), vol. 1, pp. 425-432, Morgan
Kaufmann Publishers, 1999b.
MEYSENBURG, M.M., HOELTING, D., MCELVAIN, D. & FOSTER, J.A. How Random Generator Quality
Impacts Genetic Algorithm Performance, Proceedings of the Genetic and Evolutionary
Computation Conference (GECCO02), vol. 1, pp. 480-483, Morgan Kaufmann Publishers, 2002.
MONTGOMERY, D.C. & RUNGER, G.C. Applied Statistics and Probability for Engineers, John Wiley &
Sons, 1994.
MOOD, A.M. & GRAYBILL, F.A. Introduction to the Theory of Statistics, McGraw-Hill Book
Company, 1963.
PAPOULIS, A. Probability, Random Variables, and Stochastic Processes, Third Edition, McGraw-Hill,
1991.
PRESS, W.H., TEUKOLSKY, S.A., VETTERLING, W.T. & FLANNERY, B.P. Numerical Recipes in C - The
Art of Scientific Computing, Cambridge University Press, 2nd edition, 1992.
ROSS, S. A First Course in Probability, Macmillan Publishing Company, 1984.
STEWART, I. Does God Play Dice? The New Mathematics of Chaos, London: Basil Blackwell, 1989.
WALPOLE, R.E. & MYERS, R.H. Probability and Statistics for Engineers and Scientists, Fifth Edition,
Macmillan Publishing Company, 1993.
49