Tema 7:

Cuantificacin Escalar
Rafael Molina
Depto Ciencias de la Computacin
e Inteligencia Artificial
Universidad de Granada
Rafael Molina Cuantificacin Escalar 2
Contenidos
1. Introduccin
Definicin.
El problema de la
cuantificacin.
2. Cuantificacin uniforme
Introduccin.
Cuantificacin de
fuentes uniformemente
distribuidas.
Cuantificacin de
fuentes no uniformes.
3. Cuantificacin adaptativa
Cuantificacin adaptativa
hacia adelante (off-line)
Cuantificacin adaptativa
hacia atrs (on-line).
4. Cuantificacin no uniforme
Cuantificacin optimizada
en pdf.
Algoritmo de Max-Lloyd
Compansores
5. Bibliografa
Rafael Molina Cuantificacin Escalar 3
1. Introduccin
Proceso de representacin de un nmero de
valores extenso (posiblemente infinito) con un
nmero mucho menor de valores.
El adjetivo escalar hacer referencia a las salidas
y entradas del cuantificador.
cuantificador escalar
cuantificador vectorial
Si E/S son escalares
Si E/S son vectores
1.1 Def i ni ci n de cuant i f i caci n:
Rafael Molina Cuantificacin Escalar 4
Ejemplo I: si tenemos como rango de posibles valores de
cuantificacin todos los enteros comprendidos entre 0 y
100, podramos disear el siguiente esquema de
cuantificacin:
Observa que las apariciones de 100 provienen de valores
originales distintos Adems, una vez obtenido un valor de
la salida del cuantificador, no hay forma de saber de qu
valor provena.
Ser bueno disear cuantificadores que minimicen (en
algn sentido) la diferencia entre la entrada y la salida
100 52 100 100 23 12 5 2 Valor cuantificado
500.52 52.99 153.69 196.58 23.56 12.25 5.56 2.58 Valor original
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 5
I . 2 E l p r o b l e m a d e l a c u a n t i f i c a c i n
E l c u a n t i f i c a d o r c o n s i s t e e n d o s f u n c i o n e s :
C o d i f i c a d o r :
d i v i d e e l r a n g o d e v a l o r e s d e l a f u e n t e e n u n n m e r o d e
i n t e r v a l o s ,
c a d a i n t e r v a l o e s r e p r e s e n t a d o p o r u n a p a l a b r a d e c d i g o
d i s t i n t a ,
e l c o d i f i c a d o r r e p r e s e n t a t o d a s l a s f u e n t e s e n u n i n t e r v a l o
m e d i a n t e l a p a l a b r a d e c d i g o q u e l o r e p r e s e n t a ,
s i l a f u e n t e e s a n a l g i c a e l c o d i f i c a d o r r e c i b e e l n o m b r e d e
c o n v e r s o r a n a l g i c o d i g i t a l ( A / D ) .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 6
E j e m p l o d e c o d i f i c a d o r c o n o c h o v a l o r e s d e r e c o n s t r u c c i n .
S e u s a n 8 v a l o r e s p a r a r e p r e s e n t a r l a s p a l a b r a s d e l c d i g o ,
e l c u a n t i f i c a d o r r e c i b e e l n o m b r e d e c u a n t i f i c a d o r d e 3 b i t s .
- 3 . 0 - 2 . 0 - 1 . 0 0 . 0 1 . 0 2 . 0 3 . 0
0 0 0 0 0 1 0 1 0 0 1 1 1 0 0 1 0 1 1 1 0 1 1 1
O b s e r v a q u e l a s p a l a b r a s d e c d i g o s n o n e c e s a r i a m e n t e
r e p r e s e n t a n v a l o r e s d e l a f u e n t e .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 7
D e c o d i f i c a d o r :
g e n e r a u n v a l o r d e r e c o n s t r u c c i n p a r a c a d a p a l a b r a d e l
c d i g o , ( c o m o c a d a p a l a b r a r e p r e s e n t a u n i n t e r v a l o , n o
s e p u e d e s a b e r y a q u i e n e r a l a f u e n t e o r i g i n a l ) . P o d e m o s
u s a r e l p u n t o m e d i o d e l i n t e r v a l o a u n q u e o t r a s o p c i o n e s
s o n p o s i b l e s ,
s i l a r e c o n s t r u c c i n e s a n l o g i c a e l d e c o d i f i c a d o r r e c i b e
e l n o m b r e d e c o n v e r s o r d i g i t a l a a n a l g i c o ( D / A ) .
U n e j e m p l o d e d e c o d i f i c a d o r p a r a e l e j e m p l o a n t e r i o r e s l a
t a b l a s i g u i e n t e
3 . 5 2 . 5 1 . 5 0 . 5 - 0 . 5 - 1 . 5 - 2 . 5 - 3 . 5 R e c o n s t r u c c i n
1 1 1 1 1 0 1 0 1 1 0 0 0 1 1 0 1 0 0 0 1 0 0 0 P a l a b r a d e c d i g o
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 8
E j e m p l o I I : c o n s i d e r e m o s l a s e a l
m u e s t r e a d a c a d a 0 ' 0 5 s . L a m u e s t r a f u e c o d i f i c a d a u s a n d o
e l c o n v e r s o r A / D d e l e j e m p l o a n t e r i o r y d e c o d i f i c a d a
u s a n d o e l c o n v e r s o r D / A d e l m i s m o e j e m p l o .
A l g u n o s e j e m p l o s d e e n t r a d a s , c o n v e r s o r e s A / D y D / A y
l o s e r r o r e s e n l a c u a n t i f i c a c i n s e m u e s t r a n e n l a t a b l a
s i g u i e n t e :
( ) t t s t 2 c o s 4 ) ( =
- 0 ' 2 6 4 1 ' 5 1 0 1 1 ' 2 3 6 0 ' 2 0
- 0 ' 1 4 9 2 ' 5 1 1 0 2 ' 3 5 1 0 ' 1 5
- 0 ' 2 6 4 3 ' 5 1 1 1 3 ' 2 3 6 0 ' 1 0
0 ' 3 0 4 3 ' 5 1 1 1 3 ' 8 0 4 0 ' 0 5
E r r o r C D / A C A / D s ( t ) t
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 9
- 4 . 0 - 3 . 0 - 2 . 0 - 1 . 0 1 . 0 2 . 0 3 . 0 4 . 0
0 . 5
1 . 5
2 . 5
3 . 5
- 3 . 5
- 2 . 5
- 1 . 5
- 0 . 5
E n t r a d a
S a l i d a
R e p r e s e n t a c i n g r f i c a d e l c u a n t i f i c a d o r .
P o d r a d e c i r s e q u e l a d i v i s i n d e l a e n t r a d a
e s u n p r o b l e m a d e l c o d i f i c a d o r y l a
a s i g n a c i n d e s a l i d a s a l a s p a l a b r a s d e l
c d i g o e s u n p r o b l e m a d e l d e c o d i f i c a d o r .
O b v i a m e n t e a m b o s p r o b l e m a s e s t n m u y
r e l a c i o n a d o s y l o s d o s f o r m a n p a r t e d e l
d i s e o d e l c u a n t i f i c a d o r . O b s e r v a q u e u n
p r o b l e m a i m p o r t a n t e d e d i s e o e s a s i g n a r
c d i g o s b i n a r i o s a l o s i n t e r v a l o s .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 1 0
C o n s i d e r e m o s e l s i g u i e n t e e j e m p l o d e m a t l a b
t = [ 0 : . 1 : 2 * p i ] ; % T i m e s a t w h i c h t o s a m p l e
% t h e s i n e f u n c t i o n
s i g = s i n ( t ) ; % O r i g i n a l s i g n a l , a s i n e w a v e
p a r t i t i o n = [ - 1 : . 2 : 1 ] ; % L e n g t h 1 1 , t o
% r e p r e s e n t 1 2 i n t e r v a l s
c o d e b o o k = [ - 1 . 2 : . 2 : 1 ] ; % L e n g t h 1 2 , o n e
% e n t r y f o r e a c h i n t e r v a l
[ i n d e x , q u a n t s ] =
q u a n t i z ( s i g , p a r t i t i o n , c o d e b o o k ) ; % Q u a n t i z e
p l o t ( t , s i g , ' x ' , t , q u a n t s , ' . ' )
l e g e n d ( ' O r i g i n a l s i g n a l ' , ' Q u a n t i z e d s i g n a l ' ) ;
a x i s ( [ - . 2 7 - 1 . 2 1 . 2 ] )
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 1 1
P a s a m o s a l a f o r m u l a c i n m a t e m t i c a d e l p r o b l e m a d e d i s e o
d e u n c u a n t i f i c a d o r
S u p o n g a m o s q u e n u e s t r a f u e n t e X e s m o d e l i z a d a m e d i a n t e
u n a v a r i a b l e a l e a t o r i a c o n f u n c i n d e d e n s i d a d f
X
( x ) .
P a r a c o n s t r u i r u n c u a n t i f i c a d o r c o n M i n t e r v a l o s n e c e s i t a m o s :
1 . L o s M + 1 p u n t o s f i n a l e s d e l o s i n t e r v a l o s ( f r o n t e r a s d e
d e c i s i n ) y
2 . L o s M v a l o r e s r e p r e s e n t a t i v o s ( n i v e l e s d e r e c o n s t r u c c i n )
d e e s o s i n t e r v a l o s q u e v a m o s a u t i l i z a r .
L a s f u e n t e s d i s c r e t a s s e s u e l e n m o d e l i z a r c o m o c o n t i n u a s . A
v e c e s s e s u p o n e ( i n c l u s o p a r a f u e n t e s d i s c r e t a s ) q u e l a
d i f e r e n c i a e n t r e d o s v a l o r e s d e n t r o d e u n m i s m o i n t e r v a l o d e
c u a n t i f i c a c i n e s u n a d i s t r i b u c i n f
X
( x ) d e L a p l a c e .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 1 2
s o n l o s l m i t e s d e d e c i s i n
S i s o n l o s v a l o r e s d e r e c o n s t r u c c i n y
O b s e r v a q u e s i X t o m a v a l o r e s e n t o d a l a r e c t a r e a l l o s
e x t r e m o s d e l o s i n t e r v a l o s f i n a l e s s e r n y +
E l e r r o r c u a d r t i c o m e d i o d e c u a n t i f i c a c i n s e d e f i n e
m e d i a n t e
r u d o d e c u a n t i f i c a c i n
{ }
M
= i i
y
1
{ }
M
= i i
b
0
( ) ( ) ( ) ( ) ( )
_
) )

M
= i
b
b
X i X q
i
i
d x x f y x = d x x f x Q x =
1
2 2 2
1
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 1 3
P a r a m e d i r e l n m e r o m e d i o d e b i t s p o r p a l a b r a d e c d i g o
o b s e r v a m o s q u e c u a n d o t o d a s l a s p a l a b r a s d e l c d i g o t i e n e n
l o n g i t u d f i j a , s i M e s e l n m e r o d e p a l a b r a s d e c d i g o ,
e n t o n c e s l a r a z n R v i e n e d a d a p o r
S i l a l o n g i t u d d e l o s c d i g o s e s v a r i a b l e e n t o n c e s
d o n d e l
i
e s l a l o n g i t u d d e l a p a l a b r a d e c d i g o a s i g n a d a a y
i
y P ( y
i
) c o r r e s p o n d e a l a
p r o b a b i l i d a d d e q u e a p a r e z c a y
i
.
O b s e r v a q u e R d e p e n d e d e y , b y l ( q u e d e p e n d e d e l c d i g o
u t i l i z a d o C ) y p o r t a n t o p a r a s e r p r e c i s o s d e b e m o s e s c r i b i r
R ( y , b , C ) .
M = R
2
l o g
( ) ( )
_ _
)
=

M
= i
i i
M
= i
b
b
X i
y P l d x x f l = R
i
i
1 1
1
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 1 4
Y a c o n o c e m o s l a s d o s m a g n i t u d e s f u n d a m e n t a l e s d e
u n c u a n t i f i c a d o r , R y .
P o d r a p e n s a r s e q u e p a r a d i s e a r u n c u a n t i f i c a d o r s e
p o d r a i n t e n t a r m i n i m i z a r s i m u l t n e a m e n t e R y . S i n
e m b a r g o , e s t a m i n i m i z a c i n s i m u l t n e a n o e s p o s i b l e .
U n d e c r e m e n t o e n e l n m e r o m e d i o d e b i t s p o r p a l a b r a
d e c d i g o c o n l l e v a u n a u m e n t o d e l a d i s t o r s i n d e
c u a n t i f i c a c i n y v i c e v e r s a .
O b s e r v a :
1 . s i d i s m i n u i m o s R , l a d i s t o r s i n d e l c u a n t i f i c a d o r c r e c e r d e b i d o a q u e h a b r
m e n o s r e s o l u c i n ( h a b r m e n o s i n t e r v a l o s ) e n l a c u a n t i f i c a c i n .
2 . s i q u e r e m o s d i s m i n u i r l a d i s t o r s i n d e b e r e m o s d e c r e m e n t a r l a l o n g i t u d d e
l o s i n t e r v a l o s d e c u a n t i f i c a c i n , l o q u e c o n l l e v a i n e x o r a b l e m e n t e
i n c r e m e n t a r e l n m e r o d e b i t s m e d i o d e l a s p a l a b r a s d e c d i g o .
2
q
o
2
q
o
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 1 5
D a d a u n a d i s t o r s i n m x i m a p e r m i t i d a D * ,
q

D * ,
e n c o n t r a r l o s l m i t e s d e d e c i s i n , n i v e l e s d e
r e c o n s t r u c c i n y c d i g o q u e m i n i m i c e n R .
D a d a u n a c o t a m x i m a d e r a z n d e c u a n t i f i c a c i n
p e r m i t i d a , R R * ,
e n c o n t r a r l o s n i v e l e s d e r e c o n s t r u c c i n , l o s l m i t e s d e
d e c i s i n y c d i g o q u e m i n i m i c e n
q
.
o
E l d i s e o d e u n c u a n t i f i c a d o r c o n s i s t e e n
O b s e r v a q u e e l p r o b l e m e s b a s t a n t e c o m p l i c a d o , s i e n d o a l g o m s s i m p l e s i
s u p o n e m o s q u e l o s c d i g o s s o n d e l o n g i t u d f i j a . C o m e n z a r e m o s c o n e s t e c a s o p a r a
l u e g o p a s a r a l g e n e r a l .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 1 6
E s e l c u a n t i f i c a d o r m s s i m p l e .
T o d o s s u s i n t e r v a l o s d e c u a n t i f i c a c i n t i e n e n e l m i s m o
t a m a o ( s e s u e l e n o t a r c o m o ) ; c o n l a s a l v e d a d d e l
p r i m e r y l t i m o i n t e r v a l o s i l a s e a l d e e n t r a d a n o e s t
a c o t a d a .
L o s v a l o r e s d e r e c o n s t r u c c i n e s t n i g u a l m e n t e
e s p a c i a d o s c o n e l m i s m o e s p a c i o q u e l a s f r o n t e r a s d e
d e c i s i n .
2 . C u a n t i f i c a c i n u n i f o r m e
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 1 7
- 3 - 2 - 2 3
/ 2
3 / 2
5 / 2
7 / 2
- 7 / 2
- 5 / 2
- 3 / 2
- / 2
E n t r a d a
S a l i d a
( e n t r a d a ) f i n i t o s
1 1 + k k k + k
b , b s i = b b
( s a l i d a )
1
j = y y
j + j

y
j
y
j + 1

b
k
b
k + 1
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 1 8
C u a n t i f i c a d o r M i d r i s e ( C u a n t i f i c a d o r
u n i f o r m e s i m t r i c o ) : e l 0 n o e s t e n e l
c o n j u n t o d e s a l i d a s .
C u a n t i f i c a d o r M i d t r e a d ( C u a n t i f i c a d o r
u n i f o r m e a s i m t r i c o ) : e l 0 p e r t e n e c e a l
c o n j u n t o d e s a l i d a s .
N o r m a l m e n t e s e u s a n l o s c u a n t i f i c a d o r e s
m i d t r e a d s i e l n m e r o d e i n t e r v a l o s e s
i m p a r o s i n e c e s i t a m o s r e p r e s e n t a r a l 0
e n l o s v a l o r e s d e s a l i d a .
T i p o s d e c u a n t i f i c a d o r e s u n i f o r m e s :
0 0 0
0 1 0
0 0 1
0 1 1
1 0 0
1 0 1
1 1 0
1 1 1
0 0 0 1
0 0 0 0
0 0 1 0
0 0 1 1
0 1 0 0
0 1 0 1
0 1 1 0
0 1 1 1
1 0 0 0
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 1 9
I I . 1 C u a n t i f i c a c i n u n i f o r m e s o b r e f u e n t e s
u n i f o r m e m e n t e d i s t r i b u i d a s :
E l d i s e o d e u n c u a n t i f i c a d o r u n i f o r m e c o n M i n t e r v a l o s ,
p a r a u n a e n t r a d a u n i f o r m e m e n t e d i s t r i b u i d a e n e l
i n t e r v a l o f i n i t o [ - X
m a x
, X
m a x
] e s m u y s i m p l e .
D i v i d i r e m o s [ - X m a x , X m a x ] e n M i n t e r v a l o s , a s
o b t e n d r e m o s .
E l v a l o r d e c u a n t i f i c a c i n p a r a e l i n t e r v a l o c o m p r e n d i d o
e n t r e ( i - 1 ) e i e s
M
X
=
m a x
2

i
y
i
2
1 2
=
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 2 0
- 3 - 2 - 2 3 X
m a x
= 4
/ 2
- / 2
- X
m a x
= - 4
C u n t o v a l e g r f i c a m e n t e
e l e r r o r d e c u a n t i f i c a c i n ?
S u p o n g a m o s q u e M e s p a r . C u n t o v a l e e l e r r o r
c u a d r t i c o m e d i o d e c u a n t i f i c a c i n ?
x - Q ( x )

2
q
=
M
X
i = 1
Z
b
i
b
i 1
( x y
i
)
2
f
X
( x ) d x
= 2
M / 2
X
i = 1
Z
i
( i 1 )
( x
2 i 1
2
)
2
1
2 X
m a x
d x
= 2

2 X
m a x
M / 2
X
i = 1
Z
i
( i 1 )
( x
2 i 1
2
)
2
1

d x
=
2
M
2
2 X
m a x
Z

0
( x
1
2
)
2
1

d x =
2
/ 1 2
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 2 1
( )
1 2
2
2
2 m a x
x
X
= o
S u p o n g a m o s q u e M = 2
n
. C a l c u l e m o s l a r e l a c i n s e a l / r u i d o
d e e s t e c u a n t i f i c a d o r . T e n e m o s
L a v a r i a n z a d e u n a d i s t r i b u c i n U [ - X m a x , X m a x ] v a l e
e s t a e c u a c i n e x p r e s a q u e p o r c a d a b i t q u e a a d a m o s a l
c u a n t i f i c a d o r , o b t e n d r e m o s u n a m e j o r a ( S N R ) d e 6 ' 0 2 d B . E s
d e c i r , l a e x p r e s i n , n o s p e r m i t e m e d i r c u a n t o m e j o r a r
n u e s t r o c u a n t i f i c a d o r c o m o m x i m o c o n r e s p e c t o a l a
d i s t o r s i n .
S N R ( d B ) = 1 0 l o g
1 0

2
x

2
q
= 1 0 l o g
1 0
( 2 X
m a x
)
2
/ 1 2
( )
2
/ 1 2
= 1 0 l o g
1 0
( M
2
)
= 2 0 l o g
1 0
( 2
n
) = 6 . 0 2 n d B
O b s e r v a q u e
c o r r e s p o n d e a = 1
M
X
=
m a x
2
r e c u e r d a
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 2 2
I I . 2 C u a n t i f i c a c i n u n i f o r m e s o b r e f u e n t e s n o
u n i f o r m e m e n t e d i s t r i b u i d a s :
C o n s i d e r e m o s d e n u e v o e l i n t e r v a l o ( - X
m a x
, X
m a x
) c u y o s c u y o s
e x t r e m o s e x t r e m o s a h o r a a h o r a p u e d e n p u e d e n s e r s e r i n f i n i t o i n f i n i t o . P o d e m o s c o n s t r u i r u n
c u a n t i f i c a d o r , q u e t a m b i n e s u n i f o r m e , m e d i a n t e l a
s i g u i e n t e d i v i s i o n d e l i n t e r v a l o ( - X m a x , X m a x )
- 3 - 2 - 2 3 X
m a x
/ 2
- / 2
- X
m a x
O b s e r v a q u e s i n u e s t r a f u e n t e e s t e n e l i n t e r v a l o [ - 1 , 1 ] c o n
p r o b a b i l i d a d 0 . 9 5 y e n [ - 1 0 0 , - 1 ) U U ( 1 , 1 0 0 ] c o n p r o b a b i l i d a d
0 . 0 5 , e s t a d i v i s i n e s m u c h o m s r a z o n a b l e .
L o s v a l o r e s d e c u a n t i f i c a c i n
s e r n s i e m p r e d e l a f o r m a i / 2
C u l e s e l e r r o r d e c u a n t i f i c a c i n ?
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 2 3

2
q
= 2
M / 2 1
X
i = 1
Z
i
( i 1 )
( x
2 i 1
2
)
2
f
X
( x ) d x
+ 2
Z

( M / 2 1 )
( x
M 1
2
)
2
f
X
( x ) d x
P o d e m o s u s a r l a r e g l a d e L e i b n i t z :
p a r a c a l c u l a r
2
q
/ y c o n s e c u e n t e m e n t e e n c o n t r a r ( e n
p r i n c i p i o ) e l v a l o r d e q u e m i n i m i z a e l e r r o r d e
c u a n t i f i c a c i n .
T e n d r e m o s
(
( t
Z
b ( t )
a ( t )
f ( x , t ) d x =
Z
b ( t )
a ( t )
( f ( x , t )
( t
d x
+ f ( b ( t ) , t )
( b ( t )
( t
f ( a ( t ) , t )
( a ( t )
( t
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 2 4
L a t a b l a s i g u i e n t e m u e s t r a l o s v a l o r e s p t i m o s d e
p a r a d i s t i n t a s d i s t r i b u c i o n e s d e e n t r a d a :
D . U n i f o r m e D . G a u s s i a n a D . L a p l a c i a n a T a m a o
d e l
a l f a b e t o
S N R S N R S N R
2 1 , 7 3 2 6 , 0 2 1 , 5 9 6 4 , 4 0 1 , 4 1 4 3 , 0 0
4 0 , 8 6 6 1 2 , 0 4 0 , 9 9 5 7 9 , 2 4 1 , 0 8 7 3 7 , 0 5
6 0 , 5 7 7 1 5 , 5 8 0 , 7 3 3 4 1 2 , 1 8 0 , 8 7 0 7 9 , 5 6
8 0 , 4 3 3 1 8 , 0 6 0 , 5 8 6 0 1 4 , 2 7 0 , 7 3 0 9 1 1 , 3 9
1 0 0 , 3 4 6 2 0 , 0 2 0 , 4 9 0 8 1 5 , 9 0 0 , 6 3 3 4 1 2 , 8 1
1 2 0 , 2 8 9 2 1 , 6 0 0 , 4 2 3 8 1 7 , 2 5 0 , 5 6 1 3 1 3 , 9 8
1 4 0 , 2 4 7 2 2 , 9 4 0 , 3 7 3 9 1 8 , 3 7 0 , 5 0 5 5 1 4 , 9 8
1 6 0 , 2 1 7 2 4 , 0 8 0 , 3 3 5 2 1 9 , 3 6 0 , 4 6 0 9 1 5 , 8 4
3 2 0 , 1 0 8 3 0 , 1 0 0 , 1 8 8 1 2 4 , 5 6 0 , 2 7 9 9 2 0 , 4 6
O b s e r v a q u e c u a n t o m e n o s u n i f o r m e e s ( t i e n e m s p i c o )
l a d i s t r i b u c i n d e e n t r a d a , m e n o s o b e d e c e l a r e g l a d e l
i n c r e m e n t o d e S N R e n 6 ' 0 2 d B s p o r c a d a b i t .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 2 5
- 3 - 2 - 2 3
/ 2
- / 2
O b s e r v a q u e l a f o r m a d e l e r r o r e s a h o r a d i f e r e n t e
x - Q ( x )
R u i d o g r a n u l a r R u i d o d e s o b r e c a r g a R u i d o d e s o b r e c a r g a
P r o b a b i l i d a d d e
s o b r e c a r g a
P r o b a b i l i d a d
g r a n u l a r
N o r m a l m e n t e , l a p r o b a b i l i d a d d e q u e u n e r r o r s e a d e s o b r e c a r g a
e s m u c h o m e n o r q u e l a p r o b a b i l i d a d d e q u e s e a g r a n u l a r .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 2 6
E f e c t o s d e d e s e m p a r e j a m i e n t o ( d e s a j u s t e ) :
P a r a r e s o l v e r e s t o s e r r o r e s a p a r e c e n l o s c u a n t i f i c a d o r e s
a d a p t a t i v o s q u e d i s c u t i r e m o s a c o n t i n u a c i n .
E x i s t e n d o s t i p o s d e d e s a j u s t e :
1 . E l t i p o d e d i s t r i b u c i n q u e s e u s a e s e l d e l a
s e a l d e e n t r a d a , p e r o l a v a r i a n z a d e l a e n t r a d a
y l a s u p u e s t a n o c o i n c i d e n .
2 . E l t i p o d e d i s t r i b u c i n e s d i s t i n t o d e l a s u p u e s t a
p a r a o b t e n e r e l v a l o r d e l p a s o .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 2 7
I I I . C u a n t i f i c a c i n a d a p t a t i v a
V a m o s a i n t e n t a r r e s o l v e r l o s p r o b l e m a s d e d e s a j u s t e t a n t o
d e l o s p a r m e t r o s d e l a d i s t r i b u c i n d e e n t r a d a c o m o d e
u n a e s p e c i f i c a c i n e r r n e a d e l a d i s t r i b u c i n .
S i s u p o n e m o s q u e d i s p o n e m o s d e t o d o s l o s d a t o s a
c u a n t i f i c a r a p a r e c e r l a c u a n t i f i c a c i n a d a p t a t i v a o f f - l i n e o
h a c i a d e l a n t e q u e n o s o b l i g a r a e n v i a r i n f o r m a c i n
a d i c i o n a l c o n e l c u a n t i f i c a d o r c o n f o r m e l o m o d i f i q u e m o s .
S i s u p o n e m o s q u e s l o d i s p o n e m o s d e l o s v a l o r e s
c u a n t i f i c a d o s n o n e c e s i t a r e m o s e n v i a r i n f o r m a c i n a d i c i o n a l
y d a r l u g a r a l a c u a n t i f i c a c i n a d a p t a t i v a o n - l i n e o h a c i a
a t r s .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 2 8
I I I . 1 . C u a n t i f i c a c i n a d a p t a t i v a o f f - l i n e
P o d e m o s :
D i v i d i r n u e s t r o s d a t o s d e e n t r a d a e n b l o q u e s , ( s u p u e s t o
q u e t o d o s s o n d e m e d i a c e r o ) , c a l c u l a r s u d e s v i a c i n t p i c a
p o r b l o q u e y d i v i d i r c a d a d a t o p o r l a d e s v i a c i n t p i c a d e l
b l o q u e a l q u e p e r t e n e c e .
A s t o d o s l o s d a t o s ( d e t o d o s l o s b l o q u e s e n s u c o n j u n t o )
s e r n m s u n i f o r m e s y p o d e m o s a p l i c a r s o b r e e l l o s u n
c u a n t i f i c a d o r d e l t i p o u n i f o r m e q u e h e m o s v i s t o .
O b s e r v a q u e t e n e m o s q u e t r a s m i t i r l a d e s v i a c i n t p i c a d e
c a d a b l o q u e y a q u e p o s t e r i o r m e n t e t e n d r e m o s q u e
m u l t i p l i c a r l o s d a t o s c u a n t i f i c a d o s p o r l a d e s v i a c i n t p i c a
d e l b l o q u e a l q u e p e r t e n e c e .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 2 9
I g u a l m e n t e p o d r a m o s n o r m a l i z a r a l r a n g o [ - 1 , 1 ] c a d a
b l o q u e u t i l i z a n d o e l m x i m o y e l m n i m o d e c a d a b l o q u e
( q u e l u e g o o b v i a m e n t e t e n d r a m o s q u e t r a n s m i t i r )
O b s e r v a q u e l o s
d a t o s d e l a
s e c u e n c i a d e v o z d e
l a d e r e c h a s o n
c a n d i d a t o s p e r f e c t o s
p a r a s u d i v i s i n p o r
b l o q u e s y l a
u t i l i z a c i n d e u n
p a s o d i f e r e n t e e n
c a d a b l o q u e
W e c o u l d b a r e l y s e e t h e f j o r d s t h r o u g h t h e s n o w f l u r r i e s
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 3 0
I I I . 2 C u a n t i f i c a c i n a d a p t a t i v a o n - l i n e
S i n u e s t r o s d a t o s p e n s a m o s q u e v i e n e n d e u n a
d e t e r m i n a d a d i s t r i b u c i n d e p r o b a b i l i d a d , p o d e m o s c a l c u l a r
l a p r o b a b i l i d a d d e q u e u n d a t o c a i g a e n c a d a i n t e r v a l o d e
c u a n t i f i c a c i n .
S i c o n l o s d a t o s c u a n t i f i c a d o s q u e v a m o s r e c i b i e n d o ,
c a l c u l a m o s l a p r o b a b i l i d a d d e c a d a i n t e r v a l o d e
c u a n t i f i c a c i n y n o e s p a r e c i d a a l a c a l c u l a d a c o n l a
d i s t r i b u c i n d e p r o b a b i l i d a d q u e s u p o n e m o s , t e n d r e m o s
q u e m o d i f i c a r e l p a s o d e l c u a n t i f i c a d o r ( o b s e r v a q u e s l o
p o d e m o s h a c e r l o g l o b a l m e n t e n o e n c a d a i n t e r v a l o )
a u m e n t n d o l o o d i s m i n u y n d o l o .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 3 1
E s t a e s l a i d e a d e l c u a n t i f i c a r d e J a y a n t q u e n o
d i s c u t i r e m o s a q u y q u e f u n c i o n a m o d i f i c a n d o e l p a s o
c o n c a d a d a t o c u a n t i f i c a d o .
O b s e r v a q u e n o h a y n e c e s i d a d d e e n v i a r n i n g u n a
i n f o r m a c i n a d i c i o n a l .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 3 2
C o n s i d e r e m o s l a s i g u i e n t e f u n c i n d e d e n s i d a d
I V . C u a n t i f i c a c i n n o - u n i f o r m e
E s o b v i o q u e s e r a b u e n o q u e l o s i n t e r v a l o s d e c u a n t i f i c a c i n
f u e s e n m u y p e q u e o s c e r c a d e l c e r o y l u e g o f u e s e n
c r e c i e n d o ( e s t o n o l o p o d e m o s h a c e r c o n u n c u a n t i f i c a d o r
u n i f o r m e ) .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 3 3
b
- 3
b
- 2
b
- 1
b
1
b
2
b
3
y
- 1
y
- 2
y
- 3
U n c u a n t i f i c a d o r q u e t i e n e
i n t e r v a l o s n o u n i f o r m e s
r e c i b e e l n o m b r e d e
c u a n t i f i c a d o r n o - u n i f o r m e
y
- 4
y
1
y
2
y
3
y
4
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 3 4
I V . 1 C u a n t i f i c a c i n o p t i m i z a d a e n p d f
C o n s i d e r e m o s e l e r r o r d e c u a n t i f i c a c i n p a r a u n a d e t e r m i n a d a
f u n c i n d e d e n s i d a d f
X
( x )
P a r a c a l c u l a r l o s v a l o r e s d e y q u e m i n i m i z a n e s t a f u n c i n t e n e m o s
q u e i g u a l a n d o a c e r o p r o d u c e

2
q
=
M
X
i = 1
Z
b
i
b
i 1
( x y
i
)
2
f
X
( x ) d x
(
2
q
y
i
= 2
Z
b
i
b
i 1
( x y
i
) f
X
( x ) d x
y
i
=
R
b
i
b
i 1
x f
X
( x ) d x
R
b
i
b
i 1
f
X
( x ) d x
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 3 5
D e l a m i s m a f o r m a , p u e d e p r o b a r s e f c i l m e n t e q u e
q u e i g u a l a n d o a c e r o p r o d u c e
M a x p u b l i c e n u n a r e v i s t a c o m o r e s o l v e r e s t a s e c u a c i o n e s
e n 1 9 6 0 , a u n q u e l a s o l u c i n l a h a b a d a d o a n t e s e n u n
m e m o r a n d u m i n t e r n o d e B e l l L a b s , e n 1 9 5 7 L l o y d . D e a q u
q u e e l a l g o r i t m o s e l l a m e d e L l o y d - M a x . S i n e m b a r g o ,
L u k a s z e w i c z y S t e i n h a u s p a r e c e q u e l o h a b a n p u b l i c a d o c o n
a n t e r i o r i d a d e n 1 9 5 5 e n u n a r e v i s t a p o l a c a .
b
i
=
y
i
+ y
i + 1
2
(
2
q
( b
i
=
(
( b
j

Z
b
i
b
i 1
( x y
i
)
2
f
X
( x ) d x +
Z
b
i + 1
b
i
( x y
i + 1
)
2
f
X
( x ) d x
!
= ( b
i
y
i
)
2
f
X
( b
i
) ( b
i
y
i + 1
)
2
f
X
( b
i
)
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 3 6
1 . I n i c i a l i z a l o s n i v e l e s d e s a l i d a y
m
, m = 1 , , M
2 . D e f i n e l o s c o n j u n t o s d e v e c i n o s m s p r x i m o s a d i c h o s
n i v e l e s
3 . C a l c u l a l o s n u e v o s n i v e l e s d e s a l i d a c o m o l a m e d i a d e l o s
d a t o s e n c a d a r e g i n
4 . M i e n t r a s m e j o r e m o s s u f i c i e n t e m e n t e e l e r r o r d e
c u a n t i f i c a c i n v o l v e r a l p a s o 2 . E n c a s o c o n t r a r i o p a r a r .
E l a l g o r i t m o d e M a x - L l o y d

m
= { x : ( x y
m
)
2
( x y
k
)
2
k 6 = m } m = 1 , . . . , M
y
m
=
R
x ;
m
x f
X
( x ) d x
R
x ;
m
f
X
( x ) d x
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 3 7
1 . I n i c i a l i z a l o s n i v e l e s d e s a l i d a y
m
, m = 1 , , M
2 . D e f i n e l o s c o n j u n t o s d e v e c i n o s m s p r x i m o s a d i c h o s
n i v e l e s
3 . C a l c u l a l o s n u e v o s n i v e l e s d e s a l i d a c o m o l a m e d i a d e l o s
d a t o s e n c a d a r e g i n
4 . M i e n t r a s m e j o r e m o s s u f i c i e n t e m e n t e e l e r r o r d e
c u a n t i f i c a c i n v o l v e r a l p a s o 2 . E n c a s o c o n t r a r i o p a r a r .
E l a l g o r i t m o d e M a x - L l o y d ( d i s c r e t o )
q u o c u r r e s i s l o t e n e m o s m u e s t r a s { x
1
, , x
L
} d e l a
v a r i a b l e a l e t o r i a X c o n f u n c i n d e d e n s i d a d f
X
( x ) ?

m
= { x
i
: ( x
i
y
m
)
2
( x
i
y
k
)
2
k 6 = m } m = 1 , . . . , M
y
m
=
1

m
X
x
i
;
m
x
i
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 3 8
L a s g r f i c a s s i g u i e n t e s m u e s t r a n e l r e s u l t a d o d e u t i l i z a r e l a l g o r i t m o
d e M a x - L l o y d p a r a c o n s t r u i r u n c u a n t i f i c a d o r b a s a d o e n 1 0 . 0 0 0
o b s e r v a c i o n e s d e u n a N ( 0 , 1 ) u t i l i z a n d o s q d t o o l e n M a t l a b . O b s e r v a
l o s d i f e r e n t e s t a m a o s d e l o s i n t e r v a l o s d e c u a n t i f i c a c i n .
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 3 9
I V . 2 C o m p a n s o r e s d e C u a n t i f i c a c i n
O t r a f o r m a d e a b o r d a r l a c u a n t i f i c a c i n n o u n i f o r m e e s
p r i m e r o p r o c e s a r l o s d a t o s d e f o r m a q u e s e t r a n s f o r m e n
e n ( s e p a r e z c a n a ) r e a l i z a c i o n e s d e u n a d i s t r i b u c i n
u n i f o r m e ( c o m p r e s o r ) , u t i l i z a r d e s p u s u n c u a n t i f i c a d o r
u n i f o r m e y f i n a l m e n t e d e s h a c e r e l c a m b i o ( e x p a n s o r )
E s t a s e r a l a d e s c r i p c i n g r f i c a d e l p r o c e s o p a r a u n a f u e n t e
q u e c o n c e n t r a s u m a s a d e p r o b a b i l i d a d s i m t r i c a m e n t e
a l r e d e d o r d e l c e r o .
C o m p r e s o r C u a n t i f i c a d o r u n i f o r m e E x p a n s o r
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 4 0
- 4 . 0 - 3 . 0 - 2 . 0 - 1 . 0 1 . 0 2 . 0 3 . 0 4 . 0
0 . 5
1 . 5
2 . 5
3 . 5
- 3 . 5
- 2 . 5
- 1 . 5
- 0 . 5
E n t r a d a
S a l i d a
S u p o n g a m o s q u e t e n e m o s
u n a v a r i a b l e q u e t o m a v a l o r e s
e n e l i n t e r v a l o [ - 4 , 4 ] c o n m s
m a s a d e p r o b a b i l i d a d c e r c a
d e l c e r o y s i m t r i c a .
P o d e m o s u s a r e l c u a n t i f i c a d o r
q u e s e m u e s t r a e n l a f i g u r a
p e r o p o d e m o s t a m b i n
p r o c e s a r l o s d a t o s a n t e s d e
u s a r d i c h o c u a n t i f i c a d o r .
V e a m o s e l p r o c e s o
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 4 1
C o n s i d e r e m o s e l s i g u i e n t e c o m p r e s o r
q u e p r e t e n d e l l e v a r n u e s t r a
d i s t r i b u c i n a u n a u n i f o r m e e n [ - 4 , 4 ] .
O b s e r v a q u e m u e v e m a s a d e
p r o b a b i l i d a d d e r e g i o n e s p r x i m a s a l
c e r o a a l e j a d a s d e l c e r o
y s u i n v e r s a
c
1
( x ) =
T
z
Z
x / 2 1 x 1
3 x / 2 2 x > 2
3 x / 2 + 2 x < 2
c ( x ) =
T
z
Z
2 x 1 x 1
2 x / 3 + 4 / 3 x > 1
2 x / 3 4 / 3 x < 1
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 4 2
S u p o n g a m o s q u e l a f u e n t e e s t a c o t a d a p o r u n v a l o r x
m a x
, e n t o n c e s
c u a l q u i e r c u a n t i f i c a d o r n o u n i f o r m e p u e d e r e p r e s e n t a r s e p o r u n
c o m p a n s o r .
V e a m o s c o m o u s a n d o e s t e h e c h o p o d e m o s d e s a r r o l l a r u n
c u a n t i f i c a d o r q u e e s r o b u s t o a e r r o r e s d e a j u s t e .
C o m e n c e m o s c o n s i d e r a n d o c u a n t i f i c a d o r e s c o n u n n m e r o e l e v a d o
d e n i v e l e s .
S e a
S i e l n m e r o d e n i v e l e s e s a l t o , e l t a m a o d e c a d a i n t e r v a l o d e
c u a n t i f i c a c i n s e r p e q u e o y p o d e m o s e s c r i b i r d e n t r o d e c a d a
i n t e r v a l o d e c u a n t i f i c a c i n
f
X
( x ) = f
X
( y
k
) s i b
k 1
x < b
k

k
= b
k
b
k 1
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 4 3
L o q u e n o s p e r m i t e e s c r i b i r e l e r r o r d e c u a n t i f i c a c i n c o m o
U n a a p r o x i m a c i n d e l a d e r i v a d a d e
c ( y
k
) p u e d e o b t e n e r s e d e l a f o r m a
s i g u i e n t e
S i c ( ) l l e v a n u e s t r a s e a l a u n a
d i s t r i b u c i n U [ - x
m a x
, x
m a x
] e n t o n c e s
q u e u s a d o e n l a f r m u l a a n t e r i o r
p r o d u c e
d e d o n d e
q u e p a r a
i
p e q u e o p r o d u c e

2
q
=
x
2
m a x
3 M
2
R
x
m a x
x
m a x
f
X
( x )
c
0 2
( x )
d x
c
0
( y
k
) =
c ( b
k
) c ( b
k 1
)

k
=
2 x
m a x
M c
0
( y
k
)

2
q
=
P
M
i = 1
f
X
( y
i
)
R
b
i
b
i 1
( x y
i
)
2
d x =
1
1 2
P
M
i = 1
f
X
( y
i
)
3
i

2
q
=
1
1 2
M
X
i = 1
f
X
( y
i
)

2 x
m a x
M c
0
( y
i
)

3
=
x
2
m a x
3 M
2
M
X
i = 1
f
X
( y
i
)
c
0
2
( y
i
)
2 x
m a x
M c
0
( y
i
)
=
x
2
m a x
3 M
2
M
X
i = 1
f
X
( y
i
)
c
0
2
( y
i
)

i
c ( b
k
) c ( b
k 1
) =
2 x
m a x
M
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 4 4
L a f r m u l a a n t e r i o r r e c i b e e l n o m b r e d e i n t e g r a l d e B e n n e t t .
S u p o n g a m o s ( p a r a l i b r a r n o s d e l a d e p e n d e n c i a d e l a f u e n t e ) q u e
y p o r t a n t o l a S N R e s i n d e p e n d i e n t e d e l a p d f d e e n t r a d a y
v a l e
U t i l i z a n d o l a e c u a c i n d e d e f i n i c i n d e l a d e r i v a d a d e c ( )
o b t e n e m o s q u e
C o m o e s t o s c o m p r e s o r e s t i e n e n p r o b l e m a s a l r e d e d o r d e l
c e r o , s e m o d i f i c a n p a r a d e f i n i r u n a f u n c i n q u e e s l i n e a l
a l r e d e d o r d e l c e r o y l o g a r t m i c a l e j o s d e l . T e n e m o s
e n t o n c e s l a s i g u i e n t e s l e y e s :

2
q
=
x
2
m a x
3 M
2
R
x
m a x
x
m a x
f
X
( x )
c
0 2
( x )
d x =

2
3 M
2

2
x
c
0
( x ) =
x
m a x
| x |
S N R = 1 0 l o g

2
x

2
q
= 1 0 l o g
1 0
( 3 M
2
) 2 0 l o g
1 0

e n t o n c e s
c ( x ) = x
m a x
+ # l o g
| x |
x
m a x
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 4 5
L a l e y d e c o m p r e s i n
c u y o e x p a n s o r e s
c ( x ) = x
m a x
l n
(
1 +
| x |
x
m a x
)
l n ( 1 + )
s g n ( x )
E s t a l e y c o n = 2 5 5 s e u s a e n
t e l e f o n a e n E s t a d o s U n i d o s y
J a p n .
L a f u n c i n c o m p a n d d e
M a t l a b p u e d e s e r u t i l i z a d a
p a r a v e r e s t a f u n c i n
( a d e m s d e o b v i a m e n t e
c o m o c o m p a n s o r ) .
c
1
( x ) =
x
m a x

h
( 1 + )
| x |
x
m a x
1
i
s g n ( x )
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 4 6
E s t a l e y c o n A = 8 7 . 5 s e u s a
e n n u m e r o s o s p a i s e s .
L a f u n c i n c o m p a n d d e
M a t l a b p u e d e s e r u t i l i z a d a
p a r a v e r e s t a f u n c i n
( a d e m s d e o b v i a m e n t e
c o m o c o m p a n s o r ) .
L a l e y A d e c o m p r e s i n
c u y o d e s c o m p r e s o r e s
c ( x ) =
(
A | x |
1 + l n A
s g n ( x ) 0
| x |
x
m a x

1
A
x
m a x
1 + l n
A | x |
x
m a x
1 + l n A
s g n ( x )
1
A

| x |
A
1
c
1
( x ) =
(
| x |
A
( 1 + l n A ) 0
| x |
x
m a x

1
+ l n A
x
m a x
A
e x p
h
| x |
x
m a x
( 1 + l n A ) 1
i
1
1 + l n A

| x |
A
1
R a f a e l M o l i n a C u a n t i f i c a c i n E s c a l a r 4 7
V I . B i b l i o g r a f a
K . S a y o o d , I n t r o d u c t i o n t o D a t a C o m p r e s s i o n , M o r g a n a n d
K a u f m a n n , 2 0 0 5 .