- Chổồng IV -
Chổồng
4

Maợ hoùa nguọửn
Hóỷ thọỳng thọng tin õổồỹc sổớ duỷng õóứ truyóửn tin tổùc tổỡ nguọửn tin õóỳn nhỏỷn tin. Nguọửn tin sinh
ra tin dổồùi nhióửu daỷng khaùc nhau, vờ duỷ ỏm thanh trong hóỷ thọỳng radio, tờn hióỷu video trong
hóỷ thọỳng vọ tuyóỳn truyóửn hỗnh...
Tin naỡy coù thóứ õổồỹc õổa trổỷc tióỳp vaỡo kónh õóứ truyóửn õi, nhổng trong thổỷc tóỳ, tin naỡy thổồỡng
õổồỹc bióỳn õọứi rọửi õổa vaỡo kónh truyóửn. Vờ duỷ nhổ tin laỡ vn baớn tióỳng Anh, nguọửn tin coù
khoaớng 40 kyù tổỷ (symbol) khaùc nhau, gọửm caùc mỏựu tổỷ alphabet, con sọỳ, dỏỳu chỏỳm cỏu...Vóử
nguyón từc ta coù thóứ duỡng 40 daỷng soùng õióỷn aùp khaùc nhau õóứ bióứu thở 40 kyù tổỷ naỡy. Tuy
nhión thổỷc tóỳ thỗ phổồng phaùp naỡy khọng phuỡ hồỹp, quaù khoù thổỷc hióỷn hay thỏỷm chờ khọng thóứ
õổồỹc, vỗ:
-
Kónh truyóửn khọng phuỡ hồỹp vóử mỷt vỏỷt lyù õóứ coù thóứ mang nhióửu kyù tổỷ khaùc nhau nhổ
vỏỷy.
- Daới tỏửn õoỡi hoới seợ rỏỳt rọỹng.
- Vióỷc lổu trổợ hay xổớ lyù tờn hióỷu trổồùc khi truyóửn rỏỳt khoù, trong khi nóỳu chuyóứn sang nhở
phỏn thỗ moỹi vióỷc seợ dóự daỡng hồn nhióửu.
Vỏỷy ta thỏỳy cỏửn phaới thay õọứi daỷng cuớa tin khaùc õi so vồùi daỷng ban õỏửu do nguọửn cung cỏỳp.
Cọng vióỷc thay õọứi daỷng naỡy õổồỹc goỹi laỡ maợ hoùa (encoding).
Cồ sồớ lyù thuyóỳt cuớa maợ hoùa laỡ lyù thuyóỳt tin (information theory). Lyù thuyóỳt tin lión quan õóỳn
vióỷc bióứu dióựn tin bũng caùc kyù tổỷ, õổa ra giồùi haỷn lyù thuyóỳt cho vióỷc thổỷ
c hióỷn hóỷ thọỳng thọng
tin, cho pheùp õaùnh giaù hióỷu suỏỳt cuớa hóỷ thọỳng thổỷc tóỳ. Nóửn taớng cuớa lyù thuyóỳt tin do Hartley
vaỡ Nyquist õổa ra tổỡ nhổợng nm 1920 vaỡ õổồỹc Shannon hoaỡn chốnh vaỡ tọứng kóỳt vaỡo nm
1948. ỏy laỡ mọỹt lyù thuyóỳt phổùc taỷp, phỏửn õỏửu cuớa chổồng naỡy daỡnh õóứ trỗnh baỡy nhổợng vỏỳn
õóử cồ baớn nhỏỳt cuớa lyù thuyóỳt tin.
Vóử caùc muỷc õờch cuớa maợ hoùa, ta coù thóứ toùm từt nhổ sau:
- ởnh daỷng, õóứ chuyóứn tin tổỡ daỷng gọỳc tổỷ nhión sang daỷng chuỏứn vờ duỷ sang daỷng sọỳ

lãû nghëch våïi xạc sút xút hiãûn ca tin.
Xẹt ngưn tin X råìi rảc sinh ra cạc tin i våïi xạc sút l p(i), lỉåüng tin ca tin i phi l mäüt
hm cọ cạc âàûc âiãøm sau:
- T lãû nghëch våïi xạc sút xút hiãûn p(i), hay âọ l hm f(1/p(i)).
- Hm ny phi l 0 khi p(i) = 1.
- Nãúu hai tin âäüc láûp thäúng kã l i v j âäưng thåìi xút hiãûn, ta cọ tin l (i,j), lỉåüng tin
chung ca chụng phi bàòng täøng lỉåüng tin ca tỉìng tin, nghéa l:
f(1/p(i,j)) = f(1/p(i)) + f(1/p(j))
Theo lût nhán xạc sút ta cọ:
p(i,j) = p(i).p(j)
Do âọ:
f(1/(p(i).p(j))) = f(1/p(i)) + f(1/p(j))
Ta tháúy hm loga tho mn táút c cạc u cáưu ny. Váûy hm log(1/p(i)) âỉåüc chn âãø âạnh
giạ âënh lỉåüng cho tin. Lỉåüng tin ca mäüt tin i âỉåüc k hiãûu l I(i). Âënh nghéa lỉåüng tin ca
mäüt tin i l:
)i(plog
)i(p
1
log)i(I −==

- 82 -
- Chổồng IV -
ồn vở õo cuớa lổồỹng tin tuyỡ thuọỹc vaỡo cồ sọỳ cuớa loga. ồn vở cuớa lổồỹng tin laỡ bit, laỡ nat hay
laỡ hartley khi cồ sọỳ cuớa loga lỏửn lổồỹt laỡ 2, laỡ e hay laỡ 10. Trong õoù cồ sọỳ 2 thổồỡng õổồỹc choỹn
hồn caớ. Khi choỹn cồ sọỳ 2 thỗ lổồỹng tin cuớa tin i laỡ:
)i(plog
)i(p
1
log)i(I
22

max
= - log
2
(1/128) = 7
(bit/kyù tổỷ).
Thổỷc tóỳ thỗ õióửu naỡy khoù xaớy ra nón entropy cuớa nguọửn ASCII laỡ:
7
)m(p
1
log)m(pH
128
1m
2
<=

=
(bit/kyù tổỷ)
ọỳi vồùi nguọửn tin nhở phỏn coù M = 2, nóỳu p (1) = 1 vaỡ p (0) = 1-p thỗ entropy laỡ:
p1
1
log)p1(
p
1
logp
)m(p
1
log)m(pH
22
2
1m


Vỏỷy:

=
j
2
i
)ij(p
1
log)ij(p)i(pH
(bit/kyù tổỷ)
Sổỷ khaùc nhau giổợa entropy thổỷc sổỷ cuớa nguọửn vaỡ entropy cổỷc õaỷi goỹi laỡ õọỹ dổ (redundancy)
cuớa nguọửn, kyù hióỷu laỡ r:

==
j
2
i
2max
)ij(p
1
log)ij(p)i(pMlogHHr
(bit/kyù tổỷ)
ọỹ dổ tổồng õọỳi cuớa nguọửn õổồỹc õởnh nghộa nhổ sau:
maxmax
max
H
H
1
H

RX
v
TX
i
)i(p
1
log)i(I)i:v(I
TX
2TXTXTXRXRX
==
(bit)
Tuy nhión, õọỳi vồùi kónh coù nhióựu (noise channel), khi bón nhỏỷn tin taùch õổồỹc õióỷn aùp
thỗ
khọng thóứ kóỳt luỏỷn chừc chừn vóử kyù tổỷ thổỷc phaùt ồớ nguọửn. Sổỷ khọng chừc chừn naỡy lión quan
õóỳn xaùc suỏỳt
RX
v
)vi(p
RXTX
, õỏy laỡ xaùc suỏỳt phaùt kyù tổỷ thổù i vaỡ taùch õổồỹc õióỷn aùp ồớ bón
nhỏỷn (ọỳi vồùi kónh khọng nhióựu, xaùc suỏỳt naỡy laỡ 1). ọỳi vồùi kónh coù nhióựu, tin nhỏỷn õổồỹc ờt
hồn tin truyóửn õi mọỹt lổồỹng lión quan õóỳn õọỹ khọng chừc chừn cuớa quyóỳt õởnh. Thổỷc tóỳ, lổồỹng
tin nhỏỷn õổồỹc laỡ:
RX
v
- 84 -
- Chổồng IV -
)i(p
)vi(p
log)i:v(I

)i(I)i(pH
(bit/kyù tổỷ)
ồớ õỏy
laỡ xaùc suỏỳt thu kyù tổỷ thổù i.
)i(p
RX
Sổỷ khaùc nhau giổợa
vaỡ entropy phaùt goỹi laỡ õọỹ nghi ngồỡ (equivocation)
E:
eff
H
eff
H
= H - E (
bit/kyù tổỷ)

ọỹ nghi ngồỡ õổồỹc tờnh tổỡ vióỷc ta khọng chừc laỡ kyù tổỷ truyóửn õi coù giọỳng vồùi kyù tổỷ nhỏỷn õổồỹc
hay khọng. Sổỷ khọng chừc chừn naỡy laỡ do kónh truyóửn coù nhióựu nón coù thóứ xem nhióựu chờnh
laỡ tin ỏm cọỹng vaỡo doỡng kyù tổỷ phaùt.
ọỹ nghi ngồỡ õổồỹc õởnh nghộa laỡ:
)ji(p
1
log)ji(p)j(p
)ji(p
1
log)j,i(pE
RXTX
2
i
RXTX

=
(bit/s)
trong õoù n
0
laỡ sọỳ kyù hióỷu lỏỷp õổồỹc trong mọỹt õồn vở thồỡi gian, tuyỡ thuọỹc vaỡo tờnh chỏỳt vỏỷt lyù
cuớa nguọửn.
Ta thỏỳy õóứ nỏng cao tọỳc õọỹ thióỳt lỏỷp tin cuớa nguọửn cỏửn thióỳt phaới nỏng cao entropy. Tọỳc õọỹ
lỏỷp tin cuớa nguọửn seợ cổỷc õaỷi khi entropy cuớa nguọửn cổỷc õaỷi.
4.1.6 Thọng lổồỹng kónh
ởnh nghộa thọng lổồỹng cuớa kónh (channel capacity) laỡ lổồỹng tin tọỳi õa kónh cho õi qua trong
mọỹt õồn vở thồỡi gian maỡ khọng gỏy lọựi. Kyù hióỷu thọng lổồỹng kónh laỡ C vaỡ õồn vở õo giọỳng
nhổ õồn vở cuớa tọỳc õọỹ lỏỷp tin (bit/s).
Thọng thổồỡng tọỳc õọỹ lỏỷp tin beù hồn nhióửu so vồùi thọng lổồỹng kónh:
CR <<

a) Trổồỡng hồỹp truyóửn tin trong kónh khọng nhióựu:
Khi kónh khọng nhióựu, toaỡn bọỹ tin tổùc õóửu õổồỹc truyóửn qua kónh maỡ khọng bở lọựi. Lổồỹng tin
tọỳi õa maỡ kónh cho qua cuợng bũng vồùi lổồỹng tin tọỳi õa maỡ nguọửn coù thóứ thióỳt lỏỷp. Vỏỷy thọng
lổồỹng kónh laỡ:
max0max
HnRC ==
(bit/s)
Theo Shannon, nóỳu R < C thỗ coù thóứ maợ hoùa õóứ laỡm cho tọỳc õọỹ lỏỷp tin cuớa nguọửn tióỳp cỏỷn vồùi
thọng lổồỹng kónh:
< ,RC
laỡ vọ cuỡng beù
Phổồng phaùp maợ hoùa naỡy õổồỹc goỹi laỡ maợ hoaù thọỳng kó tọỳi ổu.
b) Trổồỡng hồỹp truyóửn tin trong kónh coù nhióựu:
Trong kónh coù nhióựu, lổồỹng tin truyóửn õi bở hao huỷt mọỹt phỏửn do nhióựu nón thọng lổồỹng kónh
bở giaớm õi. Lổồỹng giaớm õi õoù chờnh laỡ lổồỹng tin bở nhióựu phaù huớy trong mọỹt õồn vở thồỡi gian,

q21
m,...,m,m
M họa (encoding) ngưn tin X bàòng táûp M cọ nghéa l biãún âäøi mäùi tin
ca ngưn tin X
thnh mäüt táûp cạc pháưn tỉí thüc M nhàòm tha mn mäüt u cáưu no âọ ca hãû thäúng thäng
tin:
i
x
il2i1ii
m...mmx →

Phẹp biãún âäøi ngỉåüc lải: iil2i1i
xm...mm →
âỉåüc gi l gii m (decoding).
Thäng thỉåìng, säú tin ca ngưn tin ráút låïn nãn säú k hiãûu m khäng thãø bàòng hồûc nhiãưu hån
säú tin.
4.2.2 Cạc tham säú cå bn ca m họa
Táûp M âỉåüc gi l m hiãûu (code), cạc pháưn tỉí
gi l k hiãûu m (symbol), säú k hiãûu m
khạc nhau trong m gi l cå säú ca m. M nhë phán l m cå säú 2, trong âọ m chè cọ 2 k
hiãûu m l 0 v 1.
k
m
Dy liãn tủc cạc k hiãûu m dng âãø m họa mäüt tin ca ngưn âỉåüc gi l tỉì m
(codeword). ÅÍ âáy tỉì m tỉång ỉïng våïi tin
l .
i

=
M
1m
m
l)m(pl

trong õoù l
m
laỡ õọỹ daỡi tổỡ maợ tổồng ổùng vồùi kyù tổỷ m.
- Dổỷa vaỡo troỹng lổồỹng cuớa tổỡ maợ, ta phỏn ra maợ coù troỹng lổồỹng khọng õọứi vaỡ maợ coù
troỹng lổồỹng thay õọứi.
- Dổỷa vaỡo khoaớng caùch maợ giổợa hai tổỡ maợ kóử nhau, ta phỏn ra maợ coù khoaớng caùch
khọng õọứi vaỡ maợ coù khoaớng caùch thay õọứi.
- Dổỷa vaỡo cồ sọỳ cuớa maợ, ta phỏn ra maợ nhở phỏn (maợ cồ sọỳ 2), maợ baùt phỏn (maợ cồ sọỳ
8), maợ hexa (maợ cồ sọỳ 16)... Trong õoù maợ nhở phỏn laỡ maợ thọng duỷng nhỏỳt. Chổồng
naỡy ta chố xeùt maợ nhở phỏn.
- Dổỷa vaỡo õọỹ tin cỏỷy, ta phỏn ra maợ coù khaớ nng phaùt hióỷn vaỡ sổớa lọựi vaỡ maợ
khọng coù
khaớ nng phaùt hióỷn vaỡ sổớa lọựi
- Dổỷa vaỡo hióỷu suỏỳt thọng tin, ta phỏn ra maợ tọỳi ổu vaỡ maợ chổa tọỳi ổu.
4.2.4 Caùc phổồng phaùp bióứu dióựn maợ
a) Phổồng phaùp lióỷt kó
ỏy laỡ phổồng phaùp bióứu dióựn maợ õồn giaớn nhỏỳt: chố cỏửn lióỷt kó caùc tin cuớa nguọửn vaỡ caùc tổỡ
maợ tổồng ổùng trong mọỹt baớng.
Vờ duỷ: nguọửn tin coù 8 tin (kyù tổỷ), caùc tin õổồỹc maợ hoùa nhổ baớng 4.1
Phổồng phaùp bióứu dióựn naỡy coù ổu õióứm laỡ cuỷ thóứ, roợ raỡng nhổng õọỳi vồùi caùc bọỹ maợ lồùn thỗ quaù
cọửng kóửnh.

Tin
A B C D E F G H

node). Gäúc ca cáy gi l nụt gäúc. Tỉì nụt gäúc phán ra täúi âa q nhạnh (q l cå säú ca m). Mäùi
nhạnh mang mäüt k hiãûu m, âọ l giạ trë ca nhạnh. Nhạnh âỉåüc bàõt âáưu åí nụt mỉïc i v kãút
thục åí nụt mỉïc i+1. Nụt m tỉì âọ cn phán nhạnh tiãúp gi l nụt nhạnh. Tỉì mäùi nụt nhạnh
phán ra täúi âa q nhạnh. Nụt cúi cng ca cáy gi l nụt lạ. Mäùi nụt lạ biãøu diãùn mäüt cho mäüt
tỉì m. Tỉì m bao gäưm cạc k hiãûu m l giạ trë ca cạc nhạnh theo thỉï tỉû âi tỉì nụt gäúc qua
cạc nụt nhạnh âãún nụt lạ.
Hçnh 4.1 l vê dủ vãư mäüt cáy m cho bäü m nhë phán gäưm cạc tỉì m l 00, 01, 10, 1101,
11001.
Mỉïc
11001
1101
1001
1
00
1
1
1
0
0
0
0