ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC CÔNG NGHỆ
Hoàng Tuấn Ninh ÁP DỤNG CÁC KỸ THUẬT PHÂN LỚP
DỮ LIỆU, HỒI QUY ĐỂ DỰ BÁO SỐ LIỆU
SẢN XUẤT KINH DOANH CHO VNPT


Hoàng Tuấn Ninh

ÁP DỤNG CÁC KỸ THUẬT PHÂN LỚP
DỮ LIỆU, HỒI QUY ĐỂ DỰ BÁO SỐ LIỆU
SẢN XUẤT KINH DOANH CHO VNPT

Ngành: Công nghệ thông tin
Chuyên ngành: Hệ thống thông tin
Mã số: 60 48 05 LUẬN VĂN THẠC SĨ
NGƯỜI HƯỚNG DẪN KHOA HỌC

LỜI CẢM ƠN

Tôi xin chân thành cảm ơn thầy giáo TS. Đỗ Văn Thành,Trung tâm Thông
tin và Dự báo Kinh tế - Xã hội, Bộ Kế hoạch và Đầu tư đã tận tình hướng dẫn
và có nhiều chỉ dẫn quí báu cho tôi hoàn thành khoá luận này.
Tôi xin chân thành cảm ơn các thầy, cô trong Đại học Công nghệ cũng
như các thầy cô giảng dạy ở Đại học Quốc Gia Hà Nội đã truyền đạt cho tôi
những kiến thức bổ ích trong thời gian học tập tại trường.
Tôi cũng xin gửi lời cảm ơn tới các chuyên viên của Tập đoàn Bưu chính
Viễn thông Việt Nam đã cung cấp số liệu cho tôi để thực hiện luận văn này.
Cuối cùng, tôi xin bày tỏ lòng biết ơn đến gia đình và bạn bè, những
người đã giúp đỡ, động viên tôi rất nhiều trong suốt quá trình học tập và làm
luận văn.
Do thời gian và kiến thức có hạn, khoá luận không tránh khỏi những thiếu
sót nhất định. Tôi rất mong nhận được sự góp ý của thầy cô giáo và các bạn.
Tôi xin chân thành cảm ơn !
- iii -
TÓM TẮT NỘI DUNG LUẬN VĂN

Luận văn được trình bày làm 3 chương chính với các nội dung như sau:
Chương I: Khảo cứu các phương pháp dự báo số liệu
Chương này giới thiệu các kiến thức tổng quan về dự báo và giới thiệu
một số phương pháp dự báo định lượng chính như: Hồi quy tuyến tính, Hồi quy
phi tuyến, phương pháp chuỗi thời gian, phương pháp phân lớp dữ liệu…
Chương II: Dự báo định lượng bằng phương pháp mạng nơron nhân tạo
Chương này tập trung giới thiệu về việc dự báo định lượng bằng phương

1.4. Dự báo bằng phương pháp phân lớp dữ liệu 21
1.4.1. Phương pháp phân lớp dữ liệu 21
1.4.2. Độ chính xác phân lớp 21
CHƯƠNG 2. DỰ BÁO ĐỊNH LƯỢNG BẰNG PHƯƠNG PHÁP MẠNG NƠRON
NHÂN TẠO 24
2.1. Mạng nơron nhân tạo 24
1). Khái quát về mạng nơron 24
2.2 . Mô hình của mạng nơron nhân tạo 25
2.4. Thuật toán lan truyền ngược sai số 30
2.5. Thiết kế mạng nơron 32
1) Bước 1: Lựa chọn biến 33
2). Bước 2: Thu thập dữ liệu 34
3). Bước 3: Tiền xử lý dữ liệu 34
4). Bước 4: Xác định tập huấn luyện, tập kiểm tra và đánh giá 37
5). Bước 5: Xác định mô hình mạng nơron 38
6). Bước 6: Xác định hàm đánh giá sai số 43
7). Bước 7: Huấn luyện mạng nơron 43
8). Bước 8: Thực thi 48
CHƯƠNG 3. DỰ BÁO KẾT QUẢ HOẠT ĐỘNG SXKD CHO VNPT BẰNG
PHƯƠNG PHÁP MẠNG NƠRON NHÂN TẠO 50
- v -
3.1. Xác định bài toán dự báo kết quả hoạt động sản xuất kinh doanh của VNPT
50
3.2. Xác định hệ thống chỉ tiêu cần được phân tích, dự báo về kết quả SXKD 50
3.2.1. Phân tích quy trình nghiệp vụ báo cáo số liệu tại VNPT 50
3.2.2. Xác định hệ thống chỉ tiêu cần được phân tích và dự báo 52
3.3. Giải pháp dự báo định lượng kết quả SXKD của VNPT 58

- vi -
DANH SÁCH HÌNH VẼ Hình 1. Các phương pháp dự báo hoạt động SXKD doanh nghiệp 16
Hình 2. Đánh giá độ chính xác của bộ phân lớp bằng phương pháp holdout 22
Hình 3. Mô hình phi tuyến của một nơron 26
Hình 4. Kết quả biến đổi afine của ngưỡng 27
Hình 5. Hai mô hình phi tuyến của nơron 28
Hình 6. Chuyển đổi logarit của số liệu buôn bán lúa gạo theo tháng 36
Hình 7. Phương pháp kiểm tra cửa sổ trượt 38
Hình 8. Hai phương pháp chia tỉ lệ thông dụng trên tập dữ liệu S&P500 42
Hình 9. Đồ thị lỗi của quá trình huấn luyện và kiểm tra mạng nơron 45
Hình 10. Giản đồ biểu diễn một mặt phẳng lỗi của mạng nơron 47
Hình 11. Mô hình Hệ thống dự báo số liệu 58
Hình 12. Mô hình Trích chọn dữ liệu 59
Hình 13. Mô hình Làm sạch, chuẩn hóa dữ liệu 60
Hình 14. Xây dựng mô hình dữ liệu 60
Hình 15. Mô hình Dự báo giá trị mới 61
Hình 16. Màn hình chương trình YALE 64
Hình 17. Mô hình xử lý một cây toán tử của Yale 69
Hình 18. Màn hình chương trình WEKA 70
Hình 19. Cấu trúc kho dữ liệu SXKD của VNPT 73
Hình 20. Biểu đồ ngữ cảnh Hệ thống Dự báo số liệu 89
Hình 21. Sơ đồ quan hệ dữ liệu của Hệ thống Dự báo số liệu 90
Hình 22. Biểu đồ luồng dữ liệu cho chức năng xem số liệu 95
Hình 23. Biểu đồ luồng dữ liệu cho chức năng xây dựng mô hình 96

BẢNG THUẬT NGỮ

Từ viết tắt Tiếng Anh Tiếng Việt
ARIMA
AutoRegressive Integrated
Moving Average
Tích hợp trung bình trượt tự hồi
qui
CSDL Cơ sở dữ liệu
DM Data mart Kho dữ liệu chủ đề
DW Data warehouse Kho dữ liệu
KDD
Knowlegde Discovery in
Databases
Khám phá tri thức trong CSDL
KPDL Khai phá dữ liệu
MLP Multilayer Perceptron Mạng nơron đa lớp
SARIMA
Seasonal AutoRegressive
Integrated Moving Average
Tích hợp trung bình trượt tự hồi
qui theo mùa vụ
VNPT
Vietnam Posts and
Telecomunications Coporation
Tập đoàn Bưu chính Viễn
thông Việt Nam

và sử dụng thông tin hỗ trợ hoạt động quản lý điều hành và sản xuất kinh doanh,
Tập đoàn Bưu chính Viễn thông Việt Nam (VNPT) đã có một số phần mềm ứng
dụng hỗ trợ quản lý điều hành sản xuất kinh doanh như: Hệ thống Báo cáo
nhanh, Hệ thống báo cáo tài chính, Hệ thống quản lý tài sản, Hệ thống quản lý
dự án Internet trường học… Sự ra đời của “Hệ thống phần mềm báo cáo số liệu
và thông tin phục vụ quản lý, điều hành sản xuất kinh doanh tại Cơ quan Tập
đoàn” (Hệ thống VRS) đã giúp đáp ứng được nhu cầu báo cáo thông tin một
cách thống nhất, hệ thống, chính xác và cập nhật, thay thế hiệu quả cho phương
thức báo cáo, tổng hợp số liệu bằng giấy tờ. Đồng thời Hệ thống VRS được đưa
vào sử dụng đã cung cấp một khối lượng thông tin lớn khó có thể xử lý bằng
những phương pháp thủ công hiện có, từ đó đặt ra nhu cầu về một hệ thống phần
mềm có thể hỗ trợ xử lý hiệu quả những thông tin này.
- x -
Đề tài “Áp dụng các kỹ thuật phân lớp dữ liệu, hồi quy để dự báo số liệu
SXKD cho VNPT” được phát triển nhằm mục đích hỗ trợ phân tích, tổng hợp và
xử lý kho dữ liệu, thông tin một cách tự động, chính xác và có thể được tích hợp
với các ứng dụng hỗ trợ quản lý sản xuất kinh doanh đang hoạt động khác. Kết
quả nghiên cứu của đề tài sẽ hỗ trợ tích cực cho công tác xử lý số liệu và dự báo
tình hình SXKD của Tập đoàn, đồng thời góp phần đẩy mạnh công tác ứng dụng
công nghệ thông tin vào các hoạt động quản lý điều hành sản xuất kinh doanh tại
Cơ quan Tập đoàn.

Hà Nội 10-2009
Người thực hiện đề tài

- 11 -


Bởi vì dự báo chỉ đơn giản là một nhận định về tương lai nên chúng ta có thể
dự báo bất kỳ điều gì, có thể là dự báo lạm phát chỉ số giá tiêu dùng của tháng
tới, dự báo thời tiết ngày mai, mực nước biển tính trung bình dâng cao thêm bao
nhiêu sau 20 năm nữa hoặc dân số của trái đất vào ngày hôm đó hay như giá trị
của chỉ số VN index tại thời điểm đầu năm 2010. Chúng ta không khẳng định
rằng các kết quả dự báo nhất thiết là hữu ích.
* Mức độ tin cậy của chúng ta đối với các dự báo là như thế nào?
- 12 -
Mức độ tin cậy của dự báo phụ thuộc vào cơ sở xây dựng dự báo này tốt đến
mức độ nào? Những dự báo đơn thuần sẽ không mang lại độ tin cậy cao, những
dự báo dựa trên các cách tiếp cận đã được kiểm định đúng đắn có thể mang lại
nhiều hy vọng hơn. Thật không may là ngay cả khi nó được dựa trên những cách
tiếp cận này thì dường như vẫn chưa đủ. Tương lai quá bất định chính là khó
khăn của dự báo. Có hai điều trái ngược nhau mà ta có thể vận dụng từ câu nói
của Maxine Singer rằng: "Bởi vì những thứ mà chúng ta không biết rằng chúng
ta không biết nên tương lai rất khó đoán định. Nhưng một vài bước phát triển có
thể dự báo được, hoặc ít nhất là có thể tưởng tượng được dựa trên những gì
chúng ta đã biết".
* Tính chất của dự báo
- Dự báo mang tính xác suất: Mỗi đối tượng dự báo đều vận động theo một
quy luật hay một quỹ đạo nhất định nào đó, đồng thời trong quá trình phát triển
nó luôn luôn chịu sự tác động của môi trường hay yếu tố bên ngoài. Bản thân
môi trường hay các yếu tố tác động không phải đứng im mà luôn luôn trong
trạng thái vận động và phát triển không ngừng. Chính vì điều này nên dự báo
không thể hoàn toàn chính xác mà chỉ mang tính xác suất.
- Dự báo mang tính đa phương án: Mỗi dự báo được thực hiện dựa trên
những tập hợp các giả thiết nhất định - dự báo có điều kiện. Tập hợp các giả

* Xác định vấn đề dự báo:
Công việc đầu tiên là phát biểu vấn đề cần được dự báo một cách rõ ràng và
chính xác. Điều này dường như là đương nhiên nhưng thật ra sự nhấn mạnh tầm
quan trọng của nó là rất cần thiết vì rất có thể xảy ra tình trạng vấn đề đặt ra lúc
đầu, đến một giai đoạn nào đó của quá trình dự báo, lại bắt đầu được nhận thức
là chưa đủ rõ ràng, các công việc tiếp theo do đó không thể đặt ra một cách cụ
thể để có thể được giải quyết, và chúng ta lại phải quay trở lại việc xác định vấn
đề.
Một vấn đề khác là cần xác định mốc thời gian xa nhất của dự báo. Có nhiều
nhân tố chi phối sự lựa chọn này, như thời hạn ra quyết định, khả năng quyết
định và các phương tiện hành động, v.v Không có một phương pháp xác định
nào có thể giúp ta làm tốt việc này. Kinh nghiệm thực tiễn và sự nhạy cảm là
những yếu tố có thể đóng góp vào sự lựa chọn tối ưu. Các dự báo đã có về các
vấn đề khác nhau rõ ràng là một nguồn tham khảo quan trọng.
Xét một số dự báo lớn được đưa ra trong mấy năm gần đây, thí dụ như
"Theo dõi tương lai, nghiên cứu về các kịch bản của nền kinh tế thế giới, 1990-
2015" của Cục Kế hoạch Trung ương của Hà Lan, "Dự án 2025" do hãng Coates
& Jarratt, Inc. biên soạn, các báo cáo "Trạng thái tương lai" công bố hàng năm
từ 1997 của "Dự án Thiên niên kỷ" thuộc Hội đồng Đại học Liên Hợp quốc.
Trong các dự báo này, mốc thời gian xa nhất của dự báo được lựa chọn là
khoảng 25 năm. Một số dự báo khác, thí dụ như "Tương lai của nước Anh năm
2010" của hãng Applied Futures công bố năm 1989, "Nước Anh năm 2010" của
Policy Studies Institute công bố năm 1991, "Nền an ninh của châu Âu năm
- 14 -
2010" của P. Leclerc và B. Gentric năm 1991, mốc thời gian xa nhất dự báo
được lựa chọn là 20 năm. Song lại có những dự báo có mốc thời gian hơn, tới 40
năm, thí dụ như "Nhà ở năm 2030" do Trung tâm Khoa học và Kỹ thuật về Nhà

- 15 -
sử dụng chỉ tiêu số sáng chế đăng ký; để đánh giá mức độ chuyển đổi cơ cấu lao
động có thể sử dụng chỉ tiêu số lượng lao động được đào tạo nghề theo các
ngành kinh tế, để đánh giá nguồn nhân lực chất lượng cao có thể sử dụng chỉ
tiêu số lượng và chất lượng đào tạo từ bậc cao đẳng, đại học trở lên, v.v
Xét khả năng có được dữ liệu (định tính cũng như định lượng), độ tin cậy
của chúng và, nếu có thể, mức độ cân đối cần phải có.
Xác định các chuỗi thời gian (các giá trị của chỉ tiêu sắp xếp theo trình tự
thời gian) cần theo dõi. Điều này có ý nghĩa quan trọng vì chuỗi thời gian của
một biến số kinh tế - xã hội nào đó là phản ánh quy luật biến đổi của biến số đó
trong quá khứ và hiện tại, nếu chuỗi thời gian đủ dài ta mới có căn cứ để ngoại
suy hay dự báo giá trị của biến số đó trong tương lai.
Để hình thành các giả thiết/giả thuyết cho dự báo: cần giải thích các diễn
biến trong quá khứ; nói cách khác, tìm hiểu nguyên nhân của các hệ quả đã quan
sát được. Rõ ràng là sự giải thích nguyên nhân không đúng sẽ dẫn đến những dự
báo vô lý. Thí dụ như có rõ những nguyên nhân đã dẫn đến tốc độ tăng trưởng
cao của nền kinh tế Việt Nam trong mấy năm vừa qua, chúng ta mới có thể có
được những dự báo đáng tin về tốc độ này trong những năm sắp tới, chưa nói
những điều chỉnh cần thiết do sự thay đổi của những nhân tố bên ngoài.
Đề xuất các giả thiết về sự phát triển của các biến số trong tương lai; nói
riêng, về khả năng xuất hiện những điểm uốn hay gián đoạn so với xu hướng "tự
nhiên" và, nếu có thể, xác suất xuất hiện các điểm uốn hay gián đoạn đó.
* Tiến hành dự báo và kiểm nghiệm kết quả dự báo
Trong phần lớn các trường hợp rất cần phải kiểm nghiệm kết quả dự báo so
với thực tế. Nó là cơ sở để chấp nhận dự báo và ứng dụng vào thực tiễn.
* Ứng dụng dự báo
Mục đích cuối cùng của dự báo là nhằm phục vụ quá trình xây dựng chiến

, y
2
),…, (x
n
, y
n
), các hệ số hồi quy
có thể được ước lượng bằng phương pháp trên theo phương trình:







n
i
i
n
i
ii
xx
yyxx
1
2
1
)(
))((



- Lấy ý kiến của bộ phận bán
hàng
-Phương pháp lấy ý kiến của
người tiêu dùng
-Phương pháp chuyên gia
-Hồi quy
-Phân lớp
-Phân tích tương
quan,
-….
- 17 -
ở đây
x
là giá trị trung bình của x
1
, x
2
,…, x
n
và y là giá trị trung bình của
y
1
,y
2
,…,y
n
.


- 18 -
- Hồi quy theo hàm tăng trưởng (hàm logistic): Y=[a/(1+e(a-bX))]+b
Xu thế này có hình chữ S, tức là lúc đầu tăng chậm (đường cong không
dốc nhiều), sau đó tăng mạnh (đường cong dốc), sau đó lại tăng chậm lại (tiến
đến mức bão hoà) - Hồi quy theo hàm vòng đời: Y=a/[1+e(a-bX)+f(d-cX)]
Xu thế hàm vòng đời tương tự với xu thế hàm tăng trưởng ở 3 giai đoạn
đầu (lúc đầu tăng chậm, sau tăng mạnh, sau tăng chậm lại), song khác với xu thế
hàm tăng trưởng ở giai đoạn tiếp theo là hàm tăng trưởng tiến đến mức bão hoà,
còn hàm vòng đời sau đó suy giảm. 1.4. Dự báo số liệu bằng các phương pháp chuỗi thời gian
1.4.1. Khái niệm chuỗi thời gian
Chuỗi dữ liệu phụ thuộc thời gian được chia làm hai loại [3]:
- Chuỗi dữ liệu phụ thuộc thời gian được quan sát, đo đạc trong khoảng thời
gian rời rạc: Các quan sát được thực hiện tại các thời điểm tách biệt, chúng
thường là các quan sát được đo tại các mốc thời gian cách đều nhau, ví dụ chuỗi
thời gian được đo theo tuần, quý, tháng, năm, ….
- 19 -
- Chuỗi dữ liệu liên tục theo thời gian: Các quan sát được đo trong khoảng thời

qui luật và hầu như không dự báo hoặc quan sát được trong của hiện tượng đang
nghiên cứu.
Những thành phần này kết hợp với nhau trong chuỗi thời gian bằng nhiều
cách thức khác nhau, chẳng hạn chuỗi thời gian
t
z được mô tả là tích các thành
phần, ISPTz
t




gọi là mô hình tích, hoặc ISPTz
t




gọi là mô
hình tổng, hoặc kết hợp cả hai ISPTz
t




. Do vậy, để phân tích và
nghiên cứu hành vi cũng như dự báo biến động của chuỗi thời gian thì cần thiết
phải ước lượng được các thành phần nói trên trong chuỗi thời gian và cách thức
kết hợp chúng với nhau trong chuỗi.
Bước 2: Làm trơn số liệu

thì cho độ chính xác của dự báo tốt hơn so với dự báo xa).
Hiện tại có nhiều mô hình phân tích và dự báo chuỗi thời gian, trong đó
những mô hình điển hình là: Mô hình làm trơn hàm mũ chuỗi thời gian, bao
gồm [4]:
- Mô hình làm trơn hàm mũ bậc1, bậc 2 và bậc 3 (còn gọi là mô hình Holt –
Winter). Trong mô hình Holt-Winter còn có mô hình Holt-Winter mùa vụ nhân
và Holt-Winter mùa vụ cộng.
- 21 -
- Mô hình trung bình trượt tích hợp trung bình trượt tự hồi quy là mô hình tổ
hợp của 3 quá trình: sai phân (hay tích hợp), Trung bình trượt và Tự hồi quy.
Mô hình phát triển từ ARIMA để dự báo cho chuỗi thời gian có yếu tố mùa vụ
được gọi là mô hình SARIMA.
- Mô hình tự hồi quy véc tơ VAR, thực chất đó là tổ hợp của các mô hình
Trung bình trượt và Tự hồi quy cho nhiều chuỗi thời gian, nói cách khác mô
hình VAR là một hệ gồm nhiều phương trình của nhiều chuỗi thời gian có liên
quan với nhau về trể, ở đó mỗi phương trình có dạng của mô hình Trung bình
trượt kết hợp với mô hình Tự hồi quy.
1.4. Dự báo bằng phương pháp phân lớp dữ liệu
1.4.1. Phương pháp phân lớp dữ liệu
Quá trình phân lớp dữ liệu thường gồm 2 bước: xây dựng mô hình và sử
dụng mô hình để phân lớp dữ liệu [12].
Bước 1: một mô hình sẽ được xây dựng dựa trên việc phân tích các mẫu dữ liệu.
Mỗi mẫu tương ứng với một lớp, được quyết định bởi một thuộc tính gọi là
thuộc tính lớp. Các mẫu dữ liệu này còn được gọi là tập dữ liệu huấn luyện
(training data set). Các nhãn lớp của tập dữ liệu huấn luyện đều phải được xác
định trước khi xây dựng mô hình, vì vậy phương pháp này còn được gọi là học
có thầy (supervised learning) khác với phân cụm dữ liệu là học không có thầy

thứ i, tập con S
i
sẽ được dùng làm tập kiểm thử còn các tập con còn lại sẽ được
dùng làm tập huấn luyện. Độ chính xác sẽ được tính bằng tổng số các trường
hợp phân loại đúng trong k lần chia cho tổng số mẫu trong tập dữ liệu ban đầu.
Để tăng độ chính xác của phương pháp phân lớp, người ta đưa ra một số kỹ
thuật như: Bagging và boosting. Tư tưởng chính của kỹ thuật bagging là thay vì
xây dựng một bộ phân lớp, chúng ta sẽ xây dựng k bộ phân lớp từ tập dữ liệu
ban đầu, với mỗi mẫu mới cần phân lớp, mỗi bộ phân lớp sẽ có 1 kết quả dự báo
và nhãn nào được dự báo nhiều nhất bởi các bộ phân lớp sẽ được gán cho mẫu
mới. Kỹ thuật boosting tương tự kỹ thuật bagging nhưng mỗi mẫu học sẽ được
gán thêm 1 trọng số để giúp các bộ phân loại xây dựng sau tránh các lỗi mà các
bộ phân loại trước gặp phải.

KẾT LUẬN CHƯƠNG 1
Trong chương 1, luận văn đã trình bày một cách tổng quan về dự báo và các
phương pháp dự báo. Các phương pháp dự báo bao gồm các phương pháp dự
báo định tính và các phương pháp dự báo định lượng. Trong phương pháp định
lượng gồm có phương pháp (mô hình) chuỗi thời gian và mô hình nhân quả.
Luận văn này đã giới thiệu một cách tóm tắt quy trình các bước phân tích, dự
Tập huấn
luyện
Tập kiểm
thử
Dữ liệu
Bộ phân
lớp
Đánh giá
độ chính xác
- 23 -