Figure
ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Nguyễn Đức Vinh

PHÂN TÍCH CÂU HỎI TRONG HỆ THỐNG
HỎI ĐÁP TIẾNG VIỆT
KHOÁ LUẬN TỐT NGHIỆP ĐẠI HỌC HỆ CHÍNH QUY

Ngành: Công nghệ thông tin


Cán bộ hướng dẫn: ThS. Trần Thị Oanh
Cán bộ đồng hướng dẫn: ThS. Nguyễn Cẩm Tú

HÀ NỘI - 2009

i
Lời cảm ơn

Trước tiên, tôi xin gửi lời cảm ơn và lòng biết ơn sâu sắc nhất tới Phó Giáo sư Tiến
sĩ Hà Quang Thụy, Thạc sĩ Trần Thị Oanh, Thạc sĩ Nguyễn Cẩm Tú và Cử nhân Trần Mai
Vũ – những người đã tận tình chỉ bảo và hướng dẫn tôi trong quá trình thực hiện khoá
luận tốt nghiệp.
Tôi chân thành cảm ơn các thầy, cô và cán bộ của trường Đại Học Công Nghệ đã t
ạo
cho tôi những điều kiện thuận lợi để học tập và nghiên cứu.
Tôi xin gửi lời cảm ơn chân thành tới cử nhân Nguyễn Minh Tuấn đã tận tình hỗ trợ
về kiến thức chuyên môn, giúp đỡ tôi hoàn thành khóa luận.
Tôi cũng xin gửi lời cảm ơn tới các anh chị và các bạn sinh viên trong phòng thí
nghiệm Sislab đã giúp tôi rất nhiều trong việc thu thập và xử lý dữ liệu.
Cuối cùng, tôi muốn gử

iii
Mục lục
Tóm tắt i
Mục lục iii
Danh sách các bảng v
Danh sách các hình vi
Lời mở đầu 1
Chương 1. Giới thiệu về hệ thống hỏi đáp tự động 3
1.1. Hệ thống hỏi đáp tự động 3
1.2. Phân loại hệ thống hỏi đáp tự động 5
1.2.1. Phân loại theo miền ứng dụng (domain) 5
1.2.2. Phân loại theo khả năng trả lời câu hỏi 6
1.2.3. Phân lo
ại theo hướng tiếp cận: 7
1.3. Các bước chung của hệ thống hỏi đáp tự động 7
Chương 2. Phân tích câu hỏi 10
2.1. Nội dung của phân tích câu hỏi 10
2.2. Khó khăn của phân tích câu hỏi 10
2.3. Một số nội dung của xử lý ngôn ngữ tự nhiên trong phân tích câu hỏi 11
2.4. Taxonomy câu hỏi 14
2.4.1. Khái niệm về taxonomy 14
2.4.2. Taxonomy câu hỏi 15
2.5. Khảo sát các phương pháp phân tích câu hỏi cho các loại câu hỏi khác nhau 19
2.5.1. Câu hỏi đơn giản (factual-base) 19
2.5.2. Câu hỏi định nghĩa (definition question) 21
2.5.3. Câu hỏi ph
ức tạp, có ràng buộc về thời gian 22

Bảng 10. Các quan hệ được thực nghiệm trong hệ thống 55
Bảng 11. Các công cụ sử dụng 55
Bảng 12. Các thành phần chính của hệ thống Q&A trên miền du lịch 56
Bảng 13. Kết quả phân tích câu hỏi trong hệ thống hỏi đáp trên miền du lịch 56 vi
Danh sách các hình
Hình 1. Xu hướng trong nghiên cứu về Q&A 6
Hình 2. Các bước chung của hệ thống Q&A 8
Hình 3. Kiến trúc cho xử lý các câu hỏi factual-base 19
Hình 4. Mối quan hệ giữa các siêu phẳng phân cách 30
Hình 5. Siêu phẳng tối ưu và biên. 31
Hình 6. Biến nới lỏng cho soft margin 33
Hình 7. Mô hình bộ phân lớp đa cấp của Li và Roth 39
Hình 8. Xác định loại câu hỏi sử dụng kĩ thuật xử lý ngôn ngữ tự nhiên 43
Hình 9. Ánh xạ từ trọng tâm vào Wordnet 44
Hình 10. Mô hình Snowball 46
Hình 11. Mô hình hệ thống hỏi đáp tiếng Việt s
ử dụng trích xuất mẫu quan hệ 52
Hình 12. Mô hình xử lý cho pha phân tích câu hỏi và trích xuất câu trả lời 53

dưới dây:
Chương 1. Giới thiệu về hệ
thống hỏi đáp tự động trình bày những nội dụng cơ bản
nhất về hệ thống hỏi đáp và đặt vấn đề cho phân tích câu hỏi.
Chương 2. Phân tích câu hỏi trình bày một cách tổng quan các vấn đề xung quanh
việc phân tích câu hỏi như: nội dung của phân tích câu hỏi, những khó khăn của phân tích
2
câu hỏi, các nội dung của xử lý ngôn ngữ tự nhiên trong phân tích câu hỏi, đồng thời khảo
sát các phương pháp phân tích câu hỏi cho một số loại câu hỏi khác nhau. Trong chương
này cũng chỉ ra tầm quan trọng của xác định loại câu hỏi trong phân tích câu hỏi.
Chương 3. Các phương pháp xác định loại câu hỏi trình bày ba phương pháp để
xác định loại câu hỏi, phân tích và chọn lựa hai phương pháp sẽ sử dụng cho phân tích
câu hỏi tiếng Việt.
Ch
ương 4. Thực nghiệm phân tích câu hỏi tiếng Việt áp dụng các nghiên cứu trong
chương 3 để phân tích câu hỏi trong hệ thống hỏi đáp tiếng Việt.
Phần kết luận tổng kết, tóm lược nội dung và kết quả đạt được của khóa luận.
3
Chương 1. Giới thiệu về hệ thống hỏi đáp tự động
1.1. Hệ thống hỏi đáp tự động
Hệ thống hỏi đáp tự động có thể coi như một lựa chọn thứ hai bên cạnh hệ thống
trích chọn thông tin khi người dùng muốn tìm kiếm thông tin họ cần. Hệ thống trích chọn
thông tin nhận đầu vào là các từ khóa và trả về tập các tài liệu liên quan (có chứa các từ
khóa đó). Kết quả mà hệ thống trích chọn thông tin (máy tìm kiếm) trả lại cho người dùng
là rất lớn, có thể lên đến hàng nghìn trang web mà phầ
n nhiều không chứa thông tin người
dùng mong muốn. Trong khi đó, hệ thống hỏi đáp nhận đầu vào là câu hỏi dưới dạng
ngôn ngữ tự nhiên của người dùng, trả lại các đoạn văn bản ngắn (các snippet) chứa câu
trả lời trực tiếp cho câu hỏi [38].
Nghiên cứu về hệ thống hỏi đáp tự động hiện đang thu hút sự quan tâm của rất nhiều

“tác giả của một tập thơ là người viết tập thơ đó” hoặc cần học được các mẫu thường
gặp của câu trả lời (các mẫu về ngày tháng năm sinh, về thời gian, địa chỉ….) tương ứng
với từng loại câu hỏi. Các hệ thống Q&A trên thế giới hiện nay sử dụng rất nhiều các
công cụ xử lý ngôn ngữ như: Bộ gán nhãn từ loại (POS Tagger), bộ nhận dạng tên thực
thể (Named Entity Recognizer), bộ phân tích ngữ pháp (Parser)… và các tài nguyên ngôn
ngữ như Wordnet [28], ontology [30] để phân tích câu hỏi và trích xuất câu trả lời.
Năm 2000, Carbonell và các đồng nghiệp trong bài báo The Vision Statement to
Guide Research in Question Answering and Text Summarization [13] đã đưa ra các tư
tưởng chung cho việc nghiên cứu Q&A. Theo đó một hệ thống hỏi đáp được người dùng
đánh giá là hữu ích nếu đáp ứng được các tiêu chuẩn:
 Tính hợp lý về thời gian (Timeliness): Câu trả lời phải được đưa ra trong thời gian
ngắn, ngay cả khi có hàng ngàn người dùng cùng truy nhập hệ thống một lúc. Các
nguồn dữ liệu mới c
ần phải được tích hợp vào hệ thống ngay khi chúng sẵn sàng
để có thế cung cấp cho người dùng câu trả lời cho những câu hỏi về các sự kiện có
tính thời sự.
 Tính chính xác: Tính chính xác của hệ thống hỏi đáp tự động là cực kì quan trọng
bởi việc đưa ra câu trả lời sai còn tai hại hơn nhiều là không đưa ra câu trả lời.
Nghiên cứu về Q&A cần tập trung vào việc đánh giá tính đúng đắ
n của câu trả lời
đưa ra, bao gồm cả phương thức để phát hiện các trường hợp mà dữ liệu hiện thời
không chứa câu trả lời cho câu hỏi. Các thông tin mâu thuẫn trong dữ liệu cũng cần
được tìm ra và các thông tin này cần được xử lý theo một cách phù hợp, nhất quán.
Để đạt được sự chính xác, hệ thống Q&A cần được tích hợp các nguồn tri thức
(world knowledge ) và cơ chế “bắt chước” việ
c suy luận thông thường (việc bắt
chước có thể hiểu như là một quá trình học).
 Tính khả dụng: Hệ thống Q&A cần đáp ứng được các yêu cầu cụ thể của một
người dùng. Các ontology trên từng miền cụ thể và ontology trên miền mở cần
được tích hợp trong hệ thống. Hệ thống Q&A cần có khả năng khai phá câu trả lời

kỳ câu hỏi nào được đưa vào. Khó khăn cho hệ thống miền mở đó chính là việ
c xây dựng
các tri thức nên cho việc trả lời cũng như phân tích câu hỏi, các phương pháp hiện nay
thường sử dụng một số các ontology khái quát hay các mạng tri thức như: wikipedia, bách
khoa từ điển Tuy nhiên, dữ liệu cho việc trích rút câu trả lời là phong phú, dễ thu thập.
6
Hệ thống hỏi đáp miền đóng (close domain Question answering): Hệ thống tập trung
vào trả lời các câu hỏi liên quan đến một miền cụ thể (giáo dục, y tế, thể thao ). Xây
dựng hệ thống hỏi đáp miền đóng được coi là bài toán dễ hơn so với xây dựng hệ thống
hỏi đáp miền mở vì có thể sử dụng các tri thức miền (thường là ontology của miền cụ
th
ể).

Hình 1. Xu hướng trong nghiên cứu về Q&A

Các nghiên cứu hiện nay về Q&A đang tập trung vào xây dựng hệ thống hỏi đáp
trên miền mở, sử dụng nguồn dữ liệu phi cấu trúc (kho văn bản lớn hay dữ liệu web) để
tìm câu trả lời. Các nghiên cứu mới và cải tiến những phương pháp cũ để có thể áp dụng
cho nguồn dữ liệu web vốn đa dạng, nhiều “nhiễu” và trùng lặp đang rất đượ
c quan tâm
[27] (Hình 1).
1.2.2. Phân loại theo khả năng trả lời câu hỏi
Hệ thống có khả năng trả lời các câu hỏi liên quan đến sự vật, hiện tượng, dựa trên
việc trích ra câu trả lời có sẵn trong tập tài liệu. Câu trả lời là các chuỗi ký tự trong một tài
liệu. Kỹ thuật chính được sử dụng là xử lý chuỗi và từ khóa.
Hệ thống hỏi đáp
Miền đóng
Miền mở
Dữ liệu có cấu trúc
Dữ liệu phi cấu trúc (text)

Wordnet, ontology để làm giàu
thêm khả năng lập luận thông qua các định nghĩa và mối liên hệ ngữ nghĩa. Các hệ thống
hỏi đáp dựa theo mô hình ngôn ngữ thống kê cũng đang ngày càng phổ biến.
1.3. Các bước chung của hệ thống hỏi đáp tự động
Một hệ thống hỏi đáp tự động thường gồm 3 bước chung sau:
Bước1-Phân tích câu hỏi: Bước phân tích câu hỏi tạo truy vấn cho bước trích chọn
tài liệu liên quan và tìm ra những thông tin hữu ích cho bước trích xuất câu trả lời
8
Bước2-Trích chọn tài liệu liên quan: Bước này sử dụng câu truy vấn được tạo ra ở
bước phân tích câu hỏi để tìm các tài liệu liên quan đến câu hỏi.
Bước3-Trích xuất câu trả lời: Bước này phân tích tập tài liệu trả về từ bước 2 và sử
dụng các thông tin hữu ích do bước phân tích câu hỏi cung cấp để đưa ra câu trả lời chính
xác nhất.

Hình 2. Các bước chung của hệ thống Q&A

Các hệ thống h
ỏi đáp tự động hiện nay có kiến trúc rất đa dạng, tuy nhiên chúng đều
bao gồm ba phần cơ bản như trên [15,18,27]. Sự khác nhau chính giữa các hệ thống là ở
quá trình xử lý trong từng bước, đặc biệt là ở cách tiếp cận trong việc xác định câu trả lời.
Cách tiếp cận theo trích chọn thông tin thuần túy (pure IR) là: chia nhỏ một tài liệu

hai bước trích chọn tài liệu liên quan và trích
xuất câu trả lời. Bước phân tích câu hỏi có ý nghĩa rất quan trọng, bởi nó ảnh hưởng đến
hoạt động của các bước sau và do đó quyết định đến hiệu quả của toàn hệ thống. Chương
2 trình bày chi tiết các nội dung liên quan đến phân tích câu hỏi.

10
Chương 2. Phân tích câu hỏi
2.1. Nội dung của phân tích câu hỏi
Bài toán phân tích câu hỏi: Phân tích câu nhận đầu vào là câu hỏi dưới dạng ngôn
ngữ tự nhiên của người dùng, đưa ra câu truy vấn cho bước trích chọn tài liệu liên quan
và các thông tin cần thiết cho bước trích rút câu trả lời.
Câu truy vấn là dạng tổ hợp của các từ khóa quan trọng trong câu hỏi (và các từ
khóa mở rộng) với các phép toán tập hợp AND, OR. Các kĩ thuật biến đổi câu hỏi thành
câu truy vấn được trình bày trong phần 2.5.1.
Các thông tin cầ
n thiết để trích xuất câu trả lời là rất đa dạng, tùy phuộc vào phương
pháp trích xuất câu trả lời. Thông thường các thông tin đó là mục đích của câu hỏi (ví dụ
mục đích hỏi để khẳng định một điều, để so sánh hay để tìm kiếm thông tin, để hỏi về
định nghĩa, cách thức…), loại câu trả lời mong đợi (question target hay answer type). Ví
dụ câu hỏi “Dân số Việ
t Nam là bao nhiêu”, câu trả lời được mong đợi là một “con số”
hay câu hỏi “Ai là tổng thống Mỹ” thì loại câu trả lời là một “tên người”. Một số thông
tin hữu ích cho trích xuất câu trả lời khác như định dạng của câu trả lời (người hỏi muốn
câu trả lời là một dạng ngắn gọn như con số, tên người, địa chỉ hay là một đoạn văn b
ản
dài về định nghĩa, mô tả, nguyên nhân, …), dạng biểu diễn ngữ pháp, ngữ nghĩa của câu
hỏi để so khớp (matching) và xếp hạng (ranking) các câu trả lời.
2.2. Khó khăn của phân tích câu hỏi
Câu hỏi đầu vào của hệ thống hỏi đáp tự động là câu hỏi dưới dạng ngôn ngữ tự
nhiên của người dùng. Vì vậy việc phân tích câu hỏi cũng gặp những khó khăn của xử lý

 Tầng hình thái (morphological layer): Nghiên cứu về các thành phần có nghĩa của
từ (word), như từ được tạo ra bởi các hình vị (morphemes) và từ được tách ra trong
một câu thế nào. Thí dụ
, từ “tiếng Việt” tạo thành từ “t-iế-ng V-iệ-t”, còn ngữ
(phrase) “xử lý tiếng Việt” tạo thành gồm hai từ “xử lý” và “tiếng Việt”. Trong
tiếng Việt, một bài toán quan trọng là phân tách từ (word segmentation). Một thí
dụ quen thuộc là câu “Ông già đi nhanh quá” có thể phân tách thành (Ông già)
(đi) (nhanh quá) hoặc (Ông) (già đi) (nhanh quá) hoặc những cách khác nữa.
 Tầng ngữ pháp (syntactic layer): Nghiên cứu các quan hệ cấ
u trúc giữa các từ, xem
các từ đi với nhau thế nào để tạo ra câu đúng. Quá trình này thường được cụ thể
trong các bước cơ bản sau:
12
o Xác định từ loại (POS tagging): Xem mỗi từ trong câu là loại gì (danh từ,
động từ, giới từ, …). Trong thí dụ trên, có thể “Ông già” là danh từ, “đi” là
động từ, “nhanh” là trạng từ, và “quá” là thán từ.
o Xác định cụm từ (chunking): Thí dụ “Ông già” là cụm danh từ, “đi” là cụm
động từ, “nhanh quá” là cụm trạng từ. Như vậy câu trên có hai phân tích
(Ông già) (đi) (nhanh quá) hoặc (Ông) (già đi) (nhanh quá).
o Xác định quan hệ ngữ pháp(parsing):
(Ông già) (đi) (nhanh quá) là quan hệ
chủ ngữ-vị ngữ-trạng ngữ.
 Tầng ngữ nghĩa (semantic layer): Nghiên cứu xác định nghĩa của từng từ và tổ hợp
của chúng để tạo nghĩa của câu. Thí dụ trong phân tích (Ông già) (đi) (nhanh quá),
động từ “đi” có thể có nghĩa “bước đi”, hay “chết” hay “điều khiển” (khi đánh cờ),
… và tương ứng ta có các nghĩa khác nhau của câu.
 T
ầng ngữ dụng (pragmatic layer): Nghiên cứu mối quan hệ giữa ngôn ngữ và ngữ
cảnh sử dụng ngôn ngữ (context-of-use). Ngữ dụng nghiên cứu việc ngôn ngữ được
dùng để nói về người và vật như thế nào.

sử dụng Wordnet để mở rộng truy vấn.
 Trích chọn thông tin IR: Hệ IR trả về danh sách có xếp hạng của 1000 tài liệu liên
quan .
 Phân đoạn: Mục đích nhằm giảm khối lượng dữ li
ệu cần xử lí. Các tài liệu được
chia nhỏ thành các đoạn (segments) có sự liên kết về ngữ nghĩa (các đoạn văn
trong 1 tài liệu,…).
 Xếp hạng các đoạn: Mỗi đoạn văn bản được đánh trọng số theo công thức về độ
trùng lặp từ và cụm từ với câu hỏi và truy vấn mở rộng, theo đó các từ có trong
câu hỏi có trọng s
ố 2, từ đồng nghĩa có trọng số 1, các từ khác có trọng số 0. Sau
đó các đoạn được sắp xếp theo trọng số giảm dần.
 Phân tích ngữ pháp cho các đoạn: Sử dụng CONTEX để phân tích cú pháp cho
các câu trong top 100 đoạn đã xếp hạng.
 Xác định câu trả lời: Với mỗi câu, ba bước so khớp (matching) được thực hiện,
trong đó hai bước thực hiện việc so sánh biể
u diễn cú pháp của câu hỏi và câu,
bước 3 thực hiện việc tính độ match trên mức từ và cụm từ bằng phương pháp cửa
sổ trượt.
 Xếp hạng câu trả lời: Các câu trả lời ứng viên (câu được phân tích ở bước trước)
được sắp xếp theo độ match. Hệ thống trả về câu trả lời có độ match tốt nhất.
14
Như đã nói ở phần trên, có rất nhiều cách diễn đạt để hỏi về cùng một thông tin, và
cũng có nhiều cách để đưa ra câu trả lời. Những dạng biến đổi này hình thành nên một lớp
câu hỏi và lớp câu trả lời có ngữ nghĩa tương đồng. Người dùng có thể hỏi với bất kì dạng
nào của câu hỏi và tập tài liệu cũng có thể chứa bất kì dạng nào của câu trả
lời, do đó hệ
thống hỏi đáp cần có khả năng gộp các loại câu hỏi và câu trả lời tương đồng với nhau
[19]. Với một câu hỏi bất kì nếu xác định được loại câu hỏi thì có thể biết được các dạng
của câu trả lời do có mỗi liên hệ mật thiết giữa loại câu hỏi và loại câu trả lời.

taxonomy trong các nguồn tài liệu. Trong lĩnh vực công nghệ thông tin, taxonomy được
định nghĩa như sau:
Định nghĩa: Taxonomy là sự phân loại của toàn bộ thông tin trong một hệ phân cấp
theo một mối quan hệ có trước của các thực thể trong thế giới thực mà nó biểu diễn.
Một taxonomy thường được mô tả với gốc ở trên cùng, mỗi nút của taxonomy – bao
gồm cả gốc – là một thực thể thông tin đại diệ
n cho một thực thể trong thế giới thực. Giữa
các nút trong taxonomy có một mối quan hệ đặc biệt gọi là is subclassification of nếu
hướng liên kết từ nút con lên nút cha hoặc là is superclassification of nếu hướng liên kết
từ nút cha xuống nút con. Đôi khi những quan hệ này được xác định một cách chặt chẽ
hơn là is subclass of hoặc is superclass of, nếu thực thể thông tin là một lớp đối tượng.
2.4.2. Taxonomy câu hỏi
Trong Q&A Roadmap [10] đã chỉ ra r
ằng taxonomy câu hỏi là rất cần thiết trong
nghiên cứu về Q&A. Các nghiên cứu về taxonomy câu hỏi đã được nhiều nhà nghiên cứu
quan tâm, trên các mặt về ngôn ngữ học, triết học, xã hội học, có nền tảng lý thuyết lẫn
thực nghiệm.
Năm 1972, Robinson và Rackstraw đã nghiên cứu về cách sử dụng các từ để hỏi
trong tiếng Anh, theo đó “the Five Ws” (Who, What, When, Where, Why, và How) là
cách phân loại câu hỏi thông thường và đơn giản nhất. Có lẽ b
ởi “the Five Ws” là cách
suy nghĩ rất tự nhiên khi đặt câu hỏi của người dùng tiếng Anh nên nó rất phổ biến trong
các tài liệu và trong hỏi đáp thông thường. Robinson và Rackstraw đã dành 2 tập sách
[31,32] để khảo sát về wh-words, hình thức câu hỏi dựa vào wh-words và câu trả lời cho
các câu hỏi này. Robinson và Rackstraw định nghĩa wh-words là “tập hoàn toàn của các
từ để hỏi về mặt từ vựng” (“the total set of lexically marked interrogative words”).
(1972a). Họ đưa ra một taxonomy câu hỏi 7 lớp bao gồm:Who, Which, What, When,
Where, Why, How.
Có hai vấn đề với taxonomy trên là: Câu hỏi không nhất thiết phải là câu có sử dụng
từ để hỏi wh-words và không phải câu nào có sử dụng từ để hỏi wh-words cũng đều là

đưa ra taxonomy phân cấp theo sự phân loại ngữ nghĩa tự nhiên của câu trả lời cho các
câu hỏi được khảo sát từ hội nghị TREC. Cấu trúc phân cấp bao gồm 6 lớp câu hỏi thô
(coarse classes) là ABBREVIATION (viết tắt), ENTITY (thực thể), DESCRIPTION (mô
tả), HUMAN (con ng
ười), LOCATION (địa điểm) và NUMERIC VALUE (giá trị số). Mỗi
lớp câu hỏi thô lại được phân chia thành các lớp con (fine class). Taxonomy câu hỏi của
Li và Roth được trình bày chi tiết trong bảng 1.Taxonomy này cùng bộ dữ liệu câu hỏi đã
gán nhãn của Li và Roth được nhiều nhóm nghiên cứu sử dụng lại bởi nó bao phủ được
hầu hết các loại câu hỏi thường gặp trong thực tế. Trong thực nghiệm chương 4 chúng tôi
cũng sử dụng taxonomy này cho phân l
ớp câu hỏi tiếng Việt.
17
Bảng 1. Taxonomy câu hỏi do Li và Roth đưa ra

Nhãn lớp Định nghĩa
ABBREVIATION
Dạng viết tắt
abb Dạng viết tắt
exp ý nghĩa của từ viết tẳt
ENTITY
Thực thể
animal Động vật
body Các bộ phận cở thế
color Màu sắc
creative Phát minh, sách và các sáng tạo khác
currency Tiền tệ
dis.med. Bệnh tật và y học
event Sự kiện
food Đồ ăn
instrument Dụng cụ âm nhạc