1 ĐẠI HỌC QUỐC GIA HÀ NỘI
VIỆN ĐẢM BẢO CHẤT LƢỢNG GIÁO DỤC
_______________________ Nguyễn Anh Tuấn
ĐÁNH GIÁ CÁC YẾU TỐ ẢNH HƢỞNG ĐẾN QUÁ TRÌNH
XÂY DỰNG CÁC BỘ ĐỀ THI TRẮC NGHIỆM KHÁCH QUAN
TẠI KHOA CÔNG NGHỆ THÔNG TIN - ĐH THÁI NGUYÊN
Nguyễn Anh Tuấn
ĐÁNH GIÁ CÁC YẾU TỐ ẢNH HƢỞNG ĐẾN QUÁ TRÌNH
XÂY DỰNG CÁC BỘ ĐỀ THI TRẮC NGHIỆM KHÁCH QUAN
TẠI KHOA CÔNG NGHỆ THÔNG TIN - ĐH THÁI NGUYÊN Chuyên ngành: Đo lƣờng và đánh giá trong giáo dục
(Chuyên ngành đào tạo thí điểm)
LUẬN VĂN THẠC SĨ
Ngƣời hƣớng dẫn khoa học:
PGS.TS. Nguyễn Công Khanh
Hà Nội - 2010
1.2.3. Xây dựng ngân hàng đề thi trắc nghiệm môn học 32
Chƣơng 2. PHƢƠNG PHÁP NGHIÊN CỨU
2.1. Những định hướng, trọng tâm nghiên cứu 34
2.1.1. Chuyên đề nghiên cứu thứ nhất 34 2
2.1.2. Chuyên đề nghiên cứu thứ hai 34
2.1.3. Chuyên đề nghiên cứu thứ ba 35
2.2. Thiết kế mẫu phiếu điều tra đối với giáo viên 35
Chƣơng 3. XỬ LÝ SỐ LIỆU KẾT QUẢ THI TRẮC NGHIỆM
3.1. Xử lý số liệu kết quả thi TNKQ 39
3.1.1. Phân tích độ khó của item 39
3.1.2. Phân tích độ phân biệt của item 40
3.1.3. Đánh giá độ tin cậy của bài trắc nghiệm 42
3.1.4. Xử lý số liệu đề thi trên mô hình QUEST 48
3.1.5. Kết luận về độ giá trị của các bộ đề 52
3.2. Xử lý số liệu mẫu phiếu hỏi trong giảng viên 52
3.2.1. Đánh giá độ tin cậy của công cụ đo (mẫu phiếu hỏi) 52
3.2.2. Đánh giá về độ giá trị của công cụ đo và sự phù hợp
của mô hình các yếu tố ảnh hưởng đến chất lượng
bộ đề thi TNKQ qua xử lý phiếu hỏi 62
3.3. Kết luận về các yếu tố ảnh hưởng đến việc xây dựng
bộ đề TNKQ 62
KẾT LUẬN, ĐỀ XUẤT GIẢI PHÁP, KIẾN NGHỊ
4.1. Kết luận 71
4.2. Đề xuất giải pháp 73
TÀI LIỆU THAM KHẢO 74
PHỤ LUC
Phụ lục 1. File dữ liệu mon01.Itn 75
MCQ
Câu hỏi nhiều lựa chọn
8
NXB
Nhà xuất bản
9
SV
Sinh viên
10
TNKQ
Trắc nghiệm khách quan 4
DANH MỤC BẢNG
Trang
Bảng 1.1: Ví dụ về bảng trọng số của 1 đề thi
hết học phần gồm 60 câu trắc nghiệm 32
Bảng 3.1: Kết quả phân tích độ tin cậy (Reliability Analysis Alpha)
của toàn bài trắc nghiệm trong đề số 1 44
Bảng 3.2: Các thông số về độ tin cậy (Reliability Statistics) 46
Hình 3.8: Thủ tục Bảng chéo (Statistics \ Summaries \ Crosstabs) 68
Hình 3.9: Kết quả bảng chéo Crosstabs
giữa hai biến“diem.ptn.nhom” và “chl.de.nhom” 70
6
MỞ ĐẦU
1. Lý do chọn đề tài
Để nâng cao chất lượng giảng dạy đại học, việc đánh giá chính xác kết
quả học tập của sinh viên là một vấn đề rất quan trọng. Trong thực trạng giáo
dục đại học còn nhiều tiêu cực và bất cập như hiện nay, việc áp dụng hình
thức thi, kiểm tra trắc nghiệm khách quan là một trong những biện pháp có
hiệu quả cho phép đánh giá tương đối chính xác kết quả học tập của sinh viên.
Khoa Công nghệ thông tin - Đại học Thái Nguyên cũng như các trường đại
học khác hiện đang tích cực áp dụng hình thức thi trắc nghiệm khách quan
cho khoảng 40% tổng số các môn học, coi đây là một trong những biện pháp
nhằm đổi mới phương pháp kiểm tra đánh giá, nâng cao chất lượng giáo dục.
Tuy nhiên một thực tế xảy ra là chất lượng các bộ đề thi trắc nghiệm khách
quan chưa được bảo đảm cả về độ giá trị cũng như độ tin cậy. Do đó tôi đã lựa
chọn đề tài “Đánh giá các yếu tố ảnh hưởng đến chất lượng các bộ đề thi trắc
nghiệm khách quan tại Khoa Công nghệ thông tin - Đại học Thái Nguyên”
Thực tế hiện nay việc xây dựng các bộ đề thi trắc nghiệm khách quan
“Những yếu tố nào ảnh hưởng đến quá trình xây dựng các bộ đề trắc nghiệm”.
Các giả thiết nghiên cứu được đặt ra là các yếu tố ảnh hưởng trực tiếp
đến chất lượng các bộ đề:
1- Yếu tố thời gian đầu tư cho công việc: Là thời gian thực tế giáo viên
dùng để nghiên cứu tài liệu và biên soạn đề thi, quỹ thời gian của nhà trường
dành cho việc này.
2- Động cơ của người thực hiện: Là các yếu tố như sự say mê, hứng thú
của cá nhân các giáo viên hay đơn giản là phải hoàn thành nhiệm vụ.
3- Mức độ người ra đề được trang bị kỹ thuật thiết kế đề trắc nghiệm:
Thể hiện ở mức độ được tập huấn, tự nghiên cứu về kỹ thuật xây dựng đề thi
trắc nghiệm. 8
4- Sự quan tâm của nhà trường: Thể hiện ở sự khuyến khích, động viên
bằng tinh thần hay vật chất cụ thể.
5- Tính chất các nhóm môn học: Là đặc thù của nhóm môn học đến việc
ra đề trắc nghiệm (phù hợp hay khó thực hiện).
Khách thể và đối tượng nghiên cứu
Khách thể nghiên cứu là số liệu kết quả thi của 50 bộ đề trắc nghiệm
khách quan tại Khoa CNTT và các giáo viên trực tiếp xây dựng các bộ đề đó.
Đối tượng nghiên cứu là các yếu tố ảnh hưởng đến chất lượng các bộ đề
thi trắc nghiệm.
Phương pháp tiếp cận nghiên cứu
1. Phương pháp khảo cứu lý thuyết: Nghiên cứu các quy định về triển
khai thực hiện việc thi trắc nghiệm và xây dựng ngân hàng thi trắc nghiệm
của Bộ GD&ĐT; Các lý thuyết về đo lường đánh giá trong giáo dục.
2. Phương pháp điều tra khảo sát: Thực hiện qua hai bước chính là
nghiên cứu sơ bộ và nghiên cứu chính thức.
- Nghiên cứu sơ bộ: Thực hiện thông qua phương pháp định tính, sử dụng
cao chất lượng các bộ đề TNKQ là rất cần thiết trong việc nâng cao chất
lượng dạy và học của nhà trường.
Chất lượng một bộ đề thi nói chung phụ thuộc nhiều yếu tố nhưng chủ
yếu và trực tiếp là các yếu tố tác động đến chính bản thân người ra đề. Trong
điều kiện giảng dạy hiện nay, có thể khái quát thành 5 nhóm yếu tố giả thuyết
có ảnh hưởng đến người ra đề, đó là:
- Thời gian đầu tư cho công việc.
- Động cơ của người thực hiện.
- Mức độ được trang bị kỹ thuật.
- Sự quan tâm của nhà trường.
- Tính chất các nhóm môn học. 10
Các nghiên cứu của đề tài sẽ thực hiện phỏng vấn trên phiếu điều tra đối
với các đối tượng là giáo viên trực tiếp ra đề thi trắc nghiệm. Kết hợp xử lý số
liệu về độ giá trị, độ tin cậy của các bộ đề thi để tìm ra tương quan thực tế
giữa các yếu tố giả thuyết và chất lượng bộ đề. Trên cơ sở đó kiểm nghiệm lại
độ tin cậy của thang đo được thiết kế trên phiếu điều tra.
1.1. Các khái niệm về chất lƣợng bộ đề thi trắc nghiệm
1.1.1. Các công cụ đo lƣờng kết quả học tập
Dựa vào hình thức diễn đạt, có thể hình dung hệ thống các phương pháp
kiểm tra - đánh giá trong dạy học qua sơ đồ sau đây:
Vấn đáp (hỏi và trả lời) có thể dùng lời hoặc không dùng lời. Đối với
trắc nghiệm không dùng lời thì người hỏi dùng điệu bộ, phim, tranh ảnh ,
người trả lời có thể dùng lời hoặc không. Phương pháp dùng lời được phổ
biến hơn mà chúng ta hay gọi là kiểm tra vấn đáp. Phương pháp này vừa định
tính vừa định lượng, độ chính xác tương đối cao, có giá trị nhiều mặt. Nó
thích hợp với cả người dạy và người học, đặc biệt có lợi trong kiểm tra xử lí
tình huống, rèn phản ứng nhanh nhạy cho HS. Tuy nhiên phương pháp này
không thích hợp cho việc đánh giá một phổ rộng với khối lượng lớn kiến
thức, trên nhiều HS trong một thời gian ngắn. Câu hỏi để HS trả lời đa số chỉ
nằm trong một nội dung hẹp nào đó.
1.1.1.3. Phƣơng pháp kiểm tra viết
Đây là hình thức được dùng phổ biến trong dạy học. Kiểm tra theo kiểu
này có những ưu điểm sau:
- Cho phép kiểm tra nhiều HS một lần.
- Cung cấp một bản ghi rõ ràng các câu trả lời của thí sinh dùng cho việc
chấm điểm.
- Cho phép thí sinh cân nhắc trước khi trả lời các câu hỏi, do đó kiểm tra
được sự phát triển trí tuệ ở mức cao hơn.
- Dễ quản lí vì bản thân người chấm không tham gia trực tiếp trong thời
gian kiểm tra.
1.1.2. Trắc nghiệm và những vấn đề liên quan
1.1.2.1. Khái niệm về trắc nghiệm
Trắc nghiệm “test” trong tiếng Anh có nghĩa là “sự khảo sát hoặc thử các
phẩm chất của một người hoặc vật”; còn trong tiếng Hán thì “trắc” có nghĩa là
“đo lường”, “nghiệm” có nghĩa là “suy xét, chứng thực”. 12
Theo Trần Bá Hoành: “Trắc nghiệm trong giáo dục là một phương pháp
đo để thăm dò một số đặc điểm năng lực trí tuệ của HS như chú ý, ghi nhớ,
Thông thường, một bài TNKQ gồm nhiều câu hỏi hơn một bài trắc nghiệm
tự luận; mỗi câu hỏi có một phương án trả lời đúng, các phương án còn lại là
phương án nhiễu. Tuy nhiên, TNKQ chỉ có việc chấm điểm là khách quan, tính
chủ quan có thể nằm ở việc lựa chọn nội dung đề kiểm tra và việc định ra câu
trả lời. Nhiều người thường gọi tắt TNKQ là “trắc nghiệm”, do vậy khi dùng từ
“trắc nghiệm” mà không nói gì thêm thì chúng ta ngầm hiểu đây là TNKQ.
Trong quá trình nghiên cứu, tìm hiểu, đến nay các chuyên gia về phương pháp
dạy học của nhiều nước trên thế giới đã thừa nhận việc KT - ĐG bằng trắc
nghiệm có khả năng đảm bảo tính khách quan cao.
Bên cạnh đó, thực tế việc sử dụng hình thức KT - ĐG bằng trắc nghiệm
trong dạy học cũng thu được những hiệu quả rõ rệt, đó là:
- Đối với nhà trường: Tăng uy tín của nhà trường thông qua việc nâng
cao năng lực của đội ngũ GV về các phương pháp dạy - học - đánh giá; có các
công cụ để kiểm tra nhanh chóng và chính xác thành quả học tập; nâng cao
hiệu quả và tiết kiệm thời gian trong việc đánh giá.
- Đối với HS: Tăng thêm lòng tin về tính khách quan của việc đánh giá
thành quả học tập; thúc đẩy tính tích cực chủ động và động cơ học tập.
- Đối với GV: Nâng cao năng lực dạy học, đánh giá, tăng hiệu quả dạy
học; có phương hướng điều chỉnh và cải tiến phương pháp dạy học.
1.1.2.3. Những nguyên tắc chung của trắc nghiệm
Với những chức năng của mình, trắc nghiệm được xem là công cụ KT -
ĐG kết qủa học tập trong dạy học. Đối với người dạy, sử dụng trắc nghiệm
nhằm cung cấp thông tin ngược để điều chỉnh phương pháp, nội dung cho phù
hợp, từ đó nâng cao hiệu quả giảng dạy. Đối với người học, sử dụng trắc
nghiệm có thể tăng cường tinh thần trách nhiệm trong học tập, việc học tập 14
trở nên nghiêm túc. Sử dụng trắc nghiệm giúp người học tự KT - ĐG kiến
thức, kĩ năng, phát hiện năng lực tiềm ẩn của mình, vì vậy quá trình tự học có
bằng cách lựa chọn đúng (Đ) hoặc sai (S). Loại câu hỏi này rất thông dụng vì
nó thích hợp với những kiến thức sự kiện, có thể kiểm tra được nhiều kiến
thức trong một thời gian ngắn. Giáo viên có thể soạn một đề thi trong một
thời gian ngắn. Tuy nhiên loại câu hỏi này khó xác định điểm yếu của HS do
yếu tố đoán mò, xác suất đúng - sai là 50%, có độ tin cậy thấp, đề ra thường
có khuynh hướng trích nguyên văn sách giáo khoa nên khuyến khích thói
quen học thuộc lòng hơn là tìm tòi suy nghĩ.
- Câu ghép đôi (Matching items)
Là những câu hỏi có hai dãy thông tin, một bên là các câu hỏi, bên kia là
câu trả lời. Số câu ghép đôi càng nhiều thì xác suất may rủi càng nhỏ, do đó
càng tăng phần ghép thì độ khó của trắc nghiệm càng được nâng lên. Loại trắc
nghiệm này thích hợp với câu hỏi sự kiện, khả năng nhận biết kiến thức hay
thiết lập những mối tương quan, song không thích hợp cho việc áp dụng các
kiến thức mang tính nguyên lý, quy luật và không thích hợp cho việc đo các
khả năng trí năng ở bậc cao.
- Câu điền khuyết (Completion items).
Loại này có hai dạng. Chúng có thể là những câu hỏi với câu trả lời ngắn
(short answer) hay là những câu phát biểu với một hay nhiều chỗ để trống, HS
phải điền vào chỗ trống bằng một từ hay một nhóm từ cần thiết. Ưu điểm của
nó là làm mất khả năng đoán mò của HS, họ có cơ hội trình bày những câu trả
lời khác, qua đó phát huy óc sáng tạo. Đối với GV, dạng câu hỏi này phù hợp
với việc soạn các câu hỏi cho các môn tự nhiên, đồng thời có thể đánh giá
mức hiểu biết về các nguyên lý, giải thích các sự kiện, khả năng diễn đạt ý
kiến cũng như thái độ của HS đối với vấn đề đặt ra. Tuy nhiên, nhược điểm 16
của loại trắc nghiệm này là việc chấm bài mất nhiều thời gian và GV thường
không đánh giá cao các câu trả lời sáng tạo tuy khác đáp án mà vẫn có lí.
- Câu nhiều lựa chọn (Multiple choice question- MCQ)
cho sẵn nào không ích lợi hoặc làm giảm giá trị câu hỏi. Phương pháp phân
tích này không thực hiện được với loại câu hỏi tự luận hay khó thực hiện đối
với các loại trắc nghiệm khác.
- Tính chất khách quan khi chấm. Cũng như các loại TNKQ khác, trong
loại trắc nghiệm MCQ điểm số không phụ thuộc vào các yếu tố như: phẩm
chất chữ viết, khả năng diễn đạt…
- Có thể ứng dụng công nghệ thông tin trong quá trình thu thập và xử lý
kết quả.
1.1.3. Độ tin cậy của bộ câu hỏi trắc nghiệm
Trong các nghiên cứu khoa học, giá trị khoa học của các số liệu thu được
phụ thuộc chủ yếu vào độ tin cậy và độ giá trị của bộ công cụ đo dùng để đo
lường. Tuy nhiên không phải lúc nào cũng có sẵn những bộ công cụ đã được
chuẩn hoá, đặc biệt là trong những nghiên cứu đòi hỏi phải thiết kế ra các bộ công
cụ đo mới phù hợp với lĩnh vực đang nghiên cứu. Do đó bắt buộc nhà nghiên cứu
phải đánh giá độ tin cậy và độ giá trị của công cụ đo, trước khi sử dụng các số liệu
thu được từ bộ công cụ đó nhằm rút ra các kết luận hoặc suy đoán.
1.1.3.1. Xem xét mô hình lý thuyết về độ tin cậy
Để xác định độ tin cậy của một phép đo, ta phải xuất phát từ một tiền đề
có tính giả thiết rằng phép đo sẽ đo lường một đặc tính tương đối ổn định và
bản thân phép đo phải có tính ổn định tương đối, ít hoặc không thay đổi giữa
các lần đo khác nhau. Bởi vì sẽ không có một phương pháp đo đạc nào có giá
trị nếu không đo một cái gì đó có tính ổn định tương đối và bản thân phép đo
phải có tính ổn định, ít hoặc không thay đổi giữa các lần đo khác nhau. Như 18
vậy, một thang đo có độ tin cậy tốt được xác định như là một phép đo trên đó
mọi người đạt số điểm tương tự ở những lần đo khác nhau.
Các lý thuyết về trắc nghiệm đều cho rằng điểm số của trắc nghiệm đo
lường một đặc tính, phẩm chất hay năng lực nào đó ở một cá nhân bằng điểm
σ
2
X
: Giá trị phương sai của điểm trắc nghiệm
σ
2
T
: Giá trị phương sai của điểm thực 19
σ
2
E
: Giá trị phương sai điểm sai số của phép đo
Khi đó độ tin cậy của trắc nghiệm được xác định như là hệ số tương quan
(R
XX
) biểu thị tỷ lệ hay phần trăm giữa phương sai của điểm trắc nghiệm theo
công thức
22
2
2
2
ET
T
X
T
XX
20
tính, thì áp dụng tương quan Pearson (Pearson correelation coeficient) để
đánh giá hệ số tin cậy của trắc nghiệm. Nếu trắc nghiệm được thiết kế theo
thang định hạng hoặc mối quan hệ điểm số trắc nghiệm giữa hai lần đo không
tuyến tính thì ta dùng tương quan Spearman (Spearman rank correlation
coefficent) để đánh giá hệ số tin cậy của trắc nghiệm.
Đối với nhóm phương pháp thứ hai: Trong cùng một trắc nghiêm, sử
dụng hai form tương đương có hình thức, câu chữ khác nhau nhưng có nội
dung giống nhau hoặc tương đương và có những đặc tính thống kê như nhau
hoặc tương đương. Tương quan điểm số giữa lần đo thứ nhất (ứng với form
A) và lần đo thứ hai (ứng với form B) được xem là hệ số tin cậy của trắc
nghiệm. Phương pháp này rất tốn kém và khó thiết kế một trắc nghiệm có
nhiều form hoàn toàn tương đương.
Nhóm phương pháp thứ ba: Thường dùng để đánh giá độ tin cậy của một
trắc nghiệm khi ta không có điều kiện đo trắc nghiệm hai lần trên cùng một
đối tượng và cũng không thiết kế được các trắc nghiệm tương đương, là
phương pháp phân đôi số item của trắc nghiệm thành hai phần (thường chia
theo số chẵn và số lẻ) rồi so sánh tương quan điểm giữa hai nửa trắc nhiệm.
Đây gọi là phương pháp tính độ tin cậy phân đôi trắc nghiệm (split-half
reliablity). Về lý thuyết, hai nửa trắc nghiệm có thể được xem là hai form
tương đương của cùng một trắc nghiệm. Do vậy tương quan điểm số của hai
nửa này được xem là hệ số tin cậy của trắc nghiệm. Công thức tính như sau.
))((
X-XE)(
XE
XEXO
XO
XX
Hệ số tin cậy hiện tại (hệ số tin cậy phân nửa trắc nghiệm, chưa
điều chỉnh)
Nhóm phương pháp thứ tư: Thường dùng để đánh giá độ tin cậy của
trắc nghiệm là các phương pháp đánh giá độ phù hợp của từng item (internal
consistency methods) sử dụng mô hình hệ số tương quan alpha (Cronbach’s
Coeficient Alpha). Mô hình này đánh giá độ tin cậy của phép đo dựa trên sự
tính toán phương sai của từng item trong toàn phép đo và tính tương quan
điểm của từng item với điểm của tổng các item còn lại của phép đo. Phương
pháp này thích hợp với các loại trắc nghiệm được thiết kế với điểm số theo
thang định khoảng hay thang tỷ lệ. Công thức được tính là
)1(
1
2
2
X
i
XX
K
K
R
đoán dẫn đến sai lệch điểm giữa các lần đo.
- Các yếu tố liên quan đến item, câu hỏi của trắc nghiệm: Các trắc
nghiệm chỉ là một tập hợp có giới hạn các item nhằm đo một mẫu hành vi đại
diện cho đặc tính được nghiên cứu mà không đo tất cả các biểu hiện của đặc
tính đó. Một trắc nghiệm càng có nhiều item thì độ tin cậy của trắc nghiệm
càng tăng, vì càng nhiều item, trắc nghiệm sẽ có nhiều cơ hội để cung cấp một
mẫu rộng hơn những hiểu biết về đặc tính cần đo. Trắc nghiệm không thể quá
dài gây mệt mỏi, thiếu tập trung cho nghiệm thể nhưng mặt khác các item của
trắc nghiệm lại phải có tính đại diện, đủ bao quát hết miền cần đo.
- Các yếu tố liên quan đến thống kê: Khi phạm vi điểm trắc nghiệm càng
bị thu hẹp thì tương quan càng giảm, vì vậy độ tin cậy của trắc nghiệm sẽ
giảm. Ngược lại phạm vi điểm trắc nghiệm càng được mở rộng thì tương quan
càng tăng, do đó độ tin cậy của trắc nghiệm sẽ tăng.
1.1.4. Độ giá trị (hiệu lực) của bộ câu hỏi trắc nghiệm
Độ giá trị là một trong những đặc trưng quan trọng nhất khi đánh giá
một trắc nghiệm. Mỗi trắc nghiệm không chỉ có một độ giá trị duy nhất mà
có nhiều kiểu giá trị (hiệu lực) khác nhau. vì vậy độ giá trị được hiểu như
là những dữ liệu điều tra một cách khoa học về ý nghĩa của trắc nghiệm khi
đo lường. 23
Độ giá trị của một phép đo thường được đánh giá như là độ giá trị nội
dung (Content validity), độ giá trị cấu trúc ( Structure validity), độ giá trị tiêu
chuẩn (Criterion validity) và độ giá trị dự báo (Predictitive validity). Độ giá
trị nội dung do những chuyên gia về lĩnh vực được trắc nghiệm phản biện và
kết luận. Độ giá trị cấu trúc được quy về các khu vực đo lường, các iterm hội
tụ về một vấn đề, tương quan giữa các item trong nhóm phải tốt hơn tương
quan giữa các item ngoài nhóm. Độ giá trị tiêu chuẩn là những so sánh tương
quan của trắc nghiệm với một trắc nghiệm chuẩn tương đương đã có sẵn trên