ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐẠI HỌC SƯ PHẠM
HOÀNG KHẮC LỢI
TÍNH ĐƠN ĐIỆU
CỦA DƯỚI VI PHÂN HÀM LỒI
LUẠN VĂN THẠC SĨ TOÁN HỌC
CHUYÊN NGÀNH: GIẢI TÍCH
MÃ SỐ: 60.46.01.02
NGƯỜI HƯỚNG DẪN KHOA HỌC: GS.TSKH. LÊ DŨNG MƯU
Thái Nguyên - Năm 2012
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn1
Mục lục
Lời cảm ơn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . iii
Mở đầu . . . . . . . . . . . . . . . . . . . . . . . . . . . vi
0.1.Lý do chọn đề tài . . . . . . . . . . . . . . . . . . . . . . . . . vi
0.2.Mục đích và nhiệm vụ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi
0.2.1. Mục đích nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi
0.2.2. Nhiệm vụ nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi
0.2.3. Phương pháp nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vii
0.2.4. Bố cục luận văn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vii
Chương 1. Tập lồi và hàm lồi trong không gian Hilbert thực . . . 1
1.1.Không gian Hilbert thực . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.1.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.1.2. Các đẳng thức và bất đẳng thức . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2.Tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.2. Một số tính chất quan trọng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.3. Phép chiếu theo chuẩn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
1.2.4. Định lí tách tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.3.Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.3.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

Toán, các thầy cô giáo trường Đại học Sư Phạm - Đại học Thái Nguyên,
Viện Toán Học và trường Đại học Sư Phạm Hà Nội đã giảng dạy và
tạo điều kiện thuận lợi cho tôi trong quá trình học tập và nghiên cứu
khoa học.
Xin chân thành cảm ơn tập thể bạn bè, đồng nghiệp lớp Cao Học
Toán K18B và BGH, đồng nghiệp Giáo Viên ở trường THPT Bạch Đằng
- Quảng Ninh đã gúp đỡ tôi trong suốt thời gian học tập và nghiên
cứu.
Bản luận văn chắc chắn sẽ không tránh khỏi những khiếm khuyết
vì vậy rất mong được sự góp ý kiến của các thầy cô giáo và các bạn
học viên để luận văn này được hoàn chỉnh hơn.
Cuối cùng xin cảm ơn gia đình và bạn bè đã động viên, khích lệ tôi
trong thời gian học tập, nghiên cứu và hoàn thành luận văn.
Thái Nguyên, Tháng 8 năm 2012
Tác Giả
Hoàng Khắc Lợi
iii
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn4
iv
Danh mục các kí hiệu viết tắt
H, H
i
, K: Không gian Hilbert t hực;
2
H
: Tập tất cả các tập con của H ;
R : Tập số thực;
N : Tập hợp số tự nhiên;
. | .: Tích vô hướng;
||.|| : Chuẩn trên không gian Hilbert;

: Phép chiếu lên tập C;
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn5
v
σC : Hàm tựa của tập C;
d
C
: Hàm khoảng cách của tập C;
B(x, ) : Hình cầu đóng tâm x, bán kính ;
ΓH : Tập các hàm lồi nửa liên tục dưới từ H vào [−∞, +∞];
Γ
0
H : Tập các hàm lồi chính thường nửa liên tục dưới từ H vào
(−∞, +∞];

i∈I
f
i
: Tổng trực tiếp của một hàm;
dom f : Miền xác định của f ;
f
∗
: Hàm liên hợp của f ;
∂ f (x) : Dưới vi phân của f tại x ;
 f (x) hoặc f

(x) : Đạo hàm của f tại x ;
f

(x, y) : Đạo hàm theo hướng y của f tại x;
Argmin f : Tập các cực tiểu toàn cục của hàm f ;

0.1. Lý do chọn đề tài
Giải tích lồi là bộ môn quan trọng trong giải tích phi tuyến tính
hiện đại. Giải tích lồi nghiên cứu khía cạnh giải tích các khái niệm,
tính chất cơ bản của tập lồi và hàm lồi. Tính đơn điệu của dưới vi
phân hàm lồi là một trong những tính chất quan trọng của hàm lồi,
nó đã được nhiều nhà toán học trong và ngoài nước quan tâm nghiên
cứu và đã đạt được nhiều kết quả sâu sắc cùng với các ứng dụng quan
trọng trong các lĩnh vực khác nhau. Việc nghiên cứu về tính đơn điệu
của dưới vi phân hàm lồi và hoàn chỉnh hàm lồi vẫn là đề tài cần được
quan tâm và nghiên cứu trong bộ môn giải tích lồi.
0.2. Mục đích và nhiệm vụ
0.2.1. Mục đích nghiên cứu
Mục đích chính của luận văn là nghiên cứu và trình bày một cách
có hệ thống các kiến thức cơ bản và quan trọng nhất về dưới vi phân
của hàm lồi và tính đơn điệu của nó.
0.2.2. Nhiệm vụ nghiên cứu
Luận văn tập trung vào nhiệm vụ chính sau đây:
1) Nghiên cứu tập lồi và hàm lồi trong không gian Hilbert thực.
2) Đạo hàm theo hướng và dưới vi phân hàm lồi.
vi
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn7
vii
3) Tính đơn điệu của dưới vi phân hàm lồi.
4) Hàm tựa lồi và hàm giả lồi.
5) Tính đơn điệu suy rộng của dưới vi phân hàm tựa lồi và hàm giả
lồi.
0.2.3. Phương pháp nghiên cứu
- Sử dụng phương pháp của giải tích hàm kết hợp với phương pháp
của giải tích hiện đại.
- Sử dụng các phương pháp của lí thuyết tối ưu.

1.1. Không gian Hilbert thực
1.1.1. Định nghĩa và ví dụ
Định nghĩa 1.1. Phần bù trực giao của tập C ⊆ H được kí hiệu là C
⊥
, tức
là
C
⊥
=
{
u ∈ H | ∀x ∈ C, x | u = 0
}
.
1
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn9
2
Một cơ sở của tập C ⊆ H được gọi là một cơ sở trực giao của H nếu spanC =
H. Không gian H được gọi là tách được nếu nó có một cơ sở trực giao đếm
được.
Bây giờ giả sử (x
i
)
i∈I
là họ các vectơ trong H và giả sử I là lớp các
tập con hữu hạn khác rỗng I định hướng bởi ⊂. Khi đó (x
i
)
i∈I
là khả
tổng nếu tồn tại x ∈ H mà (

= sup
J∈I
∑
j∈J
α
i
.
Đây là trường hợp riêng trong không gian Hilbert thực và nó sẽ được
sử dụng trong cuốn luận văn này.
Ví dụ 1.1. Tổng trực tiếp của một họ các không gian Hilbert thực (H
i
, || . ||
i
)
i∈I
là không gian Hilbert thực.

i∈I
H
i
= {x = (x
i
)
i∈I
∈ ×
i∈I
H
i
|
∑

Khi I là tập hữu hạn, ta chỉ dùng chung một kí hiệu ×
i∈I
H
i
để thay
thế cho

i∈I
H
i
.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn10
3
Bây giờ giả sử rằng ∀i ∈ I, f
i
: H
i
→ R ∪
{
+∞
}
và I không là tập hữu
hạn, inf
i∈I
f
i
≥ 0. Khi đó

i∈I
f

)
i∈I
, (η
i
)
i∈I
)
i∈I
→
∑
i∈I
ξ
i
η
i
.
Vectơ đơn vị (e
i
)
i∈I
của l
2
(I) được xác định bởi
∀i ∈ I, e
i
: I → R : j →

1 nếu j = i
0 nếu j = i
.

(iv) Đẳng thức Apllonius:
||x − y||
2
= 2||z − x||
2
+ 2 ||z − y||
2
− 4 ||z −
x + y
2
||
2
.
Chứng minh. (i) Hiển nhiên.
(ii) và (iii) được suy ra từ (i) và
||x − y||
2
= ||x||
2
− 2 x | y + ||y||
2
. (1.1)
Cộng theo vế (i) với đẳng thức (1.1) suy ra (ii) và trừ theo vế đẳng
thức (i) với (1.1) suy ra (iii).
(iv) Áp dụng (ii) với hai điểm
z−x
2
và
z−y
2

i
)
i∈I
và (u
i
)
i∈I
là họ các x | y tập hữu hạn trong H và
cho (α
i
)
i∈I
là một dãy trên R mà
∑
i∈I
α
i
= 1. Khi đó:
(i) 
∑
i∈I
α
i
x
i
|
∑
j∈I
α
j

.
(ii) ||
∑
i∈I
α
i
x
i
||
2
+
∑
i∈I
∑
j∈I
α
i
α
j
||x
i
−x
j
||
2
2
=
∑
i∈I
α

(x
i
| u
i
 + x
j
| u
j
)
=
∑
i∈I
∑
j∈I
α
i
α
j
(x
i
| u
i
 + x
j
| u
j
 − x
i
− x
j

j
).
(ii) Được suy ra từ (i) khi (u
i
)
i∈I
= (x
i
)
i∈I
.
Hệ quả 1.1. Cho x, y ∈ H và α ∈ R, khi đó
||αx + (1 − α)y||
2
+ α(1 − α)||x − y||
2
= α||x||
2
+ (1 − α)||y||
2
.
Chú ý 1.2. (Biểu diễn Riesz - Frechet). Cho f ∈ B(H, R), khi đó tồn tại duy
nhất một vectơ u ∈ H mà
∀x ∈ H, f (x) = x | u.
Hơn nữa || f || = ||u||.
Nếu K là một không gian Hilbert và T ∈ B(H, K), liên hợp của T
là toán tử duy nhất T
∗
∈ B(K, H) thỏa mãn
∀x ∈ H, ∀y ∈ K, Tx | y = x | T

1.2.2. Một số tính chất quan trọng
Mệnh đề 1.1. Cho C ⊆ H và D là tập tất cả các tổ hợp lồi của các điểm
trong C, tức là
D =

∑
i∈I
α
i
x
i
| I hữu hạn,
{
x
i
}
i∈I
⊂ C,
{
α
i
}
i∈I
⊂ (0, 1],
∑
i∈I
α
i
= 1


là họ các tập hữu hạn của m tập con lồi trong H.
Khi đó ta có:
(i) ×
i∈I
C
i
là tập lồi.
(ii) ∀(α
i
)
i∈I
∈ R,
∑
i∈I
α
i
C
i
là tập lồi.
Chứng minh. (i) Hiển nhiên.
(ii) Đây là hệ quả của (i) và Mệnh đề 1.2. Từ đó
∑
i∈I
α
i
C
i
= L(×
i∈I
C

, mà ảnh mọi điểm trong H lên
nó là hình chiếu duy nhất lên C.
Ví dụ 1.4. Cho
{
e
i
}
i∈I
là một cơ sở trực chuẩn hữu hạn trong H.
Giả sử V = span
{
e
i
}
i∈I
và x ∈ H. Khi đó V là tập Chebyshev,
P
V
x =
∑
i∈I
x | e
i
e
i
và d
V
(x) =

||x||

e
i
 + ||
∑
i∈I
α
i
e
i
||
2
= ||x||
2
− 2
∑
i∈I
α
i
x | e
i
 +
∑
i∈I
|α
i
|
2
= ||x||
2
−

là liên tục.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn16
9
Chứng minh. Cho x ∈ H và giả sử (x
n
)
n∈N
là dãy trong H mà x
n
→ x.
Ta có d
C
là liên tục và do đó
||x
n
− P
C
x
n
|| = d
C
(x
n
) = ||x − P
C
x||.
Như vậy P
C
(x
n

C
(x
n
)
n∈N
.
Do đó P
C
x
n
→ P
C
x.
Ví dụ 1.5. Cho H là không gian hữu hạn chiều và (e
n
)
n∈N
là một dãy các
vectơ trực chuẩn trong H, (α
n
)
n∈N
là dãy trong (1, +∞) mà α
n
 1.
Đặt
C =
{
x
n

||
2
+ ||e
m
||
2
= 2.
Do đó mọi dãy hội tụ trong C đều là hằng số và C là tập đóng. Tuy nhiên 0
không có hình chiếu lên C, từ đó ∀n ∈ N, d
C
(0) = 1 < α
n
= ||0 − x
n
||.
Mệnh đề 1.5. Cho C là một tập lồi đóng khác rỗng trong H. Khi đó với mọi
x ∈ H hình chiếu P
C
(x) của x trên C luôn tồn tại và duy nhất.
Chứng minh. Giả sử x ∈ H, y ∈ C theo định nghĩa 1.4 ta có d
C
(x) =
||y − x||, suy ra tồn tại dãy (x
n
)
n∈N
trong C sao cho
||x
n
− x|| → d

(y ), x − z ∈ N
C
(z ).
Tức là

y − x , z − y

≤ 0
và

z − x , y − z

≤ 0.
Cộng hai bất đẳng thức này ta suy ra ||y − z|| ≤ 0 và do đó y = z.
Mệnh đề 1.6. Cho C là tập lồi đóng khác rỗng trong H. Khi đó hình chiếu
P
C
là ánh xạ không giãn.
Chứng minh. Cố định x và y thuộc H, ta có
P
C
y − P
C
x | x − P
C
x ≤ 0
và
P
C
x − P

{
x
}
và D là
tách mạnh được.
Định lý 1.1. Cho C là tập lồi đóng khác rỗng trong H và x ∈ H \ C. Khi
đó x tách mạnh được từ C.
Chứng minh. Đặt u = x − P
C
x và cố định y ∈ C. khi đó u = 0 và theo
mệnh đề 1.3 có y − x + u | u ≤ 0, tức là y − x | u ≤ −||u||
2
.
Do đó SupC − x | u ≤ −||u||
2
< 0.
Hệ quả 1.2. Cho C và D là các tập khác rỗng trong H mà C ∩ D = ∅ và
C − D là tập lồi đóng. Khi đó C và D là tách mạnh được.
Chứng minh. Từ 0 /∈ C − D, theo định lí 1.1 thì vectơ 0 là tách mạnh từ
C − D. Mà theo định nghĩa 1.5 thì C và D là tách mạnh được nếu và
chỉ nếu 0 là tách mạnh được từ C − D.
Hệ quả 1.3. Cho C và D là tập lồi đóng khác rỗng trong H mà C ∩ D = ∅
và D bị chặn, khi đó C và D là tách mạnh được.
Chứng minh. Theo hệ quả 1.2 ta cần chứng tỏ rằng C − D là tập lồi
đóng. Do tính lồi của C − D trong mệnh đề 1.3 (ii) chứng tỏ C − D
là đóng. Lấy một dãy hội tụ trong C − D mà x
n
→ y
n
→ z, ở đây

là tập con lồi của H × R.
Hàm f được gọi là hàm lõm nếu − f là hàm lồi.
Ví dụ 1.6. Cho C là tập con của H, ta có epii
C
= C × R
+
và i
C
là hàm lồi
nếu và chỉ nếu C là tập lồi.
Định nghĩa 1.7. Cho f : H → (−∞, +∞] là hàm chính thường. Khi đó f
được gọi là hàm lồi ngặt nếu ∀x ∈ dom f , ∀y ∈ dom f , ∀α ∈ (0, 1), x = y
⇒ f (αx + (1 − α)y) < α f (x) + (1 − α) f (y).
Bây giờ cho C là tập con khác rỗng của dom f , khi đó f là hàm lồi
trên C nếu ∀x ∈ C, ∀y ∈ C, ∀α ∈ (0, 1)
f (αx + (1 − α)y) ≤ α f ( x) + (1 − α) f (y).
Và f là hàm lồi ngặt trên C nếu ∀x ∈ C, ∀y ∈ C, ∀α ∈ (0, 1), x = y
⇒ f (αx + (1 − α)y) < α f (x) + (1 − α) f (y).
Ví dụ 1.7. Hàm || . || là lồi. Nếu H =
{
0
}
thì || . || không lồi ngặt.
Chứng minh. Theo tính chất lồi, bây giờ lấy x ∈ H \
{
0
}
và α ∈ (0, 1).
Ta có
||αx + (1 − α)0|| = α||x|| + (1 − α)||0||.

f : H → (−∞, +∞] : x →
∑
i∈I
φ( x | e
i
).
Khi đó f ∈ Γ
0
H.
Chứng minh. Đặt
f
i
: H → (−∞, +∞] : x → φ(x | e
i
), ∀i ∈ I.
Ta có f =
∑
i∈I
f
i
và ∀i ∈ I, 0 ≤ f
i
∈ Γ
0
H. Suy ra f ∈ ΓH.
Cuối cùng từ f (0) = 0 suy ra f là hàm chính thường.
1.3.2. Một số tính chất quan trọng
Mệnh đề 1.7. Cho f : H → [−∞, +∞] là hàm lồi. Khi đó
dom f =
{

= 1 và (x
i
)
i∈I
∈
dom f , ta có
f (
∑
i∈I
α
i
x
i
) ≤
∑
i∈I
α
i
f (x
i
). (1.5)
Chứng minh. Giả sử f là hàm lồi và cố định (x
i
)
i∈I
∈ dom f và (α
i
)
i∈I
∈

Hệ quả 1.4. Cho f : H → (−∞, +∞ ] là hàm chính thường. Khi đó các
mệnh đề sau là tương đương:
(i) f là hàm lồi.
(ii) Cho tổ hợp hữu hạn các (α
i
)
i∈I
∈ (0, 1) mà
∑
i∈I
α
i
= 1 và (x
i
)
i∈I
∈
dom f , ta có
f (
∑
i∈I
α
i
x
i
) ≤
∑
i∈I
α
i

∑
i∈I
α
i
f (x
i
).
Chứng minh. Trước hết giả sử f là lồi ngặt. Ta chứng minh điều kéo
theo bằng phương pháp quy nạp cho m phần tử trong I. Ta có kết quả
đúng với m = 2. Bây giờ giả sử m ≥ 3 mà I = 1, , m và kết quả đúng
với họ chứa m − 1 .
Ta đặt µ = f (
∑
i∈I
α
i
x
i
) =
∑
i∈I
α
i
f (x
i
) thì
µ ≤ (1 − α
m
) f (
m−1

= µ.
Như vậy bất đẳng thức (1.6) và (1.7) là đẳng thức thức thực sự và theo
giả t hiết quy nạp (1 − α
m
)
−1
(
m−1
∑
i=1
α
i
x
i
) = x
m
và x
1
= = x
m−1
. Do
đó x
1
= = x
m
. là điều cần tìm.
Ngược lại điều kéo theo có được khi chú ý đến trường hợp trong I chỉ
chứa hai phần tử.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn23
Chương 2

: y → y − x | u + f (x)
trùng với giá trị nhỏ nhất của f tại x.
Định lý 2.1. (Quy tắc Fermat) Cho f : H → (−∞, +∞] là hàm chính
thường. Khi đó :
Argmin f = ze r∂ f =
{
x ∈ H | 0 ∈ ∂ f ( x)
}
.
Chứng minh. Cho x ∈ H, khi đó
x ∈ Argmin f ⇔ ∀y ∈ H, y − x | 0 + f ( x) ≤ f (y) ⇔ 0 ∈ ∂ f (x).
Mệnh đề 2.1. Cho f : H → (−∞, +∞] là hàm chính thường và cho x ∈
dom f . Ta có:
(i) dom∂ f ⊂ dom f .
(ii) ∂ f (x) =

y∈dom f
{
u ∈ H | y − x | u ≤ f (y) − f (x)
}
.
(iii) ∂ f (x) là đóng yếu*.
(iv) Giả sử x ∈ dom f thì f là hàm nửa liên tục dưới tại x.
Chứng minh. (i) Từ f là hàm chính thường và f (x) = +∞
⇒ ∂ f (x) = ∅.
(ii) Theo định nghĩa 2.1.
(iii) Theo (ii).
(iv) Lấy u ∈ ∂ f (x) , ta có
∀y ∈ H, f (x) ≤ f ( y) + y − x | u.
Và do đó f (x) ≤ lim