Luận văn
Đề tài: Dưới vi phân hàm lồi và
ứng dụng
LỜI CẢM ƠN
Luận văn được hoàn thành tại trường Đại học sư phạm Hà Nội 2 dưới
sự hướng dẫn của PGS.TS Nguyễn Năng Tâm.
Tác giả xin bày tỏ lòng biết ơn chân thành, sâu sắc tới PGS.TS Nguyễn
Năng Tâm, người đã luôn quan tâm, động viên và tận tình hướng dẫn
tác giả trong quá trình thực hiện luận văn.
Tác giả xin được gửi lời cảm ơn chân thành Ban giám hiệu trường
Đại học sư phạm Hà Nội 2, phòng Sau đại học, các thầy cô giáo trong
nhà trường và các thầy cô giáo dạy cao học chuyên ngành Toán giải tích
đã tạo điều kiện thuận lợi trong quá trình tác giả học tập và nghiên cứu.
Tác giả xin bày tỏ lòng biết ơn tới gia đình, người thân đã động viên
và tạo mọi điều kiện để tác giả có thể hoàn thành bản luận văn này.
Hà Nội, ngày 15 tháng 8 năm 2010
Tác giả
Nguyễn Thị Thanh
LỜI CAM ĐOAN
Tác giả xin cam đoan luận văn là công trình nghiên cứu của riêng tác
giả dưới sự hướng dẫn của PGS.TS Nguyễn Năng Tâm.
Hà Nội, ngày 15 tháng 8 năm 2010
Tác giả
Nguyễn Thị Thanh
Mục lục
Mở đầu 1
1 Tập lồi và hàm lồi 3
1.1. Định nghĩa tập lồi và các tính chất . . . . . . . . . . . . 3

F : X ⇒ Y ánh xạ đa trị từ X vào Y
domf miền hữu hiệu của f
epif trên đồ thị của f
int Ω phần trong của Ω
ri Ω phần trong tương đối của Ω
cone Ω nón lồi sinh bởi Ω
N(¯x, Ω) nón pháp tuyến của Ω tại ¯x
f

(x; v) đạo hàm theo hướng của f tại x theo hướng v
của f tại x theo hướng v
∂f(x) dưới vi phân của f tại x
MỞ ĐẦU
1. Lý do chọn đề tài
Những hàm số không khả vi xuất hiện thường xuyên và được biết
đến từ lâu trong Toán học và các khoa học ứng dụng khác. Vì lý thuyết
vi phân cổ điển không thể ứng dụng được cho việc khảo sát những đối
tượng không khả vi, nên các lý thuyết vi phân suy rộng đã ra đời và đã
được xây dựng. Lý thuyết vi phân suy rộng đầu tiên là lý thuyết vi phân
suy rộng cho các hàm lồi. Với những cống hiến quan trọng của T. R.
Rockafellar và một số nhà toán học khác, ngày nay Giải tích lồi đã trở
thành một bộ phận quan trọng và đẹp đẽ của Giải tích toán học, góp
phần giải quyết được nhiều bài toán trong thực tế ([1], [7]). Với mong
muốn được tìm hiểu sâu hơn về sự phát triển của phép tính vi-tích phân
và ứng dụng của nó, tôi đã chọn nghiên cứu đề tài: “Dưới vi phân của
hàm lồi và ứng dụng”.
2. Mục đích nghiên cứu
Đề tài nghiên cứu các kết quả đạt được về dưới vi phân của hàm lồi
và một số ứng dụng vào bài toán tối ưu.
3. Nhiệm vụ nghiên cứu

n
(α ∈ I) là các tập lồi với I là tập chỉ số
bất kì, ta cần chứng minh tập A =
∩
α∈I
A
α
là lồi.
Lấy tùy ý x
1
, x
2
∈ A. Khi đó x
1
, x
2
∈ A
α
, với ∀α ∈ I. Do A
α
là lồi cho
nên λx
1
+ (1 − λ)x
2
∈ A
α
với ∀λ ∈ [0, 1] ⇒ λx
1
+ (1 − λ)x

+ λ
2
A
2
+ + λ
m
A
m
là lồi.
Định nghĩa 1.1.2. Vectơ x ∈ R
n
được gọi là tổ hợp lồi của các vectơ
x
1
, , x
m
∈ R
n
nếu ∃λ
i
≥ 0 (i = 1, 2, , m)
m

i=1
λ
i
= 1 sao cho x =
m

i=1

≥ 0; i = 1, m, ∀m ∈ N}
Chứng minh. ⇐ / Chọn m = 2, hiển nhiên đúng.
⇒ / Ta chứng minh bằng quy nạp
Giả sử A là tập lồi, ta lấy tùy ý x
1
, x
2
, , x
m
∈ A; λ
1
, , λ
m
≥ 0 và
m

i=1
λ
i
= 1 ; x =
m

i=1
λ
i
x
i
. Ta chứng minh x ∈ A
m = 1 : x
1

∈ A;
m

i=1
λ
i
= 1; λ
i
≥ 0; i ∈ N
Xét x =
m

i=1
λ
i
x
i
=
m−1

i=1
λ
i
x
i
+ λ
m
x
m
Với λ

m
= 1 nên theo giả thiết quy nạp y =
m−1

i=1
x
i
∈ A
Với y ∈ A và x
m
∈ A ta có 1 − λ
m
> 0
và (1 − λ
m
) + λ
m
= 1 ⇒ x = (1 − λ
m
)y + λ
m
x
m
∈ A
5
1.2. Định nghĩa hàm lồi và các tính chất
1.2.1. Hàm lồi
Định nghĩa 1.2.1. Cho hàm f : S → R, trong đó S ⊂ R
n
; R =

Ví dụ 1.2.2. Hàm chỉ δ(./A) của tập lồi A ⊂ R
n
là hàm lồi
δ(x/A) :=

0 khi x ∈ A
+∞ khi x /∈ A
6
Định lý 1.2.1. Giả sử A là một tập lồi trong R
n
, hàm f : A →
(−∞; +∞]. Khi đó, f lồi trên A khi và chỉ khi:
f(λx + (1 − λ)y) ≤ λf(x) + (1 − λ)f(y) (1.1)
(∀λ ∈ [0; 1]; ∀x, y ∈ A)
Chứng minh. ⇒ / Giả sử f là hàm lồi, ta có thể xem như λ ∈ (0; 1) vì
với λ ∈ {0; 1} thì (1.1) hiển nhiên đúng.
Lấy r = f(x); s = f(y). Không thể xảy ra trường hợp f(x) < +∞; f(y) <
+∞ mà f(λx + (1 − λ)y) = +∞ bởi vì dom f lồi, với x, y ∈ dom f thì
[x, y] ∈ dom f. Do λ ∈ (0; 1) nên f(x) = +∞ ⇒ λf(x) = +∞. Nếu x
hoặc y không thuộc dom f thì f(x) = +∞ hoặc f(y) = +∞ và (1.1)
đúng.
Bởi vì epi f lồi ∀(x, r) ∈ epi f; ∀(y, s) ∈ epi f; ∀λ ∈ (0; 1) nên
λ(x, r) + (1 − λ)(y, s) = (λx + (1 − λ)y; λr + (1 − λ)s) ∈ epif
⇒ f(λx + (1 − λ)y) ≤ λr + (1 − λ)s
⇒ f(λx + (1 − λ)y) ≤ λf(x) + (1 − λ)f(y)
⇐ / Giả sử (1.1) đúng. Lấy tùy ý (x, r) ∈ epi f; (y, s) ∈ epi f; ∀λ ∈ [0; 1]
Ta phải chứng minh
λ(x, r) + (1 − λ)(y, s) ∈ epi f
Thật vậy
(x, r) ∈ epi f; (y, s) ∈ epif ⇒ f(x) ≤ r; f(y) ≤ s

f(x
1
) + + λ
m
f(x
m
) (1.2)
Chứng minh. Không giảm tổng quát, giả sử λ
i
≥ 0 (i = 1, , m). Ta có,
nếu x
i
/∈ dom f thì f(x
i
) = +∞; λ
i
f(x
i
) = +∞ ⇒ (1.2) hiển nhiên
đúng.
Do dom f lồi nên nếu f(x
i
) < +∞ (i = 1, , m) thì f

m

i=1
λ
i
x

f(x
1
) + + λ
m
f(x
m
) ∈ epi f
⇒ f(λ
1
x
1
+ + λ
m
x
m
) ≤ λ
1
f(x
1
) + + λ
m
f(x
m
)
Mệnh đề 1.2.1. Giả sử f : R
n
→ R. f là hàm lồi khi và chỉ khi
f(λx + (1 − λ)y) < λr + (1 − λ)s
(∀λ ∈ (0; 1); ∀x, y : f(x) < r; f(y) < s)
Định nghĩa 1.2.3. Một hàm f xác định trên R


= f(x) + f(y)
⇐ / Giả sử (1.3) đúng. Lấy (x
i
, r
i
) ∈ epi f (i = 1, 2), ta có
(x
1
+ x
2
, r
1
+ r
2
) ∈ epi f, bởi vì f(x
1
+ x
2
) ≤ f(x
1
) + f(x
2
) ≤ r
1
+ r
2
Mà f là hàm thuần nhất dương nên nếu (x, r) ∈ epi f thì f(x) ≤ r và
λf(x) = f(λx) ≤ λr (0 < λ < ∞) ⇒ λ(x, r) ∈ epi f
Vậy epi f đóng đối với phép cộng và phép nhân vô hướng

)
≤ ϕ((1 − λ)f(x
1
) + λf(x
2
))
≤ (1 − λ)ϕ(f(x
1
)) + λϕ(f(x
2
))
≤ (1 − λ)h(x
1
) + λh(x
2
)
(do f lồi và ϕ không giảm)
Từ đó suy ra h lồi.
Định lý 1.2.5. Cho f
i
(i = 1, , m) là hàm lồi chính thường trên R
n
khi đó f
1
+ f
2
+ + f
m
là một hàm lồi trên R
n

2
∈ R
n
; λ ∈ (0; 1)
Giả sử f(x) < µ
1
; f(y) < µ
2
, ta có
f((1 − λ)x + λy) < (1 − λ)µ
1
+ λµ
2
Thật vậy theo định nghĩa f ta có
f((1 − λ)x + λy) = inf {µ|((1 − λ)x + λy, µ) ∈ C}
Vì f(x) < µ
1
nên với ε = µ−f(x) > 0; ∃µ
1
: (x, µ
1
) ∈ C và µ
1
< f(x)+ε
Do đó f(x) < µ
1
< µ
1
Tương tự f(y) < µ
2

< (1 − λ)µ
1
+ λµ
2
Suy ra f lồi (theo mệnh đề 1.2.1)
1.2.3. Tính liên tục của hàm lồi
Định nghĩa 1.2.4. Cho X là không gian định chuẩn.
1) Ta nói rằng f là hàm Lipschitz trên tập D ⊂ X, nếu tồn tại số k sao
10
cho
|f(x) − f(x

)| ≤ kx − x

, ∀x, x

∈ D.
2) Hàm f được gọi là Lipschitz địa phương tại x ∈ X, nếu tồn tại số
ε > 0 sao cho f là Lipschitz trên B(x, ε) ∩ D.
3) Hàm f được gọi là Lipschitz địa phương trên D, nếu nó Lipschitz địa
phương tại mọi điểm của D.
Mệnh đề 1.2.2. Một hàm lồi chính thường f trên R
n
là liên tục tại mỗi
điểm trong của miền hữu hiệu của nó.
Định lý 1.2.7. Cho một hàm lồi chính thường f trên R
n
. Ta có các
khẳng định sau là tương đương:
i) f là liên tục tại điểm x


,
ta có V ⊂ epif và V là tập mở, nên ta suy ra int(epif) = ∅.
[(iii) ⇒ (iv)] Nếu int(epif) = ∅ thì tồn tại một tập mở U và một
khoảng mở I ⊂ R thỏa mãn U × I ⊂ epif, do đó U ⊂ domf, tức là
int(domf) = ∅. Xét tập compact bất kì C ⊂ int(domf) và lấy B là
hình cầu đơn vị trong R
n
. Với mỗi r > 0, tập C + rB là compact, và
họ những tập đóng {(C + rB)\int(domf), r > 0} có một giao là rỗng.
11
Trong biểu diễn của tính compact của C + rB một họ con hữu hạn của
những họ này phải có một giao bằng rỗng, do đó với r > 0 ta phải có
(C + rB)\int(domf) = ∅, nghĩa là (C + rB) ⊂ int(domf). Bởi Mệnh đề
1.2.2 hàm f là liên tục trên int(domf). Kí hiệu µ
1
và µ
2
là cực đại và
cực tiểu của f trên C + rB. Lấy x, x

là hai điểm phân biệt trong C và
lấy z = x +
r(x − x

)
x − x


. Khi đó z ∈ C + εB ⊂ int(domf). Vì

≤ kx − x

, k =
µ
1
− µ
2
r
.
Bởi tính đối xứng, ta cũng có f(x

) − f(x) ≤ kx − x

. Do vậy, với mọi
x, x

thỏa mãn x ∈ C, x

∈ C
|f(x) − f(x

)| ≤ k x − x

 ,
điều này chứng minh cho tính Lipschitz của f trên C.
(iv) ⇒ (v) và (v) ⇒ (i) : là rõ ràng.
Chương 2
Dưới vi phân hàm lồi
2.1. Định nghĩa và các tính chất cơ bản
Định nghĩa 2.1.1. Cho f là hàm lồi chính thường trên R

) = ∅
Ví dụ 2.1.4. Cho f(x) = x
2
, x ∈ R
a) x
0
= 0 ta có
x
∗
∈ ∂f(0) ⇔ x
2
≥ x
∗
, x ∀x ∈ R
⇔ x
2
− x
∗
x ≥ 0 ∀x ∈ R
⇔ x
∗
= 0
Vậy ∂f(0) = 0
12
13
b) x
0
= 1 ta có
x
∗

∗
= 2
Vậy ∂f(1) = 2
Nhận xét 2.1. Rõ ràng rằng x
∗
∈ R
n
là một dưới gradient của f tại điểm
x
0
nếu và chỉ nếu tồn tại α ∈ R sao cho hàm affine x → x
∗
, x + α
không trội hơn f khắp nơi và bằng f(x
0
) tại điểm x
0
.
Định lý 2.1.1. Cho f : R
n
→ R là lồi và x ∈ domf, thì
f(x) = min
x∈R
n
f(x) ⇔ 0 ∈ ∂f(x).
Chứng minh. Thật vậy, do f đạt cực tiểu tại x ∈ domf nên
f(x) − f(x) ≥ 0 ⇔ f(x) − f(x) ≥ 0, x − x ⇔ 0 ∈ ∂f(x).
Định nghĩa 2.1.2. Hàm afin h được gọi là hàm non afin của f nếu
h(x) ≤ f(x) với ∀x; h được gọi là hàm non đúng của f tại x
0

n
và
h(x
0
) = f(x
0
), suy ra h(x) = x
∗
, x − x
0
 + f(x
0
); x
∗
∈ ∂f(x
0
) do đó
∂f(x
0
) = ∅; ∀x
0
∈ int(domf)
Lấy C là tập bị chặn C ⊂ int(domf), khi đó ∃r > 0, C+rB ⊂ int(domf).
Với B là kí hiệu hình cầu đơn vị trong R
n
. Cố định x ∈ C ta có
x
∗
, y − x + f(x) ≤ f(y) ∀y ∈ R
n

∗
x
∗


≤ γ
Suy ra x
∗
 ≤ γ, ∀x
∗
∈ ∂f(x)
Vì f là Lipschitz trên C + rB với hệ số Lipschitz γ > 0 nên với mỗi
x ∈ C và x
∗
∈ ∂f(x) ta có x
∗
 ≤ γ
Vì vậy
∪
x∈C
∂f(x) là bị chặn.
Hệ quả 2.1. Cho f là một hàm lồi chính thường trên R
n
. Với bất kì tập
con lồi bị chặn C của int(domf) tồn tại một hằng số dương γ thỏa mãn
f(x) = sup {h(x)| h ∈ Q
0
} , ∀x ∈ C,
ở đó mỗi h ∈ Q
0

) nên f(x) − f(x
0
) ≥ x
∗
, x − x
0
.
Lấy x = 2x
0
có x
∗
, x
0
 ≤ f(x
0
).
Sau đó lấy x = 0 thay vào ta có −x
∗
, x
0
 ≤ −f(x
0
) ⇔ x
∗
, x
0
 ≥ f(x
0
).
Từ đó ta có x

⇒ f(x) ≥ x
∗
, x, ∀x ∈ R
n
.
Ngược lại, nếu x
∗
thuộc vào vế phải của (2.3) thì
x
∗
, x − x
0
 = x
∗
, x − x
∗
, x
0
 ≤ f(x) − f(x
0
).
Do vậy x
∗
∈ ∂f(x
0
).
Nhận xét 2.2. Nếu ta thêm vào điều kiện f(−x) = f(x) ≥ 0 thì điều
kiện x
∗
, x ≤ f(x) tương đương với |x





N
C
(x
0
) ∩ B(0, 1), x
0
∈ C,

x
0
− π
C
(x
0
)
x
0
− π
C
(x
0
)

, x
0
/∈ C,

∗
, x − x
0
 ≤ 0, ∀x ∈ C} nếu x
0
∈ C,
∅ nếu x
0
/∈ C.
16
Thật vậy, lấy x
0
∈ C, ta có f(x
0
) = 0. Khi đó x
∗
∈ ∂f(x
0
) kéo theo
x
∗
, x − x
0
 ≤ f(x), ∀x ∈ R
n
. Do vậy, trong trường hợp đặc biệt thì
x
∗
, x − x
0

∗
∈ B(0, 1).
Ngược lại, nếu x
∗
∈ N
C
(x
0
) ∩ B(0; 1) thì
x
∗
, x − π
C
(x) ≤ x − π
C
(x) ≤ f(x) và x
∗
, π
C
(x) − x
0
 ≤ 0.Từ
x
∗
, x − x
0
 = x
∗
, x − π
C

n
.
Do vậy, lấy x = π
C
(x
0
) thay vào ta có
p, π
C
(x
0
) − x
0
 ≤ f(π
C
(x
0
)) − f(x
0
)
⇔ x
∗
, π
C
(x
0
) − x
0
 ≤ − π
C

0
− π
C
(x
0
) ≤ π
C
(x
0
) − x
0
 .
Suy ra x
∗
, x
0
− π
C
(x
0
) = π
C
(x
0
) − x
0
, và do đó x
∗
=
x

0
)
và
x
∗
, x − π
C
(x) ≤ x − π
C
(x) = f(x)
17
ta suy ra rằng
x
∗
, x − x
0
 + f(x
0
) = x
∗
, x − x
0
 + x
∗
, x
0
− π
C
(x
0

(π
C
(x
0
)) nên x
∗
, π
C
(x) − π
C
(x
0
) ≤ 0, và do đó
x
∗
, x − x
0
 ≤ f(x) − f(x
0
), ∀x ∈ R
n
.
Vì vậy x
∗
∈ ∂f(x
0
).
Định nghĩa 2.1.3. (Đạo hàm theo hướng). Cho f : R
n
→ R; x

i) f

(x
0
, u) tồn tại với mỗi hướng u ∈ R
n
và thỏa mãn
f

(x
0
, u) = inf
λ>0
f(x
0
+ λu) − f(x
0
)
λ
. (2.4)
ii) Hàm u → f

(x
0
, u) là lồi và thuần nhất dương và x
∗
∈ ∂f(x
0
) nếu và
chỉ nếu

0
)} . (2.6)
18
Chứng minh. (i) Chứng minh tồn tại
f

(x
0
, u) = lim
λ→0
+
f(x
0
+ λu) − f(x
0
)
λ
Lấy λ
2
> λ
1
> 0. Vì f là hàm lồi nên:
f(x + λ
1
u) = f

λ
1
λ
2

2
u) − f(x)
λ
2
Do đó
f(x+λu)−f (x)
λ
không tăng khi λ → 0
+
Lấy tùy ý λ > 0 ta có
f(x) = f

λ
1 + λ
(x − u) +
1
1 + λ
(x + λu)

≤
λ
1 + λ
f(x − u) +
1
1 + λ
f(x + λu)
Do đó
f(x + λu) − f(x)
λ
≥ f(x) − f(x − u)

λ
= µ. inf
λ>0
f(x + λµu) − f(x)
λµ
= µ.f

(x
0
, u)
⇒ Hàm u → f

(x
0
, u) là thuần nhất dương.
- Ta chứng minh u → f

(x
0
, u) lồi.
19
Ta có:
f

(x
0
, u + v) = inf
λ>0
f(x
0

f(x
0
+ λv) − f(x
0
)
λ
= f

(x
0
, u) + f

(x
0
, v)
Do đó hàm u → f

(x
0
, u) là hàm thuần nhất và cộng tính và vì vậy nó
là hàm lồi.
- Đặt x = x
0
+ λu ta có: x − x
0
= λu
x
∗
∈ ∂f(x
0

+ λu) − f(x
0
)
λ
= f

(x
0
, u) ∀u ∈ R
n
(iii) Nếu f là liên tục tại x
0
thì có một lân cận U của x
0
sao cho f(x
0
+u)
bị chặn trên ở trên U. Khi đó, bởi (i), có f

(x
0
; u) ≤ f(x
0
+ u) − f(x
0
),
theo đó f

(x
0

∗
, u |x
∗
∈ ∂f(x
0
)}.
2.2. Một số phép toán dưới vi phân
Cho hàm f : R
n
→ R lồi, chính thường và λ > 0, ta có ∂(λf)(x) =
λ∂f(x). Thật vậy với x ∈ domf, do f lồi, chính thường và λ > 0 thì λf
20
cũng là lồi, chính thường và x ∈ dom(λf).
Ta có (λf)

(x, .) = λf

(x, .)
Từ định lý 2.2.1 suy ra ∂(λf)(x) = λ∂f(x)
Nếu x /∈ domf thì ∂(λf)(x) = λ∂f(x) = ∅
Ta sử dụng định lý sau cho việc chứng minh các phép toán của dưới vi
phân.
Định lý 2.2.1. Cho f
1
, f
2
, , f
m
là những hàm lồi hữu hạn trên tập lồi
khác rỗng D trong R

là những hàm lồi chính
thường trên R
n
. Thì với mỗi x ∈ R
n
có
∂f
1
(x) + ∂f
2
(x) ⊂ ∂(f
1
+ f
2
)(x)
Hơn nữa, nếu tồn tại một điểm a ∈ domf
1
∩ domf
2
và một trong hai
hàm là liên tục ta có được bao hàm thức ngược lại.
Chứng minh. Giả sử với p
1
∈ ∂f
1
(x); p
2
∈ ∂f
2
(x) theo định nghĩa ta có:

, y − x.
Do đó p
1
+ p
2
∈ ∂(f
1
+ f
2
) nên ta có ∂f
1
(x) + ∂f
2
(x) ⊂ ∂(f
1
+ f
2
)(x).