LỜI CẢM ƠN
Luận văn được hoàn thành tại trường Đại học Sư phạm Hà Nội 2
dưới sự hướng dẫn của thầy giáo PGS. TS. Nguyễn Năng Tâm. Sự giúp
đỡ và hướng dẫn tận tình song rất nghiêm túc của thầy trong suốt quá
trình thực hiện luận văn này đã giúp tác giả trưởng thành hơn rất nhiều
trong cách tiếp cận một vấn đề mới. Tác giả xin bày tỏ lòng biết ơn,
lòng kính trọng sâu sắc nhất đối với thầy.
Tác giả xin trân trọng cảm ơn Ban giám hiệu trường Đại học Sư
phạm Hà Nội 2, phòng Sau đại học, các thầy cô giáo trong nhà trường
và các thầy cô giáo dạy cao học chuyên ngành Toán giải tích đã giúp đỡ,
tạo điều kiện thuận lợi cho tác giả trong suốt quá trình học tập.
Tác giả xin chân thành cảm ơn các đồng nghiệp cùng gia đình,
người thân, bạn bè đã giúp đỡ, động viên và tạo điều kiện thuận lợi để
tác giả hoàn thành khóa học Thạc sĩ và hoàn thành luận văn này.
Hà Nội, ngày 20 tháng 11 năm 2013
Tác giả
Nguyễn Thị Thanh Hà
LỜI CAM ĐOAN
Luận văn được hoàn thành tại trường Đại Học Sư phạm Hà Nội 2
dưới sự hướng dẫn của PGS. TS. Nguyễn Năng Tâm.
Tôi xin cam đoan luận văn là công trình nghiên cứu của riêng tôi.
Trong quá trình nghiên cứu và hoàn thành luận văn tôi đã kế thừa
những thành quả khoa học của các nhà khoa học và đồng nghiệp với sự
trân trọng và biết ơn. Tôi xin cam đoan rằng các thông tin trích dẫn
trong luận văn đã được chỉ rõ nguồn gốc.
Hà Nội, ngày 20 tháng 11 năm 2013
Tác giả
Nguyễn Thị Thanh Hà
Mục lục
Lời cảm ơn i
Lời cam đoan ii

(x)
X
∗
Không gian đối ngẫu của X
X
∗∗
Không gian đối ngẫu thứ hai của X
τ Tôpô
τ
w
Tôpô yếu
τ
w
∗
Tôpô yếu*
. Chuẩn
δf(x, h) Vi phân cấp một của f với gia lượng h
F : X ⇒ Y Ánh xạ đa trị F
gphF Đồ thị của F
epif Trên đồ thị
domF Miền hữu hiệu của F
X ×Y Tích đề các của X và Y
intA Phần trong của A
¯
A Bao đóng của A
f

(x; d) Đạo hàm theo hướng của f tại x theo hướng d
f
−

DF
z
(.) Đạo hàm Contigent của F
D
b
F
z
(.) Đạo hàm gần kề của F
C
F
z
(.) Đạo hàm Clarke của F
D
∗
F Đối đạo hàm của F
d
C
(x) Khoảng cách từ x đến tập C
T
C
(x) Nón tiếp tuyến của C tại x
N
C
(x) Nón pháp tuyến của C tại x
S
C
(x) Tập các pháp tuyến kề của C tại x
ˆ
N
ε

khoảng cách. Một lớp các hàm không trơn bản chất được tạo ra nhờ hàm
khoảng cách
d(x; C) := inf
y∈C
x − y (I)
trong đó x ∈ E là điểm, C ⊂ E là tập cố định trong không gian Banach
E với chuẩn .. Một lớp hàm khoảng cách tổng quát hơn được tạo nên
bởi
ρ(z, x) := inf
y∈F(z)
x − y = d(x, F(z)) (II)
trong đó F là ánh xạ đa trị từ không gian Banach Z vào không gian
Banach X. Rõ ràng, hàm trong (II) có hai biến, biểu thị khoảng cách từ
x đến tập chuyển động F (z), là một mở rộng của hàm khoảng cách quen
biết (I) ứng với (II) khi F(z) ≡ C. Những hàm dạng (I), (II) đóng vai trò
đáng lưu ý trong giải tích biến phân, tối ưu hóa và ứng dụng của chúng.
Sau khi được học những kiến thức về Toán giải tích, với mong muốn tìm
hiểu sâu hơn về những kiến thức đã học, mối quan hệ và ứng dụng của
chúng, tôi đã chọn đề tài nghiên cứu “ Hàm khoảng cách và một số
ứng dụng ”.
2. Mục đích nghiên cứu
Nắm được các thuộc tính của hàm khoảng cách và một số ứng dụng
của chúng trong giải tích biến phân, tối ưu hóa.
2
3. Nhiệm vụ nghiên cứu
Nghiên cứu về tính liên tục, tính khả vi, tính dưới khả vi của hàm
khoảng cách. Nghiên cứu về ứng dụng của hàm khoảng cách trong giải tích
và tối ưu.
4. Đối tượng và phạm vi nghiên cứu
Hàm khoảng cách trong không gian Hilbert và trong không gian Ba-

Định nghĩa 1.1.3. Không gian tôpô (X, τ) được gọi là không gian tôpô
tuyến tính nếu:
3
4
(i) Mọi x, y ∈ X, mọi lân cận W của x + y, tồn tại lân cận U của x,
lân cận V của y sao cho U + V ⊂ W .
(ii) Mọi λ ∈ R, mọi x ∈ X, mọi lân cận W của λx, tồn tại ε > 0, và lân
cận V của x sao cho µV ⊂ W, ∀µ ∈ (λ −ε, λ + ε).
Định nghĩa 1.1.4. Cho X là không gian véc tơ. Tập A ⊂ X được gọi là
lồi nếu với mọi cặp điểm x, y ∈ A, ∀λ ∈ (0, 1) có
λx + (1 − λ)y ∈ A.
Định nghĩa 1.1.5. Cho (X, τ) là một không gian tôpô tuyến tính, nếu tồn
tại một cơ sở lân cận gốc gồm toàn tập lồi thì τ được gọi là tôpô (tuyến
tính) lồi địa phương và X được gọi là không gian tôpô tuyến tính lồi địa
phương.
Định nghĩa 1.1.6. Cho (X, τ) là một không gian tôpô lồi địa phương
Hausdorff và f : X → [ − ∞, ∞] là một phiếm hàm trên X.
epif := {(x, γ) ∈ X
×
R |f(x) ≤ γ} là trên đồ thị của f.
f được gọi là hàm lồi nếu epif là tập lồi.
Định nghĩa 1.1.7. Một tập K ⊂ X được gọi là nón nếu mọi điểm k ∈ K
và λ > 0 ta có λk ∈ K và nếu K là một tập lồi thì nó được gọi là nón lồi.
Định nghĩa 1.1.8. Cho X là một không gian tôpô tuyến tính, tập các
phiếm hàm tuyến tính liên tục trên X được gọi là không gian liên hợp (hay
không gian đối ngẫu) của X, kí hiệu X
∗
.
Với mỗi x
∗

tính X trên trường R cùng với một ánh xạ . : X → R gọi là chuẩn thỏa
mãn các tiên đề:
(i) x ≥ 0, ∀x ∈ X; x = 0 ⇔ x = θ.
(ii) αx = |α|x; ∀x ∈ X, ∀α ∈ R.
(iii) x + y ≤ x + y; ∀x, y ∈ X.
Kí hiệu (X, .).
Định nghĩa 1.1.13. Không gian định chuẩn (X, .) được gọi là không
gian Banach nếu X với metric d(x, y) = x −y là một không gian đủ.
Định nghĩa 1.1.14. Cho X là không gian tuyến tính trên R, ta gọi tích
vô hướng trên không gian X mỗi ánh xạ ., . : X×X → R thỏa mãn các
tiên đề
(i) (∀x, y, z ∈ X) x + y, z = x, z + y, z.
(ii) (∀x, y ∈ X) (∀α ∈ R) αx, y = α x, y.
(iii) (∀x ∈ X) x, x > 0 nếu x = θ, x, x = 0 nếu x = θ.
Định nghĩa 1.1.15. Không gian tuyến tính X được gọi là không gian
Hilbert nếu trên đó được trang bị một tích vô hướng ., . sao cho với
x =

x, x thì X là một không gian Banach.
1.2 Hàm liên tục, hàm Lipschitz, hàm khả vi
Cho (X, τ
X
) và (Y, τ
Y
) là 2 không gian tôpô, ánh xạ f : X → Y .
6
Định nghĩa 1.2.1. f được gọi là liên tục tại x
0
∈ X nếu với mọi lân cận
U của f(x

(x)](h).
Định nghĩa 1.2.4. Cho X, Y là hai tập hợp bất kỳ. Cho F : X ⇒ Y là
ánh xạ từ X vào tập hợp gồm toàn bộ các tập con của Y (được ký kiệu là
2
Y
). Ta nói F là ánh xạ đa trị từ X vào Y .
Tức là với mỗi x ∈ X thì F(x) là một tập con của Y .
Định nghĩa 1.2.5. Đồ thị gphF , miền hữu hiệu domF và miền ảnh rgeF
của ánh xạ đa trị F : X ⇒ Y tương ứng được xác định bằng các công thức:
gphF = {(x, y) ∈ X ×Y : y ∈ F (x)},
domF = {x ∈ X : F (x) = ∅},
rgeF = {y ∈ Y : ∃x ∈ X sao cho y ∈ F (x)}.
7
Định nghĩa 1.2.6. Cho F : X ⇒ Y là ánh xạ đa trị, X và Y là các
không gian tôpô
1) Nếu gphF là tập đóng trong không gian tôpô tích X ×Y , thì F được
gọi là ánh xạ đóng (hoặc ánh xạ có đồ thị đóng).
2) Nếu X và Y là các không gian tuyến tính tôpô và nếu gphF là tập
lồi trong không gian tích X ×Y , thì F được gọi là ánh xạ đa trị lồi.
3) Nếu F (x) là tập đóng với mọi x ∈ X, thì F được gọi là ánh xạ có giá
trị đóng.
4) Nếu Y là không gian tuyến tính tôpô và nếu F (x) là tập lồi với mọi
x ∈ X, thì F được gọi là ánh xạ có giá trị lồi.
Định nghĩa 1.2.7. Cho F : X ⇒ Y là ánh xạ đa trị từ không gian tôpô
X vào không gian tôpô Y
1) F được gọi là nửa liên tục trên tại x ∈ domF nếu với mọi tập mở
V ⊂ Y thỏa mãn F(x) ⊂ V tồn tại lân cận mở U của x sao cho
F (x) ⊂ V, ∀x ∈ U.
Nếu F là nửa liên tục trên tại mọi điểm thuộc domF , thì F được gọi
là nửa liên tục trên ở trong X.

Y
là hình cầu đơn vị đóng trong Y.
Định nghĩa 1.2.9. Ta nói F là Lipschitz trên địa phương tại x ∈ domF
nếu tồn tại l > 0 và δ > 0 sao cho
F (x) ⊂ F (x) + l x −xB
Y
với mọi x ∈ B(x, δ).
Định nghĩa 1.2.10. Ta nói F là giả Lipschitz gần điểm (x, y) ∈ gphF
nếu tồn tại l > 0, δ > 0 và µ > 0 sao cho
F (x
2
) ∩ B(y, µ) ⊂ F (x
1
) + l x
2
− x
1
B
Y
với mọi x
1
, x
2
∈ B(x, δ).
1.3 Một số khái niệm dưới vi phân
Định nghĩa 1.3.1. Cho f : X → R. Đạo hàm theo hướng của f tại một
điểm x ∈ X theo hướng d ∈ X được cho bởi
f

(x; d) := lim

Định nghĩa 1.3.4. Dưới vi phân Clarke của f tại x được cho bởi
∂f(x) := {x
∗
∈ X
∗
: x
∗
, d ≤ f
0
(x; d) ∀d ∈ X}.
Định nghĩa 1.3.5. Cho X là không gian Banach, ϕ : X → R là hàm
nhận giá trị trong tập số thực suy rộng, hữu hạn tại x. Với mỗi ε ≥ 0, đặt
ˆ
∂
ε
ϕ(¯x) :=

x
∗
∈ X
∗
: lim
x→x
inf
ϕ(x) − ϕ(x) −x
∗
, x −x
x − x
≥ −ε


ˆ
∂(−ϕ)(¯x) được gọi là
dưới vi phân Fréchet trên của ϕ tại
x.
Định nghĩa 1.3.6. Véc tơ x
∗
∈ X
∗
được gọi là dưới gradient gần kề của
ϕ tại x nếu tồn tại ε ≥ 0 sao cho
lim
x→x
inf
ϕ(x) − ϕ(x) −x
∗
, x −x
x − x
2
≥ −ε.
Tức là tồn tại ε > 0 và δ > 0 sao cho
ϕ(x) − ϕ(x) ≥ x
∗
, x −x −εx −x
2
, với mọi x ∈ B(x, δ).
Tập hợp ∂
p
ϕ(¯x) gồm tất cả các dưới gradient gần kề của ϕ tại x được
gọi là dưới vi phân gần kề của ϕ tại x.
10

x
∗
.
Định nghĩa 1.3.8. Tập hợp ∂
∞
ϕ(¯x) := lim
x→¯x
ε,λ↓0
sup λ
ˆ
∂
ε
ϕ(x) được gọi là dưới
vi phân qua giới hạn suy biến hay dưới vi phân suy biến của ϕ tại x.
Định nghĩa 1.3.9. Ta nói rằng f là khả vi chặt tại một điểm x ∈ X nếu
∃v ∈ X
∗
sao cho
v, d = lim
y→x
t↓0
f(y + td) − f(y)
t
, ∀d ∈ X.
Định nghĩa 1.3.10. Cho X,Y là hai không gian định chuẩn, ánh xạ
đa trị F : X ⇒ Y . Đạo hàm contigent (đạo hàm Bowligand), kí hiệu:
DF
z
(.) : X ⇒ Y của F tại điểm z = (x, y) ∈ gphF là ánh xạ đa trị có đồ
thị trùng với nón tiếp tuyến Bonligand T

b
gphF
(z)

với mọi u ∈ X.
Nếu F ≡ f là ánh xạ đơn trị, thì ta viết D
b
f
x
(.) thay cho D
b
F
(x,f(x))
(.).
Định nghĩa 1.3.12. Cho X,Y là hai không gian định chuẩn, ánh xạ
đa trị F : X ⇒ Y . Đạo hàm Clarke (đạo hàm tiếp tuyến làm tròn)
11
CF
z
(.) : X ⇒ Y của F tại điểm z = (x, y) ∈ gphF là ánh xạ đa trị có đồ
thị trùng với hình nón tiếp tuyến Clarke C
gphF
(z), tức là:
CF
z
(u) = {v ∈ Y : (u, v) ∈ C
gphF
(z)}, với mọi u ∈ X.
Định nghĩa 1.3.13. Xét ánh xạ đa trị F : X ⇒ Y giữa các không gian
Banach. Đặt

∗
: (x
∗
, −y
∗
) ∈ N
gphF
(¯x, ¯y) }.
Kết luận
Chương 1 đã trình bày là một số khái niệm cơ bản về các không gian
và ánh xạ làm công cụ để trình bày các chương sau.
Chương 2
Hàm khoảng cách và một số ứng
dụng
Chương 2 dành cho việc trình bày định nghĩa khoảng cách từ môt
điểm đến một tập cố định, các tính chất và một số ứng dụng của nó.
2.1 Hàm khoảng cách
Định nghĩa 2.1.1. Cho không gian Banach X với chuẩn .; C là một
tập con cố định trong X, khoảng cách từ một điểm x ∈ X đến C. Kí hiệu:
d
C
(x) hay d(x; C).
d
C
(x) = inf
y∈C
x − y. (I)
Nếu C là đóng thì x ∈ C nếu d
C
(x) = 0.

2
− r khi x /∈ B.
12
13
2.2 Tính chất
Định lý 2.2.1. Nếu C là tập lồi thì d
C
(·) là hàm lồi.
Chứng minh. Cho x, y trong X và λ ∈ (0, 1) . Lấy ε > 0, chọn c
x
, c
y
trong
C sao cho
c
x
− x ≤ d
C
(x) + ε, c
y
− y ≤ d
C
(y) + ε,
và cho c trong C xác định bởi: c = λc
x
+ (1 −λ)c
y
thì
d
C

(x; v) = 0.
Chứng minh. Do C là tập lồi nên d
C
là lồi (định lý 2.2.1) và theo [10 mệnh
đề 2.3.6.] suy ra d
0
C
và d

C
là trùng nhau. Hệ quả được chứng minh.
Mệnh đề 2.2.1. Hàm d
C
thỏa mãn điều kiện Lipschitz tổng quát dưới đây
trên X
|d
C
(x) − d
C
(y)| ≤ x − y.
Chứng minh. Lấy bất kỳ ε > 0, theo định nghĩa, tồn tại điểm c ∈ C sao
cho d
C
(y) ≥ y −c − ε. Ta có
14
d
C
(x) ≤ x − c ≤ x −y+ y − c ≤ x −y+ d
C
(y) + ε.

(x) luôn chứa O ).
Định nghĩa 2.2.3. Nón pháp tuyến đến C tại x được tạo bởi sự đối cực
với T
c
(x), kí hiệu N
C
(x).
N
C
(x) = {ξ ∈ X
∗
: ξ, v ≤ 0, ∀v ∈ T
C
(x)}.
Mệnh đề 2.2.2. Cho f là Lipschitz với hằng số K trên tập S. Cho x ∈
C ⊂ S và giả sử rằng f đạt tới cực tiểu trên C tại x. Khi đó với bất kỳ
ˆ
K ≥ K, hàm g(y) = f(y)+
ˆ
Kd
C
(y) đạt cực tiểu trên S tại x. Nếu
ˆ
K > K
và C là đóng, thì với bất kỳ điểm cực tiểu của g nào khác trên S cũng phải
nằm trên C.
Chứng minh. Ta chứng minh khẳng định đầu tiên bằng cách giả sử ngược
lại. Khi đó có một điểm y trong S và ε > 0 sao cho f(y) +
ˆ
Kd

ˆ
K)/2), điều đó dẫn đến d
C
(y) =
0 và do đó y ∈ C.
Định lý 2.2.2. Một phần tử v của X là tiếp tuyến đến C tại x nếu và chỉ
nếu với mọi dãy x
i
trong C hội tụ đến x và dãy t
i
trong (0, ∞) giảm về 0,
tồn tại một dãy v
i
trong X hội tụ về v sao cho x
i
+ t
i
v
i
∈ C với mọi i.
Chứng minh. Trước tiên giả sử rằng v ∈ T
C
(x) và dãy x
i
→ x (với x
i
∈ C);
t
i
↓ 0, ta phải chứng minh tồn tại dãy v

t
i
= 0. (2.1)
Cho c
i
là một điểm trong C điều này thỏa mãn
x
i
+ t
i
v − c
i
 ≤ d
C
(x
i
+ t
i
v) +
t
i
i
, (2.2)
và ta thiết lập v
i
=
c
i
− x
i

i
v) −d
C
(y
i
)
t
i
= d
0
C
(x; v). (2.3)
Ta chứng minh đại lượng này không dương, khi đó v ∈ T
C
(x) theo định
nghĩa.
Cho c
i
∈ C thỏa mãn
c
i
− y
i
 ≤ d
C
(y
i
) +
t
i

i
) + y
i
− c
i
 + t
i
v − v
i

≤ d
C
(y
i
) + t
i
(v − v
i
 +
1
i
).
Ta suy ra giới hạn (2.3) là không dương, suy ra định lý được chứng
minh.
Để thiết lập mối quan hệ giữa các khái niệm hình học được định
nghĩa ở trên, và những điều đã biết trong điều kiện trơn, ta cần một khái
niệm về tính chính qui cho các tập hợp, điều này sẽ giữ vai trò quan trọng
cho tính chính qui của các hàm.
Trước tiên ta nhớ lại nón contigent K
C


(x; v) = f
0
(x; v).
17
Định lý 2.2.3. Cho f là Lipschitz gần x và giả sử 0 /∈ ∂f(x). Nếu C
được định nghĩa là {y ∈ X : f(y) ≤ f(x)} thì có

v ∈ X : f
0
(x, v) ≤ 0

⊂ T
C
(x) (2.5)
Nếu f là chính qui tại x, thì đẳng thức xảy ra và C là chính qui tại x.
Chứng minh. Trước tiên, ta thấy tồn tại điểm ˆv trong X sao cho f
0
(x; ˆv) <
0, vì f
0
(x; ·) là hàm giả sử của một tập hợp (ví dụ ∂f(x) ) không chứa 0.
Nếu v thuộc vế trái của (2.5), thì với bất kỳ ε > 0, f
0
(x, v + εˆv) < 0,
do f
0
(x; ·) là cộng tính dưới [10 mệnh đề 2.1.1(a)].
Kết quả thu được là đủ để chứng minh rằng bất kỳ v mà f
0

v ∈ C (với i lớn), và điều này xác định rằng v ∈ T
C
(x)
(định lý 2.2.2).
Bây giờ ta giả sử f là chính qui tại x. Có thể khẳng định thêm trong
trường hợp này, nó là đủ để chứng minh với bất kỳ thành phần v nào của
K
C
(x) đều thuộc vào vế trái của (2.5). Vì ta luôn có T
C
(x) ⊂ K
C
(x), nó
sẽ kéo theo 3 tập hợp trùng nhau.
Bởi vậy, lấy v ∈ K
C
(x), thì theo định nghĩa
lim
t↓0
inf
d
C
(x + tv)
t
= 0.
Với bất kỳ ε > 0 ta có thể chọn một dãy t
i
giảm dần về 0 sao cho với
mọi i đủ lớn, ta có d
C

i
≤ 2εK
Ở đó K là hằng số Lipschitz của f gần x. Lấy giới hạn và do ε là bất
kỳ, ta có f

(x; v) = f
0
(x, v) ≤ 0.
Định nghĩa 2.2.6. Hàm chỉ của một tập hợp C trong X là hàm giá trị
xác định δ
C
: X → R ∪{∞} được định nghĩa bởi
δ
C
(x) =

0 khi x ∈ C,
+∞ khi x ∈ X\C.
2.3 Tính khả vi địa phương
Định nghĩa 2.3.1. Tập trơn xấp xỉ được định nghĩa là tập đóng C ⊂ H
(H là không gian Hilbert) sao cho hàm khoảng cách d
C
là khả vi liên tục
trên một ống mở
U
C
(r) := {u ∈ H |0 < d
C
(u) < r}, r > 0 (2.6)
C là trơn xấp xỉ khi và chi khi tồn tại r > 0 sao cho với mọi u ∈ U

2
, ∀x

∈ C. (2.7)
Ta biết rằng một tập lồi đóng C có ánh xạ chiếu P
C
tổng quát, đơn trị
và không mở rộng (liên tục Lipschitz với mô đun 1). Với các tập không lồi
19
C, ở đó có sự khác biệt giữa đóng mạnh và yếu, Clarke, Stern và Wolenski
[11] đã chỉ ra rằng một tập đóng yếu C là trơn xấp xỉ nếu và chỉ nếu P
C
là đơn trị trên ống U
C
(r).
Kết quả khác đã thu được bởi Shapiro, ông đã chỉ ra rằng, với một tập
đóng mạnh C và một điểm x ∈ C, thì P
C
đơn trị trên một lân cận của x
nếu có những tính chất sau: tồn tại một hằng số k > 0 và một lân cận O
của x sao cho :
d
T
C
(x)
(x

− x) ≤ k|x

− x|

H được định nghĩa với r > 0 bởi
N
r
C
(x) =

N
C
(x) ∩ intB(0, r) khi x ∈ C,
φ khi x /∈ C.
Ở đây B(0, r) là hình cầu đóng tâm O, bán kính r.
Định nghĩa 2.3.4. Một ánh xạ T : H ⇒ H được gọi là siêu đơn điệu trên
một tập con O của X nếu tồn tại σ > 0 sao cho T + σI là đơn điệu trên
O, ta có:
v
1
− v
2
, x
1
− x
2
 ≥ −σ|x
1
− x
2
|
2
với mọi v
i