ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
Cao Văn Chung
PHƯƠNG PHÁP SONG SONG
GIẢI BÀI TOÁN ĐẶT KHÔNG CHỈNH
VỚI TOÁN TỬ ĐƠN ĐIỆU
LUẬN ÁN TIẾN SĨ TOÁN HỌC
Hà Nội - 2012
ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
Cao Văn Chung
PHƯƠNG PHÁP SONG SONG
GIẢI BÀI TOÁN ĐẶT KHÔNG CHỈNH
VỚI TOÁN TỬ ĐƠN ĐIỆU
Chuyên ngành: Toán học Tính toán
Mã số: 62 46 30 01
LUẬN ÁN TIẾN SĨ TOÁN HỌC
Tập thể hướng dẫn khoa học:
HD1: GS.TSKH. PHẠM KỲ ANH
HD2: GS.TS. NGUYỄN BƯỜNG
Hà Nội - 2012
Mục lục
Trang
Lời cam đoan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
Lời cảm ơn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
Danh mục các ký hiệu và chữ viết tắt . . . . . . . . . . . . . . . . . . . . . . . 6
Danh mục các bảng. . . . . . . . . . . . . . . . . . . . . . . . . 7
Mở đầu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
Chương 1. Kiến thức chuẩn bị . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
1.1. Khái niệm cơ sở . . . . . . . . . 20
1.2. Toán tử đơn điệu và phương trình với toán tử đơn điệu. . . 29
DANH MỤC CÁC KÝ HIỆU VÀ
CHỮ VIẾT TẮT
·, · Tích vô hướng (hoặc tích đối ngẫu)
A
∗
Toán tử liên hợp của toán tử tuyến tính A
argminf(x) (argmaxf(x)) Phần tử cực tiểu (cực đại) hóa phiếm hàm f(x)
F (T ) (
ˆ
F (T )) Tập điểm bất động (bất động tiệm cận) của T
Gr(F ) Đồ thị của ánh xạ (đa trị) F
H Không gian Hilbert
J
r
A
:= (rA + J)
−1
J Giải thức của toán tử (đa trị) đơn điệu A
P
C
Phép chiếu metric lên tập lồi đóng C ⊂ X
Π
C
Phép chiếu metric suy rộng lên tập lồi đóng C ⊂ X
PIIRM (PEIRM) Phương pháp chỉnh lặp ẩn (hiện) song song
PEIRMm Phương pháp PEIRM với m bước lặp trong.
PRPXPM Phương pháp điểm gần kề hiệu chỉnh song song
PPPXPM Phương pháp chiếu - điểm gần kề song song
PCQM Phương pháp lai ghép song song
CCQM Thuật toán CQ xoay vòng đề xuất trong [54]
Tổng số bước lặp
T
p
(T
s
) Thời gian chạy (giây) khi chạy song song (tuần tự)
S
p
= T
s
/T
p
(E
p
= S
p
/N) Tỷ lệ tăng tốc độ (Hiệu suất trung bình mỗi CPU)
6
Danh mục các bảng
Chương 2.
2.1 So sánh PIIRM & PEIRM với cùng số lần lặp . . . . . . . . . 78
2.2 So sánh PIIRM & PEIRM với cùng sai số . . . . . . . . . . . 79
2.3 So sánh PIIRM khi chạy song song & tuần tự . . . . . . . . . 80
2.4 PIIRM với dữ liệu có nhiễu . . . . . . . . . . . . . . . . . . . 80
Chương 3.
3.1 So sánh PRPXPM & PPPXPM với số bước lặp nhỏ . . . . . . 109
3.2 So sánh PRPXPM & PPPXPM với số bước lặp lớn . . . . . . 110
3.3 So sánh PPPXPM & CQ với cùng số bước lặp . . . . . . . . . 112
3.4 So sánh PPPXPM & CQ với cùng độ chính xác . . . . . . . . 112
Chương 4.
i
(x) =
N
i=1
(F
i
(x) − f
i
) = 0. (2)
Ở đây các toán tử F
i
: X → Y , phần tử f
i
∈ Y đã cho; với X là không gian
Banach và Y = X
∗
- không gian đối ngẫu của X, hoặc X là không gian
Hilbert và Y = X. Hơn nữa, trong luận án này ta xét các toán tử F
i
có
tính đơn điệu, tức là với mọi x, y ∈ X ta có
F
i
(x) − F
i
(y), x − y ≥ 0.
Trường hợp X là không gian Banach, ta ký hiệu f, x := f(x) với mọi
x ∈ X, f ∈ X
∗
(xem [2,22]). Bài toán này, trong một số trường hợp, có thể chuyển về việc
giải phương trình với toán tử đơn điệu.
Một số mô hình ứng dụng trong cơ học lượng tử, lý thuyết lọc cũng
dẫn tới các bài toán dạng (2), với F
i
được xây dựng từ các toán tử vi phân
(ví dụ, toán tử Laplace ∆ hoặc div của một hàm theo toán tử ∇) sao cho
A là toán tử đơn điệu (xem [4,77]). Một bài toán khác gọi là nhận dạng
tham số đa dữ liệu, xuất hiện nhiều trong các lĩnh vực y dược, sinh học
phân tử cũng có thể đưa về dạng phương trình (2) với toán tử đơn điệu
(xem [26,69]). Ngoài ra, trong nhiều lĩnh vực khoa học kỹ thuật và toán
học tính toán, ta phải giải phương trình dạng F x = f, trong đó F toán tử
tuyến tính xác định không âm. Đây cũng là một bài toán dạng (1).
Vì khả năng ứng dụng rộng rãi như vậy nên phương trình với toán tử
đơn điệu đã được nghiên cứu rất nhiều. Những kết quả định tính cho lớp
toán tử này đã được nhiều nhà toán học như H. Bauschke (xem [14,15]),
F. Browder ( [19, 20]), J. M. Borwein ( [17]), G. J. Minty ( [58]), R. T.
Rockafellar ( [62]) thiết lập (xem thêm [17] và các tài liệu tham chiếu
trong đó). Đặc biệt, G. J. Minty và F. Browder đã chỉ ra một số tính chất
quan trọng của toán tử đơn điệu cực đại, cũng như tìm ra mối liên hệ giữa
phương trình với toán tử đơn điệu và bất đẳng thức biến phân.
Tính chất đơn điệu cực đại, bức và một số đặc điểm khác của toán tử
dạng cA + J, trong đó J là ánh xạ đối ngẫu chuẩn tắc, còn c > 0, A là
toán tử đơn điệu được chỉ ra trong [20,58,62].
Lớp toán tử đơn điệu cực đại dạng A+αJ và mối liên hệ với dưới vi phân
của các phiếm hàm lồi, cũng như các toán tử đơn điệu dạng thế năng đã
được nghiên cứu trong [6,7,14–17,36,46,59,63,74,84,85,87].
Như đã biết, bài toán
F (x) = f (3)
với F là toán tử đơn điệu, nếu không có thêm giả thiết gì về toán tử F,
nghiệm bài toán ban đầu, khi tham số hiệu chỉnh dần tới không.
Năm 1963, trong [82, 83], A. N. Tikhonov đã đề xuất phương pháp
hiệu chỉnh nổi tiếng mang tên ông. Trong phương pháp hiệu chỉnh Tikhonov,
thay cho việc giải (3), ta giải bài toán cực tiểu phiếm hàm có dạng
R
α(h,δ)
F,f
(x) := F
h
(x) − f
δ
2
Y
+ αΩ(x) → min
x
,
trong đó α := α(h, δ) > 0 là tham số hiệu chỉnh; Ω(x) là phiếm hàm
hiệu chỉnh; F
h
và f
δ
lần lượt là các đại lượng bị nhiễu thay cho F và f.
Nhiều phương pháp số giải bài toán đặt không chỉnh đã được xây dựng
dựa trên phương pháp hiệu chỉnh này ( [2,9,10,13,26,32,35,79]).
Trường hợp toán tử F tuyến tính, một phương pháp hiệu chỉnh thường
được sử dụng là khai triển kỳ dị (SVD - Singular Value Decomposition)
hoặc khai triển kỳ dị chặt cụt (Truncated SVD). Phương pháp này được sử
dụng khi toán tử là compact hoặc cho hệ phương trình đại số tuyến tính
điều kiện xấu (xem [1,35]).
Các kỹ thuật hiệu chỉnh do Lavrentiev và Browder đề xuất có nhiều
ứng dụng để giải bài toán đặt không chỉnh với toán tử đơn điệu (xem
[1–4,9,10,22,42–44,69,76,77,79]).
Từ những năm 1980, một số phương pháp chỉnh lặp kết hợp giữa
kỹ thuật hiệu chỉnh của Lavrentiev (hoặc Browder) với các phương pháp
giải số truyền thống đã được A. B. Bakushinskii đề xuất (tham khảo [9,79]
và các tài liệu tham chiếu trong đó). Tác giả này nghiên cứu phương pháp
lặp bậc không và lặp bậc một, hay còn gọi là chỉnh lặp đơn và phương pháp
Newton - Kantorovich hiệu chỉnh trong không gian Hilbert. Phương pháp
lặp bậc không là sự kết hợp giữa hiệu chỉnh Lavrentiev và phép lặp hiện
x
k+1
= x
k
− β
k
F (x
k
) − f + α
k
x
k
.
Ở đây α
k
> 0 là tham số hiệu chỉnh và β
k
> 0 là tham số lặp. Trong khi
Gần đây, A. B. Bakushinskii và A. B. Smirnova trong [10–12] đã nghiên
cứu điều kiện dừng và quy tắc chọn tham số hậu nghiệm trong trường hợp
vế phải f có nhiễu cho cả hai phương pháp trên.
Sau đó, Ya. I. Albert và I. P. Ryazantseva (xem [1,4,76–78,81] và các
tài liệu tham chiếu trong đó) đã sử dụng ánh xạ đối ngẫu U
s
của X để
hiệu chỉnh phương trình toán tử đơn điệu trong không gian Banach. Ánh
xạ U
s
: X → X
∗
thỏa mãn
U
s
(x), x = U
s
(x)
s−1
x = x
s
, s ≥ 2.
Trường hợp riêng, U
2
(x) được gọi là ánh xạ đối ngẫu chuẩn tắc và ký hiệu
là J. Hai tác giả này đã chỉ ra sự hội tụ của nghiệm hiệu chỉnh về nghiệm
đúng của (3) khi α → 0. Có thể thấy, với α bé, việc giải phương trình hiệu
chỉnh sẽ trở nên khó khăn không kém bài toán ban đầu. Trong trường hợp
bài toán có nhiễu, các tác giả đã đề xuất việc chọn tham số hiệu chỉnh
tiên nghiệm.
liên quan đến lý thuyết, phương pháp giải và ứng dụng của bài toán đặt
không chỉnh.
Các tác giả Đặng Đình Áng, Đinh Nho Hào, Đặng Đức Trọng .v.v. đã
nghiên cứu bài toán ngược cho phương trình đạo hàm riêng. Những bài
toán được các tác giả quan tâm nghiên cứu thường là đặt không chỉnh.
Đặc biệt, tác giả Đinh Nho Hào đã nghiên cứu các bài toán Cauchy cho
phương trình đạo hàm riêng đặt không chỉnh và đề xuất phương pháp làm
nhuyễn (mollification). Phương pháp này làm nhuyễn dữ liệu để các bài
toán thu được là đặt chỉnh và nghiệm của chúng hội tụ đến nghiệm bài
toán đặt không chỉnh. Các kết quả này có thể tham khảo tại [39,40].
Lý thuyết cũng như phương pháp giải bàn toán đặt không chỉnh tổng
quát đã được tác giả Nguyễn Bường nghiên cứu. Các kết quả áp dụng cho
một số bài toán đặt không chỉnh như bài toán bù, bất đằng thức biến
phân, hệ phương trình toán tử có thể được tìm thấy trong [1,2,22–25].
Một số kết quả này sẽ được trình bày kỹ hơn trong phần sau.
Năm 1969, R. T. Rockafellar (xem [62]) đã đề xuất thuật toán điểm
gần kề (proximal point algorithm) giải bài toán (3). Trong thuật toán này,
xuất phát từ x
k
(k ≥ 0, x
0
cho trước) đã biết, ta tìm xấp xỉ tiếp theo
c
k
A(x
k+1
) + J
x
k+1
(y
k
− x
k
) + e
k
= 0,
với việc chiếu trực giao xuống các nửa không gian H
k
xây dựng dựa vào
y
k
, và W
k
xây dựng dựa vào x
k
. Các siêu phẳng xác định H
k
, W
k
tách
tập nghiệm với xấp xỉ hiện tại x
k
. Phương pháp này đạt được sự hội tụ
mạnh toàn cục, hơn nữa phương trình trên chỉ cần giải gần đúng, với sai
số e
k
thỏa mãn các điều kiện nhẹ hơn so với phương pháp điểm gần kề
nguyên thủy.
Năm 2002, I. P. Ryazantseva ( [4, 81]) cũng đã kết hợp phương pháp
tiên nghiệm cũng đã được nghiên cứu. Năm 2006, Hong Kun Xu ( [73])
đề xuất một cải biên khác của phương pháp điểm gần kề hiệu chỉnh trong
không gian Hilbert
c
k
F (x
k+1
) − f) + α
k
x
k
+
x
k+1
− x
k
+ e
k
= 0,
với e
k
là sai số khi giải phương trình này. Các phương pháp điểm gần kề
hiệu chỉnh trên đều hội tụ mạnh về nghiệm có chuẩn nhỏ nhất của (3).
Các tính chất của toán tử đơn điệu cũng như phương pháp giải các
bài toán với toán tử đơn điệu tiếp tục được J. Borwein, P. Combettes, M.
Solodov, B. Svaiter (xem [17,31,64]) nghiên cứu trong giai đoạn sau này.
Trở lại những năm 1980, F. Browder đã nghiên cứu mối liên hệ giữa
như chỉnh lặp đơn và Newton hiệu chỉnh, người ta còn nghiên cứu phương
pháp Landweber cho toán tử đơn điệu, còn được gọi là phương pháp kiểu
gradient hiệu chỉnh
x
k+1
= x
k
− β
k
F
(x
k
) + α
k
I
∗
F (x
k
) − f + α
k
x
k
.
Do đặc thù của cách tiếp cận nên các kết quả ở đây đều được xây dựng
cho toán tử khả vi Frechet.
Ý tưởng trên có thể áp dụng giải hệ phương trình toán tử. Chính vì thế,
gần đây các phương pháp xử lý luân phiên dạng Kaczmarz được rất nhiều
tác giả nghiên cứu. Đối với bài toán đặt không chỉnh, các phương pháp
như Landweber-Kaczmarz, Newton-Kaczmarz, đường dốc nhất - Kacz-
marz, phương pháp xoay vòng tìm điểm bất động chung dạng CQ .v.v.
15
đã được đề xuất (xem [13, 26, 32,37, 38, 47,54]). Ý tưởng chung của các
phương pháp này là phân rã bài toán thành hữu hạn bài toán con, và
luân phiên giải các bài toán con đó bằng các phương pháp lặp tương ứng
(Landweber, Newton, đường dốc nhất, phương pháp CQ ). Phương pháp
phân rã như vậy chẳng những không làm tăng điều kiện áp đặt lên từng
toán tử, mà còn đơn giản hóa việc tính toán. Ngoài ra, trong một số trường
hợp, phương pháp dạng Kaczmarz hiệu quả hơn phương pháp ban đầu.
Tuy nhiên, do việc xử lý các bài toán con là luân phiên, nên phương
pháp dạng Kaczmarz là tuần tự. Do đó nếu thực hiện các phương pháp
này trên máy tính với nhiều bộ xử lý, khi số bài toán thành phần là lớn,
thì tại mỗi thời điểm, vẫn chỉ có một bài toán con được xử lý. Thực tế ta
có thể tăng hiệu quả của các phương pháp tuần tự khi thực hiện trên máy
tính song song bằng cách xử lý song song trên từng bước tính toán.
Đến nay, các kết quả song song trên mức tính toán tại mỗi bước như
vậy đã phát triển khá mạnh. Thậm chí các công cụ song song hóa khi tính
toán với ma trận và vector đã được nhúng cứng vào các vi mạch xử lý, ví
dụ kiến trúc hỗ trợ tính toán song song CUDA (Compute Unified Device
Architecture). Cùng với nó, các hướng nghiên cứu để vector hóa dữ liệu xử
lý (vectorization) cũng phát triển mạnh.
Một yêu cầu được đặt ra ở đây là cần xây dựng các thuật toán mà ở đó
các bài toán thành phần có thể được xử lý một cách đồng thời và độc lập.
Đây cũng chính là mức song song thứ hai, tức là song song từ thuật toán.
Các phương pháp song song ở mức này đến nay chưa phát triển nhiều như
đối với mức thứ nhất, mặc dù nó cũng được quan tâm từ khá sớm.
x
k+1
=
1
m
m
j=1
x
k+1
j
.
Rõ ràng, phương pháp phân rã kiểu Cimmino cho phép tính đồng thời các
x
k+1
j
và xấp xỉ tiếp theo là trung bình cộng của các x
k+1
j
, j = 1, m.
Vào những năm 1990, các tác giả M. A. Diniz-Ehrhardt, J. M. Martinez,
S.A. Santos, G. Zilli và L. Bergamaschi đã đề xuất một số phương pháp
dạng Cimino giải các hệ phương trình phi tuyến trong không gian hữu
hạn chiều ( [33,34,75]). Nhưng các kết quả này đều phải dựa trên giả thiết
16
ma trận Jacobi của toán tử là hạng đủ. Vì vậy kết quả không mở rộng được
cho trường hợp vô hạn chiều, cũng như không cần kỹ thuật hiệu chỉnh.
Cũng thời gian này, T. Lu, P. Neittaanm¨aki, và X C. Tai ( [55]) đã
nghiên cứu phương trình dạng (2). Rõ ràng nếu có phương pháp phân rã
song song bài toán này thì việc giải sẽ thuận lợi hơn. Ví dụ khi giải phương
k
.
Dễ thấy bước trung gian tìm x
i
k
có thể tính toán một cách đồng thời trên
N bộ xử lý. Nhưng để phương pháp này hội tụ, các toán tử F
i
cần liên tục
Lipschitz và đơn điệu mạnh, và lúc đó phương trình F (x) = f đặt chỉnh.
Do đó không thể áp dụng trực tiếp phương pháp này cho các bài toán đặt
không chỉnh.
Năm 2001, Y. Censor, D. Gordon và R. Gordon (xem [27–29]) đề xuất
phương pháp giải hệ đại số tuyến tính kích thước lớn và thưa dạng Cim-
mino, còn được gọi là phương pháp trung bình thành phần (component
averaging method - CAV). Một biến thể của phương pháp trên, trong đó
việc giải đồng thời được thực hiện theo từng nhóm kết hợp với lấy trung
bình giữa các nhóm, gọi là lặp theo khối (block-iterative component av-
eraging - BICAV) cũng được đề xuất trong các tài liệu này. Các phương
pháp cải biên này được chứng minh là hiệu quả hơn phương pháp Cimmino
nguyên thủy. Các kết quả trên cũng có thể mở rộng cho việc tìm điểm bất
động chung của N toán tử không giãn.
Tuy nhiên các tác giả trên chưa xét đến trường hợp phương trình toán
tử phi tuyến đặt không chỉnh.
Gần đây, Nguyễn Bường và các tác giả trong nhóm cũng đã công bố
một số kết quả giải hệ phương trình toán tử hoặc là hệ bất đẳng thức biến
phân. Trong [22], tác giả đã đưa ra phương pháp chỉnh lặp cho trường hợp
các toán tử đơn điệu thế năng. Trong [25], các tác giả đã đề xuất phương
pháp chỉnh lặp giải hệ phương trình toán tử khi F
i
làm bốn chương.
• Trong Chương 1, chúng tôi trình bày một số kiến thức chuẩn bị và
kết quả bổ trợ cần thiết cùng với một số bài toán minh họa.
• Chương 2 trình bày phương pháp chỉnh lặp ẩn và chỉnh lặp hiện song
song, giải hệ phương trình với toán tử ngược đơn điệu mạnh. Phương
pháp chỉnh lặp ẩn song song trong chương này cũng bao trùm phương
18
pháp điểm gần kề hiệu chỉnh song song. Chương này cũng đề xuất các
quy tắc chọn tham số và quy tắc dừng trong trường hợp có nhiễu.
• Chương 3 đề xuất một số phương pháp dạng chiếu-lặp song song:
Phương pháp chiếu-điểm gần kề song song giải hệ phương trình với
các toán tử liên tục, đơn điệu cực đại; Các phương pháp lai ghép dạng
CQ song song tìm điểm bất động của họ hữu hạn toán tử không giãn
tương đối. Các phương pháp này được xây dựng cho không gian Banach
và có một số cải biên với trường hợp không gian Hilbert.
• Trong chương cuối, chúng tôi trình bày phương pháp dạng Newton
hiệu chỉnh song song cho phương trình có toán tử tách được thành
tổng các toán tử đơn điệu hoặc hệ phương trình với các toán tử ngược
đơn điệu mạnh. Tốc độ hội tụ của phương pháp cũng được đánh giá
trong chương này với các giả thiết thích hợp về điều kiện nguồn.
Cuối mỗi chương, một số kết quả thử nghiệm số trên máy tính song
song đã được trình bày. Tất cả các kết quả tính toán được chạy ở chế độ
song song, trên bó máy tính IBM1350 với 8 node tính toán - 16 bộ xử lý lõi
kép tại Trung tâm Tính toán hiệu năng cao - ĐHKHTN - ĐHQG Hà Nội.
Kết quả chính của luận án đã được công bố trong [1-4] và gửi đăng
trong [5], xem Danh mục các công trình khoa học của tác giả liên quan
đến luận án.
19
Chương 1
Kiến thức chuẩn bị
20
Không gian X được gọi là trơn (smooth) nếu giới hạn lim
t→0
x + ty − x
t
tồn tại với mọi x, y ∈ S
X
:= {z ∈ X : z = 1}. X được gọi là trơn đều
(uniformly smooth) nếu giới hạn đó tồn tại đều với mọi x, y ∈ S
X
.
Các kết quả của luận án cho không gian Banach cần đến tính chất lồi
đều và trơn đều của không gian. Vì vậy trong các phần tiếp theo, nếu nhắc
đến không gian Banach mà không chú thích gì thêm, thì ta mặc định rằng
không gian đó là lồi đều và trơn đều.
Chúng ta nhắc lại một số khái niệm về sự hội tụ của dãy. Ta nói dãy
{x
n
} ⊂ X hội tụ (hay hội tụ mạnh) tới x ∈ X, ký hiệu x
n
→ x, nếu
x
n
− x → 0 khi n → +∞. Dãy x
n
được gọi là hội tụ yếu đến x, ký hiệu
x
n
x, nếu với mọi y ∈ X
∗
• C giới nội nếu nó được chứa trong một hình cầu B[x
0
, r] nào đó,
0 ≤ r < +∞. Mọi dãy hội tụ yếu đều giới nội.
• C là tập đóng (tương ứng, đóng yếu) nếu mọi dãy con {x
n
} ⊂ C và
x
n
→ x (tương ứng, x
n
x) suy ra x ∈ C. Ta ký hiệu C là bao đóng
của C, tức là tập đóng nhỏ nhất chứa C.
• C trù mật trong tập con M ⊂ H nếu M ⊂ C.
• C là compact tương đối (tương đối yếu) nếu mọi dãy vô hạn {x
n
} ⊂ C
đều chứa dãy con hội tụ (hội tụ yếu). Trong không gian Banach phản
xạ, mọi tập giới nội đều là compact tương đối yếu.
• C là tập lồi nếu với mọi x, y ∈ C thì đoạn thẳng [x, y] := {z ∈ X : z =
λy + (1 − λ)x, λ ∈ [0, 1]} ⊂ C.
Trường hợp X = H là không gian Hilbert thực, ta có một số tập hợp
đặc biệt sau đây.
• Với mỗi c ∈ R, z ∈ H xác định, z = 0
H
, tập H
c
:= {x ∈ H : z, x = c}
được gọi là siêu phẳng (hyperplane) trong H;
21
) → F (x);
• liên tục theo tia hay h−liên tục (hemi-continuous) tại x ∈ Dom(F )
nếu với t
n
∈ R, ∀u ∈ X sao cho x + t
n
u ∈ Dom(F ), ta có
F (x + t
n
u) → F (x) khi t
n
→ 0
+
;
• bán liên tục (demi-continuous) tại x ∈ Dom(F ) nếu với mọi dãy
{x
n
} ⊂ Dom(F ) và x
n
→ x khi n → ∞ thì F (x
n
) F (x);
• liên tục Lipschitz nếu tồn tại hằng số L > 0 sao cho F (x
1
)−F (x
2
) ≤
Lx
1
− x
2
∈ Dom(F ), ta nói F là toán tử
không giãn. Nếu tồn tại hằng số q ∈ [0, 1) sao cho F (x
1
) − F (x
2
) ≤
qx
1
− x
2
với x
1
, x
2
∈ Dom(F ), thì toán tử F được gọi là co.
Cho toán tử F : X → X
∗
, tập các phần tử
Gr(F ) =
(x, y) ∈ X × X
∗
: x ∈ Dom(F ), y = F (x)
được gọi là đồ thị của F . Chúng ta có một khái niệm liên quan đến đồ thị,
đó là tính bán đóng (demiclosed - xem [4]): Tập hợp G ⊂ X × X
∗
được
gọi là bán đóng nếu từ các điều kiện x
, hoặc x
n
x và F (x
n
) → y ∈ X
∗
khi
n → ∞, thì F (x) = y.
Phiếm hàm ϕ : X → R, là lồi nếu Dom(ϕ) là tập lồi trong X và với mọi
x, y ∈ Dom(ϕ), λ ∈ [0, 1], ta có ϕ(λx + (1 − λ)y) ≤ λϕ(x) + (1 − λ)ϕ(y).
Trong không gian Banach X, ϕ(x) := x
2
là phiếm hàm lồi.
Phiếm hàm ϕ : X → R là nửa liên tục dưới yếu (weakly lower semicon-
tinuous) tại x
0
∈ Dom(ϕ) nếu với mọi dãy {x
n
} ⊂ Dom(ϕ) và x
n
x
0
,
ta có ϕ(x
0
) ≤ lim inf
n→∞
ϕ(x
n
). Chuẩn trong không gian X là phiếm hàm nửa
Bổ đề 1.1. Cho C là một tập lồi đóng không rỗng bất kỳ trong không gian
Hilbert thực H, các phần tử x, y ∈ H. Khi đó phép chiếu metric P
C
từ H
vào C thỏa mãn các tính chất sau.
x
0
= P
C
(x) nếu và chỉ nếu x − x
0
, z −x
0
≤ 0 ∀z ∈ C; (1.1)
P
C
(x) − P
C
(y)
2
≤ x − y
2
−
P
C
(x) − x
−
2
X
= f
2
X
∗
}
gọi là toán tử đối ngẫu chuẩn tắc. Ta cần đến một số tính chất hình học
sau của không gian Banach X và toán tử đối ngẫu chuẩn tắc (xem [30,67]).
Bổ đề 1.2. Cho X là một không gian Banach và J : X → X
∗
là ánh xạ
đối ngẫu chuẩn tắc tương ứng. Ta có các mệnh đề sau.
i) X(X
∗
) là lồi đều nếu và chỉ nếu X
∗
(X) là trơn đều.
ii) Nếu X là lồi đều, thì nó là phản xạ và lồi chặt. Ngoài ra nó còn có
tính chất Kadec-Klee (hay Efimov-Stechkin), tức là mọi dãy {x
n
} ⊂ X
thỏa mãn x
n
x và x
n
→ x, thì x
n
→ x.
24
C
: X → C,
Π
C
(x) = x
0
gọi là phép chiếu suy rộng lên tập C. Trong không gian Hilbert,
φ(x, y) ≡ x −y
2
và Π
C
(x) ≡ P
C
(x).
Ta có một số tính chất sau của phiếm hàm φ và phép chiếu suy rộng
Π
C
(xem [3,45,68]).
Bổ đề 1.3. Cho X là một không gian Banach thực lồi đều và trơn, {x
n
}
và {y
n
} là hai dãy phần tử trong X. Nếu φ(x
n
, y
n
) → 0 và một trong hai
dãy {x
n
Toán tử F có Dom(F ) là tập mở, được gọi là khả vi theo Fréchet (hay
khả vi mạnh) tại x ∈ Dom(F ) nếu tồn tại toán tử tuyến tính giới nội
F
(x) : X → Y sao cho với mọi h ∈ X thỏa mãn x + h ∈ Dom(F ), ta có
F (x + h) − F (x) = F
(x)h + w(x, h),
ở đây w(x, h)/h → 0 khi h → 0. Lúc đó, F
(x)h và F
(x) tương ứng
được gọi là vi phân Fréchet và đạo hàm Fréchet của F tại x. Toán tử F
gọi là khả vi Fréchet, gọi tắt là khả vi, nếu nó khả vi tại mọi x ∈ Dom(F ).
Đạo hàm và vi phân Fréchet cấp cao cũng được định nghĩa tương tự.
Toán tử F có Dom(F ) là tập mở, được gọi là khả vi theo Gâteaux
(hay khả vi yếu) tại x ∈ Dom(F ) nếu với mọi h ∈ X, t ∈ R thỏa mãn
x + th ∈ Dom(F ), tồn tại giới hạn
lim
t→0
F (x + th) − F (x)
t
= DF (x, h).
Nếu tồn tại toán tử tuyến tính giới nội B : X → Y sao cho DF (x, h) = Bh,
thì F
(x) := B được gọi là đạo hàm Gâteaux (hay đạo hàm yếu) của F
tại x.
Hiển nhiên, toán tử khả vi Fréchet sẽ khả vi Gâteaux và khi đó đạo
, y
,
(1.5)
trong đó θ = θ(y) ∈ (0, 1). Ta gọi (1.5) là công thức Taylor và trường hợp
riêng của nó
F (x + h) − F (x), y = F
(x + θh)h, y, ∀y ∈ H
26
Copyright: Tài liệu đại học ©