✶
➜➵✐ ❤ä❝ t❤➳✐ ♥❣✉②➟♥
❚r➢ê♥❣ ➤➵✐ ❤ä❝ s➢ ♣❤➵♠
✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲
◆➠♥❣ ❚❤Þ ▼❛✐
❉➢í✐ ✈✐ ♣❤➞♥ ❝ñ❛ ❤➭♠ ❧å✐ ✈➭ ♠ét sè
ø♥❣ ❞ô♥❣ tr♦♥❣ tè✐ ➢✉
❈❤✉②➟♥ ♥❣➭♥❤✿ ●✐➯✐ tÝ❝❤
▼➲ sè✿✻✵✳✹✻✳✵✶
▲✉❐♥ ✈➝♥ t❤➵❝ sÜ t♦➳♥ ❤ä❝
◆❣➢ê✐ ❤➢í♥❣ ❞➱♥ ❦❤♦❛ ❤ä❝✿
●❙ ✲❚❙❑❍ ▲➟ ❉ò♥❣ ▼➢✉
❚❤➳✐ ♥❣✉②➟♥ ✲ ◆➝♠ ✷✵✵✽
✷
▼ô❝ ❧ô❝
❚r❛♥❣
❚r❛♥❣ ♣❤ô ❜×❛ ✶
▼ô❝ ❧ô❝ ✷
❉❛♥❤ ♠ô❝ ❝➳❝ ❦ý ❤✐Ö✉✱ ❝➳❝ ❝❤÷ ✈✐Õt t➽t ✸
▲ê✐ ♥ã✐ ➤➬✉ ✹
❈❤➢➡♥❣✶✳ ❈➳❝ ❦✐Õ♥ t❤ø❝ ❝➡ ❜➯♥ ✈Ò t❐♣ ❧å✐ ✈➭ ❤➭♠ ❧å✐ ✺
✶✳✶✳ ❚❐♣ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✺
✶✳✷✳ ❍➭♠ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✶
✶✳✷✳✶✳ ❍➭♠ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✶
✶✳✷✳✷✳ ❚Ý♥❤ ❧✐➟♥ tô❝ ❝ñ❛ ❤➭♠ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✺
✶✳✷✳✸✳ ❈➳❝ ♣❤Ð♣ t♦➳♥ ❜➯♦ t♦➭♥ tÝ♥❤ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✺
✶✳✷✳✹✳ ❇✃t ➤➻♥❣ t❤ø❝ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✻
✶✳✷✳✺✳ ❍➭♠ ❧✐➟♥ ❤î♣ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✻
❈❤➢➡♥❣✷✳ ❉➢í✐ ✈✐ ♣❤➞♥ ❝ñ❛ ❤➭♠ ❧å✐ ✶✽
✷✳✶✳ ➜➵♦ ❤➭♠ t❤❡♦ ♣❤➢➡♥❣ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✽
✷✳✷✳ ❉➢í✐ ✈✐ ♣❤➞♥ ✈➭ ❝➳❝ tÝ♥❤ ❝❤✃t ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✷✷

2
R
n
✿ t❐♣ ❤î♣ t✃t ❝➯ ❝➳❝ t❐♣ ❝♦♥ ❝ñ❛ R
n
❀
❱í✐ ♠ä✐ ✈Ð❝✲t➡ x, y ∈ R
n
✱ ❦ý ❤✐Ö✉✿
x
i
✿ t♦➵ ➤é t❤ø ✐ ❝ñ❛ ①❀
x
T
✿ ✈Ð❝✲t➡ ❤➭♥❣ ✭❝❤✉②Ó♥ ✈Þ ❝ñ❛ ①✮❀
x, y = x
T
y = xy :=

n
j=1
x
j
y
j
✿ tÝ❝❤ ✈➠ ❤➢í♥❣ ❝ñ❛ ❤❛✐ ✈Ð❝✲t➡ ① ✈➭ ②❀
||x|| =


n


ờ ó
tí ồ ột ộ q trọ tr tí tế ệ
tí ồ ứ ữ í tí ủ t ồ ồ
ớ ột ệ ủ tí ồ ở rộ
ề t trò ủ ớ
tr tí ệ ũ ó t q trọ trò ủ tr
tí ổ ể ớ ủ ồ ó rt ề ứ ụ tr
tí tế ệt tr ộ t ứ ụ tố
t tứ ế
ụ í ủ trì ột ó ệ tố ế tứ
q trọ t ề ớ ủ ồ ét ột số ứ
ụ ể ì ủ ớ tr tố
ồ r sẽ trì ữ ế tứ
ề t ồ ồ ế tứ ổ trợ
ó sẽ ợ ứ tr r sẽ ề
ề t ớ ớ ỉ ột số tí
t ủ ú ự tr ết q ứ tr
trớ tr sẽ trì ề ệ ự trị t q
ồ ớ r ộ r ộ r ộ
tứ r ộ t tứ
ợ t ớ sự ớ ọ ủ
ũ t t ớ
ộ ế í ọ t ứ ể t ế tứ ề t ồ
ồ
r ú t sẽ ệ ớ ề tr
trờ số tự R ợ í ệ R

❜✮ ❚❐♣ C = [−2; 3) ❧➭ t❐♣ ❧å✐✳
❝✮ ❚❐♣ C ≡ oxy tr♦♥❣ R
3
❧➭ t❐♣ ❧å✐✳
❞✮ ❈➳❝ t❛♠ ❣✐➳❝✱ ❤×♥❤ trß♥ tr♦♥❣ ♠➷t ♣❤➻♥❣ ❧➭ ❝➳❝ t❐♣ ❧å✐✳
❱Ý ❞ô ✶✳✷✳ ✭❱Ò t❐♣ ❦❤➠♥❣ ❧å✐✮✳
❛✮ ❚❐♣ C = (−2; 0) ∪ (0; 3) ❦❤➠♥❣ ❧➭ t❐♣ ❧å✐✳
❜✮ ❚❐♣ C = {(x, y) ∈ R
2
| xy = 0} ❦❤➠♥❣ ❧➭ t❐♣ ❧å✐✳
➜Þ♥❤ ♥❣❤Ü❛ ✶✳✸✳ ❚❛ ♥ã✐ ① ❧➭ tæ ❤î♣ ❧å✐ ❝ñ❛ ❝➳❝ ➤✐Ó♠ ✭✈Ð❝✲t➡✮ x
1
, ..., x
k
♥Õ✉
x =
k

j=1
λ
j
x
j
, λ
j
 0 , ∀j = 1, ..., k ,
k

j=1
λ

C
(x) ❧➭ ♠ét ♥ã♥ ❧å✐ ➤ã♥❣✳

í ụ r R
2
ét t C = R
2
+

N
C
(0) = { | , y 0 0 , y C}
= { |
2

i=1

i
y
i
0}
= { |
i
0}.
ị ĩ ột ể a C ợ ọ ể tr t ố ủ C
ế ó ể tr ủ C t t s ở a C
sẽ ý ệ t ợ ể tr t ố ủ C ri C ị
ĩ tr t ó
ri C := {a C | B : (a + B) a C C},
tr ó B ột ở ủ ố ể

ủ E ủ tt t ứ E
ủ ột t E sẽ ợ ý ệ a E
ị ĩ E R
n

ể ợ ọ ể tr ủ E ế tồ t ột ở U(a)
ủ s U(a) E
ý ệ t ợ ể tr ủ t E intE B q
ị t ở ố ó t ị ĩ t ó
intE = {x | r > 0 : x + rB E}.
ể ợ ọ ể ủ E ế ọ ủ ề ó ể
tộ E ể tộ E
E ợ ọ t ở ế ọ ể ủ E ề ể tr ủ E
E ợ ọ t ó ế E ứ ọ ể ủ ó
E ợ ọ ị ế tồ t ột ì ứ E
r R
n
t E ợ ọ t ế E ột t ó ị
ị ĩ ột t ồ
ột t F C ợ ọ ột ệ ủ ột t ồ C ế
F t ồ x, y C , tx + (1 t)y F , 0 < t < 1 = [x, y] F.
í ụ C := {(x, y, z) R
3
| x, y, z [0, 1]}
F
1
:= {(x, y, z) R
3
| x, y [0, 1], z = 0} ột ệ ủ t C
F

ử tự ủ C t x
0

ị ý r
ọ t ồ ó rỗ ứ ờ t ề ó ể ự

ị ý ỉ tế tí t ồ
ọ t ồ ó rỗ trù ớ t ộ ề
ủ tt ử tự ủ ó
ị ĩ t C D rỗ
ó s a
T
x = t C D ế
a
T
x a
T
y , x C , y D.
ó s a
T
x = t t C D ế
a
T
x < < a
T
y , x C , y D.
ó s a
T
x = t C D ế
Sup


, y

) ∈ D.
❍❛②
y  1  y

∀(x, y) ∈ C,∀(x

, y

) ∈ D.
✰ C, D ❦❤➠♥❣ t➳❝❤ ❝❤➷t ➤➢î❝ ✈× ❦❤➠♥❣ tå♥ t➵✐ s✐➟✉ ♣❤➻♥❣
(a
1
, a
2
)(x, y) = α ♥➭♦ t❤♦➯ ♠➲♥
(a
1
, a
2
)(x, y) < α < (a
1
, a
2
)(x

, y


y = 0  y

∀(x, y) ∈ C,∀(x

, y

) ∈ D.
✰ C, D ❦❤➠♥❣ t➳❝❤ ♠➵♥❤ ➤➢î❝ ✈×
Sup
(x,y)∈C
(0, 1)(x, y) = 0,
inf
(x

,y

)∈D
(0, 1)(x

, y

) = 0.
➜Þ♥❤ ❧ý ✶✳✸✳ ✭➜Þ♥❤ ❧ý t➳❝❤ ✶✮✳
❈❤♦ C ✈➭ D ❧➭ ❤❛✐ t❐♣ ❧å✐ ❦❤➳❝ rç♥❣ tr♦♥❣ R
n
s❛♦ ❝❤♦ C ∩ D = ∅✳ ❑❤✐
➤ã ❝ã ♠ét s✐➟✉ ♣❤➻♥❣ t➳❝❤ C ✈➭ D✳

ệ q ổ ề tộ
C R

f(x) = + ế x C t ó tể f ợ ị
tr t ể
dom f := {x R
n
| f(x) < +}.
epi f := {(x, à) R
n
ì R | f(x) à}.
ị ĩ = C R
n
ồ f : C R {, +}
ó f ồ tr C ế epi f ột t ồ tr R
n+1

t sẽ ủ ế ệ ớ f : R
n
R {+}r
trờ ợ ị ĩ tr t ớ
✶✷
❍➭♠ f : R
n
−→ R ∪ {+∞} ❧➭ ❤➭♠ ❧å✐ tr➟♥ C ♥Õ✉
f[λx + (1 − λ)y]  λf(x) + (1 − λ)f(y) , ∀x, y ∈ C , ∀λ ∈ (0, 1)
❍➭♠ f : R
n
−→ R ∪ {+∞} ❧➭ ❤➭♠ ❧å✐ ❝❤➷t tr➟♥ C ♥Õ✉
f[λx + (1 − λ)y] < λf(x) + (1 − λ)f(y) , ∀x, y ∈ C , ∀λ ∈ (0, 1)
❍➭♠ f : R
n
−→ R ∪ {+∞} ❧➭ ❤➭♠ ❧å✐ ♠➵♥❤ tr➟♥ C ✈í✐ ❤Ö sè ❧å✐ η > 0

= λ(a
T
x + α) + (1 − λ)(a
T
y + α)
= λf(x) + (1 − λ)f(y).
❱❐② f ❧➭ ♠ét ❤➭♠ ❧å✐ tr➟♥ R
n
✳
∀x, y ∈ R
n
,∀λ ∈ (0, 1)✱ ❧➵✐ ❝ã
−f[λx + (1 − λ)y] = −a
T
[λx + (1 − λ)y] − α
= −λa
T
x − (1 − λ)a
T
y − α
= −λa
T
x − λα − (1 − λ)a
T
y − (1 − λ)α
= −λ(a
T
x + α) − (1 − λ)(a
T
y + α)

x C,y C, (0, 1) t ó

C
(x) = 0 ,
C
(y) = + ,
C
[x + (1 )y] +
r
C
[x + (1 )y]
C
(x) + (1 )
C
(y)
x, y C, (0, 1) t ó

C
(x) = + ,
C
(y) = + ,
C
[x + (1 )y] +
r
C
[x + (1 )y]
C
(x) + (1 )
C
(y)

zC
y, z
= S
C
(x) + (1 )S
C
(y).
S
C
ồ tr C
ị ĩ f : R
n
R {+} t tết ồ
C R
n
ột t ồ rỗ ột số tự
ó ệ số ồ ủ f tr C ế ớ ọ (0, 1) ớ ọ
x, y C t ó
f[(1 )x + y] (1 )f(x) + f(y)
1
2
(1 )||x y||
2
.

ế = 0 tì f ồ tr C
ế f ó ệ số ồ tr C > 0 tì f ồ tr C ớ ệ số
ị ĩ ột f : R
n
R{+} ợ ọ í tờ

n
ủ epi f tứ
dom f = {x|à R : (x, à) epi f}.
ị ĩ f : R
n
R {+}
f ợ ọ t t tr R
n
ế
f(x) = f(x) x R
n
, > 0.
f ợ ọ ớ ộ tí ế f(x + y) f(x) + f(y) x, y
f ợ ọ ớ tế tí ế f t t ớ
ộ tí
í ụ f(x) = x ớ tế tí t
x R
n
, > 0 t ó f(x) = x = ||.x = x = f(x)
x, y R
n
t ó f(x + y) = x + y x + y = f(x) + f(y)
ệ ề f : R
n
R {+} ột t t
tr R
n

ó ồ ỉ ớ ộ tí


n

ó g ó ủ f ế epi g = epi f ó ủ f sẽ ợ
í ệ f epi f = epi f
f ợ ọ ó ế epi f = epi f
é t t tí ồ
ị ĩ sử {f

}
I
ột ọ tỳ ý số tr R
n

E R
n
tr ủ ọ tr coE ý ệ V
I
f


số ợ ị ĩ s
(V
I
f

)(x) := Sup
I
f

(x)

, ..., f
m
ồ ữ tr ột t ồ D =
ột tr tự k ì n sử b ri A(D) ó ệ
x D, Ax = b, f
i
(x) < 0 i = 1, .., m
ó ệ ỉ tồ t t R
k

i
0, i = 1, .., m s


m
i=1

i
= 1
t, Ax b +
m

i=1

i
f
i
(x) 0 x D.
ợ
ị ĩ f : R

+∞ ♥Õ✉ x ∈ C.
❚❛ ❝ã✿
δ
∗
C
(x
∗
) := Sup
x∈R
n
{x
∗
, x − δ
C
(x)}
= Sup
x∈C
{x
∗
, x − δ
C
(x)}
= Sup
x∈C
{x
∗
, x − 0}
= Sup
x∈C
x

(s) | s ∈ R
n
}.
❍➭♠ ❧✐➟♥ ❤î♣ t❤ø ❤❛✐ t✃t ♥❤✐➟♥ ❧✉➠♥ ❧➭ ♠ét ❤➭♠ ❧å✐ ➤ã♥❣✳
▼Ö♥❤ ➤Ò ✶✳✻✳ ●✐➯ sö f ≡ +∞ ✈➭ tå♥ t➵✐ ♠ét ❤➭♠ ♥♦♥ ❛✲♣❤✐♥ ❝ñ❛ f✳ ❑❤✐ ➤ã
epi f
∗∗
= co(epi f).
❍Ö q✉➯ ✶✳✸✳ f ≡ f
∗∗
❦❤✐ ✈➭ ❝❤Ø ❦❤✐ f ❧➭ ❤➭♠ ❧å✐✱ ➤ã♥❣✳
➜Þ♥❤ ♥❣❤Ü❛ ✶✳✷✺✳ ❍➭♠ l ❧➭ ❤➭♠ ♥♦♥ ❛✲♣❤✐♥ ❝ñ❛ ♠ét ❤➭♠ f tr➟♥ R
n
♥Õ✉
l ❧➭ ❤➭♠ ❛✲♣❤✐♥ tr➟♥ R
n
✈➭ l(x)  f(x) ∀x ∈ R
n
.

ớ ủ ồ
Pé tí ột tr ữ ề t t ủ tí ổ ể
r tí ồ ý tết trở ú ờ ữ tí
t ệt ủ t ồ ồ ụ t ủ sẽ ét ế
t ủ ột ồ ế ế ở ụ sẽ r ị
ĩ ề ớ tí t ủ ó ét tí ủ
ồ st tí ệ ủ ớ st tí tụ ủ
ớ ột số é tí ớ ớ ụ ố ủ
sẽ ớ tệ ề ớ ỉ ột số tí t ủ ó
t

0
f(x
0
+y)f(x
0
)

tồ t ữ
tì t ó f ó t y t ể x
0
sẽ ý
ệ ớ f

(x
0
, y)

✶✾
❱Ý ❞ô ✷✳✶✳ ●✐➯ sö f ➤➢î❝ ❝❤♦ ♥❤➢ s❛✉✿
f(x) =





0 ♥Õ✉ x < 0,
1 ♥Õ✉ x = 0,
+∞ ♥Õ✉ x > 0.
❚❛ ❝ã
dom f = (−∞; 0] ⇒ dom f = ∅ ✱

= lim
λ→0
∞−1
λ
= +∞✳
❙✉② r❛ f

(0, .) ❦❤➠♥❣ ❧➭ ❤➭♠ ❝❤Ý♥❤ t❤➢ê♥❣✳
▼Ö♥❤ ➤Ò ✷✳✶✳ ❈❤♦ f : R
n
−→ R ∪ {+∞} ❧å✐✳ ❑❤✐ ➤ã ✈í✐ ♠ä✐ x ∈ dom f
✈➭ ♠ä✐ y ∈ R
n
t❛ ❝ã✿
✐✮ ϕ ❧➭ ❤➭♠ ➤➡♥ ➤✐Ö✉ ❦❤➠♥❣ ❣✐➯♠ tr➟♥ (0; +∞) ✱ tr♦♥❣ ➤ã
ϕ(λ) :=
f(x + λy) − f(x)
λ
,
✈➭ ❞♦ ➤ã f

(x, y) tå♥ t➵✐ ✈í✐ ♠ä✐ y ∈ R
n
✈➭
f

(x, y) := inf
λ>0
f(x + λy) − f(x)
λ

●✐➯ sö 0 < λ

 λ✱ ❞♦ f ❧➭ ❤➭♠ ❧å✐ ♥➟♥ h ❧➭ ❤➭♠ ❧å✐ ✱ ❦❤➠♥❣ ♥❤❐♥ ❣✐➳ trÞ
−∞✳
❚❛ ❝ã
h(λ

) = h[
λ

λ
λ + (1 −
λ

λ
)0]

λ

λ
h(λ) + (1 −
λ

λ
)h(0)
=
λ

λ
h(λ).

λ
= 0.
❈❤ø♥❣ ♠✐♥❤ tÝ♥❤ t❤✉➬♥ ♥❤✃t ❞➢➡♥❣ ✳
❱í✐ t > 0✱ t❛ ✈✐Õt
f

(x, ty) = lim
λ→0
f(x + λty) − f(x)
λ
.
➜➷t λ

= λt✱ t❛ ❝ã t✐Õ♣
f

(x, ty) = t lim
λ→0
f(x + λ

y) − f(x)
λ

= tf

(x, y).
❱❐② f

(x, .) t❤✉➬♥ ♥❤✃t ❞➢➡♥❣✳
❈❤ø♥❣ ♠✐♥❤ tÝ♥❤ ❞➢í✐ t✉②Õ♥ tÝ♥❤✳

1
2
f(x) −
1
2
f(x)
λ
2
.
❉♦ f ❧➭ ❤➭♠ ❧å✐ ❦❤➠♥❣ ♥❤❐♥ ❣✐➳ trÞ −∞ ✱♥➟♥
f[(
x
2
+
λ
2
u) + (
x
2
+
λ
2
v)] −
1
2
f(x) −
1
2
f(x)



(x, .) ❧➭ ❤➭♠ ❞➢í✐ ❝é♥❣ tÝ♥❤✳ ❙✉② r❛ f

(x, .) ❧➭ ❤➭♠ ❞➢í✐ t✉②Õ♥ tÝ♥❤
tr➟♥ R
n
✳
❱× f

(x, .) > −∞, f

(x, 0) = 0 ✈➭ f

(x, .) ❧➭ ❞➢í✐ t✉②Õ♥ tÝ♥❤ tr➟♥ R
n
✱ ♥➟♥
♥ã ❧➭ ❤➭♠ ❧å✐✱ ❝❤Ý♥❤ t❤➢ê♥❣ tr➟♥ t♦➭♥ ❦❤➠♥❣ ❣✐❛♥✳
✐✐✐✮ ❉♦ f

(x, 0) = 0 ✈➭ t❤❡♦ tÝ♥❤ ❝❤✃t ❞➢í✐ ❝é♥❣ tÝ♥❤✱ t❛ ❝ã✿
0 = f

(x, 0) = f

(x, y − y)  f

(x, y) + f

(x,−y) ∀y ∈ R
n

t ế tr sẽ tồ t y F ột {
k
} số ộ
tụ ế x +
k
.y dom f ớ ọ ủ ớ r trờ ợ
f(x +
k
.y) f(x) = + ớ ọ ủ ớ.
ó f

(x, y) = + t ớ tết x ri(dom f)
ớ tí t
ớ
ị ĩ f : R
n
R {+} ó x

R
n
ớ
ủ f t x ế
x

, z x + f(x) f(z) z.
í ệ t ợ tt ớ ủ f t x f(x) f(x)
ột t ó tể tr R
n
f(x) = tì t ó f
ớ t x

f(x) t x = 0
✷✸
✷✮ ❍➭♠ ❝❤Ø
f(x) = δ
C
(x) :=

0 ♥Õ✉ x ∈ C,
+∞ ♥Õ✉ x ∈ C.
❚r♦♥❣ ➤ã C ❧➭ ♠ét t❐♣ ❧å✐ ❦❤➳❝ ∅✳
❑❤✐ ➤ã ✈í✐ x
0
∈ C✱ t❛ ❝ã
∂f(x
0
) = ∂δ
C
(x
0
) = {x
∗
|x
∗
, x − x
0
  δ
C
(x),∀x}.
❱í✐ x ∈ C t❤× δ
C

, y ,∀y✳
✐✐✮ ◆Õ✉ f ❧➭ ❤➭♠ ❧å✐ ❝❤Ý♥❤ t❤➢ê♥❣ tr➟♥ R
n
✱ t❤× ✈í✐ ♠ä✐ x ∈ dom(∂f)✱ t❛
❝ã f(x) = f(x) ✈➭ ∂f(x) = ∂f(x)✳
❈❤ø♥❣ ♠✐♥❤✳ ✐✮ ❚❤❡♦ ➤Þ♥❤ ♥❣❤Ü❛
x
∗
∈ ∂f(x) ⇔ x
∗
, z − x + f(x)  f(z) ∀z.
❱í✐ ❜✃t ❦× y✱ ❧✃② z = x + λ.y, λ > 0✱ t❛ ❝ã
x
∗
, λ.y + f(x)  f(x + λ.y).
❚õ ➤➞② s✉② r❛
x
∗
, y 
f(x + λ.y) − f(x)
λ
∀λ > 0. ✭✷✳✶✮
❚❤❡♦ ➤Þ♥❤ ♥❣❤Ü❛ ❝ñ❛ f

(x, y)✱ s✉② r❛ ♥❣❛② x
∗
, y  f

(x, y) ∀y✳
◆❣➢î❝ ❧➵✐✱ ❣✐➯ sö ✭✷✳✶✮ t❤♦➯ ♠➲♥✳

(x
∗
) = f(x). ✭✷✳✹✮
❚õ ✭✷✳✷✮✱✭✷✳✸✮ ✈➭ ✭✷✳✹✮ t❛ ❝ã f(x) = f(x)✳
❚❛ ❧✃② y
∗
∈ ∂f(x) t❤× ∀z t❛❝ã
y
∗
, z − x + f(x)  f(z).
▼➷t ❦❤➳❝
f(z)  f(z)  y
∗
, z − x + f(x) = y
∗
, z − x + f(x).
❙✉② r❛ y
∗
∈ ∂f(x)✳ ❱❐②
∂f(x) ⊂ ∂f(x). ✭✷✳✺✮
◆❣➢î❝ ❧➵✐✱ ❧✃② z
0
∈ ri(dom f)✳ ❱í✐ ♠ä✐ z t❛ ❝ã
f(z) = f(z) = lim
t→0
f[(1 − t).z + t.z
0
].
❱❐② t❤❡♦ ➤Þ♥❤ ♥❣❤Ü❛ ❝ñ❛ ❞➢í✐ ✈✐ ♣❤➞♥ t❛ ❝ã ✿
x

∗
t❤♦ ♠➲♥
x
∗
, z − x + f(x)  f(z) < +∞.
❱❐② ∂f(x) = ∅✳
✐✐✮ ●✐➯ sö x ∈ ri(dom f)✳ ❚❛ ❝ã ➤✐Ó♠ (x, f(x)) ♥➺♠ tr➟♥ ❜✐➟♥ ❝ñ❛ epi f✳
❉♦ f ❧å✐✱ ❝❤Ý♥❤ t❤➢ê♥❣✱ ♥➟♥ tå♥ t➵✐ s✐➟✉ ♣❤➻♥❣ tù❛ ❝ñ❛ epi f ➤✐ q✉❛
(x, f(x))✳
❚ø❝ ❧➭ tå♥ t➵✐ p ∈ R
n
, t ∈ R ❦❤➠♥❣ ➤å♥❣ t❤ê✐ ❜➺♥❣ 0 s❛♦ ❝❤♦
p, x + t.f(x)  p, y + t.µ ,∀(y, µ) ∈ epi f. ✭✷✳✼✮
❚❛ ❝ã t = 0✱ ✈× ♥Õ✉ t = 0 t❤× p, x  p, y ,∀y ∈ dom f✳
❍❛② p, x − y  0 ,∀y ∈ dom f✳
◆❤➢♥❣ ❞♦ x ∈ ri(dom f)✱ ♥➟♥ ➤✐Ò✉ ♥➭② ❦Ð♦ t❤❡♦ p = 0✳ ▼➞✉ t❤✉➱♥ ✈í✐
p, t ❦❤➠♥❣ ➤å♥❣ t❤ê✐ ❜➺♥❣ ✵✳ ❱❐② t = 0✳
❍➡♥ ♥÷❛ t > 0✱ ✈× ♥Õ✉ t < 0 t❤× tr♦♥❣ ❜✃t ➤➻♥❣ t❤ø❝ ✭✷✳✼✮✱ ❦❤✐ ❝❤♦ µ → ∞
t❛ s✉② r❛ ♠➞✉ t❤✉➱♥ ✈× ✈Õ tr➳✐ ❝è ➤Þ♥❤✳
❈❤✐❛ ❤❛✐ ✈Õ ❝ñ❛ ✭✷✳✼✮ ❝❤♦ t > 0✱ t❛ ➤➢î❝✿

p
t
, x + f(x)  
p
t
, y + µ ∀y ∈ dom f.

Trích đoạn Tính đơn điệu của dưới vi phân

---