VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM
VIỆN TOÁN HỌC
———————o0o——————–
XẤP XỈ BẬC NHẤT VÀ BẬC HAI
CỦA CÁC TẬP HỢP
VÀ CÁC MÔ TẢ ĐỐI NGẪU TƯƠNG ỨNG
LUẬN VĂN THẠC SĨ
Chuyên ngành: Toán giải tích
Mã số: 60 46 01 02
Học viên thực hiện: Hoàng Minh Có
Lớp: Cao học K19
Người hướng dẫn khoa học: GS. TSKH. Nguyễn Đông Yên
HÀ NỘI - 2013
Mục lục
Danh mục ký hiệu . . . . . . . . . . . . . . . . . . . . . . . . ii
Lời mở đầu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . iv
1 Nón tiếp tuyến và nón pháp tuyến 1
1.1 Nón tiếp tuyến và đạo hàm . . . . . . . . . . . . . . . . . . 1
1.1.1 Ánh xạ đa trị . . . . . . . . . . . . . . . . . . . . . 1
1.1.2 Nón tiếp tuyến . . . . . . . . . . . . . . . . . . . . . 2
1.1.3 Đạo hàm . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2 Nón pháp tuyến và đối đạo hàm . . . . . . . . . . . . . . . 13
1.2.1 Nón pháp tuyến . . . . . . . . . . . . . . . . . . . . 13
1.2.2 Dưới vi phân . . . . . . . . . . . . . . . . . . . . . . 14
1.2.3 Đối đạo hàm . . . . . . . . . . . . . . . . . . . . . . 16
1.3 Quan hệ giữa nón tiếp tuyến và nón pháp tuyến . . . . . . 17
2 Tập tiếp xúc bậc hai và dưới vi phân bậc hai 22
2.1 Tập tiếp xúc bậc hai . . . . . . . . . . . . . . . . . . . . . 23
2.2 Tập tiếp xúc bậc hai của tập lồi đa diện . . . . . . . . . . . 26
2.3 Tập tiếp xúc bậc hai của tập hợp có biên trơn . . . . . . . . 30
2.3.1 Tập hợp có biên trơn . . . . . . . . . . . . . . . . . 30

2.3.2 Dưới vi phân bậc hai và tập tiếp xúc bậc hai . . . . 32
Kết luận . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . 45
i
Danh mục ký hiệu
N Tập số nguyên dương
R Tập số thực
∅ Tập rỗng
R
n
Không gian Euclide n chiều
x Chuẩn của x
dist(x, S) Khoảng cách từ x đến S
·, · Cặp đối ngẫu hoặc tích vô hướng
t
k
↓ 0 Dãy số dương t
k
hội tụ về 0
x
k
w
−→ x Dãy véctơ x
k
hội tụ yếu đến x
Ω Bao đóng của Ω
T (x; Ω) Nón tiếp tuyến Bouligand-Severi của Ω tại x
T
w
(x; Ω) Nón tiếp tuyến yếu của Ω tại x

T
C
(x; Ω) Nón tiếp tuyến Clarke của Ω tại x

N
ε
(x; Ω) Nón ε-pháp tuyến của Ω tại x

N(x; Ω) Nón pháp tuyến Fréchet của Ω tại x
N(x; Ω) Nón pháp tuyến qua giới hạn của Ω tại x
i
Ω
(·) Hàm chỉ của tập Ω
F : X ⇒ Y Ánh xạ đa trị
gph F Đồ thị của F
dom F Miền hữu hiệu của F
reg F Miền ảnh của F
ii
Danh mục ký hiệu
DF
z
(·) Đạo hàm contingent của F tại z
DF
w
z
(·) Đạo hàm contingent yếu của F tại z
CF
z
(·) Đạo hàm Clarke của F tại z


D
∗
F
z
(·) Đối đạo hàm Fréchet của F tại z
D
∗
F
z
(·) Đối đạo hàm Mordukhovich của F tại z

∂f(x) Dưới vi phân Fréchet của f tại x
∂f(x) Dưới vi phân qua giới hạn của f tại x
γ Độ cong của siêu mặt tại một điểm cho trước
γ Độ cong trên của siêu mặt tại một điểm cho trước
iii
Lời mở đầu
Trong giải tích cổ điển, đạo hàm của hàm số thực có liên quan chặt chẽ
đến tiếp tuyến của đồ thị. Dựa vào phương trình tiếp tuyến của đồ thị hàm
số tại một điểm, người ta có thể xấp xỉ các giá trị của hàm số trong lân cận
điểm đó. Mặt khác, đồ thị hàm số đã cho chính là đường bao (envelope)
của họ các tiếp tuyến nói trên. Như vậy, tiếp tuyến chính là xấp xỉ bậc
nhất của đồ thị, và đồ thị có thể được khôi phục thông qua họ các tiếp
tuyến.
Sự mở rộng khái niệm tiếp tuyến sang giải tích đa trị gắn liền với nhu
cầu mở rộng khái niệm đạo hàm. Năm 1981, J P. Aubin (xem [3] và [4])
đề nghị xây dựng đạo hàm của một ánh xạ đa trị F : X ⇒ Y , ở đó X
và Y là các không gian Banach, tại một điểm z = (x, y), y ∈ F(x), như
một ánh xạ đa trị từ X vào Y có đồ thị trùng với hình nón tiếp tuyến
Bouligand-Severi của tập đồ thị gph F := {(x, y) ∈ X × Y |y ∈ F(x)}

tại z. Để xây dựng khái niệm đạo hàm của ánh xạ đa trị, ngoài nón tiếp
tuyến Bouligand-Severi người ta (xem [4] và [2]) còn sử dụng khái niệm
nón tiếp tuyến do F. H. Clarke đưa ra năm 1973 (xem [7]). Đây là phương
pháp nghiên cứu bằng không gian nền.
Song song với sự phát triển lý thuyết vi phân của Clarke, có một lý
thuyết vi phân khác dựa trên các khái niệm do B. S. Mordukhovich đã đưa
ra năm 1976, đó là các khái niệm nón pháp tuyến không lồi ([nonconvex]
normal cone), đối đạo hàm qua giới hạn (limiting coderivative), dưới vi
phân không lồi ([nonconvex] subdifferential). Cách tiếp cận bằng không
gian đối ngẫu này đã đưa đến những kết quả mới mẻ và sâu sắc, do đó đã
thu hút được sự chú ý ngày càng tăng của các nhà toán học. Trong khoảng
những năm 1995–1997, B. S. Mordukhovich và các cộng sự đã công bố một
loạt kết quả quan trọng, đưa ra nhiều ý tưởng và kỹ thuật mới, cho phép
hoàn thiện lý thuyết vi phân vô hạn chiều dựa trên các cấu trúc đối ngẫu.
Tóm lại, cũng tương tự như vai trò của các khái niệm nón tiếp tuyến trong
iv
Lời mở đầu
lý thuyết vi phân được xây dựng bằng phương pháp không gian nền, nón
pháp tuyến không lồi, được định nghĩa như giới hạn Painlevé-Kuratowski
của một họ tập lồi mà mỗi tập bao gồm các ε-pháp tuyến, là cơ sở của lý
thuyết vi phân được xây dựng bằng phương pháp không gian đối ngẫu.
Để nghiên cứu các điều kiện cần và đủ cực trị bậc hai của các bài toán
tối ưu, và tính ổn định của các bài toán tối ưu và cân bằng, người ta cần
sử dụng các khái niệm tập tiếp xúc bậc hai (xem [5] và [1]) và dưới vi
phân bậc hai (xem [9]). Mối quan hệ giữa các nón tiếp tuyến và các nón
pháp tuyến qua giới hạn đã được B. S. Mordukhovich khảo sát trong [9,
Mục 1.1.2, tr. 12–18]. Mối quan hệ giữa các tập tiếp xúc bậc hai và dưới
vi phân bậc hai qua giới hạn của hàm chỉ của một tập hợp là một vấn đề
mới được đặt ra. Cụ thể, vào năm 2010, GS. Nguyễn Đông Yên đã đề xuất
việc nghiên cứu vấn đề đó, nhưng chưa thu được kết quả cụ thể nào.

Luận văn này trình bày các khái niệm cơ bản về nón tiếp tuyến, nón
pháp tuyến, đạo hàm, đối đạo hàm, dưới vi phân, và tập xấp xỉ bậc hai.
Các mối liên hệ giữa các khái niệm đó cũng được nghiên cứu chi tiết. Luận
văn được viết chủ yếu trên cơ sở Chương 1 của cuốn chuyên khảo [9] của
B. S. Mordukhovich, Chương 3 của cuốn giáo trình [10] của A. Ruszczynski,
và phần đầu của bài báo [12]. Trong luận văn có một số kết quả mới về
mối quan hệ giữa tập tiếp xúc bậc hai và dưới vi phân bậc hai của hàm
chỉ, trong trường hợp tập được xét là tập có biên trơn.
Ngoài phần Mở đầu, phần Kết luận và phần Tài liệu tham khảo, luận
văn gồm hai chương.
Chương 1 “Nón tiếp tuyến và nón pháp tuyến” trình bày các khái niệm
cơ bản về nón tiếp tuyến, nón pháp tuyến, đạo hàm, đối đạo hàm, dưới vi
phân, và mối quan hệ giữa nón tiếp tuyến và nón pháp tuyến.
Chương 2 “Tập tiếp xúc bậc hai và dưới vi phân bậc hai” trình bày khái
niệm và các tính chất của tập tiếp xúc bậc hai, mối quan hệ giữa tập tiếp
xúc bậc hai và dưới vi phân bậc hai của hàm chỉ trong trường hợp tập
được xét là tập có biên trơn.
Các kết quả ở Mục 2.3 là mới. Ý tưởng cơ bản ở đây là sử dụng khái
niệm độ cong của tập hợp được cho dưới dạng tập nghiệm một bất đẳng
thức hoặc của tập nghiệm một hệ hữu hạn các đẳng thức để thiết lập mối
quan hệ gián tiếp giữa tập xúc bậc hai và dưới vi phân bậc hai của hàm
v
Lời mở đầu
chỉ thông qua các bất đẳng thức kép. Chúng tôi cho rằng khó có thể thiết
lập mối quan hệ trực tiếp giữa tập xúc bậc hai và dưới vi phân bậc hai
của hàm chỉ, theo kiểu những công thức tính cái này qua cái kia (như đối
với nón tiếp tuyến và nón pháp tuyến – chính là dưới vi phân bậc nhất
của hàm chỉ).
Luận văn đã được hoàn thành tại Viện Toán học, Viện Hàn lâm Khoa
học và Công nghệ Việt Nam, dưới sự hướng dẫn của GS. TSKH. Nguyễn

Đông Yên. Tác giả chân thành cảm ơn thầy Yên đã dành nhiều thời gian
chỉ dẫn cho tác giả thực hiện đề tài nghiên cứu.
Tác giả chân thành cảm ơn các thầy cô giáo và các cán bộ công nhân
viên trong Viện Toán học đã giúp đỡ tác giả trong suốt thời gian học tập
và nghiên cứu tại Viện Toán học.
Hà Nội, ngày 30 tháng 08 năm 2013
Tác giả
Hoàng Minh Có
vi
Chương 1
Nón tiếp tuyến và nón pháp tuyến
Nói một cách đơn giản, nón tiếp tuyến là xấp xỉ bậc nhất của tập hợp
tại một điểm cho trước. Còn nón pháp tuyến là xấp xỉ bậc nhất của tập
hợp được viết bằng ngôn ngữ đối ngẫu. Như vậy, nón tiếp tuyến là một cấu
trúc trong không gian nền, còn nón pháp tuyến là cấu trúc trong không
gian đối ngẫu. Khái niệm thứ nhất là cơ sở cho cách tiếp cận bằng không
gian nền (the primal-space approach), còn khái niệm thứ hai là cơ sở cho
cách tiếp cận bằng không gian đối ngẫu (the dual-space approach). Chương
này gồm hai mục. Mục thứ nhất trình bày các định nghĩa nón tiếp tuyến,
đạo hàm của ánh xạ đa trị, và một số tính chất. Mục thứ hai trình bày
khái niệm nón pháp tuyến, đối đạo hàm của ánh xạ đa trị, và một số tính
chất.
1.1 Nón tiếp tuyến và đạo hàm
Khái niệm ánh xạ đa trị là sự mở rộng tự nhiên của ánh xạ đơn trị. Với
khái niệm ánh xạ đa trị, ta có thể giải quyết nhiều vấn đề trong toán học
nói chung, và trong lý thuyết tối ưu và cân bằng nói riêng.
1.1.1 Ánh xạ đa trị
Định nghĩa 1.1. (Xem [2, tr. 9–10]) Cho X, Y là hai tập hợp bất kỳ. Cho
F : X ⇒ Y là ánh xạ từ X vào tập hợp gồm tất cả các tập con của Y ,
được ký hiệu là 2

Y
. Ta nói F là ánh xạ đa trị từ X và Y . Như vậy, với
mỗi x ∈ X, F (x) là một tập hợp con của Y . Không loại trừ khả năng là
với một số phần tử x ∈ X nào đó ta có F (x) là tập rỗng.
1
Chương 1. Nón tiếp tuyến và nón pháp tuyến
Ví dụ 1.1. Xét phương trình đa thức
λ
n
+ a
1
λ
n−1
+ ···+ a
n−1
λ + a
n
= 0, (1)
ở đó n ∈ N = {1, 2, }, a
i
∈ R (i = 1, 2, . . . , n) là các số thực. Quy tắc
cho tương ứng mỗi véctơ a = (a
1
, . . . , a
n
) ∈ R
n
với một tập nghiệm của
phương trình (1), được ký hiệu bởi F (a), cho ta một ánh xạ đa trị.
F : R

n
⇒ C, a = (a
1
, . . . , a
n
) → F(a),
từ không gian Euclide R
n
vào tập số phức C. Với mỗi a, F (a) có không
quá n phần tử. Ở đây, ta có thể nhúng tập F(a) vào R
2
bằng cách đồng
nhất C với không gian Euclide hai chiều R
2
.
Đối với mỗi ánh xạ đa trị F : X ⇒ Y , người ta định nghĩa các tập hợp
gph F = {(x, y) ∈ X ×Y |y ∈ F(x)},
dom F = {x ∈ X |F (x) = ∅},
và
reg F = {y ∈ Y |∃x ∈ X sao cho y ∈ F(x)}.
Các tập hợp đó, lần lượt được gọi là đồ thị, miền hữu hiệu, và miền ảnh
của ánh xạ đa trị F .
1.1.2 Nón tiếp tuyến
Định nghĩa 1.2. (Giới hạn theo Painlevé-Kuratowski, xem [2, tr. 63]) Giả
sử M là không gian mêtric, X là không gian định chuẩn. Cho {Ω
t
}
t∈M
là
họ tập hợp phụ thuộc vào tham số t ∈ M, Ω

t
⊂ X với mọi t. Với mỗi
t
0
∈ M, tập hợp
Lim sup
t→t
0
Ω
t
:=

x ∈ X : lim inf
t→t
0
d(x, Ω
t
) = 0

, (1.1)
ở đó
d(x, Ω) := inf
u∈Ω
x −u
kí hiệu khoảng cách từ x đến tập Ω ⊂ X, được gọi là giới hạn trên theo
Painlevé-Kuratowski của họ {Ω
t
}
t∈M
khi t → t

0
. Tập hợp
Lim inf
t→t
0
Ω
t
:=

x ∈ X : lim
t→t
0
d(x, Ω
t
) = 0

(1.2)
2
Chương 1. Nón tiếp tuyến và nón pháp tuyến
được gọi là giới hạn dưới theo Painlevé-Kuratowski của họ {Ω
t
}
t∈M
khi
t → t
0
.
Rõ ràng
Lim inf
t→t

0
Ω
t
⊂ Lim sup
t→t
0
Ω
t
.
Có thể chứng minh ([2, tr. 64]) rằng các tập giới hạn trên và tập giới hạn
dưới đều là các tập đóng. Từ (1.1) ta có
x ∈ Lim sup
t→t
0
Ω
t
⇔

∃{t
k
}
k∈N
⊂ M, t
k
→ t
0
, lim
k→0
d(x, Ω
t

k
) = 0

. (1.3)
Do (1.2) ta có
x ∈ Lim inf
t→t
0
Ω
t
⇔

∀{t
k
}
k∈N
⊂ M, t
k
→ t
0
, lim
k→∞
d(x, Ω
t
k
) = 0

. (1.4)
Ví dụ 1.2. Cho tập hợp M = X = R, và họ tập hợp
Ω

t
=







{−1 + t} nếu t < 0,
[−1, 1] nếu t = 0,
{1 −t
2
} nếu t > 0.
Ta có Lim sup
t→0
Ω
t
= [−1, 1] và Lim inf
t→0
Ω
t
= ∅.
Cho Ω là tập con trong không gian định chuẩn X và cho ¯x ∈ Ω.
Định nghĩa 1.3. (Nón tiếp xúc bậc nhất; xem [9, tr. 13]) Tập hợp
T (¯x; Ω) := Lim sup
t↓0
Ω − ¯x
t
(1.5)

ở đó “Limsup” được tính theo tôpô chuẩn của X, được gọi là nón tiếp tuyến
Bouligand-Severi của Ω tại ¯x. Nếu “Lim sup” trong công thức (1.5) được
tính theo tôpô yếu của X, thì ta ký hiệu tập hợp thu được bởi T
w
(¯x; Ω)
và gọi nó là nón tiếp tuyến yếu của Ω tại ¯x.
3
Chương 1. Nón tiếp tuyến và nón pháp tuyến
Định nghĩa 1.4. (Nón tiếp tuyến Clarke; xem [9, tr. 13]) Tập hợp
T
C
(¯x; Ω) := Lim inf
t↓0, x
Ω
−→¯x
Ω −x
t
, (1.6)
ở đó “Lim inf” được tính theo tôpô chuẩn của X, được gọi là nón tiếp tuyến
Clarke của Ω tại ¯x.
Ví dụ 1.3. (Tương tự như Ví dụ 2.2.4 trong [2]) Cho tập hợp Ω =
{x = (x
1
, x
2
) ∈ R
2
|x
2
= |x

1
|}, và x = (0, 0). Ta có T (x, Ω) = Ω và
T
C
(x, Ω) = {0}.
Mệnh đề 1.1. Các tính chất sau nghiệm đúng:
(i) T(¯x; Ω) là hình nón chứa 0, tức là 0 ∈ T (¯x; Ω) và λv ∈ T(¯x; Ω) với
mỗi v ∈ T(¯x; Ω) và với mỗi λ > 0;
(ii)
T (¯x; Ω) =

v ∈ X |∃{t
k
} ⊂ R
+
\{0}, t
k
→ 0,
∃{v
k
} ⊂ X, v
k
→ v, ¯x + t
k
v
k
∈ Ω, ∀k ∈ N

;
(1.7)

(iii) T (¯x; Ω) là nón đóng;
(iv)
T
C
(¯x; Ω) ⊂ T(¯x; Ω) ⊂ T
w
(¯x; Ω). (1.8)
Bao hàm thức T (¯x; Ω) ⊂ T
w
(¯x; Ω) có dấu bằng khi X là không gian hữu
hạn chiều.
Chứng minh. (i) Dễ thấy rằng 0 ∈ T (¯x; Ω). Lấy tùy ý v ∈ T (x; Ω) và
λ > 0. Theo công thức (1.5), tồn tại {x
k
} ⊂ Ω và {t
k
} ⊂ R
+
\{0}, t
k
→ 0,
sao cho
v = lim
k→∞
x
k
− x
t
k
.

Đặt
˜
t
k
=
1
λ
t
k
với k ∈ N, từ đó ta có
λv = lim
k→∞
x
k
− x
˜
t
k
.
Điều đó chứng tỏ rằng λv ∈ T (¯x; Ω).
4
Chương 1. Nón tiếp tuyến và nón pháp tuyến
(ii) Kí hiệu vế phải của (1.7) là V . Lấy v ∈ T(x; Ω) bất kỳ, ta cần chứng
minh rằng v ∈ V . Chọn {t
k
} ⊂ R
+
\{0}, t
k
→ 0 sao cho

lim
k→∞
d(x + t
k
v, Ω)
t
k
= 0.
Đặt ε
k
=
d(x + t
k
v, Ω)
t
k
, ta có ε
k
→ 0
+
. Với mỗi k,
d(x + t
k
v, Ω) = t
k
ε
k
< t
k
ε

k
+
1
k
t
k
.
Do đó tồn tại x
k
∈ Ω sao cho
(x + t
k
v) −x
k
 < t
k
ε
k
+
1
k
t
k
.
Đặt v
k
=
x
k
− x

t
k
, ta có
v −v
k
 = v −
x
k
− x
t
k
 < ε
k
+
1
k
.
Vậy v
k
→ v khi k → ∞. Vì x + t
k
v
k
= x
k
∈ Ω, với mọi k, nên v ∈ V .
Ngược lại, giả sử v ∈ V. Chọn {t
k
}, {v
k

}, t
k
→ 0
+
, v
k
→ v, sao cho
x + t
k
v
k
∈ Ω. Ta có
d(x + t
k
v, Ω)
t
k

(x + t
k
v) −(x + t
k
v
k
)
t
k
= v − v
k
 → 0.

Do đó (1.7) nghiệm đúng.
(iii) Giả sử {w
k
} ⊂ T (¯x; Ω), w
k
→ w. Với mỗi k ∈ N, do khẳng định
(ii) ở trên, tồn tại t
k
∈

0,
1
k

và v
k
∈ X sao cho
v
k
− w
k
 <
1
k
, ¯x + t
k
v
k
∈ Ω.
Ta có t

k
→ 0
+
và
v
k
− w  v
k
− w
k
 + w
k
− w <
1
k
+ w
k
− w → 0 khi k → ∞.
Theo (ii), từ đó suy ra rằng w ∈ T(¯x; Ω). Vậy T (¯x; Ω) là nón đóng.
5
Chương 1. Nón tiếp tuyến và nón pháp tuyến
(iv) Lấy bất kỳ v ∈ T
C
(x; Ω), ta sẽ chứng minh rằng v ∈ T (x; Ω). Vì
v ∈ T
C
(x; Ω) nên với mọi dãy t
k
↓ 0 và mọi dãy x
k

Ω
−→ x ta có
lim
k→∞
d(v,
Ω −x
k
t
k
) = 0.
Vì vậy, với dãy t
k
↓ 0 được lấy tùy ý và dãy x
k
= x với mọi k ∈ N, ta có
lim
k→∞
d(v,
Ω −x
t
k
) = 0. Từ đây suy ra rằng v ∈ T (x; Ω).
Nếu v
k
→ v thì v
k
w
−→ v. Do đó bao hàm thức T(¯x; Ω) ⊂ T
w
(¯x; Ω) là

hiển nhiên. Vì khi X là không gian hữu hạn chiều thì tôpô yếu của X
trùng với tôpô của chuẩn trong X, nên ta có T (¯x; Ω) = T
w
(¯x; Ω). 
Tính chất hội tụ yếu của dãy véctơ được đặc trưng như sau.
Bổ đề 1.1. Cho {v
k
} ⊂ X. Ta có v
k
w
−→ v nếu và chỉ nếu với mọi x
∗
∈ X
∗
x
∗
, v
k
 → x
∗
, v khi k → ∞.
Chứng minh. Giả sử rằng {v
k
} ⊂ X, và v
k
w
−→ v, ta cần chứng minh
rằng
lim
k→∞

x
∗
, v
k
 = x
∗
, v.
Giả sử phản chứng rằng có tồn tại ε > 0 sao cho với mọi k, đều có k

> k
sao cho
|x
∗
, v
k

 −x
∗
, v|  ε. (1.9)
Xét tập mở yếu V := {y ∈ X | − ε < x
∗
, y − v < ε}. Rõ ràng v ∈ V.
Vậy V là lân cận mở yếu của v. Do (1.9), với mọi k và với mọi k

> k ta
có v
k

/∈ V . Điều này mâu thuẫn với giả thiết v
k

w
−→ v.
Giả sử rằng với mọi x
∗
∈ X
∗
, ta có x
∗
, v
k
 → x
∗
, v khi k → ∞. Xét
lân cận mở yếu của v dưới dạng
V
{x
∗
i
,ε
i
}
= {y ∈ X ||x
∗
i
, y −v| < ε
i
, i =
1, m},
ở đây x
∗

i
∈ X
∗
và ε
i
> 0, i = 1, m. Lấy i ∈ {1, . . . , m}. Vì x
∗
i
, v
k
 →
x
∗
i
, v khi k → ∞, nên tồn tại k
ε
i
sao cho


x
∗
i
, v
k
− v


< ε
i

, ∀k  k
ε
i
.
Đặt k = max{k
ε
i
|i = 1, m}. Do cách chọn k, với mọi k > k ta có


x
∗
i
, v
k
− v


< ε
i
, ∀i = 1, m.
Suy ra v
k
∈ V
{x
∗
i
,ε
i
}

với mọi k  k. Vậy v
k
w
−→ v. 
6
Chương 1. Nón tiếp tuyến và nón pháp tuyến
Mệnh đề 1.2. Các tính chất sau nghiệm đúng:
(i) v ∈ T
w
(¯x; Ω) khi và chỉ khi tồn tại t
k
↓ 0, và {x
k
} ⊂ X, sao cho
v
k
:=
x
k
− x
t
k
w
−→ v.
(ii) v ∈ T
w
(¯x; Ω) khi và chỉ khi tồn tại t
k
↓ 0, và {x
k

} ⊂ X, sao cho với
mọi x
∗
∈ X
∗
ta có x
∗
, v
k
 → x
∗
, v, ở đó v
k
=
1
t
k
(x
k
− x).
Chứng minh. (i) Ta có v ∈ T
w
(¯x; Ω) khi và chỉ khi tồn tại {t
k
} ⊂
R
+
\{0}, t
k
→ 0, và {v

k
} ⊂ X sao cho
x
k
− x
t
k
w
−→ v khi k → ∞.
Đặt v
k
:=
x
k
− x
t
k
, ta có v
k
w
−→ v.
(ii) Áp dụng Bổ đề 1.1 và khẳng định (i) ở trên ta suy ra điều phải
chứng minh. 
Định nghĩa 1.5. Chuẩn Kadec . của không gian Banach X là chuẩn
sao cho các tôpô cảm sinh từ tôpô yếu và tôpô của chuẩn trên mặt cầu
đơn vị
S
X
:= {x ∈ X |x = 1}
là trùng nhau. Tức là, với mọi tập mở U trong tôpô của chuẩn, ta có

U ∩ S
X
là vết (trace) của một tập mở yếu W ⊂ X nào đó trên S
X
(điều
này có nghĩa là tồn tại tập mở yếu W ⊂ X sao cho U ∩ S
X
= W ∩S
X
).
Ví dụ 1.4. Nếu X = H là không gian Hilbert thì
x := x, x
1
2
=

x, x
là chuẩn Kadec. Thật vậy, lấy tùy ý x ∈ H và ρ > 0. Ta cần chứng minh
rằng có tồn tại tập mở yếu W ⊂ H sao cho
W ∩S
H
= B(x, ρ) ∩S
H
. (1.10)
Nếu B(x, ρ) ∩ S
H
= ∅ thì (1.10) thỏa mãn với W = ∅. Giả sử rằng
B(x, ρ) ∩ S
H
= ∅. Ta có u ∈ B(x, ρ) ∩ S

H
khi và chỉ khi u = 1 và
u −x < ρ. Bất đẳng thức cuối tương đương với
ρ
2
> u − x, u − x = 1 −2u, x + x
2
7
Chương 1. Nón tiếp tuyến và nón pháp tuyến
⇔ u, x > α, ở đó α :=
1
2
(1 + x
2
− ρ
2
).
Xét tập W = {u ∈ H |u, x > α}. Từ biến đổi ở trên, ta có W ∩ S
H
=
B(x, ρ) ∩ S
H
. Vậy (1.10) là đúng.
Giả sử U là tập mở bất kì theo tôpô của chuẩn trong H. Khi đó tồn
tại họ điểm {x
α
}
α∈I
, và họ bán kính {ρ
α

}
α∈I
, I là một tập chỉ số nào đó,
sao cho U =

α∈I
B(x
α
, ρ
α
). Vậy
U ∩ S
H
=

α∈I

B(x
α
, ρ
α
) ∩S
H

.
Do kết quả chứng minh ở trên, với mỗi α ∈ I tồn tại tập mở yếu W
α
sao
cho B(x
α

, ρ
α
) ∩S
H
= W
α
∩ S
H
. Vậy
U ∩ S
H
=

α∈I

B(x
α
, ρ
α
) ∩S
H

=

α∈I

W
α
∩ S
H


=


α∈I
W
α

∩ S
H
.
Vì W =

α∈I
W
α
là tập mở yếu, điều đó chứng tỏ rằng vết U ∩ S
H
của U
trên S
H
bằng vết của tập mở yếu W trên S
H
. Tính chất Kadec của chuẩn
trong không gian Hilbert đã được chứng minh.
Mệnh đề 1.3. Chuẩn trong không gian Hilbert khả vi Fréchet tại những
điểm khác 0.
Chứng minh. Thật vậy, cho (X, ., .) là không gian Hilbert. Ta có
ϕ(x) = x = x, x
1/2

, ∀x ∈ X.
Cố định điểm x ∈ X\{0}. Đặt x
∗
=
x
x
∈ X ≡ X
∗
, ta sẽ chứng minh
rằng ∇ϕ(x) = x
∗
. Ta đặt f(x) = x, x, g(t) = t
1/2
với mọi t ≥ 0, và để
ý rằng ϕ = g ◦ f. Ta có ∇f(¯x) = 2¯x. Thật vậy, đẳng thức này xảy ra vì
lim
u→0
f(¯x + u) − f(¯x) −2¯x, u
u
= lim
u→0
¯x + u, ¯x + u −¯x, ¯x −2¯x, u
u
= lim
u→0
u
2
u
= lim
u→0

u = 0.
8
Chương 1. Nón tiếp tuyến và nón pháp tuyến
Vì x = 0 nên f(x) = x
2
> 0. Vậy g(·) khả vi tại t := f(x). Áp dụng
quy tắc tính đạo hàm của hàm hợp cho hàm ϕ = g ◦ f ta thu được
∇ϕ(¯x) = g

(f(¯x)).∇f(¯x) =
1
2
f(¯x)
−1/2
.2¯x =
1
2x
.2¯x =
¯x
x
.
Điều đó chứng tỏ rằng ∇ϕ(x) = x
∗
. 
Mệnh đề 1.4. Nếu v ∈ Lim inf
x
Ω
−→x
T (x; Ω) thì, với mọi ε > 0, tồn tại η > 0
sao cho (v + εB

X
) ∩T (x; Ω) = ∅ với mỗi x ∈ Ω ∩ (x + ηB
X
).
Chứng minh. Ta sẽ chứng minh mệnh đề bằng phản chứng. Giả sử rằng
tồn tại ε > 0 sao cho với mỗi η =
1
k
, k ∈ N, tồn tại x
k
∈ Ω ∩ (x +
1
k
B
X
)
mà (v + εB
X
) ∩ T(x
k
; Ω) = ∅.
Vì v ∈ Lim inf
x
Ω
−→x
T (x; Ω) nên, với dãy x
k
Ω
−→ x vừa chọn, với mỗi k ∈ N
tồn tại v

k
∈ T (x
k
; Ω) mà v
k
→ v khi k → ∞.
Do (v+εB
X
)∩T (x
k
; Ω) = ∅ theo cách chọn x
k
, ta phải có v
k
−v > ε
với mọi k ∈ N. Cho k → ∞, từ đó ta có v − v  ε. Mâu thuẫn này kết
thúc chứng minh mệnh đề. 
Định lý sau đây (xem [9, Theorem 1.9]) là một kết quả sâu sắc; nó
chỉ ra những mối quan hệ cơ bản giữa nón tiếp tuyến Clarke với nón tiếp
tuyến Bouligand-Severi và nón tiếp tuyến yếu. Điều thú vị là tính chất
phản xạ, tính chất Kadec, và tính khả vi của chuẩn tại những điểm khác 0
của không gian Banach được xét đóng vai trò quan trọng trong việc thiết
lập các mối quan hệ đó.
Định lý 1.1. Cho X là không gian Banach, và cho Ω ⊂ X là đóng địa
phương quanh x. Khi đó các khẳng định sau nghiệm đúng:
(i)
Lim inf
x
Ω
−→x

T (x; Ω) ⊂ T
C
(x; Ω).
(ii) Nếu X là không gian phản xạ, thì
T
C
(x; Ω) ⊂ Lim inf
x
Ω
−→x
T
w
(x; Ω).
9
Chương 1. Nón tiếp tuyến và nón pháp tuyến
(iii) Nếu chuẩn trên X là chuẩn Kadec và khả vi Fréchet tại những điểm
khác 0, thì
T
C
(x; Ω) = Lim inf
x
Ω
−→x
T
w
(x; Ω).
Chứng minh. (i) Ta đi chứng minh bao hàm thức thứ nhất trong định lý.
Lấy bất kỳ v ∈ Lim inf
x
Ω

−→x
T (x; Ω). Khi đó, theo Mệnh đề 1.4, với mỗi ε > 0,
tồn tại η > 0 sao cho (v+εB
X
) ∩ T (x; Ω) = ∅ với mọi x ∈ Ω ∩ (x+ηB
X
).
Đặt ν :=
η/2
(v + 2ε)
, ta thấy rằng
(x + t(v + 2εηB
X
)) ∩Ω = ∅ (1.11)
với mọi x ∈ Ω∩(x+
η
2
B
X
) và t ∈ (0, ν). Từ đó sẽ suy ra rằng v ∈ T (x; Ω).
Trước tiên ta chứng minh (1.11) là đúng với mọi t ∈ (0, ν). Thật vậy, để
chứng minh điều này, ta xét tập hợp
T
δ
:= {t ∈ (0, ν) |(x + t(v + δB
X
)) ∩ Ω = ∅}.
Ta có T
δ
là tập trù mật trong (0, ν) với mỗi δ ∈ (ε, 2ε). Thực vậy, do cách

chọn ν ở trên, ta tìm được một dãy t
k
↓ 0 sao cho
(x
k
+ t
k
(v + δB
X
)) ∩ Ω = ∅
với k ∈ N. Do đó T
δ
= ∅. Lấy bất kì τ ∈ (0, ν) \T
δ
và đặt t
∗
= sup [T
δ
∩
(0, τ)], ta có (x
k
+ t
∗
(v + δB
X
)) ∩ Ω = ∅. Do cách chọn ν,
x
k
+ t
∗

(v + δB
X
) ⊂ x +
η
2
B
X
+ ν(v + δ)B
X
⊂ x + ηB
X
.
Ta có thể chọn một dãy t
k
↓ 0 sao cho
(x
k
+ (t
∗
+ t
k
)(v + δB
X
)) ∩ Ω = ∅ với mọi k ∈ N.
Điều này có nghĩa là t
∗
= τ, và do đó τ là điểm tụ của tập T
δ
. Do δ ∈ (ε, 2ε)
và sự lựa chọn bất kì τ ∈ (0, ν) \T

δ
, nên chúng ta có
(x + t(v + 2εηB
X
)) ∩Ω = ∅ với mọi t ∈ (0, ν).
Từ đó ta suy ra rằng v ∈ T(x; Ω). Vậy bao hàm thức thứ nhất đã được
chứng minh.
10
Chương 1. Nón tiếp tuyến và nón pháp tuyến
(ii) Giả sử rằng X là không gian phản xạ, ta đi chứng minh bao hàm
thức thứ hai trong định lý. Lấy tùy ý v ∈ T
C
(x; Ω). Khi đó, với mọi ε > 0
ta tìm được η > 0 sao cho với mọi x ∈ (x + ηB
X
) ∩ Ω tồn tại một dãy
t
k
↓ 0 và dãy {v
k
} ⊂ (v + εB
X
) với x + t
k
v
k
∈ Ω, k ∈ N. Do tính phản
xạ của X, hình cầu đóng v + εB
X
là compact yếu. Vì vậy, ta tìm được

v
x
∈ X thỏa mãn v
x
∈ v +εB
X
và tập chỉ số {k

} ⊂ {k} sao cho v
k

w
−→ v
x
khi k

→ ∞. Theo định nghĩa của nón tiếp tuyến yếu, v
x
∈ T
w
(x; Ω). Do
ε > 0 được lấy tùy ý, ta có v ∈ Lim inf
x
Ω
−→x
T
w
(x; Ω). Vậy bao hàm thức thứ
hai đã được chứng minh.
(iii) Chứng minh phần này có trong Aubin và Frankowska (xem [4,

Theorem 4.1.13]) và bài báo của Browein và Strójwas (xem [6, Theorem
3.1]). 
Từ Định lý 1.1, Ví dụ 1.4, và Mệnh đề 1.3, ta có hệ quả sau.
Hệ quả 1.1. Cho X là không gian Banach, Ω ⊂ X là tập đóng địa phương
quanh x.
(i) Nếu X là không gian phản xạ, thì
Lim inf
x
Ω
−→x
T (x; Ω) ⊂ T
C
(x; Ω) ⊂ Lim inf
x
Ω
−→x
T
w
(x; Ω). (1.12)
(ii) Nếu X là không gian Hilbert thì
Lim inf
x
Ω
−→x
T (x; Ω) ⊂ T
C
(x; Ω) = Lim inf
x
Ω
−→x

T
w
(x; Ω). (1.13)
1.1.3 Đạo hàm
Cho X, Y là các không gian định chuẩn, F : X ⇒ Y là ánh xạ đa trị.
Ba khái niệm đạo hàm sau đây được xây dựng nhờ các cấu trúc hình
học – đó là các nón tiếp tuyến của đồ thị của ánh xạ đa trị được xét tại
một điểm cho trước. Dựa vào đạo hàm người ta có thể đặc trưng tính
lồi và tính lồi theo nón của ánh xạ đa trị F thông qua tính đơn điệu và
tính đơn điệu theo nón của các họ ánh xạ đạo hàm {DF
z
(·)}
z∈gphF
và
{CF
z
(·)}
z∈gphF
. Tương tự như trong giải tích cổ điển, người ta cũng có
thể dựa vào các khái niệm đạo hàm sau đây để đưa ra các định lý ánh xạ
11
Chương 1. Nón tiếp tuyến và nón pháp tuyến
mở, hàm ẩn, hàm ngược cho ánh xạ đa trị. Các khái niệm đạo hàm này
cũng đã được sử dụng để thiết lập các điều kiện cần và đủ cực trị trong lý
thuyết tối ưu và lý thuyết tối ưu véctơ.
Định nghĩa 1.6. ([2, tr. 71]) Đạo hàm contingent (đạo hàm Bouligand)
DF
z
(·) : X ⇒ Y của F tại điểm z = (x, y) ∈ gphF là ánh xạ đa trị có đồ
thị trùng với hình nón tiếp tuyến Bouligand-Severi T (z; gphF ), tức là

DF
z
(u) :=

v ∈ Y |(u, v) ∈ T (z; gphF )

, ∀u ∈ X.
Nếu F(x) = {f(x)} với mọi x ∈ X, ở đó f : X → Y là ánh xạ đơn trị,
thì ta viết Df
x
(·) thay cho DF
(x,f(x))
(·).
Nếu sử dụng hình nón tiếp tuyến Bouligand yếu T
w
(z; gphF) thay cho
T (z; gphF ) trong định nghĩa trên, thì ta có khái niệm đạo hàm sau.
Định nghĩa 1.7. Đạo hàm contingent yếu (đạo hàm Bouligand yếu)
D
w
F
z
(·) : X ⇒ Y của F tại điểm z = (x, y) ∈ gphF là ánh xạ đa
trị có đồ thị trùng với hình nón tiếp tuyến Bouligand yếu T
w
(z; gphF),
tức là
D
w
F

z
(u) :=

v ∈ Y |(u, v) ∈ T
w
(z; gphF)

, ∀u ∈ X.
Nếu F(x) = {f(x)} với mọi x ∈ X, ở đó f : X → Y là ánh xạ đơn trị,
thì ta viết D
w
f
x
(·) thay cho D
w
F
(x,f(x))
(·).
Định nghĩa 1.8. ([2, tr. 71]) Đạo hàm Clarke DF
z
(·) : X ⇒ Y của F tại
điểm z = (x, y) ∈ gphF là ánh xạ đa trị có đồ thị trùng với hình nón tiếp
tuyến Bouligand T
C
(z; gphF), tức là
CF
z
(u) :=

v ∈ Y |(u, v) ∈ T

C
(z; gphF)

, ∀u ∈ X.
Nếu F(x) = {f(x)} với mọi x ∈ X, ở đó f : X → Y là ánh xạ đơn trị,
thì ta viết Cf
x
(·) thay cho CF
(x,f(x))
(·).
Ví dụ 1.5. Xét ánh xạ đa trị F : R ⇒ R, với
F (x) =

[0, +∞) khi x  0,
[
√
x, +∞) khi x  0.
12
Chương 1. Nón tiếp tuyến và nón pháp tuyến
Tại z = (0, 0) ∈ gphF ta có
T
C
(z; gphF) = T (z; gphF ) = T
w
(z; gphF) = (−∞, 0] ×R
+
.
Vì vậy,
CF
z

(u) = DF
z
(u) = D
w
F
z
(u) =

[0, +∞) nếu u  0,
∅ nếu u > 0.
Ở phần tiếp theo, chúng ta sẽ đề cập đến khái niệm nón pháp tuyến
và đối đạo hàm. Đối đạo hàm của một ánh xạ đa trị F : X ⇒ Y tại một
điểm
z = (x, y) ∈ gphF là một ánh xạ đa trị từ không gian đối ngẫu Y
∗
vào không gian đối ngẫu X
∗
, lưu giữ các thông tin đã được mã hóa trong
ngôn ngữ của các không gian đối ngẫu về tốc độ thay đổi của ánh xạ đa
trị trong các không gian nền. Đối đạo hàm được xây dựng nhờ các nón
pháp tuyến của đồ thị của ánh xạ đa trị tại một điểm cho trước. Cách xây
dựng xấp xỉ bậc nhất của ánh xạ đa trị này là hoàn toàn khác với cách đã
được trình bày trong các Định nghĩa 1.5–1.7. Đối đạo hàm qua giới hạn
(xem Tiểu mục 1.2.3 dưới đây) không nhất thiết là ánh xạ đa trị liên hợp
của một ánh xạ đa trị giữa các không gian nền nào.
1.2 Nón pháp tuyến và đối đạo hàm
Trong giai đoạn các năm 1995-1997, B. S. Mordukhovich và các cộng
sự đã công bố nhiều bài báo quan trọng đặt nền móng cho lý thuyết vi
phân vô hạn chiều theo lược đồ mà trong đó sử dụng dưới vi phân để định
nghĩa nón pháp tuyến (nói chung là không lồi) của các tập hợp và sử dụng

nón pháp tuyến (không lồi) để định nghĩa đối đạo hàm (coderivative) của
ánh xạ đa trị. Vì dưới vi phân và nón pháp tuyến có quan hệ chặt chẽ, nên
cũng có thể định nghĩa nón pháp tuyến trước khi định nghĩa dưới vi phân.
Cách trình bày này đã được B. S. Mordukhovich sử dụng trong cuốn sách
chuyên khảo [9].
1.2.1 Nón pháp tuyến
Định nghĩa 1.9. (Tập véctơ ε-pháp tuyến, xem [9, tr. 4]) Cho Ω ⊂ X,
Ω = ∅. Cho x ∈ Ω và ε  0, tập hợp các ε-pháp tuyến của Ω tại x được
13
Chương 1. Nón tiếp tuyến và nón pháp tuyến
cho bởi công thức

N
ε
(x; Ω) :=

x
∗
∈ X
∗


lim sup
u
Ω
−→x
x
∗
, u −x
u −x

 ε

.
Khi ε = 0 thì ta sử dụng kí hiệu

N(x; Ω) thay cho N
0
(x; Ω) và gọi tập này
là nón pháp tuyến Fréchet của Ω tại x. Nếu x /∈ Ω thì ta quy ước rằng

N
ε
(x; Ω) := ∅, với mọi ε  0.
Định nghĩa 1.10. (Tập nón pháp tuyến qua giới hạn, xem [9, tr. 4]) Cho
Ω ⊂ X, Ω = ∅. Cho x ∈ Ω. Khi đó x
∗
∈ X
∗
được gọi là một pháp tuyến
qua giới hạn của Ω tại x nếu tồn tại các dãy ε
k
↓ 0, x
k
Ω
−→ x, và x
∗
k
w
∗
−→ x

∗
với mỗi x
∗
k
∈

N
ε
k
(x
k
; Ω), với mọi k ∈ N. Tập hợp
N(x; Ω) := Lim sup
x
Ω
−→x
ε↓0

N
ε
(x; Ω) (1.14)
được gọi là nón pháp tuyến qua giới hạn (hay nón pháp tuyến Mor-
dukhovich) của Ω tại x. Nếu x /∈ Ω thì ta quy ước rằng N(x; Ω) := ∅.
1.2.2 Dưới vi phân
Cho tập hợp Ω ⊂ X, ở đó X là không gian Banach. Cho ϕ : X → R =
[−∞, +∞] là hàm nhận giá trị trong tập số thực suy rộng. Giả sử rằng
x ∈ dom ϕ := {x ∈ X ||ϕ(x)| < +∞}.
Định nghĩa 1.11. ([2, tr. 108]) Với mỗi ε  0, đặt

∂

ε
ϕ(x) :=

x
∗
∈ X
∗
| lim inf
x→x
ϕ(x) −ϕ(x) −x
∗
, x −x
x −x
 −ε

. (1.15)
Tập hợp này được gọi là ε-dưới vi phân Fréchet của ϕ tại x. Các phần
tử của tập hợp ở vế trái của công thức (1.15) này được gọi là các ε-dưới
gradient Fréchet của ϕ tại x. Khi ε = 0 thì ta sử dụng kí hiệu

∂ϕ(x) thay
cho

∂
0
ϕ(x) và gọi tập này là dưới vi phân Fréchet dưới, hay nói gọn hơn
là dưới vi phân Fréchet của ϕ tại x.
14
Chương 1. Nón tiếp tuyến và nón pháp tuyến
Định nghĩa 1.12. ([2, tr. 109]) Tập hợp

∂ϕ(x) := Lim sup
x
ϕ
−→x
ε↓0

∂
ε
ϕ(x). (1.16)
được gọi là dưới vi phân qua giới hạn (hay dưới vi phân Mordukhovich)
của ϕ tại x.
Do đó, x
∗
∈ ∂ϕ(x) khi và chỉ khi tồn tại các dãy x
k
ϕ
−→ x, ε
k
→ 0
+
, và
x
∗
k
∈

∂
ε
k
ϕ(x

k
), sao cho
x
∗
k
w
∗
−→ x
∗
.
Như vậy, dưới vi phân Mordukhovich ∂ϕ(x) được tính qua các ε-dưới vi
phân Fréchet

∂ϕ
ε
(x) với ε > 0 được lấy đủ bé và x được lấy đủ gần x.
Xét hàm chỉ
i
Ω
(x) :=

0 nếu x ∈ Ω
+∞ nếu x /∈ Ω.
Mệnh đề sau đây cho thấy mối quan hệ giữa dưới vi phân của hàm chỉ
và nón pháp tuyến của Ω tại x.
Mệnh đề 1.5. Cho Ω ⊂ X là tập hợp khác rỗng. Khi đó, với mọi x ∈ Ω,
ta có

∂i
Ω

(x) =

N(x; Ω). (1.17)
Nếu X là không gian Asplund và nếu Ω là đóng quanh x ∈ Ω, thì
∂i
Ω
(x) = N(x; Ω). (1.18)
Chứng minh. Để chứng minh (1.17), ta nhận xét rằng x
∗
∈

∂i
Ω
(x) khi
và chỉ khi
lim inf
x → x
i
Ω
(x) −i
Ω
(x) −x
∗
, x −x
x −x
 0.
Đặt ∆(x, x) =
i
Ω
(x) −i

Ω
(x) −x
∗
, x −x
x −x
, ta có
inf

lim
k → ∞
∆(x
k
, x) : x
k
→ x

 0
khi và chỉ khi
∀ε > 0, ∃δ > 0 sao cho ∆(x, x) > −ε, ∀x ∈ X\{x} mà x −x < δ;
15
Chương 1. Nón tiếp tuyến và nón pháp tuyến
tức là
∀ε > 0, ∃δ > 0 sao cho i
Ω
(x) −i
Ω
(x) −x
∗
, x −x  −εx −x,
với mọi x ∈ X\{x} mà x − x < δ . Do i

Ω
(x) = 0 và i
Ω
(x) = +∞ nếu
x /∈ Ω, nên tính chất cuối có nghĩa là
∀ε > 0, ∃δ > 0 sao cho x
∗
, x −x  εx −xvới mọi x ∈ Ω
mà x −x < δ;
tức là lim sup
x
Ω
−→x
x
∗
, x −x
x −x
 0. Theo định nghĩa của nón pháp tuyến
Fréchet, điều đó có nghĩa là x
∗
∈

N(x; Ω). Vậy công thức (1.17) đã được
chứng minh.
Khi X là không gian Asplund thì, theo [9, Theorem 2.34], với mọi hàm
nửa liên tục dưới ϕ : X → R ta có
∂i
Ω
(u) = Lim sup
x → u


∂i
Ω
(x), ∀u ∈ X. (1.19)
Vì Ω là đóng nên hàm chỉ i
Ω
(x) là nửa liên tục dưới. Từ công thức (1.17)
và (1.19) ta suy ra đẳng thức (1.18). 
1.2.3 Đối đạo hàm
Định nghĩa 1.13. (xem [9, tr. 40–41]) Cho ánh xạ đa trị F : X ⇒ Y với
domF = ∅.
(i) Cho (x, y) ∈ X ×Y và ε  0. Ánh xạ đa trị

D
∗
ε
F (x, y)(·) : Y
∗
⇒ X
∗
xác định bởi công thức

D
∗
ε
F (x, y)(y
∗
) := {x
∗
∈ X

∗
|(x
∗
, −y
∗
) ∈

N
ε
((x, y); gphF )} (1.20)
được gọi là ε-đối đạo hàm của F tại (x, y) ∈ gphF . Khi ε = 0 thì ánh xạ
được cho bởi công thức (1.20) được gọi là đối đạo hàm Fréchet của F tại
(x, y) ∈ gphF , và được kí hiệu bởi

D
∗
F (x, y). Ta quy ước rằng với mọi
ε  0 và y
∗
∈ Y
∗
thì

D
∗
ε
F (x, y)(y
∗
) := ∅ nếu như (x, y) /∈ gphF.
(ii) Ánh xạ đa trị D

∗
F (x, y)(·) : Y
∗
⇒ X
∗
xác định bởi công thức
D
∗
F (x, y)(y
∗
) :=

x
∗
∈ X
∗
|(x
∗
, −y
∗
) ∈ N((x, y); gphF )

(1.21)
16
Chương 1. Nón tiếp tuyến và nón pháp tuyến
được gọi là đối đạo hàm qua giới hạn (hay đối đạo hàm Mordukhovich)
của F tại (x, y) ∈ gphF.
Nếu F (x) = {f(x)} với mọi x ∈ X, ở đó f : X → Y là ánh xạ
đơn trị, thì ta viết


D
∗
f(x) thay cho

D
∗
f(x, f(x)) và D
∗
f(x) thay cho
D
∗
f(x, f(x)).
1.3 Quan hệ giữa nón tiếp tuyến và nón pháp tuyến
Định lý 1.2. (xem [9, tr. 16]) Cho Ω ⊂ X là tập hợp trong không gian
Banach và cho x ∈ Ω. Khi đó,

N
ε
(x; Ω) ⊂

x
∗
∈ X
∗
|x
∗
, v  εv, ∀v ∈ T(x; Ω)

(1.22)
với mọi ε  0. Ngoài ra, với ε = 0 ta có


N(x; Ω) ⊂

x
∗
∈ X
∗
|x
∗
, v  0, ∀v ∈ T
w
(x; Ω)

(1.23)
và bao hàm thức này trở thành đẳng thức khi X là không gian phản xạ.
Thêm vào đó, bao hàm thức (1.22) trở thành đẳng thức khi X là không
gian hữu hạn chiều.
Chứng minh. Để chứng minh (1.22), ta cố định một véctơ x
∗
∈

N
ε
(x, Ω),
ở đó ε  0 được chọn tùy ý. Ta cần chứng minh rằng
x
∗
, v  εv ∀v ∈ T (x; Ω). (1.24)
Nếu v = 0 thì (1.24) hiển nhiên nghiệm đúng. Lấy tùy ý v ∈ T (x; Ω)\{0}.
Do Định nghĩa 1.3, tồn tại t

k
↓ 0 và v
k
→ v sao cho x + t
k
v
k
∈ Ω, với mọi
k ∈ N. Vì x
∗
∈

N
ε
(x, Ω), ta có
lim sup
u
Ω
−→x
x
∗
, u −x
u −x
 ε.
Thay thế u = x + t
k
v
k
∈ Ω vào bất đẳng thức cuối, ta được
lim sup

k→∞
x
∗
, v
k

v
k

 ε.
Vì thế, với mọi η > 0 ta có
x
∗
, v
k

v
k

< ε + η với mọi k đủ lớn. Cho k → ∞,
ta nhận được
x
∗
, v  (ε + η)v.
17
Chương 1. Nón tiếp tuyến và nón pháp tuyến
Vì η > 0 có thể lấy tùy ý, từ đó ta suy ra bất đẳng thức ở (1.24). Vậy bao
hàm thức (1.22) đã được chứng minh.
Để chứng minh (1.23), ta lấy x
∗

∈

N(x, Ω) và lấy tùy ý v ∈
T
w
(x; Ω)\{0}. Ta có
lim sup
u
Ω
−→x
x
∗
, u −x
u −x
 0. (1.25)
Do v ∈ T
w
(x; Ω)\{0} nên tồn tại t
k
↓ 0 và v
k
w
−→ v sao cho x + t
k
v
k
∈ Ω
với mọi k. Thay thế u = x + t
k
v

k
vào vế trái của bất đẳng thức ở (1.25)
và để ý rằng x + t
k
v
k
→ x. (Do v
k
w
−→ v nên dãy {v
k
} là giới nội. Vì t
k
↓ 0
nên từ đó ta có t
k
v
k
→ 0
X
. Vậy x + t
k
x
k
→ x.) Phép thay thế nói trên
cho ta bất đẳng thức sau
lim sup
k→∞
x
∗

, v
k

v
k

 0. (1.26)
Chọn ρ > 0 sao cho v
k
  ρ với mọi k ∈ N. Do (1.26), với mỗi η > 0 ta
có x
∗
, v
k
 < ηv
k
  ηρ. Với k đủ lớn. Cho k → ∞, từ đó ta thu được
x
∗
, v  ηρ.
(Vì v
k
w
−→ v nên theo Bổ đề 1.1, x
∗
, v
k
 → x
∗
, v khi k → ∞.) Cho

η → 0, ta suy ra rằng x
∗
, v  0. Vậy (1.23) đã được chứng minh.
Khi X là không gian phản xạ thì ta có

N(x; Ω) =

x
∗
∈ X
∗
|x
∗
, v  0, ∀v ∈ T
w
(x; Ω)

. (1.27)
Thật vậy, bao hàm thức “⊂” trong (1.27) suy ra từ (1.23). Ta cần chứng
minh rằng khi X là không gian phản xạ thì

x
∗
∈ X
∗
|x
∗
, v  0, ∀v ∈ T
w
(x; Ω)


⊂

N(x; Ω).
Cố định một véctơ x
∗
/∈

N(x; Ω), ta cần chứng tỏ rằng
x
∗
/∈

u
∗
∈ X
∗
|u
∗
, v  0, ∀v ∈ T
w
(x; Ω)

. (1.28)
Vì x
∗
/∈

N(x; Ω), nên theo định nghĩa nón pháp tuyến Fréchet có tồn tại
˜ε > 0 và một dãy x

k
Ω
−→ x sao cho
x
∗
, x
k
− x
x
k
− x
> ˜ε, với k đủ lớn.
18