BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2








NGUYỄN THỊ SÁU ANH








NÓN TIẾP VÀ NÓN PHÁP
TRONG KHÔNG GIAN BANACH






LUẬN VĂN THẠC SĨ TOÁN HỌC

HÀ NỘI, 2014
BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2
NÓN TIẾP VÀ NÓN PHÁP
TRONG KHÔNG GIAN BANACH
LUẬN VĂN THẠC SỸ
Chuyên ngành : TOÁN GIẢI TÍCH
Mã số : 60 46 01 02
Giáo viên hướng dẫn:
PGS.TS. NGUYỄN NĂNG TÂM
HÀ NỘI, 2014
Mục lục
Một số kí h iệu 5
Mở đầu 6
1 Một số kiến thức chuẩn bị 8
1.1 Không gian Banach và không gian Hilbert . . . . . . . . 8
1.2 Tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.3 Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

1.3.1 Định nghĩa . . . . . . . . . . . . . . . . . . . . . 13
1.3.2 Tính liên tục của hàm lồi . . . . . . . . . . . . . 1 5
1.4 Ánh xạ đa trị . . . . . . . . . . . . . . . . . . . . . . . . 16
1.5 Đạo hàm theo hướng . . . . . . . . . . . . . . . . . . . . 18
1.6 Dưới vi phân Fréchet . . . . . . . . . . . . . . . . . . . 18
1.7 Dưới vi phân Clarke, dưới vi phân Michel–Penot . . . . . 19
2 Nón tiếp và nón pháp 22
2.1 Nón tiếp . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
2.2 Nón pháp . . . . . . . . . . . . . . . . . . . . . . . . . . 29
2.3 Nón tiếp và nón pháp của trên đồ thị . . . . . . . . . . 33
2.4 Biểu diễn của nón tiếp . . . . . . . . . . . . . . . . . . . 3 7
2.5 Đạo hàm tiếp liên và định lý kiểu Lyusternik . . . . . . . 44
2.6 Biểu diễn của nón pháp . . . . . . . . . . . . . . . . . . 47
Kết luận 55
Tài liệu tham khảo 56
2
Lời cảm ơn
Tôi xin bày tỏ lòng biết ơn sâu sắc tới PGS.TS. Nguyễn Năng Tâm,
người đã định hướng chọn đề tài và tận tình hướng dẫn để tôi hoàn
thành luận văn này.
Tôi cũng xin bày tỏ lòng biết ơn chân thành tới các thầy cô phòng Sau
đại học, cùng các thầy cô giáo dạy cao học chuyên ngành Toán giải tích,
trường Đại học Sư phạm Hà Nội 2 đã giúp đỡ tôi t rong suốt quá trình
học tập.
Xin cảm ơn gia đình, bạn bè đã luôn động viên, cổ vũ, tạo mọi điều kiện
thuận lợi cho tôi trong quá t rình học tập và hoàn thành luận văn.
Hà Nội, tháng 7 năm 2014
Tác giả
Nguyễn Thị Sáu Anh
Lời cam đoan

Tôi xin cam đoan, dưới sự hướng dẫn của PGS.TS. Nguyễn Năng Tâm,
luận văn Thạc sĩ chuyên ngành Toán giải tích với đề tài “Nón tiếp và
nón pháp trong không gian Banach" được ho àn thành bở i nhận
thức của bản thân tác giả.
Trong quá trình nghiên cứu thực hiện luận văn, tác giả đã kế thừa những
thành tựu của các nhà khoa học với sự trân trọng và biết ơn.
Hà Nội, tháng 7 năm 2014
Tác giả
Nguyễn Thị Sáu Anh
Bảng một số kí hiệu
R đường thẳng thực
R
n
không gian Euclid n - chiều
R = R ∪{−∞, +∞} tập số thực suy rộng
f : X → R ánh xạ đi từ X vào R
dom(f) miền hữu hiệu của f
epi(f) trên đồ thị của f
f
′
(x) đạo hàm của f tại x
∇f(x) gradient của f tại x
∇
2
f(x) ma trận Hessian của f tại x
E
∗
không gian liên hợp của E
int A phần trong của A
A,clA bao đóng của A

domf miền hữu hiệu của f
epif trên đồ thị của f
f
′
(x) đạo hàm Fr échet của f tại x
f
′
G
(x) đạo hàm Gâteaux của f tại x
f
′
(x; v) đạo hàm theo hướng v của f tại x
∂f(x) dưới vi phân của f tại x
||.|| chuẩn trong không gian Banach
|x| trị tuyệt đối của số x
x
∗
, x giá trị của x
∗
tại x
K
A
nón lồi sinh b ởi A
N
A
(¯x) nón pháp của A tại ¯x
f ≤ g f(x) ≤ g(x) với mọi x
L(f, α) = {x ∈ X | f(x)  α} tập mức dưới
C
k

−hàm hàm khả vi liên tục đến cấp k
id
A
ánh xạ đồng nhất trên A
B (y, ε) cầu tâm y bán kính ε
Mở đầu
1. LÝ DO CHỌN ĐỀ TÀ I
Trong G iải tích biến phân và giải tích hàm phi tuyến, nón tiếp và nón
pháp là hai khái niệm quan trọng. Chúng có vai trò lớ n trong nghiên cứu
của nhiều lĩ nh vực, chẳng hạn như: bất đẳng thức biến phân, lý thuyết tối
ưu, v.v Nhiều tác giả (Minkowski, Fenchel, Bouligand, Clarke, Hiriart-
Uruty, Rockafellar, Robinson, Zowe, Kurcyusz, Lyusternik, Aubin, Schi-
rotzek, Klatte và Kummer, Penot, Borwen và Zhu,. . . ) quan tâm nghiên
cứu và sử dụng; xem [4], [5] và các tài liệu dẫn trong đó.
Với mong muốn tìm hiểu sâu hơn về những kiến thức đã học, mối quan
hệ và những ứng dụng của toán giải tích, đặ c biệt là g iải t ích khô ng trơn
và ứng dụng, tôi chọn đề tài “Nón tiếp và nón pháp trong không
gian Banach” để nghiên cứu.
2. MỤC ĐÍCH NGHIÊN CỨU
Đạt được một sự hiểu biết tốt về khái niệm và tính chất của một số
nón tiếp, của một số nón pháp tr ong không gian Banach và ứng dụng
của chúng t rong Giải tích biến phân.
3. NHIỆM VỤ NGHIÊN CỨU
Nghiên cứu những khái niệm và tính chất cơ bản của những nón tiếp
và nón pháp cùng ứng dụng của chúng trong Giải tích biến phân.
4. ĐỐI TƯỢNG VÀ PHẠM VI NGHIÊN CỨU
Đối tượng nghiên cứu: Nón tiếp và nón pháp cùng ứng dụng.
- P hạm v i nghiên cứu: Nón và tính chất của nón trong không gian Ba-
nach.
5. PHƯƠNG PHÁP NGHIÊN CỨU

Tìm hiểu tà i liệu: Các bài báo đã được đăng và sách đã in liên qua n
mật thiết đến nón tiếp và nón pháp cùng ứng dụng. Sử dụng các phương
pháp của Toán giải tích.
6
6. GIẢ THIẾT KHOA HỌC (DỰ KIẾN ĐÓNG GÓP MỚI)
Một tổng quan về nón tiếp và nón pháp cùng một số ứng dụng.
7
Chương 1
Một số kiến thức chuẩn bị
Trong chương này chúng ta sẽ trình bày những khái niệm cơ bản nhất
về không gian Banach và không gian Hilbert cùng những toán tử tuyến
tính trên chúng. Những kiến thức trình bày trong chương này được chọn
chủ yếu từ các tài liệu [1],[2], [3], [4] và [5].
1.1 Không gian Banach và không gian Hilbert
Cho E l à một không gian vectơ trên trường số R .
Định nghĩa 1.1. Mộ t chuẩn, kí hiệu ||·||, trong E là một ánh xạ đi từ
E vào R thỏa mãn các điều kiện:
1) ||x|| ≥ 0 với mọi x ∈ E ;
2) ||x|| = 0 khi và chỉ khi x = θ (θ là kí hiệu phần tử không);
3) ||λx|| = |λ|||x|| với mọi số λ ∈ R và mọi x ∈ E;
4) ||x + y|| ≤ ||x|| + ||y|| với mọi x, y ∈ E.
Số ||x|| được gọi là chuẩn của vectơ x ∈ E. Một không gian vectơ
E cùng với một chuẩn xác định trong không gian ấy, được gọi là một
không gian định chuẩn.
Mệnh đề 1.1. Giả s ử E l à một không gian định chuẩn. Với mọi x, y ∈
E, đặt
ρ(x, y) = ||x − y||.
Khi đó, ρ là một metric trên E.
8
Định nghĩa 1.2. Cho E là một không gian đ ịnh chuẩn với chuẩn ..

Nếu E với khoả ng cách sinh bởi chuẩn của E: ρ(x, y) = ||x −y||, là một
không gi an me t ric đầy đủ thì E gọi là không gian Banach.
Nếu không có giả thiết gì thêm, trong suốt luận văn này, không gian
Banach được kí hiệu là E. Chuẩn trong các không gi an Banach luôn
được kí hiệu bởi ..
Định nghĩa 1.3. Không gian Banach E được gọi là không gian Banach
Fréchet trơn nếu nó có chuẩn tương đương và chuẩn đó H− khả vi trên
E \{0}.
Định nghĩa 1.4. Cho E là một không gian định chuẩn với chuẩn ..Ta
gọi mỗi ánh xạ tuyến tính x
∗
: E → R l à một phiếm hàm tuyến tính xác
định trên E.
Nếu x
∗
là một phiếm hàm tuyến tí nh xác đ ị nh trên E và x ∈ E thì
giá trị của x
∗
tại x sẽ được kí hiệu là x
∗
, x, nghĩa là x
∗
, x = x
∗
(x).
Dễ dàng kiểm tra được rằng, tập hợp tất cả các phiếm hàm tuyến
tính liên tục trên E với phép cộng ánh xạ tuyến tính và phép nhân ánh
xạ tuyến tính với số thực lập thành một không gian tuyến tính thực. Ta
gọi không gian này là không gian liên hợp của E và được kí hiệu là E
∗

.
Không g ian li ên hợp của E
∗
gọi là không gian liên hợp thứ h ai của E và
kí hiệu là E
∗∗
.
Định lý 1.1. Không gi an liên hợp E
∗
của E với ch uẩn xác địn h bởi
x
∗
 = sup {x
∗
, y : y ∈ E, y ≤ 1}
là một không gian Ban ach.
Tôpô τ
S
sinh bở i metric của không gian định chuẩn E
∗
nêu trong định
lý vừa nêu gọi là tôpô mạnh trong E
∗
.
Định nghĩa 1.5. Tôpô τ
W
trong E
∗
gọi là tôpô yếu và kí hiệu là σ(E
∗∗

, E
∗
)
nếu hệ thống các lân cận của 0 của E
∗
là các tập có dạng
{x
∗
∈ E
∗
: x
∗∗
i
, x
∗
 < ε, i = 1, , k},
trong đó x
∗∗
i
∈ E
∗∗
với i = 1, , k và ε > 0.
9
Định nghĩa 1.6. Tôpô τ
∗
trong E
∗
gọi là tô pô yếu* và kí hiệu là
σ(E
∗

, E) nếu hệ thống các lân cận của 0 của E
∗
là các tập có dạng
{x
∗
∈ E
∗
: x
∗
, x
i
 < ε, i = 1, , k},
trong đó x
i
∈ E với i = 1, , k.
Định nghĩa 1.7. Tập A ⊂ E mà là đóng (compact, bị chặn) theo tô pô
yếu tron g E gọi là tập đóng (tương ứng,compact, bị chặn) yếu. Tập A
đóng (com pact, bị chặn) theo tô pô yếu* trong không gian liên hợp E
∗
của E thì gọi là tập đóng yếu* (tương ứng, compact yếu*, bị chặn yếu*)
. Kí hiệu cl*M là bao đóng của M trong E
∗
theo tô pô σ(E
∗
, E).
1.2 Tập lồi
Giả sử E là một không gian Banach, R là tập số t hực.
Định nghĩa 1.8. Tập A ⊂ E được gọi l à lồi, nếu
∀x
1

, x
2
∈ A, ∀λ ∈ R : 0 ≤ λ ≤ 1 ⇒ λx
1
+ ( 1 −λ) x
2
∈ A.
Ví dụ 1.1. Cả không gian E là tập lồi. Tập A = ∅ là tập lồi.
Mệnh đề 1.2. Giả A
α
⊂ E ( α ∈ I) là các tập lồi, với I là tập chỉ số
bất kì. Khi đó A =

α∈I
A
α
cũng lồi.
Mệnh đề 1.3. Giả sử tập A
i
⊂ E lồi, λ
i
∈ R (i = 1, 2, , m). Khi đó
λ
1
A
1
+ + λ
m
A
m

cũng là tập lồi.
Mệnh đề 1.4. Giả sử E
i
là không gian Banach, tập A
i
⊂ E
i
lồi
(i = 1 , 2, . . . , m). Khi đ ó tích Đềcác A
1
× × A
m
là t ập lồi trong
E
1
× × E
m
.
Mệnh đề 1.5. Giả sử E
1
, E
2
là các không gian Banach, T : E
1
→ E
2
là t oán tử tuyến tính. Khi đó,
a) A ⊂ E
1
lồi thì T (A) lồi;

b) B ⊂ E
2
lồi thì nghịch ảnh T
−1
(B) của B là tậ p lồi.
10
Định nghĩa 1.9. Véc tơ x ∈ E được gọi là tổ hợp lồi của các véctơ
x
1
, , x
m
thuộc E, nếu ∃λ
i
≥ 0 (i = 1, 2, , m) ,
m

i=1
λ
i
= 1 sao cho
x =
m

i=1
λ
i
x
i
.
Định lý 1.2. Giả sử tập A ⊂ E lồi; x

1
, , x
m
∈ A. Khi đó A chứa tất
cả các tổ hợp lồi của x
1
, , x
m
.
Định nghĩa 1.10. Giả sử A ⊂ E. Giao củ a tất cả các tập lồi chứa A
được gọi là bao lồi (convex hull) của tập A, kí hiệu là coA.
Định lý 1.3. coA trùng với tập tất cả các tổ hợp lồi của A.
Hệ quả 1.1. Tập A lồi kh i và chỉ khi A chứa tất cả các tổ hợp lồi của
A.
Định nghĩa 1.11. Giả sử A ⊂ E. Giao của tất cả các tập lồi đóng chứa
A đ ược gọi là bao lồi đóng của tập A và kí hiệu là
coA.
Mệnh đề 1.6. Giả A ⊂ E lồi. Khi đó,
i) Phần trong intA và bao đóng
A của A là các tập lồi;
ii) Nếu x
1
∈ intA, x
2
∈ A, thì {λx
1
+ (1 −λ)x
2
: 0 < x
1

≤ 1} ⊂
intA.
Định nghĩa 1.12. Tập K ⊂ E được gọi là nón có đỉnh 0, nếu
∀x ∈ K, ∀λ > 0 ⇒ λx ∈ K.
K được gọi là nón đỉnh x
0
nếu K − x
0
là nón có đỉnh 0.
Định nghĩa 1.13. Nón K có đỉnh 0 được gọi là nón lồi, nếu K là một
tập lồi, vậy
∀x, y ∈ K, ∀λ, µ > 0 ⇒ λx + µy ∈ K.
Mệnh đề 1.7. Giả s ử K
α
(α ∈ I) là các nón lồi có đỉnh x
0
với I là tập
chỉ số bất k ì . Khi đó

α∈I
K
α
là nón lồi có đỉnh x
0
.
Định lý 1.4. Tập K ⊂ E là một nón lồi có đỉnh 0 khi và chỉ khi
∀x, y ∈ K, ∀λ > 0 ⇒ x + y ∈ K, λx ∈ K.
11
Hệ quả 1.2. Tậ p K ⊂ E là nón lồi khi và chỉ khi K chứa tất cả các
tổ hợp tuyế n tính dương của các phần tử của K, tức là nếu x

1
, , x
m
∈
K, λ
1
, , λ
m
> 0 thì
m

i=1
λ
i
x
i
∈ K.
Hệ quả 1.3. Giả sử A là tập bất kì trong E, K là tập tấ t cả các tổ hợp
tuyến tính dương của A. Khi đó K l à nón lồi nhỏ nhất ch ứa A.
Định nghĩa 1.14. Giao của tất cả các nón lồi (có đỉnh tại 0) chứa tập
A và điểm 0 là một nón lồi, kí hiệu là K
A
và được gọi là nón lồi sinh
bởi tập A.
Định nghĩa 1.15. Cho A là một tập lồi khác rỗng trong E, x
0
∈ A.
nón pháp của A tại x
0
, kí hiệu là N

A
(x
0
), là tập
N
A
(x
0
) = {x
∗
∈ E
∗
: x
∗
, x − x
0
 ≤ 0 ∀x ∈ A}.
Định lý 1.5. (Định lí Carathéodory)
Giả sử dim E < ∞ và A ⊂ E. Khi đó, mỗi điểm của tập coA là tổ hợp
lồi không quá n + 1 đ i ểm kh ác nhau của A.
Định nghĩa 1.16. Tập H trong không gian E được gọi là siêu phẳng
nếu tồn tại phi ế m hàm t uyến tính khác kh ô ng x
∗
từ E vào R và số α ∈ R
sao cho H = {x ∈ E : x
∗
, x = α}. Khi đó ta n ó i H xác định bởi x
∗
và
α, và viết là H(x

∗
, α).
Định nghĩa 1.17. Cho các t ập hợp A, B ⊂ E. Ta nói phiếm hàm tuyế n
tính liên tục x
∗
= 0 tách A và B, n ếu tồn tại số α sao cho
x
∗
, y ≤ α ≤ x
∗
, x (∀x ∈ A, ∀y ∈ B) ,
Nếu như có x
∗
, y < α < x
∗
, x (∀x ∈ A, ∀y ∈ B) , thì ta nói x
∗
tách
ngặt A và B.
Khi đó siêu phẳng H (x
∗
, α) = {x ∈ E : x
∗
, x = α} được gọi là siêu
phẳng tách A và B, các tập A và B được gọi là tách được.
Định lý 1.6. (Định lý Hahn-Banach, Định lý tách (xem [1], [2]) Cho A
và B là hai tập l ồi trong không gian Banach E, có tính chất A ∩ B = ∅
và intA = ∅. Kh i đó A và B có thể tách được bằng một phiếm hàm tuyến
tính khác 0, tức
∃x

∗
∈ E
∗
\ {0}, ∀x ∈ A, ∀y ∈ B : x
∗
, x  x
∗
, y.
12
1.3 Hàm lồi
1.3.1 Định nghĩa
Cho E l à không gia n Banach, D ⊂ E, f : D →
R.
Định nghĩa 1.18. Cho hàm f : D →
R, tro ng đó D ⊂ E, R =
R ∪ {−∞, +∞}, các tập
dom f = {x ∈ D| f(x) < +∞},
epi f = {(x, α) ∈ D × R| f(x) ≤ α}, α ∈ R
được gọi lần lượt là miền hữu hiệu và trên đồ thị của hàm f.
Định nghĩa 1.19. Hàm f : D →
R được gọi là lồi nếu trên đồ thị của
nó là một tập lồi trong D × R. Nếu dom f = ∅ và −∞ < f(x) với mọi
x ∈ D ta nói hàm f là chính thường.
Định nghĩa 1.20. Hàm f được gọi là lồi trên D nếu ep i f là t ập lồi
trong E × R. Hàm f được gọi là lõm trên D (concave on D), nếu −f là
hàm lồi trên D.
Định lý 1.7. Giả sử D là tập lồi trong không gian E,
hàm f : D → (−∞, +∞]. Khi đó, f lồi trên D khi và c hỉ khi
f (λx + (1 − λ) y) ≤ λf (x) + (1 −λ) f (y) (∀λ ∈ [0, 1] , ∀x, y ∈ D) .
Mệnh đề 1.8. Giả sử f : E → (−∞, +∞]. Khi đó, f là hàm lồi khi và

chỉ khi
f (λx + (1 − λ) y) < λr + (1 − λ) s,
(∀λ ∈ (0, 1) , ∀x, y : f (x) < r, f (y) < s) .
Định lý 1.8. Giả sử f là hàm lồi trên E, µ ∈ [−∞, +∞]. Khi đó, các
tập mức {x : f (x) ≤ µ} và {x : f (x) ≤ µ} lồi.
Hệ quả 1.4. Giả sử f
α
là hàm lồi trên E, λ
α
∈ R (∀α ∈ I), I là tập
chỉ số bất k ì . Khi đó, tập A = {x ∈ E : f
α
(x) ≤ λ
α
, ∀α ∈ I} lồi.
13
Ví dụ 1.1. (Hàm c hỉ). C ho C = ∅ là một tập lồi trong E.
Đặt
δ
C
(x) :=

0 khi x ∈ C,
+∞ khi x /∈ C.
Ta nói δ
C
là hàm chỉ của C.
+ ∀x, y ∈ C, ∀λ ∈ (0, 1), ta có: δ
C
(x) = 0 , δ

C
(y) = 0.
Do C lồi nên λx + (1 −λ)y ∈ C.
Suy ra δ
C
[λx + (1 − λ)y] = 0 = λδ
C
(x) + (1 − λ)δ
C
(y) .
+ ∀x ∈ C, ∀y /∈ C, ∀λ ∈ (0, 1), ta có:
δ
C
(x) = 0 , δ
C
(y) = +∞, δ
C
[λx + (1 − λ)y] ≤ +∞.
Suy ra δ
C
[λx + (1 − λ)y] ≤ λδ
C
(x) + (1 − λ)δ
C
(y) .
+ ∀x, y /∈ C, ∀λ ∈ (0, 1), ta có:
δ
C
(x) = +∞, δ
C

(y) = +∞, δ
C
[λx + (1 − λ)y] ≤ +∞.
Suy ra δ
C
[λx + (1 − λ)y] ≤ λδ
C
(x) + (1 − λ)δ
C
(y) .
Ví dụ 1.2. (Hàm tựa). Cho C = ∅ là một tập lồi trong E. Đặt S
C
(y) :=
sup
x∈C
y, x với y ∈ E
∗
. Ta nói S
C
là hàm t ựa của C.
∀x, y ∈ C, ∀x, y ∈ (0, 1), ta có
S
C
[λx + (1 − λ) y] = sup
z∈C
λx + (1 − λ) y, z
= sup
z∈C
{λx, z + (1 − λ) y, z}
≤ sup

z∈C
λx, z + sup
z∈C
(1 − λ) y, z
= λsup
z∈C
x, z + (1 −λ) sup
z∈C
y, z
= λS
C
(x) + (1 − λ) S
C
(y) .
Vậy S
C
là hàm lồi trên C.
Định nghĩa 1.21. Hàm f được gọi là đóng, nếu epif đóng tro ng E ×R.
Định lý 1.9. Hàm f đ óng khi và chỉ khi tất cả các tập có dạn g {x : f (x) ≤ α}
của f là đóng.
Định lý 1.10. Giả sử f
1
, , f
m
là các hàm lồi chính thường trên E. Khi
đó, tổng f
1
+ + f
m
là một h à m lồi.

14
1.3.2 Tính liên tục của hàm lồi
Định lý 1.11. Giả sử f là hàm lồi chí nh thường t rên E. Khi đó các
khẳng đị nh sau là tương đương:
i) f bị chặn trong một l ân cận của
x ;
ii) f liên tục tại
x ;
iii) int(epif) = ∅ ;
iv) int(domf) = ∅ và f liên tục trên int(domf).
Đồng thời, int(epif) = {(x, µ) ∈ E × R : x ∈ int(domf), f (x) < µ}.
Định nghĩa 1.22. Giả sử E là không gian Banach. Hàm f : E → R
được gọi là Lipschitz địa phương xung quanh
x ∈ E, nếu tồn tại lân cận
U của
x ∈ E, số L > 0 sao cho ∀x, x
′
∈ U,
|f (x) − f (x
′
)| ≤ L x − x
′
.
Khi đó ta nói f là L−liên tục địa phương xung quanh x; Nếu U = E thì
ta nói f là L− liên tục với hằng số L hay f là hàm Lips c hitz với hằng
số L.
Hàm f đư ợc gọi là Lipschitz địa phương trên tập D ⊂ E nếu f Lips-
chitz địa phương xung quanh mọi x ∈ D.
Ví dụ 1.3. Cho E là không gian Banach, A ⊂ E là tập con khác
rỗng.Hàm d

A
: E → R xác định bởi
d
A
(x) = inf{x −y | y ∈ A}
gọi là p hiếm hàm k hoảng các h.
Dễ thấy, nếu A là tập lồi đóng thì d
A
là một hàm lồi và d
A
luôn là
hàm Lipschitz với hằng số 1: |d
A
(x) −d
A
(y)|  x −y với mọi x, y ∈ E.
Định lý 1.12. Giả sử E là không gian Banach; f là hàm lồi trên tập
mở D ⊂ E; f bị chặn trên một lân cận của một điểm nào đó thuộc D.
Khi đó, f Lipschitz địa phương trê n D.
Hệ quả 1.5. Giả sử f : D → R là hàm lồi, liên tục tại
x thuộc tập lồi
mở D. Khi đó, f Lipschitz địa phương trên D.
Định nghĩa 1.23. i) Hàm f được gọi là nửa liên tục dưới (lsc) tại x ∈ E
(với f (x) < ∞), nếu với mọi ε > 0, tồn tại lân cận U của x sao cho
15
f (x) − ε ≤ f (y) (∀y ∈ U) .
ii) Nếu f (
x) = +∞, thì f được gọi là nửa liên tục dưới (lsc) tại x, nếu
với mọi N > 0 , tồn tạ i lân cận U của
x sao cho: f (y) ≥ N (∀y ∈ U) .

iii) Hàm f được gọi là nửa liên tục dưới (lsc), nếu f nửa liên tục dưới
tại mọi x ∈ E.
Mệnh đề 1.9. f đóng khi và chỉ khi f nửa liên tục dưới.
Hệ quả 1.6. Giả sử E là một không gian Banach, A ⊂ E lồi. Khi đó,
bao đóng
A c ủa A theo tôpô mạnh là đóng theo tôpô yếu của E.
Hệ quả 1.7. Giả sử E là một không gian Banach, A ⊂ E, x
0
thuộc bao
đóng yếu của A. Khi đó, tồn tại dãy các tổ hợp lồi các phần tử của A,
hội tụ đến x
0
theo chuẩn.
Giả sử E là một không gian Banach, E
∗
là một không g ian liên hợp
tôpô của E, f là hàm xác định trên E.
Định nghĩa 1.24. Hàm liên hợp với f đư ợc xác định trên E
∗
như sau:
f
∗
(x
∗
) = sup
x∈E
{x
∗
, x − f (x)}.
Định lý 1.13. Định lý Caratheodory đối với nón lồi

Giả sử A ⊂ R
n
sao cho dimA = m ( A = ∅) , K
A
là nón lồi sinh bởi tập
A. Khi đó mỗi điểm
x = 0, x ∈ A
tồn tại hệ {x
1
, x
2
, , x
m
} độc lập tuyến tính sao cho x được biểu diễn
dưới dạng x = λ
1
x
1
+ . + λ
m
x
m
trong đó λ
i
> 0, x
i
∈ A

i =
1, n


,
1.4 Á nh xạ đa tr ị
Định nghĩa 1.25. Giả sử X, Y là hai tập. Kí hiệu 2
Y
là tập tất cả
các tập con của Y . Một ánh xạ đa trị Φ đi từ tập X vào tập Y là một
ánh xạ từ X vào 2
Y
. Kí hiệu Φ : X ⇉ Y . Đồ thị của ánh xạ đa trị
Graph(Φ) ⊂ X ×Y được xác đ ị nh như sau:
Graph(Φ) = {( x, y)|y ∈ Φ(x)}.
16
Ánh xạ đa trị Φ được gọi là không tầm thường nếu Graph(Φ) = ∅, nghĩa
là tồn tại x ∈ X sao c ho Φ(x) = ∅. N ế u Φ(x) = ∅ với mọi x ∈ X t hì ta
nói rằng ánh xạ đa trị Φ là chính thường. Miền hữu hiệu của ánh xạ đa
trị Φ , kí hiệu Dom(Φ) là tập {x ∈ X, Φ(x) = ∅}. Ảnh của ánh xạ đa
trị Φ được cho bởi Im(Φ) = ∪
x∈X
Φ(x) . Nếu M là tập con khác rỗng của
X và Φ là ánh xạ đa trị từ X vào Y thì ta dùng kí hiệu Φ|
M
để chỉ ánh
xạ đa trị thu hẹp của Φ lên M và được định nghĩa:
Φ|
M
=

Φ(x) , x ∈ M,
∅, x /∈ M.

Ánh xạ ngược Φ
−1
: Y ⇉ X của ánh xạ đa trị Φ : X ⇉ Y được xác định
bởi công thứ c Φ
−1
(y) = {x ∈ X : y ∈ Φ (x)}.
Ví dụ 1.4. X ét phương trình đa thức:
x
n
+ a
1
x
n−1
+ . + a
n−1
x + a
n
= 0 (1.1)
trong đó n ∈ N là các số nguyên d ương , a
i
∈ R

i =
1, n

là các hệ số
thực. Qui tắc cho tương ứng với mỗi véc tơ a = (a
1
, , a
n

) ∈ R
n
với tập
nghiệm ký hiệu bởi Φ(a) của (1.1) cho ta một ánh xạ đa trị Φ : R
n
→ 2
C
từ
không gi an Euclide R
n
vào tập số phức C
Với Φ là ánh xạ đa t rị trong ví dụ 1.4 ta có:
Graph(Φ) =

(a, x) ∈ R
n
× C : x
n
+ a
1
x
n−1
+ . + a
n−1
x + a
0
= 0

,
Dom(Φ) = R

n
, Im(Φ) = C.
Định nghĩa 1.26. Cho X, Y là hai không gian tô pô và Φ : X ⇉ Y là
ánh xạ đa trị .
i) Nếu Graph(Φ) là tập đóng trong không gian tô pô tích X × Y thì Φ
được gọi là ánh xạ đóng.
ii) Nếu X, Y là cá c không gian định chuẩn thì nếu Graph(Φ) là tập lồi
trong không gian tích X × Y thì Φ được gọi là ánh xạ đa trị lồi.
iii) Nếu Φ (x) là t ập đóng với mọi x ∈ X thì Φ (x) được gọi l à ánh xạ
có giá trị đóng.
iv) Nếu Y là không gian định chuẩn và nếu Φ(x) là tậ p lồi thì Φ (x)
được gọi là ánh xạ có giá trị lồi .
17
1.5 Đạo hàm theo hướng
Giả định rằng E và F là các không gian định chuẩn, D ⊆ E là mở
và khác rỗng, x ∈ D và f : D → F . Ta sẽ nhắc lại một số khái niệm cổ
điển. Để bắt đầu, ta xem xét đạo hàm theo hướng y. Ta viết:
∆f (
x,y) := f (x + y) − f (x) , ∀y ∈ D − x
Chúng ta sử dụng các chữ viết tắt sau đây:
• G− đạo hàm : đạo hàm Gateaux,
• H− đạo hàm : đạo hàm Hadamard,
• F − đạ o hàm : đạo hàm Fréchet.
Định nghĩa 1.27. Giả sử y ∈ E. Ta gọi:
f
G
(x, y) = lim
r↓0
1
r

∆f (
x, ry) là G-đạo hàm theo hướng
f
s
G
(
x, y) = lim
r↓0
x→x
1
r
∆f (x, ry) là G-đạo hàm theo hướng chặ t
f
H
(
x, y) = lim
r↓0
z→y
1
r
∆f (
x, rz) là H-đ ạo hàm theo hướng
f
s
H
(
x, y) = lim
r↓0
x→x
z→y

1
r
∆f (x, rz) là H-đạo hàm theo hướng ch ặt
của f tạ i
x theo hướng y, nếu các giới hạn tương ứng tồn tại .
Bổ đề 1.1. (a) Nếu f
H
(
x, y) tồn tại, khi đó f
G
(x, y) cũng tồn tại và
cả hai đạo hàm theo hướng trùng nhau.
(b) Nếu f là L−liên tục địa phương xung quanh x , khi đó f
H
(x, y) tồn
tại khi và chỉ khi f
G
(
x, y) tồn tại.
1.6 Dưới vi ph ân Fréchet
Định nghĩa 1.28. Giả sử rằng E là một không gian Banach, f : E → R
là chính thường và lsc,
x ∈ d omf
18
(a) Phiếm hàm f được gọi là dưới khả vi Fréchet (F − dưới khả vi) tại x
nếu tồn tại x
∗
∈ E
∗
(gọi là F−dưới đạo hàm của f tại

x) sao cho :
lim
y→0
inf
f (
x + y) − f (x) −x
∗
, y
y
≥ 0.
(b) Phiếm hàm f được gọi là dưới khả vi nhớt tại
x nếu tồn tạ i x
∗
∈ E
∗
(gọi là dưới đạo hàm nhớt của f tại
x) và C
1
− hàm g : E → R sao
cho g
′
(
x) = x
∗
và f − g đạt được giá trị cực ti ể u địa phươ ng tại x.
Nếu trong trường hợp đặc biệt: g (x) = x
∗
, x −
x−σ x −x
2

với hằng
số dương σ thì x
∗
được gọi là gradien dưới gần kề của f tại
x.
Tập hợp:
∂
F
f (
x) = tập củ a tất cả các F-dưới đạo hàm của f tại x.
∂
V
f (
x) = tập của tất cả các dưới đạo hàm nhớt của f tại x.
∂
P
f (
x) = tập của tất cả các gradien gần kề của f tại x.
được gọi là dưới vi phân của Fréchet (F − dưới vi phâ n ), dưới vi phân
nhớt, dưới vi phân gần kề của f tại
x theo thứ tự tương ứng.
1.7 Dưới vi phân Clarke, dưới vi phân Michel–Penot
Giả sử rằng: D ⊆ E là mở, f : D → R. Nhắc lại rằng
f
H
(x, y) := lim
r→0
z→y
sup
1

r
(f (
x + rz) −f (x)) .
Định nghĩa 1.29. Nếu y ∈ E thì
f
◦
(
x, y) := lim
r→0
sup
1
r
(f (x + ry) − f (x))
được gọi là đạo hàm theo hướng Clarke của f tại
x theo hướng y và
f
♦
(
x, y) := sup
z∈E
lim
r→o
sup
1
r
(f (
x + ry + rz) − f (x + rz))
được gọi là đạo hàm th eo hướng Michel – Penot của f tại
x theo hướng
y.

19
Định lý 1.14. Giả sử f là L− liên tục địa phương xung quanh x với
hằng số λ > 0 . Khi đó :
(a) f
◦
(x, .) và f
♦
(
x, .) là tuyến tính dưới và L−liên tục với hằng số λ
trên E thỏa mãn :
f
H
(x, y) ≤ f
♦
(x, y) ≤ f
◦
(x, y) ≤ λ y, ∀y ∈ E.
Trong trường hợp đặc biệt, f
◦
(x, .) và f
♦
(x, .) là xấp xỉ lồi hữu hạn
trên của f tại
x.
(b) ∀y ∈ E ta có: f
◦
(
x, −y) = (−f) (x, y) , f
♦
(x, −y) = (−f) (x, y).

Ví dụ 1.5. Giả sử E := R, f (x) := |x|−|
s
inx| và x := π. Khi đó ta có:
f
H
(π, y) =

2y, y < 0,
0, y ≥ 0 .
f
♦
(π, y) =

0, y < 0,
2y, y ≥ 0.
Ta thấy rằng trong các đạo hàm theo hướng trên , phiếm hàm f
H
(π, .)
là xấp xỉ địa phương tốt nhất của f tại π nhưng nó không là lồi. Vì nếu
f là lồi thì ∂f (
x) = {x
∗
| x
∗
, y ≤ f
G
(x, y) , ∀y ∈ E}.Trong tr ường hợp
không lồi ta có:
Định nghĩa 1.30. Nếu f là L−liên tục địa phương xung quanh
x thì:

∂
◦
f (x) := {x
∗
∈ E
∗
| x
∗
, y ≤ f
◦
(x, y) , ∀y ∈ E}
gọi là d ưới vi phân Clarke hoặc grad i en suy rộn g Clarke của f tại x và
∂
♦
f (
x) :=

x
∗
∈ E
∗
| x
∗
, y ≤ f
♦
(x, y) , ∀y ∈ E

gọi là d ưới vi phân Michel- Penot của f tạ i x.
Mệnh đề 1.10. Nếu f là L− liên tụ c địa phương xun g quanh x , khi đó
với mọi ta có:

∂
◦
(σf) = σ∂
◦
f (
x)
và
∂
♦
(σf) (x) = σ∂
♦
f (x) .
Chứng minh. Xem 7.3, Chương 7 trong [5].
20
Kết luận
Trong chương này chúng ta đã trình bày định nghĩ a, một số tính chất
cơ bản của tập lồi, hàm lồi, hàm Lipschitz, ánh xạ đa trị và số khái niệm
đạo hàm cổ điển. Những nội dung này sẽ dùng như là những kiến thức
chuẩn bị cho chương sau.
21
Chương 2
Nón tiếp và nón pháp
Chương này nghiên cứu những khái niệm và tính chất cơ bản của
những nón tiếp và nón pháp cùng ứng dụng của chúng tro ng Giải tích
biến phân. Ngoài những trường hợp cụ thể, ta luôn giả sử rằng E là
không gian định chuẩn, A là một tập con khác rỗng của E, x ∈ A. Nội
dung trình bày trong chương này chủ yếu lấy từ Chương 11 của [5].
2.1 Nón tiếp
Ta định nghĩa những nón tiếp khác nhau xem như những xấp xỉ của
A gần

x. Kí hiệu x →
A
x nghĩa là x ∈ A, x → x.
Định nghĩa 2.1. ([5]) Ta gọi
i) T
r
(A,
x) := {y ∈ E | ∃r
k
↓ 0∀k : x + r
k
y ∈ A} là nón các tia của A
tại
x.
ii) T (A,
x) := {y ∈ E | ∃r
k
↓ 0 ∃y
k
→ y ∀k : x + r
k
y
k
∈ A} là nón mật
tiếp của A tại
x (hoặc nón tiếp tuyến Bouliga nd của A tại x).
iii) T
C
(A,
x) := {y ∈ E | ∀x

k
→
A
x, ∀r
k
↓ 0∃y
k
→ y∀k : x
k
+ r
k
y
k
∈ A}
là nón ti ếp Cla rke của A tại
x.
iv) I
r
(A,
x) := {y ∈ E | ∃ε > 0∀r ∈ (0, ε) : x + ry ∈ A}, nón các tia hướng
vào trong hoặ c nón các phương chấp nhận được của A tại
x.
v) I (A,
x) := {y ∈ E | ∃ε > 0∀r ∈ (0, ε) ∀z ∈ B (y, ε) : x + rz ∈ A}, nón
các phương trong của A tại
x.
22
vi) H (A, x) := {y ∈ E | ∀x
k
→

A
x∀r
k
↓ 0∀y
k
→ y∀k : x
k
+ r
k
.y
k
∈ A}
là nón các siêu tiếp của A tại
x.
Mệnh đề 2.1.
(a) Ta có: I (A, x) ⊆ I
r
(A, x) ⊆ T
r
(A, x) ⊆ T (A, x)
H (A,
x) ⊆ T
C
(A, x) ⊆ T (A, x) .
Mỗi trong các tập nêu trên là một nón, I (A,
x) và H (A, x) có thể
rỗng, những nón khác chứa phần tử 0.
(b) T (A,
x) và T
C

(A, x) là đóng ,T
C
(A, x) là lồi.
(c) Nếu U là một lân cận của
x, thì T (A, x) = T (A ∩ U, x) và tương tư
như những n ón khác ở phần ( a).
(d) Nếu A là lồi thì
I
r
(A,
x) = T
r
(A, x) = R
+
(A − x)
T (A,
x) = cl((R
+
(A − x)))
I (A,
x) = {ρ (x − x) |ρ > 0, x ∈ intA}.
Chứng minh.
(I) Ta chứng tỏ rằng T (A ,
x) là đóng. Giả sử (z
n
) l à một dãy trong
T (A,
x), hội tụ đến y ∈ E, ∀n ∈ N. Khi đó tồn tại dãy (r
n
k

) trong
(0, +∞) và (y
n
k
) trong E thỏa mãn: (r
n
k
) ↓ 0, (y
n
k
) → z
n
khi k → ∞
và
x + (r
n
k
) (y
n
k
) ∈ A , ∀k ∈ N.
Do đó, ∀n ∈ N tồn tại k (n) sao cho:
r
(n)
k
<
1
n
và




y
(n)
k
→ z
n



<
1
n
, ∀k ≥ k (n) .
Đặt r
n
:= r
(n)
k(n)
, y
n
:= y
(n)
k(n)
và r
n
↓ 0, chúng ta thu được r
n
↓ 0 và
y

n
→ y khi n → ∞ như
x + r
n
.y
n
∈ A, ∀n. Cho nên: y ∈ T (A, x)
(II) Bây giờ ta k iểm tra T
C
(A, x) là lồi. Giả sử y
1
, y
2
∈ T
C
(A, x). Vì
T
C
(A, x) là một nón, ta chỉ cần chứng tỏ rằ ng y
1
+ y
2
∈ T
C
(A, x).
23
Giả sử rằng r
k
↓ 0 và x
k

→
A
x khi k → ∞. Khi đó tồn tại y
(1)
k
trong
E sao cho y
(1)
k
→ y
1
khi k → ∞ và x
(1)
k
:= x
k
+ r
k
.y
(1)
k
. Vì x
(1)
k
→
x,
tồn tại y
(2)
k
trong E thỏa mãn:

y
(2)
k
→ y
2
và
x
k
+ r
k

y
(1)
k
+ y
(2)
k

= x
(1)
k
+ r
k
.y
(2)
k
∈ A, ∀k ∈ N.
Từ đó, ta có : y
(1)
k

+ y
(2)
k
→ y
1
+ y
2
. Ta kết luận y
1
+ y
2
∈ T
C
(A,
x) .
Mệnh đề 2.2. Nếu A, B ⊆ E và x ∈ A ∩B thì
T
r
(A,
x) ∩ I
r
(B, x) ⊆ T
r
(A ∩ B, x) , (2.1)
T (A,
x) ∩ I (B, x) ⊆ T (A ∩B, x) . (2.2)
Chứng minh. Ta kiểm tra (2.2) còn (2 .1) ta làm tương tự. Giả sử y ∈
T (A, x) ∩ I (B, x). Khi đó tồn tại dãy r
k
↓ 0 và y

k
→ y sao cho x +
r
k
.y
k
∈ A, ∀k ∈ N. Ngoài ra, tồn tại ε > 0 sao cho
x + rB (y, ε) ∈
B, ∀r ∈ (0, ε). Với mọi k đủ lớn ta thu được
x + r
k
y
k
∈ A ∩ B. Do đó,
y ∈ T ( A ∩B,
x).
Ví dụ sau đây chứng tỏ trong công thức (2.2) , I (B, x) không thể t hay
bởi T (B,
x).
Ví dụ 2.1. Trong E = R
2
xét tập hợp A =

(x, y) ∈ R
2
|y ≥ x
2

và
B =


(x, y) ∈ R
2
|y ≤ −x
2

Khi đó, với
x = (0; 0) ta có: T (A, x) ∩ T (B, x) = R ×{0}.
Mệnh đề 2.3. Ta luôn có:
T (A,
x) =

y ∈ E|lim
r↓0
inf
1
r
d
A
(
x + ry) = 0

,
T
C
(A,
x) =




y ∈ E| lim
r↓0
x→
A
x
inf
1
r
d
A
(x + ry) = 0



.
24