ĐẠI HỌC HUẾ
TRƯỜNG ĐẠI HỌC SƯ PHẠM

PHAN THỊ NHẬT LINH

MỘT SỐ KHÁI NIỆM VI PHÂN SUY
RỘNG CHO CÁC HÀM KHÔNG TRƠN

LUẬN VĂN THẠC SĨ TOÁN HỌC
THEO ĐỊNH HƯỚNG NGHIÊN CỨU

Thừa Thiên Huế, năm 2017


ĐẠI HỌC HUẾ
TRƯỜNG ĐẠI HỌC SƯ PHẠM

PHAN THỊ NHẬT LINH

MỘT SỐ KHÁI NIỆM VI PHÂN SUY
RỘNG CHO CÁC HÀM KHÔNG TRƠN
Chuyên ngành: GIẢI TÍCH
Mã số: 60460102

LUẬN VĂN THẠC SĨ TOÁN HỌC
THEO ĐỊNH HƯỚNG NGHIÊN CỨU

NGƯỜI HƯỚNG DẪN KHOA HỌC:
PGS.TS. NGUYỄN HOÀNG

Thừa Thiên Huế, năm 2017

LỜI CAM ĐOAN
Tôi xin cam đoan đây là công trình nghiên cứu của riêng tôi, các số liệu
và kết quả nghiên cứu ghi trong luận văn là trung thực, được các đồng tác
giả cho phép sử dụng và chưa từng được công bố trong bất kỳ một công trình
nào khác.
Phan Thị Nhật Linh


LỜI CẢM ƠN
Để hoàn thành Luận văn tốt nghiệp này, tôi xin bày tỏ lòng cảm ơn chân
thành đến PGS. TS. Nguyễn Hoàng, người Thầy đã tận tình hướng dẫn và
giúp đỡ tôi trong suốt quá trình thực hiện đề tài.
Xin chân thành cảm ơn quý Thầy giáo và Cô giáo khoa Toán, Trường
ĐHSP Huế đã dạy dỗ và tạo điều kiện giúp đỡ tôi trong suốt các năm học
vừa qua.
Xin cảm ơn những người thân trong gia đình, cảm ơn các bạn lớp Toán
Giải tích K24 đã dành cho tôi sự giúp đỡ và động viên lớn lao trong suốt
chặng đường học tập và làm đề tài tốt nghiệp.
Huế, tháng 8 năm 2017
PHAN THỊ NHẬT LINH


MỞ ĐẦU
Lý thuyết phép tính vi phân cho các hàm trơn là lý thuyết khá quen
thuộc trong chương trình đại học. Phép vi phân cho các hàm không trơn đưa
ra công cụ mới đã và đang phát triển rất mạnh mẽ với nhiều kết quả đẹp
đẽ và phong phú. Với khái niệm phép tính vi phân theo nghĩa Fréchet, theo
nghĩa Gâteaux,... trong không gian Banach, đặc biệt là phép tính vi phân

proximal trong không gian Hilbert đã được nghiên cứu chi tiết cùng những
tính chất tốt mang lại nhiều ứng dụng quan trọng. Một trong những ứng
dụng ý nghĩa là nghiên cứu nghiệm phương trình Hamilton-Jacobi, nghiệm
bài toán tối ưu... Mục đích của khóa luận này nhằm nghiên cứu tổng quan
về phép tính vi phân cho các hàm không trơn trong không gian Banach cùng
các tính chất cơ bản của nó.


MỤC LỤC

Trang phụ bìa

i

Lời cam đoan

ii

LỜI CẢM ƠN

iii

MỞ ĐẦU

1

MỤC LỤC

2


Chương 1
1.1
1.2

Kiến thức chuẩn bị

3

Không gian Banach . . . . . . . . . . . . . . . . . . . . . . . . .
Tập lồi

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3
4

1.3

Hàm lồi và hàm nửa liên tục dưới

. . . . . . . . . . . . . . . .

5

1.4

Các khái niệm đạo hàm trong không gian Banach và không
gian Hilbert . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

9


Hàm khoảng cách . . . . . . . . . . . . . . . . . . . . . . . . . .

20

1.5

Chương 2

Vi phân các hàm không trơn

23

2.1

Điểm gần nhất . . . . . . . . . . . . . . . . . . . . . . . . . . . .

23

2.2

Gradient dưới proximal . . . . . . . . . . . . . . . . . . . . . . .

29

2.3

Định lí trù mật . . . . . . . . . . . . . . . . . . . . . . . . . . .

42


2.4

Tổng chập cực tiểu của hàm toàn phương . . . . . . . . . . . .

47

2.5

Nửa vi phân theo nghĩa Fréchet . . . . . . . . . . . . . . . . . .

52

KẾT LUẬN

57

TÀI LIỆU THAM KHẢO

58


Chương 1
Kiến thức chuẩn bị
Phần kiến thức này dùng để giới thiệu lại một vài khái niệm và tính chất
của tập lồi, không gian định chuẩn, không gian Hilbert, hàm lồi và hàm nửa
liên tục dưới, đặc biệt là các khái niệm đạo hàm trong không gian Banach và
không gian Hilbert đã được trình bày trong các tài liệu [1], [5], [6], [7].

1.1


Không gian Banach

Định nghĩa 1.1. Cho X là không gian vector trên R. Một ánh xạ ∥.∥ : X →
[0, +∞] được gọi là một chuẩn trên X nếu:
1. ∥x∥ ≥ 0 và ∥x∥ = 0 khi và chỉ khi x = 0;
2. ∥λx∥ = |λ|∥x∥;
3. ∥x + y∥ ≤ ∥x∥ + ∥y∥;
∀x, y ∈ X, ∀λ ∈ R.

Khi đó (X, ∥.∥) được gọi là không gian định chuẩn.
Định nghĩa 1.2. Với x, y ∈ X đặt d(x, y) = ∥x − y∥ thì (X, d) là một không
gian mêtric.
Nếu (X, d) là không gian mêtric đầy đủ thì không gian định chuẩn (X, ∥.∥)
được gọi là không gian Banach.
Không gian định chuẩn (X, ∥.∥) với chuẩn được cho bởi một tích vô hướng
√
trên X , nghĩa là ∥x∥ = ⟨x, x⟩ thì (X, ∥.∥) được gọi là không gian tiền Hilbert.
Nếu không gian tiền Hilbert là không gian Banach thì được gọi là không gian
Hilbert.


Chương 1. Kiến thức chuẩn bị

4

Định nghĩa 1.3. Cho X, Y là hai không gian định chuẩn. Khi đó L(X, Y ) là
không gian định chuẩn gồm các toán tử tuyến tính liên tục từ X vào Y.
Đặc biệt X ∗ = L(X, R) dược gọi là không gian liên hiệp của X.
Định lí 1.1. Cho X là không gian Hilbert thực, mỗi phiếm hàm tuyến tính liên

tục g ∈ X ∗ đều tồn tại duy nhất a ∈ X sao cho ∀x ∈ X, g(x) = ⟨x, a⟩ = ⟨a, x⟩.
Định lí 1.2. Cho X là không gian định chuẩn và A ⊂ X khi đó
(i) A = intA ∪ ∂A;
(ii) intA ∩ ∂A = ∅.

1.2

Tập lồi

Cho X là không gian vectơ thực.
Định nghĩa 1.4. Tập con A của X được gọi là tập lồi nếu với mọi x, y ∈ A
và với mọi λ ∈ (0, 1) thì λx + (1 − λ)y ∈ A.
Định nghĩa 1.5. Cho A là tập lồi và x, y ∈ A khi đó
[x, y] = {λx + (1 − λ)y, λ ∈ [0, 1]} được gọi là đoạn thẳng nối x với y .
(x, y) = [x, y] \ {x, y}.

Định nghĩa 1.6. Tập con A của X được gọi là hấp thụ nếu
∀v ∈ X, ∃ε > 0, (−εv, εv) ⊆ A.
x0 được gọi là điểm bọc của A nếu A − x0 hấp thụ.

Ký hiệu : core A = {x0 ∈ X : A − x0 hấp thụ} là tập các điểm bọc của A.
Nhận xét 1.1. x0 ∈ coreA ⇔ ∀v ∈ X, ∃ε > 0, ∀λ ∈ (−ε, ε) : x0 + λv ∈ A.
Mệnh đề 1.3. Cho X là không gian định chuẩn thực
(i) Nếu V là lân cận của 0 ∈ X thì V là tập hấp thụ;
(ii) int A ⊂ core A.

Chứng minh. (i) Xét hàm f : R × X → X với f (λ, v) = λ.v là hàm liên tục nên
liên tục tại (0, v).



Chương 1. Kiến thức chuẩn bị

5

Ta có f (0, v) = 0 và V là lân cận của 0 nên tồn tại ε > 0 và U lân cận
của v sao cho
f ((−ε, ε) × U ) ⊂ V.

Suy ra (−εv, εv) ⊂ V. Do đó V là tập hấp thụ.
(ii) Giả sử x ∈ int A nên tồn tại δ > 0 sao cho x + B(0, δ) = B(x, δ) ⊂ A.

Suy ra B(0, δ) ⊂ A − x. Vì B(0, δ) là lân cận của 0 nên B(0, δ) là tập hấp
thụ. Do đó A − x là tập hấp thụ hay x ∈ core A.
Vậy intA ⊂ core A.

Mệnh đề 1.4. Cho A là tập lồi khác rỗng trong không gian định chuẩn X.
Lúc đó,
(i) int A, A là tập lồi.
(ii) Nếu int A ̸= ∅ thì A = intA.

Định lí 1.5. (Định lý tách)
Cho A là tập con lồi của không gian Hilbert X và x0 ∈ X \ A. Nếu một
trong hai điều kiện sau thỏa mãn:
(i) core A ̸= ∅;
(ii) X hữu hạn chiều .

thì có một siêu phẳng tách thực sự A và x0 , nghĩa là tồn tại a ∈ X khác không
thỏa mãn
⟨a, x0 ⟩ ≤ ⟨a, x⟩, ∀x ∈ A.


1.3

Hàm lồi và hàm nửa liên tục dưới

Cho X , Y là hai không gian định chuẩn, ánh xạ f : X → (−∞, +∞] và
x0 ∈ X.

Định nghĩa 1.7.
domf = {x ∈ X : f (x) < +∞}.
grf
= {(x, f (x)) : x ∈ dom f }.
epif = {(x, r) ∈ dom f × R : r ≥ f (x)}.


Chương 1. Kiến thức chuẩn bị

6

Định nghĩa 1.8. Ánh xạ f được gọi là nửa liên tục dưới tại x0 nếu với mỗi
ε > 0 tồn tại ∃δ > 0 sao cho với mọi y ∈ B(x0 , δ) :
f (y) ≥ f (x0 ) − ε

nghĩa là
lim inf f (x) ≥ f (x0 ).
x→x0

Ánh xạ f được gọi là nửa liên tục trên tại x0 nếu (−f ) là nửa liên tục dưới
tại x0 .
Ánh xạ f được gọi là liên tục tại x0 ∈ domf nếu với mỗi ε > 0 tồn tại δ > 0
sao cho với mọi y ∈ B(x0 , δ) :

|f (y) − f (x0 )| ≤ ε.

Cho U là tập con mở của X. Ánh xạ f được gọi là nửa liên tục dưới (t.ư nửa
liên tục trên, liên tục) trên U nếu f nửa liên tục dưới (t.ư nửa liên tục trên,
liên tục) tại mọi x0 ∈ U.
Ký hiệu : F(U ) = {f : X → (−∞, +∞]|f nửa liên tục dưới trên U và dom f ̸=
∅}.

Định nghĩa 1.9. Cho S ⊂ X, hàm số IS : X → (−∞, +∞] được định nghĩa
{
0
nếu x ∈ S
IS (x) =
+∞ nếu x ∈
/S
được gọi là hàm chỉ cuả S.
Định nghĩa 1.10. Cho U là tập con mở và lồi của X . Hàm số f : X →
(−∞, +∞] được gọi là hàm lồi trên U nếu thỏa
f (tx + (1 − t)y) ≤ tf (x) + (1 − t)f (y), ∀x, y ∈ U, 0 < t < 1.

Nếu f lồi trên X thì f được gọi là hàm lồi.
Định lí 1.6. Cho f : X → (−∞, +∞]
(i) Nếu f lồi thì dom f lồi.
(ii) Ba mệnh đề sau tương đương

(a) f nửa liên tục dưới trên X;


Chương 1. Kiến thức chuẩn bị


7

(b) epi f đóng;
(c) với mọi r ∈ R, {x : f (x) ≤ r} là tập đóng.
(iii) f lồi trên X nếu và chỉ nếu epi f tập con lồi của X × R.
(iv) Hàm chỉ IS ∈ F (X) nếu và chỉ nếu S khác rỗng và đóng. Hàm chỉ IS lồi

nếu và chỉ nếu S lồi.
Chứng minh. (i) Với mọi x, y ∈ dom f và với mọi λ ∈ (0, 1), vì f lồi ta có
f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y) < +∞

suy ra λx + (1 − λ)y ∈ dom f. Vậy dom f lồi.
(ii) (a)⇒(b) Giả sử f là nửa liên tục dưới. Xét (xj , rj )j ⊂ epi f và
lim (xj , rj ) = (x, r) ∈ X × R.

j→+∞

Suy ra lim xj = x và lim rj = r. Ta có f nửa liên tục dưới nên
j→+∞

j→+∞

lim inf f (xj ) ≥ f (x)
j→+∞

Mà f (xj ) ≤ rj , ∀j ∈ N (vì (xj , rj ) ∈ epi f ) nên
f (x) ≤ lim inf f (xj ) ≤ lim rj = r
j→+∞

j→+∞


Suy ra (x, r) ∈ epi f. Hay epi f đóng.
(b)⇒(c) Giả sử epi f đóng. Với mỗi r ∈ R, đặt
Ar = {x : f (x) ≤ r}.

Xét (xj )j ⊂ Ar và lim (xj )j = x ∈ X.
j→+∞

Ta có f (xj ) ≤ r nên (xj , r) ∈ epi f với mọi j ∈ R. Khi đó vì epi f
đóng suy ra
lim (xj , r) = (x, r) ∈ epi f.
j→+∞

Do đó f (x) ≤ r hay x ∈ Ar . Vậy Ar đóng.
(c)⇒(a) Giả sử với mọi r ∈ R, Ar = {x : f (x) ≤ r} đóng.
Với x0 ∈ X , với mọi ε > 0 ta có Af (x0 )−ε đóng nên Acf (x0 )−ε mở và
x0 ∈ Acf (x0 )−ε suy ra tồn tại B(x0 , δ) ⊂ Acf (x0 )−ε .
Khi đó ∀y ∈ B(x0 , ε) ta có
f (y) > f (x0 ) − ε.


Chương 1. Kiến thức chuẩn bị

8

Suy ra f nửa liên tục dưới tại x0 với mọi x0 ∈ X. Vậy f nửa liên tục
dưới.
(iii)

• Giả sử f lồi, với mọi (x1 , r1 ), (x2 , r2 ) ∈ epi f và với mọi λ ∈ (0, 1) ta


có
f (λx1 + (1 − λ)x2 ) ≤ λf (x1 ) + (1 − λ)f (x2 )
≤ λr1 + (1 − λ)r2 .

Suy ra (λx1 + (1 − λ)x2 , λr1 + (1 − λ)r2 ) ∈ epi f hay λ(x1 , r1 ) + (1 −
λ)(x2 , r2 ) ∈ epif. Do đó epi f lồi.
• Giả sử epi f lồi, với mọi x1 , x2 ∈ X và với mọi λ ∈ (0, 1) vì
(x1 , f (x1 )), (x2 , f (x2 )) ∈ epi f nên
λ(x1 , f (x1 )) + (1 − λ)(x2 , f (x2 )) ∈ epi f
⇔ (λx1 + (1 − λ)x2 , λf (x1 ) + (1 − λ)f (x2 )) ∈ epi f
⇔ f (λx1 + (1 − λ)x2 ) ≤ λf (x1 ) + (1 − λ)f (x2 ).

Do đó f lồi.
(iv)

• Nếu f = IS ∈ F thì dom IS ̸= ∅ suy ra S ̸= ∅.

Mặt khác xét (sj )j ⊂ S và lim sj = s ∈ X vì IS nửa liên tục dưới
j→+∞

nên
lim inf IS (sj ) ≥ IS (s)

j⇔→+∞

⇔0

≥ IS (s).


Suy ra IS (s) = 0 hay s ∈ S. Do đó S đóng.
Ngược lại nếu S ̸= ∅ tồn tại x ∈ S và IS (x) = 0 hay dom IS ̸= ∅.
Mặt khác với mọi r ∈ R
Nếu r ≥ 0, Ar = {x ∈ X : f (x) ≤ r} = S là tập đóng.
Nếu r < 0, Ar = {x ∈ X : f (x) ≤ r} = ∅ là tập đóng.
Do đó IS nửa liên tục dưới.
• Nếu IS lồi, với mọi s, s′ ∈ S và với mọi λ ∈ (0, 1) ta có
IS (λs + (1 − λ)s′ ) ≤ λIS (x) + (1 − λ)IS (s′ ) = 0.

Suy ra IS (λs + (1 − λ)s′ ) = 0 hay λs + (1 − λ)s′ ∈ S. Do đó S lồi.
Ngược lại giả sử S lồi, với mọi x, y ∈ S và với mọi λ ∈ (0, 1) ta có
Nếu x ∈ X \ S hoặc y ∈ X \ S thì IS (x) = +∞ hoặc IS (y) = +∞ nên
bất đẳng thức
IS (λx + (1 − λ)y) ≤ λIS (x) + (1 − λ)IS (y)


Chương 1. Kiến thức chuẩn bị

9

đúng.
Nếu x ∈ S và y ∈ S vì S lồi nên λx + (1 − λ)y ∈ S khi đó
0 = IS (λx + (1 − λ)y) = λIS (x) + (1 − λ)IS (y) = 0.

Do đó IS lồi.

1.4

Các khái niệm đạo hàm trong không gian
Banach và không gian Hilbert


Cho X, Y là các không gian Banach, x ∈ X, F : X → Y là một ánh xạ.
Định nghĩa 1.11. Ánh xạ F được gọi là khả vi Gâteaux tại x nếu tồn tại
p ∈ L(X, Y ) thỏa mãn
lim (

t→0+

F (x + tv) − F (x)
− ⟨p, v⟩) = 0, ∀v ∈ X.
t

(∗)

Khi đó p được gọi là đạo hàm Gâteaux của F tại x và ký hiệu là FG′ (x).
Định nghĩa 1.12. Ánh xạ F được gọi khả vi Fréchet tại x nếu tồn tại
p ∈ L(X, Y ) thỏa mãn điều kiện với mọi r > 0 và với mỗi ε > 0 tồn tại δ > 0
sao cho
∥

F (x + tv) − F (x)
− ⟨p, v⟩∥ < ε
t

với mọi v ∈ B ′ (0, r), t ∈ (0, δ).
Khi đó p được gọi là đạo hàm Fréchet của F tại x và ký hiệu F ′ (x).
Định nghĩa 1.13. Ánh xạ F được gọi khả vi Hadamard tại x nếu tồn tại
p ∈ L(X, Y ) thỏa mãn điều kiện với mọi tập con compact A ⊂ X ,với mọi ε > 0
tồn tại δ > 0:
∥


F (x + tv) − F (x)
− ⟨p, v⟩∥ < ε
t

với mọi v ∈ A, với mọi t ∈ (0, δ).
Khi đó p được gọi là đạo hàm Hadamard của F tại x và ký hiệu FH′ (x).
Định nghĩa 1.14. F được gọi là thỏa điều kiện Lipschitz địa phương tại x0
nếu tồn tại δ > 0 và K > 0 thoả mãn
∥F (x) − F (y)∥Y ≤ K∥y − x∥X , ∀x, y ∈ B ′ (x0 , δ).


Chương 1. Kiến thức chuẩn bị

10

Nhận xét 1.2. .
(i) Sự hội tụ của (∗) là sự hội tụ đều theo v trong một tập "hữu hạn" bất kỳ.

Nếu thay chữ "hữu hạn" ở trên bởi chữ "bị chặn" ta có khái niệm đạo
hàm Fréchet, bởi chữ "compact" ta có khái niệm đạo hàm Hadamard.
[5]
F (x + h) − F (x) − ⟨F ′ (x), h⟩
(ii) F khả vi Fréchet tại x ⇔ lim
= 0.
∥h∥
h→0

Chứng minh. (⇒) Giả sử F khả vi Fréchet tại x. Suy ra với mọi ε > 0
tồn tại δ > 0 sao cho với mọi t ∈ B(0, δ):

∥

F (x + tv) − F (x)
− ⟨F ′ (x), v⟩∥ < ε, ∀v ∈ B ′ (0, r).
t

Với mỗi h ∈ X, ∥h∥ < δ.r và h ̸= 0 ta có
h=

với t =

∥h∥
r

∈ B(0, δ), v =

r
h
∥h∥

∥h∥ r
h = tv.
r ∥h∥
∈ B ′ (0, r). Khi đó

∥F (x + h) − F (x) − ⟨F ′ (x), h⟩∥
=
∥h∥

∥F (x+tv)−F (x)−⟨F ′ (x),tv⟩∥

∥tv∥

1 F (x + tv) − F (x)
∥
− ⟨F ′ (x), v⟩∥
∥v∥
t
1
≤ ε
r

=

Do đó

∥F (x + h) − F (x) − ⟨F ′ (x), h⟩∥
=0
∥h∥
h→0
lim

(⇐) Giả sử

F (x + h) − F (x)) − ⟨F ′ (x), h⟩
= 0.
∥h∥
h→0
lim

Với v = 0 ta có

lim+ ∥

t→0

F (x + tv) − F (x)
− ⟨F ′ (x), v⟩∥ = 0.
t

Với v ̸= 0 và v ∈ B ′ (0, r), t > 0 đặt h = tv khi đó:
∥

(F (x + h) − F (x)) − t⟨F ′ (x), ht ⟩
F (x + tv) − F (x)
− ⟨F ′ (x), v⟩∥ = ∥
∥
t
t
∥(F (x + h) − F (x)) − ⟨F ′ (x), h⟩∥
=
|t|
∥(F (x + h) − F (x)) − ⟨F ′ (x), h⟩∥
= ∥v∥
.
∥h∥


Chương 1. Kiến thức chuẩn bị

11


Suy ra
F (x + tv) − F (x)
− ⟨F ′ (x), v⟩∥
+
t
t→0
∥(F (x + h) − F (x)) − ⟨F ′ (x), h⟩∥
= lim ∥v∥
= 0.
∥h∥
h→0
lim ∥

Do đó F khả vi Fréchet tại x.

(iii) F khả vi Fréchet suy ra F khả vi Gâteaux và liên tục.

Chứng minh. Xét x0 ∈ X , với mọi v ∈ X ta có v ∈ B ′ (0, ∥v∥ + 1) và F
khả vi Fréchet tại x0 nên
lim ∥

t→0

F (x0 + tv) − F (x0 )
− ⟨F ′ (x0 ), (v)⟩∥ = 0
t

suy ra F khả vi Gâteaux tại x0 và FG′ (x0 ) = F ′ (x0 ). Do đó F khả vi
Gâteaux.
Mặt khác F khả vi Fréchet tại x0 nên với mọi ε > 0 tồn tại 0 < δ <

ε
sao cho với mọi 0 < ∥h∥ ≤ δ ta có
ε+∥F ′ (x0 )∥L(X,Y )
∥

F (x0 + h) − F (x0 ) − ⟨F ′ (x0 ), h⟩
∥Y < ε.
∥h∥

Suy ra
∥(F (x + h) − F (x0 ))∥Y

< ∥⟨F ′ (x0 ), h′ ⟩∥Y + ε.∥h∥X
< ∥F ′ (x0 )∥L(X,Y ) ∥h∥X + ε.∥h∥X
< (∥F ′ (x0 )∥L(X,Y ) + ε).∥h∥X
< ε.

nên F liên tục tại x0 . Vậy F liên tục.
(iv) F khả vi Gâteaux không phải là điều kiện đủ F liên tục hoặc F khả vi

Fréchet.
Ví dụ 1.1. Xét f : R2 → R với
f (x1 , x2 ) =

{

x31
x2

, x2 ̸= 0


0

, x2 = 0


Chương 1. Kiến thức chuẩn bị

12

Xét x0 = (0, 0), ∀h = (h1 , h2 ) ∈ R2 \ {(0, 0)} ta có
f (x0 + th) − f (x0 )
f (th1 , th2 ) − f (0, 0)
= lim
t→0
t→0
t
t
t3 .h31
= lim 2
t→0 t h2
= 0 = 0h.
lim

Điều này cũng đúng với (h1 , h2 ) = (0, 0) nên suy ra fG′ ((0, 0)) = 0.
Mặt khác xét xn = ( n1 , n13 ) ∈ R, ∀n ∈ N, khi đó lim xn = (0, 0) và
n→+∞

1
n3

n→+∞ 13
n

lim f (xn ) = lim

n→+∞

= 1 ̸= f ((0, 0))

suy ra f không liên tục tại (0, 0). Do đó f không khả vi Fréchet tại (0, 0).
(v) Nếu X hữu hạn chiều thì F khả vi Fréchet khi và chỉ khi F khả vi

Hadamard.
Chứng minh. Tập compact trong không gian định chuẩn đều bị chặn
hay chứa trong một hình cầu đóng. Ngược lại mỗi hình cầu đóng, do X
là không gian hữu hạn chiều, đều là tập compact nên khái niệm khả vi
Fréchet tương đương khả vi Hadamard.
(vi) Nếu F thỏa điều kiện Lipchistz địa phương tại x0 thì F khả vi Gâteaux

tại x0 tương đương F khả vi Hadamard tại x0 .
Chứng minh. F thỏa điều kiện Lipschitz địa phương tại x0 nên tồn tại
δ > 0 và K > 0 thỏa mãn
∥F (y) − F (x)∥Y ≤ K∥y − x∥X , ∀y, x ∈ B(x0 , δ).

Nếu F khả vi Hadamard tại x0 thì F khả vi Gâteaux tại x0 theo định
nghĩa.
Nếu F khả vi Gâteaux tại x0 , với mỗi tập compact A ⊂ X, với mỗi ε > 0
họ (B(vi , 2(K+∥Fε ′ (x0 )∥) ))vi ∈A là phủ mở của A nên
G


A⊂

n
∪
i=1

B(vi ,

ε
.
2(K + ∥fG′ (x0 )∥)


Chương 1. Kiến thức chuẩn bị

13

∀i = 1, ..., n do F khả vi Gâteaux tại x0 nên với ε > 0 ở trên ∃ηi > 0, 0 <
t ≤ ηi < 1 ta có
∥

F (x0 + tvi ) − F (x0 )
ε
− FG′ (x0 )(vi )∥Y < .
t
2

Đặt η = min {ηi }, khi đó với 0 < t ≤ η
1≤i≤n


∥

F (x0 + tvi ) − F (x0 )
ε
− FG′ (x0 )(vi )∥Y < , ∀i = 1, ..., n. (1)
t
2

Mặt khác với mỗi v ∈ A, tồn tại i ∈ {1, ..., n} sao cho v ∈
B(vi , 2(K+∥Fε ′ (x0 )∥) ) hay ∥v − vi ∥X ≤ 2(K+∥fε′ (x0 )∥) . Gọi η ′ > 0 thỏa mãn
G

G

η ′ ( max ∥vi ∥ +
1≤i≤n

ε
) < δ.
2(K + ∥FG′ (x0 )∥)

Đặt η ∗ = min{η, η ′ }, khi đó với mọi 0 < t ≤ η ∗ ta có
∥x0 + tv − x0 ∥ ≤ η ∗ ∥v∥
≤ η ∗ (∥v − vi ∥ + ∥vi ∥)
ε
≤ η∗(
+ ∥vi ∥)
2(K + ∥FG′ (x0 )∥)
< δ.


và

∥x0 + tvi − x0 ∥ ≤ η ∗ ∥vi ∥
≤ η∗(

ε
+ ∥vi ∥)
2(K + ∥FG′ (x0 )∥)

<δ

suy ra x0 + tv, x0 + tvi ∈ B(x0 , δ) khi đó áp dụng điều kiện Lipschitz địa
phương ta có
∥

F (x0 +tv)−F (x0 +tvi )
t

− FG′ (x0 )(v − vi )∥Y

≤∥

F (x0 + tv) − F (x0 + tvi )
∥Y +
t
∥FG′ (x0 )(v − vi )∥Y

≤ K∥v − vi ∥ + ∥FG′ (x0 )∥∥v − vi ∥
≤ (K + ∥FG′ (x0 )∥)∥v − vi ∥
< 2ε .


(2)

Từ (1), (2) lưu ý FG′ (x0 ) ∈ L(X, Y ) ta có
F (x0 + tv) − F (x0 )
− FG′ (x0 )(v)∥Y
t
F (x +tv)−F (x0 +tvi )+F (x0 +tvi )−F (x0 )
=∥ 0
− FG′ (x0 )(vi ) − FG′ (x0 )(v − vi )∥Y
t

∥

≤∥
<ε

F (x0 +tv)−F (x0 +tvi )
t

− FG′ (x0 )(v − vi )∥Y + ∥

F (x0 +tvi )−F (x0 )
t

− FG′ (x0 )(vi )∥Y


Chương 1. Kiến thức chuẩn bị


14

điều này đúng với mọi 0 < t < η ∗ , với mọi v ∈ A suy ra F khả vi
Hadamard tại x0 .
Định lí 1.7. Cho f, g : X → Y khả vi Fréchet tại x0 ∈ X. Khi đó f + g, f − g
cũng khả vi Fréchet tại x0 và:
′

(i) (f + g) (x0 ) = f ′ (x0 ) + g ′ (x0 );
′

(ii) (f − g) (x0 ) = f ′ (x0 ) − g ′ (x0 ).
Định lí 1.8. Cho f : X → R và g : X → Y khả vi Fréchet tại x0 ∈ X. Khi đó
f /g(với f (x0 ) ̸= 0) cũng khả vi Fréchet tại x0 và:
g
f (x0 )g ′ (x0 ) − f ′ (x0 )g(x0 )
(x0 ) =
.
f
f 2 (x0 )

Định lí 1.9. Cho ánh xạ f : X → Y khả vi Fréchet tại x0 và ánh xạ g : Y →
Z khả vi Fréchet tại f (x0 ). Khi đó hàm hợp g ◦ f khả vi Fréchet tại x0 và
(g ◦ f )′ (x0 ) = g ′ (f (x0 )) ◦ f ′ (x0 ) ∈ L(X, Z).

Định lí 1.10. Cho ánh xạ k : X → R khả vi Fréchet tại x0 và ánh xạ f : X → Y
khả vi Fréchet tại x0 . Khi đó hàm kf khả vi Fréchet tại x0 và (kf )′ (x0 ) =
k ′ (x0 )f (x0 ) + k(x0 )f ′ (x0 ) ∈ L(X, Y ).

Chứng minh. Ta có

(kf )(x0 + h) − (kf )(x0 ) − ⟨k ′ (x0 )f (x0 ) + k(x0 )f ′ (x0 ), h⟩
∥h∥
h→0
k(x0 + h)f (x0 + h) − k(x0 )f (x0 ) − (⟨k ′ (x0 ), h⟩f (x0 ) + k(x0 )⟨f ′ (x0 ), h⟩)
= lim
∥h∥
h→0
k(x0 )(f (x0 + h) − f (x0 ) − ⟨f ′ (x0 ), h⟩)
+
= lim [
∥h∥
h→0
k(x0 + h)f (x0 + h) − k(x0 )f (x0 + h) − (⟨k ′ (x0 ), h⟩f (x0 )
]
∥h∥
k(x0 )(f (x0 + h) − f (x0 ) − ⟨f ′ (x0 ), h⟩)
+
= lim [
∥h∥
h→0
f (x0 + h)(k(x0 + h) − k(x0 ) − ⟨k ′ (x0 ), h⟩) f (x0 + h)⟨k ′ (x0 ), h⟩ − ⟨k ′ (x0 ), h⟩f (x0 )
+
]
∥h∥
∥h∥
=0
lim

vì f, g khả vi Fréchet và
∥f (x0 + h)⟨k ′ (x0 ), h⟩ − ⟨k ′ (x0 ), h⟩f (x0 )∥

∥h∥
h→0
∥⟨k ′ (x0 ), h⟩(f (x0 + h) − f (x0 ))∥
= lim
∥h∥
h→0
′
≤ lim ∥k (x0 )∥.∥(f (x0 + h) − f (x0 ))∥ = 0 (vì f liên tục ).
lim

h→0


Chương 1. Kiến thức chuẩn bị

15

Từ đây về sau, nếu không chú thích gì thêm ta xét X là không gian
Hilbert thực.
Định lí 1.11. (Giá trị trung bình) Giả sử f ∈ F (X) khả vi Gâteaux trên một
lân cận mở chứa đoạn thẳng [x, y] = {tx + (1 − t)y, 0 ≤ t ≤ 1} với x, y ∈ X. Khi
đó tồn tại z ∈ (x, y) sao cho
f (y) − f (x) = ⟨fG′ (z), y − x⟩.

Chứng minh. Xét
g : [0, 1] → R
t

→ g(t) = f (x + t(y − x))


Với mọi t0 ∈ [0, 1] ta có
g(t0 + h) − g(t0 )
h
h→0
f (x + (t0 + h)(y − x)) − f (x + t0 (y − x))
= lim
h
h→0
f (x + t0 (y − x) + h(y − x)) − f (x + t0 (y − x))
= lim
h
h→0
′
= ⟨fG (x + t0 (y − x)), y − x⟩ (vì f khả vi Gâteaux).
lim

Suy ra g khả vi trên [0, 1] và g ′ (t0 ) = ⟨fG′ (x + t0 (y − x)), y − x⟩.Theo định lý giá
trị trung bình tồn tại t∗ ∈ (0, 1) sao cho
g(1) − g(0) = g ′ (t∗ )(1 − 0)

suy ra
f (y) − f (x) = ⟨fG′ (x + t∗ (y − x)), y − x⟩.

Đặt z = x + t∗ (y − x) ∈ (x, y) ta có
f (y) − f (x) = ⟨fG′ (z), y − x⟩.

Giả sử U ⊆ X là tập mở và f : U → R khả vi Fréchet (t.ư Gâteaux) trên
U. Nếu f ′ (.) : U → X liên tục trên U ta nói f khả vi liên tục trên U và ký hiệu
f ∈ C 1 (U ). Giả sử xa hơn nếu ánh xạ f ′ (.) : U → X khả vi Fréchet trên U và



Chương 1. Kiến thức chuẩn bị

16

với đạo hàm của nó tại mỗi x ∈ U được định nghĩa f ′′ ∈ L(X, X). thì f được
gọi là khả vi cấp 2.
f được gọi là khả vi địa phương cấp 2 tại x ∈ X nên tồn tại η > 0 sao cho f
khả vi cấp 2 trên B(x, η).
Định lí 1.12. Nếu f khả vi địa phương cấp 2 tại x ∈ X thì tồn tại η > 0 sao
cho với mọi y ∈ B(x, η)
1
f (y) = f (x) + ⟨f ′ (x), y − x⟩ + ⟨f ′′ (z)(y − x), y − x⟩
2

với z nằm trên đoạn thẳng [x, y].
Chứng minh. Vì f khả vi địa phương cấp 2 tại x ∈ X nên tồn tại η > 0 sao
cho f khả vi cấp 2 trên B(x, η). Với y ∈ B(x, η), xét đoạn thẳng [x, y], với mọi
t ∈ [0, 1] ta có
∥tx + (1 − t)y − x∥ = (1 − t)∥y − x∥ < η

suy ra [x, y] ⊂ B(x, η).
Xét

g : [0, 1] → R
t

→ g(t) = f (x + t(y − x))

Theo chứng minh Định lý 1.8, g khả vi trên [0, 1] và g ′ (t0 ) = ⟨f ′ (x + t0 (y −

x)), y − x⟩.

Với mọi t0 ∈ [0, 1] ta có
g ′ (t0 + h) − g ′ (t0 )
h
h→0
⟨f ′ (x + (t0 + h)(y − x)), y − x⟩ − ⟨f ′ (x + t0 (y − x)), y − x⟩
= lim
h
h→0
f ′ (x + t0 (y − x) + h(y − x)) − f ′ (x + t0 (y − x)
, y − x⟩
= lim ⟨
h
h→0
= ⟨f ′′ (x + t0 (y − x))(y − x), y − x⟩ (vì f khả vi cấp 2 trên [x, y]).
lim

Suy ra g khả vi cấp 2 trên [0, 1] và g ′′ (t) = ⟨f ′′ (x + t0 (y − x))(y − x), y − x⟩.
Với mọi t ∈ [0, 1] áp dụng khai triển Taylor hàm g trên [0, t]
g(t) = g(0) + g ′ (0)t + g ′′ (t0 )t2 ,

với t0 ∈ [0, t].
Chọn t = 1 khi đó
1
f (y) = f (x) + ⟨f ′ (x), y − x⟩ + ⟨f ′′ (z)(y − x), y − x⟩, ∀y ∈ B(x, η).
2

Với z = x + t0 (y − x) ∈ [x, y]



Chương 1. Kiến thức chuẩn bị

17

Định lí 1.13. Cho f ∈ C 2 (X). Khi đó với mọi x ∈ X, tồn tại η > 0, σ > 0 sao
cho
f (y) ≥ f (x) + ⟨f ′ (x), y − x⟩ − σ∥y − x∥2 , ∀y ∈ B(x, η).

Chứng minh. f ′′ liên tục tại x nên với ε = 1 tồn tại η > 0 sao cho với mọi
y ∈ B(x, η)
∥f ′′ (y) − f ′′ (x)∥ ≤ 1

suy ra
∥f ′′ (y)∥ ≤ ∥f ′′ (x)∥ + 1.

Đặt 2σ = ∥f ′′ (x)∥ + 1, khi đó ∥f ′′ (y)∥ ≤ 2σ, ∀y ∈ B(x, η).
Theo Định lí 1.9 với mọi y ∈ B(x, η) ta có
f (y) = f (x) + ⟨f ′ (x), y − x⟩ + 12 ⟨f ′′ (z)(y − x), y − x⟩
≥ f (x) + ⟨f ′ (x), y − x⟩ − 12 |⟨f ′′ (z)(y − x), y − x⟩|
≥ f (x) + ⟨f ′ (x), y − x⟩ − 12 ∥f ′′ (z)∥.∥y − x∥2 ( vì f ′′ liên tục )
≥ f (x) + ⟨f ′ (x), y − x⟩ − σ∥y − x∥2

Bổ đề 1.1. (i) Cho x ∈ X là điểm cố định cho trước và f : X → R với
f (y) = ∥y − x∥, ∀y ∈ X. Khi đó f ∈ C 2 và với mỗi y ∈ X, f ′ (y) = 2(y − x)
và f ′′ (y) = 2I với I ∈ L(X, X) là toán tử đồng nhất.
Chứng minh. Với mọi r > 0 và với mọi v ∈ X sao cho ∥v∥ ≤ r ta có
f (y + tv) − f (y)
∥y + tv − x∥2 − ∥y − x∥2
− ⟨2(y − x), v⟩| = |

− ⟨2(y − x), v⟩|
t
t
⟨y + tv − x, y + tv − x⟩ − ∥y − x∥2
=|
− ⟨2(y − x), v⟩|
t
∥y − x∥2 + 2t⟨y − x, v⟩ + t2 ∥v∥2 − ∥y − x∥2
− ⟨2(y − x), v⟩|
=|
t
= |2⟨y − x, v⟩ + t∥v∥2 − ⟨2(y − x), v⟩|
|

= |t|∥v∥2 ≤ |t|r2

Khi đó với mọi r > 0 và với mọi ε > 0 tồn tại δ =
|

ε
r2

sao cho mọi |t| < δ

f (y + tv) − f (y)
− ⟨2(y − x), v⟩| < ε, ∀∥v∥ ≤ r.
t


Chương 1. Kiến thức chuẩn bị


18

Suy ra f khả vi Fréchet tại mọi y ∈ X và f ′ (y) = 2(y − x). Mặt khác với
mọi r > 0 và với mọi v ∈ X sao cho ∥v∥ ≤ r ta có
|

f ′ (y + tv) − f ′ (y)
2(y + tv − x) − 2(y − x)
− ⟨2I, v⟩| = |
− ⟨2I, v⟩|
t
t
2tv
=|
− 2v|
t
=0

Khi đó với mọi r > 0 và với mọi ε > 0 tồn tại δ > 0 sao cho mọi |t| < δ
|

f (y + tv) − f (y)
− ⟨2(y − x), v⟩| < ε, ∀∥v∥ ≤ r.
t

Suy ra f ′ khả vi Fréchet tại mọi y ∈ X và f ′′ (y) = 2I với I ∈ L(X, X) là
toán tử đồng nhất.
Vì
f′ : X → X

y

→ 2(y − x)

liên tục và
f ′′ : X → L(X, X)
y

→ 2I

liên tục nên f ∈ C 2 .
(ii) Cho c > 0 là hằng số cố định, x và ζ là hai phần tử trong X . Xét hàm
g: X → R
→ g(y) = [c2 + 2c⟨ζ, y − x⟩ − ∥y − x∥2 ]1/2

y

Khi đó tồn tại lân cận U của x sao cho g ∈ C 2 (U ) và g ′ (x) = ζ.
Chứng minh. Xét hàm
h: X → R
y

→ h(y) = c2 + 2c⟨ζ, y − x⟩ − ∥y − x∥2

h(y) tổng hiệu các hàm liên tục nên liên tục. Ta có
h(0) = c2 > 0

nên tồn tại một lân cận U của x sao cho
h(y) > 0, ∀y ∈ U.



Chương 1. Kiến thức chuẩn bị

Xét

19

g: U → R
→ g(y) =

y

√

h(y)

khi đó g(y) tồn tại với mọi y ∈ U Xét
k: U → R
→ k(y) = c2 + 2c⟨ζ, y − x⟩

y

Với mọi r > 0 và với mọi v ∈ X sao cho ∥v∥ ≤ r ta có
|

k(y + tv) − k(y)
2c⟨ζ, y + tv − x⟩ − 2c⟨ζ, y − x⟩
− ⟨2cζ, v⟩| = |
− ⟨2cζ, v⟩|
t

t
2c⟨ζ, tv⟩
=|
− ⟨2cζ, v⟩|
t
=0

suy ra k khả vi Fréchet tại mọi y ∈ X và k ′ (y) = 2cζ.
Xét
l : (0, +∞) → R
1

→ l(z) = z 2

z
l khả vi Fréchet và l′ (z) =

1
√
.
2 z

Ta có g(y) = l ◦ (k + f )(y) nên áp dụng quy tắc đạo hàm ta có
cζ − (y − x)
g ′ (y) = √
.
2
c + 2c⟨ζ, y − x⟩ − ∥y − x∥2

Do đó g ′ (x) = ζ.

Mặt khác xét g ′ (y) = u(y)v(y) với
u: X → R
y

→ u(y) = √ 1

h(y)

và
v: X → X
y

→ v(y) = cζ − (y − x)

Ta có u, v khả vi Fréchet tại mọi y ∈ X và
u′ (y) =

−h′ (y)

√

h(y).2

và

h(y)

=−

cζ − (y − x)

3

[c2 + 2c⟨ζ, y − x⟩ − ∥y − x∥2 ] 2

v ′ (y) = −I : X → X
z

→ v ′ (y)(z) = −z


Chương 1. Kiến thức chuẩn bị

20

Do đó g ′ (y) khả vi Fréchet tại mọi y ∈ X và
g ′′ (y) : X → X
z

→ g”(y) = u′ (y)(z).v(y) + u(y).v ′ (y)(z)
⟨cζ − (y − x), z⟩(cζ − (y − x))
=−
3 +
[c2 + 2c⟨ζ, y − x⟩ − ∥y − x∥2 ] 2
1
1

[c2 + 2c⟨ζ, y − x⟩ − ∥y − x∥2 ] 2

.(−z)


Hơn nữa g ′′ (y) liên tục. Vậy g ∈ C 2 (X).

1.5

Hàm khoảng cách

Định nghĩa 1.15. Cho X là không gian Hilbert thực và S là tập con của X .
Khi đó hàm
dS : X → R
x

→ dS (x) = inf ∥x − s∥
s∈S

được gọi là hàm khoảng cách đối với S.
Nhận xét 1.3. (i) x ∈ S khi và chỉ khi dS (x) = 0.
(ii) dS = dS .
(iii) Giả sử S, S ′ là hai tập con của X , khi đó dS = dS ′ khi và chỉ khi S = S ′ .
(iv) Hàm dS thỏa mãn
|dS (x) − dS (y)| ≤ ∥x − y∥, ∀x, y ∈ X.

hay dS là hàm số Lipschitz trên X với hằng số Lipschitz là 1.
Chứng minh. (i)
x ∈ S ⇔ ∀ε > 0, B(x, ε) ∩ S ̸= ∅
⇔ ∀ε > 0, ∃s ∈ S : ∥x − s∥ < ε
⇔ dS (x) = inf ∥x − s∥ = 0.
s∈S

(ii) Ta có S ⊂ S suy ra inf ∥x − s∥ ≤ inf ∥x − s∥ nên dS (x) ≤ dS (x).
s∈S


s∈S

Mặt khác với mọi s ∈ S, tồn tại (sn )n ∈ S sao cho sn → s suy ra
lim ∥sn − x∥ = ∥s − x∥.

n→+∞


Chương 1. Kiến thức chuẩn bị

21

∀n ∈ N :
d(x, S) ≤ ∥sn − x∥.

Suy ra dS (x) ≤ ∥s − x∥, điều này đúng với mọi s ∈ S nên
dS (x) ≤ inf ∥s − x∥ = dS (x).
s∈S

Vậy dS = dS .
(iii) (⇒) Giả sử dS = dS ′ , ta chứng minh S = S ′ .

Thật vậy
x ∈ S ⇔ dS (x) = 0
⇔ dS ′ (x) = 0
⇔ x ∈ S ′.

Do đó S = S ′ .
(⇐) Ta có S = S ′ nên dS = dS ′ . Từ (ii) suy ra dS = dS ′ .

(iv) Với mọi x, y ∈ X với mỗi u ∈ S cố định, ta có
∥x − u∥ ≤ ∥x − y∥ + ∥y − v∥ + ∥v − u∥, ∀v ∈ S
≤ ∥x − y∥ + inf ∥y − v∥ + inf ∥v − u∥
v∈S

v∈S

≤ ∥x − y∥ + dS (y).

Suy ra dS (x) = inf ∥x − u∥ ≤ ∥x − y∥ + dS (y) hay dS (x) − dS (y) ≤ ∥x − y∥.
u∈S

Tương tự với mỗi v ∈ S cố định, ta có
∥y − v∥ ≤ ∥y − x∥ + ∥x − u∥ + ∥u − v∥, ∀u ∈ S
≤ ∥x − y∥ + inf ∥x − u∥ + inf ∥v − u∥
u∈S

u∈S

≤ ∥x − y∥ + dS (x).

Suy ra dS (y) = inf ∥y − v∥ ≤ ∥x − y∥ + dS (x) hay dS (y) − dS (x) ≤ ∥x − y∥.
v∈S

Vậy
|dS (y) − dS (x)| ≤ ∥x − y∥.

Mệnh đề 1.14. Cho f : X → (−∞, +∞].
Nếu S = epif và f ∈ F(X) thì với mọi x ∈ X, hàm dS (x, r) là hàm không tăng
theo biến r.