Tải bản đầy đủ (.pdf) (293 trang)

Mạng nơron và ứng dụng trong điều khiển tự động phạm hữu đức dụ pdf

Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (27.83 MB, 293 trang )

‫‪DỤC‬‬

‫‪٥٥c‬‬

‫‪PHẠM HỮU‬‬

‫‪ Ị‬؛‪ ,‬ااأ ة؟؟‪.‬؛ ذأ؛‬
‫‪:‬ﻟﻸ ‪ .‬ا إ! إ! أ إ؛! إإإ'‪.‬أإ‬
‫ب‪-‬ﻟﻢ‬
‫ا؛ا ا‪٠‬‬
‫! أ;‬
‫[اا!|ي‬
‫‪ iịi‬؛ ؟‬
‫‪- 1‬‬

‫‪MẠNGNOÍRON‬‬
‫&‬
‫‪٨‬‬
‫‪١‬‬

‫ﺩ‬


Phạiii Hй’‫اا‬

M A. I M G

Đ ÍÍC

Dục


N Ơ R .M

VÀ ỨNG DỤNG
TRDN G ĐIỂU KHIỂN T ư DÔNG

‫ ﻳﺈآأاة؛ آﺀ ؛؛اذﻟﻢﺀة؛؛ﺀى؛ال‬٠‫ﻵا‬
»V Ệ r » ' . r * ~ r í - : f w ệ , . m ‫ ا‬.-‫ بم‬١ ‫ د ى‬.‫ ء س‬, - ٠ ‫ ء‬-١ ‫ ء‬٣ ', ' ‫■ ا « ت ء‬.

ĨH Ư
É

- τ - . ι ι , I, Ι · Ι · · Ι | | Γ 1 | Ι

٧ ‫ﻟﻴﻤﺒﺄ؛‬
Illi III

|il» l» ậ .

NHÀ XUẤT BẢN KHOA HỌC VÀ K Ỹ THUẬT
Hà N O J.2..9


Chiu track nhiệm xuâ't bản:
Biên tập:
V ẽ bia:

TS. Phạm Văn Díễn
Phưưng Lỉén
X uân Dũng


!‫ اا‬.‫ )()(؟‬bill ІІ.ІІ c ỏ ìg ly 'ΓΝΗΗ Bao Bì và !11 Hái Naii١.
Số đãng ký kế hoạch xuất.bán: 2009 -٩2-‫ ؤ‬/CXB/67- 40/KHK'l'
Ngày 27/()4/2()()9.Quyê't định xuất b ‫ ا؛‬n sỏ': 32I/QĐXB- NXBXHNl'
n٤iày 2Χ/!0/2ϋ()^.Ιη xong và nộp lưu chiCu tliilns 11/2()0(‫و‬


LỜI NÓI ĐẦU
Bộ não của con n.irời là mộl san phẩm lioàn lião của tạo hoá, có khả
nâng học và tư duy sáng tạo. Hiện nay, trong lĩnh vực điều khiển, con người
đang cố gắn‫ ؟‬tiếp cận bộ não của mình. Để tiếp cận khả năng tư duy của bộ
não, người ta sử dụng khả năng suy diỗn của hệ mờ (Fuzzy Systems) dựa trên
các luật logic mờ. Để tiếp cận khá năng học, người ta đưa ra mô hình mạng
nơron (Neural Networks) gồm các noron liên kếl vdi nhau thành mạng phỏng
theo cấu trúc mạng thần kinh con người. Mỗi một nơron riêng lẻ có tốc độ xử
K' thông tin thấp, nhưng kill các nơron được ghép thành mạng thì tốc độ xử lý
thông tin của nó rất cao. Cấn trúc của mạng nơron là điều rất đáng được quan
tâm, vì việc nghiên cứu riêng ỉỏ mỗi nơron dã được chỉ ra là không có ý nghĩa
khoa học mà cần nghiên cứu khi chúng được liên kết với nhau thành mạng.
Ngoài ra, để tiếp cận cả hai khả năng học và tư duy của bộ não con
người, người ta nghiên cứu khả nâng tích họp của mạng nơron và hệ mờ đó là:
hệ mờ có sử dụng công cụ mạng потоп trong mô hình mờ (Neural Fuzzy
systems); mạng nưron mừ (Fuzzy Neural Networks) vứi bộ trọng số liên kết
của mạng потоп được mờ hoá; dạng lai giữa hệ mờ và mạng nơron (Fuzzy
Neiưal hybrid systems).
Cuốn sách "Mạng noron và ứng dụng trong đ‫؛‬ều khiển tự động"
cung cấp cho bạn đọc kiến thức ca bản nhất \’ề khái niệm của mạng noron,
một số mạng noron co bản, một số hệ thống tích hc.rp mạng noron với hệ mờ
cùno vói môt số ứng dung của chúng trong lĩnh vưc diều khiển tự động. Đây là
tài liệu cần thiết dùng cho sinh viên các trường đại học, học viên cao học,
nghiên cứu sinh chuyên ngành điéu khiển tự dộng.

Cuốn sách gồm ba phần chính sau dây:
Phần I: M ạng потоп trình bày các khái niệm co bản của mạng noron và
cấu trúc, luật học, các ứng dụng cơ bíín của một số mạng noron thường dùng
trong điều khiển tự động.
Phần 2: Các hệ thốìUỊ tích hợp mạng потоп với hệ mờ trình bày bổ
sung các khái niệm co bản của điều khiển logic mờ cùng cấu trúc, luật học và
các ứng dụng co bản của một số mạng nơron mờ thường sử dụng trong điều
khiổn tự động.


Pìiần 3: Một sô mô hinh mạng потоп và mạng m ờ потоп trong Matlab
và ứng dụng trong nhận dạng và điều khiển tập trung trinh bày phương pháp
sử dụng các hàm tiện ích của Matlab cho một số mạng nơrơn, mạng nơrưn mờ
trong quá trinh thiết lập mạng, quá trinh học và một số ứng dụng cụ tl١ể cùa
chUng trong díều khiển tự dộng.
Cuốn sách có sử dụng kết quả nghiên cứu dề xuất và ứng dụng cUa nliíều
tác giả khác nhau, bên cạnh dó cũng trinh bày một số kết quả nghiên cứu về
mạng потоп và ứng dụng trong lĩnh vực diều khiển tự dộng cùa tác giả. Tác giả
cố gắng trinh bày các nội dung khoa học về mạng потоп một cách dỗ hiểu
bằng cách có hướng dẫn cụ thể thực hiện từng bước các phép tinh toán và có ví
dụ minh hoạ kèm theo. Hy vọng cuốn sách sẽ giup cho dộc giả có những liiểu
biết co bản về các mạng потоп, hệ thống tích hợp mạng потоп với hệ mờ và
ứng dụng công cụ mồ phỏng Matlab dể có thể tự minh giải dược các bài toán
co bản trong linh vực diều khiển tự dộng có ứng dụng mạng потоп.
Tác giả xin cảm on Nhà xuất bản Khoa học và Kỹ thuật và trường Dại
học Kinh tế - Kỹ thuật COng nghiệp dã tạo diều kiện dể cuốn sách sớm dược ra
mắt bạn dọc. Tặc giả cũng xin cảm on rcS.TS. Nguyễn Văn Liễn, Đại học
Bách khoa Hà Nội và PGS.TS. Tô Vân Dực, Viện Khoa học Cồng nghệ Quân
sự dã dóng góp ý kiến dể cuốn sách dược hoàn chỉnh hon.
Mặc dù dã dược biên soạn rất cẩn thận và cbng phu, nhirng do kiến thức

có hạn, khbng thể tránh khỏi khiếtn khuyết, rất mong nhận dược các ỹ kiến
dOng góp của dộc giả dể cuốn sách thêm phần hoàn chỉnh hon ở lần tái bản
tiếp theo.
Mọi ý kiến góp ý xin gửi về địa chỉ: Nhà xuất bản Khoa học và Kỹ thuật,
70 Trần Hưng Dạo, Hà Nội hoặc trương Dại học Kinh tế - Kỹ thuật Cổng
nghiệp, 456 Minh Khai, quận Hai Bà Trưng, Hà Nội.
Xin chãn thành cảm om.
Tác giả


MỤC LỤC
LỜI NÓI DAU
MỤC LỤC
PHẨN 1. MẠNG NORON

1. Các kháỉ nỉệm cơ bản
1-1. Mô hlnh tiơron sinh học
1.2. Phầntửxửiy
1.3. Các loại mO hlnh cấu trủc.mạng IIƠIOÍ
1.4. Các tinh chất của mạng noton
1.5. Các luật học
2. Các mạng потоп truyền thắng sử tlụitg luật học giám sát
2.1. Mạng Adaline
2.2. Mạng Perceptron một lớp
2.3. Mạng truyền thẳng nhiều lớp
2.4. Cílc nhân tố ảnh hưởng dến tốc độ liội tụ trong luật học lan truyền ngược
2.5. Mạng потоп Wavelet
2.6. Bài tập
3. Mạng một lớp hổỉ quy và bộ nhớ lien kết
3.1. Mạng Hopfield

3.2. ВАМ
3.3. Bài tập
4. (:ác mạng потоп sử dụng lu‫)؛‬t l١٠.٠c kh.'.ng giám sát
4.1. Các luật học không giám sái
4.2. Các mạng noron sử dụng lu‫)؛‬t học khó‫؛‬ig giilm Síít
4.2.1. Mạng Hannning
4.2.2. ART
4.2.3. ARTMAP
4.2.4. Mạng hàm co sở 1‫ا‬1‫ا‬١‫ اا‬tì، i
5. Mạng потоп hồỉ quy
5.1. Mạng lan truyển ngược hổi quy
5.2. Mạng hồi quy khOng hoàn toàn
5.3. Mạng hồi quy hoàn toàn
5.3.1. Luột học lan truyền ngitợi' plui tl.uộc tliCrt giati ci١، amạttg hồi quy
5.3.2. Luật học.thời giait tlrifc chu n، qt١ghổ‫ ؛‬quy
5.4. ВАМ bậc cao
5.5. híạng потоп Elman
5.6. Các mạng потоп Elman sửa dổi
5.6.l. Mạng nơron Elman síta dổi dạng Ị
5.Ố.2. Mạng nơì'on Elman siía đổi dạng 2
5.6.3. Mạng псп оп Elman cài , ‫زئﺀ'ﺀ‬,

Trang
3
5
7
8
8
10
19

21
2‫؛‬

25
25
34
41
53
58
67
69
71
82
88
89
89
97
97
101
109

119
123
123
128
129
129
132
134
141

144
144
147
149


6. ứng dụng của mạng nơron trong nhận dạng và diều khiển
6. 1. ứng dụng của mạng ncfron trong nhận dạng
6.2. ứng dụng của mạng nơron trong điều khiển
PHẦN 2. CÁC HỆ THỐNG TÍCH HỢP MẠNG NƠRON v ớ i HỆ MÒ

7. Các bộ điều khiển mờ потоп
7.1. Mô hình bộ điều khiển mờ
7.2. Các dạng hàm liên thuộc
7.3. Phân loại
7.4. Các bộ điều khiển mờ ncfron học thông số
7.4.1. Bộ điều khiển mờ nơron với các luật mờ duv nhất
7.4.2. ANFIS
7.4.3. Mạng nơron Elman mờ
7.5. Bộ điều khiển sử dụng mô hình liên kết mạng nơron
với hệ mờ học cấu trúc - thông số
8. Mô hình mờ của các mạng потоп
8.1. Bộ nhớ liên kết mờ
8.2. ART mờ
8.3. ARTMAPmờ
PHẨN 3. MỘT SỐ MÔ HÌNH MẠNG NƠRON & MẠNG MỜ NƠRON
TRONG MATLAB & ỨNG DỤNG TRONG NHẬN DẠNG & ĐlỂU KHIỂN

9. Một SỐ mỏ hình của mạng потоп, mạng mờ потоп trong Matlab
9.1. Mô hình nơron và rnạng nơron truyền thẳng

9.2. Simulink Neural Toolbox của Matlab
9.3. Các mô hình ứng dụng cửa Matlab trong điều khiển
9.4. ANFIS trong Fuzzy Toolbox của Matlab
10. Một số ứng dụng của mạng потоп, mạng mờ потоп
trong nhận dạng và điều khiển
10.1. ứ ig dụng 1
10.2. ứ ig dụng 2
10.3. ứ ig đụng 3
10.4. ứig dụng 4
10.5. úhg dụng 5
10.6. úhg dụng 6
Phụ lục 1: Chức năng các hàm cơ bản trong Neural Networks
Toolbox của Matlab
Phụ lục 2: Danh sách các hàm cơ bản trong Neural Networks
Toolbox của Matlab
Phụ lục 3: Chức nủng của các hàm cơ bản trong Fuzzy Logic
Toolbox cỉia Matlab
Phụ lục 4: Danh sách các hàm trong Fuzzy Logic Toolbox của Matlab
TÀI LIỆU THAM KHẢO

L50
152
156
163
163
163
169
173
175
175

180
185
192
199
199
205
225
225
225
228
230
253
265
265
267
269
270
272
275
282
283
285
287
289


PHĂN 1
MẠNG NƠRON
Đạt vấn đề
Mạng nơron nhân tạo (Artificial Neural Networks) được xây dựng

dựa trên cấu trúc của bộ não con người, giúp ta đưa ra một phương pháp
mới trong lĩnh vực tiếp cận hệ thống thông tin. Mạng ncfron nhân tạo có thể
thực hiện các bài toán nhận mẫu (Recognition), tối ưu, nhận dạng
(Identification) và điều khiển (Control) cho các đối tượng tuyến tính và phi
tuyến đạt hiệu quả hơn so với các phương pháp tính toán truyền thống.
Mạng nơron nhân tạo (gọi tắt là mạng nơron) gồm nhiều nơron nhân
tạo (gọi tắt là nơron) liên kết với nhau thành mạng. Nó có hành vi tương tự
như bộ não con người với các khả nãng học (Learning), gọi lại (Recall) và
tổng hợp thông tin từ sự luyện tập của các mẫu và dữ liệu.
Mạng nơron đã có một lịch ,sử lâu dài. Từ năm 1943, McCulloch và
Pitts đã đề xuất một số liên kết cơ bản của mạng nơron. Năm 1949, Hebb
đã đưa ra các luật thích nghi trong mạng nơron. Năm 1958, Rosenblatt đưa
ra cấu trúc Perception. Nãm 1969, Minsky và Papert phân tích sự đúng đắn
của Perception, chứng minh các tính chất và chỉ rõ các giới hạn của một số
mô hình. Năm 1976, Grossberg dựa vào tính chất sinh học đã đưa ra một
số cấu trúc của hệ động học phi luyến với các tính chất mới. Năm 1982,
Hopfield đã đưa ra mạng hồi quy một lớp Hopfield. Nãm 1986, Rumelhart
đưa ra mô hình xử lý song song và một số kết quả của thuật toán. Năm
1986, thuật toán học lan truyền ngược (Back Propagation) được
Rumelhart, Hinton và Williams đổ xuất thực hiện luyện mạng nơron
truyền thẳng nhiều lớp.
Những năm gần đây có nhiều công trình nghiên cứu đề xuất các cấu
trúc, luật học cho nhiều loại mạng nơron truyền thẳng và hồi quy mới có
nhiều ưu điểm. Mạng nơron hiện đang được áp dụng có hiệu quả trong
nhiều lĩnh vực kinh tế, kỹ thuật.
Phần này trình bày về các khái niệm cơ bản và một số loại mạng
nơron thường gặp. Trong đó ứng với mỗi một loại mạng nơron đi sâu trình
bày cấu trúc, luật học đặc thù của chúng cùng với các ví dụ ứng dụng
minh hoa.



1.CÁC KHÁ! N.ỆM Cơ BẢN
1.1. M Ô H ÌN H N Ơ R O N SIN H H Ọ C
Bộ não'con người có khoảng 10" noion sinh học ờ nhiều dạng khác
nhau. Mô hlnh cùa một dạng noion sinh học dược ‫ا‬nô tả trên hlnh 1.1. Cấu
trUc chung của một noron sinh học gổm có ba phần chinh là: thân, bên
trong có nhân, cây và trục. Cây gổm các dây thần kinh liên kết với !hân.
Trục có cấu trUc don, dài liên kết với thân. Phần cuối của trục có dạng phân
nhánh. Trong mỗi nhánh có một co cấu nhỏ là khOp thần kinh, từ dây nOron
sinh học này. liên kết bằng tin hiệu tới các noron khác. Sự thu nhận tliOng
tin của noron sinh học dược thực hiện từ cây hoặc từ thân của nó. Tin hiệu
thu, nhận ‫ ة‬dạng các xung diện.

ïïtoVv Y.Y.

M ô hinh một dạng nơron sinh học

Mỗi tế bào thần kinh có một màng, nhiệm vụ của nó là giữ cho các
chất nuOi tế bào khOng tràn ra ngoài, ở giữa phần tử nội bào và n'goại bào
có dung dịch muối lỏng làm cho chUng bị phân rã thành các lon âm và
dương. Các lon dươitg có trong màng tạo ra diện thế màng với trạng thái
cân bằng lực: lực dẩy của các lon dương ra khỏi tế bào cân bằng với lực hút
chUng vào trong tế bào.
Điện thế màng là phần tử quan trọng trong quá trinh truyền tin của hệ
thần kinh. Khi thay dổi khả nâng thẩm thấu lon của màng thl diện thế màng
của tế bào bị thay dổi và tiến tới một ngưỡng nào dó, dồng thOi sinh ra
dOng diện, dOng diện này gây ra phản ứng kích thích làm thay dổi khả năng
thẩm thấu lon của các tế bào thần kinh tiếp theO.

8



1.1.1. Xử lý tìỏ n g tin trong bộ Iii'،(.
ThOng tin được tiếp nhận ,ừ các giác ‫ ا‬١‫ اﻻ؛ﻻ‬và cliuyển vào các tế bào
thần kinh vận dộng và các IC' bào c(t. '٢ạ‫! ؛‬nỗl ‫ 'ةأ‬bào thần kinh tiếp nhận
t!iô!ig tin, diện thế của nó tăng !‫ !ة‬١‫ ا‬nếu diện thê' này vnçrt ngưỡng sẽ tạo
dOng diện trong tế bào thần kinh, ý Iighla dOng điện dó dược giải mã và lưu
ỏ thần kinh trung ương, kết ٩uả xử ly tliOng tin dược gửi dến các tế bào cơ.
Các tế bào thần kinh dều dưa ra các tin hiệu giống nhau, do dó khOng
thể phân biệt dược dó là tế bào tliẩn kinh cùa loài dộng vật nguyên thuỷ hay
của một giáo sư dáng kínlr. Các khớp thần kinli chỉ cho phép các tin hiệu
pliU hỢp qua cliUng, còn các tin hiệu kliác bị cản lại. Lượng tin hiệu dã
dược biến dổi dược gọi là cương độ kliớp thần kinh - đó chinh là trọng số
của nơron trong mạng nơron.
Tại sao vịệc nghiên cứu về mạng thần kinh lại có tầm quan trọng như
vậy? Có thể trả lơi ngắn gọn là do sự giống nliau của các tin hiệu của tế bào
thần kinh dơn lẻ, nên chức năng lliực sự của bộ não không phụ thuộc vào
vai trO của một tế bào thần kinlt, mà phụ tliuộc vào toàn bộ các tế bào thần
kinli, tức là phụ tliuộc vào kiểu kết nối của các tế bào thần kinh liên kết với
nhau dể tạo nên một mạng thẩn ki!‫؛‬h liay một mạng nơron.
1.1.2. Các dặc tinh cơ bản ciia não ngưỉri
- Tinh phán Ιό'ρ
Các vUng trong bộ não dược ph١
‫ ؛‬n thành nhiều lớp, ở dó thông tin
dược xử lý theo tinh chất tương ứng của mỗi lớp dặc thù.
- Tinh m ôđun
Các vUng của bộ nhớ dược pliân !hltnh các mOdun dược mã hoá bằng
cách định nghĩa mối quan hệ tícli hợp giữa các tin hiệu vào qua các giác
quan với các tin hiệu ra.
-M ố ih ê n kết

Liên kết giữa các lớp dản dến các dữ liệu dùn.g chung dược xem như
các liên hệ phản hồi khi truyền tin hiệu.
- X ử lý phán tán các tin hiệỉi vào
Các tin hiệu vào dược truyền qua nhiều kênh thông tin khác nhau,
dược xử lý bởi các phương pháp dặc bíệt.


1.2. PHẨN TỬ XỬ LÝ
Mô hình phần tử xử lý
(Processing Elements) (hay mô
hình nơron) dạng M - p, do
Culloch và Pitts đề xuất năm
1943.
Phần tử xử lý có dạng
nhiều vào, một ra (MISO).
Hình 1.2 mô tả mô hình của
phần tử xử lý (hay mô hình
một nơron) thứ i, dạng M-P,
trong đó có các phần sau đây.

Hình 1.2. Mô hình phần tử xử lý
(mô hình một nơron) thứi, dạngM-P

Tín hiệu đầu vào
Có m tín hiệu đầu vào. Trong đó (m -1) tín hiệu là tín hiệu kích thích
ở đầu vào là ( X | , . . . , X j , . . . , x ٠١١_ | ), chúng được lấy từ đầu ra của các nơron
được đặt trước nơron này hoặc được lấy từ các nguồn tín hiệu đầu vào khác.
Các tín hiệu kích thích đầu vào này được đưa qua một bộ trọng số (weight)
Wjj đặc trưng cho mức độ liên kết giữa các nơron thứ j (j = 1, 2, ...١m - 1)
với nơron thứ i. Trọng số liên kết có giá trị dương tương ứng với khép thần

kinh bị kích thích, ngược lại có giá trị âm tương ứng với khớp thần hĩnh bị
kiềm chế.
Riêng thành phần tín hiệu vào thứ m là X٠١١ được gọi là rgưỡng
(threshold) có giá trị x ٠١. = - 1 . Tín hiệu X٠١١ được đưa qua thành phin dịch
chuyển (bias) b j :
( 1. 1)

Wim = b |
Tín hiệu ra
Có một tín hiệu ra là y ..
Bộ cộng
Thực hiện phép tính tìm tổng trọng

Vị

(hoặc n e t|) bằng cách

SD sánh

tổng trọng của (m - 1) kích thích đầu vào với giá trị trọng lưỢỉg của
ngưỡng, nếu tổng trọng của (m - 1) đầu vào vượt qua trọng lượig của
ngưỡng thì nơron ở trạng thái bị kích thích để tạo ra được tín hiệu ra / j .

10


m-1
net‫ = ؛‬V, =: I \ v , ٠x, + b,x m
.


( 1. 2 )

1=1

T hanh phần b ‫ ؛‬về cơ bản giốn٥ với trọng số W|ị١nó chỉ khác là luôn
liên kết tín hiệu x ,١١ = - 1 . Do đó. cũng có the coi bị là trọng số liên kết thứ
m là w ‫„؛‬١của nơron thứ i nối với tín hiệu vào thứ m là x „١ luôn có giá trị là
- 1. Viết lại biểu thức (1.2) ở dạng sau đâv:
111
net ‫ = ؛‬v, = E w ,|X ,
.1=

với:

(1.3)

1

w ‫؛‬٠٠١= b ‫ ؛‬và x ,١
١= - l .
Hàm chuyển đổi

Hàiĩi chuyển đổi (transfer function), có tài liệu gọi là hàm hoạt hoá activation function, có nhiệm vụ biến đổi tổng trọng V‫( ؛‬hoặc n e tj) thành
tín hiệu đầu ra y ‫ ؛‬:
y‫ = ؛‬a (n e t‫ = )؛‬a(v1.4)

(‫)؛‬

irong dỏ a(.) là ký hiệu của hàm chuyển đổi.
Có các dạng hàm chuvển dổi thưcíng dùng như ,sau.

- Hàm chuyển đổi dạng giới hạn cícng
Hàm chuyển đổi dạng giới hạn cứng (hard limit transfer function),
hình 1.3a, còn có tên gọi là hàm chuyển đổi dạng bước nhảy (step transfer
function) có biểu thức:
a (v )-sg n (v ).^

ị 1 nếu V> 0
[0 nếu V< 0

(1.5)

- Hàm chuyên đổi dạng giới hạn cứng đối xứng
Hàm chuyển đổi dạng giới hạn cứng đối xứng (symmetric hard limit
transfer function), còn gọi là hàm dấu (hình 1.3b) có biểu thức như sau:
a(v) = .sgn(v) =

1 nếu v > 0
-1 nếu v < 0

( 1.6)

Các nơron có hàm chuyển đổi a(.) ở dạng hàm giới hạn cứng đối xứng
được gọi là phần tử ngưỡng tuyến lính (Lincar Tlireshold Unit - LTU).

11


- Hàm chuyển đổi dạng tuyến tính hão hoà
Hàm chuyển đổi dạng tuyến tính bão hoà (saturating linear transfer
function), hình 1.3c, có biểu thức như sau:

'1

nếu V >0,

a(v) = . V

nếu n <

0

nếu

٧
(1.7)

V <0.

- Hàm chuyển dổi dạng tuyê.n tinlr bdo hod dối xítng
Hàm chuyển dổi dạng tuyến tinh bão hoà dối xứng (symmetric
saturating linear transfer function), hlnh I.3d, cO biểu thức như sau:
-1

nếu

v < -l.

V
a(v) = ‫ آ‬V


nếu

- ‫<< ا‬V٧ <<1‫ ا‬,
-1

1

nếu

V>1.

(1.8)

- Hàm chuyển đổi dạng sigmoid
Hàm chuyển đổi dạng sigmoid (sigmoid transfer function), hình 1.3e,
có biểu thức như sau;
a(v) =

1
Ite

(1.9)

-λv

- Hàm chuyển dổi dạng tang hyperbolic
Hàm chuyển đổi dạng tang hyperbolic (hyperbolic tangent transfer
function), hình 1.3f, có biểu thức như sau:
a(v) =


Ite

-Ằ\

.1

( 1. 10)

trong dó 0<‫ د‬là hệ số độ dốc của các dạng hàm chuyển dổi (1.9), (1.10).
Các nơron có hàm chuyến đối a(.) ở các dạng hàm sigmoi hoặc tang
hypecbcilic được gọi là phần tử mức tuyến tính (Linear Graded Unit LGU).
Mạng nơron thường sử dụng các nơron ở các dạng LTU và LGU.

12


- Hùm chuyến đôi dạng tuyến tínlì
Hàm chuyển đổi dạng tuyến tính (linear transfer function), hình 1.3g,
có biểu tliức như sau:
a(v) = V

( 1. 11)

a
0 6 ‫؛‬
0 4Ị

02
■0 6 |


-o e l

٠ \/‫ﺀ‬

4

(a)

(b)

fc)

(d)

Y

a ٠٥
٥٠

.02
.0 4

٥٠

45٥

‫ ذ‬٠y
(e)

ơ)


Hinh 1.3. Đồ thị
cốc dạng Hàm chuyln dổi af.)
f٥). Hàm giới hạn cứng; (٥). Hàm giới
hạn cứng đối x ấ g ; (c). Hàm tuyển ‫'ﺀ؛‬,‫ﺀ‬/‫ا‬
bão hoà; (d). Hàm tuyến tinh bão hoà
đối xứtìg; (‫)ﺀ‬. Hàm sigmoid; ơ). Hàm
tang hyperbolic; (g). Hàm tuyến tinh

13


Mô hình ở dạng ký hiệu đơn
giản của noTon thứ i được trình bày
như hình 1.4. Trong đó nơron được
ký hiệu là một vòng tròn được xem
như là một tế bào thần kinh; nó có
các mối liên kết với các nơron khác
qua
các
trọng
số
Wịj;
j = (1, 2,..., m ); có m đầu vào là
[X|,X2,.--١X„١] và có một đầu ra là
y ‫؛‬. Trong đó thành phần trọng số

Hình 1.4. Mô hình đơn giản của
nơron thứ i


thứ m là w ‫؛‬٠١١= bị được nối với tín
hiệu đầu vào thứ m là X|١١= - l ,
nhưng không nhất thiết nơron nào
cần cũng phải có phần tử này.
Ví dụ 1.1

Cho nơron được trình bày trên các hình 1.5a và hình 1.5b. Hãy tính giá
trị tín hiệu ra của nó với các trường hợp: hàm chuyển đổi a(.) có các dạng
hàm tuyến tính và hàm sigmoid (khi ٨ = 1).
Giải: Tim giá trị tín hiệu ra y của nơron theo các bước như sau.
Bước Ị
Tổng trọng đầu vào của nơron:
3

net = V = X x ‫؛‬Wị = X |W | + X2W2 + X3W3 = 0.9 X 1+ 0.1 X (-3 ) + (-1) X 0.1 = 0.5
i=i
Bước 2
Tín hiệu ra y, với hàm chuyển đổi a(.) có dạng hàm tuyến tính:
y = a(net) = a(v) = a(0.5) = 0.3.
Tín hiệu ra y, với hàm chuyển đổi a(.) có dạng hàm sigmoid, với A, = 1 :
y = a(net) = a(v) = a(0.5) =

1

1

= 0.6225

l + e٠٠^٧ T + e <-'١"٥·‫؛‬
Từ kết quả của ví dụ này đã cho thấy giá trị tín hiệu đầu ra y của mỗi

nơron không những phụ thuộc vào giá trị của tín hiệu vào X và trọng s ố liên
kết w mà còn phụ thuộc vào dạng của hàm chuyển đổi a(.). Nơron có tổng

14


trọng V như nhau, sẽ có tín hiệu ra y khác nhau nếu hàm chuyển đổi a(.) ở
các dạng khác nhau.

X, = 0.9

(a)

(b)

Hình 1.5. Các hình vẽ mình hoụ cho ví dụ l .l
(a). Mô hình nơion; (b). Mô hình nơron dạng kỷ hiệu đơn giản;
(c). Đồ thị hờm chuyển dổi dạng tuyển linh lìm tín hiệu dầu rơ y:
(d). Đồ thị hàm chuyển dổi dạng ỵigirioid (Ẫ = J) tìm tín hiệu đấu ra y.
Cũng có thể biểu diễn một nơron bằng một mạch điện tử thông thường.
Hlnh 1.6 là sơ đồ mạch điện tử của một nơron khi sử dụng hàm chuyển đổi
a(.) ở dạng hàm giới hạn cứng.
Trường hợp nơron sử dụng hàm chuyển đổi a(.) ở dạng hàm giới hạn
cứng, có biểu thức:
y(v) =

1 nếu V > 0
0 nếu V < 0

15



y

Hình 1.6. Sơ đồ mạch điện tử biểu diễn một nơron
khi sử dụng hàm chuyên đổi a(.) ở dạng hàm giới hạn cứng
Từ hình 1.6 có biểu thức:
1 l + : ^ > Z ٧ s.
R| R j
R-r

( 1. 12)

trong đó: E.thay thế cho X ., E thay thế cho X ١ . - ٧ ‫ ؛‬thay thế cho x ٠١١,
2

2

1.1
đóng vai trò là ngưỡng thông thưòmg được điều chình có giá trị là -1.
R.
e

.

.

١٠١

M


. . .

Xác định các giá trị trọng số: — =
R|



W |,

.

.

R2



.

٠
< ٠

.

،.

·..

.


= W 2 , — = w m·
Rj

Viết lại (1.12), điều kiện mở transitor sẽ là:


x ٠+W2X2 >Xn١

١١

(1.13)

Sau đây trình bày một số ví dụ minh hoạ về các ứng dụng của nơron.

Ví dụ 1.2
Cho hàm số y = f(x٠, X , X ) được
biểu diễn trên bảng 1.1. Xác định hàm
số y ở dạng:
2

y=a

(1

٤w ٠X j- ٠١،
T

v.i=l


(1.14)

J

Chú ý rằng trên bảng 1.1 các giá
trị của y ở dạng 0 và 1, do đó chọn
hàm chuyển đổi a(.) ờ dạng giới hạn
cứng.
Giải: Nếu thay T bởi -XmW٠١١, viết
lại hàm số y, ta có:

16

Bảng 1.1

3

7

Xi
0
0
0
0
1
1
1

8


l

1
2
3
4
5
6

X

2

0
0
1
1
0
0
1
1

X3
0
1
0
1
0
1
0

1

y
'0
lO
iO

1
1
1
1
1


y = а(\Ѵ|Х|+\Ѵ2Х2 +\ѴзХз + Хп١\Ѵт)
áp dụng cho ttog trường hç^ giá trỊ của y có trong bảng 1.1.

Xét trường hç^ 1 của bảng 1.1, áp dụng các cOng thức (1.5) và (1.14),
ta cổ:
y = a(V|)= a(w| xO + W2xO‫ ؛‬W3xO tXn)w,^) = 0
Từ (1.5), căn cứ vào tinh chất của hàm chuyển dổi a(.) là dạng giới hạn
cứng, ta có: w. X 0 + W2 X 0 1 W3 X0 1 Х щ W|٢١ < 0 hay: XfflWm ‫ ك‬о
Thực hiện cho 7 trưỄmg hç^ còn lại ta dược;
1. X m W m < 0 ;
2 . W 3+Xm W m <0;
3 · W2 + X m W m < 0 ;

4. W2+W3+XmWm>0;
5. Wi+X„١
w„١> 0 ‫؛‬

6. W ٠
+W 3 +X„W m >0 :

7 . W ٠+ W 2 +Xm W n١ > 0 :

8. w ,+ w ,+ w , + x„.w,„>0.
Từ các trường hç^ (1) và (4) ta cO;

+ W3 > 0 . Chọn: 2١٨‫ = ﺛﻢ‬í và

W3 = 1, từ các trương hợp (2) và (3) ta có:

ХщѴѴш < - 1 . Chọn: Xm = -1,

Wm = 1 .'Từ các trường hç^ (5) suy ra và chọn: W |= 2 .
Thay các giá trị trên vào các bất d‫)؛‬ng thức còn lại xác định dược hàm
số y ờ dạng:

y = a(2X| + Χ2 + Х3 -1 )
với a(.) ờ dạng hàm chuyển dổi
giới hạn cứng.
Như vậy hàm số y có giá trỊ
biểu diễn ờ bảng 1.1 dược biểu
diễn bởi một nơron (hình 1.7) có
3 dầu vào là Xi, Χ2, x٩ lần lượt liên
kết với 3 'trọng số tương ứng là
W| 2 ‫ آ‬, W2 = 1, w٦ = 1; thành phần
tạo bias có: Xm = -1, Wm = 1‫ ؛‬hàm
chuyển dổỉ a(.) ở dạng giới hạn
cứng.


Hình 1.7. Mô hình nơroĩi
của ví dụ 1.2

17


Ví dụ 1.3
Hảng 1.2

Cho hàm số lỏ.ic y = f(X|, Ầ2, X3)
được biểu diễn u?n bảng 1.2.

X2
0

X٠,

y

1

Xl
0

0

0

2


0

0

1

1

3

0

1

0

;

1

4

0

1

1

‫؛‬


0

5

1

0

0



1

6

1

0

7

1

1

0

0


‫ ؛‬8
L

1

1

1

1

Xác định hàm số V ١ dạng (1.14),
với chú ý rằng các giá t،‫ ؛‬c ■
٦a y ở dạng
0 và 1, do đó chọn hàm 'l· lyển đổi
a(.) ở dạng giới hạn cứng.
Giải:

Nếu Ihay T
hàm số y ta có:

bởi -XmW„, viết •1!

٠

٦

1


0

1. x ^ w ٠١١< 0 ;

2. W3 + X٠١١W„١> 0 ;
3. W2 + X٠١١w„ > 0 ;
4. W2 + W3 + X^W٠١٦< 0 ;
5. w. + X„١w ٠١٦> 0;
6. w, + W3 + X„w٠١١< 0;
7. w. + W + Xn١w ٠١٦ < 0;
2

8. w. + W2 + VV3 + X|١١w ٠١١ >

0.

Từ các trường hợp (1) và (2) ta có W3 > 0. Từ các trường hợp (3) và (4)
ta lại có W3 < 0. Do các suy luận về giá trị của VV3 là trái ngược nhau nên
không thể sử dụng hàm (1.14) với hàm chuyển dổi dạng giới hạn cứng để
biểu diễn cho hàm số ở bảng 1.2, hay nói cách hhác là không thể sử dụng
một nơron vối h،àm chuyển đổi a(.) ở dạng giới hạn cứng để biểu diễn cho
hàm số lôgic y có giá trị biểu diễn ở bảng 1.2 .
Ví dụ 1.4
Bảng 1.3

Cho các giá trị của hàm số lôgic
y = f ( x ,X2 ) như bảng 1.3. Từ đó ta có:

٠


1

1. y(0, 0) = l nên: x„١w ٠١١> 0 ;
2. y(0,l) = 0 nên: W2 + Xn١w ٠١١< 0 ;
3. y(l,0) = 0 nên: W|+X٠١١W٠١١< 0 ;
4. y(l, 1) = 1 nên:

W|

+ W 2 + Xm ١٧m

2
3
4

X.

X2

y

0
0
1
1

0
1
0
1


1
0
0
1

٥·

Dễ thấy từ các trường hợp (1), (2), (3) ta có W| +W2 + XmW٠١١<0
không thoả mãn trường hợp (4). Vì vậy không thể sử dụng một nơron với

18


hàm c!١uyển đổi a(.) dạng g‫؛‬ới iKin cứng đổ biếu díễn hàm !Ogic y trên
bảng 1.‫ ؤ‬.
1.3. CÁC LOẠI M ỏ HÌNH CAL1 TRIJC MẠNG NORON
Mgng nơron bao gồm sự !‫ ااﺟﺈ‬kết của nhiéu noron. Dầu ra của mỗl
noron kết nốl với các noron khíc tliOng t!ua các trọng số, hoặc tự phản hồi
trO về dầu vào của chinh nó.
Cấu trUc cùa mạng noi'on là kiểu kết nối hình liọc của mỗi noron hên
kê't trone mạng, dây là một dặc điểm ٩ua!i trọng của từng mạng noron, dựa
vao dO tiến hhnh phân loại cliUiis. Hìnli 1.8 mó tii một số loại mạng noron
thường gặp.
Hình I.8a mô tả mạng truyền thẳng một lớp (single - layer feedforward
networks) có dặc điểm tất cả các noron dêu nhận tin liiệư vào từ nguồn bên
ngoài tjua các biến trọng số và mỗi nơron dều cho ra một tin hiệu ra.
Hlnli I.8b mô tả mạng truvền tliẳng nhiều lớp (multilayer feedforward
networks). Lớp vào (input layer) gOm có cắc noron nlrận trực tiếp các tin
hiệu vào lâ'y từ bên ngoài. Lớp ra (output layer) gồm có các noron có các

tin hiệu I'a, dua ra bên ngoài mgng. Lớp ẩn (liidden layer') gồm các noron
còn lại khOng nhạn trực t.iếp Cilc tin hiệu vào lấy từ bên ngoài và không
cung cấp tin hiệu ra cho bên ngoai mạng, nó clil có nlriệm vụ truyền tin
Iiỉệu từ các noron ‫ ة‬ló'p vào đcii các noron ‫ ة‬lớp ra. Mạng noron truyền
thẳng 1'iliiều lớp cO một lớp vào, một lớp ra, có thể khOrig có lioặc có nhiều
lớp (ín. Một mạng dược gọi là liốn kết dổv dri nếu mỗi nơi'on ờ các ló'p trước
có liên kết với tất cả các noron ỏ ló'p ngay sau nó. Mạng noron ở hlnh I.8b
là loạị mạng noron truyền tlrẳng có 3 ló'p, có 11‫ اﻟﺔ‬kẻ't khOng dầy đủ.
Nếu mạng noron có các tin hiệu dẩu ra dược dua ngược trờ lại dầu vào
của các noron ở các lớp trước nó liotc cliíiih nó tliì mạng dó dược gọi là
mạng phản hồi (feedback network).
Nếu tin hiệu ra của một noroir dư(.‫؛‬c dưa pliản liồi thành các tin hiệu vào
cùa các noron ở cUng một lớp vdi noron dó till mạng dó dược gọi là mạng
phản hồi bên (lateral feedback network).
M‫؛‬.ing phản hồi có các vOng kin dược gọi là mạng hồi quy (recurrent
netwot'ks). H'rnh I.8c mồ tả một loại mạng hồi quy do'n giản nhất, chỉ có
một nơron có tin hiệu ra tự phản liồi ١'ề dầu vào của chinh nó.
Mgng một lớp có liên kết phản hổi như hlnh I.8d có dặc điểm tin hiệu
dầu ra của mỗi noron dược dưa ngược trở lại dầu vào của chinh nó hoặc của
các noron khác dược gọi là mạng hồi quy một lớp.

19


Hình 1.8e mồ tả mạng cấu trúc ngang - hạn chế (lateral-inhibition
network), mạng này có hai loại tín hiệu đầu vào khác nhau: các đầu vào
kích thích (excitatory inputs) ứng với các tín hiệu vào có gắn ký hiệu vòng
rỗng (o) và đầu vào hạn chế (inhibition inputs) với các tín hiệu vào có gắn
ký hiệu vòng đặc (٠).
Hình 1.8f mô tả mạng hồi quy nhiều lớp.


ơ) .
Hlnh 1.8. Cấu trúc của một sốloại mạng ncrron th ư ầ g g ặ p
(a). Mạng nơron truyền thẳng một lớp; (b). Mạng naron truyền tìé ig nhiều lớp;
(c). Mạng nơron chi cố một nơron tự hồi quy; (d). Mạng nơron hồi quy một l ệ ;
(‫وﺀ‬٠Mạng cố cấu trúc ngang - hạn chế; ự). Mạng ncrron hồi quy nhiều lớp.

20


1.4. CÁC T ÍN H C H Ấ T CỦA MẠNíỉ NƠRON
Mạng nơron có một số tính chất sau đây:
- LA hệ phi tuyến.
- Là hệ xử lý song song: mạng nơron có cấu trúc song song, do đó có tốc
độ tính toán rất cao, rất phù hợp với lĩnh vực nhận dạng và điều khiển.
- Lá hệ học và thích nghi: mạng được luyện từ các số liệu quá khứ, có
khả năng tự chỉnh khi số liệu đầu vào bị mất, có thể điều khiển on-line.
- Là hệ nhiều biên, là hệ nhiều đầu vào, nhiều đầu ra (MIMO) rất tiện
dùng khi điều khiển đối tượng có nhiều biến số.
1.5. CÁC LU Ậ T H Ọ C
Mạng nơron sử dụng hai nhóm luật học: nhóm các luật học thông số
(parameter learning rules) và nhóm các luật học cấu trúc (structure
learning rules).
Các luật học trong nhóm học thòng số có nhiệm vụ tính toán cập nhật
giá trị của trọng số liên kết các nơron trong mạng.
Các luật học trong nhóm học cùiu trúc có nhiệm vụ đưa ra cấu trúc hợp
lý của mạng như thay đổi số lượng nơron hoặc thay đổi số lượng liên kết
của các nơron có trong mạng.
Hai nhóm luật học trên có thể được áp dụng đồng thời (khi đó gọi là
các luật học lai - hybrid learning rules) học cả cấu trúc và thông số, hoặc

được áp dụng riêng rẽ.
Sau đây trình bày các luật học tlỉỏng số với các giả thiết:
- Cấu trúc của mạng nơron gổm sô lượng lớp nơron, số lượng nơron và
cách thức liên kết của các trọng số có trong mạng đã họp lý.
- Ma trận,trọng số đã bao gồm tất cả các phần tử thích ứng.
Nhiệm vụ của học thông số là đưa ra phưcmg pháp nào đó để tìm ma
trận trọng số điều chỉnh từ ma trận trọng số tuỳ chọn ban đầu với cấu trúc
của mạng nơron đã được xác định từ trước, thoả mãn điều kiện sai lệch
trong phạm vi cho phép.
Để làm được việc đó, mạng nơron sử dụng các phương pháp học thích
ứng để tính toán được các ma trận trọng số điều chỉnh w đặc trưng cho
mạng. Có ba kiểu học là: học có giám sát (Supervised Learning), học củng

21


cố (Reinforcement Learning) và học không có giám sát (Unsupervised
Learning).
1.5.1. Học có giám sát
Cho trước p cập mẫu tín hiệu vào - ra sau đây:

với

X

là vectơ tín hiệu mẫu đầu vào

X

= [x ‫'؛‬٠ ,x ‫؛^؛‬,...,x ‫؛‬٠’١ ] ٢ và d là vectơ tín


hiệu đầu ra mong muốn d = [d٠'٠ ,d ٠^٠,...,d ‫'؛‬١ ’]٦^.
Khi đưa một mẫu tín hiệu là x ٠‫؛؛‬١ vào đầu vào của mạng nơron, ở đầu ra
có một tín hiệu ra tương ứng là y ‫^'؛‬١ . Sai lệch giữa hai vectơ tín hiệu d và y
có nhiệm vụ điều chỉnh vectơ trọng số w của mạng nơron sao cho vectơ tín
hiệu ra y của mạng bám theo được vectơ tín hiệu ra mong muốn d, nói cách
khác là để giảm thiểu sai lệch giữa chúng. Như vậy kiểu học có giám sát
(hình 1.9a) có đặc điểm là cần có tín hiệu đầu ra mong muốn d được lấy từ
bên ngoài.
1.5.2. Học củng cố
Trong quá trình học giám sát, giả thiết rằng đáp ứng đầu ra của mạng
đã đạt được giá trị mong muốn. Nhưng ở một mẫu vào - ra nào đó bị cho
rằng có kết quả không đáng tin cậy, vì vậy cần phải tiến hành kiểm tra lại
mẫu nói trên. Khi đó chỉ có một bit tín hiệu của mẫu cần kiểm tra đóng vai
trò là tín hiệu củng cố được đưa vào mạng để góp phần khẳng định kết quả
quá trình học có giám sát đúng hay sai. Kiểu học này được gọi là kiểu học
củng cố (hình 1٠9b). Kiểu học này cũng có tín hiệu củng cố được lấy từ bên
ngoài nên nó chỉ là một trường hợp đặc biệt của kiểu học có giám sát.
1.5.3. Học không có giám sát
Kiểu học này có đặc điểm là không có tín hiệu lấy từ bên ngoài. Mạng
cần phải tự mình tìm ra các mẫu, nét đặc trưng, sự tương thích, phân loại
trong dữ liệu đầu vào và mã hoá thành các mẫu ở đầu ra. Trong quá trình
học không giám sát (hình 1٠9c) nếu mạng không thay đổi thông số của nó
thì được gọi là tự tổ chức (self - organizing).
Hình 1.10 trình bày luật học trọng số ở dạng cơ bản nhất cho nơron thứ
i. Trong đó vectơ tín hiệu vào

X

= [ X | , X 2 , . . . , X j, . . . , X n ١] ٦^ có thể được lấy từ


các nơron khác hoặc được lấy từ bên ngoài. Thành phần thông số ngưỡng
có thể được thay thế bằng thành phần thứ m của vectơ tín hiệu vào X là
x٠٣. = -1 được kết nối với trọng số w ‫؛‬٠١١= b ị .

22


٧ eclơ trọng số Hên kết của !iơ!ori tliứ i !à W| : ‫ ؛‬Wị|,Wj2,...,Wj٠١١]‫؛‬

maô'fi

(b)

(‫ز ه‬
X
W\n\\ ‫ ﺍ‬.‫ ﻭ‬. Sơ dồ ba kiểa học
của mạng «ơĩ-.í

Y
ή
Tin hiệu
ra

Tin h‫ ! ؛‬ệi
vào

(a). Học có gỉáni sát; (b). Hoc ciìiig cố:
(c), H، .١c k ١iỏng cổ giúm s، 'i!
(c)


-►y.

d.

- Yêu cầu đối vóỉ hai kiểu hoc có giám sát và học củng cổ'
Cần phải có tin hiệu mong muốn ở dầu ra d;١các trọng số cUa nơron thứ
1 dược diều chỉnh theo các giíl trị cùa tin hiệu vào, lín hiệu dầu ra và tin
hiệu dầu ra mong muốn của nO. Nghĩa là cần dưa ra một luật học với mục
dích là thay dổi vectơ trọng số w, sao cho tin hiệu dầu ra của потоп thứ i là
У, bám theo dược tin hiệu dẩu ra mong muốn dj(hlnh 1.10).

23


- Yêu cầu đối với kiêu học không có giám sát
Trọng số của nơron thứ i chỉ phụ thuộc vào giá trị của sự kết hợp của tín
hiệu đầu vào and/or với tín hiệu đầu ra.
Nói chung các luật học trọng số đều có sự thay đổi giá trị của vectơ
trọng số liên kết của nơron thứ i là Aw. tại thời điểm t tỷ lệ với tín hiệu học
r và tín hiệu vào x(t):
Aw‫(؛‬t) = r|rx(t)

(1.15)

với r| là một số dưofng gọi là hằng số học (learning constant) đặc trưng cho
tốc độ học của mạng, thông thường 0 < T| < 1.
Tín hiệu học r thông thường phụ thuộc vào w ‫ ؛‬١ :X và d j
r = fr(w ‫؛‬, x,d ‫)؛‬


(1.16)

:Biểu thức tính vectơ trọng số của nơron thứ i tại (t+1) như sau
w ‫ (؛‬t +1) = w ‫ (؛‬t) + Tifr (W ị (t), x(t), d ‫( (؛‬t))x(t

(1.17)

:ở dạng liên tục có thể viết lại là
dw ‫(؛‬t )
dt

= Г|Г x(t)

(1.18)

Từ các biểu thức trên ta thấy rằng ở các luật học trọng số nói chung đều
tập trung vào xác định tm hiệu học r trong biểu thức cập nhật trọng số của
mạng nơron.

1.6. BÀI TẬP
1. C!ho giá trị của hàm số logic у = f(x٠١ X2١ x١, X4) biểu diễn b bảng 1.4.
Hãy chứng minh rằng không thể sử dụng một nơron với hàm chuyển đổi
a(.) ở dạng giới hạn cứng để biểu diễn hàm logic này.
Bảng 1.4

1
2
3
4
5


6
7

8

24

Xi
0
0
0
0
0
0
0
0

X2

0
0
0
0
1
1
1
1

X3


0
0
1
1
0
0
1
1

X4

0
1
0
1
0
1
0
1

у
0
0
0
1
0
1
0
1


9

10
11
12
13
14
15
16

X.
1
1
1
1
1
1
1
1

X2
0
0
0
0
1
1
1
1


X3

0
0
1
1
0
0
1
1

X4

0
1
0
1
0
1
0
1

у
0
0
1
1
1
1

1
1


×