ứng dụng mạng neuron và giải thuật bầy đàn trong điều khiển mobile robot

Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (1.42 MB, 86 trang )

BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ GIAO THÔNG VẬN TẢI
TRƯỜNG ĐẠI HỌC GIAO THÔNG VẬN TẢI TP.HCM
oOo

VŨ NGỌC HUYÊN

ỨNG DỤNG MẠNG NEURON
VÀ GIẢI THUẬT BẦY ĐÀN TRONG
ĐIỀU KHIỂN MOBILE ROBOT

LUẬN VĂN THẠC SĨ KỸ THUẬT

TP. HCM 08 - 2013

BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ GIAO THÔNG VẬN TẢI
TRƯỜNG ĐẠI HỌC GIAO THÔNG VẬN TẢI TP.HCM
oOo

VŨ NGỌC HUYÊN

ỨNG DỤNG MẠNG NEURON
VÀ GIẢI THUẬT BẦY ĐÀN TRONG

ĐIỀU KHIỂN MOBILE ROBOT

CHUYÊN NGÀNH: KỸ THUẬT ĐIỀU KHIỂN & TỰ ĐỘNG HÓA
MÃ SỐ: 60520216

LUẬN VĂN THẠC SĨ KỸ THUẬT
NGƯỜI HƯỚNG DẪN KHOA HỌC:
TS. NGUYỄN THIỆN THÀNH

TP. HCM 08 – 2013

Trang 1

LỜI CAM ĐOAN

Tên tôi là: Vũ Ngọc Huyên
Sinh ngày 12 tháng 05 năm 1979
Học viên lớp cao học khoá 2008-2011 - Chuyên ngành Kỹ thuật điều
khiển & Tự động hoá - TRƯỜNG ĐẠI HỌC GIAO THÔNG VẬN TẢI
TP.HCM
Xin cam đoan đề tài “Ứng dụng mạng neuron và giải thuật bầy đàn
trong điều khiển Mobile robot” do TS. Nguyễn Thiện Thành hướng dẫn, là
công trình nghiên cứu của riêng tôi. Tất cả các tài liệu tham khảo đều có
nguồn gốc, xuất xứ.
Tác giả xin cam đoan tất cả những nội dung trong luận văn đúng như

nội dung trong đề cương và yêu cầu của thầy giáo hướng dẫn. Nếu sai tôi
hoàn toàn chịu trách nhiệm trước Hội đồng khoa học và trước pháp luật.

TP.HCM, ngày 22 tháng 08 năm 2013
Người viết cam đoan

Vũ Ngọc Huyên

Trang 2

MỤC LỤC
LỜI CAM ĐOAN 1
MỤC LỤC 2
DANH MỤC TỪ VIẾT TẮT 4
DANH MỤC BẢNG BIỂU 5
DANH MỤC HÌNH VẼ 6
MỞ ĐẦU 9
Chương 1: TỔNG QUAN 10
1.1. Đặt vấn đề 10
1.2. Tổng quan chung về lĩnh vực nghiên cứu 11
1.3. Mục tiêu và phạm vi nghiên cứu 12
1.3.1. Mục tiêu nghiên cứu 12
1.3.2. Phạm vi nghiên cứu 12
1.4. Tóm lược nội dung luận văn 12
Chương 2: MẠNG NEURON NHÂN TẠO 14
2.1. Giới thiệu về mạng neuron nhân tạo 14
2.1.1.Khái niệm cơ bản 14

2.1.2. Mô hình mạng neuron nhân tạo 17
2.1.3. Khả năng ứng dụng của mạng neuron nhân tạo 20
2.2. Mạng neuron lan truyền thẳng nhiều lớp 22
2.2.1. Mạng perceptron một lớp 22
2.2.2. Mạng receptron nhiều lớp 25
2.2.3. Một số vấn đề cần chú ý khi sử dụng mạng MLP 25
Chương 3: GIẢI THUẬT TỐI ƯU HÓA BẦY ĐÀN 30
3.1. Giới thiệu thuật toán tối ưu bầy đàn 30
3.2. Giải thuật cho thuật toán tối ưu bày đàn 33
3.3. Những vấn đề cần quan tâm khi xây dựng giải thuật tối ưu bầy đàn 34
3.3.1.Hàm thích nghi (fitness ) 34
3.3.2.Hàm vận tốc 35
3.3.3. Số lượng cá thể 35
3.3.4.Trọng số quán tính ω 36
3.3.5. Các hệ số gia tốc c1 và c2 36
Trang 3

3.3.6. Điều kiện dừng 36
3.4. Đặc điểm và ứng dụng của giải thuật tối ưu bầy đàn 37
Chương 4: ỨNG DỤNG ĐIỀU KHIỂN MOBILE ROBOT 39
4.1. Mô hình toán của mobile robot 39
4.1.1. Mô hình vật lý mobile robot 39
4.1.2. Mô hình toán mô tả mobile robot 40
4.2. Mục tiêu điều khiển 41
4.3. Thiết kế bộ điều khiển neuron 42
4.3.1. Ứng dụng mạng neuron chỉnh định thông số bộ điều khiển mobile robot
theo thuật toán tối ưu bày đàn 42
4.3.2. Chỉnh định thông số bộ điều khiển neuron dùng thuật toán PSO 45
4.3.3. Sơ đồ mô phỏng Matlab simulink 46

4.4. Tối ưu trọng số bộ điều khiển neuron dùng giải thuật bầy đàn 49
4.4.1. Thiết kế giải thuật PSO chỉnh định các trọng số mạng neuron 49
4.4.2. Lưu đồ giải thuật 50
4.5. Kết quả mô phỏng trên phần mềm matlab 52
4.5.1. Các thông số mobile robot 52
4.5.2. Giao diện chương trình điều khiển 53
4.5.3. Kết quả mô phỏng bộ điều khiển neuron 54
4.5.3.1. Điểm tham chiếu chạy theo đường thẳng 54
4.5.3.2. Điểm tham chiếu chạy theo đường tròn 56
4.5.3.3. Điểm tham chiếu chạy theo đường số 8 59
4.5.3.4. Điểm tham chiếu chạy theo đường sin 62
4.5.3.5. Điểm tham chiếu chạy theo đường lưới 64
4.5.3.6. Hàm tích hợp lớp ẩn là tansig 67
4.6. Nhận xét 68
Chương 5: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN 69
5.1. Kết luận 69
5.1.1.Kết quả đạt được 69
5.1.2. Hạn chế của đề tài 69
5.2. Hướng phát triển của đề tài 70
TÀI LIỆU THAM KHẢO 71
PHỤ LỤC 72
Trang 4

DANH MỤC TỪ VIẾT TẮT
TT
Từ viết tắt
Diễn giải

1
ACO
Ant Colony Optimization
2
ANN
Artificial Neural Network
3
BP
Back propagation
4
GA
Genetic algorithm
5
MLP
Multilayer Perceptron
6
NN
Neural Network
7
SA
Simulated Annealing
8
SI
Swarm Intelligence
9
SIMO
Single Input Multi Output
10
PSO
Particle Swarm Optimization

Trang 5

DANH MỤC BẢNG BIỂU

Bảng 4.1 Qũy đạo chuyển động của điểm tham chiếu……………………52

Trang 6

DANH MỤC HÌNH VẼ
Hình 2.1. Cấu tạo của tế bào neuron sinh học
15
Hình 2.2. Mô hình neuron nhân tạo ………
15
Hình 2.3. Mạng neuron chỉ có một nút và có sự phản hồi ……
18
Hình 2.4. Mạng neuron truyền thẳng một lớp……
18
Hình 2.5. Mạng neuron truyền thẳng nhiều lớp……
19
Hình 2.6. Mạng neuron hồi quy một lớp ……
20
Hình 2.7. Mạng perceptron một lớp ……
23
Hình 2.8. Hàm sigmoid g(x) = 1/(1+e
-x

) ……
26
Hình 3.1. Sơ đồ cập nhật vị trí của mỗi cá thể PSO……
31
Hình 3.2. Lưu đồ thuật toán PSO ……
33
Hình 4.1. Sơ đồ phác họa mobile robot 2 bánh……
39
Hình 4.2. Vị trí hiện hành p(x, y, θ) và vị trí tham chiếu pd(xd, yd,θd)
41
Hình 4.3. Vị trí mobile robot và điểm tham chiếu……
41
Hình 4.4. Sơ đồ luật điều khiển NN-PSO controller ……
43
Hình 4.5 Cấu trúc mạng neuron truyền thẳng ……
44
Hình 4.6. Xác định mô hình NN-Controller tối ưu sử dụng thuật toán
PSO như một động cơ tối ưu …… ……

45
Hình 4.7. Sơ đồ mô phỏng simulink…… ……
46
Hình 4.8. Khối Mobile robot …… ……
47
Hình 4.9. Bộ điều khiển bám theo đường tròn…… …….
47
Hình 4.10. Bộ điều khiển bám theo đường thẳng……
48
Hình 4.11. Bộ điều khiển bám theo đường lưới …… …
48

Hình 4.12. Tín hiệu ngõ vào…… ……
49
Hình 4.13. Lưu đồ thuật toán chỉnh định thông số NN-Controller dùng
thuật toán PSO …… ……

51
Hình 4.14. Giao diện điều khiển…… ……
53
Trang 7

Hình 4.15. Tọa độ x và xr theo thời gian …… ……
54
Hình 4.16. Tọa độ y và yr theo thời gian…… ……
54
Hình 4.17. Góc theta và thetad theo thời gian…… ……
54
Hình 4.18. Vị trí robot và vị trí điểm tham chiếu……
55
Hình 4.19. Sai số góc alpha theo thời gian …… ……
55
Hình 4.20. Khoảng cách d theo thời gian …… ……
55
Hình 4.21. Tốc độ bánh phải ωR theo thời gian …… …
56
Hình 4.22. Tốc độ bánh trái ωL theo thời gian …… ……
56
Hình 4.23. Tọa độ x và xr theo thời gian …… ……
56
Hình 4.24. Tọa độ y và yr theo thời gian…… ….…

57
Hình 4.25. Góc theta và thetad theo thời gian …… ……
57
Hình 4.26. Vị trí robot và vị trí điểm tham chiếu…… …
57
Hình 4.27. Sai số góc alpha theo thời gian …… ……
58
Hình 4.28. Khoảng cách d theo thời gian …… ……
58
Hình 4.29. Tốc độ bánh phải theo thời gian …… ……
58
Hình 4.30. Tốc độ bánh trái theo thời gian …… ……
59
Hình 4.31. Tọa độ x và xr theo thời gian …… ……
59
Hình 4.32. Tọa độ y và yr theo thời gian…… ……
59
Hình 4.33. Góc theta và thetad theo thời gian …… ……
60
Hình 4.34. Vị trí robot và vị trí điểm tham chiếu ……
60
Hình 4.35. Sai số góc alpha theo thời gian…… ……
60
Hình 4.36. Góc theta và thetad theo thời gian …… ……
61
Hình 4.37. Vị trí robot và vị trí điểm tham chiếu ……
61
Hình 4.38. Sai số góc alpha theo thời gian…… ……
61
Hình 4.39. Góc theta và thetad theo thời gian …… ……

62
Hình 4.40. Vị trí robot và vị trí điểm tham chiếu ……
62
Hình 4.41. Sai số góc alpha theo thời gian…… ……
62
Trang 8

Hình 4.42. Vị trí robot và vị trí điểm tham chiếu ……
63
Hình 4.43. Vị trí robot và vị trí điểm tham chiếu ……
63
Hình 4.44. Khoảng cách d theo thời gian …… ……
63
Hình 4.45. Tốc độ bánh phải theo thời gian…… ……
64
Hình 4.46. Tốc độ bánh trái theo thời gian …… ……
64
Hình 4.47. Tọa độ x và xr theo thời gian…… ……
64
Hình 4.48. Tọa độ y và yr theo thời gian …… ……
65
Hình 4.49. Góc theta và thetad theo thời gian …… ……
65
Hình 4.50. Vị trí robot và vị trí điểm tham chiếu ……
65
Hình 4.51. Vị trí robot và vị trí điểm tham chiếu…… …
66
Hình 4.52. Khoảng cách d theo thời gian …… ……
66

Hình 4.53. Tốc độ bánh phải theo thời gian…… ……
66
Hình 4.54. Tốc độ bánh trái theo thời gian…… ……
67
Hình 4.55. Tọa độ x và xr theo thời gian …… ……
67
Hình 4.56. Tọa độ y và yr theo thời gian …… ……
67
Hình 4.57. Vị trí robot và vị trí điểm tham chiếu……
68

Trang 9

MỞ ĐẦU

Trong thiết kế mạng Neuron có hai vấn đề lớn được đặt ra. Đó là thiết kế
cấu trúc mạng và thiết lập ma trận trọng số cho cấu trúc đó. Việc xác định ma
trận trọng số của mạng neuron có vai trò vô cùng quan trọng vì mọi phương
án thiết kế đều phải sử dụng một thuật toán huấn luyện trọng số để lựa chọn
các kết nối trong neuron. Hiện nay người ta áp dụng rộng rãi một số phương
pháp huấn luyện trọng số, trong đó nổi bật nhất là thuật toán lan truyền ngược
sai số (BP), giải thuật di truyền (GA), thuật toán giả luyện kim (SA). Các

thuật toán cổ điển thường tìm được lời giải cục bộ nên quá trình tìm kiếm các
phương án tối ưu toàn cục vẫn đang tiếp tục được nghiên cứu.
Gần đây một phương pháp mới dùng để tìm ma trận trọng số của mạng
neuron sử dụng thuật toán tối ưu hóa Bầy đàn (Particles Swarm Optimization
- PSO) được xem là rất hiệu quả. PSO là một kỹ thuật ngẫu nhiên dựa vào
quần thể được phát triển bởi Kennedy và Eberhart vào năm 1995, là phần
thuộc lĩnh vực nghiên cứu quần thể thông minh (Swarm Intelligence SI), nằm
trong tính toán tiến hóa – Evolution computation. Những ý tưởng nghiên cứu
trong quần thể thông minh dựa trên quan hệ, cách ứng xử của các cá thể trong
quần thể và cách thức tự tổ chức, hoạt động của quần thể. PSO là một hướng
nghiên cứu mới đang phát triển rất nhanh và được rất nhiều nhà nghiên cứu
quan tâm.
Trong đề tài này tác giả đề xuất thiết kế bộ điều khiển neuron dùng mạng
truyền thẳng nhiều lớp được tối ưu trọng số bằng giải thuật bầy đàn dành cho
điều khiển Mobile robot.

Trang 10

Chương 1: TỔNG QUAN
1.1. Đặt vấn đề
Ngày nay, robotic đã đạt được những thành tựu to lớn trong sản xuất
công nghiệp cũng như trong đời sống của con người. Robot đã có một vị trí
quan trọng khó có thể thay thế được, nó giúp con người làm việc trong các
điều kiện nguy hiểm, khó khăn. Trong các họ robot, chúng ta không thể
không nhắc tới mobile robot, với những đặc thù riêng mà các loại robot khác
không có. Mobile robot có thể di chuyển với tốc độ nhanh và độ chính xác
cao để thực hiện những động tác lặp đi lặp lại như hàn hay sơn… Việc di
chuyển của mobile robot tạo nên không gian hoạt động rất lớn và cho đến nay
nó đã dần khẳng định vai trò quan trọng không thể thiếu trong nhiều lĩnh vực,

thu hút được rất nhiều sự đầu tư nghiên cứu. Mà tập trung chủ yếu vào việc
xây dựng chương trình điều khiển hoạt động cho mobile robot.
Xuất phát từ thực tế này giải pháp điều khiển mobile robot dùng bộ điều
khiển neuron đã được đề xuất. Tuy nhiên quá trình thiết kế và huấn luyện
mạng phải thực thi hai nhiệm vụ, đầu tiên là việc lựa chọn kiến trúc cho mạng
một cách phù hợp và thứ hai là việc điều chỉnh trọng số kết nối của mạng.
Vấn đề điều chỉnh trọng số liên kết của mạng để đạt tối ưu đã được nghiên
cứu và đề xuất. Thuật toán dùng để huấn luyện mạng neuron rất nổi tiếng là
thuật toán lan truyền ngược. Tuy nhiên tốc độ hội tụ của thuật toán thường rất
chậm và dễ rơi vào điểm cực trị địa phương. Trong nỗ lực mở rộng không
gian tìm kiếm và tối ưu trọng số của mạng. Có rất nhiều thuật toán đã được đề
xuất chẳng hạn như giải thuật di truyền (GA), mô phỏng luyện kim (SA), tối
ưu hóa đàn kiến (ACO)…

Trang 11

Gần đây một phương pháp mới được sử dụng để tối ưu trọng số bộ điều
khiển neuron dùng thuật toán tối ưu hóa bầy đàn (Particles Swarm
Optimization - PSO) được xem là rất hiệu quả thể hiện sự vượt trội so với
thuật toán lan truyền ngược và một số thuật toán khác trong huấn luyện mạng
neuron. PSO là một hướng nghiên cứu mới và đang phát triển rất nhanh trong
những năm gần đây. Do tính đơn giản của thuật toán và hiệu suất cao, nên nó
đã được áp dụng thành công để giải nhiều bài toán tìm cực trị hàm số học
phức tạp, cũng như một số bài toán tối ưu khác.
Trong luận văn này, học viên xây dựng bộ điều khiển neuron sử dụng
mạng truyền thẳng nhiều lớp và các trọng số bộ điều khiển được tối ưu bằng
giải thuật bầy đàn để ứng dụng trong điều khiển mobile robot. Kết quả mô
phỏng thu được đã chứng tỏ phương pháp điều khiển là rất hiệu quả.

1.2. Tổng quan chung về lĩnh vực nghiên cứu
Lĩnh vực thông minh bầy đàn đã phát triển rất nhanh chóng trong thời
gian qua và được ứng dụng thành công trong nhiều lĩnh vực. Có rất nhiều
sách, báo viết về vấn đề này. Hằng năm có rất nhiều hội nghị thảo luận về sự
phát triển cũng như những ứng dụng của các thuật toán thông minh bầy đàn.
Hầu hết các bài viết đều tập trung vào các vấn đề so sánh chất lượng giữa các
thuật toán (tốc độ hội tụ, thời gian thực thi,…) và ứng dụng để giải các bài
toán tối ưu như thiết kế mạng viễn thông, tự động nghiên cứu robot, xây dựng
mô hình giao thông (traffic pattern) trong bài toán vận chuyển, ứng dụng
trong quân sự, điều khiển động cơ, xây dựng các mô hình thực nghiệm trong
giảng dạy và nghiên cứu…
Dựa trên cơ sở lý thuyết và kết quả từ các bài báo ‘Neural Network
Predictive Control for Mobile Robot Using PSO with Controllable Random
Exploration Velocity’ của Xin CHEN and Yangmin LI, ‘Neural Network

Trang 12

Controller for Mobile Robot Motion Control’ của Jasmin Velagic, Nedim
Osmic, and Bakir Lacevic, tác giả đã đưa ra phương pháp tối ưu trọng số bộ
điều khiển neuron dùng giải thuật bầy đàn ứng dụng trong điều khiển Mobile
robot.
1.3. Mục tiêu và phạm vi nghiên cứu
1.3.1. Mục tiêu nghiên cứu
 Nghiên cứu mạng truyền thẳng nhiều lớp. Từ đó xây dựng bộ điều khiển
neuron cho mobile robot.
 Nghiên cứu thuật toán tối ưu bầy đàn và ứng dụng để tối ưu được trọng
số bộ điều khiển neuron sử dụng mạng truyền thẳng nhiều lớp.
 Xây dựng sơ đồ Simulink và mô phỏng được hoạt động điều khiển của
mobile robot bằng phần mềm Matlab Simulink.

1.3.2. Phạm vi nghiên cứu
 Luận văn này tác giả sẽ giới thiệu lý thuyết về mạng neuron và đặc biệt
là mạng truyền thẳng nhiều lớp.
 Nghiên cứu giải thuật bầy đàn và ứng dụng để tối ưu các trọng số của bộ
điều khiển neuron.
 Xây dựng sơ đồ simulink và mô phỏng được hệ thống mobile robot bằng
phần mềm Matlab Simulink.
1.4. Tóm lược nội dung luận văn
Luận văn gồm 5 chương với nội dung như sau:
Chương 1: Tổng quan, đặt vấn đề cũng như mục tiêu và phạm vi
nghiên cứu của luận văn.

Trang 13

Chương 2: Trình bày cơ sở lý thuyết về mạng neuron, mạng truyền
thẳng nhiều lớp và các yếu tố ảnh hưởng đến quá trình
huấn luyện mạng.
Chương 3: Giới thiệu thuật toán tối ưu hóa bầy đàn và ảnh hưởng của
các thông số trong thuật toán.
Chương 4: Giới thiệu mô hình toán của mobile robot. Mục tiêu điều
khiển và ứng dụng thuật toán PSO để tối ưu trọng số bộ
điều khiển neuron sử dụng mạng truyền thẳng nhiều lớp.
Kết quả mô phỏng thu được trong huấn luyện mạng
neuron và điều khiển mobile robot.
Chương 5: Kết luận và hướng phát triển đề tài. Những kết quả đạt
được và những giới hạn của đề tài, để làm cơ sở cho các đề
xuất về hướng phát triển.

Trang 14

Chương 2: MẠNG NEURON NHÂN TẠO
Mạng neuron nhân tạo được coi là một công cụ mạnh để giải quyết các
bài toán có tính phi tuyến, phức tạp và đặc biệt trong các trường hợp mà mối
quan hệ giữa các quá trình không dễ thiết lập một cách tường minh. Có nhiều
loại mạng neuron khác nhau trong đó mạng neuron truyền thẳng nhiều lớp là
một trong những mạng neuron thông dụng nhất
2.1. Giới thiệu về mạng neuron nhân tạo
2.1.1.Khái niệm cơ bản
Theo các nhà nghiên cứu sinh học về bộ não, hệ thống thần kinh của
con người bao gồm khoảng 100 tỷ tế bào thần kinh, thường gọi là các neuron.
Mỗi tế bào neuron gồm ba phần:
• Thân neuron với nhân bên trong (gọi là soma), là nơi tiếp nhận hay phát ra
các xung động thần kinh.
• Một hệ thống dạng cây các dây thần kinh vào (gọi là dendrite) để đưa tín
hiệu tới nhân neuron. Các dây thần kinh vào tạo thành một lưới dày đặc xung
quanh thân neuron, chiếm diện tích khoảng 0,25 mm
2
• Đầu dây thần kinh ra (gọi là sợi trục axon) phân nhánh dạng hình cây, có thể
dài từ một cm đến hàng mét. Chúng nối với các dây thần kinh vào hoặc trực
tiếp với nhân tế bào của các neuron khác thông qua các khớp nối (gọi là
synapse). Thông thường mỗi neuron có thể có từ vài chục cho tới hàng trăm
ngàn khớp nối để nối với các neuron khác. Có hai loại khớp nối, khớp nối
kích thích (excitatory) sẽ cho tín hiệu qua nó để tới neuron còn khớp nối ức
chế (inhibitory) có tác dụng làm cản tín hiệu tới neuron. Người ta ước tính
mỗi neuron trong bộ não của con người có khoảng 104 khớp nối (Hình 2.1).

Trang 15

Chức năng cơ bản của các tế bào neuron là liên kết với nhau để tạo nên hệ
thống thần kinh điều khiển hoạt động của cơ thể sống. Các tế bào neuron
truyền tín hiệu cho nhau thông qua các dây thần kinh vào và ra, các tín hiệu
đó có dạng xung điện và được tạo ra từ các quá trình phản ứng hoá học phức
tạp. Tại nhân tế bào, khi điện thế của tín hiệu vào đạt tới một ngưỡng nào đó
thì nó sẽ tạo ra một xung điện dẫn tới trục dây thần kinh ra. Xung này truyền
theo trục ra tới các nhánh rẽ và tiếp tục truyền tới các neuron khác.

Hình 2.1 Cấu tạo của tế bào neuron sinh học

Với mục đích tạo ra một mô hình tính toán phỏng theo cách làm việc của
neuron trong bộ não con người, vào năm 1943, các tác giả McCulloch và Pitts
đã đề xuất một mô hình toán cho một neuron như sau:

Hình 2.2 Mô hình neuron nhân tạo
W
1
W
m
out

Trang 16

Trong mô hình này, một neuron thứ i sẽ nhận các tín hiệu vào xj với các trọng
số tương ứng là wij , tổng các thông tin vào có trọng số là:








Thông tin đầu ra ở thời điểm t+1 được tính từ các thông tin đầu vào như sau:
















Trong đó g là hàm kích hoạt (còn gọi là hàm truyền) có dạng là hàm bước

nhảy, nó đóng vai trò biến đổi từ thông tin đầu vào thành tín hiệu đầu ra





ế
ế


Như vậy, out = 1 (ứng với việc neuron tạo tín đầu ra) khi tổng các tín hiệu
vào lớn hơn ngưỡng θ
i
, còn out = 0 (neuron không tạo tín hiệu ở đầu ra) khi
tổng các tín hiệu vào nhỏ hơn ngưỡng θ
i
.
Trong mô hình neuron của McCulloch và Pitts, các trọng số w
ij
thể hiện
ảnh hưởng của khớp nối trong liên kết giữa neuron j (neuron gửi tín hiệu) và
neuron i (neuron nhận tín hiệu). Trọng số w
ij
dương ứng với khớp nối kích
thích, trọng số âm ứng với khớp nối ức chế còn w
ij
bằng 0 khi không có liên
kết giữa hai neuron. Hàm truyền g ngoài dạng hàm bước nhảy còn có thể chọn
nhiều dạng khác nhau và sẽ được đề cập ở các phần sau. Thông qua cách mô
hình hoá đơn giản một neuron sinh học như trên, McCulloch và Pitts đã đưa

ra một mô hình neuron nhân tạo có tiềm năng tính toán quan trọng. Nó có thể
thực hiện các phép toán logic cơ bản như AND, OR và NOT khi các trọng số
và ngưỡng được chọn phù hợp. Sự liên kết giữa các neuron nhân tạo với các
cách thức khác nhau sẽ tạo nên các loại mạng neuron nhân tạo (Artificial
Neural Network - ANN) với những tính chất và khả năng làm việc khác nhau.

Trang 17

2.1.2. Mô hình mạng neuron nhân tạo
Như đã được giới thiệu, mạng neuron nhân tạo là một hệ thống xử lý
thông tin được xây dựng trên cơ sở tổng quát hoá mô hình toán học của
neuron sinh học và phỏng theo cơ chế làm việc của bộ não con người. Mạng
neuron nhân tạo được thể hiện thông qua ba thành phần cơ bản: mô hình của
neuron, cấu trúc và sự liên kết giữa các neuron, phương pháp học được áp
dụng cho mạng neuron.
2.1.2.1. Các phần tử xử lý
Việc xử lý thông tin tại mỗi neuron có thể xem là gồm hai phần: xử lý
tín hiệu vào (input) và đưa tín hiệu ra (output). Tương ứng với phần vào của
mỗi neuron là một hàm tương tác (interaction) f, hàm này kết hợp các thông
tin truyền tới neuron và tạo thành thông tin đầu vào tổng hợp (gọi là net input)
của neuron đó.
Một neuron thứ i trong mạng thường có hàm f
i
ở dạng tuyến tính như sau :



















Thao tác thứ hai trong mỗi neuron là tính giá trị đầu ra tương ứng với giá trị
đầu vào f thông qua hàm kích hoạt hay còn gọi là hàm truyền g(f) (hàm kích
hoạt). Một số hàm truyền thường được sử dụng:
 Hàm bước nhảy:





ế
ế


 Hàm dấu:










ế
ế


 Hàm sigmoid:









Trang 18

2.1.2.2. Liên kết trong mạng neuron nhân tạo
Mạng neuron nhân tạo gồm các neuron và liên kết có trọng số giữa
chúng. ANN tạo nên một hệ thống xử lý thông tin làm việc trên cơ sở phỏng
theo cách làm việc của hệ thống các neuron trong bộ não con người. Tuy
nhiên, trong bộ não của con người, các tế bào neuron liên kết với nhau chằng
chịt và tạo nên một mạng lưới vô cùng phức tạp. Các loại mạng neuron nhân

tạo được xác định bởi cách liên kết giữa các neuron, trọng số của các liên kết
đó và hàm chuyển tại mỗi neuron. Các hình vẽ dưới đây thể hiện các cách kết
nối khác nhau.

Hình 2.3 Mạng neuron chỉ có một nút và có sự phản hồi

Hình 2.4 Mạng neuron truyền thẳng một lớp




































Trang 19

Mạng neuron truyền thẳng một lớp là loại mạng chỉ có lớp neuron đầu

vào và một lớp neuron đầu ra (thực chất lớp neuron đầu vào không có vai trò
xử lý, do đó ta nói mạng chỉ có một lớp). Loại mạng này còn được gọi là
mạng perceptron một lớp. Mỗi neuron đầu ra có thể nhận tín hiệu từ các đầu
vào x
1
, x
2
, …, x
m
để tạo ra tín hiệu đầu ra tương ứng.

Hình 2.5 Mạng neuron truyền thẳng nhiều lớp
Trong mạng neuron truyền thẳng nhiều lớp, lớp nhận tín hiệu vào của
mạng gọi là lớp vào (input layer), nó thường không thực hiện việc chuyển đổi
thông tin mà chỉ làm chức năng nhận tín hiệu. Tín hiệu ra của mạng được đưa
ra từ lớp ra (outputlayer). Các lớp ở giữa lớp vào và lớp ra gọi là các lớp ẩn.
Trong mạng truyền thẳng (feedforward network) không có nút nào mà đầu ra
của nó là đầu vào của một nút khác trên cùng lớp với nó hoặc lớp trước.
Mạng có phản hồi (feedback network) là mạng mà đầu ra của một
neuron có thể trở thành đầu vào của neuron trên cùng một lớp hoặc của lớp
trước đó. Mạng feedback có chu trình khép kín gọi là mạng quy hồi (recurrent
network)



















Trang 20

Hình 2.6 Mạng neuron hồi quy một lớp
2.1.2.3. Các luật học của mạng neuron nhân tạo
Như đã được đề cập ở phần đầu luật học là một trong ba yếu tố quan
trọng tạo nên một mạng neuron nhân tạo. Có hai vấn đề cần học đối với mỗi
mạng neuron nhân tạo đó là học tham số (parameter learning) và học cấu trúc
(structure learning). Học tham số là việc thay đổi trọng số của các liên kết
giữa các neuron trong một mạng, còn học cấu trúc là việc điều chỉnh cấu trúc
của mạng bao gồm thay đổi số lớp neuron, số neuron của mỗi lớp và cách liên
kết giữa chúng. Hai vấn đề này có thể được thực hiện đồng thời hoặc tách
biệt.
Về mặt phương pháp học, có thể chia ra làm ba loại: học có giám sát
hay còn gọi là học có thầy (supervised learning), học tăng cường
(reinforcement learning) và học không có giám sát hay còn gọi là học không
có thầy (unsupperviced learning).
2.1.3. Khả năng ứng dụng của mạng neuron nhân tạo
Đặc trưng của mạng neuron nhân tạo là khả năng học và xử lý song
song. Nó có thể gần đúng mối quan hệ tương quan phức tạp giữa các yếu tố
đầu vào và đầu ra của các quá trình cần nghiên cứu và khi đã học được thì



















Trang 21

việc kiểm tra độc lập thường cho kết quả tốt. Sau khi đã học xong, mạng
neuron nhân tạo có thể tính toán kết quả đầu ra tương ứng với bộ số liệu đầu
vào mới. Về mặt cấu trúc, mạng neuron nhân tạo là một hệ thống gồm nhiều
phần tử xử lý đơn giản cùng hoạt động song song. Tính năng này của ANN
cho phép nó có thể được áp dụng để giải các bài toán lớn.
Về khía cạnh toán học, theo định lý Kolmogorov, một hàm liên tục bất
kỳ f( x
1
,x
2
, , x
n
) xác định trên khoảng I
n
( với I =[0,1]) có thể được biểu diễn
dưới dạng:





















Trong đó : χj , Ψij là các hàm liên tục một biến. Ψij là hàm đơn điệu,
không phụ thuộc vào hàm f. Mặt khác, mô hình mạng neuron nhân tạo cho
phép liên kết có trọng số các phần tử phi tuyến (các neuron đơn lẻ) tạo nên
dạng hàm tổng hợp từ các hàm thành phần. Do vậy, sau một quá trình điều
chỉnh sự liên kết cho phù hợp (quá trình học), các phần tử phi tuyến đó sẽ tạo
nên một hàm phi tuyến phức tạp có khả năng xấp xỉ hàm biểu diễn quá trình
cần nghiên cứu. Kết quả là đầu ra của nó sẽ tương tự với kết quả đầu ra của
tập dữ liệu dùng để luyện mạng. Khi đó ta nói mạng neuron nhân tạo đã học
được mối quan hệ tương quan đầu vào - đầu ra của quá trình và lưu lại mối
quan hệ tương quan này thông qua bộ trọng số liên kết giữa các neuron.
Do đó, mạng neuron nhân tạo có thể tính toán trên bộ số liệu đầu vào
mới để đưa ra kết quả đầu ra tương ứng.

Với những đặc điểm đó, mạng neuron nhân tạo đã được sử dụng để giải
quyết nhiều bài toán thuộc nhiều lĩnh vực của các ngành khác nhau. Các
nhóm ứng dụng mà mạng neuron nhân tạo đã được áp dụng rất có hiệu quả là:
• Bài toán phân lớp: Loại bài toán này đòi hỏi giải quyết vấn đề phân loại
các đối tượng quan sát được thành các nhóm dựa trên các đặc điểm của các

Trang 22

nhóm đối tượng đó. Đây là dạng bài toán cơ sở của rất nhiều bài toán trong
thực tế: nhận dạng chữ viết, tiếng nói, phân loại gen, phân loại chất lượng
sảnphẩm,…
• Bài toán dự báo: Mạng neuron nhân tạo đã được ứng dụng thành công
trong việc xây dựng các mô hình dự báo sử dụng tập dữ liệu trong quá khứ để
dự đoán số liệu trong tương lai. Đây là nhóm bài toán khó và rất quan trọng
trong nhiều ngành khoa học.
• Bài toán điều khiển và tối ưu hoá: Nhờ khả năng học và xấp xỉ hàm mà
mạng neuron nhân tạo đã được sử dụng trong nhiều hệ thống điều khiển tự
động cũng như góp phần giải quyết những bài toán tối ưu trong thực tế.
Tóm lại, mạng neuron nhân tạo được xem như là một cách tiếp cận đầy
tiềm năng để giải quyết các bài toán có tính phi tuyến, phức tạp và đặc biệt là
trong tình huống mối quan hệ bản chất vật lý của quá trình cần nghiên cứu
không dễ thiết lập tường minh.
2.2. Mạng neuron lan truyền thẳng nhiều lớp
2.2.1. Mạng perceptron một lớp
Mạng perceptron một lớp do F.Rosenblatt đề xuất năm 1960 là mạng
truyền thẳng chỉ một lớp vào và một lớp ra không có lớp ẩn. Trên mỗi lớp này
có thể có một hoặc nhiều neuron. Mô hình mạng neuron của Rosenblatt sử
dụng hàm ngưỡng đóng vai trò là hàm chuyển. Do đó, tổng của các tín hiệu
vào lớn hơn giá trị ngưỡng thì giá trị đầu ra của neuron sẽ là 1, còn trái lại sẽ

là 0.




 ế


 ế




Với 







àổôđầàủ

Trang 23

Ngay từ khi mạng Perceptron một lớp được đề xuất nó đã được sử dụng
để giải quyết bài toán phân lớp. Một đối tượng sẽ được neuron i phân vào lớp
A nếu tổng thông tin đầu vào : Σw
ij

x
j
> θ
i

Trong đó w
ij
là trọng số liên kết từ neuronj tới neuron i, x
j
là đầu vào từ
neuron j, và θ là ngưỡng của neuron i. Trong trường hợp trái lại đối tượng sẽ
được phân vào lớp B.
Việc huấn luyện mạng dựa trên phương pháp học có giám sát với tập
mẫu học là{(x
(k)
, d
(k)
)}, k= 1,2, …, p .Trong đó d
(k)
= [d1
(k)
, d2
(k)
, …, dn
(k)
,]
T

là đầu ra quan sát được tương ứng với đầu vào x
(k)

= [x
1
(k)
, x
2
(k)
, …, xm
(k)
]
T

(với m là số đầu vào, n là số đầu ra và p là cặp mẫu đầu vào - đầu ra dùng cho
việc học). Như vậy chúng ta mong rằng sau quá trình học, đầu ra tính toán
được y
(k)
= [y
1
(k)
, y
2
(k)
, …, y
n
(k)
]
T
sẽ bằng với đầu ra của mẫu học d
(k)

