Mạng nơ-ron là một chuỗi các thuật toán cố gắng xác định các mối quan hệ cơ bản trong một tập hợp dữ liệu thông qua một quy trình bắt chước phương thức hoạt động của bộ não con người. Theo cách tiếp cận này, mạng nơ-ron đại diện cho hệ thống nơ-ron, chẳng hạn như hữu cơ hoặc nhân tạo.
Mạng thần kinh là phương pháp tiếp cận phân tích được mô hình hóa sau quy trình (giả thuyết) học trong hệ thống nhận thức và các dịch vụ thần kinh của não và có khả năng dự báo các quan sát mới (trên các biến xác định) từ các quan sát khác sau khi thực hiện một quá trình gọi là học từ hiện tại thông tin.
Có các bước sau của Truyền ngược như sau -
-
Mạng nhận được một phiên bản huấn luyện và bằng cách sử dụng các trọng số hiện tại trong mạng, nó sẽ tính toán kết quả đầu ra hoặc kết quả đầu ra.
-
Truyền ngược tính toán lỗi bằng cách tạo ra sự khác biệt giữa kết quả được tính toán và kết quả mong đợi (kết quả thực tế).
-
Lỗi được đưa trở lại thông qua web và các trọng số được sửa đổi để giảm thiểu lỗi, do đó việc truyền ngược tên do lỗi được truyền ngược lại qua mạng.
Thuật toán lan truyền ngược tính toán lỗi hoàn toàn của mạng bằng cách so sánh các giá trị được tạo trên mỗi trường hợp huấn luyện với giá trị thực. Nó có thể thay đổi trọng lượng của lớp đầu ra để giảm xuống, nhưng không loại bỏ lỗi. Tuy nhiên, thuật toán vẫn chưa hoàn thành.
Nó có thể tạo ra lỗi cho các nút trước đó trong mạng và thay đổi trọng số liên kết các nút đó, hơn nữa còn giảm lỗi tổng thể. Cấu trúc cụ thể để phân công trách nhiệm là không cần thiết. Đủ để nói rằng truyền ngược cần một thủ tục số phức cần lấy các dẫn xuất hạn chế của hàm kích hoạt.
Phương pháp thay đổi trọng số này được gọi là quy tắc đồng bằng tổng quát. Có hai tham số thiết yếu liên quan đến việc sử dụng quy tắc đồng bằng tổng quát. Đầu tiên là động lượng, xác định xu hướng của các trọng lượng trong mỗi đơn vị để biến đổi “hướng” mà chúng đang hướng tới.
Nghĩa là, mỗi trọng lượng ghi nhớ nếu nó đang nhận lớn hơn hay nhỏ hơn, và động lượng cố gắng duy trì nó đi theo hướng bằng nhau. Mạng có động lượng lớn phản ứng chậm với các trường hợp huấn luyện mới cần để đảo ngược trọng lượng. Nếu xung lượng thấp, do đó trọng lượng được kích hoạt để dao động một cách cởi mở hơn.
Chi phí học tập kiểm soát mức độ thay đổi của trọng số. Phương pháp tốt nhất cho chi phí học tập là bắt đầu lớn và giảm nó từ từ khi mạng được đào tạo. Ban đầu, các trọng lượng là ngẫu nhiên, do đó dao động cao sẽ có lợi khi ở gần các trọng lượng tốt nhất. Tuy nhiên, khi mạng tiến gần đến giải pháp tối ưu, chi phí học tập phải giảm để mạng có thể tinh chỉnh theo trọng số tối ưu chung.