Backpropagation xác định toàn bộ quy trình bao gồm cả việc tính toán gradient và nhu cầu của nó trong việc giảm độ dốc ngẫu nhiên. Về mặt kỹ thuật, nhân giống ngược được sử dụng để tính toán độ dốc của lỗi của mạng liên quan đến trọng số có thể sửa đổi của mạng.
Đặc điểm của Backpropagation là cách tiếp cận lặp đi lặp lại, đệ quy và hiệu quả, qua đó nó tính toán trọng số cập nhật để nâng cao mạng cho đến khi nó không thể thực hiện chức năng mà nó đang được huấn luyện. Các dẫn xuất của dịch vụ kích hoạt được biết đến vào thời điểm thiết kế web là cần thiết để Nhân giống ngược.
Nhân giống ngược thường được sử dụng trong đào tạo mạng nơ-ron và tính toán hàm tổn thất liên quan đến trọng số của mạng. Nó hoạt động với mạng nơ-ron nhiều lớp và quan sát các biểu diễn bên trong của ánh xạ đầu vào-đầu ra.
Đây là một dạng đào tạo mạng nhân tạo tiêu chuẩn, giúp tính toán hàm giảm độ dốc đối với tất cả các trọng số trong mạng. Thuật toán lan truyền ngược được sử dụng để đào tạo mạng nơ-ron hiệu quả hơn thông qua phương pháp quy tắc chuỗi. Nó xác định sau mỗi lần chuyển tiếp, backpropagation thực hiện chuyển tiếp ngược lại qua một trang web bằng cách điều chỉnh các đối số của mô hình.
Độ dốc này được sử dụng trong thuật toán giảm độ dốc ngẫu nhiên đơn giản để tìm trọng số giảm thiểu lỗi. Lỗi lan truyền ngược lại từ các nút đầu ra đến các nút bên trong.
Backpropagation được hiểu bằng cách xử lý lặp đi lặp lại việc thu thập dữ liệu của các bộ dữ liệu đào tạo, so sánh chỉ báo của mạng cho mỗi bộ giá trị với giá trị mục tiêu thực tế đã biết. Giá trị đích có thể là nhãn lớp đã biết của bộ đào tạo (đối với các vấn đề phân loại) hoặc giá trị liên tục (để dự đoán).
Đối với mỗi bộ đào tạo, trọng số được sửa đổi để giảm thiểu sai số bình phương trung bình giữa dự đoán của mạng và giá trị mục tiêu thực tế. Những sửa đổi này được thực hiện theo hướng "ngược", tức là từ lớp đầu ra, qua mỗi lớp ẩn xuống đến lớp ẩn đầu tiên (do đó có tên là backpropagation). Mặc dù nó không được bảo vệ, nhưng nói chung, các trọng số cuối cùng sẽ tập hợp lại và quá trình học tập kết thúc.
Các loại lan truyền ngược
Có hai kiểu lan truyền Back như sau -
Tuyên truyền trở lại tĩnh - Trong kiểu lan truyền ngược này, đầu ra tĩnh được tạo ra do ánh xạ của đầu vào tĩnh. Nó có thể giải quyết các vấn đề phân loại tĩnh như nhận dạng ký tự quang học.
Nhân giống ngược lặp lại - Truyền lặp lại được hướng về phía trước hoặc được tiến hành cho đến khi đạt đến một giá trị xác định hoặc giá trị ngưỡng nhất định. Sau giá trị cụ thể, lỗi được tính toán và truyền ngược lại.