Mạng nơ-ron nhân tạo (Artificial Neural Network - ANN) là một hệ thống dựa trên chức năng của mạng nơ-ron sinh học. Nó là một mô phỏng của hệ thống nơ-ron sinh học. Đặc điểm của mạng nơ-ron nhân tạo là có nhiều cấu trúc, đòi hỏi nhiều phương pháp thuật toán, nhưng bất kể là hệ thống phức tạp, một mạng nơ-ron là đơn giản.
Các mạng này nằm giữa các khoa học xử lý tín hiệu cụ thể trong hộp công cụ của người điều hành. Lĩnh vực là rất đa ngành (interdisciplinary), nhưng kỹ thuật này sẽ giới hạn quan điểm ở góc độ kỹ thuật.
Dữ liệu huấn luyện đầu vào/đầu ra (input/output training data) là thiết yếu trong công nghệ mạng nơ-ron vì chúng gửi thông tin thiết yếu để "tìm" điểm vận hành tối ưu. Các đặc điểm phi tuyến (non-linear) của các yếu tố xử lý nơ-ron (PEs) cung cấp cho hệ thống nhiều khả năng thích ứng để học gần như mọi bản đồ đầu vào/đầu ra mong muốn, tức là một số mạng nơ-ron nhân tạo là người vẽ bản đồ rộng (broad mapmakers).
Đầu vào được trình bày cho mạng nơ-ron và phản hồi mong muốn hoặc tập trung (target response) giống nhau được đặt tại đầu ra (khi đây là phương pháp huấn luyện được gọi là có giám sát - supervised).
Một lỗi (error) bao gồm sự khác biệt giữa phản hồi bắt được (captured response) và đầu ra hệ thống. Bản ghi lỗi này được phản hồi ngược (fed back) đến hệ thống và liên tục điều chỉnh các tham số hệ thống (quy tắc học - learning rule). Quá trình được lặp lại cho đến khi hiệu suất hiệu quả. Rõ ràng từ biểu diễn này rằng hiệu suất phụ thuộc dày đặc vào thông tin.
Có các đặc điểm sau của Mạng nơ-ron nhân tạo:
Mạng nơ-ron đa lớp (Multilayer neural networks) với tối thiểu một lớp ẩn (hidden layer) là bộ xấp xỉ toàn dụng (universal approximators). Có thể dùng để xấp xỉ một số hàm mục tiêu (target functions). Vì ANN có không gian giả thuyết rất biểu đạt (expressive hypothesis space), thiết yếu phải chọn topology mạng phù hợp cho một vấn đề cho trước để ngăn chặn overfitting mô hình.
ANN có thể xử lý các đặc trưng dư thừa (redundant features) vì các trọng số (weights) cần thiết được học trong giai đoạn huấn luyện. Các trọng số cho các đặc trưng dư thừa xu hướng nhỏ.
Mạng nơ-ron dễ bị ảnh hưởng (susceptible) bởi sự hiện diện của nhiễu (noise) trong thông tin huấn luyện. Có một phương pháp xử lý nhiễu là dùng tập xác thực (validation set) để quyết định lỗi tổng quát hóa của mô hình. Phương pháp khác là giảm trọng số bằng một yếu tố tại mỗi lần lặp.
Phương pháp xuống dốc (gradient descent) được dùng để học trọng số của một ANN tập trung đến một số cực tiểu cục bộ (local minimum). Một phương pháp để thoát khỏi cực tiểu cục bộ là chèn một thuật ngữ động lượng (momentum term) vào công thức cập nhật trọng số.
Huấn luyện một ANN là quá trình chậm, đặc biệt khi số nút ẩn (hidden nodes) lớn. Tuy nhiên, các thể hiện kiểm tra có thể được phân loại ngày càng nhiều.