Mạng nơ-ron nhân tạo (Artificial Neural Network) là một hệ thống dựa trên chức năng của mạng nơ-ron sinh học. Nó là một mô phỏng của hệ thống nơ-ron sinh học. Đặc điểm của mạng nơ-ron nhân tạo là có nhiều cấu trúc, đòi hỏi nhiều phương pháp thuật toán, nhưng bất kể là hệ thống phức tạp, một mạng nơ-ron là đơn giản.
Các mạng này nằm giữa các khoa học xử lý tín hiệu cụ thể trong hộp công cụ của người điều hành. Lĩnh vực là rất đa ngành (interdisciplinary), nhưng cách tiếp cận này sẽ giới hạn quan điểm ở góc độ kỹ thuật.
Trong kỹ thuật, mạng nơ-ron tạo ra hai chức năng thiết yếu như bộ phân loại mẫu (pattern classifiers) và bộ lọc thích ứng phi tuyến (non-linear adaptive filters). Một mạng nơ-ron nhân tạo là động (dynamic), nó cung cấp một hệ thống phi tuyến học thực hiện một hàm (bản đồ đầu vào/đầu ra) từ dữ liệu. Thích ứng (Adaptive) đại diện cho các tham số hệ thống thay đổi trong vận hành, thường gọi là giai đoạn huấn luyện (training phase).
Sau giai đoạn huấn luyện, các tham số mạng nơ-ron nhân tạo được cố định và hệ thống sẵn sàng giải quyết vấn đề tại hand (giai đoạn kiểm tra - testing phase). Mạng nơ-ron nhân tạo được tạo ra với một quy trình từng bước có hệ thống (systematic step-by-step procedure) để cải thiện bài kiểm tra hiệu suất hoặc tuân theo một số ràng buộc nội bộ xác định, thường được mô tả là quy tắc học (learning rule).
Có các vấn đề thiết kế sau đây phải được xem xét:
Số nút trong lớp đầu vào (input layer) phải được quyết định. Có thể tạo một nút đầu vào cho mỗi biến đầu vào toán học hoặc nhị phân. Nếu biến đầu vào là categorical (phân loại), có thể tạo một nút cho mỗi giá trị categorical hoặc mã hóa biến k-ary bằng [log₂k] nút đầu vào.
Số nút trong lớp đầu ra (output layer) phải được tạo. Cho bài toán hai lớp (two-class problem), một nút đầu ra đơn lẻ là đủ. Cho bài toán k-lớp (k-class problem), có k nút đầu ra.
Topology mạng (network topology) như số lớp ẩn (hidden layers) và nút ẩn (hidden nodes), và cấu trúc feed-forward hoặc recurrent network nên được chọn. Mô tả hàm mục tiêu (target function) dựa trên trọng số kết nối, số nút ẩn và lớp ẩn, bias trong các nút, và loại hàm kích hoạt (activation function). Việc tìm topology đúng không phải là nhiệm vụ đơn giản.
Một phương pháp là bắt đầu từ một mạng kết nối đầy đủ (fully connected network) với số lượng nút và lớp ẩn đủ lớn, sau đó lặp lại cấu trúc xây dựng mô hình với số lượng nút nhỏ hơn. Phương pháp này có thể vừa phải. Thay vào đó, thay vì lặp lại cấu trúc xây dựng mô hình, có thể xóa một số nút và lặp lại quy trình đánh giá mô hình để chọn độ phức tạp mô hình đúng.
Các trọng số và bias nên được khởi tạo (initialized). Gán ngẫu nhiên (Random assignments) thường là đủ.
Các thể hiện huấn luyện có giá trị thiếu (missing values) phải được xóa hoặc khôi phục với các giá trị có khả năng nhất.