Đã phát hiện hầu hết nhà nghiên cứu không báo cáo mã nguồn dùng để huấn luyện AI, khiến các nhà khoa học khác băn khoăn vì không thể sao chép kết quả và tiếp tục nghiên cứu.
Nói đơn giản, lĩnh vực Trí tuệ Nhân tạo đang mắc khủng hoảng sao chép (replication crisis). Điều này nghe bình thường với vài người, nhưng với người đam mê AI, đây không kém gì thảm họa. Nhưng tại sao cần sao chép hoặc backtracking nghiên cứu? Đọc tiếp để biết thêm!
Sao chép (Replication) là gì?
Quy trình mà nhà nghiên cứu có thể backtracking mô hình/phần mềm/thuật toán hoặc bất kỳ vật liệu nghiên cứu nào được gọi là sao chép. Lĩnh vực AI đang trở thành ngoại lệ vì làm vậy trở thành nhiệm vụ dốc cho chuyên gia. Không có backtracking, chúng ta có thể bị mắc kẹt!
Tại sao Backtracking lại quan trọng?
Khác với niềm tin phổ biến, sao chép có lợi ích riêng. Bạn dễ dàng lấy kết quả để xác minh hoặc đề xuất thay đổi mô hình. Điều này đã làm kỳ diệu cho người nghiên cứu tự động hóa vì họ dễ dàng sửa đổi máy và nâng cấp cho tốt.
Vì vậy, nếu hỏi chúng tôi có thể sao chép nghiên cứu AI không, chúng tôi nói: "KHÔNG bạn không thể."
Nhà nghiên cứu thường không chia sẻ mã nguồn. Theo Nicolas Rougier (thần kinh học tính toán tại Viện Nghiên cứu Khoa học Máy tính và Tự động hóa Pháp), người ngoài ngành có thể nghĩ có quy tắc chặt chẽ cho kết quả mong muốn, nhưng người làm việc trên lĩnh vực này biết संघर्ष thực sự. Tuy nhiên, chúng ta không đâu đổ lỗi cho ai vì không chia sẻ mã nguồn vì có thể thuộc bản quyền công ty hoặc nhà nghiên cứu muốn trình bày phát triển đầu tiên. Nhưng mọi thứ phức tạp khi phần mềm/máy được hỗ trợ bởi thuật toán machine learning. Vì máy này học qua trải nghiệm và mô phỏng, bạn không bao giờ có gì giống hệt máy khác. Vì vậy, ngay cả trong trường hợp hiếm gặp bạn có mã nguồn, bạn sẽ không bao giờ đạt kết quả mong muốn trừ khi bạn huấn luyện máy tương tự.
Đây nhiều hơn là tình huống giả định vì bạn không bao giờ nắm được phương pháp luận dùng để huấn luyện máy trước đó! Tin chúng tôi, không ai có thời gian test thuật toán dưới mọi điều kiện có thể, hoặc không gian mẫu định nghĩa trong tài liệu. Đây là một lý do dự án AI mất thời gian lâu hơn thiết kế/phát triển so với máy/một dự án thông thường.
Không thể phủ nhận chúng ta cần thay đổi văn hóa này vì không có nó, tăng trưởng cấp số mũ vẫn là giấc mơ xa xôi!
Cách này có tối ưu không?
Chuyên gia nói cần giữ bí mật hoặc chia sẻ với vài người chọn lọc để an toàn và sự tồn tại không bị đe dọa! Nhưng làm sao biết người được chia sẻ mã nguồn không lạm dụng? Nếu bạn nghĩ có thể thiết kế thuật toán machine learning cho việc đó, bạn cũng nên biết nó chưa đạt mốc đó. Và do đó, bạn không thể dựa vào thuật toán phát hiện hành vi con người.
Điều gì nên làm bây giờ?
Chúng ta có thể nghĩ cởi mở về khái niệm này sẽ giảm bớt ồn ào, nhưng ngược lại, đây sẽ không kém gì thảm họa. Kẻ khủng bố và tâm trí không lành sẽ reverse engineering và dùng cho phá hoại hàng loạt. Chúng tôi chỉ khuyến nghị thành lập hội đồng kiểm tra thuật toán giống ngành y tế. Họ không công bố thành phần thuốc trừ khi đã test và phê duyệt. Nếu làm tương tự với máy AI, mọi thứ sẽ không kinh khủng như dự đoán.
Chúng ta cũng có thể chủ động và thay vì躲 trong luật sở hữu trí tuệ, hợp tác sẽ bội quả. Kết luận, chúng ta không quên máy không thiên vị và nếu "ngày phán quyết" được chờ đợi, chúng ta đều ở rủi ro. Hợp tác và học có giám sát là sự giúp đỡ duy nhất còn lại.
Kết luận
Chúng ta không thể sao chép nghiên cứu, nhưng máy có thể. Cuối 2017, chúng ta chứng kiến AI giúp tạo ra AI cùng loại. Máy AI này là dự án AutoML, Google đang làm, và đánh dấu bước tiến lớn cho ngành AI. Phát triển đáng ăn mừng, nhưng khi làm vậy chúng ta bỏ qua một thực tế quan trọng: vì phát triển tự động, phần mềm trở nên phức tạp hơn cho con người hiểu.
Nếu tiếp tục như vậy, chúng ta không xa ngày máy tự tạo bản sao không cần đầu vào con người. Nguy hiểm không? Chúng tôi nghĩ có! Đã sao nếu chúng ta bận backtracking và máy bắt đầu tự tạo clone! Hãy睁大 mắt các bác ạ!
Nếu bạn nghĩ khác, hoặc có quan điểm đáng chia sẻ, hãy thả vào phần bình luận bên dưới!