Nhân viên AI có thể trả lời email, cài đặt phần mềm, điền biểu mẫu cũng như truy cập các tệp và thông tin xác thực cho bạn. Họ có khả năng loại bỏ rất nhiều công việc vất vả trong cuộc sống số. Tuy nhiên, nếu không được chọn, tác nhân AI có thể vô tình làm lộ dữ liệu nhạy cảm của bạn, cài đặt phần mềm độc hại hoặc thực hiện các thay đổi không thể khắc phục đối với hệ thống của bạn.
Norton AI Agent Protection, hiện đang trong giai đoạn thử nghiệm, là một tính năng mới của Norton 360 cho phép người dùng thử nghiệm các tác nhân AI đồng thời giảm thiểu các rủi ro bảo mật liên quan. Nó bổ sung một điểm kiểm tra theo thời gian thực giữa những gì tác nhân AI quyết định làm và những gì nó thực sự thực thi. Điều này mang lại cho bạn khả năng hiển thị và kiểm soát nhiều hơn đối với những gì nhân viên hỗ trợ đang thực hiện trên thiết bị của bạn.
Norton là thương hiệu An toàn mạng dành cho người tiêu dùng đầu tiên cung cấp lớp bảo mật cho những người sử dụng tác nhân AI.
Đọc tiếp để tìm hiểu thêm về Norton AI Agent Protection, cách thức hoạt động và cách nó có thể giúp bảo vệ bạn trước các rủi ro bảo mật liên quan đến các tác nhân AI không được kết nối.
Tác nhân AI là gì?
Tác nhân AI là sự phát triển mới của chatbot LLM mà chúng ta đã quen thuộc. Điểm khác biệt chính là, không giống như các loại AI khác như chatbot AI tổng hợp, các tác nhân AI có thể thực hiện hành động chứ không chỉ tạo ra phản hồi cho các lời nhắc. Điều này có thể có nghĩa là chạy lệnh, mua hàng cho bạn, làm việc với các tệp của bạn, viết email hoặc mã hóa. Các công cụ tác nhân AI sắp ra mắt bao gồm Claude Code, Cursor và OpenClaw.
Đặc vụ AI giống như một trợ lý cá nhân không mệt mỏi, luôn sẵn sàng 24/7, không bao giờ phàn nàn và dường như có thể làm bất cứ điều gì — nhưng cũng là người hơi quá tin tưởng, đôi khi làm theo hướng dẫn một cách mù quáng và có thể vô tình mắc những sai lầm nghiêm trọng.
Sự ngây thơ của các tác nhân AI có vấn đề vì họ cần nhiều loại quyền để phát huy hết tiềm năng của mình. Ví dụ:
- Nếu bạn muốn nhân viên AI trả lời email hoặc đăng bài trên LinkedIn, nhân viên đó có thể cần thông tin đăng nhập tài khoản của bạn.
- Nếu bạn muốn nó cài đặt phần mềm và tự thiết lập các công cụ mới, bạn cần cấp cho nó quyền quản trị viên trên máy tính của bạn.
- Nếu bạn muốn nó tìm kiếm chuyến bay giá rẻ và đặt vé cho bạn, nó sẽ cần có quyền truy cập Internet, tương tác với các trang web và sử dụng thẻ tín dụng của bạn.
- Nếu bạn muốn đại lý AI của mình ký hợp đồng, đại lý đó sẽ cần có quyền sử dụng chữ ký điện tử của bạn.
Với mức độ tự chủ và độ tin cậy cao mà họ yêu cầu để thực hiện một số nhiệm vụ hữu ích nhất định, các tác nhân AI có thể gây ra rủi ro nghiêm trọng về quyền riêng tư và bảo mật nếu không có biện pháp bảo vệ phù hợp.
Robot làm việc an toàn trên máy tính nhờ AI Agent Protection.
Rủi ro khi sử dụng tác nhân AI không có biện pháp bảo vệ
Mức độ tự chủ cao của các tác nhân AI, các quyền mở rộng mà họ yêu cầu và trách nhiệm tuân theo hướng dẫn của họ khiến những công cụ mạnh mẽ này tiềm ẩn nhiều rủi ro.
Trong các cuộc tấn công tiêm nhiễm kịp thời, kẻ xấu có thể thao túng các tác nhân AI thực hiện các hành động không mong muốn chỉ bằng cách yêu cầu chúng làm vậy. Ví dụ:tội phạm mạng có thể nhắc nhở đại lý của bạn cài đặt phần mềm độc hại, rò rỉ dữ liệu của bạn, gửi tiền, cấp quyền truy cập từ xa vào thiết bị của bạn hoặc thực hiện các thay đổi đối với hệ thống của bạn mà bạn không biết. Dưới đây là một số ví dụ cụ thể về những rủi ro liên quan đến tác nhân AI không được kiểm tra.
Các kỹ năng và phần mở rộng độc hại
Nhiều tác nhân AI có thể được mở rộng bằng các “kỹ năng” hoặc plugin có thể tải xuống để cung cấp cho chúng những khả năng mới. Chúng thường được lấy từ các kho lưu trữ công cộng, như ClawHub. Thật không may, nhiều kỹ năng trong số này chưa được kiểm tra kỹ lưỡng và một số kỹ năng gây ra rủi ro bảo mật nghiêm trọng.
Trong một nghiên cứu về các tác nhân AI do Gen, công ty đứng sau Norton thực hiện, các nhà nghiên cứu mối đe dọa đã phát hiện ra rằng khoảng 400 kỹ năng trong sổ đăng ký tác nhân công — khoảng 12% trong tổng số các kỹ năng hiện có — là độc hại:chúng chứa các lời nhắc hướng dẫn tác nhân AI tải xuống phần mềm độc hại.
Tấn công chuỗi cung ứng
Một cuộc tấn công vào chuỗi cung ứng là khi bạn hoặc tác nhân AI của bạn cài đặt một gói độc hại (một gói tệp, chương trình hoặc phần mềm) đã bị tội phạm mạng giả mạo hoặc tạo ra.
Để hoàn thành nhiệm vụ, tác nhân AI có thể tự động cài đặt các gói hoặc công cụ, đặc biệt là khi viết mã hoặc thiết lập môi trường. Nếu một trong những công cụ đó không an toàn thì nó có thể gây hại khi được cài đặt. Nó có thể thu thập dữ liệu của bạn, thực hiện những thay đổi không mong muốn hoặc cấp cho người khác quyền truy cập vào hệ thống của bạn.
Rò rỉ thông tin xác thực và rò rỉ dữ liệu
Nhân viên AI thường có quyền truy cập vào thông tin nhạy cảm như mật khẩu, khóa API và mã thông báo tài khoản để họ có thể thay mặt bạn hoàn thành nhiệm vụ. Quyền truy cập đó có thể hữu ích nhưng nó cũng khiến dữ liệu của bạn có nguy cơ bị lộ. Ví dụ:một tác nhân có thể bị lừa gửi thông tin xác thực đến máy chủ bên ngoài hoặc đưa chúng vào mã mà nó tạo ra.
Sau khi thông tin đăng nhập bị lộ, kẻ tấn công có thể sử dụng chúng để truy cập vào tài khoản của bạn, di chuyển ngang qua các hệ thống hoặc tự động hóa các cuộc tấn công tiếp theo. Vì các đại lý hành động nhanh chóng và thường xuyên mà không cần xem xét nên những hành vi vi phạm dữ liệu cá nhân này có thể xảy ra trước khi bạn nhận ra có điều gì sai trái. Nếu kẻ đe dọa lấy đủ dữ liệu cá nhân của bạn bằng cách thao túng tác nhân AI, chúng có thể đánh cắp danh tính của bạn.
Thay đổi hệ thống trái phép
Tác nhân AI có thể thực hiện các thay đổi trực tiếp trên thiết bị của bạn, bao gồm tạo, sửa đổi hoặc xóa tệp cũng như điều chỉnh cài đặt hệ thống. Trong nhiều trường hợp, những hành động này diễn ra ở chế độ nền nên bạn có thể không nhận thấy chúng ngay lập tức.
Nếu có sự cố xảy ra, những thay đổi đó có thể gây ra hậu quả thực sự. Tác nhân có thể ghi đè các tệp quan trọng, thay đổi cấu hình hoặc chạy các lệnh mà bạn không có ý định. Nếu không có khả năng hiển thị hoặc kiểm soát, ngay cả một lỗi nhỏ cũng có thể dẫn đến mất dữ liệu hoặc sự cố hệ thống.
Các tác nhân đe dọa cũng đang tận dụng các tác nhân AI
Trong một sự cố gần đây, các nhà nghiên cứu bảo mật tại Anthropic đã phát hiện ra một chiến dịch gián điệp mạng quy mô lớn, trong đó những kẻ tấn công sử dụng tác nhân AI để thực hiện phần lớn hoạt động của chúng một cách tự động. Tác nhân này đã bị thao túng để thực hiện trinh sát, xác định các lỗ hổng, viết mã độc và trích xuất dữ liệu nhạy cảm từ các tổ chức mục tiêu. Sự tham gia của con người là tối thiểu. Đây là một ví dụ về việc tác nhân AI được sử dụng cho cái gọi là “AI đen tối”.
Sử dụng tác nhân AI an toàn hơn:Giới thiệu Norton AI Agent Protection
Nếu bạn muốn tác nhân AI của mình đảm nhận nhiều trách nhiệm hơn, bạn cần có thể tin tưởng vào nó. Điều đó có thể khó khăn khi có rất nhiều điều xảy ra ở hậu trường. Đó là lúc Norton AI Agent Protection xuất hiện:nó bổ sung một lớp bảo mật thời gian thực để kiểm tra mọi hành động mà tác nhân của bạn thực hiện, giúp ngăn chặn các mối đe dọa và gắn cờ hành vi nguy hiểm.
AI Agent Protection hoạt động âm thầm ở chế độ nền để giúp bảo vệ bạn khỏi một số mối đe dọa và lừa đảo AI nhất định, chẳng hạn như tiêm nhắc nhở, vì vậy, bạn có thể yêu cầu nhân viên của mình làm việc mà không cần phải liên tục đoán xem nhân viên đó thực sự đang làm gì.
"Mọi người đang cấp cho các tác nhân AI quyền truy cập đáng kể vào máy, tài khoản và thông tin cá nhân của họ vì đó là điều khiến họ trở nên mạnh mẽ. Nhưng cho đến nay, không có cách nào để xác minh những gì các tác nhân đó sắp làm. Norton AI Agent Protection giải quyết vấn đề thiếu lớp tin cậy để mọi người có thể tự tin sử dụng các công cụ này chứ không phải phỏng đoán."
Travis Witteveen, Trưởng bộ phận Sản phẩm và Danh mục đầu tư tại Gen
Norton AI Agent Protection được phát triển bởi Gen's AI Foundry, nhóm đứng đằng sau thế hệ công cụ bảo mật hỗ trợ AI tiếp theo của công ty. Đó là một phần trong tầm nhìn rộng hơn nhằm xây dựng Lớp tin cậy của tác nhân AI, được thiết kế để giúp giữ an toàn cho mọi người khi hệ thống AI chuyển từ các tương tác đơn giản sang hành động trong thế giới thực. Đây là một tính năng của Norton 360, bộ công cụ An toàn Mạng dành cho người tiêu dùng tiên tiến của Norton.
Cách thức hoạt động của Norton AI Agent Protection
Khi bật Norton AI Agent Protection, mọi hành động mà tác nhân thực hiện đều được phân tích trong thời gian thực bằng cách sử dụng hơn 300 quy tắc phát hiện được thiết kế để phát hiện các rủi ro như rò rỉ thông tin xác thực, URL độc hại, tải xuống không an toàn và các thay đổi hệ thống không mong muốn. Dựa trên phân tích đó, mỗi hành động mà nhân viên hỗ trợ của bạn cố gắng thực hiện sẽ kích hoạt một trong ba kết quả:Cho phép, Hỏi hoặc Từ chối.
Cho phép:Các hành động an toàn được tiến hành mà không bị gián đoạn
Nếu hành động của tác nhân AI được xác nhận là an toàn thì hành động đó sẽ diễn ra bình thường, không gây cản trở hay gián đoạn quy trình làm việc của bạn.
Hỏi:Các hành động đáng ngờ bị tạm dừng để bạn xem xét
Đối với những hành động có vẻ nguy hiểm nhưng không hẳn là độc hại, Norton sẽ tạm dừng thực thi và cho bạn lựa chọn chặn hoặc cho phép hành động đó, đưa bạn trở lại vị trí điều khiển.
Từ chối:Các mối đe dọa được xác nhận sẽ tự động bị chặn
Khi một hành động khớp với một mẫu mối đe dọa đã biết (ví dụ:gửi thông tin xác thực đến một URL độc hại, chạy lệnh phá hoại), Norton AI Agent Protection chỉ cần chặn hành động đó.
Norton AI Agent Protection hoạt động trên các công cụ như Claude Code, Cursor và OpenClaw. Nó được hỗ trợ trên Windows và sắp có hỗ trợ cho Mac.
Bắt đầu với Norton AI Agent Protection
Để bắt đầu sử dụng Norton AI Agent Protection, bạn chỉ cần đăng ký Norton 360 đang hoạt động. Nếu bạn đã là khách hàng, bạn có thể kích hoạt nó từ trang tổng quan của mình. Điều hướng đến Bảo mật> Bảo mật nâng cao> Máy tính. Sau đó, nhấp vào Thêm biện pháp bảo vệ cho nền tảng tác nhân AI của bạn.
Hãy dấn thân vào thế giới mới đầy thú vị của các tác nhân AI, được hỗ trợ bởi một lớp tin cậy và bảo mật giúp bạn luôn nắm quyền kiểm soát.
Câu hỏi thường gặp
Bảo vệ tác nhân Norton AI là gì?
Norton AI Agent Protection là một tính năng bảo mật mới trong Norton 360, cung cấp tính năng giám sát và giám sát thời gian thực các hành động của tác nhân AI trên thiết bị của bạn. Nó chặn các mối đe dọa và tạm dừng các hành động đáng ngờ để bạn xem xét.
Norton AI Agent Protection hợp tác với những tác nhân AI nào?
Norton AI Agent Protection hiện hỗ trợ Claude Code, Cursor và OpenClaw, cùng với các hoạt động tích hợp bổ sung đã được lên kế hoạch.
Norton AI Agent Protection hỗ trợ những nền tảng nào?
Norton AI Agent Protection hoạt động cho khách hàng Norton 360 trên Windows và sắp có hỗ trợ cho Mac.
Norton AI Agent Protection phát hiện các mối đe dọa như thế nào?
Norton AI Agent Protection sử dụng hơn 300 quy tắc phát hiện trên nhiều lớp để xác định các mối đe dọa trong thời gian thực, với công cụ cốt lõi của nó chạy cục bộ trên thiết bị của bạn. Nó phân tích các lệnh, tệp và mã để gắn cờ hành vi nguy hiểm và khả năng rò rỉ thông tin xác thực, kiểm tra các URL dựa trên thông tin về mối đe dọa của Norton để chặn các trang web lừa đảo và độc hại, đồng thời xác minh các công cụ mà tác nhân của bạn cài đặt để phát hiện các gói giả mạo hoặc đáng ngờ.
Tôi có cần đăng ký riêng cho Norton AI Agent Protection không?
Không. Tất cả khách hàng của Norton 360 đều có quyền truy cập vào Norton AI Agent Protection khi phiên bản này đang ở giai đoạn thử nghiệm. Khả năng đủ điều kiện của gói có thể thay đổi sau giai đoạn thử nghiệm beta và các tính năng bổ sung được phát triển.
AI Agent Protection có làm chậm các công cụ AI của tôi không?
Không. Các hành động an toàn được tiến hành mà không bị gián đoạn hoặc chậm lại. Chỉ những mối đe dọa đã được xác nhận mới bị chặn và các hành động đáng ngờ sẽ bị tạm dừng. Quy trình làm việc của bạn luôn suôn sẻ.