Ngày 16 tháng 4 năm 2026, 15:00 EDT
Oluwademilade là người đam mê công nghệ với hơn năm năm kinh nghiệm viết. Anh gia nhập nhóm MUO năm 2022 và bao phủ các chủ đề bao gồm công nghệ tiêu dùng, iOS, Android, trí tuệ nhân tạo, phần cứng, phần mềm, và an ninh mạng. Ngoài viết tại MUO, công trình của anh xuất hiện trên HowtoGeek, Cryptoknowmics, TechNerdiness, và SlashGear.
Oluwademilade học tại Đại học Ibadan ở Nigeria, lấy bằng y khoa từ Trường Y. Xuất sắc trong dịch vụ công, Oluwademilade được vinh danh với danh hiệu Đại sứ Hành động Toàn cầu bởi một tổ chức sinh viên liên kết với Liên Hợp Quốc. Anh nhận danh hiệu này tại Kuala Lumpur, Malaysia, năm 2020 để ghi nhận nỗ lực tạo tác động toàn cầu tích cực.
Trong thời gian rảnh, Oluwademilade thích thử ứng dụng AI mới và tính năng, khắc phục sự cố công nghệ cho gia đình và bạn bè, học ngôn ngữ lập trình mới, và đi đến những nơi mới bất cứ khi nào có thể.
Mỗi lần bạn gửi prompt đến ChatGPT, Gemini, và các loại, nó đi qua internet, đến một server ở đâu đó, và trở thành một phần của hệ thống bạn không thực sự thấy. Sự đánh đổi đó thường đáng giá vì lý do mô hình đám mây nhanh hơn, thông minh hơn, và dễ dùng hơn.
Nhưng chạy một mô hình ngôn ngữ nhỏ cục bộ trên điện thoại của tôi thay đổi những gì tôi dùng AI cho. Trải nghiệm riêng tư hơn, và đôi khi thực tế hơn tôi mong đợi. Nó không mạnh như AI đám mây, nhưng đối với một số thứ, nó thực sự là công cụ tốt hơn.
Đây là những cách hữu ích nhất tôi đã dùng LLM cục bộ trên điện thoại của mình.
Tôi dùng nó như một đối tác tư duy
Cho những câu hỏi tôi không muốn rời khỏi điện thoại
Credit: Oluwademilade Afolabi / MakeUseOf
Có một loại câu hỏi nhất định khiến bạn ngần ngại trước khi gõ vào ChatGPT hoặc thậm chí Google. Không vì nó không phù hợp, mà vì nó đủ cá nhân mà gửi nó đến server gắn với tài khoản của bạn không cảm thấy tốt. Điều được coi là "quá cá nhân" sẽ khác nhau từ người này sang người khác, nhưng dường như mọi người đều có đường vẽ vô hình đó.
Đó là những câu hỏi tôi bắt đầu mang đến mô hình cục bộ thay vào đó. Cuộc trò chuyện ở lại trên phần cứng của tôi, và nếu tôi muốn thêm thận trọng, tôi có thể lật điện thoại sang Chế độ Máy bay và có một cuộc trò chuyện thực sự air-gapped. Lúc đó, nó thực sự chỉ là bạn và mô hình, không có kết nối với thế giới bên ngoài.
Điều này thay đổi cách tôi dùng AI. Tôi sẵn sàng suy nghĩ to lớn hơn, test ý tưởng nửa vời, hoặc hỏi những câu hỏi tôi thường giữ cho mình.
MNN
Tôi đổ ghi chú lộn xộn vào nó
Và lấy lại một chút cấu trúc
Credit: Oluwademilade Afolabi / MakeUseOf
Tôi ghi nhiều ghi chú, và thẳng thắn, hầu hết chúng lộn xộn. Bao gồm transcript speech-to-text lặp lại chính nó, bullet point không bối cảnh, suy nghĩ nửa chừng có ý nghĩa hoàn hảo lúc đó và không có chút nào sau. Quy trình làm việc cũ của tôi liên quan đến nhiều nhìn chằm chằm, xáo trộn dòng, và chậm chạp cố gắng tái tạo những gì tôi muốn nói.
Bây giờ tôi dán những brain dump đó thẳng vào mô hình cục bộ và nhờ nó tổ chức. Nó có thể kéo ra luồng suy nghĩ, tìm ra thứ tôi đang xoay quanh, và trả về thứ gì đó sạch hơn để xây dựng. Không phải tất cả được đánh bóng, nhưng đủ mạch lạc để tiến lên.
Điều này hoạt động đặc biệt tốt cho ghi chú cảm thấy quá thô để gửi đâu đó. Vì mọi thứ ở lại trên thiết bị, tôi không ngần ngại dán vào vật liệu có tên thật, số liệu, hoặc bối cảnh cá nhân. Như tôi nhắc trước, không có sự tạm dừng tinh thần về nơi văn bản đang đi, vì nó không bao giờ rời khỏi máy. Đó chính xác là lý do tôi chuyển mọi thứ sang AI cục bộ và ngừng gửi tài liệu của tôi lên đám mây.
Tôi chạy kiểm tra code nhanh
Khi tôi chỉ cần kiểm tra logic sanity
Logic độc quyền, công cụ nội bộ, config đặc thù khách hàng — đây là nhiều tình huống nơi dán code vào mô hình đám mây là ý tưởng xấu, bất kể điều khoản dịch vụ hứa hẹn gì. LLM cục bộ chạy trên điện thoại của tôi đã trở thành dự phòng nhẹ khi tôi xa laptop. Cũng như có một vài cách thú vị dùng LLM cục bộ với công cụ MCP trên desktop, tôi có thể mô tả lỗi, dán một hàm nhỏ, hoặc chỉ yêu cầu giải thích tiếng Anh đơn giản về cái logic một đoạn đang làm trực tiếp từ điện thoại.
Nó không thay thế IDE thích hợp, không gần được, nhưng nó lấp đầy khoảng trống. Điều này hoạt động tốt nhất với đoạn nhỏ, như vài trăm dòng tối đa. Trong phạm vi đó, ngay cả mô hình on-device khiêm tốn cũng có khả năng giải thích logic, phát hiện lỗi rõ ràng, hoặc gợi ý cách tiếp cận sạch hơn.
Tôi dùng nó như gia sư ngôn ngữ áp lực zero
Luyện tập không streak, điểm số, hay áp lực
Credit: Oluwademilade Afolabi / MakeUseOf
Ứng dụng ngôn ngữ dựa trên đám mây thường cảm thấy hơn như game di động hơn công cụ học tập. Chúng theo dõi streak, đẩy bạn với thông báo, và rắc quảng cáo để giữ bạn engaged. LLM cục bộ không làm cái nào trong đó.
Tôi đã dùng nó để luyện tiếng Pháp và Tây Ban Nha theo cách tự do hơn. Lấy cảm hứng từ thủ thuật dùng Kindle và ChatGPT làm đường tắt học ngôn ngữ mới, tôi có thể hỏi câu hỏi ngữ pháp khó xử, yêu cầu kịch bản roleplay, hoặc chỉ trò chuyện thoải mái mà không lo sai lầm. Không hệ thống điểm số và không cảm giác bị đánh giá.
Vì nó chạy cục bộ, nó cũng hoạt động ngoại tuyến. Tôi có thể luyện tập trên chuyến bay, Wi-Fi khách sạn chập chờn, hoặc bất cứ nơi kết nối không đáng tin cậy. Điều đó làm cho việc nén các phiên ngắn dễ dàng hơn mà không cần lập kế hoạch quanh kết nối.
Tôi trỏ camera vào thứ gì đó và hỏi...
Đó là cái gì?
Credit: Raghav Sethi/MakeUseOf
Một số mô hình cục bộ có thể xử lý hình ảnh cũng như văn bản (chúng thực sự được gọi là mô hình đa phương thức), điều đó mở ra một bộ thực tế sử dụng. Tôi thường dùng chúng để tóm tắt whiteboard, diễn giải ghi chú viết tay, và trích xuất điểm chính từ ảnh nhanh.
Nó cũng hữu ích cho tình huống hàng ngày. Tôi đã chụp nhãn nguyên liệu để kiểm tra lại chất gây dị ứng, chụp bao bì sản phẩm để hiểu thuật ngữ không quen, và chụp ảnh cây chỉ để nhận dạng thô sơ. Không cái nào trong này yêu cầu kết nối internet khi mô hình chạy hoàn toàn trên thiết bị.
Kết quả không luôn hoàn hảo. Mô hình nhỏ có thể hallucinate chi tiết, đặc biệt khi ảnh mờ hoặc lộn xộn. ngay cả vậy, nó thường đủ tốt cho bối cảnh nhanh hoặc ý kiến thứ hai, thường là tất cả những gì tôi cần.
Một mô hình nhỏ hơn, nhưng một loại hữu ích khác
MNN Chat, được phát triển bởi Alibaba như một dự án mã nguồn mở, đã trở thành go-to của tôi cho loại tác vụ này vì nó nén hiệu suất ra khỏi phần cứng di động tốt như thế nào. Nó đơn độc chứng minh rằng bạn có thể (và nên) chạy một LLM nhỏ trên điện thoại Android của mình.
Đó nói, chạy LLM cục bộ trên điện thoại của bạn không phải thay thế cho AI đám mây. Mô hình lớn hơn vẫn có lợi thế khi nói đến gánh nặng, suy luận phức tạp, coding, nghiên cứu sâu, tất cả những đó. Nhưng đó không thực sự là điểm; mô hình cục bộ lấp đầy vai trò khác. Chúng riêng tư, luôn trong tầm tay, và khá hữu ích cho các tác vụ nhỏ, hàng ngày.