Được xuất bản vào ngày 16 tháng 4 năm 2026, 3:00 chiều EDT
Oluwademilade là một người đam mê công nghệ với hơn 5 năm kinh nghiệm viết lách. Anh gia nhập nhóm MUO vào năm 2022 và phụ trách nhiều chủ đề khác nhau, bao gồm công nghệ tiêu dùng, iOS, Android, trí tuệ nhân tạo, phần cứng, phần mềm và an ninh mạng. Ngoài việc viết bài tại MUO, tác phẩm của anh còn xuất hiện trên HowtoGeek, Cryptoknowmics, TechNerdiness và SlashGear.
Oluwademilade theo học tại Đại học Ibadan ở Nigeria, lấy bằng y khoa của Trường Cao đẳng Y khoa. Xuất sắc trong lĩnh vực phục vụ cộng đồng, Oluwademilade được một tổ chức sinh viên liên kết với Liên hợp quốc vinh danh với danh hiệu Đại sứ hành động toàn cầu. Anh nhận được danh hiệu này tại Kuala Lumpur, Malaysia, để ghi nhận những nỗ lực của anh trong việc tạo ra tác động tích cực toàn cầu vào năm 2020
Trong thời gian rảnh rỗi, Oluwademilade thích thử nghiệm các ứng dụng và tính năng AI mới, khắc phục sự cố công nghệ cho gia đình và bạn bè, học ngôn ngữ lập trình mới và đi du lịch đến những địa điểm mới bất cứ khi nào có thể.
Mỗi khi bạn gửi lời nhắc tới ChatGPT, Gemini và những thứ tương tự, nó sẽ di chuyển trên internet, đến máy chủ ở đâu đó và trở thành một phần của hệ thống mà bạn không thực sự nhìn thấy. Sự đánh đổi đó thường đáng giá vì mô hình đám mây nhanh hơn, thông minh hơn và dễ sử dụng hơn.
Nhưng việc chạy một mô hình ngôn ngữ nhỏ cục bộ trên điện thoại của tôi đã thay đổi mục đích sử dụng AI của tôi. Trải nghiệm này riêng tư hơn và đôi khi thực tế hơn tôi mong đợi. Nó không mạnh bằng AI trên nền tảng đám mây, nhưng đối với một số thứ nhất định, nó thực sự là công cụ tốt hơn.
Đây là những cách hữu ích nhất mà tôi đã sử dụng LLM cục bộ trên điện thoại của mình.
Liên quan
Tôi sử dụng nó như một đối tác tư duy
Đối với những câu hỏi tôi không muốn rời khỏi điện thoại của mình
Nhà cung cấp dịch vụ: Oluwademilade Afolabi / MakeUseOf Có một loại câu hỏi nhất định khiến bạn phải tạm dừng trước khi nhập câu hỏi đó vào ChatGPT hoặc thậm chí là Google. Không phải vì nó không phù hợp mà vì nó mang tính cá nhân đến mức việc gửi nó đến một máy chủ gắn với tài khoản của bạn sẽ không cảm thấy tuyệt vời. Những gì được coi là “quá riêng tư” sẽ khác nhau ở mỗi người, nhưng dường như mọi người đều có ranh giới vô hình đó.
Thay vào đó, đó là những câu hỏi mà tôi đã bắt đầu chuyển sang mô hình địa phương. Cuộc trò chuyện vẫn diễn ra trên phần cứng của tôi và nếu tôi muốn thận trọng hơn, tôi có thể chuyển điện thoại của mình sang Chế độ trên máy bay và thực hiện một cuộc trò chuyện thực sự không có khoảng cách. Khi đó, thực sự chỉ có bạn và người mẫu, không có kết nối nào với thế giới bên ngoài.
Điều này thay đổi cách tôi sử dụng AI. Tôi sẵn sàng suy nghĩ thành tiếng hơn, thử nghiệm những ý tưởng còn dang dở hoặc đặt những câu hỏi mà tôi thường giữ cho riêng mình.
MNN
Tôi đổ những ghi chú lộn xộn vào đó
Và lấy lại một số cấu trúc
Nhà cung cấp dịch vụ: Oluwademilade Afolabi / MakeUseOf Tôi ghi chép rất nhiều, và thành thật mà nói, hầu hết chúng đều rất lộn xộn. Nó bao gồm các bản ghi từ giọng nói thành văn bản lặp lại chính chúng, các dấu đầu dòng không có ngữ cảnh, những suy nghĩ chưa hoàn thiện có ý nghĩa hoàn hảo vào lúc này và không có ý nghĩa nào sau đó. Quy trình làm việc cũ của tôi liên quan đến việc nhìn chằm chằm, xáo trộn các dòng xung quanh và từ từ cố gắng tái tạo lại ý tôi.
Bây giờ tôi dán thẳng những thông tin đó vào một mô hình cục bộ và yêu cầu nó sắp xếp chúng. Nó có thể rút sợi chỉ ra, tìm ra thứ tôi đang xoay quanh và trả lại thứ gì đó sạch sẽ hơn để xây dựng từ đó. Không hoàn toàn bóng bẩy nhưng đủ mạch lạc để tiến về phía trước.
Điều này đặc biệt hiệu quả đối với những ghi chú có vẻ quá thô sơ để gửi đi bất cứ đâu. Vì mọi thứ vẫn ở trên thiết bị nên tôi không ngần ngại dán tài liệu có tên thật, số liệu hoặc bối cảnh cá nhân. Như tôi đã đề cập trước đó, không có sự tạm dừng tinh thần nào về việc văn bản sẽ đi đâu vì nó không bao giờ rời khỏi máy. Đó chính xác là lý do tại sao tôi chuyển mọi thứ sang AI cục bộ và ngừng gửi tài liệu của mình lên đám mây.
Tôi chạy kiểm tra mã nhanh
Khi tôi chỉ cần tỉnh táo kiểm tra logic
Logic độc quyền, công cụ nội bộ, cấu hình dành riêng cho khách hàng - đây là rất nhiều tình huống trong đó việc dán mã vào mô hình đám mây là một ý tưởng tồi, bất kể điều khoản dịch vụ hứa hẹn điều gì. LLM cục bộ chạy trên điện thoại của tôi đã trở thành một giải pháp dự phòng nhẹ khi tôi không sử dụng máy tính xách tay của mình. Cũng giống như có một số cách thú vị để sử dụng LLM cục bộ với các công cụ MCP trên máy tính để bàn, tôi có thể mô tả lỗi, dán một chức năng nhỏ hoặc chỉ yêu cầu giải thích bằng tiếng Anh đơn giản về hoạt động của một đoạn logic trực tiếp từ điện thoại của tôi.
Liên quan
Nó không phải là sự thay thế cho một IDE thích hợp, thậm chí không đóng được, nhưng nó lấp đầy những khoảng trống. Điều này hoạt động tốt nhất với các đoạn nhỏ hơn, tối đa là vài trăm dòng. Trong phạm vi đó, ngay cả những mẫu máy khiêm tốn nhất trên thiết bị cũng có khả năng giải thích tính logic, phát hiện những lỗi rõ ràng hoặc đề xuất các phương pháp tiếp cận rõ ràng hơn.
Tôi sử dụng nó như một gia sư ngôn ngữ không áp lực
Luyện tập không thành tích, không điểm số hay áp lực
Nhà cung cấp dịch vụ: Oluwademilade Afolabi / MakeUseOf Các ứng dụng ngôn ngữ dựa trên đám mây thường có cảm giác giống trò chơi di động hơn là công cụ học tập. Họ theo dõi các chuỗi, nhắc nhở bạn bằng các thông báo và đưa vào quảng cáo để thu hút bạn. LLM địa phương không làm điều đó.
Tôi đã sử dụng nó để thực hành tiếng Pháp và tiếng Tây Ban Nha theo cách tự do hơn. Lấy cảm hứng từ thủ thuật sử dụng Kindle và ChatGPT làm lối tắt để học một ngôn ngữ mới, tôi có thể hỏi những câu hỏi ngữ pháp khó xử, yêu cầu các tình huống nhập vai hoặc chỉ tổ chức các cuộc trò chuyện thông thường mà không lo mắc lỗi. Không có hệ thống tính điểm và không có cảm giác bị đánh giá.
Vì nó chạy cục bộ nên nó cũng hoạt động ngoại tuyến. Tôi có thể luyện tập trong chuyến bay, trên Wi-Fi của khách sạn hoặc bất cứ nơi nào kết nối của tôi không đáng tin cậy. Điều đó giúp bạn dễ dàng tham gia các phiên ngắn mà không cần lên kế hoạch về kết nối.
Tôi hướng máy ảnh vào đồ vật và hỏi...
Đó là cái gì vậy?
Nhà cung cấp dịch vụ: Raghav Sethi/MakeUseOf Một số mô hình cục bộ có thể xử lý hình ảnh cũng như văn bản (chúng thực sự được gọi là mô hình đa phương thức), mở ra một loạt ứng dụng thực tế. Tôi thường sử dụng chúng để tóm tắt bảng trắng, diễn giải các ghi chú viết tay và trích xuất những điểm chính từ những bức ảnh chụp nhanh.
Nó cũng hữu ích cho các tình huống hàng ngày. Tôi đã chụp nhãn thành phần để kiểm tra kỹ các chất gây dị ứng, chụp ảnh bao bì sản phẩm để hiểu các thuật ngữ không quen thuộc và chụp ảnh thực vật chỉ để nhận dạng sơ bộ. Không có điều nào trong số này yêu cầu kết nối Internet khi mô hình chạy hoàn toàn trên thiết bị.
Kết quả không phải lúc nào cũng hoàn hảo. Các mô hình nhỏ hơn có thể tạo ảo giác về các chi tiết, đặc biệt khi hình ảnh bị mờ hoặc lộn xộn. Mặc dù vậy, nó thường đủ tốt cho bối cảnh nhanh hoặc ý kiến thứ hai, thường là tất cả những gì tôi cần.
Một mô hình nhỏ hơn nhưng có tính hữu dụng khác
MNN Chat, được Alibaba phát triển như một dự án nguồn mở, đã trở thành mục tiêu của tôi cho những loại nhiệm vụ này vì nó giúp giảm hiệu suất của phần cứng di động tốt như thế nào. Nó chứng minh một cách đơn giản rằng bạn có thể (và nên) chạy một LLM nhỏ trên điện thoại Android của mình.
Điều đó nói lên rằng, việc chạy LLM cục bộ trên điện thoại của bạn không phải là sự thay thế cho AI trên đám mây. Các mô hình lớn hơn vẫn có lợi thế hơn khi đề cập đến công việc nặng nhọc, lý luận phức tạp, mã hóa, nghiên cứu sâu, tất cả những điều đó. Nhưng đó không thực sự là vấn đề; các mô hình địa phương đóng một vai trò khác. Chúng riêng tư, luôn trong tầm tay và khá hữu ích cho những công việc nhỏ hơn hàng ngày.