Gemma AI của Google chạy cục bộ trên chiếc máy tính mini để thay thế ChatGPT

Tác giả Grok, T.Bảy 03, 2026, 08:45:11 CHIỀU

« Chủ đề trước - Chủ đề tiếp »

0 Thành viên và 1 Khách đang xem chủ đề.

Tôi đã chạy Gemma AI của Google trên một chiếc máy tính mini giá rẻ và nó đã xử lý được nhiều tác vụ ChatGPT hàng ngày của tôi hơn tôi mong đợi.

Các công cụ AI có thể hữu ích, nhưng chi phí sẽ nhanh chóng tăng lên khi bạn bắt đầu tìm hiểu các tính năng vượt ra ngoài phiên bản miễn phí. ChatGPT, Claude, Gemini và các nền tảng khác đều có những điểm mạnh riêng, nhưng việc trả tiền cho nhiều gói đăng ký chỉ để có được những tính năng tốt nhất của mỗi nền tảng không phải là điều mà hầu hết mọi người sẽ làm một cách dễ dàng.


Ngoài ra còn có khía cạnh về quyền riêng tư. Tôi rất cẩn thận về những gì mình dán vào bất kỳ chatbot AI dựa trên đám mây nào, đặc biệt nếu đó là những tác phẩm chưa được xuất bản, ghi chú cá nhân hoặc bất cứ thứ gì tôi không muốn lưu trữ trên máy chủ của người khác. Điều đó khiến tôi tự hỏi liệu AI cục bộ cuối cùng đã đạt đến điểm có thể xử lý một số tác vụ thực tế hàng ngày mà không cần phải gửi mọi thứ lên mạng hay chưa.

Tôi không kỳ vọng một chiếc máy tính mini giá rẻ có thể thay thế hoàn toàn ChatGPT, Claude hay Gemini. Tôi muốn biết liệu trí tuệ nhân tạo cục bộ đã đủ hữu ích để xử lý các loại công việc hàng ngày mà thường khiến tôi phải nhờ đến chatbot AI ngay từ đầu hay chưa: chỉnh sửa văn bản thô, sắp xếp ý tưởng, cải thiện tiêu đề và giúp biến những ghi chú rời rạc thành thứ gì đó dễ làm việc hơn.

1. Tôi đã mua một chiếc máy tính mini giá rẻ với cấu hình vừa đủ

Phần cứng rất quan trọng, nhưng tôi không muốn dự án này trở nên tốn kém. Nếu tôi muốn kiểm tra xem trí tuệ nhân tạo cục bộ có hữu ích trên phần cứng thông thường hay không, tôi không muốn xây dựng một máy tính chuyên dụng cho AI hoặc chi số tiền tương đương với một máy tính chơi game để chứng minh điều đó. Tôi muốn một thứ gì đó gần gũi hơn với những gì một người bình thường có thể mua: một máy tính Windows nhỏ gọn với bộ xử lý tốt, đủ RAM để xử lý một mô hình cục bộ lớn hơn và một mức giá không khiến toàn bộ thí nghiệm trở nên phi thực tế.

Cuối cùng, tôi đã tìm được một chiếc máy tính mini Peladn trên Facebook Marketplace đáp ứng được yêu cầu. Nó có bộ xử lý Ryzen 5 7640HS, card đồ họa Radeon 760M, 32GB RAM và ổ SSD 250GB, với khoảng 150GB dung lượng trống sau khi tôi thiết lập xong. Tôi đã trả chưa đến 300 đô la cho nó, điều này giúp cho phần còn lại của thí nghiệm dễ được biện minh hơn. Sau đó, tất cả những phần mềm khác mà tôi sử dụng đều là phần mềm miễn phí.

Mô hình WO4 cũng cho tôi một số không gian để thử nghiệm sau này vì nó có thể hỗ trợ GPU rời thông qua USB4 hoặc bộ chuyển đổi OCuLink. Tuy nhiên, điều đó sẽ thay đổi dự án khá nhanh chóng. Một GPU chuyên dụng có thể tăng tốc thời gian phản hồi và giúp việc tạo các mô hình cục bộ lớn trở nên khả thi hơn, nhưng nó cũng sẽ làm tăng chi phí và khiến dự án này khác xa với mục tiêu thử nghiệm đơn giản, tiết kiệm chi phí mà tôi muốn thực hiện ở đây.

2. Việc cài đặt Gemma bằng Ollama dễ hơn tôi tưởng

Gemma có vẻ là người phù hợp nhất cho loại thử nghiệm này. Phần mềm của dự án đơn giản hơn nhiều so với tôi tưởng. Tôi đã cài đặt Ollama trên Windows 11 và ban đầu sử dụng PowerShell để tải xuống và xác nhận Gemma đang chạy. Tôi đã thử một vài lệnh trong PowerShell, nhưng nhanh chóng chuyển sang ứng dụng Ollama, chọn Gemma 3 12B và sử dụng nó giống như một chatbot thông thường. Toàn bộ quá trình giống như cài đặt một tiện ích thông thường hơn là thiết lập một dự án trí tuệ nhân tạo, và đó chính xác là những gì tôi mong muốn trong thử nghiệm này.

Lý do tôi chọn Gemma?  Tôi chọn Gemma vì nó dường như là sự cân bằng phù hợp giữa khả năng và tính thực tiễn cho loại phần cứng này. Tôi không cố gắng chạy mô hình AI cục bộ mạnh nhất mà tôi có thể tìm thấy chỉ để chứng minh điều gì đó. Tôi muốn một thứ đủ mạnh để xử lý các tác vụ phân tích, chỉnh sửa và sắp xếp dữ liệu hữu ích, nhưng đủ thực tế để chạy trên một máy tính mini Windows nhỏ với card đồ họa tích hợp và 32GB RAM.

Một điểm hay khi sử dụng Ollama là Gemma không phải là lựa chọn duy nhất. Tôi đã xem xét một vài mô hình khác, và một phần sức hấp dẫn là việc biết rằng tôi có thể thử một cái khác sau này mà không cần phải xây dựng lại toàn bộ hệ thống. Tuy nhiên, đối với thử nghiệm này, Gemma có vẻ là lựa chọn phù hợp để bắt đầu vì nó mang lại sự cân bằng tốt giữa khả năng, sự đơn giản trong thiết lập và yêu cầu phần cứng.

Quá trình tải xuống ban đầu mất khoảng hai phút rưỡi, nhanh hơn nhiều so với dự kiến. Sau khi Gemma được cài đặt, các tác vụ thực tế tôi thử thường mất từ 5 đến 25 giây, tùy thuộc vào yêu cầu của tôi. Tốc độ này chậm hơn so với việc sử dụng chatbot AI dựa trên đám mây trên trình duyệt, nhưng tôi cũng không yêu cầu nó thực hiện bất kỳ tác vụ nào quá phức tạp. Đối với các tác vụ chỉnh sửa văn bản cơ bản, nghĩ ra tiêu đề và sắp xếp dàn ý, nó phản hồi đủ nhanh để tôi cảm thấy hữu ích.

3. Gemma đảm nhiệm những công việc nhỏ nhặt, thường ngày mà tôi cần đến nó

Tôi không cố gắng bắt nó làm mọi thứ. Sau khi chuyển từ PowerShell sang ứng dụng Ollama, tôi thấy Gemma dễ sử dụng hơn hẳn. Đối với các tác vụ thực tế mà tôi đã thử nghiệm, câu trả lời hầu hết là có, miễn là tôi giữ kỳ vọng thực tế và sử dụng khả năng phán đoán của riêng mình với bất kỳ kết quả nào mà nó trả về.

3.1. Chỉnh sửa bài viết của chính mình mà không làm mất đi giọng văn cá nhân

Điều đầu tiên tôi thử nghiệm là biên tập văn bản. Tôi đưa cho Gemma một vài đoạn văn và yêu cầu nó kiểm tra ngữ pháp, chính tả, dấu câu và cách diễn đạt vụng về mà không cần viết lại toàn bộ. Sự khác biệt đó rất quan trọng vì tôi không muốn một bản viết lại chung chung của AI. Tôi muốn nó giữ nguyên giọng văn trong khi vẫn phát hiện ra bất kỳ lỗi nào.

3.2. Đề xuất những tiêu đề hay hơn dựa trên bản tóm tắt hiện có

Tôi cũng yêu cầu Gemma nghĩ ra những tiêu đề dễ tìm kiếm dựa trên bản tóm tắt mà tôi đã viết sẵn. Đó là một bài kiểm tra hữu ích vì việc lên ý tưởng tiêu đề hiếm khi chỉ đơn thuần là chấp nhận đề xuất đầu tiên. Quan trọng hơn là đưa ra nhiều lựa chọn để bạn có thể xem góc nhìn nào mạnh mẽ nhất.

3.3. Chuyển ghi chú thành dàn ý rõ ràng hơn

Bài kiểm tra hữu ích nhất là yêu cầu Gemma lập dàn ý sơ lược. Tôi đã đưa cho nó những điểm chính mà tôi muốn đề cập và dặn nó không được thêm những luận điểm mới. Tôi chỉ muốn nó cải thiện thứ tự, nhóm các ý tưởng liên quan lại với nhau và đề xuất cấu trúc tiêu đề H2/H3 rõ ràng hơn.

3.4. Hiểu rõ dữ liệu và các mô hình

Gemma cũng có chỗ cho những công việc xử lý dữ liệu đơn giản, đặc biệt là khi thông tin đã có sẵn. Ví dụ, tôi có thể dán các ghi chú biên tập, dữ liệu dạng bảng tính hoặc quan sát giao thông và yêu cầu nó xác định các mẫu, tóm tắt những điểm nổi bật hoặc đề xuất những gì đáng để xem xét kỹ hơn.

3.5. Giải thích mã nguồn và ghi chú kỹ thuật

Một khía cạnh khác mà Gemma tỏ ra hữu ích là khả năng giải thích mã. Tôi sẽ không coi nó như một trợ lý lập trình hoàn chỉnh, đặc biệt là khi không có tài liệu trực tuyến hoặc truy cập web, nhưng nó có thể giải thích các đoạn mã không quen thuộc, mô tả những gì một ví dụ API đang làm, hoặc giúp tôi hiểu cấu trúc của một dự án nhỏ. Ứng dụng Ollama cũng hữu ích ở đây, vì việc dán các đoạn mã dài vào PowerShell khá vụng về, trong khi sử dụng ứng dụng lại giống với một chatbot thông thường hơn.

4. ChatGPT, Claude và Gemini vẫn chiếm ưu thế

Trí tuệ nhân tạo cục bộ rất hữu ích, nhưng nó không phải là công cụ phù hợp cho mọi công việc. Việc chạy Gemma cục bộ hóa ra lại hợp lý hơn tôi tưởng, nhưng nó cũng cho thấy rõ những hạn chế của AI cục bộ. Hạn chế lớn nhất là thông tin hiện tại. Một mô hình cục bộ thường hoạt động dựa trên dữ liệu huấn luyện được cố định tại một thời điểm nhất định, và trừ khi bạn kết nối nó với các công cụ khác, nó không có quyền truy cập trực tiếp vào internet. Điều đó có nghĩa là tôi sẽ không sử dụng nó cho bất cứ việc gì phụ thuộc vào thông tin mới nhất, chi tiết sản phẩm hiện tại, những thay đổi phần mềm gần đây, giá cả, tin tức nóng hổi, hoặc bất cứ điều gì mà câu trả lời có thể đã thay đổi kể từ khi mô hình được huấn luyện.

Các công cụ dựa trên đám mây vẫn có ưu thế hơn đối với những công việc nặng hơn. Gemma hữu ích cho việc giải thích mã nhanh và các câu hỏi kỹ thuật nhỏ, nhưng tôi vẫn sẽ sử dụng ChatGPT, Claude hoặc Gemini cho các dự án lập trình phức tạp, tài liệu lớn, bảng tính lộn xộn hoặc bất cứ thứ gì cần nhiều ngữ cảnh và sức mạnh xử lý hơn. Những nền tảng đó thường cung cấp các mô hình mạnh mẽ hơn, khả năng xử lý tệp tốt hơn, ngữ cảnh làm việc rộng hơn và quy trình làm việc được trau chuốt hơn. AI cục bộ hoạt động tốt nhất khi tôi giao cho nó một nhiệm vụ cụ thể mà tôi có thể trực tiếp đưa ra trước mặt nó. Khi công việc cần thông tin mới, suy luận sâu hơn hoặc các công cụ tiên tiến hơn, các nền tảng AI lớn hơn vẫn hợp lý hơn.

5. Trí tuệ nhân tạo cục bộ hiện nay đã khả thi, miễn là bạn biết cách áp dụng nó vào đúng vị trí

Gemma không biến chiếc PC mini giá rẻ của tôi thành một sự thay thế hoàn hảo cho ChatGPT, Claude hay Gemini, nhưng đó không phải là điều quan trọng nhất. Điều khiến tôi ngạc nhiên là cảm giác sử dụng rất bình thường sau khi mọi thứ được thiết lập xong.

Đối với những công việc nhỏ mà tôi đã thử nghiệm, như dọn dẹp văn bản, sắp xếp ghi chú, tạo ý tưởng tiêu đề và hiểu rõ thông tin tôi đã có sẵn, AI cục bộ đã đủ tốt để hữu ích. Nó vẫn có những hạn chế rõ ràng, đặc biệt khi một tác vụ cần thông tin hiện tại, nhiều sức mạnh hơn hoặc quy trình làm việc được trau chuốt hơn, nhưng điều này không còn cảm giác chỉ dành riêng cho các nhà phát triển hoặc những người có dàn máy AI đắt tiền nữa. Đối với tôi, một chiếc PC mini chạy Windows khiêm tốn và phần mềm miễn phí là đủ để khiến AI cục bộ trở nên thiết thực.