Cách chạy quy trình làm việc Perplexity AI hoàn toàn trên Mac của bạn: Hướng dẫn thiết lập cục bộ

Trong nhiều năm, lời hứa về “AI cục bộ” chỉ giống như một thú vui dành cho giới lập trình viên có máy chủ đặt dưới tầng hầm. Chuyển nhanh đến cuối năm 2026, cục diện đã thay đổi đáng kể. Với sự trưởng thành của Apple Silicon và sự trỗi dậy của các mô hình ngôn ngữ nhỏ (SLM) hiệu quả, việc chạy các quy trình nghiên cứu chất lượng cao theo phong cách Perplexity hoàn toàn trên Mac của bạn không chỉ khả thi nữa—mà còn thực tế, riêng tư và nhanh đến bất ngờ.

Nhưng hãy nói rõ: điều này không phải là thay thế hoàn toàn đám mây. Đó là về quyền kiểm soát. Đó là về việc trả lời các câu hỏi nhạy cảm mà không gửi dữ liệu của bạn đến máy chủ của bên thứ ba. Đó là về việc làm việc trên máy bay, trong đường hầm, hoặc đơn giản là giảm bớt sự mệt mỏi vì quá nhiều gói đăng ký.

Nếu bạn là người dùng Mac và đang tự hỏi làm thế nào để tái tạo trải nghiệm “công cụ trả lời” ngay trên máy cục bộ, hướng dẫn này sẽ đưa bạn qua các yêu cầu phần cứng, bộ phần mềm và những điều chỉnh quy trình làm việc cần thiết để vận hành nó.

Tại sao nên dùng cục bộ? Lý do cho nghiên cứu ngoại tuyến

Trước khi đi sâu vào thiết lập, điều quan trọng là phải hiểu tại sao bạn nên bận tâm. Dịch vụ đám mây của Perplexity AI rất tuyệt vời, nhưng đi kèm với những đánh đổi vốn có.

1. Ưu tiên quyền riêng tư: Khi bạn truy vấn một AI dựa trên đám mây, câu lệnh (và thường cả ngữ cảnh) của bạn rời khỏi thiết bị. Đối với nhà báo, luật sư hoặc nhà nghiên cứu xử lý dữ liệu bảo mật, việc chạy cục bộ đảm bảo đầu vào của bạn không bao giờ rời khỏi Mac.
2. Độ trễ bằng không cho các tác vụ đơn giản: Một khi mô hình được nạp vào bộ nhớ, suy luận có thể tức thì. Không có thời gian chờ mạng.
3. Dự đoán được chi phí: Bạn chỉ trả tiền cho phần cứng một lần. Không có phí API hàng tháng hay các gói đăng ký cần lo lắng, miễn là bạn nằm trong phạm vi năng lực của mô hình cục bộ.
4. Khả năng ngoại tuyến: Bạn có thể nghiên cứu khi không có kết nối internet. Điều này vô cùng giá trị cho du khách hoặc những người ở khu vực có kết nối không ổn định.

Tuy nhiên, AI cục bộ có những hạn chế. Bạn sẽ không có quyền truy cập vào trình duyệt web theo thời gian thực trừ khi bạn xây dựng một cầu nối phức tạp với trình duyệt của mình. Bạn cũng sẽ không có số lượng tham số khổng lồ như các ông lớn trên đám mây như GPT-5 hoặc Claude 4.5. Mục tiêu ở đây là hiệu quả và quyền riêng tư, không phải trí tuệ thô và không giới hạn.

Yêu cầu phần cứng: Máy Mac của bạn có đáp ứng được không?

Không phải mọi máy Mac đều như nhau đối với AI cục bộ. Nút thắt cổ chai hiếm khi nằm ở CPU; mà là Kiến trúc bộ nhớ hợp nhất (UMA) và các lõi GPU.

Điểm tối ưu: Apple Silicon (M1/M2/M3/M4)

Nếu bạn đang sử dụng máy Mac dựa trên Intel, bạn sẽ gặp khó khăn. Tăng tốc GPU không đủ cho các mô hình transformer hiện đại. Bạn cần Apple Silicon.

• Cấu hình tối thiểu khả thi: M1/M2 với 16GB RAM.
  • Bạn có thể chạy: Các mô hình nhỏ (3B–7B tham số) được lượng tử hóa xuống 4-bit.
  • Hiệu suất: Chấp nhận được cho các truy vấn ngắn. Có thể gặp khó khăn với các cửa sổ ngữ cảnh dài.
• Cấu hình được khuyến nghị: M3/M4 Pro/Max với 32GB–64GB RAM.
  • Bạn có thể chạy: Các mô hình cỡ trung (7B–13B tham số) với độ chính xác cao hơn (8-bit) hoặc các mô hình lớn hơn (30B+) được lượng tử hóa mạnh.
  • Hiệu suất: Trơn tru, phản hồi nhanh, có khả năng xử lý phân tích nhiều tài liệu.
• Cấu hình cho người dùng nâng cao: M4 Max/Ultra với 96GB+ RAM.
  • Bạn có thể chạy: Các mô hình lớn (70B+) với lượng tử hóa mạnh.
  • Hiệu suất: Chất lượng gần bằng đám mây cho nhiều tác vụ, mặc dù chậm hơn so với các mô hình nhỏ hơn.

Insight chính: RAM là vua. Nếu bạn muốn tải một mô hình 13B một cách thoải mái trong khi vẫn mở trình duyệt và IDE, bạn cần ít nhất 32GB bộ nhớ hợp nhất. 16GB là chật chội và thường dẫn đến hoán đổi bộ nhớ (swapping), làm giảm hiệu suất.

Ngăn xếp phần mềm: Xây dựng công cụ trả lời cục bộ của bạn

Để sao chép quy trình làm việc của Perplexity, bạn cần ba thành phần:

1. Trình chạy mô hình: Phần mềm tải và chạy LLM.
2. Mô hình: Bộ não AI thực sự (ví dụ: Llama 3, Mistral, Gemma).
3. Giao diện: Một UI cho phép bạn trò chuyện, tải tài liệu lên và quản lý lịch sử.

Bước 1: Chọn trình chạy mô hình của bạn

Có một số trình chạy mã nguồn mở tuyệt vời cho macOS. Chúng tôi khuyên bạn nên bắt đầu với một trong hai tùy chọn sau:

Tùy chọn A: Ollama (Dễ nhất)

Ollama đã trở thành tiêu chuẩn thực tế cho các LLM cục bộ trên Mac. Đây là một công cụ dòng lệnh với API đơn giản, nhưng nó cũng có các GUI do cộng đồng xây dựng.

• Ưu điểm: Cực kỳ dễ cài đặt (brew install ollama), thư viện khổng lồ các mô hình đã được lượng tử hóa sẵn, tiêu tốn ít tài nguyên.
• Nhược điểm: Không có giao diện người dùng (GUI) gốc (bạn cần một ứng dụng của bên thứ ba để trò chuyện).

Lựa chọn B: LM Studio (Giao diện người dùng tốt nhất)

LM Studio cung cấp một ứng dụng macOS gốc, được trau chuốt kỹ lưỡng. Nó xử lý việc tải mô hình, chọn mức lượng tử hóa và giao diện trò chuyện trong cùng một gói.

• Ưu điểm: Thân thiện với người dùng, trình quản lý mô hình trực quan, hỗ trợ nhúng cục bộ và RAG (Sinh văn bản tăng cường bằng truy xuất) ngay khi cài đặt.
• Nhược điểm: Tiêu tốn tài nguyên hơi nhiều hơn so với Ollama, kém linh hoạt hơn cho việc viết script.

Khuyến nghị: Hãy dùng LM Studio nếu bạn muốn trải nghiệm kiểu “Perplexity” với ít trở ngại nhất. Hãy dùng Ollama nếu bạn là nhà phát triển hoặc muốn tích hợp AI vào các script của riêng mình.

Bước 2: Chọn đúng mô hình

Bạn không thể chạy mọi mô hình. Bạn cần các mô hình được tối ưu hóa cho tuân thủ câu lệnh và RAG.

• Dành cho nghiên cứu chung: Llama-3.1-8B-Instruct hoặc Mistral-7B-Instruct-v0.3. Những mô hình này cân bằng, nhanh và tốt trong việc tóm tắt.
• Dành cho lập trình/kỹ thuật: DeepSeek-Coder-V2-Lite (nếu khả dụng cục bộ) hoặc CodeLlama.
• Dành cho ngữ cảnh dài (Phân tích tài liệu): Các phiên bản tương đương Gemini-1.5-Flash chưa hoàn toàn mở, nhưng Llama-3.1-70B (đã lượng tử hóa) hoặc Qwen-14B với các bản tinh chỉnh ngữ cảnh dài là những ứng viên mạnh.

Lưu ý: Luôn tìm các phiên bản “Instruct” của mô hình. Các mô hình cơ sở chỉ dự đoán token tiếp theo; các mô hình Instruct đã được tinh chỉnh để trả lời câu hỏi.

Bước 3: Triển khai RAG kiểu “Perplexity”

Điều kỳ diệu của Perplexity nằm ở khả năng trích dẫn nguồn. Ở môi trường cục bộ, bạn có thể xấp xỉ điều này bằng cách sử dụng Sinh văn bản tăng cường bằng truy xuất (RAG).

1. Chuẩn bị dữ liệu: Lưu các tệp PDF, Markdown hoặc ghi chú của bạn vào một thư mục cục bộ.
2. Nhúng (Embedding): Sử dụng một mô hình nhúng cục bộ (như nomic-embed-text trong Ollama hoặc LM Studio) để chuyển đổi các tài liệu của bạn thành các vector nhúng.
3. Cơ sở dữ liệu vector: Lưu trữ các vector nhúng này trong một kho vector cục bộ (LM Studio có tính năng “Local Server” tích hợp để xử lý việc này; hoặc dùng ChromaDB hay LanceDB nếu bạn tự viết code).
4. Truy vấn: Khi bạn đặt câu hỏi, hệ thống sẽ tìm kiếm trong kho vector cục bộ của bạn để lấy các đoạn liên quan, đưa chúng vào LLM làm ngữ cảnh và yêu cầu LLM trả lời chỉ dựa trên ngữ cảnh đó.

Điều này mô phỏng quy trình “tìm kiếm rồi trả lời” của Perplexity, nhưng với dữ liệu riêng tư của bạn.

So sánh: Quy trình làm việc cục bộ và trên đám mây

Để giúp bạn quyết định nên đầu tư thời gian và phần cứng vào đâu, dưới đây là một so sánh thực tế.

Ưu và nhược điểm của phương pháp cục bộ

Ưu điểm

• Toàn quyền kiểm soát: Bạn quyết định mô hình nào được sử dụng. Nếu một mô hình mã nguồn mở mới ra mắt, bạn có thể tải về trong vài phút.
• Không có bộ lọc kiểm duyệt: Các mô hình cục bộ thường có ít rào chắn an toàn hơn so với API đám mây, cho phép tạo ra các kết quả tinh tế hoặc sáng tạo hơn (sử dụng có trách nhiệm).
• Tích hợp: Bạn có thể kết nối AI cục bộ vào ghi chú Obsidian, VS Code hoặc các tập lệnh terminal một cách liền mạch.
• Bền vững: Không tốn năng lượng cho trang trại máy chủ cho các truy vấn cá nhân của bạn.

Nhược điểm

• Nặng về phần cứng: Quạt Mac của bạn sẽ quay nhanh. Thời lượng pin sẽ giảm trong quá trình suy luận nặng.
• Không có Internet trực tiếp: Bạn không thể hỏi “Giá cổ phiếu của Apple hiện tại là bao nhiêu?” trừ khi bạn xây dựng một công cụ tùy chỉnh để lấy dữ liệu và chuyển cho LLM.
• Giới hạn chất lượng: Bạn sẽ nhận thấy hiện tượng ảo giác và khả năng suy luận yếu hơn so với các mô hình đám mây hàng đầu, đặc biệt là với các câu đố logic phức tạp.
• Bảo trì: Bạn tự đóng vai bộ phận IT. Các bản cập nhật, lỗi mô hình và lỗi cấu hình là trách nhiệm của bạn.

Mẹo quy trình làm việc để đạt hiệu quả tối đa

1. Lượng tử hóa là chìa khóa: Luôn sử dụng các mô hình đã lượng tử hóa (Q4_K_M hoặc Q5_K_M). Một mô hình lượng tử hóa 4-bit sử dụng khoảng 40% bộ nhớ của mô hình độ chính xác đầy đủ với mức giảm chất lượng tối thiểu.
2. Giữ cửa sổ ngữ cảnh nhỏ: Các mô hình cục bộ gặp khó khăn với ngữ cảnh lớn. Hãy chia nhỏ tài liệu của bạn. Hãy đặt các câu hỏi cụ thể thay vì “Tóm tắt tệp PDF 100 trang này.”
3. Sử dụng System Prompts: Xác định một nhân vật (persona) chặt chẽ trong LM Studio/Ollama. Ví dụ: “Bạn là một trợ lý nghiên cứu ngắn gọn. Chỉ trả lời dựa trên ngữ cảnh được cung cấp. Nếu câu trả lời không có trong ngữ cảnh, hãy nói ‘Tôi không biết’.” Điều này giúp giảm thiểu hiện tượng ảo giác (hallucinations).
4. Kết hợp với Cloud: Sử dụng AI cục bộ để soạn thảo, tóm tắt ghi chú riêng tư và viết code. Sử dụng Perplexity Cloud cho tin tức nóng hổi và nghiên cứu rộng, không nhạy cảm.

Câu hỏi thường gặp

H: Tôi có thể chạy chính Perplexity AI cục bộ không? A: Không. Perplexity là một dịch vụ độc quyền. Tuy nhiên, bạn có thể chạy các mô hình mã nguồn mở (như Llama hoặc Mistral) thực hiện các tác vụ tương tự. “Quy trình làm việc kiểu Perplexity” đề cập đến phong cách trả lời câu hỏi kèm trích dẫn, điều mà bạn có thể tái tạo cục bộ bằng RAG.

H: Tôi có cần GPU chuyên dụng không? A: Không. Kiến trúc bộ nhớ hợp nhất của Apple Silicon cho phép CPU và GPU chia sẻ bộ nhớ một cách hiệu quả. Bạn không cần một GPU NVIDIA riêng biệt.

H: Mô hình nào tốt nhất cho Mac trong năm 2026? A: Đối với hầu hết người dùng, Llama-3.1-8B-Instruct (đã lượng tử hóa) cung cấp sự cân bằng tốt nhất giữa tốc độ và trí tuệ. Nếu bạn có RAM từ 32GB trở lên, hãy thử Mistral-7B hoặc Qwen-14B để có khả năng suy luận tốt hơn.

H: Có hợp pháp khi sử dụng các mô hình này cho mục đích thương mại không? A: Hãy kiểm tra giấy phép của từng mô hình. Llama có giấy phép cho phép sử dụng thương mại trong hầu hết các trường hợp (với một số hạn chế đối với các công ty lớn). Mistral và Gemma có các điều khoản riêng. Luôn xác minh giấy phép trước khi sử dụng đầu ra trong một sản phẩm thương mại.

H: Chi phí thiết lập là bao nhiêu? A: Phần mềm miễn phí (mã nguồn mở). Chi phí chính là chiếc Mac của bạn. Nếu bạn đã có một chiếc Mac dòng M với RAM từ 16GB trở lên, chi phí ban đầu của bạn là $0. Nếu bạn cần nâng cấp, hãy dự kiến chi từ $1.500–$3.000 cho một cỗ máy đủ mạnh.

Suy nghĩ cuối cùng

Việc chạy các quy trình làm việc kiểu Perplexity cục bộ trên Mac của bạn không phải là để đánh bại cloud; mà là để bổ sung cho nó. Đối với dữ liệu nhạy cảm, làm việc ngoại tuyến và các tác vụ thường xuyên khối lượng lớn, AI cục bộ là một công cụ mạnh mẽ, riêng tư và tiết kiệm chi phí.

Hãy bắt đầu nhỏ. Cài đặt LM Studio, tải xuống một mô hình 7B và thử tóm tắt một vài tài liệu của riêng bạn. Bạn sẽ nhanh chóng thấy được điểm mạnh của AI cục bộ và những lúc bạn vẫn cần đến cloud. Trong năm 2026, những người dùng AI thông minh nhất không chọn giữa cục bộ và cloud—họ sử dụng cả hai.