AI tutorial - IT technology blog

Hướng dẫn cài đặt và sử dụng LM Studio: Chạy AI model cục bộ với giao diện Desktop GUI

LM Studio là ứng dụng desktop cho phép bạn tải, chạy và quản lý các mô hình ngôn ngữ lớn ngay trên máy tính Windows, macOS và Linux — không cần Docker hay thiết lập terminal. Nó tích hợp sẵn server API tương thích OpenAI, nên code hiện tại của bạn có thể chuyển từ API trả phí sang suy luận cục bộ chỉ với một dòng thay đổi. Bài viết này hướng dẫn từng bước: cài đặt, thiết lập model, cấu hình server và kiểm tra hiệu suất.
AI tutorial - IT technology blog

Cách Chuyển Đổi Mô Hình LLM Sang Định Dạng GGUF với llama.cpp Quantization

Chạy các mô hình ngôn ngữ lớn cục bộ đòi hỏi phải thu nhỏ dung lượng file mà không làm giảm chất lượng. Hướng dẫn này đi qua toàn bộ pipeline llama.cpp: tải mô hình từ Hugging Face, chuyển đổi sang định dạng GGUF, và quantize xuống Q4_K_M hoặc các mức khác để phù hợp với phần cứng thông thường.