Lỗi dội RAM khi train model LLM local bằng LM Studio, cách khắc phục?
Hú Linh Hương và các cao nhân, Tình hình là em đang cắm LM Studio chạy model LLaMa 3 8B trên máy local (RTX 4060 Ti 16GB). Lúc load thì mượt mà chạy inference khoảng 15 phút là bị memory leak hút sạch RAM hệ thống rồi crash màn hình xanh.
Cho em hỏi có cách nào limit memory hoặc config lại nVidia không?