---
title: "Discussion on \"Nge-serve Model Sendiri dengan llama.cpp: GPU Offload, Cache, dan Jebakan Jawaban yang Nyangkut\" | Hashnode"
description: "Discussion on \"Nge-serve Model Sendiri dengan llama.cpp: GPU Offload, Cache, dan Jebakan Jawaban yang Nyangkut\". Menyajikan model GGUF pakai llama.cpp, cache jawaban di SQL, dan demo kenapa jawaban salah yang tersimpan tidak bisa hilang begitu saja."
url: "https://hashnode.com/posts/serving-llm-llamacpp-cache-jawaban-salah/6ab68ab0d4d10e9e6a0b69ad"
---

[Feed](https://hashnode.com/feed) /

Discussion

# [Nge-serve Model Sendiri dengan llama.cpp: GPU Offload, Cache, dan Jebakan Jawaban yang Nyangkut](https://shaka-ai.hashnode.dev/serving-llm-llamacpp-cache-jawaban-salah?utm_source=hashnode&utm_medium=feed)

Menyajikan model GGUF pakai llama.cpp, cache jawaban di SQL, dan demo kenapa jawaban salah yang tersimpan tidak bisa hilang begitu saja.

Sep 25 · 6 min read · shaka-ai.hashnode.dev  
Read the article

-   [#serving](https://hashnode.com/tag/serving)
-   [#llm](https://hashnode.com/tag/llm)
-   [#llama](https://hashnode.com/tag/llama)
-   [#cache](https://hashnode.com/tag/cache)

## Written by

[Muhammad Ariel Shakaramiro](https://hashnode.com/@arielshakaramiro)

@arielshakaramiro

  
[View profile](https://hashnode.com/@arielshakaramiro)

Newbie for AI Learning | Builder | Developer | AI Enthusiast

## Responses

Markdown supported · ⌘↵ to post

No responses yet.