프롬프트 캐싱

프롬프트 캐싱이란 무엇일까? — AI API 비용을 줄일 때 자꾸 나오는 이유

작성자:
프롬프트 캐싱이란 무엇일까? — AI API 비용을 줄일 때 자꾸 나오는 이유

프롬프트 캐싱은 왜 OpenAI, Claude, Gemini 같은 AI API 이야기에서 자꾸 등장할까요? 이번 글에서는 프롬프트 캐싱이 무엇인지, 왜 비용과 속도 이야기에 함께 붙는지 짧고 쉽게 정리해봅니다.