Posts

• ECS에서 EKS로 전환하며 LLM API Rate Limit 영향을 검증해봤다
  2026-06-1120 min read
  #LLM#EKS#HPA#Rate Limit#부하 테스트#k6
• 긴 평가 데이터를 LLM에 한 번에 보내면 안 될까
  2026-06-0418 min read
  #Spring#LLM#MapReduce#Token Limit#Java
• LLM 외부 의존성 장애를 격리하는 Provider Fallback과 NoOp 설계
  2026-05-2812 min read
  #Spring#LLM#OpenAI#Anthropic#Fallback
• Spring @Async 기반 LLM 사용량 저장과 요청 컨텍스트 분리
  2026-05-1415 min read
  #Spring#@Async#ThreadLocal#LLM#Observability
• 스프링 프로젝트에 Langfuse 도입하기 [2] — 프로덕션 안정화
  2026-05-0726 min read
  #Spring#LLM#Langfuse#Redis#동시성 제어#분산 락
• Spring 레거시 프로젝트에서 프롬프트 관리를 코드와 분리한 이유
  2026-04-3046 min read
  #Spring#LLM#Langfuse#프롬프트 관리#트레이싱
• 자연어 데이터 질의 시스템 개발 회고 [5]
  2026-04-2618 min read
  #Machine Learning#LLM#Agent#데이터 질의#멀티테넌트#테스트
• Text-to-SQL에서 암호화된 컬럼을 다루는 방법
  2026-04-2423 min read
  #LLM#Text-to-SQL#암호화#개인정보#실험
• 프롬프트를 고칠수록 LLM-as-a-Judge 점수는 올랐는데, 무엇이 효과가 있었을까
  2026-04-2013 min read
  #AI#LLM#프롬프트 평가#LLM-as-a-Judge#Langfuse
• 프롬프트에 `과장하지 마세요`라고 쓰면 정말 과장하지 않을까
  2026-04-1311 min read
  #AI#LLM#프롬프트 엔지니어링#제품 스펙#Claude
• LLM 기술 도입을 맡고, 사내 세션에서 AI 협업 기준을 함께 이야기해봤다
  2026-04-069 min read
  #AI#LLM#AI Fluency#사내 기술 세션#Anthropic Academy
• Self-Correction: 왜 3번까지만 재시도하는가 [4]
  2026-03-1032 min read
  #Machine Learning#LLM#Text-to-SQL#LangGraph
• Text-to-SQL 피드백 루프 설계 [3]
  2026-02-2014 min read
  #Machine Learning#LLM#Text-to-SQL#RAG#데이터 검증
• 100개 테이블에서 정확한 5개를 찾는 법 — RAG + Reranking [3]
  2026-02-0527 min read
  #Machine Learning#LLM#Text-to-SQL#RAG#성능 최적화
• 7+1개 에이전트가 하나의 SQL을 만드는 과정 [2]
  2026-01-1526 min read
  #Machine Learning#LLM#Text-to-SQL#RAG#LangGraph#성능 최적화
• Text-to-SQL 도입 전에 조사한 것들 [1]
  2025-12-1023 min read
  #Machine Learning#LLM#Text-to-SQL#RAG#데이터 검증