[프로젝트] 2. API Rate Limiter 도입 - Spring Cloud Gateway
·
Project/Optimization
트래픽 제한을 고려하게 된 이유오늘은 지난번에 소개 드린 "올봄" 프로젝트의 2. API Rate Limiter 도입을 진행해보려고 한다.이번에 개선할 프로젝트인 AI 기반 장년층 라이프 케어 서비스 "올봄"에서는 챗봇, 지도, ToDo, 게임, 일자리 총 5가지 기능이 있다.이 중에서도 챗봇 기능에선  Langchain을 사용하여 LLM의 한 종류인 GPT-4 기반의 챗봇을 제공한다.사용자들은 LLM 기반의 챗봇을 통해 일상 대화, 노인 편의 기능 및 유용 정보를 제공 받을 수 있다.   올봄은 장년층의 삶에 활기를 불어넣자는 목적으로 기획된 공익 서비스로, 현재까진 별도의 비즈니스 모델이 없다.서비스 규모가 좀 더 커진다면 장년층을 대상으로 한 수익화 방안을 모색할 계획이 있지만, 지금까지는 수익화 ..
_은선_
'Project/Optimization' 카테고리의 글 목록