랭체인을 사용하는 이유
ChatGPT 같은 애플리케이션을 개발할 때 단순히 대화만 하는 경우에는 OpenAI API 만으로 충분
랭체인이 필요한 경우는 LLM에 외부 지식, 계산 능력을 활용하게 하고 싶을 때 사용
FastAPI와 랭체인?
랭체인은 프레임워크로 간주
FastAPI도 프레임워크
FastAPI와 랭체인을 이용해서 프로젝트를 만든다면 2개의 프레임워크를 사용하는 것
FastAPI는 웹 프레임워크로서 API 엔드포인트를 정의하고 HTTP 요청을 처리함
랭체인은 자연어처리(NLP)작업을 위한 프레임워크로서 텍스트 분석, 생성 및 기타 NLP 관련 작업을 수행하는 역할
두 프레임워크를 함께 사용할 때 FastAPI는 클라이언트와의 인터페이스 역할을하고, 랭체인은 NLP 작업을 처리하는 백엔드 역할을 하게됨
예를 들어, 클라이언트가 텍스트를 전송하면 FastAPI가 이를 받아 랭체인에게 넘기고, 랭체인이 넘겨받은 텍스트로 처리한 결과물을 FastAPI가 클라이언트에게 반환하는 형식
랭체인이랑 FastAPI로 구현하고있었는데
근데 랭체인 공부하다보니까 langServer, langSmith 활용해서 구축해도 좋을 것 같다는 생각이..?
'오늘의 공부 & 기록' 카테고리의 다른 글
[Kubernetes] 쿠버네티스와 마이크로 서비스(Microservice) (0) | 2024.04.14 |
---|---|
[MQTT] 에러 해결 과정 정리 (0) | 2024.04.03 |
api 동시 요청 수 제한하는 방법 (0) | 2023.12.11 |
HTTP 상태코드 (0) | 2023.09.30 |
HTTP API설계 예시 (0) | 2023.09.30 |