iNote

생각을 기록하면 오래 남습니다.

AI 어시스턴트

게스트님, 안녕하세요

무엇을 도와드릴까요?

  • 대화 기록이 없어요.

AI 어시스턴트

게스트님, 안녕하세요

무엇을 도와드릴까요?

  • 대화 기록이 없어요.
iNote
iNote
홈할 일일지독서나의 글글쓰기dev-guide

iNote

생각을 기록하면 오래 남습니다.

사이드프로젝트 기록

KURE를 활용하여 AI 하네스 만들기 단계

서동찬 (sdc337dc@gmail.com)

생성일 : 2026.10.07 13:45 / 수정일 : 2026.10.07 13:45

  • 개인 PC에 KURE를 다운로드한 뒤 Docker로 패키징해, Render 무료 플랜에 모델 파일(약 2.2 GB)을 올리지 못해도 로컬에서 실행하도록 한다.
  • Docker 컨테이너 안에서 FastAPI를 실행해 /embed 엔드포인트를 제공하고, KURE는 텍스트를 벡터로 변환하는 모델이다.
  • 사용자 앱이 NestJS (Render)를 통해 터널을 거쳐 개인 PC의 Docker 컨테이너에 텍스트를 보내면 KURE가 벡터를 반환하고, 이 벡터는 Neon에 저장된다.

Docker / 임배딩 KURE / pcvector


각 역할

  • 개인 PC에 KURE를 다운 받고, Docker로 올린다.

  1. 개인 PC : 모델을 실제로 실행할 컴퓨터 (자원 제공)

  • 임베딩 모델 파일이 커서 (약 2.2 GB) Render 무료 플랜에 올릴 수가 없다.

  • 그래서 개인 PC에서 실행하고, 그걸 Docker로 포장한다.

  1. KURE : 텍스트 -> 벡터 변환을 하는 모델 파일

  2. Docker : 모델을 돌리는 코드와 환경을 포장 및 실행하는 방법

  3. Fast API : 컨테이너 안에서 /embed 요청을 받는 창구

  • Dokcer는 올리는 것이 아니라, PC위에 서버 환경을 깔끔하게 실행하는 도구. Dokcer가 없어도 개인 PC에 KURE를 돌릴 수 있다. Docker는 그럴 환경 꼬임 없이 편하게 해주는 선택지 일뿐.


전체 그림

[사용자 앱] → [NestJS (Render)] → 터널 → [내 PC: Docker 컨테이너 { FastAPI + KURE }]
                                    ↓
                               [Neon: 벡터 저장]
  • KURE는 나의 개인 PC의 Docker 컨테이너 안에서 서버가 돌아간다. 앱은 그 서버에 텍스트를 보내 벡터를 받아쓴다.

목차

  • 각 역할
  • 전체 그림