Groq + Chainlit + Ollama

깃헙 최종 코드

https://github.com/normalstory/GroqPDFFastChatbot-t1

1. GroqChat sign-up, key발급

   GroqCloud

2. 가상환경 설정( *groq-t1 는 본인이 만들고자하는 임의의 이름)

   python -m venv groq-t1

   

3. 가상환경 실행

   • 맥 : source groq-t1/bin/activate

     

   • 윈도우 : groq-t1\\bin\\activate

   • (*종료는 모두 동일 : deactivate)

4. 필요한 LB 설치(의존성 DI Dependency Injection 관리)

   • pip install -r requirements.txt

5. ollama에 임베딩 모델 추가

   • ollama pull nomic-embed-text

     nomic-ai/nomic-embed-text-v1 · Hugging Face

     Nomic

     Nomic Embed: Training a Reproducible Long Context Text Embedder

6. 실행하기

   • chainlit run [app.py](<http://app.py/>)

     Overview - Chainlit