티스토리 뷰

이 프로젝트를 시작한 게 1년이 넘었는데 이제 블로그 글로는 마무리를 지으려고 합니다. 최종 결과물 사용 방법을 공유하려고요. 앞선 글을 읽으셨던 분들이 주신 문의도 많았고 한 번 정리할 필요가 있다고 느꼈습니다. 

처음 이 프로젝트의 시작은 ChatGPT를 슬랙에 연동하기 위해 2개의 Repository를 사용했는데요. 현재는 1개로 통합했습니다. 아래 링크만 사용하시면 됩니다.

https://github.com/jybaek/llm-with-slack

 

GitHub - jybaek/llm-with-slack: Connect LLM to Slackbot. Works via FastAPI

Connect LLM to Slackbot. Works via FastAPI. Contribute to jybaek/llm-with-slack development by creating an account on GitHub.

github.com

 

그리고 ChatGPT 뿐만 아니라 Google GeminiAnthropic Claude도 연결 가능한 상태로 개발해 뒀습니다. 필요에 따라 LLM과 모델을 바꿔서 사용하시면 됩니다. Claude의 경우 Google Vertex AI를 통해 구현됐습니다.

프로젝트 환경 변수에 대한 문의가 종종 있었는데 제가 넣어둔 설정을 그대로 공유합니다. 

        env:
        - name: slack_token
          value: xoxb-34000000000-495000000000-hixxxxxxxxxxxxxxx
        - name: gpt_model
          value: gpt-4o
        - name: openai_token
          value: sk-Og1xxxxxxxxxxxxxxxxxxxxxxxxxxxx
        - name: google_cloud_project_name
          value: gde-cloud-project
        - name: number_of_messages_to_keep
          value: '9'
        - name: gemini_model
          value: gemini-1.5-pro-001
        - name: enable_grounding
          value: 'True'

 

모든 값이 필수는 아닙니다. GPT-4o와 Gemini를 그날그날 바꿔가면서 사용하기 때문에 설정에는 모두 넣어놨습니다. 슬랙에 Request URL은 아래와 같아요.

끝에 붙어있는 claude 대신 gemini 혹은 gpt를 사용하실 수 있습니다

 

현재는 이미지 처리도 연동해 놨습니다. gpt, gemini, claude 셋 다 모두요. 모델에 따라 성능차이는 확실히 존재합니다. 이미지 생성도 추가했었는데 사용성이 떨어지길래 삭제했습니다. 언젠가는 function calling을 통해 다시 넣을지도 모르겠네요. 이 프로젝트는 구글 검색을 대신하는 용도로 쓰고 있기 때문에 이미지 생성은 필요가 없습니다. 한편 이미지 분석은 종종 유용합니다. 사람들이 언급하는 기술 도구(이미지만 있을 때)가 궁금할 때 사용하면 좋습니다. 뭐 구글 이미지 검색을 해도 되긴 하지만요. 아래처럼 갖고 노는 재미도 솔솔 합니다. 아래 예제를 살펴보세요.

사람이 봐도 잘 안보이는 글자를...

 

참고로 처리 가능한 이미지 크기는 최대 1MB로 제한해 뒀습니다. 개인 서버에서 사용 중이라 비용이 폭발하는 문제를 막기 위해서요. 프로젝트를 fork 하시는 분은 필요하면 환경변수(max_file_bytes)를 통해 늘리시면 됩니다. 

프로젝트는 계속 다듬고 개발하겠지만 블로그에 더 이상 언급은 안될 겁니다. 혹시 관심이나 질문이 있으신 분은 여기 코멘트 남겨주셔도 되고 GitHub으로 찾아오셔도 됩니다. 보통은 이틀 안에 답변 달아드립니다. 그럼 즐거운 코딩 하세요! :-) 

 

댓글
최근에 올라온 글
최근에 달린 댓글
글 보관함
Total
Today
Yesterday