[BricksAssistant] 디스코드 AI 챗봇 구축기 - (1) 기획

📌 Intro

안녕하세요!! Brickstudy 김민준입니다.

 

Brickstudy 모임을 운영하면서 모임이지만, 주말을 공유회를 제외하고 각자의 프로젝트 진행을 하기 때문에 본인이 진행하는 프로젝트에 대한 고민을 나누거나 아이디어를 공유하거나 코드 리뷰를 하는 등 누군가가 함께 이야기하면 좋을만한 것에 대한 아쉬움이 존재합니다.

 

이러한 고민을 실제 모임원들 간의 대화를 확대하는 등으로 진행하면 좋지만, 현실적인 이유(시간 등)로 어려움이 있습니다.

 

이를 어떻게 해결할지 고민하는 과정에서 생성형 AI(ChatGPT, Claude 등)를 활용해서 프로젝트 진행 어시스턴트를 만들어 보는 보면 좋을 것 같다는 생각을 해보았습니다.

 

아래 내용은 초기 기획안으로 실제 개발에 들어갈 다음주부터 구체화될 예정입니다.

 

💡 Background

- 생성형 AI를 활용한 Brickstudy Assistant에 고려할만한 기능과 필요성을 아이디에이션

 

 

1. 기존 Web 환경의 생성형 AI 활용의 문제점

A.  생성형 AI 연결성 부족

• 실제 신규 프로젝트, 개발 과정에서 생성형 AI 검색을 많이 사용하지만, 해당 내용 자체가 개인 한명당 1회성으로 조회되며, 지식이 남겨되지 않음
• 특히, 생성형 AI에서 제공하는 웹을 사용할 경우 이전에 검색한 내역의 History를 찾기 어렵고, 결국 새롭게 처음부터 검색해야하는 불편함이 존재

▼ 검색 내역을 찾기 어려움

 

B. 공유의 불편함

• 기존 생성형 AI 검색의 경우 개인을 위한 것이기 때문에 해당 부분 공유를 위해서는 직접 복사해서 전달해야한 불편함이 존재

 

C. 프로젝트에 특화된 LLM 사용의 어려움

• 프로젝트 진행에 따라 여러 대화내용과 고민사항들이 쌓이게 될텐데, 이 것을 반영한 LLM을 기존 웹환경에서 적용이 어려움

 

2. Brickstudy Assistant(BricksAssistant)의 필요성

A. 프로젝트와 생성형 AI의 접근성을 높일 필요가 있다.

• 기존의 웹 상에서 사용하는 생성형 AI를 프로젝트의 대화가 오고가는 디스코드 상에서 사용할 수 있도록 하여 프로젝트와 생성형 AI 연결성 확대와 공유의 불편함 문제를 해결

B. 프로젝트에 특화된 LLM을 적용할 필요성이 있다.

• 프로젝트의 대화내용을 프롬프트? RAG?을 활용해서 프로젝트마다 특화된 LLM을 사용할 있도록 해 문제 해결

 

3. BricksAssistant 구현에 고려할 사항

1. 디스코드 채널마다 채팅으로 사용할 수  LLM 기능 구현

• 채팅에서 태그?(@GPT) 별도 명령어를 통해서 LLM을 통해 질문이 가능해야 함.
• 해당 채팅의 응답은 디스코드 내 스레드로 답변할 수 있어야 함.
  (채팅마다 이전 채팅 내용을 기반으로 LLM에 요청하기 위해서)

 

2. 생성형 AI API 요청에 필요한 서버 구축

• 해당 채팅의 경우 상시로 문의하는 것이 아닌 필요할 때마다 요청하기 때문에 매번 서버를 켜놓는 것은 불편함.
• LLM에 문의를 줄 때만, 서버가 구동되도록 구현 → AWS Lambda

 

3. 프로젝트에 특화된 LLM 구축을 위한 저장소 필요

• BricksAssistant 고도화 단계 때, 이전 대화 내용을 기반으로 프로젝트에 특화된 LLM 개발이 필요
• 이를 위해 LLM과의 대화 내용을 기록할 수 있는 별도의 저장소가 필요
• 어떤 저장소가 가장 효과적일지 고민이 필요 함.

 

4. BricksAssistant 확장성 고려

• 현재는 디스코드를 기준으로 고려하고 있지만, 추후 확대될 가능성이 존재
• 특히, 코드리뷰 관점에서 LLM을 사용하는 회사도 점차 늘어가고 있고 우리도 적용해본 좋을 것으로 생각
• 이 외에도 공통으로 활용할 수 있는 툴을 확대 가능성도 고려!!

 

4. BricksAssistant 진행 일정

3주차 로 진행

1주차 : 기술 리서치 & 시스템 설계

2주차 : 서비스 구현 & 1차 테스트

3주차 : 서비스 개선

 

 

 

 

참고

https://github.com/deep-diver/LLM-As-Chatbot