오래된 SW 엔지니어의 평생 공부

지난 번에 구현한 Dify를 배포하고, Google AI Studio로 웹앱을 만드는 것이 2주차에 소개되었다.

Google AI Studio를 열고 Build를 선택하면 다음과 같은 창이 보이게 된다.

Dify API 가이드를 Prompt로 제공하기 위해서 Dify의 "Access API Reference"에 접근한다.

여기에 나오는 모든 내용을 텍스트 에디터에 넣고 마크다운 코드로 만든다. (``` ... ```)

Dify의 아래 메뉴를 통해서 API key를 획득한다.

이미지도 AI Studio에 전달하기 위해서 아래 화면 처럼 캡춰한다.

Build의 대화 창에 API Guide, 아래 Prompt와 API Key 그리고 캡춰한 이미지를 넣고 실행한다.

아래와 같이 테스트도 가능하고, 실재로 Google Cloud에 배포도 가능하다.

본 내용은 gpters 18기 중, Dify로 RAG를 구축하고 Chatbot 만드는 Study의 1, 2회 차의 내용 중 학습한 내용을 정리해 본다. 실습 위주로 화면 캡춰한 것들을 간단하게 설명한다.

우선 dify.ai에 접속하여 로그인을 하고 Explore에서 아래 Template를 선택해서 시작한다.

앱을 열게 되면 아래와 같이 보이게 된다.

두 번째 Knowledge Retrieval을 선택해서 Knowledge를 선택하면 되는데, 우리가 문서를 만들 것이 없어 비어 보일 수 있다.

문서가 비어 보일 때에는, 상단에서 Knowledge 메뉴를 선택하고, 문서를 등록하면 된다. 이 때 Preview Chunk를 눌러보면 문서가 어떻게 적절히 나뉘어 보이는지 확인이 가능하다.

문서가 등록된 상태에서 앱으로 돌아가서 Knowledge를 선택할 수 있게 된다. 

LLM에서는 MODEL에서 필요한 모델을 선택하고, CONTEXT에서는 Knowledge에서 선택한 것이 들어가도록 해준다.

이 상태에서 실행을 하게 되면, 문서에 있는 내용들을 물어 볼 수 있게 된다.