pdf RAG 챗봇 구성 스트림릿


Claude Code !


pdf 를 읽어오는 검색 후 멀티모달로 추가 내용을 사용자에게 전달함으로써 사용자가 관련 내용과 함께 자료 이미지를 함께 볼 수 있습니다.원래 코드 전부를 가져와서 쓰고자 했지만 길어지면 쓰던 글 자체가 한 방향을 못가는 성격이기 때문에 짧게 쓰고 글을 마치려고 합니다.

스트림릿으로 구현하는 것이 편하기에 그렇게 구현했지만, 정말 프론트엔드와 백엔드도 공부를 해야하는 것일지 고민이 있습니다. 현재는 일을 하고있지 않기에 시도는 좋습니다만, 그러면 어려운 것이 시간 관리 리스크와 실제로 도움이 될 지는 모르겠습니다. 다들 바이브코딩을 하고 있는데, 발전하는 AI 속도보다 확실히 제가 느리기에 기초는 따로 도서관 책 등으로 해야할까 싶습니다.


원래는 블로그 폼이 있는데, 만들어두고 깜박하니까 만든 의미가 없는 듯하네요;;
이번에 올리려던 글은 회고처럼 어떤 생각으로 만들었고 반성할 점과 자랑하고 싶은 점을 쓰려고 하는 것이기에 써 좀내려가도록 하겠습니다. 명령 프롬프트 중심의 글로 쓰겠습니다.


스스로 믿지 못하고 있어서 클로드에게 수준을 물어봤습니다. 다행이라는 생각이 들어요. 공부를 헛되게 한 것은 아니었나봐요!!

테슬라 멀티모달 RAG 기반 챗봇의 프롬프트

중점으로 두었던 점

명평 프롬프트, pdf RAG 한 부분 설명

이미지와 각 설명이 필요한 사람은 아무래도 소비자였던 차량 이용자일 것입니다. 그래서 저는 그 중점을 두고 명령 프롬프트를 썼습니다. 저라면 질문이 이럴 것입니다.

“길가다가 갑자기 엔진에서 소리가 나는 것 같은데 이거 괜찮은거야?”
“오토파일럿 기능을 쓰려고 하는데 주의할 점이 뭐야? 사고가 잘 안날까?”
“우리 애가 다치지 않게 한 쪽 도어 락을 걸고 싶은데 어떻게 해야해?”

저는 이 부분이 누가 어떤 내용을 찾아볼 것인지보다 조금 어렵게 다가왔습니다. 왜냐하면, 우선적으로 저는 차가 없고 차를 모릅니다. 그리고 동시에 이 내용이 사실인지 믿게하고 그림도 일정한 크기로 나오도록 하려면 어떻게 해야하지? 고민을 했습니다.

그 고민은 사실 30초도 안되어 풀리기는 했습니다. 제일 처음에 테스트시에는 너무 일렬로 쭉 크기 고정없이 내려와서 고민이었지만, 테이블 안에 넣어서 하나씩 나온다면 어느정도 중구난방은 아니겠다는 생각이 들어서 그렇게 적용했습니다.

이미지 외에 이게 어느 페이지에서 나왔으며 챗봇은 어느 부분을 참고해 낸 대답 임을 메타데이터에 참고한 페이지와 각 목록을 읽어 이용자에게 알려주도록 했습니다.

프롬프트 결과 출력은 어떤 문제에 대해 모르는 부분을 묻는 것이 초점이라 생각해서,

“아하! 그 부분이 궁금하시군요 {이모지} ~ 내용 ~ ‘참고한 페이지는 [ ] 입니다.'”

친절하며 친근한 느낌이 들게하며 사실 기반임을 보여주기 위한 의도를 명확히 하고자 참고한 페이지를 꼭 알려주도록 했습니다.

댓글 남기기