국문과 유목민

들어가며책을 읽다 보면, 그 당시에는 내용들에 감동하고 공감하며 그 안에서 얻은 지혜를 실천하는 사람이 되어야겠다고 다짐하게 됩니다. 하지만 시간이 지나면 처음의 다짐은 희미해지고, 결국 원래대로 돌아가는 제 모습을 보게 됩니다. 이런 것들이 아쉬워서 블로그에 읽었던 책을 정리해두기도 했지만, 이 또한 접근이 어렵다며 잊고 살게 됐던 것 같습니다.그러던 중 최근 예전에 정리했던 책 후기들을 보면서 제 모습을 돌아볼 수 있었습니다. 그러면서 제가 읽었던 책에서 인상깊었던 개념과 문구를 정리해 삶의 기준을 정하면, 흔들릴 때마다 이 기준을 자주 돌아보며 나아갈 방향을 확인할 수 있겠다는 생각이 들었습니다. 그래서 오늘은 예전에 정리했던 책의 내용들을 다시 보며 삶의 기준을 정해보고자 합니다.삶의 기준 요약해..

해당 글은 변성윤님께서 작성해주신 글인 '커리어 고민 상담을 하면서 많이 받은 고민 모음과 제 생각들'을 읽고, 제 생각을 정리한 글입니다. 들어가며3년 차 개발자가 된 지 6개월이 되었다. 지난 6개월 간 새로운 성장을 위해 멘토링이나 커피챗을 통해 다양한 사람들을 만나며 노력했지만, 최근 무기력함과 의욕 저하를 느끼고 있었다. 멍하게 시간을 보내는 일이 많아졌고, 스스로도 이유를 명확히 알지 못한 채 순식간에 3월이 되었다.그러던 중 성윤님께서 정리해주신 ‘커리어 고민 상담과 관련된 경험과 생각’에 대한 블로그 글을 접했다. 글을 읽으며 내 고민과 맞닿아 있는 부분이 많았고, 이를 통해 나 역시 내 고민을 정리해보면 좋겠다는 생각을 했다.고민의 이유성윤님은 많은 사람들이 고민하는 이유에 대해 다양한 ..

작년부터 개인용 서버를 만들어서, 공부나 개인 프로젝트에 사용하고자 하는 마음이 있었습니다. 그러나 여러가지 일로 차일피일 미뤄오다...이제는 진짜 해봐야겠다고 생각해 조사를 해봤습니다. 만들고자 하는 프로젝트는 주로 LLM API를 사용하는 서비스일 것이기에,  Router의 역할을 하는 서버만 필요해 비교적 저렴하게 만들 수 있을 것이라고 생각했습니다. 그러나 실제 계산을 해보니 AWS나 GCP 모두 지속적으로 사용할 시 생각보다 비용이 꽤 비쌌습니다. 그래서 고민하던 중 라즈베리 파이로 개인 서버를 구축할 수 있다는 것에 대해 알게 되었고, 라즈베리 파이(이하 RSP)로 서버를 구축하기로 결정했습니다. 결과는 16만원에 4CPU(쿼드코어) 8GB RAM을 가지는 서버를 구축할 수 있게 됐고, 이러한..

이번 설 연휴동안 Deepseek-R1 모델이 매우 큰 신드롬을 일으키면서, 저 또한 해당 모델을 사용해보고자 하는 마음이 생겼습니다. 그래서 이번에 runpod에 Deepseek모델을 vLLM으로 올려보면서 겸사겸사 해당 방법을 정리해서 공유해보고자 합니다.(해당 글은 빠르게 나만의 모델을 올려보고자 하는 독자를 대상으로 작성했습니다. deepseek-R1 모델에 대한 설명이나 runpod, vLLM에 대한 설명을 다루고 있지 않습니다.)Runpod DeployRunPod는 인공지능(AI) 및 머신러닝 애플리케이션을 위한 클라우드 컴퓨팅 플랫폼으로, 개인이나 작은 프로젝트 팀에서 GPU를 사용할 수 있게 해주는 서비스입니다. Runpod를 사용하기 위해서는 우선 Runpod에 들어가서 Pod를 depl..

LangChain이나 LangGraph는 LLM 서비스 구축을 쉽게 도와주는 프레임워크이다보니 현업에서도 많이 사용하게 됩니다. 특히, 프롬프트만을 조정함으로써 성능이 좋은 LLM 모델들을 우리 도메인에 피팅시켜 사용할 수 있는 것은 큰 매력 포인트인 것 같다. 그러나 프롬프트를 만드는 작업은 계속해서 텍스트를 수정하고, 교체하며 테스트해야하는 과정이 필수적이다보니, 형상관리가 필요하다고 생각만 했었습니다. 그러던 중 파일로도 프롬프트를 관리할 수 있다는 것을 알게 됐는데, 튜토리얼에도 파일을 로드하는 방법만 나와있을 뿐 어떤 변수가 포함되어야 하는 지와 같은 정보가 없어서 이를 한 번 정리해보면 도움이 될 수 있을 것 같아 글을 작성하게 되었습니다. 랭체인 프롬프트 템플릿LangChain 프롬프트에 ..