개요최근 LLM API를 활용한 프로덕트 개발이 폭발적으로 증가하면서, Streamlit을 사용해서 서비스를 만드시는 분들이 크게 늘어난 것 같습니다. 그런데 다른 분들의 프로젝트를 보다보니 Streamlit 애플리케이션 하나에 로직을 넣는 경우가 많이 보였고, 대다수의 튜토리얼 코드에서도 API 호출, 데이터 처리, UI 렌더링까지 모든 것이 하나의 'py'파일에 작성하는 경우도 자주 보였습니다. 이럴 경우, 유지보수나 안정성 측면에서 불안정하지만 이를 알려주는 자료가 많지 않은 것 같다는 생각을 했습니다. 그래서 FastAPI를 백엔드로, Streamlit을 프론트엔드로 하는 분리형 아키텍처를 만들어보고, docker를 활용해 컨테이너를 올려볼 수 있게 코드를 만들어보고자 했습니다. 그래서 이번 글..

개요지난 5월, CursorAI를 활용한 '바이브 코딩'으로 비트코인 자동매매 시스템을 만들어 3개월간 운영해 본 경험담과 수익률을 공유하고자 합니다.프로젝트 배경올해 초, 여러 개인적인 문제들이 해결되며 투자에 관심을 가지고 있었습니다. 때마침 구독하던 '조코딩' 님의 강의를 듣게 되었고, 이를 제 방식으로 발전시켜볼 수 있겠다는 생각이 들었습니다. 특히 당시 Cursor를 활용한 '바이브 코딩'과 데이터 파이프라인 공부를 위해 Airflow에 관심이 있었기에 개발과 학습을 병행할 수 있는 좋은 기회라고 생각해 프로젝트를 진행하게 되었습니다.프로젝트 목표해당 프로젝트의 목표는 다음과 같았습니다LLM을 이용해서 코인 투자 자동화 시스템 구축LangGraph나 FastAPI 등 실무에서 활용해본 기술로 아..

들어가며 AWS 자격증을 따기 위해 미루고 미루다가 최근에, 퇴근 후 시간을 짬짬이 모아 AI Practitioner 자격증을 취득하게 되었다. 해당 자격증은 Associate나 Specialty를 따기 위한 디딤발의 개념으로 신청해서 보고자 했다. 현재 직무도 AI 쪽이기 때문에 없는 것보다는 낫겠다는 생각도 있었기도 했지만, AWS는 자격증을 하나 취득하면 다음 시험 응시료를 50% 할인해주는 바우처를 준다. 그래서Specialty와 같은 비싼 (300 USD...한화로 40만...) 시험을 치르는 데 도움이 될 것이라고 생각해 응시하게 됐다. 실제 AI Practitioner를 취득하기까지 어렵지 않았는데(오히려 쉬운 쪽) 시간을 써야겠다고 마음을 먹기까지가 더 어려웠던 것 같다. 그리고 당연히도..

들어가며이전 포스팅에 이어, 실제 MLflow 환경을 Docker로 구성해서 모델 실행 결과를 추적하고, 모델 레지스트리와 프롬프트 레지스트리를 관리하고, 이를 평가하는 기능을 구현해보도록 하겠습니다. 1. 로컬 MLFlow 서버 올리기 (docker)MLflow를 Docker를 사용해서 로컬 서버(내 컴퓨터) 환경에 올려보도록 하겠습니다. (Docker 환경이 구성이 되어있다고 가정하고 진행하도록 하곘습니다. Docker를 잘 모르시는 분들은 다음 포스팅을 참고해주세요) 다음 docker pull 명령어를 통해 이미지를 받습니다 (3.x.x 버전 이상을 받아주세요)docker pull ghcr.io/mlflow/mlflow:v3.3.0컨테이너 서버를 올립니다Window 유저가 아니시라면 "MSYS_NO..

들어가며회사에서 LLM 관련 서비스를 구축하며, 프롬프트와 모델 관리, 로그 관리 등이 필요해졌습니다. 그러던 중 MLFlow가 3버전대로 올라오면서 서비스 LLMOps를 지원한다는 것을 알게 되었고, 회사에서는 Databricks를 사용하고 있기에 Managed MLFlow 환경이 구축되어 있어서 MLFlow로 LLMOps 환경으로 채택했습니다. 실제 사용해봤을 때, 충분히 활용할 수 있을 정도로 기능이 많이 업데이트되었기에 해당 내용을 정리하고, 공유하면 좋을 것 같아서 포스팅을 진행하게 되었습니다.MLFlow란? 우선, MLFlow를 처음 접하시는 분들을 위해 간단하게 알아보고 가겠습니다. MLFlow는 머신러닝(ML) 모델 개발의 전체 수명주기를 관리하고 간소화하기 위한 오픈소스 플랫폼입니다. 좀..