본문 바로가기

전체 글151

신규 프로젝트 [2] : 백엔드 레포 분리를 마치고 https://arin-nya.tistory.com/170 신규 프로젝트 [1] : MVP를 위한 백엔드 설계 및 구현https://arin-nya.tistory.com/168 1 설계부터 초기 구현까지 혼자 맡게 되었다.실제 내부 비즈니스 로직, 도메인 관련된 것은 제외하고 아키텍쳐만 서술한다. 우선 서버리스로 결정하" data-og-host="arin-nya.tiarin-nya.tistory.com저번 글에서 LLM 협업 환경을 위한 설계와 Cloud Run 분리를 위한 구조를 언급했었다.그때는 이렇게 빠르게 우선순위를 두고 진행하게 될 줄은 몰랐다.어느 정도 경계를 나눠두고 시작했기 때문에, 생각보다 쉽게 끝날 거라고 본 것도 있었다. 그래서 이번에는 기존처럼 하나의 레포 안에 백엔드 모듈들을 몰아.. 2026. 3. 23.
신규 프로젝트 [1] : MVP를 위한 백엔드 설계 및 구현 https://arin-nya.tistory.com/168 1 설계부터 초기 구현까지 혼자 맡게 되었다.실제 내부 비즈니스 로직, 도메인 관련된 것은 제외하고 아키텍쳐만 서술한다. 우선 서버리스로 결정하" data-og-host="arin-nya.tistory.com" data-og-source-url="https://arin-nya.tistory.com/168" data-og-url="https://arin-nya.tistory.com/168" data-og-image="https://blog.kakaocdn.net/dna/bmhgic/dJMb9hCZQL9/AAAAAAAAAAAAAAAAAAAAAGM_qS1eJpaop09a3F8TuPTfPtfxst410HbwTy98qWV9/img.png?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1774969199&allow_ip=&allow_referer=&signature=%2B8Kg3J5HlDku43N8CkT2c5YjZa8%3D 2026. 3. 13.
Cloud Run(Spring Boot) 배포 실패 트러블슈팅 정리 Cloud Run 사용해서 core 백엔드를 배포하려고 했는데 의외로 시간을 많이 잡아먹혔다.우선 가장 큰 문제는 local 환경변수들이 Cloud run에 적용이 안되었던것이고두번째로 큰 문제는 Cloud run 인스턴스가 Cloud SQL 접근 권한이 없어서 flyway가 실패하는 문제였다. 아래는 우리 지피티랑 리서치 하면서 해결하고 정리를 요청한 내용에 대한 산출물이다.컨닝페이퍼로 써야겠다.0) 상황 요약Cloud Run에 Spring Boot 컨테이너를 배포했지만 다음 에러로 Revision 생성이 실패하고 서비스가 Ready 상태가 되지 않음.Cloud Run 배포 실패 메시지:The user-provided container failed to start and listen on the por.. 2026. 3. 4.
신규 프로젝트 [0] : 초기 아키텍쳐 설계 이번에 이직을 하면서 신규 프로젝트의 0 -> 1 설계부터 초기 구현까지 혼자 맡게 되었다.실제 내부 비즈니스 로직, 도메인 관련된 것은 제외하고 아키텍쳐만 서술한다. 우선 서버리스로 결정하게 되었다.초기 스타트업이기에 무작정 EC2/c4a 인스턴스에 올리는건 여러가지 의미의 비용 부분에서 손해가 크다고 생각했다.그래서 docker image로 배포가 가능한 GCP Cloud Run 서비스를 사용하기로 했다. 코드 레벨에서 특정 클라우드 런타임에 강하게 종속되는 구조보다는 컨테이너 기반 실행 환경을 유지하는 것이향후 VM/GKE 마이그레이션 시 유리하다고 판단했다. Cloud Run 환경에서 Redis를 사용할 수 없는 것은 아니지만, MVP 단계에서 VPC 구성 및 상시 인프라 운영 부담을 줄이기 위해.. 2026. 2. 22.
open llm vtuber github repo 후기 결과물 캡쳐이다.생각보다 매우 만족스럽다.데스크톱에 오버랩해서 띄울수 있는 기능이 가장 마음에 든다.현재 상황에서 조금 아쉬운건지금 사용하는 모델이 Hugging Face에서 받은 Gemma2-9b-it-Q4-fp16 모델이라 mcp, Stream 지원이 안된다.OpenAI, Gemini API를 사용하면 조금 더 빠르고 퀄 좋게 사용 가능할 것 같다.뭔가 이렇게 띄워놓고 보니 파인튜닝에 대한 욕구가 샘솟는다. https://github.com/Open-LLM-VTuber/Open-LLM-VTuber GitHub - Open-LLM-VTuber/Open-LLM-VTuber: Talk to any LLM with hands-free voice interaction, voice interruption, an.. 2025. 11. 12.
Open-LLM-VTuber 라는 흥미로운 git repo 발견 https://github.com/Open-LLM-VTuber/Open-LLM-VTuber GitHub - Open-LLM-VTuber/Open-LLM-VTuber: Talk to any LLM with hands-free voice interaction, voice interruption, and Live2D takiTalk to any LLM with hands-free voice interaction, voice interruption, and Live2D taking face running locally across platforms - Open-LLM-VTuber/Open-LLM-VTubergithub.com 로컬 PC에 nero sama 처럼 llm이 내장된 live 2D를 띄울 수 있는 gi.. 2025. 11. 12.
석사 친구 시뮬레이터 튜닝 도와준 이야기 해당 전공에 대한 도메인 지식이 전무한 상태에서친구가 언구에 사용하는 시뮬레이터 튜닝 방법만 도와줬다.올바른 chat gpt 사용법 및 튜닝 전략에 대해 조언을 해줬다.텐서플로우 독학할때 습득한 지식들이 도움이 됐다.대강 알러준 튜닝 루틴은1. 순수 결과값 분석으로 각 피쳐들의 상관관계를 얻는다.2. 높은 상관관계를 가진 피쳐들에서 중요도 높은 피쳐를 뽑는다.3. Optuna 라이브러리 사용을 통해 최적화는 자동화 한다.이다.그런데 아무래도 석사 짬이 있어서인지1번 2번을 휴리스틱하게 금방금방 해내고 재밌다고 고맙다고 하더라.이제껏 해온것중에 버릴게 하나도 없구나 싶었다.슬 슬 휴식기를 마칠때가 되었나 싶기도 하다.나도 작업을 하고싶어졌다. 2025. 11. 5.
간만에 AWS 즐긴 이야기 간만에 AWS를 쓸일이 있었다.친구가 AWS로 애를 먹고있어서 지원사격을 해주는 일이었다.상황을 파악하고 조금 좋지 않은 상황임을 직감했다.일단 EC2 접근할 수 있는 iam은 있지만 key가 존재하지 않는 상황이었다.백업본조차 존재하지 않아 AWS 호스팅해주는 업체와 소통하여 다시 발급받았다.그리고 배포좀 많이 아쉬웠다.너무 많이 손대기는 또 그래서 배포 방법까지 갈아엎을수는 없었다.너무 전통적으로 scp 써서 zip 파일을 전송하고 압축해제 후 npm 빌드하는 방식으로 배포를 하고있더라....git도 안쓰고... 일회성 프로젝트, 배포라서 이게 맞는것같긴 한데... 그래도 조금 아쉬웠다. 이거랑 더불어 실제 소스코드가 RDS를 바라보고 있지 않던 문제도 있었는데 이건 소스코드 수정 + 업데이트 된 스.. 2025. 11. 4.
Agent에 LLM이 필요한 이유 우선 Rule 베이스로 하드코딩해서 Agent 자체의자연어 쿼리 > 툴 선택 > 툴 실행 > 리턴 반환 플로우를 익혀보기 위해 대충 후딱 코드를 작성하기 시작했다. 가벼운 계산기, 문자열에서 문자 뽑기 같은 간단한 툴들을 만들었다.이후 툴 선택을 위해 툴 대기열, 등록? 까지는 마쳤는데자연어 쿼리 > 툴 선택이 답이 없다.툴 선택까지는 어찌어찌 하면 된다.근데 이제 그 툴에 해당 툴들에 대한 파라미터는 어떻게 추출하지?...당장 계산기만 해도, 단순 사칙연산만 해도a랑 b를 더해줘, a+b는 뭐야?, a 더하기 B를 알려줘, a + b + c + d ...를 알려줘 등등예외케이스, alias가 많다. 이걸 다 if문으로 처리한들 자연어 쿼리에서 나오는 모든 케이스를 커버칠수가 없다.그렇다고 nlp를 쓰자.. 2025. 10. 11.

티스토리툴바