가끔 보자, 하늘.

24년 다닌 회사를 곧 퇴사!! 열심히 다녔는데 인계할 내용이 많지는 않네. 게임 개발회사라 지금 내가 하는 인하우스툴 및 서비스, 데이터 엔지니어링 업무를 받을 사람은 없지만 그래도 인수인계는 해야 해서 현재의 동료들에게 전달해야만 하는 상황이다. 비용 아끼려도 남아 있는 시스템으로 구축된 거라 누군가 이 업무를 해야 한다면 외부에 잘 만들어둔 서비스를 쓰라고 강조에 강조를 한다. 하지만.. 우리는 좋... 하여간.. 현재 동료 중 이걸 인수인계할 수 있는 인원들이 없는데다 새로 뽑을 계획이 없는 상황. 그래서 나를 대신해 줄 sLLM이 반드시 필요한 상황이었다. 하지만 이쪽 분야에 대해서는 실무를 해본적이 없기 때문에 구글구글구글링링링.. 참고 자료 https://www.youtube.com/watc..

(* 개인적인 이해를 위해 여기저기 돌아다니며 본 내용을 익히려 정리한 내용입니다. 개인적인 추측성 생각도 조금 있으니 참고하세요. 전문가 형님의 지도 미리 감사합니다. :> ) [LLM 이해를 위한 주요 용어 설명] Vector Space 백터 공간은 벡터들의 집합으로, 벡터들 간의 덧셈과 스칼라 곱셈이 정의되어 있다. 벡터 공간은 원점을 가지며, 벡터들 간의 합과 스칼라 곱셈에 대한 8가지 공리(axioms)를 만족해야 한다. 벡터 공간에서는 원점과 다른 점 사이의 거리와 방향을 측정할 수 있다. Affine Space 아핀 공간은 점들의 집합으로, 벡터들의 집합과 비슷하지만 원점이 정의되어 있지 않다. 아핀 공간에서는 점들 간의 차를 벡터로 생각할 수 있다. 즉, 아핀 공간에서는 점들 간의 거리와 ..

얼마 전 Kohya를 이용해 학습하는 메뉴얼을 사내에 뿌려보았으나 아무도 안씀. -_-a 이전 글을 보시거나 이미지 학습을 수행해 보신 분들은 아시겠지만 알아야 할 설정값이 너무 많았습니다. 툴 설치나 관리도 문제고... 이대로는 아무도 안쓸 것 같아 (#4에서는 colab으로 학습하는 방법을 로컬에서 사용할 수 있게 변경해서 다시 글을 올려보겠습니다. 라고 이미 계획은 있었지만 ) 그냥 실행파일 하나 돌리면 LoRA 파일이 생성되도록 다시 작업을 했습니다. 소스코드만 필요하신 분들은 깃헙에서 바로 코드를 확인하실 수 있습니다. 학습에 필요한 각종 파라미터의 상세한 설명은 #3에서 충분히 설명했으니 이곳에서는 windows os에 nvidia 그래픽 카드를 가진 시스템에서 손쉽게 학습할 수 있는 시스템을..

한국어가 아닌 개발에 도움이 될 만한 영상을 소개하고 이해를 돕기 위해 별도 자막을 남겨두려 합니다. 영상 원본은 유튜브에서 직접 시청해 주시면 영상 올리신 분들에게도 많은 도움이 됩니다. 영상에 사용된 코드 링크 등은 유튜브 원본 영상에 가시면 확인하실 수 있습니다. 자막 생성에 사용한 툴도 같이 소개하니 많이 사용해 주세요. 유튜브 영상 텍스트 추출 용 크롬 확장 앱(제목 혹은 id로 쉽게 검색해서 설치 가능합니다.) : YouTube ChatGPT : 채팅GPT를 사용한 유튜브 동영상 요약 (ID : baecjmoceaobpnffgnlkloccenkoibbb) (오탈자 혹은 LLM에서 전용하는 단어, 명칭들에 대한 오타 뿐 아니라 대소문자, 띄어쓰기 등등... 아직은 손봐야 할게 너무 많네요. 이 ..

#2에서 끝났는데 colab에서 gpu 사용 불가 방침이 결정되어 #2의 방식을 더 이상 사용할 수 없게 되었습니다. 대신 kohya로 LoRA 학습을 대신하는 방법을 기술합니다. web ui extension은 사용해보지 않아 추후 확인하면 정리해서 올려보겠습니다. https://github.com/bmaltais/kohya_ss 내용을 확인, 설치하세요. nvidia rtx 3060 12GB VRAM이상의 시스템에서 진행하시는게 좋습니다.( VRAM은 최소 8GB 이상이어야 합니다.) 아래 내용은 windows11, python 10, git이 설치된 환경을 기준으로 설명합니다. (* 이 예제에서는 라이센스 이슈, 원작자와 협의없이 이미지를 사용하지 않기 위해 공개된 일러스트를 사용해 학습 테스트를 ..

VAE(Variational Auto-Encoder) VAE는 결과물을 보정하는데 사용합니다. 상세한 원리는 이 링크에서! WEB UI에서 VAE를 설정하는 곳은 Settings 탭에 있습니다. (1) 에서 다운받은 VAE 파일을 설정할 수 있습니다. (2)의 옵션은 활성화 해두세요. 최근 나오는 모델들은 VAE를 포함하고 있을 수 있습니다. 애니메이션에서는 주로 두 가지가 사용됩니다. orangemix : https://huggingface.co/WarriorMama777/OrangeMixs/blob/main/VAEs/orangemix.vae.pt kl-f8-anime2 : https://huggingface.co/hakurei/waifu-diffusion-v1-4/blob/main/vae/kl-f8-..

저작권 문제로 말도 많지만 파인튜닝으로 사내 작가들의 일러스트를 학습시켜 사용한다면 괜찮지 않을까 하는 생각에 시도해 보았습니다. 이걸로 만들어서 바로 사용하지는 못하고 어느 정도 원작자의 리터칭을 거쳐야 완성본이 되기 때문에 초안 작성 및 포즈 스케치 정도로 사용하는게 적절하지 않을까 생각되네요. 이 글에서는 LoRA 혹은 DreamBooth와 ControlNet을 이용해 특정 한 캐릭터의 일러스트를 학습시키고 그 캐릭터가 다양한 포즈를 취한 결과물을 빠르게 생성할 수 있는 과정을 정리하겠습니다. 1. WEBUI 설치 우선 webui를 설치합니다. (stable diffution과 webui에 대한 기본적인 설명은 생략합니다. "목적"을 이루기 위한 과정에만 집중!!) 세팅 환경 - Windows 11..