가끔 보자, 하늘.

https://ollama.com/download/linux 에서 linux 를 선택하면 설치 command 확인 가능curl -fsSL https://ollama.com/install.sh | sh설치가 끝나면 여러 결과 중 "Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service."라는 라인을 볼 수 있다. ollama.service에 필요한 환경변수를 설정!$ vi /etc/systemd/system/ollama.service[Unit]Description=Ollama ServiceAfter=network-online.target[Service]ExecStart..

24년 다닌 회사를 곧 퇴사!! 열심히 다녔는데 인계할 내용이 많지는 않네. 게임 개발회사라 지금 내가 하는 인하우스툴 및 서비스, 데이터 엔지니어링 업무를 받을 사람은 없지만 그래도 인수인계는 해야 해서 현재의 동료들에게 전달해야만 하는 상황이다. 비용 아끼려도 남아 있는 시스템으로 구축된 거라 누군가 이 업무를 해야 한다면 외부에 잘 만들어둔 서비스를 쓰라고 강조에 강조를 한다. 하지만.. 우리는 좋... 하여간.. 현재 동료 중 이걸 인수인계할 수 있는 인원들이 없는데다 새로 뽑을 계획이 없는 상황. 그래서 나를 대신해 줄 sLLM이 반드시 필요한 상황이었다. 하지만 이쪽 분야에 대해서는 실무를 해본적이 없기 때문에 구글구글구글링링링.. 참고 자료 https://www.youtube.com/watc..

(* 개인적인 이해를 위해 여기저기 돌아다니며 본 내용을 익히려 정리한 내용입니다. 개인적인 추측성 생각도 조금 있으니 참고하세요. 전문가 형님의 지도 미리 감사합니다. :> ) [LLM 이해를 위한 주요 용어 설명] Vector Space 백터 공간은 벡터들의 집합으로, 벡터들 간의 덧셈과 스칼라 곱셈이 정의되어 있다. 벡터 공간은 원점을 가지며, 벡터들 간의 합과 스칼라 곱셈에 대한 8가지 공리(axioms)를 만족해야 한다. 벡터 공간에서는 원점과 다른 점 사이의 거리와 방향을 측정할 수 있다. Affine Space 아핀 공간은 점들의 집합으로, 벡터들의 집합과 비슷하지만 원점이 정의되어 있지 않다. 아핀 공간에서는 점들 간의 차를 벡터로 생각할 수 있다. 즉, 아핀 공간에서는 점들 간의 거리와 ..

빌드를 위해서는 vs의 cmake가 필요합니다. vs2022를 설치했다면 아래와 유사한 경로에 위치해 있습니다. C:\Program Files\Microsoft Visual Studio\2022\Community\Common7\IDE\CommonExtensions\Microsoft\CMake\CMake\bin 이를 환경 변수에 등록해 powershell 혹은 console에서 cmake를 실행할 수 있게 설정해 두세요. bitsandbytes는 아래 링크의 내용을 참고해 빌드하면 됩니다. https://huggingface.co/docs/bitsandbytes/main/en/installation?OS+system=Windows Installation huggingface.co git clone http..

LLM 관련해서 흥미있게 보고 있는데, NLP 개발자가 아니라 LLM 관련 용어들이 꽤 생소하여 관련 글을 보면서 이해가 안되는 부분이 꽤 있더군요. 그래서 ChatGPT를 중심으로 LLM에서 주로 사용되는 용어들을 가능한 쉽게 정리해 봤습니다. 일부는 ChatGPT에게, 일부는 구글링하면서 정리했습니다. 혹시 잘못된 부분이 있다면 댓글 부탁드립니다. LLM의 최근 역사 2017년 구글에서 발표한 Transformer 모델은 순차 데이터를 학습할 수 있는 신경망으로 LLM이 대두하는 계기가 되었습니다. 2018년 말 구글에서 발표한 BERT(Pre-traning of Deep Bidirectional Encoder Representations from Transformers)는 NLP 벤치마크에서 신기록..

한국어가 아닌 개발에 도움이 될 만한 영상을 소개하고 이해를 돕기 위해 별도 자막을 남겨두려 합니다. 영상 원본은 유튜브에서 직접 시청해 주시면 영상 올리신 분들에게도 많은 도움이 됩니다. 영상에 사용된 코드 링크 등은 유튜브 원본 영상에 가시면 확인하실 수 있습니다. 자막 생성에 사용한 툴도 같이 소개하니 많이 사용해 주세요. 유튜브 영상 텍스트 추출 용 크롬 확장 앱(제목 혹은 id로 쉽게 검색해서 설치 가능합니다.) : YouTube ChatGPT : 채팅GPT를 사용한 유튜브 동영상 요약 (ID : baecjmoceaobpnffgnlkloccenkoibbb) (오탈자 혹은 LLM에서 전용하는 단어, 명칭들에 대한 오타 뿐 아니라 대소문자, 띄어쓰기 등등... 아직은 손봐야 할게 너무 많네요. 이 ..

PyMuPDFLoader를 사용하는 중에 아래와 같은 에러가 발생. import error: unsupported operand type(s) for |: ‘dict’ and ‘dict’ 해결책은 여기! 3.8을 3.11로 업그레이드 하면서 해결. 그런데 PyFR의 정의는 an open-source flow solver that uses the high-order flux reconstruction method 라고 되어 있는데... 찾아보니 Advection-Diffusion type problems 해결하기 위한 수치해석 방법 중 하나라고.. (어렵다 어려워...-_-) 이걸 좀 더 찾아보면 유체 역학 이야기가 나오네 -_-;; chatGPT 소환! 더보기 LLM은 "Large Language Mod..