개발 이야기/인프라 구축 및 운영
-
EC2 인스턴스 관리를 위해 사전 작업들개발 이야기/인프라 구축 및 운영 2021. 9. 8. 12:05
>> EPEL(Extra Packages for Enterprise Linux) 저장소 활성화하기 https://aws.amazon.com/ko/premiumsupport/knowledge-center/ec2-enable-epel/ >> 원격접속을 위한 키 발급 및 설정 EC2는 기본적으로 생성 시 발급한 공개키를 사용하여 원격접속 할 수 있도록 설정되어 있습니다. EC2에 키 페어를 설정하는 방법은 아래와 같습니다. EC2 생성 전에 키 페어로 가서 ... "키 페어 생성" 버튼을 눌러 ppk를 생성합니다. 이때 비번 설정은 없으니 참고하세요. EC2 기본 설정을 완료 후 시작을 누르면 키 페어 설정 화면이 나옵니다. 여기서 새로 생성할 수도 있으며 생성된 키 페어를 설정할 수 있습니다. 키 페어가 변..
-
Elasticsearch snapshot - AWS S3 에러개발 이야기/인프라 구축 및 운영 2021. 6. 17. 11:16
신규 노드를 추가하면서 elasticsearch에 repository-s3 plug-in 설치 하는걸 잊어 버렸더니 아래와 같은 에러가 발생하기 시작했습니다. { "snapshot" : { "snapshot" : "snapshot_name", "uuid" : "vQeYKiYaTaq0rOiGXbjQEQ", "version_id" : 7110099, "version" : "7.11.0", "indices" : [ "my_index" ], "data_streams" : [ ], "include_global_state" : true, "state" : "PARTIAL", "start_time" : "2021-06-09T05:57:10.373Z", "start_time_in_millis" : 16232182303..
-
Metricbeat 설치 및 Kibana 연동개발 이야기/인프라 구축 및 운영 2021. 5. 27. 12:20
8 버전부터는 Kibana의 Stack Monitoring이 기존 방식으로 지원하지 않는다고 메세지가 떠서 Metricbeat를 설치해 Monitoring 설정을 진행했습니다. Self-managed(On premise)로 운영중인 세 대(172.31.1.10 ~ 12)의 Elasticsearch의 모니터링을 위해 별도 시스템 혹은 기존 시스템에 metricbeat를 설치하여 모니터링 한다고 가정합니다. 그리고 시스템 로그는 추가하지 않게 설정해 보겠습니다. Metricbeat는 실행을 위해 root 권한이 필요합니다. 1. 설치 > curl -L -O https://artifacts.elastic.co/downloads/beats/metricbeat/metricbeat-7.11.0-linux-x86_6..
-
linux 환경 변수 세팅하는 방법개발 이야기/인프라 구축 및 운영 2021. 5. 17. 11:45
주로 윈도우나 맥을 사용하다보니 환경 변수 세팅하는데 별로 신경을 안썼는데 리눅스에서는 거의 사용해 본 적이 없어 이번에 정리를 해봤습니다. elasticsearch node를 재가동 할 일이 있었는데 시스템 재기동 후 jdk 폴더를 못 찾는 경우가 발생했습니다. openjdk를 포함했고 설치하면서 초기 설치 시 세팅이 되는 것으로 아는데... 의아했지만 모두들 ES 정상화를 기다리고 있어 일단 바로 세팅하기로 했습니다. elasticsearch(7.x 이상)에 포함된 jdk는 elasticsearch폴더안에 jdk 폴더에 포함되어 있습니다. /etc/profile 에 환경 변수를 세팅할 수 있으며 jdk 폴더 경로를 아래와 같이 추가했습니다. > vi /etc/profile . . . export JA..
-
mariadb(mysql) 이중화 구성개발 이야기/인프라 구축 및 운영 2021. 4. 8. 19:04
이전에 클러스터 구축에 대한 내용을 정리했는데, 오늘은 이중화 구성을 정리해 보겠습니다. 클러스터로 구성하는게 이중화 구성 보다는 많은 장점이 있다고 생각하지만 쓰임새에 따라 필요한 경우도 있어서 정리를 해봤습니다. 이중화를 구성하는 여러 방법들이 있지만 여기서는 가장 심플한 구성의 이중화를 정리해 보겠습니다. 지금부터 master db를 M, slave db를 S라고 지칭하겠습니다. Replication 절차 mariadb(mysql)은 이중화 과정을 살펴보면 M에 event가 발생하면 M은 S와 복제를 위해 생성해둔 binary log file에 DB업데이트와 동시에 기록을 해둡니다. 그리고 S는 자신이 M의 binary log 몇 번째 위치의 데이터를 마지막으로 가져왔는지 기록했다가 M의 binar..
-
윈도우 Logstash 에서 Kinesis 연동하기개발 이야기/인프라 구축 및 운영 2021. 3. 31. 17:57
일반적으로 linux에서 logstash를 운영하지만 테스트를 위해 windows에서 실행해 봤습니다. AWS 계정 설정 c:\users\사용하는계정\.aws에 config , credentials 파일을 생성합니다. config파일에는 아래와 같이 default resion을 설정합니다. [default] region = ap-northeast-2 credentials 파일에는 kinesis에 접근 가능한 인증정보를 삽입합니다. [default] aws_access_key_id = access_key_id_from_iam_account aws_secret_access_key = access_key_id_from_iam_account kinesis 플러그인 설치 logstash 플러그인 툴로 아래와 같이..
-
Jenkins 및 Jenkins 콘솔에서 한글 깨짐 현상 수정개발 이야기/인프라 구축 및 운영 2021. 3. 24. 10:05
윈도우에서 Jenkins 운영할 때 Slack 혹은 email로 결과 전송을 할 때 한글이 깨지는 경우가 발생합니다. 최신 버전에서는 확인된 적이 없지만 혹시 발생한다면 환경변수에 encoding 관련 설정을 추가하면 됩니다. Jenkins에서 빌드 과정 중 bash를 통해 획득한 정보들을 전송할 때 한글이 깨지는 경우가 발생합니다. 예를들어 git의 commit message를 확인하기 위해 shell command를 통해 텍스트를 확인할 때 깨지는 경우가 있는데요. Jenkins 실행 과정에 encoding 설정을 추가해야 합니다. jenkins.xml 파일을 열어 arguments -Dfile.encoding=UTF8 옵션을 추가 후 jenkins를 재실행해야 합니다. 즐거운 하루 보내세요. :)
-
windows + Jenkins + Bonobo git server+ slack개발 이야기/인프라 구축 및 운영 2021. 3. 23. 17:14
github나 gitlab 으로 CI/CD를 구축하는건 다들 큰 문제는 없으실 겁니다. 이번에 windows에 jenkins, bonobo git으로 자체 git 서버를 구축해서 사용하여 CI/CD 구축하려니 걸림돌이 여럿 있어 정리해 보았습니다. 더보기 아래 내용은 windows 10 / Jenkins(2.277.1) / Bonobo Git Server (6.5.0) / git (2.31.0) 를 사용해 진행했습니다. 이 글에 포함된 예제의 목표 시나리오는 다음과 같습니다. 1) 개발자가 'master'라고 명명한 브랜치에 push를 하면 최신 코드를 받아 ssh를 통해 서비스 노드로 전송 2) 마지막 commit message를 환경변수에 임시 저장 3) slack의 지정한 채널로 저장한 메세지를 전..