반응형
250x250
Notice
Recent Posts
Recent Comments
Link
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | 7 |
| 8 | 9 | 10 | 11 | 12 | 13 | 14 |
| 15 | 16 | 17 | 18 | 19 | 20 | 21 |
| 22 | 23 | 24 | 25 | 26 | 27 | 28 |
| 29 | 30 | 31 |
Tags
- AWS
- sample
- docker
- elasticsearch
- Git
- error
- Linux
- unity
- MSSQL
- 영어
- s3
- 구글
- JS
- 엘라스틱서치
- API
- Kibana
- 설정
- Python
- MySQL
- logstash
- mariadb
- JavaScript
- ChatGPT
- ssh
- Ai
- 유니티
- build
- Windows
- nodejs
Archives
- Today
- Total
목록로그스테시 (1)
가끔 보자, 하늘.
logstash tcp로 데이터 전송 시 손실없는 데이터 전달 흐름 설계
비지니스 로직에서 logstash로 tcp를 바로 데이터를 전송한다면 아래와 같은 흐름으로 설계가 될 것입니다. 이 경우 logstash 혹은 elasticsearch에 문제가 있을 경우 바로 데이터 손실이 발생할 수 있습니다. logstash와 elasticsearch의 문제 발생 혹은 점검 중 데이터 손실이 발생하지 않도록 전송할 데이터를 일시적으로 혹은 일정 기간 동안 보관했다가 logstash와 elasticsearch가 정상화 되었을 때 다시 전달할 수 있도록 아래와 같이 만들어 보겠습니다. 임시 저장소로는 Redis를 사용하고, 데이터 전송 흐름을 제어하기 위해 nodejs로 간단한 agent를 만들어 사용해 보겠습니다. 전달받은 로그는 모두 JSON 포멧의 텍스트로 가정합니다. const h..
개발 이야기/DB, 데이터분석, AI
2020. 1. 15. 10:19