neptune 이슈 처리
- Posted at 2009/11/30 22:42
- Filed under project/neptune
12월부터는 neptune에서 그동안 처리 못하고 있던 이슈와 새로운 기능을 추가하는 것을 시작해야 할 것 같습니다.
12월에는 다음 내용을 처리할 예정입니다.
- 데이터 파일 압축 기능 제공: 한두군데 운영해 본 결과 저장되는 데이터량이 워낙 커서 압축 기능을 제공하지 않으면 스토리지 낭비가 너무 심한 것 같습니다. 그래서 최우선 순위로 작업할 예정입니다.
- 이미 만들어져 있는 Tablet을 n개로 분리하는 API 필요: 이 기능은 Uploader 기능과 밀접한 관계를 가지고 있는데 한번에 많은 데이터를 neptune에 입력하는데에는 Uploader가 제격인데 아직 기능적으로 많이 부족합니다. 이 이슈 처리하면서 Uploader의 개선 및 예제도 몇가지 만들 예정입니다.
일단 12월은 이정로 워밍업을 한 다음에 내년에는 본격적으로 다음 내용을 진행할 예정입니다.
- hive query와 neptune과의 연동: neptune에 저장된 데이터를 이용하여 분석 작업 등을 수행하거나 기존 파일을 neptune에 저장할 때 마다 매번 프로그램 만드는 것이 번거로운데 hive 등의 query와 비슷하게 qurery 기반으로 처리 가능하도록 만들 예정입니다.
이외에 시간 날때마다 버그 사항으로 나온 다음 건들에 대해서도 처리할 예정입니다.
- MinorComaction 후 Cache 컬럼 데이터 get 오류
- NeptuneMaster에서 metrics 활성화시 ArrayIndexBoundary Exception 발생
- MinorCompaction 작업 시 파일에 저장하지 못할 경우 기존 메모리로 rollback이 안됨
- put, get 처리 통계 화면 별도 분리
- 웹 메인화면에서 메모리 부족한 경우 표시
Posted by 김형준
- Response
- No Trackback , No Comment





