neptune 이슈 처리

새로운 업무를 시작한지 3개월 남짓 지났네요...이제 업무 우선순위도 좀 파악되고 시스템의 전체적인 구성도 파악이 되네요. 지난 3달 동안 너무 정신없이 지낸 것 같습니다.
12월부터는 neptune에서 그동안 처리 못하고 있던 이슈와 새로운 기능을 추가하는 것을 시작해야 할 것 같습니다.
12월에는 다음 내용을 처리할 예정입니다.
- 데이터 파일 압축 기능 제공: 한두군데 운영해 본 결과 저장되는 데이터량이 워낙 커서 압축 기능을 제공하지 않으면 스토리지 낭비가 너무 심한 것 같습니다. 그래서 최우선 순위로 작업할 예정입니다.
- 이미 만들어져 있는 Tablet을 n개로 분리하는 API 필요: 이 기능은 Uploader 기능과 밀접한 관계를 가지고 있는데 한번에 많은 데이터를 neptune에 입력하는데에는 Uploader가 제격인데 아직 기능적으로 많이 부족합니다. 이 이슈 처리하면서 Uploader의 개선 및 예제도 몇가지 만들 예정입니다.
일단 12월은 이정로 워밍업을 한 다음에 내년에는 본격적으로 다음 내용을 진행할 예정입니다.
- hive query와 neptune과의 연동: neptune에 저장된 데이터를 이용하여 분석 작업 등을 수행하거나 기존 파일을 neptune에 저장할 때 마다  매번 프로그램 만드는 것이 번거로운데 hive 등의 query와 비슷하게 qurery 기반으로 처리 가능하도록 만들 예정입니다.
이외에 시간 날때마다 버그 사항으로 나온 다음 건들에 대해서도 처리할 예정입니다.
- MinorComaction 후 Cache 컬럼 데이터 get 오류
- NeptuneMaster에서 metrics 활성화시 ArrayIndexBoundary Exception 발생
- MinorCompaction 작업 시 파일에 저장하지 못할 경우 기존 메모리로 rollback이 안됨
- put, get 처리 통계 화면 별도 분리
- 웹 메인화면에서 메모리 부족한 경우 표시
크리에이티브 커먼즈 라이센스
Creative Commons License

Posted by 김형준


No SQL Pattern

No SQL 관련해서 잘 정리된 블로그네요...

http://horicky.blogspot.com/2009/11/nosql-patterns.html

크리에이티브 커먼즈 라이센스
Creative Commons License

Posted by 김형준


NoSQL 비교 자료

NoSQL 비교 자료입니다. 결론은 MongoDB하고 Tokyo Tyrant가 현재까지는 쓸만하다고 하네요. neptune이 비교 대상이 들어가지 못한 것이 못내 아쉽네요. ㅋ


http://github.com/igal/ruby_datastores/raw/master/2009-11-14%20Non-relational%20data%20stores%20for%20OpenSQL%20Camp.pdf

MongoDB and Tokyo Tyrant are useful now. CouchDB has promise, but is too slow currently.
Non-relational databases have shown their worth at larger sites when used cleverly.
Non-relational databases will continue to improve performance, stability & features.
Relational databases are still a great choice: fast, powerful and proven. With caching, denormalization, rework (e.g. Drizzle) & better replication, they will continue to be competitive.

크리에이티브 커먼즈 라이센스
Creative Commons License

Posted by 김형준


Pig 개발자 Twitter로

두가지 새로운 소식이 있네요.
하나는 Yahoo에서 Pig를 개발했던 Utkarsh Srivastava가 Twitter로 갔다고 합니다.
(http://www.mediapost.com/publications/?fa=Articles.showArticle&art_aid=117259)
또 하나는 아마존의 클라우드 서비스가 아시아 지역으로 확대될 예정이라고 합니다. 반가운 소식이기는 한데 국내 호스팅 업체와 경쟁력이 있을지는 가격을 나와야 알 것 같네요.
(http://aws.amazon.com/about-aws/whats-new/2009/11/12/aws-asia/)
크리에이티브 커먼즈 라이센스
Creative Commons License

Posted by 김형준


Desktop 가상화 적용할만한 곳

다음 기사를 보니 딱이네요.

http://www.ddaily.co.kr/news/news_view.php?uid=56364

이런 사업하면서 동시에 저소득층을 위한 PC 제공 및 인터넷 사용료 무료 제공까지 같이 한다면 더 좋곘죠...
크리에이티브 커먼즈 라이센스
Creative Commons License

Posted by 김형준


국내 첫 PaaS

정말 오랜만에 글을 올립니다.
국내에서는 SKT가 가장 먼저 제대로된 클라우드 컴퓨팅을 시작하고 있는것 같습니다.

http://www.bloter.net/archives/18586

일반 사용자가 아니라 SKT의 CP 서비스가 대상이기는 하지만 SKT가 AppSotre까지 같이 한다고 보면 일반 개발자가 만든 App이 AppStore에 설치되고 이 App에 컨텐츠를 제공하는 서버 단은 별도의 호스팅 업체를 이용하지 않고  PaaS에 올라가는 형태로 발전하지 않을까 예상해 봅니다.
이런 PaaS 모델이 일반화 되면 웹호스팅, 서버 호스팅 하던 호스팅 업체의 입지가 점점 좁아 지지 않을까 예상해 봅니다.
크리에이티브 커먼즈 라이센스
Creative Commons License

Posted by 김형준