Skip to main content

Apach Tajo ( with Hadoop Library) 

We wanted to analyse huge user activity logs with some query conditions.
So we started with ELK(Elasticsearch, Logstash, Kibana). but Kibana's query results didn't meet our business needs. so I made some customised search queries and data types or something.
After some struggling, we decided to move to Apache Tajo for flexible query condition and easy for ETL.


And in order to save the cost for Tajo slave instances in AWS, I used this batch application for dynamic spot instances.






1 Tajo Master server (EC2 minimum size)


N Tajo slave servers (large size spot instances )








tz-tajo
=====================================

I made a batch application for cohort analysis with Apache TAJO. the feature is like this,

1. create 10 spot instances
2. check the instances status and Tajo workers' health
3. create a Tajo table on S3 for TETON log files (user, event)
4. create a result Tajo table for result saving on S3
5. execute cohort query and insert the result to the result Tajo table
6. download the result CSV file from S3
7. create a table in mysql
8. load the result CSV file to the table in mysql
9. terminate 10 spot instances

The only thing I have to fix is getting the result CSV file from S3.
Once we got a base for analysis automation tool, so we just need to change the Tajo query for the next requirement.





https://github.com/doohee323/tz-tajo











































Comments











Post a Comment































Popular posts from this blog



















Install CoreOs on linode without VM




























Install CoreOs on linode without VM   1. Add a Linode  2. Create a new Disk    CoreOS  3. Rescue > Reboot into Rescue Mode   4. Remote Access    Launch Lish Console   5. make an install script   cat <<'EOF1' > install.sh   # add needed package  sudo apt-get update  sudo apt-get install -y curl wget whois  sudo apt-get install -y ca-certificates  #sudo apt-get install gawk -y   # get discovery url  discoveryUrl=`curl https://discovery.etcd.io/new`   # write cloud-config.yml  cat <<EOF2 > cloud-config.yml  #cloud-config   users:    - name: core      groups:        - sudo        - docker   coreos:    etcd:      name: node01      discovery: $discoveryUrl   hostname: node01   EOF2   # get the coreos installation script  #wget https://raw.github.com/coreos/init/master/bin/coreos-install  wget https://raw.githubusercontent.com/coreos/init/master/bin/coreos-install   # run installation  chmod 75...




















31 comments









Read more






























Amazon RDS Blue/Green Deployments




























In order to avoid some errors I experienced when proceeding as described in the official documentation, I describe what I did in order. 1) Modify parameters of source_database     * error: Blue Green Deployments requires cluster parameter group has binlog enabled.     RDS     Parameter groups: source-params-group     binlog_format => MIXED     mysql> show global variables like 'binlog_format'; 2) Insert a row after rebooting the source database, to avoid this error.   * error: Correct the replication errors and then switch over.   Read Replica Replication Error - IOError: 1236, reason: Got fatal error 1236 from master when reading data from binary log: 'Could not find first log file name in binary log index file'   => To Fix: You need to change the data in the source database.     INSERT INTO dummy_table ( `favorite_id` , `favorite_order` , `user_id` , `board_id` )     VALUES ('100001', '1', '11111', '11111'); 3) Modify the param...




















Post a Comment









Read more




























실리콘밸리 구직 체험기2_201505 - 3. 새로운 위기




























  실리콘밸리 구직 체험기2_201505 - 3. 새로운 위기     우리는 지난 1년간 lockscreen app과 messenger app을 만들었습니다.   나는 backend restful API를 만들고 cms를 node.js, angular.js로 만들었다. 또한 AWS 인스턴스를 관리했습니다.     마지막 몇달 동안 기존 lockscreen 앱과 CMS 관리 대신에 메신저 앱에 집중했습니다.   한국에서는 매출과 이익을 내지 않으면 투자를 받을 수 없는 환경이지만 매출 없이 유저수 증가에만 집중하는 모습이 참 생소했습니다.     우리는 사용자의 행태를 확인하기 위해서 BI툴을 이용해서 사용자 수와 retention rate 등을 추적하고   새로운 기능에 대해 사용자의 반응을 점검하면서 기획을 수시로 바꿨습니다.   많은 기능을 새로 만들고 ab test를 통해서 또 많이 폐기 했다. 실제 만든 기능 중에 절반 이상은 버려 졌습니다.     locket앱은 2014년 google store의 베스트 앱으로 선정되기도 했다. 그러나 사실 이 시점에 이미 우리는 메신저 앱에 올인 하고 있었습니다.     https://www.facebook.com/photo.php?fbid=10204452594066393&set=a.2225490048257.118046.1577949323&type=1     우리가 만든 메신저 앱은 초반의 반응이 워낙 좋아서 정체되었던 lockscreen 유저수를 단번에 따라 잡았습니다.   특히 Retention Rate 이 좋아서 사용자들의 제대로 사용하고 있다고 생각했습니다.   잠깐이지만 google play 에 featured 되고, 인도에 가입 지원을 했을 때 사용자 수가 급증하기도 했습니다.    https://www.facebook.com/photo.php?fbid=10204901853057587&set=a.2225490048257.118046.1577949323&type=1    그 시...




















Post a Comment









Read more