7 research outputs found
Multimaster Namenode Architecture in Hadoop with Fencing technique for High Availability and High Reliability
학위논문(석사)--아주대학교 정보통신대학원 :소프트웨어아키텍처,2017. 2Hadoop은 Big Data의 산업표준이 되면서 Data Mining 플랫폼으로서 진화하였고 수년에 걸쳐 HDFS 성능의 향상 폭이 증대되어 Hadoop 클러스터의 점진적인 성장으로 이어졌다. 대표적인 Hadoop 클러스터로서 Yahoo는 4,000노드와 15 Petabyte 규모로서 세계에서 가장 큰 Hadoop 클러스터를 구축하였다. 2009년에 Yahoo에서 HDFS의 데이터 무결성을 실험했고 Hadoop 0.20.3으로 구동한 실험에서 네임노드는 18개월 동안 클러스터 25개 중에 22개에 장애가 발생하였는데 이는 연간 58%의 장애로서 오류 및 장애가 적지 않은 비율로 발생하고 있다. 장애의 주요요인은 가용성 및 신뢰성에 대한 네임노드의 취약성으로서 최신의 Hadoop 버전에서도 여전히 해결되지 않고 있다. 네임노드의 취약성을 극복하기 위해 본 논문에서는 Hadoop Namenode의 고가용성 및 고신뢰성 향상을 위한 멀티마스터 및 펜싱기법 응용구조를 제안하였다. 고가용성 및 고신뢰성을 위한 분산시스템의 구조를 분석하고 용어를 정의하였고 고가용성 및 고신뢰성을 위한 네임노드 관련 기존 사례연구, 유사구조인 데이터베이스와 관련 솔루션 등을 살펴보았다. 본 논문에서의 제안을 구체적으로 달성하기 위한 방안으로 고가용성을 보장하기 위한 멀티액티브인 멀티마스터 구조에 복제기법과 부하분산을 위한 분산배치기법이 가미된 조합과 고신뢰성을 보장하는 펜싱기법과 펜싱을 고려한 클러스터링기법이 가미된 조합이 필요하다. Replica와 Quorum 조정을 통해 CAP Theorem의 Consistency, Availability, Partition Tolerance 등 3가지 모두 만족하게 됨을 확인하였다. 고가용성 및 고신뢰성 향상을 위한 멀티마스터 구조에 속하는 특성을 가진 데이터베이스를 이용하여 예상되는 효과를 간접적으로 보여주는 유사구조인 데이터베이스에서 실험을 통해 제안하는 아키텍처가 고가용성 및 고신뢰성을 보장할 수 있음을 검증하였다.1. 서 론 1
2. 고가용성 및 고신뢰성을 위한 분산시스템 구조분석 6
가. HDFS의 구조와 네임노드 장애 극복 방안 6
나. 멀티 노드 클러스터 기반의 장애극복 8
다. 펜싱기법 기반의 장애극복 17
라. 노드의 상태 기반의 장애극복 19
3. 고가용성 및 고신뢰성을 위한 네임노드 관련 기존 사례연구 27
가. 네임노드 관련 기존 사례연구 29
나. 유사구조인 데이터베이스 사례연구 34
다. 유사구조 관련 솔루션 사례연구 37
4. 고가용성 및 고신뢰성을 보장하는 멀티마스터 네임노드 아키텍처 제안 39
가. Vet를 이용한 복제와 분산배치기법이 적용된 멀티마스터 아키텍처 42
나. Vet와 Donor를 이용한 펜싱기법 47
다. 유사구조에서의 실험 59
5. 결언 70MasterHadoop is a de facto standard in big data and evolved as a data mining platform. Improving of Hadoop performance over the years leads to gradual growing of the Hadoop cluster. Yahoo has 4,000 nodes with 15 petabytes storage and it is largest cluster in the world. For 18 months Yahoo examined data integrity of Hadoop running 0.20.3. They found 22 failures of 25 clusters means 58% failure per year. It causes namenode failure to system halt and cluster shutdown and still was not resolved even latest Hadoop. In this paper, we proposed multimaster namenode architecture with fencing technique to overcome vulnerabilities of namenode for high availability and high reliability. We can improve high availability and high reliability for namenode by applying the proposed architecture which combines multimaster namenode, replication and synchronization, and distributed relocating technique of data for load balancing for high availability and fencing technique for high reliability. It leads to the need of the structural analysis regards to the distributed system and of clarify terminology, existing case studies, databases and related solutions as structural resemblance. The proposed architecture can make adjustments to coordinate number of replicas and quorum. It can be satisfied consistency, availability, and partition tolerance. Database has structural resemblance to applying to multimaster structure and fencing mechanism for availability, reliability, and consistency. Databases using the same structural analogy can be efficient methods of testing and it can show expected benefits of the proposed architecture indirectly. It is validated that proposed multimaster namenode architecture ensures high availability and high reliability
정보기술의 활용을 통한 중소기업의 경쟁력 강화 전략에 대한 고찰 -전자상거래(Electronic Commerce)를 중심으로-
Since 1990 Internet has become one of the powerful tools in doing business all over the world. Among the technologies regarding Internet, Electronic Commerce(EC) gives opportunities as well as threats to the enterprises, especially to the Korean Small and Medium-sized Enterprises(SMEs). This paper reviews these threats and opportunities in the strategic point of view, which provides some guidelines for SMEs in Korea to overcome surrounding difficulties and prosper in the next 21st century
The Economic Impact of Cannibalization Strategy: A Response to New Technological Breakthrough
보령 갯벌에서 계절별 유기물 분해과정의 상대적 중요성
갯벌은 다양한 생물의 서식처로서 생산성이 외해역에 비해 10-20배 이상 높으며, 육상으로부터 다량의 유기물이 유입되는 환경이다. 갯벌로 유입된 유기물은 다양한 미생물 군집의 호흡에 의해 유기탄소에서 무기탄소로 분해되며, 전자수용체의 이용가능성에 의해 유기물 분해경로는 결정된다. 호기성 또는 혐기성 유기물 분해의 상대적 중요성에 의해 퇴적물 내의 물질순환은 조절됨과 동시에 갯벌환경의 건전성을 나타내는 지표이기도 하다. 본 연구는 보령 갯벌에서 하계, 추계, 동계시에 계절별 유기물 분해율과 호기성 및 혐기성 유기물 분해과정의 상대적 중요성에 대해 조사하였다. 하계 총 유기물 분해율 중에서 혐기성 미생물에 의한 유기물 분해율은 A, B 두 지역에서 각각 93.1%, 94.9%로 나타났다. 추계 총 유기물 분해율에서 혐기성 미생물에 의한 유기물 분해율은 A, B 지역에서 각각 78.4%, 71.9%로 나타났고, 동계에는 57.6%, 51.1%로 나타났다. 호기성 유기물 분해율은 총 유기물 분해의 5~49% 이내로 나타나 유기물 분해능은 혐기성 유기물에 의해 주도되는 것으로 나타났다. 하계는 혐기성 유기물 분해율의 상대적인 비가 90% 이상을 차지하여 추계와 동계보다 높은 것으로 나타났다. 연안의 유기물 분해는 계절적인 온도변화에 따라 중요하게 영향을 미치며, 하계 혐기성 유기물 분해과정에서 생성된 환원물(NH4+, Fe2+, HS-)의 재산화에 의해 호기성 유기물 분해의 중요성은 상대적으로 낮은 것으로 보고되었다. 동계의 호기성 유기물 분해율이 상대적으로 높게 나타나 온도가 낮은 계절에는 혐기성과 호기성 유기물 분해율의 차이가 작았다. 하계 시 상대적으로 높은 혐기성 유기물 분해율은 환원물의 축적을 야기하여 호기성 호흡을 대신에 황산염 환원과 같은 혐기성 호흡을 촉진시키는 악순환으로 연결될 수 있다.2
하천을 통한 미세플라스틱 해양 유입 평가 지침서
미세플라스틱(microplastics; MP)은 1㎛에서 5 mm에 이르는 작은 크기의 합성수지를 통칭하며
생성과정에 따라 1차 미세플라스틱과 2차 미세플라스틱으로 구분된다. 1차 미세플라스틱은 생산
단계에서 5mm 미만의 작은 크기로 만들어진 플라스틱이며 2차 미세플라스틱은 중대형 플라스틱이
환경 내에서 광분해, 열분해, 생분해 등의 화학적 풍화와 물리적 풍화에 의해 작은 크기로 파편화된
플라스틱이다. 이러한 분해 과정을 통해 플라스틱이 계속 작아지면서 입자 수가 크게 환경 및 생물체에
영향을 끼칠 수 있는 범위가 넓어지고 있다. 또한, 플라스틱 입자가 미세화 될수록 플라스틱을 합성할 때
사용되는 첨가제의 용출 가능성도 커지고 플라스틱의 표면적 증가로 인한 유기 오염물질의 흡착 또한
증가할 수 있으며, 육상 및 해양의 생물 이용도 증가한다는 연구 결과들이 보고되고 있다. 이는 결국
최상위 포식자인 인간 역시 먹이사슬을 통한 미세플라스틱의 체내 축적에 따른 위험에 노출 될 수 있음을
시사한다.
미세플라스틱의 전 주기를 파악하고 오염 관리 방안 및 규제 정책을 만들어 실시하려면 환경에서의
미세플라스틱 거동에 대한 연구와 이해가 필수적이다. 대부분의 플라스틱은 제대로 관리되지 않고
폐기되고 있으며 육상에서 버려진 플라스틱은 수계를 따라 하천을 통해 해양으로 유입된 후 해양환경
내에서 다양한 기작을 통해 이동·확산한다. 미세플라스틱의 해양으로의 유입경로는 대기침적, 하천을
통한 유입, 하수처리장 배출을 통한 유입, 해양오염원으로부터의 발생 등으로 나뉘는데 현재까지의
연구결과들에 따르면 하천을 통한 유입이 가장 중요한 유입경로라고 알려져있다. 따라서, 해양으로의
유입되는 양과 해양에서의 거동기작을 규명하기 위해서는 하천을 통해 해양으로 유입되는 미세플라스틱에
대한 유입특성과 유입량 평가가 선행적으로 수행될 필요가 있다. 하천에서 미세플라스틱을 채취하고
분석하는 연구가 기존에도 진행되고는 있으나 해양으로의 유입특성과 유입량을 정확히 평가하기
위해서는 조사결과가 대표성을 갖도록 하천의 시간적 변동성과 공간적 변동성을 모두 고려한 채취방법이
마련되어야 한다.
본 지침서는 해양수산부의 “해양 미세플라스틱 유입·발생 및 환경거동 연구” 과제에서 수행된 하천을
통해 해양으로 유입되는 미세플라스틱 유입특성 평가 및 유입량 산정 연구 결과를 바탕으로 작성되었다.
본 지침서에서 하천을 통한 미세플라스틱 유입 평가를 위해 적합한 조사정점과 조사수층 선정 방안을
제시하고, 시료의 채취/전처리/기기분석을 포함한 전 과정에 대하여 검증된 분석법을 제시하였다.
본 지침서를 통해 하천으로부터 해양으로 유입되는 미세플라스틱에 대한 표준화된 채취 및 분석법을
제시함으로써 서로 다른 연구자들 간의 연구방법의 차이에 의해 발생할 수 있는 불확실성을
최소화하고자 한다. 이러한 이유로 하천을 통한 해양으로의 미세플라스틱 유입특성 평가 및 유입량
산정을 위해서는 본 지침서에 기재된 방법을 따를 것을 권장하지만, 조사 정점 및 수층의 선정,
시료채취, 전처리, 분석과정에서 유사하거나 혹은 더 나은 결과를 낼 수 있는 새로운 방법이 제안될 수
있으며 개선된 방법은 검증을 통해 대체 사용할 수 있다.
본 지침서는 모든 하천조사에 적용하는 것이 아니라 하천을 통해 최종적으로 해양으로 유입되는
종말점(즉, 하구)에서의 조사를 위한 것임을 유의할 필요가 있다.1. 서론
2. 시료채취방법
2.1. 시료채취 정점 및 수층 선정
2.2. 시료채취 도구
2.3. 시료의 채취 및 보관
3. 시료의 전처리 방법
3.1. 전처리 도구 및 시약
3.2. 하천 시료의 전처리
4. 미세플라스틱분석
4.1. 기기분석
4.2. 자료분석
4.3. 미세플라스틱 분류
4.4. 유입량 계산
5. 정도관리
5.1. 현장조사 정도관리
5.2. 전처리 정도관리
5.3. 미세플라스틱 분석 시 정도관리
6. 유의사
