Convergence analysis of the moment adjusted proximal gradient descent method when the second moment matrix depends on the updated variable

학위논문(석사) -- 서울대학교대학원 : 자연과학대학 통계학과, 2022.2. 원중호.본 논문에서는 매끄럽지 않은 정규화 항이 있는 목적함수를 최적화하는 MadProx 방법을 소개하고 그 수렴성을 분석한다. MadProx에 앞서, MadProx의 근간이 되는 방법인 MasGrad 방법을 소개하고 MasGrad의 통계적 추론 성질을 증명할 것이다. MadProx 방법은 이차 적률 행렬이 갱신되는 변수에 의존하지 않는 경우와 같은 제한된 조건에서 수렴한다는 한계가 있었다. 본 논문에서는 새로운 검색 방향을 정의하고 고정된 단계-크기가 아닌 직선 탐색 과정을 통해 매 반복마다 단계-크기를 정하는 알고리즘을 소개할 것이다. 그렇게 구한 검색 방향과 단계-크기로 이차 적률 행렬이 갱신되는 변수에 의존하는 경우에도 MadProx가 수렴함을 보일 것이다. 더불어, 데이터 시뮬레이션 환경에서 L1-노름 정규화 항이 있는 로지스틱 회귀를 대표 모형으로 하여 MadProx의 수렴 속도를 다른 반복법들과 비교할 것이다.In this paper, we introduce MadProx method that optimizes the objective function with a non-smooth normalization term and analyze its convergence. Prior to MadProx, we will introduce MasGrad method, which is the basis of MadProx, and prove the statistical inference properties of MasGrad. MadProx method has a limitation in that it converges under limited conditions, such as when the second moment matrix does not depend on the updated variable. In this paper, we will define a new search direction and introduce an algorithm that chooses a step-size at each iteration through a line search procedure rather than a fixed step-size. We will show MadProx with the search direction and step-size obtained through the line search procedure converges even if the second moment matrix depends on the updated variable. In addition, the convergence rate of MadProx will be compared with other iterative methods using logistic regression with L1-regularization terms as a representative model in a data simulation environment.1 서론 2 1.1 반복법 2 1.2 기여 2 2 MasGrad의 통계적 추론 4 2.1 Langevin Diffusion 5 2.2 비점근적 상계 5 3 MasGrad의 수렴 분석 9 3.1 Non-convex case 9 3.2 Strongly convex case 11 3.3 일반화 선형 모형에서의 가속 15 4 매끄럽지 않은 정규화 문제 19 4.1 ProxNewton 20 4.2 MadProx 20 5 MadProx의 성질 21 5.1 검색 방향 21 5.2 직선 탐색 과정 24 6 MadProx의 수렴성 28 6.1 V(xt) = V일 때 MadProx의 수렴성 28 6.2 V(xt)가 xt에 의존할 때 MadProx의 전역 수렴성 31 6.3 V(xt)가 xt에 의존할 때 지역 수렴성 32 7 실험 34 7.1 실험 환경 34 7.2 실험 결과 35 8 결론 39 9 부록 40석

Convergence analysis of the moment adjusted proximal gradient descent method when the second moment matrix depends on the updated variable

본 논문에서는 매끄럽지 않은 정규화 항이 있는 목적함수를 최적화하는 MadProx 방법을 소개하고 그 수렴성을 분석한다. MadProx에 앞서, MadProx의 근간이 되는 방법인 MasGrad 방법을 소개하고 MasGrad의 통계적 추론 성질을 증명할 것이다. MadProx 방법은 이차 적률 행렬이 갱신되는 변수에 의존하지 않는 경우와 같은 제한된 조건에서 수렴한다는 한계가 있었다. 본 논문에서는 새로운 검색 방향을 정의하고 고정된 단계-크기가 아닌 직선 탐색 과정을 통해 매 반복마다 단계-크기를 정하는 알고리즘을 소개할 것이다. 그렇게 구한 검색 방향과 단계-크기로 이차 적률 행렬이 갱신되는 변수에 의존하는 경우에도 MadProx가 수렴함을 보일 것이다. 더불어, 데이터 시뮬레이션 환경에서 L1-노름 정규화 항이 있는 로지스틱 회귀를 대표 모형으로 하여 MadProx의 수렴 속도를 다른 반복법들과 비교할 것이다.In this paper, we introduce MadProx method that optimizes the objective function with a non-smooth normalization term and analyze its convergence. Prior to MadProx, we will introduce MasGrad method, which is the basis of MadProx, and prove the statistical inference properties of MasGrad. MadProx method has a limitation in that it converges under limited conditions, such as when the second moment matrix does not depend on the updated variable. In this paper, we will define a new search direction and introduce an algorithm that chooses a step-size at each iteration through a line search procedure rather than a fixed step-size. We will show MadProx with the search direction and step-size obtained through the line search procedure converges even if the second moment matrix depends on the updated variable. In addition, the convergence rate of MadProx will be compared with other iterative methods using logistic regression with L1-regularization terms as a representative model in a data simulation environment.1 서론 2 1.1 반복법 2 1.2 기여 2 2 MasGrad의 통계적 추론 4 2.1 Langevin Diffusion 5 2.2 비점근적 상계 5 3 MasGrad의 수렴 분석 9 3.1 Non-convex case 9 3.2 Strongly convex case 11 3.3 일반화 선형 모형에서의 가속 15 4 매끄럽지 않은 정규화 문제 19 4.1 ProxNewton 20 4.2 MadProx 20 5 MadProx의 성질 21 5.1 검색 방향 21 5.2 직선 탐색 과정 24 6 MadProx의 수렴성 28 6.1 V(xt) = V일 때 MadProx의 수렴성 28 6.2 V(xt)가 xt에 의존할 때 MadProx의 전역 수렴성 31 6.3 V(xt)가 xt에 의존할 때 지역 수렴성 32 7 실험 34 7.1 실험 환경 34 7.2 실험 결과 35 8 결론 39 9 부록 40석

수증기 어닐링과 HfO2게이트 절연막을 적용한 고전압 AlGaN/GaN HEMTs에 관한 연구

학위논문 (석사)-- 서울대학교 대학원 : 전기·컴퓨터공학부, 2013. 8. 한민구.AlGaN/GaN high-electron-mobility transistors (HEMTs) have received a considerable amount of attention for high-power application such as RF and power electronic systems due to their wide bandgap properties, such as their high critical field (3 MV/cm) and low intrinsic carrier concentration (1010 cm–3). Also, AlGaN/GaN heterostructure offers a high density (1013 cm–2) and a high mobility (2000 cm2/V•s) for a two-dimensional electron gas such that AlGaN/GaN HEMTs exhibit a high breakdown voltage with a low on-resistance. However, the soft breakdown characteristic of AlGaN/GaN HEMTs caused by surface leakage current is a critical issue. AlGaN/GaN HEMTs have a considerable amount of surface states such as that related to dislocation from the GaN buffer/substrate interface, arranged charges caused by spontaneous polarization charges, and nitrogen vacancies induced by plasma and thermal processes. At a high breakdown voltage, the electron trapping at shallow traps on the surface should be suppressed. In order to improve the reverse blocking characteristics of AlGaN/GaN HEMTs, I fabricated AlGaN/GaN HEMTs employing the proposed H2O annealing treatment and compared electrical characteristics with those of the HEMT by widely used O2 annealing method. The breakdown voltage and the drain leakage current of AlGaN/GaN HEMT (LGD= 20 µm) employing the H2O annealing treatment were 1674 V and 13.1 nA/mm (VDS= 100 V, VGS= –10 V), respectively, while those of HEMT with the O2 treatment were 1512 V and 60.1 nA/mm. Not only relatively degraded reverse blocking characteristic but also a normally-on characteristic of AlGaN/GaN HEMTs has been dealt as a serious issue. Most of previously reported AlGaN/GaN HEMTs have a normally-on characteristic with threshold voltage (VTH) of –3 to –6 V due to the polarization-induced 2DEG between AlGaN and GaN layer. In order to prevent Burn-out phenomenon and designing additional circuit because of the normally-on devices, normally-off characteristic is strongly desirable for an integrated circuits application. In this thesis, by applying simple KOH wet etch and RF-sputtered HfO2 as a gate insulator, normally-off AlGaN/GaN MOS HEMTs were successfully fabricated and investigated. The proposed KOH wet etch resulted in an adequate recess-depth and smooth etched surface. The gate-recessed HEMT exhibits threshold voltage (VTH) shifts from –3 to 1.5 V after 150 s KOH-wet etch. The breakdown voltage of 1580 V and specific on-resistance (Ron,sp) of 8.09 mΩ•cm2 was measured in AlGaN/GaN HEMT with the gate-drain distance of 20 μm-long. The high figure of merit (FOM) of 308 MW•cm–2 was achieved. My experimental results indicate that the proposed simple KOH wet etching and RF sputtered HfO2-gate insulator may be promising for the normally-off AlGaN/GaN MOS HEMTs fabrication. Lastly, another recent issue of AlGaN/GaN HEMT is dealt in the Appendix chapter which is a gold free issue. Conventional conducting metal Ni/Au was compared with Ni/Cu and Ni/W contact. My experimental result shows that Cu also may be a good conducting metal for AlGaN/GaN HEMTs and has a great potential for power device application. Moreover, I have proposed and fabricated high performance of AlGaN/GaN Schottky Barrier Diodes (SBDs) with various Schottky contact by sputtering method. The reverse blocking characteristics such as the leakage current and breakdown voltage was improved by TaN and ITO Schottky contact due to its high SBH. However, forward current of TaN and ITO Schottky contact was less than that of Ni/Au Schottky contact. The TaN Schottky SBDs achieved the highest breakdown voltage of 605 V and ITO Schottky SBDs achieved 472 V. On the contrary, the breakdown voltage of Ni/Au Schottky SBDs exhibited 335 V.Abstract i List of Figures and Tables vii 1. Introduction 1 1.1. Background 1 1.2. Outline of this thesis 12 2. Review of AlGaN/GaN Power Devices 13 2.1. Device Structure, Operation, and Fabrication 13 2.2. Key Issues of AlGaN/GaN HEMTs 21 2.2.1. Surface state issue 21 2.2.2. Normally-on issue 22 2.3. Recent Research of RF-sputtered HfO2 for the Gate Insulator 28 2.3.1. Sputtering Condition Optimization and Weak Crystallizability of RF-Sputtered HfO2 28 2.3.2. Transfer and Dielectric Breakdown Properties 29 2.3.3. DC and Pulsed I-V Characteristics 30 2.3.4. Capacitance-Voltage Characteristics 30 2.4. Summary 39 3. AlGaN/GaN HEMTs Employing H2O Annealing 40 3.1. Overview 40 3.2. Device Fabrication and Structure 42 3.3. Comparison of GaOX Material Properties formed by H2O and O2 Annealing 45 3.3.1. XPS Investigation Result 45 3.3.2. AES Investigation Result 46 3.4. Electrical Properties of AlGaN/GaN HEMTs Employing H2O Annealing 49 3.4.1. Drain Leakage Current Characteristics 49 3.4.2. Breakdown Voltage Characteristics 50 3.4.3. DC Output Current Characteristics 51 3.4.4. Pulsed I-V Characteristics 52 3.5. Summary 59 4. Normally-off AlGaN/GaN Metal-Oxide-Semiconductor HEMTs 60 4.1. Overview 60 4.2. Device Fabrication and Structure 62 4.3. The results of KOH wet etching 65 4.3.1. AFM measurement results 65 4.3.2. Recessed depth as etching time and the uniformity 66 4.4. Electrical Properties of Fabricated AlGaN/ GaN MOS HEMTs 71 4.4.1. Forward Characteristics 71 4.4.2. Drain leakage current Characteristics 71 4.4.3. Breakdown Voltage Characteristics 72 4.4.4. Capacitance-Voltage Characteristics 73 4.5. Summary 79 5. Conclusion and Future Works 80 Appendix. Au-Free AlGaN/GaN MOS-HEMTs 83 A. Overview 83 B. Comparison between Ni/Au with Ni/Cu and Ni/W contact 85 B.1. Device Fabrication 86 B.2. DC Output Current Characteristics 88 B.3. Reverse Blocking Characteristics 90 B.4. Summary 92 C. Sputtered Schottky Contact for Au-free AlGaN/GaN Devices 93 C.1. Device Fabrication 94 C.2. Forward Characteristics 97 C.3. Reverse Blocking Characteristics 99 C.4. Summary 101 References 102 Abstract in Korean 111 Acknowledgement 114Maste

國際的 生産 分割 : 形態 및 決定要因에 대한 硏究

Thesis(masters) --서울대학교 국제대학원 :국제학과(국제통상전공),2009.8.Maste

INPUT DEVICE, INPUT METHOD THEROF, AND INPUT SYSTEM

파동 입력 시스템이 개시된다. 상기 파동 입력 시스템은 각각이 눌러짐에 따라 서로 다른 진동수를 가지는 파동을 발생시키는 다수의 키들을 포함하는 입력장치, 및 상기 입력장치에서 발생된 파동을 감지하고, 감지된 파동의 진동수에 따라 눌러진 키를 식별하는 호스트를 포함하고, 상기 호스트는, 상기 다수의 키들 중에서 어느 하나의 키가 눌러짐에 따라 발생된 파동을 감지하고, 감지 신호를 발생시키는 센서부 및 상기 감지 신호에 따라 상기 눌러진 어느 하나의 키를 식별하는 키 식별 모듈을 포함한다

전원/접지 잡음에 의한 플래시 아날로그 디지털 컨버터의 성능 저하에 대한 모델링과 분석

학위논문(석사) - 한국과학기술원 : 전기 및 전자공학과, 2010.2, [ viii, 64 p. ]Analog-to-digital converter (ADC) is the most important system since ADC is always needed when analog system and digital system coexist on same area. For this reason, ADC can be affected by noise from analog blocks and digital blocks. Power and Ground noise is one of the noise which affects ADC. Coupled power and ground noise affects code missing and generating of ADC outputs, and degrades ADC performance. Power and ground noise, in order to be coupled to ADC chip, is passed through power distribution network (PDN) where ADC chip is mounted. In this course, power and ground noise is changed with PDN impedance. Thus, modeling and analysis of performance degradation on flash ADC affected by power and ground noise is needed. In this paper, modeling of chip-PCB hierarchical PDN is proposed as the form of noise coupling path. Modeling result is noise transfer function varied with noise frequency. The amount of noise coupled to ADC chip is estimated by this transfer function. Also, power and ground noise effects on designed flash ADC are analyzed. Comparators in designed ADC are mainly affected by coupled noise, so operation of a comparator with coupled noise is analyzed. Combined result of noise transfer function and power and ground noise effects on ADC circuit means that PDN impedance model is also contained on ADC performance degradation. This combined result is verified with an experimental result. When PDN is changed with decoupling capacitors mounted on PCB, ADC performance is also changed.한국과학기술원 : 전기 및 전자공학과

USER-FRIENDLY CONTENTS CONTROL METHOD AND CONTENTS CONTROL SYSTEM

사용자 친화적 컨텐츠 제어 방법이 개시된다. 상기 컨텐츠 제어 방법은, 다수의 센서들 각각이 상기 다수의 센서들에 가해지는 사용자 제스처(user gesture) 및 강도(intensity)를 인식하고, 인식결과에 따른 각각의 데이터를 생성하는 단계, 데이터 수집부가 상기 각각의 데이터를 수집하는 단계, 및 컨트롤러가 수집된 상기 각각의 데이터를 이용하여 전자책 뷰어(ebook viewer)의 컨텐츠를 제어하는 단계를 포함한다

Network system and method for providing user interface

사용자 인터페이스를 제공하기 위한 네트워크 시스템이 개시된다. 상기 사용자 인터페이스를 제공하기 위한 상기 네트워크 시스템은 복수의 제1객체들과 사용자를 포함하는 제1공간에서 상기 사용자의 제스쳐의 영상과 위치 정보를 획득하기 위한 제1카메라와 상기 복수의 제1객체들 중 어느 하나로부터 수신된 제스쳐 입력 명령과, 상기 제1카메라로부터 수신된 상기 제스쳐의 영상과 상기 위치 정보를 매핑시키는 제1서버를 포함하며, 상기 사용자가 상기 복수의 제1객체들 중 다른 하나를 이용하여 데이터 처리 동작을 수행하고자 할 때, 상기 제1서버는 상기 복수의 제1객체들 중 상기 다른 하나와 상기 복수의 제1객체들 중 또 다른 하나를 이용하여 상기 데이터 처리 동작을 분산처리하도록 제어한다

THREE DIMENSIONAL INTERACTION DEVICE AND METHOD OF DISPLAYING AND DETERMINING USING THE SAME

3차원 인터랙션 장치가 개시된다. 상기 3차원 인터랙션 장치는, 자성 물질이 이동할 수 있는 내부 공간을 포함하는 하우징, 각각이 상기 내부 공간에 자기장을 생성하기 위한 다수의 코일들, 및 상기 다수의 코일들 각각을 제어하기 위한 다수의 제어 신호들을 생성하는 제어부를 포함한다