Minimizing L1 over L2 norms on the gradient

In this paper, we study the L1/L2 minimization on the gradient for imaging applications. Several recent works have demonstrated that L1/L2 is better than the L1 norm when approximating the L0 norm to promote sparsity. Consequently, we postulate that applying L1/L2 on the gradient is better than the classic total variation (the L1 norm on the gradient) to enforce the sparsity of the image gradient. To verify our hypothesis, we consider a constrained formulation to reveal empirical evidence on the superiority of L1/L2 over L1 when recovering piecewise constant signals from low-frequency measurements. Numerically, we design a specific splitting scheme, under which we can prove subsequential and global convergence for the alternating direction method of multipliers (ADMM) under certain conditions. Experimentally, we demonstrate visible improvements of L1/L2 over L1 and other nonconvex regularizations for image recovery from low-frequency measurements and two medical applications of MRI and CT reconstruction. All the numerical results show the efficiency of our proposed approach.Comment: 26 page

코시잡음 제거를 위한 변분법적 접근

학위논문(박사)--서울대학교 대학원 :자연과학대학 수리과학부,2020. 2. 강명주.In image processing, image noise removal is one of the most important problems. In this thesis, we study Cauchy noise removal by variational approaches. Cauchy noise occurs often in engineering applications. However, because of the non-convexity of the variational model of Cauchy noise, it is difficult to solve and were not studied much. To denoise Cauchy noise, we use the non-convex alternating direction method of multipliers and present two variational models. The first thing is fractional total variation(FTV) model. FTV is derived by fractional derivative which is an extended version of integer order derivative to real order derivative. The second thing is the weighted nuclear norm model. Weighted nuclear norm has an excellent performance in low-level vision. We have combined our novel ideas with weighted nuclear norm minimization to achieve better results than existing models in Cauchy noise removal. Finally, we show the superiority of the proposed model from numerical experiments.이미지 처리에서 이미지 잡음 제거는 가장 중요한 문제 중 하나다. 이 논문에서 우리는 다양한 접근 방식에 의한 코시 잡음 제거를 연구한다. 코시 잡음은 엔지니어링 애플리케이션에서 자주 발생하나 코시 잡음의 변분법적 모델의 비 볼록성으로 인해 해결하기가 어렵고 많이 연구되지 않았다. 코시 노이즈를 제거하기 위해 우리는 곱셈기의 볼록하지 않은 교류 방향 방법(nonconvex ADMM)을 사용하였으며 두 가지 변분법적 모델을 제시한다. 첫 번째는 분수 총 변이(FTV)를 이용한 모델이다. 분수 총 변이는 일반적인 정수 도함수를 실수 도함수로 확장 한 분수 도함수에 의해 정의된다. 두 번째는 가중 핵 노름을 이용한 모델이다. 가중 핵 노름은 저수준 영상처리에서 탁월한 성능을 발휘한다. 우리는 가중 핵 노름이 코시 잡음 제거에서도 뛰어난 성능을 발휘할 것으로 예상하였고, 우리의 새로운 아이디어를 가중 핵 노름 최소화와 결합하여 현존하는 코시 잡음 제거 최신 모델들보다 더 나은 결과를 얻을 수 있었다. 마지막 장에서 실제 코시 잡음 제거 테스트를 통해 우리 모델이 얼마나 뛰어난지 확인하며 논문을 마친다.1 Introduction 1 2 The Cauchy distribution and the Cauchy noise 5 2.1 The Cauchy distribution 5 2.1.1 The alpha-stable distribution 5 2.1.2 The Cauchy distribution 8 2.2 The Cauchy noise 13 2.2.1 Analysis of the Cauchy noise 13 2.2.2 Variational model of Cauchy noise 14 2.3 Previous work 16 3 Fractional order derivatives and total fractional order variational model 19 3.1 Some fractional derivatives and integrals 19 3.1.1 Grunwald-Letnikov Fractional Derivatives 20 3.1.2 Riemann-Liouville Fractional Derivatives 28 3.2 Proposed model: Cauchy noise removal model by fractional total variation 33 3.2.1 Fractional total variation and Cauchy noise removal model 34 3.2.2 nonconvex ADMM algorithm 37 3.2.3 The algorithm for solving fractional total variational model of Cauchy noise 39 3.3 Numerical results of fractional total variational model 51 3.3.1 Parameter and termination condition 51 3.3.2 Experimental results 54 4 Nuclear norm minimization and Cauchy noise denoising model 67 4.1 Weighted Nuclear Norm 67 4.1.1 Weighted Nuclear Norm and Its Applications 68 4.1.2 Iteratively Reweighted l1 Minimization 74 4.2 Proposed Model: Weighted Nuclear Norm For Cauchy Noise Denoising 77 4.2.1 Model and algorithm description 77 4.2.2 Convergence of algorithm7 79 4.2.3 Block matching method 81 4.3 Numerical Results OfWeighted Nuclear Norm Denoising Model For Cauchy Noise 83 4.3.1 Parameter setting and truncated weighted nuclear norm 84 4.3.2 Termination condition 85 4.3.3 Experimental results 86 5 Conclusion 95 Abstract (in Korean) 105Docto

영상 잡음 제거와 수중 영상 복원을 위한 정규화 방법

학위논문(박사)--서울대학교 대학원 :자연과학대학 수리과학부,2020. 2. 강명주.In this thesis, we discuss regularization methods for denoising images corrupted by Gaussian or Cauchy noise and image dehazing in underwater. In image denoising, we introduce the second-order extension of structure tensor total variation and propose a hybrid method for additive Gaussian noise. Furthermore, we apply the weighted nuclear norm under nonlocal framework to remove additive Cauchy noise in images. We adopt the nonconvex alternating direction method of multiplier to solve the problem iteratively. Subsequently, based on the color ellipsoid prior which is effective for restoring hazy image in the atmosphere, we suggest novel dehazing method adapted for underwater condition. Because attenuation rate of light varies depending on wavelength of light in water, we apply the color ellipsoid prior only for green and blue channels and combine it with intensity map of red channel to refine the obtained depth map further. Numerical experiments show that our proposed methods show superior results compared with other methods both in quantitative and qualitative aspects.본 논문에서 우리는 가우시안 또는 코시 분포를 따르는 잡음으로 오염된 영상과 물 속에서 얻은 영상을 복원하기 위한 정규화 방법에 대해 논의한다. 영상 잡음 문제에서 우리는 덧셈 가우시안 잡음의 해결을 위해 구조 텐서 총변이의 이차 확장을 도입하고 이것을 이용한 혼합 방법을 제안한다. 나아가 덧셈 코시 잡음 문제를 해결하기 위해 우리는 가중 핵 노름을 비국소적인 틀에서 적용하고 비볼록 교차 승수법을 통해서 반복적으로 문제를 푼다. 이어서 대기 중의 안개 낀 영상을 복원하는데 효과적인 색 타원면 가정에 기초하여, 우리는 물 속의 상황에 알맞은 영상 복원 방법을 제시한다. 물 속에서 빛의 감쇠 정도는 빛의 파장에 따라 달라지기 때문에, 우리는 색 타원면 가정을 영상의 녹색과 청색 채널에 적용하고 그로부터 얻은 깊이 지도를 적색 채널의 강도 지도와 혼합하여 개선된 깊이 지도를 얻는다. 수치적 실험을 통해서 우리가 제시한 방법들을 다른 방법과 비교하고 질적인 측면과 평가 지표에 따른 양적인 측면 모두에서 우수함을 확인한다.1 Introduction 1 1.1 Image denoising for Gaussian and Cauchy noise 2 1.2 Underwater image dehazing 5 2 Preliminaries 9 2.1 Variational models for image denoising 9 2.1.1 Data-fidelity 9 2.1.2 Regularization 11 2.1.3 Optimization algorithm 14 2.2 Methods for image dehazing in the air 15 2.2.1 Dark channel prior 16 2.2.2 Color ellipsoid prior 19 3 Image denoising for Gaussian and Cauchy noise 23 3.1 Second-order structure tensor and hybrid STV 23 3.1.1 Structure tensor total variation 24 3.1.2 Proposed model 28 3.1.3 Discretization of the model 31 3.1.4 Numerical algorithm 35 3.1.5 Experimental results 37 3.2 Weighted nuclear norm minimization for Cauchy noise 46 3.2.1 Variational models for Cauchy noise 46 3.2.2 Low rank minimization by weighted nuclear norm 52 3.2.3 Proposed method 55 3.2.4 ADMM algorithm 56 3.2.5 Numerical method and experimental results 58 4 Image restoration in underwater 71 4.1 Scientific background 72 4.2 Proposed method 73 4.2.1 Color ellipsoid prior on underwater 74 4.2.2 Background light estimation 78 4.3 Experimental results 80 5 Conclusion 87 Appendices 89Docto