A Light-weight Content Distribution Scheme for Cooperative Caching in Telco-CDNs

A key technique to reduce the rapid growing of video-on-demand’s traffic is a cooperative caching strategy aggregating multiple cache storages. Many internet service providers have considered the use of cache servers on their networks as a solution to reduce the traffic. Existing schemes often periodically calculate a sub-optimal allocation of the content caches in the network. However, such approaches require a large computational overhead that cannot be amortized in a presence of frequent changes of the contents’ popularities. This paper proposes a light-weight scheme for a cooperative caching that obtains a sub-optimal distribution of the contents by focusing on their popularities. This was made possible by adding color tags to both cache servers and contents. In addition, we propose a hybrid caching strategy based on Least Frequently Used (LFU) and Least Recently Used (LRU) schemes, which efficiently manages the contents even with a frequent change in the popularity. Evaluation results showed that our light-weight scheme could considerably reduce the traffic, reaching a sub-optimal result. In addition, the performance gain is obtained with a computation overhead of just a few seconds. The evaluation results also showed that the hybrid caching strategy could follow the rapid variation of the popularity. While a single LFU strategy drops the hit ratio by 13.9%, affected by rapid popularity changes, our proposed hybrid strategy could limit the degradation to only 2.3%

A control and management architecture supporting autonomic NFV services

The proposed control, orchestration and management (COM) architecture is presented from a high-level point of view; it enables the dynamic provisioning of services such as network data connectivity or generic network slicing instances based on virtual network functions (VNF). The COM is based on Software Defined Networking (SDN) principles and is hierarchical, with a dedicated controller per technology domain. Along with the SDN control plane for the provisioning of connectivity, an ETSI NFV management and orchestration system is responsible for the instantiation of Network Services, understood in this context as interconnected VNFs. A key, novel component of the COM architecture is the monitoring and data analytics (MDA) system, able to collect monitoring data from the network, datacenters and applications which outputs can be used to proactively reconfigure resources thus adapting to future conditions, like load or degradations. To illustrate the COM architecture, a use case of a Content Delivery Network service taking advantage of the MDA ability to collect and deliver monitoring data is experimentally demonstrated.Peer ReviewedPostprint (author's final draft

Big Data-backed video distribution in the telecom cloud

Telecom operators are starting the deployment of Content Delivery Networks (CDN) to better control and manage video contents injected into the network. Cache nodes placed close to end users can manage contents and adapt them to users' devices, while reducing video traffic in the core. By adopting the standardized MPEG-DASH technique, video contents can be delivered over HTTP. Thus, HTTP servers can be used to serve contents, while packagers running as software can prepare live contents. This paves the way for virtualizing the CDN function. In this paper, a CDN manager is proposed to adapt the virtualized CDN function to current and future demand. A Big Data architecture, fulfilling the ETSI NFV guide lines, allows controlling virtualized components while collecting and pre-processing data. Optimization problems minimize CDN costs while ensuring the highest quality. Re-optimization is triggered based on threshold violations; data stream mining sketches transform collected into modeled data and statistical linear regression and machine learning techniques are proposed to produce estimation of future scenarios. Exhaustive simulation over a realistic scenario reveals remarkable costs reduction by dynamically reconfiguring the CDN.Peer ReviewedPostprint (author's final draft

Popularity-Based Adaptive Content Delivery Scheme with In-Network Caching

To solve the increasing popularity of video streaming services over the Internet, recent research activities have addressed the locality of content delivery from a network edge by introducing a storage module into a router. To employ in-network caching and persistent request routing, this paper introduces a hybrid content delivery network (CDN) system combining novel content routers in an underlay together with a traditional CDN server in an overlay. This system first selects the most suitable delivery scheme (that is, multicast or broadcast) for the content in question and then allocates an appropriate number of channels based on a consideration of the content’s popularity. The proposed scheme aims to minimize traffic volume and achieve optimal delivery cost, since the most popular content is delivered through broadcast channels and the least popular through multicast channels. The performance of the adaptive scheme is clearly evaluated and compared against both the multicast and broadcast schemes in terms of the optimal in-network caching size and number of unicast channels in a content router to observe the significant impact of our proposed scheme

Echo State Networks for Proactive Caching in Cloud-Based Radio Access Networks with Mobile Users

In this paper, the problem of proactive caching is studied for cloud radio access networks (CRANs). In the studied model, the baseband units (BBUs) can predict the content request distribution and mobility pattern of each user, determine which content to cache at remote radio heads and BBUs. This problem is formulated as an optimization problem which jointly incorporates backhaul and fronthaul loads and content caching. To solve this problem, an algorithm that combines the machine learning framework of echo state networks with sublinear algorithms is proposed. Using echo state networks (ESNs), the BBUs can predict each user's content request distribution and mobility pattern while having only limited information on the network's and user's state. In order to predict each user's periodic mobility pattern with minimal complexity, the memory capacity of the corresponding ESN is derived for a periodic input. This memory capacity is shown to be able to record the maximum amount of user information for the proposed ESN model. Then, a sublinear algorithm is proposed to determine which content to cache while using limited content request distribution samples. Simulation results using real data from Youku and the Beijing University of Posts and Telecommunications show that the proposed approach yields significant gains, in terms of sum effective capacity, that reach up to 27.8% and 30.7%, respectively, compared to random caching with clustering and random caching without clustering algorithm.Comment: Accepted in the IEEE Transactions on Wireless Communication

動画配信網におけるアクセス変動予測を用いた分散協調キャッシュ制御

動画配信サービスの普及，地上波のインターネット放送に伴いファイルサイズの大きなデータのやり取りが行われている。流通するインターネット通信量の8割が動画ファイルであることに着目し，この通信を削減することでオリジンサーバの負荷軽減に取組む。　先行研究の色タグ情報を用いた分散協調キャッシュ手法では，ユーザからの要求傾向が大幅に変化することを想定しておらず，IPTV サービスを調査した論文を参考にシミュレーション実験を行うと通信量削減効果が減少してしまう。株価などの推移予測を応用したコンテンツ人気推移予測手法では，単一キャッシュサーバでの通信量削減効果を調査しているが分散協調キャッシュへの拡張は検討されていない。　本研究では動画配信サービスの将来の要求傾向を予測し，事前に効果的なキャッシュ配置手法を2種類検討することで通信量削減に取り組む。　1つ目は，要求の偏りを予測し，コンテンツの要求の偏りを予測し効果的なキャッシュ配置を適用する仕組みを提案する。この手法はコンテンツ要求の偏りの時間変化がパターン化されていることに着目し，時間帯毎に効果的なキャッシュ配置を設定するものである。この手法では日本のネットワークトポロジによるシミュレーション実験を行った結果，先行研究と比較し最大58％動画通信量の低減を確認した。しかしながら，ユーザの動画視聴要求数を評価に追加すると，要求数が多い時間帯の通信量を大きく削減することはできなかった。　2つ目は，新規コンテンツの人気を放送事業者の経験則から予測し，色タグ情報を用いた分散協調キャッシュ制御を導入しているキャッシュサーバに事前にコンテンツを配布する手法を提案する。本手法は効率的に通信量を削減するため，ユーザからの要求数が深夜の約40倍にもなるゴールデンタイムの時間帯の通信を削減できる。その結果ピーク時における動画通信量を約15-30%削減した。電気通信大学201

動画配信サービスのための軽量分散協調キャッシュ基盤の研究

　時刻に関係なく動画を視聴できるオンデマンド動画配信(Video-on-Demand; VoD) サービスの普及に伴い，インターネット通信量は急激に増大している．インターネット通信量は5年で3倍の速度で増加すると見込まれており，2020年にはインターネット通信量の80%以上を動画通信が占めると予測されている．増大する通信量はルータやスイッチなどの通信機材の増設や刷新で対応できるが，通信量の増加に伴い継続的な増設が求められるため，経済的ではない． 　VoDサービス事業者は一般に，コンテンツ配信ネットワーク(Content Delivery Network;CDN) 事業者に大容量コンテンツの配信を委託している．CDN事業者は，世界中のユーザから近い位置にキャッシュサーバを設置し，大規模なキャッシュネットワークを構築している．各キャッシュサーバはコンテンツがネットワークを通過する際にデータをコピーしておき，再利用することで，通信量を削減している．動画コンテンツは一度アップロードされると滅多に更新されることがないため，キャッシュサーバは重複する通信を削減できる．このようにすることで，キャッシュサーバは遠くの配信サーバとの通信回数を削減し，効率よくインターネット通信量を削減する．しかしながら，キャッシュ容量には上限があり，動画コンテンツは継続的に追加されるため，1台のキャッシュサーバにすべての動画コンテンツを保持させることは現実的ではない．また，CDN事業者のキャッシュサーバは設置拠点が限られているため，キャッシュサーバの通信量や，キャッシュサーバまでの経路を提供するインターネットサービスプロバイダ(Internet Service Provider; ISP) 内の通信量を削減できない．その結果，通信路の混雑や通信量の増大を招いてしまう．　CDN事業者は，複数のキャッシュサーバでキャッシュされたコンテンツを共有することで実効キャッシュ容量を拡大し，通信量削減と負荷分散を図ろうとしている．このような手段はデータ転送路を制御するトラフィックエンジニアリングをもとに実現されるが，CDN事業者はISPの物理ネットワーク形状やリンク帯域等に関する知識をもたないため，効率よくキャッシュサーバを協調させることが難しい．そのため，近年はISP事業者が自社のネットワーク中にキャッシュサーバを配置し，トラフィックエンジニアリングを駆使して協調動作させることで，分散協調キャッシュネットワークの構築を検討している．このような方法をとることで，ネットワークとキャッシュサーバの両方を同一の事業者が管理するため，効率の良い通信量削減が実現できる．ISPが管理するISP内のキャッシュネットワークはTelco-CDNと呼ばれる．　最近の研究では，Telco-CDNのキャッシュサーバを効率よく管理する方法が提案されている．典型的には，複数のキャッシュサーバで保持するコンテンツの規則を設定しておき，各キャッシュサーバで異なるコンテンツを保持させることで，実効キャッシュ容量を拡大し，通信量の削減が実現されている．しかしながら，このような方法は各コンテンツのアクセス頻度情報を考慮しないため，人気上位のコンテンツを保持する数台のキャッシュサーバに負荷が集中してしまう．また，効率の良いコンテンツ配置を求める最適化問題を設定して計算することで，通信量削減効果の高い分散協調キャッシュを実現する研究も行われている．しかしながら，最適化問題の計算には長時間の計算を要する一方で，VoDサービスの動画アクセスパターンは1時間で20-40%程度変化してしまうため，計算が終了した時点で最適なコンテンツ配置との乖離が生まれ，通信量削減効果が低減してしまう．　本論文では，VoDサービスのアクセス傾向を効率よくキャッシュする2種類のキャッシュ制御アルゴリズムを提案し，組み合わせて利用することで，通信量の削減を図る．まず第1に，2種類の異なるキャッシュアルゴリズムを組み合わせたハイブリッドキャッシュアルゴリズムを提案する．このアルゴリズムは，異なるキャッシュアルゴリズムをネットワーク中に混在させたり，1台のキャッシュサーバのストレージ領域を分割してアルゴリズムを混合して利用することで，急激に変動する動画アクセスを効率よくキャッシュして，高い通信量削減効果を維持する．アクセス頻度の高いコンテンツを保持するLeast Frequently Used (LFU)ベースのアルゴリズムで高い通信量削減効果を実現し，最近アクセスされたコンテンツを優先的に保持するLeast Recently Used (LRU)ベースのアルゴリズムで急激なアクセス傾向の変化に追従する．　第2に，色タグ情報を用いた分散協調キャッシュ制御手法を提案し，キャッシュネットワーク中のコンテンツ配置を効率よく制御する．この方法は，コンテンツとキャッシュサーバの両方に色タグを設定し，色がマッチする場合にキャッシュするよう制御することで，コンテンツを分散配置し，実効キャッシュ容量を拡大する．具体的には，先に述べたハイブリッドキャッシュのLFU領域に色タグを設定し，大容量な分散協調領域として利用するとともに，小容量なLRU領域ではタグ情報にかかわらずコンテンツをキャッシュさせることで，動画アクセス傾向の変化に追従する．アクセス頻度の高いコンテンツほど多数の色を割り当てることでユーザからのホップ数を短縮し，コンテンツ配信サーバだけでなくISPネットワーク内部の通信量も効率よく削減する．色タグ情報の軽量管理手法と，色タグ情報を活用する経路制御アルゴルズムも合わせて提案し，軽量な計算オーバヘッドで高い通信量削減効果を実現する．　ハイブリッドキャッシュアルゴリズムの評価では，新規にアクセス頻度の高いコンテンツを追加しても，LFUベースのキャッシュ領域で高い通信量削減効果を達成しつつ，LRUベースのキャッシュ領域で通信量を維持できることが示された．また，色タグ情報に基づく分散協調キャッシュアルゴリズムは，遺伝的アルゴリズムで計算した準最適制御に近い通信量削減効果を実現し，その計算オーバヘッドも小さく抑えられることを確認した．また，色タグ情報を活用した経路制御アルゴリズムは，最短経路制御と比較して31．9%の通信量削減効果を得られることを確認した．電気通信大学201

Geographically Distributed Database Management at the Cloud's Edge

Request latency resulting from the geographic separation between clients and remote application servers is a challenge for cloud-hosted web and mobile applications. Numerous studies have shown the importance of low latency to the end user experience. Small response time increases on the order of a few hundred milliseconds directly translate to reduced user satisfaction and loss of revenue that persist even after a low latency environment is restored. One way to address this challenge in geo-distributed settings is to push all or part of the application, along with the data it requires, to the edge of the cloud - closer to application clients. This thesis explores the idea of taking advantage of clients' proximity to the edge of the network in order to reduce request latencies. SpearDB is a prototype replicated distributed database system which operates in a star network topology, with a core site and a large number of edge sites that are close to clients. Clients access the nearest edge, which holds replicas of locally relevant portions of the database. SpearDB's edge sites coordinate through the core to provide a global transactional consistency guarantee (parallel snapshot isolation or PSI), while handling as much work locally as possible. SpearDB provides full general purpose transactional semantics with ACID guarantees. Experiments show that SpearDB is effective at reducing workload latencies for applications whose access patterns are geographically localizable. Many applications fit this criteria: bulletin boards (e.g., Craigslist, Kijiji), local commerce or services (e.g., Groupon, Uber), booking and ticketing (e.g., OpenTable, StubHub), location based services (mapping, directions, augmented reality), local news outlets and client-centric services (e-mail, rss feeds, gaming). SpearDB introduces protocols for executing application transactions in a geo-distributed setting under strong consistency guarantees. These protocols automatically hide the complexity as well as much of the latency introduced by geo-distribution from applications. The effectiveness of SpearDB depends on the placement of primary and secondary replicas at core and edge sites. The secondary replica placement problem is shown to be NP-hard. Several algorithms for automatic data partitioning and replication are presented to provide approximate solutions. These algorithms work in a geo-distributed core-edge setting under partial replication. Their goal is to bring data closer to clients in order to lower request latencies. Experimental comparisons of the resulting placements' latency impact show good results. Surprisingly however, the placements produced by the simplest of the proposed algorithms are comparable in quality to those produced by more complex approaches