Robot-aided cloth classification using depth information and CNNs

The final publication is available at link.springer.comWe present a system to deal with the problem of classifying garments from a pile of clothes. This system uses a robot arm to extract a garment and show it to a depth camera. Using only depth images of a partial view of the garment as input, a deep convolutional neural network has been trained to classify different types of garments. The robot can rotate the garment along the vertical axis in order to provide different views of the garment to enlarge the prediction confidence and avoid confusions. In addition to obtaining very high classification scores, compared to previous approaches to cloth classification that match the sensed data against a database, our system provides a fast and occlusion-robust solution to the problem.Peer ReviewedPostprint (author's final draft

Single-Shot Clothing Category Recognition in Free-Configurations with Application to Autonomous Clothes Sorting

This paper proposes a single-shot approach for recognising clothing categories from 2.5D features. We propose two visual features, BSP (B-Spline Patch) and TSD (Topology Spatial Distances) for this task. The local BSP features are encoded by LLC (Locality-constrained Linear Coding) and fused with three different global features. Our visual feature is robust to deformable shapes and our approach is able to recognise the category of unknown clothing in unconstrained and random configurations. We integrated the category recognition pipeline with a stereo vision system, clothing instance detection, and dual-arm manipulators to achieve an autonomous sorting system. To verify the performance of our proposed method, we build a high-resolution RGBD clothing dataset of 50 clothing items of 5 categories sampled in random configurations (a total of 2,100 clothing samples). Experimental results show that our approach is able to reach 83.2\% accuracy while classifying clothing items which were previously unseen during training. This advances beyond the previous state-of-the-art by 36.2\%. Finally, we evaluate the proposed approach in an autonomous robot sorting system, in which the robot recognises a clothing item from an unconstrained pile, grasps it, and sorts it into a box according to its category. Our proposed sorting system achieves reasonable sorting success rates with single-shot perception.Comment: 9 pages, accepted by IROS201

Recognising the Clothing Categories from Free-Configuration Using Gaussian-Process-Based Interactive Perception

In this paper, we propose a Gaussian Process- based interactive perception approach for recognising highly- wrinkled clothes. We have integrated this recognition method within a clothes sorting pipeline for the pre-washing stage of an autonomous laundering process. Our approach differs from reported clothing manipulation approaches by allowing the robot to update its perception confidence via numerous interactions with the garments. The classifiers predominantly reported in clothing perception (e.g. SVM, Random Forest) studies do not provide true classification probabilities, due to their inherent structure. In contrast, probabilistic classifiers (of which the Gaussian Process is a popular example) are able to provide predictive probabilities. In our approach, we employ a multi-class Gaussian Process classification using the Laplace approximation for posterior inference and optimising hyper-parameters via marginal likelihood maximisation. Our experimental results show that our approach is able to recognise unknown garments from highly-occluded and wrinkled con- figurations and demonstrates a substantial improvement over non-interactive perception approaches

Garment manipulation dataset for robot learning by demonstration through a virtual reality framework

.Being able to teach complex capabilities, such as folding garments, to a bi-manual robot is a very challenging task, which is often tackled using learning from demonstration datasets. The few garment folding datasets available nowadays to the robotics research community are either gathered from human demonstrations or generated through simulation. The former have the huge problem of perceiving human action and transferring it to the dynamic control of the robot, while the latter requires coding human motion into the simulator in open loop, resulting in far-from-realistic movements. In this article, we present a reduced but very accurate dataset of human cloth folding demonstrations. The dataset is collected through a novel virtual reality (VR) framework we propose, based on Unity’s 3D platform and the use of a HTC Vive Pro system. The framework is capable of simulating very realistic garments while allowing users to interact with them, in real time, through handheld controllers. By doing so, and thanks to the immersive experience, our framework gets rid of the gap between the human and robot perception-action loop, while simplifying data capture and resulting in more realistic sampleThis work was developed in the context of the project CLOTHILDE (”CLOTH manIpulation Learning from DEmonstrations”) which has received funding from the European Research Council (ERC) under the European Union’s Horizon 2020 research and innovation program (grant agreement No. 741930) and is also supported by the BURG project PCI2019-103447 funded by MCIN/ AEI /10.13039/501100011033 and by the ”European Union”.Peer ReviewedPostprint (published version

双腕アームロボットによる布被覆作業に関する研究

本研究の目的は，物体を布で包む作業（被覆作業）をモデル化し，ロボットによる被覆作業を実現させることである．本論文では「目標線」の概念に基づいて物体を布で包む作業（被覆作業）をモデル化することを提案した．これにより，まず人間が大まかな包み方を教示し，次に布と物体の形状から被覆作業を計画し，最終的にロボットの動作を生成し，ロボットによる被覆作業を実現した．近年，工場のロボット化が行われているが，ロボット化できない作業はまだまだ存在している．それらは，人間にしか行えないような巧みで複雑な作業，あるいは，ロボットより人間の方が効率的にできてしまうような作業である．そのような作業の１つとして，布を扱う作業が挙げられる．布を扱う作業の中には，布単体だけでなく，物体も一緒に取り扱っていく被覆作業が多く存在している．しかし，この被覆作業をロボットに指示するための有効な作業モデルは確立されていない．先行研究では，ロボットによる布操作の記述方法として，点，折り線や手先経路が用いられている．また，コンピュータグラフィクス分野では目標線という記述方法があり，これは被覆を表現するために用いられている．被覆作業をロボット化する上では，まず，実世界のロボットのために，汎用的な被覆モデルとして必要となる物体と布の関係や作業手順を，どのように記述すればいいのかという問題に直面する．このような点を考慮し，被覆作業に適した記述モデルを導入しなければならない．次に，そのような被覆のための作業記述を，実際のロボットにどのように入力すればいいのかという問題がある．煩雑な指示方法ではなく，実空間上で人間が考えている被覆作業を，直感的にロボットに指示できるのが望ましい．最後に，その作業記述から実際のロボットの動きをどのように生成すればよいのかという問題が現れてくる．ロボットが被覆作業を達成するためには，実際の手先軌道や干渉を回避するための動作を，状況に合わせて生成しなければならない．以上を踏まえて，本研究ではロボットによる被覆作業の課題に取り組んだ．具体的には以下の課題について取り組んだ．・布と物体の関係を適切に表す記述方法・直感的な被覆手順の指示方法・ロボットの動作軌道の生成方法まず，布と物体の関係を適切に表す記述方法について検討した．本研究では，コンピュータグラフィクス分野で用いられた目標線という記述方法を，実空間のロボットに導入することを提案した．この目標線は平面だけでなく曲面形状への指示が行いやすい．そして，物体のどこを布で包んでいくかという被覆の本質的な情報を自然に表せる利点を持つ．その中では，凹凸が存在するような物体に対しても被覆を行う場合があり，その凹凸を適切に処理して，作業を記述する必要がある．そこで，物体の埋めるべき凹部と埋めるべきでない凹部分を考慮し，凹凸へ適切な目標線指示を行うための局所凸という概念，及び局所凸生成方法を提案した．次に，直感的な被覆手順の指示方法について検討した．本研究では，人間の大まかな包む指示と被覆の関係を考え，物体と布のどこを重ね合わせるかという人間の被覆の意図を目標線として入力する方法を提案した．本研究は，作業指示を行う手の正確な３次元的な軌跡ではなく，手の軌跡とその軌跡が通過していく物体表面の関係に注目した．そして，デプスセンサとモーションキャプチャセンサを組合せた教示デバイスを用いて，人間の被覆の意図を抽出した．その中では，指示中の手振れの影響を小さくするための目標線逆走防止処理手法とスムージングと間引き処理を合わせた補正処理手法を提案した．最後に，ロボットの動作軌道の生成方法について検討した．本研究では，目標線と把持点から布の動きを表す手先経路を生成する方法と，その手先経路を実行するためのロボット動作の生成方法を提案した．実際のロボットを動かすためには，目標線だけでなく，手先経路や動作指令が必要であり，可動域や物体との干渉を考慮し，右手と左手を用いた布の持ち替えや持ち直しを行わなければならない．これらの情報を生成する上で，目標線が被覆の本質的な情報を保持している．そのため，手先経路・動作指令は自動的に生成可能である．動作生成手法の中では，各操作の布への重力の影響，動作ステップ数やロボットと布の位置関係を考慮した確実性を求め，それを基に生成された動作遷移グラフを用いて，最適な持ち替えや持ち直し操作の組み合わせを計画する方法を提案した．以上，本研究では，物体を布で包むという被覆作業について，ロボット化のための枠組みを提案した．さらに，各課題に対する提案方法を統合し，一連の被覆作業システムとして実装した．これにより，実際に人間の大まかな指示から，目標線を用いて布と物体の関係を記述し，そこから布の動きを表す手先経路，状況に合わせた最適なロボット動作を生成できるようになりロボットによる被覆作業が実現した．電気通信大学201

A New Approach to Clothing Classification using Mid-Level Layers

Abstract — We present a novel approach for classifying items from a pile of laundry. The classification procedure exploits color, texture, shape, and edge information from 2D and 3D local and global information for each article of clothing using a Kinect sensor. The key contribution of this paper is a novel method of classifying clothing which we term L-M-H, more specifically L-C-S-H using characteristics and selection masks. Essentially, the method decomposes the problem into high (H), low (L) and multiple mid-level (characteristics(C), selection masks(S)) layers and produces “local ” solutions to solve the global classification problem. Experiments demonstrate the ability of the system to efficiently classify and label into one of three categories (shirts, socks, or dresses). These results show that, on average, the classification rates, using this new approach with mid-level layers, achieve a true positive rate of 90%. I