A2-RL: Aesthetics Aware Reinforcement Learning for Image Cropping

Image cropping aims at improving the aesthetic quality of images by adjusting their composition. Most weakly supervised cropping methods (without bounding box supervision) rely on the sliding window mechanism. The sliding window mechanism requires fixed aspect ratios and limits the cropping region with arbitrary size. Moreover, the sliding window method usually produces tens of thousands of windows on the input image which is very time-consuming. Motivated by these challenges, we firstly formulate the aesthetic image cropping as a sequential decision-making process and propose a weakly supervised Aesthetics Aware Reinforcement Learning (A2-RL) framework to address this problem. Particularly, the proposed method develops an aesthetics aware reward function which especially benefits image cropping. Similar to human's decision making, we use a comprehensive state representation including both the current observation and the historical experience. We train the agent using the actor-critic architecture in an end-to-end manner. The agent is evaluated on several popular unseen cropping datasets. Experiment results show that our method achieves the state-of-the-art performance with much fewer candidate windows and much less time compared with previous weakly supervised methods.Comment: Accepted by CVPR 201

Untersuchung der Augenbewegung und visuellen Salienz in Bildausschnitten von Photographie

Das Gebiet der Neuroästhetik befasst sich mit den Sinnesreizen, die ein ästhetisches Empfinden hervorrufen sowie ihrer Verarbeitung. In meiner Arbeit beschäftigte ich mich mit dem Zuschneiden von Photographien, um sie ästhetisch ansprechender zu gestalten (sog. Cropping). Der von mir analysierte Datensatz stammt aus vorangegangenen Studi- en von McManus et al. (2011a, 2011b), die zeigen konnten, dass Cropping wiederholbar und zuverlässig von Probanden durchgeführt wird. Es war den Autoren nicht möglich, objektive Parameter zu isolieren, die während des Cropping-Vorganges eine Rolle spielen. In meiner Arbeit konnte ich zeigen, dass sowohl Salienz als auch Augenbewegungen dafür von zentraler Bedeutung sind. Probanden versuchen, so viel wie möglich von der salienten Struktur in das zugeschnittene Bild zu integrieren. Dabei wird die Salienz im zugeschnittenen Bild nicht zufällig, sondern balanciert verteilt. Dies bedeutet, dass der Bildschwerpunkt der Salienz einen geringen Abstand zum geometrischen Mittelpunkt besitzt. Die Ergebnisse meiner Untersuchung zeigen zum einen eine Verbindung zwischen Crop-ping und Salienz auf. Zum anderen leistet diese Arbeit auch einen Beitrag zum Ver-ständnis der bottom-up Prozesse des visuellen Systems und dem Konzept der pictorial balance bei der ästhetischen Bewertung von Photographien