Leveraging eXtented Reality & Human-Computer Interaction for User Experi- ence in 360◦ Video

EXtended Reality systems have resurged as a medium for work and entertainment. While 360o video has been characterized as less immersive than computer-generated VR, its realism, ease of use and affordability mean it is in widespread commercial use. Based on the prevalence and potential of the 360o video format, this research is focused on improving and augmenting the user experience of watching 360o video. By leveraging knowledge from Extented Reality (XR) systems and Human-Computer Interaction (HCI), this research addresses two issues affecting user experience in 360o video: Attention Guidance and Visually Induced Motion Sickness (VIMS). This research work relies on the construction of multiple artifacts to answer the de- fined research questions: (1) IVRUX, a tool for analysis of immersive VR narrative expe- riences; (2) Cue Control, a tool for creation of spatial audio soundtracks for 360o video, as well as enabling the collection and analysis of captured metrics emerging from the user experience; and (3) VIMS mitigation pipeline, a linear sequence of modules (including optical flow and visual SLAM among others) that control parameters for visual modi- fications such as a restricted Field of View (FoV). These artifacts are accompanied by evaluation studies targeting the defined research questions. Through Cue Control, this research shows that non-diegetic music can be spatialized to act as orientation for users. A partial spatialization of music was deemed ineffective when used for orientation. Addi- tionally, our results also demonstrate that diegetic sounds are used for notification rather than orientation. Through VIMS mitigation pipeline, this research shows that dynamic restricted FoV is statistically significant in mitigating VIMS, while mantaining desired levels of Presence. Both Cue Control and the VIMS mitigation pipeline emerged from a Research through Design (RtD) approach, where the IVRUX artifact is the product of de- sign knowledge and gave direction to research. The research presented in this thesis is of interest to practitioners and researchers working on 360o video and helps delineate future directions in making 360o video a rich design space for interaction and narrative.Sistemas de Realidade EXtendida ressurgiram como um meio de comunicação para o tra- balho e entretenimento. Enquanto que o vídeo 360o tem sido caracterizado como sendo menos imersivo que a Realidade Virtual gerada por computador, o seu realismo, facili- dade de uso e acessibilidade significa que tem uso comercial generalizado. Baseado na prevalência e potencial do formato de vídeo 360o, esta pesquisa está focada em melhorar e aumentar a experiência de utilizador ao ver vídeos 360o. Impulsionado por conhecimento de sistemas de Realidade eXtendida (XR) e Interacção Humano-Computador (HCI), esta pesquisa aborda dois problemas que afetam a experiência de utilizador em vídeo 360o: Orientação de Atenção e Enjoo de Movimento Induzido Visualmente (VIMS). Este trabalho de pesquisa é apoiado na construção de múltiplos artefactos para res- ponder as perguntas de pesquisa definidas: (1) IVRUX, uma ferramenta para análise de experiências narrativas imersivas em VR; (2) Cue Control, uma ferramenta para a criação de bandas sonoras de áudio espacial, enquanto permite a recolha e análise de métricas capturadas emergentes da experiencia de utilizador; e (3) canal para a mitigação de VIMS, uma sequência linear de módulos (incluindo fluxo ótico e SLAM visual entre outros) que controla parâmetros para modificações visuais como o campo de visão restringido. Estes artefactos estão acompanhados por estudos de avaliação direcionados para às perguntas de pesquisa definidas. Através do Cue Control, esta pesquisa mostra que música não- diegética pode ser espacializada para servir como orientação para os utilizadores. Uma espacialização parcial da música foi considerada ineficaz quando usada para a orientação. Adicionalmente, os nossos resultados demonstram que sons diegéticos são usados para notificação em vez de orientação. Através do canal para a mitigação de VIMS, esta pesquisa mostra que o campo de visão restrito e dinâmico é estatisticamente significante ao mitigar VIMS, enquanto mantem níveis desejados de Presença. Ambos Cue Control e o canal para a mitigação de VIMS emergiram de uma abordagem de Pesquisa através do Design (RtD), onde o artefacto IVRUX é o produto de conhecimento de design e deu direcção à pesquisa. A pesquisa apresentada nesta tese é de interesse para profissionais e investigadores tra- balhando em vídeo 360o e ajuda a delinear futuras direções em tornar o vídeo 360o um espaço de design rico para a interação e narrativa

Da imersão à criação : cartografando experiências estéticas de estudantes com a realidade virtual

A Realidade Virtual (RV) vem sendo bastante explorada no âmbito da educação no Brasil e no mundo, sendo o seu uso intensificado a partir da pandemia da Covid-19. Entretanto, a maioria das pesquisas dedicadas ao assunto investigam a usabilidade de ferramentas RV para o ensino-aprendizagem a partir do desenvolvimento de softwares e aplicações, sendo os processos derivados deste uso pouco explorados nas pesquisas, especialmente no campo das ciências humanas, como Artes e Letras. Nessa direção, considera-se que a consequente popularização da RV e demais tecnologias imersivas também traz como problematização o modo como o observador interage e sente os elementos audiovisuais e sua forma de apropriação em processos estético-educacionais. A presente tese tem como objetivo cartografar as experiências estéticas originadas na implementação da tecnologia de RV com alunos em espaços não-formais de aprendizagem, cujos dados cultivados com estudantes buscam responder como as experiências estéticas em RV podem potencializar o aprendizado da arte no espaço não-formal. Para tanto, utilizou-se como metodologia a prática cartográfica de investigação, com o intuito de acompanhar os processos traçados pela pesquisadora e estudantes. Esta tese analisa duas práticas artístico-pedagógicas conduzidas em contextos não-formais de aprendizagem: a primeira, realizada como uma oficina remota sobre a RV, com a participação de sete estudantes com idades entre 8 e 12 anos. A segunda prática foi realizada no NRW-Forum Düsseldorf, durante estadia de pesquisa na Alemanha, com a participação de três estudantes universitárias com idades que variam de 21 a 27 anos. O manejo de análise percorreu três fases principais: (1) Realidade Virtual Cinematográfica: desenvolvendo a educação do olhar, (2) Produção de narrativas: A RV como fomento de experiências artísticas e de design e, (3) Pistas para a pedagogia da percepção e a construção de mundos virtuais por estudantes, nas quais busca-se dialogar com os principais referenciais trazidos na tese, assim como levantar novas problematizações relacionadas às propriedades estéticas e pedagógicas das experiências apresentadas. Assim, os dados cultivados ao longo desta tese mostram, portanto, que as experiências estéticas RV indicam caminhos para a aprendizagem da linguagem da arte em suas múltiplas manifestações audiovisuais, de forma a contribuir para o desenvolvimento da gramática audiovisual inerente à estética RV, bem como ao fortalecer a educação estética de estudantes no âmbito das práticas pedagógicas formais e não-formais.Virtual Reality (VR) has been widely explored in education in Brazil and around the world, and its use has intensified since the Covid-19 pandemic. However, most research devoted to this subject investigates the usability of VR tools for teaching-learning from the development of software and applications, and the processes originated from this use are little explored, especially in the field of humanities, such as Arts and Letters. In this direction, it is considered that the increasing popularization of VR and other immersive technologies also brings the problematization of how the spectator interacts and feels the audiovisual elements and how they are appropriated in the aesthetic-educational processes. This thesis aims to map the aesthetic experiences that arise from the implementation of VR technology with students in non-formal learning environments, whose data cultivated with students seek to answer how aesthetic experiences in VR can enhance art learning in the non-formal setting. For this purpose, the cartographic method was employed, in order to follow the processes outlined by the researcher and students. This thesis analyses two artistic-pedagogical practices conducted in non-formal learning settings: the first one was carried out as a remote workshop on VR, with the participation of seven students aged 8-12 years old. The second practice was conducted at NRW-Forum Düsseldorf, during a research stay in Germany, with the participation of three university students aged 21-27. The handling of analysis went through three main phases: (1) Cinematic Virtual Reality: developing the education of gaze, (2) Production of narratives: VR as fostering artistic and design experiences and, (3) Clues for the pedagogy of perception and the construction of virtual worlds by students, in which it seeks to dialogue with the major references brought in the thesis, as well as to raise new problematizations related to the aesthetic and pedagogical properties of the experiences presented. Thus, the data cultivated throughout this thesis show, therefore, that VR aesthetic experiences can indicate paths for learning the language of art in its multiple audiovisual manifestations, in order to contribute to the development of the audiovisual grammar inherent to VR aesthetics, as well as by strengthening the aesthetic education of students within formal and non-formal pedagogical practices