본문바로가기

Development of the Walking-in-place-based VR Locomotion Method Supporting Lateral and Backward Movement

Ju Hee Kim , Yushin Lee
10.5143/JESK.2024.43.4.345 Epub 2024 September 09

0
Cited By

Abstract

Objective: This study aimed to develop the Walking-in-place-based locomotion method (WIP) that supports lateral and backward movements through gestures.

Background: WIP is one of the most popular VR locomotion method for its naturalness, usefulness, and immersiveness. However, it is limited to forward movement, causing discomfort during precise navigation.

Method: The study consisted of two parts. In the first part, a gesture collection experiment was conducted with 14 participants. They were asked to perform upper and lower body gestures suitable for lateral and backward movements while using WIP. The collected gestures were grouped according to their similarity and representative gesture sets were derived based on the frequency analysis. In the second part, WIP-based locomotion methods which enables lateral and backward movements were developed using the gesture sets. 15 participants navigated a virtual city using the new locomotion methods and evaluated usability, sickness, presence (involvement and adaptation/immersion) using the System Usability Scale (SUS), the Virtual Reality Sickness Questionnaire (VRSQ) and the Presence Questionnaire 3.0 (PQ 3.0).

Results: In the first study, it was concluded that Lateral or Backward Body Leaning (BL) and Keeping One Foot on the Side or Behind the back (KF) as the most appropriate gesture sets for lateral and backward movements. In the second study, two WIP-based locomotion methods, WIP with BL and WIP with KF, scored 73.50 and 77.70 for usability, 4.22 and 5.00 for sickness, 66.26 and 67.53 for involvement, and 44.80 and 48.33 for adaptation/immersion, respectively. There were no significant differences between the two methods for any of the measures.

Conclusion: It was confirmed that WIP with BL and WIP with KF have the potential for use in VR navigation. In particular, WIP with BL was found to have an advantage in terms of ease of switching between movement directions. On the other hand, WIP with KF was found to have the advantage of being able to move using only lower body gestures.

Application: The two proposed locomotion methods can be used in a variety of VR applications that require an immersive VR navigation experience.



Keywords



Walking-in-place-based locomotion VR locomotion VR navigation Gesture-based interaction



1. Introduction

가상 현실(virtual reality, VR) 공간 내 항행(navigation)은 VR 애플리케이션 사용 시 수행되는 보편적인 과업으로(Liang et al., 2019; Suma et al., 2010), 사용자 경험 형성에 직접적인 영향을 미치는 과업 중 하나이다(Cherni et al., 2021; Monteiro et al., 2018). VR 항행을 지원하는 이동 방법(locomotion method)에는 다양한 유형이 있는데, 크게 보행 기반 이동 방법(walking-based locomotion method), 조향 기반 이동 방법(steering-based locomotion method), 선택 기반 이동 방법(selection-based locomotion method), 조작 기반 이동 방법(manipulation-based locomotion method)으로 구분된다(Al Zayer et al., 2020; Lai and McMahan, 2020). 보행 기반 이동 방법은 사용자의 걷는 동작을 통해 이동하는 방법을 말한다. 그 외 나머지 방법들은 별도의 컨트롤러나 제스처를 필요로 하는데, 조향 기반 이동 방법은 전진 방향의 연속적 제어를 통해, 선택 기반 이동 방법은 이동 목표 지점에 대한 직접적인 선택을 통해, 조작 기반 이동 방법은 사용자의 위치, 방향 등에 대한 동시다발적 제어를 통해 이동하는 방법을 말한다. 이 중 보행 기반 이동 방법은 가장 직관적이고 자연스러운 상호작용 방법으로, 몰입감과 멀미감 측면에서 이점을 지니고 있는 이동 방법으로 알려져 있다(Bruder et al., 2015; Jaeger and Mourant, 2001; Kim and Xiong, 2021; Lee et al., 2017; Slater et al., 1995; Steinicke et al., 2008).

보행 기반 이동 방법 중 하나인 제자리 걷기 기반 이동 방법(walking-in-place based locomotion method, WIP)은 제자리에서 걷는 동작을 통해 전진 이동을, 머리나 몸의 정렬 상태 조정을 통해 전진 이동 방향 제어를 구현하는 방법으로써, 걷는 동작을 통해 현실에서의 사용자 이동을 요구하는 리얼 워킹(real walking)이나 리다이렉티드 워킹(redirected walking) 이동 방법이 갖는 사용자 추적 공간 확보 문제(Slater et al., 1995; Razzaque et al., 2001; Steinicke et al., 2008)를 해결하면서도 몰입감과 멀미감 측면의 이점을 유지할 수 있는 대안적 기술로 평가 받고 있다(Jaeger and Mourant, 2001; Lee et al., 2017; Slater et al., 1995; Templeman et al., 1999). WIP과 다른 이동 방법 간의 사용자 경험 비교 연구들에서도 WIP의 이점이 확인된 바 있는데, Boletsis et al. (2019)의 연구에서 WIP과 조작 기반 이동 방법(조이스틱 기반), 선택 기반 이동 방법(ray-casting 컨트롤러 기반)을 비교한 결과, WIP이 다른 두 인터페이스에 비해 몰입감이 가장 우수하였음을 확인하였다. Mousas et al. (2021)은 조작 기반 이동 방법(조이스틱 기반)과 WIP을 포함한 3가지 종류의 보행 기반 이동 방법 간의 사용자 경험을 비교하였는데, WIP이 가장 자연스러운 이동 방법임을 확인하였다. Kim and Rhiu (2021)은 조작 기반 이동 방법(조이스틱 기반), 선택 기반 이동 방법(ray-casting 컨트롤러 기반), WIP, 제자리 뛰기 기반 이동 방법 간 사용자 경험 비교 연구를 통해 WIP이 현존감(presence) 측면에서 가장 우수한 것을 확인하였다.

그러나, WIP은 제한된 이동 자유도를 갖는다는 한계를 갖고 있다(Hedlund et al., 2023; Tregillus et al., 2017). 앞서 언급했듯, WIP은 전진 이동과 전진 이동 방향의 선택만을 지원한다. 즉, 옆걸음이나 뒷걸음을 하더라도, 전진 이동이 일어나는 것이다. 이러한 실제 보행과의 불일치 문제는 사용자로 하여금 정밀한 이동과 신속한 이동을 저해시키는 요인으로 작용하며, 빈번한 신체 회전으로 인한 신체적 불편감을 야기하게 된다(Kim and Xiong, 2021; Paik et al., 2021; Tregillus et al., 2017).

이에 WIP의 이동 자유도 향상을 목적으로 한 연구들이 일부 수행되었다. Wang et al. (2018)은 측면 이동을 엉덩이 움직이기, 몸통 기울이기, 옆걸음을 통해 구현할 것을 제안하였으며, 세 가지 측면 이동 제스처의 사용자 경험 비교 실험을 통해 몸통 기울이기 제스처가 가장 자연스러우며, 측면 이동 퍼포먼스가 우수하다고 결론 내렸다. 그러나, 본 연구는 측면 이동에 대해서만 집중하였으며, 제스처 평가 시 전진 이동 방향이 고정된 상태에서의 측면 이동 과업을 수행하도록 하였다는 제한점이 존재한다. 또한 제안된 세 가지 제스처 외 다른 제스처의 활용 가능성을 검토하지 않았다. Kim and Xiong (2021)은 8가지 방향으로 이동 가능한 WIP 기반의 이동 방법을 제안하였다. 제스처 수집 실험을 통해 총 4가지의 제스처 세트를 도출하였으며, 사용자 평가 실험을 통해 제자리 걸음이 전진 이동에는 가장 적합하나, 그 외 방향으로의 이동에는 이동 방향으로 한 발을 뻗었다 돌아오거나 유지하는 방식의 제스처가 적합함을 확인하였다. 그러나, 본 연구는 도출된 제스처 세트를 기반으로 한 이동 방법을 개발하지 않고, 오즈의 마법사 기법을 통해 평가하였다는 점에서 한계점이 존재한다.

본 연구에서는 제자리 걸음을 전진 이동으로, 몸의 정렬 방향을 전진 이동 방향으로 갖는 WIP을 기준으로 하여, 제스처를 통한 측면 및 후면 이동을 지원하는 WIP 기반 다방향 이동 방법을 개발하는 것을 목표로 하였다. 이를 위해 첫 번째 실험에서는 측면 및 후면 이동에 대한 제스처를 사용자로부터 수집하여 제스처 세트를 도출하였으며, 두 번째 실험에서는 도출된 제스처 세트를 통해 측면 및 후면 이동이 가능한 WIP을 개발하고 사용자 경험을 평가하였다.

2. Experiment 1: Gesture Collection Experiment

2.1 Method

2.1.1 Participants

본 실험에는 14명의 피실험자(남자 4명, 여자 10명)가 모집되었다. 피실험자의 평균 연령은 23.21 (±1.53)세였으며, 모든 피실험자는 근골격계 및 정신질환이 없고, VR 애플리케이션 사용 경험이 있었다.

2.1.2 Experimental procedure

본 실험은 Figure 1과 같이 진행되었다. 먼저, 피실험자에게 VR 항행 상황에서 WIP과 조화로운 측면 및 후면 이동 제스처를 떠올릴 수 있도록 유도하는 시나리오를 제공하였다. 시나리오는 총 두 가지로, 제자리 걸음을 통한 전진 이동 중 전방에 출현한 장애물을 회피하기 위해 특정한 제스처를 취하여 측면 이동을 하는 시나리오, 후면 이동을 하는 시나리오 각 1개씩으로 구성되었다. 각 시나리오는 준비된 시각 자료와 함께 구두로 설명되었다. 다음으로, 피실험자에게 시나리오에 대한 이해도를 확인한 후, 떠오르는 상체를 활용한 제스처 3개, 하체를 활용한 제스처 3개를 제시하도록 하였다. 이 때, 시나리오에 대한 몰입감을 높이기 위해 각 시나리오에 대응되는 1인칭 시점의 영상이 제공되었다. 제스처 수집 시, 피실험자가 다양한 제스처를 떠올려낼 수 있도록 시간에 제한을 두지 않았으며, 응답의 번복을 허용하였다. 다만, WIP을 활용한 항행을 고려하여 머리 또는 몸통의 회전이 요구되는 제스처는 배제할 것을 요구하였다. 제스처 수집을 완료한 후, 각 제스처를 떠올린 이유에 대한 인터뷰를 진행하였다.

Figure 1. Procedure of experiment 1

2.1.3 Data analysis

먼저, 수집된 168개 제스처들(14명 * 2개 이동 방향 * 2개 신체 부위 * 3개 제스처)은 제스처의 형태적 유사성 및 인터뷰 결과에 따른 의미적 유사성을 고려해 통합되었다(Gu, 2015). 제스처 통합 기준은 다음과 같았다. 첫 째, 제스처의 표현에 사용되는 주요 신체 부위가 같은 경우 하나의 제스처로 통합하였다. 단, 제스처의 표현에 사용되는 주요 신체 부위가 같더라도 유발되는 신체적 감각의 차이가 존재한다고 판단되는 경우 별개의 제스처로 구분하였다. 예를 들어, 다리를 공중에 뻗는 제스처와 다리를 뻗지만 발을 지면에 대는 제스처, 팔을 뻗은 상태를 유지하는 제스처와 팔을 뻗어 흔드는 제스처는 서로 통합하지 않았다. 둘 째, 대칭적인 제스처는 하나로 통합하였다. 셋 째, 세부 신체 부위의 제스처에 특별한 의미가 없는 경우 하나로 통합하였다. 예를 들어, 손을 이용한 제스처의 경우, 인터뷰 결과 활용된 손가락의 개수나 종류에 따른 의미가 없다고 판단되는 경우 하나의 제스처로 통합되었다. 넷 째, 동작의 반복 횟수에 특별한 의미가 없는 경우 하나로 통합하였다.

다음으로, 이동 방향 별로 통합된 상체 제스처와 하체 제스처의 빈도수를 분석하였다. 추가적으로, 두 이동 방향에 대한 상체 제스처 조합과 하체 제스처 조합을 구성하고, 각 조합에 포함된 두 제스처를 모두 제시했던 피실험자의 수 분석하였다.

2.2 Results

2.2.1 Gesture integration

앞서 설명한 제스처 통합 기준에 따라, 168개의 개별 제스처는 41개의 제스처로 통합되었다. 측면 이동을 위한 제스처의 경우 상체 제스처는 10개, 하체 체스처도 10개로 통합되었으며, 후면 이동을 위한 제스처의 경우 상체 제스처는 11개, 하체 제스처는 10개로 통합되었다.

세부적으로, 측면 이동을 위한 상체 제스처는 빈도수 순서대로 측면으로 팔 뻗기(Pointing left/right side with one arm), 측면으로 몸통 기울이기(Lateral body leaning), 손가락 화살표로 측면 가리키기(Pointing left/right side with finger arrow), 팔 위아래로 흔들기(Rocking up and down with one arm), 팔 앞뒤로 흔들기(Rocking back and forth with one arm), 측면으로 밀기(Pushing to the side), 팔꿈치로 측면 가리키기(Pointing left/right side with one elbow), 측면으로 걷듯이 양팔 흔들기(Swinging arms left/right), 측면에 박수 치기(Clapping to the side), 한쪽 눈 감기(Wink)로 통합되었다(Table 1).

Integrated gesture

Illustration

Description

Frequency (ratio)

Pointing left/right side
with one arm

Pointing left/right side with left/right
arm to move to left/right side

12 (29%)

Lateral body leaning

Left/right side bending to move to
left/right side

8 (19%)

Pointing left/right side
with finger arrow

Pointing left/right side with a right/left
finger arrow to move to left/right side

7 (17%)

Rocking up and down
with one arm

Rocking up and down with left/right
arm to move to left/right side

6 (14%)

Rocking back and forth
with one arm

Rocking back and forth with an
left/right arm to move to
left/right side

2 (5%)

Pushing to the side

Pushing left/right side with right/left
hand to move to right/left side

2 (5%)

Pointing left/right side
with one elbow

Pointing left/right side with left/right
elbow to move to left/right side

2 (5%)

Swinging arms left/right

Swing both arms to the left/right to

move to left/right side

1 (2%)

Clapping to the side

Clapping to the left/right to move to
left/right side

1 (2%)

Wink

Closing left/right eye to move to
left/right side

1 (2%)

Table 1. Integrated upper body gestures for lateral movement

측면 이동을 위한 하체 제스처는 빈도수 순서대로 측면 바닥 찍기(Keeping one foot on the side), 한 다리 측면으로 들기(Side leg lifting), 한 발 바깥으로 회전하기(Foot turning outward), 한 발로 바닥 두드리기(Foot stamping), 게 걸음(Crab walking), 한 무릎 들기(Knee lifting), 측면으로 걷기(Side walking), 엉덩이 측면으로 빼기(Hips out to the side), 한 발 차기(Kicking to the side), 한 발 슬라이딩(Foot sliding)으로 통합되었다(Table 2).

Integrated gesture

Illustration

Description

Frequency (ratio)

Keeping one foot on
the side

Keeping left/right foot on the left/right side
of the ground to move to the left/right side

9 (21%)

Side leg lifting

Lifting left/right leg to the left/right side to
move to left/right side

8 (19%)

Foot turning outward

Turning left/right foot outward to move to
the left/right side

6 (14%)

Foot stamping

Stamping ground with left/right foot to
move to the left/right side

4 (10%)

Crab walking

Rotating both feet and moving to
the left/right side to move to the
left/right side

4 (10%)

Knee lifting

Lifting left/right knee to move to
the left/right side

3 (7%)

Side walking

Turning lower body to the left/right and
stepping to move to the left/right side

3 (7%)

Hips out to the side

Hips out to the left/right to move to
the left/right side

2 (5%)

Kicking to the side

Kicking with left/right leg to move to
the right/left side

2 (5%)

Foot sliding

Sliding left/right foot backward to move
to the left/right side

1 (2%)

Table 2. Integrated lower body gestures for lateral movement

후면 이동을 위한 상체 제스처는 빈도수 순서대로 후면으로 몸통 기울이기(Backward body leaning), 엄지로 후면 가리키기(Thumb pointing), 전면 밀기(Pushing forward), 후면으로 팔 뻗기(Pointing backward with one arm), 걷듯이 한 팔만 흔들기(Half arm swing), 후면에 박수 치기(Clapping behind the back), 팔꿈치로 후면 가리키기(Pointing backwards with one elbow), 머리 만지기(Head touching), 양손 깍지 끼기(Hand clasping), 원 그리기(Draw a circle), 손가락 화살표로 바닥 가리키기(Pointing bottom with finger arrow)으로 통합되었다(Table 3).

Integrated gesture

Illustration

Description

Frequency (ratio)

Backward body leaning

Leaning upper body backwards

11 (26%)

Thumb pointing

Pointing backwards with one thumb

9 (21%)

Pushing forward

Pushing forward with both palms

7 (17%)

Pointing backward with
one arm

Pointing backwards with one arm

4 (10%)

Half arm swing

Swing one arm

3 (7%)

Clapping behind the back

Clapping backwards

2 (5%)

Pointing backwards with
one elbow

Pointing backwards with one elbow

2 (5%)

Head touching

Touching the head with one hand

1 (2%)

Hand clasping

Clasping both hands

1 (2%)

Draw a circle

Draw a circle with one palm

1 (2%)

Pointing bottom with
finger arrow

Pointing bottom with finger arrow

1 (2%)

Table 3. Integrated upper body gestures for backward movement

후면 이동을 위한 하체 제스처는 빈도수 순서대로 후면 바닥 찍기(Keeping one foot behind the back), 스쿼트 하기(Squatting), 한 다리 접기(Leg folding), 뒤꿈치로 제자리 걷기(Walking with heel first), 한 무릎 들기(Knee lifting), 한 다리 전면으로 들기(Front leg lifting), 한 다리 흔들기(Leg swing), 한 발로 바닥 두드리기(Foot stamping), 점프하기(Jumping), 무릎 꿇기(Kneeling)으로 통합되었다(Table 4).

Integrated gesture

Illustration

Description

Frequency (ratio)

Keeping one foot behind
the back

Keeping one foot on the back
side of the ground

17 (41%)

Squatting

Pushing the hips backward

10 (24%)

Leg folding

Folding one foot backward

4 (10%)

Walking with heel first

Walking in place with the heel
first strike pattern

3 (7%)

Knee lifting

Lifting one knee

2 (5%)

Front leg lifting

Lifting one leg forward

2 (5%)

Leg swing

Swing one leg

1 (2%)

Foot stamping

Stamping ground with one foot

1 (2%)

Jumping

Jumping backwards

1 (2%)

Kneeling

Moving backward while kneeling

1 (2%)

Table 4. Integrated lower body gestures for backward movement

2.2.2 Combination of integrated gesture

통합된 제스처 중 상체 제스처의 경우, 측면 이동 제스처가 10개, 후면 이동 제스처가 11개로 총 110개의 제스처 조합이 도출되었다. 그 중, 측면 및 후면 이동에 대해 각각 측면으로 몸통 기울이기, 후면으로 몸통 기울이기로 구성된 조합을 제시했던 피실험자가 7명(50%)으로 가장 많았으며, 다음으로는 손가락 화살표로 측면 가리키기, 엄지로 후면 가리키기 조합이 6명(43%)으로 가장 많았다(Table 5). 하체 제스처의 경우 측면 이동 제스처가 10개, 후면 이동 제스처가 10개로 총 100개의 제스처 조합이 도출되었는데, 그 중 측면 및 후면 이동에 대해 각각 측면 바닥 찍기, 후면 바닥 찍기로 구성된 조합을 제시했던 피실험자가 6명(43%)으로 가장 많았다(Table 6).

 

Lateral movement

Pointing
left/right
side with
one arm

Lateral
body
leaning

 

Pointing left/right
side with
finger
arrow

Rocking up
and down
with one
arm

Rocking
back and
forth with
one arm

Pushing
to the
side

 

Pointing
left/right
side with
one elbow

Swing
arms
left/right


Clapping
to the
side


Wink




Backward movement

Backward
body
leaning

5

7

3

3

2

1

2

1

0

1

Thumb
pointing

5

4

6

2

1

2

1

1

1

0

Pushing
forward

3

1

3

1

0

1

0

1

1

0

Pointing
backward
with one
arm

2

1

1

1

1

0

0

0

0

0

One arm
swing

1

1

0

1

0

0

1

0

0

1

Clapping
behind
the back

2

0

0

2

0

0

0

0

0

1

Pointing
backwards
with one
elbow

2

1

1

0

0

0

1

0

0

0

Head
touching

1

1

0

1

0

0

0

0

0

0

Hand
clasping

1

1

0

0

0

0

1

0

0

0

Draw a
circle

0

1

1

1

0

0

0

0

0

0

Pointing
bottom
with finger
arrow

0

1

1

0

1

0

0

0

0

0

Table 5. Number of participants generated each combination of upper body gestures

 

Lateral movement

Keeping
one foot on
the side

Side leg
lifting

Foot
turning
outward

Foot
stamping

Crab
walking

Knee
lifting

Side
walking

Hips out
to the
side

Kicking
to the
side

Foot
sliding

Backward
movement

Keeping one
foot behind
the back

6

4

4

3

3

1

1

1

2

0

Squatting

3

4

4

3

3

2

1

1

1

1

Leg folding

1

4

2

0

2

1

0

0

1

0

Walking with
heel first

1

1

0

2

1

0

1

0

0

1

Knee lifting

1

1

1

1

0

0

0

0

0

1

Front leg
lifting

0

2

0

0

2

1

0

0

1

0

Leg swing

0

1

0

0

0

0

0

0

0

0

Foot
stamping

1

0

0

0

0

0

1

0

0

0

Jumping

0

1

1

0

0

0

0

0

0

0

Kneeling

1

0

0

0

0

0

1

0

0

0

Table 6. Number of participants generated each combination of lower body gestures

2.3 Gesture set selection

Table 7은 통합된 제스처들 중 가장 높은 빈도수를 보인 제스처들을 조합하여 제스처 세트를 도출한 경우(case 1)와 통합된 제스처들 간 조합 중 가장 많은 피실험자가 제시했던 조합을 제스처 세트로 도출한 경우(case 2)를 정리한 것이다. 하체 제스처 세트에 대해서는 두 경우 모두 측면 및 후면 이동에 대해 각각 측면 바닥 찍기, 후면 바닥 찍기로 구성된 세트가 도출되었다. 이에 따라, '바닥 찍기'를 대표 하체 제스처 세트로 결정하였다. 반면, 상체 제스처 세트에 대해서는 case 1에서는 측면으로 팔 뻗기, 후면으로 몸통 기울이기로 구성된 세트가, case 2에서는 측면으로 몸통 기울이기, 후면으로 몸통 기울이기로 구성된 세트가 도출되었다. 측면 이동을 위한 상체 제스처들 중 측면으로 몸통 기울이기가 두 번째로 높은 빈도수를 보였으며, 후면으로 몸통 기울이기와 자세적 유사성을 갖는다는 점을 고려하여, '몸통 기울이기'를 대표 상체 제스처 세트로 결정하였다.

Gesture set

Upper body gesture set

Lower body gesture set

Lateral movement

Backward movement

Lateral movement

Backward movement

Case 1

Pointing left/right
side with one arm

Backward body leaning

Keeping one foot on
the side

Keeping one foot behind
the back

Case 2

Lateral body leaning

Backward body leaning

Keeping one foot on
the side

Keeping one foot behind
the back

Table 7. Gesture sets derived from the results of frequency analyses
3. Experiment 2: User Experience Evaluation Experiment

3.1 Method

3.1.1 Participants

실험에는 신체적, 정신적으로 건강한 평균 연령 23.5세(±1.51)의 피실험자 15명(남자 5명, 여자 10명)이 모집되었다. 모든 피실험자는 WIP을 활용한 VR 항행에 대한 경험을 보유하고 있었다.

3.1.2 Locomotion method

본 연구에서는 대표 제스처 세트로 도출된 몸통 기울이기와 바닥 찍기를 통해 측면 및 후면 이동을 지원하는 WIP 기반 이동 방법 2개(WIP with BL, WIP with KF)를 개발하고 VR 항행 시 사용자 경험을 평가하여 VR 애플리케이션 내 활용 가능성을 검토하고자 하였다.

WIP with BL, WIP with KF를 구현하기 위해 각각의 전진 이동 방향 조향, 전진 이동, 측면 이동, 후면 이동에 대한 세부 인터랙션 방법을 정의하였다(Table 8). 두 이동 방법 모두 제자리 걸음 시 몸통의 정면이 바라보는 방향으로 전진 이동하는 것으로 정의하였다. 이 때, 양 발의 높이 차가 8cm 이상 발생하는 경우를 제자리 걸음이 일어난 것으로 정의하였다. WIP with BL의 경우, 몸통의 굽힘 및 신전이 15도 이상 발생하는 경우 측면 및 후면 이동이 일어나도록 정의하였으며, WIP with KF의 경우 한 발이 몸통으로부터 측면 및 후면 방향으로 30cm 이상 떨어질 경우 해당 방향으로 이동이 일어나도록 정의하였다. 4명의 피실험자를 대상으로 해당 인터랙션 전략을 수행하는 데 불편감이 없음을 확인하였다.

Interaction strategy

WIP with BL

WIP with KF

Steering

Illustration

Description

Rotating torso to steer the direction of forward movement

Gesture
recognition

Set the direction of forward movement as upper body orientation angle.

Forward
movement

Illustration

Description

Walking in place to move forward

Gesture
recognition

Move forward if the height difference between both feet is greater than a threshold 8cm.

Lateral
movement

Illustration

Description

Left/right side bending to move to left/right side

Keeping left/right foot on the left/right side
of the ground to move to the left/right side

Gesture
recognition

Move laterally if the torso bending anlge is
greater than a threshold 15 degree.

Move laterally if the horizontal distance between the
torso and the foot is greater than a threshold 30cm.

Backward
movement

Illustration

Description

Leaning upper body backwards to
move backwards

Keeping one foot on the back side of the ground

Gesture
recognition

Move backwards if the torso extension
angle is greater than a threshold 15 degree.

Move backwards if the longitudinal distance between the
torso and the foot is greater than a threshold 30cm.

Table 8. Interaction strategies of WIP with BL and WIP with KF

3.1.3 Experimental settings

두 이동 방법은 정의된 인터랙션 전략에 따라 Unity3D 2021.3.16f1 엔진과 SteamVR 엔진을 통합하여 구현되었다. 두 이동 방법을 통한 VR 항행 과업을 제공하기 위해 머리 착용형 디스플레이(HTC VIVE PRO) 1대와 트래커(HTC VIVE Tracker 3.0) 3개, 머리 착용형 디스플레이 및 트래커 추적 카메라(HTC VIVE Base station) 2대가 활용되었다. 이 때, 3차원 공간 상의 실시간 위치 및 회전 상태를 추적할 수 있는 3개의 트래커는 피실험자가 정의된 인터랙션 전략을 수행했는지에 대한 여부를 판정하기 위해 피실험자의 몸통과 양 발목에 부착되었다(Figure 2 (a)). 피실험자가 두 이동 방법을 활용해 몰입감 있는 VR 항행을 경험할 수 있도록, Unity Asset Store에 배포된 CITY package를 통해 VR 도시 환경을 제공하였다(Figure 2 (b), (c)).

Figure 2. Experimental settings of experiment 2. (a) Trackers' location, (b) Illustration of virtual city (bird's view), (c) Illustration of participants' view during the experiment 2

3.1.4 Experimental procedure

본 실험은 Figure 3와 같은 순서로 진행되었다. 먼저 피실험자에게 실험의 목적과 절차 및 두 이동 방법의 인터랙션 전략에 대해 안내한 후, 머리 착용형 디스플레이와 트래커를 착용하도록 하였다. 다음으로, 주어진 이동 방법에 대한 숙지 여부 및 작동 여부를 확인 후, 해당 이동 방법을 활용하여 VR 도시 환경을 5분간 자유롭게 항행하는 개방형 과업(open task)을 수행하도록 하였다. 실제 사용 맥락과 가까운 상황에서의 사용자 경험 평가를 통한 개념 증명(proof of concept)이 본 연구의 주목적이었기 때문이다. 다만, 피실험자의 편향된 이동 방법의 활용 가능성을 고려하여, 전진 이동, 측면 이동, 후면 이동 간의 전환을 모두 수행해 볼 것을 요청하였다. VR 항행 과업을 마친 피실험자에게는 해당 이동 방법에 대한 사용자 경험을 설문을 통해 평가하도록 하였다. 두 이동 방법을 활용한 VR 항행 과업 및 사용자 경험 평가를 마친 후, 각 이동 방법에 대한 주관적 느낌과 인상을 인터뷰하였다. 실험을 진행하는 동안 피실험자가 멀미로 인해 중단을 요청할 때, 충분한 휴식을 취할 수 있도록 하였다.

Figure 3. Procedure of experiment 2

3.1.5 User experience evaluation

이동 방법에 대한 사용자 경험은 사용성, 멀미감, 현존감 측면에서 각각 System Usability Scale (SUS), Virtual Reality Simulator sickness Questionnaire (VRSQ), Presence Questionnaire 3.0 (PQ 3.0)을 활용해 평가되었다. SUS는 시스템의 사용성에 대한 주관적인 평가를 전반적으로 파악할 수 있는 10가지 문항으로 구성되어 있으며, 총점의 만점은 100점으로 높을수록 시스템의 사용성이 높다고 판단한다(Suharsih et al., 2021). VRSQ는 시뮬레이터 멀미를 측정하는 도구인 Simulator Sickness Questionnaire (SSQ)를 VR 환경에 특화 시킨 것으로, 총 9개의 평가 문항으로 구성되어 있다(Kim et al., 2018). VRSQ 총점의 만점은 100점으로, 높을수록 높은 멀미감을 유발하는 것으로 판단한다. PQ 3.0은 현존감을 형성하는 4가지 요소를 Involvement, Sensory Fidelity, Adaptation/Immersion, Interface Quality로 정의하고, 각 요소에 대한 평가 문항 29개로 구성되어 있다(Witmer et al., 2005). 본 연구에서는 VR 환경의 구현 수준과 관련된 Sensory Fidelity에 대한 문항과 SUS와 중복되는 Interface Quality에 대한 문항을 제외한 Involvement, Adaptation/Immersion 평가 문항 20개를 이동 방법 현존감 평가에 활용하였다. Involvement와 Adaptation/Immersion의 총점의 만점은 각각 84점, 56점으로 점수가 높을수록 시스템의 현존감이 높다고 판단한다.

3.1.6 Data analysis

두 이동 방법의 SUS, VRSQ, PQ 3.0 (Involvement, Adaptation/Immersion) 평가 점수 간 차이의 통계적 유의성을 확인하기 위해 유의수준은 .05 하에서 대응표본 t 검정을 실시하였다. 분석에는 R 프로그램이 활용되었다.

3.2 Results

분석 결과, SUS, VRSQ, PQ 3.0 (Involvement, Adaptation/Immersion)의 평가 점수 모두 WIP with KF에 비해 WIP with BL이 상대적으로 더 높았으나, 그 차이는 통계적으로 유의하지 않았다(Table 9).

Measures

WIP with BL

WIP with KF

t

p-value

M±SD

M±SD

SUS

73.50±24,11

77.70±12.76

0.68

.504

VRSQ

4.22±6.80

5.00±7.77

0.48

.642

Involvement (PQ 3.0)

66.26±11.06

67.53±11.36

0.39

.701

Adaptation/Immersion (PQ 3.0)

44.80±10.2

48.33±6.84

1.27

.229

Table 9. Paired t-test results for experiment 2
4. Discussion

제스처 수집 실험에서 대부분의 피실험자들은 WIP과 조화로운 측면 및 후면 이동 제스처로 특정 신체 부위를 이동 방향에 대응되도록 움직이거나 자세적 형태를 만들어 이동하고자 하는 방향을 지시하는 제스처를 제시하였다. 이는 WIP의 특성상 위치 이동 및 상체 회전이 제약된 상황에서 움직임의 자유도를 갖는 신체 부위를 활용하여 방향을 지시하는 것이 가장 직관적이고 효율적인 방법이기 때문인 것으로 판단된다. 또한 동일한 행동의 반복과 같은 동적 움직임보다는 동일한 자세의 유지하는 방식의 제스처가 많았는데, 이는 신체 움직임을 최소화하여 신체적 불편도를 줄이고자 하는 경향이 있었던 것으로 해석된다.

상체 제스처 세트의 응답 빈도 분석 결과를 통해 이동하고자 하는 방향으로 몸통을 기울이는 제스처가 가장 우세함이 확인되었다. 몸통은 전방향으로 기울일 수 있으며, 기울이는 방향과 이동 방향을 일대일 대응 시킬 수 있다는 점에서 조이스틱의 동작 방식과 유사성을 갖는다. 또한, 몸통을 기울이는 제스처가 실제 걷는 것과 유사한 전정 감각 반응을 일으키는 것으로 알려져 있다(Marchal et al., 2011; Vezzani et al., 2023). 이에 Tregillus et al. (2017)은 몸통 기울이기 제스처를 통해 전방향 이동이 가능한 이동 방법을 개발한 바 있으며, 사용자 경험 평가를 통해 해당 제스처가 유용한 이동 방법이 될 수 있음을 확인 한 바 있다. 특히, 제자리에서 걷는 동안 상체는 자유롭게 움직일 수 있으므로 전진 이동에서 측면 또는 후면 이동으로의 전환에 이점이 있다는 점은(Kim et al., 2021) 몸통 기울이기가 WIP과 조화로운 측면 및 후면 이동 방법일 수 있음을 시사한다. 실제로 개발되어 평가된 WIP with BL은 사용자 경험 평가 결과, SUS 점수는 평균 73.50점, VRSQ 점수는 4.22점, PQ 3.0의 Involvement 점수는 66.26점, Adaptation/Immersion 점수는 44.80점으로 평가되었다. 평가 결과를 통해 WIP with BL의 사용성, 멀미감, 현존감 측면에서의 우수성을 단언하기는 어려우나, 각 평가도구의 만점이 각각 100점, 100점, 84점, 56점이며, SUS 점수가 70점 이상일 경우 시스템의 사용성이 허용할만한 수준이라는 기존 연구 결과(Aaron Bangor and Miller, 2008)와 VRSQ와 높은 상관성을 보이는 SSQ의 점수가 10점 미만일 경우 시뮬레이터의 멀미감이 허용할만한 수준이라는 기존 연구 결과(Kennedy et al., 2003)를 감안할 때, WIP의 한계를 보완하는 이동 방법으로써 WIP with BL의 VR 애플리케이션 내 활용을 고려해 봄직하다.

하체 제스처 세트의 응답 빈도 분석 결과에서는 이동하고자 하는 방향으로 발을 뻗어 지면에 찍는 제스처가 가장 우세하였다. 발을 찍는 방향과 이동 방향 간의 공간적 일치성(spatial congruence)이 존재하며, 실제 옆걸음이나 뒷걸음 시 이동하고자 하는 방향으로 한 발을 내딛는 동작이 선행된다는 점은 해당 제스처에 직관성(intuitiveness)과 자연스러움(naturalness) 측면의 이점이 있음을 시사한다. Kim and Xiong (2021)의 연구에서도 유사한 제스처가 전면 이외의 방향의 이동에 대한 제스처로 유용함이 확인된 바 있으며, 본 연구에서 개발 및 평가된 WIP with KF의 SUS 점수는 평균 77.70점, VRSQ 점수는 5.00점, PQ 3.0의 Involvement 점수는 67.53점, Adaptation/ Immersion 점수는 48.33점이었음을 고려할 때, 본 이동 방법 역시 별도의 컨트롤러의 사용 없이 WIP의 이동 자유도를 향상시키는 효과적인 이동 방법으로 제안될 수 있다.

두 이동 방법의 사용자 경험 평가 결과 간 통계적 유의성은 확인되지 않았지만, 평가 이유에 대한 서술형 응답을 통해 둘 간의 특징적인 차이점이 있음을 확인할 수 있었다. 먼저 장점 측면에서는 WIP with BL의 경우 이동 방향 간 전환이 상대적으로 수월했다는 의견이 있었으며, WIP with KF의 경우 하체의 움직임만으로 이동이 가능한 점이 유용하였다는 의견이 있었다. 다음으로 단점 측면에서는 WIP with BL의 경우 몸을 기울이는 데 있어 신체적 부하가 다소 느껴졌다는 의견이 있었으며, WIP with KF의 경우 발을 측면 또는 후면 바닥에 찍은 자세를 유지함에 있어 다소 어려움이 존재하였다는 의견이 확인되었다. 특히, 이동 방향 간 전환의 빈도 및 신속성, 특정 방향으로의 이동 시간 지속성에 대한 요구가 큰 상황에서는 사용자 경험에 대한 문제가 더욱 심화될 가능성이 있다. 이러한 문제는 인터랙션 전략에 따른 이동 방법의 구현 시 적용했던 임계치의 하향 조정을 통해 다소 해소될 수 있을 것으로 판단된다. 다만, 너무 낮은 임계치는 사용자가 의도하지 않은 이동의 빈번한 유발을 야기할 수 있으므로, 임계치의 적정 수준에 대한 추후 연구가 필요할 것으로 판단된다.

5. Conclusion

본 연구에서는 제스처를 통해 측면 및 후면 이동이 가능한 WIP 기반의 이동 방법을 제안하는 것을 목표로 하였다. 제스처 수집 실험을 통해 측면 및 후면 이동에 적합한 상체 및 하체 제스처로 몸 기울이기와 바닥 찍기가 도출되었으며, 두 제스처를 기반으로 한 이동 방법인 WIP with BL과 WIP with KF의 개발 및 사용자 경험 평가를 통해 VR 항행시의 활용 가능성을 확인하였다. 특히, WIP with BL은 이동 방향 전환 간 수월성 측면에서, WIP with KF는 하체 제스처만을 통한 이동 자유도 확보 측면에서 이점을 지니는 것을 확인하였다.

그러나, 본 연구는 다음과 같은 한계점을 지닌다. 첫째, 비교적 적은 20명 미만의 피실험자를 대상으로 제스처 수집 실험 및 사용자 경험 평가 실험을 수행하였다. 이는 보다 사용자 친화적인 제스처의 존재 가능성 및 두 이동 방법의 사용자 경험 평가 결과 간 통계적 유의성의 존재 가능성을 완전히 배제할 수 없음을 시사한다. 둘째, 두 이동 방법에 대한 사용자 경험 평가 시 자유로운 VR 항행 과업이라는 개방형 과업을 수행하도록 함으로써, 과업 수행 중 항행 퍼포먼스를 측정하지 않았다. 주관적 평가에 차이가 없다 하더라도 항행 퍼포먼스에는 차이가 있을 수 있음을 고려할 때, 폐쇄형 과업(closed task)을 부여하는 추가 실험이 필요하다. 이러한 형태의 추가 실험은 제안된 두 이동 방법을 보다 통제된 조건 하에서 엄밀히 비교할 수 있게 한다는 점에서도 이점이 있을 것으로 판단된다. 추가적으로, 과업 수행 시간이 비교적 짧은 5분이었던 만큼, 장시간의 항행 과업 수행 시의 사용자 경험에 대한 평가 연구도 필요할 것이다.

이러한 한계에도 불구하고, 본 연구는 WIP이 갖는 이동 자유도의 한계를 별도의 컨트롤러 없이 극복할 수 있는 제스처 기반의 두 이동 방법을 제안하였다는 점에서 그 의의를 지닌다. 또한, 두 이동 방법이 제스처 수집 실험을 통해 도출되었으며, 개발 및 평가 실험을 통해 사용자 경험이 허용할만한 수준임이 확인되었다는 점에서 두 이동 방법이 높은 직관성과 사용자 친화성을 보일 것으로 기대된다. 제안된 두 이동 방법은 몰입감 있는 VR 항행을 필요로 하는 다양한 VR 애플리케이션에서 활용될 수 있을 것이다.



References


1. Aaron Bangor, P.T.K. and Miller, J.T., An Empirical Evaluation of the System Usability Scale, International Journal of Human-Computer Interaction, 24(6), 574-594, 2008. doi:10.1080/10447310802205776
Google Scholar 

2. Al Zayer, M., MacNeilage, P. and Folmer, E., Virtual Locomotion: A Survey, IEEE Transactions on Visualization and Computer Graphics, 26(6), 2315-2334, 2020. doi:10.1109/TVCG.2018.2887379
Google Scholar 

3. Boletsis, C. and Cedergren, J.E., VR Locomotion in the New Era of Virtual Reality: An Empirical Comparison of Prevalent Techniques, Advances in Human-Computer Interaction, 2019(1), 7420781, 2019. doi:10.1155/2019/7420781
Google Scholar 

4. Bruder, G., Lubas, P. and Steinicke, F., Cognitive Resource Demands of Redirected Walking, IEEE Transactions on Visualization and Computer Graphics, 21(4), 539-544, 2015. doi:10.1109/TVCG.2015.2391864
Google Scholar 

5. Cherni, H., Nicolas, S. and Métayer, N., Using virtual reality treadmill as a locomotion technique in a navigation task: Impact on user experience – case of the KatWalk, International Journal of Virtual Reality, 21(1), 1-14, 2021. doi:10.20870/ijvr.2021.21.1.3046
Google Scholar 

6. Gu, J., An Empirical Evaluation of the Representative Hand Gesture of Task from User Perspective, Archives of Design Research, 28(1), 133-145, 2015. doi:10.15187/adr.2015.02.113.1.133
Google Scholar 

7. Hedlund, M., Lundström, A., Bogdan, C. and Matviienko, A., "Jogging-in-Place: Exploring Body-Steering Methods for Jogging in Virtual Environments", Proceedings of the 22nd International Conference on Mobile and Ubiquitous Multimedia, (pp. 377-385), Vienna. Austria., 2023. doi:10.1145/3626705.3627778
Google Scholar 

8. Jaeger, B.K. and Mourant, R.R., Comparison of simulator sickness using static and dynamic walking simulators, Proceedings of the Human Factors and Ergonomics Society Annual Meeting, 45(27), 1896-1900, 2001. doi:10.1177/154193120104502709
Google Scholar 

9. Kennedy, R.S., Drexler, J.M., Compton, D.E., Stanney, K.M., Lanham, D.S. and Harm, D.L., Configural Scoring of Simulator Sickness, Cybersickness and Space Adaptation Syndrome: Similarities and Differences. In L.J. Hettinger & M.W. Haas (Eds.), Virtual and Adaptive Environments: Applications, Implications, and Human Performance Issues, Lawrence Erlbaum Associates, Boca Raton, 247-278, 2003.
Google Scholar 

10. Kim, H.K., Park, J., Choi, Y. and Choe, M., Virtual reality sickness questionnaire (VRSQ): Motion sickness measurement index in a virtual reality environment, Applied Ergonomics, 69, 66-73, 2018. doi:10.1016/j.apergo.2017.12.016
Google Scholar 

11. Kim, W., Shin, E. and Xiong, S., "User Defined Walking-In-Place Gestures for Intuitive Locomotion in Virtual Reality", Proceedings of the 23rd International Conference on Human-Computer Interaction, (pp. 172-182), 2021.
Google Scholar 

12. Kim, W. and Xiong, S., User-defined walking-in-place gestures for VR locomotion, International Journal of Human-Computer Studies, 152, 102648, 2021. doi:10.1016/j.ijhcs.2021.102648
Google Scholar 

13. Kim, Y.M. and Rhiu, I., A comparative study of navigation interfaces in virtual reality environments: A mixed-method approach, Applied Ergonomics, 96, 103482, 2021. doi:10.1016/j.apergo.2021.103482
Google Scholar 

14. Lai, C. and McMahan, R.P., "The Cognitive Load and Usability of Three Walking Metaphors for Consumer Virtual Reality", Proceedings of the 2020 IEEE International Symposium on Mixed and Augmented Reality (ISMAR), (pp. 627-638), Porto de Galinhas. Brazil., 2020. doi:10.1109/ ISMAR50242.2020.00091
Google Scholar 

15. Lee, J., Kim, M. and Kim, J., A study on immersion and VR sickness in walking interaction for immersive virtual reality applications, Symmetry, 9(5), 2017. doi:10.3390/sym9050078
Google Scholar 

16. Liang, H.N., Lu, F., Shi, Y., Nanjappan, V. and Papangelis, K., Evaluating the effects of collaboration and competition in navigation tasks and spatial knowledge acquisition within virtual reality environments, Future Generation Computer Systems, 95, 855-866, 2019. doi:10.1016/j.future.2018.02.029
Google Scholar 

17. Marchal, M., Pettre, J. and Lécuyer, A., "Joyman: A human-scale joystick for navigating in virtual worlds", Proceedings of the 2011 IEEE Symposium on 3D User Interfaces (3DUI), (pp. 19-26), Singapore. Singapore., 2011. doi:10.1109/3DUI.2011.5759212
Google Scholar 

18. Monteiro, P., Carvalho, D., Melo, M., Branco, F. and Bessa, M., Application of the steering law to virtual reality walking navigation interfaces, Computers & Graphics, 77, 80-87, 2018. doi:10.1016/j.cag.2018.10.003
Google Scholar 

19. Mousas, C., Kao, D., Koilias, A. and Rekabdar, B., Evaluating virtual reality locomotion interfaces on collision avoidance task with a virtual character, The Visual Computer, 37, 2823-2839, 2021. doi:10.1007/s00371-021-02202-6
Google Scholar 

20. Paik, S., Jeon, Y., Shih, P.C. and Han, K., "I feel more engaged when I Move!: Deep learning-based backward movement detection and its application", Proceedings of the 2021 IEEE Virtual Reality and 3D User Interfaces (VR), (pp. 483-492), Lisboa. Portugal., 2021. doi:10.1109/VR50410.2021.00072
Google Scholar 

21. Razzaque, S., Kohn, Z. and Whitton, M.C., "Redirected Walking", Proceedings of the Eurographics 2001, 1549-1549, 2001. doi: 10.1007/978-3-031-23161-2_300998


22. Slater, M., Usoh, M. and Steed, A., Taking Steps: The Influence of a Walking Technique on Presence in Virtual Reality, ACM Transactions on Computer-Human Interaction (TOCHI), 2(3), 201-219, 1995. doi:10.1145/210079.210084
Google Scholar 

23. Steinicke, F., Bruder, G., Ropinski, T. and Hinrichs, K., "Moving Towards Generally Applicable Redirected Walking", Proceedings of the 10th International Conference on Virtual Reality (Laval Virtual), (pp. 15-24), Laval. France., 2008.
Google Scholar 

24. Suharsih, R., Febriani, R. and Triputra, S., Usability of Jawara Sains Mobile Learning Application Using System Usability Scale (SUS), Jurnal Online Informatika, 6(1), 41-52, 2021. doi:10.15575/join.v6i1.700
Google Scholar 

25. Suma, E.A., Finkelstein, S.L., Reid, M., Babu, S.V., Ulinski, A.C. and Hodges, L.F., Evaluation of the cognitive effects of travel technique in complex real and virtual environments, IEEE Transactions on Visualization and Computer Graphics, 16(4), 690-702, 2010. doi: 10.1109/TVCG.2009.93
Google Scholar 

26. Templeman, J.N., Denbrook, P.S. and Sibert, L.E., Virtual Locomotion: Walking in Place through Virtual Environments, Presence, 8(6), 598-617, 1999. doi:10.1162/105474699566512
Google Scholar 

27. Tregillus, S., Al Zayer, M. and Folmer, E., "Handsfree omnidirectional VR navigation using head tilt", Proceedings of the 2017 Conference on Human Factors in Computing Systems (CHI), (pp. 4063-4068), Colorado. USA., 2017. doi:10.1145/3025453.3025521
Google Scholar 

28. Vezzani, L., Strada, F., Pratticò, F.G. and Bottino, A., "The WalkingSeat: A Leaning Interface for Locomotion in Virtual Environments", Proceedings of the 20th EuroXR International Conference, (pp. 21-39), Rotterdam. The Netherlands., 2023. doi:10.1007/978-3-031-48495-7_2
Google Scholar 

29. Wang, C., Dogaru, O.A., Strandholt, P.L., Nilsson, N.C., Nordahl, R. and Serafin, S., "Step aside: An initial exploration of gestural input for lateral movement during walking-in-place locomotion", Proceedings of the 24th ACM Symposium on Virtual Reality Software and Technology, Tokyo. Japan., 2018. doi:10.1145/3281505.3281536
Google Scholar 

30. Witmer, B., Jerome, C. and Singer, M., The Factor Structure of the Presence Questionnaire, Presence: Teleoperators and Virtual Environments, 14(3), 298-312, 2005. doi:10.1162/105474605323384654
Google Scholar 

PIDS App ServiceClick here!

Download this article