eISSN: 2093-8462 http://jesk.or.kr
Open Access, Peer-reviewed
Ju Hee Kim
, Yushin Lee
10.5143/JESK.2024.43.4.345 Epub 2024 September 09
Abstract
Objective: This study aimed to develop the Walking-in-place-based locomotion method (WIP) that supports lateral and backward movements through gestures.
Background: WIP is one of the most popular VR locomotion method for its naturalness, usefulness, and immersiveness. However, it is limited to forward movement, causing discomfort during precise navigation.
Method: The study consisted of two parts. In the first part, a gesture collection experiment was conducted with 14 participants. They were asked to perform upper and lower body gestures suitable for lateral and backward movements while using WIP. The collected gestures were grouped according to their similarity and representative gesture sets were derived based on the frequency analysis. In the second part, WIP-based locomotion methods which enables lateral and backward movements were developed using the gesture sets. 15 participants navigated a virtual city using the new locomotion methods and evaluated usability, sickness, presence (involvement and adaptation/immersion) using the System Usability Scale (SUS), the Virtual Reality Sickness Questionnaire (VRSQ) and the Presence Questionnaire 3.0 (PQ 3.0).
Results: In the first study, it was concluded that Lateral or Backward Body Leaning (BL) and Keeping One Foot on the Side or Behind the back (KF) as the most appropriate gesture sets for lateral and backward movements. In the second study, two WIP-based locomotion methods, WIP with BL and WIP with KF, scored 73.50 and 77.70 for usability, 4.22 and 5.00 for sickness, 66.26 and 67.53 for involvement, and 44.80 and 48.33 for adaptation/immersion, respectively. There were no significant differences between the two methods for any of the measures.
Conclusion: It was confirmed that WIP with BL and WIP with KF have the potential for use in VR navigation. In particular, WIP with BL was found to have an advantage in terms of ease of switching between movement directions. On the other hand, WIP with KF was found to have the advantage of being able to move using only lower body gestures.
Application: The two proposed locomotion methods can be used in a variety of VR applications that require an immersive VR navigation experience.
Keywords
Walking-in-place-based locomotion VR locomotion VR navigation Gesture-based interaction
가상 현실(virtual reality, VR) 공간 내 항행(navigation)은 VR 애플리케이션 사용 시 수행되는 보편적인 과업으로(Liang et al., 2019; Suma et al., 2010), 사용자 경험 형성에 직접적인 영향을 미치는 과업 중 하나이다(Cherni et al., 2021; Monteiro et al., 2018). VR 항행을 지원하는 이동 방법(locomotion method)에는 다양한 유형이 있는데, 크게 보행 기반 이동 방법(walking-based locomotion method), 조향 기반 이동 방법(steering-based locomotion method), 선택 기반 이동 방법(selection-based locomotion method), 조작 기반 이동 방법(manipulation-based locomotion method)으로 구분된다(Al Zayer et al., 2020; Lai and McMahan, 2020). 보행 기반 이동 방법은 사용자의 걷는 동작을 통해 이동하는 방법을 말한다. 그 외 나머지 방법들은 별도의 컨트롤러나 제스처를 필요로 하는데, 조향 기반 이동 방법은 전진 방향의 연속적 제어를 통해, 선택 기반 이동 방법은 이동 목표 지점에 대한 직접적인 선택을 통해, 조작 기반 이동 방법은 사용자의 위치, 방향 등에 대한 동시다발적 제어를 통해 이동하는 방법을 말한다. 이 중 보행 기반 이동 방법은 가장 직관적이고 자연스러운 상호작용 방법으로, 몰입감과 멀미감 측면에서 이점을 지니고 있는 이동 방법으로 알려져 있다(Bruder et al., 2015; Jaeger and Mourant, 2001; Kim and Xiong, 2021; Lee et al., 2017; Slater et al., 1995; Steinicke et al., 2008).
보행 기반 이동 방법 중 하나인 제자리 걷기 기반 이동 방법(walking-in-place based locomotion method, WIP)은 제자리에서 걷는 동작을 통해 전진 이동을, 머리나 몸의 정렬 상태 조정을 통해 전진 이동 방향 제어를 구현하는 방법으로써, 걷는 동작을 통해 현실에서의 사용자 이동을 요구하는 리얼 워킹(real walking)이나 리다이렉티드 워킹(redirected walking) 이동 방법이 갖는 사용자 추적 공간 확보 문제(Slater et al., 1995; Razzaque et al., 2001; Steinicke et al., 2008)를 해결하면서도 몰입감과 멀미감 측면의 이점을 유지할 수 있는 대안적 기술로 평가 받고 있다(Jaeger and Mourant, 2001; Lee et al., 2017; Slater et al., 1995; Templeman et al., 1999). WIP과 다른 이동 방법 간의 사용자 경험 비교 연구들에서도 WIP의 이점이 확인된 바 있는데, Boletsis et al. (2019)의 연구에서 WIP과 조작 기반 이동 방법(조이스틱 기반), 선택 기반 이동 방법(ray-casting 컨트롤러 기반)을 비교한 결과, WIP이 다른 두 인터페이스에 비해 몰입감이 가장 우수하였음을 확인하였다. Mousas et al. (2021)은 조작 기반 이동 방법(조이스틱 기반)과 WIP을 포함한 3가지 종류의 보행 기반 이동 방법 간의 사용자 경험을 비교하였는데, WIP이 가장 자연스러운 이동 방법임을 확인하였다. Kim and Rhiu (2021)은 조작 기반 이동 방법(조이스틱 기반), 선택 기반 이동 방법(ray-casting 컨트롤러 기반), WIP, 제자리 뛰기 기반 이동 방법 간 사용자 경험 비교 연구를 통해 WIP이 현존감(presence) 측면에서 가장 우수한 것을 확인하였다.
그러나, WIP은 제한된 이동 자유도를 갖는다는 한계를 갖고 있다(Hedlund et al., 2023; Tregillus et al., 2017). 앞서 언급했듯, WIP은 전진 이동과 전진 이동 방향의 선택만을 지원한다. 즉, 옆걸음이나 뒷걸음을 하더라도, 전진 이동이 일어나는 것이다. 이러한 실제 보행과의 불일치 문제는 사용자로 하여금 정밀한 이동과 신속한 이동을 저해시키는 요인으로 작용하며, 빈번한 신체 회전으로 인한 신체적 불편감을 야기하게 된다(Kim and Xiong, 2021; Paik et al., 2021; Tregillus et al., 2017).
이에 WIP의 이동 자유도 향상을 목적으로 한 연구들이 일부 수행되었다. Wang et al. (2018)은 측면 이동을 엉덩이 움직이기, 몸통 기울이기, 옆걸음을 통해 구현할 것을 제안하였으며, 세 가지 측면 이동 제스처의 사용자 경험 비교 실험을 통해 몸통 기울이기 제스처가 가장 자연스러우며, 측면 이동 퍼포먼스가 우수하다고 결론 내렸다. 그러나, 본 연구는 측면 이동에 대해서만 집중하였으며, 제스처 평가 시 전진 이동 방향이 고정된 상태에서의 측면 이동 과업을 수행하도록 하였다는 제한점이 존재한다. 또한 제안된 세 가지 제스처 외 다른 제스처의 활용 가능성을 검토하지 않았다. Kim and Xiong (2021)은 8가지 방향으로 이동 가능한 WIP 기반의 이동 방법을 제안하였다. 제스처 수집 실험을 통해 총 4가지의 제스처 세트를 도출하였으며, 사용자 평가 실험을 통해 제자리 걸음이 전진 이동에는 가장 적합하나, 그 외 방향으로의 이동에는 이동 방향으로 한 발을 뻗었다 돌아오거나 유지하는 방식의 제스처가 적합함을 확인하였다. 그러나, 본 연구는 도출된 제스처 세트를 기반으로 한 이동 방법을 개발하지 않고, 오즈의 마법사 기법을 통해 평가하였다는 점에서 한계점이 존재한다.
본 연구에서는 제자리 걸음을 전진 이동으로, 몸의 정렬 방향을 전진 이동 방향으로 갖는 WIP을 기준으로 하여, 제스처를 통한 측면 및 후면 이동을 지원하는 WIP 기반 다방향 이동 방법을 개발하는 것을 목표로 하였다. 이를 위해 첫 번째 실험에서는 측면 및 후면 이동에 대한 제스처를 사용자로부터 수집하여 제스처 세트를 도출하였으며, 두 번째 실험에서는 도출된 제스처 세트를 통해 측면 및 후면 이동이 가능한 WIP을 개발하고 사용자 경험을 평가하였다.
2.1 Method
2.1.1 Participants
본 실험에는 14명의 피실험자(남자 4명, 여자 10명)가 모집되었다. 피실험자의 평균 연령은 23.21 (±1.53)세였으며, 모든 피실험자는 근골격계 및 정신질환이 없고, VR 애플리케이션 사용 경험이 있었다.
2.1.2 Experimental procedure
본 실험은 Figure 1과 같이 진행되었다. 먼저, 피실험자에게 VR 항행 상황에서 WIP과 조화로운 측면 및 후면 이동 제스처를 떠올릴 수 있도록 유도하는 시나리오를 제공하였다. 시나리오는 총 두 가지로, 제자리 걸음을 통한 전진 이동 중 전방에 출현한 장애물을 회피하기 위해 특정한 제스처를 취하여 측면 이동을 하는 시나리오, 후면 이동을 하는 시나리오 각 1개씩으로 구성되었다. 각 시나리오는 준비된 시각 자료와 함께 구두로 설명되었다. 다음으로, 피실험자에게 시나리오에 대한 이해도를 확인한 후, 떠오르는 상체를 활용한 제스처 3개, 하체를 활용한 제스처 3개를 제시하도록 하였다. 이 때, 시나리오에 대한 몰입감을 높이기 위해 각 시나리오에 대응되는 1인칭 시점의 영상이 제공되었다. 제스처 수집 시, 피실험자가 다양한 제스처를 떠올려낼 수 있도록 시간에 제한을 두지 않았으며, 응답의 번복을 허용하였다. 다만, WIP을 활용한 항행을 고려하여 머리 또는 몸통의 회전이 요구되는 제스처는 배제할 것을 요구하였다. 제스처 수집을 완료한 후, 각 제스처를 떠올린 이유에 대한 인터뷰를 진행하였다.
2.1.3 Data analysis
먼저, 수집된 168개 제스처들(14명 * 2개 이동 방향 * 2개 신체 부위 * 3개 제스처)은 제스처의 형태적 유사성 및 인터뷰 결과에 따른 의미적 유사성을 고려해 통합되었다(Gu, 2015). 제스처 통합 기준은 다음과 같았다. 첫 째, 제스처의 표현에 사용되는 주요 신체 부위가 같은 경우 하나의 제스처로 통합하였다. 단, 제스처의 표현에 사용되는 주요 신체 부위가 같더라도 유발되는 신체적 감각의 차이가 존재한다고 판단되는 경우 별개의 제스처로 구분하였다. 예를 들어, 다리를 공중에 뻗는 제스처와 다리를 뻗지만 발을 지면에 대는 제스처, 팔을 뻗은 상태를 유지하는 제스처와 팔을 뻗어 흔드는 제스처는 서로 통합하지 않았다. 둘 째, 대칭적인 제스처는 하나로 통합하였다. 셋 째, 세부 신체 부위의 제스처에 특별한 의미가 없는 경우 하나로 통합하였다. 예를 들어, 손을 이용한 제스처의 경우, 인터뷰 결과 활용된 손가락의 개수나 종류에 따른 의미가 없다고 판단되는 경우 하나의 제스처로 통합되었다. 넷 째, 동작의 반복 횟수에 특별한 의미가 없는 경우 하나로 통합하였다.
다음으로, 이동 방향 별로 통합된 상체 제스처와 하체 제스처의 빈도수를 분석하였다. 추가적으로, 두 이동 방향에 대한 상체 제스처 조합과 하체 제스처 조합을 구성하고, 각 조합에 포함된 두 제스처를 모두 제시했던 피실험자의 수 분석하였다.
2.2 Results
2.2.1 Gesture integration
앞서 설명한 제스처 통합 기준에 따라, 168개의 개별 제스처는 41개의 제스처로 통합되었다. 측면 이동을 위한 제스처의 경우 상체 제스처는 10개, 하체 체스처도 10개로 통합되었으며, 후면 이동을 위한 제스처의 경우 상체 제스처는 11개, 하체 제스처는 10개로 통합되었다.
세부적으로, 측면 이동을 위한 상체 제스처는 빈도수 순서대로 측면으로 팔 뻗기(Pointing left/right side with one arm), 측면으로 몸통 기울이기(Lateral body leaning), 손가락 화살표로 측면 가리키기(Pointing left/right side with finger arrow), 팔 위아래로 흔들기(Rocking up and down with one arm), 팔 앞뒤로 흔들기(Rocking back and forth with one arm), 측면으로 밀기(Pushing to the side), 팔꿈치로 측면 가리키기(Pointing left/right side with one elbow), 측면으로 걷듯이 양팔 흔들기(Swinging arms left/right), 측면에 박수 치기(Clapping to the side), 한쪽 눈 감기(Wink)로 통합되었다(Table 1).
Integrated gesture |
Illustration |
Description |
Frequency (ratio) |
Pointing left/right side |
Pointing left/right side with left/right |
12 (29%) |
|
Lateral body leaning |
Left/right side bending to move to |
8 (19%) |
|
Pointing left/right side |
Pointing left/right side with a right/left |
7 (17%) |
|
Rocking up and down |
Rocking up and down with left/right |
6 (14%) |
|
Rocking back and forth |
Rocking back and forth with an |
2 (5%) |
|
Pushing to the side |
Pushing left/right side with right/left |
2 (5%) |
|
Pointing left/right side |
Pointing left/right side with left/right |
2 (5%) |
|
Swinging arms left/right |
Swing both arms to the left/right to move to left/right side |
1 (2%) |
|
Clapping to the side |
Clapping to the left/right to move to |
1 (2%) |
|
Wink |
Closing left/right eye to move to |
1 (2%) |
측면 이동을 위한 하체 제스처는 빈도수 순서대로 측면 바닥 찍기(Keeping one foot on the side), 한 다리 측면으로 들기(Side leg lifting), 한 발 바깥으로 회전하기(Foot turning outward), 한 발로 바닥 두드리기(Foot stamping), 게 걸음(Crab walking), 한 무릎 들기(Knee lifting), 측면으로 걷기(Side walking), 엉덩이 측면으로 빼기(Hips out to the side), 한 발 차기(Kicking to the side), 한 발 슬라이딩(Foot sliding)으로 통합되었다(Table 2).
Integrated gesture |
Illustration |
Description |
Frequency (ratio) |
Keeping one foot on |
Keeping left/right foot on the left/right side |
9 (21%) |
|
Side leg lifting |
Lifting left/right leg to the left/right side to |
8 (19%) |
|
Foot turning outward |
Turning left/right foot outward to move to |
6 (14%) |
|
Foot stamping |
Stamping ground with left/right foot to |
4 (10%) |
|
Crab walking |
Rotating both feet and moving to |
4 (10%) |
|
Knee lifting |
Lifting left/right knee to move to |
3 (7%) |
|
Side walking |
Turning lower body to the left/right and |
3 (7%) |
|
Hips out to the side |
Hips out to the left/right to move to |
2 (5%) |
|
Kicking to the side |
Kicking with left/right leg to move to |
2 (5%) |
|
Foot sliding |
Sliding left/right foot backward to move |
1 (2%) |
후면 이동을 위한 상체 제스처는 빈도수 순서대로 후면으로 몸통 기울이기(Backward body leaning), 엄지로 후면 가리키기(Thumb pointing), 전면 밀기(Pushing forward), 후면으로 팔 뻗기(Pointing backward with one arm), 걷듯이 한 팔만 흔들기(Half arm swing), 후면에 박수 치기(Clapping behind the back), 팔꿈치로 후면 가리키기(Pointing backwards with one elbow), 머리 만지기(Head touching), 양손 깍지 끼기(Hand clasping), 원 그리기(Draw a circle), 손가락 화살표로 바닥 가리키기(Pointing bottom with finger arrow)으로 통합되었다(Table 3).
Integrated gesture |
Illustration |
Description |
Frequency (ratio) |
Backward body leaning |
Leaning upper body backwards |
11 (26%) |
|
Thumb pointing |
Pointing backwards with one thumb |
9 (21%) |
|
Pushing forward |
Pushing forward with both palms |
7 (17%) |
|
Pointing backward with |
Pointing backwards with one arm |
4 (10%) |
|
Half arm swing |
Swing one arm |
3 (7%) |
|
Clapping behind the back |
Clapping backwards |
2 (5%) |
|
Pointing backwards with |
Pointing backwards with one elbow |
2 (5%) |
|
Head touching |
Touching the head with one
hand |
1 (2%) |
|
Hand clasping |
Clasping both hands |
1 (2%) |
|
Draw a circle |
Draw a circle with one
palm |
1 (2%) |
|
Pointing bottom with |
Pointing bottom with
finger arrow |
1 (2%) |
후면 이동을 위한 하체 제스처는 빈도수 순서대로 후면 바닥 찍기(Keeping one foot behind the back), 스쿼트 하기(Squatting), 한 다리 접기(Leg folding), 뒤꿈치로 제자리 걷기(Walking with heel first), 한 무릎 들기(Knee lifting), 한 다리 전면으로 들기(Front leg lifting), 한 다리 흔들기(Leg swing), 한 발로 바닥 두드리기(Foot stamping), 점프하기(Jumping), 무릎 꿇기(Kneeling)으로 통합되었다(Table 4).
Integrated gesture |
Illustration |
Description |
Frequency (ratio) |
Keeping one foot behind |
Keeping one foot on the back |
17 (41%) |
|
Squatting |
Pushing the hips backward |
10 (24%) |
|
Leg folding |
Folding one foot backward |
4 (10%) |
|
Walking with heel first |
Walking in place with the heel |
3 (7%) |
|
Knee lifting |
Lifting one knee |
2 (5%) |
|
Front leg lifting |
Lifting one leg forward |
2 (5%) |
|
Leg swing |
Swing one leg |
1 (2%) |
|
Foot stamping |
Stamping ground with one foot |
1 (2%) |
|
Jumping |
Jumping backwards |
1 (2%) |
|
Kneeling |
Moving backward while kneeling |
1 (2%) |
2.2.2 Combination of integrated gesture
통합된 제스처 중 상체 제스처의 경우, 측면 이동 제스처가 10개, 후면 이동 제스처가 11개로 총 110개의 제스처 조합이 도출되었다. 그 중, 측면 및 후면 이동에 대해 각각 측면으로 몸통 기울이기, 후면으로 몸통 기울이기로 구성된 조합을 제시했던 피실험자가 7명(50%)으로 가장 많았으며, 다음으로는 손가락 화살표로 측면 가리키기, 엄지로 후면 가리키기 조합이 6명(43%)으로 가장 많았다(Table 5). 하체 제스처의 경우 측면 이동 제스처가 10개, 후면 이동 제스처가 10개로 총 100개의 제스처 조합이 도출되었는데, 그 중 측면 및 후면 이동에 대해 각각 측면 바닥 찍기, 후면 바닥 찍기로 구성된 조합을 제시했던 피실험자가 6명(43%)으로 가장 많았다(Table 6).
|
Lateral
movement |
||||||||||
Pointing |
Lateral |
Pointing
left/right |
Rocking up |
Rocking |
Pushing |
Pointing |
Swing |
Clapping |
Wink |
||
Backward
movement |
Backward |
5 |
7 |
3 |
3 |
2 |
1 |
2 |
1 |
0 |
1 |
Thumb |
5 |
4 |
6 |
2 |
1 |
2 |
1 |
1 |
1 |
0 |
|
Pushing |
3 |
1 |
3 |
1 |
0 |
1 |
0 |
1 |
1 |
0 |
|
Pointing |
2 |
1 |
1 |
1 |
1 |
0 |
0 |
0 |
0 |
0 |
|
One arm |
1 |
1 |
0 |
1 |
0 |
0 |
1 |
0 |
0 |
1 |
|
Clapping |
2 |
0 |
0 |
2 |
0 |
0 |
0 |
0 |
0 |
1 |
|
Pointing |
2 |
1 |
1 |
0 |
0 |
0 |
1 |
0 |
0 |
0 |
|
Head |
1 |
1 |
0 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
|
Hand |
1 |
1 |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
0 |
|
Draw a |
0 |
1 |
1 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
|
Pointing |
0 |
1 |
1 |
0 |
1 |
0 |
0 |
0 |
0 |
0 |
|
Lateral movement |
||||||||||
Keeping |
Side leg |
Foot |
Foot |
Crab |
Knee |
Side |
Hips out |
Kicking |
Foot |
||
Backward |
Keeping one |
6 |
4 |
4 |
3 |
3 |
1 |
1 |
1 |
2 |
0 |
Squatting |
3 |
4 |
4 |
3 |
3 |
2 |
1 |
1 |
1 |
1 |
|
Leg folding |
1 |
4 |
2 |
0 |
2 |
1 |
0 |
0 |
1 |
0 |
|
Walking with |
1 |
1 |
0 |
2 |
1 |
0 |
1 |
0 |
0 |
1 |
|
Knee lifting |
1 |
1 |
1 |
1 |
0 |
0 |
0 |
0 |
0 |
1 |
|
Front leg |
0 |
2 |
0 |
0 |
2 |
1 |
0 |
0 |
1 |
0 |
|
Leg swing |
0 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
|
Foot |
1 |
0 |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
0 |
|
Jumping |
0 |
1 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
|
Kneeling |
1 |
0 |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
0 |
2.3 Gesture set selection
Table 7은 통합된 제스처들 중 가장 높은 빈도수를 보인 제스처들을 조합하여 제스처 세트를 도출한 경우(case 1)와 통합된 제스처들 간 조합 중 가장 많은 피실험자가 제시했던 조합을 제스처 세트로 도출한 경우(case 2)를 정리한 것이다. 하체 제스처 세트에 대해서는 두 경우 모두 측면 및 후면 이동에 대해 각각 측면 바닥 찍기, 후면 바닥 찍기로 구성된 세트가 도출되었다. 이에 따라, '바닥 찍기'를 대표 하체 제스처 세트로 결정하였다. 반면, 상체 제스처 세트에 대해서는 case 1에서는 측면으로 팔 뻗기, 후면으로 몸통 기울이기로 구성된 세트가, case 2에서는 측면으로 몸통 기울이기, 후면으로 몸통 기울이기로 구성된 세트가 도출되었다. 측면 이동을 위한 상체 제스처들 중 측면으로 몸통 기울이기가 두 번째로 높은 빈도수를 보였으며, 후면으로 몸통 기울이기와 자세적 유사성을 갖는다는 점을 고려하여, '몸통 기울이기'를 대표 상체 제스처 세트로 결정하였다.
Gesture set |
Upper body gesture set |
Lower body gesture set |
||
Lateral movement |
Backward movement |
Lateral movement |
Backward movement |
|
Case 1 |
Pointing left/right |
Backward body leaning |
Keeping one foot on |
Keeping one foot behind |
Case 2 |
Lateral body leaning |
Backward body leaning |
Keeping one foot on |
Keeping one foot behind |
3.1 Method
3.1.1 Participants
실험에는 신체적, 정신적으로 건강한 평균 연령 23.5세(±1.51)의 피실험자 15명(남자 5명, 여자 10명)이 모집되었다. 모든 피실험자는 WIP을 활용한 VR 항행에 대한 경험을 보유하고 있었다.
3.1.2 Locomotion method
본 연구에서는 대표 제스처 세트로 도출된 몸통 기울이기와 바닥 찍기를 통해 측면 및 후면 이동을 지원하는 WIP 기반 이동 방법 2개(WIP with BL, WIP with KF)를 개발하고 VR 항행 시 사용자 경험을 평가하여 VR 애플리케이션 내 활용 가능성을 검토하고자 하였다.
WIP with BL, WIP with KF를 구현하기 위해 각각의 전진 이동 방향 조향, 전진 이동, 측면 이동, 후면 이동에 대한 세부 인터랙션 방법을 정의하였다(Table 8). 두 이동 방법 모두 제자리 걸음 시 몸통의 정면이 바라보는 방향으로 전진 이동하는 것으로 정의하였다. 이 때, 양 발의 높이 차가 8cm 이상 발생하는 경우를 제자리 걸음이 일어난 것으로 정의하였다. WIP with BL의 경우, 몸통의 굽힘 및 신전이 15도 이상 발생하는 경우 측면 및 후면 이동이 일어나도록 정의하였으며, WIP with KF의 경우 한 발이 몸통으로부터 측면 및 후면 방향으로 30cm 이상 떨어질 경우 해당 방향으로 이동이 일어나도록 정의하였다. 4명의 피실험자를 대상으로 해당 인터랙션 전략을 수행하는 데 불편감이 없음을 확인하였다.
Interaction strategy |
WIP with BL |
WIP with KF |
|
Steering |
Illustration |
||
Description |
Rotating torso to steer the
direction of forward movement |
||
Gesture |
Set the direction of forward movement
as upper body orientation angle. |
||
Forward |
Illustration |
||
Description |
Walking in place to move
forward |
||
Gesture |
Move forward if the height
difference between both feet is greater than a threshold 8cm. |
||
Lateral |
Illustration |
||
Description |
Left/right side bending to move to left/right
side |
Keeping left/right foot on the left/right
side |
|
Gesture |
Move laterally if the torso bending anlge
is |
Move laterally if the horizontal distance between
the |
|
Backward |
Illustration |
||
Description |
Leaning upper body backwards to |
Keeping one foot on the back side of the
ground |
|
Gesture |
Move backwards if the torso extension |
Move backwards if the longitudinal
distance between the |
3.1.3 Experimental settings
두 이동 방법은 정의된 인터랙션 전략에 따라 Unity3D 2021.3.16f1 엔진과 SteamVR 엔진을 통합하여 구현되었다. 두 이동 방법을 통한 VR 항행 과업을 제공하기 위해 머리 착용형 디스플레이(HTC VIVE PRO) 1대와 트래커(HTC VIVE Tracker 3.0) 3개, 머리 착용형 디스플레이 및 트래커 추적 카메라(HTC VIVE Base station) 2대가 활용되었다. 이 때, 3차원 공간 상의 실시간 위치 및 회전 상태를 추적할 수 있는 3개의 트래커는 피실험자가 정의된 인터랙션 전략을 수행했는지에 대한 여부를 판정하기 위해 피실험자의 몸통과 양 발목에 부착되었다(Figure 2 (a)). 피실험자가 두 이동 방법을 활용해 몰입감 있는 VR 항행을 경험할 수 있도록, Unity Asset Store에 배포된 CITY package를 통해 VR 도시 환경을 제공하였다(Figure 2 (b), (c)).
3.1.4 Experimental procedure
본 실험은 Figure 3와 같은 순서로 진행되었다. 먼저 피실험자에게 실험의 목적과 절차 및 두 이동 방법의 인터랙션 전략에 대해 안내한 후, 머리 착용형 디스플레이와 트래커를 착용하도록 하였다. 다음으로, 주어진 이동 방법에 대한 숙지 여부 및 작동 여부를 확인 후, 해당 이동 방법을 활용하여 VR 도시 환경을 5분간 자유롭게 항행하는 개방형 과업(open task)을 수행하도록 하였다. 실제 사용 맥락과 가까운 상황에서의 사용자 경험 평가를 통한 개념 증명(proof of concept)이 본 연구의 주목적이었기 때문이다. 다만, 피실험자의 편향된 이동 방법의 활용 가능성을 고려하여, 전진 이동, 측면 이동, 후면 이동 간의 전환을 모두 수행해 볼 것을 요청하였다. VR 항행 과업을 마친 피실험자에게는 해당 이동 방법에 대한 사용자 경험을 설문을 통해 평가하도록 하였다. 두 이동 방법을 활용한 VR 항행 과업 및 사용자 경험 평가를 마친 후, 각 이동 방법에 대한 주관적 느낌과 인상을 인터뷰하였다. 실험을 진행하는 동안 피실험자가 멀미로 인해 중단을 요청할 때, 충분한 휴식을 취할 수 있도록 하였다.
3.1.5 User experience evaluation
이동 방법에 대한 사용자 경험은 사용성, 멀미감, 현존감 측면에서 각각 System Usability Scale (SUS), Virtual Reality Simulator sickness Questionnaire (VRSQ), Presence Questionnaire 3.0 (PQ 3.0)을 활용해 평가되었다. SUS는 시스템의 사용성에 대한 주관적인 평가를 전반적으로 파악할 수 있는 10가지 문항으로 구성되어 있으며, 총점의 만점은 100점으로 높을수록 시스템의 사용성이 높다고 판단한다(Suharsih et al., 2021). VRSQ는 시뮬레이터 멀미를 측정하는 도구인 Simulator Sickness Questionnaire (SSQ)를 VR 환경에 특화 시킨 것으로, 총 9개의 평가 문항으로 구성되어 있다(Kim et al., 2018). VRSQ 총점의 만점은 100점으로, 높을수록 높은 멀미감을 유발하는 것으로 판단한다. PQ 3.0은 현존감을 형성하는 4가지 요소를 Involvement, Sensory Fidelity, Adaptation/Immersion, Interface Quality로 정의하고, 각 요소에 대한 평가 문항 29개로 구성되어 있다(Witmer et al., 2005). 본 연구에서는 VR 환경의 구현 수준과 관련된 Sensory Fidelity에 대한 문항과 SUS와 중복되는 Interface Quality에 대한 문항을 제외한 Involvement, Adaptation/Immersion 평가 문항 20개를 이동 방법 현존감 평가에 활용하였다. Involvement와 Adaptation/Immersion의 총점의 만점은 각각 84점, 56점으로 점수가 높을수록 시스템의 현존감이 높다고 판단한다.
3.1.6 Data analysis
두 이동 방법의 SUS, VRSQ, PQ 3.0 (Involvement, Adaptation/Immersion) 평가 점수 간 차이의 통계적 유의성을 확인하기 위해 유의수준은 .05 하에서 대응표본 t 검정을 실시하였다. 분석에는 R 프로그램이 활용되었다.
3.2 Results
분석 결과, SUS, VRSQ, PQ 3.0 (Involvement, Adaptation/Immersion)의 평가 점수 모두 WIP with KF에 비해 WIP with BL이 상대적으로 더 높았으나, 그 차이는 통계적으로 유의하지 않았다(Table 9).
Measures |
WIP with BL |
WIP with KF |
t |
p-value |
M ± SD |
M ± SD |
|||
SUS |
73.50±24,11 |
77.70±12.76 |
0.68 |
.504 |
VRSQ |
4.22±6.80 |
5.00±7.77 |
0.48 |
.642 |
Involvement (PQ 3.0) |
66.26±11.06 |
67.53±11.36 |
0.39 |
.701 |
Adaptation/Immersion (PQ
3.0) |
44.80±10.2 |
48.33±6.84 |
1.27 |
.229 |
제스처 수집 실험에서 대부분의 피실험자들은 WIP과 조화로운 측면 및 후면 이동 제스처로 특정 신체 부위를 이동 방향에 대응되도록 움직이거나 자세적 형태를 만들어 이동하고자 하는 방향을 지시하는 제스처를 제시하였다. 이는 WIP의 특성상 위치 이동 및 상체 회전이 제약된 상황에서 움직임의 자유도를 갖는 신체 부위를 활용하여 방향을 지시하는 것이 가장 직관적이고 효율적인 방법이기 때문인 것으로 판단된다. 또한 동일한 행동의 반복과 같은 동적 움직임보다는 동일한 자세의 유지하는 방식의 제스처가 많았는데, 이는 신체 움직임을 최소화하여 신체적 불편도를 줄이고자 하는 경향이 있었던 것으로 해석된다.
상체 제스처 세트의 응답 빈도 분석 결과를 통해 이동하고자 하는 방향으로 몸통을 기울이는 제스처가 가장 우세함이 확인되었다. 몸통은 전방향으로 기울일 수 있으며, 기울이는 방향과 이동 방향을 일대일 대응 시킬 수 있다는 점에서 조이스틱의 동작 방식과 유사성을 갖는다. 또한, 몸통을 기울이는 제스처가 실제 걷는 것과 유사한 전정 감각 반응을 일으키는 것으로 알려져 있다(Marchal et al., 2011; Vezzani et al., 2023). 이에 Tregillus et al. (2017)은 몸통 기울이기 제스처를 통해 전방향 이동이 가능한 이동 방법을 개발한 바 있으며, 사용자 경험 평가를 통해 해당 제스처가 유용한 이동 방법이 될 수 있음을 확인 한 바 있다. 특히, 제자리에서 걷는 동안 상체는 자유롭게 움직일 수 있으므로 전진 이동에서 측면 또는 후면 이동으로의 전환에 이점이 있다는 점은(Kim et al., 2021) 몸통 기울이기가 WIP과 조화로운 측면 및 후면 이동 방법일 수 있음을 시사한다. 실제로 개발되어 평가된 WIP with BL은 사용자 경험 평가 결과, SUS 점수는 평균 73.50점, VRSQ 점수는 4.22점, PQ 3.0의 Involvement 점수는 66.26점, Adaptation/Immersion 점수는 44.80점으로 평가되었다. 평가 결과를 통해 WIP with BL의 사용성, 멀미감, 현존감 측면에서의 우수성을 단언하기는 어려우나, 각 평가도구의 만점이 각각 100점, 100점, 84점, 56점이며, SUS 점수가 70점 이상일 경우 시스템의 사용성이 허용할만한 수준이라는 기존 연구 결과(Aaron Bangor and Miller, 2008)와 VRSQ와 높은 상관성을 보이는 SSQ의 점수가 10점 미만일 경우 시뮬레이터의 멀미감이 허용할만한 수준이라는 기존 연구 결과(Kennedy et al., 2003)를 감안할 때, WIP의 한계를 보완하는 이동 방법으로써 WIP with BL의 VR 애플리케이션 내 활용을 고려해 봄직하다.
하체 제스처 세트의 응답 빈도 분석 결과에서는 이동하고자 하는 방향으로 발을 뻗어 지면에 찍는 제스처가 가장 우세하였다. 발을 찍는 방향과 이동 방향 간의 공간적 일치성(spatial congruence)이 존재하며, 실제 옆걸음이나 뒷걸음 시 이동하고자 하는 방향으로 한 발을 내딛는 동작이 선행된다는 점은 해당 제스처에 직관성(intuitiveness)과 자연스러움(naturalness) 측면의 이점이 있음을 시사한다. Kim and Xiong (2021)의 연구에서도 유사한 제스처가 전면 이외의 방향의 이동에 대한 제스처로 유용함이 확인된 바 있으며, 본 연구에서 개발 및 평가된 WIP with KF의 SUS 점수는 평균 77.70점, VRSQ 점수는 5.00점, PQ 3.0의 Involvement 점수는 67.53점, Adaptation/ Immersion 점수는 48.33점이었음을 고려할 때, 본 이동 방법 역시 별도의 컨트롤러의 사용 없이 WIP의 이동 자유도를 향상시키는 효과적인 이동 방법으로 제안될 수 있다.
두 이동 방법의 사용자 경험 평가 결과 간 통계적 유의성은 확인되지 않았지만, 평가 이유에 대한 서술형 응답을 통해 둘 간의 특징적인 차이점이 있음을 확인할 수 있었다. 먼저 장점 측면에서는 WIP with BL의 경우 이동 방향 간 전환이 상대적으로 수월했다는 의견이 있었으며, WIP with KF의 경우 하체의 움직임만으로 이동이 가능한 점이 유용하였다는 의견이 있었다. 다음으로 단점 측면에서는 WIP with BL의 경우 몸을 기울이는 데 있어 신체적 부하가 다소 느껴졌다는 의견이 있었으며, WIP with KF의 경우 발을 측면 또는 후면 바닥에 찍은 자세를 유지함에 있어 다소 어려움이 존재하였다는 의견이 확인되었다. 특히, 이동 방향 간 전환의 빈도 및 신속성, 특정 방향으로의 이동 시간 지속성에 대한 요구가 큰 상황에서는 사용자 경험에 대한 문제가 더욱 심화될 가능성이 있다. 이러한 문제는 인터랙션 전략에 따른 이동 방법의 구현 시 적용했던 임계치의 하향 조정을 통해 다소 해소될 수 있을 것으로 판단된다. 다만, 너무 낮은 임계치는 사용자가 의도하지 않은 이동의 빈번한 유발을 야기할 수 있으므로, 임계치의 적정 수준에 대한 추후 연구가 필요할 것으로 판단된다.
본 연구에서는 제스처를 통해 측면 및 후면 이동이 가능한 WIP 기반의 이동 방법을 제안하는 것을 목표로 하였다. 제스처 수집 실험을 통해 측면 및 후면 이동에 적합한 상체 및 하체 제스처로 몸 기울이기와 바닥 찍기가 도출되었으며, 두 제스처를 기반으로 한 이동 방법인 WIP with BL과 WIP with KF의 개발 및 사용자 경험 평가를 통해 VR 항행시의 활용 가능성을 확인하였다. 특히, WIP with BL은 이동 방향 전환 간 수월성 측면에서, WIP with KF는 하체 제스처만을 통한 이동 자유도 확보 측면에서 이점을 지니는 것을 확인하였다.
그러나, 본 연구는 다음과 같은 한계점을 지닌다. 첫째, 비교적 적은 20명 미만의 피실험자를 대상으로 제스처 수집 실험 및 사용자 경험 평가 실험을 수행하였다. 이는 보다 사용자 친화적인 제스처의 존재 가능성 및 두 이동 방법의 사용자 경험 평가 결과 간 통계적 유의성의 존재 가능성을 완전히 배제할 수 없음을 시사한다. 둘째, 두 이동 방법에 대한 사용자 경험 평가 시 자유로운 VR 항행 과업이라는 개방형 과업을 수행하도록 함으로써, 과업 수행 중 항행 퍼포먼스를 측정하지 않았다. 주관적 평가에 차이가 없다 하더라도 항행 퍼포먼스에는 차이가 있을 수 있음을 고려할 때, 폐쇄형 과업(closed task)을 부여하는 추가 실험이 필요하다. 이러한 형태의 추가 실험은 제안된 두 이동 방법을 보다 통제된 조건 하에서 엄밀히 비교할 수 있게 한다는 점에서도 이점이 있을 것으로 판단된다. 추가적으로, 과업 수행 시간이 비교적 짧은 5분이었던 만큼, 장시간의 항행 과업 수행 시의 사용자 경험에 대한 평가 연구도 필요할 것이다.
이러한 한계에도 불구하고, 본 연구는 WIP이 갖는 이동 자유도의 한계를 별도의 컨트롤러 없이 극복할 수 있는 제스처 기반의 두 이동 방법을 제안하였다는 점에서 그 의의를 지닌다. 또한, 두 이동 방법이 제스처 수집 실험을 통해 도출되었으며, 개발 및 평가 실험을 통해 사용자 경험이 허용할만한 수준임이 확인되었다는 점에서 두 이동 방법이 높은 직관성과 사용자 친화성을 보일 것으로 기대된다. 제안된 두 이동 방법은 몰입감 있는 VR 항행을 필요로 하는 다양한 VR 애플리케이션에서 활용될 수 있을 것이다.
References
1. Aaron Bangor, P.T.K. and Miller, J.T., An Empirical Evaluation of the System Usability Scale, International Journal of Human-Computer Interaction, 24(6), 574-594, 2008. doi:10.1080/10447310802205776
Google Scholar
2. Al Zayer, M., MacNeilage, P. and Folmer, E., Virtual Locomotion: A Survey, IEEE Transactions on Visualization and Computer Graphics, 26(6), 2315-2334, 2020. doi:10.1109/TVCG.2018.2887379
Google Scholar
3. Boletsis, C. and Cedergren, J.E., VR Locomotion in the New Era of Virtual Reality: An Empirical Comparison of Prevalent Techniques, Advances in Human-Computer Interaction, 2019(1), 7420781, 2019. doi:10.1155/2019/7420781
Google Scholar
4. Bruder, G., Lubas, P. and Steinicke, F., Cognitive Resource Demands of Redirected Walking, IEEE Transactions on Visualization and Computer Graphics, 21(4), 539-544, 2015. doi:10.1109/TVCG.2015.2391864
Google Scholar
5. Cherni, H., Nicolas, S. and Métayer, N., Using virtual reality treadmill as a locomotion technique in a navigation task: Impact on user experience – case of the KatWalk, International Journal of Virtual Reality, 21(1), 1-14, 2021. doi:10.20870/ijvr.2021.21.1.3046
Google Scholar
6. Gu, J., An Empirical Evaluation of the Representative Hand Gesture of Task from User Perspective, Archives of Design Research, 28(1), 133-145, 2015. doi:10.15187/adr.2015.02.113.1.133
Google Scholar
7. Hedlund, M., Lundström, A., Bogdan, C. and Matviienko, A., "Jogging-in-Place: Exploring Body-Steering Methods for Jogging in Virtual Environments", Proceedings of the 22nd International Conference on Mobile and Ubiquitous Multimedia, (pp. 377-385), Vienna. Austria., 2023. doi:10.1145/3626705.3627778
Google Scholar
8. Jaeger, B.K. and Mourant, R.R., Comparison of simulator sickness using static and dynamic walking simulators, Proceedings of the Human Factors and Ergonomics Society Annual Meeting, 45(27), 1896-1900, 2001. doi:10.1177/154193120104502709
Google Scholar
9. Kennedy, R.S., Drexler, J.M., Compton, D.E., Stanney, K.M., Lanham, D.S. and Harm, D.L., Configural Scoring of Simulator Sickness, Cybersickness and Space Adaptation Syndrome: Similarities and Differences. In L.J. Hettinger & M.W. Haas (Eds.), Virtual and Adaptive Environments: Applications, Implications, and Human Performance Issues, Lawrence Erlbaum Associates, Boca Raton, 247-278, 2003.
Google Scholar
10. Kim, H.K., Park, J., Choi, Y. and Choe, M., Virtual reality sickness questionnaire (VRSQ): Motion sickness measurement index in a virtual reality environment, Applied Ergonomics, 69, 66-73, 2018. doi:10.1016/j.apergo.2017.12.016
Google Scholar
11. Kim, W., Shin, E. and Xiong, S., "User Defined Walking-In-Place Gestures for Intuitive Locomotion in Virtual Reality", Proceedings of the 23rd International Conference on Human-Computer Interaction, (pp. 172-182), 2021.
Google Scholar
12. Kim, W. and Xiong, S., User-defined walking-in-place gestures for VR locomotion, International Journal of Human-Computer Studies, 152, 102648, 2021. doi:10.1016/j.ijhcs.2021.102648
Google Scholar
13. Kim, Y.M. and Rhiu, I., A comparative study of navigation interfaces in virtual reality environments: A mixed-method approach, Applied Ergonomics, 96, 103482, 2021. doi:10.1016/j.apergo.2021.103482
Google Scholar
14. Lai, C. and McMahan, R.P., "The Cognitive Load and Usability of Three Walking Metaphors for Consumer Virtual Reality", Proceedings of the 2020 IEEE International Symposium on Mixed and Augmented Reality (ISMAR), (pp. 627-638), Porto de Galinhas. Brazil., 2020. doi:10.1109/ ISMAR50242.2020.00091
Google Scholar
15. Lee, J., Kim, M. and Kim, J., A study on immersion and VR sickness in walking interaction for immersive virtual reality applications, Symmetry, 9(5), 2017. doi:10.3390/sym9050078
Google Scholar
16. Liang, H.N., Lu, F., Shi, Y., Nanjappan, V. and Papangelis, K., Evaluating the effects of collaboration and competition in navigation tasks and spatial knowledge acquisition within virtual reality environments, Future Generation Computer Systems, 95, 855-866, 2019. doi:10.1016/j.future.2018.02.029
Google Scholar
17. Marchal, M., Pettre, J. and Lécuyer, A., "Joyman: A human-scale joystick for navigating in virtual worlds", Proceedings of the 2011 IEEE Symposium on 3D User Interfaces (3DUI), (pp. 19-26), Singapore. Singapore., 2011. doi:10.1109/3DUI.2011.5759212
Google Scholar
18. Monteiro, P., Carvalho, D., Melo, M., Branco, F. and Bessa, M., Application of the steering law to virtual reality walking navigation interfaces, Computers & Graphics, 77, 80-87, 2018. doi:10.1016/j.cag.2018.10.003
Google Scholar
19. Mousas, C., Kao, D., Koilias, A. and Rekabdar, B., Evaluating virtual reality locomotion interfaces on collision avoidance task with a virtual character, The Visual Computer, 37, 2823-2839, 2021. doi:10.1007/s00371-021-02202-6
Google Scholar
20. Paik, S., Jeon, Y., Shih, P.C. and Han, K., "I feel more engaged when I Move!: Deep learning-based backward movement detection and its application", Proceedings of the 2021 IEEE Virtual Reality and 3D User Interfaces (VR), (pp. 483-492), Lisboa. Portugal., 2021. doi:10.1109/VR50410.2021.00072
Google Scholar
21. Razzaque, S., Kohn, Z. and Whitton, M.C., "Redirected Walking", Proceedings of the Eurographics 2001, 1549-1549, 2001. doi: 10.1007/978-3-031-23161-2_300998
22. Slater, M., Usoh, M. and Steed, A., Taking Steps: The Influence of a Walking Technique on Presence in Virtual Reality, ACM Transactions on Computer-Human Interaction (TOCHI), 2(3), 201-219, 1995. doi:10.1145/210079.210084
Google Scholar
23. Steinicke, F., Bruder, G., Ropinski, T. and Hinrichs, K., "Moving Towards Generally Applicable Redirected Walking", Proceedings of the 10th International Conference on Virtual Reality (Laval Virtual), (pp. 15-24), Laval. France., 2008.
Google Scholar
24. Suharsih, R., Febriani, R. and Triputra, S., Usability of Jawara Sains Mobile Learning Application Using System Usability Scale (SUS), Jurnal Online Informatika, 6(1), 41-52, 2021. doi:10.15575/join.v6i1.700
Google Scholar
25. Suma, E.A., Finkelstein, S.L., Reid, M., Babu, S.V., Ulinski, A.C. and Hodges, L.F., Evaluation of the cognitive effects of travel technique in complex real and virtual environments, IEEE Transactions on Visualization and Computer Graphics, 16(4), 690-702, 2010. doi: 10.1109/TVCG.2009.93
Google Scholar
26. Templeman, J.N., Denbrook, P.S. and Sibert, L.E., Virtual Locomotion: Walking in Place through Virtual Environments, Presence, 8(6), 598-617, 1999. doi:10.1162/105474699566512
Google Scholar
27. Tregillus, S., Al Zayer, M. and Folmer, E., "Handsfree omnidirectional VR navigation using head tilt", Proceedings of the 2017 Conference on Human Factors in Computing Systems (CHI), (pp. 4063-4068), Colorado. USA., 2017. doi:10.1145/3025453.3025521
Google Scholar
28. Vezzani, L., Strada, F., Pratticò, F.G. and Bottino, A., "The WalkingSeat: A Leaning Interface for Locomotion in Virtual Environments", Proceedings of the 20th EuroXR International Conference, (pp. 21-39), Rotterdam. The Netherlands., 2023. doi:10.1007/978-3-031-48495-7_2
Google Scholar
29. Wang, C., Dogaru, O.A., Strandholt, P.L., Nilsson, N.C., Nordahl, R. and Serafin, S., "Step aside: An initial exploration of gestural input for lateral movement during walking-in-place locomotion", Proceedings of the 24th ACM Symposium on Virtual Reality Software and Technology, Tokyo. Japan., 2018. doi:10.1145/3281505.3281536
Google Scholar
30. Witmer, B., Jerome, C. and Singer, M., The Factor Structure of the Presence Questionnaire, Presence: Teleoperators and Virtual Environments, 14(3), 298-312, 2005. doi:10.1162/105474605323384654
Google Scholar
PIDS App ServiceClick here!