본문바로가기

A Study on the Client Experience using Chatbot based on Counseling Theory

Abstract

Objective: The purpose of this study is to analyze client experience on the counseling chatbot and provide design implications for counseling chatbot based on artificial intelligence.

Background: Only a few people with psychological problems are consulted with psychotherapists. This is due to the physical limitations and psychological burden of face-to-face counseling. By adopting the technology of artificial intelligence, we identified the possibility of overcoming the limitation of the existing counseling method.

Method: Based on the counseling theory, we classified psychological counseling process into five stages: diagnosis, exploration, understanding, action, and evaluation. In addition, a counseling scenario covering from stage of diagnosis to understanding was designed and implemented through 'KakaoTalk Plus Friend' based on Java-based platform. 78 participants were recruited and they were the students of University. All participants were counseled by the chatbot on depressed situations and were interviewed on overall experience at the end.

Results: Based on the thematic analysis, four themes were derived: chance of self-insight, trust in anonymity, lack of non-verbal cues, and effects of counselor's identity.

Conclusion: The artificial intelligence counseling system can provide psychological relief to the clients. However, in order to design a chat-based consulting system, the characteristics of the chatbot must be considered. Also, the level of anthropomorphism of artificial intelligence agent should be designed appropriately for psychological counseling.

Application: The results of this study can be used as basic data to assist development of AI-based counseling system.



Keywords



Artificial intelligence Counseling Chatbot Counseling stages



1. Introduction

우울, 불안 등 현대인의 정신건강 문제로 인하여 심리 상담의 중요성이 높아지고 있다. 상담 및 심리 치료가 인간의 심리적 문제에 대한 효과적인 해결책임에도 불구하고 실제 이용 비율은 매우 저조하다(Yuen, 2013). 이러한 현상의 원인에는 시간, 비용과 같은 물리적 문제와 사회적 낙인, 치료에 대한 두려움 등의 심리적 문제(Vogel et al., 2007)가 있다. 정보통신 기술의 발달은 상담 매체의 변화를 통해 위와 같은 한계를 극복하고자 하는 시도로 연결되었다. 심리 상담 연구들은 전통적인 대면 방식의 상담을 전화, 이메일, 화상 채팅 등의 기술을 활용하여 새로운 형식으로 변환하고자 하였다. 이중에서도 온라인 상에서 컴퓨터를 매개로 하는 상담 방식은 대면 상담과의 비교 연구가 많이 진행되어 왔으며, 그 유용성과 효과성이 입증되어졌다(Kofmehl, 2017; Knaevelsrud et al., 2015). 이는 매체의 전환과 같은 새로운 시도가 대면 상담의 한계를 극복하는 새로운 해결책이 될 수 있다는 것을 시사한다.

최근 심리 상담 연구는 인공지능의 대두로 인하여 또 다른 국면을 맞이하고 있다. 상담의 형식적 변화를 넘어 상담사의 역할을 인공지능 시스템이 대체할 수 있다는 가능성이 제시된 것이다(Ho et al., 2018). 인공지능 상담은 컴퓨터 에이전트를 매개로 하기 때문에 온라인 상담이 가지고 있는 물리적 장점(e.g. 환경의 제약 극복)을 동일하게 제공할 수 있다. 이에 더해 인공지능 기술은 기존의 상담 시스템이 제공하지 않았던 새로운 가치를 창출한다. 인공지능 상담사는 인간 상담사와 같은 피로, 감정 소진 등의 현상을 겪지 않으며(Boy and Pine, 1980; Benoit et al., 2007), 개별 내담자의 특성에 맞는 상담 서비스를 제공 가능하다(Luxton, 2015). 또한 내담자는 상담자를 컴퓨터로 인지할 때 두려움과 압박감이 낮았으며 객관적인 감정 표현을 수월하게 할 수 있었다(Lucas et al., 2014). 이처럼 인공지능을 상담 분야에 도입한다는 것은 단순히 인간 상담자를 시스템으로 대체한다는 것 이상의 의미를 갖는다.

그러나 인공지능의 기술적인 측면을 발전시키는 것(Rajput, 2015)과 인공지능과 인간의 상호작용에 따른 심리적 효과를 검증하는 것(Miner et al., 2017)에 대한 개별적인 논의는 진행되고 있는 반면 인공지능 기반의 상담 서비스를 설계하는 실질적인 논의는 거의 이루어지지 않고 있다. 향후 정신건강을 위한 의료 서비스에 인공지능을 도입하기 위해서는 내담자의 문제 해결을 위한 상담의 방향성과 전략을 시스템 설계에 반영하는 것과 인공지능과 상담을 진행했을 때 발생하는 사용자의 요구사항을 파악하는 것이 필요하다. 이에 이 연구의 목적은 심리 상담 단계 이론을 반영하여 대화 플로우와 같은 초기 설계를 구안하는 것과, 구안된 챗봇을 실제 적용해 봄으로써 상담적 접근의 가능성 및 추후 챗봇의 개선을 위한 함의를 발굴하는 데 있다. 이 연구의 첫번째 절에서는 심리 상담 분야의 인공지능 도입에 대한 배경을 다루며, 두번째 절에서는 심리 상담용 에이전트를 설계하기 위한 전반적인 내용을 다루고자 한다. 다음 절에서는 상담 에이전트 프로토타입을 통해 파일럿 스터디를 진행하여 사용자의 의견을 수집하고 마지막으로 차후 인공지능 상담 시스템 디자인의 개선을 위한 특성을 도출하고자 한다.

2. Literature Review

2.1 Counseling process

상담은 삶에서 발생하는 다양한 문제를 효율적으로 해결 혹은 관리하여 내담자가 풍요로운 삶을 살 수 있도록 돕는 과정으로 문제 해결을 목적으로 하는 단계들을 거쳐 진행된다. 상담의 목적과 내담자의 특수성이 다르기 때문에 연구자에 따라 상담 단계에 대한 다양한 모델을 제시하고 있다. Egan (2006)은 상담을 내담자가 문제에 대한 4가지 핵심 질문에 대하여 대답을 하는 과정이라 보았으며, Hackney and Cormier (1996)는 상담이 문제 해결이라는 종결점을 향해 나아가는 점진적인 이동 과정이라고 정의하였다. Ivey et al. (2013)은 상담 과정은 내담자에게 행동, 감정, 생각을 통찰할 수 있는 기회를 제공하는 문제 해결의 과정이며 5가지의 차원으로 구분된다고 주장하였다. 또한 Kottler (2003)는 상담을 5단계로 구분하였으며, 상담이 이러한 단계를 거쳐 앞으로 나아가는 과정이라고 말하였다. 세부적인 명명이나 순서는 다르지만 상담 연구들은 공통적으로 상담의 과정이 문제 해결을 위하여 단계적으로 진행하는 과정이라고 보고 있다. 상담의 각 단계별로 상담자가 주력해야 하는 기술 및 관점들이 있으며, 이러한 것들이 적합하게 실행할 때 효과적인 상담 성과를 얻을 수 있다. 상담 단계는 중첩적이거나 반복적일 수 있기 때문에 단일한 모델로 설명하는 것이 어렵다. 상담 과정에 대한 이론들 중에서도 Kottler (2003)의 제안한 5단계 모델은 단계별 구분과 정의가 명확하여 상담 과정을 구조화하기 위해 비교적 유용하게 사용될 수 있다. 따라서 본 연구에서는 Kottler (2003)의 상담 5단계(Figure 1)에 기초하여 상담 과정 전반에 대해 살펴보고자 한다.

Figure 1. Stages of the counseling (Kottler, 2003)

진단 단계(Assessment stage)는 상담에 필요한 기초 자료를 수집하고 분류하는 단계이다. 해당 단계에서 상담자는 내담자의 개인적 특성과 같은 자료를 평가하고 수집하는데 많은 시간을 할애하게 된다. 내담자의 자료를 수집하기 위한 방법으로 일반적으로 성격유형 검사와 같은 표준화된 검사 지표를 사용한다(Gladstein, 1977). 검사를 통해 수집된 자료는 상담자에게 유용한 정보를 제공하며, 상담의 목적을 확인하고 설정하는 작업의 초석이 된다. 내담자에게 검사를 실시하고 해석하는 과정은 그 자체로 내담자에게 긍정적인 상담 효과를 일으키기도 한다(Goodyear, 1990). 내담자는 자신의 상태를 정상 범주와 비교할 수 있으며, 이를 통해 스스로에 대한 객관적인 이해도를 높일 수 있다. 어떠한 검사도 내담자에게 이상적으로 적합하지는 않기 때문에 상담자가 검사의 한계를 인식하고 가장 적합한 도구를 선정하는 것이 중요하다.

탐색 단계(Exploration Stage)는 내담자가 그들의 문제와 감정, 활동 등을 탐색하도록 돕는 단계이다. 상담자는 신뢰 관계를 형성하여 내담자가 편안함을 느낄 수 있도록 노력해야 한다. 탐색 단계에서는 주로 주의 집중, 경청, 개방형 질문 등의 상담 기술을 사용하며, 이를 통해 내담자가 자신에 대해 이야기할 수 있도록 격려하는 것이 요구된다(Ko, 2017). 상담자는 문제적 경험과 감정, 문제를 해결하기 위한 시도 등에 대해 질문할 수 있으며 내담자는 이에 대한 답변을 통해 자신의 문제에 대해 깊은 탐색의 기회를 갖게 된다. 해당 단계에서 내담자는 외부의 피드백 없이 내면에서 문제에 관하여 깊게 생각함으로써 불안과 답답함을 경험하기도 한다. 이러한 부정적 감정의 경험은 감정의 재해석을 위한 초기 행위로서 긍정적인 행위로 해석될 수 있다(Hill and O'Brien, 2004).

통찰 단계(Understanding Stage)는 문제의 원인과 행동에 대한 통찰을 통해 변화의 목표를 수립할 수 있도록 돕는 단계이다. 상담자들이 통찰 단계에서 사용하는 접근법은 상담에 기반하는 이론적 배경에 따라 다양하지만, 공통적으로 내담자의 이해를 심화하고 변화의 방향을 설정하고자 하는 목적이 있다(Colling and Davis, 2005). 탐색 단계가 경험에 대해 생각해보는 단계라고 한다면 통찰 단계는 경험의 원인과 결과에 대해 깊이 이해하는 단계로 내담자는 예전에 느끼거나 발견하지 못했던 것을 깨닫게 된다. 상담자는 통찰 단계에서 명료화, 해석 등의 상담 기술을 사용하며, 이를 통해 내담자가 문제에 대한 이해를 재정립할 수 있도록 돕는다(Ko, 2017). 문제의 재해석을 통해 내담자는 자신이 추구하는 변화의 방향을 인식할 수 있다. 최종적으로 상담자와 내담자는 상담이 지향하는 목표점을 합의하게 되며, 이러한 목표가 단계의 궁극적인 결과물이라고 할 수 있다.

실행 단계(Action Stage)는 내담자의 새로운 행동 방향을 안내하고 변화를 이룰 수 있도록 돕는 단계이다. 이 단계에서 내담자는 목표를 달성하기 위해 구체적으로 어떤 행동을 취해야 할지를 생각한다(Egan, 2006). 이전의 단계에서 비교적 추상적인 기술을 적용했던 것과 달리, 실행 단계는 내담자의 변화가 현실 세계로 연결될 수 있도록 하는 기술들을 활용한다. 이러한 기술은 주로 인지-행동적 이론에 기초하며 구체적으로 정보제공, 조언, 지시 등과 같은 것들이 있다(Ko, 2017). 실행 단계는 행동 전략과 계획을 실제 행동으로 옮기고자 하는 단계로서 통찰 단계에서 얻은 깨달음을 강화한다.

평가 단계(Evaluation Stage)는 상담을 효과적으로 진행하였는지 확인 후 성과를 평가받는 단계이다. 여기서 상담 성과는 상담이 내담자에게 미치는 치료 효과와 상담 자체에 대한 만족도를 모두 포함한다. Session Evaluation Questionnaire (SEQ), Counselor Rating Form (CRF) 등의 지표를 활용하여 상담에 대한 만족도, 상담자에 대한 호의적인 지각, 상담 시간 자체에 대한 느낌 등을 전달받을 수 있다(Stiles and Snow, 1984; Stiles et al., 2002). 평가 단계의 결과에 따라 이전 단계로 돌아가는 조정이 이루어질 수도 있으며, 다음 상담이 진행될 경우 보다 집중해야 하는 부분을 파악할 수 있다.

상담의 단계에 따라 진행하는 것 외에도 상담자가 고려해야하는 기본 요건에는 공감이 있다. 공감은 상담 성과를 결정하는 큰 요인 중 하나로 내담자와 상담자의 관계 형성과 연계되는 중요 요인으로 작용한다(Moyers and Miller, 2013). 공감은 상담자가 내담자의 감정에 대한 적절한 정서적 반응을 제공하는 것을 뜻한다. 공감은 내담자의 입장에서 감정을 함께 느끼는 것으로 일련의 목적과 방식이 존재하며 단순히 내담자에 연민을 느끼는 것과는 구분되는 개념이다(Clark, 2010). 상담 과정에서 상담사는 주로 공감적 듣기를 통해 대화를 촉진하며, 이러한 반응 전략에는 공감적 이해 반응, 공감적 정서 집중 반응, 공감적 대화 협력 반응이 있다(Lee, 2016). 상담자는 공감 기술을 상담 과정 전반에 적용하여 내담자와 신뢰 관계를 형성하는 것이 중요하다.

심리 상담에 새로운 형식을 시도하고자 했던 기존 연구들은 내면의 표현을 끌어내기 위하여 글쓰기, 이메일, 채팅 등의 텍스트 기반의 상담 형식을 도입하였다(Ernst, 2017; Pascoe, 2016). 텍스트 기반 상담은 심리적인 문제에 대한 내면의 성찰을 돕는 것으로 발견되었다(Jang et al., 2016). 특히 인간 상담자와 내담자 사이를 컴퓨터로 매개하는 채팅 상담은 내담자의 자기 개방에 대한 거부감을 감소시키고 글쓰기적 치료 효과가 발현되는 것으로 나타났다(Jee et al., 2010). 따라서 본 연구에서는 텍스트 중심 인터페이스인 챗봇을 기반으로 시스템을 구현하여 상담 내에서 내담자의 자기 표현을 격려하고자 하였다.

2.2 Rule-based chatbot

챗봇이란 텍스트 기반 대화 인터페이스를 통해 사용자와 상호작용하는 소프트웨어 에이전트를 뜻한다(Yan et al., 2016). 대화 시스템은 대화의 목표를 명확하게 규정하는지 여부에 따라 과업지향 대화 시스템(Task-oriented dialogue system)과 비과업지향 대화 시스템(Non task-oriented dialogue system)으로 구분되며 챗봇은 후자에 포함된다(Jokinen and McTear, 2009). 과업지향 대화 시스템에서 사용자는 비행기 예약, 음악 듣기, 은행 거래 등의 단순 과업 목적을 가지고 있으며 대화 시스템과의 상호작용을 통해 이를 수행한다(Zue et al., 1994). 여기서 대화 시스템은 사용자가 목적을 달성하기 위한 수단이라 말할 수 있으며, 최소한의 대화로 효율적인 달성을 이루는 것을 목적으로 한다. 이와 다르게 비과업지향 대화 시스템의 경우 과업이 특정하지 않은 사용자를 대상으로 하며, 형식과 주제가 정해지지 않은 흥미 위주의 대화를 진행하게 된다. 따라서 챗봇의 대화 주제는 일상 생활에 대한 이야기부터 잡담에 이르기까지 방대하다.

챗봇의 구현 방식에는 규칙 기반 모델(Rule-based Model)과 학습 기반 모델(Learning-based Model)이 있다(Jokinen and McTear, 2009). 규칙 기반 모델은 사람들이 미리 응답을 설계해 놓으면, 사용자의 입력 메시지를 분류해 후보 응답들 중 적합한 것을 출력하는 모델이다. 적합성은 사전에 정해진 시나리오에 따라 판별되며 이에 따라 출력될 응답이 결정된다. 미리 정의된 시나리오에 따른 결과가 도출되어 오류가 적다는 장점이 있다. 그러나 시나리오를 설계하는 것이 어렵고 작성에 소요되는 시간과 노동력이 필요하다. 학습 기반 모델은 빅데이터를 기반으로 인공지능 모델을 학습해 사용자의 입력에 따라 대답을 예측하는 모델이다(Li and Rafiei, 2018). 이 모델은 챗봇과의 자유로운 대화가 가능하다는 장점이 있지만 주제를 제어하기 어렵고 사용자의 질문이나 요구사항에 적절히 대응하지 못하는 오류가 발생할 수 있다.

심리 상담은 일상적인 대화와는 다르게 내담자와 합의된 목표 도달을 위한 과정이다. 그러나 목표 도달을 위해 내담자의 이야기를 이끌어내야 한다는 점에서 대화의 효율성을 지향하는 과업지향 대화 시스템과는 거리가 있어 챗봇으로 분류되는 것이 적합하다. 심리 상담은 전체적인 방향성을 잡아주는 상담 이론에 기반하고, 전문적인 기술을 갖춘 상담사에 의해 단계적으로 진행될 때 실질적인 변화를 이룰 가능성이 높다. 학습 기반 모델은 사용자가 대화를 주도하기 때문에 상담의 방향성을 유지하는 것이 어렵다. 그에 반해 규칙 기반 모델은 주로 버튼 및 선택 방식을 차용하여 사전에 설계된 시나리오에 따라 대화가 진행되기 때문에 일관성 있는 대화 흐름을 유지할 수 있다. 따라서 본 연구에서는 사용자 요청에 대한 오류를 최소화하고 상담의 방향성을 유지하기 위하여 규칙 기반의 챗봇을 구현하고자 하였다. 규칙 기반의 챗봇은 기존 상담 과정의 단계 이론을 기반으로 하며 단계마다 설정된 규칙과 상담 기술에 의해 진행이 조절되었다.

3. Method

3.1 System architecture

시스템의 전반적인 설계는 대면 방식의 상담 프로세스를 규칙 기반의 챗봇으로 변환하는 방식으로 진행하였으며, 그에 따른 규칙을 생성하여 다음 단계로 진입하도록 하였다. 본 연구가 심리 상담용 에이전트 시스템을 구현하기 위한 초기 단계 연구이기 때문에 모든 단계를 구현하는 것은 무리가 있다. 특히 내담자의 다양한 문제에 대한 대안을 모두 설계하는 것은 시간 및 기술적인 한계점이 존재한다. 따라서 실제 상담 과정에서 진행되는 실행 단계를 제외하고, 탐색 단계와 통찰 단계를 통합하였다. 최종적으로 진단, 탐색, 평가라는 3단계의 상담 과정으로 시스템을 구성하였다. 시스템을 설계하는 과정은 현직 상담 전문가 3인의 자문 및 검토를 기반으로 진행되었다.

실험 대상이 20대에서 30대 사이의 대학생임을 고려하여 대학생들에게 빈도가 높은 우울감으로 상담 주제를 한정하였다. 대학생은 우울 장애의 빈도가 높은 집단으로써, 우울 장애로 인하여 대인 관계의 어려움 및 자살, 자해 등의 위험성이 높다(Eisenberg et al., 2007; Roh et al., 2006). 우울은 가장 다수가 겪고 있는 정신 장애의 일종으로, 이를 방치하면 신체적, 인지적, 사회적 장애를 유발하게 된다(Dyer et al., 2000; Tsuno et al., 2005). 스마트 기기를 통한 대화 및 온라인 채팅 방식이 우울 감정 해소에 도움이 된다는 것이 발견되었다(Chey and Kim, 2018). 심리 상담 분야에서 우울은 중점적으로 연구되는 주제 중 하나로써 조기발견과 치료의 중요성에 대한 연구들이 진행되어져 왔다(Löwe et al., 2004). 본 연구에서도 우울을 상담 주제로 선정하였으며, 이에 따라 상담 과정의 개별 단계를 우울감 개선을 위한 지표와 이론을 토대로 설계하였다.

내담자의 표현을 촉진하기 위하여 상담의 전 과정에 공감적 기술을 사용하였다. 본 연구에서는 Lee (2016)가 제안한 3가지의 청자 반응 전략 중 주로 공감적 이해 반응과 공감적 정서 집중 반응을 사용하였다. 구체적으로 공감적 이해 반응의 세부 전략 중 단순 동의 및 찬성(e.g. "내키지 않으실 수 있습니다".), 정보 요청(e.g. "도움을 드리기 위해 질문을 드릴게요".) 등을 사용하였다. 공감적 정서 집중 반응의 경우 추론적 공감(e.g. "그랬군요".), 위로(e.g. "그동안 힘드셧겠습니다".)와 같은 전략을 적용하였다. 이러한 공감적 전략의 사용을 통해 내담자의 정서에 공감하고 내면의 표현을 심화할 수 있도록 유도하였다.

심리상담의 전체 구조와 규칙은 Figure 2에서 확인할 수 있으며, 다음과 같은 단계로 진행된다.

Figure 2. System architecture

내담자와의 상담은 인사와 상담 구조화로 시작된다. 상담의 시작에 앞서 내담자는 상담 에이전트와 간단한 인사를 나누고 본인이 불리고 싶은 닉네임을 설정하였다. 이와 같은 활동을 통해 상담의 익명성을 보장하고 내담자의 솔직한 이야기를 이끌어내고자 하였다. 상담 구조화란 상담 기술 중 하나로 상담 과정 전반과 상담사의 역할을 간략히 소개하는 것을 뜻한다. 본격적인 상담 시작 전 구조화를 받은 내담자는 상담에 대한 정보를 얻고 기대감을 갖게 된다(Davidshofer and Richardson, 1981). 상담 구조화를 마친 후 에이전트는 내담자에게 상담 진행에 대한 동의를 구하게 된다. 내담자의 자발적인 동의를 얻은 후 에이전트는 상담의 본 단계로 도입하였다.

진단 단계(Assessment stage): 본래 진단 단계는 내담자에 대한 기초 자료를 수집하고 분석하는 단계이다. 본 연구에서는 상담자 특성을 수집하는 도구로써 우울증 진단에 사용되는 PHQ-9을 채택하였다. PHQ-9은 우울증을 선별하기 위한 도구로 사용자의 심리 상태의 심각도 수준을 판단하기 위하여 활용된다(Kroenke et al., 2001). 그동안 알려진 대부분의 우울증 검사 도구에 비하여 작성하는 문항수가 적어 검사에 요구되는 시간이 적고 다양한 연구에서 타당도와 신뢰도가 검증되어 있다. PHQ-9은 우울 감정을 진단하는 9가지의 항목으로 구성되어 있으며, 최근 문제를 겪은 빈도를 알아보는 방식으로 진행 되어진다. 대면 상담에서는 주로 지필 검사 방식으로 진행되며, 본 연구에서는 PHQ-9을 챗봇 형식으로 변환하여 선택지를 버튼형으로 선택할 수 있게 하였다. 이에 대한 응답은 0 "전혀 없음"에서 3 "거의 매일"까지 점수화 하여 수집하였다.

내담자가 PHQ-9의 모든 문항에 대답을 완료하면 시스템 상에서 응답 총점에 따른 결과를 제시하였다. 이 때 최종 점수는 0~27점의 범위로 도출되었으며, 점수 분포에 따라 우울 증상을 다섯 개의 군으로 분류하여 내담자에게 진단 내용을 제공하였다. 이 중 자살에 대한 위험도를 묻는 질문("지난 2주일 동안 차라리 죽는 것이 더 낫겠다고 생각하거나 자해를 하려고 생각한 적이 얼마나 자주 있었나요?")에 긍정적인 응답을 한 피험자의 경우에는 실험에 참여가 어렵다는 판단 하에 실험을 중지하고, 전문 심리 상담 기관에 대한 안내를 제공하였다. 그 외의 참가자의 경우 다음 단계 진행에 대한 의사를 묻고 동의한 경우 탐색 단계로 이동하였다.

탐색 단계(Exploration Stage): 이 단계는 상담 내에서 내담자의 문제를 살펴보는 탐색 단계와 문제에 대한 내담자의 이해를 심화하는 이해 단계로 구분이 되어 있었으나, 설계의 편의상 두 단계를 하나의 단계로 통합하였다. 우선 내담자가 불편을 겪고 있는 상태 및 원인에 대한 파악을 위하여, 우울로 인한 어려움에 해당되는 보기(e.g. 부정적인 정서, 신체적 불편감 등)를 제공하여 선택할 수 있도록 하였다. 이후 선택한 요인에 기초하여 내담자의 감정과 경험을 충분히 표현할 수 있도록 문제에 대한 구체적인 서술의 기회를 제공하였다. 이 과정에서 내담자가 문제를 겪어온 기간이나 정도에 대하여 추가적인 내용을 질문하였으며, 내담자의 답변에 기반하여 챗봇이 공감과 위로의 기법을 사용하였다.

다음으로 내담자가 문제를 해결하기 위하여 시도했던 방법에 대하여 이야기할 것을 요청하였다. 진단 단계에서 수집된 내담자의 특성과 대처 전략에 대한 의견을 토대로 현재 내담자에 대한 종합적인 판단 의견을 제시하였다. 실제 상담 과정은 과거 및 현재 대처 전략을 기반으로 새로운 전략을 구축하여 전달하여야 하지만 언급한 이유로 해당 활동을 진행하는 실행 단계는 진행하지 않았다. 끝으로 상담에 대한 마무리와 함께 지금까지 진행된 상담에 대한 평가를 요청하였다.

평가 단계(Evaluation Stage): 평가 단계는 상담의 목표를 달성하고 상담에 만족하였는지를 평가하는 단계이다. 이 단계를 통해 상담자는 목표 달성 정도를 확인하고 필요에 따라 이전 단계로 돌아가는 등의 조정을 실시한다. 그러나 본 연구의 목적이 인공지능 챗봇을 심리 상담 분야에 적용할 수 있는지에 대한 가능성을 탐색하는 것이기 때문에 해당 단계는 차후 AI 챗봇 인터랙션 개선할 수 있는 의견을 수집으로 정정하였다. 내담자는 상담 과정에서 만족한 점, 혹은 불만을 가진 점 등 자유로운 의견 제시를 요청받았다.

최종적으로 관련 문헌의 반영과 전문가의 자문을 통해 상담 단계를 확정지었다. 이를 기반으로 시나리오를 설계하였으며 텍스트 중심의 인터페이스 특성을 반영하여 챗봇 형태로 변환하였다. 설계된 시스템의 개선점을 파악하기 위하여 시스템의 프로토타입을 제작하였다. 파일럿 스터디를 진행하여 내담자의 정성적인 의견을 수집하고자 하였다.

3.2 Participants

본 연구의 참여자들은 본 연구자가 속한 연구 기관에 재학 중인 대학생 및 대학원생이었다. 교내 게시판 및 온라인 커뮤니티에 모집공고문을 부착하고 자발적인 참여의사를 표시한 지원자 중 참여자를 선정하였다. 연구 참여자들은 총 78명(남성: 40, 여성: 38)이었으며, 20~32세(M=24.6, SD=2.56)로 구성되어 있었다. 연구 대상자를 선정한 기준은 다음과 같았다. 1) 스마트폰 사용(Voice/Text)이 가능하며, 2) 본 연구의 연구 대상자 모집공고를 확인한 후 연구의 목적에 동의하고 자발적으로 참여의사를 밝혔고, 3) 연구자와의 의사소통에 장애가 없는 사람이여야 했다.

실험 전 연구자가 속한 기관의 생명윤리위원회(IRB No. 7001988-201810-HR-403-03)의 심의를 거쳐 연구 승인을 받았다. 연구 참여에 대한 동의를 받기 전에 참여자에게 안내를 제공하였으며, 이에 따른 참여 여부를 자율적으로 결정하도록 하였다. 피험자에게 제공되는 설명서에는 실험의 참여 및 중도포기 가능성, 부작용과 처치방법, 실험에 따른 보상을 기재하였다. 수집된 자료는 개인정보처리의 지침에 따라 ID를 부여하여 사생활을 보호할 수 있도록 하였다. 연구 참여자는 실험 완료 후 2만원 상당의 보상을 제공하였다. 또한 자살 위험도가 있다고 판단되어 실험을 진행하기에 적합하지 않다고 판단된 참여자에게도 실험을 중지하고 동일한 보상을 제공하였다.

3.3 Apparatus

실험을 진행하기 위해 상담 단계가 반영된 챗봇 시스템을 개발하였다. 규칙 기반의 챗봇 시스템 설계를 위하여 지능형 챗봇 플랫폼 단비(danbee)를 활용하였다. 단비는 규칙 기반 방식과 학습 기반 방식을 혼용한 인공지능 챗봇 제작 플랫폼이다. 본 실험에서 규칙 기반으로 설계된 챗봇의 데이터가 누적되면 자연어 학습을 통해 발전시킬 수 있을 것으로 판단된다. 단비는 일반 메신저에 연동이 가능하며, 본 연구에서는 카카오톡(Kakaotalk) 메신저에 연동하였다. 카카오톡은 한국에서 보편적으로 사용하는 모바일 메신저 어플리케이션으로 일반적인 실험 참여자의 접근성이 높다. 챗봇과의 대화는 스마트폰 인터페이스를 사용하여 진행하였으며 LG사의 G5를 사용하였다. 실제 챗봇 상담 과정은 Figure 3과 같다.

Figure 3. Chat interface in which participants interacted with the chatbot

3.4 Procedure

실험은 연구자가 속한 연구 기관의 실험실에서 진행되었으며, 대상자가 방문하면 연구의 목적과 절차에 대해 설명 후 자율적으로 실험동의서에 서약하도록 하였다. 참여자는 챗봇 입력 방식(버튼형, 선택형 등)에 대하여 설명을 들었으며, 트레이닝 챗봇을 이용하여 입력 방식을 연습하였다. 트레이닝을 위한 챗봇은 별도로 제작되었으며, 실험 주제와는 무관한 선호하는 음식, 여행 경험에 대한 내용으로 진행되었다. 약 10분간의 연습 과정을 통해 실험 참가자가 입력 방식을 충분히 연습하게 하였다.

본 실험 과정에서 실험 참가자는 약 25분간 챗봇과의 심리 상담을 진행하였다. 심리 상담은 진단, 탐색, 평가라는 3단계를 거쳐 진행되었다. 참여자들은 사전에 안내문을 통하여 상담이 탐색 단계까지 진행될 것이며 해결책을 제시하는 단계 전에 상담이 종료될 것임을 안내 받았다. 분석을 위한 자료의 수집은 주로 실험 종료 후 참여자와의 인터뷰를 통하여 수집되었다. 반구조화된 사후 인터뷰 문항을 통해 참여자가 심리 상담 에이전트에 대해 느끼고 생각한 것에 대한 데이터를 수집하였다. 인터뷰 진행을 완료한 실험자의 경우에는 실험의 본래 목적에 대하여 설명하였으며, 심리 상담을 진행하는 기관에 대한 안내를 함께 제공하였다.

4. Finding

사후 인터뷰를 통해 수집한 자료는 Braun and Clarke (2006)의 주제 분석(Thematic analysis) 기법을 따라 진행되었다. 질적 주제 분석은 질적 연구에서 보편적으로 사용되는 방법론으로 기초 연구에 적합하다. 자료의 수집 과정에 참여했기 때문에 자료에 대한 이해도가 높은 3명의 인터랙션 디자인 전문가가 분석 과정에 동일하게 참여하였다. 본격적인 자료 분석 전 단답형으로만 대화를 진행하여 2문장 이하로 대화가 진행되거나, 완성되지 않은 대화를 진행한 자료는 분석에서 제외하였다. 우선 여러 번 반복하여 읽음으로써 자료를 충분히 파악하는 시간을 가졌다. 그 후 의미 있는 단어 및 문장에서 초기 코드를 생성하는 작업을 실시하였다. 데이터 간 공통점을 기반으로 10개의 카테고리를 구성하였다. 10개의 카테고리는 챗봇의 공감적인 능력, 글쓰기의 장점, 상담의 익명성, 자기 통찰, 비언어적 요소 등 이었다. 3명의 전문가는 10개의 카테고리를 리뷰함으로써 상위 주제를 도출하거나 및 수정하는 과정을 거쳤다. 최종적으로 원 자료의 내용과 카테고리를 고려하여 4개의 주요 주제(Theme)를 도출하였다.

(1) 자기 통찰의 기회: 실험 참가자들은 챗봇과의 상담 시간이 자신의 문제 경험과 부정적 감정에 대하여 자유롭게 표현할 수 있는 기회였다고 언급하였다. 자신의 감정과 경험을 개방하는 것은 대화 상대방의 정체성에 관계없이 긍정적인 심리적, 감정적 효과를 일으킨다는 것은 기존 연구에서도 밝혀진 바 있다(Ho et al., 2018). 본 연구에서는 내담자의 문제를 해결하기 위한 구체적인 방안을 제시하지 않았음에도, 스스로 문제를 정의하고 돌아볼 수 있었다는 의견이 주를 이루었다.

"마음 속으로만 생각해왔던 나의 문제를 말할 수 있다는 것 자체로 기분이 나아지고 안정되는 느낌을 느꼈다".

"글쓰기를 통해 스스로 문제를 되짚어볼 수 있었다. 또한 문제를 털어 놓으면서 우울한 마음을 덜어내는 느낌을 받았다".

챗봇 상담사가 공감과 위로의 표현을 건넸을 때 자기 개방이 심화되었다는 의견도 언급되었다. 사용자들은 상담자의 따뜻한 대답을 통해 감정 해소를 느꼈으며, 내면의 이야기를 할 수 있었다고 하였다.

"최근에 힘들었겠다는 이야기를 듣는 것 자체가 누군가가 나를 알아주고 있다는 느낌이 들어서 좋았다".

"따뜻한 피드백을 통해 편안하게 내 이야기를 말할 수 있었다".

(2) 상담 과정의 익명성에 대한 신뢰: 인간 상담사를 만나서 진행하던 심리 상담을 인공지능 상담사와 채팅을 통해서 진행하였기 때문에 비밀 보장의 정도가 높을 것이라는 의견이 언급되었다. 대면 상담은 내담자가 상담 신청을 위해 자신의 인적사항을 상세히 기술해야 하며 상담자와 직접 대면해야 한다. 본 연구에서는 상담에서는 닉네임을 사용하여 익명성을 보장하고 원하는 방식으로 자신을 표현할 수 있도록 하였다. 뿐만 아니라 사용자는 자신에 대한 정보를 선택적으로 드러내지 않을 수 있었으며, 대화 내용이 비밀로 보장된다는 안내를 받았다. 때문에 내담자들은 익명성이 보장되어 자유롭게 표현할 수 있었다는 의견을 제시하였다.

"텍스트 형태로 쓰는 것과 인공지능이 대화 상대라는 점을 통해서 익명성이 보장된다는 느낌을 받았다".

(3) 비언어적 요소의 부재: 심리 상담 분야에서 비언어적 요소를 활용한 상담 기법은 지속적으로 연구되어 왔다(Robbins and Haase, 1985). 하지만 채팅을 통한 상담은 비언어적 요소를 활용할 수 있는 대면 상담과 달리 배려, 경청, 이해 등의 메시지가 문자를 통해 전달되었다. 문자 중심의 인터랙션은 정서 표현의 수준을 조절하거나 명확하게 전달하기에는 무리가 있다. 본 연구에서도 상담자에 대한 인식에 비언어적 요소가 중요하게 고려되고 있음을 알 수 있었다.

특히 상담을 진행할 때 시스템이 즉각적으로 답변을 제공하는 것에 대하여 내담자는 상대방이 자신에게 경청하지 않고 있다고 느꼈다. 상담자와의 대화가 쌍방의 소통이 아닌 일방적인 전달이라고 언급되는 것이 그러하였다.

"메시지를 전송한 후 그에 대한 답장을 받는데 채 1초도 소요되지 않았다. 이로 인해 대화 상대가 나의 이야기를 읽고 대답하는 것인지에 대한 의문이 들었다".

"나 혼자 일방적으로 이야기하는 느낌이 들었다. 누군가가 내 이야기를 듣고 있다는 느낌이 잘 들지 않았다".

또한 사용자들은 그들 스스로가 비언어적 요소를 사용할 수 없다는 것에도 아쉬움을 표현하였다. 그들은 문자 외의 요소를 통하여 자신의 감정을 전달하기를 원했다.

"이모티콘 같은 것들로 내 감정을 표현할 수 있었으면 좋겠어요".

(4) 인공지능 정체성 효과: 내담자들은 인공지능 컴퓨터라는 상담자의 정체성 덕분에 대면 상담보다 편안한 대화 과정을 진행하였다는 의견을 제시하였다. 실험 참여자는 상담자가 컴퓨터라는 것을 인지한 상태에서 상담 과정을 진행하였다. 이로 인해 상대방에 대한 심적 부담이나, 두려움과 같은 심리적 우려가 없었다고 표현하였다.

"대화를 나누고 있는 상대방이 컴퓨터라고 생각하니 내가 말을 많이 하거나, 솔직하게 토로해도 지치지 않을 것이라는 생각이 들었다".

"인공지능이 상대방이기 때문에 생각해왔던 것들을 눈치 볼 필요 없이 표현할 수 있어서 실제 상담사와의 대화보다 편했다".

5. Discussion

본 연구의 주 목적은 인공지능 기반 심리 상담 에이전트의 초기 설계를 통해 내담자 경험을 분석하고 차후 챗봇과 내담자의 인터랙션 개선을 위한 고려사항을 알아보고자 하는 것이다. 이를 위해 심리 상담의 문헌 조사와 전문가 자문을 통하여 채팅 기반의 심리 상담 시스템을 구현하였다. 이를 통해 향후 AI 챗봇 인터랙션의 개선을 위한 기초 자료를 제공하기 위하여 파일럿 스터디를 통해 내담자를 대상으로 의견을 수집하고 그 결과를 분석하였다.

첫째, 인공지능 상담사를 통해 심리적 해소감을 제공할 수 있다. 챗봇의 공감적인 표현과 지지를 통해 우울한 감정에 대한 위로를 느끼는 점, 자기 개방을 통해 감정을 재해석한다는 점, 글쓰기를 통한 자기 치유 효과를 인식한다는 점에서 내담자가 상담의 효과를 인식하고 있었다는 것을 알 수 있었다. 특히 인터랙션 과정에서 내담자에게 인지되는 이해가 향상될 때 자기 방어가 감소한 것은 기존 연구(Reis et al., 2017)와 맥락을 같이하며, 상담 과정 전반에 적용된 공감의 표현이 이러한 의견에 영향을 미쳤을 것으로 생각된다. 대다수의 연구 참여자들은 체감적으로 인공지능 상담사의 친절함과 따스함을 느꼈다고 표현하였으나, 공감의 부족함을 느끼는 의견도 적지만 존재했다. 공감을 전달할 수 있는 다양한 기법을 활용하여, 인지된 공감도를 높이는 것이 본 연구에서 설계한 시스템의 한계점이자 개선해야할 과제라고 판단된다.

둘째, 챗봇 인터페이스가 가진 특성의 장단점을 적합하게 활용할 수 있어야 한다. 챗봇 형식에 대한 긍정적인 의견을 가진 참여자들은 주로 비밀 보장의 정도가 높다는 것을 꼽았다. 대면 상담에서 얼굴과 자신의 신분을 노출해야 하는 것과 달리 챗봇을 통한 상담에서는 공개되지 않은 상태에서 자신의 경험과 감정을 표현할 수 있었다. 익명성이 보장되는 느낌은 사용자에게 긍정적으로 인식되며 상담에 영향을 끼친다는 것은 기존 연구에서도 동일하게 발견되었다(Young, 2005). 그러나 상담을 진행하는 상담자의 경우 제한된 정보로 상담을 진행해야 하기 때문에 어려움을 겪을 수 있다. 따라서 익명성을 조절하여 적절한 수준을 파악해야 할 필요성이 있다. 상담에 문제가 되지 않을 정도의 기초 정보를 제공받을 수 있어야 할 것이며, 동시에 사용자가 자신의 정보가 노출되지 않는다는 느낌을 받을 수 있어야 한다.

챗봇 형식에 대해 부정적인 의견을 가진 참여자들은 주로 비언어적 요소의 부재를 지적하였다. 대면 상담에서 상담자는 고개 끄덕임, 걱정스러운 표정 등을 통해 내담자에게 감정을 전달한다. 그러나 챗봇 인터페이스의 경우 표현 방식이 언어로 한정되어 있기 때문에 감정 전달의 어려움이 있다. 이는 앞서 언급한 공감 과제와 연결되는 맥락일 것이다. 공감의 감정은 언어적 요인 뿐 아니라 터치, 표정 등을 통해서도 복합적으로 전달되는 것이기 때문이다. 내담자들은 특히 상담자의 경청에 대하여 의문을 제기하였는데, 이는 상담자와의 관계 형성에 영향을 끼칠 수 있는 부정적 요인으로 작용할 수 있을 것이다. 때문에 챗봇 형태에서 비언어적 요소로 활용되어질 수 있는 이모티콘, 메시지 전송 간격 등의 설계 요인을 고려할 필요성이 있다.

끝으로, 인공지능의 의인화 수준을 설계하는 것은 심리 상담 영역의 특성을 고려하여 이루어져야 한다. 사용자들은 컴퓨터 상대방이 자신에 대한 부정적 평가를 내릴 수 없다는 부분에 대하여 안심하였으며, 대화 상대의 감정 소진에 배려할 필요성이 없어 편안함을 느꼈다. 이는 컴퓨터의 인간성을 증진하여 에이전트와의 상호작용을 향상하고자 했던 기존의 연구(De Visser et al., 2016)와 배치된다. 이러한 의견에 대한 까닭은 개인의 내면의 감정을 다루는 심리 상담이라는 주제의 특성 때문일 수 있다. Ho et al. (2018)에 따르면 부정적 평가에 대한 두려움이 높아지는 민감한 주제의 질문에 있어서는 컴퓨터에 대한 개방 친밀도가 높아진다. 심리 상담의 주제가 비교적 사람들에게 예민한 영역이기 때문에 오히려 인간이 아닌 상대에게 심리적 안정감을 느낄 수 있다는 것을 암시한다. 따라서 심리 상담 인공지능 에이전트를 디자인함에 있어서 어느 정도의 의인화 수준을 지향할 것인가에 대한 적절한 정의가 요구된다. 내담자가 상담자에 대한 친밀감을 형성할 수 있으면서도 동시에 평가자라는 인식은 감소시킬 수 있어야 한다.

6. Conclusion

본 연구는 인공지능 상담 챗봇을 설계하고 그에 대한 내담자 경험을 분석한 것으로 인공지능 기반의 심리 상담 시스템을 개발하고 개선하기 위한 기초 자료를 제공한다는 점에서 의의가 있다. 특히, 심리 상담에 대한 고찰을 기반으로 대면 상담의 과정을 그대로 차용하여 인공지능 상담사를 설계 및 구안하였으며, 구안된 챗봇을 내담자에게 실제로 적용하고 의견을 수렴하였다. 비록, 검증된 지표를 통하여 상담의 성과를 확인하지는 않았지만 단회 상담에서 일반적으로 상담의 성과로 인식되는 상담자-내담자 관계 형성, 상담에 대한 전반적인 만족도 등(Seo et al., 2012)에 대한 의견들이 발견되었다. 이를 통해 챗봇을 통한 상담적 접근의 가능성을 확인할 수 있었으며, 추후 설계의 개선을 위한 함의를 발굴할 수 있었다는 점에서 의의가 있다. 구현 방식의 한계로 인하여 주제가 한정되어 있지만, 다른 정신적 문제로 변환 및 확장할 수 있는 가능성이 충분히 존재한다.

위와 같은 의의에도 불구하고 본 연구에는 다음과 같은 한계점이 존재한다.

첫째, 참여자의 연령대가 20대로 국한되어 있다. 이러한 한계점으로 인해 연구 결과를 일반화하는데 무리가 있을 수 있다. 20대는 비교적 인공지능 및 스마트 기기에 익숙한 세대로써, 고연령층에 비해 사람이 아닌 상담사에 대한 거부감이 적을 수 있다. 따라서 상담자가 인공지능이기 때문에 긍정적인 의견을 제시했던 것이 낮은 거부감에 영향을 받은 결과일 수 있다. 둘째, 사용자는 실험의 한계상 새로운 기종의 스마트폰을 사용해야 했고 이는 텍스트 입력에 대한 불편을 초래하여 부정적 감정으로 연결되어질 수 있다. 셋째, 본 연구는 심리 상담 챗봇 설계의 초기 연구이기에 상담 단계 중 실행 단계를 생략하였다. 이에 우울 심리에 대한 적극적인 개입이 실행되지 못했다는 한계점이 존재한다.

본 연구의 목적은 심리 상담 에이전트를 개발하기 위한 기초 작업으로 챗봇에서 상담 이론이 반영된 시나리오를 기반으로 공감 반응을 활용하였을 때 에이전트와 사용자가 자연스러운 상호작용이 가능함을 확인하고 개선점을 도출하는 것이었다. 따라서 우울에 대한 개입 전략을 통하여 우울 증상이 완화되었는지를 확인하는 작업은 수행되지 않았다. 우울에 대한 치료적 개입이 진행되지 않았지만 상담 챗봇과 사용자 인터뷰를 토대로 볼 때 사용자 간의 수용적인 관계가 형성되었음을 알 수 있었다. 그러나 본 연구는 상담 단계의 일부만을 진행하였기에 상담 효과에는 다소 미흡함이 존재하였으며, 이를 보완하기 위하여 상담의 실행 단계가 추가되어야 할 것으로 보여진다. 추후 본 연구진은 심리 상담에서 사용하는 인지적 탈융합, 이완 훈련과 같은 개입 기법(Ha and Son, 2016; Bang, 2002)을 챗봇 형태로 구현하여 실행 단계를 보완할 예정이다. 이러한 개입 기법의 결정은 사용자와 챗봇의 협의를 통해 이루어질 것이다. 또한 본 연구에서 개발된 챗봇이 학술적, 실용적으로 활용되기 위해서는 상담의 성과에 대한 검증이 필요하다. 상담의 성과는 해당 회기의 즉시적인 결과와 여러 번의 상담 회기가 종료된 후 나타나는 최종적인 결과로 구분될 수 있다. 따라서 상담 회기 평가 질문지(SEQ), 작업동맹 척도(The Working Alliance Inventory-ShortForm: WAI-S) 등을 활용하여 상담의 즉시적 성과를 평가하고자 한다(Lee and Kim, 1993; Jo and Kwon, 2011). 또한 본 연구에서 챗봇과의 상담은 단회기로 끝마쳐졌지만, 추후 연구에서는 상담 성과 분석에 적합하다고 알려진 7~12회의 상담 회기(James and Mann, 2009)를 구성하여 PHQ 점수의 변화를 통해 내담자의 우울 완화 효과를 검증하고자 한다. 향후 본 연구진은 이러한 보완 방향을 토대로 후속 연구를 진행할 것이다.

끝으로 연구에서 발견된 인사이트를 기반으로 보았을 때 인공지능 상담 시스템에 대한 더 높은 수준의 설계를 위해서 상담의 성과를 높이는 의인화 수준을 알아보는 연구가 진행되어야 할 것이다. 또한 채팅 기반의 상담에서 비언어적 요소를 활용하여 에이전트의 감정 전달을 개선할 수 있는지에 대한 연구도 병행되어야 할 것이다.



References


1. Bang, S.H., Relaxation Training Effect on Depression for the Korean Elderly Immigrants. The Korean Journal of Health Psychology, 7(2), 257-272, 2002.
Crossref 

2. Benoit, L.G., Veach, P.M. and LeRoy, B.S., When you care enough to do your very best: Genetic counselor experiences of compassion fatigue. Journal of Genetic Counseling, 16(3), 299-312, 2007.
Crossref  Google Scholar 

3. Boy, A.V. and Pine, G.J., Avoiding counselor burnout through role renewal. The Personnel and Guidance Journal, 59(3), 161-163, 1980.
Crossref  Google Scholar 

4. Braun, V. and Clarke, V., Using thematic analysis in psychology. Qualitative Research in Psychology, 3(2), 77-101, 2006.
Google Scholar  PubMed 

5. Chey, Y.H. and Kim, J.K., The Mediating Effects of Self-Efficacy and Social Support on the Relationship between Interactive SNS Usage of Smart Devices and Depression in the Elderly. Korean Journal of Clinical Psychology, 37(2), 166-177, 2018.


6. Clark, A.J., Empathy: An integral model in the counseling process. Journal of Counseling & Development, 88(3), 348-356, 2010.
Google Scholar 

7. Colling, K. and Davis, A., The counseling function in vocational rehabilitation. Journal of Applied Rehabilitation Counseling, 36(1), 6, 2005.
Crossref  Google Scholar 

8. Davidshofer, C.O. and Richardson, G.G., Effects of Precounseling Training. Journal of College Student Personnel, 22(6), 522-527, 1981.
Crossref  Google Scholar 

9. De Visser, E.J., Monfort, S.S., McKendrick, R., Smith, M.A., McKnight, P.E., Krueger, F. and Parasuraman, R., Almost human: Anthropomorphism increases trust resilience in cognitive agents. Journal of Experimental Psychology: Applied, 22(3), 331, 2016.
Google Scholar 

10. Dyer, C.B., Pavlik, V.N., Murphy, K.P. and Hyman, D.J., The high prevalence of depression and dementia in elder abuse or neglect. Journal of the American Geriatrics Society, 48(2), 205-208, 2000.
Crossref  Google Scholar 

11. Egan, G., Essentials of skilled helping: Managing problems, developing opportunities, Wadsworth Thomson, 2006.
Crossref 

12. Eisenberg, D., Gollust, S.E., Golberstein, E. and Hefner, J.L., Prevalence and correlates of depression, anxiety, and suicidality among university students. American Journal of Orthopsychiatry, 77(4), 534-542, 2007.
Google Scholar 

13. Ernst, A., Self-disclosure as therapy: The benefits of expressive writing. Current Psychiatry, 16(10), 33-35, 2017.
Google Scholar 

14. Gladstein, G.A., Empathy and counseling outcome: An empirical and conceptual review. The Counseling Psychologist, 6(4), 70-79, 1977.
Crossref  Google Scholar 

15. Goodyear, R.K., Research on the effects of test interpretation: A review. The Counseling Psychologist, 18(2), 240-257, 1990.
Google Scholar 

16. Hackney, H. and Cormier, L.S., The professional counselor: A process guide to helping. Needham^ eM. AMA: Allyn & Bacon, 1996.
Crossref 

17. Ha, J.M. and Son, C.N., Effects of Acceptance and Commitment Therapy (ACT) on Self-Control, Depression, and Smartphone Addiction Level in University Students with High level of Depression and Smartphone Addiction. Korean Journal of Psychology: Addiction, 1(1), 1-16, 2016.


18. Hill, C.E. and O'Brien, K.M., Helping skills: Facilitating exploration, insight, and action. Washington, DC: American Psychological, 2004.
Crossref  Google Scholar 

19. Ho, A., Hancock, J. and Miner, A.S., Psychological, Relational, and Emotional Effects of Self-Disclosure After Conversations With a Chatbot. Journal of Communication, 2018.
Crossref  Google Scholar 

20. Ivey, A.E., Ivey, M.B. and Zalaquett, C.P., Intentional interviewing and counseling: Facilitating Client Development in a Multicultural Society. Nelson Education, 2013.


21. James, M.A.N.N. and Mann, J., Time-limited psychotherapy. Harvard University Press, 2009.
Crossref  Google Scholar 

22. Jang, H.J., Oh, H.S. and Choi, I.S., A Study on Teachers' Experience to Guide 'Keeping a Mind Diary' as a Communication Tool with Students. The Korean Journal of Youth Counseling, 24(1), 221-244, 2016.


23. Jee, S.H., Oh, H.Y. and Her, J.H., The Perceptions of Counselors and Youth Clients on Chat Counseling Experience. Korea Journal of Counseling, 11(4), 1433-1450, 2010.


24. Jokinen, K. and McTear, M., Spoken dialogue systems. Synthesis Lectures on Human Language Technologies, 2(1), 1-151, 2009.
Google Scholar 

25. Jo, S.Y. and Kwon, K.I., Differences in Empathic Accuracy and Counseling Satisfaction across Counselor's Experience Levels in Early Counseling Phase. The Korean Journal of Counseling and Psychotherapy, 23(2), 257-275, 2011.


26. Knaevelsrud, C., Brand, J., Lange, A., Ruwaard, J. and Wagner, B., Web-based psychotherapy for posttraumatic stress disorder in war-traumatized Arab patients: randomized controlled trial. Journal of Medical Internet Research, 17(3), 2015.
Google Scholar 

27. Kofmehl, J.J., Online Versus In-Person Therapy: Effect of Client Demographics and Personality Characteristics, 2017.
Crossref  Google Scholar 

28. Ko, S.H., Integrative Eclectic Four-level Model of Social Work Counseling Practice Stage: Facilitating, 2017 Exploration - Insight - Action - Maintenance. The Journal of Welfare and Counselling Education, 6(1), 105-143, 2017.


29. Kottler, J.A., Introduction to therapeutic counseling: Voices from the field. Wadsworth Pub Co., 2003.
Crossref 

30. Kroenke, K., Spitzer, R.L. and Williams, J.B., The PHQ-9: validity of a brief depression severity measure. Journal of General Internal Medicine, 16(9), 606-613, 2001.
Crossref  Google Scholar 

31. Lee, H.W., A Study of Emphatic Listener Response Strategy in Korean Speaker's Conversation. HAN-GEUL, (312), 5-35, 2016.


32. Lee, S.H. and Kim, K.H., A Validation Study of the Session Evaluation Questionnaire (SEQ). The Korean Journal of Counseling and Psychotherapy, 5(1), 30-47, 1993.


33. Li, Y. and Rafiei, D., Natural Language Data Management and Interfaces. Synthesis Lectures on Data Management, 10(2), 1-156, 2018.
Google Scholar 

34. Löwe, B., Unützer, J., Callahan, C.M., Perkins, A.J. and Kroenke, K., Monitoring depression treatment outcomes with the patient health questionnaire-9. Medical Care, 1194-1201, 2004.
Crossref  Google Scholar 

35. Lucas, G.M., Gratch, J., King, A. and Morency, L.P., It's only a computer: Virtual humans increase willingness to disclose. Computers in Human Behavior, 37, 94-100, 2014.
Crossref  Google Scholar 

36. Luxton, D.D. (Ed.)., Artificial intelligence in behavioral and mental health care. Academic Press, 2015.
Crossref  Google Scholar 

37. Miner, A.S., Milstein, A. and Hancock, J.T., Talking to machines about personal mental health problems. Jama, 318(13), 1217-1218, 2017.
Crossref  Google Scholar 

38. Moyers, T.B. and Miller, W.R., Is low therapist empathy toxic?. Psychology of Addictive Behaviors, 27(3), 878, 2013.
Google Scholar 

39. Pascoe, P.E., Using Patient Writings in Psychotherapy: Review of Evidence for Expressive Writing and Cognitive-Behavioral Writing Therapy. American Journal of Psychiatry Residents' Journal, 11(03), 3-6, 2016.


40. Rajput, A.C., Intelligent counselor: an intelligent advisory system. International Journal of Science Technology & Engineering, 1(9), 1-6, 2015.
Google Scholar 

41. Reis, H.T., Lemay Jr, E.P. and Finkenauer, C., Toward understanding understanding: The importance of feeling understood in relationships. Social and Personality Psychology Compass, 11(3), e12308, 2017.
Google Scholar 

42. Robbins, E.S. and Haase, R.F., Power of nonverbal cues in counseling interactions: Availability, vividness, or salience?. Journal of Counseling Psychology, 32(4), 502, 1985.
Crossref  Google Scholar 

43. Roh, M.S., Jeon, H.J., Lee, H.W., Lee, H.J., Han, S.K. and Hahm, B.J., Depressive Disorders among the College Students: Prevalence, Risk Factors, Suicidal Behaviors and Dysfunctions. Journal of Korean Neuropsychiatric Association, 45, 432-437, 2006.
Google Scholar 

44. Seo, Y.S., Cho, H.J., Cho, M.N., Kim, M.S., Choi, B.O., Koh, E.Y., An, H.Y., Baek, K.Y., Choi, Y.H., Fenyu Shi and Lee, J.S., The Effects of Counselor Immediacy on Session Evaluation and Working Alliance Perceived by Clients: Testing Session-Client-Counselor 3-Level Hierarchical Linear and Nonlinear Models. The Korean Journal of Counseling and Psychotherapy, 24(4), 753-780, 2012.


45. Stiles, W.B. and Snow, J.S., Dimensions of psychotherapy session impact across sessions and across clients. British Journal of Clinical Psychology, 23(1), 59-63, 1984.
Google Scholar 

46. Stiles, W.B., Gordon, L.E. and Lani, J.A., Session evaluation and the session evaluation questionnaire. Counseling based on process research: Applying what we know, 325-343, 2002.
Crossref 

47. Tsuno, N., Besset, A. and Ritchie, K., Sleep and depression. The Journal of Clinical Psychiatry, 2005.
Crossref  Google Scholar 

48. Yan, Z., Duan, N., Bao, J., Chen, P., Zhou, M., Li, Z. and Zhou, J., Docchat: An information retrieval approach for chatbot engines using unstructured documents. In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers). (Vol. 1, pp. 516-525), 2016.
Google Scholar 

49. Young, K.S., An empirical examination of client attitudes towards online counseling. Cyber Psychology & Behavior, 8(2), 172-177, 2005.
Crossref  Google Scholar 

50. Yuen, E.K., Herbert, J.D., Forman, E.M., Goetter, E.M., Comer, R. and Bradley, J.C., Treatment of social anxiety disorder using online virtual environments in second life. Behavior Therapy, 44(1), 51-61, 2013.
Google Scholar 

51. Zue, V., Seneff, S., Polifroni, J., Phillips, M., Pao, C., Goodine, D., Goddeau, D. and Glass, J., PEGASUS: A spoken dialogue interface for on-line air travel planning. Speech Communication, 15(3-4), 331-340, 1994.
Crossref  Google Scholar 

52. Vogel, D.L., Wester, S.R. and Larson, L.M., Avoidance of counseling: Psychological factors that inhibit seeking help. Journal of Counseling & Development, 85(4), 410-422, 2007.
Crossref  Google Scholar 

PIDS App ServiceClick here!

Download this article