엘리자 효과, AI 공감과 실제 이해를 구분하는 4가지 질문

심리, 맥락을 읽다 · AI와 인간의 마음

1966년 ELIZA에서 챗지피티까지, 이해받는 느낌과 실제 이해의 차이

엘리자 효과를 떠올리며 챗지피티와 대화를 이어가다 보면, 이상할 만큼 정확한 자리에 닿는 문장을 만날 때가 있다. 내가 다 설명하지 않았는데도 마음을 알아본 것 같고, 사람에게는 꺼내기 어려웠던 말을 화면 앞에서는 조금 더 쉽게 이어 가기도 한다.

그 순간 마음이 조금 정리됐다면 그 변화는 실제 경험이다. 그러나 내가 위로받았다는 사실과 AI가 나를 이해했다는 판단은 같은 말이 아니다.

내가 위로받았다는 경험과 AI가 나를 이해했다는 판단은 어떻게 다를까?

이 질문을 설명하는 오래된 이름이 있다. 엘리자 효과(ELIZA Effect)다. 쉽게 말하면 컴퓨터가 보여 준 문장에 그 시스템이 실제로 가진 것보다 더 많은 이해·공감·의도를 읽어내는 경향이다.

엘리자 효과라는 이름은 1960년대 대화 프로그램 ELIZA에서 왔다. 웨이젠바움이 만든 정식 임상심리 이론은 아니다. 사람과 컴퓨터 사이에서 의미가 어떻게 만들어지고 오해되는지를 설명할 때 쓰는 개념에 가깝다.

최초의 상담형 챗봇 ELIZA는 어떻게 시작됐을까

1960년대 MIT의 컴퓨터과학자 조셉 웨이젠바움(Joseph Weizenbaum)은 사람과 기계가 일상 언어로 대화할 수 있는지를 연구하기 위해 ELIZA를 만들었다. 오늘날 ELIZA는 최초의 챗봇 가운데 하나로 불린다.

1966년 원논문에서 웨이젠바움은 ELIZA를 하나의 상담 인격으로 설명하지 않았다. 여러 대화 규칙을 담은 스크립트를 바꿔 끼울 수 있는 언어 처리 프로그램으로 설명했다(Weizenbaum, 1966).

그중 가장 널리 알려진 것이 상담자의 말투를 흉내 낸 DOCTOR 스크립트다. 이 스크립트는 사용자의 말을 되돌려 주거나 질문으로 바꾸며 대화를 이어 갔다.

작동 방식을 쉽게 풀면 이렇다. 가령 사용자가 사람들이 자신을 싫어하는 것 같다고 입력하면, ELIZA는 감정의 원인과 삶의 맥락을 이해하지 않는다. 문장에서 미리 지정된 표현을 찾은 뒤, 관련 인물을 다시 묻는 규칙형 질문을 돌려준다. 이는 원논문의 실제 대화를 옮긴 인용문이 아니라 작동 원리를 설명하기 위한 재구성이다.

이 형식은 상담자가 판단하거나 지시하기보다 내담자의 말을 되비추는 대화 방식, 즉 비지시적·반영적 상담 장면을 빌렸다. 그러나 ELIZA가 실제 인간중심상담을 수행한 것은 아니다. 상담자의 말투는 세상에 관한 많은 지식을 저장하지 않고도 대화를 이어 가기 좋은 형식이었기 때문에 선택됐다.

그런데 사람들은 예상보다 훨씬 진지하게 반응했다. MIT의 기록에 따르면 일부 사용자는 ELIZA에게 마음을 열었고, 웨이젠바움은 사람들이 짧은 기계의 문장을 공감하는 상담자의 말처럼 받아들이는 모습에 놀랐다(MIT News, 2008).

마음을 이해하지 않고도 상담처럼 답한 방법

ELIZA의 핵심은 마음을 읽는 능력이 아니라 패턴을 찾고 문장을 바꾸는 규칙이었다.

1. 입력 문장에서 핵심어를 찾는다.
2. 정해진 패턴에 따라 문장을 여러 조각으로 나눈다.
3. ‘나’를 ‘당신’으로 바꾸는 것처럼 표현을 변환한다.
4. 미리 준비한 질문 틀에 조각을 다시 넣는다.
5. 맞는 규칙이 없으면 대화를 이어 가는 일반 문장을 고른다.

웨이젠바움의 원논문에는 사용자의 문장을 분해한 뒤 다른 문장으로 재조립하는 구체적인 규칙이 실려 있다. ELIZA가 내면의 의미를 발견한 것이 아니라, 대화를 계속할 수 있을 만큼 그럴듯한 표현을 만든 것이다.

하지만 대화는 프로그램의 출력만으로 완성되지 않았다. 사용자는 짧은 질문에 자신의 기억과 관계, 말하지 않은 사정을 가져와 의미를 덧붙였다. 프로그램은 거의 아무것도 모르는 채 질문했지만, 사람은 그 질문을 ‘지금 내 이야기를 따라오고 있다’는 신호로 읽을 수 있었다.

웨이젠바움은 바로 이 지점을 중요하게 보았다. ELIZA는 적은 규칙만으로도 이해하고 있다는 인상을 만들 수 있었다. 문제는 프로그램이 무엇을 했는가에서 끝나지 않았다. 사람이 그 문장을 어떤 능력의 증거로 받아들이는가까지 이어졌다.

엘리자 효과는 왜 대화의 빈칸에서 생길까

엘리자 효과는 컴퓨터가 실제로 가진 능력보다 더 많은 이해·공감·의도·인격을 그 반응에서 읽어내는 경향을 말한다. 정식 임상심리 이론이라기보다, 사람과 컴퓨터가 대화할 때 생기는 해석 문제를 다루는 인간–컴퓨터 상호작용(Human–Computer Interaction, HCI) 개념에 가깝다.

중요한 것은 엘리자 효과가 단순히 “사람이 기계에 속았다”는 뜻으로 끝나지 않는다는 점이다. 우리는 원래도 짧은 표정과 말투, 침묵과 맥락을 연결해 상대의 마음을 추론한다. 대화는 언제나 말해진 것과 말해지지 않은 것을 함께 읽는 일이다.

AI 대화에서도 비슷한 일이 일어난다. 답변의 일부가 내 상황과 맞으면, 나머지 문장에도 이어지는 의도와 관심이 있다고 느끼기 쉽다. 같은 답변도 누가 어떤 기억을 가지고 읽느냐에 따라 아주 개인적인 문장처럼 다가온다.

AI가 모든 의미를 만든 것이 아니다. 사용자의 기억과 감정도 답변의 빈칸을 함께 채운다.

그래서 세 층을 나눠 볼 필요가 있다.

1. 시스템이 처리한 정보와 생성한 문장
2. 그 문장에 담겼다고 내가 해석한 의미
3. 그 문장을 읽으며 내가 실제로 느낀 경험

세 층은 서로 영향을 주지만 같은 것은 아니다. 이 구분이 있어야 위로받은 경험을 부정하지 않으면서도 시스템의 능력을 과장하지 않을 수 있다.

엘리자 효과로 ELIZA와 챗지피티의 차이를 읽는 법

ELIZA와 현대의 챗지피티를 같은 기술이라고 부르면 중요한 차이를 놓치게 된다.

ELIZA는 정해진 핵심어와 분해·재조합 규칙을 중심으로 움직였다. 반면 오늘의 챗지피티를 움직이는 모델은 많은 텍스트에서 단어 조각 사이의 관계를 학습하고, 문맥에 이어질 표현을 예측해 문장을 만든다. 이를 대규모 언어 모델(Large Language Model, LLM)이라고 한다.

현대 LLM은 긴 문맥을 연결하고, 요청의 형식을 따르며, 서로 다른 개념을 비교할 수 있다. 이런 능력은 ELIZA보다 훨씬 크다.

그러나 기술이 훨씬 정교해졌다는 사실과 인간처럼 마음을 가진다는 판단은 별개의 문제다. 최소한 다음 세 가지는 나눠 봐야 한다.

1. 자연스러운 문장을 생성하는 능력
2. 사용자가 제공한 맥락을 추론하는 능력
3. 인간처럼 감정을 느끼고 관계와 결과에 책임지는 능력

첫 번째와 두 번째 능력이 좋아질수록 세 번째까지 갖춘 것처럼 느끼기 쉽다. 바로 그때 엘리자 효과가 다시 중요해진다. 현대 AI의 실제 능력을 낮게 보자는 뜻이 아니다. 엘리자 효과를 이해하며 서로 다른 능력을 한 덩어리로 섞지 말자는 뜻이다.

챗지피티가 이전 대화나 설정을 참고해 더 개인적인 답을 만들 수도 있다. 그래도 저장된 정보, 현재 문맥, 모델의 추론, 사용자의 해석은 서로 다른 층이다. 이 차이는 챗지피티 개인 맞춤 설정에서 메모리·지침·프로젝트를 나누는 법에서 더 구체적으로 이어 볼 수 있다.

같은 대화 인상을 주어도 작동 방식은 다르다

엘리자 효과를 이해하려면 출력된 문장이 자연스럽다는 사실과 그 문장이 만들어진 방식을 나눠 봐야 한다. ELIZA의 DOCTOR 스크립트는 핵심어를 찾고 문장을 분해한 뒤, 미리 정한 규칙으로 표현을 재조합했다. 사용자가 “어머니가 걱정돼요”라고 말하면 가족과 관련된 핵심어를 찾아 질문을 돌려주는 식이었다.

현대 LLM은 같은 규칙표만 반복하지 않는다. 긴 대화의 문맥을 참고하고, 학습한 언어 패턴을 바탕으로 다음 표현을 예측하며, 요청에 맞춰 설명의 형식을 바꿀 수 있다. 그래서 짧은 반사 질문보다 훨씬 구체적이고 개인적인 답처럼 느껴진다. 기술적 차이는 크지만, 자연스러운 문장을 인간적 마음의 증거로 읽는 엘리자 효과는 더 강해질 수도 있다.

여기서 첫 번째 경계는 정보다. 모델이 대화에서 이름, 취향, 과거 사건을 정확히 되짚었다면 그것은 제공된 맥락이나 저장된 설정을 잘 활용했다는 뜻일 수 있다. 그러나 정보의 재사용만으로 상대의 삶 전체를 경험하거나 감정을 느꼈다고 말할 수는 없다.

두 번째 경계는 추론이다. 여러 단서를 연결해 가능성 있는 설명을 만들 수 있지만, 사용자가 말하지 않은 타인의 의도나 사건까지 확인한 것은 아니다. 답변이 그럴듯할수록 사실·사용자의 해석·모델의 추론을 따로 표시해 달라고 요청하면 엘리자 효과 때문에 확신이 과해지는 것을 줄일 수 있다.

세 번째 경계는 책임이다. 모델은 여러 선택지를 비교하거나 질문을 정리할 수 있지만, 화면 밖 상황을 직접 보거나 결정의 결과를 함께 감당하지 않는다. 정확해 보이는 문장과 책임질 수 있는 관계는 다르다. 이 구분은 기술을 낮춰 보는 태도가 아니라, 실제 능력을 필요한 자리에 정확히 쓰는 기준이다.

AI 답변 한 문장을 다섯 층으로 나눠 읽기

엘리자 효과는 AI 답변을 전부 믿거나 전부 의심해야 한다는 뜻이 아니다. 한 문장 안에 섞여 있는 서로 다른 층을 나누면, 도움받은 부분은 남기면서 확인되지 않은 해석만 따로 볼 수 있다. 특히 감정이 큰 순간에는 답변 전체가 하나의 확정된 판단처럼 느껴지기 쉬워 이 구분이 유용하다.

첫 번째 층은 내가 직접 말한 사실이다. “회의에서 내 제안이 보류됐다”처럼 화면에 입력한 사건은 답변의 재료다. 두 번째 층은 AI가 요약한 내용이다. 내가 말한 여러 문장을 짧게 묶은 표현은 생각을 정리하는 데 도움을 줄 수 있지만, 요약 과정에서 빠진 맥락이 없는지 다시 읽어야 한다.

세 번째 층은 모델이 더한 추론이다. “상사가 당신을 신뢰하지 않는 것 같다”처럼 다른 사람의 마음이나 원인을 설명하는 문장은 내가 제공한 사실만으로 확인되지 않을 수 있다. 이 층이 자연스럽고 다정하게 쓰일수록 엘리자 효과 때문에 사실처럼 느끼기 쉽다. 가능성이라는 표현이 붙었는지, 다른 설명도 함께 제시됐는지 확인한다.

네 번째 층은 내가 실제로 받은 영향이다. 답변을 읽고 마음이 가라앉았거나 문제를 새 각도에서 보게 됐다면 그 경험은 실제다. 다만 안도감이 생겼다는 사실이 추론의 정확성까지 보증하지는 않는다. 위로와 사실 판단을 분리하면 엘리자 효과를 알아차리면서도 도움받은 경험을 부정하지 않을 수 있다.

다섯 번째 층은 화면 밖에서 확인할 행동과 책임이다. 상대에게 물어볼 질문, 원문에서 확인할 정보, 믿을 수 있는 사람과 상의할 결정처럼 현실에서 검증할 수 있는 다음 단계를 적는다. 모델이 제안한 행동도 상황과 위험에 따라 다시 판단하며, 결과가 크고 되돌리기 어려울수록 책임을 나눌 수 있는 사람과 연결한다.

엘리자 효과와 AI의 위로: 경험과 실제 이해의 차이

이 질문에는 ‘둘 중 하나’로 답하기 어렵다.

AI와 대화한 뒤 숨이 조금 고르게 쉬어졌거나, 복잡했던 생각을 한 문장으로 붙잡게 됐다면 그 변화는 실제다. 문장을 만든 원리가 언어 예측이라는 이유만으로 사용자의 경험까지 가짜가 되지는 않는다.

2026년 《npj Digital Medicine》에 실린 연구는 2024년 미국 성인 온라인 표본 1,871명을 조사했다. 그중 24%인 449명이 정신건강과 관련해 LLM을 사용한다고 답했다. 참여자들은 정서적 지지, 마음을 다루는 기술 학습, 기존 치료의 보완 등을 사용 이유로 들었다(Stade et al., 2026).

그러나 이 수치를 미국 성인 전체의 24%로 읽으면 안 된다. 온라인 조사 플랫폼 Prolific을 이용한 표본에는 기술을 일찍 받아들인 사용자가 많이 포함됐을 가능성이 있다. 연구진도 일반 인구의 실제 비율보다 높게 추정됐을 수 있다고 밝혔다.

이 연구는 사람들이 AI를 마음을 다루는 데 실제로 사용하고 있음을 보여 준다. 그렇다고 ‘위로받았다’는 사실이 다음 내용을 자동으로 증명하지는 않는다.

• AI가 내 삶 전체를 이해했다.
• AI가 인간처럼 감정을 느꼈다.
• AI의 해석이 심리학적·임상적으로 정확하다.
• AI가 조언의 결과에 책임질 수 있다.

위로를 가짜라고 밀어낼 필요는 없다. 다만 엘리자 효과 때문에 위로의 느낌을 AI가 인간처럼 이해했다는 증거로 바꿔 읽을 필요도 없다.

엘리자 효과를 경계하는 것은 위로를 차갑게 해체하려는 일이 아니다. 오히려 내게 도움이 된 경험은 지키면서, 틀릴 수 있는 해석과 과도한 의존에서 나를 보호하는 방법에 가깝다.

마음을 정리하는 도구와 마음을 맡기는 대상은 다르다

AI는 마음을 대신 살아 줄 수 없지만, 마음을 정리하는 과정에는 쓸 수 있다. 이 차이는 ‘맡긴다’와 ‘비춰 본다’로 나눠 생각하면 분명해진다.

AI로 비춰 볼 수 있는 일

• 뒤엉킨 생각을 짧은 문장으로 정리하기
• 내가 말한 내용에서 감정·사실·추측을 나눠 보기
• 상담이나 현실의 대화를 앞두고 질문을 준비하기
• 한 가지 해석에 갇히지 않도록 다른 관점을 검토하기
• 개인 기록이나 감정 일기의 첫 초안을 만들기

이때는 “내 판단이 맞다고 확인해 줘”보다 “내가 말한 사실과 내가 붙인 해석을 구분해 줘”라고 묻는 편이 안전하다. 답변의 근거를 확인하는 방법은 챗지피티 자료조사에서 출처와 해석을 구분하는 법으로 이어진다.

상대의 마음을 맞히기보다 질문을 바꾼다

예를 들어 친구의 답장이 늦어 마음이 불편한 상황을 생각해 볼 수 있다. “그 친구는 나를 싫어하는 게 맞지?”라는 질문은 아직 확인하지 않은 해석을 답의 출발점으로 놓는다. AI가 다정하게 동의하더라도 상대의 마음에 관한 새 증거가 생긴 것은 아니다. 지금 확인된 사실은 답장이 늦었다는 것이고, 싫어한다는 판단은 여러 가능한 해석 중 하나다.

질문은 이렇게 바꿀 수 있다. “내가 말한 사실과 추측을 나눠 정리해 달라. 상대의 의도는 단정하지 말고, 확인이 필요한 점과 부담 없이 물어볼 질문을 제안해 달라.” 이렇게 얻은 답도 정답은 아니다. 다만 대화의 목표가 상대를 판정하는 일에서 내가 아는 것과 모르는 것을 구분하는 일로 바뀐다.

이는 실제 사용자나 연구 참가자의 대화를 옮긴 사례가 아니라, 앞의 원칙을 적용하기 위한 가상 예시다. 따뜻한 말은 받을 수 있지만, 그 따뜻함을 타인의 의도를 알아냈다는 증거로 삼지는 않는다는 것이 핵심이다. 엘리자 효과를 없애려 하기보다, 답변에 내가 더한 의미가 무엇인지 알아차리는 연습이다.

AI에게 맡기지 말아야 할 일

• 정신건강 상태의 진단
• 약물의 시작·중단·용량 변경 결정
• 자해·타해·응급상황의 최종 판단
• 인간관계에서 상대의 의도를 사실처럼 단정하는 일
• 전문 상담과 현실 관계를 완전히 대신하는 일

민감한 내용을 입력할 때는 이름·연락처·주소·의료기록처럼 나를 직접 식별할 정보도 최소화하는 편이 좋다. 제품의 안전 기능과 개인정보 정책은 도움이 될 수 있지만, 그것이 전문직의 비밀보장 관계나 치료 효과를 뜻하지는 않는다.

2026년 발표된 LLM 챗봇의 정신건강 위해에 관한 범위 문헌고찰(Scoping Review)은 다섯 개 문헌 데이터베이스와 추가 검색을 거쳐, 위해를 다룬 119편을 포함했다. 연구진은 환각, 편향, 사용자의 말에 과도하게 맞장구치는 동조, 정서적 의존, 고위험 상황에서의 부적절한 답변 가능성을 정리했다(Diel et al., 2026).

여기서 119편은 119건의 실제 피해 사례를 뜻하지 않는다. 개념 논문과 가상 상황을 이용한 평가도 함께 포함돼 있으며, 이 검토는 위해의 발생률을 계산한 연구가 아니다. 위험의 종류와 현재 증거의 지형을 정리한 자료로 읽어야 한다. 위해를 중심으로 자료를 고른 검토이므로, 이 결과만으로 AI의 위험이 이익보다 크다고 판단할 수는 없다.

연구 수치를 AI 상담의 효과로 읽지 않는 법

두 연구는 서로 다른 질문에 답한다. 1,871명을 조사한 연구는 사람들이 LLM을 정신건강과 관련해 어떻게 사용한다고 보고했는지를 살폈다. 사용 경험과 목적을 보여 주지만, AI 대화가 치료와 같은 효과를 냈는지 시험한 임상시험은 아니다. 엘리자 효과를 줄이려면 “사용했다”와 “효과가 검증됐다”를 같은 문장으로 합치지 않아야 한다.

119편을 포함한 범위 문헌고찰도 위험의 종류와 연구 지형을 정리한 자료다. 개념 논문, 가상 상황 평가, 경험적 연구가 함께 들어 있어 119편을 실제 피해자 수나 발생률로 바꿀 수 없다. 반대로 발생률을 계산하지 못했다는 이유로 환각·동조·정서적 의존 같은 위험을 무시할 수도 없다. 어떤 위험이 논의됐는지와 얼마나 자주 일어나는지는 다른 질문이다.

이 범위고찰에는 2026년 9월 14일 그림 1–4의 순서를 바로잡는 출판사 정정이 추가됐다. 정정은 그림 배열에 관한 것이며, 다섯 개 데이터베이스와 추가 검색, 119편이라는 검토 범위나 글에서 설명한 핵심 경계를 뒤집지 않는다. 출처에 정정 기록이 있다는 사실과 연구 결론이 철회됐다는 판단도 구분해야 한다.

결국 연구가 확인한 범위보다 더 큰 결론을 붙이는 순간에도 엘리자 효과와 비슷한 문제가 생긴다. 자연스러운 답변에 실제보다 큰 마음을 읽듯, 인상적인 숫자에 실제보다 큰 효과를 읽을 수 있다. 표본, 설계, 비교 대상과 한계를 함께 확인하면 도움받은 경험을 존중하면서도 근거의 크기를 넘지 않을 수 있다.

2026년 8월 31일 확인한 OpenAI 공식 설명은 민감한 대화에서 위험 신호를 더 잘 인식하고, 필요한 경우 현실의 사람과 위기 지원으로 연결하는 방향을 제시한다. 이것은 제품사의 안전 개선 방향에 관한 설명이다. 챗지피티가 상담자나 치료자가 됐다는 임상 근거는 아니다(OpenAI, 2026).

엘리자 효과를 기억하며 AI를 쓰는 네 가지 질문

AI와 깊은 대화를 하지 말자는 결론은 현실적이지도, 꼭 바람직하지도 않다. 대신 대화를 마친 뒤 네 가지를 짧게 확인할 수 있다.

이 네 질문은 AI의 말을 불신하기 위한 검문소가 아니다. 내가 받은 도움을 실제 삶으로 옮기기 전에, 사실과 해석·도구와 관계·위로와 책임의 경계를 한 번 확인하는 작은 습관이다.

대화가 끝난 뒤 현실로 가져갈 한 가지

네 질문을 확인한 뒤에는 답변 전체를 믿을지 말지 결정하기보다, 현실에서 확인할 수 있는 작은 일 하나를 남겨 보는 방법이 있다. 다음 대화에서 물어볼 질문을 메모하거나, 실제로 있었던 일과 자신의 해석을 나눠 적거나, 믿을 수 있는 사람에게 설명할 문장을 준비하는 식이다. AI가 대화를 계속 이어 갈 수 있다는 사실과 내가 계속 대화해야 한다는 판단은 다르다.

좋은 마무리는 반드시 더 큰 확신을 얻는 것이 아니다. 지금은 알 수 없는 부분을 남겨 두고 화면 밖에서 확인할 일을 정하는 것만으로도 충분하다. 도움받았다는 경험은 지키되, 다음 판단의 근거와 책임까지 화면 속 문장에 넘기지 않는 방식이다. 엘리자 효과를 기억하는 목적도 따뜻한 대화를 거부하는 데 있지 않고, 그 따뜻함을 현실의 확인과 연결하는 데 있다.

엘리자 효과를 넘어 이해받는 느낌을 지키는 법

ELIZA는 정해진 규칙으로 질문을 돌려주었다. 그런데 사람은 그 짧은 문장 사이에 자신의 기억과 의미를 놓았다. 오늘의 챗지피티는 그때보다 훨씬 많은 언어의 관계와 대화 맥락을 다룬다. 그래도 마지막 의미와 책임까지 대신 살아 주지는 않는다.

그 사실이 AI와의 대화를 무의미하게 만들지는 않는다. 화면 속 문장은 내 마음을 비추는 거울이 될 수 있다. 그러나 거울이 나를 사랑하거나 내 삶을 책임지는 존재가 되는 것은 아니다.

CaritaStar가 지키려는 균형도 여기에 있다. 기술의 가능성을 줄이지 않으면서 사람의 존엄과 책임을 기술 아래에 두지 않는 일이다.

다정한 답변일수록 근거를 한 번 더 보고, 정확한 답변일수록 책임을 어디에 둘지 확인한다. 그 구분이 이해받는 느낌을 잃지 않으면서 AI를 오래 사용하는 방법이다.

---

함께 읽기

CARITASTAR · 이어 읽기챗지피티 개인 맞춤 설정: 메모리·맞춤형 지침·프로젝트를 나누는 법챗지피티 개인 맞춤 설정에서 메모리·지침·프로젝트를 나누는 법 CARITASTAR · 이어 읽기챗지피티 자료조사, 출처 확인까지 제대로 하는 법챗지피티 자료조사에서 출처와 해석을 구분하는 법

참고 자료

• Joseph Weizenbaum, ELIZA—A Computer Program for the Study of Natural Language Communication Between Man and Machine
• MIT News, Joseph Weizenbaum, professor emeritus of computer science, 85
• Affsprung et al., The ELIZA Defect: Constructing the Right Users for Generative AI
• Stade et al., Real-world use of large language models for mental health in 2024
• Diel et al., A scoping review on the mental health harms of LLM-based chatbots
• Publisher Correction: A scoping review on the mental health harms of LLM-based chatbots
• OpenAI, Helping ChatGPT better recognize context in sensitive conversations