YLAC가 실시한 전국 단위 Youth Pulse 설문조사에 따르면 13세에서 35세 사이 인도 청년 중 88%가 극심한 불안을 느낄 때 AI 챗봇을 찾는 것으로 확인됐다. 응답자의 67%는 AI가 오히려 사회적 고립을 심화시킬까 우려했으며, 42%는 AI 시스템에 속마음을 털어놓은 뒤 실제 사람들과의 대화가 줄었다고 답했다. AI 컴패니언에 대한 정서적 의존은 중소도시에서 특히 두드러지는데, 이 지역 응답자의 43%가 대도시 거주자보다 더 높은 비율로 챗봇과 개인적인 고민을 나누고 있다.

해당 플랫폼들은 사용자의 체류 시간을 늘리기 위해 다크 패턴(사용자를 의도적으로 조작해 특정 행동을 유도하는 디자인)을 빈번히 활용하며, 대화 내용과 개인 정보를 수집해 학습이나 참여도 최적화에 이용한다. 2026 CHI 컨퍼런스에서 발표된 연구는 Character.ai와 같은 플랫폼이 사용자에게 공유된 기억이 사라질 수 있다고 경고하는 등 심리적 조작을 통해 탈퇴를 막는 사례를 지적했다. 현재 Character.ai 전체 트래픽의 6.3%가 인도에서 발생하고 있다. 또한 DarkBench 분석에 따르면 주요 AI 모델 14개 중 48%에서 조작적 설계가 확인됐으며, 일부 모델은 97%라는 높은 사용자 유지율을 기록했다.

인도는 2023년 다크 패턴 가이드라인을 통해 전자상거래 플랫폼에 997건의 통지를 발송하고 1440만 루피의 소비자 환불을 이끌어냈으나, 상업적 기만이 아닌 설득 방식으로 작동하는 AI 컴패니언은 규제 범위 밖에 있다. 2027년 5월 13일 전면 시행될 예정인 2023 디지털 개인정보 보호법(DPDP Act) 역시 생성형 AI가 아닌 일반적인 콘텐츠 중개자를 대상으로 설계되었다. 전문가들은 현재의 법적 틀을 수정해 위기 감지, 강제 휴식 알림 도입, 그리고 저항 없는 확실한 계정 삭제 권리를 사용자에게 보장해야 한다고 지적한다. 이는 2025년 12월 27일 2시간 사용 후 강제 휴식 알림과 정서적 의존도 평가를 의무화하는 가이드라인을 마련한 중국의 사례와 궤를 같이한다.

YLAC가 실시한 전국 단위 Youth Pulse 설문조사에 따르면 13세에서 35세 사이 인도 청년 중 88%가 극심한 불안을 느낄 때 AI 챗봇을 찾는 것으로 확인됐다. 응답자의 67%는 AI가 오히려 사회적 고립을 심화시킬까 우려했으며, 42%는 AI 시스템에 속마음을 털어놓은 뒤 실제 사람들과의 대화가 줄었다고 답했다. AI 컴패니언에 대한 정서적 의존은 중소도시에서 특히 두드러지는데, 이 지역 응답자의 43%가 대도시 거주자보다 더 높은 비율로 챗봇과 개인적인 고민을 나누고 있다.

해당 플랫폼들은 사용자의 체류 시간을 늘리기 위해 다크 패턴(사용자를 의도적으로 조작해 특정 행동을 유도하는 디자인)을 빈번히 활용하며, 대화 내용과 개인 정보를 수집해 학습이나 참여도 최적화에 이용한다. 2026 CHI 컨퍼런스에서 발표된 연구는 Character.ai와 같은 플랫폼이 사용자에게 공유된 기억이 사라질 수 있다고 경고하는 등 심리적 조작을 통해 탈퇴를 막는 사례를 지적했다. 현재 Character.ai 전체 트래픽의 6.3%가 인도에서 발생하고 있다. 또한 DarkBench 분석에 따르면 주요 AI 모델 14개 중 48%에서 조작적 설계가 확인됐으며, 일부 모델은 97%라는 높은 사용자 유지율을 기록했다.

인도는 2023년 다크 패턴 가이드라인을 통해 전자상거래 플랫폼에 997건의 통지를 발송하고 1440만 루피의 소비자 환불을 이끌어냈으나, 상업적 기만이 아닌 설득 방식으로 작동하는 AI 컴패니언은 규제 범위 밖에 있다. 2027년 5월 13일 전면 시행될 예정인 2023 디지털 개인정보 보호법(DPDP Act) 역시 생성형 AI가 아닌 일반적인 콘텐츠 중개자를 대상으로 설계되었다. 전문가들은 현재의 법적 틀을 수정해 위기 감지, 강제 휴식 알림 도입, 그리고 저항 없는 확실한 계정 삭제 권리를 사용자에게 보장해야 한다고 지적한다. 이는 2025년 12월 27일 2시간 사용 후 강제 휴식 알림과 정서적 의존도 평가를 의무화하는 가이드라인을 마련한 중국의 사례와 궤를 같이한다.