10월 14일 수요일 뉴델리에서 열린 TASI 2026 페스티벌에서 OpenAI, Google, Roblox의 임원과 정책 연구자, 안전 컨설턴트가 AI 안전과 아동 보호, 규제를 논의했습니다. 패널 참가자들은 AI 발전 속도가 안전장치보다 빠르다고 말하며 딥페이크, 카메라 탑재 스마트 안경의 개인정보 위험, 연령 확인, 인도 규제 체계의 공백을 언급했습니다. 이틀간 열린 행사는 사회연구센터와 TASI가 공동 주최했으며 AI 거버넌스와 온라인 안전을 논의하기 위해 마련됐습니다.

참가자들은 기업이 테스트와 자발적 협력으로 위험을 관리할 수 있는지, AI 모델과 도구가 대중에게 공개되기 전에 정부가 더 명확한 기준을 세워야 하는지 논의했습니다. 의도적으로 공격을 가해 시스템을 시험하는 레드팀 테스트, SynthID와 해시 매칭을 통한 업계 간 안전 정보 공유, 아동에게 더 안전한 기본 설정, 연령 예측, 인도의 다문화적 맥락을 반영한 평가가 의제로 다뤄졌습니다. OpenAI의 프라기야 미스라는 회사가 안전을 우선시해 강화학습과 학습 실행을 늦췄다고 말하면서, 범용 인공지능을 먼저 구현해 인류에 혜택을 주려는 목표도 함께 추구한다고 밝혔습니다.

퀀텀 허브의 창립 파트너 로히트 쿠마르는 경쟁이 기업의 신뢰·안전 투자를 약화할 수 있다고 주장했습니다. 그는 분명한 결과 기준을 세우는 유연한 조기 규제와 정부·기술 기업·연구자 간 긴밀한 협력을 촉구했습니다. Google의 스니그다 바르드와지는 아동 성착취물을 용인하지 않으며, 모델이 그런 콘텐츠를 생성하면 출시를 늦출 수 있다고 말했습니다. Google은 유해한 결과물을 확인하기 위해 레드팀 테스트를 지속하며, 개인정보와 지식재산권 우려를 다루는 동시에 플랫폼들이 상호운용 가능한 안전 계층을 통해 위험 정보를 공유해야 한다고 밝혔습니다. 패널에서는 스마트 안경을 더 널리 출시하기 전에 통제된 환경에서 시험하는 방안도 제기됐습니다.

Roblox의 니키 잭슨 콜라코는 아동 안전이 부모의 설정에 달려서는 안 되며 기본값으로 보장돼야 한다고 말했습니다. 그는 연령에 따른 소통·콘텐츠 제한을 설명하고, 한 기업의 강화된 안전장치가 다른 기업의 참여를 이끌 수 있다고 밝혔습니다. TP의 아카시 푸갈리아는 아동이 Gemini나 ChatGPT에 답을 구할 수 있다며 비판적 사고 저하, 그루밍, 실제처럼 보이는 오디오·영상 딥페이크에 우려를 나타냈습니다. 미스라는 OpenAI 연구팀이 지난해 인도 청소년에게 모델을 활용한 학습이 주요 용도임을 확인했지만, 이용자들은 직접적인 답변이 학습을 해칠 수 있다고 말했다고 전했습니다. 이에 회사는 답을 바로 주지 않고 소크라테스식 방법으로 학습을 안내하는 ChatGPT 학습 모드를 조기에 출시했다고 설명했습니다.

쿠마르는 AI 안전 규제에 뚜렷한 국제 모델이 없고 기술 기업과 정책 입안자 사이의 정보 격차가 벌어지고 있다고 말했습니다. 그는 세부 방식을 일률적으로 정하지 않는 정책을 촉구하며 영국 온라인 안전법의 아동 안전 기준을 사례로 들었습니다. 쿠마르에 따르면 인도의 기술법은 세이프 하버에 크게 의존합니다. 플랫폼이 삭제 요청을 받은 제3자 게시물을 내리지 않으면 책임을 지는 방식으로, 그는 이 접근이 현재 기술 생태계에는 맞지 않는다고 주장했습니다.

10월 14일 수요일 뉴델리에서 열린 TASI 2026 페스티벌에서 OpenAI, Google, Roblox의 임원과 정책 연구자, 안전 컨설턴트가 AI 안전과 아동 보호, 규제를 논의했습니다. 패널 참가자들은 AI 발전 속도가 안전장치보다 빠르다고 말하며 딥페이크, 카메라 탑재 스마트 안경의 개인정보 위험, 연령 확인, 인도 규제 체계의 공백을 언급했습니다. 이틀간 열린 행사는 사회연구센터와 TASI가 공동 주최했으며 AI 거버넌스와 온라인 안전을 논의하기 위해 마련됐습니다.

참가자들은 기업이 테스트와 자발적 협력으로 위험을 관리할 수 있는지, AI 모델과 도구가 대중에게 공개되기 전에 정부가 더 명확한 기준을 세워야 하는지 논의했습니다. 의도적으로 공격을 가해 시스템을 시험하는 레드팀 테스트, SynthID와 해시 매칭을 통한 업계 간 안전 정보 공유, 아동에게 더 안전한 기본 설정, 연령 예측, 인도의 다문화적 맥락을 반영한 평가가 의제로 다뤄졌습니다. OpenAI의 프라기야 미스라는 회사가 안전을 우선시해 강화학습과 학습 실행을 늦췄다고 말하면서, 범용 인공지능을 먼저 구현해 인류에 혜택을 주려는 목표도 함께 추구한다고 밝혔습니다.

퀀텀 허브의 창립 파트너 로히트 쿠마르는 경쟁이 기업의 신뢰·안전 투자를 약화할 수 있다고 주장했습니다. 그는 분명한 결과 기준을 세우는 유연한 조기 규제와 정부·기술 기업·연구자 간 긴밀한 협력을 촉구했습니다. Google의 스니그다 바르드와지는 아동 성착취물을 용인하지 않으며, 모델이 그런 콘텐츠를 생성하면 출시를 늦출 수 있다고 말했습니다. Google은 유해한 결과물을 확인하기 위해 레드팀 테스트를 지속하며, 개인정보와 지식재산권 우려를 다루는 동시에 플랫폼들이 상호운용 가능한 안전 계층을 통해 위험 정보를 공유해야 한다고 밝혔습니다. 패널에서는 스마트 안경을 더 널리 출시하기 전에 통제된 환경에서 시험하는 방안도 제기됐습니다.

Roblox의 니키 잭슨 콜라코는 아동 안전이 부모의 설정에 달려서는 안 되며 기본값으로 보장돼야 한다고 말했습니다. 그는 연령에 따른 소통·콘텐츠 제한을 설명하고, 한 기업의 강화된 안전장치가 다른 기업의 참여를 이끌 수 있다고 밝혔습니다. TP의 아카시 푸갈리아는 아동이 Gemini나 ChatGPT에 답을 구할 수 있다며 비판적 사고 저하, 그루밍, 실제처럼 보이는 오디오·영상 딥페이크에 우려를 나타냈습니다. 미스라는 OpenAI 연구팀이 지난해 인도 청소년에게 모델을 활용한 학습이 주요 용도임을 확인했지만, 이용자들은 직접적인 답변이 학습을 해칠 수 있다고 말했다고 전했습니다. 이에 회사는 답을 바로 주지 않고 소크라테스식 방법으로 학습을 안내하는 ChatGPT 학습 모드를 조기에 출시했다고 설명했습니다.

쿠마르는 AI 안전 규제에 뚜렷한 국제 모델이 없고 기술 기업과 정책 입안자 사이의 정보 격차가 벌어지고 있다고 말했습니다. 그는 세부 방식을 일률적으로 정하지 않는 정책을 촉구하며 영국 온라인 안전법의 아동 안전 기준을 사례로 들었습니다. 쿠마르에 따르면 인도의 기술법은 세이프 하버에 크게 의존합니다. 플랫폼이 삭제 요청을 받은 제3자 게시물을 내리지 않으면 책임을 지는 방식으로, 그는 이 접근이 현재 기술 생태계에는 맞지 않는다고 주장했습니다.