IBM 임원, 용도별 AI 규제 촉구
- •IBM 소프트웨어 인도 총괄 스리람 라가반, AI 활용 분야에 맞춘 규제 촉구
- •의료·소매 데이터의 차별적 규제와 인도중앙은행의 은행권 모델 위험 관리 규정 사례 제시
- •AI가 소프트웨어 개발·사이버보안을 바꾸며 프런티어 모델과 공개 가중치 모델의 비용 최적화 강조
IBM 소프트웨어 인도 총괄 스리람 라가반(Sriram Raghavan)은 《더 힌두 비즈니스라인》에 AI 전반에 적용되는 단일 법보다 활용 사례에 따른 규제가 필요하다고 말했습니다. 국가와 산업별로 규정이 달라야 하며, 의료 데이터와 소매 데이터는 같은 방식으로 다뤄서는 안 된다고 설명했습니다. 은행권 사례로는 인도중앙은행(RBI)이 갱신한 모델 위험 관리 규정을 들며, 기존 규제를 AI에 맞게 조정할 수 있다고 밝혔습니다. 규제 당국은 수학이나 행렬 곱셈 자체보다 기술의 사용 방식에 초점을 두고, 그 영향에 대응하도록 관련 법을 적용해야 한다고 말했습니다. 일반 대중에게 제공되는 소비자 기술에는 산업 전반에 적용되는 안전 고려 사항이 필요할 수 있다고 덧붙였습니다.
라가반은 AI가 소프트웨어 개발을 바꾸고 있다고 말하며, AI 에이전트를 인터넷·모바일 기술·AI의 변화와 함께 등장하는 새로운 응용 프로그램 분야로 설명했습니다. AI 모델로 에이전트를 만들면 결과가 부정확할 수 있어 테스트, 보안, 안전장치, 측정 방식도 발전해야 한다고 말했습니다. AI는 소프트웨어 작업의 속도와 처리량을 높였으며, 경제적 효과는 생산성 향상을 넘어 고객에게 새로운 기능과 역량을 더 빠르게 제공하는 데까지 이어진다고 설명했습니다.
소프트웨어 엔지니어를 준비시키려면 교육과정을 바꾸고, 교수진과 학생이 산업에 진출하기 전에 AI 중심 도구를 사용하도록 해야 한다고 라가반은 촉구했습니다. IBM은 자사의 에이전트 ‘밥’을 대학 등 교육기관에 제공하고 있다고 말했습니다. 사이버보안에서는 취약점과 해결책이 훨씬 빠른 속도로 발견돼 고객이 우선순위 설정과 자동화라는 과제에 직면했다고 설명했습니다. 모든 보안 패치를 수동으로 적용하는 것은 현실적으로 불가능하며, 핵심 업무 시스템에는 강력한 조치가 필요하고 자동화를 폭넓게 활용해야 한다고 말했습니다. 그는 “악당들이 AI를 쓰면, 여러분도 AI를 써야 합니다”라고 밝혔습니다.
AI 비용과 관련해 라가반은 논의의 초점이 토큰 가격에서 최적화로 옮겨갔다고 말했습니다. 프런티어 모델은 “토큰 100만 개당 매우 많은 비용”이 든다며, 에이전트나 애플리케이션을 만들 때 한 모델에 의존하지 않도록 프런티어 모델과 공개 가중치 모델을 조합할 수 있다고 설명했습니다. 이런 선택은 기술 주권에 관한 질문으로 이어진다고 덧붙였습니다.