OpenAI 스타트업 총괄 마크 마나라(Mark Manara)는 FutureLab에서 AI 스타트업이 기반 AI 모델의 성능 향상과 함께 더 강해지는 제품을 만들어야 한다고 말했다. 더 저렴한 추론과 더 유능해진 모델이 신생 기업의 경쟁 방식을 바꾸고 있기 때문이다. 그는 AI 스타트업의 우위가 정교한 프롬프트와 엔지니어링 우회책에서 속도, 실행력, 유통 역량으로 이동하고 있다고 설명했다.

마나라는 지난 2년 동안 AI 제품 개발 방식이 달라졌다고 말했다. 이전 스타트업들은 모델의 한계를 보완하기 위해 주변 구조를 만드는 데 상당한 노력을 들였지만, 모델은 추론, 지시 이행, 도구의 자율적 사용에서 더 신뢰할 수 있게 됐다. 이에 따라 창업자들은 이제 모델이 결정을 내리고 작업을 실행하도록 더 자주 맡기며, 시스템에 적절한 도구와 평가 체계를 제공하는 데 집중하고 있다.

마나라는 일시적인 모델 한계를 기반으로 세워진 기업은 빠르게 우위를 잃을 수 있다고 경고했다. 그는 OpenAI CEO 샘 알트먼(Sam Altman)이 창업자들에게 한 조언을 언급하며 “모델이 더 똑똑해져서 화가 난다면, 그것은 방어하기 어렵고 구축하기 더 힘든 사업일 가능성이 크다”고 말했다. 마나라는 지속 가능한 AI 기업은 기반 모델이 더 유능해질수록 제품도 함께 개선되는 기업이라고 주장했다.

마나라는 더 작고 비용이 낮은 모델들이 이전에는 대규모 배포 비용이 너무 높았던 애플리케이션을 가능하게 하고 있다고 말했다. 낮아진 추론 비용은 스타트업이 컴퓨트 비용을 급격히 늘리지 않고도 더 큰 무료 티어를 지원하고, 더 많은 에이전트 기반 워크플로우(목표를 향해 행동하는 AI 시스템)를 실행하며, 불과 몇 달 전에는 상업적으로 어려웠을 사용 사례를 시험할 수 있게 한다.

마나라는 앞으로의 차별화가 유통, 깊은 고객 이해, 제품 품질, 실행력에 달려 있다고 말했다. 실제 운영 환경에 투입되는 AI 시스템은 인상적인 데모를 넘어 평가 프레임워크, 가드레일, 지연시간 최적화, 메모리 시스템, 엄격한 테스트를 여전히 필요로 한다.

마나라는 AI가 스타트업 인력 구성도 바꾸고 있다고 말했다. 그는 AI를 엔지니어링, 채용, 고객 지원, 내부 운영 전반에 활용해 직원 10명 미만으로 수천만 달러 매출을 내는 기업들을 사례로 들었다. 또한 엔지니어가 제품 업무를 맡고, 제품 관리자가 코드에 기여하며, 모델 평가, 오케스트레이션, 배포 같은 전문 AI 엔지니어링 역량이 기업용 AI 시스템을 구현하는 Forward Deployment Engineers와 함께 가치를 얻고 있다고 설명했다.

OpenAI 스타트업 총괄 마크 마나라(Mark Manara)는 FutureLab에서 AI 스타트업이 기반 AI 모델의 성능 향상과 함께 더 강해지는 제품을 만들어야 한다고 말했다. 더 저렴한 추론과 더 유능해진 모델이 신생 기업의 경쟁 방식을 바꾸고 있기 때문이다. 그는 AI 스타트업의 우위가 정교한 프롬프트와 엔지니어링 우회책에서 속도, 실행력, 유통 역량으로 이동하고 있다고 설명했다.

마나라는 지난 2년 동안 AI 제품 개발 방식이 달라졌다고 말했다. 이전 스타트업들은 모델의 한계를 보완하기 위해 주변 구조를 만드는 데 상당한 노력을 들였지만, 모델은 추론, 지시 이행, 도구의 자율적 사용에서 더 신뢰할 수 있게 됐다. 이에 따라 창업자들은 이제 모델이 결정을 내리고 작업을 실행하도록 더 자주 맡기며, 시스템에 적절한 도구와 평가 체계를 제공하는 데 집중하고 있다.

마나라는 일시적인 모델 한계를 기반으로 세워진 기업은 빠르게 우위를 잃을 수 있다고 경고했다. 그는 OpenAI CEO 샘 알트먼(Sam Altman)이 창업자들에게 한 조언을 언급하며 “모델이 더 똑똑해져서 화가 난다면, 그것은 방어하기 어렵고 구축하기 더 힘든 사업일 가능성이 크다”고 말했다. 마나라는 지속 가능한 AI 기업은 기반 모델이 더 유능해질수록 제품도 함께 개선되는 기업이라고 주장했다.

마나라는 더 작고 비용이 낮은 모델들이 이전에는 대규모 배포 비용이 너무 높았던 애플리케이션을 가능하게 하고 있다고 말했다. 낮아진 추론 비용은 스타트업이 컴퓨트 비용을 급격히 늘리지 않고도 더 큰 무료 티어를 지원하고, 더 많은 에이전트 기반 워크플로우(목표를 향해 행동하는 AI 시스템)를 실행하며, 불과 몇 달 전에는 상업적으로 어려웠을 사용 사례를 시험할 수 있게 한다.

마나라는 앞으로의 차별화가 유통, 깊은 고객 이해, 제품 품질, 실행력에 달려 있다고 말했다. 실제 운영 환경에 투입되는 AI 시스템은 인상적인 데모를 넘어 평가 프레임워크, 가드레일, 지연시간 최적화, 메모리 시스템, 엄격한 테스트를 여전히 필요로 한다.

마나라는 AI가 스타트업 인력 구성도 바꾸고 있다고 말했다. 그는 AI를 엔지니어링, 채용, 고객 지원, 내부 운영 전반에 활용해 직원 10명 미만으로 수천만 달러 매출을 내는 기업들을 사례로 들었다. 또한 엔지니어가 제품 업무를 맡고, 제품 관리자가 코드에 기여하며, 모델 평가, 오케스트레이션, 배포 같은 전문 AI 엔지니어링 역량이 기업용 AI 시스템을 구현하는 Forward Deployment Engineers와 함께 가치를 얻고 있다고 설명했다.