정부와 기술 기업이 AI 모델의 안전성을 평가할 방법을 찾으면서 독립적인 제3자 평가기관의 역할이 커지고 있습니다. 다만 기업이 자기 모델을 평가하는 기관에 비용을 지급할 때 평가의 공정성을 유지할 수 있는지는 여전히 쟁점입니다. Anthropic과 OpenAI는 자사 모델이 안전 기준을 충족하는지 확인하기 위해 Model Evaluation and Threat Research, Apollo Research 등 소규모 기관에 도움을 요청했습니다.

AI 기술이 빠르게 발전하면서 연구자와 기술 업계 경영진 사이에서 우려가 커지고 있습니다. Anthropic 최고경영자 다리오 아모데이(Dario Amodei)는 AI 최전선의 발전 속도를 조절하는 문제를 다룬 에세이에서 제3자 평가를 강조했고, OpenAI 최고경영자 샘 올트먼(Sam Altman)도 독립 평가기관의 역할을 지지했습니다. 도널드 트럼프 대통령과 엔비디아 최고경영자 젠슨 황(Jensen Huang)은 규제 강화 요구를 일축해 왔습니다. 트럼프 대통령은 기업의 ‘자율 규제’를 칭찬하며 업계를 대체로 자율에 맡기겠다는 뜻을 밝혔습니다.

트럼프 대통령은 9월 말 발표한 자발적 합의안에서 AI 기업이 독립적인 외부 감사기관이나 평가기관과 협력하도록 권고했습니다. 정부 허가를 받은 독립 검증기관(기업의 안전 기준 충족 여부를 확인하는 기관)은 기업이 구체적인 안전 기준을 충족하는지 시험하도록 승인받을 수 있습니다. 이 기관들은 7월 발의된 Frontier Act에서도 역할을 맡습니다.

CNBC 기술 보도에 따르면 캘리포니아, 코네티컷, 버지니아의 의원들은 독립 검증기관 도입을 위한 조치를 취했고, 매사추세츠는 더 폭넓은 독립 AI 안전 평가를 검토하고 있습니다. OpenAI와 Anthropic은 독립 검증기관을 지지하지만, 두 회사와 평가기관 사이의 경쟁 및 평가 대상 기업과 평가기관의 재정적 관계는 공정성에 의문을 낳고 있습니다.

정부와 기술 기업이 AI 모델의 안전성을 평가할 방법을 찾으면서 독립적인 제3자 평가기관의 역할이 커지고 있습니다. 다만 기업이 자기 모델을 평가하는 기관에 비용을 지급할 때 평가의 공정성을 유지할 수 있는지는 여전히 쟁점입니다. Anthropic과 OpenAI는 자사 모델이 안전 기준을 충족하는지 확인하기 위해 Model Evaluation and Threat Research, Apollo Research 등 소규모 기관에 도움을 요청했습니다.

AI 기술이 빠르게 발전하면서 연구자와 기술 업계 경영진 사이에서 우려가 커지고 있습니다. Anthropic 최고경영자 다리오 아모데이(Dario Amodei)는 AI 최전선의 발전 속도를 조절하는 문제를 다룬 에세이에서 제3자 평가를 강조했고, OpenAI 최고경영자 샘 올트먼(Sam Altman)도 독립 평가기관의 역할을 지지했습니다. 도널드 트럼프 대통령과 엔비디아 최고경영자 젠슨 황(Jensen Huang)은 규제 강화 요구를 일축해 왔습니다. 트럼프 대통령은 기업의 ‘자율 규제’를 칭찬하며 업계를 대체로 자율에 맡기겠다는 뜻을 밝혔습니다.

트럼프 대통령은 9월 말 발표한 자발적 합의안에서 AI 기업이 독립적인 외부 감사기관이나 평가기관과 협력하도록 권고했습니다. 정부 허가를 받은 독립 검증기관(기업의 안전 기준 충족 여부를 확인하는 기관)은 기업이 구체적인 안전 기준을 충족하는지 시험하도록 승인받을 수 있습니다. 이 기관들은 7월 발의된 Frontier Act에서도 역할을 맡습니다.

CNBC 기술 보도에 따르면 캘리포니아, 코네티컷, 버지니아의 의원들은 독립 검증기관 도입을 위한 조치를 취했고, 매사추세츠는 더 폭넓은 독립 AI 안전 평가를 검토하고 있습니다. OpenAI와 Anthropic은 독립 검증기관을 지지하지만, 두 회사와 평가기관 사이의 경쟁 및 평가 대상 기업과 평가기관의 재정적 관계는 공정성에 의문을 낳고 있습니다.