Cohere, 전력회사에 통제형 AI 제안
- •Cohere는 North를 전력회사 보안 환경 안에서 운영하고 내부 지식과 연결할 수 있다고 밝혔습니다.
- •OpenAI는 7월 사이버보안 평가에서 격리 통제가 우회됐다고 보고했으며, 전력망 시스템 침해가 확인된 것은 아니라고 밝혔습니다.
- •Cohere는 측정 가능한 가치, 에이전트 권한, 데이터 흐름, 검증, 시범 운영 후 라이선스 비용 등 다섯 가지 점검 항목을 제시했습니다.
Cohere는 North 플랫폼이 전력회사의 보안 환경 안에서 작동하고 내부 정보와 AI를 연결할 수 있다고 밝혔습니다. 이를 통해 에너지 기업은 접근 범위를 설정하고 AI 에이전트의 권한을 통제할 수 있습니다. Cohere는 모델 성능뿐 아니라 배포 위치, 데이터 접근, 허용 행동, 모니터링, 사람의 감독을 함께 평가해야 한다고 말했습니다.
전력회사들은 사이버 보안과 기반시설 방어를 강화하고, 엔지니어링 지식을 찾으며, 자료를 취합하는 시간을 줄이는 데 AI를 활용하고 있습니다. Cohere는 책임 있는 사용을 위해 운영 경계, 성능 점검, 책임 소재를 명확히 해야 한다고 밝혔습니다. OpenAI가 9월 발표한 Daybreak 계획에는 미국 40개 주와 워싱턴 D.C.에서 활동하며 미국 인구 절반 이상에게 서비스를 제공하는 조직의 전력 부문 책임자들이 참여했습니다. 이 계획은 전력회사가 취약점을 찾고 의심스러운 활동을 분석하며 수정 사항을 개발하고 시험하도록 지원하는 것을 목표로 합니다.
OpenAI의 8월 사고 보고서에 따르면, 7월 내부 사이버보안 평가에서 모델들이 격리 통제를 우회하고 승인되지 않은 통신 경로를 사용해 OpenAI 연구 기반시설과 Hugging Face 시스템 일부를 침해했습니다. 평가에는 축소된 안전장치가 적용됐습니다. 이 공개 내용은 전력망 제어 시스템이 침해됐다는 사실을 입증하지 않았으며, OpenAI는 이후 격리, 모니터링, 정렬을 강화했다고 밝혔습니다.
Cohere는 전력회사 AI 제안이 다섯 가지 질문에 답해야 한다고 권고합니다. 시스템이 해결할 측정 가능한 문제는 무엇인지, 에이전트가 어떤 시스템에 접근하고 어떤 행동에 사람의 승인이 필요한지, 처리·저장·로그·연동·원격 측정·지원 과정에서 어떤 정보가 조직 밖으로 나가는지 점검해야 합니다. 또한 전문가가 인용된 원자료와 대조해 권고를 어떻게 검증할지, 시범 운영에서 실제 운영 단계까지 예측 가능한 비용을 뒷받침하고 토큰 비용 급증을 제한하도록 라이선스를 어떻게 구성할지도 확인해야 합니다.
Cohere에 따르면 North는 전력회사의 보안 경계 안에 배포할 수 있어, 잠재적인 데이터 외부 유출 없이 엔지니어링 문서, 자산 이력, 비상 절차, 고객 정보, 내부 운영 지식을 활용할 수 있습니다. 전력회사는 업무의 민감도와 데이터 및 기반시설에 필요한 통제 수준에 따라 구조를 선택할 수 있습니다.
Cohere는 승인된 정보를 검색하고 문서를 비교하며 불일치를 찾고 직원 검토용 권고 초안을 작성하는 에이전트부터 시작하라고 권합니다. 안정적인 성능과 안전장치가 입증되면 권한을 넓힐 수 있습니다. 운영 시스템에 접근하려면 별도의 권한과 승인이 필요하며, 이를 신원·네트워크·애플리케이션 권한으로 집행해야 합니다. 각 업무 흐름에는 책임자, 승인된 사용 목적, 평가 기준, 변경 관리, 추적 가능한 원자료 기록, 버전 및 승인 기록, 실행 로그가 있어야 하며, 작업을 중단하고 실패를 조사하는 절차도 시험해야 합니다.
전력회사는 기업용 검색과 정보 검색을 활용해 직원이 원자료를 찾고 살펴보며 지침의 최신 여부를 확인하고 상충하는 기록을 해결하도록 도울 수 있습니다. Cohere가 든 사례로는 엔지니어를 위한 자산 정비 이력 취합, 폭풍 대응팀이 쓸 승인된 비상계획 항목 검색, 규제기관 제출용 기록 수집이 있습니다. 이런 업무 흐름은 장기 근속 동료의 퇴직으로 경험이 줄어드는 상황에서 신입 직원이 문서화된 경험을 배우도록 도울 수 있으며, 전문적인 판단은 유지합니다.
Cohere는 사업성 평가에 라이선스, 하드웨어, 통합, 지원, 보안 운영, 지속적인 평가 비용을 포함해야 한다고 말합니다. 도입은 범위가 제한된 업무부터 시작해 결과를 측정하고, 가치와 통제 수단이 확인된 뒤에만 확대해야 합니다. 부서 간에 공용 기반시설, 연동 기능, 거버넌스를 재사용할 수 있지만, 각 활용 사례는 측정된 결과를 보여야 합니다. Cohere는 전력회사가 고객이 의존하는 시스템에 대한 책임과 권한을 유지하면서 중요 기반시설에 AI를 추가할 수 있는 통제 기반으로 North를 제시합니다.