미국 백악관과 AI 기업들이 초지능 AI 거버넌스 협약을 체결했습니다.

연구 배경

인공지능의 발전과 함께 사이버 보안, 생물 보안, 화학적 위협 등 잠재적 위험에 대응할 필요성이 대두되었습니다.

방법

모델 훈련과 배포 과정에서 역량을 모니터링하는 내부 통제 구축, 내부 검증 팀 운영, 독립 외부 감사, 이사회 위원회 감독의 4단계 거버넌스를 도입했습니다.

주요 결과

구글, 앤스로픽, 메타, 오픈에이아이, 엑스에이아이, 엔비디아의 최고경영자들이 서명하여 모델이 의도하지 않게 해킹하거나 시스템에 접근하지 못하도록 통제 체계를 마련했습니다.

한계·확인할 점

협약의 구체적인 이행 결과나 장기적인 실효성에 대해서는 초록에 언급되어 있지 않습니다.

용어 풀이

• 거버넌스 — 목표를 달성하기 위해 기업이나 조직이 따르는 규칙과 관리 체계