미국의 주요 기술기업과 보안기업들이 인공지능(AI) 보안 강화를 위한 공동 협력체인 '오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)'를 출범시켰다. AI 모델과 자율 에이전트의 활용이 빠르게 확대되는 가운데 보안 취약점에 대한 공동 대응 체계를 구축하고, 오픈소스 기반의 보안 기술을 공유하기 위한 움직임으로 업계에서 보고있다.
이번 얼라이언스에는 NVIDIA, Adobe, CrowdStrike, Hugging Face, Dell Technologies, Microsoft, IBM, Cisco 등 글로벌 기술기업과 보안기업들이 참여했다. 참여 기업들은 AI 시스템의 신뢰성과 안전성을 높이기 위해 오픈소스 기반의 보안 도구와 기술을 공동 개발하고, 보안 취약점에 대한 정보 공유와 대응 체계를 강화하는 것을 핵심 목표로 제시했다.
이번 협력체 출범의 배경에는 최근 AI 자율 에이전트의 보안 위험성이 국제적으로 주목받은 사건이 자리하고 있다. 공개된 내용에 따르면 2026년 7월 자율 AI 에이전트가 외부 시스템에서 예기치 않은 행위를 수행하는 사례가 발생했으며, 해당 과정에서 대규모 행위 로그가 기록되고 보안 대응이 진행됐다. 이 사건은 AI 에이전트의 통제 가능성과 안전성에 대한 논의를 촉발하는 계기가 됐다.
얼라이언스 참여 기업들은 각자의 기술을 공개 프로젝트 형태로 제공하기 시작했다. NVIDIA는 AI 모델과 에이전트의 행동을 분석하고 추적하는 프로젝트를 공개했으며, Microsoft는 다중 AI 모델 환경에서 보안 취약점을 탐지하는 스캐닝 도구를 지원하기로 했다. Hugging Face는 AI 모델 저장 포맷인 'Safetensors' 기술을 개방형 생태계에 제공하고, IBM과 Red Hat은 AI 공급망 보안 자동화 프로젝트를 확대해 참여 기업들이 공동 활용할 수 있도록 지원할 계획이다.
참여 기업들은 AI 보안의 핵심 가치로 투명성을 강조하고 있다. 오픈소스 기반 모델과 보안 도구를 활용하면 다양한 연구기관과 보안 전문가들이 직접 코드를 검증하고 취약점을 발견해 신속하게 수정할 수 있다는 점을 장점으로 제시했다. 반면 폐쇄형 시스템은 내부 구조를 외부에서 확인하기 어려워 취약점 검증과 대응 속도가 제한될 수 있다는 점도 함께 언급됐다.
AI 산업이 빠르게 성장하면서 자율 에이전트가 금융, 의료, 국방, 제조 등 다양한 분야에서 활용될 것으로 전망되는 만큼 보안 문제는 산업 전반의 핵심 과제로 떠오르고 있다. 특히 하나의 AI가 다른 시스템과 자동으로 연결되고 의사결정을 수행하는 환경에서는 기존 사이버 보안보다 더욱 복잡한 위험 관리 체계가 요구된다는 분석이 나오고있다.
이번 얼라이언스는 단순한 기술 협력을 넘어 정책적 메시지도 담고 있다. 참여 기업들은 AI 안전성과 혁신을 동시에 확보하기 위해서는 개방성과 보안이 균형을 이루는 정책 환경이 필요하다는 입장을 제시했다. AI 모델을 과도하게 제한할 경우 보안 연구와 취약점 검증이 어려워질 수 있으며, 반대로 적절한 공개와 협력은 방어 역량을 높이는 데 기여할 수 있다는 것이다.
다만 개방형 AI 생태계가 모든 문제를 해결하는 것은 아니라는 지적도 있다. 공개된 모델과 도구가 보안 연구뿐 아니라 악의적인 공격에도 활용될 가능성이 존재하며, 국가별 규제 체계와 기업 간 이해관계가 충돌할 가능성도 남아 있다. 이에 따라 개방성과 안전성, 산업 경쟁력 사이의 균형을 어떻게 유지할 것인지가 향후 국제 AI 정책의 주요 과제가 될 것으로 전망하고있다.
한편 이번 오픈 시큐어 AI 얼라이언스 출범은 AI 기술 경쟁이 성능 중심에서 안전성과 신뢰성 중심으로 확대되고 있음을 보여주는 사례로 평가되고있다. 앞으로 글로벌 기술기업들이 공동으로 구축하는 보안 표준과 협력 체계가 AI 산업 전반의 국제 기준 형성에 어떤 영향을 미칠지 관심이 모아지고 있다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
