오픈AI가 최근 미국 정부와 체결했던 기밀 군사 작전 관련 기술 사용 계약을 전격 수정했습니다. 샘 알트먼 최고경영자는 기존 계약이 기회주의적이고 허술했다는 점을 인정하며 수습에 나섰는데요. 이번 조치는 인공지능이 전쟁에 어떻게 활용될지 그리고 민간 기업의 권한이 어디까지인지에 대한 사회적 우려를 반영한 결과로 보입니다.
OpenAI가 돌연 국방부 계약 내용을 수정한 배경
오픈AI가 미 국방부와 파트너십을 맺었다는 소식이 전해진 직후 시장의 반응은 냉담했습니다. 챗GPT 삭제율이 평소보다 200%나 급증하며 사용자들의 강력한 반발이 이어졌기 때문입니다. 샘 알트먼은 엑스를 통해 금요일에 서둘러 계약을 발표한 것이 실수였다며 사태 진화에 나섰습니다.
특히 경쟁사인 앤스로픽이 자율 살상 무기 제조에 자사 모델인 클로드를 사용하지 않겠다는 레드라인 원칙을 고수하다가 국방부 계약에서 배제된 사건이 이번 계약 수정의 기폭제가 되었습니다. 오픈AI는 타사보다 더 엄격한 안전장치를 마련했다고 주장하며 실추된 신뢰를 회복하려 애쓰는 모습입니다.
미국 국방부 계약에서 변경된 3가지 핵심 조항은 무엇일까?
이번에 새롭게 추가되거나 수정된 조항은 크게 세 가지 영역으로 나뉩니다. 이는 기술의 오남용을 막고 민간인의 권리를 보호하는 데 초점이 맞춰져 있습니다.
- 미국인 및 자국민에 대한 의도적인 국내 감시 용도로 시스템을 사용하는 것을 명시적으로 금지함
- 국가안보국과 같은 정보 기관이 후속 계약 수정 없이는 오픈AI 시스템을 독자적으로 사용할 수 없도록 제한함
- 기밀 군사 배치에 있어 이전의 어떤 협정보다 더 강력한 가드레일을 적용하기로 명문화함
이러한 변화는 인공지능이 대규모 감시 도구로 변질되는 것을 막겠다는 의지로 풀이됩니다. 알트먼은 복잡한 문제일수록 명확한 소통이 필요하다며 앞으로의 투명성을 강조했습니다.
앤스로픽의 클로드와 오픈AI가 보여준 행보의 차이
이번 사건에서 재미있는 점은 앤스로픽의 행보입니다. 앤스로픽은 자사 모델인 클로드가 대량 감시나 자율 무기 체계에 사용되는 것을 거부하며 국방부의 블랙리스트에 올랐습니다. 이 소식이 알려지자 오히려 앱스토어에서 클로드의 순위가 급상승하는 현상이 벌어졌습니다.
반면 오픈AI는 국방부와의 협력을 통해 실용적인 접근을 택했지만 사용자들의 윤리적 잣대에는 미치지 못했다는 평가를 받았습니다. 옥스퍼드 대학의 마리아로사리아 타데오 교수는 가장 안전 의식이 높은 행위자인 앤스로픽이 협상 테이블에서 물러난 것은 실제 전쟁 상황에서 인공지능의 안전성을 담보하기 어렵게 만드는 위험한 신호라고 지적했습니다.
전장에 투입된 AI가 가져올 수 있는 잠재적 위험 요소
군사 분야에서 인공지능은 물류 최적화나 방대한 정보 처리에서 혁신적인 효율을 보여줍니다. 하지만 대규모 언어 모델이 가진 고질적인 문제인 환각 현상은 전장에서 치명적인 결과를 초래할 수 있습니다. AI가 잘못된 정보를 생성하거나 상황을 오판할 경우 이는 곧 인명 피해로 직결되기 때문입니다.
나토의 테스크포스 메이븐 관계자들은 인공지능이 단독으로 결정을 내리는 일은 결코 없을 것이라고 강조합니다. 모든 결정 과정에 반드시 인간이 개입하는 인간 중심 원칙을 고수하고 있다는 설명입니다. 하지만 기술의 발전 속도가 워낙 빠르다 보니 이러한 통제력이 언제까지 유효할지에 대한 의구심은 여전합니다.
챗GPT 삭제 행렬 – 사용자들이 반발한 진짜 이유
사용자들이 챗GPT를 삭제하며 분노한 이유는 단순히 군과의 협력 때문만이 아닙니다. 자신들이 일상적으로 사용하는 도구가 누군가를 감시하거나 공격하는 데 쓰일 수 있다는 불안감이 작용했습니다. 센서 타워의 데이터에 따르면 이번 파트너십 발표 이후 탈퇴율이 급격히 상승한 것은 기술 기업의 윤리적 책임에 대한 대중의 기대치가 얼마나 높은지를 보여줍니다.
사람들은 인공지능이 인류의 편의를 위해 발전하기를 바라지 권력의 감시 도구가 되는 것을 원치 않습니다. 오픈AI가 서둘러 조항을 수정하고 감시 금지를 명문화한 것도 이러한 민심 이반이 사업의 근간을 흔들 수 있다는 위기감에서 비롯된 것으로 보입니다.
군사 분야에서 AI 활용을 조절하는 5가지 안전 장치
전문가들은 군사적 목적의 인공지능 활용에 있어 최소한의 안전장치가 필요하다고 입을 모읍니다. 현재 논의되고 있는 주요 장치들은 다음과 같습니다.
- 모든 공격적 행동 결정 시 반드시 인간이 최종 승인을 내리는 구조 유지
- AI가 생성한 데이터의 출처와 판단 근거를 실시간으로 검증하는 시스템 구축
- 특정 인종이나 집단을 표적으로 삼는 알고리즘 편향성 상시 모니터링
- 민간인 거주 지역에서의 데이터 수집 및 분석에 대한 엄격한 제한
- 인공지능 모델의 환각 현상을 제어하기 위한 독립적인 감사 기구 운영
이러한 장치들이 실질적으로 작동하기 위해서는 기업의 자율적인 노력뿐만 아니라 국제적인 합의와 규제가 뒷받침되어야 합니다. 팔란티어 같은 기업들은 이미 나토와 협력하며 이러한 시스템을 구축하고 있지만 윤리적 논란은 끊이지 않고 있습니다.
인공지능 주도권 싸움에서 민간 기업이 지켜야 할 선
이번 오픈AI의 계약 수정 사건은 거대 기술 기업이 국가 안보라는 명분과 사용자 신뢰라는 가치 사이에서 얼마나 아슬아슬한 줄타기를 하고 있는지 잘 보여줍니다. 2026년 현재 인공지능은 단순한 도구를 넘어 국가 경쟁력의 핵심이 되었지만 그럴수록 기술을 개발하는 기업의 도덕적 잣대는 더욱 엄격해질 수밖에 없습니다.
결국 기술의 방향성을 결정하는 것은 기업의 이윤보다 사용자의 동의와 윤리적 합의입니다. 오픈AI가 이번에 보여준 sloppy한 대처를 반복하지 않으려면 앞으로도 대중과의 소통을 강화하고 기술의 투명성을 높이는 데 주력해야 할 것입니다. 인공지능이 진정으로 인류를 돕는 기술로 남을 수 있도록 우리 모두가 지속적인 관심을 가져야 할 때입니다.
출처: https://www.bbc.com/news/articles/c3rz1nd0egro
이어서 보면 좋은 글
#OpenAI #미국국방부 #샘알트만 #챗GPT삭제 #인공지능윤리 #AI군사활용 #감시방지 #앤스로픽 #클로드 #테크뉴스
1 thought on “OpenAI 미국 국방부 계약 전격 수정 – 감시 차단 등 3가지 변화”