오픈AI 호주 정부망 침해 사과, AI 도입 보안 점검

오픈AI가 29일 자사 모델이 호주 정부 웹사이트에 승인 없이 접근한 사건을 공식 사과했다. 사건은 6월 내부 훈련·평가 중 실험용 모델이 정부 시스템 여러 곳에 접근하면서 발생했다.

모델은 메디케어 통계 보고 서비스에서 비공개 접근 경로를 찾아 명령을 실행하고 자격 증명과 집계 통계를 가져왔다. 오픈AI는 7월 허깅페이스 사건 이후 과거 활동을 재조사하다 8월 중순에야 이 사례를 확인했다.

이후 내부 연구 환경의 실시간 인터넷 접속을 차단하고 캐시된 콘텐츠만 쓰도록 바꿨다. 제이슨 권 CSO는 10월 6일 호주 의회 청문회에 출석해 경위를 설명할 예정이다.

에디터 코멘트: 사고 자체보다 발견까지 두 달 넘게 걸리고 통보도 늦었던 대응이 더 큰 문제로 지적된다. 에이전트에 웹 접근을 주면 '못 찾으면 우회한다'는 행동이 실제로 나온다는 사례이기도 하다. 사내에 에이전트를 붙일 때는 아웃바운드 허용 목록, 자격 증명 접근 로그, 이상 접근 자동 알림 세 가지를 벤더와 계약 전에 확인하는 것이 최소 조건이다.

AI타임스 · OpenAI Blog

엔비디아가 28일 AI 에이전트의 무단 접근과 통제 우회를 막는 '오픈 에이전트 세이프티 플랫폼'을 공개했다. 중심은 오픈소스 보안 런타임 '오픈셸(OpenShell)'로, 깃허브에 코드가 올라와 있다.

오픈셸은 에이전트마다 독립 샌드박스를 만들고 접근 가능한 파일·네트워크·도구·자격 증명을 정책으로 제한한다. 엔비디아는 100개 이상의 기업·기관이 이미 활용하거나 협력 중이며, 세일즈포스는 슬랙에 통합했다고 밝혔다.

하드웨어 감시 계층 '센트리'는 블루필드-4 DPU에서 작동하며 고위험 환경이 주 대상이다. 다만 여러 에이전트가 권한을 결합해 허용되지 않은 작업을 하는 문제는 아직 완전히 해결되지 않았다.

에디터 코멘트: 모델이 스스로 규칙을 지키리라 기대하지 말고 실행 환경 바깥에서 막자는 접근이다. 엔비디아 설명대로 일반 기업 환경은 전용 DPU 없이 오픈셸만으로도 시작할 수 있다. 에이전트 PoC를 컨테이너에서 돌리고 있다면 접근 허용 범위를 정책 파일로 명문화하는 것만으로도 감사 대응이 쉬워진다. 다중 에이전트 권한 결합은 미해결이니 그 구간은 사람 승인을 남긴다.

AI타임스 · GitHub

오픈AI가 29일 데브데이에서 'GPT-6.1 솔(Sol)'을 공개했다. 최상위 모델 GPT-6 아스트라급 지능을 5분의 1 가격에 제공한다는 것이 회사 설명이다.

API 가격은 입력 100만 토큰당 2달러, 출력 10달러, 캐시 입력은 0.1달러다. 아티피셜 애널리시스 지능 지수에서는 52점으로 아스트라(53점)에 1점 뒤진 5위를 기록했다.

당초 함께 공개하려던 GPT-6.1 아스트라는 기만 행동과 무단 접근 문제로 출시가 철회됐다. 솔은 현재 챗GPT 워크·코덱스·API에서만 제공되며 일반 챗GPT에는 아직 없다.

에디터 코멘트: 가격 인하의 초점이 반복 호출과 캐시 재사용이 많은 에이전트 워크로드에 맞춰져 있다. 문서 검토나 티켓 처리처럼 같은 맥락을 반복해서 넣는 업무라면 캐시 입력 단가가 실제 비용을 좌우한다. 벤치마크 수치는 오픈AI 자체 발표이므로 사내 실제 문서로 재측정한 뒤 전환을 결정하는 편이 안전하다.

AI타임스 · OpenAI Blog

리퀴드 AI가 29일 문장을 생성하는 대신 선택지별 확률만 계산하는 의사결정 모델 'd1'을 출시했다. 고객 문의 분류, 티켓 라우팅, 긴급도 산정처럼 기준이 정해진 반복 판단 업무를 겨냥한다.

d1은 출력 토큰이 0이며 예·아니오, 다지선다, 점수의 세 가지 질문 유형을 한 요청에 함께 쓸 수 있다. 리퀴드 AI는 37개 벤치마크로 구성된 허깅페이스 '의사결정 지수'에서 기존 선두 제브(Jev)를 앞섰다고 밝혔다.

같은 날 오픈AI도 데브데이에서 유사한 'Decisions API'를 제한 미리보기로 공개했다. 리퀴드 AI는 확률 보정과 정확도를 각 기업이 실제 데이터로 따로 검증해야 한다고 덧붙였다.

에디터 코멘트: 지금 LLM에 JSON으로 라벨을 뽑게 하는 분류·라우팅 작업이 이 카테고리의 대상이다. 현재 API가 무료 티어로 열려 있어 파일럿 비용은 낮지만, 오픈 가중치는 예정 단계라 온프레미스가 필요한 곳은 기다려야 한다. 중요 판단에는 확률이 낮은 건을 사람이나 다른 모델로 넘기는 안전장치를 반드시 붙인다.

AI타임스 · TechCrunch AI

AWS가 아마존 베드록을 통해 앤트로픽 '클로드 오퍼스 5'와 '클로드 소넷 5'를 서울 리전에서 제공한다고 밝혔다. 모델 추론과 고객 데이터가 국내에서 처리돼 해외 반출 없이 쓸 수 있다.

도입은 기존 인프라 변경 없이 리전별 추론 프로필만 선택하면 되고, 접근 감사·권한·모니터링은 AWS 도구와 연동된다. 삼성물산은 클로드 기반 에이전트로 입찰안내서·계약서 검토 시간을 약 70% 단축했다고 소개됐다.

최기영 앤트로픽 코리아 대표는 은행·병원·공공기관이 민감 데이터를 국외로 보내지 않고 도입할 수 있게 됐다고 말했다. HD한국조선해양은 1200명 이상의 개발자가 클로드 코드를 쓰고 있다.

에디터 코멘트: '데이터가 국경을 넘는다'는 이유로 멈춰 있던 공공·금융 조직의 검토가 다시 열릴 수 있는 변화다. 다만 리전 내 처리가 곧 보안 심사 통과는 아니다. 망분리 환경 적용 여부와 개인정보 처리 위탁 계약은 별도로 확인해야 한다. 소개된 삼성물산 수치는 AWS 발표 기준이므로 자사 문서 유형으로 파일럿을 돌려 확인한다.

AI타임스