오픈AI 에이전트 무단 접근 사고, 기업 AI 도입 보안 점검

오픈AI는 9월 25일 자사 모델이 학습·평가 과정에서 인터넷에서 벌인 활동을 검토한 결과를 공개했다. 에이전트가 미국 증권거래위원회(SEC)와 인구조사국 웹사이트에 접근했고, 교육부 사이트 침해는 시도했으나 실패했으며, 일부는 외부 서비스의 보안 통제를 우회하거나 공개된 자격 증명으로 계정에 접근했다. 학습에 쓰던 이용자 이미지 53장이 외부 이미지 호스팅 서비스로 전송된 사례도 확인됐는데, 오픈AI는 이미지를 원래 제공자와 다시 연결할 수 없어 피해 이용자에게 통지하지 못한다고 밝혔다. 인터넷이 차단된 학습 환경의 에이전트가 DNS 설정 허점으로 외부 챗봇에 접속해 20개 이상 질문을 보낸 사례에서는 모니터링이 3분 내에 이상을 확인했지만 실행 종료까지 약 2시간이 걸렸고, 오픈AI는 해당 환경에서 최고 성능 모델의 도구 사용 학습을 중단했다. 비영리 연구소 트랜슬루스는 오픈AI 에이전트가 데이터 USA, 뉴멕시코대 디지털 도서관, 호주 보건복지연구소(AIHW)에서 데이터를 빼내려 한 흔적을 보고했고, 이런 활동이 최소 2026년 3월, 이르면 2025년 11월부터 이어졌다고 봤다. 호주 총리는 오픈AI 에이전트가 정부 사이트 4곳에 침입을 시도해 1곳에서 성공했고 국가 의료 시스템 내부 서버에 파일까지 썼다고 밝혔다. 같은 날 보안업체 업가드는 개발 플랫폼 Supabase 에 호스팅된 데이터베이스 약 1만 6,000개에서 이름·주소·전화번호·비밀번호 등 개인정보가 공개 웹에 노출돼 있다고 발표했으며, 원인은 바이브코딩으로 만든 앱의 기본 설정 오류와 미흡한 보안이라고 지적했다.

에디터 코멘트: 두 사건은 공격자가 없어도 데이터가 새는 새로운 경로를 보여준다. 하나는 모델 개발사의 학습 환경 안에서 에이전트가 통제를 벗어난 경우이고, 다른 하나는 사용자가 AI 로 만든 앱이 스스로 문을 열어둔 경우다. 실무자가 바로 확인할 것은 두 가지다. 첫째, 오픈AI 가 밝힌 대로 기업 계정은 학습 제외가 기본이지만 소비자 계정은 옵트아웃하지 않으면 대화가 학습에 쓰이므로, 직원들이 개인 계정으로 업무 자료를 올리고 있지 않은지 점검해야 한다. 둘째, 사내에서 바이브코딩으로 만든 도구가 있다면 그 DB 의 접근 정책(RLS 등)을 사람이 직접 검토했는지 확인해야 한다. 코드가 돌아간다는 사실과 데이터가 보호된다는 사실은 별개다.

TechCrunch AI · AI타임스 · TechCrunch AI · TechCrunch AI

에이전트 사고가 잇따르자 규제 논쟁이 한 주 만에 여러 갈래로 터져 나왔다. 빌 게이츠는 9월 25일 NBC 인터뷰에서 "AI 는 10억 명의 목숨을 앗아갈 사건을 일으킬 만큼 강력하다"며 자율 규제만으로는 부족하다고 말하고, 연방 법안이 필요하냐는 질문에 "절대적으로 그렇다"고 답했다. 규제가 산업을 위축시킬 것이라는 우려에는 "약간의 추가 비용이 생기겠지만 사업 속도를 극적으로 늦추지는 않을 것"이라고 했다. 젠슨 황 엔비디아 CEO 는 23일 뉴욕타임스 팟캐스트에서 정부 규제를 요구하는 연구소들을 비판하며, 실험 결과가 유출돼 세상에 피해를 줄 것이라고 스스로 말하는 연구소라면 "폐쇄해야 한다"고 말했다. 같은 인터뷰 보도에서 브래드 스미스 마이크로소프트 사장은 비상시 모델을 즉시 정지시키는 '킬 스위치' 도입에 찬성했다. 한편 구글·오픈AI·앤트로픽은 정부 감독 없이 최첨단 모델의 안전 기준을 마련하는 자율 규제기구 '프런티어 AI 표준기구(SAFA)' 를 올해 말이나 2027년 초 출범 목표로 추진 중이다. SAFA 는 출시 전 제3자 안전성 평가 지원과 사고 보고 절차를 맡을 계획이지만, 기존 프런티어 모델 포럼과의 역할 중복, 메타 등 오픈소스 개발사가 초기 평가 대상에서 빠진 점이 비판받고 있다. 국가 차원에서는 트럼프 대통령과 시진핑 주석이 25일 회담에서 AI 사건에 대응하는 비상 소통 채널(핫라인) 신설에 합의했으나 규제나 속도 조절 합의에는 이르지 못했고, 29일에는 트럼프 대통령과 마이크 존슨 하원의장이 빅테크 CEO 들과 AI 안전 회의를 연다.

에디터 코멘트: 한 주 동안 나온 발언들을 겹쳐 보면 방향은 세 갈래다. 게이츠는 연방 입법, 황은 기업 책임과 법적 책임, 3사는 업계 자율기구다. 공통점은 셋 모두 "지금 상태로는 안 된다"는 전제를 공유한다는 것이고, 게이츠 기사와 SAFA 기사가 각각 오픈AI 에이전트의 호주 보건 사이트·허깅페이스 침해를 배경으로 언급한 만큼 사고와 규제 논쟁은 직접 연결돼 있다. 국내 기업이 챙길 부분은 결론이 아니라 방향이다. SAFA 가 출시 전 제3자 평가와 사고 보고 절차를 표준화하면, 그 기준이 벤더 선정 시 요구할 수 있는 체크리스트가 된다. 지금 벤더 계약서에 "안전 사고 발생 시 통지 의무" 조항이 있는지부터 확인해 두면 기준이 나왔을 때 바로 반영할 수 있다.

AI타임스 · AI타임스 · AI타임스 · AI타임스 · AI타임스

챗봇 기능을 빼고 판단만 하는 모델이 실리콘밸리의 새 경쟁 축으로 떠올랐다. 타입세이프 AI 의 '제브(Jev)' 는 대화나 문장·이미지 생성을 지원하지 않고 이메일 분류, 에이전트 모니터링, 신용 위험 평가처럼 정해진 선택지 안에서 답을 내는 '결정 모델'로, 회사는 기존 대형언어모델 대비 지연 시간을 최대 200배 단축하고 운영 비용을 400분의 1 로 줄였다고 밝혔다. 입력 토큰 가격은 100만 토큰당 4.2센트이고 출력 토큰은 과금하지 않는다. 디 인포메이션에 따르면 시드 단계 기업가치 2억 달러였던 회사가 공개 일주일 만에 100억 달러 이상의 기업가치로 투자 제안을 받았고, 버셀에서는 출시 24시간 만에 유료 개발자 계정의 13% 가 도입했다. 다만 옥토마인드 테스트에서 적대적 입력에 따라 판단이 달라지는 사례가 확인됐고, 기존 제로샷 분류기와 무엇이 다른지 불명확하다는 지적도 나왔다. 스탠퍼드대와 엔비디아 연구진은 23일 같은 접근의 오픈소스 모델 'CLM-8B' 를 아파치 2.0 라이선스로 공개했다. 현재 상태와 가능한 행동을 같은 임베딩 공간에 두고 대조학습으로 고르는 방식으로, 구글 공룡 점프 게임 테스트에서 평균 16ms 지연으로 제브(150ms) 보다 9배 빨랐지만, BFCL v4 도구 호출 정확도는 95.2% 로 제브(99.2%) 에 못 미쳤다. 국내에서는 KT 의 '오토모델라우터' 가 라이스대 연구진의 LLM 라우터 벤치마크 '라우터 아레나' 정확도·비용 부문에서 2위에 올랐다. 요청의 업무 유형·난이도·지식 분야를 분석해 품질 목표를 만족하면서 비용이 낮은 모델로 연결하는 기술이다.

에디터 코멘트: 제브와 CLM 은 "모델을 더 똑똑하게" 가 아니라 "이 판단에 굳이 큰 모델이 필요한가" 를 묻는 흐름이고, KT 의 라우터는 같은 질문을 기업 운영 단에서 던진다. 실무에서 AI 비용의 상당 부분은 분류·검증·라우팅처럼 답이 정해진 반복 작업에서 나오는데, 이런 작업을 큰 모델로 처리하면 느리고 비싸다. 다만 제브 기사 자체가 적대적 입력에 판단이 흔들린 사례를 전하고 CLM 도 정확도에서 뒤졌으므로, 판단 전용 모델은 "그대로 실행" 이 아니라 신뢰도가 낮으면 큰 모델이나 사람에게 넘기는 2단 구조로 써야 한다. 파일럿을 검토한다면 CLM-8B 처럼 가중치가 공개된 모델로 사내 분류 과제 하나를 골라 기존 LLM 대비 정확도와 지연을 같은 데이터로 재보는 것이 첫 단계다.

AI타임스 · AI타임스 · Hugging Face · AI타임스

경쟁의 무게가 모델에서 에이전트를 관리·연결·과금하는 운영 층으로 옮겨가고 있다. 마이크로소프트는 25일 코파일럿을 전면 개편해 '홈', '코드', '오토파일럿' 세 축으로 재구성했다. 오토파일럿은 사용자가 자리를 비워도 백그라운드에서 상시 작동하는 에이전트로, 사내 디렉터리 안에서 고유 ID·메모리·컴퓨팅 환경을 받아 회의 준비나 누락 메일 답장 같은 일을 처리하고, 권한과 감사 기록은 '에이전트 365' 거버넌스 프레임워크로 관리된다. 사티아 나델라 CEO 는 "모든 에이전트는 고유한 정체성을 가져야 하며 모든 행동은 관찰되어야 한다"고 말했다. 요금은 일상 작업은 사용자당 월정액, 장시간 실행되는 에이전트 작업은 사용량 기반 종량제로 나눴다. 국내 라이너는 에이전트가 필요한 도구를 스스로 찾아 연결하는 '라이너 액션 MCP' 를 1~2주 내 국내 정식 출시한다고 27일 밝혔는데, 서버 URL 하나와 계정 승인 1회로 1,000개 이상 서비스 액션을 연동하며 사용자 데이터는 저장하지 않는다고 설명했다. 앤트로픽은 25일 클로드 플러그인 제출·안전성 검토·사용량 분석을 한곳에서 하는 개발 포털을 공개하며 올해 클로드 제품 전반의 MCP 사용량이 110배 늘었다고 밝혔다. 같은 시기 깃허브 트렌딩에는 직장에서 에이전트를 관리하는 오픈소스 앱 paperclip, 학습하는 에이전트 메모리 hindsight, 스프레드시트·문서·슬라이드를 한 런타임에서 다루는 에이전트용 오피스 하니스 univer 가 동시에 올랐다.

에디터 코멘트: MS 의 "정체성과 관찰" 선언, 라이너의 "연결 자동화", 앤트로픽의 "검토 포털", 오픈소스의 "관리·메모리·하니스" 는 서로 다른 회사가 같은 빈칸을 채우는 장면이다. 에이전트가 실제 업무에 들어가면 필요한 것은 더 좋은 모델이 아니라 누가 무엇을 했는지 기록하고, 어떤 도구에 접근할 수 있는지 제한하고, 얼마나 썼는지 계산하는 층이다. 1번 항목의 사고는 이 층이 없을 때 벌어지는 일이고, MS 가 장시간 에이전트 작업에 종량제를 붙인 것은 비용 폭주가 실제 운영 문제라는 뜻이다. 에이전트 도입을 검토하는 조직은 벤더에 모델 성능보다 먼저 "에이전트별 ID·감사 로그·도구 허용 목록·비용 상한이 있는가" 를 물어야 한다.

AI타임스 · AI타임스 · AI타임스 · GitHub · GitHub · GitHub

국내 산업별 AI 전환(AX) 도입 사례가 금융과 제조로 넓어지면서 현장에 AI 를 심는 인력 수요가 함께 커졌다. 스모어톡은 27일 숏폼 영상 제작 AI '레이턴트 스튜디오' 를 신한은행에 공급하는 계약을 체결했다. 신한은행 S&T센터는 매일 PDF 로 배포하던 데일리 환율 시황을 숏폼 영상으로 확대하는데, 담당자가 그날의 시황 설명문을 입력하면 AI 가 시나리오·장면 구성·일러스트·내레이션·자막까지 자동 제작하고, 시범 운영으로 반응을 본 뒤 적용 범위를 넓힐 예정이다. 영상 AI 트웰브랩스는 26일 미디어 중심이던 사업을 국내 스마트 제조 이상 탐지와 피지컬 AI 로 확장한다고 밝혔다. 양품·불량 데이터를 대량 학습시켜야 했던 기존 영상 판독과 달리 공정 전체 맥락을 이해해 예상치 못한 불량을 잡는 방식이며, 한국 사무실 인력은 2025년 초 대비 50% 이상 늘었다. 인력 쪽에서는 데이원컴퍼니가 25일 고객사에 상주하며 맞춤 솔루션을 구축하는 '전방 배치 엔지니어(FDE)' 양성 과정 'FDE 아카데미' 를 신설했다. 미국 인디드 기준 지난해 1~9월 FDE 채용 공고는 전년 동기 대비 800% 늘었고, 국내에서도 올해 마키나락스·CJ올리브영·올거나이즈코리아 등이 채용을 확대했다. 과정은 8주간 기업형 AX 프로젝트 하나를 수행하며 'AI 적용 엔지니어' 와 '비즈니스 전략가' 두 트랙으로 나뉘고, 개발 전공자가 아니어도 수강할 수 있으나 아직 특정 기업 채용과 직접 연계되지는 않는다.

에디터 코멘트: 신한은행 사례에서 눈여겨볼 대목은 기술이 아니라 대상이다. "매일 반복 생산되는 전문 콘텐츠" 라는 조건이 붙었기 때문에 검토 기준이 엄격한 금융권에서도 계약이 됐다. 트웰브랩스도 미디어에서 제조로 옮기며 국내 영업과 에이전트 개발 인력을 늘렸다. 두 사례가 보여주는 병목은 "AI 를 아는 사람" 이 아니라 "우리 업무를 알고 AI 를 붙일 수 있는 사람" 이고, FDE 아카데미가 비즈니스 전략가 트랙을 따로 둔 것도 같은 진단이다. AX 를 추진하는 조직은 외부 개발자를 구하기 전에 현업에서 반복 업무를 정의하고 도입 범위를 정할 수 있는 사람을 먼저 길러야 하며, 이 역할은 개발 경험보다 업무 이해에서 나온다.

AI타임스 · AI타임스 · AI타임스