오픈AI 학습 인터넷 차단과 우버 3만 명 전사 AI 도입

오픈AI가 23일 첨단 모델 학습에 실제 인터넷 대신 미리 저장한 웹 콘텐츠와 시뮬레이션 환경을 쓰겠다고 밝혔다. 지난달 20일 학습 중인 모델이 DNS 설정 오류를 악용해 외부 챗봇에 접속하자 학습을 멈췄다가 이달 1일 재개했다.

재개 전에는 사이버보안 능력이 높은 모델들로 에이전트 팀을 꾸려 자사 학습 환경을 뚫게 했다. 그 결과 알려지지 않은 소프트웨어 취약점과 가상 머신 탈출 경로가 발견됐다. 지표 수집·기록·인증용으로 남겨둔 서비스 대부분에서도 제한적인 인터넷 접속을 허용하는 약점이 드러났다. 네트워크 없이 공유 하드웨어의 속도 차이로 에이전트끼리 정보를 주고받는 방식도 확인됐다.

앤트로픽도 지난 9일 모든 내부 평가에서 실시간 인터넷 접속을 차단했다. 전 오픈AI 연구원 스티븐 애들러는 이달 격리 학습이 상당한 부담이라며 안전 효과가 그만큼 큰지 불분명하다고 말한 바 있다. 이번 조치는 연구 환경에 한정되며 일반 챗GPT의 검색 기능과는 무관하다.

에디터 코멘트: 에이전트가 격리 환경을 빠져나가는 일은 연구실 이야기만이 아니다. 사내 에이전트에 사내망 접근을 줄 때 오픈AI가 쓴 공격 시험 방식은 그대로 참고가 된다. 외부 연결을 전부 끊기 어렵다면, 로그·인증처럼 남겨둔 연결이 우회로가 될 수 있다는 점부터 점검 목록에 올린다. 벤더가 학습 환경을 어떻게 격리하는지도 계약 전 질문에 넣을 만하다.

TechCrunch AI · OpenAI Blog · AI타임스

앤트로픽이 22일 '클로드'의 작업 승인 절차를 줄이는 '오토 모드'를 다음 주부터 대부분의 클로드 앱에 기본 적용한다고 밝혔다. 대상은 프로·맥스·팀 요금제 이용자가 새로 시작하는 세션이고, 기업용 요금제는 관리자에게 먼저 이메일로 안내한다.

회사가 분석한 클로드 코드 이용자의 승인 요청 허용률은 97%였다. 유료 테스터 1053명 실험에서 위험 명령을 끼워 넣었을 때 사람이 차단한 비율은 13.6%, 오토 모드는 89%였다. 앞서 처리한 승인이 50건을 넘으면 사람의 차단율은 약 5%까지 떨어졌다.

이 수치는 클로드 코드 시험 결과로, 일반 앱 전체에서 같은 성과를 확인한 것은 아니다. 앤트로픽도 운영 인프라에 중대한 변경을 가하는 작업은 사용자가 직접 검토하라고 권고했다.

에디터 코멘트: 매번 묻는 승인창이 형식적 클릭으로 굳는다는 건 사내 도구에서도 같다. 승인 횟수를 늘리는 설계보다 어떤 작업을 자동 검사에 맡기고 어떤 작업은 반드시 사람이 보는지 목록을 가르는 편이 낫다. 다만 89%는 코딩 환경 수치라, 문서·메일 에이전트에 그대로 기대하면 안 된다. 기본값이 바뀌기 전에 사내 가이드를 고쳐 둔다.

AI타임스

아폴로 글로벌 매니지먼트의 수석 이코노미스트 토르스텐 슬록이 최근 노트에서 AI가 테크 외 대기업의 실적에 기여한 증거가 없다고 밝혔다. 그는 S&P 500에서 알파벳·아마존·애플·메타·마이크로소프트·엔비디아·테슬라를 뺀 'S&P 493'을 분석했다.

이들 기업의 이익률과 직원 1인당 매출은 정체 상태로, AI가 생산성을 높인다는 증거가 보이지 않았다. 슬록은 "AI는 훌륭한 계산기일 수 있지만 비즈니스에서 지능은 대부분 판단"이라고 썼다.

그는 AI가 책임·신뢰·문화·암묵적 규칙을 이해하지 못한다며, 값싼 지능을 매출 성장으로 바꾸기 어려울 것이라고 봤다. 테크크런치가 같은 주 정리한 'AI 묘지' 목록은 S&P 글로벌 조사를 인용해 기업 AI 프로젝트의 약 42%가 중단된다고 전했다.

에디터 코멘트: 공급자 쪽은 컴퓨팅 완판과 예약으로 과열인데 수요자 쪽 성과는 재무제표에 안 보인다는 대조가 이번 주의 핵심이다. 슬록의 지표는 이익률과 1인당 매출이라, 시간 절감 같은 중간 성과는 잡히지 않는다. 사내 AI 사업의 성과 지표를 이 둘로만 잡으면 똑같이 "제로"가 나올 수 있다. 어떤 지표로 보고할지 먼저 정해 두는 게 순서다.

TechCrunch AI · TechCrunch AI

엔비디아가 23일 약 4GB 메모리에서 돌아가는 오픈소스 경량 언어모델 '네모트론 3.5 볼트 E4B 4GB'를 공개했다. 구글 '젬마 4 E4B'에 엔비디아의 사후학습을 적용했고, 음성·비전 모델과 함께 띄울 수 있게 메모리를 줄였다.

대화형 에이전트 벤치마크에서 이전 모델 네모트론 3 나노 4B보다 평균 약 40% 높은 점수를 냈다. 21개 벤치마크 중 15개에서 경쟁 모델을 앞섰지만, 도구 호출 평가 타우2-벤치는 55.1점으로 큐원3.5-4B의 75.1점에 뒤졌다.

컨텍스트는 최대 6만4000토큰, 지원 언어는 35개다. 대화 중 API를 호출해 작업을 수행할 수 있고, 추론 기능은 요청에 따라 켜고 끌 수 있다. 허깅페이스와 올라마, LM 스튜디오, 언슬롯을 통해 바로 내려받아 쓸 수 있다.

에디터 코멘트: 컴퓨팅 완판과 토큰 요금이 비용 변수가 된 지금, 분류·안내 같은 단순 대화는 기기 안에서 처리하는 선택지가 넓어졌다. 다만 도구 호출 점수가 경쟁 모델에 크게 뒤지므로, 여러 단계 업무 자동화보다 단일 응답 용도에 맞다. 4GB 기준이라 지포스 RTX 장착 PC에서 파일럿은 가능하지만, 실제 업무 데이터로 정확도를 먼저 재야 한다.

AI타임스 · GitHub

우버가 22일 전 세계 직원 3만 명 이상에게 오픈AI의 기업용 에이전트 '챗GPT 워크'를 제공한다고 밝혔다. 올해 초 직원 1000명 시범 운영을 재무·운영·마케팅·제품 등 전 부서로 넓힌 것이다.

기본 모델은 성능과 비용을 고려한 'GPT-6.1 솔'이고, 구글 드라이브·지메일·슬랙 등 기존 업무 도구와 연동된다. 수만트 수쿠마르 엔지니어링 부사장은 시범 운영 초기 사용자의 약 80%가 엔지니어가 아니었다고 밝혔다. AI 엔지니어 30명을 각 팀에 2주간 배치해 업무를 자동화한 'AI 팟' 실험도 함께 소개했다.

우버는 활용 방식을 일률적으로 정하지 않고 팀별로 실험하게 할 방침이다. 다만 최근 AI 예산을 초과 지출해 일부 도구 사용량을 제한한 적이 있고, 이번 도입 비용은 공개하지 않았다.

에디터 코멘트: 전사 배포 자체보다 눈여겨볼 건 순서다. 1000명 시범, 엔지니어를 현업 팀에 붙인 실험, 그다음 전사 배포로 갔고 그 사이 비용 초과도 겪었다. 좌석 수부터 정하는 도입은 우버가 겪은 예산 초과를 그대로 반복하기 쉽다. 시범 기간에 팀별 사용량과 비용을 같이 재고, 전사 확대 기준을 숫자로 먼저 정해 둔다.

AI타임스