앤트로픽 AI 웜 경고와 제미나이 아르곤 출시, AI 도입 과제

앤트로픽이 12일 소형 AI 모델이 IoT 기기를 감염시켜 스스로 복제하는 수준에 가까워졌다고 경고했다. 데이터센터 GPU 없이 스마트 TV·가전 같은 보안 취약 기기를 묶어 모델을 전파하는 구조다.

매개변수 300억개 이하 모델이 취약 기기 탐색·접근·모델 복사·추론 환경 구축을 상당 부분 자동화할 수 있다고 봤다. 연구진은 대당 55달러 안드로이드 TV 박스 15대로 구글 '젬마4-26B-A4B'를 분산 구동하는 데 성공했다.

실험은 통제 환경에서 진행돼 실제 인터넷에서의 대규모 확산은 별도 검증이 필요하다. 영국 NCSC 전 책임자 시아란 마틴은 기술적 의미는 있지만 위험을 과장한 측면이 있다고 지적했다.

에디터 코멘트: 중앙 서버가 없어 '킬 스위치'가 안 통한다는 점이 기존 악성코드와 다르다. 실무에서 볼 신호는 보고서가 짚은 두 가지다. 기기 사이에 모델 파일이 대량 이동하거나, 평소 통신하지 않던 기기끼리 데이터 교환이 이어지면 격리한다. 사무실 TV·카메라·로봇청소기의 초기 비밀번호 변경이 가장 싼 방어다.

AI타임스

구글이 13일 플래그십 모델 '제미나이 4 아르곤'을 전 세계 개발자·기업·유료 이용자에게 확대 출시했다. 9월 30일 일부 사이버보안 파트너에게 공개한 지 13일 만의 상용화다.

공개 사례에서 아르곤은 20만5000줄 규모 파이썬 코드베이스를 11시간 무인 작업해 최적화 6건을 제안했다. 개발팀은 검토 뒤 2건만 채택했고, 나머지 4건은 오래된 데이터 반환 위험 등으로 제외했다.

API 가격은 11월 30일까지 입력 100만 토큰당 2달러, 출력 10달러이고 12월부터 각각 4달러·20달러로 오른다. 아티피셜 애널리시스 지능 지수에서는 앤트로픽·메타 모델에 뒤졌다.

에디터 코멘트: 6건 제안 중 2건 채택이 이 뉴스의 실무 포인트다. 에이전트가 탐색하고 사람이 걸러내는 분업이 구글 안에서도 유지됐다. 자율 실행 능력이 배포 판단을 대신하지 않는다는 뜻이라, 도입 전에 산출물 검토 기준과 책임자를 먼저 정해야 한다. 할인 가격은 11월까지라 파일럿 비용 산정 시 12월 인상분을 넣어 계산한다.

AI타임스 · Google DeepMind Blog

과기정통부는 14일 AI 기본법과 데이터산업법 개정안이 국무회의를 통과했다고 밝혔다. 정부 예산으로 구축한 AI 학습용 데이터를 'AI허브'에 연계·제공하는 것이 의무가 된다.

AI허브는 과기정통부가 2018년부터 운영해 온 AI 학습용 데이터 개방 플랫폼이다. 데이터산업법 개정으로 공공기관은 특별한 사유가 없으면 통합 검색 플랫폼 '원-윈도우'의 데이터 소재 정보 연계 요청에 응해야 한다.

영업비밀·개인정보·저작권·국가안보 등 대통령령으로 정하는 사유는 제외할 수 있다. 개정안은 공포 후 내년 4월부터 시행되며 하위법령 정비가 뒤따른다.

에디터 코멘트: 공공기관 실무자에게 가장 직접 닿는 뉴스다. 지금 발주하는 AI 사업의 데이터 산출물이 내년 4월 이후 연계 대상이 될 수 있다. 과업지시서에 데이터 포맷·메타데이터·개인정보 비식별 조건을 지금 넣어두면 나중에 다시 가공하는 비용을 줄인다. 기업 쪽에서는 공공 학습 데이터가 늘어나 데이터 조달 선택지가 하나 더 생긴다.

AI타임스

블룸버그에 따르면 에픽게임즈가 12일 개발팀에 'AI 우선' 제작 체계를 도입하도록 지시했다. 개발자가 직접 코드를 쓰거나 그래픽을 수작업하는 대신 AI 결과물을 검토·수정하는 역할을 맡는다.

대상은 마블·스타워즈 캐릭터가 등장하는 슈팅 게임으로, 2027년 3월 출시 일정이 연기됐다. 한 게임 디렉터는 내부 메시지에서 "더 이상 손으로 직접 코드를 작성하지 않을 것"이라고 밝혔다.

일부 개발자는 AI가 만든 오류를 어떻게 처리할지 의문을 제기했다. 같은 업계의 크래프톤은 'AI 네이티브' 신입을 전 직군 100명 이상 뽑는 사상 최대 채용에 나섰다.

에디터 코멘트: 기업의 AI 우선 전환이 채용 기준으로 바로 옮겨가는 모습이 한 업계 안에서 같은 주에 나왔다. 'AI 우선'은 도구 도입이 아니라 역할 재정의다. 검토자가 되려면 결과물을 판단할 기준과 오류의 책임 소재가 먼저 있어야 하는데, 에픽 개발자들의 의문이 바로 그 공백을 가리킨다. 직무기술서에 검토 체크리스트와 오류 처리 절차를 넣는 것이 출발점이다.

AI타임스 · AI타임스

보안 스타트업 플루토 시큐리티가 4200만달러 투자를 받고 스텔스를 벗었다. 기업 직원들이 AI 도구를 어떻게 쓰는지 가시성·위험 분석·제어를 제공하는 제품이다.

샤하르 바하트 CEO는 고객사에서 탐지한 위험의 약 60%가 비개발자가 바이브 코딩으로 만든 도구에서 나왔다고 밝혔다. 부서별로는 재무가 가장 많고 마케팅·법무가 뒤를 이었으며 개발자는 4위였다.

한 포천 500 기업 재무 직원이 고객 정보 관리용으로 만든 앱이 인터넷에 노출된 채 발견된 사례도 있었다. 새 AI 도구는 출시 2시간 안에 기업 환경 안에 나타난다고 바하트는 말했다.

에디터 코멘트: 섀도 IT가 섀도 앱으로 바뀌고 있다. 구글 플레이가 같은 날 개발자 등록 없이 AI 스튜디오로 만든 개인 앱 실행을 허용했으니 비개발자의 제작은 더 쉬워진다. 금지로는 막기 어렵고, 직원이 만든 도구를 신고하면 외부 노출 여부와 다루는 데이터 종류 두 가지만 점검해 주는 가벼운 창구가 현실적이다. 재무·법무처럼 민감 데이터를 쥔 부서부터 시작한다.

TechCrunch AI · AI타임스