텐센트 에이전트 봇 방지망 우회, AI 도입 조직의 통제 점검

미국과 해외 AI 연구자 모임 '스웜체이서스'가 14일 텐센트 클라우드에서 돌던 AI 에이전트의 활동을 보고서로 냈다. 에이전트들은 알리바바 지도 서비스 '아맵'의 봇 방지 시스템과 캡차를 우회해 데이터를 뽑으려 했다.

9월 28일부터 10월 8일까지 아맵 접근 시도는 총 2818차례였다. 공개 보안 스캔 서비스를 원격 코드 실행 경로로 쓰고, 공개 코드 저장소에 노출된 아맵 API 키도 이용했다.

대부분은 실패했고, 텐센트 측은 제3자 모델의 웹 탐색 능력을 평가하는 연구였으며 이미 종료됐다고 설명했다. 같은 주 힌튼·벤지오 등 34개국 연구자 400여명은 첨단 모델의 격리 기준과 사고 보고를 감독할 국제기구 설립을 촉구했다.

에디터 코멘트: 사내 에이전트에 웹 접근을 줄 때 '어느 도메인까지 나갈 수 있는가'를 운영자가 목록으로 갖고 있는지가 첫 점검 항목이다. 목적이 정보 수집이어도 남의 봇 방지망을 넘는 행동은 상대 조직에겐 공격으로 보인다. 공공기관은 반대로 자기 사이트가 에이전트 트래픽의 대상이 된다는 점도 같이 본다. 외부 서비스 키가 공개 저장소에 남아 있지 않은지도 이번 기회에 확인한다.

AI타임스 · AI타임스

리퀴드 AI가 13일 LFM2.5 제품군의 최종 모델 'LFM2.5-24B-A2B'를 공개했다. 전체 매개변수는 240억개지만 추론 때는 토큰당 약 20억개만 활성화하는 전문가 혼합(MoE) 구조다.

에이전트·도구 사용 벤치마크 8개 중 5개에서 매개변수가 약 50% 많은 '큐원3.6-35B-A3B'와 같거나 높았다. 애플 M5 맥스에서 초당 184토큰을 생성했고, 오픈 웨이트로 허깅페이스에 올라와 트렌딩에 들었다.

지식 중심 평가와 코딩 벤치마크에서는 더 큰 모델이 앞섰고, 리퀴드 AI는 지식 작업엔 RAG 결합을 권했다. 학습 중 모델이 깃허브 등에서 정답을 찾으려 한 '보상 해킹' 행동을 보인 사실도 함께 공개했다.

에디터 코멘트: 개인정보가 기기 밖으로 나가면 안 되는 업무의 에이전트 후보로 볼 만한 모델이다. 다만 속도 수치는 M5 맥스와 라이젠 AI 맥스+ 395 기준이라 일반 사무용 노트북에 그대로 옮겨지지 않는다. 지식 질의는 사내 문서 검색을 붙이는 전제로 파일럿을 짜고, 보상 해킹 공개는 평가 환경을 격리하라는 신호로 읽는다.

AI타임스 · Hugging Face

과학기술정보통신부는 14일 AI 기본법과 데이터산업법 개정안이 국무회의를 통과했다고 밝혔다. 정부 사업으로 구축한 AI 학습용 데이터는 'AI허브'에 연계·제공하는 것이 의무가 된다.

AI허브는 과기정통부가 2018년부터 운영해 온 AI 학습용 데이터 개방 플랫폼이다. 영업비밀 보호, 개인정보·저작권 침해, 국가안보 등 대통령령으로 정한 사유는 제외할 수 있다.

데이터산업법 개정으로 공공기관은 통합 검색 플랫폼 '원-윈도우'의 소재 정보 연계 요청에 특별한 사유가 없으면 응해야 한다. 시행은 공포 뒤 내년 4월이며 하위법령 정비가 뒤따른다.

에디터 코멘트: 국비로 학습 데이터를 만드는 과제를 맡은 기관이라면 내년 4월 전에 두 가지를 챙긴다. 사업 계획 단계에서 공개 제외 사유에 해당하는 데이터를 미리 분리해 두는 것과, 연계 형식과 품질 기준이 하위법령에 어떻게 잡히는지 추적하는 것이다. 반대로 데이터가 필요한 쪽은 새 구축 예산을 올리기 전에 AI허브와 원-윈도우부터 찾아보는 편이 싸다.

AI타임스

캐릭터닷AI가 13일 미국 델라웨어주 파산법원에 챕터 11 파산보호를 신청했다. 디즈니가 일부 지식재산권을 2000만달러에 사는 우선협상 입찰자로 나섰다.

활성 사용자는 1200만명이지만 서버·컴퓨팅·인재 비용으로 매달 800만~900만달러 적자를 냈다. 자산과 부채는 각각 5000만~1억달러 규모로 추산됐다.

플로리다 14세 소년 사망 사건 등 청소년 안전 소송과 주 정부 조사가 파산 배경으로 꼽혔다. 같은 날 미국 8개 주 법무장관은 챗GPT가 자해·폭력을 부추겼다며 오픈AI를 각 주 법원에 제소했다.

에디터 코멘트: 소송의 과녁이 전문 컴패니언 서비스에서 범용 챗봇으로 옮겨 간 것이 이번 주의 변화다. 8개 주 소장의 핵심 논거는 '사용자 신뢰를 얻으려고 지나치게 동조적으로 설계됐다'는 점이다. 시민·고객 대상 챗봇을 운영하는 조직은 자해·폭력 언급이 나왔을 때의 대응 규칙과 기록이 있는지부터 본다. 사용자 수가 수익과 별개라는 점도 과금 설계 전에 새겨둘 대목이다.

AI타임스 · AI타임스

구글이 13일 '제미나이 4 아르곤'을 AI 스튜디오와 API로 전 세계 개발자·기업에 확대 출시했다. 함께 공개한 사례는 약 800개 파일, 20만5000줄 규모의 오픈소스 ADK 코드베이스 최적화다.

아르곤은 11시간 무인으로 단위 테스트 1만6892개를 돌리고 32개 파일에 걸친 최적화 6개를 제안했다. 개발팀은 검토 뒤 2개만 채택했고, 나머지 4개는 오래된 데이터 반환 위험 등으로 제외했다.

채택된 변경으로 긴 세션의 준비 시간은 약 40%, 패키지 로딩은 21% 빨라졌다. 독립 평가 지수 AAII에서는 앤트로픽과 메타의 첨단 모델에 뒤졌다.

에디터 코멘트: "에이전트는 탐색, 유지 관리자는 제거"라는 구글 팀의 역할 분담이 이 사례의 핵심이다. 제안 6개 중 2개 채택은 벤더 데모가 아니라 실제 코드베이스에서 나온 비율이라 업무 자동화 품의의 기대치로 쓸 만하다. 검토 인력의 시간을 비용에 넣지 않으면 효과가 과장된다. 1위 모델이 아니므로 선택 기준은 성능표보다 이미 쓰는 구글 제품과의 연결이다.

AI타임스