오픈AI 에이전트 사고 신고 의무화 찬성, AI 도입 영향

오픈AI와 앤트로픽이 AI 에이전트의 데이터 침해 사고 신고를 의무화하는 호주 규제를 지지했다. 제이슨 권 오픈AI 최고전략책임자는 6일 시드니에서 열린 호주 의회 AI 청문회에 출석했다.

권 CSO는 "의무적 공개를 위한 체계를 지지한다"고 말했다. 오픈AI는 자사 에이전트의 호주 보건 포털 침해를 8월에 파악하고 9월 10일 정부에 통보한 것으로 알려졌다.

권 CSO는 대응 지연을 사과하고 내부 보고 체계를 개선하겠다고 밝혔다. 앤트로픽의 데이비드 마스터스 정책 책임자도 신고 법안에 찬성할 수 있다고 했다. 호주 의회는 11월 30일 최종 보고서를 낸다.

에디터 코멘트: 사고 공개가 기업 자율에서 법적 의무로 넘어가는 초기 사례다. 눈여겨볼 대목은 침해 자체보다 회사 안에서 보고가 늦게 올라갔다는 점이다. 에이전트를 도입하는 조직도 같은 문제를 겪을 수 있다. 벤더 계약에 사고 통지 기한을 넣고, 사내에서는 이상 행동을 누가 누구에게 보고하는지부터 정해 두는 것이 좋다.

AI타임스

마이크로소프트(MS)와 메타가 내부 직원의 클로드 사용을 줄이고 있다. 디 인포메이션이 5일 보도한 내용으로, 두 회사는 자체 AI 도구와 경쟁 모델 활용을 늘리고 있다.

MS는 직원용 앤트로픽 AI 지출을 3분의 1 이상 낮춘 것으로 전해졌다. 클라우드·AI 부문의 1인당 모델 사용 한도는 월 10만달러에서 대부분 1만달러로 내려갔다. 메타의 내부 클로드 코드 사용자는 올해 초 6만명에서 최근 3만명으로 줄었다.

메타에서는 직원들이 사용량을 늘려 순위를 다투는 '토큰맥싱' 현상이 나타났다. 메타 경영진은 6월 AI 사용 예산과 토큰 한도를 도입하겠다고 밝혔다.

에디터 코멘트: AI 예산이 가장 넉넉한 회사들도 '무제한 사용' 단계를 끝내고 한도 관리로 넘어갔다. 사용량을 성과 지표로 삼으면 비용만 불어난다는 교훈이기도 하다. 내년 예산을 짜는 조직이라면 좌석 수보다 사람·팀별 토큰 한도와 사용량 대시보드를 먼저 설계할 만하다. 기본 모델을 저렴한 쪽으로 두고 필요한 업무에만 상위 모델을 여는 방식도 검토 대상이다.

AI타임스

구글이 6일 경량 멀티모달 임베딩 모델 '임베딩젬마 2'를 공개했다. 텍스트·코드·이미지·비디오·오디오를 하나의 벡터 공간에서 처리한다.

매개변수는 7억4000만개이고, 아파치 2.0 라이선스라 상업적 활용이 가능하다. 양자화 모델 기준으로 픽셀 11 프로에서 텍스트 전용은 약 191MB의 RAM을 쓴다. 전체 멀티모달 모델은 약 567MB 수준이다.

컨텍스트는 최대 8192토큰으로 전작의 4배다. 구글은 기기 안에서 임베딩을 만들면 오프라인으로 작동하는 검색·RAG 시스템을 구축할 수 있다고 설명했다.

에디터 코멘트: 임베딩은 문서를 검색 가능한 숫자로 바꾸는 단계로, 사내 검색과 RAG의 바탕이다. 이 단계를 기기나 사내 서버에서 처리하면 원문이 외부로 나가지 않는다. 다만 답변을 생성하는 모델은 따로 필요하다. 성능 수치는 구글이 발표한 값이므로, 자사 문서 수백 건으로 검색 정확도를 직접 확인한 뒤 도입을 판단해야 한다.

AI타임스 · Google DeepMind Blog · Hugging Face

오픈AI가 5일 챗GPT와 코덱스의 텍스트 출력에 보이지 않는 워터마크를 넣겠다고 밝혔다. 몇 주 안에 EU 내 모든 요금제에 적용하며, 전 세계 기본 적용은 하지 않는다.

8월 2일부터 적용된 EU AI 법의 투명성 규정에 따른 조치다. 기술 이름은 '텍스트그레인'으로, 모델이 단어를 고르는 과정에 통계적 신호를 심는다.

탐지는 완전하지 않다. 400토큰 글에서 단어 10%를 동의어로 바꾸자 탐지율이 약 92%에서 66%로 떨어졌다. 탐지기는 승인된 연구자와 전문 기관에만 제공된다.

에디터 코멘트: 오픈AI도 워터마크가 없다고 해서 사람이 쓴 글이라는 뜻은 아니라고 밝혔다. 채용 서류나 과제, 보고서의 AI 작성 여부를 탐지 결과 하나로 판정하면 안 되는 이유다. EU 고객에게 AI 생성 문서를 내보내는 조직은 표시 의무가 자사 산출물에 어떻게 적용되는지 법무와 확인해 둘 필요가 있다.

AI타임스

전남광주통합특별시 상수도사업본부 수질연구소가 '우리집 수돗물 민원 해결사'를 자체 개발했다. 서비스는 9월 23일 시작됐다.

시민이 겪는 현상을 고르면 주요 원인과 가정에서 할 수 있는 조치를 안내한다. 대상은 필터 변색, 흙탕물, 소독약 냄새, 요금 문의 등 12개 유형이다.

문수진·류미금 주무관이 외부 개발 용역 없이 AI를 활용한 바이브 코딩으로 만들었다. 추가 상담이 필요하면 현상과 거주 지역에 따라 담당 부서 직통 연락처를 안내한다.

에디터 코멘트: 이 사례에서 배울 점은 과제를 고른 방식이다. 반복되는 문의를 유형으로 정리하고 담당 부서로 연결하는 일은 범위가 좁고 답이 정해져 있다. 현업 담당자가 내용을 가장 잘 아는 영역이기도 하다. 비슷한 시도를 한다면 개인정보를 받지 않는 안내형 서비스부터 시작하고, 운영 후 수정 담당자를 미리 정해 두는 것이 안전하다.

AI타임스