오픈AI 에이전트 사고·EU 워터마크, 기업 AI 도입 영향

오픈AI가 자사 AI 에이전트와 관련된 사이버 보안 침해 사건으로 손해 배상 청구와 규제 조사에 직면했다. 파이낸셜타임스에 따르면 지난 한 주 동안 캘리포니아에서 호주까지 새 소송과 조사가 거의 매일 제기됐다.

플로리다주 법무장관은 추가 안전장치 없이는 새 모델 개발을 중단시켜 달라고 법원에 요청했다. 15개 주 법무장관 연합은 소송에 대비해 해킹 정보 보존을 요구했다.

위키미디어 재단은 5일 오픈AI 에이전트가 수백만 개 페이지를 방문하고 수십만 건의 쿼리를 실행했다고 밝혔다. 재단은 5월 위키데이터 쿼리 서비스 부분 장애가 이 활동과 관련됐을 가능성이 있다고 설명했다. 오픈AI는 조사 결과를 검토 중이라고 밝혔다.

에디터 코멘트: 소송과 법안은 에이전트가 낸 사고의 책임을 개발사에 묻는 쪽으로 움직이고 있다. 에이전트를 쓰는 조직도 같은 질문을 받게 된다. 사내 에이전트가 외부 사이트에 요청을 얼마나 보내는지, 무엇을 수정할 수 있는지 기록이 없으면 사고가 났을 때 설명할 수단이 없다. 접근 범위, 요청 한도, 로그 보관 기간을 도입 전에 운영 기준으로 적어 두어야 한다.

AI타임스 · AI타임스

오픈AI가 EU 내 챗GPT와 코덱스의 텍스트 출력에 보이지 않는 워터마크를 넣는다. 앞으로 몇 주 안에 EU의 모든 요금제에 적용하며, 전 세계 기본 적용은 하지 않는다.

8월 2일부터 적용된 EU AI 법의 투명성 규정에 따른 조치다. API에서는 전 세계 고객이 일부 모델에 한해 직접 켤 수 있고, 기본값은 꺼진 상태다.

오픈AI는 한계도 함께 공개했다. 400토큰 텍스트에서 단어의 10%를 동의어로 바꾸자 탐지율이 약 92%에서 66%로 떨어졌다. 탐지기는 승인된 연구자와 전문 기관에만 제공한다.

에디터 코멘트: 출시 시점 기준으로 한국 사용자의 챗GPT 출력은 워터마크 기본 적용 대상이 아니다. 오픈AI 스스로 워터마크가 없다고 사람이 썼다는 증거는 아니라고 밝혔다. 탐지기도 일반에 공개되지 않았으니, 워터마크 유무로 AI 작성 여부를 가리는 사내 규정이나 평가 기준은 근거가 약하다. EU 고객에게 문서를 납품하는 조직이라면 표시 의무가 계약 요건에 들어 있는지부터 확인해야 한다.

TechCrunch · AI타임스

MIT 테크놀로지 리뷰 인사이트가 데이터·AI·기술 임원 300명을 조사한 보고서를 냈다. 조직의 에이전트형 AI 프로젝트 가운데 운영 단계까지 가는 비율은 평균 34% 안팎이었다.

에이전트의 지식 접근을 넓히는 데 가장 큰 걸림돌로는 데이터 파편화가 꼽혔다(55%). 프로젝트의 평균 61%를 파일럿 너머로 보낸 선도 조직은 지식 역량, 특히 시맨틱 영역이 더 강했다.

선도 조직에서는 72%가 보안·개인정보 우려를 주요 과제로 들었다. 조직들은 수집 파이프라인과 RAG 같은 검색 기술, 평가 에이전트, 지식 그래프에 투자를 우선할 계획이다. 이 보고서는 편집국이 아닌 맞춤 콘텐츠 부서가 제작했다.

에디터 코멘트: 이 조사에서 프로젝트를 멈춰 세운 원인은 모델 성능이 아니라 낡은 데이터 시스템, 보안 우려, 지식·맥락 부족이었다. 파일럿을 평가할 때 "어느 모델을 쓸까"보다 "에이전트가 읽을 문서가 어디에 흩어져 있나"를 먼저 묻는 편이 낫다. 다만 맞춤 콘텐츠 부서가 만든 임원 설문이므로, 수치는 방향을 보는 참고로만 쓰길 권한다.

MIT Technology Review

KAIST 김민수 교수 연구팀이 동적 벡터 검색 기술 '콘다(CONDA)'를 개발했다고 5일 밝혔다. 데이터가 계속 추가·삭제되는 환경에서도 검색 정확도를 유지하도록 설계한 그래프 기반 기술이다.

연구팀은 추가와 삭제가 반복되면 데이터 사이 연결망이 끊기는 '연결성 붕괴'가 생길 수 있다고 지적했다. 정보가 데이터베이스 안에 있어도 검색이 그곳까지 도달하지 못한다는 설명이다. 실험에서 콘다는 기존 최신 기술보다 검색 정확도를 최대 24.5%, 처리 속도를 최대 1.90배 높였다.

1억 개 데이터 환경에서 6시간 동안 검색과 업데이트를 동시에 수행하는 실험도 했다. 이 기술은 김 교수가 창업한 그래파이의 '아카식DB'에 적용돼 올해 4분기 상용화될 예정이다.

에디터 코멘트: 사내 규정이나 업무 문서처럼 자주 바뀌는 자료로 RAG를 운영한다면 새겨들을 내용이다. 구축 직후에 잰 검색 품질이 문서를 고치고 지우는 동안 그대로 유지된다고 가정하기 어렵다는 뜻이기 때문이다. 수치는 연구팀 자체 실험 결과이고 제품은 아직 출시 전이다. 지금 할 수 있는 일은 같은 질문 세트로 검색 품질을 주기적으로 다시 재는 것이다.

AI타임스

디 인포메이션에 따르면 마이크로소프트(MS)와 메타가 내부 직원의 클로드 사용을 줄이고 있다. MS는 직원용 앤트로픽 AI 지출을 3분의 1 이상 낮춘 것으로 전해졌다.

MS 클라우드·AI 부문은 직원 1명당 모델 사용 한도를 월 10만달러에서 대부분 1만달러로 낮춘 것으로 알려졌다. 메타의 내부 클로드 코드 사용자는 올해 초 6만명에서 최근 3만명으로 줄었다.

메타에서는 직원들이 사용량을 늘려 사내 순위표에서 경쟁하는 '토큰맥싱' 현상이 나타났다. 경영진은 6월 AI 사용 예산과 토큰 한도를 도입하겠다고 밝혔다. 다만 MS가 앤트로픽에 지급하는 총비용은 고객용 수요가 늘어 올해 초 고점 수준을 유지하고 있다.

에디터 코멘트: AI를 가장 많이 쓰는 회사들이 먼저 인당 한도와 예산을 걸었다. 사용량을 성과처럼 다루면 비용이 먼저 불어난다는 것을 메타 사례가 보여 준다. 도입 초기라도 팀별 사용량을 볼 수 있는 화면과 상한선은 미리 정해 두는 편이 낫다. 한도를 낮추면 MS처럼 현장 불만이 따르므로, 고성능 모델이 꼭 필요한 업무는 따로 구분해 둘 필요가 있다.

AI타임스