오픈AI 챗GPT 워터마크 EU 적용, AI 도입 기업 영향

오픈AI가 EU에서 챗GPT와 코덱스가 생성한 텍스트에 보이지 않는 워터마크를 넣는다. 8월 2일 발효된 EU AI법의 투명성 규정을 지키기 위한 조치다.

워터마크는 모델의 단어 선택을 미세하게 조정해 탐지기만 읽을 수 있는 패턴을 남긴다. 한 시험에서 단어 10%를 동의어로 바꾸자 탐지율이 약 92%에서 66%로 떨어졌다.

탐지기는 승인된 연구자와 전문 기관에만 먼저 제공된다. 오픈AI는 워터마크가 없다고 사람이 썼다는 증거가 되지는 않는다고 밝혔다. API에서는 전 세계 개발자가 일부 모델에 켤 수 있고 기본값은 꺼짐이다.

에디터 코멘트: 워터마크는 'AI가 썼는지'를 가리는 판정 도구가 아니라 참고 신호에 가깝다. 채용 서류나 과제 심사에서 탐지 결과 하나로 불이익을 주는 규정은 다시 볼 필요가 있다. EU 지사나 EU 내 사용자가 있는 조직은 생성 문서에 표식이 남는다는 점을 문서 작성 지침에 반영해 두자.

TechCrunch · OpenAI Blog

MIT 테크놀로지 리뷰 인사이트가 데이터·AI·기술 임원 300명을 조사한 보고서를 냈다. 조직의 에이전트 AI 프로젝트 가운데 운영 단계에 들어간 비율은 평균 34% 안팎이었다.

에이전트의 지식 접근을 넓히는 데 가장 큰 과제로는 데이터 파편화가 꼽혔고, 55%가 이를 들었다. 프로젝트의 평균 61%를 파일럿 너머로 보낸 선도 그룹은 지식 역량, 특히 시맨틱 영역이 더 강했다.

실패 지점으로는 레거시 데이터 시스템, 보안·개인정보 우려, 지식과 맥락 부족이 지목됐다. 이 보고서는 편집국이 아닌 맞춤 콘텐츠 조직이 제작했다.

에디터 코멘트: 에이전트 도입이 파일럿에서 멈추는 이유를 모델 성능보다 데이터 쪽에서 찾게 하는 조사다. 다만 설문 기반 상관관계이고 맞춤 제작 콘텐츠여서 인과로 읽기는 어렵다. 새 에이전트를 붙이기 전에, 그 업무에 필요한 문서와 데이터가 어느 시스템에 흩어져 있는지부터 목록으로 만드는 편이 안전하다.

MIT Technology Review

아마존이 1일(현지시간) 오픈소스 의사결정 모델 '스트랜즈 디사이더 2B'를 공개했다. 문장을 생성하지 않고, 정해진 선택지 중 하나를 고른 뒤 그 판단의 확률을 내놓는 모델이다.

매개변수는 20억 개이며 알리바바의 '큐원3.5-2B'를 기반으로 한다. 엔비디아 RTX 3090에서 짧은 작업의 중앙값 지연시간은 약 115ms였다.

제브벤치 순위는 26위이고 1위는 '제브 1.13.0'이다. 아마존은 깃허브에 코드·학습 데이터·학습 스크립트를, 허깅페이스에 가중치를 공개했다. 업스테이지도 2일 판단 전용 모델 '솔라 디사이드'를 오픈라우터에 출시했다.

에디터 코멘트: 에이전트가 매 단계 대형 모델을 부르면 비용과 지연이 쌓인다. '이 도구를 불러도 되나' 같은 선택형 판단을 작은 모델로 떼어내는 설계가 선택지로 올라왔다. 다만 복잡한 추론에는 맞지 않고, 지연시간은 아마존이 밝힌 짧은 작업 기준이다. 자사 데이터로 정확도를 재본 뒤 적용 범위를 정해야 한다.

AI타임스 · AI타임스

구글이 1일부터 오픈소스 취약점 보상 프로그램(OSS VRP)의 제품 취약점 제보 접수를 멈췄다. 자동화된 제보가 크게 늘었고 그 대부분이 유효하지 않다는 이유다.

구글 엔지니어와 오픈소스 유지 관리자는 존재하지 않거나 악용할 수 없는 취약점 제보를 대량으로 검증해야 했다. 중단은 2027년 1분기까지 이어질 전망이며, 구글은 새 검증 체계와 함께 업데이트를 내놓을 계획이다.

10월 1일 이전에 제출된 제보는 정상 처리된다. 클라우드 취약점 보상 프로그램과 공급망 관련 제보는 중단 대상이 아니다.

에디터 코멘트: AI로 보고서를 만드는 비용은 내려갔지만 검증은 여전히 사람 몫이다. 같은 일이 사내 제안 접수, 고객 문의, 코드 리뷰 창구에서도 벌어질 수 있다. 외부 입력을 받는 창구가 있다면 재현 절차나 증빙 같은 접수 요건을 먼저 세워 두는 것이 방어선이다.

AI타임스 · TechCrunch

개빈 뉴섬 캘리포니아 주지사가 30일(현지시간) SB 947에 서명했다. 고용주가 AI에만 의존해 직원을 해고하거나 징계하는 것을 금지하는 법이다.

AI가 결정의 주된 근거였다면 사람이 관리자 평가·동료 평가·인사 기록 등으로 판단을 확인해야 한다. 해당 직원에게는 AI 사용 사실, 활용된 데이터 설명, 문의할 담당자 연락처를 서면으로 줘야 한다.

뉴섬 주지사는 지난해 이 법안에 한 차례 거부권을 행사했다. 기업 측에서는 '주로 의존한다'는 기준이 불명확해 규제 대상을 가리기 어렵다는 우려가 나왔다.

에디터 코멘트: 캘리포니아 법이지만 인사에 AI 점수를 쓰는 조직에는 참고할 기준이 생겼다. 핵심은 AI 판단을 사람이 다른 자료로 다시 확인했다는 기록이다. 근태·성과 분석 도구를 쓰고 있다면 그 결과가 어떤 결정에 얼마나 반영되는지 문서로 남겨 두자. 국내 적용 여부는 별개 문제다.

AI타임스