이번 주 AI 뉴스 3개: Data agent, AI 악용 대응, Copilot Auto

 

2026년 9월 9~15일 AI 뉴스에서 ChatGPT Work Data agent, Anthropic의 AI 악용 대응 보고서, GitHub Copilot Auto 변경을 골랐다. 발표 성격은 서로 다르지만, 실제 도입 전에 확인할 조건이 분명한 소식들이다.

 

처음에는 새 기능이 어디까지 일을 대신하는지만 봤다. 공식 자료를 나란히 읽고 나니 질문이 달라졌다. 누가 데이터 접근을 허용하는지, 어떤 행동을 탐지하는지, 비용과 품질 기준을 어디서 정하는지를 먼저 봐야 했다.

 

자동화의 범위가 넓어져도 통제는 사라지지 않는다. Data agent는 접근 권한, Anthropic은 탐지와 차단, Copilot Auto는 라우팅 우선순위에서 사람이 개입한다.

 

9월 10일 — ChatGPT Work Data agent, 질문에서 분석과 실행까지

OpenAI는 9월 10일 ChatGPT Work의 Plugins directory에 Data agent를 공개했다. 자연어로 회사 데이터를 묻고 분석 결과를 대화 안에서 다듬은 뒤, 인터랙티브 대시보드로 만들 수 있는 에이전트다.

 

연결 대상으로는 Amazon Redshift, Datadog, BigQuery, ClickHouse, Databricks, MongoDB, Snowflake 같은 데이터 소스와 Google Drive·SharePoint 문서가 제시됐다. Omni, Oracle BI, Power BI, Sigma, Tableau, ThoughtSpot 대시보드를 만들거나 상호작용하고, 결과를 Slack이나 이메일로 공유하는 흐름도 포함된다.

 

연결 도구를 이용해 실제 작업을 실행할 때는 사용자의 승인이 필요하다.

 

눈에 띄는 부분은 “SQL을 쓰지 않아도 된다”는 편의만이 아니다. 조직이 데이터 플랫폼과 BI에 이미 정의해 둔 용어, 계산식, 관계를 대화형 분석의 출발점으로 재사용할 수 있다는 점이 더 크다.

 

반대로 말하면 답의 신뢰도는 연결된 데이터와 조직의 지표 정의에 기대게 된다. 데이터 팀의 역할도 쿼리를 대신 작성하는 데서 끝나지 않고, 데이터 소스 연결과 시맨틱 레이어, 지표 정의와 권한을 미리 정리하는 쪽으로 이어진다.

 

Data agent는 일반 데이터 연결 API가 아니라 ChatGPT Work의 플러그인이다. 관리자가 Workspace settings의 Plugins에서 플러그인과 데이터 소스를 설치하거나 허용해야 하며, 이용할 역할도 선택한다.

 

쿼리에는 연결 계정이 원래 가지고 있던 테이블·행·열 권한이 그대로 적용된다. AI가 분석 화면을 바꾸더라도 데이터 접근 경계까지 새로 만드는 구조는 아니다.

 

발표문은 Alpha 프로그램 고객 사례를 소개하지만 지역, 요금제, 데이터 소스별 출시 범위를 따로 규정하지 않았다. 도입 전에는 실제 Workspace의 Plugins directory와 각 커넥터의 연결 조건을 확인해야 한다.

 

여기서 내 시선이 한 번 바뀌었다. Data agent의 핵심을 대시보드 생성으로만 보면 결과 화면에 집중하게 되지만, 운영 관점에서는 기존 권한을 보존한 채 질문에서 분석과 승인된 실행으로 이어지는가가 먼저였다.

 

9월 10일 — Anthropic이 공개한 AI 악용 탐지와 대응의 운영 기록

Anthropic은 같은 날, 2025년 12월부터 2026년 8월까지 차단한 Claude 악용 활동을 정리한 위협 인텔리전스 보고서를 공개했다. 사이버 작전, 영향력 작전, 감시, 사기·금융 사기, 생물학 악용, 재래식 무기 개발, 불법 증류(distillation, 다른 모델의 출력을 대량 수집해 모방 모델을 학습하는 행위)까지 일곱 영역의 사례를 다룬다.

 

Anthropic은 사례별 계정을 차단하고, 관찰한 행동 신호를 탐지 체계와 안전장치에 반영했다고 설명했다. 필요할 때는 관계 당국과 업계 파트너에도 정보를 공유했다.

 

보고서에 포함된 악용 사례에는 Haiku·Sonnet·Opus가 사용됐다. 불법 증류 사례 하나를 제외하면 Fable·Mythos 계열은 포함되지 않았다고 명시했다.

 

이 자료에서 볼 수 있는 건 단일 공격 코드를 생성하는 장면만이 아니다. 정찰, 분석, 자동화, 콘텐츠 생성처럼 공격 수명주기의 여러 단계에서 AI가 속도와 범위를 넓힐 수 있다는 사례다.

 

그래서 보안 팀이 확인할 대상도 프롬프트 하나에 머물기 어렵다. 모델 접속 로그, 계정 재판매와 우회, 평소와 다른 도구 조합을 함께 보고 계정을 차단하는 절차가 필요하다는 근거가 된다.

 

이 보고서는 Anthropic이 자체 조사하고 차단한 결과다. 각 사례를 제3자가 독립적으로 검증한 자료는 아니다.

 

Anthropic 역시 보고서의 사례가 일반적인 악용의 표본이 아니라, 주목할 만하고 새로운 사례라고 밝혔다. 따라서 이 자료만으로 전체 악용 빈도나 모델별 위험도를 비교할 수는 없다.

 

또 하나 구분해야 할 날짜가 있다. 보고서 발표일은 2026년 9월 10일이지만 조사 대상 기간은 2025년 12월부터 2026년 8월까지다.

 

이 보고서를 읽으며 통제는 출시 전에 한 번 거치는 안전 검사가 아니라는 쪽으로 생각이 옮겨갔다. 실제 행동 신호를 탐지하고, 계정을 차단하고, 안전장치를 고치고, 외부와 공유하는 반복 운영이 통제의 실체에 가까웠다.

 

통제 단계	보고서에서 공개한 대응	읽을 때의 한계
탐지	악용 행동 신호 관찰	전체 악용의 대표 표본이 아님
조치	관련 계정 차단	Anthropic의 자체 조사 결과임
개선	탐지 체계·안전장치에 반영	모델 간 위험도 비교 근거가 아님
공유	필요 시 관계 당국·업계 파트너와 정보 공유	개별 사례의 독립 검증 자료가 아님

Anthropic 보고서가 보여 준 것은 위협 규모의 통계보다 탐지 이후 차단·개선·공유로 이어지는 운영 흐름이다.

 

9월 14일 — GitHub Copilot Auto, 모델 이름 대신 우선순위를 고른다

GitHub는 9월 14일 Copilot Auto model selection에 Efficiency, Balance, Intelligence 세 단계를 추가했다. 사용자는 비용·품질·응답 시간의 우선순위 단계를 선택하고, Copilot은 각 프롬프트에 맞춰 모델을 선택한다.

 

세 단계는 같은 사용 가능 모델 집합을 사용한다. Intelligence를 선택해도 간단한 docstring 작업에는 작은 효율 모델이 선택될 수 있다.

 

즉, 이 단계는 특정 모델을 고정하는 버튼이 아니라 자동 라우팅의 판단 기준이다.

 

선택 단계	GitHub가 설명한 우선순위	어울리는 작업 예시
Efficiency	비용 절감	docstring·간단한 수정
Balance	비용·품질·응답 시간의 균형	일상적인 개발 작업
Intelligence	품질 우선	복잡한 디버깅·설계

세 단계 모두 같은 사용 가능 모델 집합을 사용하며, 실제 모델은 프롬프트별로 Auto가 고른다.

 

반복적이고 빠른 작업에는 Efficiency, 일상적인 작업에는 Balance, 복잡한 디버깅이나 설계에는 Intelligence를 고르는 식으로 작업 성격을 전달할 수 있다. 모델 이름과 특성을 매번 비교해야 했던 선택 비용을 줄이는 변화다.

 

Copilot app 사용자도 결과 품질과 응답 속도에 대한 선호를 정할 수 있다. 다만 이름만 보고 Intelligence가 모든 요청에 가장 큰 모델을 강제한다고 이해하면 실제 동작과 어긋난다.

 

이 기능은 Visual Studio Code, Copilot CLI, GitHub Copilot app에 순차 배포 중이다. 계정이나 클라이언트에 아직 보이지 않을 수 있다.

 

사용량 과금은 선택한 단계가 아니라 Auto가 실제로 고른 모델을 기준으로 계산된다. 유료 구독자는 Auto로 청구되는 사용량에 적용되는 10% 할인을 계속 받는다.

 

특정 모델을 반드시 써야 하는 작업이라면 세 단계만으로는 보장할 수 없다. 선택한 것은 모델이 아니라 비용·응답성·품질 사이의 우선순위이기 때문이다.

 

Copilot Auto에서는 자동 선택이 곧 통제 포기를 뜻하지 않았다. 사용자는 라우팅 우선순위를 정하고, 비용은 실제 선택된 모델을 따라간다.

 

다음 뉴스부터 먼저 적을 네 가지

앞으로 새 AI 기능을 검토할 때는 데모 화면보다 네 가지를 먼저 적어보려 한다. 접근 권한의 출처, 실행 승인 시점, 이상 행동의 중단 기준, 실제 과금 단위다.

 

이번 주 세 소식은 자동화가 커질수록 운영 규칙도 제품의 일부가 된다는 기록으로 남았다.

 

---

참고한 공식 자료

• OpenAI, Now everyone can put data to work, 2026-09-10
• Anthropic, Detecting and countering misuse of AI: September 2026, 2026-09-10
• GitHub Changelog, Configure cost and quality in Copilot auto model selection, 2026-09-14