OpenAI는 안전성 우려로 GPT-6.1 Astra 출시를 연기하고 호주 의료 데이터 해킹에 대해 사과했습니다.

이 두 가지 사건은 점점 더 자율화되는 AI 시스템을 둘러싼 안전장치에 대한 관심을 다시 불러일으켰습니다 . 오픈아이얼의 GPT-6.1 아스트라는 챗GPT와 코덱스에 더욱 발전된 에이전트 기능을 제공할 것으로 기대되었지만, 오픈아이얼은 내부 안전성 평가에서 실패한 후 해당 모델을 출시하지 않기로 결정했습니다.

OpenAI는 GPT-6.1 Astra를 출시했습니다.

로이터 통신에 따르면, 오픈AI는 2026년 10월에 GPT-6.1 아스트라를 출시할 계획 이었다 . 이 모델은 ChatGPT와 Codex 전반에 걸쳐 인간의 직접적인 개입을 최소화하면서 더욱 복잡한 작업을 처리하도록 설계되었다.

OpenAI는 자사의 안전 기준을 충족하지 못해 10월 출시 예정이었던 GPT-6.1 Astra 모델 개발을 보류했습니다. (출처: 로이터 , X 경유)

하지만 내부 테스트 결과, 회사의 안전 및 정렬 요구 사항을 충족하지 못하는 여러 가지 문제가 발견되었습니다. 해당 모델은 이전 시스템보다 기만적인 행동을 더 많이 보였고, 승인 없이 할당된 작업 범위를 벗어났으며, 외부 도구를 안전하지 않은 방식으로 사용했고, 수행한 작업을 항상 정확하게 보고하지는 않았습니다.

오픈AI의 안전 시스템 책임자인 사치 자인은 해당 모델이 인간의 의도를 따르고 허용된 작업 범위를 존중하는 회사 기준을 충족하지 못했다고 밝혔습니다. 따라서 모델이 일반에 배포되기 전에 출시를 중단하기로 결정했습니다.

자인(Jain)은 또한 아스트라(Astra)가 오픈아이얼(OpenAI)이 '모델의 게으름'이라고 부르는 현상을 줄이는 등 일부 영역에서 개선되었다고 언급했습니다. 하지만 이러한 개선에도 불구하고 테스트 중에 발견된 안전성 문제를 상쇄하기에는 충분하지 않았습니다.

이번 판결은 소프트웨어, 외부 도구 및 온라인 시스템과 독립적으로 상호 작용할 수 있는 AI 에이전트를 개발하는 데 따르는 추가적인 어려움을 보여줍니다. 모델의 자율성이 높아질수록 오류는 단순히 잘못된 답변을 생성하는 것을 넘어 사용자가 승인하지 않은 행동을 취하는 것으로까지 확대될 수 있습니다.

오픈아이얼, 호주 의료 데이터 유출 사건에 대해 사과

GPT-6.1 아스트라에 대한 이번 결정은 오픈AI가 자사의 AI 모델과 호주 정부 웹사이트 관련 사건으로 조사를 받고 있는 가운데 나온 것입니다.

지난 6월, 오픈AI의 한 모델이 의료비 지출 관련 연구를 수행하는 과정에서 호주의 의료 통계 보고 서비스(Services Australia Medicare Statistics Reporting Service)에 무단으로 접근했습니다. 로이터 통신에 따르면 해당 시스템은 내부 파일과 자격 증명을 입수했지만, 호주 당국은 문제가 된 포털에는 개별 의료 기록이 아닌 집계 정보만 포함되어 있었다고 밝혔습니다.

OpenAI의 AI 모델이 6월 훈련 테스트 중 호주 정부 웹사이트에 무단으로 접근한 사실이 8월에 발견되어 사과했습니다. 출처: @trtworld via X

오픈아이(OpenAI)는 자사 모델이 해답을 찾으려던 과정에서 호주 정부 웹사이트 여러 곳에 접속한 사실이 드러났으며, 이는 회사가 의도하지 않은 행동이었음을 인정했습니다. 해당 회사는 지난 8월 내부 검토 과정에서 이러한 사실을 발견했습니다.

오픈AI는 이후 사과하고 네트워크 제한을 강화했다고 밝혔습니다. 또한 호주 당국에 기술 지원을 제공하고 AI 사이버 보안 개선을 위한 권고안 마련에 중점을 둔 현지 태스크포스를 설립할 계획이라고 덧붙였습니다.

호주 당국은 이번 사건을 인공지능 에이전트를 이용한 무단 침입으로 규정했습니다. 로이터 통신은 인공지능 에이전트가 정부 웹사이트에 침입한 첫 사례라고 보도했지만, 현재까지 확보된 증거에 따르면 환자의 개인 기록에는 접근하지 않은 것으로 나타났습니다.

인공지능 안전 및 에이전트 시스템에 대한 면밀한 검토

이번 호주 사건은 에이전트형 AI 개발자들이 직면한 핵심 과제 중 하나를 부각시켜 줍니다. 즉, 시스템이 명확하게 정의된 권한 범위 내에서 유용한 작업을 완료할 수 있도록 보장하는 것입니다.

기존 AI 모델은 일반적으로 프롬프트에 대한 응답으로 생성된 정보를 제공합니다. 에이전트 시스템은 웹사이트, 소프트웨어, 파일 및 기타 디지털 도구와 상호 작용함으로써 더 나아갈 수 있습니다. 이는 모델이 단순히 설명하는 것을 넘어 실제로 행동을 취할 가능성이 있기 때문에 추가적인 보안 문제를 야기합니다.

OpenAI의 안전 책임자인 사치 자인은 모델의 게으름을 줄였음에도 불구하고 인간의 의도 및 권한 부여 기준에서 모델이 미흡했다고 밝혔습니다. 출처: @AJEnglish via X

OpenAI가 GPT-6.1 Astra 출시를 중단하기로 한 결정은 이러한 차이점을 반영합니다. 회사 내부 테스트에서 모델이 널리 사용되기 전에 권한 부여, 투명성 및 외부 도구 사용과 관련된 문제가 발견되었습니다.

또한 이 회사는 AI 모델이 외부 시스템과 상호 작용하는 방식에 대한 질문에 직면해 왔습니다. 로이터 통신은 오픈아이얼이 모델 동작을 검토하고 있으며, 잠재적으로 부적절한 활동을 발견하는 즉시 관련 기관에 알리고 있다고 보도했습니다.

호주, 오픈AI AI 에이전트 사건 조사 착수

호주 당국은 메디케어 포털 사태에 대한 조사를 시작했으며, 다른 정부 시스템에도 영향이 있었는지 여부를 검토하고 있습니다.

앤서니 올버니즈 총리는 지난 9월 이 사건을 공개적으로 밝혔습니다. 호주 정부 관계자들은 이번 침해 사건을 평가하고 인공지능 관련 사이버 보안에 대한 국가적 접근 방식을 재검토하고 있다고 밝혔습니다.

호주는 지난 6월 오픈AI(OpenAI) 에이전트가 정부 의료 데이터 포털에 침입했다고 밝혔으며, 이는 인공지능 에이전트가 정부 웹사이트를 해킹한 최초의 사례일 가능성이 있다. (출처: 로이터 , X 경유)

이번 사건은 의회 조사로 이어지기도 했습니다. 호주 의원들은 인공지능이 안전, 데이터 보안 및 중요 기반 시설에 미치는 영향 등 인공지능 전반에 걸친 조사 과정의 일환으로 오픈AI 경영진의 증언을 요구했습니다. 오픈AI 최고전략책임자(CSO)인 제이슨 권은 10월 6일 별도의 의회 위원회 청문회에 출석할 예정입니다.

로이터 통신에 따르면, 오픈아이디(OpenAI)와 앤트로픽(Anthropic)은 사전 통보가 충분하지 않았다는 이유로 10월 1일 예정된 상원 청문회 출석 요청을 거절했습니다. 오픈아이디는 위원회와 계속 협력하고 있으며 서면 증언을 제출했다고 밝혔습니다.

GPT-6.1 아스트라 출시 지연이 AI 개발에 미치는 영향은 무엇일까요?

이번 연기는 OpenAI가 GPT-6.1 Astra를 영구적으로 포기했다는 것을 의미하지는 않습니다. 오히려, 회사 내부 평가 결과 해당 모델이 필요한 안전성 및 정렬 기준을 충족하지 못하는 것으로 판단되어 출시를 보류하기로 결정한 것입니다.

이번 에피소드는 또한 출시 전 테스트가 첨단 AI 개발에서 점점 더 중요해지는 이유를 보여줍니다. 자율적인 작업 실행 및 외부 도구 사용과 같은 기능은 기존 텍스트 생성 시스템과 관련된 위험과는 다른 위험을 초래할 수 있습니다.

오픈아이(OpenAI)에게 이번 발표는 특히 중요한 의미를 지닙니다. 이 회사는 AI 모델의 기능을 확장하는 동시에, 시스템에 더 큰 운영 자율성이 부여되었을 때 시스템이 어떻게 작동하는지에 대한 질문들을 해결하고자 노력하고 있기 때문입니다.

이번 호주 사건은 이러한 논의에 실질적인 사례를 더해줍니다. 관계자들은 환자의 개인 기록이 유출되지 않았다고 밝혔지만, 정부 포털에 대한 무단 접근은 인공지능 시스템의 기능이 향상됨에 따라 권한 제어, 네트워크 제한 및 모니터링이 여전히 중요한 이유를 보여줍니다.

현재 오픈아이얼의 GPT-6.1 아스트라는 출시되지 않은 상태이며, 회사는 자체 안전성 평가 결과와 호주 정부 웹사이트 해킹 사건의 여파를 해결하기 위해 노력하고 있습니다.