[X] 오늘 공개된 GPT-6 Cyber는 방어자에게 의미 있는 진전입니다.

오늘 공개된 GPT-6 Cyber는 방어자에게 의미 있는 진전입니다. 취약점 연구 능력이 강화되고 정렬도 개선됐습니다. 우리는 이미 Daybreak를 통해 GPT-6 Cyber와 GPT-6 Astra를 함께 사용해 자체 시스템의 보안을 강화하고, 취약점을 찾아 영향을 검증한 뒤 수정 방안을 마련하고 있습니다.

@OpenAI에서 여러 해 일했지만 모델의 능력은 여전히 놀랍습니다. 작은 사례 하나는 올여름 초 GPT-6 Astra 사전 출시 버전을 테스트할 때 나왔습니다. 당시 연구 인프라 전반에서 사용하는 도구를 살펴보던 중, 연구 인프라 책임자 중 한 명인 Michael Dalton이 SymPy라는 수학 라이브러리로 답을 확인하는 수학 과제 채점기처럼 위험도가 낮은 영역을 검토하고 있었습니다.

오프라인 테스트에서 제출된 답안은 일반 문자처럼 보이는 문자들을 사용해 채점기의 검사를 우회했습니다. 그 결과 채점기는 셸 명령을 실행해 “4242”를 출력하면서도 예상된 결과인 1/2를 반환했습니다. 채점기는 답안을 정답으로 판정했습니다. 유효한 수학 답안이 채점기 안에서 코드를 실행하는 수단이 된 것입니다. 아래 다이어그램을 참조하세요.

이런 취약점은 퍼저를 사용해도 사람이 찾아내기 매우 어려울 수 있습니다. 입력 검증과 평가 과정이 어떻게 맞물리는지 파악하고, 검사를 통과하면서 의도치 않은 동작을 일으키는 입력을 만들고, 최종 답이 정답으로 나와도 문제를 알아차려야 합니다. 모델은 이런 요소들을 함께 추론해, 각 구성 요소를 따로 살펴볼 때는 찾기 어려운 유형의 취약점을 발견하도록 도울 수 있습니다.

그래서 더 많은 방어자가 Daybreak와 함께 모델을 활용해 자체 시스템의 취약점을 찾고 수정하는 일이 중요합니다. PHP2Shell처럼 인터넷을 마비시킬 가능성이 있는 버그든, 채점기 버그처럼 미묘하지만 중요한 문제든 공격자보다 먼저 발견하면 방어자에게 대응할 시간이 생깁니다.

우리의 목표는 Daybreak를 크게 확대해 모든 규모의 조직과 독립 연구자, 오픈소스 유지보수자에게 고급 보안 연구를 제공하는 것입니다.

GPT‑6 Astra용 Daybreak Blue 알파 이용 권한도 더 많은 조직과 개인 보안 연구자에게 확대하고 있습니다. 관심이 있다면 알려주세요: https://t.co/0PpjMDDZJc