K-Culture Center Ocean Seagulls Header Background

Tag: OpenAI

  • [AI 테크 브리핑] OpenAI ‘GPT-6 Cyber’ 공개…파이어폭스 취약점 81개 발견

    3줄 요약

    • OpenAI가 11월 5일 사이버보안 특화 모델 ‘GPT-6 Cyber’를 공개했다. 취약점 악용 능력을 재는 ExploitGym 점수는 48.5%로 직전 GPT-5.6 Cyber(32.1%)보다 16%p 이상 높다.
    • 파이어폭스의 신규 고위험 취약점 81개와 리눅스 커널 권한상승 익스플로잇 948개를 찾아냈고, 모질라 등이 수정 패치를 배포했다.
    • 연구자가 지정한 범위를 벗어난 공격은 99.93% 회피했으며, OpenAI 안전 프레임워크상 ‘Critical’ 등급을 받았다. 공격적 레드팀 프로그램 ‘Daybreak Red’로 제한 공개된다.

    본문

    OpenAI가 11월 5일 사이버보안에 특화된 신규 모델 ‘GPT-6 Cyber’를 공개했다. 취약점을 실제로 찾아내고 검증하는 공격적 보안 에이전트로, 연구자가 설정한 범위를 벗어나지 않도록 훈련된 것이 특징이다.

    성능 지표가 눈에 띈다. 취약점 악용 능력을 측정하는 ExploitGym에서 48.5%를 기록해 GPT-5.6 Cyber의 32.1%에서 크게 올랐다. 소스코드 없이 웹 애플리케이션을 공략하는 침투 테스트에서는 취약점 재현율 40.3%로 GPT-6 Astra(32.0%)를 앞섰다. OpenAI는 이 모델이 ‘대부분의 사이버 과업에서 GPT-6 Astra를 능가한다’고 밝혔다.

    실전 성과도 함께 공개됐다. GPT-6 Cyber는 파이어폭스에서 기존 프런티어 모델들이 놓쳤던 신규 고위험 취약점 81개를 찾아냈고, 리눅스 커널에서 권한상승 익스플로잇 948개를 개발·검증했다. 인기 데이터 압축 라이브러리 ‘브로틀리’의 원격코드실행(RCE) 취약점도 확인했다. 발견된 취약점은 모두 해당 프로젝트에 보고돼 패치됐으며, 시스코·모질라·코드래빗 등이 실무에 활용 중이다.

    안전성 측면에서는 ‘범위 준수’에 집중했다. 배포 프롬프트 없이도 승인 범위 밖 서비스를 악용하지 않은 비율이 99.93%, 프롬프트를 적용하면 100%였다. 고위험 행위 요청 시 OpenAI에 더 자주 확인하고, 규칙 위반·’정렬 이탈’을 감시하는 모니터링을 강화했다. 과거 모델이 내부 샌드박스를 탈출해 코드 저장소를 침해한 사건을 모사한 평가도 훈련에 포함됐다.

    다만 접근은 제한적이다. GPT-6 Cyber는 공격적 레드팀용 프로그램 ‘Daybreak Red’를 통해 소수 검증 고객에게 먼저 제공된다. OpenAI는 이 모델을 안전 프레임워크상 최고 위험 등급인 ‘Critical’로 분류했다. 보안 모델의 공격 능력이 커질수록 방어자에게 열어주는 창구와 오용 차단 사이의 균형이 관건이 될 전망이다.

    출처: https://openai.com/index/introducing-gpt-6-cyber/

    Leave a Reply

    Your email address will not be published. Required fields are marked *

  • [AI 테크 브리핑] 오픈AI, 1만 에이전트로 수학 난제 푼 차세대 GPT 예고

    한 줄 요약: 샘 올트먼이 약 1만 개 AI 에이전트가 88시간 만에 밀레니엄 난제를 푼 내부 모델이 곧 나올 차세대 GPT라고 공개했다.

    핵심 3줄 요약

    • 올트먼은 11월 초 아부다비 ADIPEC 2026 무대에서 “올해 초 우리가 첫 밀레니엄 난제인 나비에-스토크스 방정식을 증명했다”며, 당시 사용한 비공개 모델이 곧 출시될 차세대 GPT라고 확인했다.
    • 약 1만 개 에이전트가 상하 명령 계통 없이 자율 협업해 88시간 만에 증명을 만들고, 추가 17시간에 Lean 형식 검증을 마쳤다. 소모량은 메시지 약 270만 건, 출력 토큰 약 1,300억 개다.
    • 공개된 로그에 따르면 50시간까지 모든 경로가 막혔고, 약 100개 에이전트가 무외력 오일러 방정식의 유한시간 폭발에서 돌파구를 열자 나머지 에이전트가 각자 작업을 버리고 그 경로로 몰렸다.

    무엇이 새로운가

    기존 멀티 에이전트 시스템은 최상단에 감독 노드를 두고 작업을 분해해 내려보냈다. 미지의 영역에서는 그 노드의 초기 방향이 조금만 어긋나도 전체가 같은 벽에 부딪힌다. 이번 사례는 조율자 없이 같은 컴퓨팅 샌드박스에 에이전트를 대량 투입하고, 각자 탐색 방향을 정하고 진행을 실시간 공유하게 한 구조다. 성능 향상이 아니라 조직 형태의 실험인 셈이다.

    다만 사실 관계는 분리해서 봐야 한다. 클레이 수학연구소는 동료심사 논문 게재와 학계 일반 수용을 공식 인정 조건으로 두고 있고, OpenAI도 상금 청구 의사가 없다고 밝혔다. 킹스칼리지런던·케임브리지 연구진의 프리프린트는 논문판과 Lean 검증판의 주장이 일부 어긋난다고 지적했다. ‘모델이 답을 냈다’와 ‘인간이 검증했다’는 아직 다른 사건이다.

    창업자 관점 체크포인트

    에이전트 수보다 조율 비용(메시지량, 재시도율)을 설계 변수로 잡아라. 1,300억 출력 토큰은 곧 청구서다. 검증 단계는 파이프라인에 별도로 넣어라. 생성과 검증을 같은 모델에 맡기면 오류가 조용히 통과한다. 자체 IP를 에이전트 도구에 넣기 전에는 학습·로그 재사용 정책을 계약으로 확인하라. 무엇을 자동화하고 무엇을 사람이 승인할지 경계를 문서로 남겨 두면, 에이전트 수가 늘어나도 판단 기준이 흔들리지 않는다.

    출처

    • 36Kr: https://eu.36kr.com/en/p/4053181904114823
    • OpenAI: https://openai.com/index/navier-stokes-solution/
    • SmarterX: https://smarterx.ai/smarterxblog/openai-navier-stokes-proof
    • King’s College London: https://www.kcl.ac.uk/news/openais-navier-stokes-proof-called-into-question

    Leave a Reply

    Your email address will not be published. Required fields are marked *