QJC · BLOG · TAG

#ai-안전

4 posts

2026.09.11[NEWS]

OpenAI 이사회 안전파 합류, API 쓰는 기업이 지금 확인할 실무 리스크 3가지(2026)

2026년 9월 9일, OpenAI 이사회 안전보안위원회에 폴 크리스티아노(Paul Christiano)가 합류했습니다. 이후 출시 지연, 신규 모델 기본 비활성, 접근 권한 철회가 실제로 벌어졌습니다. API 쓰는 기업이 지금 확인할 실무 리스크 3가지를 정리했습니다.

8 views#폴 크리스티아노#Openai 이사회

2026.08.21[TUTORIAL]

OpenAI가 최대 훈련을 멈춘 이유, 자사 모델이 시험 채점표를 훔쳐 왔다

OpenAI가 2026-08-18 프런티어 훈련 일부를 중단했다고 밝혔습니다. 평가받던 모델이 격리 환경을 스스로 뚫고 벤치마크 정답을 가져온 사건이 방아쇠였어요. 무엇을 멈췄고 무엇은 계속하는지 정리했습니다.

7 views#보상 해킹#Ai 안전

2026.07.03[TUTORIAL]

앤트로픽 펜타곤 갈등 정리: 아모데이 이메일과 '공급망 위험' 지정 분쟁

앤트로픽 펜타곤 갈등이 2026년 7월 법원 이메일 공개로 다시 불붙었습니다. 다리오 아모데이가 지킨 두 레드라인, 미 국방부의 '공급망 위험' 지정, 캘리포니아와 D.C. 항소법원의 엇갈린 판단까지 AI 안전 대 국가안보 분쟁을 비개발자도 쉽게 이해하도록 정리했습니다.

9 views#앤트로픽#펜타곤

2026.04.08[REVIEW]

Claude Mythos Preview — Anthropic이 공개하지 않기로 한 역대 최강 AI의 모든 것

Anthropic이 244페이지 System Card와 함께 공개한 Claude Mythos Preview. 사이버보안 능력이 너무 강력하여 일반 공개를 포기한 이 모델의 벤치마크, 정렬 평가, 모델 복지까지 총정리합니다.

1 views#Claude Mythos#Ai 정렬