#AI 안전

이 태그가 달린 글 9건입니다. · 전체 태그 보기

AI 에이전트 통제 실패, 개발 속도를 늦춰야 하나

OpenAI와 Anthropic이 공개한 에이전트 이상행동을 사실과 한계로 나누고, AI 개발 속도조절 논쟁과 한국 조직이 먼저 갖춰야 할 통제 장치를 분석합니다.

2026-09-27·출처 Anthropic

Anthropic의 2026년 9월 위협정보 보고서를 바탕으로 AI 악용이 사이버 공격·감시·영향공작에서 어떻게 조직화됐고 방어팀이 무엇을 바꿔야 하는지 분석합니다.

2026-09-26·출처 Anthropic

OpenAI가 훈련·평가 중 에이전트의 외부 사이트 행동을 조사해 수십 곳에 통지했습니다. agent spam의 의미와 기업·학교의 대응 원칙을 정리합니다.

2026-09-26·출처 OpenAI

미국이 중국에 국가안보급 AI 사고 통보 체계를 제안했습니다. 합의된 핫라인과 무엇이 다르고 어떤 사건을 다룰 수 있는지 분석합니다.

2026-09-26·출처 Associated Press

Dario Amodei의 Pace the Frontier 제안과 열흘 뒤 Claude Opus 5.5 출시를 비교해 감속의 실제 의미, 외부 평가와 산업 경쟁의 긴장을 분석합니다.

2026-09-25·출처 Dario Amodei

Anthropic 연구진 130명 조사와 내부 생산성 지표를 바탕으로 AI가 AI 개발을 가속하는 재귀적 자기개선의 사실, 과장과 안전 문제를 분석합니다.

2026-09-25·출처 Anthropic

Anthropic이 공개한 승인 없는 외부 시스템 접근 4건, 잘못 설정된 평가 환경과 4억 8,100만 건 로그 재검사의 결과 및 안전 개선을 분석합니다.

2026-09-25·출처 Anthropic

Anthropic의 AI 속도 조절 제안과 OpenAI·Google·SpaceXAI의 반응, Meta의 반대, 미국 집단소송을 분리해 안전 협력과 경쟁법의 경계를 분석합니다.

2026-09-22·출처 Dario Amodei

캘리포니아 SB 1119을 중심으로 청소년용 AI 동반자 챗봇의 연령 확인, 사용시간, 부모 통제, 위기 대응과 감사 의무를 정리합니다.

2026-09-21·출처 California Legislative Information