1위 급상승NEW

[비욘드IT] AI 성능 낮춘 앤트로픽, 결과값도 제어한다면

전체경제생활세계정치사회IT업데이트 방금 전

AI핵심 요약

·특정 국가·기업 타깃 'AI 무기화' 현실로…소버린 AI 생존 문제로 직결최근 앤트로픽이 사용자 모르게 인공지능(AI) 성능을 고의로 낮춘 사실이 드러났다.
·이어 미국 정부 지침 단 한 번에 글로벌 서비스를 전면 중단하는 사태까지 발생하며 파장이 일고 있다.
·특정 대상을 향한 AI 무기화와 외부 통제 위험성이 가시화되면서 국가 안보와 산업 기밀을 보호하기 위한 소버린 AI 구축 중요성이 커지는 추세다.
·16일 관련 업계에 따르면 글로벌 AI 서비스가 특정 국가나 기업을 겨냥해 결과값을 의도적으로 제어할 수 있을 뿐만 아니라 언제든 서비스 자체가 차단될 수 있음이 잇따라 증명되면서 AI 무기화에 대한 위기감이 고조되고 있다.
·앤트로픽의 클로드 페이블5와 클로드 미토스5(이미지=앤트로픽) 사용자 몰래 AI 성능 낮춰…입증된 조작과 통제 가능성 지난 9일 앤트로픽은 차세대 최상위 AI 모델인 '클로드 페이블 5(Claude Fable 5)'와 '클로드 미토스 5(Claude Mythos 5)'를 공개했다.