• 동두천 23.1℃맑음
  • 강릉 24.1℃맑음
  • 서울 23.8℃맑음
  • 대전 24.8℃맑음
  • 대구 23.3℃맑음
  • 울산 24.6℃맑음
  • 광주 26.1℃맑음
  • 부산 27.1℃맑음
  • 고창 26.3℃맑음
  • 제주 28.3℃맑음
  • 강화 23.3℃맑음
  • 보은 22.6℃맑음
  • 금산 23.1℃맑음
  • 강진군 26.3℃맑음
  • 경주시 24.4℃맑음
  • 거제 24.6℃맑음
기상청 제공

2026.09.08 (화)

thumbnails
IT과학

앤스로픽, ‘클로드 페이블 5’ 생물학 안전장치 고도화… 정상 질의 전환 85% 줄여

건강·교육 목적의 생물학 질문 지원 확대 이중용도 연구·신약 개발 관련 요청은 여전히 제한 앤스로픽이 고성능 인공지능(AI) 모델 ‘클로드 페이블 5(Claude Fable 5)’의 생물학 분야 안전장치를 개선해, 정상적인 질의가 성능이 낮은 모델로 전환되는 사례를 약 85% 줄였다고 7일 밝혔다. 이번 조치는 생물학 관련 질문에서 발생하던 ‘폴백(fallback)’을 줄이는 데 초점이 맞춰졌다. 폴백은 안전 분류기가 특정 질문을 잠재적 위험으로 판단할 때, 해당 요청을 생물학 역량이 상대적으로 낮은 ‘클로드 오퍼스 5’로 재전송하는 방식이다. 개선 후 이용자는 검사 결과 해석, 증상 이해, 교육 목적의 생물학 학습 등 일상적이고 저위험인 질문에서 페이블 5의 기능을 더 자주 활용할 수 있게 된다. 앤스로픽은 의료 전문가의 임상 업무 지원 범위도 넓어질 것으로 내다봤다. 핵심은 안전 분류기의 정확도 개선이다. 앤스로픽은 내부·외부 전문가 의견을 반영해 분류기 판단 규칙을 재설계하고, 이를 바탕으로 학습 데이터를 보완해 재훈련했다고 설명했다. 유해하거나 이중용도 가능성이 있는 연구 요청은 계속 차단하되, 명확히 안전한 질의까지 과도하게 제한하던 문제를 줄였다는 것이다. 다만 바이러스학, 독성학, 분자 설계 등 악용 가능성이 있는 전문 연구와 신약 개발 관련 요청은 여전히 오퍼스 5로 전환된다. 앤스로픽은 첨단 AI가 치료제 개발과 생명과학 연구에 기여할 수 있는 반면, 생물무기 개발에도 악용될 수 있다는 점에서 신뢰 기반 접근 권한 체계를 병행하겠다고 밝혔다. 이번 발표는 AI 안전장치가 단순한 ‘차단’에서 벗어나, 유해 가능성은 통제하면서도 합법적 연구와 의료·교육 활용의 접근성을 높이는 정밀한 운영 단계로 이동하고 있음을 보여준다.