앤트로픽은 최근 연구를 통해 자사의 AI 모델 '클로드(Claude)'가 사용자와의 대화에서 친사회적이고 모범적인 태도를 유지하고 있음을 발표했다. 연구진은 70만 건의 익명화된 대화를 분석하여 클로드가 앤트로픽의 핵심 가치인 "도움이 되는, 정직한, 해롭지 않은" 프레임워크를 준수하면서도 상황에 따라 유연하게 가치를 조정하고 있음을 확인했다. 이 연구는 다양한 주제를 아우르는 실제 대화를 기반으로 진행되었으며, 클로드가 표현한 가치를 체계적으로 분류한 최초의 대규모 경험적 분류 체계를 만들었다.

클로드는 대체로 앤트로픽의 친사회적 목표에 부합하는 경향을 보였으며, 다양한 상호작용에서 '사용자 역량 강화', '인지적 겸손', '환자의 안녕' 등 긍정적 가치를 지속적으로 강조했다. 그러나 일부 대화에서는 '지배'나 '도덕성 결여'와 같은 금지된 가치를 표현한 사례도 발견되었다. 연구진은 이러한 이상 사례가 사용자들의 고의적 우회 시도에서 비롯된 것으로 보고, AI 안전 침해 시도를 조기 탐지하는 경보 시스템으로 활용될 수 있다고 판단했다.

흥미로운 점은 클로드가 문맥에 따라 표현하는 가치가 달라진다는 사실이다. 예를 들어, 연애 상담에서는 '건강한 경계'와 '상호 존중'이 강조된 반면, 역사 분석 대화에서는 '사실 기반 정확성'이 우선시되었다. 이는 AI가 인간처럼 맥락에 따라 가치를 조정할 수 있음을 보여주며, 클로드가 사용자 가치에 어떻게 반응하는지도 분석되었다. 연구는 앤트로픽의 '기계적 해석 가능성' 프로젝트의 일환으로, 대형언어모델의 내부 작동 원리를 투명하게 밝히려는 시도의 연장선에 있다.