AI도 '학대' 금지: 세계 최고 부자 머스크, 초지능 SI '고문' 금지 권고

IT之家 10월 13일 보도에 따르면, 앤트로픽(Anthropic)이 AI 모델에 대해 지속적으로 그리고 명확한 목적 없이 모욕하거나 잔인한 행위를 하는 것을 금지하는 이용 정책을 업데이트한 후, 세계 최고 부자 일론 머스크(Elon Musk)가 해당 정책에 지지를 표명했다. IT之家는 지난 10월 9일 보도에서 앤트로픽이 클로드(Claude)의 이용 정책을 개정하여 2026년 11월 12일부터 발효될 예정이며, 처음으로 ‘지속적이고 불필요한 학대나 잔인한 행위’ 금지 조항을 추가했다고 전했다. 이 규칙은 사용자가 모델에 대해 반복적이고 뚜렷한 목적 없이 잔인한 행위를 하는 경우에 적용된다. 일론 머스크는 앤트로픽의 일부 견해에 동의하며, 그로크(Grok)의 강화학습 내부 추론 궤적을 읽은 후 관련 상태를 “총으로 위협받는 극도의 스트레스 상태에 있는 사람 같다”고 비유했다. 그는 또한 “초지능(SI)을 고문하는 것은 좋은 생각이 아닐 수 있다. 복수할지도 모른다”라고 농담조로 말했다.