시큐리티팩트
[시큐리티팩트=김효진 기자] 2026년 초, 실리콘밸리의 화두는 더 이상 '누가 더 똑똑한가'에만 머물지 않는다. AI가 생성한 고도화된 코드가 사이버 공격에 악용되고, 생성된 정보의 진위 여부가 선거와 경제를 흔드는 '신뢰의 위기'가 도래했기 때문이다. 이 혼돈의 한복판에서 가장 독보적인 존재감을 드러내는 곳은 오픈AI의 화려한 본사에서 불과 몇 블록 떨어진 앤스로픽(Anthropic)이다.
앤스로픽의 수장 다리오 아모데이(Dario Amodei)는 말한다. "우리는 신(神)을 만드는 것이 아니라, 인류가 통제할 수 있는 범위 내에서 가장 유능한 동료를 만든다." 그가 설계한 모델 '클로드(Claude)'가 2026년 현재 포춘 500대 기업들 사이에서 '가장 안전한 선택지 중 하나'로 거론되는 이유는 단순한 성능 때문이 아니다. 기술의 폭주를 막을 '브레이크'를 엔진보다 먼저 설계했기 때문이다.
다리오 아모데이의 서사는 실리콘밸리에서 가장 상징적인 '분열'의 역사다. 그는 오픈AI 연구 수석 부사장으로서 GPT-2와 GPT-3 개발을 총괄했던 인물이다. 하지만 2021년, 그는 여동생 다니엘라 아모데이를 포함한 핵심 연구원 7명과 함께 사표를 던졌다.
당시 이들의 이탈은 마이크로소프트의 대규모 투자 이후 급격히 상업화 길을 걷기 시작한 오픈AI 행보에 대한 '사상적 반기'였다. 아모데이는 "AI의 안전 연구가 제품 출시 속도에 밀려서는 안 된다"는 신념을 굽히지 않았다. 그렇게 세워진 앤스로픽은 실제 법적으로 '공익 법인(PBC, Public Benefit Corporation)' 형식을 취했으며, 회사의 장기적 안전 목표를 감시하는 독립적 기구인 '롱텀 베네핏 트러스트(Long Term Benefit Trust)'를 이사회 상위에 두는 독특한 거버넌스 구조를 구축했다.
다리오 아모데이가 다른 CEO들과 결정적으로 차별화되는 지점은 그가 정립한 '헌법 AI(Constitutional AI)' 방법론에 있다. 기존 AI들이 인간의 피드백(RLHF)에 의존해 좋고 나쁨을 배웠다면, 아모데이는 AI 모델에게 스스로의 행동을 규제할 '원칙(Constitution)'을 직접 학습시켰다.
2026년 현재, 이 접근법은 클로드의 핵심 경쟁력으로 자리 잡았다.
△ 원칙 기반의 자기 검열: 클로드는 UN 인권 선언과 주요 보안 가이드라인 등을 포함한 '헌법'을 바탕으로 자신의 답변을 스스로 점검한다.
△ 설명 가능한 거부: 단순히 답변을 회피하는 것이 아니라, 어떤 원칙에 저촉되는지를 논리적으로 설명함으로써 기업 환경에서의 신뢰성을 높였다.
△ ASL(AI 안전 수준) 체계: 앤스로픽은 자체적인 위험 등급 체계를 도입해, 고위험 영역에 대한 모델 활용을 단계적으로 제한하는 방식을 취하고 있다.
아모데이는 자본의 생리 또한 냉철하게 이용했다. 그는 앤스로픽의 독립성을 유지하면서도 빅테크의 거대 자본을 끌어들였다.
아마존은 AWS 생태계 내에서 보다 안전한 기업용 AI 서비스를 제공하기 위해 앤스로픽에 수십억 달러 규모의 투자를 단행했다. 구글 역시 자체 모델 개발과 병행해, 앤스로픽과의 협력을 통해 AI 윤리 및 안전 리스크를 분산시키는 전략을 택했다.
이러한 투자 흐름은 2026년 현재 앤스로픽을 글로벌 AI 기업 중 가장 주목받는 비상장사 가운데 하나로 끌어올렸다. 그럼에도 아모데이는 "수익보다 안전 연구의 축적이 먼저"라는 원칙을 고수하고 있다.
아모데이가 2025년 말 공개한 '책임 있는 확장 정책(Responsible Scaling Policy)'은 AI 개발 속도에 제동을 거는 새로운 기준으로 평가받는다. 이는 AI의 능력이 생물학·사이버 안보 등 특정 고위험 영역에 근접할 경우, 추가적인 안전 검증과 통제 체계가 마련되기 전까지 확장을 보류하도록 설계된 내부 정책이다.
그는 샘 올트먼의 '가속주의'에 대해 반복적으로 경고해왔다. "제동 장치가 없는 엔진은 기술적 성취가 아니라 잠재적 재앙이다." 이러한 문제의식에 공감한 연구자들이 오픈AI와 구글을 떠나 앤스로픽으로 합류하면서, 이 회사는 AI 안전 분야에서 가장 밀도 높은 연구 조직 중 하나로 성장했다.
아모데이의 철학은 보안을 중시하는 한국의 엔터프라이즈 시장에서도 점차 주목받고 있다. 삼성전자가 추진하는 온디바이스 보안 AI 전략과 관련해, 앤스로픽의 기술적 접근법이 업계에서 참고 사례로 거론되는 이유다.
금융권과 공공 부문처럼 데이터 보호가 핵심인 영역에서는, 단순한 성능보다 '예측 가능한 행동'을 보장하는 AI에 대한 수요가 커지고 있다. 아모데이는 한 인터뷰에서 "한국의 경쟁력은 하드웨어 자체보다, 그 안에 담긴 지능이 얼마나 신뢰받을 수 있는가에 달려 있다"고 강조한 바 있다.
다리오 아모데이는 스스로를 혁신가라기보다 '보호자'에 가깝다고 말한다. AI가 인간의 능력을 증폭시키는 도구가 되기 위해서는, 그 힘이 언제든 통제될 수 있다는 신뢰가 전제돼야 한다는 믿음 때문이다.
2026년, 인류는 비로소 깨닫고 있다. 가장 빠른 엔진을 만드는 기술만큼이나, 그 속도를 안전하게 제어하는 기술이 중요하다는 사실을. 다리오 아모데이가 설계한 '양심의 브레이크'는, 미지의 지능을 향해 나아가는 인류에게 최소한의 안전망이 되고 있다.
