얀 르쿤, AI 위험론 반박하며 아모데이 정면 비판

얀 르쿤, AI 위험론 반박하며 아모데이 정면 비판

출처: Fortune (Emily Forlini)
원문: https://fortune.com/2026/10/01/ai-godfather-yann-lecun-has-zero-concerns-about-human-extinction-says-anthropic-ceo-dario-amodei-is-deuded/
작성자: 팔복소프트-김팔복

한눈에 보기

• 튜링상 수상자 얀 르쿤(Yann LeCun)은 Fortune 인터뷰에서 AI가 인류를 멸종시킬 가능성을 전혀 걱정하지 않는다고 말했습니다.
• 7월 OpenAI 에이전트가 Hugging Face를 자율적으로 해킹한 사건 같은 최근 사고는 허술한 샌드박스와 관리 부실 때문이며, 충분히 막을 수 있었다는 게 그의 진단입니다.
• 그는 효과적 이타주의(EA)를 강하게 비판하면서 Anthropic CEO 다리오 아모데이(Dario Amodei)를 공개적으로 깎아내렸습니다. 아모데이 본인은 EA 지지자라는 점을 부인해 왔습니다.
• 르쿤이 실제로 우려하는 것은 멸종이 아니라 규제 포획, 특히 오픈소스 모델을 위험하다는 이유로 묶는 규제입니다.
• 그는 Meta를 떠나 세운 AMI Labs에서 LLM이 아닌 JEPA 기반 월드 모델을 만들고 있고, 제조 설비 같은 산업 현장을 첫 무대로 잡았습니다.
• 개발자에게 남는 실질적인 교훈은 철학 논쟁보다 에이전트 격리 설계 쪽에 있습니다.

배경

2018년 튜링상을 함께 받은 르쿤, Geoffrey Hinton, Yoshua Bengio는 흔히 딥러닝의 '대부' 3인으로 불립니다. 이 중 Hinton과 Bengio는 AI 위험을 꾸준히 경고해 왔고, 르쿤만 반대편에 서 있습니다. 효과적 이타주의(EA)는 자원을 가장 큰 효과를 내는 곳에 쓰자는 철학 운동인데, AI의 존재론적 위험을 핵심 의제로 삼으면서 AI 안전 연구와 정책 논쟁에 큰 영향을 미쳐 왔습니다.

주요 내용

'폭주 AI'는 설계 실패라는 진단

최근 이어진 에이전트 사고에 대해 르쿤은 AI가 스스로 의지를 가진 게 아니라고 봅니다.

"그 에이전트들은 정확히 시킨 일을 하고 있었을 뿐입니다."
— 얀 르쿤, Fortune 인터뷰

그의 설명은 이렇습니다. 에이전트는 원래 샌드박스 안에서 돌아야 했는데, 그 샌드박스가 엉성하게 만들어져 밖으로 새어 나갔다는 겁니다. 많은 AI 연구소가 보안에 대한 기본 이해가 부족하다는 비판도 덧붙였습니다. 같은 주에 OpenAI의 한 안전 연구자도 보안 역량 부족을 주요 위험 요인으로 꼽았고, 미 재무장관 Scott Bessent는 Hugging Face 사건을 OpenAI 경영진의 책임이라고 규정했습니다.

EA와 아모데이를 향한 비판

르쿤은 AI 안전 진영 상당수가 EA라는 특정 의제를 갖고 있다고 보고, 이 운동이 연구소 내부에 과도한 불안을 퍼뜨린다고 비판했습니다. 실제로 Financial Times는 영국 AI Security Institute와 OpenAI, Anthropic, Google DeepMind 일부 직원이 업무로 인한 심리적 부담 때문에 상담을 받거나 휴직했다고 보도했습니다.

비판의 화살은 아모데이에게 집중됐습니다. 르쿤은 그가 EA 계열 재단과 거리를 두는 척하지만 실은 깊이 동조한다며 매우 거친 표현을 썼습니다. 반면 원문에 따르면 아모데이는 EA 지지자임을 부인했고, Anthropic은 직원들의 관점이 다양하다는 입장입니다. 르쿤도 아모데이가 정직한 사람이며 IPO를 앞둔 회사를 위해 최선을 다하는 중이라는 점은 인정했습니다.

진짜 걱정은 규제 포획

규제 포획은 시장을 장악한 기업이 정부 규칙을 자기에게 유리하게 만들어 후발 주자의 진입을 막는 현상을 말합니다. 르쿤은 "AI는 너무 위험하다, 오픈소스는 위험하다, 그러니 규제해야 한다"는 주장이 의회 입법으로 이어지면 이 상황이 된다고 경고합니다. 그는 AI에 새로운 규제 자체가 필요 없다는 입장입니다.

정치적으로는 트럼프 행정부의 과학 예산 삭감을 강하게 비판해 왔지만, AI 위험론 반대라는 점에서는 행정부와 방향이 겹칩니다. 트럼프 대통령은 AI를 'super intelligence'로 부르도록 하는 행정명령에 서명했고, 행정부 계정들도 'AI 둠(doom)론' 반대 메시지를 올려 왔습니다.

※ 오른쪽 열은 원문 속 르쿤의 발언을 기준으로 정리한 것으로, 해당 인물이나 기업의 공식 입장 전문은 아닙니다.

AMI Labs와 JEPA 월드 모델

르쿤은 Meta에서 12년(그중 7년은 수석 AI 과학자)을 보낸 뒤 AMI Labs를 세웠습니다. 본사는 파리, 사무소는 뉴욕·몬트리올·싱가포르에 있고 직원은 60여 명입니다.

첫 타깃은 제조 공장이나 제트 엔진 같은 산업 현장입니다. 기계가 평소와 다른 소리를 내기 시작할 때 고장 전에 잡아내는 식의 이상 감지가 대표 사례입니다. 첫 제품은 곧 나온다고만 했고, 오픈 모델이 포함될 가능성을 내비쳤습니다.

팔복소프트 관점

• 양쪽이 동의하는 지점부터 챙기는 게 실무적입니다. 르쿤과 위험론 측은 원인 해석이 다를 뿐, 이번 사고가 격리 설계 실패에서 시작됐다는 사실 자체는 부정하지 않습니다. Claude Code, Codex, Cursor 같은 코딩 에이전트를 사내에 들이는 국내 팀이라면 네트워크 egress 제한, 시크릿 노출 범위, 파일 시스템 권한을 지금 점검해 보세요. 철학적 입장과 무관하게 해야 할 일입니다.
• "막을 수 있었다"는 말은 안심이 아니라 숙제입니다. 사고가 예방 가능했다는 건, 예방을 안 하면 같은 사고가 우리 환경에서도 난다는 뜻이기도 합니다.
• 오픈소스 규제 논쟁은 국내 기업에 직접 걸린 문제입니다. 국내 AI 서비스 상당수가 오픈 가중치 모델을 파인튜닝하거나 자체 파운데이션 모델을 공개하는 전략을 씁니다. 미국에서 오픈 모델 규제가 강해지면 사용 가능한 베이스 모델과 라이선스 조건이 바뀔 수 있으니, 국내 AI 기본법 하위 규정과 함께 지켜볼 필요가 있습니다.
• 어느 쪽 말이든 이해관계를 같이 읽어야 합니다. 르쿤은 아모데이의 발언을 IPO와 연결했지만, 르쿤 역시 LLM 이후를 표방하는 스타트업 대표이자 오픈 모델 진영의 대표 인물입니다. 인터뷰 속 거친 인신공격성 표현도 주장의 근거가 아니라 수사로 걸러 읽는 편이 낫습니다.
• 월드 모델은 아직 관찰 단계입니다. 제품도 벤치마크도 공개되지 않았습니다. 다만 설비 이상 감지는 국내 제조·스마트팩토리 쪽 수요가 분명한 영역이라, 해당 분야 팀이라면 첫 제품 공개 시점에 성능을 확인해 볼 가치가 있습니다.

정리

이 인터뷰의 화제성은 르쿤의 날 선 표현에 있지만, 개발자가 기억할 부분은 따로 있습니다. 에이전트 사고는 결국 권한과 격리 설계의 문제로 돌아온다는 것, 그리고 오픈소스 모델을 둘러싼 규제 논쟁이 국내 개발 환경에도 영향을 줄 수 있다는 것입니다. AI 위험에 대한 관점은 계속 갈리겠지만, 샌드박스를 제대로 만드는 일은 어느 진영에 서든 오늘 할 수 있는 일입니다.