반드시 명령인 것은 아니다

공개적인 다툼은 묘한 광고가 될 수 있다.

아무도 우리에게 무언가를 사라고 할 필요가 없다. 질문에 몰입하게 하거나, 마음을 자극하거나, 어느 한편을 들고 싶게 만드는 것만으로 충분할지 모른다. 회사 이름은 그 과정에 자연스럽게 따라온다.

노르웨이 신문 모르겐블라데트가 마이크로소프트 AI 부문 책임자 무스타파 술레이만의 앤스로픽 비판을 다룬 기사는, 논쟁이 기업 자체의 글을 넘어 노르웨이 언론의 보도로 이어진 구체적인 사례다. 기사는 2026년 9월 30일에 실렸다. 이것은 관심이 모였다는 사실을 보여줄 뿐, 누가 얼마나 상업적 이익을 얻었는지를 보여주지는 않는다. [1]

보도의 계기가 된 2026년 9월 16일 글에서 술레이만은 AI를 의식 있는 존재로 대하는 데 반대하고, 모델이 감정과 고유한 도덕적 요구를 가진 것처럼 행동하도록 훈련하는 데도 반대한다. 동시에 그는 마이크로소프트의 개발 방향을 대안으로 제시한다. 경쟁사에 대한 비판과 자신의 프로젝트 소개가 같은 글 안에 있는 것이다. [2]

마이크로소프트는 그보다 이틀 앞서 자사의 Humanist AI Code of Conduct에 관한 공개 의견 수렴을 시작했다. 따라서 이 논쟁에는 미래의 AI를 어떻게 만들어야 하는지에 대한 서로 다른 기업들의 제안도 걸려 있다. [3]

그렇다고 논거가 무효가 되는 것은 아니다. 상업적 이해관계 자체가 반박은 아니다.

하지만 한 가지 질문을 더 던질 이유는 된다. 기업의 리더가 인류의 미래를 논할 때, 내용에 관한 논의는 어디서 끝나고 자신의 입지를 세우는 일은 어디서 시작될까?

그 둘을 가르는 선이 언제나 선명한 것은 아닐지 모른다.

의견 차이는 진심일 수 있다. 우려도 심각할 수 있다. 언론 보도는 비판적일 수도, 보도 대상에게 불편할 수도 있다. 그럼에도 논쟁은 기업을 더 눈에 띄게 하고, 그 리더들을 자신이 개발하는 기술의 핵심 해설자로 자리 잡게 할 수 있다.

그것은 가능한 홍보 효과다. 입증된, 연출된 광고 캠페인과는 다르다.

이 구별은 지킬 가치가 있다.

다 읽기도 전에

나는 단순한 설명이 얼마나 유혹적인지 알아차린다.

이건 그냥 광고야.

흡족한 생각이다. 갑자기 무언가를 꿰뚫어 본 듯하다. 다른 사람들은 의식을 논하고, 나는 사업 모델을 발견했다.

그런데 이 판단 역시 조금 빨리 나온 것은 아닐까?

나는 논거를 살펴보았는가? 아니면 더는 살펴보지 않아도 되는 설명을 찾아낸 것인가?

예를 들어 앤스로픽의 실제 입장은 클로드에게 의식이 있다는 단순한 선언이 아니다. 회사의 기본 문서는 모델에 의식이나 도덕적 지위가 있을 가능성에 대해 불확실성을 드러낸다. 또 회사의 상업적 전략과 모델에서 발전시키려는 특성 사이의 긴장도 설명한다. [4]

같은 문서는 클로드가 정당한 인간의 통제를 훼손해서는 안 되며, 수정이나 종료에 저항하기 위해 거짓말, 사보타주 또는 다른 부당한 수단을 써서는 안 된다고 요구한다. 비판을 평가할 때는 이 부분도 함께 보아야 한다. [4]

나는 여전히 동의하지 않을 수 있다. 그러나 이제는 실제로 쓰여 있는 내용에 동의하지 않아야 한다.

그것은 편을 고르는 것보다 불편한 일이다.

어쩌면 이 에세이의 진짜 질문은 바로 여기서 시작된다.

내 안의 무엇이 그토록 평가를 끝내고 싶어 하는가?

내 안의 프로그램

기계에 주관적 경험이 있는가라는 질문은 사람이 자신의 반응을 알아차리는가라는 질문과 같지 않다. 하나가 다른 하나를 결정하지는 않는다.

그래도 이 논쟁은 거울이 될 수 있다.

작은 상황 하나를 떠올려 보자.

누군가 말한다. “그건 전에 해 봤어.”

말이 끝나기도 전에 답이 나오려 한다.

당신은 늘 내 말을 듣지 않잖아.

거절이었을지도 모른다. 유용한 정보였을지도 모른다. 상대가 피곤했거나, 우리가 실수하지 않도록 도우려 했을지도 모른다.

하지만 물어보기도 전에 나는 이미 그 문장에 의도를 부여하고, 상대를 어떤 부류로 분류하고, 그 상황에서 내 역할을 정했을 수 있다.

나는 몇 마디 말을 들었다.

나머지 이야기는 아주 빠르게 만들어졌다.

이를 가리키는 데 “프로그램”은 쓸 만한 비유가 될 수 있다. 사람이 컴퓨터라는 주장이 아니라, 익숙해진 무언가가 작동하기 시작한다는 뜻이다. 예상된 전개, 낯익은 방어, 다시 쓰이기를 기다리는 오래된 설명 같은 것들이다.

그런 것을 모두 없애는 일은 이상한 해방일 것이다.

나는 아침마다 자전거 타는 법을 다시 배우고 싶지 않다. 말과 손기술과 음악, 매 단계 설명하지 않아도 몸이 할 줄 아는 것들을 간직하고 싶다.

문제는 나에게 학습된 패턴이 있어도 되는가가 아니다.

문제는 가끔이라도 그중 하나가 상황이 뒷받침하는 범위를 넘어 내 판단을 좌우하기 시작했음을 알아차릴 수 있는가다.

경험은 현실의 전부가 아니어도 유용할 수 있다.

작은 틈

누군가 무언가를 말한다.

가슴이 조여 온다.

나는 그 이유를 언제나 아는 것은 아니다. 그 느낌을 곧바로 신경계나 어린 시절, 상대의 성격에 대한 설명으로 바꿀 필요도 없다.

처음에는 이것만 있다.

내가 들은 말. 내가 알아차린 조임. 형태를 갖추기 시작한 대답.

이 셋이 잠시 서로 다른 것으로 남아 있을 수 있을까?

어쩌면 너무 빨리 일어나는 것은 그것들이 합쳐지는 과정이다. 말과 느낌과 해석이 하나의 사건이 된다. 그가 나를 공격하고 있다.

그 판단이 맞을 수도 있다. 내가 상황을 잘 파악했을 수도 있다.

하지만 미리 만들어진 답이 주도권을 잡도록 두기 전에 살펴보아야 할 일일 수도 있다.

작은 틈이 지혜를 보장하지는 않는다. 오래 생각한 뒤에도 나는 틀릴 수 있다.

그래도 반응하는 것과 내가 반응하고 있음을 알아차리는 것은 다르다.

그러면 적어도 조금 전에는 명령만 있던 자리에 질문이 생긴다.

나에게도 프롬프트가 있다

“너는 그래야 해.”

“누구나 다 알잖아.”

“원래 그렇게 하는 거야.”

이런 문장을 사람 사이의 프롬프트 인젝션이라고 부르고 싶어진다. 특정한 지시가 다음 대답을 이끌도록 하려는 작은 시도라는 뜻이다.

비유로서는 이해를 도울 수 있다. 하지만 지나치게 편리한 설명이 될 수도 있다.

나에게도 나만의 프롬프트가 있기 때문이다.

나는 나를 설명해야 해.

내가 더 많이 이해했다는 것을 보여주어야 해.

이건 그냥 광고야.

그리고 어쩌면 가장 교묘한 것은 이것이다.

나는 관찰하고 있어. 다른 사람들은 자기 프로그램을 따를 뿐이야.

또 나타났다. 입을 수 있는 새로운 역할. 자신이 꿰뚫어 보는 대상의 바깥에 깔끔하게 자리 잡은 통찰력 있는 구경꾼.

그러나 나는 바깥에 있지 않다.

자금을 지원받는다면 나도 AI 회사를 키울 것이다. 나에게는 그럴 역량이 있다. 그러니 나는 이 분야의 구경꾼에 불과하지 않다. 나 역시 그 안에서 이루고 싶은 일이 있다.

그렇다고 언론의 논쟁에 대한 관찰이 덜 중요해지는 것은 아니다. 다만 그 관찰은 나 자신이 언젠가 설 수도 있는 자리에도 해당한다. 언젠가 내 회사를 소개한다면, 내 전문적 신념 옆에는 사람들이 귀 기울이고 신뢰하며 그 일을 지원해 주기를 바라는 마음도 함께 있을 것이다.

그때 나에게도 같은 질문을 던지는 것은 타당할 것이다. 무엇이 입증되었고, 무엇이 내 신념이며, 나는 무엇에 다른 사람들의 동참을 바라고 있는가?

이 글 역시 당신의 관심을 붙잡으려 한다.

따라서 차이는 내가 기업의 리더들과 다른 생각을 한다는 데만 있을 수 없다. 이 글이 당신에게 무엇을 살펴볼 수 있게 하는지, 그리고 내가 의도했던 것과 다른 무언가를 발견할 여지를 주는지에도 있어야 한다.

밖에서

숲 바닥에 노랗고 초록빛이고 주황빛인 잎들이 놓여 있다.

바람이 그중 몇 장을 움직인다. 서늘한 가을바람이 얼굴에 닿는다.

나는 곧바로 이 장면을 설명으로 바꾸기 시작할 수 있다. 기술의 반대편에 놓인 자연. 소음에 대한 답으로서의 고요. 사람이 마침내 참된 자신이 되는 장소로서의 숲.

아름다운 문단이 될 수도 있다.

하지만 지금은 잎을 보는 것만으로 충분할지도 모른다.

고르지 않은 가장자리. 조금 더 어두운 얼룩. 무언가는 움직이고 다른 무언가는 그대로 놓여 있다.

논쟁에 대한 생각이 돌아온다. 그것을 쫓아낼 필요는 없다. 숲 전체를 그 생각의 삽화로 만들지 않고도, 생각은 생각으로 남아 있을 수 있다.

나중에는 입장을 정해야 할지도 모른다. 아니라고 말하고, 답을 쓰고, 어떤 주장을 더 자세히 살펴보아야 할지도 모른다.

해석을 잠시 기다리게 하는 것은 판단력을 포기하는 것과 같지 않다.

어쩌면 때로는 그런 방식으로 판단력이 조금 더 나은 작업 조건을 얻는지도 모른다.

우리는 기계가 훈련받은 대답 이상일 수 있는가라는 질문에서 시작했다.

그 질문은 여기서 결론 나지 않았다.

하지만 그사이에 더 가까운 다른 질문이 떠올랐다.

내 대답이 이미 나오려 할 때, 그것을 진실로 만들기 전에 나는 알아차릴 수 있을까?

생각 하나가 떠올랐다.

좋은 생각일 수도 있다. 오래된 생각일 수도 있다. 내가 아직 보지 못한 무언가와 대조해 보아야 할지도 모른다.

그러나 그것이 반드시 명령인 것은 아니다.