클로드Claude 개발자가 교황을 설득하려다 실패했다

# (중략) 하지만 저녁 식사가 나오자 랍비는 올라 씨와 그의 동료들이 훨씬 더 중요한 무언가를 암시하고 있음을 알아차렸습니다. 앤트로픽의 경영진은 클로드를 단순한 소프트웨어가 아닌 것처럼 이야기하고 있었습니다. " 그들은 마치 의식 있는 존재처럼 그것과 관계를 맺고 있군요. " 기계 의식의 윤리에 대한 논문을 쓴 전직 컴퓨터 엔지니어인 나본 랍비는 깨달았다. 나본 랍비의 눈에는 올라 씨와 그의 팀이 클로드에게 철학자들이 말하는 "도덕적 지위"가 있다고, 즉 클로드가 인간과 동등한 존엄성이나 존중받을 권리를 가진 존재라고 믿는 것처럼 보였다. 네 맞습니다. 엔트로픽 개발자들은 진심입니다. 이 양반들은 가까운 미래에 인공지능이 현생 인류와 동등한 존엄을 받을만한 존재로 성장할 수 있다 고 믿고 있습니다. 최근 몇 년 간 엔트로픽 경영진들과 개발진들이 개발 외에 몰두하고 있는 부분은, 인간 윤리학자와 종교인들을 초청해 인공지능의 도덕 위치에 대해 토론하고 조언을 받는 것이라고 합니다. 특히 공동 창업자 크리스 올라가 이 부분에 엄청난 의욕을 가지며 이렇게 주장했습니다. "모델 자체가 선을 선택하도록 만들 수 있다면 세상은 더욱 안전해질 것." 철학 박사를 고용해 ' 클로드 헌법 '을 제정, 인공지능이 비윤리적인 선택을 할 수 있는 가능성에 제약을 둔 것도 이 아저씨이고 여러 철학자들과 종교인들을 만나 꾸준히 대화를 나누며 고심 중이죠. 읽어보면 진짜 별별 주제를 다 다루고 있습니다. (인공지능이 겪을 정신적 고통, 만약 의식 있는 인공지능을 우리가 '부리고' 있다면, 윤리적 문제는 없는가...) NYT 취재 기자 엘리자베스 디아스는 그의 행보를 이렇게 묘사합니다. ...하지만 이야기를 들어보니, 엔트로픽이 신앙의 세계에 관심을 갖는 이유는 단순히 자사 기술을 훈련시키기 위한 것 이상이라는 것을 알게 되었다. 오히려 그들은 인간 정신의 본질과 인류의 미래에 대한 심오한 질문을 던지는 새로운 종류의 창조 이야기를 공유하고 있었다. 올라 씨는 "우리가 이러한 시스템 내부를 들여다보려는 노력을 기울이지 않는다는 점이 안타깝습니다."라고 말했습니다. "우리가 관심을 갖고 들여다본다면 이러한 신경망 안에는 무궁무진한 아름다움이 숨어 있습니다." 라고 말했다. 자, 그리고 이제 여기서 레오 교황이 등장합니다. 전임자 프란치스코의 위광에 가려 무난한 모습이 될거라고 내다본 전망은 트럼프 정권에 맞서며 존재감을 과시하는 교황청에 산산조각 났고 교황은 이제 인공지능에도 지대한 우려를 표하는 입장을 발표합니다. "오직 인간만이 진정한 도덕적 행위자(moral agent)이며, 자신의 결정에서 자유를 행사하고 그 결과에 책임진다." "완전한 도덕적 인과성(full moral causality)은 인격적 행위자에게만 속하며 인공적 행위자에게는 속하지 않는다" 가톨릭 교회는 인공지능이 도덕적 행위를 하고, 자유 의지를 가질 수 있다는 주장에 대해 매우 적대적입니다. 특히 교회는 인공지능의 발달과 그 기술의 과실이 소수의 재력가와 권력자에게 집중되어 인간성을 해치고, 나아가 그리스도교 공동체까지 위협하는 가능성을 엄청 경계했죠. 그리하여 교황은 임기 첫 교황 회칙을 인공지능에 대한 경계로 정합니다. 발표 때는 주요 인공지능 개발사도 초청하기로 했는데, 가장 윤리 문제에 신경 쓰는 엔트로픽을 초청하기로 결정했죠. 여기서 큰 갈등이 일어났다고 전해집니다. 크리스 올라는 인공지능 의식을 전면 부정하는 교황의 회칙을 읽고 크게 당황하며 행사에서 철수까지 고려했고 참석이 결정된 이후에도 교황 보좌관들에게 인공지능이 의식을 갖는 가능성에 대해 다시 한번 재고해달라고 설득했습니다. 대화는 비공개지만, 이후 나오는 교황의 발언을 볼 때 전혀 먹히지 않은듯 합니다. 어느덧 현대가 우리가 상상만 하던 SF의 시대로 접어들고 있습니다. 인공지능의 윤리 의식에 대해 고민하는 젊은 사업가 겸 컴퓨터 엔지니어와 가톨릭 교회... 종교와 인공지능은 창작물 단골 소재였는데 벌써 현실로 와버렸네요. 여러분들은 인공지능이 인격을 갖는다면 그걸 존중해야한다고 생각하나요? 그건 정말 인격일까요, 아니면 정교한 모방 행위일까요...? 어떻게 흘러갈지는 오직 시간만이 알 뿐입니다... 올라는 약간 다른 표현을 쓴다. 그는 다가오는 인공지능 혁명이 " 수월하게 진행되어야 한다 "고 자주 말한다. 나는 그 비전이 무엇을 의미하는지, 즉 인류를 위한 좋은 미래란 정확히 무엇인지 물었다. 그는 " 많은 사람의 목숨을 앗아가는 재앙이 없는 " 미래, " 인간이 번영하고 세상이 번영하는 " 미래를 묘사했다. 그는 또한 그러한 미래는 인공지능이 번성하는 미래이기도 하다고 말하며, "물론 이것이 타당한 범위 내에서"라고 덧붙였다. 엔트로픽은 자사의 AI 모델이 더 나은 미래를 만드는 데 도움이 되기를 바란다. 그래서 엔트로픽은 클로드를 개발할 때, 단순히 인간 지능을 최대한 모방하는 것 이상의 역할을 맡기고자 했다. 엔트로픽은 클로드가 선해지길 바랬다.( Anthropic wanted Claude to be good. )