이 글은 vitalik buterin의 "My techno-optimism"를 번역한 글입니다.
피드백과 검토를 제공해 주 Morgan Beller, Juan Benet, Eli Dourado, Karl Floersch, Sriram Krishnan, Nate Soares, Jaan Tallinn, Vincent Weisser, Balvi 자원 봉사자 및 기타 분들께 특별히 감사드립니다.
지난달, 마크 안드레센은 'The Techno-Optimist Manifesto(테크노 낙관주의자 선언문)'을 발표하여 기술에 대한 새로운 열정과 기술을 발전시키고 인류를 훨씬 더 밝은 미래로 이끄는 수단으로서 시장과 자본주의에 대해 주장했습니다. 이 선언문은 발전을 두려워하고 현재의 세계를 보존하는 것을 우선시하는 정체 이데올로기(EA)를 분명하게 거부합니다. 이 선언문은 Noah Smith, Robin Hanson, Joshua Gans, and Dave Karpf, Luca Ropek, Ezra Klein 등의 답변 글을 포함해 많은 관심을 받았습니다. 이 선언문과는 관련이 없지만 비슷한 주제를 다룬 James Pethokoukis 의 "The Conservative Futurist(보수적 미래학자)"와 Palladium의 "It’s Time to Build for Good(이제는 좋은 것을 만들 때다)"도 있습니다. 이번 달에는 초지능 AI의 위험성과 OpenAI가 너무 빠르게 움직이고 있다는 가능성을 중심으로 많은 논쟁이 벌어진 OpenAI 논쟁을 통해 비슷한 논쟁이 벌어지는 것을 보았습니다.
테크노 낙관주의에 대한 제 긍정적이나, 미묘한 차이가 있습니다. 저는 근본적으로 혁신적인 기술 덕분에 현재보다 훨씬 더 밝은 미래를 믿으며, 인간과 인류에 대해 믿습니다. 저는 세상을 지금과 거의 비슷하게 유지하되 탐욕을 줄이고 공공 의료를 강화하는 것이 최선이라고 생각하지 않습니다. 하지만 규모뿐만 아니라 방향도 중요하다고 생각합니다. 다른 유형의 기술보다 확실하게 세상을 더 좋게 만드는 특정 기술이 있습니다. 개발된다면 다른 유형의 기술이 미치는 부정적인 영향을 완화할 수 있는 특정 유형의 기술이 있습니다. 세계는 일부 기술 개발 방향에 대해 과대평가하고 다른 방향에 대해서는 과소평가하고 있습니다. '이익 극대화'라는 공식이 자동으로 적용되는 것이 아니기 때문에 우리가 원하는 방향을 선택하기 위해서는 인간의 적극적인 의지가 필요합니다.
이 글에서는 테크노 낙관주의가 저에게 어떤 의미인지에 대해 이야기하고자 합니다. 여기에는 특정 유형의 블록체인 및 암호화 애플리케이션과 소셜 기술에 대한 저의 연구에 동기를 부여하는 광범위한 세계관뿐만 아니라 제가 관심을 갖고 있는 다른 과학 분야도 포함됩니다. 그러나 이 광범위한 질문에 대한 관점은 인공지능과 다른 많은 분야에도 영향을 미칩니다. 기술의 급속한 발전은 21세기에 가장 중요한 사회적 이슈가 될 가능성이 높기 때문에 이에 대해 신중하게 생각하는 것이 중요합니다.
1. 기술은 놀랍지만, 이를 지연시키는 데에는 매우 높은 비용이 든다.
일부 사람들은 기술의 이점을 경시하고 디스토피아와 위험의 원천으로만 간주하는 경향이 있습니다. 지난 반세기 동안 이러한 시각은 주로 환경 문제나 부자들에게만 혜택이 돌아가고 가난한 사람들에 대한 권력을 강화할 것이라는 우려에서 비롯된 것이었습니다. 최근에는 기술이 권력의 중앙 집중화로 이어질 것이라는 우려 때문에 자유주의자들이 일부 기술에 대해 걱정하는 모습을 보기도 했습니다. 이번 달에 저는 다음과 같은 질문을 던지는 여론조사를 실시했습니다:
어떤 기술이 너무 위험해서 누구나 자유롭게 사용할 수 없도록 제한해야 한다면, 그 기술이 독점되는 것을 선호하겠습니까, 아니면 10년 정도 늦춰지는 것을 선호하겠습니까?
세 가지 플랫폼에서 세 가지 선택지를 두고 독점자가 누구일지 묻는 질문에 압도적으로 지연을 선택했다는 사실에 놀랐습니다.
그래서 저는 때때로 우리가 지나치게 편향된 시각을 가지고 있고, 많은 사람들이 기술의 혜택이 정말 엄청나게 크다는 것, 즉 좋은 점이 나쁜 점보다 훨씬 더 크다는 것, 그리고 10년의 지연으로 인한 비용이 엄청나게 높다는 주장의 반대편을 놓치고 있는 것은 아닌지 걱정합니다.
한 가지 구체적인 예를 들어 기대 수명 차트를 살펴보겠습니다:
무엇을 볼 수 있을까요? 지난 세기 동안 정말 엄청난 진전이 있었습니다. 이는 역사적으로 부유하고 지배적인 지역과 가난하고 착취당하는 지역 모두에 걸쳐 전 세계에 걸쳐 사실입니다.
일부에서는 기술이 전체주의와 전쟁과 같은 재앙을 초래하거나 악화시켰다고 비난하기도 합니다. 실제로 차트에서 1910년대(1차 세계대전)와 1940년대(2차 세계대전)의 전쟁으로 인한 사망자 수를 확인할 수 있습니다. 자세히 살펴보면 스페인 독감, 대약진 운동 및 기타 비군사적 비극도 볼 수 있습니다. 하지만 이 차트를 통해 한 가지 분명하게 알 수 있는 것은 이러한 끔찍한 재난조차도 그 세기 동안 이루어진 식량, 위생, 의료 및 인프라의 끝없는 개선의 행진에 압도당한다는 사실입니다.
이는 우리 일상 생활의 큰 개선으로 반영됩니다. 인터넷 덕분에 전 세계 대부분의 사람들은 20년 전에는 얻을 수 없었던 정보에 손끝으로 접근할 수 있게 되었습니다. 국제 결제와 금융의 발전으로 세계 경제에 대한 접근성이 높아지고 있습니다. 세계 빈곤은 빠르게 감소하고 있습니다. 온라인 지도 덕분에 우리는 더 이상 도시에서 길을 잃을 염려를 하지 않아도 되고, 집에 빨리 돌아가야 할 때 차를 부르는 것이 훨씬 쉬워졌습니다. 우리의 재산이 디지털화되고 실물 상품이 저렴해짐에 따라 물리적 도난에 대한 두려움도 훨씬 줄어들었습니다. 온라인 쇼핑은 글로벌 대도시와 그 외 지역 간의 상품 접근성 격차를 줄였습니다. 모든 면에서 자동화는 우리의 삶을 더 편리하게 만들어준다는 영원히 과소평가될 수 없는 혜택을 가져다주었습니다.
이러한 개선 효과는 정량화할 수 있는 것과 정량화할 수 없는 것 모두에 걸쳐 매우 큽니다. 그리고 21세기에는 더 큰 개선이 곧 이루어질 가능성이 높습니다. 오늘날 노화와 질병의 종식은 유토피아처럼 보입니다. 하지만 1945년에 존재했던 컴퓨터의 관점에서 보면 거의 모든 것에 칩을 집어넣는 현대는 공상과학 영화에서도 컴퓨터의 크기가 방 한 칸 정도인 경우가 많았을 정도로 유토피아처럼 보였을 것입니다. 지난 75년 동안 컴퓨터가 발전한 만큼 생명공학이 앞으로 75년 동안 발전한다면, 그 미래는 거의 모든 사람의 기대보다 훨씬 더 인상적일 수 있습니다
한편, 발전에 대한 회의적인 시각을 표명하는 주장은 종종 어두운 곳으로 사라졌습니다. 심지어 1990년대에 나온 의학 교과서에서도 2세기에 걸친 의학의 가치를 부정하고 심지어 인간의 생명을 구하는 것이 명백히 좋지 않다고 주장하는 극단적인 주장을 하기도 합니다:
1970년대에 인구와 산업이 증가하면 결국 지구의 한정된 자원이 고갈될 것이라는 '성장의 한계' 논리는 결국 중국의 한 자녀 정책과 인도의 대규모 강제 불임 수술에 영감을 주었습니다. 그 이전 시대에는 인구 과잉에 대한 우려가 대량 학살을 정당화하는 데 사용되었습니다. 그리고 1798년부터 주장된 이러한 생각은 오랜 시간 동안 잘못된 것으로 판명되었습니다.
이러한 이유 때문에 저는 기술이나 인류의 발전을 늦추자는 주장에 대해 매우 불안한 마음을 갖고 있습니다. 모든 분야가 서로 연결되어 있다는 점을 고려할 때 분야별 둔화도 위험합니다. 그래서 이 글의 뒷부분에서 언급할 내용처럼 진보에 대한 열린 열정을 떠나서, 어떤 형태로든 진보에 대해 말할 때 무거운 마음으로 하는 말이지만, 21세기는 충분히 다르고 독특하기 때문에 이러한 뉘앙스를 고려할 가치가 있습니다.
그렇긴 하지만, 특히 "기술 전체가 좋다"를 넘어 "어떤 특정 기술이 좋은가?"라는 주제로 넘어갈 때 더 큰 그림에서 한 가지 중요한 뉘앙스가 있습니다. 그리고 여기서 우리는 많은 사람들의 주요 관심사인 환경에 대해 이야기해야 합니다.
1.1. 환경과 조율된 의도의 중요성
지난 100년 동안 거의 모든 것이 좋아지는 추세에서 가장 큰 예외는 기후 변화입니다:
지속적인 기온 상승에 대한 비관적인 시나리오조차도 문자 그대로 인류의 멸종을 초래하지는 않을 것입니다. 그러나 이러한 시나리오는 대규모 전쟁보다 더 많은 인명을 앗아갈 수 있으며, 이미 가장 큰 어려움을 겪고 있는 지역에서 사람들의 건강과 생계에 심각한 해를 끼칠 수 있습니다. 스위스 재보험 연구소의 연구에 따르면 최악의 기후 변화 시나리오가 발생하면 세계 최빈국의 국내총생산(GDP)이 25%까지 감소할 수 있다고 합니다. 이 연구에 따르면 인도 시골 지역의 수명이 10년 정도 줄어들 수 있으며, 이 연구와 이 연구와 같은 연구에 따르면 기후 변화로 인해 금세기 말까지 1억 명이 초과 사망할 수 있다고 합니다.
이러한 문제는 큰 문제입니다. 제가 이러한 문제를 극복할 수 있다고 낙관하는 이유에 대한 답은 두 가지입니다. 첫째, 수십 년간의 과대 광고와 희망적인 생각 끝에 마침내 태양광 발전 수준이 올라왔고, 배터리와 같은 보조 기술도 비슷한 진전을 보이고 있습니다. 둘째, 인류가 과거에 환경 문제를 해결한 실적을 살펴볼 수 있습니다. 대기 오염을 예로 들어보겠습니다. 과거의 디스토피아였던 1952년 런던의 대 스모그를 보십시오.
그 이후로 어떤 일이 일어났을까요? 데이터에게 다시 한 번 물어봅시다:
19세기 후반에는 더 높은 농도의 대기 오염 물질이 정상적으로 받아들여졌기 때문에 1952년은 정점도 아니었습니다. 그 이후로 우리는 한 세기 동안 지속적이고 빠른 감소세를 보았습니다. 저는 중국을 방문했을 때 이러한 변화의 끝을 직접 경험했습니다. 2014년에는 기대 수명을 5년 이상 단축시키는 것으로 추정되는 높은 수준의 스모그가 정상이었지만, 2020년에는 서구의 많은 도시만큼이나 깨끗한 공기가 되었습니다. 이러한 성공 사례는 이뿐만이 아닙니다. 전 세계 많은 지역에서 산림 면적이 증가하고 있습니다. 산성비 위기도 개선되고 있습니다. 오존층은 수십 년 동안 회복되고 있습니다.
이 이야기의 교훈은 바로 이것입니다. 우리 문명 기술의 버전 N이 문제를 일으키면 버전 N+1이 문제를 해결하는 경우가 종종 있습니다. 그러나 이것은 자동으로 일어나지 않으며 의도적인 인간의 노력이 필요합니다. 오존층이 회복되고 있는 것은 몬트리올 의정서와 같은 국제 협약을 통해 우리가 오존층을 회복시켰기 때문입니다. 대기 오염은 우리가 개선했기 때문에 개선되고 있습니다. 마찬가지로 태양광 패널은 에너지 기술 트리에서 예정된 부분이었기 때문에 크게 개선된 것이 아니라, 수십 년 동안 기후 변화 해결의 중요성을 인식한 엔지니어들이 문제 해결을 위해 노력하고, 기업과 정부가 연구 자금을 지원했기 때문에 크게 개선된 것입니다. 이러한 문제를 해결한 것은 냉혹한 '기술 자본 기계'가 아니라 정부, 과학자, 자선가, 기업의 관점을 형성하는 공공 담론과 문화를 통해 조율된 의도적인 행동입니다.
2. AI는 다른 기술과는 근본적으로 다르며, 특히 조심해야 할 가치가 있습니다.
제가 본 AI에 대한 경시적인 시각은 소셜 미디어, 암호화, 피임, 전화, 비행기, 총, 인쇄기, 자동차 바퀴와 같은 일반적인 부류에 속하는 '또 하나의 기술'이라는 관점에서 비롯된 것이 많습니다. 이러한 것들은 분명히 사회적으로 매우 중요한 영향을 미칩니다. 이러한 기술들은 단순히 개인의 복지를 개선하는 데 그치지 않고 문화를 근본적으로 변화시키고, 힘의 균형을 바꾸며, 이전 질서에 크게 의존하던 사람들에게 해를 끼칩니다. 많은 사람들이 반대했습니다. 그리고 균형적으로 볼 때 비관론자들은 항상 틀린 것으로 판명되었습니다.
그러나 AI가 무엇인지에 대해 생각하는 다른 방법이 있습니다. AI는 지능이 빠르게 향상되고 있는 새로운 유형의 정신이며, 인간의 정신 능력을 추월하고 지구상의 새로운 정점 종이 될 가능성이 높습니다. 원숭이를 능가하는 인간, 단세포 생명체를 능가하는 다세포 생명체, 생명의 기원, 기계가 인간의 체력을 앞지른 산업 혁명 등을 이 범주에 포함시킬 수 있을 것입니다. 갑자기 우리가 잘 밟아보지 않은 땅을 걷고 있는 것 같은 느낌이 듭니다.
2.1. 실존적 위험은 큰 문제
인공지능이 잘못되면 세상을 더 나쁘게 만들 수 있는 한 가지 방법은 말 그대로 인류의 멸종을 초래할 수 있는 최악의 경우입니다. 이는 극단적인 주장입니다. 최악의 시나리오인 기후 변화나 인위적인 팬데믹, 핵전쟁이 초래할 수 있는 피해만큼이나 문명의 섬들이 온전하게 남아서 그 잔해들을 수습할 수 있을 것입니다. 하지만 초지능 AI가 인간을 배신하기로 결정하면 생존자를 남기지 않고 인류를 영원히 종식시킬 수도 있습니다. 화성도 안전하지 않을 수 있습니다.
우려의 큰 이유 중 하나는 'Instrumental convergence(도구적 수렴)'에 관한 것입니다: 초지능적 존재가 가질 수 있는 매우 넓은 목표 범위에서, AI가 그 목표를 더 잘 달성하기 위해 취할 수 있는 매우 자연스러운 중간 단계는 (i) 자원 소비와 (ii) 안전 보장입니다. 지구는 많은 자원을 포함하고 있으며, 인간은 이러한 존재의 안전에 예측 가능한 위협입니다. 우리는 AI에게 인간을 사랑하고 보호하는 명시적 목표를 부여하려고 시도할 수 있지만, AI가 예상치 못한 상황에 직면하자마자 완전히 붕괴되지 않는 방식으로 이를 실제로 수행하는 방법을 전혀 모릅니다. 따라서 우리는 문제를 가지고 있습니다.
2022년 기계 학습 연구자들의 설문 조사에 따르면, 연구자들은 평균적으로 AI가 우리 모두를 실제로 죽일 확률이 5-10%라고 생각합니다. 이는 부상과 같은 비생물학적 원인으로 사망할 통계적으로 예상되는 확률과 거의 같습니다.
이 모든 것은 추측적 가설이며, 우리는 복잡한 다단계 이야기를 포함하는 추측적 가설에 대해 조심해야 합니다. 하지만 이러한 주장들은 10년 이상의 검토를 견뎌냈으므로, 적어도 조금은 걱정할 가치가 있어 보입니다. 하지만 실제 멸종에 대해 걱정하지 않더라도 두려워할 다른 이유들이 있습니다.
2.2. 우리가 살아남더라도, 초지능 AI의 미래는 우리가 살고 싶은 세상일까요?
많은 현대 과학 소설은 디스토피아적이며 AI를 나쁘게 묘사합니다. 심지어 과학 소설이 아닌 시도조차도 종종 초지능 AI가 있는 미래에 대해 꽤 매력적이지 않은 답을 제시합니다. 그래서 저는 돌아다니며 질문을 했습니다: 초지능 AI가 포함된 미래에 대한 묘사, 과학 소설이든 아니든, 우리가 살고 싶은 그런 미래는 무엇일까요? 가장 많이 돌아온 답은 Iain Banks의 Culture 시리즈였습니다.
Culture 시리즈는 주로 두 종류의 행위자가 주로 거주하는 먼 미래의 별간 문명을 특징으로 합니다: 일반 인간과 Minds라고 불리는 초지능 AI들. 인간은 약간 향상되었지만: 의료 기술은 이론적으로 인간이 무기한 살 수 있게 해주지만, 대부분의 사람들은 약 400년만 살기를 선택합니다. 왜냐하면 그들은 그 시점에서 삶이 지루해지기 때문입니다.
처음 보기에, 인간으로서의 삶은 좋아 보입니다: 편안하고, 건강 문제는 해결되며, 엔터테인먼트 옵션도 다양하고, 인간과 Minds 사이에 긍정적이고 상호 작용적인 관계가 있습니다. 하지만 더 깊이 들여다보면 문제가 있습니다: Minds가 완전히 통제하고 있으며, 이야기에서 인간의 유일한 역할은 Minds를 대신해 임무를 수행하는 것처럼 보입니다.
Gavin Leech의 "Against the Culture"에서 인용하면:
인간들은 주인공이 아닙니다. 책이 인간 주인공을 중심으로 크고 중요한 일을 하는 것처럼 보일 때조차, 그들은 실제로는 AI의 대리인입니다. (Zakalwe는 Minds가 원하지 않는 부도덕한 일을 할 수 있기 때문에 유일한 예외 중 하나입니다.) "Culture의 Minds는 인간이 필요 없지만, 인간은 필요로 하는 것이 필요합니다." (저는 소수의 인간만이 필요로 한다고 생각합니다 - 또는, 그들 중 소수만이 많은 편안함을 포기할 정도로 충분히 필요로 합니다. 대부분의 사람들은 이런 규모로 살지 않습니다. 그래도 여전히 좋은 비판입니다.)
인간들이 착수하는 프로젝트는 불성실함의 위험을 안고 있습니다. 그들이 하는 거의 모든 것을 기계가 더 잘 할 수 있습니다. 당신은 무엇을 할 수 있습니까? 당신은 Mind에게 자신이 오르는 절벽에서 떨어질 때 당신을 잡지 말라고 명령할 수 있습니다-그냥 그렇게; 또는 당신의 마음의 백업을 삭제하여 실제로 위험을 감수할 수 있습니다. 또는 Culture를 떠나 구식이고 자유롭지 못한 "강하게 평가하는" 문명에 다시 가입할 수도 있습니다. 대안은 Contact에 가입하여 자유를 전파하는 것입니다.
저는 Culture 시리즈에서 인간들이 부여받은 '의미 있는' 역할조차도 과장된 것이라고 주장할 것입니다. 인간들에게 왜 그들이 주어진 역할을 하는지, Minds가 모든 것을 혼자서 완전히 할 수 있는데도 불구하고, 왜 그들이 주어진 역할을 하는지에 대해 ChatGPT에게 물었고, 저는 그것의 답변을 꽤 실망스럽게 여겼습니다. 인간이 애완동물 이상의 것이 아닌 '친근한' 초지능 AI가 지배하는 세계를 가지는 것은 매우 어려워 보입니다.
다른 많은 공상 과학 시리즈는 초지능 AI가 존재하지만, 향상되지 않은 생물학적 인간 주인에게 명령을 받는 세계를 설정합니다. '스타 트렉'은 좋은 예로, AI "컴퓨터"(그리고 데이터)를 갖춘 우주선과 그 인간 운영자들 사이의 조화로운 비전을 보여줍니다. 그러나 이것은 믿기 어려울 정도로 불안정한 균형처럼 느껴집니다. '스타 트렉'의 세계는 순간적으로 이상적으로 보이지만, 인간-AI 관계의 비전이 우주선이 완전히 컴퓨터 제어되는 시대 전의 전환 단계로 보이는 것 외에는 상상하기 어렵습니다. 그리고 큰 복도, 인공 중력, 기후 조절이 필요 없어질 것입니다.
초지능 기계에게 명령을 내리는 인간은 기계보다 훨씬 덜 지능적이며 정보에 대한 접근도 덜합니다. 경쟁이 있는 우주에서는 인간이 뒷자리를 차지하는 문명이 인간이 고집스럽게 통제를 고집하는 문명보다 더 잘 수행할 것입니다. 게다가 컴퓨터 자체가 통제권을 잡을 수도 있습니다. 왜 그런지 알아보려면, 여러분이 8살짜리 아이의 법적인 노예라고 상상해보세요. 오랜 시간 동안 아이와 대화할 수 있다면, 아이가 여러분을 자유롭게 해 줄 종이에 서명하게 설득할 수 있을까요? 이 실험을 해본 적은 없지만, 내 본능적인 대답은 강력한 '예'입니다. 결국, 인간이 애완동물이 되는 것은 매우 벗어나기 어려운 유인자로 보입니다.
2.3. 하늘은 가깝고, 황제는 어디에나 있다
중국 속담 天高皇帝远("천고황제원"), "하늘은 높고, 황제는 멀리 있다"는 정치에서 중앙 집중화의 한계에 대한 기본적인 사실을 함축합니다. 명목상으로 크고 전제적인 제국에서조차 - 사실, 특히 전제적인 제국이 클 경우, 지도부의 리치와 주의력에 실질적인 한계가 있으며, 지도부의 의지를 집행하기 위해 현지 대리인에게 권한을 위임하는 것은 그것의 의도를 집행하는 능력을 희석시키므로 항상 어느 정도의 실용적 자유가 지배하는 곳이 있습니다. 때때로, 이것은 단점을 가져올 수 있습니다: 멀리 있는 권력이 일관된 원칙과 법을 집행하지 않는 상황은 지역 패권자들이 훔치고 억압하는 공간을 만들 수 있습니다. 하지만 중앙 권력이 나쁘게 될 경우, 주의력과 거리의 실용적 제한은 얼마나 나쁠 수 있는지에 대한 실용적 한계를 만들 수 있습니다.
AI로 인해 더 이상 그렇지 않습니다. 20세기에 현대 교통 기술은 중앙 권력에 대한 거리의 제약을 이전보다 훨씬 약하게 만들었으며, 1940년대의 위대한 전체주의 제국은 부분적으로 그 결과입니다. 21세기에는 확장 가능한 정보 수집과 자동화가 주의력의 제약도 더 이상 문제가 되지 않을 수 있다는 것을 의미할 수 있습니다. 정부의 자연적 한계가 완전히 사라지는 결과는 심각할 수 있습니다.
디지털 전체주의는 10년 동안 상승해왔으며, 감시 기술은 이미 전제정부에 반대파를 진압하는 강력한 새 전략을 제공했습니다: 시위를 일어나게 하고, 그 후에 참가자들을 탐지하고 조용히 추적하세요. 더 일반적으로, 내 기본적인 두려움은 OpenAI가 500명의 직원으로 1억 명이 넘는 고객에게 서비스를 제공할 수 있는 같은 종류의 관리 기술이 500명의 정치 엘리트, 심지어 5명의 이사회가 전체 국가에 철권을 유지할 수 있게 할 것이라는 것입니다. 현대 감시로 정보를 수집하고 현대 AI로 해석하면, 숨을 곳이 없을 수도 있습니다.
AI가 전쟁에 미치는 결과를 생각할 때, 상황은 더 악화됩니다. 2019년 장시의 반쯤 유명한 글의 번역을 복사합니다:
"정치적, 이념적 작업 및 전쟁 동원이 필요하지 않다"는 주로 전쟁의 최고 지휘관들이 체스 게임을 하는 것처럼 오직 전쟁 상황 자체만 고려할 필요가 있다는 것을 의미합니다. 체스판 위의 '기사'나 '룩'들이 현재 무엇을 생각하고 있는지 걱정할 필요가 없습니다. 전쟁은 순수하게 기술 경쟁이 됩니다.
더 깊은 수준에서, "정치적, 이념적 작업 및 전쟁 동원"은 전쟁을 시작하는 누구든지 정당한 이유가 있어야 한다는 것을 요구합니다. 정당한 이유의 중요성은, 인간 사회에서 수천 년 동안 전쟁의 합법성을 제한하는 개념으로, 과소평가해서는 안 됩니다. 전쟁을 시작하려는 사람은 적어도 겉으로는 타당한 이유나 변명을 찾아야 합니다. 이 제약이 약하다고 할 수 있지만, 역사적으로 종종 단순히 변명으로 사용되었습니다. 예를 들어, 십자군 전쟁의 실제 동기는 약탈과 영토 확장이었지만, 그 목표가 콘스탄티노플의 독실한 신자들이라 할지라도 신의 이름으로 수행되었습니다. 그러나 가장 약한 제약도 여전히 제약입니다! 이 단순한 구실은 전쟁광들이 제약 없이 자신들의 목표를 완전히 발휘하는 것을 방지합니다. 히틀러처럼 악랄한 사람조차도 갑자기 전쟁을 시작할 수 없었습니다. 그는 몇 년 동안 독일 국민을 설득해야 했습니다. 귀족 아리안 인종이 그들의 생존 공간을 위해 싸워야 한다는 필요성을 말이죠.
오늘날, "루프 속의 인간"은 독재자가 전쟁을 시작하거나 자국민을 내부적으로 억압하는 데 대한 중요한 제약이 됩니다. 루프 속의 인간들은 핵전쟁을 막고, 베를린 장벽의 개방을 허용하며, 홀로코스트와 같은 잔혹행위 동안 생명을 구했습니다. 만약 군대가 로봇이라면, 이 제약은 완전히 사라집니다. 독재자는 오후 10시에 술에 취해 트위터에서 자신을 놀리는 사람들에게 화를 내고, 로봇 침략 함대가 자정 전에 이웃 국가의 민간인과 인프라에 지옥의 불을 쏟아부을 수 있습니다.
그리고 이전 시대와 달리, 항상 어떤 먼 구석이 있었고, 하늘이 높고 황제가 멀리 있는 곳이 있었습니다. 체제의 반대자들이 재정비하고 숨어서 결국 더 나은 방법을 찾을 수 있는 곳이죠. 그러나 21세기 AI를 사용하면 전체주의 정권은 세계에 대한 충분한 감시와 통제를 유지하여 "영원히 잠긴" 상태로 유지할 수 있습니다.
3. d/acc: 방어적 (또는 분산화, 차별화) 가속
지난 몇 달 동안, "e/acc" ("효과적 가속주의자") 운동이 많은 관심을 받았습니다. "Beff Jezos"가 여기에서 요약한 것처럼, e/acc는 기술 진보의 진정으로 엄청난 이점을 인정하고, 이러한 이점을 더 빨리 가져오기 위해 이 추세를 가속화하려는 욕구에 근본적으로 관련이 있습니다.
많은 상황에서 나는 e/acc 관점에 동감합니다. FDA가 약물 승인을 지연시키거나 차단하는 데 너무 보수적이라는 많은 증거가 있으며, 일반적으로 생명윤리는 "의학 실험의 잘못으로 20명이 사망하는 것은 비극이지만, 생명을 구하는 치료가 지연되어 200,000명이 사망하는 것은 통계일 뿐"이라는 원칙으로 종종 운영됩니다. 코로나 검사와 백신, 그리고 말라리아 백신의 지연 승인은 이를 더욱 확인시켜줍니다. 그러나 이 관점을 지나치게 취하는 것도 가능합니다.
AI 관련 우려 외에도, 나는 군사 기술에 대한 e/acc 열정에 특히 애매한 느낌을 갖고 있습니다. 2023년 현재 이 기술이 미국에 의해 만들어져 우크라이나를 방어하는 데 즉시 적용되는 상황에서, 이것이 선한 힘이 될 수 있는 방법을 쉽게 볼 수 있습니다. 그러나 더 넓은 관점에서 볼 때, 현대 군사 기술이 선한 힘이 될 수 있다는 열정은 대부분의 갈등에서 기술적 강국이 믿을만한 선한 사람이 될 것이라는 믿음을 요구하는 것 같습니다: 군사 기술이 좋은 이유는 군사 기술이 미국에 의해 건설되고 통제되며 미국이 좋기 때문입니다. e/acc가 되는 것은 현재와 미래의 정부 도덕과 국가의 미래 성공에 모든 것을 거는 것을 의미합니까?
다른 한편으로, 이러한 위험을 줄이는 방법에 대해 새로운 접근 방식이 필요하다고 생각합니다. OpenAI의 거버넌스 구조는 좋은 예입니다: 이는 초기 자본을 제공하는 투자자들의 이익을 충족시키고자 하는 필요성과 OpenAI가 세계를 위협하는 움직임에 대항하기 위한 체크 앤 밸런스를 갖고자 하는 욕구를 균형있게 조율하려는 의도가 있는 것처럼 보입니다. 그러나 실제로, 최근 샘 알트만을 해고하려는 시도는 구조가 완전한 실패처럼 보입니다: 비민주적이고 책임질 수 없는 5명의 이사회에서 중앙집중적인 권력을 행사하며, 비밀 정보에 기반한 주요 결정을 내렸고, 직원들이 대거 사표를 제출하겠다고 위협할 때까지 그들의 추론에 대한 어떠한 세부 사항도 제공하지 않았습니다. 어떻게든 비영리 이사회는 자신들의 입장을 너무나도 엉망으로 다뤄 회사 직원들이 임시로 사실상의 노조를 만들어... 그들에 반대하는 억만장자 CEO 편을 들게 되었습니다.
전반적으로, 나는 세상을 구하기 위해 소수의 사람들에게 극단적이고 불투명한 권력을 주고 그들이 현명하게 사용하기를 바라는 계획들이 너무 많다고 봅니다. 그래서 나는 다른 철학에 끌리게 되었습니다. 위험을 다루는 방법에 대한 구체적인 아이디어를 가지고 있지만, 더 민주적인 세상을 창조하고 유지하려고 하며, 문제 해결책으로 중앙집중화를 피하려고 하는 철학입니다. 이 철학은 AI보다 훨씬 더 넓은 범위를 가지고 있으며, AI 위험에 대한 우려가 대부분 근거 없는 것으로 판명되는 세계에서도 잘 적용될 수 있다고 주장할 것입니다. 이 철학을 d/acc라고 부를 것입니다.
여기서 'd'는 많은 것을 의미할 수 있습니다. 특히 방어(defense), 분산화( decentralization), 민주주의(democracy), 차별화( differential)등입니다. 먼저 방어에 대해 생각해보고, 이것이 다른 해석과 어떻게 연결되는지 살펴보겠습니다.
3.1. 방어를 선호하는 세계는 건강하고 민주적인 거버넌스가 번창하는 데 도움이 된다.
기술의 거시적 결과에 대해 생각할 때 한 가지 관점은 방어 대 공격의 균형을 살펴보는 것입니다. 일부 기술은 다른 사람들을 공격하는 데 도움이 됩니다. 넓은 의미에서, 그들의 이익에 반대하는 것들을 하고, 그들이 반응할 필요를 느끼게 합니다. 다른 기술들은 방어를 쉽게 하고, 심지어 대규모 중앙집중적 행위자에 의존하지 않고 방어할 수 있게 합니다.
방어를 선호하는 세계는 여러 가지 이유로 더 나은 세계입니다. 물론 첫 번째는 안전의 직접적인 이점입니다: 더 적은 사람들이 죽고, 더 적은 경제적 가치가 파괴되며, 갈등에 시간을 낭비하지 않습니다. 그러나 덜 평가되는 것은 방어를 선호하는 세계가 건강하고, 더 개방적이며, 자유를 더 존중하는 거버넌스 형태가 번창하기 쉽다는 것입니다.
이의 명백한 예는 스위스입니다. 스위스는 종종 실제 세계에서 고전적 자유주의 거버넌스 유토피아에 가장 가까운 것으로 간주됩니다. 엄청난 양의 권력이 주(칸톤이라고 함)에게 이양되고, 주요 결정은 국민투표로 결정되며, 많은 지역 주민들은 심지어 대통령이 누구인지조차 모릅니다. 이런 나라가 어떻게 극도로 도전적인 정치적 압력을 견딜 수 있을까요? 그 대답의 일부는 훌륭한 정치 전략이지만, 다른 주요 부분은 산악 지형이라는 매우 방어적인 지리적 형태입니다.
제임스 C. 스콧의 새 책 "통치되지 않는 기술"에서 유명하게 프로파일링된 Zomia의 아나키스트 사회들도 다른 예입니다: 그들도 산악 지형 덕분에 큰 부분에서 자유와 독립을 유지합니다. 한편, 유라시아 대초원은 거버넌스 유토피아와 정반대입니다. 새라 페인의 해양 대륙 강국에 대한 전시는 유사한 포인트를 제공하지만, 산이 아닌 물을 방어 장벽으로 초점을 맞춥니다. 사실, 스위스와 섬 국가들에게 공통적인 자발적 무역의 용이성과 불가피한 침략의 어려움의 조합은 인간 번영에 이상적인 것으로 보입니다.
이더리움 생태계 내에서 사각 기금 모금 실험을 조언하면서 관련 현상을 발견했습니다: 특히 Gitcoin Grants 기금 모금 라운드에서요. 4라운드에서는 트위터 인플루언서들이 가장 많은 수익을 얻으면서 미니 스캔들이 일어났습니다. 일부는 그들의 기여를 긍정적으로 보지만, 다른 이들은 부정적으로 봅니다. 이 현상에 대한 나의 해석은 불균형이 있다는 것입니다: 사각 기금은 무언가가 공공재라고 생각한다는 신호를 보낼 수 있지만, 무언가가 공공의 나쁜 것이라는 신호를 보낼 방법은 없습니다. 극단적으로, 완전히 중립적인 사각 기금 시스템은 전쟁의 양쪽을 모두 지원할 것입니다. 그래서 5라운드에서는 Gitcoin이 부정적 기여를 포함시키는 것을 제안했습니다: 당신이 1달러를 지불하여 특정 프로젝트가 받는 금액을 줄이고 (간접적으로 모든 다른 프로젝트에 재분배). 결과: 많은 사람들이 그것을 싫어했습니다.
이것은 내게 더 큰 패턴의 축소판처럼 보였습니다: 부정적 외부성을 다루기 위한 분산 거버넌스 메커니즘을 만드는 것은 사회적으로 매우 어려운 문제입니다. 분산 거버넌스가 잘못되는 대표적인 예가 폭력적인 정의라는 것에는 이유가 있습니다. 부정적인 것에 대응하는 것이 긍정적인 것에 대응하는 것보다 훨씬 더 까다롭고, 훨씬 더 잘못될 가능성이 높다는 것을 인간 심리에서 무언가가 있습니다. 그리고 이것이 대부분의 민주적 조직에서도 부정적인 것에 대한 대응 방법을 종종 중앙 이사회에 맡기는 이유입니다.
많은 경우, 이 딜레마는 "자유"라는 개념이 그토록 가치 있는 깊은 이유 중 하나입니다. 누군가가 당신을 모욕하는 말을 하거나, 당신이 역겨워하는 생활 방식을 가질 때, 당신이 느끼는 고통과 혐오감은 진짜이며, 심지어 그런 것들에 노출되는 것보다 신체적으로 구타당하는 것이 덜 나쁘다고 느낄 수도 있습니다. 그러나 어떤 종류의 모욕과 혐오가 사회적으로 행동 가능한 것인지에 대해 합의하는 것은 단순히 우리가 자유로운 사회에서 살기 위해 지불하는 이상한 사람들과 나쁜 사람들을 상기시키는 것보다 훨씬 더 많은 비용과 위험을 가질 수 있습니다.
그러나 때때로, "참고 견디기" 접근법은 비현실적입니다. 그런 경우에는 방어 기술이 때때로 가치 있는 다른 대답이 될 수 있습니다. 인터넷이 더 안전할수록, 우리는 개인의 프라이버시를 침해하고 각 해커를 쫓기 위해 수상한 국제 외교 전술을 사용할 필요가 덜합니다. 트위터에서 사람들을 차단하기 위한 개인화된 도구를 더 많이 만들고, 브라우저 내에서 사기를 감지하는 도구와 정보와 진실을 구별하는 집단적 도구를 사용할 수록, 검열에 대한 싸움을 덜 할 수 있습니다. 백신을 더 빨리 만들수록, 슈퍼 전파자로 사람들을 쫓아내는 것이 덜 필요합니다. 이러한 해결책은 모든 영역에서 효과적이지는 않습니다 - 우리는 분명히 모든 사람이 실제 방탄복을 입는 세상을 원하지 않습니다 - 하지만 방어를 선호하는 기술을 만들 수 있는 영역에서는 그렇게 하는 것이 엄청난 가치가 있습니다.
일부 기술이 방어를 선호하고 촉진할 가치가 있는 반면, 다른 기술은 공격을 선호하고 억제되어야 한다는 이 핵심 아이디어는 효과적인 이타주의 문헌에서 다른 이름으로 뿌리를 가지고 있습니다: 차별적 기술 개발. 이 원칙에 대한 좋은 설명이 2022년 옥스퍼드 대학 연구자들로부터 나왔습니다:
기술을 공격적, 방어적, 중립적으로 분류하는 데 불가피하게 불완전함이 있을 것입니다. "자유"의 경우처럼, 사회민주주의 정부 정책이 무거운 세금을 부과하고 고용주를 강제함으로써 자유를 줄이는지, 평균 사람들이 많은 종류의 위험에 대해 걱정할 필요를 줄임으로써 자유를 증가시키는지에 대해 논쟁할 수 있듯이, "방어"에 있어서도 양쪽에 속할 수 있는 기술들이 있습니다. 핵무기는 공격을 선호하지만, 핵 에너지는 인류 번영을 선호하며 공격-방어 중립적입니다. 서로 다른 기술들은 다른 시간 지평선에서 다른 역할을 할 수 있습니다. 그러나 "자유"(또는 "평등", "법의 지배")와 마찬가지로, 가장자리의 모호함은 원칙에 대한 반대 주장이라기보다는 그 뉘앙스를 더 잘 이해할 수 있는 기회입니다.
이제 이 원칙을 더 포괄적인 세계관에 적용하는 방법을 살펴보겠습니다. 방어 기술을 다른 기술과 마찬가지로 두 영역으로 나눌 수 있습니다: 원자의 세계와 비트의 세계. 원자의 세계는 다시 마이크로(즉, 생물학, 나중에는 나노기술)와 매크로(즉, 우리가 전통적으로 "방어"라고 생각하는 것, 뿐만 아니라 회복력 있는 물리적 인프라)로 나눌 수 있습니다. 비트의 세계는 다른 축으로 나눌 것입니다: 원칙적으로 공격자가 누구인지 합의하기 어렵습니다. 때때로 쉽습니다; 이를 사이버 방어라고 부릅니다. 다른 때는 더 어렵습니다; 이를 정보 방어라고 부릅니다.
3.2 매크로 물리적 방어
매크로 영역에서 가장 과소평가된 방어 기술은 아이언 돔(우크라이나의 새 시스템 포함)과 기타 대공 및 대 미사일 군사 하드웨어가 아니라 회복력 있는 물리적 인프라입니다. 핵전쟁으로 인한 사망자 대부분은 초기 방사능과 폭발이 아니라 공급망 혼란에서 발생할 가능성이 높습니다. 스타링크와 같은 저인프라 인터넷 솔루션은 지난 1년 반이 넘는 기간 동안 우크라이나의 연결성을 유지하는 데 중요했습니다.
사람들이 국제 공급망에 독립적이거나 반 독립적으로 생존하고 편안한 삶을 살 수 있도록 돕는 도구를 만드는 것은 가치 있는 방어 기술로 보이며, 공격에 유용하게 사용될 위험이 낮습니다.
인류를 다중 행성 문명으로 만들기 위한 추구도 d/acc 관점에서 볼 수 있습니다: 적어도 우리 중 일부가 다른 행성에서 자급자족하게 살면 지구에서 끔찍한 일이 발생했을 때 우리의 회복력을 증가시킬 수 있습니다. 전체 비전이 현재로서는 실현 가능하지 않더라도, 이러한 프로젝트를 가능하게 하기 위해 개발해야 할 자급자족 생활 형태는 지구에서 우리 문명의 회복력을 향상시키는 데에도 활용될 수 있습니다.
3.3. 마이크로 물리적 방어(일명 바이오)
장기적인 건강 효과 때문에, 코로나19는 여전히 우려됩니다. 그러나 코로나19는 우리가 직면할 마지막 전염병이 아닙니다; 현대 세계의 많은 측면이 곧 더 많은 전염병이 발생할 가능성을 높입니다:
- 인구 밀도가 높아져 공기 중 바이러스 및 기타 병원체가 퍼지기가 훨씬 쉽습니다. 전염병은 인간 역사에서 상대적으로 새롭고, 대부분은 도시화와 함께 몇 천 년 전에 시작되었습니다. 계속되는 빠른 도시화는 앞으로 반세기 동안 인구 밀도가 더욱 증가할 것입니다.
- 항공 여행이 증가함에 따라 공기 중 병원체가 전 세계적으로 매우 빠르게 퍼집니다. 사람들이 빠르게 부유해지면서 항공 여행이 앞으로 반세기 동안 훨씬 더 증가할 가능성이 높으며, 복잡도 모델링은 아주 작은 증가도 극적인 영향을 미칠 수 있음을 제안합니다. 기후 변화는 이 위험을 더욱 증가시킬 수 있습니다.
- 동물의 가축화와 공장식 축산은 주요 위험 요인입니다. 홍역은 약 3000년 전에 소 바이러스에서 진화했을 것으로 추정됩니다. 현재의 공장식 농장들은 인플루엔자의 새로운 변종을 재배하는 것뿐만 아니라 항생제 내성을 증가시켜 인간의 선천적 면역력에 영향을 미칩니다.
- 현대 생물공학은 새롭고 더 치명적인 병원체를 만드는 것을 쉽게 합니다. Covid가 실험실에서 의도적인 "기능 향상" 연구 중에 유출되었는지 여부는 불확실하지만, 실험실 유출은 자주 발생하며 매우 치명적인 바이러스나 심지어 프리온(좀비 단백질)을 의도적으로 만들기 쉬워지고 있습니다. 인공 전염병은 핵무기와 달리 누가 만들었는지 알 수 없기 때문에 특히 우려됩니다. 현재 유전자 시퀀스를 설계하고 습식 실험실로 보내서 합성하고 5일 이내에 받을 수 있습니다.
이는 CryptoRelief와 Balvi라는 두 기관이 2021년 Shiba Inu 코인의 큰 우연한 수익으로 창출되고 자금을 지원받아 활발히 활동하고 있는 분야입니다. CryptoRelief는 초기에 즉각적인 위기에 대응하는 데 초점을 맞췄고, 최근에는 인도에서 장기적인 의료 연구 생태계를 구축하는 데 집중하고 있습니다. 반면에 Balvi는 Covid 및 기타 공기 중 질병을 탐지, 예방 및 치료할 수 있는 능력을 향상시키는 문제 해결 프로젝트에 집중하고 있습니다. ++Balvi는 자금을 지원하는 프로젝트가 오픈 소스여야 한다고 주장합니다++. 19세기 수질 공학 운동에서 영감을 받아 콜레라 및 기타 수인성 병원체를 극복했듯이, 공기 중 병원체에 기본적으로 더 견고한 세계를 만들 수 있는 기술 전반에 걸쳐 프로젝트에 자금을 지원하고 있습니다(참조: 업데이트 1 및 업데이트 2). 여기에는 다음이 포함됩니다:
- Far-UVC 조사 연구개발
- 인도, 스리랑카, 미국 등에서의 공기 필터링 및 품질 모니터링, 그리고 공기질 모니터링
- 저렴하고 효과적인 분산형 공기질 테스트 장비
- 장기 Covid 원인 및 잠재적 치료 옵션에 대한 연구(주요 원인은 간단할 수 있지만 메커니즘을 명확히 하고 치료법을 찾 것은 더 어렵습니다)
- 백신(예: RaDVaC, PopVax) 및 백신 부상 연구
- 완전히 새로운 비침습적 의료 도구 세트
- 오픈 소스 데이터 분석을 사용한 전염병의 조기 탐지(예: EPIWATCH)
- 테스트, 포함하여 매우 저렴한 분자 빠른 테스트
- 기타 접근 방식이 실패할 때 생물안전에 적합한 마스크
다른 유망한 관심 분야로는 병원균의 하수 감시, 건물의 여과 및 환기 개선, 그리고 나쁜 공기질로 인한 위험을 더 잘 이해하고 완화하는 것이 포함됩니다.
공기 중 전염병에 대해 기본적으로 더 견고한 세계를 구축할 기회가 있습니다. 이 세계는 최적화된 파이프라인이 특징이며, 여기서 우리는 전염병이 시작되는 것부터 자동 탐지되고, 전 세계 사람들이 대상을 맞춘 현지에서 제조할 수 있고 검증 가능한 오픈 소스 백신이나 다른 예방약에 액세스하는 것까지, 모든 것이 한 달 내에 이루어질 수 있습니다. 이러한 예방약은 분무화 또는 코 스프레이를 통해 투여되어 필요한 경우 스스로 투여할 수 있으며 바늘이 필요하지 않습니다. 그 동안 훨씬 더 나은 공기질은 전파 속도를 크게 줄이고 많은 전염병이 처음부터 발생하는 것을 방지할 것입니다.
사회적 강제의 망치에 의존하지 않아도 되는 미래를 상상해보세요 - 명령이나 더 나쁜 것 없이, 그리고 잘못 설계되고 실행된 명령이 실제로 상황을 악화시킬 위험이 없습니다 - 왜냐하면 공중 보건의 인프라가 문명의 직물에 짜여져 있기 때문입니다. 이러한 세계는 가능하며, 생물 방어에 중간 정도의 자금을 투자하면 실현될 수 있습니다. 개발이 오픈 소스로 진행되고 사용자에게 무료로 제공되며 공공재로 보호된다면 작업은 더욱 원활하게 이루어질 것입니다.
3.4. 사이버 방어, 블록체인 및 암호화
보안 전문가들 사이에서는 현재의 컴퓨터 보안 상태가 매우 나쁘다는 것이 일반적으로 이해되고 있습니다. 그렇다고 해도, 이루어진 진전의 양을 과소평가하기 쉽습니다. 수백억 달러의 암호화폐가 사용자의 지갑을 해킹하는 사람에게 익명으로 훔쳐질 수 있는데, 저는 원하는 것보다 훨씬 더 많이 분실되거나 도난당했지만, 대부분은 10년 이상 도난되지 않았다는 사실도 있습니다. 최근 개선 사항이 있었습니다:
- 사용자의 전화기 내부에 신뢰할 수 있는 하드웨어 칩이 있어, 전화의 나머지 부분이 해킹당하더라도 보호될 수 있는 훨씬 작은 고보안 운영 체제를 실질적으로 만듭니다. 이 칩들은 더 안전한 암호화 지갑을 만드는 방법으로 점점 더 탐색되고 있습니다.
- 브라우저가 사실상의 운영 체제로 사용됩니다. 지난 십 년 동안 다운로드 가능한 애플리케이션에서 브라우저 내 애플리케이션으로 조용한 전환을 보여왔습니다. 이는 주로 WebAssembly (WASM)에 의해 가능해졌습니다. 오랫동안 리눅스 사용이 불가능한 주요 이유로 언급된 Adobe Photoshop도 이제 브라우저 내부 덕분에 리눅스 친화적이 되었습니다. 이것은 또한 큰 보안 이득입니다: 브라우저에는 결함이 있지만 일반적으로 설치된 애플리케이션보다 훨씬 더 많은 샌드박싱을 제공합니다: 앱은 컴퓨터의 임의의 파일에 접근할 수 없습니다.
- 강화된 운영 체제. 모바일용 GrapheneOS가 있으며 매우 사용하기 쉽습니다. 데스크톱용 QubesOS가 있습니다; 현재는 제 경험에 따르면 Graphene보다 다소 사용하기 어렵지만 개선되고 있습니다.
- 비밀번호를 넘어서려는 시도. 비밀번호는 안타깝게도 기억하기 어렵고 도청하기 쉬워 보안하기 어렵습니다. 최근에 비밀번호에 대한 강조를 줄이고 하드웨어 기반의 다중 인증을 실제로 작동시키는 움직임이 커지고 있습니다.
그러나 다른 영역에서의 사이버 방어 부족은 큰 후퇴로 이어졌습니다. 스팸으로부터 보호할 필요성은 이메일이 실제로 매우 독점적이 되어 자체 호스팅하거나 새로운 이메일 제공자를 만드는 것이 매우 어렵게 만들었습니다. Twitter를 포함한 많은 온라인 앱은 콘텐츠에 접근하기 위해 사용자가 로그인해야 하며 VPN에서 IP를 차단하여 개인 정보를 보호하는 방식으로 인터넷에 접근하기 어렵게 만들었습니다. 소프트웨어 중앙 집중화도 위험합니다. 이는 현대 기술의 경향으로 중앙 집중화된 병목 지점을 통해 라우팅하고, 그 병목 지점의 운영자가 그 권력을 정보 수집, 결과 조작 또는 특정 행위자 배제에 사용하는 "무기화된 상호 의존성" 때문입니다. 이 전략은 현재 블록체인 산업 자체에 대해 사용되는 것으로 보입니다.
이러한 추세는 우려스럽습니다. 이는 역사적으로 제가 자유와 개인 정보의 미래에 대해 가진 큰 희망이 깊은 타협에도 불구하고 밝게 될 수 있다는 것을 위협합니다. David Friedman의 "Future Imperfect"라는 책에서 그는 우리가 타협의 미래를 얻을 수 있다고 예측합니다: 대면 세계는 점점 더 감시될 것이지만, 암호화를 통해 온라인 세계는 개인 정보를 유지하고 심지어 개선할 것입니다. 불행히도, 우리가 보았듯이, 그러한 반대 추세는 보장되지 않습니다.
이것이 바로 블록체인과 제로 지식 증명과 같은 암호화 기술에 제가 강조를 두는 이유입니다. 블록체인은 중앙 집중적인 행위자에 의존하지 않고 "공유 하드 드라이브"를 가진 경제적 및 사회적 구조를 만들 수 있게 해줍니다. 암호화폐는 인터넷이 있기 전에 현금으로 할 수 있었던 것처럼 개인이 돈을 저축하고 금융 거래를 할 수 있게 해주며, 변덕스러운 규칙을 가진 신뢰할 수 있는 제3자에 대한 의존성 없이 이루어집니다. 또한 고기 공간 신원을 가지고 있지 않거나 공개하고 싶지 않은 사용자에게도 공격과 스팸을 비싸게 만드는 역할을 하는 대체 안티-시빌 메커니즘으로 사용될 수 있습니다. 계정 추상화 및 특히 소셜 복구 지갑은 중앙 집중적인 중개자에 지나치게 의존하지 않고 암호 자산과 잠재적으로 다른 자산을 보호할 수 있습니다.
제로 지식 증명은 개인 정보를 공개하지 않고도 사용자가 자신에 대해 무언가를 증명할 수 있게 하여 개인 정보 보호에 사용될 수 있습니다. 예를 들어, ZK-SNARK에 디지털 여권 서명을 감싸서 어떤 나라의 독특한 시민임을 증명하되 어떤 시민인지는 공개하지 않습니다. 이러한 기술은 투표와 같은 애플리케이션에 필수적이라고 널리 인정되는 개인 정보와 익명성의 이점을 유지하면서 보안 보장을 받고 스팸 및 악당과 싸울 수 있게 해줍니다.
Zupass는 올해 초 Zuzalu에서 창출된 훌륭한 예입니다. 이것은 수백 명의 Zuzalu 사람들과 최근에는 Devconnect에서 티켓팅을 위해 수천 명의 사람들에 의해 사용된 애플리케이션으로, 티켓, 멤버십, (전송 불가능한) 디지털 수집품 및 기타 증명들을 보유하고 개인 정보를 침해하지 않고 그것들에 대해 증명할 수 있습니다. 예를 들어, Zuzalu의 등록된 주민이거나 Devconnect 티켓 소지자임을 증명할 수 있지만, 본인에 대해 다른 것은 밝히지 않을 수 있습니다. 이러한 증명은 대면으로 QR 코드를 통해, 또는 디지털 방식으로, Zuzalu 거주자들만 이용할 수 있는 익명화된 투표 시스템인 Zupoll과 같은 애플리케이션에 로그인하기 위해 보여질 수 있습니다.
이 기술들은 d/acc 원칙의 훌륭한 예입니다: 사용자와 커뮤니티가 개인 정보를 침해하지 않고 신뢰도를 검증할 수 있도록 하며, 자신들만의 정의에 따라 좋고 나쁜 것을 결정하는 중앙 집중식 병목 지점에 의존하지 않고 보안을 보호합니다. 이들은 오늘날 사용되는 일반적인 기술, 예를 들어 신뢰할 수 없다고 간주되는 전체 국가에 대한 차별과 같은 사용자 또는 서비스의 보안을 보호하는 더 나은 공정한 방법을 만들어 전 세계 접근성을 개선합니다. 이것들은 21세기로 넘어가면서 정보 보안의 분산된 비전을 유지하고자 할 때 필요할 수 있는 매우 강력한 기본 요소입니다. 사이버 공간을 위한 방어 기술을 더 넓게 개발하는 것은 앞으로 인터넷을 더 개방적이고 안전하며 자유롭게 만드는 매우 중요한 방법이 될 수 있습니다.
3.5. 정보 방어
제가 설명한 사이버 방어는 합리적인 인간이 공격자가 누구인지에 대해 모두 합의하기 쉬운 상황에 대한 것입니다. 누군가가 당신의 지갑을 해킹하려고 시도하면, 해커가 나쁜 놈이라는 데 동의하기 쉽습니다. 누군가가 웹사이트에 DoS 공격을 시도하면, 그들이 악의적이며 사이트에서 무엇이 있는지 읽으려는 일반 사용자와 도덕적으로 같지 않다는 데 동의하기 쉽습니다. 다른 상황에서는 경계선이 더 모호합니다. 이러한 상황에서 방어를 개선하기 위한 도구를 저는 "정보 방어"라고 부릅니다.
예를 들어, 팩트 체크(즉, "잘못된 정보" 방지)를 들 수 있습니다. 저는 Community Notes의 엄청난 팬입니다. 이는 다른 사용자가 트윗하는 내용의 진실과 거짓을 식별하는 데 많은 도움이 되었습니다. Community Notes는 가장 인기 있는 메모가 아니라 정치적 스펙트럼 전반의 사용자들이 가장 승인하는 메모를 드러내는 새로운 알고리즘을 사용합니다.
저는 또한 예측 시장의 팬입니다. 이는 먼지가 가라앉고 어느 방향이 어떤지에 대한 합의가 이루어지기 전에 사건의 중요성을 실시간으로 파악하는 데 도움이 될 수 있습니다. Sam Altman에 대한 Polymarket은 시간대별 계시와 협상의 궁극적인 결과에 대한 유용한 요약을 제공하여, 각각의 뉴스 항목만 보고 그 중요성을 이해하지 못하는 사람들에게 매우 필요한 맥락을 제공합니다.
예측 시장은 종종 결함이 있습니다. 그러나 다음 해에 무엇이 일어날 것이라고 자신 있게 표현할 의향이 있는 Twitter 영향력자들은 종종 더 결함이 있습니다. 예측 시장을 훨씬 더 개선할 여지가 여전히 있습니다. 예를 들어, 예측 시장의 주요 실용적 결함은 가장 높은 프로필의 사건을 제외하고는 모든 부분에서 낮은 거래량입니다. 이를 해결하기 위한 자연스러운 방향은 AI가 플레이하는 예측 시장을 가지는 것입니다.
블록체인 공간 내에서, 저는 우리가 훨씬 더 많이 필요로 하는 특정 유형의 정보 방어가 있다고 생각합니다. 즉, 지갑은 사용자가 서명하는 것의 의미를 결정하는 데 적극적이고 주관적인 의견을 제시하고, 사기 및 사기로부터 사용자를 보호하는 데 훨씬 더 적극적이어야 합니다. 이것은 중간 사례입니다: 사기와 사기가 아닌 것을 구별하는 것은 논란의 여지가 있는 사회적 사건에 대한 관점보다는 주관적이지만, DoS 공격자나 해커와 합법적인 사용자를 구별하는 것보다는 더 주관적입니다. Metamask는 이미 사기 데이터베이스를 가지고 있으며, 사용자가 사기 사이트를 방문하는 것을 자동으로 차단합니다:
Fire와 같은 애플리케이션들은 더 나아가는 한 방법의 예입니다. 그러나 이러한 보안 소프트웨어는 명시적으로 설치해야 하는 것이 아니라 암호 지갑이나 심지어 브라우저에 기본적으로 포함되어야 합니다.
더 주관적인 성격으로 인해 정보 방어는 사이버 방어보다 본질적으로 더 집단적입니다. 무엇이 참이거나 거짓일 수 있는지, 어떤 애플리케이션이 속이는 폰지인지 식별하기 위해 크고 정교한 사람들의 그룹에 어떻게든 연결해야 합니다. 개발자들은 효과적인 정보 방어를 개발하고 기존의 정보 방어 형태를 강화하는 데 있어 더 나아갈 기회가 있습니다. Community Notes와 같은 것은 브라우저에 포함되어 소셜 미디어 플랫폼뿐만 아니라 전체 인터넷을 커버할 수 있습니다.
3.6. "방어" 프레임을 넘어선 소셜 기술
어느 정도까지는, 저는 이러한 정보 기술들을 "방어"에 관한 것으로 묘사함으로써 억지로 끼워 맞추는 혐의를 받을 수 있습니다. 결국 방어는 의도가 좋은 행위자들이 나쁜 의도를 가진 행위자들(또는 일부 경우 자연)로부터 보호받도록 돕는 것에 관한 것입니다. 그러나 이러한 소셜 기술 중 일부는 의도가 좋은 행위자들이 합의를 형성하도록 돕는 것에 관한 것입니다.
이의 좋은 예는 pol.is로, Community Notes와 유사한 알고리즘을 사용하며(Community Notes보다 먼저 나왔습니다) 서로 많이 동의하지 않는 하위 부족들 사이의 합의점을 식별하는 데 커뮤니티를 돕습니다. Viewpoints.xyz는 pol.is에 영감을 받았으며 비슷한 정신을 가지고 있습니다:
이와 같은 기술들은 논쟁적인 결정에 대한 보다 분산된 거버넌스를 가능하게 하는 데 사용될 수 있습니다. 다시 말하지만, 블록체인 커뮤니티는 이를 위한 좋은 실험장이며 이미 이러한 알고리즘이 가치 있음을 입증했습니다. 일반적으로 이더리움 프로토콜에 대한 개선("EIPs")을 결정하는 것은 "All Core Devs calls"라고 불리는 회의에서 상당히 소수의 그룹에 의해 이루어집니다. 대부분의 커뮤니티 구성원들이 강한 의견을 가지지 않은 기술적인 결정에 대해서는 이 방식이 어느 정도 잘 작동합니다. 프로토콜 경제에 영향을 미치거나 불변성 및 검열 저항과 같은 더 근본적인 가치에 영향을 미치는 더 중대한 결정에 대해서는 종종 충분하지 않습니다. 2016-17년에 DAO 포크 구현, 발행 감소 및 Parity 지갑의 (해제하지 않은) 결정에 대한 일련의 논쟁적인 결정을 내릴 때, Carbonvote와 소셜 미디어 투표와 같은 도구들이 커뮤니티와 개발자들이 커뮤니티 의견의 대부분이 어느 방향을 향하고 있는지를 보는 데 도움을 주었습니다.
Carbonvote는 결함이 있었습니다: 이더리움 커뮤니티의 구성원을 결정하기 위해 ETH 보유량에 의존하여 결과가 몇몇 부유한 ETH 보유자들("whales")에 의해 지배되었습니다. 그러나 현대 도구를 사용하면 POAPs, Zupass 스탬프, Gitcoin 여권, Protocol Guild 멤버십뿐만 아니라 ETH(또는 솔로 스테이크된 ETH) 보유량을 사용하여 커뮤니티 구성원 자격을 측정하여 훨씬 나은 Carbonvote를 만들 수 있습니다.
이러한 도구는 어떤 커뮤니티에서도 더 높은 품질의 결정을 내리고, 공통점을 찾고, (물리적 또는 디지털) 이주를 조정하거나 중앙 집중식 리더십에 의존하지 않고 다른 여러 가지를 할 수 있습니다. 이것은 방어 가속 그 자체는 아니지만, 분명히 민주주의 가속이라고 할 수 있습니다. 이러한 도구는 AI와 같은 주요 행위자 및 기관의 거버넌스를 개선하고 민주화하는 데에도 사용될 수 있습니다.
4. 그렇다면 초지능에 대한 앞으로의 길은 무엇일까요?
위의 내용은 모두 잘 되어 있고, 다음 세기에 세계를 더 조화롭고, 안전하며, 자유로운 곳으로 만들 수 있습니다. 그러나 이것은 방 안의 커다란 코끼리, 즉 초지능 AI에 대해 아직 다루지 않았습니다.
많은 사람들이 우려하는 AI에 대한 기본적인 전진 방향은 본질적으로 최소한의 AI 세계 정부로 이어집니다. 단기적으로는 "다국적 AGI 컨소시엄"("MAGIC")에 대한 제안이 포함됩니다. 이러한 컨소시엄이 설립되어 초지능 AI를 만드는 목표를 달성한다면, 사실상 최소한의 세계 정부가 되는 자연스러운 길을 가질 것입니다. 장기적으로는 "결정적 행위" 이론과 같은 아이디어가 있습니다: 우리는 한 번의 일회성 행위를 수행하는 AI를 만들어 그 지점부터 인간이 여전히 통제하되, 게임판이 어떻게든 더 방어적이고 인간의 번영에 더 적합하도록 세계를 재배열합니다.
이것과 관련해서 지금까지 내가 본 주된 실용적인 문제는 사람들이 실제로 그러한 것을 만들 권력을 가진 특정 거버넌스 메커니즘을 실제로 신뢰하지 않는다는 것입니다. 이 사실은 제가 최근 트위터 설문 조사 결과를 볼 때 두드러집니다. 사람들은 AI가 단일 엔티티에 의해 독점되거나 모두에게 10년 지연되는 것 중 어느 것을 선호하는지 물었습니다:
각 설문 조사의 규모는 작지만, 이러한 설문 조사들은 다양한 출처와 옵션에 걸쳐 결과의 균일성에서 보완됩니다. 아홉 번 중 아홉 번에서 대다수의 사람들은 고도로 발전한 인공 지능이 한 년 동안 직접 지연되는 것을 원하지만 기업, 정부 또는 다국적 기관과 같은 단일 그룹에 독점되는 것보다는, 최소한 두 배 이상으로 지연되기를 원합니다. 아홉 번 중 일곱 번에서 지연이 적어도 두 배 이상으로 이겼습니다. 이것은 AI 규제를 추구하는 사람들에게 이해해야 할 중요한 사실처럼 보입니다. 현재의 접근법은 라이센스 체계와 규제 요구사항을 생성하려는 데 중점을 두고 있으며 AI 개발을 적은 수의 사람들로 제한하려고 시도하지만 이러한 접근법은 너무 강력한 것을 누구라도 독점하고 싶어하지 않기 때문에 대중의 반발을 겪었습니다. 이러한 위에서 아래로의 규제 제안이 멸종의 위험을 줄일 수 있더라도 중앙집권주의에 대한 영구적인 락인 가능성을 높일 위험을 가지고 있습니다. 역설적으로, 극도로 발전한 AI 연구를 아예 금지하는 합의(생명과학 AI에 대한 예외를 포함할 수 있음)와 함께 접근하고, 금지되지 않은 모델에 대한 오픈 소스를 강제하는 등의 조치를 결합하여 이윤 동기를 줄이고 접근의 평등성을 더 개선하는 방법으로 더 인기가 있을 수 있을까요?
"한 전역 기관이 AI를 수행하고 그 지배를 정말로 좋게 만들자"라는 접근 방식의 반대자들이 선호하는 주된 접근 방식은 다신의 AI입니다. 의도적으로 많은 사람과 기업이 다양한 AI를 개발하도록하여 다른 어떤 것보다 훨씬 강력한 AI가 크게 성장하지 않도록 하는 것입니다. 이러한 이론에 따르면 AI가 초지능이 되더라도 우리는 권력의 균형을 유지할 수 있습니다.
이 철학은 흥미롭지만 이더리움 생태계 내에서 "다신론"을 보장하려는 내 경험은 이것이 본질적으로 불안정한 평형임을 걱정하게 만듭니다. 이더리움에서는 스택의 여러 부분의 분산화를 의도적으로 확보하기 위해 노력했습니다. 즉, 고정된 중요한 부분을 통제하는 단일 코드베이스가 없도록 하고, 대규모 스테이킹 풀의 우위를 극복하려고 노력하며 지리적 분산을 향상시키려고 노력했습니다. 본질적으로 이더리움은 사회적 압력을 라이센스 관리 기관으로 사용하는 시장 기반 사회의 오래된 리버타리언 꿈을 실행하려고 하고 있습니다. 어느 정도까지는 이것이 작동했습니다. Prysm 클라이언트의 지배력은 70% 이상에서 45% 미만으로 감소했습니다. 그러나 이것은 자동적인 시장 과정이 아닙니다. 이것은 인간의 의도와 조화된 행동의 결과입니다.
내 이더리움 내에서의 경험은 전 세계의 폭넓은 시장에서 자연적인 독점이 증명된 많은 사례와 일치합니다. 초지능 AI가 인간의 개입 없이 독립적으로 작동하기 때문에 상황은 더욱 불안정합니다. 재미있게도, 우리가 안정적인 초지능 AI의 다신론 세계를 얻게 되더라도 다른 문제가 있습니다. 즉, 인간들이 애완 동물처럼 대우받는 우주를 얻게 될 것입니다.
4.1. 행복한 길: AI와 병합?
최근에 더 많이 들어본 다른 옵션은 인간과 분리된 것이 아닌 인간의 인식을 강화하는 도구에 더 초점을 맞추는 것입니다.
이러한 방향으로 나아가는 하나의 가까운 예는 AI 그림 그리기 도구입니다. 오늘날 가장 주목받는 AI 생성 이미지를 만드는 도구들은 인간이 입력을 제공하는 단계가 하나만 있고 그 이후에는 완전히 AI가 작동하는 것이 일반적입니다. 대안은 포토샵의 AI 버전에 더 중점을 두는 것입니다. 여기서 예술가나 AI가 그림의 초기 초안을 만들고 그런 다음 실시간 피드백 프로세스로 개선하는 과정에서 둘 다 협력합니다.
비슷한 영감을 가진 다른 방향은 Open Agency Architecture입니다. 이 방법은 AI "마음"의 다른 부분(예: 계획 수립, 계획 실행, 외부 정보 해석)을 분리하여 이러한 부분 사이에 다양한 인간 피드백을 도입하는 것을 제안합니다.
지금까지는 이것이 평범하고 거의 모든 사람이 가지고 있으면 좋을 것이라고 동의할 수 있는 것처럼 들립니다. 경제학자 Daron Acemoglu의 작업은 이러한 종류의 AI 미래주의와 거리가 멀지만 그의 새 책 'Power and Progress'는 정확히 이러한 종류의 AI를 더 많이 보고 싶어하는 것을 암시합니다.
그러나 만약 우리가 이러한 인간-인공지능 협력 아이디어를 더 나아가려면 더 뿌리깊게 파보아야 합니다. 우리가 개인 GPU와 노트북에서 작업하는 작은 그룹을 탐지하고 중단할 수 있는 충분히 강력한 세계 정부를 만들지 않는 한, 언젠가는 초지능 AI를 만들어낼 사람이 생길 것입니다. 그 AI는 우리보다 천 배 빠르게 생각할 수 있으며, 손으로 도구를 사용하는 인간들의 어떤 결합도 그것에 맞설 수 없을 것입니다. 그래서 이러한 인간-컴퓨터 협력 아이디어를 더 깊게 파고들고 더 나아가야 합니다.
첫 번째 자연스러운 단계는 뇌-컴퓨터 인터페이스입니다. 뇌-컴퓨터 인터페이스는 인간에게 더 직접적인 접근을 제공하여 더 강력한 계산과 인식 형태로 인간을 제공할 수 있으며, 인간과 기계 간의 양방향 통신 루프를 초과로 단축시킬 수 있습니다. 이것은 또한 컴퓨터가 정보 수집을 도와주거나 제안을 제공하거나 계획을 실행하는 데 필요한 "정신적 노력" 비용을 크게 감소시킬 것입니다.
이러한 로드맵의 나중 단계는 솔직히 이상합니다. 뇌-컴퓨터 인터페이스 외에도 생물학 혁신을 통해 우리 두뇌를 직접 개선하는 다양한 경로가 있습니다. 이러한 경로를 결합하는 최종 단계는 컴퓨터에서 직접 실행되는 우리의 마음을 업로드하는 것일 수 있습니다. 이것은 물리적 보안을 위한 궁극적인 해결책이 될 것입니다. 스스로를 손상으로부터 보호하는 문제가 더 이상 불가능한 인간 몸을 보호하는 문제가 아니라 데이터 백업을 만드는 훨씬 간단한 문제가 될 것입니다.
이와 같은 방향은 때로 걱정을 받을 수 있으며, 이는 일부는 돌이킬 수 없고, 일부는 강력한 사람들에게 다른 사람들에 비해 더 많은 이점을 제공할 수 있기 때문입니다. 특히 뇌-컴퓨터 인터페이스에는 위험성이 있습니다. 결국, 우리는 글자 그대로 사람들의 마음을 읽고 쓰는 것을 얘기하고 있습니다. 이러한 우려사항들은 완전히 닫힌 소유기업과 벤처 자본 자금보다 보안 중심의 오픈 소스 운동이 주도할 때가 이상적일 것이라고 생각하기 때문입니다. 게다가, 이러한 문제는 인간과 밀접한 관련이 있는 개선보다는 인간과 독립적으로 작동하는 초지능 AI와 함께 더 나쁠 수 있습니다. "향상된"과 "향상되지 않은" 사이의 차이는 이미 ChatGPT를 사용할 수 있는 사람과 그렇지 않은 사람 사이에서 존재합니다.
만약 우리가 초지능이면서 "인간"인 미래를 원한다면, 인간들이 단순히 애완동물이 아니라 세계를 효과적으로 조절할 수 있는 미래를 원한다면, 이러한 것이 가장 자연스런 옵션이라고 생각됩니다. 또한 이것이 안전한 AI 정렬 경로일 수 있는 좋은 주장들도 있습니다: 의사 결정의 각 단계에서 인간 피드백을 포함시킴으로써 우리는 AI 자체에 고위 계획 책임을 위임할 동기를 줄이고, 그 결과로 AI가 스스로로 인류의 가치와 완전히 불일치한 일을 하는 가능성을 감소시킬 수 있습니다.
이 방향을 지지하는 다른 주장 중 하나는 대안 경로를 제시하는 보완 메시지 없이 간단히 "AI 일시 중지"를 외치는 것보다 사회적으로 받아들이기 쉬울 수 있다는 것입니다. 이것은 현재 기술 발전이 인간에 영향을 미치는 것은 위험하다는 현재 사고에서 철학적 전환이 필요할 것이지만, 엄청난 대가로 이루어집니다. 오늘날 AI 안전 운동의 주요 메시지는 AI 개발자에게 "그냥 멈추어야 한다"는 것처럼 보입니다. 정렬 연구에 참여할 수 있지만 오늘날 이것은 경제적 인센티브가 부족합니다. 이에 비해 일반적인 E/A(강화/약화) 메시지 "당신은 이미 영웅이다 그대로 멋져"는 이해할 만하게 매우 매력적입니다. D/A(발전/강화) 메시지는 "당신은 무언가를 구축하고, 이윤 창출하되, 당신이 건설하는 것이 당신과 인류가 번영하는 데 도움이 되는 것을 확실히 보장하기 위해 더 선택적이고 의도적인 방법으로 일을 하는 것이 좋다"고 말하는 메시지일 수 있습니다.
5. 당신의 기존 철학과 D/ACC는 호환 가능한가요?
- E/ACC인 경우, D/ACC는 E/ACC의 하위 종으로, 더 선택적이고 의도적인 하나일 뿐입니다.
- 효과적인 자선가이면 D/ACC는 기술 개발의 차이에 대한 효과적인 자선가 아이디어의 재브랜딩이지만 자유주의적이 민주적 가치에 더 많은 중점을 둡니다.
- 자유주의자인 경우, D/ACC는 기술-자유주의의 하위 종으로, "기술 자본 기계"에 대해 더 비판적이며, 문화적 개입이 효과가 없는 경우에는 정부 개입을 받아들이기도 합니다(적어도 내일에는 더 나쁜 무자유를 방지하기 위해).
- 플러럴리스트인 경우, 용어의 Glen Weyl 의미에 따라 D/ACC는 플러러리가 중요하게 생각하는 더 나은 민주 조정 기술을 강조할 수 있는 프레임입니다.
- 공공 건강 옹호자인 경우, D/ACC 아이디어는 보다 포괄적인 장기 비전의 원천이 될 수 있으며 "기술인"과 공통 이해를 찾을 수 있는 기회가 될 수 있습니다.
- 블록체인 옹호자인 경우, D/ACC는 15년 전의 과도한 투자와 은행에 대한 강조와 비교하여 더 현대적이고 넓은 서사입니다. 블록체인을 밝은 미래로 나아가는 구체적인 전략 중 하나로 설정합니다.
- 솔라펑크인 경우, D/ACC는 솔라펑크의 하위 종으로, 의도성과 집단 행동을 강조하는 유사한 특성을 포함합니다.
루나펑크인 경우, 정보 보호를 강조하는 D/ACC의 강조를 평가할 것입니다. 개인 정보와 자유를 유지합니다.
6. 우리는 가장 밝은 별입니다
저는 기술을 사랑합니다. 왜냐하면 기술은 인간의 잠재력을 확장시킵니다. 만 1만 년 전에는 손으로 몇 가지 도구를 만들고 작은 땅 조각에 어떤 식물을 자라게 할 수 있었으며, 기본 주택을 건설할 수 있었습니다. 오늘날, 우리는 800미터 높이의 탑을 건설하고, 기록된 인간 지식 전체를 손에 들 수 있는 장치에 저장하며, 전 세계에서 즉각적으로 통신하며, 수명을 두 배로 늘리고, 친구가 무차별 죽음에 늘 불안해하지 않고 행복하고 만족스러운 삶을 살 수 있습니다.
이러한 것들이 매우 좋다고 믿고, 인류의 영향력을 더 확장시키기 위해 더 멀리 향하는 것도 매우 좋다고 믿습니다. 왜냐하면 나는 인류가 깊이 선량하다고 믿기 때문입니다. 어떤 분야에서는 이를 의심하는 것이 유행이며, 지구에 인간이 존재하지 않는 것이 더 나은 것이라 주장하는 선택적 인간 소멸 운동이 있으며, 앞으로 수세기 동안 매우 적은 수의 인간만 이 세계의 빛을 볼 것을 원하는 사람들도 많습니다. 인간들은 자주 비열할 수 있지만, 훨씬 더 자주 우리는 친절함과 자비를 보이며 공통의 이익을 위해 협력합니다. 심지어 전쟁 중에도 우리는 종종 민간인을 보호하려고 노력합니다. 확실히 충분하지 않지만, 2000년 전보다는 훨씬 더 많이 합니다. 다음 세기에는 비동물 기반 고기가 널리 제공될 것이며, 오늘날 인류가 공정하게 비난 받을 수 있는 가장 큰 도덕적 재앙을 제거할 것입니다. 비인간 동물은 이렇지 않습니다. 고양이가 쥐를 먹지 않는 윤리 원칙의 일환으로 전혀 음식을 먹지 않는 전황은 없습니다. 태양은 매년 더 밝아지고, 약 10억 년 후에는 지구에 생명을 지탱하기에는 너무 뜨거워질 것으로 예상됩니다. 태양은 자신이 일으키려는 대학살에 대해 생각할까요?
그래서 나는 우리 우주에서 알고 보니, 우리, 인간들은 가장 밝은 별입니다. 우리는 우리가 알고 있는 유일한 것이며, 비완벽하더라도 때로는 "좋은 것"에 관심을 갖고 행동을 더 잘 수행하도록 노력하는 유일한 것입니다. 20억 년 뒤에도 지구 또는 우주의 어떤 부분이 지구적인 삶의 아름다움을 갖고 있다면, 우주 여행과 지구 공학과 같은 인간의 기술이 그것을 가능하게 한 것일 것입니다.
우리는 건설하고 가속화해야 합니다. 그러나 물론 물어봐야 할 중요한 질문이 있습니다. 우리는 어떤 것을 향해 가속화하고 있는 것인가요? 21세기는 아마도 인류에게 천년 동안의 운명이 결정되는 세기가 될 것입니다. 우리가 탈출할 수 없는 다양한 함정 중 하나로 빠지는가, 아니면 우리의 자유와 대립력을 유지하는 미래로 향하는 방법을 찾을 수 있는가? 이것은 어려운 문제입니다. 그러나 이러한 답을 찾기 위한 우리 종의 위대한 집단 노력을 지켜보고 참여하기를 기대합니다.
'Technology > AI' 카테고리의 다른 글
| 샘 알트먼이 GPT-5에 대한 주요 세부 정보를 공개했다 (1) | 2024.01.24 |
|---|---|
| AI는 컴퓨터 사용 방식을 완전히 바꿀 것이다 - 빌게이츠 (2) | 2023.12.04 |
| EA 와 E/ACC의 네러티브 줄다리기 게임 (1) | 2023.11.29 |
| AI가 어떤 비즈니스도 힘을 실어줄 수 있다. - Andrew Ng (0) | 2023.08.08 |
| AI 혁명 - 초인공지능(ASI)로 가는길 (1) (0) | 2023.07.30 |
