출처: https://blog.samaltman.com/the-gentle-singularity
온화한 특이점
우리는 사건 지평선을 넘어섰고, 출발이 시작되었습니다. 인류는 디지털 초지능을 구축하는 단계에 가까워졌으며, 적어도 지금까지는 예상보다 훨씬 덜 이상적입니다.
로봇은 아직 거리에서 걸어다니지 않으며, 대부분의 우리는 하루 종일 AI와 대화하지 않습니다. 사람들은 여전히 질병으로 죽어가고, 우리는 여전히 우주로 쉽게 갈 수 없으며, 우주에 대해 이해하지 못하는 것이 많습니다.
그럼에도 불구하고, 우리는 최근에 인간보다 많은 면에서 더 똑똑한 시스템을 구축했으며, 이를 사용하는 사람들의 생산성을 크게 증폭시킬 수 있습니다. 가장 어려운 부분은 이미 지나갔습니다. GPT-4와 o3와 같은 시스템을 개발하기 위해 얻은 과학적 통찰은 힘들게 얻어졌지만, 우리를 매우 멀리 이끌 것입니다.
AI는 세계에 많은 방식으로 기여할 것이지만, AI가 과학적 진보를 가속화하고 생산성을 높임으로써 삶의 질에 미치는 영향은 엄청날 것입니다. 미래는 현재보다 훨씬 나을 수 있습니다. 과학적 진보는 전체적 진보의 가장 큰 동력입니다. 우리가 얻을 수 있는 것이 얼마나 더 많을지 생각하면 매우 흥분됩니다.
어떤 의미에서 ChatGPT는 이미 역사상 어떤 인간보다도 더 강력합니다. 수억 명의 사람들이 매일 이를 의존하며 점점 더 중요한 작업을 수행합니다. 작은 새로운 기능은 엄청난 긍정적 영향을 창출할 수 있지만, 작은 불일치가 수억 명의 사람들과 결합되면 엄청난 부정적 영향을 초래할 수 있습니다.
2025년에는 실제 인지 작업을 수행할 수 있는 에이전트가 등장했습니다. 컴퓨터 코드 작성은 결코 이전과 같지 않을 것입니다. 2026년에는 새로운 통찰력을 도출할 수 있는 시스템이 등장할 가능성이 높습니다. 2027년에는 현실 세계에서 작업을 수행할 수 있는 로봇이 등장할 수 있습니다.
더 많은 사람들이 소프트웨어와 예술을 만들 수 있게 될 것입니다. 하지만 세상은 둘 다 훨씬 더 많이 원할 것이며, 전문가들은 새로운 도구를 수용한다면 초보자보다 훨씬 우수할 것입니다. 일반적으로 2030년에 한 사람이 2020년보다 훨씬 더 많은 일을 할 수 있는 능력은 놀라운 변화가 될 것이며, 많은 사람들이 이를 활용하는 방법을 찾을 것입니다.
가장 중요한 측면에서 2030년대는 크게 다르지 않을 수 있습니다. 사람들은 여전히 가족을 사랑하고, 창의성을 표현하며, 게임을 하고, 호수에서 수영을 할 것입니다.
하지만 여전히 매우 중요한 측면에서 2030년대는 이전 어느 시대와도 크게 다를 것입니다. 인간 수준의 지능을 넘어 얼마나 더 나아갈 수 있을지 우리는 모르지만, 곧 알게 될 것입니다.
2030년대에는 지능과 에너지—아이디어와 아이디어를 실현하는 능력—가 극도로 풍부해질 것입니다. 이 두 가지는 오랫동안 인간 진전의 근본적인 제한 요소였습니다. 풍부한 지능과 에너지(그리고 좋은 통치)가 있다면 이론적으로 다른 모든 것을 가질 수 있습니다.
이미 우리는 놀라운 디지털 지능과 함께 살고 있으며, 초기 충격 이후 대부분의 사람들은 이에 익숙해졌습니다. 우리는 AI가 아름답게 작성된 단락을 생성하는 것에 놀라움을 느끼던 것에서, 언제 AI가 아름답게 작성된 소설을 생성할 수 있을지 궁금해하는 단계로 빠르게 이동합니다. 또는 AI가 생명을 구하는 의료 진단을 할 수 있다는 것에 놀라움을 느끼던 것에서, 언제 AI가 치료법을 개발할 수 있을지 궁금해하는 단계로 이동합니다. 또는 AI가 작은 컴퓨터 프로그램을 만들 수 있다는 것에 놀라움을 느끼던 것에서, 언제 AI가 완전히 새로운 회사를 만들 수 있을지 궁금해하는 단계로 이동합니다. 이것이 특이점의 진행 방식입니다: 경이로움이 일상으로 변하고, 결국 필수 요소가 됩니다.
과학자들은 이미 AI 덕분에 이전보다 두세 배 더 생산적이라고 말합니다. 고급 AI는 많은 이유로 흥미롭지만, 아마도 가장 중요한 것은 이를 이용해 더 빠른 AI 연구를 할 수 있다는 점일 것입니다. 우리는 새로운 컴퓨팅 기반, 더 나은 알고리즘, 그리고 무엇이 될지 모르는 것을 발견할 수 있을 것입니다. 만약 10년분의 연구를 1년이나 1개월 만에 할 수 있다면, 진전의 속도는 분명히 달라질 것입니다.
이제는 이미 구축한 도구가 추가적인 과학적 통찰을 발견하고 더 나은 AI 시스템을 개발하는 데 도움을 줄 것입니다. 물론 이는 AI 시스템이 자체 코드를 완전히 자율적으로 업데이트하는 것과 동일하지는 않지만, 그럼에도 불구하고 이는 재귀적 자기 개선의 초기 단계입니다.
다른 자기강화 루프도 작용하고 있습니다. 경제적 가치 창출은 점점 더 강력한 AI 시스템을 운영하기 위한 복합적인 인프라 구축의 연쇄 반응을 시작했습니다. 그리고 다른 로봇을 만들 수 있는 로봇(그리고 어느 정도 의미에서 다른 데이터센터를 만들 수 있는 데이터센터)은 그리 멀지 않았습니다.
만약 첫 번째 백만 대의 휴머노이드 로봇을 전통적인 방식으로 제작해야 한다면, 그 후 그들은 광물 채굴과 정제, 트럭 운전, 공장 운영 등 전체 공급망을 운영해 더 많은 로봇을 제작할 수 있으며, 이는 다시 칩 제조 시설, 데이터 센터 등을 제작할 수 있게 됩니다. 이 경우 진전의 속도는 분명히 크게 달라질 것입니다.
데이터센터 생산이 자동화됨에 따라, 지능의 비용은 결국 전기 비용에 가까워질 것입니다. (사람들은 종종 ChatGPT 쿼리가 얼마나 많은 에너지를 사용하는지 궁금해합니다. 평균 쿼리는 약 0.34 와트시(Watt-hour)를 사용하며, 이는 오븐이 약 1초 반 동안 사용하는 양이나 고효율 전구가 약 2분 동안 사용하는 양과 비슷합니다. 또한 약 0.000085 갤런의 물을 사용하며, 이는 약 15분의 1 티스푼에 해당합니다.)
기술의 진보 속도는 계속 가속화될 것이며, 인간은 거의 모든 것에 적응할 수 있다는 사실은 변하지 않을 것입니다. 전체 직업군이 사라지는 등 매우 어려운 부분이 있을 것이지만, 반면 세계는 매우 빠르게 풍요로워질 것이기 때문에 이전에는 상상할 수 없었던 새로운 정책 아이디어를 진지하게 고려할 수 있게 될 것입니다. 우리는 새로운 사회적 계약을 한 번에 채택하지는 않을 것입니다. 하지만 수십 년 후 돌아보면 점진적인 변화들이 큰 변화를 이룰 것입니다.
역사가 참고가 된다면, 우리는 새로운 일을 찾고 새로운 것을 원하게 될 것이며, 새로운 도구를 빠르게 흡수할 것입니다(산업혁명 이후의 직업 변화는 최근의 좋은 예시입니다). 기대치는 높아질 것이지만, 능력도 마찬가지로 빠르게 향상될 것이며, 우리는 모두 더 나은 것을 얻을 것입니다. 우리는 서로를 위해 점점 더 놀라운 것을 만들어 나갈 것입니다. 인간은 AI에 비해 장기적으로 중요하고 흥미로운 우위를 가지고 있습니다: 우리는 다른 사람들과 그들의 생각과 행동에 대해 자연스럽게 관심을 갖도록 설계되어 있으며, 기계에 대해선 별로 신경 쓰지 않습니다.
천 년 전의 자급자족 농부는 우리 중 많은 이들이 하는 일을 보고 '가짜 직업'이라고 말할 것입니다. 그들은 우리가 충분한 음식과 상상하기 어려운 사치를 누리면서도 단순히 자신을 즐기기 위해 게임을 하는 것이라고 생각할 것입니다. 저는 천 년 후의 직업들을 보고 그들이 '가짜 직업'이라고 생각할 것이라 희망하며, 그 직업들을 하는 사람들에게는 그 직업들이 매우 중요하고 만족스러운 것으로 느껴질 것이라 의심치 않습니다.
새로운 기적들이 달성되는 속도는 엄청날 것입니다. 오늘날에는 2035년까지 우리가 무엇을 발견할지 상상하기조차 어렵습니다. 예를 들어, 한 해에는 고에너지 물리학을 해결하고 다음 해에는 우주 식민지화를 시작할 수도 있고, 한 해에는 재료 과학의 중대한 돌파구를 이룬 다음 해에는 진정한 고대역폭 뇌-컴퓨터 인터페이스를 개발할 수도 있습니다. 많은 사람들이 삶을 비슷한 방식으로 살아갈 것이지만, 적어도 일부 사람들은 아마도 ‘플러그를 꽂는’ 것을 선택할 것입니다.
미래를 내다보면 이는 이해하기 어려운 것처럼 보일 수 있습니다. 하지만 실제로 경험한다면 인상적이지만 관리 가능한 수준일 것입니다. 상대론적 관점에서 보면 특이점은 점차적으로 발생하며, 통합은 서서히 이루어집니다. 우리는 지수적 기술 진전의 긴 곡선을 오르고 있습니다. 미래를 보면 수직으로 보이지만 과거를 보면 평평해 보이지만, 이는 하나의 매끄러운 곡선입니다. (2020년을 되돌아보면, 2025년까지 AGI에 가까운 것을 갖는 것이 어떻게 들렸을지, 그리고 지난 5년이 실제로 어떻게 되었는지 비교해 보세요.)
거대한 장점과 함께 심각한 도전 과제들이 존재합니다. 기술적·사회적 안전 문제를 해결해야 하지만, 경제적 영향력을 고려할 때 초지능에 대한 접근권을 널리 분배하는 것이 극히 중요합니다. 가장 좋은 방법은 다음과 같을 수 있습니다:
정렬 문제를 해결하는 것, 즉 장기적으로 우리가 공동으로 원하는 방향으로 AI 시스템이 학습하고 행동하도록 강력히 보장하는 것 (소셜 미디어 피드는 정렬되지 않은 AI의 예시입니다. 이러한 알고리즘은 사용자가 계속 스크롤하도록 유도하고 단기적 선호도를 명확히 이해하는 데 놀랍도록 효과적이지만, 이는 뇌의 특정 부분을 이용해 장기적 선호도를 무시하도록 합니다.)
그 다음 초지능을 저렴하고 널리 접근 가능하며, 특정 개인, 기업, 국가에 과도하게 집중되지 않도록 집중해야 합니다. 사회는 탄력적이고 창의적이며 빠르게 적응합니다. 만약 우리가 사람들의 집단적 의지와 지혜를 활용할 수 있다면, 비록 많은 실수를 저지르고 일부 일이 정말로 잘못될지라도, 우리는 빠르게 배우고 적응하여 이 기술을 최대의 이익과 최소의 손실로 활용할 수 있을 것입니다. 사용자에게 사회가 결정한 광범위한 범위 내에서 많은 자유를 제공하는 것은 매우 중요합니다. 세계가 이러한 광범위한 범위가 무엇인지, 그리고 집단적 일치를 어떻게 정의할지에 대한 논의를 시작하는 것이 빠를수록 좋습니다.
우리는 (전체 산업, OpenAI만이 아니라) 세계를 위한 뇌를 구축하고 있습니다. 이는 극히 개인화되어 있으며 누구나 쉽게 사용할 수 있을 것입니다; 우리는 좋은 아이디어에 의해 제한될 것입니다. 스타트업 산업의 기술자들은 오랫동안 '아이디어 사람들'을 조롱해 왔습니다; 아이디어를 가지고 팀을 찾아다니는 사람들 말이죠. 이제 그들은 곧 그들의 시대를 맞이할 것 같습니다.
OpenAI는 현재 많은 것을 의미하지만, 무엇보다도 우리는 초지능 연구 회사입니다. 우리 앞에 많은 일이 있지만, 앞길의 대부분은 이제 밝게 비춰지고 있으며, 어두운 부분은 점차 사라지고 있습니다.
지능이 너무 저렴해서 측정할 필요가 없을 정도로 손에 넣을 수 있게 되었습니다. 이 말은 미친 소리처럼 들릴 수도 있지만, 2020년에 우리가 오늘날의 위치에 있을 것이라고 말했더라면, 현재 2030년에 대한 예측보다 더 미친 소리처럼 들렸을 것입니다.
초지능을 통해 원활하고 지수적으로, 그리고 문제 없이 성장할 수 있기를 바랍니다.
(IP보기클릭)121.178.***.***