비트텐서 (Bittensor, TAO) 창립자 발표
배경 설명: 비트텐서와 제이크 스티브스 소개
당시 저는 뉴로모픽 칩에 매우 관심이 많았는데, 이는 구글의 TPU나 베스 제스의 엑스트로픽(ExoTropic) 같은 커스텀 칩이었습니다. 뇌와 유사하게 계산을 더 빠르게 하는 방법을 찾는 것이었죠.
비트코인과 AI 연구의 연결
졸업 후 DARPA가 지원하는 회사에서 하청 업체로 일하면서 비트코인에 대해 알게 되었습니다. 2014년에서 2015년 사이였죠. 저는 비트코인에 매료되었고, 그 회사에서는 전기를 사용해 신경망을 훈련시키는 작업을 했습니다. 뇌처럼 전기를 뉴런에 통과시켜 기계 학습 모델을 훈련시키는 아이디어였죠. 이는 기존의 폰 노이만 기계보다 수천 배, 수만 배 빠르게 할 수 있었습니다. 전기와 에너지를 돈으로 생각하는 추상화는 쉽게 가능했고, 이는 우리 사회와 경제를 운영하는 방식이었습니다. 저는 인류가 가장 추상화된 에너지 형태를 사용하여 기계 학습 모델을 훈련시킬 수 있다는 아이디어에 매우 매료되었습니다. 당시 비트코인 네트워크가 구글의 데이터 센터를 합친 것보다 훨씬 더 큰 규모로 성장한 것이 그 예였습니다. 어떻게 비非중앙화된 인터넷상의 괴짜들이 정부도 경쟁할 수 없는 것을 만들었는지 놀랍습니다. 이것이 바로 지금은 dpin(Decentralized Physical Infrastructure Networks)이라고 불리는 분야의 핵심적인 애플리케이션이었습니다.
구글에서의 경험과 비트텐서의 윤리적 접근
이후 구글에서 대규모 규모의 기계 학습 작업에 참여하면서 파라미터 서버와 대규모 컴퓨팅 클러스터를 이용해 대규모 언어 모델을 훈련하는 방법에 대해 많이 배웠습니다. 저는 이 기술에 매료되었지만, 결국 구글 같은 대기업의 조직 구조에 실망하게 되었습니다. 이는 비트텐서가 추구하는 윤리적 접근 방식의 일부가 되었습니다. 우리는 비트코인의 계산 능력을 AI의 계산 문제와 결합하고자 했습니다. 이는 전통적인 미국식 기업 스타일의 비효율성을 피하면서 구축하려는 것이었죠. 그래서 2015년부터 비트텐서에 몰두해왔고, 2021년에 첫 네트워크를 출시했습니다. 저희는 이 분야를 개척했다고 생각합니다. 이제 많은 경쟁자들이 저희가 하고 있는 일을 따라하려 하고 있습니다.
분산형 AI의 중요성
전체적으로, 우리는 AI 테마와 분산형 AI의 중요성에 대해 많이 이야기했지만, 여러분이 직접 저에게서 듣는 것이 중요하다고 생각합니다. 저는 인간이 기계와 상호작용하는 공생 관계를 구축하는 것이 중요하다고 생각합니다. 이것은 접근성, 소유권, 개방성과 관련이 있습니다. 디지털 통화는 이 모든 것을 가능하게 하는 가장 유동적인 소유권 형태입니다. 법적, 기업적 세계에서는 DAO(Decentralized Autonomous Organization)나 인센티브 메커니즘 기반의 회사 같은 구조를 만들기 위한 기술이 부족합니다. 저는 AI가 위험할 수 있지만, 그것이 위험하다면 모두가 소유하고, 기여하고, 접근할 수 있어야 한다고 믿습니다. 오픈 AI 같은 회사들은 개방성을 시도했지만, 소유권의 개방성까지는 도달하지 못했습니다. 이제 그들은 이를 시도하고 있지만, 전통적인 기업 법적 구조는 이러한 기술을 표현하거나 구축하기에 적합하지 않습니다.
중앙화된 AI, 오픈 소스 AI, 분산형 AI의 차이점
중앙화된 AI, 오픈 소스 AI, 분산형 AI의 차이점에 대해 설명드리겠습니다. 중앙화된 AI는 비용이 많이 들며, 모델 추론에는 푼돈에서 수십 달러까지 듭니다. 완전히 공산주의적인 방식으로 접근하는 것은 현실적이지 않습니다. 대신, 우리는 소유권을 통해 통제하고, 거버넌스를 통해 관리하며, 블록체인처럼 투명하게 만드는 개방성을 추구합니다. 이것이 비트텐서가 지향하는 개방성입니다.
비트텐서의 작동 방식 설명
비트텐서가 어떻게 작동하는지에 대해 설명드리겠습니다. 비트텐서는 AI의 이더리움으로 불리기도 합니다. 네트워크 내에는 서브넷, 스테이커, 마이너가 있습니다. 비트텐서는 처음에 분산형 인공지능 네트워크를 구축하기 위해 시작되었습니다. 우리는 인터넷 전체에 걸쳐 대규모 기계 학습 모델을 훈련시키기 위해 비트코인의 계산 능력을 활용하고자 했습니다. 이를 위해 우리는 기계 지능을 검증하는 방법을 찾아야 했습니다. 기계 학습은 확률적이고 통계적이며, 이는 블록체인의 해시처럼 이진적으로 검증할 수 없습니다.
서브넷과 그 기능
그래서 우리는 'Yuma Consensus'라는 합의 알고리즘을 개발했습니다. 이는 신경망의 뉴런 단위로 가치를 평가하고, 그 뉴런이 더 나은 성능을 내는 것을 인센티브화하는 방식입니다. 처음에는 이것을 대표적 지식 생산을 위해 사용했지만, 나중에는 다양한 인센티브 메커니즘을 구축할 수 있는 강력한 기계를 만들었다는 것을 알게 되었습니다. 비트텐서는 이제 다양한 서브넷을 통해 다양한 작업을 인센티브화하고 있습니다. 각 서브넷은 특정 작업을 수행하는 노드들, 즉 마이너들로 구성되어 있으며, 이들은 네트워크 내 다른 마이너들이 수행한 작업을 검증합니다. 예를 들어, 분산화된 트레이딩 회사, 기계 학습 모델 훈련, 데이터 수집 등을 포함합니다.
비트텐서의 실제 애플리케이션 예시
이제 실제 애플리케이션과 서브넷과의 관계에 대해 이야기해 보겠습니다. 기계 학습 엔지니어가 모델을 훈련시키는 방식은 목적 함수를 설정하고, 그 목적 함수에 따라 AI가 얼마나 잘 수행했는지 수치화하는 것입니다. 비트텐서의 모든 서브넷은 이와 유사한 형태를 가지고 있습니다. 마이너들은 이 목적을 달성하기 위해 최선을 다해 작업을 수행합니다. 예를 들어, 데이터를 빠르게 수집하는 경우, 마이너들은 데이터 수집 속도에 따라 보상을 받습니다. 이 데이터는 검증자들에게 전달되며, 검증자들은 더 많은 TAO를 보유할수록 더 많은 데이터를 받게 됩니다. 이 모델을 통해 비트텐서는 다양한 문제를 해결하는 매우 효과적인 기계를 구축할 수 있습니다.
서브넷 19: 대규모 기계 학습 모델 추론
Tashi: 분산화된 트레이딩 회사
단백질 접힘 서브넷
대규모 기초 모델 훈련 서브넷
여러분에게 몇 가지 예시를 보여드리겠습니다. 서브넷 19는 대규모 기계 학습 모델을 빠르게 추론하는 마이너들을 보상합니다. 예를 들어, 800억 파라미터의 Llama 3 모델을 사용해 '개가 고양이보다 나은 이유에 대한 시'를 작성해 보라고 요청하면, 프론트엔드가 이 요청을 받아 마이너에게 전달하고, 마이너들은 가능한 한 빠르게 결과를 스트리밍합니다. 이 과정은 효율성을 높이기 위해 계속 최적화됩니다. 또 다른 예로는 분산화된 트레이딩 회사인 Tashi가 있습니다. 이는 Numerai와 유사한 방식으로 작동하며, 트레이딩 성과에 따라 마이너들을 보상합니다.
비트텐서와의 상호작용 가능성
과학 커뮤니티를 위한 예로는 단백질 접힘을 인센티브화하는 서브넷이 있습니다. 이 서브넷은 2개월 만에 440 페타플롭의 컴퓨터를 구축했으며, 이는 약 6억 달러의 비용이 들었을 것입니다. 마지막으로, 가장 중요한 것은 대규모 기초 모델을 훈련하는 서브넷입니다. 이는 GPT-4와 같은 모델을 훈련하는 것과 관련이 있으며, 비트텐서는 이를 분산화된 방식으로 수행할 수 있는 구조를 만들었습니다. 비트텐서의 네트워크와 상호작용하는 것은 가능합니다. 예를 들어, 저는 매일 비트텐서를 사용하여 코드 작성에 대한 프롬프트를 요청합니다. 이는 저에게 오픈 AI보다 저렴하고 빠릅니다. 비트텐서의 실제 사용 사례는 다양하며, 이는 단순한 디지털 상품을 넘어 현실 세계와 연결됩니다.
비트텐서의 기술적 구조와 운영 방식
이제 비트텐서의 작동 방식을 좀 더 자세히 설명해 드리겠습니다. 비트텐서는 여러분이 익숙한 블록체인보다 조금 더 복잡합니다. 기본적으로는 이더리움과 유사한데, 검증자 노드가 블록체인의 상태에 대해 합의를 이루는 방식입니다. 그러나 비트텐서에서는 스마트 컨트랙트가 서브넷을 통해 특정한 컴퓨팅 작업을 수행합니다. 이 서브넷들은 각각의 네트워크로, 비트텐서 블록체인 위에서 동작하며, 각각의 서브넷은 특정 작업을 인센티브화합니다. 예를 들어, 단백질 접힘을 하는 서브넷은 마이너들이 단백질을 접는 작업을 수행하고, 검증자들은 이 작업의 정확성을 확인합니다.
Tokenomics
비트텐서의 토큰인 TAO는 2100만 개로 제한되어 있습니다. 이는 비트코인과 유사한 공급 일정을 따릅니다. 우리는 디지털 자산 경제의 일부로서 비트코인과 밀접하게 연결되어 있다고 생각합니다. 우리가 디지털 자산 경제의 일부로서 비트코인과 밀접하게 연결되어 있다고 생각하기 때문에, 2100만 개의 한도를 선택했습니다. 현재 약 700만에서 800만 개의 TAO가 유통 중입니다. 이는 비트코인의 경제 모델을 참고하여 설정된 것으로, 투자자와 토큰 보유자들에게 이해하기 쉬운 구조를 제공하고자 합니다.
Vision
미래에 대한 비전을 말씀드리자면, 비트텐서는 아직 초기 단계에 있지만, 앞으로 몇 년 안에 중앙화된 기계 학습 연구소들을 능가하는 속도로 성장할 것입니다. 5년, 10년, 50년 후에는 비트텐서가 분산형 인공지능의 주요 플랫폼이 될 것입니다. 경쟁자들이 나타나겠지만, 비트텐서는 이 분야의 중심이 될 것입니다.
비트텐서가 직면한 도전은 인센티브를 맞추는 것입니다. 분산형 시스템의 인센티브를 맞추는 것은 매우 중요하며, 이는 프로젝트의 성공 여부를 결정짓습니다. 또한, 완전한 탈중앙화와 거버넌스 분산화로 가는 길에는 여러 법적, 규제적 장벽이 있습니다. 그러나 저는 이러한 도전을 극복할 수 있다고 확신합니다.
마지막으로, 사람들이 비트텐서에 대해 오해하는 점은 이것이 단순한 크립토 사기라고 생각하는 것입니다. 우리는 실제로 매우 혁신적인 기술을 개발하고 있으며, 기계 학습과 크립토를 결합한 최초의 팀 중 하나입니다. 이는 아직 많은 사람들이 이해하지 못하고 있지만, 결국에는 인정받게 될 것입니다.
시간이 다 되어가서 마지막 질문으로 넘어가겠습니다.
비트텐서에 대해 사람들이 가장 이해하지 못하는 점은 무엇인가요? 저는 사람들이 비트텐서가 얼마나 혁신적인 기술인지, 그리고 우리가 실제로 중요한 작업을 하고 있다는 것을 이해하지 못하고 있다고 생각합니다. 우리는 단순히 벤치마크를 넘어서고, 중앙화된 팀들을 능가하는 결과를 내고 있습니다.
댓글