변호사가 책상 위에 AI 슈퍼컴퓨터를 들였습니다
시작하며
안녕하세요. 저는 변호사입니다. 그리고 며칠 전, 책상 위에 작은 박스를 하나 올려놨습니다. GIGABYTE AI TOP ATOM이라는, 이름부터 거창한 물건이에요.
이게 뭐냐면, NVIDIA의 최신 칩(GB10, Blackwell 아키텍처)이 들어가 있고, 메모리가 128GB나 되는 미니 슈퍼컴퓨터입니다. 1리터 우유팩 정도 크기의 박스 안에, 5년 전이면 데이터센터 한 대 분량의 AI 성능이 들어 있어요.
“변호사가 그런 걸 왜 사?” 라고 물으실 수도 있어요. 솔직히 말씀드리면, 저도 처음엔 잘 몰랐습니다. 다만 한 가지는 확실했어요. AI가 일하는 방식을 바꾸고 있다는 것, 그리고 외부 서비스에 의존하지 않고 내 손으로 다뤄보고 싶다는 것.
업무 자료를 ChatGPT에 올려본 적 있으세요? 저는 매번 망설였어요. 의뢰인 자료를 외부 서버에 보내는 게 영 찜찜했거든요. 그래서 결심했죠. “내 컴퓨터에서, 내 데이터로, 내가 직접 돌리는 AI를 만들어보자.”
이게 시작이에요. 이 시리즈는 공학적 지식 거의 없는 변호사가 로컬 AI 환경을 세팅하는 과정의 기록입니다. 저처럼 헤매시는 분들께 조금이라도 도움이 됐으면 합니다.
박스를 열고 처음 마주한 것: 리눅스
ATOM을 켰을 때 처음 든 생각. “어, 이거 윈도우가 아니네?”
당연하죠. AI 워크스테이션이니까요. 그런데 자세히 보니 그냥 리눅스도 아니더라고요. NVIDIA DGX OS라는 게 깔려 있었어요.
이게 뭔지 검색해보니 이렇게 정리되더군요.
우분투(Ubuntu) 리눅스를 기반으로, NVIDIA가 자기네 AI 하드웨어에 맞게 GPU 드라이버, CUDA, AI 소프트웨어 스택을 미리 세팅해서 출고한 버전.
자동차로 비유하자면, 기본 차체는 우분투인데 NVIDIA가 AI 레이싱용으로 튜닝 키트를 다 달아놓고 출고한 셈입니다. 일반 우분투 사용자가 며칠 걸려 세팅하는 환경이, 켜자마자 준비되어 있는 거죠.
이건 사실 비싼 값을 하는 부분이에요. 보통 AI 개발 입문자들이 “환경 세팅”하다가 좌절해서 포기하는 경우가 많은데, ATOM은 그 단계를 통째로 건너뛰게 해줍니다.
첫 번째 공포: 업데이트 알림
리눅스 처음 만져보는 분이 가장 먼저 마주치는 풍경이 있습니다. “뭔가 업데이트하라는 알림이 잔뜩 뜨는 것.”
윈도우든 맥이든 평소 같으면 그냥 “예~ 업데이트~” 누르고 끝났을 거예요. 그런데 이게 평범한 리눅스가 아니라 NVIDIA가 세심하게 튜닝해둔 환경이라는 점을 떠올리면, 갑자기 손이 멈춥니다.
“이거 누르면 NVIDIA가 맞춰놓은 게 깨지는 거 아냐?”
결론부터 말씀드리면, 그런 의심이 맞았어요. 일반적인 우분투 업데이트는 커널(시스템의 핵심)이나 GPU 드라이버를 같이 업그레이드하는데, 이게 NVIDIA가 세팅해둔 것과 안 맞을 수 있습니다. 최악의 경우 다음 부팅 때 GPU가 인식 안 되거나, AI 소프트웨어가 안 돌아가요.
NVIDIA의 공식 답은 명확합니다. DGX Dashboard를 통해서만 업데이트하라.
브라우저에서 http://localhost:11000 으로 접속하면 NVIDIA가 만든 전용 관제 화면이 뜨는데, 여기서는 NVIDIA가 검증한 패키지만 안전하게 설치해줍니다.
그래서 첫날의 첫 번째 교훈은 이거였어요.
모든 업데이트 알림이 다 좋은 알림은 아니다.
특히 AI 워크스테이션 같은 특수 환경에서는, “이거 무시해도 되나?” 하고 한 번 의심하는 습관이 시스템을 보호합니다.
두 번째 깨달음: 터미널은 친구가 되어야 한다
리눅스를 처음 만지면 누구나 한 번은 이렇게 생각합니다.
“파일 탐색기 있는데 굳이 검은 화면(터미널)을 써야 해?”
저도 그랬어요. 그래서 한참 GUI(클릭으로 조작하는 화면)만 썼습니다.
그런데 AI 작업을 본격적으로 시작하니까 알게 되더군요. 튜토리얼의 99%가 터미널 명령어로 설명되어 있어요. “이 명령어를 치세요” 하는데, 터미널을 모르면 한 발짝도 못 나갑니다.
리눅스 입문자에게 드리고 싶은 조언은 이거예요.
- 일상적인 파일 정리: 그냥 파일 탐색기 쓰세요. 익숙한 게 최고예요.
- AI 관련 작업, 프로그램 설치: 터미널이 필요해요. 천천히 익히면 됩니다.
처음부터 “터미널을 마스터하자!” 같은 부담은 안 가져도 돼요. 필요할 때마다 명령어 하나씩 배우면 자연스럽게 늡니다. 저도 그렇게 가고 있어요.
마무리: 첫날에 배운 가장 큰 것
ATOM을 켜고 첫날, 화면 한 번도 안 만지고 깨달은 게 있어요.
“질문을 두려워하지 말자.”
새 환경에 들어가면 모든 게 낯섭니다. 그럴 때 가장 위험한 건 “어떻게든 되겠지” 하고 다 클릭하는 거예요. 가장 좋은 건 “이거 진짜 눌러도 돼? 왜 이래야 해?” 하고 한 번씩 멈춰서 의심하는 거고요.
저는 변호사라서 이게 좀 익숙해요. 계약서 한 줄도 의심하면서 읽잖아요. 이 습관이 리눅스 다룰 때도 도움이 되더라고요. 의심은 약점이 아니라 무기예요.
다음 편에서는 DGX Dashboard로 첫 AI 이미지를 만들기까지의 여정을 풀어볼게요. 그 과정에서 “GPU가 좋으면 더 정확한 계산을 쓰는 게 맞지 않나?” 같은 직관과 반대되는 사실들도 만나게 됩니다.
읽어주셔서 감사합니다. 🙂