Perplexity Portable Computer 분석: 24GB VRAM 로컬 AI 에이전트의 조건
Perplexity가 공개한 Portable Computer는 단순히 PC에서 챗봇 모델을 실행하는 도구가 아니다. 에이전트 실행기, 오케스트레이터, 작업 계획기, 로컬 모델과 샌드박스를 Windows 또는 Linux 컴퓨터 안에서 함께 돌리고, 꼭 필요한 단계만 사용자 승인 뒤 클라우드 모델에 맡기는 구조다. 로컬 AI와 클라우드 AI를 둘 중 하나로 고르는 대신 작업 단계마다 경계를 나누려는 제품이다.
매력적인 표현은 ‘로컬 작업은 토큰당 비용이 없다’는 부분이다. 저장소 전체 마이그레이션이나 대량 문서 정리처럼 입력이 큰 일을 자신의 GPU에서 반복할 수 있다. 그러나 구독료와 하드웨어·전력·관리 비용이 사라지는 것은 아니며, 웹 검색이나 상위 모델 추론을 허용하면 데이터 일부가 기기를 떠난다. 따라서 Portable Computer를 ‘완전 오프라인 AI’로 이해하면 실제 구조를 놓친다.
세 줄 요약
- 핵심 구성은 로컬 에이전트 실행과 승인 기반 클라우드 전달의 결합이다.
- 현재 진입 조건은 가볍지 않다. Windows·Linux 지원 PC와 24GB 이상 VRAM이 필요하고 macOS는 지원 목록에 없다.
- 도입 판단은 모델 점수만이 아니라 데이터 경계, 커넥터 권한, 샌드박스, 전력과 실패 복구까지 포함해야 한다.
무엇이 어디에서 실행되나
Perplexity의 Portable Computer 공식 설명에 따르면 로컬에서는 에이전트 실행기, 오케스트레이터, 플래너와 PPLX 27B 또는 지원되는 Qwen 모델이 작동한다. 웹이나 프런티어급 추론이 필요한 단계는 승인을 받은 뒤 15개 이상의 클라우드 모델 중 하나로 전달되고, 결과가 다시 로컬 작업으로 돌아온다.
이 설계의 중요한 단위는 ‘대화 전체’가 아니라 ‘작업 단계’다. 예를 들어 로컬 저장소를 훑고 변경 후보를 만드는 일은 기기에서 수행한 뒤, 최신 라이브러리 문서를 확인하는 한 단계만 외부 검색에 보낼 수 있다. 다만 제품이 실제로 어떤 파일 조각과 지시문을 전송하는지 사용자가 명확히 확인할 수 있어야 이 장점이 성립한다.
지원 하드웨어는 왜 중요한가
공식 요구사항은 NVIDIA DGX Spark 또는 지원되는 NVIDIA RTX GPU, 혹은 AMD Ryzen AI Max 계열을 갖춘 Windows·Linux PC이며 VRAM은 24GB 이상이다. 일반 사무용 노트북의 시스템 메모리가 24GB라는 뜻이 아니다. 로컬 모델을 올릴 수 있는 지원 GPU 메모리가 기준이다.
DGX Spark에서는 PPLX 27B와 Qwen 3.8 27B가 안내돼 있다. Windows는 지원 하드웨어에서 로컬 추론을 설정할 수 있고, Linux RTX PC는 현재 PPLX 27B만 지원하며 Qwen 3.8 27B는 DGX Spark에서만 제공된다. 한 번에 하나의 로컬 모델만 실행한다는 제한도 있다. Nemotron 3.5 Lightning은 향후 지원 예정으로 표시돼 있어 현재 기능처럼 구매 판단에 포함하면 안 된다.
국내 사용자는 GPU 가격뿐 아니라 전력과 소음을 봐야 한다. 긴 에이전트 작업은 순간 벤치마크보다 오랫동안 GPU를 점유한다. 데스크톱의 냉각, 업무 공간의 소음, 절전 복귀, 드라이버 안정성과 원격 접속 후 GPU 세션 유지 여부가 체감 품질에 큰 영향을 준다.
토큰당 비용이 없다는 말의 범위
Perplexity는 로컬 모델이 처리한 작업에 토큰당 비용이 없다고 설명한다. 자신의 하드웨어에서 추론하므로 API 호출량에 따라 과금되지 않는다는 의미다. 그러나 총비용은 다음처럼 나뉜다.
- Portable Computer를 사용할 수 있는 Pro 또는 Max 구독
- 24GB 이상 VRAM을 갖춘 지원 PC의 구매·감가상각
- 전력, 냉각과 저장공간
- 드라이버·모델 업데이트와 장애 대응 시간
- 승인한 클라우드 단계의 서비스 제한 또는 별도 비용 가능성
- 결과 검증과 잘못된 변경을 되돌리는 사람의 시간
따라서 대량 처리를 자주 하고 이미 적합한 GPU가 있는 사용자는 이점이 커질 수 있다. 짧은 질문 위주이거나 하드웨어를 새로 사야 한다면 클라우드 구독만 쓰는 편이 더 단순할 수 있다.
커넥터는 편의 기능이자 권한 경계다
공식 페이지는 Gmail, Outlook, Slack과 GitHub 커넥터를 소개한다. 이메일 요약, 채널 게시, 저장소 검토 같은 작업이 한 실행 안에서 이어질 수 있다. 문제는 에이전트가 읽기와 쓰기를 동시에 갖는 순간 실수의 영향이 커진다는 점이다.
처음에는 읽기 전용 계정과 테스트 저장소로 시작하는 편이 안전하다. 메시지 전송, 브랜치 푸시, 파일 삭제, 일정 생성처럼 외부 상태를 바꾸는 동작은 단계별 승인을 유지한다. ‘한 번 허용’과 ‘항상 허용’의 차이, 예약 작업이 사용자가 없는 시간에도 같은 권한을 갖는지, 작업 영수증에 무엇이 기록되는지도 확인해야 한다.
샌드박스 역시 자동으로 안전을 보장하는 마법이 아니다. 파일시스템에서 볼 수 있는 폴더, 네트워크 목적지, 셸 명령, 비밀값 접근과 자식 프로세스 권한을 실제 설정으로 검토해야 한다. 중요한 원본은 별도 백업하고, 에이전트가 대규모 변경을 만들 때는 사람이 차이를 검토한 뒤 적용한다.
한국 사용자에게 맞는 도입 순서
첫 단계는 비민감 문서나 복제 저장소에서 3개의 실제 작업을 고르는 것이다. 예를 들면 수백 개 파일 분류, 코드베이스 설명서 작성, 테스트 실패 원인 후보 정리다. 각 작업의 완료 시간, GPU 메모리 사용, 전력, 사람 검토 시간과 결과 정확도를 기록한다.
두 번째는 클라우드 전달을 모두 거부한 상태에서 어디까지 가능한지 확인하는 것이다. 이후 웹 검색만, 특정 모델 추론만 차례로 허용하면 로컬과 외부 처리의 가치를 구분할 수 있다. 세 번째는 Gmail·Slack 같은 쓰기 가능한 커넥터보다 GitHub 읽기나 로컬 폴더처럼 복구하기 쉬운 대상으로 권한 시험을 한다.
한국어 품질도 별도 평가해야 한다. 모델이 긴 한국어 문서에서 날짜·금액·고유명사를 정확히 유지하는지, 한글 파일명과 인코딩을 처리하는지, 국내 서비스의 인증 흐름을 무리하게 자동화하지 않는지 확인한다. 영어 벤치마크가 높다고 국내 업무의 정확성이 자동으로 보장되지는 않는다.
누구에게 맞고 누구에게 이른가
Portable Computer는 대규모 로컬 코드·문서 처리량이 많고, 지원 GPU를 이미 보유하며, 외부 전송 단계를 세밀하게 통제하고 싶은 개발자와 조직에 가장 설득력이 있다. 반면 macOS만 쓰는 사용자, 가벼운 노트북 중심 환경, 하드웨어 관리 인력이 없는 팀, 모든 작업을 완전 오프라인으로 끝내야 하는 조직에는 현재 제약이 크다.
제품의 방향은 분명하다. AI 에이전트의 계산 위치와 데이터 이동을 사용자가 작업 단계별로 선택하게 한다. 실제 가치는 ‘로컬’이라는 단어보다, 승인 화면이 충분히 구체적인지, 실패 뒤 안전하게 멈추는지, 어떤 작업이 기기 밖으로 나갔는지 나중에 감사할 수 있는지에서 결정될 것이다.
출처와 이용 고지
본문은 Perplexity가 공개한 기능과 요구사항을 자체 문장으로 분석했다. 성능·비용·보안 효과는 사용 환경에 따라 달라질 수 있으며 독립 실사용 검증이 필요하다. 공식 화면과 로고를 복제하지 않았고, 이미지에는 특정 제품 UI나 외부 저작물을 사용하지 않았다.
