omm

omm install

모델을 중앙 허브에 내려받아 설치된 모든 러너에 연결합니다. 대역폭을 쓰기 전에 이 머신 메모리에 맞는지부터 확인합니다.

01 / 06

개요

search나 list로 이름, 저장소 참조, 번호를 얻은 다음 쓰는 명령입니다. install은 다운로드하기 전에 이 머신의 예측 메모리 예산에 맞는지 먼저 확인하고, 완료된 파일을 이 시스템에 설치된 모든 러너에 연결한 다음, 실행하거나 제거할 정확한 명령을 출력합니다. 이름이 양자화나 제공자가 여러 개로 풀리면 추측하지 않고 대화형 선택지로 넘어갑니다.

02 / 06

옵션

이 명령이 받는 모든 옵션과, 생략했을 때의 기본값입니다.

  • <name>—기본값: required

    큐레이션 이름, 마지막 search나 list가 출력한 번호, 'org/repo:file.gguf' 참조(hf: 또는 ms: 접두사 선택 가능), 또는 직접 URL.

  • --skip-unfit—기본값: off

    이 하드웨어에서 못 돌아갈 걸로 예측되면 묻지 않고 건너뜁니다. skipped_unfit이 설정된 채로 종료 코드 0 — 스크립팅용.

  • --upload / --no-upload—기본값: current upload policy

    이 머신의 벤치마크 결과를 텔레메트리 서버로 보낼지(또는 보내지 않을지) 묻지 않고 결정합니다. 비워두면 현재 omm setting upload 정책을 따릅니다.

  • --force—기본값: off

    이미 설치된 모델이라도 다시 내려받습니다.

  • --verify-runtime / --no-verify-runtime—기본값: asks first

    연결 후 짧은 로컬 로드/생성 확인을 실행할지(또는 건너뛸지) 결정합니다. 비워두면 아직 실행 중이지 않은 모델을 로드하기 전에 물어봅니다.

03 / 06

예제

기본 검색부터 스크립트에 넣을 만한 형태까지.

기본 설치 — 하드웨어 적합성 확인, 다운로드, 검증, 연결까지.

$ omm install mistral-7b-instruct-q4

이 하드웨어에서 못 돌아갈 걸로 예측되면 묻지 않고 건너뜁니다.

$ omm install mistral-7b-instruct-q4 --skip-unfit

마지막 search나 list가 출력한 번호로 설치합니다.

$ omm install 1

저장된 업로드 정책과 상관없이 벤치마크 결과를 보내지 않고 설치합니다.

$ omm install mistral-7b-instruct-q4 --no-upload

이미 설치돼 있어도 다시 내려받습니다.

$ omm install mistral-7b-instruct-q4 --force

04 / 06

실제 실행 예시

2026-08-25, 임시 OMM_HOME 기준으로 실제로 실행한 omm install tinyllama-1.1b-q4입니다 — 실제 다운로드가 빨리 끝나도록, 사이트가 보통 쓰는 mistral-7b 데모보다 진짜로 더 작은 큐레이션 모델을 골랐습니다. 다운로드 속도, 실제로 연결된 두 러너(Ollama·AnythingLLM — 지어낸 목록이 아니라 이 개발 머신에 실제로 설치된 것), Memory Guard 줄까지 전부 실제입니다: 캡처 시점 이 머신의 실제 메모리 압박 때문에 설치 후 벤치마크가 막힌 겁니다. 캡처 직후 바로 제거해서 두 러너 어디에도 흔적을 남기지 않았습니다.

06 / 06

문제가 생겼다면

아래 메시지는 모두 이 명령이 실제로 출력하는 것들입니다. 해당하는 메시지를 찾아 원인을 읽고, 마지막 줄대로 하면 됩니다.

  1. Unknown model 'zzzz-totally-fake-model-name-xyz'. Use a curated name (tinyllama-1.1b-q4, llama3.1-8b-instruct-q4, mistral-7b-instruct-q4), an 'org/repo:file.gguf' ref (optionally prefixed 'hf:' or 'ms:'), or a direct URL.
    원인
    이 이름은 큐레이션 카탈로그 어디에도 없고, install이 인식하는 저장소 참조나 URL도 아닙니다.
    대처
    먼저 omm search로 정확한 이름이나 참조를 찾거나, 'org/repo:file.gguf' 참조를 직접 넘기세요.
    출처
    src/omm/hub.py:371
  2. Not enough disk space: /Users/you/.omm/models needs up to 5.2 GiB (central model download) but only 3.1 GiB is free.
    원인
    install은 다운로드 전에 여유 공간부터 확인합니다 — 중앙 모델 파일에, 러너가 복사·연결하는 데 필요한 만큼, 그리고 안전 여유분까지 더한 값입니다.
    대처
    메시지에 나온 볼륨의 공간을 확보하거나, 설치 전에 OMM_HOME을 여유 있는 드라이브로 지정하세요.
    출처
    src/omm/cli.py:3477-3488

그래도 해결되지 않는다면, 화면에 뜬 메시지 그대로를 첨부해 이슈를 등록하세요.

전체 명령어