Skip to content

Quick Start

AI Core используется как released runtime artifacts and tools. SDK users не должны нуждаться в source tree, чтобы запускать packages, вызывать models или использовать local speech/LLM support.

Выберите boundary

  • Используйте Language Bindings, когда host загружает shared library AI Core.
  • Используйте Process Host CLI, когда host хочет long-lived ai-core subprocess worker.
  • Используйте Rust SDK artifact, когда host встраивает AI Core напрямую.
  • Используйте AI Packages, когда нужно собрать или подписать .aip plugin и pipeline packages.

Первый вызов runtime

  1. Начните с AI Core artifact, который совпадает с вашей платформой, версией и trust mode.
  2. Примените model, plugin, secret-reference, speech и local LLM config.
  3. Загрузите license material, если используете normal marketplace packages.
  4. Установите package bytes через ai_core_install_package_bytes или соответствующий process/Rust boundary.
  5. Запустите pipeline, восстановите checkpoint, запустите известный Wasm action или вызовите настроенную модель напрямую.
  6. Храните pipeline state, step outputs, user decisions и product records у host.

Что хранит host

Храните вне AI Core:

  • model endpoints и выбранные routing/default model slots;
  • explicit local .gguf и Whisper model paths;
  • plugin model-slot bindings;
  • public plugin config и secret references;
  • actual secret values в Keychain, Keystore, KMS, Vault, Kubernetes secrets или другом host-owned store;
  • package bytes или package provenance;
  • pipeline state, completed step outputs и user approvals;
  • license material и private KEM keys для normal marketplace packages.

AI Core держит live runtime state в памяти. Он не владеет durable product storage.

Типовые операции

Установить и запустить pipeline

  1. Получите или соберите .aip package, который совпадает с requirements.core для этой runtime version.
  2. Примените model и plugin config.
  3. Загрузите license material, если package - encrypted marketplace package.
  4. Установите package bytes.
  5. Запустите pipeline с run_id, task_id, plugin_id и user_text.
  6. Если AI Core возвращает checkpoint, спросите у пользователя недостающие данные или approval и продолжите с state, previous_outputs и control.

Вызвать модель напрямую

  1. Настройте model endpoint со стабильным model_id.
  2. Примените config.
  3. Вызовите ai_core_model_chat_json или matching process/Rust API с этим model_id, messages, response format и optional token limit.

Запустить известный Wasm action

  1. Установите Wasm plugin package.
  2. Вызовите action по plugin_id и fully qualified action_id.
  3. Обработайте returned action output, events и queued host calls.

Local capabilities

Local speech-to-text требует runtime artifact с native Whisper provider и совместимый model file ggml-large-v3-turbo.bin.

Local LLM требует runtime artifact с native local LLM provider и explicit .gguf model path. AI Core не сканирует model directories за host.

Обработка ошибок

FFI functions возвращают JSON envelope. Считайте ok: false failed call и используйте error.code и error.message для host logs и UI diagnostics. Не считайте partial output валидным после failed call.

AI Core documentation site.