AI Core

AI Core — это граница выполнения для запуска пакетов AI Core из приложений, сервисов, CLI и языковых обвязок. Он обрабатывает установку пакетов, model calls, pipeline checkpoints, Wasm actions, direct model chat, передачу speech transcription и runtime events.

Приложение-хост по-прежнему отвечает за product data, users, billing, durable settings, secrets, databases, queues, UI, deployment policy и retry scheduling. AI Core получает явные snapshots конфигурации и request payloads, а затем возвращает JSON results, checkpoints, events и install reports.

Выберите runtime-артефакт

Выбирайте артефакт по границе, которая нужна вашему продукту:

• Общая библиотека: используйте ai-core-ffi, если Go, Python, PHP, Flutter, Swift, Kotlin или другой host может загрузить native library.
• Библиотека Rust: используйте артефакт Rust SDK, если сам host написан на Rust и ему нужен runtime внутри процесса.
• Процессный бинарник: используйте CLI-бинарник ai-core, если host хочет worker-подпроцесс вместо native linking.
• Инструмент для пакетов: используйте бинарник aip-pack, если вы создаете, подписываете, проверяете, утверждаете или экспортируете .aip-пакеты.

Версия артефакта должна совпадать с пакетами, которые вы устанавливаете. Манифесты пакетов объявляют совместимость runtime в requirements.core, например ^0.1.0 или >=0.1.0, <0.2.0. AI Core проверяет это выражение до того, как пакет станет активным.

Runtime-артефакты могут поставляться в разных вариантах сборки. Некоторые сборки включают и local speech-to-text, и local model execution, тогда как другие не включают одну или обе возможности. Актуальную матрицу артефактов смотрите на странице загрузки core на сайте. Поддержка Local LLM представлена как одна встроенная возможность локальной модели; native acceleration — это деталь реализации поставляемого артефакта. Hosts могут передать необязательное предпочтение backend для local LLM: auto, cpu или metal; если значение не задано, AI Core использует auto. Сборка native provider автоматически компилирует доступную поддержку native acceleration для целевой платформы. Если предпочтительный backend не удается инициализировать во время runtime, local provider переключается на automatic backend selection. Состояние резидентных моделей Local LLM и Whisper локально для процесса: FFI handles внутри одного процесса могут делить его, но separate worker processes — нет.

Для source builds ai-core-ffi вариант builtin-local-llm линковывает native llama.cpp provider, builtin-speech-whisper линковывает native Whisper provider, а builtin-local-all линковывает оба. ai_core_version_json возвращает флаги загруженной shared library: builtin_local_llm и builtin_speech_whisper.

Обычный поток SDK

1. Выберите runtime-артефакт AI Core для вашей платформы и trust mode.
2. Сохраните model endpoints, выбранные model slots, plugin settings, secret references и необязательные локальные пути для speech/LLM в host-owned config.
3. Примените этот config к AI Core через FFI, Rust или process boundary.
4. Установите bytes .aip-пакета, которые совпадают с версией runtime и trust mode.
5. Запустите pipeline, восстановите checkpoint, выполните известное Wasm action или вызовите настроенную модель напрямую.
6. Храните pipeline state, completed outputs, user decisions, logs и product records в host.

Core runtime имеет одну app-level routing model и одну default model. Plugin packages могут объявлять generation model_slots; отсутствующие bindings инициализируются из core.default или конкретной model. Routing никогда не является plugin slot-ом.

Режимы пакетов и runtime

Обычные marketplace-артефакты устанавливают encrypted packages после Marketplace approval и license checks. Hosts загружают core.license.v1 и соответствующий private KEM material перед установкой encrypted .aip.

No-marketplace артефакты — это отдельный local, enterprise или white-label runtime mode. Они принимают packages, созданные для no-marketplace distribution, включая plaintext unsigned packages, если package author выбирает этот flow, и не предоставляют functions for loading license.

Не смешивайте package и runtime modes. Package, созданный для одного mode, следует устанавливать в соответствующий runtime mode.

Читайте разделы в таком порядке

1. Language Bindings для C ABI, JSON envelopes, memory ownership и примеров обвязок для host-language.
2. Process Host CLI, если вашему host нужен async subprocess worker вместо FFI.
3. AI Package Tool для authoring plugin и pipeline packages с помощью aip-pack и выбора downloadable reference example.
4. Runtime Contracts для config ownership, package activation, pipeline state, events и compatibility checks.
5. Speech To Text для local speech-to-text model paths и CLI/runtime configuration.
6. Local LLM для local .gguf model paths и требований к native local LLM artifact.