Skip to main content

Как работает инструмент Создать файл подключения сервиса ИИ

Инструмент Создать файл подключения сервиса ИИ создает файл подключения к сервису ИИ (.ais), в котором хранится информация о подключении к внешнему сервису ИИ. Несколько пакетов глубокого обучения используют сторонние модели ИИ и нуждаются в доступе к размещенным сервисам ИИ. Чтобы использовать эти сервисы, каждому поставщику требуются такие сведения, как конечная точка, название модели или ключ API.

Вместо того чтобы каждый раз вводить эти данные в качестве аргументов модели, можно использовать файл .ais, содержащий параметры конфигурации. Это также гарантирует, что значения параметров не будут отображаться на панели История и будут надежно сохранены с помощью системы безопасности ОС. Файл .ais недоступен для совместного использования на разных компьютерах или пользователями, поскольку инструмент хранит конфиденциальные учетные данные в Диспетчере учетных данных Windows и связывает их с локальной системой и учетной записью пользователя.

Использование такого подхода сокращает время настройки, позволяет избежать ошибок и обеспечивает безопасный и согласованный способ интеграции внешних сервисов ИИ с рабочими процессами ГИС.

Поставщики услуг и конфигурация

Инструмент Создать файл подключения сервиса ИИ поддерживает несколько поставщиков сервисов ИИ, и для каждого поставщика требуются определенные сведения о конфигурации. Эти сведения могут включать общую информацию, такую как название модели или конечная точка, а также конфиденциальную информацию, такую как ключи API или токены.

Инструмент предоставляет набор необходимых параметров подключения для каждого поставщика услуг, которые задаются с помощью параметра Параметры подключения. Конфиденциальные значения, такие как ключи API или токены, указываются с помощью параметра Значение секретного параметра. Любое значение, введенное в поле Значение секретного параметра, рассматривается как конфиденциальная информация и сохраняется в Диспетчере учетных данных Windows, в то время как конфиденциальная информация хранится в файле .ais.

В следующих разделах приведены поддерживаемые поставщики услуг и соответствующие параметры их подключения::

Примечание:

Каждый поставщик услуг предоставляет набор параметров подключения по умолчанию, но дополнительные параметры могут быть добавлены в соответствии с требованиями конкретной модели или рабочего процесса.

AWS

AWS предоставляет модели ИИ через Bedrock и сопутствующие сервисы. Эта опция включает в себя следующие параметры подключения:

  • Ключ доступа — уникальный идентификатор, связанный с вашей учетной записью AWS, который используется для проверки подлинности запросов, например: IAMAWSTESTKEY.

  • ID модели — идентификатор конкретной размещенной модели, которую вы хотите использовать, например: amazon.titan-text-premier-v1:0

  • Имя региона — регион AWS, в котором развернут ваш сервис, например: us-east-1

Anthropic

Anthropic предоставляет семейство моделей Claude для текстовых задач и задач рассуждения. Эта опция включает в себя параметр подключения Model, а именно название модели Anthropic, например: claude-3-opus.

Azure

Azureпредоставляет корпоративные модели OpenAI с настраиваемыми развертываниями и версиями. Эта опция включает в себя следующие параметры подключения:

  • Endpoint URI — базовый URL вашего сервиса Azure, например: https://mytestazureopenai.openai.azure.com/

  • Deployment Name — имя развертывания модели, которое вы создали в Azure, например: gpt-4o

  • API Version — версия Azure OpenAI API, на которую вы ориентируетесь, например: 2024-05-01

Hugging Face

На Hugging Face размещены тысячи моделей с открытым исходным кодом для текстового, визуального и мультимодального ИИ. Эта опция включает параметры подключения Model ID, а именно идентификатор модели, которую вы хотите использовать в Hugging Face Hub, например: facebook/detr-resnet-50.

OpenAI

OpenAI предоставляет модели для решения языковых задач, задач рассуждения и мультимодальных задач. Эта опция включает в себя параметры подключения Model, а именно название модели, которую вы хотите использовать, например: gpt-4o-mini.

Google

Google Cloud’s Vertex AI предоставляет базовые модели для текстовых задач, общения в чате и визуализации. Эта опция включает в себя следующие параметры подключения:

  • Project ID — идентификатор проекта Google Cloud, например: my-gcp-project

  • Region — местоположение, в котором размещен сервис, например: us-central1

  • Model Name — идентификатор конкретной модели, которую вы хотите использовать, например: text-bison

Другие

Опция Others поддерживает подключение к другим провайдерам. Определите свои собственные имена и значения параметров в соответствии с требованиями API поставщика.

  • Custom endpoint — пользовательская конечная точка, например: https://example.ai/api

  • Model — имя модели, например: my-custom-model

Управление файлами и учетными данными AIS

Файл .ais содержит сведения о подключении, такие как названия моделей, конечные точки и регионы. Эти значения включены в файл .ais в структурированном формате..

Вот пример файла .ais:

{
"version": "1.0",
"serviceProvider": "AWS",
"protocol": "",
"host": "",
"authenticationScheme": "accessToken",
"authenticationProperties": {
 "parameterType": "header",
 "parameterName": "aws_secret_key"
},
"authenticationSecrets": {
 "token": "test1234api567key89"
},
"serviceProviderProperties": {
 "aws_access_key": " IAMAWSTESTKEY ",
 "model_id": " amazon.titan-text-premier-v1:0",
 "aws_region_name": "us-west-2"
}
}

Конфиденциальные учетные данные, такие как ключи API или токены, не записываются непосредственно в файл .ais. Вместо этого в файле хранится только ссылка с помощью ключа authenticationSecrets, в то время как фактические значения надежно хранятся в Диспетчере учетных данных Windows. Это гарантирует, что конфиденциальная информация никогда не покинет локальный компьютер и не может быть раскрыта при открытии файла .ais.

Поскольку файл ссылается на записи учетных данных, относящиеся к конкретному компьютеру, общий доступ к файлу .ais между пользователями или компьютерами невозможен. При копировании на другой компьютер он не будет работать, если те же учетные данные не будут повторно введены и сохранены локально с помощью инструмента Создать файл подключения сервиса ИИ.

Используйте файл .ais

Сохраненный файл .ais может быть предоставлен в качестве входных данных сторонним моделям ИИ с помощью их аргументов модели. Модель читает файл .ais, извлекает необходимые сведения о конфигурации (такие как параметры подключения и учетные данные) и использует их для установления соединения с размещенным поставщиком сервиса.

Каждая сторонняя модель, поддерживающая файлы .ais, требует определенного набора параметров подключения. Если параметры в файле .ais не соответствуют требованиям модели, произойдет сбой подключения, и модель может работать не так, как ожидалось.